October 2022 - nexa - server-nexa.polito.it

Re: [nexa] ethical AI (era "It’s time to admit, self-driving cars aren’t going to happen")

by Giacomo Tesio

Ciao Maurizio, sorvolo temporaneamente sull'aspetto esotico (la "AI") per concentrarmi sulla questione fondamentale, che si applica a qualsiasi software (e qualsiasi agente cibernetico artificiale, aziende, PA e governi inclusi) On Mon, 31 Oct 2022 09:01:20 +0100 maurizio lana wrote: > mi fa capire che non mi sono espresso bene usando il termine > "utilizzatore". [...] > abbiamo i progettisti del software, > e poi abbiamo l'agente di assicurazione che lo usa. > a mio modo di vedere l'agente (che qui è l'utilizzatore) è > responsabile per l'uso di quel software. [...] > l'utilizzatore dell'auto a guida autonoma può > decidere /non/ utilizzare un'auto a guida autonoma L'utente esiste solo mentre usa. La persona può scegliere di usare o meno il software, l'utente no. Come utente, è soggetto a regole più o meno stringenti a seconda dei valori e degli obbiettivi di chi ha scritto il software. Editor di testo come Acme, Emacs, Geany, Vim etc, ti offrono una libertà notevole, quasi illimitata, ci puoi programmare o tenere la lista della spesa. Letteralmente come un foglio bianco. Lo stesso si può dire di un linguaggio di programmazione general purpose, come possono essere C, Python, Haskell, Lisp o Java (giusto per fare qualche nome molto noto). Un ambiente RAD (Rapid Application Development) ti offre una libertà infinitamente inferiore, ti offre dei mattoncini preconfezionati che tu puoi combinare e configurare con una certa flessibilità, ma non puoi fare nulla che contrasti con gli interessi di chi te lo ha fornito. Analogamente un domain specific language può limitare enormemente la quantità di concetti che puoi esprimere. E naturalmente anche linguaggi general purpose diversi rendono più o meno facile ed intuitivo esprimere determinati concetti piuttosto che altri. Quando visiti un sito web che incorpora Google Fonts, i tuoi dati personali vengono inviati istantaneamente a Google senza nemmeno chiederti il permesso. Puoi NON visitare il sito web? Sì (se sai che cosa comporta tale visita a priori), ma smetti di essere "utente". Per questo la riduzione della persona ad utente è così aberrante. E' il passo subito precedente a ridurla consapevolmente ad ingranaggio. > proprio perché è > consapevole che in tal caso "può fare e pensare solo ciò che il > creatore dell'artefatto stesso ha deciso". se la usa, con più > consapevolezza o meno decide di obbedire al produttore dell'auto (è > detto in termini un po' brevi e rozzi ma il senso è chiaro). sì ma questa decisione si pone PRIMA di essere utente. l'utente ormai è utente, e può essere eticamente irrilevante. L'editor che ti permette di estendere e modificare sé stesso, pretende che tu mantenga la tua autonomia. L'editor che puoi solo usare, invece ti rende eticamente irrilevante (rispetto alle conseguenze dell'utilizzo dell'editor, non rispetto al testo che scrivi). Se Visual Studio Code ti suggerisce codice sotto GPL con una licenza diversa e tu lo accetti all'interno della tua codebase, violando il diritto d'autore di chi quel codice l'ha scritto, tu COME UTENTE non hai modo di sapere che VSCode ti sta spingendo a violare i diritti di terzi in quel caso specifico. Dunque non puoi rispondere moralmente di tale violenza, perché non è una tua scelta. Se venissi beccato, ne risponderesti legalmente. Ma la responsabilità morale di quella violenza è tutta di Microsoft. E' Microsoft che ha creato GitHub CopyALot per aprire un nuovo loophole nel copyleft, permettendo di scaricare su una cosa irresponsabile la responsabilità di qualunque violazione del copyright di autori del software libero. Tu puoi scegliere di NON usare Visual Studio Code (o disabilitare qualsiasi interazione con CopyALot) ma nel momento in cui lo usi, diventi eticamente irrilevante: violerai o non violerai i diritti di terzi sulla base di volontà altrui. Sei in sostanza un ingranaggio tu stesso. E se giri bene, ti senti pure produttivo! > molto si gioca tra consapevolezza/inconsapevolezza e > cautela/sprovvedutezza Questo è vero, ma parziale. Se dopo un incidente ti portano in ospedale e quell'ospedale usa il cloud di Microsoft, non c'è consapevolezza che tenga. Sei un oggetto. > se /so/ che i dispositivi a input vocale più > spesso che no ascoltano ininterrottamente l'ambiente e quindi > ascoltano ciò che dico anche quando non do comandi vocali, > consapevolezza e cautela mi porteranno a non acquistare quel tipo di > prodotti e ove disponibili preferirò le versioni dumb a quelle smart. > non perché sono un troglodita rimasto al tempo delle caverne, ma > proprio perché conosco il mondo digitale, la tecnologia, eccetera e > scelgo quale tecnologia voglio usare. Infatti la riduzione della persona all'utente punta alla sua riduzione ad ingranaggio ma nasce dalla sua riduzione a consumatore. L'idea che la libertà si riduca alla possibilità di scegliere un prodotto fra N sullo scaffale del (super)mercato. Come utente, non hai libertà (se non quella che io ti voglio concedere) Come consumatore, al limite, puoi scegliere di diventare utente di qualcos'altro (che limiterà la tua libertà in altro modo). E' questa la libertà per l'homo sapiens sapiens? NO! Gli uomini sono capaci di creare! Di sperimentare! Di esplorare! Di inventare alternative che non esistevano! (S)Fortunatamente possono essere convinti a ridursi a consumatori, a utenti o a ingranaggi. E' un processo lento, ma evidentemente efficace. > e quindi ad un successivo più alto livello tutto si gioca sul so/non > so, dove il so/non so non riguarda necessariamente lo specifico > prodotto, ma tipi di prodotti, tipi di questioni problematiche, > eccetera. che è poi una questione di literacy, di information > literacy: quanto ogni cittadino è attrezzato per vivere e operare in > questa società dell'informazione, e dell'informazione digitale? Già solo parlando di "digitale" o di "società dell'informazione" si allontana dalla consapevolezza di cui ha bisogno. La società in cui viviamo è cibernetica. Integra strettamente ed inesorabilmente autonomie (umane) e automatismi. Ma le autonomie sono quasi sempre compresse dagli automatismi: gli automatismi sono migliaia, ti invito a contare solo quelli sul tuo PC tenendo in conto che ogni software è un automatismo a sé stante. Inoltre, poiché non comprende il funzionamento di tali automatismi, la maggioranza delle persone le scambia per un fenomeno naturale. E' un bias evolutivo: ci siamo evoluti per milioni di anni in un sistema in cui la quasi totalità di ciò che non potevamo controllare non era controllato costantemente da altri esseri umani. Un eruzione vulcanica, una grandinata o un fulmine, non eseguivano la volontà di un'altro essere umano. Così quando vediamo che Google ci invia un messaggio pubblicitario di nostro interesse non stiamo a pensare alle implicazioni. Ci appare come un fenomeno naturale, ancora prima che intervenga il pensiero magico di cui parlava Daniela. L'unico modo per superare questa tara evolutiva è comprendere come funzionano gli automatismi che ci circondano, saperli creare e modificare, in modo tale da acquisire piena consapevolezza della loro natura. Ma non si tratta di "alfabetizzazione digitale", si tratta proprio di imparare faticosamente a programmare e debuggare il software, a leggerlo come leggiamo un thriller. > molti sono come gli analfabeti che firmavano i contratti mettendo una > croce e fidandosi di ciò che il proponente gli diceva. Letteralmente! > c'è molto da fare in formazione Sono assolutamente d'accordo. Alla dirigenza della CGIL, mesi fa, proponevo proprio questo. [1] > che è poi uscire dalla caverna e liberarsi dal dominio delle ombre. Non sono le ombre (il software) ad opprimervi, ma chi che le proietta. Spesso direttamente nelle vostre teste. ;-) ``` Morpheus: The Matrix is everywhere, it is all around us, even now in this very room. You can see it when you look out your window, or you turn on your television. You can feel it when you go to work, when you go to church, when you pay your taxes. It is the world that has been pulled over your eyes to blind you from the truth. Neo: What truth? Morpheus: That you are a slave, Neo. Like everyone else, you were born into bondage… born into a prison that you cannot smell or taste or touch. A prison for your mind. ``` Giacomo [1]: http://video.linuxtrent.it/w/3BBQ5rRqrzhoqiQDQ5is4e > Maurizio > > Il 30/10/22 23:12, Giacomo Tesio ha scritto: > > Salve Maurizio, > > > > On Sun, 30 Oct 2022 18:44:36 +0100 maurizio lana wrote: > > > >> anche se ne hai poi parlato sotto, mi pare che è qui che per te si > >> pone l'impossibilità di un'«etica delle AI» perché in senso stretto > >> essa implicherebbe che l'AI sia un soggetto autonomo, capace di > >> scelte autonome, di cui quindi si può valutare l'etica. ma questo > >> implicherebbe che l'AI sia dotata di agency come un soggetto umano > >> adulto senziente e ragionante, senza limitazioni. > > Esatto. > > > > Preferisco parlare di libero arbitrio o autonomia, ma in entrambi i > > casi il software (e qualsiasi altra macchina) non ne ha. > > > > Parlare di "etica delle AI" è esattamente come parlare di "etica dei > > sassi" o di "etica delle macchine". > > > > > > L'etica, così come l'intelligenza o l'informazione, sono peculiarità > > del homo sapiens sapiens. Letteralmente: parte della sua > > definizione. > > > > > > Se parlassimo di intelligenza dei sassi, sarebbe evidente a tutti > > che stiamo antropomorfizzando i sassi. Se parlassimo di etica dei > > sassi a qualcuno verrebbe da ridere. > > > > Ma anche quando parliamo di macchine novecentesche parlare di > > "etica" appare subito evidentemente strumentale. > > > > Immaginate l'industriale che, all'ennesimo morto sul lavoro > > schiacciato da una pressa, proponesse come alternativa > > all'introduzione di normative sulla sicurezza delle presse, > > l'adozione di un'etica delle presse. > > > > > > Con il software, a valle di un lungo lavoro di propaganda che > > Daniela ha descritto benissimo nel suo saggio [1], invece la gente > > può parlare di "etica delle AI" senza che tutti inizino a ridergli > > in faccia. > > > > Vengono persino invitati a parlare a conferenze, pubblicati su > > riviste di filosofia etc... > > > > Dal punto di vista oggettivo, i loro argomenti hanno la stessa > > solidità delle teorie terrapiattiste. > > > > E un po' come avvenne in passato con il sistema tolemaico, queste > > teorizzazioni servono gli interessi di chi comprende benissimo la > > loro fallacia, ma trae vantaggio dalla loro diffusione. > > > > > >> mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte > >> come progettista sia a valle come utilizzatore e non > >> nell'artefatto. > > L'artefatto non ha etica. > > Esprime l'etica di chi l'ha costruito, imprimendola al resto del > > mondo. > > > > Ne riproduce la volontà. > > Ne diffonde i valori. > > > > > > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente > > irrilevante. Se non può alterare concretamente e consapevolmente il > > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può > > fare e pensare solo ciò che il creatore dell'artefatto stesso ha > > deciso. > > > > Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine > > Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata, come > > ingranaggio, come capro espiatorio. Non era la prima volta che si > > "distraeva"... "alla guida". Tali "distrazioni" erano già state > > registrate da Uber che misurava, per massimizzarlo, il grado di > > confidenza dei passeggeri nella guida automatica (NON autonoma!). > > > > In altri termini per Uber le "distrazioni" di Rafaela Vasquez erano > > una feature, non un problema. > > > > Dunque Rafaela Vasquez era eticamente irrilevante. > > Era già stata ridotta ad una cosa, ad un ingranaggio inconsapevole, > > ad un topo di laboratorio e ad un capro espiatorio alla bisogna. > > > > > > Ma la Volvo di Uber non aveva alcuna etica (o alcuna intelligenza). > > > > Aveva percepito Elaine in tempo per evitarla, ma era stata > > configurata per non effettuare frenate di emergenza durante la > > guida "autonoma" in modo da "evitare un comportamento erratico del > > mezzo" che avrebbe provocato il mal d'auto ai passeggeri. > > > > Insomma, quella Volvo stava letteralmente applicando al mondo i > > valori di Uber, per cui la vita umana vale nettamente meno dei > > propri profitti. > > > > Ma invece di arrestare tutto il consiglio di amministrazione di > > Uber per omicidio, negli USA parlano di "Etica delle AI". > > > > > > La vita di Elaine Herzberg o di Rafaela Vasquez sono irrilevanti. > > Sono cose, insomma. Cose di scarso valore, peraltro. > > > > > > E' questo l'etica delle AI: una narrazione alienante costruita su > > un'altra narrazione alienante. > > > > > >> a quel punto la valutazione di capacità etica riguarda i > >> progettisti e gli utilizzatori e non è più questione di etica > >> dell'AI in senso proprio, ma di come si fa una progettazione di > >> prodotti che sia etica e un utilizzo di prodotti che sia etico. > > No, non è una questione di etica, ma di cultura e politica. > > > > Anzitutto bisogna comprendere come funzionano questi software. > > > > Per arrivarci dobbiamo abolire al più presto questo linguaggio > > antropomorfizzante (quando non religioso). Smettere di parlare > > di "intelligenza" o "allenamento" o "apprendimento" o "etica". > > > > > > Una volta compreso questo, si potrà smettere serenamente e > > consapevolmente di applicarli a persone o a dati di origine umana. > > > > Con la clonazione l'abbiamo fatto, con il software programmato > > statisticamente dobbiamo fare lo stesso. [2] > > > > > > A valle di tale moratoria internazionale, potremo decidere una > > normativa adeguata per le molte applicazioni che non riguardano > > direttamente esseri umani. > > > > Ad esempio, il trasporto merci su strade dedicate (magari > > sotterranee ed inaccessibili all'uomo). La massimizzazione della > > produzione agricola e così via... > > > > > > Dovremo solo sempre tenere a mente che l'antropomorfizzazione delle > > cose serve solo gli interessi di chi le controlla. > > > > > > Dunque, non parliamo di etica delle AI. > > Semplicemente perché già le AI stesse non esistono! ;-) > > > > > > Parliamo piuttosto di etica delle aziende? > > Ok! Allora limitiamo superiormente il loro profitto, così che una > > volta raggiunto il tetto, la massimizzazione dei profitti smetta di > > prevalere su qualsiasi altra considerazione. > > > > > > Giacomo > > > > PS: non sono certo di aver risposto a ciò che chiedevi... scusa. > > > > > > [1]: > > https://commentbfp.sp.unipi.it/daniela-tafani-what-s-wrong-with-ai-ethics-n… > > > > [2]: Ci sono rarissimi contesti in cui può aver senso utilizzarli > > sotto attenta e addestratissima supervisione di gruppi > > multidisciplinari, che potremo elencare esplicitamente. > > > > Penso ad esempio all'uso medico: nessun medico, da solo, può > > comprendere i pericoli dell'uso di un sistema programmato > > statisticamente, ma un team di medici e informatici molto > > preparati, insieme, potrebbe. > > > > Personalmente non riesco a pensare un'altro caso d'uso in cui > > l'uso (sotto attenta e scrupolosa supervisione umana) di > > questi strumenti possa giustificare i pericoli che comportano. > > > > Per assicurarci che nessuno ne abusi, potremmo però stabilire > > che nessun profitto può essere ottenuto dall'uso di dati umani, > > neanche in quei rarissimi casi in cui è autorizzato. > > > ------------------------------------------------------------------------ > > many of us believe the EU remains > the most extraordinary, ambitious, liberal > political alliance in recorded history. > where it needs reform, where it needs to evolve, > we should be there to help turn that heavy wheel > i. mcewan, the guardian, 2/6/2017 > > ------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli

Oct. 31, 2022

Il partito dove comanda l'intelligenza artificiale

by Antonio

L'obiettivo di far parlare di sé è riuscito benissimo al collettivo di artisti Computer Lars [1]. I media italiani [2][3][4][5][6], come sempre attentissimi alle ultime novità in fatto di IA, non si sono fatti sfuggire questa chicca del /primo/ partito "guidato da un'intelligenza artificiale". Più interessante degli articoli nostrani è invece l'intervista ad Asker Bryild Staunaes, uno dei promotori [7]. Buona lettura [1] https://computerlars.com/ [2] https://www.lastampa.it/editoriali/lettere-e-idee/2022/08/07/news/il_partit… [3] https://www.corriere.it/tecnologia/22_ottobre_20/partito-intelligenza-artif… [4] https://www.repubblica.it/tecnologia/2022/10/19/news/altro_che_skynet_in_da… [5] https://www.fanpage.it/innovazione/tecnologia/in-danimarca-ce-un-partito-gu… [6] https://www.infodata.ilsole24ore.com/2022/10/25/perche-il-primo-partito-pol… [7] https://www.osicoplatform.com/interview-with-asker-bryild-staunaes-of-the-d…

Oct. 31, 2022

Re: [nexa] ethical AI (era "It’s time to admit, self-driving cars aren’t going to happen")

by maurizio lana

ciao Giacomo, la tua frase > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente > irrilevante. Se non può alterare concretamente e consapevolmente il > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può fare > e pensare solo ciò che il creatore dell'artefatto stesso ha deciso. mi fa capire che non mi sono espresso bene usando il termine "utilizzatore". o che il termine ha un ventaglio di significati a cui non pensavo. il significato a cui pensavo era di questo tipo: software di IA che definisce chi può stipulare un contatto di assicurazione vita abbiamo i progettisti del software, e poi abbiamo l'agente di assicurazione che lo usa. a mio modo di vedere l'agente (che qui è l'utilizzatore) è responsabile per l'uso di quel software. proprio perché (ti cito) > L'uomo è autonomo, l'artefatto no. > Questo significa che ha SEMPRE la possibilità di alterare (e scardinare) le regole > di funzionamento del sistema cibernetico in cii opera, rendendolo imprevedibile. > Può essere convinto a non esercitare questa autonomia, "perché non è giusto", > "perché il padrone è buono", "perché we shall do no evil", "perché funziona così", > per paura, [/perché non vuole/non può perdere il lavoro/], etc... > Ma continua ontologicamente ad essere autonomo. mentre nello specifico dell'utilizzatore di un'auto a guida autonoma, di cui dici > Se non può alterare concretamente e consapevolmente il > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può fare > e pensare solo ciò che il creatore dell'artefatto stesso ha deciso. non sono d'accordo. l'utilizzatore dell'auto a guida autonoma può decidere /non/ utilizzare un'auto a guida autonoma proprio perché è consapevole che in tal caso "può fare e pensare solo ciò che il creatore dell'artefatto stesso ha deciso". se la usa, con più consapevolezza o meno decide di obbedire al produttore dell'auto (è detto in termini un po' brevi e rozzi ma il senso è chiaro). molto si gioca tra consapevolezza/inconsapevolezza e cautela/sprovvedutezza: se /so/ che i dispositivi a input vocale più spesso che no ascoltano ininterrottamente l'ambiente e quindi ascoltano ciò che dico anche quando non do comandi vocali, consapevolezza e cautela mi porteranno a non acquistare quel tipo di prodotti e ove disponibili preferirò le versioni dumb a quelle smart. non perché sono un troglodita rimasto al tempo delle caverne, ma proprio perché conosco il mondo digitale, la tecnologia, eccetera e scelgo quale tecnologia voglio usare. e quindi ad un successivo più alto livello tutto si gioca sul so/non so, dove il so/non so non riguarda necessariamente lo specifico prodotto, ma tipi di prodotti, tipi di questioni problematiche, eccetera. che è poi una questione di literacy, di information literacy: quanto ogni cittadino è attrezzato per vivere e operare in questa società dell'informazione, e dell'informazione digitale? molti sono come gli analfabeti che firmavano i contratti mettendo una croce e fidandosi di ciò che il proponente gli diceva. c'è molto da fare in formazione - che è poi uscire dalla caverna e liberarsi dal dominio delle ombre. Maurizio Il 30/10/22 23:12, Giacomo Tesio ha scritto: > Salve Maurizio, > > On Sun, 30 Oct 2022 18:44:36 +0100 maurizio lana wrote: > >> anche se ne hai poi parlato sotto, mi pare che è qui che per te si >> pone l'impossibilità di un'«etica delle AI» perché in senso stretto >> essa implicherebbe che l'AI sia un soggetto autonomo, capace di >> scelte autonome, di cui quindi si può valutare l'etica. ma questo >> implicherebbe che l'AI sia dotata di agency come un soggetto umano >> adulto senziente e ragionante, senza limitazioni. > Esatto. > > Preferisco parlare di libero arbitrio o autonomia, ma in entrambi i > casi il software (e qualsiasi altra macchina) non ne ha. > > Parlare di "etica delle AI" è esattamente come parlare di "etica dei > sassi" o di "etica delle macchine". > > > L'etica, così come l'intelligenza o l'informazione, sono peculiarità > del homo sapiens sapiens. Letteralmente: parte della sua definizione. > > > Se parlassimo di intelligenza dei sassi, sarebbe evidente a tutti > che stiamo antropomorfizzando i sassi. Se parlassimo di etica dei > sassi a qualcuno verrebbe da ridere. > > Ma anche quando parliamo di macchine novecentesche parlare di "etica" > appare subito evidentemente strumentale. > > Immaginate l'industriale che, all'ennesimo morto sul lavoro schiacciato > da una pressa, proponesse come alternativa all'introduzione di > normative sulla sicurezza delle presse, l'adozione di > un'etica delle presse. > > > Con il software, a valle di un lungo lavoro di propaganda che Daniela > ha descritto benissimo nel suo saggio [1], invece la gente può parlare > di "etica delle AI" senza che tutti inizino a ridergli in faccia. > > Vengono persino invitati a parlare a conferenze, pubblicati su riviste > di filosofia etc... > > Dal punto di vista oggettivo, i loro argomenti hanno la stessa solidità > delle teorie terrapiattiste. > > E un po' come avvenne in passato con il sistema tolemaico, queste > teorizzazioni servono gli interessi di chi comprende benissimo la loro > fallacia, ma trae vantaggio dalla loro diffusione. > > >> mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte >> come progettista sia a valle come utilizzatore e non nell'artefatto. > L'artefatto non ha etica. > Esprime l'etica di chi l'ha costruito, imprimendola al resto del mondo. > > Ne riproduce la volontà. > Ne diffonde i valori. > > > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente > irrilevante. Se non può alterare concretamente e consapevolmente il > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può fare > e pensare solo ciò che il creatore dell'artefatto stesso ha deciso. > > Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine > Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata, come > ingranaggio, come capro espiatorio. Non era la prima volta che si > "distraeva"... "alla guida". Tali "distrazioni" erano già state > registrate da Uber che misurava, per massimizzarlo, il grado di > confidenza dei passeggeri nella guida automatica (NON autonoma!). > > In altri termini per Uber le "distrazioni" di Rafaela Vasquez erano > una feature, non un problema. > > Dunque Rafaela Vasquez era eticamente irrilevante. > Era già stata ridotta ad una cosa, ad un ingranaggio inconsapevole, ad > un topo di laboratorio e ad un capro espiatorio alla bisogna. > > > Ma la Volvo di Uber non aveva alcuna etica (o alcuna intelligenza). > > Aveva percepito Elaine in tempo per evitarla, ma era stata configurata > per non effettuare frenate di emergenza durante la guida "autonoma" in > modo da "evitare un comportamento erratico del mezzo" che avrebbe > provocato il mal d'auto ai passeggeri. > > Insomma, quella Volvo stava letteralmente applicando al mondo i valori > di Uber, per cui la vita umana vale nettamente meno dei propri profitti. > > Ma invece di arrestare tutto il consiglio di amministrazione di Uber per > omicidio, negli USA parlano di "Etica delle AI". > > > La vita di Elaine Herzberg o di Rafaela Vasquez sono irrilevanti. > Sono cose, insomma. Cose di scarso valore, peraltro. > > > E' questo l'etica delle AI: una narrazione alienante costruita su > un'altra narrazione alienante. > > >> a quel punto la valutazione di capacità etica riguarda i progettisti >> e gli utilizzatori e non è più questione di etica dell'AI in senso >> proprio, ma di come si fa una progettazione di prodotti che sia etica >> e un utilizzo di prodotti che sia etico. > No, non è una questione di etica, ma di cultura e politica. > > Anzitutto bisogna comprendere come funzionano questi software. > > Per arrivarci dobbiamo abolire al più presto questo linguaggio > antropomorfizzante (quando non religioso). Smettere di parlare > di "intelligenza" o "allenamento" o "apprendimento" o "etica". > > > Una volta compreso questo, si potrà smettere serenamente e > consapevolmente di applicarli a persone o a dati di origine umana. > > Con la clonazione l'abbiamo fatto, con il software programmato > statisticamente dobbiamo fare lo stesso. [2] > > > A valle di tale moratoria internazionale, potremo decidere una normativa > adeguata per le molte applicazioni che non riguardano direttamente > esseri umani. > > Ad esempio, il trasporto merci su strade dedicate (magari sotterranee > ed inaccessibili all'uomo). La massimizzazione della produzione > agricola e così via... > > > Dovremo solo sempre tenere a mente che l'antropomorfizzazione delle > cose serve solo gli interessi di chi le controlla. > > > Dunque, non parliamo di etica delle AI. > Semplicemente perché già le AI stesse non esistono! ;-) > > > Parliamo piuttosto di etica delle aziende? > Ok! Allora limitiamo superiormente il loro profitto, così che una volta > raggiunto il tetto, la massimizzazione dei profitti smetta di prevalere > su qualsiasi altra considerazione. > > > Giacomo > > PS: non sono certo di aver risposto a ciò che chiedevi... scusa. > > > [1]: > https://commentbfp.sp.unipi.it/daniela-tafani-what-s-wrong-with-ai-ethics-n… > > [2]: Ci sono rarissimi contesti in cui può aver senso utilizzarli sotto > attenta e addestratissima supervisione di gruppi multidisciplinari, > che potremo elencare esplicitamente. > > Penso ad esempio all'uso medico: nessun medico, da solo, può > comprendere i pericoli dell'uso di un sistema programmato > statisticamente, ma un team di medici e informatici molto > preparati, insieme, potrebbe. > > Personalmente non riesco a pensare un'altro caso d'uso in cui > l'uso (sotto attenta e scrupolosa supervisione umana) di questi > strumenti possa giustificare i pericoli che comportano. > > Per assicurarci che nessuno ne abusi, potremmo però stabilire che > nessun profitto può essere ottenuto dall'uso di dati umani, neanche > in quei rarissimi casi in cui è autorizzato. ------------------------------------------------------------------------ many of us believe the EU remains the most extraordinary, ambitious, liberal political alliance in recorded history. where it needs reform, where it needs to evolve, we should be there to help turn that heavy wheel i. mcewan, the guardian, 2/6/2017 ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Oct. 31, 2022

Re: [nexa] [DKIM Failed] Re: "It’s time to admit, self-driving cars aren’t going to happen"

by Maria Chiara Pievatolo

On 30/10/22 14:30:27, Giacomo Tesio wrote: > > On October 30, 2022 1:36:58 PM UTC, Daniela Tafani wrote: >> >> Credo però che la riduzione degli uomini a cose sia un gesto politico, più che un errore teorico. > > È naturalmente un gesto politico, ma necesita di un errore teorico per giustificarsi e normalizzarsi. > Non la metterei in termini di aut-aut, ma di et-et (come del resto sostiene anche Daniela Tafani, a leggere la sua ultima risposta). L'errore teorico consiste nel (far?) credere che sia possibile applicare regole note, o avvertire il bisogno di cercarne e trovarne di nuove perché quelle note non bastano, senza che occorra far uso della facoltà di giudicare. Questa facoltà, almeno per Kant (https://btfp.sp.unipi.it/dida/kant_7/ar01s08.xhtml) non può operare secondo regole, perché non ha regole, ma sulle regole delibera, valutando se applicarle, disapplicarle, cercarle. La sua presenza, e la sua indispensabilità, è connessa al carattere sempre prospettico e finito del nostro sapere. Detto più semplicemente, abbiamo bisogno di qualcosa come la facoltà di giudicare per orientarci secondo una mappa (o convincerci che così com'è non ci aiuta e va integrata), perché la mappa è appunto soltanto un tentativo di rappresentare il mondo dal nostro punto di vista e per quel che ne sappiamo, e per usarla - per quante regole per il suo uso possiamo aver ricevuto - alla fine dobbiamo confrontarla, da noi, con l'ambiente. L'errore teorico copre un abuso morale: la pretesa di sottomettere dei soggetti morali - disconoscendo ciò che li rende tali, la loro libertà - a regole rappresentate come applicabili e rinvenibili senza giudizio. Perché affaticarsi a pensare, se tutto funziona da sé? Sarebbe interessante provare a vedere se è possibile leggere il saggio di Kant sull'illuminismo (https://btfp.sp.unipi.it/dida/kant_7/ar01s04.xhtml) come una critica alla minorità cibernetica (*), anche se Kant aveva in mente tutori direttamente umani. Errore teorico e abuso morale si saldano perché critica teorica e libertà di critica si presuppongono a vicenda. Per smascherare l'impostura di un sistema di regole così perfetto che si può applicare senza pensare abbiamo bisogno, appunto, di essere liberi di pensare, e di poterlo fare anche quando ci viene detto che non serve farlo. Buonanotte, MCP (*) Basta guardare l'ultima frase del saggio, riferita da Kant al superamento del dispotismo...

Oct. 30, 2022

Re: [nexa] ethical AI (era "It’s time to admit, self-driving cars aren’t going to happen")

by Giacomo Tesio

Salve Maurizio, On Sun, 30 Oct 2022 18:44:36 +0100 maurizio lana wrote: > anche se ne hai poi parlato sotto, mi pare che è qui che per te si > pone l'impossibilità di un'«etica delle AI» perché in senso stretto > essa implicherebbe che l'AI sia un soggetto autonomo, capace di > scelte autonome, di cui quindi si può valutare l'etica. ma questo > implicherebbe che l'AI sia dotata di agency come un soggetto umano > adulto senziente e ragionante, senza limitazioni. Esatto. Preferisco parlare di libero arbitrio o autonomia, ma in entrambi i casi il software (e qualsiasi altra macchina) non ne ha. Parlare di "etica delle AI" è esattamente come parlare di "etica dei sassi" o di "etica delle macchine". L'etica, così come l'intelligenza o l'informazione, sono peculiarità del homo sapiens sapiens. Letteralmente: parte della sua definizione. Se parlassimo di intelligenza dei sassi, sarebbe evidente a tutti che stiamo antropomorfizzando i sassi. Se parlassimo di etica dei sassi a qualcuno verrebbe da ridere. Ma anche quando parliamo di macchine novecentesche parlare di "etica" appare subito evidentemente strumentale. Immaginate l'industriale che, all'ennesimo morto sul lavoro schiacciato da una pressa, proponesse come alternativa all'introduzione di normative sulla sicurezza delle presse, l'adozione di un'etica delle presse. Con il software, a valle di un lungo lavoro di propaganda che Daniela ha descritto benissimo nel suo saggio [1], invece la gente può parlare di "etica delle AI" senza che tutti inizino a ridergli in faccia. Vengono persino invitati a parlare a conferenze, pubblicati su riviste di filosofia etc... Dal punto di vista oggettivo, i loro argomenti hanno la stessa solidità delle teorie terrapiattiste. E un po' come avvenne in passato con il sistema tolemaico, queste teorizzazioni servono gli interessi di chi comprende benissimo la loro fallacia, ma trae vantaggio dalla loro diffusione. > mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte > come progettista sia a valle come utilizzatore e non nell'artefatto. L'artefatto non ha etica. Esprime l'etica di chi l'ha costruito, imprimendola al resto del mondo. Ne riproduce la volontà. Ne diffonde i valori. L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente irrilevante. Se non può alterare concretamente e consapevolmente il funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può fare e pensare solo ciò che il creatore dell'artefatto stesso ha deciso. Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata, come ingranaggio, come capro espiatorio. Non era la prima volta che si "distraeva"... "alla guida". Tali "distrazioni" erano già state registrate da Uber che misurava, per massimizzarlo, il grado di confidenza dei passeggeri nella guida automatica (NON autonoma!). In altri termini per Uber le "distrazioni" di Rafaela Vasquez erano una feature, non un problema. Dunque Rafaela Vasquez era eticamente irrilevante. Era già stata ridotta ad una cosa, ad un ingranaggio inconsapevole, ad un topo di laboratorio e ad un capro espiatorio alla bisogna. Ma la Volvo di Uber non aveva alcuna etica (o alcuna intelligenza). Aveva percepito Elaine in tempo per evitarla, ma era stata configurata per non effettuare frenate di emergenza durante la guida "autonoma" in modo da "evitare un comportamento erratico del mezzo" che avrebbe provocato il mal d'auto ai passeggeri. Insomma, quella Volvo stava letteralmente applicando al mondo i valori di Uber, per cui la vita umana vale nettamente meno dei propri profitti. Ma invece di arrestare tutto il consiglio di amministrazione di Uber per omicidio, negli USA parlano di "Etica delle AI". La vita di Elaine Herzberg o di Rafaela Vasquez sono irrilevanti. Sono cose, insomma. Cose di scarso valore, peraltro. E' questo l'etica delle AI: una narrazione alienante costruita su un'altra narrazione alienante. > a quel punto la valutazione di capacità etica riguarda i progettisti > e gli utilizzatori e non è più questione di etica dell'AI in senso > proprio, ma di come si fa una progettazione di prodotti che sia etica > e un utilizzo di prodotti che sia etico. No, non è una questione di etica, ma di cultura e politica. Anzitutto bisogna comprendere come funzionano questi software. Per arrivarci dobbiamo abolire al più presto questo linguaggio antropomorfizzante (quando non religioso). Smettere di parlare di "intelligenza" o "allenamento" o "apprendimento" o "etica". Una volta compreso questo, si potrà smettere serenamente e consapevolmente di applicarli a persone o a dati di origine umana. Con la clonazione l'abbiamo fatto, con il software programmato statisticamente dobbiamo fare lo stesso. [2] A valle di tale moratoria internazionale, potremo decidere una normativa adeguata per le molte applicazioni che non riguardano direttamente esseri umani. Ad esempio, il trasporto merci su strade dedicate (magari sotterranee ed inaccessibili all'uomo). La massimizzazione della produzione agricola e così via... Dovremo solo sempre tenere a mente che l'antropomorfizzazione delle cose serve solo gli interessi di chi le controlla. Dunque, non parliamo di etica delle AI. Semplicemente perché già le AI stesse non esistono! ;-) Parliamo piuttosto di etica delle aziende? Ok! Allora limitiamo superiormente il loro profitto, così che una volta raggiunto il tetto, la massimizzazione dei profitti smetta di prevalere su qualsiasi altra considerazione. Giacomo PS: non sono certo di aver risposto a ciò che chiedevi... scusa. [1]: https://commentbfp.sp.unipi.it/daniela-tafani-what-s-wrong-with-ai-ethics-n… [2]: Ci sono rarissimi contesti in cui può aver senso utilizzarli sotto attenta e addestratissima supervisione di gruppi multidisciplinari, che potremo elencare esplicitamente. Penso ad esempio all'uso medico: nessun medico, da solo, può comprendere i pericoli dell'uso di un sistema programmato statisticamente, ma un team di medici e informatici molto preparati, insieme, potrebbe. Personalmente non riesco a pensare un'altro caso d'uso in cui l'uso (sotto attenta e scrupolosa supervisione umana) di questi strumenti possa giustificare i pericoli che comportano. Per assicurarci che nessuno ne abusi, potremmo però stabilire che nessun profitto può essere ottenuto dall'uso di dati umani, neanche in quei rarissimi casi in cui è autorizzato.

Oct. 30, 2022

Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen"

by Daniela Tafani

Sì, hai ragione, Giacomo: lo smascheramento delle imposture sul piano teorico è utile, naturalmente, è un atto di resistenza. Volevo solo dire che mi sembra sempre opportuno distinguere i piani: - empirico: ci sono cose (alcuni sistemi di IA) che vengono presentate come se potessero svolgere specifiche attività umane, come guidare un'auto nel traffico cittadino o comprendere un discorso e rispondere sulla base di tale comprensione; - le cose non sono persone e le persone non sono cose - assiologico: le persone hanno un valore incondizionato, una dignità, le cose no - morale: le persone non devono essere trattate come cose - politico: trattare le persone come cose equivale a privarle di ogni diritto (ad esempio, etichettandole e affidando a sistemi di ML decisioni che abbiano effetti rilevanti sulle loro vite) - giuridico: la responsabilità per i danni causati da cose che sono prodotti (e i sistemi di IA lo sono senz'altro) è da ascriversi nel rispetto del principio cuius commoda, eius et incommoda; l'eventuale impossibilità di risalire alla responsabilità è una forma di negligenza del produttore. Con il mio accenno al senso comune, restavo al livello più basso, al piano meramente empirico, per sostenere che l'attuale tecnologia non consente la guida autonoma, come non può riprodurre la comprensione del linguaggio. Condivido tutto quello che hai scritto, ma credo che la distinzione dei piani sia a volte utile: mi pare che gli studenti colgano benissimo l'enormità dell'impostura a livello empirico, non appena qualcuno spieghi loro, ad esempio, la distinzione tra manipolare stringhe di testo e comprenderne il significato e che a quel punto tutti gli incantamenti, le imposture o gli atti di ingiustizia e oppressione ai livelli successivi, pur sostenuti dalla narrazione dominante, cadano quasi da soli, come un castello di carte. In ogni caso, dopo aver chiarito che una certa macchina non funziona, si riesce almeno a scansare l'accusa di luddista. Grazie di questa conversazione. Un saluto, Daniela ________________________________ Da: Giacomo Tesio <giacomo(a)tesio.it> Inviato: domenica 30 ottobre 2022 15:30 A: Daniela Tafani; Enrico Nardelli; Nexa Oggetto: Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen" On October 30, 2022 1:36:58 PM UTC, Daniela Tafani wrote: > > Credo però che la riduzione degli uomini a cose sia un gesto politico, più che un errore teorico. È naturalmente un gesto politico, ma necesita di un errore teorico per giustificarsi e normalizzarsi. > E non sono sicura che una lezione teorica sia sufficiente a dissuadere un nazista. Come non è sufficiente a dissuadere uno dei tanti lobbisti di Google & friends. Non è per dissuadere chi trae vantaggio dall'errore teorico, che dobbiamo smascherarlo come tale. È per allertare i tantissimi che se la bevono. > Quanto alle auto a guida autonoma, cercavo di mettere in discussione il minor > numero possibile di concetti impegnativi, come la libertà, > considerato che, al momento, la tecnologia si ferma decisamente molto prima. Solo se la consideri in isolamento. Se ragioni in termini di agenti cibernetici invece che dei singoli elementi che li costituiscono, se non perdi di vista gli uomini dietro l'automatismo, che si chiami "AI", Google Classroom o 9front, la libertà diventa rilevante. Compreso che l'automatismo non ce l'ha, dobbiamo chiederci chi poteva scegliere o creare un automatismo diverso, perché non l'ha fatto e perché eventualmente cerca di nascondere tale libertà e responsabilità. > Concordo anche sull'insensatezza dell'etica dell'IA, ma ritengo, > come ho provato ad argomentare nell'articolo che vi ho sottoposto, che la narrazione sull'etica dell'IA > assecondi sì alcune tendenze umane spontanee, > ma sia deliberatamente costruita e diffusa per interesse. Ho trovato talmente illuminante ed importante il tuo articolo da non avere trovato ancora il tempo di risponderti come merita. Posso però ringraziarti per averlo scritto e sperare che abbia ampia diffusione. Giacomo

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Roberto Resoli

Il 30/10/22 21:46, Roberto Resoli ha scritto: > Il 30/10/22 19:07, Roberto Resoli ha scritto: >> Il 30 ottobre 2022 17:20:03 CET, Daniela Tafani<daniela.tafani(a)unipi.it> ha scritto: >>> Lo sguardo vigile è ora promosso dalla Commissione europea, insieme alla tesi che un algoritmo possa predire l'abbandono di singoli studenti: >>> https://t.co/3olPk2PngT >> link ripulito: >> >> https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed… >> >> (attualmente non accessibile per problemi tecnici) > > Mi correggo, basta modificare leggermente il link per accedere ad una > vista diretta del documento e alla possibilità di scaricare il PDF: > > https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed… > >>> La manutenzione predittiva dei macchinari applicata ai bambini (a proposito di uomini e cose) Pag. 11: "What do we mean by AI and data use in Education? Schools typically process substantial amounts of educationaldata including personal information about students, parents, staff,management and suppliers. Data collected, used, and processed ineducation is often referred to as “educational data”. These consistof data recorded in student information systems for example,educational achievements, parent names, assessment grades,as well as micro-level data generated when digital tools are used.When students interact with digital devices, they generate digitaltraces such as mouse clicks, data on opened pages, the timing ofinteraction events, or key presses. In the same way when usingintelligent tutoring systems (ITS) in classrooms, learning mathematicsor modern languages produce learning activity traces. All this datacan be combined to capture each student’s online behaviour. Thistype of trace data (digital usage and learning activity traces) is oftenused for learning analytics (LA). Data in student information systemscan be further used for resource and course planning and to predict dropout and guidance." rob

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Roberto Resoli

Il 30/10/22 19:07, Roberto Resoli ha scritto: > Il 30 ottobre 2022 17:20:03 CET, Daniela Tafani<daniela.tafani(a)unipi.it> ha scritto: >> Lo sguardo vigile è ora promosso dalla Commissione europea, insieme alla tesi che un algoritmo possa predire l'abbandono di singoli studenti: >> https://t.co/3olPk2PngT > link ripulito: > > https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed… > > (attualmente non accessibile per problemi tecnici) Mi correggo, basta modificare leggermente il link per accedere ad una vista diretta del documento e alla possibilità di scaricare il PDF: https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed… >> La manutenzione predittiva dei macchinari applicata ai bambini (a proposito di uomini e cose)

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Roberto Resoli

Il 30 ottobre 2022 17:20:03 CET, Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: >Lo sguardo vigile è ora promosso dalla Commissione europea, insieme alla tesi che un algoritmo possa predire l'abbandono di singoli studenti: >https://t.co/3olPk2PngT link ripulito: https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed… (attualmente non accessibile per problemi tecnici) >La manutenzione predittiva dei macchinari applicata ai bambini (a proposito di uomini e cose) > >________________________________ >Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> >Inviato: domenica 30 ottobre 2022 15:05:38 >A: Roberto Dolci; Enrico Nardelli; nexa(a)server-nexa.polito.it >Oggetto: Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen" > >Non è triste, è ingiusto. > >Ma è anche lo scopo ultimo del capitalismo. >Impoverire i deboli per arricchire i forti. > >Ma finquando quei bimbi cresceranno sotto lo sguardo vigile di chi li sfrutta[1], >non potranno concepire idee efficaci per sovvertire il sistema di oppressione >di cui sono vittime. >E anzi si opporranno a chiunque cerchi di contrastarlo (o anche solo di sottrarvisi). > > >Giacomo >[1]: https://nepc.colorado.edu/blog/google-magic

Oct. 30, 2022

ethical AI (era "It’s time to admit, self-driving cars aren’t going to happen")

by maurizio lana

credo che queste riflessioni di Giacomo sull'impossibilità di un'ethical AI abbiano una portata più ampia e specifica e per questo avvio un thread differente. voglio capire bene il filo del discorso, Giacomo, quindi estraggo e metto in fila quelli che a me appaiono gli snodi del pensiero Il 30/10/22 13:50, Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Chi costruisce un artefatto, esprime sé stesso, la proprie idee e i propri interessi di quel momento. > > Ma una volta costruito, l'artefatto ne rimane espressione invariabile (se non secondo le regole impostegli da quella stessa volontà) e continua ad applicare quella volontà al mondo, fino ad ulteriore intervento umano (che si tratti di spegnerlo, romperlo o modificarlo). > > L'artefice invece ha una libertà che l'artefatto non può avere e che non gli può essere attribuita (così come una responsabilità) senza prima aver dimostrato non solo che è in grado di simulare intelligenza, ma che è dotato di libero arbitrio. > > L'artefice può cambiare idea. > L'artefatto non ha idee. > ... > L'uomo è autonomo, l'artefatto no. > > Questo significa che ha SEMPRE la possibilità di alterare (e scardinare) le regole di funzionamento del sistema cibernetico in cii opera, rendendolo imprevedibile. > > Può essere convinto a non esercitare questa autonomia, "perché non è giusto", "perché il padrone è buono", "perché we shall do no evil", "perché funziona così", per paura etc... Ma continua ontologicamente ad essere autonomo. anche se ne hai poi parlato sotto, mi pare che è qui che per te si pone l'impossibilità di un'«etica delle AI» perché in senso stretto essa implicherebbe che l'AI sia un soggetto autonomo, capace di scelte autonome, di cui quindi si può valutare l'etica. ma questo implicherebbe che l'AI sia dotata di agency come un soggetto umano adulto senziente e ragionante, senza limitazioni. mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte come progettista sia a valle come utilizzatore e non nell'artefatto. a quel punto la valutazione di capacità etica riguarda i progettisti e gli utilizzatori e non è più questione di etica dell'AI in senso proprio, ma di come si fa una progettazione di prodotti che sia etica e un utilizzo di prodotti che sia etico. ho inteso bene? > l'uso di certe riduzioni ... alimenta l'alienazione cibernetica di molti. Alienazione che consiste nel processo di riduzione dell'autonomia delle persone sia attraverso la loro automatizione (pensa al burocrate senza compassione) sia attraverso l'antropomorfizzazione dell'automatismo che viene presentato come "autonomo" e antropomorfo. l'antropomorfizzazione dell'automatismo, o forse direi addirittura la deificazione dell'automatismo: l'AI è un nuovo culto, con dei sommi sacerdoti che introducono i fedeli all'adorazione. siamo una società che si professa laica ma accettiamo delle nuove divinità. ritengo che occorra demitizzare, /laicizzare/, la presentazione pubblica che viene fatta dell'AI: un prodotto dell'attività umana che deve essere analizzato, commentato, valutato, giudicato, di cui si trovano i difetti strutturali o funzionali, ecc. Maurizio >> Il 29/10/2022 08:00, Daniela Tafani ha scritto: >>> Abbiamo il senso comune, che vale molto di più dell'essere precisi. > Soprattutto abbiamo il buon senso (che è cosa sempre meno comune, purtroppo). > > Non siamo solo capaci di prevedere conseguenze, ma di empatizzare con > chi sarà affetto da tali conseguenze. > > Quand'anche riuscissimo a superare i limiti computazionali che impediscono la previsione > potremmo ottenere un "senso comune" applicato meccanicamente. > > Un "senso comune" indipendente dalla comunità. > Un "senso comune" immutabile, che non può evolvere se non nel solco del programma > (ovvero degli interessi di chi l'ha creato). > > Un "sensi comune" privo di "senso" giacché le macchine elaborano dati cui solo la > mente umana può attribuire un significato. > > > Non è dunque un problema di quantità, di disponibilità di dati o di potenza di calcolo. > > > È una questione di essenza. > Gli automatismi trasformano meccanicamente dati, non informazioni. > > Segni privi di un significato intrinseco, che solo l'uomo vi può attribuire. > E non parlo solo dell'input o dell'output: il software stesso è privo di un significato > intrinseco, tant'è che processori diversi reagiscono a segni diversi nello stesso > modo e a segni uguali in modo diverso. > > E tant'è che possiamo persino progettare macchine per reagire in un determinato > modo a segni (dati) cui non proviamo nemmeno ad attribuire un significato. > > > Acquisire questa consapevolezza ha profonde implicazioni pratiche. > > Per esempio rende evidente l'assurdità di parlare di "etica delle AI" o di "Explainable AI". > > Il software è debuggabile. > Ciò che puoi spiegare al limite sono le intenzioni e gli errori di chi l'ha scritto. > > E quando non è perfettamente debuggabile, allora è da buttare, perché troppo pericoloso: > la sua esecuzione è letteralmente "irresponsabile". > > > Giacomo > ------------------------------------------------------------------------ perché l’uomo possa fare pubblico uso della propria ragione è necessario che il potere agisca in pubblico n. bobbio le persone per scegliere devono sapere, devono conoscere allora quello che un giornalista dovrebbe fare è informare g. siani ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Oct. 30, 2022