Miracoli dell’algoretica

"Padre Benanti ha un pedigree invidiabile: è uno specialista di etica delle tecnologie, membro del Comitato sull’intelligenza artificiale delle Nazioni Unite e consigliere di Papa Francesco su tutto ciò che si lega alle IA. Allo stesso tempo, è opportuno ricordare che Benanti si trovi ora in una situazione molto particolare: è a capo della Commissione Algoritmi, ma il suo nome figura anche all’interno del comitato tecnico voluto da Butti. A questo punto non è chiaro se la decisione di mettere il francescano a capo del team voluto da Barachini finirà con l’uniformare le posizioni delle due Commissioni – cosa che renderebbe ridondante l’esistenza di due gruppi separati – o se l’uomo di Chiesa si troverà a improvvisare gesta goldoniane che possano promuovere i propri obiettivi a discapito degli interessi dei due padroni." https://www.lindipendente.online/2024/01/06/la-commissione-algoritmi-funzion... Antonio

Andrea Capocci su Il manifesto di oggi: "Dalla sua Benanti ha un atteggiamento critico ma aperto all’intelligenza artificiale, che non pone la Chiesa ai margini del dibattito. «Abbiamo bisogno di un’algor-etica, ovvero di un modo che renda computabili le valutazioni di bene e di male» è il suo vasto programma. È anche la linea ribadita nel messaggio di Capodanno da Francesco, che ha voluto il frate nerd nella Pontificia Accademia della Vita. Soprattutto, è una posizione che non infastidisce i colossi del Big Tech con cui Meloni non cerca alcuno scontro. Spostare l’attenzione sul piano etico, infatti, mette in secondo piano i rapporti di forza economici su cui si fonda il capitalismo delle piattaforme e che reclamerebbero interventi sul piano fiscale, della privacy e del diritto del lavoro, più che su quello della morale." https://ilmanifesto.it/paolo-benanti-il-frate-nerd-fervente-militante-anti-g... ________________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Maria Chiara Pievatolo <mariachiara.pievatolo@unipi.it> Inviato: domenica 7 gennaio 2024 15:06 A: nexa@server-nexa.polito.it Oggetto: Re: [nexa] padre Benanti sostituisce Amato alla commissione algoritmi On 07/01/24 14:49, Antonio wrote:

...

Miracoli dell’algoretica

"Padre Benanti ha un pedigree invidiabile: è uno specialista di etica delle tecnologie, membro del Comitato sull’intelligenza artificiale delle Nazioni Unite e consigliere di Papa Francesco su tutto ciò che si lega alle IA. Allo stesso tempo, è opportuno ricordare che Benanti si trovi ora in una situazione molto particolare: è a capo della Commissione Algoritmi, ma il suo nome figura anche all’interno del comitato tecnico voluto da Butti. A questo punto non è chiaro se la decisione di mettere il francescano a capo del team voluto da Barachini finirà con l’uniformare le posizioni delle due Commissioni – cosa che renderebbe ridondante l’esistenza di due gruppi separati – o se l’uomo di Chiesa si troverà a improvvisare gesta goldoniane che possano promuovere i propri obiettivi a discapito degli interessi dei due padroni."

Da https://www.ilsecoloxix.it/italia/2024/01/03/news/il_dubbio_che_serve_allai-... «Un giudice inglese molto autorevole, Lord Moulton, in un discorso a fine carriera ha affermato che l’etica è tutto ciò che non è esigibile per legge. Sul Titanic che stava affondando qualcuno ha detto “prima le donne e i bambini”, e hanno mandato prima le signore e i piccoli: quello era lo spazio dell’etica, lo spazio di civiltà. Ecco, noi dobbiamo edificare un nuovo strato di civiltà che abbia la funzione di cuscinetto etico: così si potrà gestire l’Ai nel migliore dei modi possibile». A prescindere dall'antropomorfismo dell'inizio dell'intervista, trovo il paragone col Titanic piuttosto inquietante, per i motivi discussi qui: https://poliversity.it/@mcp/111708537887540819 E buon anno, MCP

Daniela Tafani <daniela.tafani@unipi.it> writes:

Andrea Capocci su Il manifesto di oggi:

[...]

«Abbiamo bisogno di un’algor-etica, ovvero di un modo che renda computabili le valutazioni di bene e di male» è il suo vasto programma.

Non ci posso credere: l'ha detto davvero?!? Una vera perla di teologia, non c'è che dire. [...]

Spostare l’attenzione sul piano etico,

Ma magari fosse sul piano etico! (Che poi sarebbe filosofico, mica pizza e fichi.)... Qui rasentiamo asintoticamente la cialtroneria.

infatti, mette in secondo piano i rapporti di forza economici su cui si fonda il capitalismo delle piattaforme e che reclamerebbero interventi sul piano fiscale, della privacy e del diritto del lavoro, più che su quello della morale."

Quegli interventi non possono che scaturire da considerazioni etiche che si traducano in CULTURA politica (e di conseguenza in azione politica). ...l'etica quella vera però, mica quella all'acqua di rose da "influencer" alla quale ci stiamo assuefacendo.

https://ilmanifesto.it/paolo-benanti-il-frate-nerd-fervente-militante-anti-g...

Saluti, 380° [...] -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Ma tutto questo dibattito su Benanti non l'ho riscontrato su nessun altro membro di nessuna altra commissione... interessante dl Il giorno mar 9 gen 2024 alle ore 16:14 Daniela Tafani < daniela.tafani@unipi.it> ha scritto:

Il 09/01/2024 15:48, 380° ha scritto:

...

...

«Abbiamo bisogno di un’algor-etica, ovvero di un modo che renda computabili le valutazioni di bene e di male» è il suo vasto programma.

Non ci posso credere: l'ha detto davvero?!?

Sì, l'ha scritto qui (e anche "indicare i valori etici attraverso i valori numerici"):

"Se vogliamo che la macchina sia di supporto all’uomo e al bene comune, senza mai sostituirsi all’essere umano, allora gli algoritmi devono includere valori etici e non solo numerici. In sostanza, abbiamo bisogno di poter indicare i valori etici attraverso i valori numerici che nutrono l’algoritmo. L’etica ha bisogno di contaminare l’informatica. Abbiamo bisogno di un’algor-etica, ovvero di un modo che renda computabili le valutazioni di bene e di male. Solo in questo modo potremo creare macchine che possono farsi strumenti di umanizzazione del mondo. Dobbiamo codificare principi e norme etiche in un linguaggio comprensibile e utilizzabile dalle macchine. Perché quella delle AI sia una rivoluzione che porta a un autentico sviluppo, è tempo di pensare un’algor-etica."

https://www.academyforlife.va/content/dam/pav/documenti%20pdf/2020/Assemblea...

Un saluto, Daniela _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

-- _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

On 09/01/24 16:20, don Luca Peyron wrote:

Ma tutto questo dibattito su Benanti non l'ho riscontrato su nessun altro membro di nessuna altra commissione... interessante

Le mie critiche sono ispirate, per la verità, da un senso di delusione. Ammiro la capacità di papa Francesco di mantenere, in un tempo in cui molti laici l'hanno persa o non l'hanno mai avuta, una prospettiva a un tempo lucida e attenta a tutti gli esseri umani - anzi a tutte le creature - e mi aspettavo una posizione che non assecondasse quelle degli oligopolisti di dati e della loro elaborazione, quali l'artificiale senso di emergenza e la sostituzione del diritto con l'etica, cioè dell'obbligazione legale con il mero favore. Altri - e più famosi - laici non hanno bisogno di essere criticati, ma solo perché, conoscendoli, non nutriamo nei loro confronti aspettative tali da esporci a delusioni. A presto, MCP

Ma tutto questo dibattito su Benanti non l'ho riscontrato su nessun altro membro di nessuna altra commissione... interessante

Il 10 gennaio Marco Damilano, all'interno della trasmissione "Il cavallo e la torre", ha intervistato padre Benanti [1]. La prima domanda è stata: "perchè un frate si occupa di intelligenza artificiale?". Risposta (grosso modo): "io vengo da degli studi brevi in ingegneria ... nel fare studi di teologia e filosofia volevo rileggere quella parte, poi .... dottorato negli Stati Uniti (Istituto di Etica dell’Università di Georgetown - Washington 2013-2015 ndr), ecc." Ieri sera ho visto un film: "La felicità è un sistema complesso" [2], nel quale il protagonista, Enrico Giusti, (interpretato da Valerio Mastandrea), come occupazione lavorativa, convince imprenditori e giovani ereditieri di complessi industriali disinteressati alle sorti dell'azienda che dirigono, persuadendoli a vendere ad altri per evitare il fallimento e per ridurre al minimo le perdite e i licenziamenti. C'è una scena in cui, presentandosi a mo' di scherzo ad una ragazza, dice, sono il migliore d'Italia nel mio lavoro e poi, dopo una pausa, aggiunge, anche perché credo di essere l'unico a farlo. Ecco, a me sembra che in Italia, coloro che hanno fatto studi scientifici e umanistici siano mosche bianche. Ci riempiamo la bocca di "pensiero sistemico" ma poi, alla prova dei fatti, siamo chiamati solo e soltanto per esprimere il nostro parere nel campo in cui siamo specializzati (segnalo per approfondire l'argomento, Piero Dominici [3] e l'intervento prossimo venturo di Francesco Varanini all'OpenAIF [4]) Chiudo con le parole di Giuliano Amato (tanto per citare l'altro protagonista della vicenda) [5] "Ma le domande, alla fin fine, sono soltanto della teologia cristiana? Solo per i credenti vi è una ragione che impedisce di sfuggire alla nostra finitezza? Solo per Agostino e per chi ne condivide la fede la radice del male è porre l'io al di sopra di tutto? L’hybris è punita soltanto perché viola le leggi degli dèi, o perché contrasta con i principi universali della convivenza umana?" Buon weekend, Antonio [1] https://www.raiplaysound.it/audio/2024/01/Il-cavallo-e-la-torre---Artificial... [2] https://www.raiplay.it/programmi/lafelicitaeunsistemacomplesso [3] https://www.youtube.com/watch?v=2G_lxUzWg9c [4] https://www.francescovaranini.it/2024/01/la-formazione-degli-essere-umani-e-... [5] http://eprints.bice.rm.cnr.it/22323/1/Intelligenza%20Artificiale%20ONLINE%20...

https://ilmanifesto.it/la-sfuggente-moralita-degli-algoritmi

"L’abduzione è un ragionamento d’azzardo, e guardacaso è quello che usiamo tutti i giorni in modo massiccio, pervasivo e cruciale (anche, ad esempio, per leggere queste righe). Esso consiste nell’assegnare un’osservazione ad una legge: l’uccello che vedo è giallo, dunque è un canarino, perché tutti i canarini sono gialli. Logicamente ciò è sbagliato, tuttavia è plausibile, ed è grazie a questo genere di intuizioni che riusciamo bene o male a campare. ... i sistemi basati su reti neurali, come quelli che oggi ci parlano, sono inerentemente abduttivi, perché, anche se li usiamo in modo generativo, il loro meccanismo di base resta quello della classificazione. E cosa è una classificazione se non l’assegnazione di un caso (i dati di input) a una legge (il simbolo che vi si annette), cioè appunto una abduzione? Ma s’è detto che l’abduzione è un azzardo, un tirare a indovinare, se non proprio un’aberrazione logica. Come possiamo introdurvi l’etica, se questa dev’essere indefettibile norma morale?" Facile, basta indirizzare l'addestramento dei LLM su una fonte "generica" (ad es. Wikipedia), con l'aggiunta di uno o più libri sacri o saggi sull'etica (Bibbia, Corano, Fondamenti della Metafisica della Morale, Critica della Ragion Pratica, ecc.) e si avrà una perfetta IA etica/morale/religiosa. Addirittura una IA per i cattolici, un'altra per i musulmani, una per gli atei, insomma, una IA il cui solo limite è la "fantasia abduttiva" dei suoi ingegneri ;-). In fondo ChatGRT [1] ne è stato il precursore. Ora che le NVIDIA DGX H100 vanno via come il pane (Fastweb il mese scorso ne ha aquistate ben 31 [2]), c'è solo l'imbarazzo di scegliere quale target di utenti servire. Antonio [1] https://www.gianroberto.io/ [2] https://edge9.hwupgrade.it/news/device/fastweb-ha-acquistato-31-sistemi-nvid...

Maria Chiara Pievatolo <mariachiara.pievatolo@unipi.it> writes:

...

https://www.ilsecoloxix.it/italia/2024/01/03/news/il_dubbio_che_serve_allai-...

[...]

A prescindere dall'antropomorfismo dell'inizio dell'intervista, trovo il paragone col Titanic piuttosto inquietante, per i motivi discussi qui:

https://poliversity.it/@mcp/111708537887540819

ai fini archivistici riporto il testo del "thread" su quella istanza Mastonon: --8<---------------cut here---------------start------------->8--- Maria Chiara Pievatolo @mcp@poliversity.it Sembra un discorso pio, ma non lo è affatto. Padre Benanti sta paragonando la nostra situazione con i #SALAMI a una in cui il diritto è inefficace e vale lo ius necessitatis (vedi § 3 qui, a proposito del dilemma del carrello: https://btfp.sp.unipi.it/it/2022/11/la-prima-vittima/). Con i #SALAMI, siamo davvero in questa situazione, o c'è qualcuno che sta cercando di instillare nel pubblico - padre Benanti compreso - un falso senso di emergenza? Daniela Tafani @dt@qoto.org Sì, l'emergenza nasce solo dalla mancata applicazioni delle leggi. Come ha scritto @doctorow "la cattura del regolatore ha permesso alle aziende tecnologiche di violare le leggi sul lavoro, sulla privacy e sulla protezione dei consumatori sostenendo che la legge non si applichi quando si usa un'app per violarla" https://pluralistic.net/2023/11/25/moral-injury/ --8<---------------cut here---------------end--------------->8--- In merito alle "emergenze", direi che è ormai chiaro e lampante che INVENTARLE è l'unico modo che consente ai potenti di /governare/ (per di più moraleggiando cafonamente) ANNULLANDO la partecipazione (che include la dialettica) per "cause di forza maggiore". ...è l'ultimo stadio della disperazione. Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.