Per un’intelligenza artificiale bene comune.
Considerazioni interessanti, buona lettura dl https://michelekettmaier.nova100.ilsole24ore.com/2024/02/26/per-unintelligen... _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239
Grazie della segnalazione. Articolo interessante e spunto di riflessione. L'articolista, dopo aver constatato in modo dettagliato quanto squilibrato sia il mondo plasmato dalla tecnologia, si augura che emerga"un nuovo corpo intermedio dedicato a traghettare la governance dell’intelligenza artificiale verso un senso di bene comune" con il "compito di mediare l’interazione tra lo sviluppo tecnologico avanzato e le politiche governative, assicurando che l’innovazione proceda di pari passo con il benessere sociale e l’equilibrio ecologico". Si aspetta che sia il mondo dell'associazionismo a svolgere questo ruolo: "Il mondo cooperativistico è uno dei luoghi importanti dove ricercare e sviluppare un’intelligenza artificiale bene comune". Anche se non approfondisce il ragionamento su come questo possa avvenire, è auspicabile eragionevole che ciò accada, Come lo stesso autore riconosce, il miglioramento della condizione dei cittadini e dei lavoratori delle precedenti espressioni delle società industriali si è ottenuto con la "contestazione delle decisioni prese dalle élite riguardo alla tecnologia e alle condizioni di lavoro". Il processo che ha portato a "modificarele strutture di potere sociale nel XIX secolo", a dispetto del tono irenista dell'articolo,è stato però cruento. Da professionista informatico guardo al contributo storico della mia categoria nel "contestare" la concentrazione industriale delle tecnologie informatiche. Nel 1975 i soci del "Club di Roma" fondato nel 1968 dall'industriale Aurelio Peccei constatarono la natura interconnessa di una serie di problemi globali. Incaricarono il cibernetico Hasan Özbekhan di una analisi che individuò alcune decine di problemi universali e suggerì di modellizzarli. Cosa che fu fatta nei due anni successivi da Jay Forrester (MIT) e Donatella Meadows che individuarono nello sviluppo esponenziale il meta-problema, senza risolvere il quale nessun singolo problema globale può essere risolto: fu il famoso rapporto sui /Limiti dello sviluppo /del 1972. A oltre 50 anni di distanza nessuno dei problemi originari è stato risolto, e lo sviluppo esponenziale è inarrestato. Nonostante le numerose critiche, i modelli non solo tengono, ma le previsioni originarie cadono ormai nell'esperienza vitale delle masse di tutto il mondo, aggravate dalle conseguenze climatiche allora impreviste. Il meglio della cibernetica in 50 anni non è riuscito ad intaccare un processo economico guidato dalla più cieca ed autodistruttiva avidità, e continua a non farlo. Le migliori menti informatiche delle ultime generazioni sono entusiasticamente invischiate nella soluzione di ben altri problemi, quali la generazione di filmati a partire da descrizioni testuali o la modellizzazione delle menti dei consumatori. Nessuna di queste applicazioni intaccano i problemi del mondo come l'abuso di risorse naturali, la disoccupazione o l'oppressione, anzi li aggravano in modo vistoso. Rifiutandosi di collaborare a questo processo diversi bravi professionisti abbandonano il loro posto di lavoro per motivi morali. Tra questi voglio ricordare anche l'amico Jacopo Pantaleoni, che ha lasciato il posto di Principal Research Scientist a Nvidia e di cui ho letto con piacere il libro "The Quickest Revolution", nel quale lancia il suo grido di allarme. Spero di essere smentito da qualche collega, ma non vedo da parte degli informatici né /moratorie/ né /obiezioni di coscienza/ a questa spirale autodistruttiva: il vorace appetito industriale si espande esponenzialmente, nonostante siano ben pochi quelli che se ne saziano, e chi lavora a sviluppare e diffondere queste tecnologie è sempre un membro rispettato della nostra società. Chi non è d'accordo può sempre cambiare lavoro. Con l'/obiezione di coscienza/ si reclama il diritto di continuare fare il proprio lavoro ma all'interno di confini morali nei quali potersi riconoscere. Con la /moratoria/ una categoria protegge la collettività dagli abusi e dalle conseguenze nefaste del proprio operato astenendosi da alcune applicazioni (come hanno fatto i biologi, ad esempio) e così facendo difende la propria reputazione. Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il compito di moderare le conseguenze dell'asservimento della cibernetica e dell'informatica alla distruttività industriale? Che tipo di realtà intermedia possiamo immaginare che adempia a questo compito storico? Che ruolo possono avere gli informatici? Alberto On 26 February 2024 17:32:23 CET, don Luca Peyron <dluca.universitari@gmail.com> wrote: Considerazioni interessanti, buona lettura dl https://michelekettmaier.nova100.ilsole24ore.com/2024/02/26/per-unintelligen... _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it <http://www.universitari.to.it> via XX settembre 83, Torino tel. 011 5156239
Buongiorno Alberto, Alberto Cammozzo via nexa <nexa@server-nexa.polito.it> writes:
Grazie della segnalazione. Articolo interessante e spunto di riflessione.
Certo che la c.d. intelligenza artificiale deve essere bene comune, lo deve essere come tutto il resto del software: software libero.
L'articolista, dopo aver constatato in modo dettagliato quanto squilibrato sia il mondo plasmato dalla tecnologia,
non è forse è la tecnologia a essere plasmata da "certo mondo", ma non andiamo OT Per andare direttamente a cuore del problema: lo squilibrio nel mondo NON dipende dalla tecnologia ma dalla "proprietà intellettuale", concetto /bislacco/ col quale si impedisce a tutti di poter *partecipare* liberamente allo sviluppo tecnologico (cioè a /come/ funziona la tecnologia); al massimo una forma assai *alienata* di partecipazione è /concessa/ a condizioni ristrettissime a coloro che lavorano come "funzionari civili", i quali si /limitano/ a fare solo "uso privato" della ragione [1] [...]
Rifiutandosi di collaborare a questo processo diversi bravi professionisti abbandonano il loro posto di lavoro per motivi morali.
Alcuni smettendo di scrivere software, altri dedicandosi a scrivere solo software libero e a cercare di spiegare al resto della società /perché/ il software, non solo l'AI, deve essere "bene comune". (Nota: comunque, questo NON basta a porre fine al dominio di alcuni umani su molti altri umani)
Tra questi voglio ricordare anche l'amico Jacopo Pantaleoni, che ha lasciato il posto di Principal Research Scientist a Nvidia e di cui ho letto con piacere il libro "The Quickest Revolution1", nel quale lancia il suo grido di allarme.
Se è per questo c'è stato anche chi si è suicidato, come Aaron Swartz Comunque non è detto che le attività che faranno la storia dell'informatica siano oggi svolte da persone famose (a volte famose loro malgrado)
Spero di essere smentito da qualche collega, ma non vedo da parte degli informatici né /moratorie/ né /obiezioni di coscienza/ a questa spirale autodistruttiva:
Lavorare solo per/con/a software libero vale come "obiezione di conscienza"? [...]
Con la /moratoria/ una categoria protegge la collettività dagli abusi e dalle conseguenze nefaste del proprio operato astenendosi da alcune applicazioni
Quali sarebbero le applicazioni software da sottoporre a moratoria? Io trovo molto più efficace, di diversi ordini di grandezza, fare in modo che chiunque possa /controllare/ il software che decide di eseguire sui propri dispositivi (NO, questo non basta a determinare un adeguato livello di pertecipazione dei cittadini, ma è /conditio sine qua non/).
(come hanno fatto i biologi, ad esempio)
Non ho capito: su cosa avrebbero fatto moratorie i biologi?
e così facendo difende la propria reputazione.
Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il compito di moderare le conseguenze dell'asservimento della cibernetica e dell'informatica alla distruttività industriale?
a chi spetta nominare l'«Autorità Garante della moderazione delle conseguenze...»?!? ;-) Nessuno verrà a salvarci. «La sovranità appartiene al popolo». ...e: --8<---------------cut here---------------start------------->8--- Tutti i cittadini hanno pari dignità sociale [cfr. XIV] e sono eguali davanti alla legge, senza distinzione di sesso [cfr. artt. 29 c. 2, 37 c. 1, 48 c. 1, 51 c. 1], di razza, di lingua [cfr. art. 6], di religione [cfr. artt. 8, 19], di opinioni politiche [cfr. art. 22], di condizioni personali e sociali. E` compito della Repubblica rimuovere gli ostacoli di ordine economico e sociale, che, limitando di fatto la libertà e l'eguaglianza dei cittadini, impediscono il pieno sviluppo della persona umana e l'effettiva partecipazione di tutti i lavoratori all'organizzazione politica, economica e sociale del Paese. --8<---------------cut here---------------end--------------->8--- che, in altre parole, significa che è compito del popolo rimuovere gli ostacoli... A meno che le costituzioni moderne siano solo una bella narrazione...
Che tipo di realtà intermedia possiamo immaginare che adempia a questo compito storico? Che ruolo possono avere gli informatici?
Diffondere capillarmente la cultura informatica (che è scienza e in quanto tale parte integrante della filosofia). [...] Saluti 380° [1] https://archiviomarini.sp.unipi.it/362/1/kant_7/ar01s04.html -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
Grazie per le domande. Rispondo in sintesi ai due argomenti: 1) quello sulle moratorie (su cosa avrebbero fatto moratorie i biologi? e quali sarebbero le applicazioni software da sottoporre a moratoria?) I biologi hanno convenuto da molto tempo di limitare la ricerca sul DNA ricombinante nel 1975, quella sulla clonazione umana nel 1997, e nel 2019 di non editare materiale genetico umano che possa essere ereditato (human germline genome editing - HGGE). In questo ultimo caso hanno considerato che per numerosi motivi “it would be irresponsible to proceed with any clinical use … unless and until (i) the relevant safety and efficacy issues have been resolved … and (ii) there is broad societal consensus about the appropriateness of the proposed application”.[1] Analogamente sottoporrei a moratoria ogni applicazione informatica che possa avere effetti estesi ed irreversibili e che possa potenzialmente causare gravi sofferenze alla persona umana in modo diretto o indiretto, anche attraverso lo stravolgimento dell'ambiente vitale o sociale, senza che la cosa sia adeguatamente analizzata. L'ambiente professionale informatico ha espresso più volte preoccupazioni analoghe a quelle dei biologi sulle più recenti applicazioni come le LLM buttate irresponsabilmente sul mercato, chiedendo però che fosse la parte politica a regolamentare ciò che avrebbe in primo luogo dovuto essere discusso responsabilmente tra esperti. Eppure la moratoria non è completamente aliena in ICT: alcune compagnie hanno in passato unilateralmente adottato moratorie su alcune tecnologie, come ad esempio Google sul riconoscimento facciale. Come mai l'ambiente scientifico informatico appare come decisamente meno responsabile di quello della ricerca biologica? 2) quello sul free software (se lavorare solo per/con/a software libero vale come "obiezione di coscienza" e se non è più efficace il controllo dei cittadini sui propri dispositivi che una moratoria?) Il F/OSS è un modello di licenza, e per quanto abbia un profondo impatto sul modello di sviluppo e di business, non è un modello etico che possa influenzare la giustizia o la sostenibilità delle applicazioni sviluppate, che sarebbe invece lo scopo dell'obiezione di coscienza. "The freedom to run the program as you wish, for any purpose":per sua natura non discrimina gli scopi per i quali viene usato, per esempio un uso bellico. Prova è chelo stack free è alla base delle principali piattaforme, anche le più oppressive. Per lo stesso motivo il controllo dei cittadini sui propri dispositivi può liberarli dal lock-in e dai tanti mali del software proprietario ma non li libera dal controllo esercitato tramite essi. Saluti, Alberto [1] Lander, E. S., Baylis, F., Zhang, F., Charpentier, E., Berg, P., Bourgain, C., … Winnacker, E.-L. (2019). /Adopt a moratorium on heritable genome editing. Nature, 567(7747), 165–168./ doi:10.1038/d41586-019-00726-5 On 27/02/24 15:18, 380° wrote:
Buongiorno Alberto,
Alberto Cammozzo via nexa<nexa@server-nexa.polito.it> writes:
Grazie della segnalazione. Articolo interessante e spunto di riflessione. Certo che la c.d. intelligenza artificiale deve essere bene comune, lo deve essere come tutto il resto del software: software libero.
L'articolista, dopo aver constatato in modo dettagliato quanto squilibrato sia il mondo plasmato dalla tecnologia, non è forse è la tecnologia a essere plasmata da "certo mondo", ma non andiamo OT
Per andare direttamente a cuore del problema: lo squilibrio nel mondo NON dipende dalla tecnologia ma dalla "proprietà intellettuale", concetto /bislacco/ col quale si impedisce a tutti di poter *partecipare* liberamente allo sviluppo tecnologico (cioè a /come/ funziona la tecnologia); al massimo una forma assai *alienata* di partecipazione è /concessa/ a condizioni ristrettissime a coloro che lavorano come "funzionari civili", i quali si /limitano/ a fare solo "uso privato" della ragione [1]
[...]
Rifiutandosi di collaborare a questo processo diversi bravi professionisti abbandonano il loro posto di lavoro per motivi morali. Alcuni smettendo di scrivere software, altri dedicandosi a scrivere solo software libero e a cercare di spiegare al resto della società /perché/ il software, non solo l'AI, deve essere "bene comune".
(Nota: comunque, questo NON basta a porre fine al dominio di alcuni umani su molti altri umani)
Tra questi voglio ricordare anche l'amico Jacopo Pantaleoni, che ha lasciato il posto di Principal Research Scientist a Nvidia e di cui ho letto con piacere il libro "The Quickest Revolution1", nel quale lancia il suo grido di allarme. Se è per questo c'è stato anche chi si è suicidato, come Aaron Swartz
Comunque non è detto che le attività che faranno la storia dell'informatica siano oggi svolte da persone famose (a volte famose loro malgrado)
Spero di essere smentito da qualche collega, ma non vedo da parte degli informatici né /moratorie/ né /obiezioni di coscienza/ a questa spirale autodistruttiva: Lavorare solo per/con/a software libero vale come "obiezione di conscienza"?
[...]
Con la /moratoria/ una categoria protegge la collettività dagli abusi e dalle conseguenze nefaste del proprio operato astenendosi da alcune applicazioni Quali sarebbero le applicazioni software da sottoporre a moratoria?
Io trovo molto più efficace, di diversi ordini di grandezza, fare in modo che chiunque possa /controllare/ il software che decide di eseguire sui propri dispositivi (NO, questo non basta a determinare un adeguato livello di pertecipazione dei cittadini, ma è /conditio sine qua non/).
(come hanno fatto i biologi, ad esempio) Non ho capito: su cosa avrebbero fatto moratorie i biologi?
e così facendo difende la propria reputazione.
Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il compito di moderare le conseguenze dell'asservimento della cibernetica e dell'informatica alla distruttività industriale? a chi spetta nominare l'«Autorità Garante della moderazione delle conseguenze...»?!? ;-)
Nessuno verrà a salvarci.
«La sovranità appartiene al popolo».
...e:
--8<---------------cut here---------------start------------->8--- Tutti i cittadini hanno pari dignità sociale [cfr. XIV] e sono eguali davanti alla legge, senza distinzione di sesso [cfr. artt. 29 c. 2, 37 c. 1, 48 c. 1, 51 c. 1], di razza, di lingua [cfr. art. 6], di religione [cfr. artt. 8, 19], di opinioni politiche [cfr. art. 22], di condizioni personali e sociali.
E` compito della Repubblica rimuovere gli ostacoli di ordine economico e sociale, che, limitando di fatto la libertà e l'eguaglianza dei cittadini, impediscono il pieno sviluppo della persona umana e l'effettiva partecipazione di tutti i lavoratori all'organizzazione politica, economica e sociale del Paese. --8<---------------cut here---------------end--------------->8---
che, in altre parole, significa che è compito del popolo rimuovere gli ostacoli...
A meno che le costituzioni moderne siano solo una bella narrazione...
Che tipo di realtà intermedia possiamo immaginare che adempia a questo compito storico? Che ruolo possono avere gli informatici? Diffondere capillarmente la cultura informatica (che è scienza e in quanto tale parte integrante della filosofia).
[...]
Saluti 380°
[1]https://archiviomarini.sp.unipi.it/362/1/kant_7/ar01s04.html
Ciao Alberto Il 27 Febbraio 2024 12:31:40 CET, Alberto Cammozzo via nexa ha scritto:
Il processo che ha portato a "modificarele strutture di potere sociale nel XIX secolo", a dispetto del tono irenista dell'articolo,è stato però cruento.
Temo che la finestra temporale per approcci non cruenti si stia rapidamente chiudendo. La favola dell'autoregolamentazione dell'industria si basa su ragionamenti simili a quelli che descrivi (applicati non dai singoli informatici ma dalle aziende di cui costituiscono l'unico vero asset produttivo). E non funziona. Perché? Perché quando funziona davvero, finisci come Mario Tchou.
Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il compito di moderare le conseguenze dell'asservimento della cibernetica e dell'informatica alla distruttività industriale? Che tipo di realtà intermedia possiamo immaginare che adempia a questo compito storico? Che ruolo possono avere gli informatici?
Ruoli ispirati a grandi hacker come Phineas Fisher. Giacomo
participants (4)
-
380° -
Alberto Cammozzo -
don Luca Peyron -
Giacomo Tesio