la tecnologia comanda il mondo (Giuseppe Attardi)
Nell'oggetto ho sintetizzato l'opinione di Giuseppe Attardi - lun 11 set 2023 nexa Digest, Vol 173, Issue 12 -, suoi i meriti, mia la responsabilità della sintesi. Condivido totalissimamente: qui l'enfasi è voluta, con altre parole è quanto scrive Pierluigi Contucci - https://www.rivistailmulino.it/a/ia-perch-difficile-da-disciplinare? -: "" dobbiamo ancora capire la natura delle relazioni con la nuova intrusa, tra IA e noi, tra IA e le macchine nella moderna robotica e presto dovremo pensare anche a come gestire le relazioni tra le varie IA. Oltre a far sì che l'IA si allinei alla nostra etica è opportuno cercare di capire come e dove distribuire la responsabilità dell’operato di ognuno e identificare metodi innovativi per assicurarci il buon funzionamento di queste nuove entità diverse da noi ma non più semplici strumenti."" Il rischio che temo è che l'animale umano diventi sempre più semplice strumento: come capire ciò che (forse) non si può capire? Forse dobbiamo ripensare Protagora: l'uomo è la misura di tutte le cose? A me, ultaottantenne, importa poco ... Grazie e cari auguri. Duccio (Alessandro Marzocchi)
Caro Alessandro, grazie per la domanda che poni. Anche io mi sono spesso crucciato su quello che definisci il 'rischio che l'animale umano diventi semplice strumento'. Ho trovato riflessioni utili nel noto saggio "La convivialità" di Ivan Illich del 1973. Pur affrontando i grandi sistemi socio-tecnici industriali del secolo scorso senza toccare direttamente l'informatizzazione, resta quanto mai attuale. Uno dei punti più interessanti della sua analisi è l'osservazione che "quando l'attività umana esplicata mediante strumenti supera una certa soglia definita dalla sua scala specifica, dapprima si rivolge contro il proprio scopo, poi minaccia di distruggere il corpo sociale". Per cui ogni strumento tecnico ha una specifica soglia di impiego superata la quale non solo smette di produrre benefici collettivi (diventa /inefficiente/), ma tende a danneggiare la società (diventa /iniquo/). Entro la soglia, lo strumento è padroneggiabile, mantiene un valore etico e resta trasparente: garantisce la capacità di ciascuno di modellare il proprio avvenire e ciascuno può usarlo senza ledere l'altrui libertà di fare altrettanto. Oltre la soglia, lo strumento diventa dominante, oscuro e prevale il valore tecnico su quello etico: fa parte di una 'megamacchina per produrre il futuro', crea disparità di energia e potere (oggi aggiungeremmo di informazione); l'uomo è costretto ad agire secondo il ritmo dello strumento 'ragionato da altri e spesso sfuggito dalle mani di tutti'. Per Illich occorre ricercare un equilibrio che garantisca sia sopravvivenza che equità, che conservi ambiente, autonomia umana, tradizione, diritto, linguaggio. Cercare l'equilibrio non significa ridurre la complessità degli strumenti e quindi tornare a strumenti primitivi, ma tarare la scala del loro impiego e dello sfruttamento ad essi connesso. Infatti lo strumento complesso non necessariamente supera la soglia di dominanza: Illich fa l'esempio del telefono e delle poste, che pur complessi restano entro la scala. Altri (ad esempio la medicina e il sistema dei trasporti automobilistici) la superano. Conclude che lo 'strumento conviviale', cioè quello che genera efficienza senza degradare l'uomo e l'ambiente, non produce schiavi o padroni: "l'uomo ha bisogno di uno strumento con cui lavorare, non di un'attrezzatura che lavori al posto suo". Tradurre la lezione di Illich in un contesto storico, industriale, culturale odierno è una sfida complessa. Credo che Illich eviterebbe di condannare tale o tal altra tecnologia /per se/, ma cercherebbe di metterla in relazione con la scala del suo impiego e richiederebbe di delimitarne l'impiego. Resta aperto il problema se gli strumenti informatici possano mai essere 'conviviali'. Come ha sottolineato Attardi nel messaggio che citi, la tecnologia informatica ha una intrinseca capacità di imporsi e di beneficiare di economie di scala. Inoltre ha una formidabile versatilità e quindi gode delle economie di gamma che rendono impossibile confinarne l'impiego in uno specifico ambito. Per cui sono pessimista [1]. Ammesso e non concesso che siano possibile strumenti di una informatica conviviale, sono certo che sia indispensabile la loro trasparenza, sia tecnica (tecnologie libere, dati accessibili), che cognitiva (competenza informatica diffusa), che del modello di business (ad esempio regolare la separazione tra /utente-materia prima/ e /cliente-inserzionista pagante/ tipico del surveillance capitalism). Ma tutto questo significa mettere in discussione il modello industriale e neo-liberista egemone. Forse la domanda va riformulata come: 'nella società industriale attuale è possibile che l'animale umano non diventi semplice strumento?' Un caro saluto Alberto [1]: sulla questione della convivialità dell'informatica in lista Nexa abbiamo parlato il 08/10/19 nel thread 'Re: [nexa] IMA - Internet, Mon Amour'. Per Karlessi <<senz'altro "informatica conviviale" è un ossimoro>>. Non riesco a dargli torto. Nel frattempo è stato pubblicato un volume "Tecnologie Conviviali" di Carlo Milani per Eleuthera, che tenta di affrontare l'argomento. On 11/09/23 16:29, alessandro marzocchi wrote:
Nell'oggetto ho sintetizzato l'opinione di Giuseppe Attardi - lun 11 set 2023 nexa Digest, Vol 173, Issue 12 -, suoi i meriti, mia la responsabilità della sintesi. Condivido totalissimamente: qui l'enfasi è voluta, con altre parole è quanto scrive Pierluigi Contucci - https://www.rivistailmulino.it/a/ia-perch-difficile-da-disciplinare? -: "" dobbiamo ancora capire la natura delle relazioni con la nuova intrusa, tra IA e noi, tra IA e le macchine nella moderna robotica e presto dovremo pensare anche a come gestire le relazioni tra le varie IA. Oltre a far sì che l'IA si allinei alla nostra etica è opportuno cercare di capire come e dove distribuire la responsabilità dell’operato di ognuno e identificare metodi innovativi per assicurarci il buon funzionamento di queste nuove entità diverse da noi ma non più semplici strumenti."" Il rischio che temo è che l'animale umano diventi sempre più semplice strumento: come capire ciò che (forse) non si può capire? Forse dobbiamo ripensare Protagora: l'uomo è la misura di tutte le cose? A me, ultaottantenne, importa poco ... Grazie e cari auguri. Duccio (Alessandro Marzocchi)
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Salve Alberto e Alessandro, Il 14 Settembre 2023 10:38:36 UTC, Alberto Cammozzo ha scritto:
grazie per la domanda che poni. Anche io mi sono spesso crucciato su quello che definisci il 'rischio che l'animale umano diventi semplice strumento'.
Attenzione: non si tratta di un rischio ma di un obiettivo programmatico perseguito da una pericolosissima (e microscopica) minoranza contro il resto dell'umanità. Una minoranza piuttosto esplicita, peraltro, che finanzia la propaganda longternista e transumanista nella speranza di convincere le persone "inutili" a suicidarsi per essere sostituite da una "immortale" simulazione software. [1] La probabilità che abbiano successo dipende direttamente dalla nostra incapacità di riconoscere questo obiettivo e gli strumenti che utilizzano per perseguirlo, opporci ad esso in ogni modo possibile. La cattura del regolatore, il materialismo, l'utilitarismo... il capitalismo stesso non sono che uno strumenti (efficacissimi) di questa riduzione della persona a strumento. Ogni volta che riescono a convincere un idiota di essere solo una macchina complessa prodotta dalla selezione naturale... ogni volta che riescono a convincere qualche idiota che un software programmato statisticamente del cui output nessuno vuole rispondere è "intelligente"... ...questa pericolosa minoranza si avvicina alla vittoria.
Forse la domanda va riformulata come: 'nella società industriale attuale è possibile che l'animale umano non diventi semplice strumento?'
Io proporrei invece: quale società cibernetica dobbiamo costruire affinché nessun essere umano possa essere ridotto a strumento altrui. Quali agenti cibernetici automatici ci servono per realizzarla? Limitarsi ad un modello di "società industriale" (o anche di società finanziaria o finanche di capitalismo) esclude dall'analisi le dimensioni fondamentali, i concetti necessari a descrivere il sistema in modo attinente. E questo fornisce un vantaggio insuperabile a chi vuole imporre un modello di società cibernetica oppressiva.
[1]: sulla questione della convivialità dell'informatica in lista Nexa abbiamo parlato il 08/10/19 nel thread 'Re: [nexa] IMA - Internet, Mon Amour'. Per Karlessi <<senz'altro "informatica conviviale" è un ossimoro>>. Non riesco a dargli torto.
Forse perché ho usato di recente Oberon [2] ancor più che per aver lavorato alcuni anni a Jehanne [3] ed aver seguito attentamente lo sviluppo di 9front [4] non posso che essere in assoluto disaccordo. L'informatica conviviale è possibile. Il suo controllo va semplicemente sottratto a chi se ne è artificiosamente appropriato. Tempo fa discutevo con Enrico Nardelli sulla possibilità per la scuola pubblica di fornire agli studenti una piena cittadinanza cibernetica, ovvero una comprensione sufficiente a scrivere il proprio sistema operativo entro la fine delle superiori. Secondo Enrico, in estrema sintesi, è impossibile. Dopo aver riletto il libro di Wirth su Oberon (sempre in [2]) credo che potrei dimostrargli il contrario in qualsiasi liceo. Partendo dal sistema di Wirth in un paio di anni uomo [5] si potrebbe facilmente aggiungere multi-processing, crittografia e un filesystem gerarchico componibile (alla Plan9 per intenderci) ottenendo un sistema operativo moderno, democratico e conviviale. [6] Basterebbero poche tesi di laurea per tirar su ciò che manca e servirebbe davvero... 9front e la comunità di cat-v costituiscono un altro controesempio: si tratta di un sistema operativo tecnicamente superbo, talmente innovativo da essere sistematicamente copiato dai sistemi mainstream, eppure conviviale per la comunità che lo utilizza (cat-v, appunto [7]) Anche per 9front esistono diversi testi che potrebbero essere utilizzati a scuola per insegnarne il funzionamento ed il design. Ad esempio gli ottimi testi del Professor Ballesteros [8] [9]. D'altro canto Plan 9 (e di conseguenza anche 9front e persino Jehanne) soffrono dell'alone di mistico esoterismo tipico dei sistemi derivati da Unix, caratterizzato da parole "magiche" come grep, awk, cat, rc etc... D'altronde qualcuno potrebbe ingenuamente pensare che poiché gli utenti Plan9 sono tutti informatici competenti, qualunque sistema sarebbe "conviviale" per loro. Si tratterebbe di una intuizione solo parzialmente corretta: - certamente qualsiasi informatico competente preferirebbe Plan 9 ai sistemi operativi mainstream (il che la dice purtroppo lunga sulla scarsità di informatici competenti in questi tempi oscuri) - ma la ragione per cui tanti informatici competenti approdano su sistemi come 9front è proprio la frustrazione di fronte a sistemi artificiosamente complicati che li trattano come mentecatti. Gli hacker di 9front si rigirano il sistema come un calzino, rimodellandone il filesystem e combinando in pochi secondi elaborazioni locali e remote con una flessibilità che gli esperti del "cloud" nemmeno possono immaginare. E questi sono solo due esempi. Esempi che faranno sorridere con sufficienza i più ignoranti. In questi giorni ho scoperto che in Russia, Oberon, nato in Svizzera ma doverosamente rimosso dalle colonie europee, continua ad andare alla grande [10] (così come i linguaggi derivati dal Pascal). Insomma... l'informatica può essere conviviale. Basta smettere di medicarla dagli USA e RICOMINCIARE a farla. Giacomo [1] Una propaganda che appare ridicola a chiunque abbia una minima comprensione di cosa sia un software e chi decida l'algoritmo di scheduling. [2] http://projectoberon.net/ https://archive.org/details/projectoberon2013/PO.System/ [3] http://jehanne.h--k.it/ [4] https://9front.org/ [5] una bazzecola per un progetto software. [6] non ci girerebbero Google Chrome o Google Firefox ovviamente, sostituiti da applicazioni e protocolli tecnicamente superiori perché più semplici e progettati nell'interesse delle persone che li usano, non di chi vuole usare quelle persone (ridotte sarcasticamente ad "utenti"). [7] http://cat-v.org/ Irc: #cat-v on irc.oftc.net Mailing list: echo subscribe | mail cat-v-owner@cat-v.org [8] http://plan9.stanleylieber.com/_books/comp/plan9/Notes.On.The.Plan.9.3rd.Edi... (purtroppo riferito ad una versione precedente del kernel) [9] http://plan9.stanleylieber.com/_books/comp/plan9/Introduction.To.OS.Abstract... [10] https://free.oberon.org/ https://oberoncore.ru/oberonday
participants (3)
-
Alberto Cammozzo -
alessandro marzocchi -
Giacomo Tesio