Salve, Scusate il doppio invio, ma temo che a causa di un errore di configurazione di uno dei miei mail user agent che ho appena notato, questa mail possa essere stata visualizzata in modo errato da mail user agent francamente limitanti come Outlook o GMail. Vi era infatti allegata stata una bozza assolutamente preliminare in HTML che, per come funzionano certi software chiaramente fallati, nasconde completamente il testo semplice che carattarizzava il vero contenuto del messaggio che intendevo condividere. Mi scuso con chi, usando un client più serio, l'avesse già letta: non vi ho aggiunto nulla. Rispondevo a Giulio, che aveva condiviso l'intervista, ma ovviamente i miei ringraziamenti vanno anche a Stefano, che non era ancora intervenuto nel thread quando avevo iniziato la stesura. Giacomo PS è comunque sempre una buona occasione per suggerire a tutti di evitare come la peste sia Outlook che GMail! :-p ______ Grazie Giulio, Il 8 Aprile 2023 07:59:53 UTC, de petra giulio ha scritto:
Intervistato e intervistatore entrambi nexiani
https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/
Ottima analisi economico-finanziaria, perfettamente complementare all'analisi cibernetica (e dunque politica, storica e culturale) che potrebbe offrire, ad esempio, un hacker. Ad esempio, ad un'analisi cibernetica, non sarebbe sfuggito un'altra funzione fondamentale dei tanti licenziamenti recenti: il messaggio forte e chiaro ai lavoratori che dovessero anche solo pensare di aderire ai nascenti movimenti sindacali fra le Big Tech. Sindacati come Alphabet Workers Union o Amazon Labor Union, sono ancora interamente ed inevitabilmente influenzati dalla cultura pseudo-futurista e proto-fascista che caratterizza le loro aziende e la loro propaganda sulle magnifiche sorti e progressive. [1] Ma nonostante questo, nonostante la strutturale debolezza che tale cultura rappresenta per qualsiasi speranza di syn dike, di stare insieme con giustizia, la loro stessa esistenza terrorizza le persone che stano a capo di queste aziende. E' un terrore atavico che Robert Noyce, co-fondatore di Intel, sintetizzo magistralmente ben prima della nascita dei GAFAM: "remaining non-union is an essential for survival for most of our companies. If we had the work rules that unionized companies have, we'd all go out of business. This is a very high priority for management here. We have to retain flexibility in operating our companies. The great hope for our nation is to avoid those deep, deep divisions between workers and management which can paralyze action." [2] Anche Noyce si curava di non menzionare un conflitto fra capitalisti e lavoratori, ma parla di "divisioni fra lavoratori e management", usando come proxy verso i lavoratori, altri lavoratori (i manager) premiati con migliori remunerazioni proprio per il loro allineamento alla politica di chi l'azienda la possiede. Da una prospettiva cibernetica, queste migliaia di licenziamenti hanno dunque una funzione evidente: inviare a tutti i lavoratori presenti e futuri un messaggio forte e chiaro, un messaggio intimidatorio "non pensateci nemmeno! o perderete il vostro lavoro". Si tratta di un messaggio broadcast che avrà una forte influenza sull'evoluzione della società cibernetica globale in cui queste aziende operano. Ma che ovviamente risulta invisibile ad una prospettiva meramente economico-finanziaria. Splendido poi l'esempio emblematico posto da Stefano in conclusione: ``` Giulio De Petra: Auspichi un CERN della IA che renda disponibile alle aziende quantità di dati e capacità di calcolo adeguati. Ma anche le applicazioni della IA avranno conseguenze sociali? Stefano Quintarelli: Ti rispondo con un esempio. Se tu sei un medico e usi un sistema di intelligenza artificiale per fare una diagnosi e sei in disaccordo con quello che ti suggerisce il sistema hai comunque un incentivo a uniformarti alla diagnosi del sistema, perché se poi il tuo paziente muore puoi dire che anche il sistema di IA aveva confermato la tua analisi. Viceversa, se tu, essendo in disaccordo col sistema, privilegi la tua opinione e non confermi la diagnosi della IA, e poi il paziente muore per la tua diagnosi sbagliata, ti imputeranno di aver perseverato nella tua idea anche se il sistema aveva formulato una diagnosi diversa. Questo è un incentivo a diminuire la centralità umana nella decisione. E in alcuni ambiti questo può essere pericoloso. Come si fa a diminuire questa conseguenza sociale negativa nell’uso della IA? Bisogna progettare il sistema in modo tale che, quando formula una predizione, ogni tanto, casualmente, la predizione viene cambiata di segno. In questo modo, nel nostro esempio, il medico sa che non si può più fidare del sistema di IA. La macchina può fare il 90% del lavoro, ma poi sei tu che devi prendere una decisione, perché è sicuro che la macchina potrebbe anche dirti il falso. ``` L'esempio è straordinariamente azzeccato per indicare le conseguenze fatali che l'alienazione cibernetica può avere su individui e società. Evidenzia chiaramente la funzione di capro espiatorio dello "human in the loop" [3] la cui funzione consiste essenzialmente nello schermare gli "humans behind the machine" da qualsiasi responsabilità legale per i danni prodotti, venduti come "esternalità negative inevitabili". Evidenzia anche chiaramente la trappola cognitiva in cui si trova chi interpreta l'output prodotti da software programmati statisticamente [4] come "diagnosi" o come "decisioni". Quello che Stefano descrive come "un incentivo a uniformarti alla diagnosi del sistema" è in realtà uno strumento di alienazione cibernetica che agisce ancor prima dell'interazione con il software: il medico che interpreti come "diagnosi" l'output di un simile software è già alienato ed è già inadeguato a lavorare come medico. Ma d'altro canto, il software che produca come output qualcosa di anche lontanamente interpretabile come diagnosi (o ancor peggio, come suggerimento terapeutico) è progettato per alienare medico, paziente, familiari del paziente morto, magistratura e società tutta, riducendo i gradi di libertà del sistema e rendendo prevedibile la sua evoluzione, affinché minimizzi i rischi e le responsabilità per i proprietari dell'azienda che lo distribuisce. Senza considerare, ovviamente, che le risorse necessarie per eseguire software programmati statisticamente come è già GPT4 e saranno i suoi futuri sfidanti, rendono tali sistemi inevitabilmente centralizzati (tanto che Stefano auspica appunto un "CERN dell'IA" per dotare anche l'Europa del proprio ChatGPT) Tale centralizzazione li rente inevitabilmente single point of failure non solo in termini strategico militari, ma in termini cibernetici: sarà sufficiente alterare alla bisogna la programmazione di uno di questi "generatori di diagnosi mediche" per far sterminare a inconsapevoli "medici in the loop" intere popolazioni. Senza che nessuno se ne accorga. L'esempio finale di Stefano è però illuminante anche perché mostra i limiti inevitabili della prospettiva economica-finanziaria a cavallo del cambio di paradigma in corso. A fronte di un sistema tecnologico strutturalmente dannoso e che nessuno ci obbliga ad adottare o permettere, la soluzione proposta è, di nuovo, ingenuamente tecnologica. Basta che "ogni tanto, casualmente, la predizione viene cambiata di segno". E' questo un limite strutturale ed invalicabile dei modelli economici: la riduzione di qualsiasi sistema ad un valore scalare, un numero cui possiamo, eventualmente, cambiare di segno. Tutta la complessità multidimensionale della medicina, che deve tener conto della realtà del paziente, delle sue risorse cognitive nel seguire la terapia (e talvolta persino nell'accettare la malattia come tale, che si tratti di una psicosi o di un tumore), delle sue possibilità economiche, del supporto sociale e familiare che può o non può sostenerlo, delle interazioni fra farmaci che in quello specifico paziente si sono verificate in passato etc.. etc.. etc.. viene ridotta ad una "diagnosi" cui è possibile cambiare di segno. Ok, cambiamo di segno al vettore in output. Ma rispetto a quale delle decine di dimensioni rilevanti per quello specifico paziente e di cui un buon medico tiene conto ogni giorno? E come sapremo, dopo la morte del paziente, se il medico che ha confermato la "diagnosi" del software, si è trovato di fronte un output cambiato di segno? Lo chiediamo alla società produttrice? :-D L'enorme complessità del reale è comprensibile per informatici (o quanto meno per hacker, ovvero cittadini cibernetici) abituati a sviluppare e debuggare sistemi estremamente complessi che gestiscono processi complessi di cui non si possono permettere di ridurre la dimensionalità ad uno scalare. Questo costituisce certamente un vantaggio cognitivo, ma si trasforma rapidamente in una sorta di maledizione di Cassandra. Come rendere consapevoli dei limiti di un modello persone in buona fede che credono fermamente nella sua adeguatezza ad un mondo totalmente diverso da quello in cui tale modello è stato realizzato? Ai ragazzi io suggerisco di contare gli agenti cibernetici in esecuzione sul proprio cellulare e di appuntare, di ciascuno, i permessi categorizzandoli in sensori ed attuatori. Poi suggerisco di fare particolare attenzione al permesso di accedere alla rete, per valutare se il controllore dell'agente in questione sia effettivamente sul cellulare, o si trovi presso server di terzi. E ovviamente, oltre alle App di cui sono consapevoli, chiedo di fare lo stesso lavoro con tutte quelle di sistema. Si rendono rapidamente conto di portarsi in tasca oltre 3-400 agenti cibernetici, per la maggioranza etero guidati, che ne sorvegliano ogni azione e che condizionano attenzione e comportamenti. Ma con gli adulti è più complesso. Dopo decenni di egemonia culturale del capitalismo iper-liberista statunitense, la riduzione di tutto a scalari è penetrata in profondità nelle menti delle persone. Come uscirne? Come riprendere consapevolezza della complessità del reale? Come trasformare l'homo economicus in cittadino cibernetico? Come riprenderci la storia, la politica e la cultura reimparando tutti insieme a concepire una realtà multidimensionale complessa non più riducibile a prezzo e costo, domande e offerta, lavoro e capitale? Basterà imparare TUTTI a programmare, partecipando a quel complesso dibattito pubblico eseguibile su scala planetaria che è lo sviluppo del software libero? Basterà imparare TUTTI ad usare i computer per quello che sono, ovvero specchi per la mente umana che li programma? Tutto questo è tragicamente necessario, ma sarà sufficiente? Giacomo [1]: sempre in una prospettiva cibernetica, basta guardare al logo scelto da Alphabet Workers Union per rilevare quanto marginale sia l'uomo rispetto alle macchine (che lo compenetrano letteralmente nella mano che le impugna) https://upload.wikimedia.org/wikipedia/en/f/f3/Alphabet_Workers_Union_Logo_-... [2]: http://dbacon.igc.org/Unions/04hitec2.htm [3]: alcuni esempi concreti di questo fenomeno narrativo, effettivamente accaduti, sono riportati nell'ottimo articolo di Daniela Tafani https://commentbfp.sp.unipi.it/letica-come-specchietto-per-le-allodole/ cui mi sento di aggiungere, per la drammaticità delle conseguenze, l'omicidio di Elaine Herzberg da parte di Uber nel 2018, la cui responsabilità è stata scaricata sul povero passeggero, Rafaela Vasquez, le cui inevitabili distrazioni erano ovviamente già state osservate e misurate da Uber durante le corse precedenti: https://en.wikipedia.org/wiki/Death_of_Elaine_Herzberg [4]: output che di per sé non hanno nemmeno una semantica probabilistica ma sono approssimazioni grossolane delle relazioni fra le probabilità di proposizioni selezionate da chi ha programmato quel software. selezione che di per sé stessa riduce enormemente lo spazio di possibilità del reale secondo i bias e gli interessi di chi effettua la programmazione statistica.