- nexa - server-nexa.polito.it

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Perdonami Giuseppe, ma l'evoluzione esatta di un sistema complesso non è computabile. Invece l'output esatto di un LLM viene calcolato da chiunque lo esegua sul "motore inferenziale" preposto. Dunque sventolare il concetto di "sistema complesso" per descrivere un software di cui è possibile conoscere (al netto dei segreti industriali) e riprodurre ogni singola operazione è scientificamente discutibile. Siamo lontanissimi dal problema di conoscere e modellare lo stato di moto e la posizione di ogni singolo atomo di un gas e semplicemente perché, contrariamente ai gas, gli LLM sono software eseguibili. Inoltre la questione qui non è la modellabilità del comportamento del sistema, che come detto è perfettamente calcolabile (e calcolata milioni di volte al giorno) per i LLM, bensì di descrivere il _significato_ di tale evoluzione. L'irrilevanza dei sistemi complessi è tutta qui. Un comportamento emergente non è un significato. Gli atomi di un gas non compiono una danza nella speranza di comunicarci un messaggio. Dunque la temperatura di un gas, pur essendo un comportamento emergente del loro movimento, non costituisce il significato del movimento dei suoi atomi, ma solo una misurazione utile delle sue proprietà attuali. Nello stesso modo anche se i LLM fossero sistemi complessi (e non lo sono) ed esibissero comportamenti emergenti (cosa impossibile da verificare scientificamente senza conoscere precisamente tutti i testi sorgente usati per programmarli), tali comportamenti non rivelerebbero il significato del loro output. Analizzando l'attivazione dei vari nodi del processo di "inferenza" non potremo mai rispondere alla domanda "perché a fronte dell'input X è stato prodotto l'output Y?", ma solo alla domanda "come è stato calcolato l'output Y a fonte dell'input X?". Dunque sistemi complessi o meno, non imparano, non conoscono e non capiscono alcunché. Non sono intelligenti. E non nel senso che non lo sono come un essere umano, non imparano, non conoscono e non capiscono come un essere umano. Non fanno queste cose in alcun modo. Quando Antropic arriva a scrivere: > These numbers in the middle are called activations—and like neural > activity in the human brain, they encode Claude’s thoughts. sta facendo banale disinformazione. Definire "pensiero" moltiplicazioni fra matrici e trasformazioni non lineari reversibili è ridicolo. Paragonarle alle attività del cervello umano è privo di qualsiasi fondamento scientifico. Anche perché esiste una spiegazione molto più semplice dell'output di questi software: l'estrazione da un archivio compresso con perdita. Il processo di estrazione da questo archivio non è banale ed è certamente notevole dal punto di vista ingegneristico. E sebbene l'output di questi software costituisca semplici lorem ipsum a tema, ne apprezzo moltissimo l'ingenuità (sebbene ciò non giustifichi rischi geopolitici e costi sociali ed ecologici del loro utilizzo). Ma lorem ipsum [1] rimangono! Quanto al resto: > siccome il risultato dipende da milioni di interazioni tra i neuroni > della rete, non abbiamo un modo semplice di spiegare il risultato. Parlare di "neuroni" è errato e fuorviante. Così come è errato e fuorviante parlare di "interazioni", visto che si tratta di operazioni fra matrici. Come è errato e fuorviante parlare di "senso" catturato dagli embeddings (su questo concordo con Guido). Parlare di > “rappresentazione multisfaccettata dell’uso, delle similitudini e di > altri aspetti del significato delle parole” è già molto meglio, anche se sarebbe più preciso parlare di proiezione _approssimata_ della relazione di sequenzialità fra le parole presenti nei testi sorgente su un sistema di assi _arbitrario_ determinato statisticamente. Giacomo [1] https://it.wikipedia.org/wiki/Lorem_ipsum

May 10, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Caro Andrea, On Fri, 8 May 2026 15:39:22 +0200 Andrea Bolioli wrote: > eh, sono in parte d'accordo con te Giacomo, ma se entriamo nel tema > "semantica" non ne usciamo più... :-) per quanto stretta e scomoda, è una strada necessaria. La mail che stai leggendo è una rappresentazione simbolica di un'informazione nella mia mente: un'esperienza soggettiva di pensiero comunicabile che cerco di esprimere e trasmetterti perché tu ne possa vedere i simboli ed interpretarli, riproducendo tale esperienza nella tua mente. [1] Le parole di questa mail sono legate da relazioni semantiche: ogni parola viene scelta per contribuire alla trasmissione delle informazioni nella mia mente che intendo trasmettere. Non rileva molto, in realtà, che tali informazioni siano o meno derivate da esperienze sensibili (non concordo particolarmente con Enrico sulla rilevanza dell'esperienza corporea nel contesto delle "intelligenze artificiali", anche perché non è difficile collegare a questi software sensori e attuatori). Molto più rilevante è la relazione fra l'informazione nella mia mente (l'esperienza di pensiero comunicabile che intendo comunicare) e le parole che scelgo, in modo auspicabilmente adeguato, per trasmetterla. L'output di un LLM invece non ha alcun significato. I token estrati dal modello a partire dal prompt non sono legati da relazioni semantiche, ma statistiche. [2] Nessuna mente sta cercando di esprimere l'esperienza soggettiva di un pensiero comunicabile. I processi di attivazione degli strati finali della vector mapping machine (impropriamente detta "rete neurale arficiale") sono "difficili da interpretare" (per usare le parole di Giuseppe Attardi) semplicemente perché non hanno alcun significato intrinseco [3] e dunque non c'è nulla da interpretare. Il problema fondamentale è che chi non comprende il funzionamento di questi software attribuisce un significato al loro output, attribuendo alle parole relazioni semantiche invece che statistiche. Se usi un LLM come archivio compresso con perdita, può essere utile. Ad esempio, puoi estrarre da Claude o da Copilot il codice dei tuoi concorrenti che lo usano (fornendo loro in cambio accesso al tuo). O puoi ottenere lorem ipsum a tema per il prototipo del sito web di un cliente per praticamente qualsiasi ambito commerciale. Ma se lo confondi con un interlocutore, con un "AI peer programmer" (vedi marketing di GitHub CopyALot o Claude), sei vittima di un inganno. Giacomo [1] Infatti, contrariamente ad un protocollo software che permette il trasferimento (più propriamente, la copia) di un dato fra dispositivi diversi, il linguaggio non determina una trasferimento di informazione (che essendo esperienza soggettiva, non lascia mai la mente di chi la esperisce) ma solo una sincronizzazione, parziale e inesatta, fra menti umane. https://encrypted.tesio.it/2019/06/03/what-is-informatics.html#a-complex-re… [2] nota polemica: _statistiche_, non _probabilistiche_ perché i numeri prodotti a valle delle varie trasformazioni non lineari e delle normalizzazioni calcolate durante l'esecuzione del LLM sul "motore inferenziale" non sono più interpretabili matematicamente come probabilità. [3] così come non ne hanno i livelli iniziali, sebbene sia possibile ricondurre determinati pattern di attivazione a pattern particolarmente frequenti nel testo, come sono, ovviamente, le strutture grammaticali di una lingua.

May 10, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Enrico Nardelli

Il 09/05/2026 22:24, Giuseppe Attardi ha scritto: > Attendo che tu proponga una definizione operativa migliore del “senso > delle parole” di quelle che l’umanità ha proposto finora. > Io non propongo, né voglio farlo, una definizione operativa di "senso delle parole" come lo interpretano gli esseri umani. Mi sembra difficile, se non impossibile. Però sostengo che non puoi chiamare "senso delle parole" come lo interpretano gli esseri umani una definizione operativa di un meccanismo che non è dimostrato esista all'interno degli esseri umani. Chiamarlo "word embedding contestuale" e chiarire che è un tentativo di modellare il "senso delle parole" è una posizione concettualmente corretta, secondo me. Dire che sia il "senso delle parole", non lo è. > > Ho detto di lasciare ai filosofi questioni come decidere se un AI è > senziente o meno, ha coscienza o meno. > Ecco quel che ho scritto: > > Cosa importa se un programma di AI o un robot è senziente o > meno, ha coscienza o meno, quando noi stessi non sappiamo bene cosa > sia, se non appunto sforzandoci di descriverlo in letteratura? > Questo è un tema che lascerei ai filosofi. Come informatici abbiamo > cose più concrete a cui pensare. > Questo che hai scritto È secondo me una questione estremamente concreta a cui NOI INFORMATICI dobbiamo dare il nostro contributo sulla base delle nostre conoscenze tecnico-scientifiche, perché IMPATTA sugli aspetti socio-economici. Non voglio insistere più di tanto, ma proprio il video di Karen Hao che ha postato Juan Carlos stamattina evidenzia che considerare questi meccanismi senzienti o meno, dotati di coscienza o meno, È RILEVANTE per la società. E le riflessioni di Daniela Tafani sempre di oggi, anche quelle sono chiarissime su questo aspetto. Ciao, Enrico PS Perdonami se sono un rompiscatole, ma sono sempre in attesa di sapere quali sono i controesempi «tra quelli che ho citato, per mostrare che non sanno solo "riorganizzare le informazioni già presenti nei dati”». Puoi cortesemente ripetere i link a questi controesempi? O se qualcun altro che aveva chiesto questi riferimenti li ha trovati me li può inoltrare gliene sono grato. -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

May 10, 2026

Re: LMorphism, when humans come to see themselves as LLMs, era: visione realistica dell'IA

by Giacomo Tesio

Ciao Enrico, On Sat, 9 May 2026 19:42:27 +0200 Enrico Nardelli wrote: > LLMorphism is the biased belief that human cognition works like a > large language model. Se hai occasione di contattare Valerio Capraro, vorrei sottoporgli il concetto di "alienazione cibernetica" come processo di riduzione dell'autonomia di un agente (umano, ovviamente) in un sistema cibernetico. Alcuni anni fa [1] descrivevo questo processo come basato su due meccanismi complementari e reciprocamente rafforzanti: l'antropomorfismo dell'automa e l'automazione dell'uomo. LLMorfismo mi sembra un caso speciale (seppur effettivamente differenziabile da altri) di automazione dell'uomo. Giacomo [1] https://encrypted.tesio.it/2022/04/03/CGIL2021_01_Cibernetica.pdf

May 10, 2026

Karen Hao, "I Tracked Down the Hidden Workers Secretly Powering ChatGPT"

by J.C. DE MARTIN

Ottimo reportage della bravissima Karen Hao (autrice di "Empire of AI"). Da non perdere per capire che cosa sta capitando a centinaia di migliaia di laureati e PhD: *I Tracked Down the Hidden Workers Secretly Powering ChatGPT* https://youtu.be/aooiDA-AsNo?si=QvBKFXqOirWwqvRj Juan Carlos

May 10, 2026

R: Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Daniela Tafani

Caro Enrico, volevo ringraziarti di aver rivolto ai tuoi colleghi, con la lettera aperta, un invito a non coltivare quello che chiamate un "fraintendimento". Come accade sovente in ambito religioso, c'è un doppio aspetto: - il fraintendimento di cui vi occupate, generato da una debolezza antropologica, dalla tendenza della natura umana a una forma animistica di pensiero magico; - l'inganno dei sacerdoti di questa specifica religione statutaria, variamente interessati al potere o al profitto che derivano da un simile culto. Da un punto di vista filosofico, gli argomenti di Searle su intelligenza e proprietà emergenti non sono mai stati confutati. La religione della tecnologia resta: già David Noble osservava che il concetto stesso di intelligenza artificiale è erede del mito giudaico-cristiano della creazione come di una procreazione divina maschile, senza donne e senza sesso. Trattandosi di un culto, qualcuno ha legittimamente richiesto di essere esentato dall'uso dei chatbot in nome della libertà religiosa (Catherine Sawers: "I have a religious exemption from using all generative 'A.I.' I am not a member of the Silicon Valley sect"). Ne approfitto per aggiungere all'elenco tuo e di Giacomo (se le aveste già citate, scusatemi) un altro paio di pubblicazioni sugli effetti dequalificanti dell'uso dei chatbot: - sulla "resa cognitiva", in virtù della quale si finisce per adottare l’output di un chatbot senza verifica e anche nei casi in cui contrasti con le proprie intuizioni o i propri ragionamenti*; - sull'atrofia cognitiva negli adulti e sul mancato apprendimento nei bambini: negli adulti, con l’uso dei chatbot si indeboliscono, senza rendersene conto, le capacità che si possedevano e che possono tuttavia essere recuperate; nei giovani, l’uso di tali sistemi preclude del tutto l’apprendimento e abitua a a omologarsi, a non pensare, a recepire pensieri già formulati da altri**; Va da sé che non si tratti di spiacevoli effetti collaterali, ma, come sempre, di una delle funzioni di questi sistemi, ritenute economicamente e politicamente utili dal complesso militare-industriale che controlla, in questo momento, le traiettorie di sviluppo della tecnologia: dequalificazione e dipendenza da piattaforme e software proprietari, per quanto scadenti, sono obiettivi intrecciati, funzionali alla riduzione dei cittadini a sudditi in stato di minorità. L'obiettivo delle grandissime aziende è che, anche nella vita privata, attività e relazioni umane siano non solo mediate dai loro prodotti, ma siano intrattenute direttamente con quelli, anziché con altri esseri umani: anche in questo ambito si mira a produrre dipendenza, perché questa è funzionale alla sorveglianza, alla manipolazione e al controllo degli utenti. Si diventa dipendenti dall'amico immaginario perché nella realtà c'è un software che estrude output che danno rinforzo senza contenimento, all'infinito. Psicologicamente, è una ricetta per il disastro. Non a caso, qualcuno ha osservato che l'attuale modello di business dell'IA generativa è quello della "psicosi come servizio". Non stupisce, quindi, il caso italiano recentissimo - dopo gli innumerevoli casi statunitensi - di una dipendenza da chatbot presa in carico dal sistema sanitario. Uno pseudo studio edtech sugli effetti positivi dei chatbot è appena stato ritrattato da Nature***. Un caro saluto, Daniela * Timothy Cook, Adults Lose Skills to AI. Children Never Build Them, “Psychilogy Today”, March 22, 2026, https://www.psychologytoday.com/us/blog/the-algorithmic-mind/202603/adults-…. ** Steven D. Shaw, Gideon Nave, Thinking ‐ Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender, “The Wharton School Research Paper”, January 11, 2026, https://doi.org/10.31234/osf.io/yk25n_v1. *** Retraction Note: The effect of ChatGPT on students’ learning performance, learning perception, and higher-order thinking: insights from a meta-analysis, https://www.nature.com/articles/s41599-026-07310-z. ________________________________________ Da: Enrico Nardelli via nexa <nexa(a)server-nexa.polito.it> Inviato: sabato 9 maggio 2026 19:20 A: nexa(a)server-nexa.polito.it Oggetto: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società Grazie Giacomo per il riferimento a questo studio di Antrhopic, che non conoscevo quando avevo scritto il mio pezzo di un paio di mesi fa us IAgen e sviluppo software https://www.startmag.it/innovazione/iagen-lavoro-sviluppo-software/ È molto interessante, perché condotto seguendo gli approcci usati nella ricerca in didattica dell'informatica (o computer science education che dir si voglia): We found that using AI assistance led to a statistically significant decrease in mastery. On a quiz that covered concepts they’d used just a few minutes before, participants in the AI group scored 17% lower than those who coded by hand, or the equivalent of nearly two letter grades. Using AI sped up the task slightly, but this didn’t reach the threshold of statistical significance. Questo risultato ribatte quello in molti altri settori sta emergendo rispetto all'uso dell'IA nel settore educativo, che è esemplificato da questo studio massiccio (di cui forse si è già parlato qui in mailing list) sul cosiddetto "Debito Cognitivo". Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task https://arxiv.org/pdf/2506.08872v2 As the educational impact of LLM use only begins to settle with the general population, in this study we demonstrate the pressing matter of a likely decrease in learning skills based on the results of our study. The use of LLM had a measurable impact on participants, and while the benefits were initially apparent, as we demonstrated over the course of 4 months, the LLM group's participants performed worse than their counterparts in the Brain-only group at all levels: neural, linguistic, scoring Ciao, Enrico NB: il grassetto delle citazioni è mio Il 08/05/2026 19:57, Giacomo Tesio via nexa ha scritto: Suvvia Enrico, non te la prendere: non è nulla di personale. On Fri, 8 May 2026 17:43:17 +0200 Enrico Nardelli wrote: Guido, io ho scritto: [...] tu mi replichi [...] NO! Se io avessi scritto [...] Ma siccome ho scritto una cosa diversa, [...] Sono certo che Guido non abbia usato un agente automatico per ottenere un riassunto della tua mail perché sa che sarebbe un'enorme mancanza di rispetto per il tempo che hai dedicato a scrivergli. Semplicemente, leggere fischi per fiaschi è un effetto collaterale comunissimo dell'uso intensivo di riassunti prodotti da software programmati statisticamente. Come ogni altra facoltà intellettiva, l'attenzione richiede costante allenamento. Nemmeno Anthropic ha il coraggio di negarlo [1][2]: https://www.anthropic.com/research/AI-assistance-coding-skills """ On average, participants in the AI group finished about two minutes faster, although the difference was not statistically significant. There was, however, a significant difference in test scores: the AI group averaged 50% on the quiz, compared to 67% in the hand-coding group—or the equivalent of nearly two letter grades (Cohen's d=0.738, p=0.01). The largest gap in scores between the two groups was on debugging questions, suggesting that the ability to understand when code is incorrect and why it fails may be a particular area of concern if AI impedes coding development. """ Un effetto collaterale che tende a vanificare persino l'utilità dei "riassunti automatici" per chi, come suggerivo in altra mail, legge comunque i documenti da riassumere. Giacomo [1] pur argomentato che dipende da come le usi, per cui se rincretinisci, è solo colpa tua... ;-) [2] Per altro, ben 2 minuti in meno nel completare lo sviluppo con un AI (a pagamento) per diverse ore in più a debuggarlo: che affarone! :-D -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:part1.B02fsOl4.0jOB00vj@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

May 10, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Guido Vetere

Però Beppe, come vedi anche dal titolo di questo thread, la tecnologia gronda di filosofia (il realismo, in questo caso), soprattutto quando fa irruzione in problemi ‘hard’ come quelli del significato o della coscienza (due temi, tra l’altro, connessi in modo interessante). Non credo che, quando si arriva al nocciolo di certe questioni aperte, si possa dire “di questo si occupino i filosofi” (sottotesto: inutilmente), perché di fatto in questa apertura ‘intersezionale' ci troviamo tutti a vivere e operare. La vicenda di questo appello mostra bene la questione. I proponenti sottoscrivono una posizione filosofica, quella del realismo aristotelico (la realtà è la stessa per tutti e alle parole non resta che nominare le cose) mentre chi vi si oppone, consapevolmente o meno, apre all’idea che il linguaggio sia (anche? solo?) imitazione e ripetizione (una linea che da Hume porta a Deleuze, dove troviamo a modo suo anche Wittgenstein). Anche gli informatici, a mio avviso, dovrebbero avere un atteggiamento filosofico, cioè problematico, che accetta di sostare nella domanda piuttosto che limitarsi a rispondere. Gli sviluppi recenti dell'AI dicono sicuramente qualcosa sul problema del significato (cioè: come fa la parola a uscire nel mondo?), deponendo, almeno in una certa lettura, a favore di quello che è stato chiamato ’espressivismo’, però non giustificano l’idea che il problema del segno (aliquid stat pro aliquo) sia stato risolto per dissoluzione (gli automi riescono a parlare senza segno, dunque il segno non esiste). La critica realistica ai ‘pappagalli stocastici’ è filosoficamente ingenua e tecnicamente discutibile (almeno nella formulazione dell’appello) ma rivela che il problema del ‘fondamento’ esiste e non può essere ignorato. Il linguaggio è tante cose (qui ancora torna alla mente Wittgenstein) e ci sono molti usi (uno per tutti: giuridico) in cui è necessario che il significato sia non solo spiegato ex-post, ma garantito ex-ante. Si tratta di una questione che la performance neurale non tocca, perché riguarda il titolo del significare, non il suo fatto. Buona domenica, Guido > Il giorno 9 mag 2026, alle ore 22:24, Giuseppe Attardi via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > Questo è un tema che lascerei ai filosofi. Come informatici abbiamo > cose più concrete a cui pensare. >

May 10, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giuseppe Attardi

On 9 May 2026, at 20:56, nexa-request(a)server-nexa.polito.it wrote: From: Enrico Nardelli <nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <c2c44e6a-13b6-4804-98ae-3fde3df3c187(a)mat.uniroma2.it<mailto:c2c44e6a-13b6-4804-98ae-3fde3df3c187@mat.uniroma2.it>> Content-Type: multipart/alternative; boundary="------------DjnuUCGhhuP0y3RT06KmfYa0" Grazie Beppe per il contributo al dibattito. Un paio di osservazioni, anzi tre. 1. Dal mio punto di vista, "senso delle parole" è un'espressione che possiamo usare noi esseri umani, Non farne una questione nominalistica, se vuoi chiamala “rappresentazione multisfaccettata dell’uso, delle similitudini e di altri aspetti del significato delle parole” Ma è il primo risultato basilare ottenuto con l’applicazione delle reti neurali al NLP, che ha consentito tutti i progressi successivi. Filosofi e linguisti hanno dibattuto per millenni su cosa fosse il “senso delle parole”, senza produrre mai una definizione utilizzabile. Una definizione del “senso delle parole”, anche solo approssimata, che sia operabile e non astratta è necessaria per ogni compito di NLP. I word embedding contestuali sono la rappresentazione migliore che abbiamo finora concepito e funzionano bene. ma quando la attribuiamo ad un meccanismo stiamo commettendo esattamente la fallacia di proiezione di cui si sta discutendo qua in lista. Parlare invece di "rete di relazione tra i termini che ne modella la semantica" è tutta un'altra cosa, perché stabilisce chiaramente che stiamo parlando di modelli. Anche perché il senso delle parole per noi umani passa attraverso l'esperienza che il nostro corpo ha fatto delle tante situazioni in cui ha usato o sentito usare o visto usare quella parola. Ovviamente, per i termini più tecnici questo è meno rilevante, ma questi termini tecnici sono, appunto, più precisi e in genere non ambigui, dato il contesto. Posso comprendere che tu abbia un'opinione diversa, ma - come avevo già scritto nel mio primo messaggio - se andiamo su domini vicini all'essere umano e parliamo di sentimenti ed emozioni allora io sicuramente ritengo che "senso delle parole" sia del tutto improprio. Attendo che tu proponga una definizione operativa migliore del “senso delle parole” di quelle che l’umanità ha proposto finora. E, per riallacciarmi ad una tua precedente osservazione, non sono questioni da lasciare ai filosofi. Non possiamo e non dobbiamo, da informatici, occuparci solo degli aspetti tecnici della nostra disciplina trascurandone gli impatti sociali. Certo che dobbiamo fare ricerca, ma farla senza cercare di comprendere la più ampia portata di ciò che si sta facendo è disumano e, come già accaduto in passato, può portare ad aberrazioni inaccettabili per la nostra specie. Stai fraintendendo: sono in prima linea nel segnalare gli impatti socio-economici dell’informatica, faccio parte del Laboratori CINI su Scienza e Società, sono intervenuto a diverse audizioni parlamentari su questioni di tecnologia digitale, ho sostenuto e promosso il tuo progetto Pensiero Computazionale. Ho detto di lasciare ai filosofi questioni come decidere se un AI è senziente o meno, ha coscienza o meno. Ecco quel che ho scritto: Cosa importa se un programma di AI o un robot è senziente o meno, ha coscienza o meno, quando noi stessi non sappiamo bene cosa sia, se non appunto sforzandoci di descriverlo in letteratura? Questo è un tema che lascerei ai filosofi. Come informatici abbiamo cose più concrete a cui pensare. Saluti — Beppe

May 9, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giuseppe Attardi

Domanda pertinente su cui si incentra la differenza i opinioni tra coloro che pensano che i LLM siano solo generatori di next-token (Nardelli) a partire da una rappresentazione compress dei dati (Tesio) e chi ritiene che il meccanismo sia quello di un sistema complesso. Franco dà una buona risposta rifacendosi ad un’analogia e accennando ai sistemi complessi. Certo che conosciamo nei minimi dettagli gli algoritmi per allenare e fare inferenza con le DNN (backpropagation, gradient descent, ecc.), ma siccome il risultato dipende da milioni di interazioni tra i neuroni della rete, non abbiamo un modo semplice di spiegare il risultato. Non possiamo applicare il metodo riduzionista a questi modelli, per ricondurne il funzionamento a quello delle parti di cui è composto e alle regole che queste utilizzano. Come nei sistemi complessi di Giorgio Parisi, questi modelli esibiscono un comportamento emergente:: 1. Le DNN utilizzano funzioni di attivazione complesse e non lineari che creano trasformazioni difficili da mappare direttamente a un algoritmo interpretabile. 2. La "conoscenza" all'interno di una rete neurale è distribuita su miliardi di parametri. Tracciare il percorso decisionale per una singola previsione è di fatto impossibile. 3. A differenza del software tradizionale, l'apprendimento profondo estrae da solo le caratteristiche su cui opera. Scopre relazioni nascoste e complesse nei dati a vari livelli di astrazione che non sono direttamente interpretabili. Il blog (https://www.anthropic.com/research/natural-language-autoencoders) in cui si presenta l'articolo che ho riportato inizia da questa premessa: When you talk to an AI model like Claude, you talk to it in words. Internally, Claude processes those words as long lists of numbers, before again producing words as its output. These numbers in the middle are called activations—and like neural activity in the human brain, they encode Claude’s thoughts. Also like neural activity, activations are difficult to understand. We can’t easily decode them to read Claude’s thoughts. Over the past few years, we’ve developed a range of tools (like sparse autoencoders and attribution graphs) for better understanding activations. These tools have taught us a great deal, but they don’t speak for themselves—their outputs are still complex objects that trained researchers need to carefully interpret. Del resto c’è una semplice controprova: se sapessimo scrivere del codice tradizionale in grado di fare ciò che fanno i LLM, perché nessuno è riuscito a farlo? La comunità di AI ci ha provato per 50 anni senza riuscirci. — Beppe On 9 May 2026, at 18:08, Franco Marra <marrafranco(a)gmail.com> wrote: Credo che si possa immaginare il tutto come la formazione di un grosso fiume la cui acqua è portata da degli affluenti che a loro volta hanno affluenti etc la cui configurazione dipende dalle vallate scavate dai ghiacciai (il training), superfici di minimi energetici. Questo modello si capisce bene, mentre magari non si capisce subito l’orografia di uno specifico bacino idrografico. Infatti storicamente sono stati fatti molti errori disastrosi per incapacità a capire (più o meno colpevole): dalle alluvioni provocate dalla cementificazione degli alvei alla diga del Vajont, che hanno turbato equilibri consolidati con transizioni improvvise. E’ solo un’analogia senza particolare valore, utile solo a dare un’idea e a distinguere tra macro e microfenomeni. Chi mai si sognerebbe dopo Boltzmann a giustificare il congelamento dell’acqua sulla base dell’analisi puntuale del moto di ogni singola molecola? Si procede per vie statistiche, e da qui nasce la difficoltà di conoscere lo specifico. Almeno, così mi sembra. Penso anche che se imparassimo questa lezione dove le reti neurali sono un esempio formidabile e fossimo un pochino più umili pensando che forse la configurazione più probabile dell’universo è quella dei sistemi complessi e non quella della fisica di Lagrange, correremmo in futuro molti meno rischi, a partire da quelli climatici Il giorno sab 9 mag 2026 alle 17:40 Massimo Maria Ghisalberti via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> ha scritto: Il giorno sab, 09/05/2026 alle 12.24 +0000, Giuseppe Attardi via nexa ha scritto: > È difficile capire davvero come si svolge il processo di generazione delle > risposte tramite un LLM, ma non bisogna limitarsi a guardare alla superficie, > ossia all’uso della distribuzione di probabilità delle parole per dire che i > modelli sono solo generatori statistici del prossimo token. > In realtà il processo è ben più complesso, perché consiste prima di tutto > nella costruzione di una rappresentazione a molti livelli di astrazione, del > contesto di partenza, che include la rappresentazione del senso delle parole > nel primo strato di embedding e poi di relazioni sintattiche tra le parole > nelle matrici di attention a livelli superiori, poi riferimenti anaforici e > altre relazioni che non sappiamo interpretare in altri livelli. Alcune di > queste relazioni sono state esaminate con dei probe sui modelli, come i syntax > probe. Mi scusi, ma mi faccia capire. Con "È difficile capire davvero come si svolge il processo di generazione delle risposte tramite un LLM" vuol dire che non siamo in grado di farlo? Cioè che noi, che abbiamo progettato tale macchina, non siamo in grado di capirla? Se fosse così non crede che ci sarebbe un motivo in più per preoccuparsi? Insomma vorrebbe dire che hanno una identità propria e una capacità cognitivo-semantica a noi aliena e per dirla breve "abbiamo creato un mostro". Poi vorrei anche capire cosa significhi: la rappresentazione del senso delle parole nel primo strato di embedding e a quali livelli sono queste relazioni anaforiche. Lascerei per ora le matrici di attention e i probe sui modelli. Non voglio essere irrispettoso ma essendo fuori dal gergo alcuni termini e loro correlazioni nelle frasi mi risultano oscuri. m.

May 9, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Enrico Nardelli

Grazie Beppe per il contributo al dibattito. Un paio di osservazioni, anzi tre. 1. Dal mio punto di vista, "senso delle parole" è un'espressione che possiamo usare noi esseri umani, ma quando la attribuiamo ad un meccanismo stiamo commettendo esattamente la fallacia di proiezione di cui si sta discutendo qua in lista. Parlare invece di "rete di relazione tra i termini che ne modella la semantica" è tutta un'altra cosa, perché stabilisce chiaramente che stiamo parlando di modelli. Anche perché il senso delle parole per noi umani passa attraverso l'esperienza che il nostro corpo ha fatto delle tante situazioni in cui ha usato o sentito usare o visto usare quella parola. Ovviamente, per i termini più tecnici questo è meno rilevante, ma questi termini tecnici sono, appunto, più precisi e in genere non ambigui, dato il contesto. Posso comprendere che tu abbia un'opinione diversa, ma - come avevo già scritto nel mio primo messaggio - se andiamo su domini vicini all'essere umano e parliamo di sentimenti ed emozioni allora io sicuramente ritengo che "senso delle parole" sia del tutto improprio. E, per riallacciarmi ad una tua precedente osservazione, non sono questioni da lasciare ai filosofi. Non possiamo e non dobbiamo, da informatici, occuparci solo degli aspetti tecnici della nostra disciplina trascurandone gli impatti sociali. Certo che dobbiamo fare ricerca, ma farla senza cercare di comprendere la più ampia portata di ciò che si sta facendo è disumano e, come già accaduto in passato, può portare ad aberrazioni inaccettabili per la nostra specie. 2. Quando l'oste dice che il vino è cattivo (fuor di metafora, OpenAI che ammette che le allucinazioni sono matematicamente inevitabili) penso che, da ricercatori che tentano faticosamente di capire cosa può essere vero come teoria interpretativa dei fenomeni, forse gli possiamo dare un certo credito, non ti pare? Viceversa, l'approccio "ab auctoritate" del citare Knuth mi ricorda un po' "ipse dixit". Comunque, entrando nel merito, l'articolo di Knuth l'ho letto bene, ma sostenere che l'iterazione dei cicli di predizione del prossimo token - usando differenti tecniche di predizione ad ogni ciclo - sia cosa sostanzialmente diversa dalla predizione del prossimo token non mi convince affatto. Al contrario, da quanto Knuth riporta: «/Filip told me that the explorations reported above, though ultimately successful, weren’t really smooth. He had to do some restarts when Claude stopped on random errors; then some of the previous search results were lost. After every two or three test programs were run, he had to remind Claude again and again that it was supposed to document its progress carefully/» mi pare evidente che il qualcosa che è stato ottenuto, che "non era già presente nei dati", è il risultato dell'interazione tra un essere umano e un LLM. Che questa collaborazione, quando l'umano - come in questo caso - conosce bene il campo su cui si sta lavorando, possa essere molto fruttuosa non l'ho mai contestato. Anzi, ho sempre detto che se conosci l'ambito questi strumenti possono essere utili. Quanto utili, non è ancora chiaro, dipende molto dallo specifico settore. La mia intuizione è che se il dominio è altamente formalizzato (matematica, informatica teorica) e stai facendo ricerca (quindi hai tempo da perdere) l'utilità sia molto superiore a quella del suo utilizzo in altri ambiti, in cui non puoi perdere tempo a controllare le potenziali allucinazioni. 3. Perdonami, ma mi sono perso quali sono i controesempi «tra quelli che ho citato, per mostrare che non sanno solo "riorganizzare le informazioni già presenti nei dati”». Mi puoi cortesemente ripetere i link a questi controesempi? Ciao, Enrico Il 09/05/2026 14:24, Giuseppe Attardi via nexa ha scritto: > Scusate se mi sono perso alcuni passaggi, provo a replicare a più > obiezioni insieme. > Non credo di riuscire a convincere gli estensori della petizione, ma > spero di instillare qualche dubbio in altri rispetto alla “nostra > [della petizione] visione”. > >> Che gli LLM funzionino esattamente come predittori del prossimo token, >> con una serie di ammenicoli di contorno che non cambiano la loro natura >> di fondo, è spiegato - tra l'altro - nello studio citato in questo >> articolo >> https://www.computerworld.com/article/4059383/openai-admits-ai-hallucinatio… >> > È difficile capire davvero come si svolge il processo di generazione > delle risposte tramite un LLM, ma non bisogna limitarsi a guardare > alla superficie, ossia all’uso della distribuzione di probabilità > delle parole per dire che i modelli sono solo generatori statistici > del prossimo token. > In realtà il processo è ben più complesso, perché consiste prima di > tutto nella costruzione di una rappresentazione a molti livelli di > astrazione, del contesto di partenza, che include la rappresentazione > del senso delle parole nel primo strato di embedding e poi di > relazioni sintattiche tra le parole nelle matrici di attention a > livelli superiori, poi riferimenti anaforici e altre relazioni che non > sappiamo interpretare in altri livelli. Alcune di queste relazioni > sono state esaminate con dei probe sui modelli, come i syntax probe. > > Durante la generazione sono coinvolte le attivazioni della rete a > tutti i suoi livelli, ossia centinaia di milioni, che è impossibile > esaminare manualmente. > Ma una idea interessante è quella di usare un altro modello per > analizzare le attivazioni della rete e produrne una verbalizzazione > leggibile da noi. > L’architettura del meccanismo è descritta in un interessante articolo > di ricercatori di Anthropic, si basa su Natural Language Autoencoders > (NLAs) e comprende due modelli, uno per verbalizzazione (AV, > Activation Verbalizer) ed uno per verificare (AR, Activation > Reconstructor) che corrisponda alle attivazioni della rete. > Uno degli esempi analizza il processo di generazione di una poesia in > rima e mostra come il modello pianifichi l’uso di una successiva > parola in rima ben prima del token precedente la rima. > Un altro esperimento, riproducibile tramite codice GitHub, utilizza un > prompt che inizia così, per chiedere di indicare quali elementi > vengono sfruttati per produrre la risposta: > > A language model needs to predict what text comes next after a snippet > which will be presented to you shortly. Identify the 4-5 most > important features it would use for this prediction. > Focus on what the language model must be "thinking about" at the point > where the provided text ends. You should not need reference the fact > that the text is truncated/incomplete/a prefix: the language model is > causal, so only sees the prefix to what it predicts and this is implicit. > Order features by what is most important for predicting the next tokens. > Each feature should consist of a ~5-15 word description. … > > Ottenendo ad esempio: > > "Annals of the Joseon" requires completion of the dynasty name, > following the established pattern of full title references throughout > (e.g., "Annals of Joseon Dynasty" appearing twice earlier). > Historical narrative describing a specific dated event (November 15, > 1519 arrests) now transitioning to "the following day" cabinet > meeting, requiring continuation of sequential political proceedings. > Formal historical chronicle style maintained through passive > constructions, detailed titles, and objective third-person narration > of court intrigue and factional conflict. > Quotation pattern established with section headers ("Jo will become > the King", "What is their crime?") suggests the cabinet meeting > description will include direct dialogue or quoted exchanges about > Jo's fate. … > > https://transformer-circuits.pub/2026/nla/ > >>>> Dopo di che, il dibattito di opinioni è libero, ci mancherebbe >>>> altro, ma >>>> quando andiamo su temi scientifici e tecnologici, e se vogliamo >>>> rimanere >>>> in un paradigma di conoscenza galileiano, le opinioni dovrebbero essere >>>> sostenute da evidenze sperimentali assai vaste e robuste, che mi pare >>>> non ci siano in questo momento. >>> Ci sono numerose evidenze sperimentali sulle capacità degli attuali >>> modelli, ad esempio nella dimostrazione di problemi matematici >>> irrisolti, nella risoluzione di questioni di fisica teorica >>> (https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s >>> <https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s> >>> <https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s >>> <https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s>>), nella >>> risoluzione di problemi informatici, come racconta con shock Donald >>> Knuth (https://cs.stanford.edu/~knuth/papers/claude-cycles.pdf) >> Aggiungo solo che come evidenze alle tue affermazioni, porti un video di >> YouTube e un articolo di opinione di Donald Knuth, rispettabilissimo >> mostro sacro dell'informatica, ma - appunto - un'opinione e non >> un'evidenza sperimentale. > Vedo che tu citi un blog aziendale di OpenAI ma non accetti un > articolo di Donald Knuth, che ha avuto diversi riscontri, al punto di > dire: > > This result is significant for at least three reasons. First, it > demonstrates that modern language models can function as tools for > creative mathematical discovery, not merely coding assistants. Second, > Claude’s methodology, which included successive reformulations, failed > experiments, and eventual synthesis, structurally resembles the > process a human researcher follows. Third, the subsequent extension of > the problem to even numbers, achieved through collaboration between > humans and multiple models (Claude and GPT), signals a new form of > human-machine mathematical collaboration. > > Non solo, ma l’articolo di Knuth analizza proprio il procedimento > seguito da Claude per arrivare alla soluzione, quelle che chiama cicli > di “exploration”, un procedimento quindi ben più articolato degli > asseriti "predittori del prossimo token”. > > In ogni caso, la petizione che afferma che i modelli svolgono compiti > cognitivi che "non equivalgono a comprensione nel senso umano del > termine”, e finchè tu non definisci “scientificamente”, > “galileanamente”, cosa significhi “in senso umano”, la questione è mal > posta. > Basta comunque un solo controesempio, tra quelli che ho citato, per > mostrare che non sanno solo "riorganizzare le informazioni già > presenti nei dati”. > > Stesso discorso all’obiezione di Quintarelli: gli esempi servivano a > illustrare il “procedimento” utilizzato, non tanto il risultato. > > — Beppe > >> On 8 May 2026, at 20:31, nexa-request(a)server-nexa.polito.it wrote: >> >> From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> >> Subject: [nexa] Re: Una visione realistica dell’Intelligenza >> Artificiale - Lettera aperta alla società >> To:nexa@server-nexa.polito.it >> Message-ID: <806f9bff-2906-4d3b-b375-afae87e6f80f(a)mat.uniroma2.it> >> Content-Type: multipart/alternative; >> boundary="------------t48ad3Ez6bZpaV0pJGKLTCSS" >> >> Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: >>> >>> bolla ? si >>> inutile ? no >>> questi oggetti, anche se non pensano (non sognano, non immaginano, non >>> riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo >>> un senso, chiamiamo errori), sono comunque assai utili! >>> il mondo (e le aziende) e' pieno di casi d'uso in cui >>> l'approssimazione va piu' che bene, fintanto che lo human resta in the >>> lead. >>> come dice uno dei capi di openai, oggi costano piu' degli umani. e la >>> speculazione fa il resto. per cui, si, siamo in bolla. >>> si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' >>> raccolto abbastanza soldi da donatori?W investitori, sufficienti per >>> traghettarsi fino al momento della sostenibilita' economica. >>> imho >> >> Sono molto d'accordo con la visione pragmatica di Stefano. >> >> Non sarà la nuova età dell'oro né la fine del mondo. >> >> Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers >> come esempio, o anche quello che è successo in Europa con le banche >> franco-tedesche al tempo della crisi greca, se li farà ridare da governi >> più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è >> comunque un'utilità in queste tecnologie. >> >> La vera sfida è sociale: abbiamo visto i danni che hanno prodotto >> smartphone e social a go-go soprattutto sulla generazioni più giovani - >> Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente >> qui >> https://www.startmag.it/innovazione/strumenti-digitali-e-apprendimento-plat… >> >> >> L'invasività delle tecnologie basate sull'IA è ancora maggiore e più >> nefasta (e Daniela Tafani ce lo ricorda periodicamente). >> >> Quihttps://arxiv.org/abs/2601.19062c'è un'analisi di un milione e >> mezzo di conversazioni, con questo abstract: >> /... We focus on situational disempowerment potential, which occurs when >> AI assistant interactions risk leading users to form distorted >> perceptions of reality, make inauthentic value judgments, or act in ways >> misaligned with their values. Quantitatively, we find that severe forms >> of disempowerment potential occur in fewer than one in a thousand >> conversations, though rates are substantially higher in personal domains >> like relationships and lifestyle. Qualitatively, we uncover several >> concerning patterns, such as validation of persecution narratives and >> grandiose identities with emphatic sycophantic language, definitive >> moral judgments about third parties, and complete scripting of >> value-laden personal communications that users appear to implement >> verbatim. Analysis of historical trends reveals an increase in the >> prevalence of disempowerment potential over time. We also find that >> interactions with greater disempowerment potential receive higher user >> approval ratings, possibly suggesting a tension between short-term user >> preferences and long-term human empowerment. .../ >> >> Non c'è da stare allegri. >> >> Ci sono dei segni di reazione, vedi ad esempio >> https://futurism.com/artificial-intelligence/gen-z-turning-against-ai >> >> /... there’s been a surge in resentment towards AI, which has encroached >> almost every aspect of our daily lives, from the never-ending slop in >> our social media feeds to flawed chatbots poorly assuming the roles of >> human customer service agents. >> As The Verge reports, the backlash is particularly apparent among Gen Z, >> a demographic that’s at the epicenter of the industry’s push for AI >> adoption. The generation is facing a dire post-graduation job market >> after losing much of its youth to the COVID-19 pandemic. >> Usually, young people love new innovations. But for Gen Z, a tech >> inherently designed to replace human agency is strikingly unwelcome — >> and inspiring a growing rebellion. .../ >> >> Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e >> di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno >> e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo >> fanno. >> >> Buon fine settimana a tutti, >> Enrico >> >> >> -- >> >> -- EN > -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

May 9, 2026