- nexa - server-nexa.polito.it

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Massimo Maria Ghisalberti

Se dobbiamo considerare tali macchine attendibili perché non usarle come giudice terzo e oltre le parti? Bisognerà pur dargli della dignità non crede? Non la smentisce nello spirito, il che è già per qualcuno sufficiente. Non capisco come mai non si possano fare "distinguo sottili" via email ma questo è sicuramente un mio problema. Su metodo riduzionistico non le da proprio ragione mi pare, visto che lei afferma: "Non possiamo applicare il metodo riduzionista a questi modelli". Il Buon Claudio dice che: "Questa è un'affermazione troppo forte. Il campo della mechanistic interpretability (Anthropic, DeepMind, ecc.) è esattamente un approccio riduzionista applicato alle reti neurali ... Non è che non si può fare, è che è difficile e incompleto.". Difficile non vuol dire impossibile e nemmeno che nessuno sia riuscito ad attuarlo (che poi ci sia o non ci sia è ininfluente a oggi, in futuro con l'aumentare della potenza di calcolo e sofisticazione dei sistemi si vedrà). Che Parisi si sia espresso con: "è un'idea bellissima"; buon per lui e lei, sa quante idee bellissime possono venirmi in mente ma inattuabili? Sarebbe interessante tutto il discorso, detta in questo modo lascia il tempo che trova. Parla di "linearità"? Dove lo scrive in merito a sofmax(?), ReLU, sigmoide e tanh? Dice che più semplici di così non si può. Semplice non vuol dire lineare. Magari l'ha estrapolata dal fatto che ReLU è una funzione sia lineare ("a tratti", ma facciamo a capirci che nelle email non si può essere troppo sottili) che non? Il Buon Claudio dice che la "non-linearità" è corretta e le da ragione come doveva, ma si focalizza (giustamente) sulla complessità che non deriva dalle funzioni in sé quando dalla catena di applicazione delle funzioni. Sull'AI simbolica poteva dirlo subito, vede che succede alle volte a non essere "sottili"? Comunque Claudio mi dice che gli LLM sono codice tradizionale, quindi in qualche modo comprensibile? Spiegabile? Divulgabile senza, mi scusi, "pippe filosofiche"? Tornando a noi, a chi dovrei credere per avere imformazioni precise? Se anche lei che, mi pare di capire abbia una buona opinione della potenza intellettuale di queste macchine, mi dice che sta prendendo abbagli? Si metta nei miei panni di "utente comune" affamato di conoscenza. -- massimo Il giorno lun, 11/05/2026 alle 08.48 +0000, Giuseppe Attardi via nexa ha scritto: > Molto carino: usiamo un chatbot come giudice terzo. > > Devo dire che mi pare che il chatbot non mi smentisca. > Le principali critiche sono sul fatto che certe affermazioni siano troppo > assolute, che è abbastanza normale in un dibattito via mail dove non si > possono fare distinguo troppo sottili. > > Ma alcune di quelle critiche in realtà sono a loro volta imprecise: > - se dico che sono coinvolti milioni di parametri e non miliardi è perché > durante le inferenze nei modelli MoE, solo una parte dei parametri viene > attivato. Comunque se fossero di più rafforza la mia affermazione. > - le funzioni di attivazione come softmax e tanh che cita non sono lineari > - ammette che il riduzionismo sia “difficile e incompleto” quindi nessuno è > riuscito ad attuarlo > - il riferimento a Giorgio Parisi non è casuale, ne ho parlato con lui ed ha > ammesso che considerare i LLM come dei sistemi complessi sia una “idea > bellissima”. Certamente è un’idea da approfondire. > > Nella seconda parte invece prende un abbaglio: > > 2. **"50 anni senza riuscirci" è una semplificazione.** Il deep learning > esiste > dagli anni '80 (backpropagation di Rumelhart, 1986). I LLM non sono una > rottura > > Io mi riferivo all’AI simbolica, non al DL! > > — Beppe > > > > On 9 May 2026, at 17:37, Massimo Maria Ghisalberti <zairik(a)zohomail.eu> > > wrote: > > > > Il giorno sab, 09/05/2026 alle 12.24 +0000, Giuseppe Attardi via nexa ha > > scritto: > > > È difficile capire davvero come si svolge il processo di generazione delle > > > risposte tramite un LLM, ma non bisogna limitarsi a guardare alla > > > superficie, > > > ossia all’uso della distribuzione di probabilità delle parole per dire che > > > i > > > modelli sono solo generatori statistici del prossimo token. > > > In realtà il processo è ben più complesso, perché consiste prima di tutto > > > nella costruzione di una rappresentazione a molti livelli di astrazione, > > > del > > > contesto di partenza, che include la rappresentazione del senso delle > > > parole > > > nel primo strato di embedding e poi di relazioni sintattiche tra le parole > > > nelle matrici di attention a livelli superiori, poi riferimenti anaforici > > > e > > > altre relazioni che non sappiamo interpretare in altri livelli. Alcune di > > > queste relazioni sono state esaminate con dei probe sui modelli, come i > > > syntax > > > probe. > > > > Mi scusi, ma mi faccia capire. Con "È difficile capire davvero come si > > svolge il > > processo di generazione delle risposte tramite un LLM" vuol dire che non > > siamo > > in grado di farlo? Cioè che noi, che abbiamo progettato tale macchina, non > > siamo > > in grado di capirla? Se fosse così non crede che ci sarebbe un motivo in più > > per > > preoccuparsi? Insomma vorrebbe dire che hanno una identità propria e una > > capacità cognitivo-semantica a noi aliena e per dirla breve "abbiamo creato > > un > > mostro". Poi vorrei anche capire cosa significhi: la rappresentazione del > > senso > > delle parole nel primo strato di embedding e a quali livelli sono queste > > relazioni anaforiche. Lascerei per ora le matrici di attention e i probe sui > > modelli. > > > > Non voglio essere irrispettoso ma essendo fuori dal gergo alcuni termini e > > loro > > correlazioni nelle frasi mi risultano oscuri. > > > > m.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by abregni

Giacomo, ancora io. Il senso delle parole, in senso ASSOLUTO (parola che aborro) -- ricordo che "la comunicazione comincia dall'ascolto" (per chi vuole capire il senso della frase, e non si mette a fare il pierino) -- è quello che capisce chi ascolta o legge, ed è in grado di trarne qualche semantica / significato. Quello che ci voleva scrivere lo scrivente, pensante o meno, è IRRILEVANTE (se la cosa si ferma lì). Diventa rilevante se lo scrivente organizza un omicidio su commissione, e l'altro capisce, ovvero se nasce una "connessione" fra trasmittente e ricevente (come sarebbe sensato pensare, ...MA NON SEMPRE SI DÀ). Il 2026-05-11 01:03 Giacomo Tesio via nexa ha scritto: > Ciao Enrico, allora se premetti provo io > > On Sun, 10 May 2026 20:53:21 +0200 Enrico Nardelli wrote: > >> Il 09/05/2026 22:24, Giuseppe Attardi ha scritto: >> > Attendo che tu proponga una definizione operativa migliore del >> > “senso delle parole” di quelle che l’umanità ha proposto finora. >> > >> Io non propongo, né voglio farlo, una definizione operativa di "senso >> delle parole" come lo interpretano gli esseri umani. > > Il significato (o senso) di un atto comunicativo è l'esperienza > soggettiva di pensiero comunicabile [1] che l'autore dell'atto stesso > prevede di produrre nelle menti di coloro che percepiranno tale atto > alla luce di altre esperienze precedentemente condivise con essi. > > Ad esempio il significato del paragrafo precedente è l'esperienza del > significato di un atto comunicativo che vivo nella mia mente e che > spero di condividere con i membri della lista Nexa assumendo che > comprendano tutti la lingua italiana. > > > Lingue e linguaggi (e dunque anche le parole che li caratterizzano) > definiscono protocolli di sincronizzazione fra le menti umane > adeguatamente efficienti per il rispettivo contesto di utilizzo. > > "Casa" > "Logaritmo" > "Su" > "Bosone" > "Cibernetica" > "</html>" > "Con" > > Ciascuna di queste parole determina un'esperienza soggettiva di > pensiero comunicabile nelle vostre menti (ancorché parziale). > > > E ciascuna di esse, in frasi di senso compiuto che ne includono altre, > contribuiscono a determinare altre esperienze soggettive di pensiero > comunicabile che il mittente intende condividere. > > "Non ho idea di cosa sia un logaritmo". > "Bosone fa rima con nasone". > > Per questo il significato di una parola può variare a seconda del > contesto: oltre all'ambito di utilizzo, ciò che cambia è anzitutto il > mittente e la sua conoscenza dei destinatari. [2] > > > Si tratta di una definizione "operativa"? > > Direi di sì: ci permette di esprimere chiaramente la differenza fra > l'espressione di un essere umano, le cui parole si susseguono sulla > base di relazioni semantiche tramite le quali quell'essere umano > intende > esprimere un'informazione, e l'output di un LLM, i cui token si > susseguono sulla base di relazioni statistiche calcolate a partire da > testi scritti dall'uomo [3], ma senza veicolare alcuna esperienza > soggettiva di pensiero comunicabile (in assenza di una soggettività), > e dunque senza veicolare alcun significato. > > > Giacomo > > [1] anche detta "informazione" > > [2] L'efficacia dei diversi linguaggi, la corrispondenza fra le > esperienze soggettive di mittente e destinatario, varia molto fra > di > essi così come la loro efficienza: l'assembly è un linguaggio molto > efficace ma poco efficiente, le formule matematiche sono > solitamente > sia molto efficaci che molto efficienti. > > Tuttavia ogni termine dell'assembly ha un significato perché i > programmatori dell'assembler (il software che traduce l'assembly in > binario) hanno deciso di associare quella specifica sequenza di > lettere ad una specifica sequenza di byte eseguibili dal > processore. > E si noti che anche nel caso dell'assembly, la comunicazione > espressa nel software non è fra programmatore e macchina, ma fra > programmatori. Non solo perché il codice è sempre scritto per > essere (ri)letto da esseri umani: anche l'atto di compilare un > programma (assemblare, nel caso dell'assembly) è un atto di > comunicazione asincrona fra il programmatore che scrive il > programma da compilare e il programmatore che ha scritto il > compilatore. > > Il compilatore non fa altro che automatizzare ciò che chi l'ha > programmato potrebbe fare manualmente se il programmatore del > programma da compilare gli inviasse il sorgente. > > [3] ignoriamo al momento model collapse e (doveroso) data poisinig

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by abregni

Ciao, again. Qui sarò breve. Tutto quello che dici, riportato automaticamente sotto, si riassume in poche parole: NON DOVEVATE chiamarle reti "neurali". Fatto il peccato originale, non lamentatevi se un marchettaro del suo cesto di fichi li chiama "meloni" (= attribuisce "pensieri" a Claude). Quando lo scemo chiama "IA" qualcosa che non lo è, e il gregge lo segue, poi il dentifricio nel tubetto non ce lo rimetti più. Il 2026-05-11 00:11 Giacomo Tesio via nexa ha scritto: > Perdonami Giuseppe, > > ma l'evoluzione esatta di un sistema complesso non è computabile. > > Invece l'output esatto di un LLM viene calcolato da chiunque lo esegua > sul "motore inferenziale" preposto. > > > Dunque sventolare il concetto di "sistema complesso" per descrivere un > software di cui è possibile conoscere (al netto dei segreti > industriali) e riprodurre ogni singola operazione è scientificamente > discutibile. > > Siamo lontanissimi dal problema di conoscere e modellare lo stato di > moto e la posizione di ogni singolo atomo di un gas e semplicemente > perché, contrariamente ai gas, gli LLM sono software eseguibili. > > > Inoltre la questione qui non è la modellabilità del comportamento del > sistema, che come detto è perfettamente calcolabile (e calcolata > milioni di volte al giorno) per i LLM, bensì di descrivere il > _significato_ di tale evoluzione. > > L'irrilevanza dei sistemi complessi è tutta qui. > > > Un comportamento emergente non è un significato. > > Gli atomi di un gas non compiono una danza nella speranza di > comunicarci un messaggio. > > Dunque la temperatura di un gas, pur essendo un comportamento emergente > del loro movimento, non costituisce il significato del movimento dei > suoi atomi, ma solo una misurazione utile delle sue proprietà attuali. > > > Nello stesso modo anche se i LLM fossero sistemi complessi (e non lo > sono) ed esibissero comportamenti emergenti (cosa impossibile da > verificare scientificamente senza conoscere precisamente tutti i testi > sorgente usati per programmarli), tali comportamenti non rivelerebbero > il significato del loro output. > > Analizzando l'attivazione dei vari nodi del processo di "inferenza" non > potremo mai rispondere alla domanda "perché a fronte dell'input X è > stato prodotto l'output Y?", ma solo alla domanda "come è stato > calcolato l'output Y a fonte dell'input X?". > > > Dunque sistemi complessi o meno, non imparano, non conoscono e non > capiscono alcunché. Non sono intelligenti. E non nel senso che non lo > sono come un essere umano, non imparano, non conoscono e non capiscono > come un essere umano. > > Non fanno queste cose in alcun modo. > > > Quando Antropic arriva a scrivere: > >> These numbers in the middle are called activations—and like neural >> activity in the human brain, they encode Claude’s thoughts. > > sta facendo banale disinformazione. > > > Definire "pensiero" moltiplicazioni fra matrici e trasformazioni > non lineari reversibili è ridicolo. Paragonarle alle attività del > cervello umano è privo di qualsiasi fondamento scientifico. > > > Anche perché esiste una spiegazione molto più semplice dell'output di > questi software: l'estrazione da un archivio compresso con perdita. > > > Il processo di estrazione da questo archivio non è banale ed è > certamente notevole dal punto di vista ingegneristico. > E sebbene l'output di questi software costituisca semplici lorem ipsum > a > tema, ne apprezzo moltissimo l'ingenuità (sebbene ciò non giustifichi > rischi geopolitici e costi sociali ed ecologici del loro utilizzo). > > > Ma lorem ipsum [1] rimangono! > > > > Quanto al resto: > >> siccome il risultato dipende da milioni di interazioni tra i neuroni >> della rete, non abbiamo un modo semplice di spiegare il risultato. > > Parlare di "neuroni" è errato e fuorviante. Così come è errato e > fuorviante parlare di "interazioni", visto che si tratta di operazioni > fra matrici. Come è errato e fuorviante parlare di "senso" catturato > dagli embeddings (su questo concordo con Guido). Parlare di > >> “rappresentazione multisfaccettata dell’uso, delle similitudini e di >> altri aspetti del significato delle parole” > > è già molto meglio, anche se sarebbe più preciso parlare di proiezione > _approssimata_ della relazione di sequenzialità fra le parole presenti > nei testi sorgente su un sistema di assi _arbitrario_ determinato > statisticamente. > > > Giacomo > > [1] https://it.wikipedia.org/wiki/Lorem_ipsum

May 11, 2026

194° Mercoledì di Nexa | 20 maggio 2026, ore 17.00

by Nexa - Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 194° Mercoledì di Nexa, che si terrà mercoledì 20 maggio, alle ore 17.00, con un incontro dal titolo "Macchine dotate di linguaggio. Che cosa l’Intelligenza artificiale generativa ci dice dell’essere umano". Ospite dell'incontro: Claudio Paolucci (Università di Bologna). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/mercoledi-194 Vi ringraziamo per l'attenzione, Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society<web:%20https://nexa.polito.it> DAUIN - Politecnico di Torino Via Pier Carlo Boggio, 65/a – Torino Digital Communication Assistant DAUIN - Politecnico di Torino<https://www.dauin.polito.it> Corso Castelfidardo 34/D - Torino mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by abregni

Scusa, Giacomo, una piccola nota. A me sembra concettualmente sbagliato dire: "Il problema fondamentale è che chi non comprende il funzionamento di questi software attribuisce un significato al loro output, attribuendo alle parole relazioni semantiche invece che statistiche." Innanzitutto, io sono un umano, e se leggo qualcosa, leggo lessico, sintassi, semantica (e semantica sulle righe, tra le righe e dietro le righe, nel caso di Giuliano Amato, che riusciva a scrivere a tre livelli). Se poi leggo una fotocopia della Divina Commedia, o uno scritto di scimmia con la macchina da scrivere che l'ha casualmente riprodotta identica -- NB.: la scimmia è "provocatoria", ma la fotocopia è "dirimente" -- sinceramente non vedo testuale né semantica differenza (altro caso è se sono un esperto biblista, e devo distinguere fra un Gutemberg e una Xerox, ma qui stiamo parlando di semantica). Se l'obiettivo della MAL INDICATA "IA", invece di "CdT" (confezionatori di testi), è di confezionare testi su base statistica, o li buttiamo tutti a mare, oppure usiamo i loro risultati per la semantica che più o meno forniscono. Anche quando usi un metro da sarto, o un calibro, vedi dimensioni e non la realtà, e ti va bene anche se il metro e il calibro ...non pensano. Detto in breve, è DEL TUTTO NORMALE leggere semantica da uno STRUMENTO che cerca di fingerla al meglio. Concordo sul fatto che le informazioni sono nella testa di scrive, ...ma io quando leggo uno scritto ne traggo delle informazioni anche se chi ce le ha messe non le aveva (come molto giornalismo, ad esempio; peggio ancora i social). Perché ti preoccupi del fatto che gli LLM sono "statistici"? Io mi incazzo che li chiamino "IA", ...poi se mi fa comodo li uso, e li uso per la (possibile / ipotetica) semantica. Altrimenti, ...per cosa? Il 2026-05-10 22:18 Giacomo Tesio via nexa ha scritto: > Caro Andrea, > > On Fri, 8 May 2026 15:39:22 +0200 Andrea Bolioli wrote: > >> eh, sono in parte d'accordo con te Giacomo, ma se entriamo nel tema >> "semantica" non ne usciamo più... :-) > > per quanto stretta e scomoda, è una strada necessaria. > > > La mail che stai leggendo è una rappresentazione simbolica di > un'informazione nella mia mente: un'esperienza soggettiva di pensiero > comunicabile che cerco di esprimere e trasmetterti perché tu ne possa > vedere i simboli ed interpretarli, riproducendo tale esperienza nella > tua mente. [1] > > > Le parole di questa mail sono legate da relazioni semantiche: ogni > parola viene scelta per contribuire alla trasmissione delle > informazioni > nella mia mente che intendo trasmettere. > > Non rileva molto, in realtà, che tali informazioni siano o meno > derivate da esperienze sensibili (non concordo particolarmente con > Enrico sulla rilevanza dell'esperienza corporea nel contesto delle > "intelligenze artificiali", anche perché non è difficile collegare a > questi software sensori e attuatori). > > Molto più rilevante è la relazione fra l'informazione nella mia mente > (l'esperienza di pensiero comunicabile che intendo comunicare) e le > parole che scelgo, in modo auspicabilmente adeguato, per trasmetterla. > > > > L'output di un LLM invece non ha alcun significato. > > I token estrati dal modello a partire dal prompt non sono legati da > relazioni semantiche, ma statistiche. [2] > > Nessuna mente sta cercando di esprimere l'esperienza soggettiva di un > pensiero comunicabile. I processi di attivazione degli strati finali > della vector mapping machine (impropriamente detta "rete neurale > arficiale") sono "difficili da interpretare" (per usare le parole di > Giuseppe Attardi) semplicemente perché non hanno alcun significato > intrinseco [3] e dunque non c'è nulla da interpretare. > > > > Il problema fondamentale è che chi non comprende il funzionamento di > questi software attribuisce un significato al loro output, attribuendo > alle parole relazioni semantiche invece che statistiche. > > > Se usi un LLM come archivio compresso con perdita, può essere utile. > Ad esempio, puoi estrarre da Claude o da Copilot il codice dei tuoi > concorrenti che lo usano (fornendo loro in cambio accesso al tuo). > O puoi ottenere lorem ipsum a tema per il prototipo del sito web di un > cliente per praticamente qualsiasi ambito commerciale. > > Ma se lo confondi con un interlocutore, con un "AI peer programmer" > (vedi marketing di GitHub CopyALot o Claude), sei vittima di un > inganno. > > > Giacomo > > [1] Infatti, contrariamente ad un protocollo software che permette il > trasferimento (più propriamente, la copia) di un dato fra > dispositivi diversi, il linguaggio non determina una trasferimento > di informazione (che essendo esperienza soggettiva, non lascia mai > la mente di chi la esperisce) ma solo una sincronizzazione, > parziale > e inesatta, fra menti umane. > > https://encrypted.tesio.it/2019/06/03/what-is-informatics.html#a-complex-re… > > [2] nota polemica: _statistiche_, non _probabilistiche_ perché i numeri > prodotti a valle delle varie trasformazioni non lineari e delle > normalizzazioni calcolate durante l'esecuzione del LLM sul "motore > inferenziale" non sono più interpretabili matematicamente come > probabilità. > > [3] così come non ne hanno i livelli iniziali, sebbene sia possibile > ricondurre determinati pattern di attivazione a pattern > particolarmente frequenti nel testo, come sono, ovviamente, le > strutture grammaticali di una lingua.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giuseppe Attardi

Molto carino: usiamo un chatbot come giudice terzo. Devo dire che mi pare che il chatbot non mi smentisca. Le principali critiche sono sul fatto che certe affermazioni siano troppo assolute, che è abbastanza normale in un dibattito via mail dove non si possono fare distinguo troppo sottili. Ma alcune di quelle critiche in realtà sono a loro volta imprecise: - se dico che sono coinvolti milioni di parametri e non miliardi è perché durante le inferenze nei modelli MoE, solo una parte dei parametri viene attivato. Comunque se fossero di più rafforza la mia affermazione. - le funzioni di attivazione come softmax e tanh che cita non sono lineari - ammette che il riduzionismo sia “difficile e incompleto” quindi nessuno è riuscito ad attuarlo - il riferimento a Giorgio Parisi non è casuale, ne ho parlato con lui ed ha ammesso che considerare i LLM come dei sistemi complessi sia una “idea bellissima”. Certamente è un’idea da approfondire. Nella seconda parte invece prende un abbaglio: 2. **"50 anni senza riuscirci" è una semplificazione.** Il deep learning esiste dagli anni '80 (backpropagation di Rumelhart, 1986). I LLM non sono una rottura Io mi riferivo all’AI simbolica, non al DL! — Beppe > On 9 May 2026, at 17:37, Massimo Maria Ghisalberti <zairik(a)zohomail.eu> wrote: > > Il giorno sab, 09/05/2026 alle 12.24 +0000, Giuseppe Attardi via nexa ha > scritto: >> È difficile capire davvero come si svolge il processo di generazione delle >> risposte tramite un LLM, ma non bisogna limitarsi a guardare alla superficie, >> ossia all’uso della distribuzione di probabilità delle parole per dire che i >> modelli sono solo generatori statistici del prossimo token. >> In realtà il processo è ben più complesso, perché consiste prima di tutto >> nella costruzione di una rappresentazione a molti livelli di astrazione, del >> contesto di partenza, che include la rappresentazione del senso delle parole >> nel primo strato di embedding e poi di relazioni sintattiche tra le parole >> nelle matrici di attention a livelli superiori, poi riferimenti anaforici e >> altre relazioni che non sappiamo interpretare in altri livelli. Alcune di >> queste relazioni sono state esaminate con dei probe sui modelli, come i syntax >> probe. > > Mi scusi, ma mi faccia capire. Con "È difficile capire davvero come si svolge il > processo di generazione delle risposte tramite un LLM" vuol dire che non siamo > in grado di farlo? Cioè che noi, che abbiamo progettato tale macchina, non siamo > in grado di capirla? Se fosse così non crede che ci sarebbe un motivo in più per > preoccuparsi? Insomma vorrebbe dire che hanno una identità propria e una > capacità cognitivo-semantica a noi aliena e per dirla breve "abbiamo creato un > mostro". Poi vorrei anche capire cosa significhi: la rappresentazione del senso > delle parole nel primo strato di embedding e a quali livelli sono queste > relazioni anaforiche. Lascerei per ora le matrici di attention e i probe sui > modelli. > > Non voglio essere irrispettoso ma essendo fuori dal gergo alcuni termini e loro > correlazioni nelle frasi mi risultano oscuri. > > m.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Ciao Stefano Il 11 Maggio 2026 04:22:29 UTC, Stefano Borroni Barale ha scritto: > ti rispondo perché in questo messaggio scarti (secondo me entrando in > contraddizione con te stesso) un argomento che, a mio parere, è uno > dei potenziali pilastri della critica all'allucinazione collettiva che > porta a identificare umani e macchine. Ammetto di aver riletto diverse volte il mio messaggio cercando di capire quale passaggio ti sembrasse in contraddizione con quello che hai definito "pilastro epistemologico". Ahimé ho fallito: sono assolutamente d'accordo con quanto hai scritto, e non mi pare di aver in alcun modo confrontato (o ancor meno identificato) "due fenomeni che si presentano in due sistemi di complessità differenti che non hanno nulla in comune". Ho cercato, al contrario, di spiegare la differenza ontologica fra i due fenomeni che altri descrivono con gli stessi termini con l'intenzione di confonderli (Anthropic, OpenAI, Google...) o l'ambizione di conformarli (ad esempio ricercatori in assoluta buona fede come Giuseppe Attardi). Mentre io, se ci fai caso, evito di descrivere come "fenomeno linguistico", "risposte" "codice" etc... l'output di software programmati statisticamente. [1] Forse può essere utile leggere la mail che hai citato accanto alle altre che ho inviato ieri sera (in particolare la risposta a Giuseppe ed Enrico in cui propongo una definizione operativa di "senso delle parole"). Ti chiederei quindi di indicarmi quale passaggio abbia prodotto nella tua mente un'informazione in contrasto con il "pilastro epistemologico" che hai descritto in modo che io possa chiarirlo ulteriormente (se ancora necessario). Credo invece di aver individuato il passaggio che trovi in contraddizione con quello che chiami "pilastro ontologico", ovvero > > Non rileva molto, in realtà, che tali informazioni siano o meno > > derivate da esperienze sensibili (non concordo particolarmente con > > Enrico sulla rilevanza dell'esperienza corporea nel contesto delle > > "intelligenze artificiali", anche perché non è difficile collegare a > > questi software sensori e attuatori). Pur concordando con ciò che scrivi descrivendo il "pilastro ontologico", non lo ritengo affatto un pilastro della critica alla favola della "intelligenza artificiale". Lo considero al più un puntello malfermo che, in assenza di fondamenta più solide (quali ad esempio la definizione di informazione come esperienza soggettiva di pensiero comunicabile, la sua distinzione dal dato quale rappresentazione interpretabile impressa su ub supporto trasferibile, etc), viene proposta da intellettuali ben intenzionati nella speranza di sostenere l'umanità dall'attacco che sta subendo. Purtroppo rimane un puntello malfermo. Perché? Vi sono varie ragioni, alcune delle quali hai riportato tu stesso nel passaggio sul "pilastro epistemologico". Elencarle sistematicamente richiederebbe, ahimé più tempo di quanto disponga in questo momento, ma posso citarne alcune (senza alcun ordine significativo). Ad esempio è ridicolo sostenere che, ad esempio, le "intelligenze artificiali" di Google non siano connesse ad un numero di sensori mostruosamente superiore a qualsiasi essere vivente sul pianeta. Elencarli tutti ci deprimerebbe (Google Analytics su miliardi di siti web, GMail per miliardi di persone, GMaps su miliardi di smartphone etc etc etc). Se la questione fosse semplicemente l'accesso al mondo fisico, Google avrebbe prodotto un'AGI già anni fa (e non che non ci abbia provato con risorse economiche e tecnologiche senza precedenti nella storia dell'umanità). Ma non basta. Se anche in un diabolico atto di superbia, Musk, Altman o Amodei decidessero di "donare il proprio corpo alla scienza" [2] e facessero sostituire il proprio encefalo con un innovativo sistema in grado di recepire tutti i segnali entranti dal sistema nervoso, codificarli in alta definizione, trasferirli ad un datacenter centinaia di volte più potente (e più inquinante) di quelli disponibili attualmente, riceverne un output e ricodificarlo in segnali trasmissibili dal midollo spinale, ciò che otterrebbero non sarebbe un'intelligenza pensante. Ovvero, se anche connettessero un corpo umano a questi software programmabili statisticamente non riuscirebbero che a simulare ciò che caratterizza la nostra specie. Perché? Per la semplice ragione che un sistema complesso non è computabile, mentre l'output di quell'ipotetico mega data center lo è (tanto da essere computato). Per argomentare che quel software esibisce intelligenza, bisognerebbe sostenere che la realtà stessa non è un sistema complesso ed è dunque essa stessa computabile. Perché è la realtà ad aver esibito i comportamenti emergenti che noi umani classifichiamo come vita ed intelligenza. Ipotesi che al momento la meccanica quantistica esclude. Ciò che può fare un software è solo simulare la realtà. Per questo "intelligenza artificiale" è e rimarrà sempre un ossimoro. Giacomo [1] potrei al contrario definire in questi termini l'output di un software programmato esplicitamente, da un banale "Hello World!" ad una dichiarazione d'amore espressa come video game. La differenza ontologica non è nel contenuto del messaggio, ma nella presenza di un significato. [2] o, più realisticamente, di sfuttare qualche povero disperato promettendogli chissà quale ricompensa eterna Il 11 Maggio 2026 04:22:29 UTC, Stefano Borroni Barale via nexa <nexa(a)server-nexa.polito.it> ha scritto: > Ciao Giacomo, > > ti rispondo perché in questo messaggio scarti (secondo me entrando in contraddizione con te stesso) un argomento che, a mio parere, è uno dei potenziali pilastri della critica all'allucinazione collettiva che porta a identificare umani e macchine. Preciso: non a creare metafore o parallelismi, bensì a identificare come in "I am a stochastic parrot, too!" (S. Altman). > > I due pilastri, secondo me, sono: > > 1. Pilastro epistemologico: identificare due fenomeni che si presentano in due sistemi di complessità differenti che non hanno nulla in comune è, semplicemente, "cargo cult science" (Feynman). A ciascuno la sua fede su cosa sia superiore o meno (c'è libertà di culto, oltre che di pensiero, finché vige ancora la Costituzione), ma quello che è innegabile è che macchine e umani sono profondamente differenti. > > Gli esseri umani sono basati sul carbonio e sono viventi: nascono, crescono, si riproducono, invecchiano, muoiono e producono un flusso di coscienza praticamente ininterrotto anche nel sonno. Le macchine sono basate su metalli e silicio: non nascono, non crescono, non invecchiano (si consumano, ma possono essere ripristinate), non muoiono. Al massimo vengono dismesse. Ovviamente producono output solo se appositamente sollecitate (il famoso prompt) e questo è molto differente da un flusso di coscienza. A uno sguardo un pelino più approfondito di quello di McCulloch-Pitts, direi che quello che salta all'occhio son più differenze che similitudini. > > Pertanto, identificare le risposte di un umano con l'output di un LLM è semplicemente un errore grossolano o, se preferiamo, lavorare "in approssimazione di studente sferico" (comefacevo da studente a fisica tanti anni fa)e per questo stesso motivo l'accusa di "anthropocentric bias", che Silicon Valley scaglia contro chi insiste nel sottolineare la differenza è ridicola. > > Una dimostrazione scientifica dell'identità dei due fenomeni richiederebbe tanti di quei passi che mi viene il mal di capa anche solo a immaginarla. Ovviamente tra questi ci sarebbe definire "risposta", "coscienza", "pensare", "intelligenza": oltre il 50% dei termini bollati da Marvin Minsky stesso come "parole con la valigia" [1], che lui pensava allontanassero dalla soluzione del problema. Questo, intendiamoci bene, è un problema di chi sostiene l'identità, non di chi la rifiuta. Chiunque mastichi il metodo scientifico sa che l'onere della prova cade in capo al proponente di una nuova teoria o intuizione, che pertanto resta falsa fino a che non vi sono sufficienti evidenze del contrario (es. misurazioni di Hubble l'universo in espansione, lavoro di Sir Eddington per la relatività). > > Ovviamente questo non impedisce di riconoscere dei parallelismi o delle metafore e sfruttarle per comprendere alcuni sotto-meccanismi e non certo l'intero fenomeno, come volevano fare i cibernetici. Ma lo stesso Von Neumann rigetta l'idea dell'identificazione in una lettera a Wiener e McCulloch a cavallo tra i tardi '40 e i primi '50 (ora la memoria non mi aiuta), sostenendo che il cervello è troppo complesso come modello a cui ispirarsi per i nascendi computer, meglio pensare a un modello più semplice. > > 2. Pilastro ontologico: la natura di viventi in generale e degli esseri umani in particolare rende l'esperienza della vita situata. La conoscenza umana è anch'essa è situata, in quanto parte dell'esperienza dell'essere vivi. Lo stesso vale per il segno che quella conoscenza vorrebbe trasmettere - come hai ben descritto. Insomma, è necessario avere un corpo per poter fare esperienza delle cose che rendono umani. > > I sensori di un agente cibernetico automatico sono giocattoli rispetto agli organi di senso umano (di nuovo, Von Neumann dixit o, se preferisci, Frederick Von Frankensteen in "Young Frankenstein" di Mel Brooks :-D: il concetto non cambia). Il cervello dei viventi, poi, è il risultato di milioni di anni di evoluzione e tentativi successivi, lungo innumerevoli generazioni. Le "reti neurali artificiali" non hanno nemmeno cent'anni. Pensare che noi avremmo fatto in cent'anni meglio di quanto fatto dalla natura in milioni, quello si è suprematismo antropocentrico. "Cala trinchetto" diceva mio nonno. Ovviamente non è un ragionamento quantitativo, ma qualitativo, ma tu dovresti riconoscerti facilmente nell'incedere tipico della cibernetica. > > Per tutto il resto concordiamo, ma questo lo sapevi già. :-) > > Stefano > > [1] https://www.edge.org/conversation/marvin_minsky-consciousness-is-a-big-suit… > > Il 10/05/26 22:18, Giacomo Tesio via nexa ha scritto: > > > Caro Andrea, > > > > On Fri, 8 May 2026 15:39:22 +0200 Andrea Bolioli wrote: > > > >> eh, sono in parte d'accordo con te Giacomo, ma se entriamo nel tema > >> "semantica" non ne usciamo più... :-) > > > > per quanto stretta e scomoda, è una strada necessaria. > > > > La mail che stai leggendo è una rappresentazione simbolica di > > un'informazione nella mia mente: un'esperienza soggettiva di pensiero > > comunicabile che cerco di esprimere e trasmetterti perché tu ne possa > > vedere i simboli ed interpretarli, riproducendo tale esperienza nella > > tua mente. [1] > > > > Le parole di questa mail sono legate da relazioni semantiche: ogni > > parola viene scelta per contribuire alla trasmissione delle informazioni > > nella mia mente che intendo trasmettere. > > > > Non rileva molto, in realtà, che tali informazioni siano o meno > > derivate da esperienze sensibili (non concordo particolarmente con > > Enrico sulla rilevanza dell'esperienza corporea nel contesto delle > > "intelligenze artificiali", anche perché non è difficile collegare a > > questi software sensori e attuatori). > > > > Molto più rilevante è la relazione fra l'informazione nella mia mente > > (l'esperienza di pensiero comunicabile che intendo comunicare) e le > > parole che scelgo, in modo auspicabilmente adeguato, per trasmetterla. > > > > L'output di un LLM invece non ha alcun significato. > > > > I token estrati dal modello a partire dal prompt non sono legati da > > relazioni semantiche, ma statistiche. [2] > > > > Nessuna mente sta cercando di esprimere l'esperienza soggettiva di un > > pensiero comunicabile. I processi di attivazione degli strati finali > > della vector mapping machine (impropriamente detta "rete neurale > > arficiale") sono "difficili da interpretare" (per usare le parole di > > Giuseppe Attardi) semplicemente perché non hanno alcun significato > > intrinseco [3] e dunque non c'è nulla da interpretare. > > > > Il problema fondamentale è che chi non comprende il funzionamento di > > questi software attribuisce un significato al loro output, attribuendo > > alle parole relazioni semantiche invece che statistiche. > > > > Se usi un LLM come archivio compresso con perdita, può essere utile. > > Ad esempio, puoi estrarre da Claude o da Copilot il codice dei tuoi > > concorrenti che lo usano (fornendo loro in cambio accesso al tuo). > > O puoi ottenere lorem ipsum a tema per il prototipo del sito web di un > > cliente per praticamente qualsiasi ambito commerciale. > > > > Ma se lo confondi con un interlocutore, con un "AI peer programmer" > > (vedi marketing di GitHub CopyALot o Claude), sei vittima di un inganno. > > > > Giacomo > > > > [1] Infatti, contrariamente ad un protocollo software che permette il > > trasferimento (più propriamente, la copia) di un dato fra > > dispositivi diversi, il linguaggio non determina una trasferimento > > di informazione (che essendo esperienza soggettiva, non lascia mai > > la mente di chi la esperisce) ma solo una sincronizzazione, parziale > > e inesatta, fra menti umane. > > https://encrypted.tesio.it/2019/06/03/what-is-informatics.html#a-complex-re… > > [2] nota polemica: _statistiche_, non _probabilistiche_ perché i numeri > > prodotti a valle delle varie trasformazioni non lineari e delle > > normalizzazioni calcolate durante l'esecuzione del LLM sul "motore > > inferenziale" non sono più interpretabili matematicamente come > > probabilità. > > > > [3] così come non ne hanno i livelli iniziali, sebbene sia possibile > > ricondurre determinati pattern di attivazione a pattern > > particolarmente frequenti nel testo, come sono, ovviamente, le > > strutture grammaticali di una lingua.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Massimo Maria Ghisalberti

Presupponente che sappia cosa sia un "sistema complesso" e nello stesso modo quali siano i principi su cui si basa il motore che alimenta una AI (chiamarla AI mi da sempre un certo ribaltamento dello stomaco) quello che mi piacerebbe sentire dagli "esperti" o sedicenti tali una descrizione più concreta senza fiumi o dighe che strabordano. Tale che l'utente medio possa pensare effettivamente quali trasformazioni accadono a monte e a valle della generazione di un testo grammaticalmente probabilmente corretto ma semanticamente vuoto. Ogni spiegazione a quanto pare si adorna di "estressioni poetiche" più o meno ermetiche infarcite di un gergo mutuato ricorsivamente di cui a prima vista l'unica reazione è il "ma che vordì?". Al di là dell'effetto "huao!" delle risposte c'è un meccanismo le cui basi sono abbastanza vecchie. Ora, continuo ad insistere che una buona diffusione di questi meccanismi senza scadere nell'esoterismo possa essere solo un bene per l'utente che forse (ripeto forse) potrebbe affrontare la materia in maniera più efficace. Starà poi a lui decidere per sé. Parlare di AI sembra una dissertazione sull'esistenza di dio dove alla base si deve porre l'atto di fede. Siccome nella AI, essendo un prodotto umano e una macchina techicamente finita, non può esserci atto di fede a meno di non volerci paragonare a dio, la discussione dovrebbe essere portata su un livello meno filosofeggiante. Lasciamo come informatici la filosofia ai filosofi e occupiamoci di mantenere una informazione materialmente corretta. Il filosofo fa di mestiere la "chiacchiera" e si occupa del prodotto più che della produzione. Cerchiamo di agevolare anche i loro "voli pindarici" facendo sì che si incartino meno. Sia Nardelli che Tesio (con cui ogni tanto mi scorno sulle "definizioni" ma con cui in fondo vado abbastanza d'accordo) non dicono cose errate o discutibili. Di base quello è. Che poi esistano più livelli o strati di applicazione di questi meccanismi è pur vero, certe trasformazioni non bastano per avere un livello di output così elevato come oggi è. Questo non toglie però che ci sia una base attuale che rende domande del tipo: la macchina capisce? Inutili se non controproducenti. Giusto per provare, ho chiesto al Buon Claudio se in queste affermazioni ci fossero delle imprecisioni (perdonate la lunghezza del testo, ma ritenevo non giusto generare un link pubblico condiviso): ---------- Vorrei sapere se queste affermazioni sono giuste e nel caso non lo siano quali sono gli errori: ``` Certo che conosciamo nei minimi dettagli gli algoritmi per allenare e fare inferenza con le DNN (backpropagation, gradient descent, ecc.), ma siccome il risultato dipende da milioni di interazioni tra i neuroni della rete, non abbiamo un modo semplice di spiegare il risultato. Non possiamo applicare il metodo riduzionista a questi modelli, per ricondurne il funzionamento a quello delle parti di cui è composto e alle regole che queste utilizzano. Come nei sistemi complessi di Giorgio Parisi, questi modelli esibiscono un comportamento emergente:: 1. Le DNN utilizzano funzioni di attivazione complesse e non lineari che creano trasformazioni difficili da mappare direttamente a un algoritmo interpretabile. 2. La "conoscenza" all'interno di una rete neurale è distribuita su miliardi di parametri. Tracciare il percorso decisionale per una singola previsione è di fatto impossibile. 3. A differenza del software tradizionale, l'apprendimento profondo estrae da solo le caratteristiche su cui opera. Scopre relazioni nascoste e complesse nei dati a vari livelli di astrazione che non sono direttamente interpretabili. ``` La risposta del Buon Claudio: ## Analisi delle affermazioni Il ragionamento di fondo è corretto nel suo spirito, ma contiene alcune imprecisioni e affermazioni troppo assolute. Ecco un'analisi punto per punto. --- ### Premessa generale ✅ (con sfumature) > *"Conosciamo nei minimi dettagli gli algoritmi… ma non abbiamo un modo semplice di spiegare il risultato"* Sostanzialmente corretto. Tuttavia dire "milioni di interazioni" è già impreciso: i moderni LLM hanno **miliardi** di parametri, non milioni. --- ### Sul metodo riduzionista ⚠️ Parzialmente errato > *"Non possiamo applicare il metodo riduzionista a questi modelli"* Questa è un'**affermazione troppo forte**. Il campo della **mechanistic interpretability** (Anthropic, DeepMind, ecc.) è esattamente un approccio riduzionista applicato alle reti neurali: si studiano singoli neuroni, circuiti, layer, per ricondurne il comportamento a componenti più semplici. Ha già prodotto risultati concreti (es. identificazione di "curve detector neurons" nelle CNN, o di circuiti per l'aritmetica nei transformer). Non è che *non si può* fare, è che è *difficile e incompleto*. --- ### Sul riferimento a Giorgio Parisi ⚠️ Analogia imprecisa > *"Come nei sistemi complessi di Giorgio Parisi"* L'analogia è suggestiva ma **approssimativa**. Parisi ha vinto il Nobel per i sistemi fisici disordinati come i **vetri di spin** (*spin glasses*), caratterizzati da frustrazioni geometriche e stati metastabili. Le DNN condividono alcune proprietà formali (alta dimensionalità, paesaggi di energia complessi), ma non sono lo stesso tipo di sistema. Citare Parisi qui suona come un appiglio di autorità più che una connessione rigorosa. Il concetto di **emergenza** è corretto in sé, ma non è necessario Parisi per giustificarlo. --- ### Punto 1 ❌ Errore fattuale > *"Le DNN utilizzano funzioni di attivazione complesse e non lineari"* Questo è **sbagliato per quanto riguarda la complessità**. Le funzioni di attivazione più usate sono spesso **banalmente semplici**: - **ReLU**: `f(x) = max(0, x)` — più semplice di così non si può - **Sigmoid**, **tanh**: funzioni elementari ben note La **non-linearità** è corretta ed è il punto chiave. Ma la complessità non viene dalla complessità delle singole funzioni di attivazione: emerge dalla loro **composizione in profondità** su milioni/miliardi di parametri. L'affermazione così formulata confonde causa ed effetto. --- ### Punto 2 ⚠️ Parzialmente esagerato > *"Tracciare il percorso decisionale per una singola previsione è di fatto impossibile"* È **troppo categorico**. Esistono tecniche consolidate per farlo, almeno parzialmente: - **Attention visualization** nei transformer - **Saliency maps** e **Grad-CAM** nelle CNN - **Activation patching** e **causal tracing** - **LIME**, **SHAP** per l'interpretabilità locale Il problema non è che sia impossibile, ma che sia **incompleto e non sempre affidabile**. La ricerca di interpretabilità è un campo attivo proprio perché qualcosa si riesce a fare. --- ### Punto 3 ✅ Quasi corretto (con una sfumatura) > *"Le caratteristiche estratte non sono direttamente interpretabili"* Vero in generale, ma **non universalmente**. Nei primi layer delle CNN, per esempio, si trovano regolarmente filtri interpretabili (rilevatori di bordi, frequenze, pattern Gabor-like) che assomigliano molto a quelli trovati nel sistema visivo biologico. L'interpretabilità decresce con la profondità, ma non è assente fin dall'inizio. --- ## Riepilogo degli errori principali | Affermazione | Problema | |---|---| | Metodo riduzionista inapplicabile | Troppo assoluto: la mechanistic interpretability è proprio un approccio riduzionista | | Riferimento a Parisi | Analogia suggestiva ma non rigorosa | | Funzioni di attivazione "complesse" | Sbagliato: ReLU è semplicissima; la complessità è nella composizione | | Percorso decisionale "impossibile" da tracciare | Troppo forte: esistono molte tecniche di interpretabilità parziale | | Caratteristiche mai interpretabili | Generalizzazione eccessiva: i primi layer delle CNN mostrano feature interpretabili | ---------- A questo punto da "utente normale" di chi mi dovrei fidare? Il "metodo riduzionista" si può applicare oppure no? Riguardo a: Del resto c’è una semplice controprova: se sapessimo scrivere del codice tradizionale in grado di fare ciò che fanno i LLM, perché nessuno è riuscito a farlo? La comunità di AI ci ha provato per 50 anni senza riuscirci. Il Buon Claudio dice: ``` L'argomento ha un'intuizione valida, ma ha alcune imprecisioni che vale la pena evidenziare. **Cosa c'è di giusto** L'idea di fondo è corretta: l'AI simbolica (regole scritte a mano, ontologie, sistemi esperti) ha dominato per decenni e non è riuscita a replicare la comprensione del linguaggio naturale. Questo fallimento storico è reale e significativo. **Cosa non torna** 1. **I LLM *sono* codice tradizionale.** Sono implementati in PyTorch/CUDA, girano su CPU/GPU, usano. La distinzione non è "codice vs non-codice", ma **codice con regole esplicite** vs **codice che apprende parametri dai dati**. 2. **"50 anni senza riuscirci" è una semplificazione.** Il deep learning esiste dagli anni '80 (backpropagation di Rumelhart, 1986). I LLM non sono una rottura improvvisa, ma il risultato di decenni di progressi incrementali: più dati, più potenza di calcolo, architetture migliori (Transformer, 2017). 3. **La controprova non è logicamente stringente.** "Nessuno ci è riuscito prima" non dimostra che fosse impossibile, dimostra solo che non si erano ancora trovati i mezzi giusti (scala, dati, architettura). **Come riformularlo meglio** > *L'approccio simbolico — scrivere esplicitamente regole per ogni comportamento — si è dimostrato insufficiente per catturare la complessità del linguaggio. I LLM hanno risolto il problema in modo radicalmente diverso: invece di codificare regole, apprendono pattern statistici da enormi quantità di testo.* Questa versione è più precisa e altrettanto efficace come argomento. ``` Come sarebbe a dire che sono: "operazioni matematiche standard (moltiplicazioni tra matrici, ecc.)"? Non c'erano sistemi complessi impossibili da definire? Come sempre, scusate l'impertinenza delle domande. -- massimo

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Stefano Borroni Barale

Ciao Giacomo, ti rispondo perché in questo messaggio scarti (secondo me entrando in contraddizione con te stesso) un argomento che, a mio parere, è uno dei potenziali pilastri della critica all'allucinazione collettiva che porta a identificare umani e macchine. Preciso: non a creare metafore o parallelismi, bensì a identificare come in "I am a stochastic parrot, too!" (S. Altman). I due pilastri, secondo me, sono: 1. Pilastro epistemologico: identificare due fenomeni che si presentano in due sistemi di complessità differenti che non hanno nulla in comune è, semplicemente, "cargo cult science" (Feynman). A ciascuno la sua fede su cosa sia superiore o meno (c'è libertà di culto, oltre che di pensiero, finché vige ancora la Costituzione), ma quello che è innegabile è che macchine e umani sono profondamente differenti. Gli esseri umani sono basati sul carbonio e sono viventi: nascono, crescono, si riproducono, invecchiano, muoiono e producono un flusso di coscienza praticamente ininterrotto anche nel sonno. Le macchine sono basate su metalli e silicio: non nascono, non crescono, non invecchiano (si consumano, ma possono essere ripristinate), non muoiono. Al massimo vengono dismesse. Ovviamente producono output solo se appositamente sollecitate (il famoso prompt) e questo è molto differente da un flusso di coscienza. A uno sguardo un pelino più approfondito di quello di McCulloch-Pitts, direi che quello che salta all'occhio son più differenze che similitudini. Pertanto, identificare le risposte di un umano con l'output di un LLM è semplicemente un errore grossolano o, se preferiamo, lavorare "in approssimazione di studente sferico" (comefacevo da studente a fisica tanti anni fa)e per questo stesso motivo l'accusa di "anthropocentric bias", che Silicon Valley scaglia contro chi insiste nel sottolineare la differenza è ridicola. Una dimostrazione scientifica dell'identità dei due fenomeni richiederebbe tanti di quei passi che mi viene il mal di capa anche solo a immaginarla. Ovviamente tra questi ci sarebbe definire "risposta", "coscienza", "pensare", "intelligenza": oltre il 50% dei termini bollati da Marvin Minsky stesso come "parole con la valigia" [1], che lui pensava allontanassero dalla soluzione del problema. Questo, intendiamoci bene, è un problema di chi sostiene l'identità, non di chi la rifiuta. Chiunque mastichi il metodo scientifico sa che l'onere della prova cade in capo al proponente di una nuova teoria o intuizione, che pertanto resta falsa fino a che non vi sono sufficienti evidenze del contrario (es. misurazioni di Hubble l'universo in espansione, lavoro di Sir Eddington per la relatività). Ovviamente questo non impedisce di riconoscere dei parallelismi o delle metafore e sfruttarle per comprendere alcuni sotto-meccanismi e non certo l'intero fenomeno, come volevano fare i cibernetici. Ma lo stesso Von Neumann rigetta l'idea dell'identificazione in una lettera a Wiener e McCulloch a cavallo tra i tardi '40 e i primi '50 (ora la memoria non mi aiuta), sostenendo che il cervello è troppo complesso come modello a cui ispirarsi per i nascendi computer, meglio pensare a un modello più semplice. 2. Pilastro ontologico: la natura di viventi in generale e degli esseri umani in particolare rende l'esperienza della vita situata. La conoscenza umana è anch'essa è situata, in quanto parte dell'esperienza dell'essere vivi. Lo stesso vale per il segno che quella conoscenza vorrebbe trasmettere - come hai ben descritto. Insomma, è necessario avere un corpo per poter fare esperienza delle cose che rendono umani. I sensori di un agente cibernetico automatico sono giocattoli rispetto agli organi di senso umano (di nuovo, Von Neumann dixit o, se preferisci, Frederick Von Frankensteen in "Young Frankenstein" di Mel Brooks :-D: il concetto non cambia). Il cervello dei viventi, poi, è il risultato di milioni di anni di evoluzione e tentativi successivi, lungo innumerevoli generazioni. Le "reti neurali artificiali" non hanno nemmeno cent'anni. Pensare che noi avremmo fatto in cent'anni meglio di quanto fatto dalla natura in milioni, quello si è suprematismo antropocentrico. "Cala trinchetto" diceva mio nonno. Ovviamente non è un ragionamento quantitativo, ma qualitativo, ma tu dovresti riconoscerti facilmente nell'incedere tipico della cibernetica. Per tutto il resto concordiamo, ma questo lo sapevi già. :-) Stefano [1] https://www.edge.org/conversation/marvin_minsky-consciousness-is-a-big-suit… Il 10/05/26 22:18, Giacomo Tesio via nexa ha scritto: > Caro Andrea, > > On Fri, 8 May 2026 15:39:22 +0200 Andrea Bolioli wrote: > >> eh, sono in parte d'accordo con te Giacomo, ma se entriamo nel tema >> "semantica" non ne usciamo più... :-) > > per quanto stretta e scomoda, è una strada necessaria. > > La mail che stai leggendo è una rappresentazione simbolica di > un'informazione nella mia mente: un'esperienza soggettiva di pensiero > comunicabile che cerco di esprimere e trasmetterti perché tu ne possa > vedere i simboli ed interpretarli, riproducendo tale esperienza nella > tua mente. [1] > > Le parole di questa mail sono legate da relazioni semantiche: ogni > parola viene scelta per contribuire alla trasmissione delle informazioni > nella mia mente che intendo trasmettere. > > Non rileva molto, in realtà, che tali informazioni siano o meno > derivate da esperienze sensibili (non concordo particolarmente con > Enrico sulla rilevanza dell'esperienza corporea nel contesto delle > "intelligenze artificiali", anche perché non è difficile collegare a > questi software sensori e attuatori). > > Molto più rilevante è la relazione fra l'informazione nella mia mente > (l'esperienza di pensiero comunicabile che intendo comunicare) e le > parole che scelgo, in modo auspicabilmente adeguato, per trasmetterla. > > L'output di un LLM invece non ha alcun significato. > > I token estrati dal modello a partire dal prompt non sono legati da > relazioni semantiche, ma statistiche. [2] > > Nessuna mente sta cercando di esprimere l'esperienza soggettiva di un > pensiero comunicabile. I processi di attivazione degli strati finali > della vector mapping machine (impropriamente detta "rete neurale > arficiale") sono "difficili da interpretare" (per usare le parole di > Giuseppe Attardi) semplicemente perché non hanno alcun significato > intrinseco [3] e dunque non c'è nulla da interpretare. > > Il problema fondamentale è che chi non comprende il funzionamento di > questi software attribuisce un significato al loro output, attribuendo > alle parole relazioni semantiche invece che statistiche. > > Se usi un LLM come archivio compresso con perdita, può essere utile. > Ad esempio, puoi estrarre da Claude o da Copilot il codice dei tuoi > concorrenti che lo usano (fornendo loro in cambio accesso al tuo). > O puoi ottenere lorem ipsum a tema per il prototipo del sito web di un > cliente per praticamente qualsiasi ambito commerciale. > > Ma se lo confondi con un interlocutore, con un "AI peer programmer" > (vedi marketing di GitHub CopyALot o Claude), sei vittima di un inganno. > > Giacomo > > [1] Infatti, contrariamente ad un protocollo software che permette il > trasferimento (più propriamente, la copia) di un dato fra > dispositivi diversi, il linguaggio non determina una trasferimento > di informazione (che essendo esperienza soggettiva, non lascia mai > la mente di chi la esperisce) ma solo una sincronizzazione, parziale > e inesatta, fra menti umane. > https://encrypted.tesio.it/2019/06/03/what-is-informatics.html#a-complex-re… > [2] nota polemica: _statistiche_, non _probabilistiche_ perché i numeri > prodotti a valle delle varie trasformazioni non lineari e delle > normalizzazioni calcolate durante l'esecuzione del LLM sul "motore > inferenziale" non sono più interpretabili matematicamente come > probabilità. > > [3] così come non ne hanno i livelli iniziali, sebbene sia possibile > ricondurre determinati pattern di attivazione a pattern > particolarmente frequenti nel testo, come sono, ovviamente, le > strutture grammaticali di una lingua.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Ciao Enrico, allora se premetti provo io On Sun, 10 May 2026 20:53:21 +0200 Enrico Nardelli wrote: > Il 09/05/2026 22:24, Giuseppe Attardi ha scritto: > > Attendo che tu proponga una definizione operativa migliore del > > “senso delle parole” di quelle che l’umanità ha proposto finora. > > > Io non propongo, né voglio farlo, una definizione operativa di "senso > delle parole" come lo interpretano gli esseri umani. Il significato (o senso) di un atto comunicativo è l'esperienza soggettiva di pensiero comunicabile [1] che l'autore dell'atto stesso prevede di produrre nelle menti di coloro che percepiranno tale atto alla luce di altre esperienze precedentemente condivise con essi. Ad esempio il significato del paragrafo precedente è l'esperienza del significato di un atto comunicativo che vivo nella mia mente e che spero di condividere con i membri della lista Nexa assumendo che comprendano tutti la lingua italiana. Lingue e linguaggi (e dunque anche le parole che li caratterizzano) definiscono protocolli di sincronizzazione fra le menti umane adeguatamente efficienti per il rispettivo contesto di utilizzo. "Casa" "Logaritmo" "Su" "Bosone" "Cibernetica" "</html>" "Con" Ciascuna di queste parole determina un'esperienza soggettiva di pensiero comunicabile nelle vostre menti (ancorché parziale). E ciascuna di esse, in frasi di senso compiuto che ne includono altre, contribuiscono a determinare altre esperienze soggettive di pensiero comunicabile che il mittente intende condividere. "Non ho idea di cosa sia un logaritmo". "Bosone fa rima con nasone". Per questo il significato di una parola può variare a seconda del contesto: oltre all'ambito di utilizzo, ciò che cambia è anzitutto il mittente e la sua conoscenza dei destinatari. [2] Si tratta di una definizione "operativa"? Direi di sì: ci permette di esprimere chiaramente la differenza fra l'espressione di un essere umano, le cui parole si susseguono sulla base di relazioni semantiche tramite le quali quell'essere umano intende esprimere un'informazione, e l'output di un LLM, i cui token si susseguono sulla base di relazioni statistiche calcolate a partire da testi scritti dall'uomo [3], ma senza veicolare alcuna esperienza soggettiva di pensiero comunicabile (in assenza di una soggettività), e dunque senza veicolare alcun significato. Giacomo [1] anche detta "informazione" [2] L'efficacia dei diversi linguaggi, la corrispondenza fra le esperienze soggettive di mittente e destinatario, varia molto fra di essi così come la loro efficienza: l'assembly è un linguaggio molto efficace ma poco efficiente, le formule matematiche sono solitamente sia molto efficaci che molto efficienti. Tuttavia ogni termine dell'assembly ha un significato perché i programmatori dell'assembler (il software che traduce l'assembly in binario) hanno deciso di associare quella specifica sequenza di lettere ad una specifica sequenza di byte eseguibili dal processore. E si noti che anche nel caso dell'assembly, la comunicazione espressa nel software non è fra programmatore e macchina, ma fra programmatori. Non solo perché il codice è sempre scritto per essere (ri)letto da esseri umani: anche l'atto di compilare un programma (assemblare, nel caso dell'assembly) è un atto di comunicazione asincrona fra il programmatore che scrive il programma da compilare e il programmatore che ha scritto il compilatore. Il compilatore non fa altro che automatizzare ciò che chi l'ha programmato potrebbe fare manualmente se il programmatore del programma da compilare gli inviasse il sorgente. [3] ignoriamo al momento model collapse e (doveroso) data poisinig

May 10, 2026