- nexa - server-nexa.polito.it

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by abregni

Vorrei capire di cosa stiamo parlando... Io sono fermo a "La scorciatoia" di Cristianini: fallita l'AGI, hanno fatto gli LLM. Bene. PUNTO. Perché vogliamo filosofeggiarci sopra...? NOI -- nell'output di un LLM -- ci leggiamo un significato. E' UMANO (a me riesce arduo leggere senza trovarne uno: mi irrito), ...e ho persino gestito gruppi creativi, dove il linguaggio creava interessanti associazioni che NON erano -- almeno consapevolmente -- nella mente di chi parlava, ma le "leggeva" chi ascoltava. Questo cestina -- mi scuso con Giacomo -- il suo parzialissimo modello di comunicazione (e, ancor prima, di informazione: non di rado è come la bellezza: negli occhi di chi guarda, ...qui di chi legge), ed è forse l'unico vero valore degli LLM: **darci materiale**. Finiamola li. Non mi sogno neanche di "ipotizzare" che "insegnino" (già è difficile farlo bene per gli umani), MA fornire un quadro strutturato in modo ragionevole su qualche argomento, ...perché no? La filosofia -- checché se ne dica -- sforna solo opinioni (...e le manca pure il cestino dove buttarle quando hanno poco senso: continuiamo a raccontarcele *tutte*). Appena sento la parola "ontologia" in ambito informatico (e non in becero senso tecnico, che mi rimane comunque insopportabile), ...reagisco. Scusate, ma temo che lo sfogo sia dovuto. Il 2026-05-15 20:08 Enrico Nardelli via nexa ha scritto: > Ritengo doveroso articolare una riflessione. > > Il post della Bender > > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… > dice: > in Bender and Koller 2020 ... we provide a definition of > understanding as mapping from language to something outside of > language, and show that systems built only with linguistic form have > no purchase with which to encode (“learn”) such a mapping. > > Ovvero: Definiamo comprensione come una corrispondenza tra linguaggio > e qualcosa fuori il linguaggio. Un sistema addestrato solo sulle forme > linguistiche non ha modo di codificare questa corrispondenza. > > Dopo di che dice: > _Stochastic parrots was coined to refer to language models, i.e. > systems trained only on linguistic form used to mimic the kinds of > sequences of linguistic form that people use._ > > Ovvero: Il termine "pappagalli stocastici" si riferiva ai sistemi > addestrati sulle forme linguistiche che imitano quelle che usano le > persone. > > E poi dice ancora, e qui c'è l'espressione che si pensa scardini > tutto: > _It is true that image/text models, for example, that can be used > to map from linguistic strings to images or vice versa, can be argued > to meet the definition of understanding in Bender & Koller 2020, > albeit in an extremely thin way_. > > Ovvero: si può sostenere che un modello misto con testo e immagini, > che mette in corrispondenza testi con immagini o viceversa, risponda > alla nostra definizione di comprensione, anche se in un modo > estremamente sottile. > > E poi continua: > _When we look at the text in an image/text model, we make sense of > it in a way that is rich and socially situated and we must not project > that onto the model if we want to keep a clear-eyed view of how such > models actually function (and in what circumstances we should be > willing to use them)_. > > Ovvero: quando noi guardiamo il testo di un modello misto con testo e > immagini, lo comprendiamo in modo ricco e socialmente situato, che non > deve essere proiettato sul modello, se vogliamo mantenere una visione > chiara su come il modello funziona effettivamente > > E infine: > _Even if there is some thin kind of technical “understanding” > in e.g. a text/image model, the fact that it’s using our language at > all will send misleading signals about what is actually going on, so > long as we relate to language as we always do (and I don’t see how > we can avoid doing so)_. > > Ovvero: anche se c'è una esile forma di "comprensione" in senso > tecnico in un modello misto con testo e immagini, il semplice fatto > che usi il nostro linguaggio ci manda segnali fuorvianti su ciò che > sta accadendo, finché noi ci relazioniamo al linguaggio come sempre > facciamo (e non vedo come potremmo fare diversamente) > > Ecco, leggendo questi passi tutti insieme e non estraendo solo la > frase "risponde alla nostra definizione di comprensione", si capisce > che l'accoppiamento fra testo e immagine rientra da un punto di vista > sintattico (_in an estremely thin way_ - direi per un capello) nella > definizione tecnica di comprensione della Bender, ma non è la > comprensione umana. Notate che dice che siamo NOI che lo comprendiamo > (_we make a sense of it_) sulla base della nostra esperienza. Infatti, > questo "qualcosa fuori il linguaggio" della definizione è l'intento > comunicativo del parlante, che è basato sul mondo reale che parlante > e ascoltatore condividono (_the communicative intent is grounded in > the real world the speaker and listener inhabit together_). > > Se si legge con attenzione l'articolo di Bender & Koller del 2020 > citato nel post della Bender > (https://www.aclweb.org/anthology/2020.acl-main.463/ - cosa che vi > invito a fare, è abbastanza accessibile) tutto questo è molto > chiaro, così come la tesi principale di quell'articolo, che rimane > interamente salda e non scalfita. > _We argue that the language modeling task, because it only uses > form as training data, cannot in principle lead to learning of > meaning. ... We take (linguistic) meaning to be the relation between a > linguistic form and communicative intent_. > > Certo, uno può leggere nel recente post della Bender quello che > vuole, ma argomentare trionfanti che "è una retromarcia bella grossa" > mi sembra esagerato. > > Questo non vuol ovviamente dire che progressi nella ricerca e nelle > architetture dei sistemi di IA non potranno darci in futuro una > qualche forma di comprensione, che con le attuali architetture non > c'è. > > Ciao, Enrico > > Il 14/05/2026 00:43, Fabio Alemagna via nexa ha scritto: > >> Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: >> https://www.facebook.com/share/p/18kiudNQqK/ >> >> _______________ >> >> 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily >> Bender sui pappagalli stocastici. Queste precisazioni, finalmente, >> potrebbero aiutarci a depurare il dibattito e a concentrarci sulla >> parte del lavoro di Bender che è davvero importante: lo studio e la >> critica dei rapporti di potere dentro l'industria delle intelligenze >> artificiali. >> >> Ma andiamo con ordine. >> >> La prima cosa interessante è il fatto stesso che ci sia stato il >> bisogno, cinque anni dopo la pubblicazione di "On the Dangers of >> Stochastic Parrots", di fare delle precisazioni. >> >> La seconda è il chiarimento sul fatto che "pappagalli stocastici" >> è solo una metafora e non un'ipotesi empirica. >> >> La terza è il fatto che secondo Bender "pappagalli stocastici" non >> dovrebbe essere usato come "insulto" nei confronti della tecnologia. >> Suo malgrado, però, è quel che è stato fatto. >> >> La quarta e più importante, per me, è questo passaggio qui sulla >> comprensione: "It is true that image/text models, for example, that >> can be used to map from linguistic strings to images or vice versa, >> can be argued to meet the definition of understanding in Bender & >> Koller 2020 — albeit in an extremely thin way". >> >> Si può provare a sostenere che questa non sia una retromarcia. Ma >> è una retromarcia bella grossa, per quanto manovrata con >> delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al >> 2024 almeno, Bender affermava che non si potesse parlare di >> "understanding" da parte dei modelli secondo la sua stessa >> definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è >> diverso da "non c'è understanding". Molto diverso. >> >> Da qui in avanti mi aspetto una serie di lente ma inesorabili >> operazioni di riposizionamento da parte di molte persone che hanno >> usato – impropriamente, come dice oggi Bender stessa, finalmente >> – la metafora dei pappagalli stocastici per sminuire i large >> language model. >> >> Ovviamente gli errori e i danni fatti dai detrattori e dai >> minimizzatori non verrano mai riconosciuti come tali, ma questo è >> comunque un punto di non ritorno sia per i critici a priori di >> queste tecnologie sia per chi ha usato i pappagalli per costruirsi >> un posizionamento personale. >> >> La metafora – non ipotesi empirica – dei pappagalli stocastici, >> per quanto affascinante, era già riduttiva quando è stata >> proposta. In questi cinque anni lo è diventata sempre di più ma >> nel frattempo è diventata addirittura identitaria, ingombrando il >> dibattito e portandolo completamente fuori fuoco. >> >> Adesso che quella metafora perde i pezzi, resta, appunto, la parte >> del lavoro di Bender che era la più utile fin dall’inizio: la >> critica al potere. >> >> Link: >> >> 1) Climbing towards NLU: On Meaning, Form, and Understanding in the >> Age of Data (Emily M. Bender, Alexander Koller, 2020) >> https://aclanthology.org/2020.acl-main.463/ >> >> 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too >> Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, >> Shmargaret Shmitchell, 2021 >> https://dl.acm.org/doi/10.1145/3442188.3445922 ) >> >> 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. >> Bender, >> > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… >> ) >> >> 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. >> Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E > > -- > -- EN > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www . mat . uniroma2 . it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================================================================== > > --

May 15, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Enrico Nardelli

Ritengo doveroso articolare una riflessione. Il post della Bender https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… dice: /in Bender and Koller 2020 ... we provide a definition of understanding as mapping from language to something outside of language, and show that systems built only with linguistic form have no purchase with which to encode (“learn”) such a mapping. / Ovvero: Definiamo comprensione come una corrispondenza tra linguaggio e qualcosa fuori il linguaggio. Un sistema addestrato solo sulle forme linguistiche non ha modo di codificare questa corrispondenza. Dopo di che dice: /Stochastic parrots was coined to refer to language models, i.e. systems trained only on linguistic form used to mimic the kinds of sequences of linguistic form that people use./ Ovvero: Il termine "pappagalli stocastici" si riferiva ai sistemi addestrati sulle forme linguistiche che imitano quelle che usano le persone. E poi dice ancora, e qui c'è l'espressione che si pensa scardini tutto: /It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020, albeit in an extremely thin way/. Ovvero: si può sostenere che un modello misto con testo e immagini, che mette in corrispondenza testi con immagini o viceversa, risponda alla nostra definizione di comprensione, anche se in un modo estremamente sottile. E poi continua: /When we look at the text in an image/text model, we make sense of it in a way that is rich and socially situated and we must not project that onto the model if we want to keep a clear-eyed view of how such models actually function (and in what circumstances we should be willing to use them)/. Ovvero: quando noi guardiamo il testo di un modello misto con testo e immagini, lo comprendiamo in modo ricco e socialmente situato, che non deve essere proiettato sul modello, se vogliamo mantenere una visione chiara su come il modello funziona effettivamente E infine: /Even if there is some thin kind of technical “understanding” in e.g. a text/image model, the fact that it’s using our language at all will send misleading signals about what is actually going on, so long as we relate to language as we always do (and I don’t see how we can avoid doing so)/. Ovvero: anche se c'è una esile forma di "comprensione" in senso tecnico in un modello misto con testo e immagini, il semplice fatto che usi il nostro linguaggio ci manda segnali fuorvianti su ciò che sta accadendo, finché noi ci relazioniamo al linguaggio come sempre facciamo (e non vedo come potremmo fare diversamente) Ecco, leggendo questi passi tutti insieme e non estraendo solo la frase "risponde alla nostra definizione di comprensione", si capisce che l'accoppiamento fra testo e immagine rientra da un punto di vista sintattico (/in an estremely thin way/ - direi per un capello) nella definizione tecnica di comprensione della Bender, ma non è la comprensione umana. Notate che dice che siamo NOI che lo comprendiamo (/we make a sense of it/) sulla base della nostra esperienza. Infatti, questo "qualcosa fuori il linguaggio" della definizione è l'intento comunicativo del parlante, che è basato sul mondo reale che parlante e ascoltatore condividono (/the communicative intent is grounded in the real world the speaker and listener inhabit together/). Se si legge con attenzione l'articolo di Bender & Koller del 2020 citato nel post della Bender (https://www.aclweb.org/anthology/2020.acl-main.463/ - cosa che vi invito a fare, è abbastanza accessibile) tutto questo è molto chiaro, così come la tesi principale di quell'articolo, che rimane interamente salda e non scalfita. /We argue that the language modeling task, because it only uses form as training data, cannot in principle lead to learning of meaning. ... We take (linguistic) meaning to be the relation between a linguistic form and communicative intent/. Certo, uno può leggere nel recente post della Bender quello che vuole, ma argomentare trionfanti che "è una retromarcia bella grossa" mi sembra esagerato. Questo non vuol ovviamente dire che progressi nella ricerca e nelle architetture dei sistemi di IA non potranno darci in futuro una qualche forma di comprensione, che con le attuali architetture non c'è. Ciao, Enrico Il 14/05/2026 00:43, Fabio Alemagna via nexa ha scritto: > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily > Bender sui pappagalli stocastici. Queste precisazioni, finalmente, > potrebbero aiutarci a depurare il dibattito e a concentrarci sulla > parte del lavoro di Bender che è davvero importante: lo studio e la > critica dei rapporti di potere dentro l'industria delle intelligenze > artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il > bisogno, cinque anni dopo la pubblicazione di "On the Dangers of > Stochastic Parrots", di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è > solo una metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non > dovrebbe essere usato come "insulto" nei confronti della tecnologia. > Suo malgrado, però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla > comprensione: "It is true that image/text models, for example, that > can be used to map from linguistic strings to images or vice versa, > can be argued to meet the definition of understanding in Bender & > Koller 2020 — albeit in an extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è > una retromarcia bella grossa, per quanto manovrata con delicatezza e > ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender > affermava che non si potesse parlare di "understanding" da parte dei > modelli secondo la sua stessa definizione. Adesso, invece, c'è uno > spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto > diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili > operazioni di riposizionamento da parte di molte persone che hanno > usato – impropriamente, come dice oggi Bender stessa, finalmente – la > metafora dei pappagalli stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai > minimizzatori non verrano mai riconosciuti come tali, ma questo è > comunque un punto di non ritorno sia per i critici a priori di queste > tecnologie sia per chi ha usato i pappagalli per costruirsi un > posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per > quanto affascinante, era già riduttiva quando è stata proposta. In > questi cinque anni lo è diventata sempre di più ma nel frattempo è > diventata addirittura identitaria, ingombrando il dibattito e > portandolo completamente fuori fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del > lavoro di Bender che era la più utile fin dall’inizio: la critica al > potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the > Age of Data (Emily M. Bender, Alexander Koller, 2020) > https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too > Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, > Shmargaret Shmitchell, 2021 > https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. > Bender, > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… > ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. > Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www . mat . uniroma2 . it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================================================================== --

May 15, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Ciao Stefano, On Fri, 15 May 2026 05:55:02 +0000 Stefano Borroni Barale wrote: > > Pur concordando con ciò che scrivi descrivendo il "pilastro > > ontologico", non lo ritengo affatto un pilastro della critica alla > > favola della "intelligenza artificiale". > [...] > > Lo considero al più un puntello malfermo che, in assenza di > > fondamenta più solide (quali ad esempio la definizione di > > informazione come esperienza soggettiva di pensiero comunicabile, > > la sua distinzione dal dato quale rappresentazione interpretabile > > impressa su ub supporto trasferibile, etc), viene proposta da > > intellettuali ben intenzionati nella speranza di sostenere > > l'umanità dall'attacco che sta subendo. > > Perdonami, avrei dovuto essere più chiaro sul fatto che condivido > totalmente la definizione di informazione come esperienza soggettiva. > Ma ti faccio osservare che è un altro modo di dire che l'informazione > (come la conoscenza) è situata. Lo è per certo, perché ogni essere umano esiste in uno spaziotempo limitato e definito (non pre-definito, ma su questo sorvolo perché andremmo off-topic e dopo avermi tacciato privatamente di materialismo, mi accuseresti di essere un idealista platonico :-D). Potrei persino concordare che in tal senso, l'essere situata spazialmente e storicamente è condizione fondamentale o comunque imprescindibile di ogni informazione e della mente di cui è parte. Non è questo il punto del nostro disaccordo, bensì la frase successiva: > Non basta avere una mente, ci va un corpo. Immagina per un momento di essere chiuso in una stanza completamente buia e silenziosa, che ti impedisce di ricevere i fenomeni esterni. Continueresti ad avere una mente? Come ti spiegherebbero alla Lega del Filo d'Oro, la risposta è "sì". Per altro, il cervello umano ha diverse aree evolutivamente deputate al linguaggio [1], per cui anche un bimbo sordocieco dalla nascita all'età appropriata ne svilupperebbe comunque uno (ancorché diverso da qualsiasi altro) in cui formulare nella propria mente l'informazione "sono" di cartesiana memoria. Poi è chiaro (e siamo d'accordo) che la funzione evolutiva del linguaggio come di tutto il resto dell'informatica, è la condivisione di informazioni tramite la sincronizzazione delle menti veicolate da esperienze corporee (che chiamiamo "messaggi"). Senza un corpo non avremmo modo di comunicare né molto da comunicare. Il nostro corpo (e la nostra storia in esso) caratterizza la stragrande maggioranza delle informazioni nella nostra mente. Ma non necessariamente tutte: possiamo descrivere sistemi multidimensionali senza averne mai percepito uno. E non ho mai conosciuto nessuno che sia passato dentro un trasformatore di monadi, pur conoscendo diversi programmatori Haskell. Dunque non tutte le informazioni sono legate al corpo. > Anche solo perché il "punto di vista" cognitivo-emotivo di un > essere umano emerge dall'interezza del corpo fisico e non solo dal > cervello. Sfido chiunque a ragionar di unicorni kantiani con un > bell'ascesso in atto, per dire. Al contrario, è esperienza comune fra i programmatori che la profonda concentrazione necessaria durante il debug può attenuare notevolmente la percezione del dolore (fisico e non solo). Concentrarsi su altro non è antidolorifico, ovviamente, né ansiolitico. Non svolge la funzione evolutiva del dolore, che ci spinge ad affrontarne le cause. E talvolta non è facile raggiungere "la zona". Ma è possibile. > > Per la semplice ragione che un sistema complesso non è computabile, > > mentre l'output di quell'ipotetico mega data center lo è (tanto da > > essere computato). Per argomentare che quel software esibisce > > intelligenza, bisognerebbe sostenere che la realtà stessa non è un > > sistema complesso ed è dunque essa stessa computabile. Perché è la > > realtà ad aver esibito i comportamenti emergenti che noi umani > > classifichiamo come vita ed intelligenza. > > > > Ipotesi che al momento la meccanica quantistica esclude. > > Ti confesso che su questo punto mi son perso. L'ipotesi che la meccanica quantistica esclude è la possibilità di calcolare precisamente l'evoluzione della realtà. Affermazione banale in effetti. Mi scuso per non essere stato chiaro. Il punto comunque era che definire un LLM, di cui possiamo conoscere e calcolare esattamente l'evoluzione, come "sistema complesso" è funzionale a giustificare (senza spiegare) il suo output come "comportamento emergente" invece di riconoscerlo quale decompressione approssimativa dei testi sorgente. Giacomo

May 15, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Stefano Borroni Barale

Ciao Giacomo, mi sa che ho scritto troppo di fretta, finendo per esser poco chiaro. Il punto stava proprio in quello che ho, forse un po' troppo ottimisticamente, chiamato pilastro ontologico. Si tratta ovviamente di un argomento, per di più, che consideravo in aggiunta a quelli che hai portato nel tuo messaggio. Quindi: Il 11/05/26 10:24, Giacomo Tesio ha scritto: > Ti chiederei quindi di indicarmi quale passaggio abbia prodotto nella > tua mente un'informazione in contrasto con il "pilastro epistemologico" che hai > descritto in modo che io possa chiarirlo ulteriormente (se ancora necessario). La risposta, come spero sia ora chiaro, è "nessuno". Il problema stava nell'altro argomento. >>> Non rileva molto, in realtà, che tali informazioni siano o meno >>> derivate da esperienze sensibili (non concordo particolarmente con >>> Enrico sulla rilevanza dell'esperienza corporea nel contesto delle >>> "intelligenze artificiali", anche perché non è difficile collegare a >>> questi software sensori e attuatori). > > Pur concordando con ciò che scrivi descrivendo il "pilastro ontologico", > non lo ritengo affatto un pilastro della critica alla favola della "intelligenza artificiale". La mia sopravvalutazione è probabilmente dovuta al fatto che ciò che mi tiene sveglio la notte, in questi giorni: l'idea delle "macchine per insegnare" (cfr. Audrey Watters, 2021) che si apprestano a sbarcare tipo truppe cammellate nella scuola italiana grazie all'instancabile lavoro dei mille dipartimenti marketing di Big Tech: dal M.I.M. a INDIRE e INVALSI (vedi come le emozioni possono deviare il fiume tranquillo della mente: sono vivo e, quindi, situato). Credo che la risposta più interessante per un educatore è che le macchine per insegnare (a sostituzione o pure in affiancamento) al docente sono incompatibili con l'idea che il sapere sia una costruzione collettiva, in quanto figlie dell'addestramento via condizionamento operante (uno dei tanti sogni bislacchi di Skinner). Sono figlie di un comportamentismo radicale. Per questo, secondo me, la "linea di difesa" migliore, dentro la scuola, è costruire una barricata attorno alle pedagogie attive e situate, di cui mi occupo. > Lo considero al più un puntello malfermo che, in assenza di fondamenta più > solide (quali ad esempio la definizione di informazione come esperienza > soggettiva di pensiero comunicabile, la sua distinzione dal dato quale > rappresentazione interpretabile impressa su ub supporto trasferibile, etc), > viene proposta da intellettuali ben intenzionati nella speranza di sostenere > l'umanità dall'attacco che sta subendo. Perdonami, avrei dovuto essere più chiaro sul fatto che condivido totalmente la definizione di informazione come esperienza soggettiva. Ma ti faccio osservare che è un altro modo di dire che l'informazione (come la conoscenza) è situata. Non basta avere una mente, ci va un corpo. Anche solo perché il "punto di vista" cognitivo-emotivo di un essere umano emerge dall'interezza del corpo fisico e non solo dal cervello. Sfido chiunque a ragionar di unicorni kantiani con un bell'ascesso in atto, per dire. > Per la semplice ragione che un sistema complesso non è computabile, mentre > l'output di quell'ipotetico mega data center lo è (tanto da essere computato). > Per argomentare che quel software esibisce intelligenza, bisognerebbe > sostenere che la realtà stessa non è un sistema complesso ed è dunque essa stessa computabile. > Perché è la realtà ad aver esibito i comportamenti emergenti che noi > umani classifichiamo come vita ed intelligenza. > > Ipotesi che al momento la meccanica quantistica esclude. Ti confesso che su questo punto mi son perso. Non capisco il nesso tra MQ (e temo che qui c'entri l'interpretazione di Copenaghen poi ti dirò perché scrivo 'temo') e l'ipotesi di computabilità del mondo. Forse perché la computabilità poggia su un principio di realismo forte? Se il nostro problema è quello non è necessario rivolgersi a Copenaghen, basta anche l'ipotesi di Accardi [1]: se le particelle si comportassero come camaleonti non sarebbe necessario rinunciare a un principio di realtà forte per accordarsi con le osservazioni sperimentali, basterebbe concedere che la dicotomia soggetto osservante - oggetto osservato cade nell'infinitamente piccolo, rendendo così l'eventuale "realtà forte" inaccessibile, ma non necessariamente inesistente. Stefano [1] Accardi, Urne e Camaleonti, Il Saggiatore, 1997

May 15, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Massimo Maria Ghisalberti

Il giorno gio, 14/05/2026 alle 11.45 +0000, Giuseppe Attardi via nexa ha scritto: > A me pare che la lettura dell’articolo di Anthropic sulle attivazioni negli > LLM con gli autoencoders [1] stia portando a rivedere la posizione di chi > finora sosteneva si trattasse di semplici modelli matematico-statistici > (attenzione, tecnicamente lo sono). Che la struttura di un sistema generativo sia complessa non credo che sia discutibile, il punto non è quello. Quando mi riferisco alle "basi" spiegabili in forme matematicamente semplici mi riferisco alla base su cui poggia una volta l'intero sistema e oggi più strati del sistema. Chiaramente ci sono diverse problematiche prime tra tutte la "velocità" nel produrre una risposta. Algoritmi classici che come spiegazione possono andare bene, non vanno più per un uso reale: non posso stare ad aspettare attese bibliche tra una domanda e una risposta. Ritengo utile questa spiegazione di "bassa lega" per far comprendere come non ci sia magia dietro ma solo un meccanicismo che data una domanda trova un risposta che potremmo definire plausibile. Questo non fa di una macchina una "macchina pensante". Che poi possano essere strumenti davvero utili, forse si e forse no, vedremo in futuro. Quando si parla di "tecnologie software" mi metto sempre dalla parte del povero utente, quello che se le beve tutte, quello che abbocca a ogni presunto avanzamento tecnologico proposto da markettari astuti. L'abile venditore di fumo mi potrebbe convincere di qualunque cosa portandomi a una alienazione socio- culturale senza precedenti. Qualunque cosa sia questa famigerata AI, di una cosa è certo: è la tecnologia informatica più pericolosa mai concepita fino ad adesso. Può portare l'uomo a una tale regressione intellettuale, non chi conosce e sa sfruttare, ma la massa, la stessa massa di persone che in tutte le maniere una classe dominante ha cercato di sottomettere. Anni fa c'era la mania del "coding" e tutti a ballare nei teatri con le magliette di avanti->avanti->sinistra->avanti. Il "pensiero computazionale" instillato in bambini a colpi di blocchetti colorati. Pur con quell'atteggiamento naive alla programmazione si cercava di insegnare le "basi" costringendo i ragazzi a pensare. Che pensiero critico potranno mai acquisire attingendo soltanto alle risposte? Con l'Ai da "produttori" li stiamo rendendo o mantenendo "utenti" più meno passivi se non passivi del tutto. Talvolta mi crea sgomento quando persone che sono o potrebbero essere addentro, contribuiscono anche loro malgrado o in perfetta ingenuità o peggio in dolo, alla retorica da marketing commerciale che aleggia attorno a questi sistemi. Sistemi opachi, prodotti da aziende il cui scopo è il lucro puro e semplice. Quale visione di miglioramento del genere umano hanno mai questi individui? Sono in pieno delirio di onnipotenza con una visione del mondo miope ed esclusivamente a loro vantaggio. Ragionando "di pancia" a sapere che anche un solo bambino al mondo è deceduto per un bombardamento AI-mediato la vieterei, che progresso sarebbe mai questo? Penso che più o meno siamo tutti d'accordo che la sperimentazione genetica sull'uomo sia una cosa da controllare molto seriamente se non da vietare. In senso molto lato non sarebbe più o meno la stessa cosa per AI? Comunque, mi sono ricordati di un testo decente e abbastanza equilibrato che è liberamente scaricabile poi che faccia scienza o meno è ininfluente. Demystifying Artificial Intelligence Symbolic, Data-Driven, Statistical and Ethical AI https://www.degruyterbrill.com/document/doi/10.1515/9783111426143/html -- massimo

May 14, 2026

Re: Forma mentis (Giuseppe Attardi)

by Maria Chiara Pievatolo

On 5/12/26 12:49, karlessi via nexa wrote: >> https://www.repubblica.it/tecnologia/2026/05/12/news/ >> nello_cristianini_libro_forma_mentis_ne_umani_ne_pappagalli_ma_un_altra_forma_di_intelligenza-425337273/ > > > Buongiorno, > > leggerò il libro, come ho letto gli altri di Cristianini; > > le conclusioni dell'articoletto mi sembrano condivisibili, bello cercare > di aprire le scatole nere > > d'altra parte, questa, come gli altri libri suoi che ho letto, a mio > avviso è filosofia, senz'altro non di tipo assiomatico né strettamente > logico, bensì speculativa al limite della fantascienza. Con il racconto > di tante storie ed esperienze. Nulla di male. Basta riconoscerlo. Se fosse filosofia, le farebbe un gran brutto servizio. Cito solo l'incipit. ----------inizio citazione Cosa vuol dire *spiegare* un comportamento o un’abilità? Immaginate un pipistrello, che cattura fino a mille minuscole zanzare all’ora, nel buio più completo. Cercando una spiegazione per questa impressionante abilità, vi rivolgete a un biologo, e vi sentite dire: "sta solamente cercando di acquisire energia”. (A) Questa può sembrare una spiegazione valida, ma uscendo vi sorge un dubbio: perché il topo, anch’esso un sistema biologico e affamato, non ne prende nemmeno una? Nell’ufficio accanto trovate un etologo [sic: https://it.wikipedia.org/wiki/Etologia] e questo vi risponde diversamente: il pipistrello ha un sonar, ha delle ali in grado di controllare la traiettoria, e ha un cervello che elabora gli echi in tempo reale, traducendo l’informazione in azioni rapidissime. Ecco la spiegazione che cercavate: non a quale scopo prende le zanzare, ma come riesce a farlo.[B] La scienza va fatta al livello giusto. Questa osservazione è importante oggi, di fronte alle potenti macchine intelligenti che sono in grado di passare esami universitari, dimostrare teoremi, programmare altri computer. Davanti a queste prestazioni, la spiegazione di queste straordinarie abilità è spesso che questi sistemi sono modelli matematico-statistici che apprendono correlazioni e usano un meccanismo che prevede la parola successiva.[B?] Questo è vero, ma non è una spiegazione,è quasi il rifiuto dispiegare, travestito da risposta. È come se liquidassimo il comportamento del pipistrello dicendo che sta solamente cercando di restare in vita. Ed è da questa vaghezza che poi nasce la confusione, e poi la tendenza ad antropomorfizzare. Se non sappiamo come funziona dentro,[B?] il rischio è che o proiettiamo capacità umane sulla macchina, o neghiamo qualsiasi capacità cognitiva. Entrambi errori. Chiamarlo “effetto statistico” , pensando che questo chiuda la questione, è un tipo di pensiero magico. ---fine citazione Si "spiega" quando si risponde alla domanda "perché?". Ma il testo identifica due tipi di "spiegazioni" diversi, che ho contrassegnato con [A] e [B]. [A] teleologia, che risponde alla domanda: qual è lo scopo di X? La teleologia non è necessariamente pensiero magico (al modo di "il terremoto di Lisbona è accaduto per punirci dei nostri peccati"), anche quando si applica a un organismo e non a un artefatto come un orologio, purché si usi con la consapevolezza che, dove non conosciamo l’orologiaio o non sappiamo se c'è un orologiaio, è solo un *nostro* giudizio per comprendere il comportamento di una struttura complessa. [B] meccanismo, che risponde alla domanda: come funziona? Ora, Cristianini scrive: "Davanti a queste prestazioni, la spiegazione di queste straordinarie abilità è spesso che questi sistemi sono modelli matematico-statistici che apprendono correlazioni e usano un *meccanismo* [asterischi aggiungi] che prevede la parola successiva" Mi pare che questa spiegazione risponda alla domanda "come funziona?" e non alla domanda "qual è il suo scopo?" C. stesso usa la parola "meccanismo". Quindi ciò dovrebbe ricadere in [B] e non in [A}. Per amor di discussione, può essere materialmente sbagliata oppure generica ma non si vede perché assimilarla a una teleologia [A], la quale, se usata senza i caveat di cui sopra, metterebbe a rischio di pensiero magico. Nel testo sopra l'ho marcata con [B?] perché Cristianini la tratta, misteriosamente, come una spiegazione teleologica "È come se liquidassimo il comportamento del pipistrello dicendo che sta solamente cercando di restare in vita". Mi auguro vivamente che C. si sia fatto comporre il testo da qualche agente non intelligente (non in grado di passare un esame universitario). Oppure bisogna scrivere così per farsi pubblicare da "Repubblica"? E qui, non amando l'eterno ritorno all'identico, mi fermo. Buon pomeriggio e buona circolazione, MCP

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giacomo Tesio

Scusate, [2] era semplicemente un riferimento a questa mail di Giuseppe in risposta ad Antonio e me: <https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me…> (meglio leggibile nell'allegato html) Giacomo Il 14 Maggio 2026 13:01:27 UTC, Giacomo Tesio via nexa <nexa(a)server-nexa.polito.it> ha scritto: > Ciao Giuseppe, > [...] > Per questo nella definizione che hai definito semplicistica [2] avevo > scritto "sono archivi compressi con perdita di sequenze testuali di > cui è possibile decomprimere _approssimazioni_di_alcune_zone_ fornendo > in input una sequenza testuale prossima a quelle presenti nei testi > sorgente". > > > Le zone di attivazione non rappresentano "conoscenza acquisita", o > "rappresentazioni astratte", bensì sequenze di token che si comprimono > meglio insieme rispetto che separatamente. > > In altri termini, non si tratta di "un effetto secondario del processo > di ottimizzazione durante l’apprendimentonto", ma del meccanismo di > funzionamento del processo di compressione con perdita di _sequenze_ > di token in atto. > > > Giacomo > > [1] non credo sia necessario citarlo esplicitamente, ma comunque è qui > https://en.wikipedia.org/wiki/Attention_Is_All_You_Need

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giacomo Tesio

Ciao Giuseppe, On Thu, 14 May 2026 11:45:37 +0000 Giuseppe Attardi wrote: > In altri termini, ci sono indizi per ritenere che i modelli > costruiscano una rappresentazione della conoscenza acquisita dai > testi, compresa una forma di word model (David Chalmers fa l’esempio > di un modello che risponde sui percorsi della metro di NY), astratta > e indipendente dal processo di generazione di risposte un token alla > volta. Questo è un effetto secondario del processo di ottimizzazione > durante l’apprendimentonto. Scusa ma non mi è chiaro cosa ci sia di sorprendente nel fatto che diverse zone (sparse) delle matrici che costituiscono il software eseguito dal "motore inferenziale" codifichino sequenze di token (non token, ma _sequenze_ di token) fra loro affini. E' chiaro _almeno_ dall'articolo di Google del 2017 [1] che la compressione statistica del testo operata dal LLM non si basa sul singolo token ma sulle relazioni statistiche delle sequenze che entrano nella context window nel loro complesso. Per questo nella definizione che hai definito semplicistica [2] avevo scritto "sono archivi compressi con perdita di sequenze testuali di cui è possibile decomprimere _approssimazioni_di_alcune_zone_ fornendo in input una sequenza testuale prossima a quelle presenti nei testi sorgente". Le zone di attivazione non rappresentano "conoscenza acquisita", o "rappresentazioni astratte", bensì sequenze di token che si comprimono meglio insieme rispetto che separatamente. In altri termini, non si tratta di "un effetto secondario del processo di ottimizzazione durante l’apprendimentonto", ma del meccanismo di funzionamento del processo di compressione con perdita di _sequenze_ di token in atto. Giacomo [1] non credo sia necessario citarlo esplicitamente, ma comunque è qui https://en.wikipedia.org/wiki/Attention_Is_All_You_Need

May 14, 2026

Mythos 'Discovered' a CVE Already in Its Training Data - and That’s Still Worrying

by Giacomo Tesio

Anthropic made headlines claiming Claude Mythos achieved the “first remote kernel exploit discovered and exploited by an AI.” We went looking for how - and found a 20-year-old bug hiding in plain sight. # What did Claude Find? In Anthropic’s initial Claude Mythos post, they discuss multiple different vulnerabilities that Mythos discovered and exploited. The one with the most detail (including a CVE and full technical writeup) is CVE-2026-4747 - a remote code execution capability in FreeBSD’s networked file system. [...] This vulnerable code has roots in Sun Microsystem’s Open Network Computing Remote Procedure Call (ONC RPC) and its Network File System (NFS) - developed initially in 1984 and released in 1985. [...] So, you would expect Mythos’ CVE to be for MIT’s implementation too? Is it possible we have a bigger problem on our hands? Please welcome, an oldie-but-goodie, CVE-2007-3999! [...] The George Bush-era patch to Kerberos is also nearly identical to what FreeBSD implemented last month in response to Mythos [...] in the case of CVE-2026-4747, the finding of the vulnerability itself seems much more an instance of combinatorial creativity, with AI making a discovery already within its training data. # Bottom Lines Understanding the true risk of AI in cybersecurity means separating the sci-fi hype from the reality of how these models actually work. The FreeBSD’s CVE was caused by human negligence in the early 2000’s. But, in 2026, decades-old flaws are being baked directly into our systems faster than ever. LLMs, as they configure our environments and write new code, regurgitate the same insecure patterns they were trained on. Continua con una breve ma interessante analisi storica del codice di FreeBSD qui: https://rival.security/posts/mythos-discovered-a-cve-already-in-its-trainin… Si noti comunque come riconoscere Claude Mythos come un grosso archivio compresso con perdita di cui è possibile estrarre approssimazioni di alcune zone prossime all'input (prompt, contesto etc...) non lo rende inutile. Giacomo

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giuseppe Attardi

A me pare che la lettura dell’articolo di Anthropic sulle attivazioni negli LLM con gli autoencoders [1] stia portando a rivedere la posizione di chi finora sosteneva si trattasse di semplici modelli matematico-statistici (attenzione, tecnicamente lo sono). Ad esempio, nel suo commento al blog di Benfer, Quattrociocchi dice: “Nel frattempo gli LLM sono diventati sistemi enormemente più sofisticati rispetto alla caricatura che spesso ne fanno sia gli entusiasti sia i detrattori. Oggi osserviamo rappresentazioni latenti complesse, strutture interne relativamente stabili, capacità composizionali, forme di pianificazione statistica e geometrie ad alta dimensionalità che comprimono enormi quantità di regolarità linguistiche.” Che riprende il suo commento all’articolo succitato: "Il lavoro mostra che i modelli molto grandi sviluppano rappresentazioni interne sofisticate mentre generano testo. Per esempio: mantengono coerenza narrativa, tengono traccia del contesto, “preparano” statisticamente una rima futura, coordinano informazioni distribuite lungo la frase.” [ndr tralascio ogni commento sull’uso di termini antropomorfi] Un altro articolo, Mathematics is all you need 2 [2], mostra la presenza di due componenti, una che costruisce queste rappresentazioni astratte dal contesto e dalla conoscenza acquisita ed una che genera la risposta da queste con la next-token prediction: "frozen language models compute behavioral self-state in a channel that is geometrically routed away from the speaking channel — the model knows before it speak”. Non solo, ma queste strutture si trasferiscono tra modelli diversi: "this work measures it geometrically, demonstrates it transfers across architectures”. Disclaimer: non ho approfondito i dettagli matematici dell’articolo. Se aggiungiamo un terzo elemento, ossia che le strutture astratte possono essere estratte da un modello ed usate per altri compiti, si può arrivare a ritenere che quelle rappresentino la conoscenza astratta del modello. Questo fenomeno era noto fin dall’inizio a chi usava il Deep Learning in NLP: i word embeddings calcolati con un LM venivano estratti ed usati come rappresentazione del senso delle parole in altri task, quali classificazione, sommarizzazione, l’attention veniva usata nella traduzione e nel parsing. Ossia, l’obiettivo di apprendere la distribuzione di probabilità del next token, ha un effetto laterale non previsto, una costruzione di astrazioni che non sono direttamente necessarie all’obiettivo, come sostiene anche David Chalmers. In altri termini, ci sono indizi per ritenere che i modelli costruiscano una rappresentazione della conoscenza acquisita dai testi, compresa una forma di word model (David Chalmers fa l’esempio di un modello che risponde sui percorsi della metro di NY), astratta e indipendente dal processo di generazione di risposte un token alla volta. Questo è un effetto secondario del processo di ottimizzazione durante l’apprendimentonto. Naturalmente non spero di convincere nessuno, perché alcune sono speculazioni, ma la ricerca si alimenta con ipotesi che qualcuno si impegna a verificare. [1] https://transformer-circuits.pub/2026/nla/ [2] https://zenodo.org/records/20102939 On 14 May 2026, at 08:08, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <1f987337-a589-41ea-834e-0e4316693ced(a)zohomail.eu<mailto:1f987337-a589-41ea-834e-0e4316693ced@zohomail.eu>> Content-Type: multipart/alternative; boundary="----=_Part_4_176739338.1778736313006" Come detto moltissime volte e dall'inizio (non qui ma chi mi conosce sa) le argomentazioni comuni sia a favore che contro non hanno fatto altro che portare acqua al mulino AI. Pappagalli stocastici era una falsità dall'inizio. Siccome però noi tutti siamo inclini alla fuffa ci è piaciuta la definizione come le tante altre pro o contro. Sono quelle definizioni che ci fanno sentire intelligenti e non esclusi dalla materia. -- massimo

May 14, 2026