May 2026 - nexa - server-nexa.polito.it

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Massimo Maria Ghisalberti

Il giorno gio, 14/05/2026 alle 11.45 +0000, Giuseppe Attardi via nexa ha scritto: > A me pare che la lettura dell’articolo di Anthropic sulle attivazioni negli > LLM con gli autoencoders [1] stia portando a rivedere la posizione di chi > finora sosteneva si trattasse di semplici modelli matematico-statistici > (attenzione, tecnicamente lo sono). Che la struttura di un sistema generativo sia complessa non credo che sia discutibile, il punto non è quello. Quando mi riferisco alle "basi" spiegabili in forme matematicamente semplici mi riferisco alla base su cui poggia una volta l'intero sistema e oggi più strati del sistema. Chiaramente ci sono diverse problematiche prime tra tutte la "velocità" nel produrre una risposta. Algoritmi classici che come spiegazione possono andare bene, non vanno più per un uso reale: non posso stare ad aspettare attese bibliche tra una domanda e una risposta. Ritengo utile questa spiegazione di "bassa lega" per far comprendere come non ci sia magia dietro ma solo un meccanicismo che data una domanda trova un risposta che potremmo definire plausibile. Questo non fa di una macchina una "macchina pensante". Che poi possano essere strumenti davvero utili, forse si e forse no, vedremo in futuro. Quando si parla di "tecnologie software" mi metto sempre dalla parte del povero utente, quello che se le beve tutte, quello che abbocca a ogni presunto avanzamento tecnologico proposto da markettari astuti. L'abile venditore di fumo mi potrebbe convincere di qualunque cosa portandomi a una alienazione socio- culturale senza precedenti. Qualunque cosa sia questa famigerata AI, di una cosa è certo: è la tecnologia informatica più pericolosa mai concepita fino ad adesso. Può portare l'uomo a una tale regressione intellettuale, non chi conosce e sa sfruttare, ma la massa, la stessa massa di persone che in tutte le maniere una classe dominante ha cercato di sottomettere. Anni fa c'era la mania del "coding" e tutti a ballare nei teatri con le magliette di avanti->avanti->sinistra->avanti. Il "pensiero computazionale" instillato in bambini a colpi di blocchetti colorati. Pur con quell'atteggiamento naive alla programmazione si cercava di insegnare le "basi" costringendo i ragazzi a pensare. Che pensiero critico potranno mai acquisire attingendo soltanto alle risposte? Con l'Ai da "produttori" li stiamo rendendo o mantenendo "utenti" più meno passivi se non passivi del tutto. Talvolta mi crea sgomento quando persone che sono o potrebbero essere addentro, contribuiscono anche loro malgrado o in perfetta ingenuità o peggio in dolo, alla retorica da marketing commerciale che aleggia attorno a questi sistemi. Sistemi opachi, prodotti da aziende il cui scopo è il lucro puro e semplice. Quale visione di miglioramento del genere umano hanno mai questi individui? Sono in pieno delirio di onnipotenza con una visione del mondo miope ed esclusivamente a loro vantaggio. Ragionando "di pancia" a sapere che anche un solo bambino al mondo è deceduto per un bombardamento AI-mediato la vieterei, che progresso sarebbe mai questo? Penso che più o meno siamo tutti d'accordo che la sperimentazione genetica sull'uomo sia una cosa da controllare molto seriamente se non da vietare. In senso molto lato non sarebbe più o meno la stessa cosa per AI? Comunque, mi sono ricordati di un testo decente e abbastanza equilibrato che è liberamente scaricabile poi che faccia scienza o meno è ininfluente. Demystifying Artificial Intelligence Symbolic, Data-Driven, Statistical and Ethical AI https://www.degruyterbrill.com/document/doi/10.1515/9783111426143/html -- massimo

May 14, 2026

Re: Forma mentis (Giuseppe Attardi)

by Maria Chiara Pievatolo

On 5/12/26 12:49, karlessi via nexa wrote: >> https://www.repubblica.it/tecnologia/2026/05/12/news/ >> nello_cristianini_libro_forma_mentis_ne_umani_ne_pappagalli_ma_un_altra_forma_di_intelligenza-425337273/ > > > Buongiorno, > > leggerò il libro, come ho letto gli altri di Cristianini; > > le conclusioni dell'articoletto mi sembrano condivisibili, bello cercare > di aprire le scatole nere > > d'altra parte, questa, come gli altri libri suoi che ho letto, a mio > avviso è filosofia, senz'altro non di tipo assiomatico né strettamente > logico, bensì speculativa al limite della fantascienza. Con il racconto > di tante storie ed esperienze. Nulla di male. Basta riconoscerlo. Se fosse filosofia, le farebbe un gran brutto servizio. Cito solo l'incipit. ----------inizio citazione Cosa vuol dire *spiegare* un comportamento o un’abilità? Immaginate un pipistrello, che cattura fino a mille minuscole zanzare all’ora, nel buio più completo. Cercando una spiegazione per questa impressionante abilità, vi rivolgete a un biologo, e vi sentite dire: "sta solamente cercando di acquisire energia”. (A) Questa può sembrare una spiegazione valida, ma uscendo vi sorge un dubbio: perché il topo, anch’esso un sistema biologico e affamato, non ne prende nemmeno una? Nell’ufficio accanto trovate un etologo [sic: https://it.wikipedia.org/wiki/Etologia] e questo vi risponde diversamente: il pipistrello ha un sonar, ha delle ali in grado di controllare la traiettoria, e ha un cervello che elabora gli echi in tempo reale, traducendo l’informazione in azioni rapidissime. Ecco la spiegazione che cercavate: non a quale scopo prende le zanzare, ma come riesce a farlo.[B] La scienza va fatta al livello giusto. Questa osservazione è importante oggi, di fronte alle potenti macchine intelligenti che sono in grado di passare esami universitari, dimostrare teoremi, programmare altri computer. Davanti a queste prestazioni, la spiegazione di queste straordinarie abilità è spesso che questi sistemi sono modelli matematico-statistici che apprendono correlazioni e usano un meccanismo che prevede la parola successiva.[B?] Questo è vero, ma non è una spiegazione,è quasi il rifiuto dispiegare, travestito da risposta. È come se liquidassimo il comportamento del pipistrello dicendo che sta solamente cercando di restare in vita. Ed è da questa vaghezza che poi nasce la confusione, e poi la tendenza ad antropomorfizzare. Se non sappiamo come funziona dentro,[B?] il rischio è che o proiettiamo capacità umane sulla macchina, o neghiamo qualsiasi capacità cognitiva. Entrambi errori. Chiamarlo “effetto statistico” , pensando che questo chiuda la questione, è un tipo di pensiero magico. ---fine citazione Si "spiega" quando si risponde alla domanda "perché?". Ma il testo identifica due tipi di "spiegazioni" diversi, che ho contrassegnato con [A] e [B]. [A] teleologia, che risponde alla domanda: qual è lo scopo di X? La teleologia non è necessariamente pensiero magico (al modo di "il terremoto di Lisbona è accaduto per punirci dei nostri peccati"), anche quando si applica a un organismo e non a un artefatto come un orologio, purché si usi con la consapevolezza che, dove non conosciamo l’orologiaio o non sappiamo se c'è un orologiaio, è solo un *nostro* giudizio per comprendere il comportamento di una struttura complessa. [B] meccanismo, che risponde alla domanda: come funziona? Ora, Cristianini scrive: "Davanti a queste prestazioni, la spiegazione di queste straordinarie abilità è spesso che questi sistemi sono modelli matematico-statistici che apprendono correlazioni e usano un *meccanismo* [asterischi aggiungi] che prevede la parola successiva" Mi pare che questa spiegazione risponda alla domanda "come funziona?" e non alla domanda "qual è il suo scopo?" C. stesso usa la parola "meccanismo". Quindi ciò dovrebbe ricadere in [B] e non in [A}. Per amor di discussione, può essere materialmente sbagliata oppure generica ma non si vede perché assimilarla a una teleologia [A], la quale, se usata senza i caveat di cui sopra, metterebbe a rischio di pensiero magico. Nel testo sopra l'ho marcata con [B?] perché Cristianini la tratta, misteriosamente, come una spiegazione teleologica "È come se liquidassimo il comportamento del pipistrello dicendo che sta solamente cercando di restare in vita". Mi auguro vivamente che C. si sia fatto comporre il testo da qualche agente non intelligente (non in grado di passare un esame universitario). Oppure bisogna scrivere così per farsi pubblicare da "Repubblica"? E qui, non amando l'eterno ritorno all'identico, mi fermo. Buon pomeriggio e buona circolazione, MCP

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giacomo Tesio

Scusate, [2] era semplicemente un riferimento a questa mail di Giuseppe in risposta ad Antonio e me: <https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me…> (meglio leggibile nell'allegato html) Giacomo Il 14 Maggio 2026 13:01:27 UTC, Giacomo Tesio via nexa <nexa(a)server-nexa.polito.it> ha scritto: > Ciao Giuseppe, > [...] > Per questo nella definizione che hai definito semplicistica [2] avevo > scritto "sono archivi compressi con perdita di sequenze testuali di > cui è possibile decomprimere _approssimazioni_di_alcune_zone_ fornendo > in input una sequenza testuale prossima a quelle presenti nei testi > sorgente". > > > Le zone di attivazione non rappresentano "conoscenza acquisita", o > "rappresentazioni astratte", bensì sequenze di token che si comprimono > meglio insieme rispetto che separatamente. > > In altri termini, non si tratta di "un effetto secondario del processo > di ottimizzazione durante l’apprendimentonto", ma del meccanismo di > funzionamento del processo di compressione con perdita di _sequenze_ > di token in atto. > > > Giacomo > > [1] non credo sia necessario citarlo esplicitamente, ma comunque è qui > https://en.wikipedia.org/wiki/Attention_Is_All_You_Need

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giacomo Tesio

Ciao Giuseppe, On Thu, 14 May 2026 11:45:37 +0000 Giuseppe Attardi wrote: > In altri termini, ci sono indizi per ritenere che i modelli > costruiscano una rappresentazione della conoscenza acquisita dai > testi, compresa una forma di word model (David Chalmers fa l’esempio > di un modello che risponde sui percorsi della metro di NY), astratta > e indipendente dal processo di generazione di risposte un token alla > volta. Questo è un effetto secondario del processo di ottimizzazione > durante l’apprendimentonto. Scusa ma non mi è chiaro cosa ci sia di sorprendente nel fatto che diverse zone (sparse) delle matrici che costituiscono il software eseguito dal "motore inferenziale" codifichino sequenze di token (non token, ma _sequenze_ di token) fra loro affini. E' chiaro _almeno_ dall'articolo di Google del 2017 [1] che la compressione statistica del testo operata dal LLM non si basa sul singolo token ma sulle relazioni statistiche delle sequenze che entrano nella context window nel loro complesso. Per questo nella definizione che hai definito semplicistica [2] avevo scritto "sono archivi compressi con perdita di sequenze testuali di cui è possibile decomprimere _approssimazioni_di_alcune_zone_ fornendo in input una sequenza testuale prossima a quelle presenti nei testi sorgente". Le zone di attivazione non rappresentano "conoscenza acquisita", o "rappresentazioni astratte", bensì sequenze di token che si comprimono meglio insieme rispetto che separatamente. In altri termini, non si tratta di "un effetto secondario del processo di ottimizzazione durante l’apprendimentonto", ma del meccanismo di funzionamento del processo di compressione con perdita di _sequenze_ di token in atto. Giacomo [1] non credo sia necessario citarlo esplicitamente, ma comunque è qui https://en.wikipedia.org/wiki/Attention_Is_All_You_Need

May 14, 2026

Mythos 'Discovered' a CVE Already in Its Training Data - and That’s Still Worrying

by Giacomo Tesio

Anthropic made headlines claiming Claude Mythos achieved the “first remote kernel exploit discovered and exploited by an AI.” We went looking for how - and found a 20-year-old bug hiding in plain sight. # What did Claude Find? In Anthropic’s initial Claude Mythos post, they discuss multiple different vulnerabilities that Mythos discovered and exploited. The one with the most detail (including a CVE and full technical writeup) is CVE-2026-4747 - a remote code execution capability in FreeBSD’s networked file system. [...] This vulnerable code has roots in Sun Microsystem’s Open Network Computing Remote Procedure Call (ONC RPC) and its Network File System (NFS) - developed initially in 1984 and released in 1985. [...] So, you would expect Mythos’ CVE to be for MIT’s implementation too? Is it possible we have a bigger problem on our hands? Please welcome, an oldie-but-goodie, CVE-2007-3999! [...] The George Bush-era patch to Kerberos is also nearly identical to what FreeBSD implemented last month in response to Mythos [...] in the case of CVE-2026-4747, the finding of the vulnerability itself seems much more an instance of combinatorial creativity, with AI making a discovery already within its training data. # Bottom Lines Understanding the true risk of AI in cybersecurity means separating the sci-fi hype from the reality of how these models actually work. The FreeBSD’s CVE was caused by human negligence in the early 2000’s. But, in 2026, decades-old flaws are being baked directly into our systems faster than ever. LLMs, as they configure our environments and write new code, regurgitate the same insecure patterns they were trained on. Continua con una breve ma interessante analisi storica del codice di FreeBSD qui: https://rival.security/posts/mythos-discovered-a-cve-already-in-its-trainin… Si noti comunque come riconoscere Claude Mythos come un grosso archivio compresso con perdita di cui è possibile estrarre approssimazioni di alcune zone prossime all'input (prompt, contesto etc...) non lo rende inutile. Giacomo

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giuseppe Attardi

A me pare che la lettura dell’articolo di Anthropic sulle attivazioni negli LLM con gli autoencoders [1] stia portando a rivedere la posizione di chi finora sosteneva si trattasse di semplici modelli matematico-statistici (attenzione, tecnicamente lo sono). Ad esempio, nel suo commento al blog di Benfer, Quattrociocchi dice: “Nel frattempo gli LLM sono diventati sistemi enormemente più sofisticati rispetto alla caricatura che spesso ne fanno sia gli entusiasti sia i detrattori. Oggi osserviamo rappresentazioni latenti complesse, strutture interne relativamente stabili, capacità composizionali, forme di pianificazione statistica e geometrie ad alta dimensionalità che comprimono enormi quantità di regolarità linguistiche.” Che riprende il suo commento all’articolo succitato: "Il lavoro mostra che i modelli molto grandi sviluppano rappresentazioni interne sofisticate mentre generano testo. Per esempio: mantengono coerenza narrativa, tengono traccia del contesto, “preparano” statisticamente una rima futura, coordinano informazioni distribuite lungo la frase.” [ndr tralascio ogni commento sull’uso di termini antropomorfi] Un altro articolo, Mathematics is all you need 2 [2], mostra la presenza di due componenti, una che costruisce queste rappresentazioni astratte dal contesto e dalla conoscenza acquisita ed una che genera la risposta da queste con la next-token prediction: "frozen language models compute behavioral self-state in a channel that is geometrically routed away from the speaking channel — the model knows before it speak”. Non solo, ma queste strutture si trasferiscono tra modelli diversi: "this work measures it geometrically, demonstrates it transfers across architectures”. Disclaimer: non ho approfondito i dettagli matematici dell’articolo. Se aggiungiamo un terzo elemento, ossia che le strutture astratte possono essere estratte da un modello ed usate per altri compiti, si può arrivare a ritenere che quelle rappresentino la conoscenza astratta del modello. Questo fenomeno era noto fin dall’inizio a chi usava il Deep Learning in NLP: i word embeddings calcolati con un LM venivano estratti ed usati come rappresentazione del senso delle parole in altri task, quali classificazione, sommarizzazione, l’attention veniva usata nella traduzione e nel parsing. Ossia, l’obiettivo di apprendere la distribuzione di probabilità del next token, ha un effetto laterale non previsto, una costruzione di astrazioni che non sono direttamente necessarie all’obiettivo, come sostiene anche David Chalmers. In altri termini, ci sono indizi per ritenere che i modelli costruiscano una rappresentazione della conoscenza acquisita dai testi, compresa una forma di word model (David Chalmers fa l’esempio di un modello che risponde sui percorsi della metro di NY), astratta e indipendente dal processo di generazione di risposte un token alla volta. Questo è un effetto secondario del processo di ottimizzazione durante l’apprendimentonto. Naturalmente non spero di convincere nessuno, perché alcune sono speculazioni, ma la ricerca si alimenta con ipotesi che qualcuno si impegna a verificare. [1] https://transformer-circuits.pub/2026/nla/ [2] https://zenodo.org/records/20102939 On 14 May 2026, at 08:08, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <1f987337-a589-41ea-834e-0e4316693ced(a)zohomail.eu<mailto:1f987337-a589-41ea-834e-0e4316693ced@zohomail.eu>> Content-Type: multipart/alternative; boundary="----=_Part_4_176739338.1778736313006" Come detto moltissime volte e dall'inizio (non qui ma chi mi conosce sa) le argomentazioni comuni sia a favore che contro non hanno fatto altro che portare acqua al mulino AI. Pappagalli stocastici era una falsità dall'inizio. Siccome però noi tutti siamo inclini alla fuffa ci è piaciuta la definizione come le tante altre pro o contro. Sono quelle definizioni che ci fanno sentire intelligenti e non esclusi dalla materia. -- massimo

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Massimo Maria Ghisalberti

Perdonate l'ardire, ma non sono riuscito a resistere ed è uscito l'imbecille che è in me: https://items.minimals.org/anzu/p/1778743300.998532 -- massimo Il giorno gio, 14/05/2026 alle 08.08 +0200, Guido Vetere via nexa ha scritto: > Tempo fa avevo proposto di chiamarli “corvi epistemici”: > "A differenza del pappagallo, il corvo non ripete: osserva, intuisce, > pianifica, ma con una ragione opaca al nostro sguardo. Nella celebre poesia > che ne porta il nome, Edgar Allan Poe paragona il corvo a un “demone che > sogna”. Esso dice una sola parola: nevermore — mai più. Anche i corvi > epistemici oggi ci dicono che nulla sarà più come prima. Ma come per ogni > profezia che si rispetti, il destino si gioca nella sua interpretazione.” > Qui l’articolo: > craiyon_161147_2_crows_friends_with_a_robot_in_the_desert__Edward_gorey.png > Corvi epistemici - Cervelli nella vasca > nova100.ilsole24ore.com >

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Stefano Borroni Barale

Sarà che sono eretico, disertore, disfattista e... femminista, ma non riesco a non notare che, caso certamente fortuito (!!), l'idea dei Pappagalli Stocastici viene da una donna, Emily Bender, mentre le critiche sempre più insistenti, furibonde, con la bava alla bocca, scomposte... arrivano tutte da maschi. Forse un'idea del perché ce la dà l'ottimo Marco Paolini: Il sentimento delle mamme si chiamava: «Povera Longaron, povera Longaron, povera Longarone». Era un sentimento per fondamenta: fondamenta senza muri che venivano su in mezzo alla ghiaia del Piave che aveva riempito tutta la valle, e a noi bambini avevano spiegato che sotto quei sassi c’erano ancora i morti, perché non li avevano trovati tutti. E allora io avevo questo sentimento disciplinato a nome «Povera Longaron, povera Longaron, povera Longarone». Però io, bambino, non potevo fare a meno di avere anche un altro sentimento: quello dei papà, per la diga. Perché era rimasta su. E io, bambino, pensavo: «Ma insomma… la montagna è cascata, ma la diga ha tenuto! Il suo dovere l’ha fatto. Se fosse cascata la diga, sarebbe andata peggio, no?». E allora un po’ di consolazione ti resta dentro. Con questa consolazione qua si diventa grandi. Anche perché poi i maschi… Guardali, a una certa età dello sviluppo, noi maschi, tutti, davanti a una diga, tutti là: impiantati. Come davanti a una portaerei, là! Guardaci, noi maschi, a una certa età dello sviluppo, davanti a una portaerei… Sempre tutti là: impiantati! E non c’entra niente che poi da grande diventi anche pacifista, e magari fai l’obiettore di coscienza. Non c’entra niente. È che a un certo stadio dello sviluppo, se vedi la portaerei, qualcosa dentro lo senti… È che si intuisce che là dentro c’è qualcosa, no? E cosa c’è? C’è il segreto del progresso. È il sentimento dei papà. È da Ulisse che ce lo insegnano: «Vai, piccolo!». Spingersi avanti, imparare, oltre le colonne d’Ercole… «Guarda, guarda l’aereo che decolla…». Man mano che cresci te lo ficcano nel cervello: «Papà, mi porti all’aeroporto?». AVANZARE, CONQUISTARE Diamoci una calmata, noi maschietti, va. Che ci fa bene. E magari viviamo anche meglio. Stefano P.S.: Si, io fisico rispondo con la letteratura, perché questo dibattito da troppi giorni si è spostato su un territorio che con la scienza non ha più nulla a che fare, come notava Carlo qualche giorno fa. Il 14/05/26 00:43, Fabio Alemagna via nexa ha scritto: > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by ry

Al di là di quanto sia surreale e tossico il dibattito sui social industriali, un dibattito polarizzato in cui francamente poco mi interessa se mettere like su "pappagalli stocastici Vs. corvi epistemici", faccio fatica a capire come si possa criticare i rapporti di potere dentro l'industria delle IA, usando quegli stessi strumenti. > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui > pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci > a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender > che è davvero importante: lo studio e la critica dei rapporti di potere > dentro l'industria delle intelligenze artificiali. Tra l'altro, mi sembra un limite anche dell'appello-manifesto “Per una visione realistica dell’Intelligenza Artificiale”...perché non si fanno nomi e cognomi, perché non si dice chiaramente che se c'è un problema di "marketing" è perché quelle 3-4 mega-aziende stanno inquinando la comunicazione sull'argomento, a scopo di dominio, chiaramente. Stiamo assistendo a un circuito promozionale di dimensioni epiche, è evidente che le posizioni estreme sono occupate da chi in un modo o nell'altro vuole trarre il massimo profitto da questo hype. Sinceramente, basta. rm. Il 14/05/26 07:12, nexa-request(a)server-nexa.polito.it ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via email, send a message with subject or > body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > Today's Topics: > > 1. Re: Forma mentis (Giacomo Tesio) > 2. Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. > (Fabio Alemagna) > 3. Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. > (Franco Marra) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Wed, 13 May 2026 23:50:36 +0200 > From: Giacomo Tesio<giacomo(a)tesio.it> > Subject: [nexa] Re: Forma mentis > To:nexa@server-nexa.polito.it > Message-ID:<20260513235036.7fe589fa(a)hermes.development.it> > Content-Type: text/plain; charset=UTF-8 > > D'accordo Giuseppe, assumiamo per un momento che tu abbia ragione. > > On Wed, 13 May 2026 09:11:00 +0000 Giuseppe Attardi wrote: > >>> sono archivi compressi con perdita di sequenze testuali di cui è >>> possibile decomprimere approssimazioni di alcune zone fornendo in >>> input una sequenza testuale prossima a quelle presenti nei testi >>> sorgente. >>> E' una spiegazione semplice, comprensibile ed esaustiva. >> Più che semplice, semplicistica. > Possiamo definire una teoria scientifica come "semplicistica" se non > riesce a spiegare tutte le osservazioni sperimentali pertinenti. > > Ti chiedo dunque (per l'ennesima volta) di condividere osservazioni > sperimentali (ovvero riproducibili) relative ad un LLM che non possano > essere spiegate semplicemente come sopra. > > > Te lo avevo già chiesto qualche giorno fa (richiesta ribadita, se non > erro, anche da Enrico): > > On Fri, 8 May 2026 11:45:07 +0200 Giacomo Tesio wrote: > >> On Thu, 7 May 2026 14:04:24 +0000 Giuseppe Attardi wrote: >> >>> Ci sono numerosi casi di risultati che non sono ottenibili >>> “riorganizzando informazioni già presenti nei dati”. >> Puoi condividere un paio delle numerose ricerche scientifiche >> sperimentali (ovvero, secondo il metodo scientifico, riproducibili) >> che mostrano output non ottenibili "riorganizzando informazioni già >> presenti nei dati"? >> >> Per dati, intendo il sorgente del software (sia il codice imperativo >> che i dati compilati e compressi durante l'eventuale programmazione >> statistica), lo stato iniziale e tutto l'input fornito (inclusi >> eventuali input casuali o pseudocasuali). > Ti sfido dunque a dimostrare che la mia spiegazione è semplicistica. > > Se non è possibile portare evidenze sperimentali, ne dovremo dedurre > che l'ipotesi della "intelligenza artificiale" è scientificamente > superflua per spiegare il comportamento di questi software > programmati statisticamente e come tale, va scartata per il > principio di parsimonia. > > > Per altro, come faceva notare Daniela in un altro thread, il problema > stesso di spiegare le "scelte" delle "GenAI" sparisce nel momento in > cui riconosci il loro output come semplice decompressione > approssimativa di un archivio compresso con perdita, invece di > interpretarle, appunto, come testo prodotto da un'intelligenza. > > Spariscono anche completamente le "allucinazioni" degli LLM, perché > cercare corrispondenza logica o fattuale fra la realtà e la > decompressione approssimativa di un archivio compresso con perdita, > sarebbe ridicolo. > > Al contempo, quelle degli "esperti" da Altman a Cristianini, diventano > invece palesi e, auspicabilmente, curabili. ;-) > > > Giacomo > > ------------------------------ > > Message: 2 > Date: Thu, 14 May 2026 02:43:40 +0400 > From: Fabio Alemagna<falemagn(a)gmail.com> > Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle > precisazioni di Emily Bender in merito. > To: Nexa<nexa(a)server-nexa.polito.it> > Message-ID: > <CACGmXuOE31CUDJJse_q28ooNVfjFkG-6sSfHpeC-f3ZYyT3+aQ(a)mail.gmail.com> > Content-Type: multipart/alternative; > boundary="000000000000d91dd10651bab6f0" > > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui > pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci > a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender > che è davvero importante: lo studio e la critica dei rapporti di potere > dentro l'industria delle intelligenze artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, > cinque anni dopo la pubblicazione di "On the Dangers of Stochastic > Parrots", di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo > una metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe > essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, > però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla > comprensione: "It is true that image/text models, for example, that can be > used to map from linguistic strings to images or vice versa, can be argued > to meet the definition of understanding in Bender & Koller 2020 — albeit in > an extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è una > retromarcia bella grossa, per quanto manovrata con delicatezza e ottima > arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava > che non si potesse parlare di "understanding" da parte dei modelli secondo > la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno > spiraglio è diverso da "non c'è understanding". Molto diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di > riposizionamento da parte di molte persone che hanno usato – > impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei > pappagalli stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori > non verrano mai riconosciuti come tali, ma questo è comunque un punto di > non ritorno sia per i critici a priori di queste tecnologie sia per chi ha > usato i pappagalli per costruirsi un posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto > affascinante, era già riduttiva quando è stata proposta. In questi cinque > anni lo è diventata sempre di più ma nel frattempo è diventata addirittura > identitaria, ingombrando il dibattito e portandolo completamente fuori > fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del > lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of > Data (Emily M. Bender, Alexander Koller, 2020) > https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 > (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret > Shmitchell, 2021https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… > ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender > https://www.youtube.com/watch?v=f4OZ7B2iP_E >

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Guido Vetere

Tempo fa avevo proposto di chiamarli “corvi epistemici”: "A differenza del pappagallo, il corvo non ripete: osserva, intuisce, pianifica, ma con una ragione opaca al nostro sguardo. Nella celebre poesia che ne porta il nome, Edgar Allan Poe paragona il corvo a un “demone che sogna”. Esso dice una sola parola: nevermore — mai più. Anche i corvi epistemici oggi ci dicono che nulla sarà più come prima. Ma come per ogni profezia che si rispetti, il destino si gioca nella sua interpretazione.” Qui l’articolo: https://guidovetere.nova100.ilsole24ore.com/2025/07/17/corvi-epistemici/ Corvi epistemici - Cervelli nella vasca nova100.ilsole24ore.com > Il giorno 14 mag 2026, alle ore 07:25, Massimo Ghisalberti via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > Come detto moltissime volte e dall'inizio (non qui ma chi mi conosce sa) le argomentazioni comuni sia a favore che contro non hanno fatto altro che portare acqua al mulino AI. Pappagalli stocastici era una falsità dall'inizio. Siccome però noi tutti siamo inclini alla fuffa ci è piaciuta la definizione come le tante altre pro o contro. Sono quelle definizioni che ci fanno sentire intelligenti e non esclusi dalla materia. > > -- massimo

May 14, 2026