nexa

By thread

nexa@server-nexa.polito.it

38 participants
30610 messages

Re: Taken

by antonio

> Taken. > You opened this page. It already knows the following. > https://sinceyouarrived.world/taken Grazie della segnalazione Daniela, prendo spunto da essa per spendere qualche parola su un argomento solo apparentemente di nicchia (e il fatto che non ci siano stati commenti, se non la corretta, seppur sbrigativa, replica di Alfredo, lo dimostra). Già i primi browser Internet si comportavano in questo modo, ovvero si "presentavano" al server web, con tutta una serie di informazioni, nome e versione del browser, sistema operativo, lingua, ecc. Questi dati, in un mondo ideale, dovrebbero essere usati per migliorare l'usabilità e l'accessibilità. Se sono una persona con difficoltà visive ed utilizzo un browser web con lettore di schermo per navigare in Internet (e te lo faccio sapere tramite le informazioni si cui sopra), tu server web non mi puoi inviare solo video, foto, possibilmente tramite javascript "offuscato". Ma il mondo, lo sappiamo, è tutt'altro che ideale, non solo sono spariti gran parte dei servizi "solo testo" che c'erano agli inizi ma le informazioni inviate dai browser servono adesso quasi esclusivamente per profilare e/o inviarti pubblicità personalizzata. Se mi collego ad un sito e-commerce di prodotti informatici, con un dispositivo che c'ha la mela nera morsicata stampigliata, allora è probabile che quel sito mi faccia vedere prodotti che "girano" su quel tipo di dispositivi. Discorso a parte, e più ampio, va fatto per l'indirizzo IP, l'unica informazione davvero utile e sul quale non vale l'osservazione di Alfredo, perché stavolta il problema c'è. Chi manda una lettera (ok, mandava ma facciamo finta che sia una pratica tuttora in essere) scrive l'indirizzo del destinatario sul fronte e il proprio indirizzo sul retro, in modo che se non dovesse arrivare al destinatario, la lettera verrebbe estituita al mittente. Con Internet è la stessa cosa, solo che, essendoci un flusso continuo tra i due indirizzi, occorre che siano entrambi presenti. Così come l'indirizzo postale ha numero, via, città e stato, anche l'indirizzo IP ha, in questo caso numeri, identificativi. Ad esempio 1.2.3.4. Facciamo finta che il primo numero identifichi lo stato "digitale". Tutta internet è divisa in 256 stati, da 0 a 255, di questi 35 sono riservati per motivi tecnici, 0, 10, 127, 224-255. 13 sono di proprietà degli Stati Uniti (come amministrazione/governo/militari), 6, 7, 11, 21, 22, 26, 28, 29, 30, 33, 55, 214, 215 1 di proprietà del Regno Unito (sempre come amministrazione/governo/militari): 25 Ed infine, uno è di proprietà, pensa pensa a quanto sono stati lungimiranti acquistandolo all'inizio della "spartizione", di Mercedes, il 53. Ognuno di questi "stati digitali" può disporre di 16.777.216 indirizzi (fate un po' il conto e vedete quanto ammonta il "tesoretto" di indirizzi che hanno i soggetti di cui sopra). Rimangono, per il resto del mondo, 206 raggruppamenti, per un totale di 3.456.106.496 di indirizzi. Questo numero può sembrare alto, ma se si pensa a quanti "oggetti" sono connessi ad Internet, è un numero piccolissimo. Per questo, negli anni, si sono cercati rimedi. Quello che tuttora viene maggiormente usato è il sistema dei proxy. Ovvero, così come un condominio ha un solo indirizzo e l'appartamento viene identificato con scala, piano, ecc., un proxy permette di utilizzare un solo indirizzo per diversi utenti finali. Negli anni, il contenuto gratuito presente nei siti web ha sempre fatto gola, ma mai come in questi ultimi quattro, dal 2022 in poi si sono moltiplicati a dismisura i "servizi automatici" che scaricano contenuti dai siti per usarli in vari modi, tra cui, ovviamente, l'addestramento di sistemi AI. Un grido di dolore è venuto qualche settimana fa, in questa lista, da Maurizio Napolitano [1]. I sistemisti hanno sempre cercato di bloccare accessi provenienti da server "malevoli", ovvero, in cerca di servizi web "vulnerabili" per sfruttarli, ad esempio, come testa di ponte per invio di mail spam. Ma ora la situazione è disastrosa. Gli accessi si sono moltiplicati a dismisura e provengono da indirizzi multipli apparentemente "sicuri". Tutto ciò sta portando, come nelle parole di Maurizio, ad un attacco senza precedenti nei confronti dei beni comuni digitali. Antonio [1] https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me…

May 16, 2026

Re: Illusions of Understanding from Outsourcing Thinking to LLMs

by Giuseppe Attardi

On 16 May 2026, at 06:30, nexa-request(a)server-nexa.polito.it wrote: LLMs Cannot Think La scienza tratta solo concetti che siano misurabili, osservabili e falsificabili. Si potrà falsificare “think” solo quando se ne darà una definizione falsificabile. The companies marketing their LLMs often describe them with anthropomorphising terms like "thinking" and "reasoning", which might create the impression that they can think (Mirzadeh et al., 2025; Shojaee et al., 2026). But for that impression to be accurate we would have to stretch the meaning of the term to refer trivially to whatever the LLMs produce as output Argomento del fantoccio (strawman): attribuisce una definizione che piace a lui a quanto direbbero altri. - much like the meaning of intelligence has historically been watered down to whatever the tests used to operationalise the construct measured (Loru et al., 2025; Mitchell, 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The task of developing systems with non-trivial capability for human-like cognition is computationally intractable (van Rooij et al., 2024). L’articolo di van Rooij afferma che si tratta di un problema NP-hard. Quasi ogni problema interessante in informatica è NP-hard, il ché non vuol dire che non si possa affrontare. Lo sviluppo di euristiche per risolvere efficientemente problemi NP-hard è un importante campo di ricerca. Qualcuno lo ha fatto proprio con i Transformer: https://arxiv.org/abs/2103.03012 --

May 16, 2026

Re: Mythos 'Discovered' a CVE Already in Its Training Data - and That’s Still Worrying

by 380°

Buongiorno, On 2026-05-14, Giacomo Tesio via nexa wrote: [...] > # Bottom Lines > > Understanding the true risk of AI in cybersecurity means separating the > sci-fi hype from the reality of how these models actually work. The [...] > Continua con una breve ma interessante analisi storica del codice di > FreeBSD qui: > https://rival.security/posts/mythos-discovered-a-cve-already-in-its-trainin… siccome sono cose molto tecniche e sconosciute ai più, faccio sommessamente notare alcune questioni facili facili da non ignorare: 1. fuori di dubbio che l'analisi svolta attraverso quel LLM abbia scovato un pezzo di codice che provoca il duecentomiliardesimo buffer overflow della storia del software scritto in C 2. fuori di dubbio che di tecniche per scovare automaticamente potenziali buffer overflow [1] o "addirittura" per evitare _alla radice_ i buffer overflow [2] ne esistano e siano conosciute ai bravi programmatori da decenni 3. fuori di dubbio - e questo è il punto fondamentale - che questa analisi, sia che sia svolta con LLM che da _esseri umani_ con altri strumenti, richiede: 3.1 che siano dedicate adeguate risorse al compito _e_ che tra le risorse dedicate vi siano persone competenti in materia, anche se usano LLM (se non altro per non sparare "prompt" a caso) 3.2 che il software sia: 3.2.a disponibile in formato sorgente 3.2.b disponibile con una licenza che NON impedisca di pubblicare i risultati ottenuti Fatelo con MS Windows o MAC OSX, se ne avete le risorse. In ogni caso: ci stanno forse suggerendo che le aziende che producono software dovrebbero usare "a tappeto" strumenti come quel LLM per aumetare i loro profitti risparmiando sui bravi _analisti_ programmatori in grado di scrivere codice "safe by design" o di farne analisi per il debugging? Auguroni!!! ...e poi, volete _davvero_ fare a gara a chi c'è l'ha più lunga, la lista dei CVS?!? :-D [...] Saluti, 380° [1] https://en.wikipedia.org/wiki/Static_program_analysis https://en.wikipedia.org/wiki/List_of_tools_for_static_code_analysis [2] l'argomento è "ostico", solo per segnalare un esempio: https://www.cisa.gov/resources-tools/resources/secure-design-alert-eliminat… ma la discussione tecnica NON deve diventare una guerra "Rust contro C" anche perché ci sono _per forza_ alcune operazioni che devono essere svolte in modalità "memory unsafe", anche in linguaggi "memory safe" come Rust. Certo è che per moltissime applicazioni (per ora non per il kernel, non si può) sarebbe meglio evitare linguaggi memory unsafe. -- 380° (lost in /traslation/) «Welcome to the chaos of the times If you go left and I go right Pray we make it out alive This is Karmageddon»

May 16, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giuseppe Attardi

On 15 May 2026, at 20:08, nexa-request(a)server-nexa.polito.it wrote: Ritengo doveroso articolare una riflessione. Il post della Bender https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… dice: /in Bender and Koller 2020 ... we provide a definition of understanding as mapping from language to something outside of language, and show that systems built only with linguistic form have no purchase with which to encode (“learn”) such a mapping. / Ovvero: Definiamo comprensione come una corrispondenza tra linguaggio e qualcosa fuori il linguaggio. Un sistema addestrato solo sulle forme linguistiche non ha modo di codificare questa corrispondenza. Questa è una regressione di oltre 2000 anni alla posizione di Platone, che ignora tutto il dibattito filosofico-linguistico degli ultimi 200 anni, che includono Wittgenstein, Frege e Fitch. Si è dibattuto ad esempio sul significato di frasi quali “The present king of France is bald” che non è mappatile in una realtà esistente e così via per tutti i concetti astratti. I Language Model (ancor prima dei LLM) fin dai tempi di [1] hanno fornito una definizione operativa di significato delle parole attraverso i word embedding (contestuali). Ripeto operativa, ossia sulla quale si possono costruire algoritmi, non generica o metafisica. Chi aderisce a questa interpretazione dimostra una insanabile dicotomia di posizioni sul tema del significato e di conseguenza del concetto di “comprendere” e quindi di come analizzare macchine che interagiscono con noi attraverso il linguaggio. BTW, Enrico continua a usare la locuzione “comprendere in senso umano” (qui dice "non è la comprensione umana”) che a me non interessa assolutamente (anche perché non so come definirla scientificamente). A me pare che gli studi sulla mechanistic intepretability iniziano a individuare che i sistemi di AI recenti esibiscano capacità di astrarre concetti, rappresentazioni della realtà, relazioni tra di essi che consentono loro di svolgere compiti che vanno al di là della semplice “ricombinazione di informazioni”. Siccome non sono né un filosofo né un linguista, mi sono fatto fare questo riassunto da Gemini: By defining meaning strictly as a mapping from linguistic forms to something outside of language, researchers like Emily Bender and Alexander Koller (in their famous 2020 "Octopus Paper") risk leaning on a purely referential theory of meaning—a framework that 20th-century philosophy spent decades dismantling. Here is a breakdown of how this critique holds up against the history of philosophy, where Bender’s definition sits, and why the "King of France" changes the game. 1. The "King of France" and the Failure of Direct Mapping To clarify a quick historical detail: the classic example of "The present king of France is bald" was formulated by Bertrand Russell in his 1905 paper On Denoting (building on Gottlob Frege’s earlier work on "sense and reference"). Russell used this phrase to solve a glaring problem with the ancient, Platonic idea that words get their meaning simply by pointing to objects in the real world: If meaning = mapping to an external reality, then the sentence "The present king of France is bald" should be complete gibberish because there is no King of France. Yet, any English speaker perfectly understands what the sentence means. Russell proved that language can generate coherent, logical meaning through internal structure and propositions, completely independent of whether a corresponding physical object exists. 2. Wittgenstein’s Counter: Meaning as Use If we leap forward to Ludwig Wittgenstein’s later work (Philosophical Investigations), he completely rejected the idea of language as a mirror of an external world. Instead, he argued that meaning is use. Language is a tool we play "language games" with, defined by cultural rules and social practices. If you take a strict Wittgensteinian approach, the argument against LLMs changes drastically: The LLM Defense: If meaning is defined by how words are used in context, then LLMs—which learn entirely by analyzing trillions of instances of human language use—are capturing the ultimate statistical matrix of our "language games." By generating coherent text that conforms to human rules of use, the LLM is, in a functional sense, participating in the game. Demanding that it "touch a rock" or "have a soul" to understand language is what Wittgenstein might call a philosophical confusion. 3. Is Bender Actually Regressing to Plato? Does Bender’s "Stochastic Parrots" framework actually commit this Platonic error? Yes and no. It depends on how charitably you read her definition of the "external." The Argument That She Is Regressing: Bender defines linguistic meaning as the relationship between the language form and a communicative intent grounded in the real world. Critics argue this is a Cartesian or Platonic regression because it isolates text as a dead, empty container that requires a "human spirit" or an "external reality" to breathe life into it. It ignores the fact that text itself contains dense, relational networks of human culture, logic, and abstract concepts (as shown by vector geometry). The Defense of Her Position: Bender’s defenders would argue she isn't advocating for a naive Platonic realism, but rather for social pragmatics. For language to work, there must be: - An interlocutor with an internal state (an intent to communicate). - A shared environment (physical or social) where the communication matters. From this perspective, an LLM doesn't "understand" because it has no stakes. It doesn't write a sentence because it wants to change your mind, save a life, or order a coffee; it writes because its probability distribution told it to. The "outside of language" she is referring to isn't necessarily an ideal Platonic form, but the intersubjective space between two conscious agents. The Modern Synthesis The debate over LLM "understanding" has essentially revived the 20th-century linguistic wars. If you believe in Formal Semantics (meanings are truth-conditions mapped to a world), LLMs are just fancy calculators that don't understand anything. But if you lean toward Distributional Semantics (meanings are relations between words) and Wittgensteinian pragmatics (meaning is use), then LLMs have captured a massive, vital slice of what it means to understand. They prove that an immense amount of abstract knowledge, logic, and relation can be extracted purely from the structural patterns of human expression. [1] NLP (Almost) from Scratch. https://www.jmlr.org/papers/volume12/collobert11a/collobert11a.pdf

May 16, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Guido Vetere

Il significato non emerge dalla forma ma dal rapporto della parola con la realtà. Dal lato del locutore, questo rapporto fonda l'intenzione comunicativa; dal lato del ricevente, fonda l'interpretazione. La comprensione avviene quando entrambi convengono sugli stessi oggetti di una realtà che è uguale per tutti. Quando si parla di significato, la realtà è necessaria, dice Emily Bender. Tant'è che, surrogata in immagini associate alle parole, questa può, benché in minima misura, giustificare l'affermazione che un automa possa significare, uscendo dalla voliera dei pappagalli stocastici. Questa è la classica visione realista del linguaggio (Aristotele, Agostino, Tommaso) a cui si è sempre opposto uno scetticismo con radici altrettanto antiche. Nel Novecento, il rifiuto del realismo referenziale percorre la nozione di arbitrarietà del segno nello strutturalismo, i giochi linguistici dalle regole inscrutabili di Wittgenstein e Kripke, la traduzione radicale di Quine, fino all'ermeneutica del pensiero debole. Vale la pena notare, per chi lavora con la semantica formale della logica, che il realismo referenziale può facilmente essere accolto come metafisica implicita dell'informatica: chi lo difende senza tematizzarlo sta, spesso senza saperlo, facendo filosofia tomistica. D’altra parte all’origine delle tecnologie linguistiche troviamo Padre Busa, non dimentichiamolo. Nessuno tra realisti e scettici può vantare risultati sperimentali decisivi, né prevalere per via dell'h-index, versione miserabilmente moderna dell'auctoritas. Bisogna quindi prendere sul serio la domanda con tutto il suo carico di apertura. Tenere aperta la domanda non è "fuffa filosofica” (cit.): è pretendere rigore dove c'è facile dogmatismo. Se qualcosa si può rimproverare alla Bender, che ha tutto il diritto di propendere per il realismo, è l'ablazione del dubbio, è non domandarsi quale sia il fondamento di realtà della parola ‘verità’. Io osservo che il fatto che gli automi siano locutori così potenti pur senza paure, desideri e intenzioni, lungi dall’essere il silver bullet dello scetticismo, è tuttavia un indizio da non trascurare. Depone a favore, insomma: qualche domanda il realista se la dovrebbe pur fare. Visto che il tema – giustamente – appassiona, vi informo che è uscita una nuova edizione di ‘Intelligenze aliene’ per i tipi di Sossella; l’abbiamo intitolata ‘Incontri ravvicinati’ per parlare degli sviluppi e dei dibattiti più recenti. Il volume è arricchito da una postfazione di Luca De Biase. [https://www.ibs.it/incontri-ravvicinati-intelligenze-aliene-nuova-libro-gui…] Buona giornata, Guido > Il giorno 15 mag 2026, alle ore 23:02, Enrico Nardelli via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > Bonus track: > > Vi riporto più sotto la traduzione del paragrafo 4 dell'articolo di Bender di Bender & Koller del 2020 fatta da Claude (l'ho ricontrollata io e non dovrebbero esserci castronerie), perché la ritengo molto utile per capire bene la sostanza delle argomentazioni in gioco rispetto al problema di cosa vuol dire "comprendere come un essere umano". > > È facilmente comprensibile da chiunque, non è tecnica, non ha formule. > > Naturalmente, non è un teorema matematico, come il teorema di PItagora, ma è un argomento difficilmente contestabile se non dicendo ciò che viene ripetuto a proposito di questi sistemi, cioè che le loro rappresentazioni interne molto sofisticate e i loro output altamente complessi sono equivalenti a quelli degli esseri umani, e quindi questi sistemi comprendono e ragionano come gli essere umani. > > L'articolo di Bender & Koller del 2020, alla cui lettura vi invito nuovamente, contesta proprio questo uso di termini: If the highlighted terms are meant to describe human-analogous understanding, comprehension, or recall of factual knowledge, then these are gross overclaims. If, instead, they are intended as technical terms, they should be explicitly defined. E poi sottolinea: we have highlighted both the extent to which there is evidence that large LMs can learn aspects of linguistic formal structure (e.g. agreement, dependency structure), and how their apparent ability to “reason” is sometimes a mirage built on leveraging artifacts in the training data (i.e. form, not meaning). Our contribution is an argument on theoretical grounds that a system exposed only to form in its training cannot in principle learn meaning. > > Ecco quindi il paragrafo 4, intitolato "Il test del polpo". > > Buona lettura e buona riflessione. > > Enrico > > ------------------------------------------------------ > Per illustrare le difficoltà nel tentare di apprendere il significato dalla sola forma, proponiamo uno scenario concreto. Immaginiamo che A e B, entrambi parlanti fluenti di inglese, si ritrovino naufraghi su due isole disabitate. Scoprono presto che i visitatori precedenti hanno lasciato dei telegrafi e che possono comunicare tra loro tramite un cavo sottomarino. A e B cominciano felicemente a scambiarsi messaggi. > > Nel frattempo, O, un polpo degli abissi dall'intelligenza sopraffina che non può visitare né osservare le due isole, scopre un modo per intercettare il cavo sottomarino e origliare le conversazioni tra A e B. O inizialmente non sa nulla di inglese, ma è molto bravo a rilevare schemi statistici. Col tempo, impara a prevedere con grande precisione come B risponderà a ciascun messaggio di A. O osserva anche che certe parole tendono a comparire in contesti simili, e forse impara a generalizzare i pattern lessicali ipotizzando che possano essere usate in modo intercambiabile. Ciononostante, O non ha mai osservato quegli oggetti nel mondo reale, e quindi non sarebbe in grado di identificare il referente di una parola se gli venisse presentata una serie di alternative (fisiche). > > A un certo punto, O comincia a sentirsi solo. Taglia il cavo sottomarino e si inserisce nella conversazione, fingendo di essere B e rispondendo ai messaggi di A. O riesce a spacciarsi per B senza insospettire A? Questo costituisce una forma debole del test di Turing (debole perché A non ha motivo di sospettare di star parlando con un non umano); la domanda interessante è se O fallisca il test perché non ha appreso la relazione di significato, avendo visto solo la forma degli enunciati di A e B. > > La misura in cui O riesce a ingannare A dipende dal compito — cioè da ciò di cui A vuole parlare. A e B hanno trascorso molto tempo a scambiarsi note banali sulla vita quotidiana per rendere più piacevoli le lunghe serate sull'isola. Sembra plausibile che O riesca a produrre nuove frasi del tipo di quelle che usava B; comportandosi essenzialmente come un chatbot. Questo perché gli enunciati in tali conversazioni hanno principalmente una funzione sociale e non devono essere radicati nei particolari della situazione fisica concreta degli interlocutori né in nulla di specifico del mondo reale. È sufficiente produrre testo internamente coerente. > > Ora immaginiamo che A abbia inventato un nuovo congegno, diciamo una catapulta per noci di cocco. Eccitata, invia a B le istruzioni dettagliate per costruirla e chiede delle sue esperienze e suggerimenti per migliorarla. Anche se O avesse un modo per costruire la catapulta sott'acqua, non sa a cosa si riferiscono parole come *corda* e *noce di cocco*, e quindi non può riprodurre fisicamente l'esperimento. Può solo ricorrere alle osservazioni precedenti su come B rispondeva a enunciati simili. Forse O riconosce gli enunciati sui manghi e i chiodi come "simili" perché quelle parole erano apparse in contesti analoghi a *noce di cocco* e *corda*. Così O decide di dire semplicemente "Bella idea, ottimo lavoro!", perché B lo diceva spesso quando A parlava di corde e chiodi. È del tutto concepibile che A accetti questa risposta come significativa — ma solo perché è A a fare tutto il lavoro nell'attribuire significato alla risposta di O. Non è perché O abbia capito il significato delle istruzioni di A, né tantomeno della propria risposta. > > Infine, A si trova in una situazione d'emergenza. Viene all'improvviso inseguita da un orso arrabbiato. Afferra un paio di bastoni e chiede freneticamente a B di trovare un modo per costruire un'arma con cui difendersi. Naturalmente, O non ha la minima idea di cosa A "intenda". Risolvere un compito del genere richiede la capacità di mappare con precisione le parole sulle entità del mondo reale (oltre che ragionamento e pensiero creativo). È a questo punto che O fallirebbe il test di Turing — se A non fosse già stata divorata dall'orso prima di accorgersi dell'inganno. > > Avendo a disposizione solo la forma come dati di addestramento, O non ha appreso il significato. Il linguaggio scambiato da A e B è una proiezione delle loro intenzioni comunicative, attraverso la relazione di significato, in forme linguistiche. Senza accesso a un mezzo per ipotizzare e verificare le intenzioni comunicative sottostanti, ricostruirle a partire dalle sole forme è un'impresa impossibile, e l'uso del linguaggio da parte di O finirà inevitabilmente per divergere da quello di un agente capace di radicare il linguaggio in intenzioni comunicative coerenti. > > L'esperimento mentale illustra anche il punto del §3 sul ruolo attivo degli ascoltatori nella comunicazione. Quando O inviava segnali ad A fingendo di essere B, sfruttava le regolarità statistiche della forma, ovvero la distribuzione delle forme linguistiche che aveva osservato. Qualunque cosa abbia imparato O è un riflesso delle intenzioni comunicative di A e B e della relazione di significato. Ma riprodurre questa distribuzione non è sufficiente per una comunicazione significativa. O ha ingannato A facendole credere di essere B solo perché A era un'ascoltatrice così attiva: poiché gli agenti che producono frasi in inglese di solito hanno intenzioni comunicative, A assume che anche O le abbia, e quindi attribuisce agli enunciati di O il significato convenzionale che l'inglese vi associa. Poiché assume che O sia B, usa quel significato convenzionale insieme alle sue altre ipotesi sullo stato mentale e gli obiettivi di B per attribuire un'intenzione comunicativa. Non è che gli enunciati di O abbiano senso, ma piuttosto che A riesce a dargli senso. > ---------------------------------------------------- > > > > Il 15/05/2026 20:08, Enrico Nardelli via nexa ha scritto: >> Ritengo doveroso articolare una riflessione. >> >> Il post della Bender >> https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… >> dice: >> in Bender and Koller 2020 ... we provide a definition of understanding as mapping from language to something outside of language, and show that systems built only with linguistic form have no purchase with which to encode (“learn”) such a mapping. >> >> Ovvero: Definiamo comprensione come una corrispondenza tra linguaggio e qualcosa fuori il linguaggio. Un sistema addestrato solo sulle forme linguistiche non ha modo di codificare questa corrispondenza. >> >> Dopo di che dice: >> Stochastic parrots was coined to refer to language models, i.e. systems trained only on linguistic form used to mimic the kinds of sequences of linguistic form that people use. >> >> Ovvero: Il termine "pappagalli stocastici" si riferiva ai sistemi addestrati sulle forme linguistiche che imitano quelle che usano le persone. >> >> E poi dice ancora, e qui c'è l'espressione che si pensa scardini tutto: >> It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020, albeit in an extremely thin way. >> >> Ovvero: si può sostenere che un modello misto con testo e immagini, che mette in corrispondenza testi con immagini o viceversa, risponda alla nostra definizione di comprensione, anche se in un modo estremamente sottile. >> >> E poi continua: >> When we look at the text in an image/text model, we make sense of it in a way that is rich and socially situated and we must not project that onto the model if we want to keep a clear-eyed view of how such models actually function (and in what circumstances we should be willing to use them). >> >> Ovvero: quando noi guardiamo il testo di un modello misto con testo e immagini, lo comprendiamo in modo ricco e socialmente situato, che non deve essere proiettato sul modello, se vogliamo mantenere una visione chiara su come il modello funziona effettivamente >> >> E infine: >> Even if there is some thin kind of technical “understanding” in e.g. a text/image model, the fact that it’s using our language at all will send misleading signals about what is actually going on, so long as we relate to language as we always do (and I don’t see how we can avoid doing so). >> >> Ovvero: anche se c'è una esile forma di "comprensione" in senso tecnico in un modello misto con testo e immagini, il semplice fatto che usi il nostro linguaggio ci manda segnali fuorvianti su ciò che sta accadendo, finché noi ci relazioniamo al linguaggio come sempre facciamo (e non vedo come potremmo fare diversamente) >> >> Ecco, leggendo questi passi tutti insieme e non estraendo solo la frase "risponde alla nostra definizione di comprensione", si capisce che l'accoppiamento fra testo e immagine rientra da un punto di vista sintattico (in an estremely thin way - direi per un capello) nella definizione tecnica di comprensione della Bender, ma non è la comprensione umana. Notate che dice che siamo NOI che lo comprendiamo (we make a sense of it) sulla base della nostra esperienza. Infatti, questo "qualcosa fuori il linguaggio" della definizione è l'intento comunicativo del parlante, che è basato sul mondo reale che parlante e ascoltatore condividono (the communicative intent is grounded in the real world the speaker and listener inhabit together). >> >> Se si legge con attenzione l'articolo di Bender & Koller del 2020 citato nel post della Bender (https://www.aclweb.org/anthology/2020.acl-main.463/ - cosa che vi invito a fare, è abbastanza accessibile) tutto questo è molto chiaro, così come la tesi principale di quell'articolo, che rimane interamente salda e non scalfita. >> We argue that the language modeling task, because it only uses form as training data, cannot in principle lead to learning of meaning. ... We take (linguistic) meaning to be the relation between a linguistic form and communicative intent. >> >> Certo, uno può leggere nel recente post della Bender quello che vuole, ma argomentare trionfanti che "è una retromarcia bella grossa" mi sembra esagerato. >> >> Questo non vuol ovviamente dire che progressi nella ricerca e nelle architetture dei sistemi di IA non potranno darci in futuro una qualche forma di comprensione, che con le attuali architetture non c'è. >> >> Ciao, Enrico >> >> >> >> Il 14/05/2026 00:43, Fabio Alemagna via nexa ha scritto: >>> Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: >>> https://www.facebook.com/share/p/18kiudNQqK/ >>> >>> _______________ >>> >>> 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali. >>> >>> Ma andiamo con ordine. >>> >>> La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni. >>> >>> La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica. >>> >>> La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto. >>> >>> La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way". >>> >>> Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso. >>> >>> Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model. >>> >>> Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale. >>> >>> La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. >>> >>> Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. >>> >>> Link: >>> >>> 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/ >>> >>> 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) >>> >>> 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… ) >>> >>> 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E >> -- >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> <7htcC5QnkGAvFO5p.png> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://www <https://www/> . mat . uniroma2 . it/~nardelli >> blog: https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it >> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================================================================== >> -- > -- > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > <EgEalX2uwfG0a2pa.png> ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www <https://www/> . mat . uniroma2 . it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================================================================== > -- >

May 16, 2026

Illusions of Understanding from Outsourcing Thinking to LLMs

by Daniela Tafani

[...] LLMs Can Be Useful, but not for any Task The reinforcement learning neural network models driving the functionality of current LLMs constitute major technological developments (McClelland, 2009; McClelland et al., 2003). The capabilities of these models have been gathering pace over the past decades mainly through advances in computing power and the amount of data available for training - i.e. for successively adjusting the weights of the network nodes used for stochastic predictions (Perfors, 2026). But the basic model functionality has remained constant: based on high-dimensional correlation matrices describing the frequency of co-occurrence of data units over time (language) or space (graphics), the models can take user input as the start of a pattern and use it to compute the most plausible continuation of that pattern. The capacity for high-dimensional pattern matching and extension (also referred to as "autocomplete", Bergstrom, 2025) can be useful in a variety of domains, not least because the distilled patterns allow for generalisation beyond the individual instances on which they are based (Lake & Baroni,2023; Peters & Chin-Yee, 2025; but see Becker et al., 2025). For example, when trained on the respective content domains, LLMs can help identify patterns in chemical structures (Jumper et al., 2021), in clinical samples (Epping et al., 2025); and between words of different languages (Gao et al., 2024; but see Maiberg, 2026). The mechanism of matching and generalising probabilistic patterns based on information from a given database is less useful for tasks that require other types of mechanisms for their solution. For instance, tasks requiring contextual sensitivity and hence a solution to the frame problem in artificial intelligence (Oaksford & Chater, 2009; Pylyshyn, 1987); high accuracy and precision (Hsu, 2025; Kalai et al., 2025); or novel, creative solutions for which no pattern or template has yet been built (Habib et al., 2023; Meincke et al., 2025). The mechanism based limitations in the scope of applicability of LLMs are often masked in current discourse about them, a problem complicated by the optimisation of LLMs for the production of generic, plausible and confident appearing output regardless of how the output relates to what is in fact the case (Kalai et al., 2025). This risks creating the illusion that LLMs can do things that they cannot, and that they have a connection to truth and understanding that they do not. LLMs Cannot Think The companies marketing their LLMs often describe them with anthropomorphising terms like "thinking" and "reasoning", which might create the impression that they can think (Mirzadeh et al., 2025; Shojaee et al., 2026). But for that impression to be accurate we would have to stretch the meaning of the term to refer trivially to whatever the LLMs produce as output - much like the meaning of intelligence has historically been watered down to whatever the tests used to operationalise the construct measured (Loru et al., 2025; Mitchell, 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The task of developing systems with non-trivial capability for human-like cognition is computationally intractable (van Rooij et al., 2024). Focussing on the foundation rather than on the endpoint, to me there is a simple and inescapable basis to any thinking and reasoning: logical consistency. Just as we cannot see both interpretations of an ambiguous image like the rabbit-duck illusion or the Necker Cube at the same time (Gopnik & Rosati, 2001), we are incapable of assigning meaning to the conjunction of two contradictory statements. We can focus our attention on the meaning of one statement and then move over to the meaning of the other, but we cannot integrate them into a single meaningful representation. Thinking and understanding break down when we encounter an inconsistency, like an alarm signal that prompts us to stop and reevaluate the situation (Johnson-Laird et al., 2004); and even thinking that is not outright contradictory but moves fast and loose from one representation to another one incompatible with it is classified as a formal thought disorder (Holyoak & Morrison, 2005). This does not imply people are good at detecting inconsistencies regardless of problem complexity (Oberauer et al., 2016); but merely that it is a foundation, however local and fragile, on which thinking and understanding depends (Oaksford & Chater, 2020; Wheeler, 2026). Now, one of the more notorious features of LLMs is their logical inconsistency. They routinely produce contradictory output or output that changes the topic mid-argument, and construct so-called "hallucinations" or "bullshit" responses (Frankfurt, 2005; Hicks et al., 2024; Kalai et al., 2025) in unforeseeable ways (Hägele et al., 2026). Further, LLMs seem incapable of detecting when such inconsistencies occur and just keep producing further output unabated - hence their functionality breaks down in ways different from how human thinking breaks down. This makes sense as their inconsistency is not a bug but a natural consequence of the stochastic mechanisms underlying them, together with their disconnection from any ground truth about which relatively stable conceptual representations could be formed (Kalai et al., 2025; Spencer-Brown, 1969; Wittgenstein, 1991). LLM developers have themselves stated that the problem of inconsistent, nonsensical output is impossible in principle to overcome, regardless of the amount of computing power and training data the models are based on (Shojaee et al., 2026; Song and Han, 2026). The path from LLMs to thinking machines thus seems impossible from the outset due to the absence by design of the requirement for consistency. Many older computational models exist that fulfil the consistency requirement. But the capacity for both consistency and scalability remains an open, potentially unsolvable problem (Gödel, 1931; Kwisthout et al., 2011; Pylyshyn, 1987). LLMs Can Undermine Thinking and Understanding Thinking and reasoning, and with them knowledge and understanding, can improve with practice, and they can deteriorate without practice. LLMs are sometimes compared to electronic calculators (Geuter, 2024; Voinea et al., 2026), which have greatly increased the speed and accuracy of everyday calculations. The concomitant reduction in the need for simple mental arithmetic may have led to a decrease in our average mental arithmetic skills - but it freed up time to engage in potentially more complex and creative tasks. At the same time, our collective understanding of simple arithmetic has arguably not declined because the arithmetic rules by which calculators operate are transparent, precise and can be looked up in reliable sources anytime we need them (Sloman & Fernbach, 2017). The situation is different in several ways for LLMs. They are being used to replace complex and creative tasks that draw on our capacity for critical thinking (Reuters, 2026). They have the feature of producing seemingly plausible but imprecise and sometimes wildly inaccurate output, and they are intransparent about their sources - although their training data tends to include any information from the internet, however unreliable and regardless of legal requirements for source acknowledgment (Blau et al., 2024; Gewirtz, 2025; Meyer, 2025). For example, if asked for a solution to Lord’s paradox (Lord, 1967), a LLM might produce different output each time it is asked, and every time the output may sound plausible but may be justified in part by false or nonexistent evidence that is difficult to detect by nonexperts in the field (Fisher, 2021; Walters & Wilder, 2023). The literature on the impact of LLMs on thinking and understanding is still very new and preliminary. But some studies have pointed to reduced task engagement and learning when relying on LLMs (Melumad, 2025; Shen, 2026; Stadler et al., 2024); and based on the existing literature on cognition we can expect the principle "use it or lose it" to apply here too (Bainbridge, 1983; Furman, 2025; Mızrak, 2020). In contrast to the calculator example, what we risk undermining in this case is our capacity for critical thinking, and the source reliability and transparency on which our collective understanding depends. This comes in addition to LLM enabled mass production of slop, mis- and disinformation (Clark & Lewandowsky, 2026; Furman, 2025; Köbis & Doležalová, 2021; Perfors, 2025; Thorp, 2026). Technology is arguably not value neutral, and the ways in which current LLMs have been built and deployed risk undermining not only our thinking and understanding as individuals but also our participation as active, diverse citizens in democratic decision making processes (Kant, 1784; Lewandowsky & Hertwig, 2025; Lewandowsky & Garcia, 2026). Huxley’s dystopic novel Brave New World (Huxley, 1932) might reflect a luddite position, which might sound pejorative in first instance. But it illustrates that technology can take us in different directions towards different societal goals, which are worth thinking about. There Are no Shortcuts to Understanding Understanding doesn’t work without thinking, which is often hard, cumbersome and full of errors. It will also keep trapping us in illusions, as Shiffrin et al. point out. But there is no free lunch to understanding. If we keep working on it we have reason to expect to keep escaping some of the illusions and increase our understanding over time - following the positive side of the "use it or lose it" principle. Some uses of LLMs may not undermine understanding, and in some cases we can avoid illusions by making an active decision about which parts of our thought processes, if any, to replace with their output. https://doi.org/10.1007/s42113-026-00288-6

May 15, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Enrico Nardelli

Bonus track: Vi riporto più sotto la traduzione del paragrafo 4 dell'articolo di Bender di Bender & Koller del 2020 fatta da Claude (l'ho ricontrollata io e non dovrebbero esserci castronerie), perché la ritengo molto utile per capire bene la sostanza delle argomentazioni in gioco rispetto al problema di cosa vuol dire "comprendere come un essere umano". È facilmente comprensibile da chiunque, non è tecnica, non ha formule. Naturalmente, non è un teorema matematico, come il teorema di PItagora, ma è un argomento difficilmente contestabile se non dicendo ciò che viene ripetuto a proposito di questi sistemi, cioè che le loro rappresentazioni interne molto sofisticate e i loro output altamente complessi sono equivalenti a quelli degli esseri umani, e quindi questi sistemi comprendono e ragionano come gli essere umani. L'articolo di Bender & Koller del 2020, alla cui lettura vi invito nuovamente, contesta proprio questo uso di termini: /If the highlighted terms are meant to describe human-analogous understanding, comprehension, or recall of factual knowledge, then these are gross overclaims. If, instead, they are intended as technical terms, they should be explicitly defined./ E poi sottolinea: /we have highlighted both the extent to which there is evidence that large LMs can learn aspects of linguistic formal structure (e.g. agreement, dependency structure), and how their apparent ability to “reason” is sometimes a mirage built on leveraging artifacts in the training data (i.e. form, not meaning). Our contribution is an argument on theoretical grounds that a system exposed only to form in its training cannot in principle learn meaning/. Ecco quindi il paragrafo 4, intitolato "Il test del polpo". Buona lettura e buona riflessione. Enrico ------------------------------------------------------ Per illustrare le difficoltà nel tentare di apprendere il significato dalla sola forma, proponiamo uno scenario concreto. Immaginiamo che A e B, entrambi parlanti fluenti di inglese, si ritrovino naufraghi su due isole disabitate. Scoprono presto che i visitatori precedenti hanno lasciato dei telegrafi e che possono comunicare tra loro tramite un cavo sottomarino. A e B cominciano felicemente a scambiarsi messaggi. Nel frattempo, O, un polpo degli abissi dall'intelligenza sopraffina che non può visitare né osservare le due isole, scopre un modo per intercettare il cavo sottomarino e origliare le conversazioni tra A e B. O inizialmente non sa nulla di inglese, ma è molto bravo a rilevare schemi statistici. Col tempo, impara a prevedere con grande precisione come B risponderà a ciascun messaggio di A. O osserva anche che certe parole tendono a comparire in contesti simili, e forse impara a generalizzare i pattern lessicali ipotizzando che possano essere usate in modo intercambiabile. Ciononostante, O non ha mai osservato quegli oggetti nel mondo reale, e quindi non sarebbe in grado di identificare il referente di una parola se gli venisse presentata una serie di alternative (fisiche). A un certo punto, O comincia a sentirsi solo. Taglia il cavo sottomarino e si inserisce nella conversazione, fingendo di essere B e rispondendo ai messaggi di A. O riesce a spacciarsi per B senza insospettire A? Questo costituisce una forma debole del test di Turing (debole perché A non ha motivo di sospettare di star parlando con un non umano); la domanda interessante è se O fallisca il test perché non ha appreso la relazione di significato, avendo visto solo la forma degli enunciati di A e B. La misura in cui O riesce a ingannare A dipende dal compito — cioè da ciò di cui A vuole parlare. A e B hanno trascorso molto tempo a scambiarsi note banali sulla vita quotidiana per rendere più piacevoli le lunghe serate sull'isola. Sembra plausibile che O riesca a produrre nuove frasi del tipo di quelle che usava B; comportandosi essenzialmente come un chatbot. Questo perché gli enunciati in tali conversazioni hanno principalmente una funzione sociale e non devono essere radicati nei particolari della situazione fisica concreta degli interlocutori né in nulla di specifico del mondo reale. È sufficiente produrre testo internamente coerente. Ora immaginiamo che A abbia inventato un nuovo congegno, diciamo una catapulta per noci di cocco. Eccitata, invia a B le istruzioni dettagliate per costruirla e chiede delle sue esperienze e suggerimenti per migliorarla. Anche se O avesse un modo per costruire la catapulta sott'acqua, non sa a cosa si riferiscono parole come *corda* e *noce di cocco*, e quindi non può riprodurre fisicamente l'esperimento. Può solo ricorrere alle osservazioni precedenti su come B rispondeva a enunciati simili. Forse O riconosce gli enunciati sui manghi e i chiodi come "simili" perché quelle parole erano apparse in contesti analoghi a *noce di cocco* e *corda*. Così O decide di dire semplicemente "Bella idea, ottimo lavoro!", perché B lo diceva spesso quando A parlava di corde e chiodi. È del tutto concepibile che A accetti questa risposta come significativa — ma solo perché è A a fare tutto il lavoro nell'attribuire significato alla risposta di O. Non è perché O abbia capito il significato delle istruzioni di A, né tantomeno della propria risposta. Infine, A si trova in una situazione d'emergenza. Viene all'improvviso inseguita da un orso arrabbiato. Afferra un paio di bastoni e chiede freneticamente a B di trovare un modo per costruire un'arma con cui difendersi. Naturalmente, O non ha la minima idea di cosa A "intenda". Risolvere un compito del genere richiede la capacità di mappare con precisione le parole sulle entità del mondo reale (oltre che ragionamento e pensiero creativo). È a questo punto che O fallirebbe il test di Turing — se A non fosse già stata divorata dall'orso prima di accorgersi dell'inganno. Avendo a disposizione solo la forma come dati di addestramento, O non ha appreso il significato. Il linguaggio scambiato da A e B è una proiezione delle loro intenzioni comunicative, attraverso la relazione di significato, in forme linguistiche. Senza accesso a un mezzo per ipotizzare e verificare le intenzioni comunicative sottostanti, ricostruirle a partire dalle sole forme è un'impresa impossibile, e l'uso del linguaggio da parte di O finirà inevitabilmente per divergere da quello di un agente capace di radicare il linguaggio in intenzioni comunicative coerenti. L'esperimento mentale illustra anche il punto del §3 sul ruolo attivo degli ascoltatori nella comunicazione. Quando O inviava segnali ad A fingendo di essere B, sfruttava le regolarità statistiche della forma, ovvero la distribuzione delle forme linguistiche che aveva osservato. Qualunque cosa abbia imparato O è un riflesso delle intenzioni comunicative di A e B e della relazione di significato. Ma riprodurre questa distribuzione non è sufficiente per una comunicazione significativa. O ha ingannato A facendole credere di essere B solo perché A era un'ascoltatrice così attiva: poiché gli agenti che producono frasi in inglese di solito hanno intenzioni comunicative, A assume che anche O le abbia, e quindi attribuisce agli enunciati di O il significato convenzionale che l'inglese vi associa. Poiché assume che O sia B, usa quel significato convenzionale insieme alle sue altre ipotesi sullo stato mentale e gli obiettivi di B per attribuire un'intenzione comunicativa. Non è che gli enunciati di O abbiano senso, ma piuttosto che A riesce a dargli senso. ---------------------------------------------------- Il 15/05/2026 20:08, Enrico Nardelli via nexa ha scritto: > > Ritengo doveroso articolare una riflessione. > > Il post della Bender > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… > dice: > /in Bender and Koller 2020 ... we provide a definition of > understanding as mapping from language to something outside of > language, and show that systems built only with linguistic form have > no purchase with which to encode (“learn”) such a mapping. > / > Ovvero: Definiamo comprensione come una corrispondenza tra linguaggio > e qualcosa fuori il linguaggio. Un sistema addestrato solo sulle forme > linguistiche non ha modo di codificare questa corrispondenza. > > Dopo di che dice: > /Stochastic parrots was coined to refer to language models, i.e. > systems trained only on linguistic form used to mimic the kinds of > sequences of linguistic form that people use./ > > Ovvero: Il termine "pappagalli stocastici" si riferiva ai sistemi > addestrati sulle forme linguistiche che imitano quelle che usano le > persone. > > E poi dice ancora, e qui c'è l'espressione che si pensa scardini tutto: > /It is true that image/text models, for example, that can be used to > map from linguistic strings to images or vice versa, can be argued to > meet the definition of understanding in Bender & Koller 2020, albeit > in an extremely thin way/. > > Ovvero: si può sostenere che un modello misto con testo e immagini, > che mette in corrispondenza testi con immagini o viceversa, risponda > alla nostra definizione di comprensione, anche se in un modo > estremamente sottile. > > E poi continua: > /When we look at the text in an image/text model, we make sense of it > in a way that is rich and socially situated and we must not project > that onto the model if we want to keep a clear-eyed view of how such > models actually function (and in what circumstances we should be > willing to use them)/. > > Ovvero: quando noi guardiamo il testo di un modello misto con testo e > immagini, lo comprendiamo in modo ricco e socialmente situato, che non > deve essere proiettato sul modello, se vogliamo mantenere una visione > chiara su come il modello funziona effettivamente > > E infine: > /Even if there is some thin kind of technical “understanding” in e.g. > a text/image model, the fact that it’s using our language at all will > send misleading signals about what is actually going on, so long as we > relate to language as we always do (and I don’t see how we can avoid > doing so)/. > > Ovvero: anche se c'è una esile forma di "comprensione" in senso > tecnico in un modello misto con testo e immagini, il semplice fatto > che usi il nostro linguaggio ci manda segnali fuorvianti su ciò che > sta accadendo, finché noi ci relazioniamo al linguaggio come sempre > facciamo (e non vedo come potremmo fare diversamente) > > Ecco, leggendo questi passi tutti insieme e non estraendo solo la > frase "risponde alla nostra definizione di comprensione", si capisce > che l'accoppiamento fra testo e immagine rientra da un punto di vista > sintattico (/in an estremely thin way/ - direi per un capello) nella > definizione tecnica di comprensione della Bender, ma non è la > comprensione umana. Notate che dice che siamo NOI che lo comprendiamo > (/we make a sense of it/) sulla base della nostra esperienza. Infatti, > questo "qualcosa fuori il linguaggio" della definizione è l'intento > comunicativo del parlante, che è basato sul mondo reale che parlante e > ascoltatore condividono (/the communicative intent is grounded in the > real world the speaker and listener inhabit together/). > > Se si legge con attenzione l'articolo di Bender & Koller del 2020 > citato nel post della Bender > (https://www.aclweb.org/anthology/2020.acl-main.463/ - cosa che vi > invito a fare, è abbastanza accessibile) tutto questo è molto chiaro, > così come la tesi principale di quell'articolo, che rimane interamente > salda e non scalfita. > /We argue that the language modeling task, because it only uses form > as training data, cannot in principle lead to learning of meaning. ... > We take (linguistic) meaning to be the relation between a linguistic > form and communicative intent/. > > Certo, uno può leggere nel recente post della Bender quello che vuole, > ma argomentare trionfanti che "è una retromarcia bella grossa" mi > sembra esagerato. > > Questo non vuol ovviamente dire che progressi nella ricerca e nelle > architetture dei sistemi di IA non potranno darci in futuro una > qualche forma di comprensione, che con le attuali architetture non c'è. > > Ciao, Enrico > > > Il 14/05/2026 00:43, Fabio Alemagna via nexa ha scritto: >> Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: >> https://www.facebook.com/share/p/18kiudNQqK/ >> >> _______________ >> >> 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily >> Bender sui pappagalli stocastici. Queste precisazioni, finalmente, >> potrebbero aiutarci a depurare il dibattito e a concentrarci sulla >> parte del lavoro di Bender che è davvero importante: lo studio e la >> critica dei rapporti di potere dentro l'industria delle intelligenze >> artificiali. >> >> Ma andiamo con ordine. >> >> La prima cosa interessante è il fatto stesso che ci sia stato il >> bisogno, cinque anni dopo la pubblicazione di "On the Dangers of >> Stochastic Parrots", di fare delle precisazioni. >> >> La seconda è il chiarimento sul fatto che "pappagalli stocastici" è >> solo una metafora e non un'ipotesi empirica. >> >> La terza è il fatto che secondo Bender "pappagalli stocastici" non >> dovrebbe essere usato come "insulto" nei confronti della tecnologia. >> Suo malgrado, però, è quel che è stato fatto. >> >> La quarta e più importante, per me, è questo passaggio qui sulla >> comprensione: "It is true that image/text models, for example, that >> can be used to map from linguistic strings to images or vice versa, >> can be argued to meet the definition of understanding in Bender & >> Koller 2020 — albeit in an extremely thin way". >> >> Si può provare a sostenere che questa non sia una retromarcia. Ma è >> una retromarcia bella grossa, per quanto manovrata con delicatezza e >> ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, >> Bender affermava che non si potesse parlare di "understanding" da >> parte dei modelli secondo la sua stessa definizione. Adesso, invece, >> c'è uno spiraglio. E uno spiraglio è diverso da "non c'è >> understanding". Molto diverso. >> >> Da qui in avanti mi aspetto una serie di lente ma inesorabili >> operazioni di riposizionamento da parte di molte persone che hanno >> usato – impropriamente, come dice oggi Bender stessa, finalmente – la >> metafora dei pappagalli stocastici per sminuire i large language model. >> >> Ovviamente gli errori e i danni fatti dai detrattori e dai >> minimizzatori non verrano mai riconosciuti come tali, ma questo è >> comunque un punto di non ritorno sia per i critici a priori di queste >> tecnologie sia per chi ha usato i pappagalli per costruirsi un >> posizionamento personale. >> >> La metafora – non ipotesi empirica – dei pappagalli stocastici, per >> quanto affascinante, era già riduttiva quando è stata proposta. In >> questi cinque anni lo è diventata sempre di più ma nel frattempo è >> diventata addirittura identitaria, ingombrando il dibattito e >> portandolo completamente fuori fuoco. >> >> Adesso che quella metafora perde i pezzi, resta, appunto, la parte >> del lavoro di Bender che era la più utile fin dall’inizio: la critica >> al potere. >> >> Link: >> >> 1) Climbing towards NLU: On Meaning, Form, and Understanding in the >> Age of Data (Emily M. Bender, Alexander Koller, 2020) >> https://aclanthology.org/2020.acl-main.463/ >> >> 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too >> Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, >> Shmargaret Shmitchell, 2021 >> https://dl.acm.org/doi/10.1145/3442188.3445922 ) >> >> 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. >> Bender, >> https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… >> ) >> >> 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. >> Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www . mat . uniroma2 . it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================================================================== > > -- -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www . mat . uniroma2 . it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================================================================== --

May 15, 2026

R: Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Daniela Tafani

> Da: Roberto Dolci via nexa <nexa(a)server-nexa.polito.it> > Mi pare una definizione molto stretta: noi comprendiamo la musica, il movimento, gli odori, le sensazioni tattili, ben al di fuori di qualsiasi > costrutto verbale linguistico. Ma l'articolo in oggetto si occupava della comprensione del linguaggio, non della comprensione tout court. ________________________________ From: Enrico Nardelli via nexa <nexa(a)server-nexa.polito.it> Sent: Friday, May 15, 2026 14:08 To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> Subject: [nexa] Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. Ritengo doveroso articolare una riflessione. Il post della Bender https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… dice: in Bender and Koller 2020 ... sophospsmartbannerend Ritengo doveroso articolare una riflessione. Il post della Bender https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-…<https://eu-west-1.protection.sophos.com?d=medium.com&u=aHR0cHM6Ly9tZWRpdW0u…> dice: in Bender and Koller 2020 ... we provide a definition of understanding as mapping from language to something outside of language, and show that systems built only with linguistic form have no purchase with which to encode (“learn”) such a mapping. Ovvero: Definiamo comprensione come una corrispondenza tra linguaggio e qualcosa fuori il linguaggio. Un sistema addestrato solo sulle forme linguistiche non ha modo di codificare questa corrispondenza. Dopo di che dice: Stochastic parrots was coined to refer to language models, i.e. systems trained only on linguistic form used to mimic the kinds of sequences of linguistic form that people use. Ovvero: Il termine "pappagalli stocastici" si riferiva ai sistemi addestrati sulle forme linguistiche che imitano quelle che usano le persone. E poi dice ancora, e qui c'è l'espressione che si pensa scardini tutto: It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020, albeit in an extremely thin way. Ovvero: si può sostenere che un modello misto con testo e immagini, che mette in corrispondenza testi con immagini o viceversa, risponda alla nostra definizione di comprensione, anche se in un modo estremamente sottile. E poi continua: When we look at the text in an image/text model, we make sense of it in a way that is rich and socially situated and we must not project that onto the model if we want to keep a clear-eyed view of how such models actually function (and in what circumstances we should be willing to use them). Ovvero: quando noi guardiamo il testo di un modello misto con testo e immagini, lo comprendiamo in modo ricco e socialmente situato, che non deve essere proiettato sul modello, se vogliamo mantenere una visione chiara su come il modello funziona effettivamente E infine: Even if there is some thin kind of technical “understanding” in e.g. a text/image model, the fact that it’s using our language at all will send misleading signals about what is actually going on, so long as we relate to language as we always do (and I don’t see how we can avoid doing so). Ovvero: anche se c'è una esile forma di "comprensione" in senso tecnico in un modello misto con testo e immagini, il semplice fatto che usi il nostro linguaggio ci manda segnali fuorvianti su ciò che sta accadendo, finché noi ci relazioniamo al linguaggio come sempre facciamo (e non vedo come potremmo fare diversamente) Ecco, leggendo questi passi tutti insieme e non estraendo solo la frase "risponde alla nostra definizione di comprensione", si capisce che l'accoppiamento fra testo e immagine rientra da un punto di vista sintattico (in an estremely thin way - direi per un capello) nella definizione tecnica di comprensione della Bender, ma non è la comprensione umana. Notate che dice che siamo NOI che lo comprendiamo (we make a sense of it) sulla base della nostra esperienza. Infatti, questo "qualcosa fuori il linguaggio" della definizione è l'intento comunicativo del parlante, che è basato sul mondo reale che parlante e ascoltatore condividono (the communicative intent is grounded in the real world the speaker and listener inhabit together). Se si legge con attenzione l'articolo di Bender & Koller del 2020 citato nel post della Bender (https://www.aclweb.org/anthology/2020.acl-main.463/<https://eu-west-1.protection.sophos.com?d=aclweb.org&u=aHR0cHM6Ly93d3cuYWNs…> - cosa che vi invito a fare, è abbastanza accessibile) tutto questo è molto chiaro, così come la tesi principale di quell'articolo, che rimane interamente salda e non scalfita. We argue that the language modeling task, because it only uses form as training data, cannot in principle lead to learning of meaning. ... We take (linguistic) meaning to be the relation between a linguistic form and communicative intent. Certo, uno può leggere nel recente post della Bender quello che vuole, ma argomentare trionfanti che "è una retromarcia bella grossa" mi sembra esagerato. Questo non vuol ovviamente dire che progressi nella ricerca e nelle architetture dei sistemi di IA non potranno darci in futuro una qualche forma di comprensione, che con le attuali architetture non c'è. Ciao, Enrico Il 14/05/2026 00:43, Fabio Alemagna via nexa ha scritto: Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: https://www.facebook.com/share/p/18kiudNQqK/<https://eu-west-1.protection.sophos.com?d=facebook.com&u=aHR0cHM6Ly93d3cuZm…> _______________ 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali. Ma andiamo con ordine. La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni. La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica. La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto. La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way". Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso. Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model. Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale. La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. Link: 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/<https://eu-west-1.protection.sophos.com?d=aclanthology.org&u=aHR0cHM6Ly9hY2…> 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922<https://eu-west-1.protection.sophos.com?d=acm.org&u=aHR0cHM6Ly9kbC5hY20ub3J…> ) 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-…<https://eu-west-1.protection.sophos.com?d=medium.com&u=aHR0cHM6Ly9tZWRpdW0u…> ) 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E<https://eu-west-1.protection.sophos.com?d=youtube.com&u=aHR0cHM6Ly93d3cueW9…> -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html<https://eu-west-1.protection.sophos.com?d=hoepli.it&u=aHR0cHM6Ly93d3cuaG9lc…> [cid:072daaf5-7a33-4e50-81b2-2df43773bf0f] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www . mat . uniroma2 . it/~nardelli blog: https://link-and-think.blogspot.it/<https://eu-west-1.protection.sophos.com?d=blogspot.it&u=aHR0cHM6Ly9saW5rLWF…> tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont<https://eu-west-1.protection.sophos.com?d=garr.it&u=aHR0cHM6Ly9ibHVlLm1lZXQ…> ====================================================================================================== --

May 15, 2026

"when you talk about these systems as conscious, you’re actually doing marketing for these companies"

by Daniela Tafani

[...] A man like Dawkins being fooled by the marketing and mimicry of AI may be surprising, but it is not entirely unexpected. In fact, back in 2020, computer scientist Timnit Gebru anticipated exactly such a scenario. At the time, Gebru was the technical co-lead of Google’s ethical AI team, but was fired after co-authoring a paper called On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, laying out the risks of large language models. These risks included the environmental costs of LLMs, the dangers of built-in bias and the danger that the coherent text generated by these models could lead people into perceiving some sort of “mind” when what they’re actually seeing is just pattern-matching and text prediction. [...] “To parrot something is to repeat it without understanding,” says Gebru. This is essentially what LLMs are doing. “They have been taught to calculate how likely sequences of text are based on the data they were trained on.” Because they’ve been fed enormous quantities of data, these models are very sophisticated but that “doesn’t mean consciousness or understanding or anything like that”. --A lot of academics, beguiled by enormous amounts of money, are incentivized to hype the technology up-- After leaving Google, Gebru founded the Distributed Artificial Intelligence Research Institute and has been one of the loudest voices in calling “bullshit” on a lot of the marketing puff that’s coming out of the industry. Because here’s the thing, she says: the AI industry is desperate for you to think that their product could be conscious. They’re desperate for you to think that it’s all-powerful. Because that sort of rhetoric helps keep the money coming in. “I really want to hone in on how this idea of superintelligence or consciousness is pushed by the companies building these things,” says Gebru. “OpenAI originally branded itself as a non-profit that would ‘save us’ from these machines. Anthropic brands itself as a benevolent AI ‘safety’ company. So when you talk about these systems as conscious, you’re actually doing marketing for these companies.” <https://www.theguardian.com/commentisfree/2026/may/14/richard-dawkins-ai-at…>

May 15, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Roberto Dolci

Ciao Enrico Mi pare una definizione molto stretta: noi comprendiamo la musica, il movimento, gli odori, le sensazioni tattili, ben al di fuori di qualsiasi costrutto verbale linguistico. Il bimbo di 4 anni ha gia' assorbito una quantita' enorme di informazioni e s'e' ricreato bene quei modelli del mondo che ora Yann LeCun sta provando a rifare con la sua startup, e Gary Marcus predica da anni. Ciao Roberto ________________________________ From: Enrico Nardelli via nexa <nexa(a)server-nexa.polito.it> Sent: Friday, May 15, 2026 14:08 To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> Subject: [nexa] Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. Ritengo doveroso articolare una riflessione. Il post della Bender https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-…<https://eu-west-1.protection.sophos.com?d=medium.com&u=aHR0cHM6Ly9tZWRpdW0u…> dice: in Bender and Koller 2020 ... we provide a definition of understanding as mapping from language to something outside of language, and show that systems built only with linguistic form have no purchase with which to encode (“learn”) such a mapping. Ovvero: Definiamo comprensione come una corrispondenza tra linguaggio e qualcosa fuori il linguaggio. Un sistema addestrato solo sulle forme linguistiche non ha modo di codificare questa corrispondenza. Dopo di che dice: Stochastic parrots was coined to refer to language models, i.e. systems trained only on linguistic form used to mimic the kinds of sequences of linguistic form that people use. Ovvero: Il termine "pappagalli stocastici" si riferiva ai sistemi addestrati sulle forme linguistiche che imitano quelle che usano le persone. E poi dice ancora, e qui c'è l'espressione che si pensa scardini tutto: It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020, albeit in an extremely thin way. Ovvero: si può sostenere che un modello misto con testo e immagini, che mette in corrispondenza testi con immagini o viceversa, risponda alla nostra definizione di comprensione, anche se in un modo estremamente sottile. E poi continua: When we look at the text in an image/text model, we make sense of it in a way that is rich and socially situated and we must not project that onto the model if we want to keep a clear-eyed view of how such models actually function (and in what circumstances we should be willing to use them). Ovvero: quando noi guardiamo il testo di un modello misto con testo e immagini, lo comprendiamo in modo ricco e socialmente situato, che non deve essere proiettato sul modello, se vogliamo mantenere una visione chiara su come il modello funziona effettivamente E infine: Even if there is some thin kind of technical “understanding” in e.g. a text/image model, the fact that it’s using our language at all will send misleading signals about what is actually going on, so long as we relate to language as we always do (and I don’t see how we can avoid doing so). Ovvero: anche se c'è una esile forma di "comprensione" in senso tecnico in un modello misto con testo e immagini, il semplice fatto che usi il nostro linguaggio ci manda segnali fuorvianti su ciò che sta accadendo, finché noi ci relazioniamo al linguaggio come sempre facciamo (e non vedo come potremmo fare diversamente) Ecco, leggendo questi passi tutti insieme e non estraendo solo la frase "risponde alla nostra definizione di comprensione", si capisce che l'accoppiamento fra testo e immagine rientra da un punto di vista sintattico (in an estremely thin way - direi per un capello) nella definizione tecnica di comprensione della Bender, ma non è la comprensione umana. Notate che dice che siamo NOI che lo comprendiamo (we make a sense of it) sulla base della nostra esperienza. Infatti, questo "qualcosa fuori il linguaggio" della definizione è l'intento comunicativo del parlante, che è basato sul mondo reale che parlante e ascoltatore condividono (the communicative intent is grounded in the real world the speaker and listener inhabit together). Se si legge con attenzione l'articolo di Bender & Koller del 2020 citato nel post della Bender (https://www.aclweb.org/anthology/2020.acl-main.463/<https://eu-west-1.protection.sophos.com?d=aclweb.org&u=aHR0cHM6Ly93d3cuYWNs…> - cosa che vi invito a fare, è abbastanza accessibile) tutto questo è molto chiaro, così come la tesi principale di quell'articolo, che rimane interamente salda e non scalfita. We argue that the language modeling task, because it only uses form as training data, cannot in principle lead to learning of meaning. ... We take (linguistic) meaning to be the relation between a linguistic form and communicative intent. Certo, uno può leggere nel recente post della Bender quello che vuole, ma argomentare trionfanti che "è una retromarcia bella grossa" mi sembra esagerato. Questo non vuol ovviamente dire che progressi nella ricerca e nelle architetture dei sistemi di IA non potranno darci in futuro una qualche forma di comprensione, che con le attuali architetture non c'è. Ciao, Enrico Il 14/05/2026 00:43, Fabio Alemagna via nexa ha scritto: Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: https://www.facebook.com/share/p/18kiudNQqK/<https://eu-west-1.protection.sophos.com?d=facebook.com&u=aHR0cHM6Ly93d3cuZm…> _______________ 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali. Ma andiamo con ordine. La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni. La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica. La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto. La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way". Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso. Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model. Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale. La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. Link: 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/<https://eu-west-1.protection.sophos.com?d=aclanthology.org&u=aHR0cHM6Ly9hY2…> 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922<https://eu-west-1.protection.sophos.com?d=acm.org&u=aHR0cHM6Ly9kbC5hY20ub3J…> ) 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-…<https://eu-west-1.protection.sophos.com?d=medium.com&u=aHR0cHM6Ly9tZWRpdW0u…> ) 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E<https://eu-west-1.protection.sophos.com?d=youtube.com&u=aHR0cHM6Ly93d3cueW9…> -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html<https://eu-west-1.protection.sophos.com?d=hoepli.it&u=aHR0cHM6Ly93d3cuaG9lc…> [cid:072daaf5-7a33-4e50-81b2-2df43773bf0f] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www . mat . uniroma2 . it/~nardelli blog: https://link-and-think.blogspot.it/<https://eu-west-1.protection.sophos.com?d=blogspot.it&u=aHR0cHM6Ly9saW5rLWF…> tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat . uniroma2 . it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont<https://eu-west-1.protection.sophos.com?d=garr.it&u=aHR0cHM6Ly9ibHVlLm1lZXQ…> ====================================================================================================== --

May 15, 2026

Jump to page: