May 2026 - nexa - server-nexa.polito.it

Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
by Fabio Alemagna May 16, 2026

May 16, 2026

Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: https://www.facebook.com/share/p/18kiudNQqK/ _______________ 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali. Ma andiamo con ordine. La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni. La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica. La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto. La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way". Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso. Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model. Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale. La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. Link: 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/ 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… ) 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E

10 11

Illusions of Understanding from Outsourcing Thinking to LLMs
by Daniela Tafani May 15, 2026

May 15, 2026

[...] LLMs Can Be Useful, but not for any Task The reinforcement learning neural network models driving the functionality of current LLMs constitute major technological developments (McClelland, 2009; McClelland et al., 2003). The capabilities of these models have been gathering pace over the past decades mainly through advances in computing power and the amount of data available for training - i.e. for successively adjusting the weights of the network nodes used for stochastic predictions (Perfors, 2026). But the basic model functionality has remained constant: based on high-dimensional correlation matrices describing the frequency of co-occurrence of data units over time (language) or space (graphics), the models can take user input as the start of a pattern and use it to compute the most plausible continuation of that pattern. The capacity for high-dimensional pattern matching and extension (also referred to as "autocomplete", Bergstrom, 2025) can be useful in a variety of domains, not least because the distilled patterns allow for generalisation beyond the individual instances on which they are based (Lake & Baroni,2023; Peters & Chin-Yee, 2025; but see Becker et al., 2025). For example, when trained on the respective content domains, LLMs can help identify patterns in chemical structures (Jumper et al., 2021), in clinical samples (Epping et al., 2025); and between words of different languages (Gao et al., 2024; but see Maiberg, 2026). The mechanism of matching and generalising probabilistic patterns based on information from a given database is less useful for tasks that require other types of mechanisms for their solution. For instance, tasks requiring contextual sensitivity and hence a solution to the frame problem in artificial intelligence (Oaksford & Chater, 2009; Pylyshyn, 1987); high accuracy and precision (Hsu, 2025; Kalai et al., 2025); or novel, creative solutions for which no pattern or template has yet been built (Habib et al., 2023; Meincke et al., 2025). The mechanism based limitations in the scope of applicability of LLMs are often masked in current discourse about them, a problem complicated by the optimisation of LLMs for the production of generic, plausible and confident appearing output regardless of how the output relates to what is in fact the case (Kalai et al., 2025). This risks creating the illusion that LLMs can do things that they cannot, and that they have a connection to truth and understanding that they do not. LLMs Cannot Think The companies marketing their LLMs often describe them with anthropomorphising terms like "thinking" and "reasoning", which might create the impression that they can think (Mirzadeh et al., 2025; Shojaee et al., 2026). But for that impression to be accurate we would have to stretch the meaning of the term to refer trivially to whatever the LLMs produce as output - much like the meaning of intelligence has historically been watered down to whatever the tests used to operationalise the construct measured (Loru et al., 2025; Mitchell, 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The task of developing systems with non-trivial capability for human-like cognition is computationally intractable (van Rooij et al., 2024). Focussing on the foundation rather than on the endpoint, to me there is a simple and inescapable basis to any thinking and reasoning: logical consistency. Just as we cannot see both interpretations of an ambiguous image like the rabbit-duck illusion or the Necker Cube at the same time (Gopnik & Rosati, 2001), we are incapable of assigning meaning to the conjunction of two contradictory statements. We can focus our attention on the meaning of one statement and then move over to the meaning of the other, but we cannot integrate them into a single meaningful representation. Thinking and understanding break down when we encounter an inconsistency, like an alarm signal that prompts us to stop and reevaluate the situation (Johnson-Laird et al., 2004); and even thinking that is not outright contradictory but moves fast and loose from one representation to another one incompatible with it is classified as a formal thought disorder (Holyoak & Morrison, 2005). This does not imply people are good at detecting inconsistencies regardless of problem complexity (Oberauer et al., 2016); but merely that it is a foundation, however local and fragile, on which thinking and understanding depends (Oaksford & Chater, 2020; Wheeler, 2026). Now, one of the more notorious features of LLMs is their logical inconsistency. They routinely produce contradictory output or output that changes the topic mid-argument, and construct so-called "hallucinations" or "bullshit" responses (Frankfurt, 2005; Hicks et al., 2024; Kalai et al., 2025) in unforeseeable ways (Hägele et al., 2026). Further, LLMs seem incapable of detecting when such inconsistencies occur and just keep producing further output unabated - hence their functionality breaks down in ways different from how human thinking breaks down. This makes sense as their inconsistency is not a bug but a natural consequence of the stochastic mechanisms underlying them, together with their disconnection from any ground truth about which relatively stable conceptual representations could be formed (Kalai et al., 2025; Spencer-Brown, 1969; Wittgenstein, 1991). LLM developers have themselves stated that the problem of inconsistent, nonsensical output is impossible in principle to overcome, regardless of the amount of computing power and training data the models are based on (Shojaee et al., 2026; Song and Han, 2026). The path from LLMs to thinking machines thus seems impossible from the outset due to the absence by design of the requirement for consistency. Many older computational models exist that fulfil the consistency requirement. But the capacity for both consistency and scalability remains an open, potentially unsolvable problem (Gödel, 1931; Kwisthout et al., 2011; Pylyshyn, 1987). LLMs Can Undermine Thinking and Understanding Thinking and reasoning, and with them knowledge and understanding, can improve with practice, and they can deteriorate without practice. LLMs are sometimes compared to electronic calculators (Geuter, 2024; Voinea et al., 2026), which have greatly increased the speed and accuracy of everyday calculations. The concomitant reduction in the need for simple mental arithmetic may have led to a decrease in our average mental arithmetic skills - but it freed up time to engage in potentially more complex and creative tasks. At the same time, our collective understanding of simple arithmetic has arguably not declined because the arithmetic rules by which calculators operate are transparent, precise and can be looked up in reliable sources anytime we need them (Sloman & Fernbach, 2017). The situation is different in several ways for LLMs. They are being used to replace complex and creative tasks that draw on our capacity for critical thinking (Reuters, 2026). They have the feature of producing seemingly plausible but imprecise and sometimes wildly inaccurate output, and they are intransparent about their sources - although their training data tends to include any information from the internet, however unreliable and regardless of legal requirements for source acknowledgment (Blau et al., 2024; Gewirtz, 2025; Meyer, 2025). For example, if asked for a solution to Lord’s paradox (Lord, 1967), a LLM might produce different output each time it is asked, and every time the output may sound plausible but may be justified in part by false or nonexistent evidence that is difficult to detect by nonexperts in the field (Fisher, 2021; Walters & Wilder, 2023). The literature on the impact of LLMs on thinking and understanding is still very new and preliminary. But some studies have pointed to reduced task engagement and learning when relying on LLMs (Melumad, 2025; Shen, 2026; Stadler et al., 2024); and based on the existing literature on cognition we can expect the principle "use it or lose it" to apply here too (Bainbridge, 1983; Furman, 2025; Mızrak, 2020). In contrast to the calculator example, what we risk undermining in this case is our capacity for critical thinking, and the source reliability and transparency on which our collective understanding depends. This comes in addition to LLM enabled mass production of slop, mis- and disinformation (Clark & Lewandowsky, 2026; Furman, 2025; Köbis & Doležalová, 2021; Perfors, 2025; Thorp, 2026). Technology is arguably not value neutral, and the ways in which current LLMs have been built and deployed risk undermining not only our thinking and understanding as individuals but also our participation as active, diverse citizens in democratic decision making processes (Kant, 1784; Lewandowsky & Hertwig, 2025; Lewandowsky & Garcia, 2026). Huxley’s dystopic novel Brave New World (Huxley, 1932) might reflect a luddite position, which might sound pejorative in first instance. But it illustrates that technology can take us in different directions towards different societal goals, which are worth thinking about. There Are no Shortcuts to Understanding Understanding doesn’t work without thinking, which is often hard, cumbersome and full of errors. It will also keep trapping us in illusions, as Shiffrin et al. point out. But there is no free lunch to understanding. If we keep working on it we have reason to expect to keep escaping some of the illusions and increase our understanding over time - following the positive side of the "use it or lose it" principle. Some uses of LLMs may not undermine understanding, and in some cases we can avoid illusions by making an active decision about which parts of our thought processes, if any, to replace with their output. https://doi.org/10.1007/s42113-026-00288-6

1 0

"when you talk about these systems as conscious, you’re actually doing marketing for these companies"
by Daniela Tafani May 15, 2026

May 15, 2026

[...] A man like Dawkins being fooled by the marketing and mimicry of AI may be surprising, but it is not entirely unexpected. In fact, back in 2020, computer scientist Timnit Gebru anticipated exactly such a scenario. At the time, Gebru was the technical co-lead of Google’s ethical AI team, but was fired after co-authoring a paper called On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, laying out the risks of large language models. These risks included the environmental costs of LLMs, the dangers of built-in bias and the danger that the coherent text generated by these models could lead people into perceiving some sort of “mind” when what they’re actually seeing is just pattern-matching and text prediction. [...] “To parrot something is to repeat it without understanding,” says Gebru. This is essentially what LLMs are doing. “They have been taught to calculate how likely sequences of text are based on the data they were trained on.” Because they’ve been fed enormous quantities of data, these models are very sophisticated but that “doesn’t mean consciousness or understanding or anything like that”. --A lot of academics, beguiled by enormous amounts of money, are incentivized to hype the technology up-- After leaving Google, Gebru founded the Distributed Artificial Intelligence Research Institute and has been one of the loudest voices in calling “bullshit” on a lot of the marketing puff that’s coming out of the industry. Because here’s the thing, she says: the AI industry is desperate for you to think that their product could be conscious. They’re desperate for you to think that it’s all-powerful. Because that sort of rhetoric helps keep the money coming in. “I really want to hone in on how this idea of superintelligence or consciousness is pushed by the companies building these things,” says Gebru. “OpenAI originally branded itself as a non-profit that would ‘save us’ from these machines. Anthropic brands itself as a benevolent AI ‘safety’ company. So when you talk about these systems as conscious, you’re actually doing marketing for these companies.” <https://www.theguardian.com/commentisfree/2026/may/14/richard-dawkins-ai-at…>

1 0

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by Giuseppe Attardi May 15, 2026

May 15, 2026

Sono alquanto perplesso sull’impostazione di questa petizione. Se l’obiettivo è “formare le persone a comprendere queste tecnologie” "Invitiamo la comunità accademica dell’informatica a contribuire attivamente a questa opera di chiarimento e formazione. Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono, è un’opera di alfabetizzazione che è parte integrante del nostro lavoro di ricercatori e docenti.” mi pare non solo ovvio ma limitativo. È un dovere degli studiosi e degli accademici di studiare e formare ricercatori e persone. Ma "formare persone a comprendere” è piuttosto limitativo. Ciò che dovrebbe fare la comunità scientifica nazionale (mi immagino a questa sia rivolta la petizione) sarebbe di impegnarsi nello sviluppare e padroneggiare le attuali e future tecnologie di AI, generativa e non. La tecnologia del Deep Learning è in una fase evolutiva straordinaria, iniziata nel 2006 ed esplosa nel 2022, con "risultati tecnici impressionanti e inattesi” di cui la petizione stessa prende atto. Purtroppo la direzione della ricerca è attualmente dettata dagli ingenti investimenti in infrastrutture di calcolo e nella capacità di attrarre talenti di poche grandi aziende americane o cinesi: circa il 60% dei brevetti in AI è detenuto dalla Cina (https://www.wipo.int/pressroom/en/articles/2024/article_0009.html) il 40% dagli USA e 0,% dall’Europa. Il recente AI Index di Stanford (https://hai.stanford.edu/ai-index/2026-ai-index-report) indica che il livello raggiunto dai sistemi cinesi è ormai alla pari di quelli americani. Ma ci sono strade di ricerca da esplorare diverse da quelle guidate da interessi commerciali, e su questo si dovrebbe investire in Europa. Da tempo, con l’associazione CAIRNE (https://cairne.eu/cern-for-ai/) e di recente con l’appoggio del premio Nobel Giorgio Parisi, stiamo chiedendo la costituzione di un CERN for AI, un centro fisico (non le solite network che piacciono tanto ai funzionari europei, vedi RAISE https://www.coe-raise.eu/) dove concentrare gli investimenti e i ricercatori in AI, dotandoli della necessaria libertà di ricerca, per battere anche strade inesplorate. Già adesso la ricerca sugli LLM è avanzata ben oltre modelli in grado di "stimare quale parola è più probabile in una frase”, come riporta Guido Vetere. Ci sono novità che riguardano gli aspetti di memorizzazione e di ragionamento, attraverso modelli ricorsivi che esaminano o controllano i propri processi. Non sappiamo dove queste ricerche porteranno, ma bisogna essere coinvolti e padroneggiare la tecnologia se la si vuole controllare o orientare. Nella petizione invece si dà un'interpretazione del funzionamento di certi modelli, cadendo in luoghi comuni, del tipo "non equivalgono a comprensione nel senso umano del termine”, "non significa che capiscano ciò che stanno dicendo”, "non costruiscono modelli del mondo nel senso in cui lo fanno gli esseri umani". Non vale la pena controbattere a tali affermazioni per due motivi: 1. Non sappiamo cosa sia la “comprensione nel senso umano”, quindi affermare che un sistema NON ha qualcosa di indefinibile non ha molto senso 2. È comunque irrilevante porsi la domanda se “comprendono in senso umano”. È sicuro che operano in modo diverso dal nostro cervello, ma ciò non è necessariamente un difetto: conta se sono in grado di svolgere i compiti che gli affidiamo. Su queste posizioni Walter Quattrociocchi sta conducendo da tempo una campagna di critica a tutto spiano, che purtroppo non accetta confronti: o sei d’accordo con lui o vieni bollato come “dotto ignorante” in pubblico (come accenna Guido Vetere). Eppure le mie posizioni hanno avuto il sostegno anche di Yoshua Bengio. Si tratta quindi di una battaglia di retroguardia, che incita contro qualcosa che è ben diverso da come lo si rappresenta. Quindi non firmerò questa petizione. — Beppe On 7 May 2026, at 09:05, nexa-request(a)server-nexa.polito.it wrote: From: Guido Vetere <vetere.guido(a)gmail.com<mailto:vetere.guido@gmail.com>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: Juan Carlos De Martin <demartin(a)polito.it<mailto:demartin@polito.it>>, "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it<mailto:juancarlos.demartin@polito.it>> Cc: Nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Message-ID: <FC0A4619-AADC-48A7-9B1B-DD6D053720BE(a)gmail.com<mailto:FC0A4619-AADC-48A7-9B1B-DD6D053720BE@gmail.com>> Content-Type: multipart/alternative; boundary="Apple-Mail=_8C50A1EB-3894-460E-B636-1DBBFE8FF2B2" “Quando sembrano ragionare, combinano schemi appresi dai dati. Quando sembrano sapere qualcosa, producono l’output statisticamente più coerente con il contesto, senza avere accesso diretto al mondo o a meccanismi autonomi di verifica.” Tuttavia bisogna prendere in considerazione il fatto che i sistemi generativi attuali non sono più semplici (si fa per dire) “predittori del prossimo token”. La differenza tra Claude, ChatGPT, Gemini, etc. ormai non è più tanto nel modello di base, quanto nell’harness, cioè nella orchestrazione di runtime fatta di cicli interni, uso di tool, valutazione del contesto, etc. I sistemi generativi sono diventati ensemble di agenti, come spiegava Anthropic già nel 2024 (https://www.anthropic.com/engineering/building-effective-agents) – il che spiega anche come mai Claude abbia preso il sopravvento. Se questo è vero, bisogna tornare su quell’”accesso diretto al mondo” e quei “meccanismi autonomi di verifica”, per valutare come e quanto siano fattori differenziali. Sappiamo che la terra non è piatta perché l’abbiamo visto? O ci siamo messi a fare esperimenti? Non si può essere “realisti” al punto da ignorare che la nostra conoscenza è un fatto sociale che passa per la testualità, non bisogna aver letto Gadamer e Ricoeur. Detto questo, ma fa piacere che l’appello (che ovviamente non firmerò) sia promosso da Enrico Nardelli, con cui spero che – al contrario di Quattrociocchi – si possa fare una discussione seria. Guido Il giorno 7 mag 2026, alle ore 07:52, J.C. DE MARTIN via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> ha scritto: Vi segnalo questa lettera aperta: https://www.petizioni.com/visione_realistica_intelligenza_artificiale Uno dei promotori è l'amico Enrico Nardelli, ben noto a chi frequenta questa lista. JC

12 34

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
by Giuseppe Attardi May 14, 2026

May 14, 2026

A me pare che la lettura dell’articolo di Anthropic sulle attivazioni negli LLM con gli autoencoders [1] stia portando a rivedere la posizione di chi finora sosteneva si trattasse di semplici modelli matematico-statistici (attenzione, tecnicamente lo sono). Ad esempio, nel suo commento al blog di Benfer, Quattrociocchi dice: “Nel frattempo gli LLM sono diventati sistemi enormemente più sofisticati rispetto alla caricatura che spesso ne fanno sia gli entusiasti sia i detrattori. Oggi osserviamo rappresentazioni latenti complesse, strutture interne relativamente stabili, capacità composizionali, forme di pianificazione statistica e geometrie ad alta dimensionalità che comprimono enormi quantità di regolarità linguistiche.” Che riprende il suo commento all’articolo succitato: "Il lavoro mostra che i modelli molto grandi sviluppano rappresentazioni interne sofisticate mentre generano testo. Per esempio: mantengono coerenza narrativa, tengono traccia del contesto, “preparano” statisticamente una rima futura, coordinano informazioni distribuite lungo la frase.” [ndr tralascio ogni commento sull’uso di termini antropomorfi] Un altro articolo, Mathematics is all you need 2 [2], mostra la presenza di due componenti, una che costruisce queste rappresentazioni astratte dal contesto e dalla conoscenza acquisita ed una che genera la risposta da queste con la next-token prediction: "frozen language models compute behavioral self-state in a channel that is geometrically routed away from the speaking channel — the model knows before it speak”. Non solo, ma queste strutture si trasferiscono tra modelli diversi: "this work measures it geometrically, demonstrates it transfers across architectures”. Disclaimer: non ho approfondito i dettagli matematici dell’articolo. Se aggiungiamo un terzo elemento, ossia che le strutture astratte possono essere estratte da un modello ed usate per altri compiti, si può arrivare a ritenere che quelle rappresentino la conoscenza astratta del modello. Questo fenomeno era noto fin dall’inizio a chi usava il Deep Learning in NLP: i word embeddings calcolati con un LM venivano estratti ed usati come rappresentazione del senso delle parole in altri task, quali classificazione, sommarizzazione, l’attention veniva usata nella traduzione e nel parsing. Ossia, l’obiettivo di apprendere la distribuzione di probabilità del next token, ha un effetto laterale non previsto, una costruzione di astrazioni che non sono direttamente necessarie all’obiettivo, come sostiene anche David Chalmers. In altri termini, ci sono indizi per ritenere che i modelli costruiscano una rappresentazione della conoscenza acquisita dai testi, compresa una forma di word model (David Chalmers fa l’esempio di un modello che risponde sui percorsi della metro di NY), astratta e indipendente dal processo di generazione di risposte un token alla volta. Questo è un effetto secondario del processo di ottimizzazione durante l’apprendimentonto. Naturalmente non spero di convincere nessuno, perché alcune sono speculazioni, ma la ricerca si alimenta con ipotesi che qualcuno si impegna a verificare. [1] https://transformer-circuits.pub/2026/nla/ [2] https://zenodo.org/records/20102939 On 14 May 2026, at 08:08, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <1f987337-a589-41ea-834e-0e4316693ced(a)zohomail.eu<mailto:1f987337-a589-41ea-834e-0e4316693ced@zohomail.eu>> Content-Type: multipart/alternative; boundary="----=_Part_4_176739338.1778736313006" Come detto moltissime volte e dall'inizio (non qui ma chi mi conosce sa) le argomentazioni comuni sia a favore che contro non hanno fatto altro che portare acqua al mulino AI. Pappagalli stocastici era una falsità dall'inizio. Siccome però noi tutti siamo inclini alla fuffa ci è piaciuta la definizione come le tante altre pro o contro. Sono quelle definizioni che ci fanno sentire intelligenti e non esclusi dalla materia. -- massimo

3 3

Re: Forma mentis (Giuseppe Attardi)
by karlessi May 14, 2026

May 14, 2026

Message: 1 > Date: Tue, 12 May 2026 05:45:51 +0000 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: [nexa] Forma mentis > To: nexa <nexa(a)server-nexa.polito.it> > Message-ID: <C6C7B53C-0A55-4BC5-82F7-8489AFCA50D5(a)di.unipi.it> > Content-Type: multipart/alternative; > boundary="_000_C6C7B53C0A554BC582F78489AFCA50D5diunipiit_" > > Un punto di vista diverso, da parte di Nello Cristianini, noto ricercatore di Machine Learning: > > https://www.repubblica.it/tecnologia/2026/05/12/news/nello_cristianini_libr… Buongiorno, leggerò il libro, come ho letto gli altri di Cristianini; le conclusioni dell'articoletto mi sembrano condivisibili, bello cercare di aprire le scatole nere d'altra parte, questa, come gli altri libri suoi che ho letto, a mio avviso è filosofia, senz'altro non di tipo assiomatico né strettamente logico, bensì speculativa al limite della fantascienza. Con il racconto di tante storie ed esperienze. Nulla di male. Basta riconoscerlo. Cristianini afferma che: > È questa la parte affascinante di questo momento scientifico: esiste uno spazio di intelligenze possibili, ancora da esplorare. Le intelligenze artificiali di oggi non sono pappagalli, ma non sono nemmeno simili alle menti umane: sono qualcosa di diverso. Un tipo di mente aliena e primitiva, con una sua forma diversa dalla nostra, non umana ma che possiamo studiare. Abbiamo appena aperto una porta, ne troveremo presto delle altre. Esiste? è una sua opinione. una doxa, in filosofia. lo dice lui. basata su fatti scientifici? forse. sul linguaggio, segnalo che "intelligence" in inglese significa anche "spionaggio"; e che quando si cominciano ad affastellare aggettivi a un sostantivo, è segno che il sostantivo non vuol poi dir molto (intelligenza emotiva, artificiale... ma quindi di cosa si parla? non è chiaro, non c'è accordo) ma il punto cruciale è, mi pare, quello che è stato sollevato più volte in varie forme: la scienza, e la ricerca scientifica in particolare, sono ideologicamente orientate. da sempre. gli scienziati accorti lo sanno e non se lo nascondono. I filosofi della scienza lo ripetono da parecchio (su tutti, Feyerabend). purtroppo la stragrande maggiornza degli scienziati continua a pretendersi e raccontarsi come "pura" (letteralmente, "passata attraverso il fuoco"). Invece gli scienziati, in quanto esseri umani portatori di convinzioni, agiscono e ricercano in base ad assunti filosofici, che ne siano coscienti (raramente) o meno (troppo spesso). "un tipo di mente aliena e primitiva" è un'affermazione davvero fantascientifica. Aliena, altra, da un altrove; primitiva: si evolverà, sottinteso. anche qui, benissimo. ipotesi. opinioni. riberberi mitologici. sono tanti gli scienziati che riscoprono la filosofia, la mitologia, la fantascienza speculativa. purtroppo però continuano a dirsi "scienziati puri" e a trattare con disprezzo filosofia, mitologia e fantascienza. E invece farebbero bene a studiare un pochino ciò che disprezzano. Non è la prima volta che si scopre "l'Automa". l'IA oggi egemone è una narrazione, e una narrazione pesantemente ideologizzata nel senso deteriore del termine; non certo una tecnologia. Quantomeno ci sono tante tecniche e tecnologie differenti che, variamente ingegnerizzate e socializzate, vengono spacciate sotto l'etichetta di "IA". Questa narrazione ha a che fare con l'automazione, che già di per sé è una categoria complessa, che confonde, poiché rimanda sia all'automata sia al taumastos: "automatizo", cioè "fare di proprio impulso o arbitrariamente". Cosa che per Aristotele è tipico degli enti naturali e non degli artefatti: eppure gli automata sono artefatti che fanno di proprio impulso, arbirtrariamente... da cui il "taumastos", ciò che "meraviglia". Ne abbiamo scritto con V. García in M. Guerri, Le parole della tecnica, Einaudi, 2025, Automazione, pp. 39-55 (bozze: https://cloud.eudema.net/s/bsbGPGJASLT82Zg ) Invece di concentrarsi come la peggior filosofia occidentale dualista sugli "enti artificiali", suppostamente opposti agli "enti naturali", e dunque sull'alterità, Cristianini potrebbe concentrarsi sulle affinità, sui punti di contatto. Visto che ci ha a che fare tutti i giorni nella sua ricerca, sarebbe interessante. In ogni caso, può essere utile riprendere in mano "The Human Condition" di Hannah Arendt (Vita Activa in italiano), in cui il pensiero (cap V, l'Azione) viene declinato in un modo incompatibile con il programma di ricerca dichiarato di "decifrare i pensieri delle macchine". Personalmente sono più vicino a Simondon che ad Harendt (troppo heideggeriana nei confronti della Tecnica che rimane una specie di Gestell), però su un punto almeno vorrei convenire: le macchine NON HANNO PENSIERI. Non ha senso affermarlo, e in ogni caso non ci aiuta. Non perché l'umano sia detentore del pensiero come caratteristica sua propria, ma perché le macchine sono diverse appunto gli umani, non ragionano, non pensano. fanno altre cose. Cosa fanno insieme agli umani che le hanno costruite? Come lo fanno? In che modo modificano gli umani, e ne vengono modificate, cioè co-evolvono? Ci va bene questa co-evoluzione? Questo è il punto. visto che loro sono scienziati, invece di riprendere termini che hanno altri significati, sarebbe opportuno ricorrere a termini puntuali e adeguati. sì: è anche una questione di linguaggio. usiamo altre parole. coniamo altre parole, cerchiamo un po' la chiarezza. smettiamo di usare termini antropomorfici che servono solo a veicolare narrazioni tossiche. "neuroni" (artificiali!!!) che "riconoscono concetti"! queste sono opinioni a mio avviso scorrette: eppure poche righe prima si lamenta dell'antropomorfizzazione. e allora, ancora: per favore, usiamo altre parole, nuove, diverse. a pensar male, vien da ipotizzare che questi scienziati che improvvisamente pochi anni fa, dopo decenni nell'ombra e sottofinanziati (nell'"inverno dell'IA..."), si sono trovati sulla ribalta, e con finanziamenti stratosferici, e tirati per la giacchetta dai potenti e dagli approfittatori di cui il mondo abbonda, abbiano un po' perso il lume della ragione. e propongono più ricerca, più più più più e ovviamente più e energia e più soldi. Per loro, per le loro ricerche. Così potranno consigliare ai potenti come fare la guerra giusta con l'IA giusta ed etica, visto che in ogni caso l'IA viene raccontata come ineluttabile (ogni riferimento alla filosofa Maria Rosaria Taddeo è voluta: non sono solo gli scienziati che filosofeggiano senza dichiararlo a causare danni, ma forse peggio i filosofi che giustificano l'ingiustificabile in nome dell'etica) vorrei attirare l'attenzione su un'ipotesi: e se la meraviglia per questi "automata" fosse talmente forte da obnubilare scienziati, filosofi, "normali" cittadini, più di quanto non vogliamo ammettere? Umani a bocca aperta ad ascoltare le favole dei "confezionatori di testi" (e non solo)? questo apre alla considerazione degli aspetti relazionali delle tecnologie: se le tecnologie, come propone una tradizione di pensiero estremamente minoritaria (Simondon, Sigaut...), sono sistemi per affrontare, gestire, stabilizzare il comune destino, ovvero la morte (termica dell'universo, ma anche di esseri con cui siamo in relazione, oltre che personale), e sono la via d'elezione dell'ominizzazione perché creano il mondo abitabile dagli umani, cosa dice questo accanimento sull'IA sull'evoluzione delle specie coinvolte (umani, ma non solo)? un umano con una bicicletta diventa ciclista. con un'automobile, automobilista. con l'IA? esistono IA (narrazioni di IA) divergenti dal modello iperindustriale, estrattivo e guerrafondaio attualmente egemone (Palantir è fra i pochi a dichiararlo esplicitamente, ma gli altri lavorano nella stessa identica direzione, IMHO)? Come potrebbero essere messe in opera, eventualmente? Con quali limitazioni, auto-limitazioni rispetto all'evidente assenza di ogni limite della "ricerca" attuale (limitazioni energetiche, trasparenza e replicabilità dell'infrastruttura, modelli gestionali, tracciabilità dei dati in ingresso, ecc ecc)? Queste sono domande innanzitutto filosofiche, e ce n'è particolarmente bisogno oggi. buona giornata cm > > — Beppe > >

2 1

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
by ry May 14, 2026

May 14, 2026

Al di là di quanto sia surreale e tossico il dibattito sui social industriali, un dibattito polarizzato in cui francamente poco mi interessa se mettere like su "pappagalli stocastici Vs. corvi epistemici", faccio fatica a capire come si possa criticare i rapporti di potere dentro l'industria delle IA, usando quegli stessi strumenti. > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui > pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci > a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender > che è davvero importante: lo studio e la critica dei rapporti di potere > dentro l'industria delle intelligenze artificiali. Tra l'altro, mi sembra un limite anche dell'appello-manifesto “Per una visione realistica dell’Intelligenza Artificiale”...perché non si fanno nomi e cognomi, perché non si dice chiaramente che se c'è un problema di "marketing" è perché quelle 3-4 mega-aziende stanno inquinando la comunicazione sull'argomento, a scopo di dominio, chiaramente. Stiamo assistendo a un circuito promozionale di dimensioni epiche, è evidente che le posizioni estreme sono occupate da chi in un modo o nell'altro vuole trarre il massimo profitto da questo hype. Sinceramente, basta. rm. Il 14/05/26 07:12, nexa-request(a)server-nexa.polito.it ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via email, send a message with subject or > body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > Today's Topics: > > 1. Re: Forma mentis (Giacomo Tesio) > 2. Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. > (Fabio Alemagna) > 3. Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. > (Franco Marra) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Wed, 13 May 2026 23:50:36 +0200 > From: Giacomo Tesio<giacomo(a)tesio.it> > Subject: [nexa] Re: Forma mentis > To:nexa@server-nexa.polito.it > Message-ID:<20260513235036.7fe589fa(a)hermes.development.it> > Content-Type: text/plain; charset=UTF-8 > > D'accordo Giuseppe, assumiamo per un momento che tu abbia ragione. > > On Wed, 13 May 2026 09:11:00 +0000 Giuseppe Attardi wrote: > >>> sono archivi compressi con perdita di sequenze testuali di cui è >>> possibile decomprimere approssimazioni di alcune zone fornendo in >>> input una sequenza testuale prossima a quelle presenti nei testi >>> sorgente. >>> E' una spiegazione semplice, comprensibile ed esaustiva. >> Più che semplice, semplicistica. > Possiamo definire una teoria scientifica come "semplicistica" se non > riesce a spiegare tutte le osservazioni sperimentali pertinenti. > > Ti chiedo dunque (per l'ennesima volta) di condividere osservazioni > sperimentali (ovvero riproducibili) relative ad un LLM che non possano > essere spiegate semplicemente come sopra. > > > Te lo avevo già chiesto qualche giorno fa (richiesta ribadita, se non > erro, anche da Enrico): > > On Fri, 8 May 2026 11:45:07 +0200 Giacomo Tesio wrote: > >> On Thu, 7 May 2026 14:04:24 +0000 Giuseppe Attardi wrote: >> >>> Ci sono numerosi casi di risultati che non sono ottenibili >>> “riorganizzando informazioni già presenti nei dati”. >> Puoi condividere un paio delle numerose ricerche scientifiche >> sperimentali (ovvero, secondo il metodo scientifico, riproducibili) >> che mostrano output non ottenibili "riorganizzando informazioni già >> presenti nei dati"? >> >> Per dati, intendo il sorgente del software (sia il codice imperativo >> che i dati compilati e compressi durante l'eventuale programmazione >> statistica), lo stato iniziale e tutto l'input fornito (inclusi >> eventuali input casuali o pseudocasuali). > Ti sfido dunque a dimostrare che la mia spiegazione è semplicistica. > > Se non è possibile portare evidenze sperimentali, ne dovremo dedurre > che l'ipotesi della "intelligenza artificiale" è scientificamente > superflua per spiegare il comportamento di questi software > programmati statisticamente e come tale, va scartata per il > principio di parsimonia. > > > Per altro, come faceva notare Daniela in un altro thread, il problema > stesso di spiegare le "scelte" delle "GenAI" sparisce nel momento in > cui riconosci il loro output come semplice decompressione > approssimativa di un archivio compresso con perdita, invece di > interpretarle, appunto, come testo prodotto da un'intelligenza. > > Spariscono anche completamente le "allucinazioni" degli LLM, perché > cercare corrispondenza logica o fattuale fra la realtà e la > decompressione approssimativa di un archivio compresso con perdita, > sarebbe ridicolo. > > Al contempo, quelle degli "esperti" da Altman a Cristianini, diventano > invece palesi e, auspicabilmente, curabili. ;-) > > > Giacomo > > ------------------------------ > > Message: 2 > Date: Thu, 14 May 2026 02:43:40 +0400 > From: Fabio Alemagna<falemagn(a)gmail.com> > Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle > precisazioni di Emily Bender in merito. > To: Nexa<nexa(a)server-nexa.polito.it> > Message-ID: > <CACGmXuOE31CUDJJse_q28ooNVfjFkG-6sSfHpeC-f3ZYyT3+aQ(a)mail.gmail.com> > Content-Type: multipart/alternative; > boundary="000000000000d91dd10651bab6f0" > > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui > pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci > a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender > che è davvero importante: lo studio e la critica dei rapporti di potere > dentro l'industria delle intelligenze artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, > cinque anni dopo la pubblicazione di "On the Dangers of Stochastic > Parrots", di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo > una metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe > essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, > però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla > comprensione: "It is true that image/text models, for example, that can be > used to map from linguistic strings to images or vice versa, can be argued > to meet the definition of understanding in Bender & Koller 2020 — albeit in > an extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è una > retromarcia bella grossa, per quanto manovrata con delicatezza e ottima > arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava > che non si potesse parlare di "understanding" da parte dei modelli secondo > la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno > spiraglio è diverso da "non c'è understanding". Molto diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di > riposizionamento da parte di molte persone che hanno usato – > impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei > pappagalli stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori > non verrano mai riconosciuti come tali, ma questo è comunque un punto di > non ritorno sia per i critici a priori di queste tecnologie sia per chi ha > usato i pappagalli per costruirsi un posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto > affascinante, era già riduttiva quando è stata proposta. In questi cinque > anni lo è diventata sempre di più ma nel frattempo è diventata addirittura > identitaria, ingombrando il dibattito e portandolo completamente fuori > fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del > lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of > Data (Emily M. Bender, Alexander Koller, 2020) > https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 > (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret > Shmitchell, 2021https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… > ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender > https://www.youtube.com/watch?v=f4OZ7B2iP_E >

1 0

Re: Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

From: antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> No: sono archivi compressi con perdita di sequenze testuali di cui è possibile decomprimere approssimazioni di alcune zone fornendo in input una sequenza testuale prossima a quelle presenti nei testi sorgente. E' una spiegazione semplice, comprensibile ed esaustiva. Più che semplice, semplicistica. Aggiungo (tratto da [1]) ... Ahi! Sono numeri che il modello ha imparato durante l'addestramento. Non hanno "significato" umano e non rappresentano concetti o regole linguistiche in modo leggibile. 4.096 è grande abbastanza da codificare significati sfumati. Già: significati sfumati. Peccato poi che gli esperimenti, ad esempio con i syntax probe (Hewitt and Manning), dimostrino invece che rappresentano relazioni di dipendenze sintattiche tra le parole, e altre relazioni linguistiche semantiche quali la coreference. Altri concetti linguistici come i POS si ottengono ancor più facilmente col clustering. La pretesa che abbiano un’intelligibilità umana è del tutto pretestuosa. Ciò che conta è che abbiano un significato per il modello, che se li è costruiti appositamente per poter funzionare. È solo che per poterli “leggere” occorrono strumenti appositi, non c’è una leggenda, come per i file GGUF. BTW, quali “concetti o regole linguistiche" ha un bambino di 3 anni, che parla bene una lingua, senza che nessuno gli abbia insegnato alcunché di analisi sintattica o grammaticale? Non avrà imparato anche lui qualcosa che a noi risulta non intelligibile? — Quello che NON è un modello NON è intelligenza artificiale consapevole NON è un database esplicito di fatti memorizzati NON ha "comprensione" nel senso umano NON "ragiona" nel senso umano: calcola probabilità NON ha un meccanismo nativo di verifica logica/fattuale delle sue risposte NON apprende ma adatta i pesi durante l'inferenza NON contiene neuroni in senso organico, ma numeri, numeri e solo numeri NON ha memoria permanente tra le conversazioni (a meno che il sistema esterno non la aggiunga) [1] https://ilcibernetico.it/autopsia-di-un-llm-parte-prima/ [2] https://ilcibernetico.it/il-tokenizzatore-autopsia-di-un-llm-parte-seconda/ A.

3 2

Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism
by Daniela Tafani May 13, 2026

May 13, 2026

Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark May 7, 2026 Abstract Mysterianism is the idea that human cognition, mind, cannot be understood. Taking this concept and applying it to known mechanism — such that claims are made that we do not know how engineered systems, such as artificial neural networks (ANNs), work, or that they constitute black boxes that we can only open with difficulty — is inappropriate at best and malicious at worst. We do know the mechanistic structure of such models because we designed and built them. We also do know their functional role (what they are for) as well as the mathematical function they are asked to approximate (map inputs to target outputs). Because mysterianist beliefs about known systems, such as ANNs, are often expressed, scientists need to sit up and take notice. We provide an error theory as to what is going on to help unpick this metatheoretical blunder. Ultimately, the problem is that 'understanding' is not a technical term in these cases: the word is co-opted for a specific narrative to sell 'artificial intelligence' through mystification. All computational systems, from pendulums to databases, will behave in ways we cannot predict or control — this is not a unique property of ANNs — and experts do indeed grasp the computational properties of these systems nonetheless. https://zenodo.org/records/20071869

3 3

Re: Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

Grazie per avercelo ricordato. Mi chiedo però se accettiamo quanto la gente scrive su questa lista, che non è peer-reviewed, perché non dovremmo accettare quanto altri scrivono su arXiv. Poi vedo anche citazioni di semplici blog, come quello citato da antonio(a)piumarossa.it<mailto:antonio@piumarossa.it> proprio su questo oggetto, di cui nessuno si è lamentato. In tutti e tre i casi ognuno farà le proprie valutazioni di merito. — On 13 May 2026, at 09:55, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Maria Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Re: Forma mentis To: GC F <gcfrosio(a)gmail.com<mailto:gcfrosio@gmail.com>>, nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Buondì. Senza entrare nel merito vorrei ricordare che, data l'abitudine a citare articoli arXiv, che arXiv è una piattaforma di pre-press. Chiunque può inviare articoli e se corretti formalmente vederseli pubblicati. Non sono peer-reviewed. "Material is not peer-reviewed by arXiv - the contents of arXiv submissions are wholly the responsibility of the submitter and are presented “as is” without any warranty or guarantee" https://info.arxiv.org/about/index.html Il che significa che indipendentemente dal valore dei proponenti e del paper stesso, ai fini scientifici sono soltanto, per quanto autorevoli, opinioni. Ripeto, per non sollevare il solito vespaio, che è solo una valutazione "tecnica" e non nel merito. Per stemperare posso dire che non sono più scientifici di quelli in SIGBOVIK (https://sigbovik.org/) Che consiglio a chi non conosce per portare la propria intelligenza a super- intelligenza, tale da competere sullo stesso piano con le nuove AI. -- massimo

2 1