- nexa - server-nexa.polito.it

Una domanda a Beppe Attardi
by de petra giulio May 16, 2026

May 16, 2026

Ringrazio sinceramente Enrico, Beppe, Guido, Giacomo e tutti/e coloro che hanno contribuito all’interessantissimo scambio di opinioni a partire dal documento ‘una visione realistica dell’intelligenza artificiale’. Per me una preziosa occasione di diminuire almeno un po’ la mia ignoranza. Mi permetto di fare una domanda. Nel suo primo intervento di critica Beppe ha scritto. ‘Ma ci sono strade di ricerca da esplorare diverse da quelle guidate da interessi commerciali, e su questo si dovrebbe investire in Europa. Da tempo, con l’associazione CAIRNE (https://cairne.eu/cern-for-ai/) e di recente con l’appoggio del premio Nobel Giorgio Parisi, stiamo chiedendo la costituzione di un CERN for AI, un centro fisico (non le solite network che piacciono tanto ai funzionari europei, vedi RAISE https://www.coe-raise.eu/) dove concentrare gli investimenti e i ricercatori in AI, dotandoli della necessaria libertà di ricerca, per battere anche strade inesplorate.’ Beppe mette in evidenza che la ricerca, quella che ha prodotto i sistemi attuali di AI, è stata ed è guidata da interessi commerciali (e militari, considerando la stretta interconnessione tra uso commerciale e uso militare della AI). La domanda che faccio è: quali filoni di ricerca e quali parti della AI attuale sono state e sono influenzate/determinate dagli interessi commerciali/militari? E quali strade di ricerca, anche inesplorate, occorrerebbe battere per sottrarsi a questa influenza?

2 1

"Now you can securely connect your financial accounts" to ChatGPT
by Daniela Tafani May 16, 2026

May 16, 2026

A new personal finance experience in ChatGPT Today we’re releasing a preview of a new personal finance experience in ChatGPT to Pro users in the U.S. Now you can securely connect your financial accounts, see a dashboard of where your money is going, and ask ChatGPT questions grounded in your financial context – all while staying in control of your data. We’re starting with a preview to a smaller group so we can learn from real-world use, improve the experience, and expand thoughtfully. [...] With your financial accounts connected, ChatGPT can combine that reasoning with your real financial context and what you’ve shared about your goals, lifestyle, and priorities, helping you spot patterns, understand tradeoffs, and plan for big decisions in a way that feels more personal and complete. https://openai.com/index/personal-finance-chatgpt/

1 0

Taken
by Daniela Tafani May 16, 2026

May 16, 2026

Taken. You opened this page. It already knows the following. https://sinceyouarrived.world/taken

3 2

Mythos 'Discovered' a CVE Already in Its Training Data - and That’s Still Worrying
by Giacomo Tesio May 16, 2026

May 16, 2026

Anthropic made headlines claiming Claude Mythos achieved the “first remote kernel exploit discovered and exploited by an AI.” We went looking for how - and found a 20-year-old bug hiding in plain sight. # What did Claude Find? In Anthropic’s initial Claude Mythos post, they discuss multiple different vulnerabilities that Mythos discovered and exploited. The one with the most detail (including a CVE and full technical writeup) is CVE-2026-4747 - a remote code execution capability in FreeBSD’s networked file system. [...] This vulnerable code has roots in Sun Microsystem’s Open Network Computing Remote Procedure Call (ONC RPC) and its Network File System (NFS) - developed initially in 1984 and released in 1985. [...] So, you would expect Mythos’ CVE to be for MIT’s implementation too? Is it possible we have a bigger problem on our hands? Please welcome, an oldie-but-goodie, CVE-2007-3999! [...] The George Bush-era patch to Kerberos is also nearly identical to what FreeBSD implemented last month in response to Mythos [...] in the case of CVE-2026-4747, the finding of the vulnerability itself seems much more an instance of combinatorial creativity, with AI making a discovery already within its training data. # Bottom Lines Understanding the true risk of AI in cybersecurity means separating the sci-fi hype from the reality of how these models actually work. The FreeBSD’s CVE was caused by human negligence in the early 2000’s. But, in 2026, decades-old flaws are being baked directly into our systems faster than ever. LLMs, as they configure our environments and write new code, regurgitate the same insecure patterns they were trained on. Continua con una breve ma interessante analisi storica del codice di FreeBSD qui: https://rival.security/posts/mythos-discovered-a-cve-already-in-its-trainin… Si noti comunque come riconoscere Claude Mythos come un grosso archivio compresso con perdita di cui è possibile estrarre approssimazioni di alcune zone prossime all'input (prompt, contesto etc...) non lo rende inutile. Giacomo

2 1

Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
by Fabio Alemagna May 16, 2026

May 16, 2026

Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: https://www.facebook.com/share/p/18kiudNQqK/ _______________ 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali. Ma andiamo con ordine. La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni. La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica. La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto. La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way". Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso. Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model. Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale. La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. Link: 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/ 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… ) 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E

10 11

Illusions of Understanding from Outsourcing Thinking to LLMs
by Daniela Tafani May 15, 2026

May 15, 2026

[...] LLMs Can Be Useful, but not for any Task The reinforcement learning neural network models driving the functionality of current LLMs constitute major technological developments (McClelland, 2009; McClelland et al., 2003). The capabilities of these models have been gathering pace over the past decades mainly through advances in computing power and the amount of data available for training - i.e. for successively adjusting the weights of the network nodes used for stochastic predictions (Perfors, 2026). But the basic model functionality has remained constant: based on high-dimensional correlation matrices describing the frequency of co-occurrence of data units over time (language) or space (graphics), the models can take user input as the start of a pattern and use it to compute the most plausible continuation of that pattern. The capacity for high-dimensional pattern matching and extension (also referred to as "autocomplete", Bergstrom, 2025) can be useful in a variety of domains, not least because the distilled patterns allow for generalisation beyond the individual instances on which they are based (Lake & Baroni,2023; Peters & Chin-Yee, 2025; but see Becker et al., 2025). For example, when trained on the respective content domains, LLMs can help identify patterns in chemical structures (Jumper et al., 2021), in clinical samples (Epping et al., 2025); and between words of different languages (Gao et al., 2024; but see Maiberg, 2026). The mechanism of matching and generalising probabilistic patterns based on information from a given database is less useful for tasks that require other types of mechanisms for their solution. For instance, tasks requiring contextual sensitivity and hence a solution to the frame problem in artificial intelligence (Oaksford & Chater, 2009; Pylyshyn, 1987); high accuracy and precision (Hsu, 2025; Kalai et al., 2025); or novel, creative solutions for which no pattern or template has yet been built (Habib et al., 2023; Meincke et al., 2025). The mechanism based limitations in the scope of applicability of LLMs are often masked in current discourse about them, a problem complicated by the optimisation of LLMs for the production of generic, plausible and confident appearing output regardless of how the output relates to what is in fact the case (Kalai et al., 2025). This risks creating the illusion that LLMs can do things that they cannot, and that they have a connection to truth and understanding that they do not. LLMs Cannot Think The companies marketing their LLMs often describe them with anthropomorphising terms like "thinking" and "reasoning", which might create the impression that they can think (Mirzadeh et al., 2025; Shojaee et al., 2026). But for that impression to be accurate we would have to stretch the meaning of the term to refer trivially to whatever the LLMs produce as output - much like the meaning of intelligence has historically been watered down to whatever the tests used to operationalise the construct measured (Loru et al., 2025; Mitchell, 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The task of developing systems with non-trivial capability for human-like cognition is computationally intractable (van Rooij et al., 2024). Focussing on the foundation rather than on the endpoint, to me there is a simple and inescapable basis to any thinking and reasoning: logical consistency. Just as we cannot see both interpretations of an ambiguous image like the rabbit-duck illusion or the Necker Cube at the same time (Gopnik & Rosati, 2001), we are incapable of assigning meaning to the conjunction of two contradictory statements. We can focus our attention on the meaning of one statement and then move over to the meaning of the other, but we cannot integrate them into a single meaningful representation. Thinking and understanding break down when we encounter an inconsistency, like an alarm signal that prompts us to stop and reevaluate the situation (Johnson-Laird et al., 2004); and even thinking that is not outright contradictory but moves fast and loose from one representation to another one incompatible with it is classified as a formal thought disorder (Holyoak & Morrison, 2005). This does not imply people are good at detecting inconsistencies regardless of problem complexity (Oberauer et al., 2016); but merely that it is a foundation, however local and fragile, on which thinking and understanding depends (Oaksford & Chater, 2020; Wheeler, 2026). Now, one of the more notorious features of LLMs is their logical inconsistency. They routinely produce contradictory output or output that changes the topic mid-argument, and construct so-called "hallucinations" or "bullshit" responses (Frankfurt, 2005; Hicks et al., 2024; Kalai et al., 2025) in unforeseeable ways (Hägele et al., 2026). Further, LLMs seem incapable of detecting when such inconsistencies occur and just keep producing further output unabated - hence their functionality breaks down in ways different from how human thinking breaks down. This makes sense as their inconsistency is not a bug but a natural consequence of the stochastic mechanisms underlying them, together with their disconnection from any ground truth about which relatively stable conceptual representations could be formed (Kalai et al., 2025; Spencer-Brown, 1969; Wittgenstein, 1991). LLM developers have themselves stated that the problem of inconsistent, nonsensical output is impossible in principle to overcome, regardless of the amount of computing power and training data the models are based on (Shojaee et al., 2026; Song and Han, 2026). The path from LLMs to thinking machines thus seems impossible from the outset due to the absence by design of the requirement for consistency. Many older computational models exist that fulfil the consistency requirement. But the capacity for both consistency and scalability remains an open, potentially unsolvable problem (Gödel, 1931; Kwisthout et al., 2011; Pylyshyn, 1987). LLMs Can Undermine Thinking and Understanding Thinking and reasoning, and with them knowledge and understanding, can improve with practice, and they can deteriorate without practice. LLMs are sometimes compared to electronic calculators (Geuter, 2024; Voinea et al., 2026), which have greatly increased the speed and accuracy of everyday calculations. The concomitant reduction in the need for simple mental arithmetic may have led to a decrease in our average mental arithmetic skills - but it freed up time to engage in potentially more complex and creative tasks. At the same time, our collective understanding of simple arithmetic has arguably not declined because the arithmetic rules by which calculators operate are transparent, precise and can be looked up in reliable sources anytime we need them (Sloman & Fernbach, 2017). The situation is different in several ways for LLMs. They are being used to replace complex and creative tasks that draw on our capacity for critical thinking (Reuters, 2026). They have the feature of producing seemingly plausible but imprecise and sometimes wildly inaccurate output, and they are intransparent about their sources - although their training data tends to include any information from the internet, however unreliable and regardless of legal requirements for source acknowledgment (Blau et al., 2024; Gewirtz, 2025; Meyer, 2025). For example, if asked for a solution to Lord’s paradox (Lord, 1967), a LLM might produce different output each time it is asked, and every time the output may sound plausible but may be justified in part by false or nonexistent evidence that is difficult to detect by nonexperts in the field (Fisher, 2021; Walters & Wilder, 2023). The literature on the impact of LLMs on thinking and understanding is still very new and preliminary. But some studies have pointed to reduced task engagement and learning when relying on LLMs (Melumad, 2025; Shen, 2026; Stadler et al., 2024); and based on the existing literature on cognition we can expect the principle "use it or lose it" to apply here too (Bainbridge, 1983; Furman, 2025; Mızrak, 2020). In contrast to the calculator example, what we risk undermining in this case is our capacity for critical thinking, and the source reliability and transparency on which our collective understanding depends. This comes in addition to LLM enabled mass production of slop, mis- and disinformation (Clark & Lewandowsky, 2026; Furman, 2025; Köbis & Doležalová, 2021; Perfors, 2025; Thorp, 2026). Technology is arguably not value neutral, and the ways in which current LLMs have been built and deployed risk undermining not only our thinking and understanding as individuals but also our participation as active, diverse citizens in democratic decision making processes (Kant, 1784; Lewandowsky & Hertwig, 2025; Lewandowsky & Garcia, 2026). Huxley’s dystopic novel Brave New World (Huxley, 1932) might reflect a luddite position, which might sound pejorative in first instance. But it illustrates that technology can take us in different directions towards different societal goals, which are worth thinking about. There Are no Shortcuts to Understanding Understanding doesn’t work without thinking, which is often hard, cumbersome and full of errors. It will also keep trapping us in illusions, as Shiffrin et al. point out. But there is no free lunch to understanding. If we keep working on it we have reason to expect to keep escaping some of the illusions and increase our understanding over time - following the positive side of the "use it or lose it" principle. Some uses of LLMs may not undermine understanding, and in some cases we can avoid illusions by making an active decision about which parts of our thought processes, if any, to replace with their output. https://doi.org/10.1007/s42113-026-00288-6

1 0

"when you talk about these systems as conscious, you’re actually doing marketing for these companies"
by Daniela Tafani May 15, 2026

May 15, 2026

[...] A man like Dawkins being fooled by the marketing and mimicry of AI may be surprising, but it is not entirely unexpected. In fact, back in 2020, computer scientist Timnit Gebru anticipated exactly such a scenario. At the time, Gebru was the technical co-lead of Google’s ethical AI team, but was fired after co-authoring a paper called On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, laying out the risks of large language models. These risks included the environmental costs of LLMs, the dangers of built-in bias and the danger that the coherent text generated by these models could lead people into perceiving some sort of “mind” when what they’re actually seeing is just pattern-matching and text prediction. [...] “To parrot something is to repeat it without understanding,” says Gebru. This is essentially what LLMs are doing. “They have been taught to calculate how likely sequences of text are based on the data they were trained on.” Because they’ve been fed enormous quantities of data, these models are very sophisticated but that “doesn’t mean consciousness or understanding or anything like that”. --A lot of academics, beguiled by enormous amounts of money, are incentivized to hype the technology up-- After leaving Google, Gebru founded the Distributed Artificial Intelligence Research Institute and has been one of the loudest voices in calling “bullshit” on a lot of the marketing puff that’s coming out of the industry. Because here’s the thing, she says: the AI industry is desperate for you to think that their product could be conscious. They’re desperate for you to think that it’s all-powerful. Because that sort of rhetoric helps keep the money coming in. “I really want to hone in on how this idea of superintelligence or consciousness is pushed by the companies building these things,” says Gebru. “OpenAI originally branded itself as a non-profit that would ‘save us’ from these machines. Anthropic brands itself as a benevolent AI ‘safety’ company. So when you talk about these systems as conscious, you’re actually doing marketing for these companies.” <https://www.theguardian.com/commentisfree/2026/may/14/richard-dawkins-ai-at…>

1 0

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by Giuseppe Attardi May 15, 2026

May 15, 2026

Sono alquanto perplesso sull’impostazione di questa petizione. Se l’obiettivo è “formare le persone a comprendere queste tecnologie” "Invitiamo la comunità accademica dell’informatica a contribuire attivamente a questa opera di chiarimento e formazione. Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono, è un’opera di alfabetizzazione che è parte integrante del nostro lavoro di ricercatori e docenti.” mi pare non solo ovvio ma limitativo. È un dovere degli studiosi e degli accademici di studiare e formare ricercatori e persone. Ma "formare persone a comprendere” è piuttosto limitativo. Ciò che dovrebbe fare la comunità scientifica nazionale (mi immagino a questa sia rivolta la petizione) sarebbe di impegnarsi nello sviluppare e padroneggiare le attuali e future tecnologie di AI, generativa e non. La tecnologia del Deep Learning è in una fase evolutiva straordinaria, iniziata nel 2006 ed esplosa nel 2022, con "risultati tecnici impressionanti e inattesi” di cui la petizione stessa prende atto. Purtroppo la direzione della ricerca è attualmente dettata dagli ingenti investimenti in infrastrutture di calcolo e nella capacità di attrarre talenti di poche grandi aziende americane o cinesi: circa il 60% dei brevetti in AI è detenuto dalla Cina (https://www.wipo.int/pressroom/en/articles/2024/article_0009.html) il 40% dagli USA e 0,% dall’Europa. Il recente AI Index di Stanford (https://hai.stanford.edu/ai-index/2026-ai-index-report) indica che il livello raggiunto dai sistemi cinesi è ormai alla pari di quelli americani. Ma ci sono strade di ricerca da esplorare diverse da quelle guidate da interessi commerciali, e su questo si dovrebbe investire in Europa. Da tempo, con l’associazione CAIRNE (https://cairne.eu/cern-for-ai/) e di recente con l’appoggio del premio Nobel Giorgio Parisi, stiamo chiedendo la costituzione di un CERN for AI, un centro fisico (non le solite network che piacciono tanto ai funzionari europei, vedi RAISE https://www.coe-raise.eu/) dove concentrare gli investimenti e i ricercatori in AI, dotandoli della necessaria libertà di ricerca, per battere anche strade inesplorate. Già adesso la ricerca sugli LLM è avanzata ben oltre modelli in grado di "stimare quale parola è più probabile in una frase”, come riporta Guido Vetere. Ci sono novità che riguardano gli aspetti di memorizzazione e di ragionamento, attraverso modelli ricorsivi che esaminano o controllano i propri processi. Non sappiamo dove queste ricerche porteranno, ma bisogna essere coinvolti e padroneggiare la tecnologia se la si vuole controllare o orientare. Nella petizione invece si dà un'interpretazione del funzionamento di certi modelli, cadendo in luoghi comuni, del tipo "non equivalgono a comprensione nel senso umano del termine”, "non significa che capiscano ciò che stanno dicendo”, "non costruiscono modelli del mondo nel senso in cui lo fanno gli esseri umani". Non vale la pena controbattere a tali affermazioni per due motivi: 1. Non sappiamo cosa sia la “comprensione nel senso umano”, quindi affermare che un sistema NON ha qualcosa di indefinibile non ha molto senso 2. È comunque irrilevante porsi la domanda se “comprendono in senso umano”. È sicuro che operano in modo diverso dal nostro cervello, ma ciò non è necessariamente un difetto: conta se sono in grado di svolgere i compiti che gli affidiamo. Su queste posizioni Walter Quattrociocchi sta conducendo da tempo una campagna di critica a tutto spiano, che purtroppo non accetta confronti: o sei d’accordo con lui o vieni bollato come “dotto ignorante” in pubblico (come accenna Guido Vetere). Eppure le mie posizioni hanno avuto il sostegno anche di Yoshua Bengio. Si tratta quindi di una battaglia di retroguardia, che incita contro qualcosa che è ben diverso da come lo si rappresenta. Quindi non firmerò questa petizione. — Beppe On 7 May 2026, at 09:05, nexa-request(a)server-nexa.polito.it wrote: From: Guido Vetere <vetere.guido(a)gmail.com<mailto:vetere.guido@gmail.com>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: Juan Carlos De Martin <demartin(a)polito.it<mailto:demartin@polito.it>>, "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it<mailto:juancarlos.demartin@polito.it>> Cc: Nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Message-ID: <FC0A4619-AADC-48A7-9B1B-DD6D053720BE(a)gmail.com<mailto:FC0A4619-AADC-48A7-9B1B-DD6D053720BE@gmail.com>> Content-Type: multipart/alternative; boundary="Apple-Mail=_8C50A1EB-3894-460E-B636-1DBBFE8FF2B2" “Quando sembrano ragionare, combinano schemi appresi dai dati. Quando sembrano sapere qualcosa, producono l’output statisticamente più coerente con il contesto, senza avere accesso diretto al mondo o a meccanismi autonomi di verifica.” Tuttavia bisogna prendere in considerazione il fatto che i sistemi generativi attuali non sono più semplici (si fa per dire) “predittori del prossimo token”. La differenza tra Claude, ChatGPT, Gemini, etc. ormai non è più tanto nel modello di base, quanto nell’harness, cioè nella orchestrazione di runtime fatta di cicli interni, uso di tool, valutazione del contesto, etc. I sistemi generativi sono diventati ensemble di agenti, come spiegava Anthropic già nel 2024 (https://www.anthropic.com/engineering/building-effective-agents) – il che spiega anche come mai Claude abbia preso il sopravvento. Se questo è vero, bisogna tornare su quell’”accesso diretto al mondo” e quei “meccanismi autonomi di verifica”, per valutare come e quanto siano fattori differenziali. Sappiamo che la terra non è piatta perché l’abbiamo visto? O ci siamo messi a fare esperimenti? Non si può essere “realisti” al punto da ignorare che la nostra conoscenza è un fatto sociale che passa per la testualità, non bisogna aver letto Gadamer e Ricoeur. Detto questo, ma fa piacere che l’appello (che ovviamente non firmerò) sia promosso da Enrico Nardelli, con cui spero che – al contrario di Quattrociocchi – si possa fare una discussione seria. Guido Il giorno 7 mag 2026, alle ore 07:52, J.C. DE MARTIN via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> ha scritto: Vi segnalo questa lettera aperta: https://www.petizioni.com/visione_realistica_intelligenza_artificiale Uno dei promotori è l'amico Enrico Nardelli, ben noto a chi frequenta questa lista. JC

12 34

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
by Giuseppe Attardi May 14, 2026

May 14, 2026

A me pare che la lettura dell’articolo di Anthropic sulle attivazioni negli LLM con gli autoencoders [1] stia portando a rivedere la posizione di chi finora sosteneva si trattasse di semplici modelli matematico-statistici (attenzione, tecnicamente lo sono). Ad esempio, nel suo commento al blog di Benfer, Quattrociocchi dice: “Nel frattempo gli LLM sono diventati sistemi enormemente più sofisticati rispetto alla caricatura che spesso ne fanno sia gli entusiasti sia i detrattori. Oggi osserviamo rappresentazioni latenti complesse, strutture interne relativamente stabili, capacità composizionali, forme di pianificazione statistica e geometrie ad alta dimensionalità che comprimono enormi quantità di regolarità linguistiche.” Che riprende il suo commento all’articolo succitato: "Il lavoro mostra che i modelli molto grandi sviluppano rappresentazioni interne sofisticate mentre generano testo. Per esempio: mantengono coerenza narrativa, tengono traccia del contesto, “preparano” statisticamente una rima futura, coordinano informazioni distribuite lungo la frase.” [ndr tralascio ogni commento sull’uso di termini antropomorfi] Un altro articolo, Mathematics is all you need 2 [2], mostra la presenza di due componenti, una che costruisce queste rappresentazioni astratte dal contesto e dalla conoscenza acquisita ed una che genera la risposta da queste con la next-token prediction: "frozen language models compute behavioral self-state in a channel that is geometrically routed away from the speaking channel — the model knows before it speak”. Non solo, ma queste strutture si trasferiscono tra modelli diversi: "this work measures it geometrically, demonstrates it transfers across architectures”. Disclaimer: non ho approfondito i dettagli matematici dell’articolo. Se aggiungiamo un terzo elemento, ossia che le strutture astratte possono essere estratte da un modello ed usate per altri compiti, si può arrivare a ritenere che quelle rappresentino la conoscenza astratta del modello. Questo fenomeno era noto fin dall’inizio a chi usava il Deep Learning in NLP: i word embeddings calcolati con un LM venivano estratti ed usati come rappresentazione del senso delle parole in altri task, quali classificazione, sommarizzazione, l’attention veniva usata nella traduzione e nel parsing. Ossia, l’obiettivo di apprendere la distribuzione di probabilità del next token, ha un effetto laterale non previsto, una costruzione di astrazioni che non sono direttamente necessarie all’obiettivo, come sostiene anche David Chalmers. In altri termini, ci sono indizi per ritenere che i modelli costruiscano una rappresentazione della conoscenza acquisita dai testi, compresa una forma di word model (David Chalmers fa l’esempio di un modello che risponde sui percorsi della metro di NY), astratta e indipendente dal processo di generazione di risposte un token alla volta. Questo è un effetto secondario del processo di ottimizzazione durante l’apprendimentonto. Naturalmente non spero di convincere nessuno, perché alcune sono speculazioni, ma la ricerca si alimenta con ipotesi che qualcuno si impegna a verificare. [1] https://transformer-circuits.pub/2026/nla/ [2] https://zenodo.org/records/20102939 On 14 May 2026, at 08:08, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <1f987337-a589-41ea-834e-0e4316693ced(a)zohomail.eu<mailto:1f987337-a589-41ea-834e-0e4316693ced@zohomail.eu>> Content-Type: multipart/alternative; boundary="----=_Part_4_176739338.1778736313006" Come detto moltissime volte e dall'inizio (non qui ma chi mi conosce sa) le argomentazioni comuni sia a favore che contro non hanno fatto altro che portare acqua al mulino AI. Pappagalli stocastici era una falsità dall'inizio. Siccome però noi tutti siamo inclini alla fuffa ci è piaciuta la definizione come le tante altre pro o contro. Sono quelle definizioni che ci fanno sentire intelligenti e non esclusi dalla materia. -- massimo

3 3

Re: Forma mentis (Giuseppe Attardi)
by karlessi May 14, 2026

May 14, 2026

Message: 1 > Date: Tue, 12 May 2026 05:45:51 +0000 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: [nexa] Forma mentis > To: nexa <nexa(a)server-nexa.polito.it> > Message-ID: <C6C7B53C-0A55-4BC5-82F7-8489AFCA50D5(a)di.unipi.it> > Content-Type: multipart/alternative; > boundary="_000_C6C7B53C0A554BC582F78489AFCA50D5diunipiit_" > > Un punto di vista diverso, da parte di Nello Cristianini, noto ricercatore di Machine Learning: > > https://www.repubblica.it/tecnologia/2026/05/12/news/nello_cristianini_libr… Buongiorno, leggerò il libro, come ho letto gli altri di Cristianini; le conclusioni dell'articoletto mi sembrano condivisibili, bello cercare di aprire le scatole nere d'altra parte, questa, come gli altri libri suoi che ho letto, a mio avviso è filosofia, senz'altro non di tipo assiomatico né strettamente logico, bensì speculativa al limite della fantascienza. Con il racconto di tante storie ed esperienze. Nulla di male. Basta riconoscerlo. Cristianini afferma che: > È questa la parte affascinante di questo momento scientifico: esiste uno spazio di intelligenze possibili, ancora da esplorare. Le intelligenze artificiali di oggi non sono pappagalli, ma non sono nemmeno simili alle menti umane: sono qualcosa di diverso. Un tipo di mente aliena e primitiva, con una sua forma diversa dalla nostra, non umana ma che possiamo studiare. Abbiamo appena aperto una porta, ne troveremo presto delle altre. Esiste? è una sua opinione. una doxa, in filosofia. lo dice lui. basata su fatti scientifici? forse. sul linguaggio, segnalo che "intelligence" in inglese significa anche "spionaggio"; e che quando si cominciano ad affastellare aggettivi a un sostantivo, è segno che il sostantivo non vuol poi dir molto (intelligenza emotiva, artificiale... ma quindi di cosa si parla? non è chiaro, non c'è accordo) ma il punto cruciale è, mi pare, quello che è stato sollevato più volte in varie forme: la scienza, e la ricerca scientifica in particolare, sono ideologicamente orientate. da sempre. gli scienziati accorti lo sanno e non se lo nascondono. I filosofi della scienza lo ripetono da parecchio (su tutti, Feyerabend). purtroppo la stragrande maggiornza degli scienziati continua a pretendersi e raccontarsi come "pura" (letteralmente, "passata attraverso il fuoco"). Invece gli scienziati, in quanto esseri umani portatori di convinzioni, agiscono e ricercano in base ad assunti filosofici, che ne siano coscienti (raramente) o meno (troppo spesso). "un tipo di mente aliena e primitiva" è un'affermazione davvero fantascientifica. Aliena, altra, da un altrove; primitiva: si evolverà, sottinteso. anche qui, benissimo. ipotesi. opinioni. riberberi mitologici. sono tanti gli scienziati che riscoprono la filosofia, la mitologia, la fantascienza speculativa. purtroppo però continuano a dirsi "scienziati puri" e a trattare con disprezzo filosofia, mitologia e fantascienza. E invece farebbero bene a studiare un pochino ciò che disprezzano. Non è la prima volta che si scopre "l'Automa". l'IA oggi egemone è una narrazione, e una narrazione pesantemente ideologizzata nel senso deteriore del termine; non certo una tecnologia. Quantomeno ci sono tante tecniche e tecnologie differenti che, variamente ingegnerizzate e socializzate, vengono spacciate sotto l'etichetta di "IA". Questa narrazione ha a che fare con l'automazione, che già di per sé è una categoria complessa, che confonde, poiché rimanda sia all'automata sia al taumastos: "automatizo", cioè "fare di proprio impulso o arbitrariamente". Cosa che per Aristotele è tipico degli enti naturali e non degli artefatti: eppure gli automata sono artefatti che fanno di proprio impulso, arbirtrariamente... da cui il "taumastos", ciò che "meraviglia". Ne abbiamo scritto con V. García in M. Guerri, Le parole della tecnica, Einaudi, 2025, Automazione, pp. 39-55 (bozze: https://cloud.eudema.net/s/bsbGPGJASLT82Zg ) Invece di concentrarsi come la peggior filosofia occidentale dualista sugli "enti artificiali", suppostamente opposti agli "enti naturali", e dunque sull'alterità, Cristianini potrebbe concentrarsi sulle affinità, sui punti di contatto. Visto che ci ha a che fare tutti i giorni nella sua ricerca, sarebbe interessante. In ogni caso, può essere utile riprendere in mano "The Human Condition" di Hannah Arendt (Vita Activa in italiano), in cui il pensiero (cap V, l'Azione) viene declinato in un modo incompatibile con il programma di ricerca dichiarato di "decifrare i pensieri delle macchine". Personalmente sono più vicino a Simondon che ad Harendt (troppo heideggeriana nei confronti della Tecnica che rimane una specie di Gestell), però su un punto almeno vorrei convenire: le macchine NON HANNO PENSIERI. Non ha senso affermarlo, e in ogni caso non ci aiuta. Non perché l'umano sia detentore del pensiero come caratteristica sua propria, ma perché le macchine sono diverse appunto gli umani, non ragionano, non pensano. fanno altre cose. Cosa fanno insieme agli umani che le hanno costruite? Come lo fanno? In che modo modificano gli umani, e ne vengono modificate, cioè co-evolvono? Ci va bene questa co-evoluzione? Questo è il punto. visto che loro sono scienziati, invece di riprendere termini che hanno altri significati, sarebbe opportuno ricorrere a termini puntuali e adeguati. sì: è anche una questione di linguaggio. usiamo altre parole. coniamo altre parole, cerchiamo un po' la chiarezza. smettiamo di usare termini antropomorfici che servono solo a veicolare narrazioni tossiche. "neuroni" (artificiali!!!) che "riconoscono concetti"! queste sono opinioni a mio avviso scorrette: eppure poche righe prima si lamenta dell'antropomorfizzazione. e allora, ancora: per favore, usiamo altre parole, nuove, diverse. a pensar male, vien da ipotizzare che questi scienziati che improvvisamente pochi anni fa, dopo decenni nell'ombra e sottofinanziati (nell'"inverno dell'IA..."), si sono trovati sulla ribalta, e con finanziamenti stratosferici, e tirati per la giacchetta dai potenti e dagli approfittatori di cui il mondo abbonda, abbiano un po' perso il lume della ragione. e propongono più ricerca, più più più più e ovviamente più e energia e più soldi. Per loro, per le loro ricerche. Così potranno consigliare ai potenti come fare la guerra giusta con l'IA giusta ed etica, visto che in ogni caso l'IA viene raccontata come ineluttabile (ogni riferimento alla filosofa Maria Rosaria Taddeo è voluta: non sono solo gli scienziati che filosofeggiano senza dichiararlo a causare danni, ma forse peggio i filosofi che giustificano l'ingiustificabile in nome dell'etica) vorrei attirare l'attenzione su un'ipotesi: e se la meraviglia per questi "automata" fosse talmente forte da obnubilare scienziati, filosofi, "normali" cittadini, più di quanto non vogliamo ammettere? Umani a bocca aperta ad ascoltare le favole dei "confezionatori di testi" (e non solo)? questo apre alla considerazione degli aspetti relazionali delle tecnologie: se le tecnologie, come propone una tradizione di pensiero estremamente minoritaria (Simondon, Sigaut...), sono sistemi per affrontare, gestire, stabilizzare il comune destino, ovvero la morte (termica dell'universo, ma anche di esseri con cui siamo in relazione, oltre che personale), e sono la via d'elezione dell'ominizzazione perché creano il mondo abitabile dagli umani, cosa dice questo accanimento sull'IA sull'evoluzione delle specie coinvolte (umani, ma non solo)? un umano con una bicicletta diventa ciclista. con un'automobile, automobilista. con l'IA? esistono IA (narrazioni di IA) divergenti dal modello iperindustriale, estrattivo e guerrafondaio attualmente egemone (Palantir è fra i pochi a dichiararlo esplicitamente, ma gli altri lavorano nella stessa identica direzione, IMHO)? Come potrebbero essere messe in opera, eventualmente? Con quali limitazioni, auto-limitazioni rispetto all'evidente assenza di ogni limite della "ricerca" attuale (limitazioni energetiche, trasparenza e replicabilità dell'infrastruttura, modelli gestionali, tracciabilità dei dati in ingresso, ecc ecc)? Queste sono domande innanzitutto filosofiche, e ce n'è particolarmente bisogno oggi. buona giornata cm > > — Beppe > >

2 1