- nexa - server-nexa.polito.it

"when you talk about these systems as conscious, you’re actually doing marketing for these companies"
by Daniela Tafani May 15, 2026

May 15, 2026

[...] A man like Dawkins being fooled by the marketing and mimicry of AI may be surprising, but it is not entirely unexpected. In fact, back in 2020, computer scientist Timnit Gebru anticipated exactly such a scenario. At the time, Gebru was the technical co-lead of Google’s ethical AI team, but was fired after co-authoring a paper called On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, laying out the risks of large language models. These risks included the environmental costs of LLMs, the dangers of built-in bias and the danger that the coherent text generated by these models could lead people into perceiving some sort of “mind” when what they’re actually seeing is just pattern-matching and text prediction. [...] “To parrot something is to repeat it without understanding,” says Gebru. This is essentially what LLMs are doing. “They have been taught to calculate how likely sequences of text are based on the data they were trained on.” Because they’ve been fed enormous quantities of data, these models are very sophisticated but that “doesn’t mean consciousness or understanding or anything like that”. --A lot of academics, beguiled by enormous amounts of money, are incentivized to hype the technology up-- After leaving Google, Gebru founded the Distributed Artificial Intelligence Research Institute and has been one of the loudest voices in calling “bullshit” on a lot of the marketing puff that’s coming out of the industry. Because here’s the thing, she says: the AI industry is desperate for you to think that their product could be conscious. They’re desperate for you to think that it’s all-powerful. Because that sort of rhetoric helps keep the money coming in. “I really want to hone in on how this idea of superintelligence or consciousness is pushed by the companies building these things,” says Gebru. “OpenAI originally branded itself as a non-profit that would ‘save us’ from these machines. Anthropic brands itself as a benevolent AI ‘safety’ company. So when you talk about these systems as conscious, you’re actually doing marketing for these companies.” <https://www.theguardian.com/commentisfree/2026/may/14/richard-dawkins-ai-at…>

1 0

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by Giuseppe Attardi May 15, 2026

May 15, 2026

Sono alquanto perplesso sull’impostazione di questa petizione. Se l’obiettivo è “formare le persone a comprendere queste tecnologie” "Invitiamo la comunità accademica dell’informatica a contribuire attivamente a questa opera di chiarimento e formazione. Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono, è un’opera di alfabetizzazione che è parte integrante del nostro lavoro di ricercatori e docenti.” mi pare non solo ovvio ma limitativo. È un dovere degli studiosi e degli accademici di studiare e formare ricercatori e persone. Ma "formare persone a comprendere” è piuttosto limitativo. Ciò che dovrebbe fare la comunità scientifica nazionale (mi immagino a questa sia rivolta la petizione) sarebbe di impegnarsi nello sviluppare e padroneggiare le attuali e future tecnologie di AI, generativa e non. La tecnologia del Deep Learning è in una fase evolutiva straordinaria, iniziata nel 2006 ed esplosa nel 2022, con "risultati tecnici impressionanti e inattesi” di cui la petizione stessa prende atto. Purtroppo la direzione della ricerca è attualmente dettata dagli ingenti investimenti in infrastrutture di calcolo e nella capacità di attrarre talenti di poche grandi aziende americane o cinesi: circa il 60% dei brevetti in AI è detenuto dalla Cina (https://www.wipo.int/pressroom/en/articles/2024/article_0009.html) il 40% dagli USA e 0,% dall’Europa. Il recente AI Index di Stanford (https://hai.stanford.edu/ai-index/2026-ai-index-report) indica che il livello raggiunto dai sistemi cinesi è ormai alla pari di quelli americani. Ma ci sono strade di ricerca da esplorare diverse da quelle guidate da interessi commerciali, e su questo si dovrebbe investire in Europa. Da tempo, con l’associazione CAIRNE (https://cairne.eu/cern-for-ai/) e di recente con l’appoggio del premio Nobel Giorgio Parisi, stiamo chiedendo la costituzione di un CERN for AI, un centro fisico (non le solite network che piacciono tanto ai funzionari europei, vedi RAISE https://www.coe-raise.eu/) dove concentrare gli investimenti e i ricercatori in AI, dotandoli della necessaria libertà di ricerca, per battere anche strade inesplorate. Già adesso la ricerca sugli LLM è avanzata ben oltre modelli in grado di "stimare quale parola è più probabile in una frase”, come riporta Guido Vetere. Ci sono novità che riguardano gli aspetti di memorizzazione e di ragionamento, attraverso modelli ricorsivi che esaminano o controllano i propri processi. Non sappiamo dove queste ricerche porteranno, ma bisogna essere coinvolti e padroneggiare la tecnologia se la si vuole controllare o orientare. Nella petizione invece si dà un'interpretazione del funzionamento di certi modelli, cadendo in luoghi comuni, del tipo "non equivalgono a comprensione nel senso umano del termine”, "non significa che capiscano ciò che stanno dicendo”, "non costruiscono modelli del mondo nel senso in cui lo fanno gli esseri umani". Non vale la pena controbattere a tali affermazioni per due motivi: 1. Non sappiamo cosa sia la “comprensione nel senso umano”, quindi affermare che un sistema NON ha qualcosa di indefinibile non ha molto senso 2. È comunque irrilevante porsi la domanda se “comprendono in senso umano”. È sicuro che operano in modo diverso dal nostro cervello, ma ciò non è necessariamente un difetto: conta se sono in grado di svolgere i compiti che gli affidiamo. Su queste posizioni Walter Quattrociocchi sta conducendo da tempo una campagna di critica a tutto spiano, che purtroppo non accetta confronti: o sei d’accordo con lui o vieni bollato come “dotto ignorante” in pubblico (come accenna Guido Vetere). Eppure le mie posizioni hanno avuto il sostegno anche di Yoshua Bengio. Si tratta quindi di una battaglia di retroguardia, che incita contro qualcosa che è ben diverso da come lo si rappresenta. Quindi non firmerò questa petizione. — Beppe On 7 May 2026, at 09:05, nexa-request(a)server-nexa.polito.it wrote: From: Guido Vetere <vetere.guido(a)gmail.com<mailto:vetere.guido@gmail.com>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: Juan Carlos De Martin <demartin(a)polito.it<mailto:demartin@polito.it>>, "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it<mailto:juancarlos.demartin@polito.it>> Cc: Nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Message-ID: <FC0A4619-AADC-48A7-9B1B-DD6D053720BE(a)gmail.com<mailto:FC0A4619-AADC-48A7-9B1B-DD6D053720BE@gmail.com>> Content-Type: multipart/alternative; boundary="Apple-Mail=_8C50A1EB-3894-460E-B636-1DBBFE8FF2B2" “Quando sembrano ragionare, combinano schemi appresi dai dati. Quando sembrano sapere qualcosa, producono l’output statisticamente più coerente con il contesto, senza avere accesso diretto al mondo o a meccanismi autonomi di verifica.” Tuttavia bisogna prendere in considerazione il fatto che i sistemi generativi attuali non sono più semplici (si fa per dire) “predittori del prossimo token”. La differenza tra Claude, ChatGPT, Gemini, etc. ormai non è più tanto nel modello di base, quanto nell’harness, cioè nella orchestrazione di runtime fatta di cicli interni, uso di tool, valutazione del contesto, etc. I sistemi generativi sono diventati ensemble di agenti, come spiegava Anthropic già nel 2024 (https://www.anthropic.com/engineering/building-effective-agents) – il che spiega anche come mai Claude abbia preso il sopravvento. Se questo è vero, bisogna tornare su quell’”accesso diretto al mondo” e quei “meccanismi autonomi di verifica”, per valutare come e quanto siano fattori differenziali. Sappiamo che la terra non è piatta perché l’abbiamo visto? O ci siamo messi a fare esperimenti? Non si può essere “realisti” al punto da ignorare che la nostra conoscenza è un fatto sociale che passa per la testualità, non bisogna aver letto Gadamer e Ricoeur. Detto questo, ma fa piacere che l’appello (che ovviamente non firmerò) sia promosso da Enrico Nardelli, con cui spero che – al contrario di Quattrociocchi – si possa fare una discussione seria. Guido Il giorno 7 mag 2026, alle ore 07:52, J.C. DE MARTIN via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> ha scritto: Vi segnalo questa lettera aperta: https://www.petizioni.com/visione_realistica_intelligenza_artificiale Uno dei promotori è l'amico Enrico Nardelli, ben noto a chi frequenta questa lista. JC

12 34

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
by Giuseppe Attardi May 14, 2026

May 14, 2026

A me pare che la lettura dell’articolo di Anthropic sulle attivazioni negli LLM con gli autoencoders [1] stia portando a rivedere la posizione di chi finora sosteneva si trattasse di semplici modelli matematico-statistici (attenzione, tecnicamente lo sono). Ad esempio, nel suo commento al blog di Benfer, Quattrociocchi dice: “Nel frattempo gli LLM sono diventati sistemi enormemente più sofisticati rispetto alla caricatura che spesso ne fanno sia gli entusiasti sia i detrattori. Oggi osserviamo rappresentazioni latenti complesse, strutture interne relativamente stabili, capacità composizionali, forme di pianificazione statistica e geometrie ad alta dimensionalità che comprimono enormi quantità di regolarità linguistiche.” Che riprende il suo commento all’articolo succitato: "Il lavoro mostra che i modelli molto grandi sviluppano rappresentazioni interne sofisticate mentre generano testo. Per esempio: mantengono coerenza narrativa, tengono traccia del contesto, “preparano” statisticamente una rima futura, coordinano informazioni distribuite lungo la frase.” [ndr tralascio ogni commento sull’uso di termini antropomorfi] Un altro articolo, Mathematics is all you need 2 [2], mostra la presenza di due componenti, una che costruisce queste rappresentazioni astratte dal contesto e dalla conoscenza acquisita ed una che genera la risposta da queste con la next-token prediction: "frozen language models compute behavioral self-state in a channel that is geometrically routed away from the speaking channel — the model knows before it speak”. Non solo, ma queste strutture si trasferiscono tra modelli diversi: "this work measures it geometrically, demonstrates it transfers across architectures”. Disclaimer: non ho approfondito i dettagli matematici dell’articolo. Se aggiungiamo un terzo elemento, ossia che le strutture astratte possono essere estratte da un modello ed usate per altri compiti, si può arrivare a ritenere che quelle rappresentino la conoscenza astratta del modello. Questo fenomeno era noto fin dall’inizio a chi usava il Deep Learning in NLP: i word embeddings calcolati con un LM venivano estratti ed usati come rappresentazione del senso delle parole in altri task, quali classificazione, sommarizzazione, l’attention veniva usata nella traduzione e nel parsing. Ossia, l’obiettivo di apprendere la distribuzione di probabilità del next token, ha un effetto laterale non previsto, una costruzione di astrazioni che non sono direttamente necessarie all’obiettivo, come sostiene anche David Chalmers. In altri termini, ci sono indizi per ritenere che i modelli costruiscano una rappresentazione della conoscenza acquisita dai testi, compresa una forma di word model (David Chalmers fa l’esempio di un modello che risponde sui percorsi della metro di NY), astratta e indipendente dal processo di generazione di risposte un token alla volta. Questo è un effetto secondario del processo di ottimizzazione durante l’apprendimentonto. Naturalmente non spero di convincere nessuno, perché alcune sono speculazioni, ma la ricerca si alimenta con ipotesi che qualcuno si impegna a verificare. [1] https://transformer-circuits.pub/2026/nla/ [2] https://zenodo.org/records/20102939 On 14 May 2026, at 08:08, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <1f987337-a589-41ea-834e-0e4316693ced(a)zohomail.eu<mailto:1f987337-a589-41ea-834e-0e4316693ced@zohomail.eu>> Content-Type: multipart/alternative; boundary="----=_Part_4_176739338.1778736313006" Come detto moltissime volte e dall'inizio (non qui ma chi mi conosce sa) le argomentazioni comuni sia a favore che contro non hanno fatto altro che portare acqua al mulino AI. Pappagalli stocastici era una falsità dall'inizio. Siccome però noi tutti siamo inclini alla fuffa ci è piaciuta la definizione come le tante altre pro o contro. Sono quelle definizioni che ci fanno sentire intelligenti e non esclusi dalla materia. -- massimo

3 3

Re: Forma mentis (Giuseppe Attardi)
by karlessi May 14, 2026

May 14, 2026

Message: 1 > Date: Tue, 12 May 2026 05:45:51 +0000 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: [nexa] Forma mentis > To: nexa <nexa(a)server-nexa.polito.it> > Message-ID: <C6C7B53C-0A55-4BC5-82F7-8489AFCA50D5(a)di.unipi.it> > Content-Type: multipart/alternative; > boundary="_000_C6C7B53C0A554BC582F78489AFCA50D5diunipiit_" > > Un punto di vista diverso, da parte di Nello Cristianini, noto ricercatore di Machine Learning: > > https://www.repubblica.it/tecnologia/2026/05/12/news/nello_cristianini_libr… Buongiorno, leggerò il libro, come ho letto gli altri di Cristianini; le conclusioni dell'articoletto mi sembrano condivisibili, bello cercare di aprire le scatole nere d'altra parte, questa, come gli altri libri suoi che ho letto, a mio avviso è filosofia, senz'altro non di tipo assiomatico né strettamente logico, bensì speculativa al limite della fantascienza. Con il racconto di tante storie ed esperienze. Nulla di male. Basta riconoscerlo. Cristianini afferma che: > È questa la parte affascinante di questo momento scientifico: esiste uno spazio di intelligenze possibili, ancora da esplorare. Le intelligenze artificiali di oggi non sono pappagalli, ma non sono nemmeno simili alle menti umane: sono qualcosa di diverso. Un tipo di mente aliena e primitiva, con una sua forma diversa dalla nostra, non umana ma che possiamo studiare. Abbiamo appena aperto una porta, ne troveremo presto delle altre. Esiste? è una sua opinione. una doxa, in filosofia. lo dice lui. basata su fatti scientifici? forse. sul linguaggio, segnalo che "intelligence" in inglese significa anche "spionaggio"; e che quando si cominciano ad affastellare aggettivi a un sostantivo, è segno che il sostantivo non vuol poi dir molto (intelligenza emotiva, artificiale... ma quindi di cosa si parla? non è chiaro, non c'è accordo) ma il punto cruciale è, mi pare, quello che è stato sollevato più volte in varie forme: la scienza, e la ricerca scientifica in particolare, sono ideologicamente orientate. da sempre. gli scienziati accorti lo sanno e non se lo nascondono. I filosofi della scienza lo ripetono da parecchio (su tutti, Feyerabend). purtroppo la stragrande maggiornza degli scienziati continua a pretendersi e raccontarsi come "pura" (letteralmente, "passata attraverso il fuoco"). Invece gli scienziati, in quanto esseri umani portatori di convinzioni, agiscono e ricercano in base ad assunti filosofici, che ne siano coscienti (raramente) o meno (troppo spesso). "un tipo di mente aliena e primitiva" è un'affermazione davvero fantascientifica. Aliena, altra, da un altrove; primitiva: si evolverà, sottinteso. anche qui, benissimo. ipotesi. opinioni. riberberi mitologici. sono tanti gli scienziati che riscoprono la filosofia, la mitologia, la fantascienza speculativa. purtroppo però continuano a dirsi "scienziati puri" e a trattare con disprezzo filosofia, mitologia e fantascienza. E invece farebbero bene a studiare un pochino ciò che disprezzano. Non è la prima volta che si scopre "l'Automa". l'IA oggi egemone è una narrazione, e una narrazione pesantemente ideologizzata nel senso deteriore del termine; non certo una tecnologia. Quantomeno ci sono tante tecniche e tecnologie differenti che, variamente ingegnerizzate e socializzate, vengono spacciate sotto l'etichetta di "IA". Questa narrazione ha a che fare con l'automazione, che già di per sé è una categoria complessa, che confonde, poiché rimanda sia all'automata sia al taumastos: "automatizo", cioè "fare di proprio impulso o arbitrariamente". Cosa che per Aristotele è tipico degli enti naturali e non degli artefatti: eppure gli automata sono artefatti che fanno di proprio impulso, arbirtrariamente... da cui il "taumastos", ciò che "meraviglia". Ne abbiamo scritto con V. García in M. Guerri, Le parole della tecnica, Einaudi, 2025, Automazione, pp. 39-55 (bozze: https://cloud.eudema.net/s/bsbGPGJASLT82Zg ) Invece di concentrarsi come la peggior filosofia occidentale dualista sugli "enti artificiali", suppostamente opposti agli "enti naturali", e dunque sull'alterità, Cristianini potrebbe concentrarsi sulle affinità, sui punti di contatto. Visto che ci ha a che fare tutti i giorni nella sua ricerca, sarebbe interessante. In ogni caso, può essere utile riprendere in mano "The Human Condition" di Hannah Arendt (Vita Activa in italiano), in cui il pensiero (cap V, l'Azione) viene declinato in un modo incompatibile con il programma di ricerca dichiarato di "decifrare i pensieri delle macchine". Personalmente sono più vicino a Simondon che ad Harendt (troppo heideggeriana nei confronti della Tecnica che rimane una specie di Gestell), però su un punto almeno vorrei convenire: le macchine NON HANNO PENSIERI. Non ha senso affermarlo, e in ogni caso non ci aiuta. Non perché l'umano sia detentore del pensiero come caratteristica sua propria, ma perché le macchine sono diverse appunto gli umani, non ragionano, non pensano. fanno altre cose. Cosa fanno insieme agli umani che le hanno costruite? Come lo fanno? In che modo modificano gli umani, e ne vengono modificate, cioè co-evolvono? Ci va bene questa co-evoluzione? Questo è il punto. visto che loro sono scienziati, invece di riprendere termini che hanno altri significati, sarebbe opportuno ricorrere a termini puntuali e adeguati. sì: è anche una questione di linguaggio. usiamo altre parole. coniamo altre parole, cerchiamo un po' la chiarezza. smettiamo di usare termini antropomorfici che servono solo a veicolare narrazioni tossiche. "neuroni" (artificiali!!!) che "riconoscono concetti"! queste sono opinioni a mio avviso scorrette: eppure poche righe prima si lamenta dell'antropomorfizzazione. e allora, ancora: per favore, usiamo altre parole, nuove, diverse. a pensar male, vien da ipotizzare che questi scienziati che improvvisamente pochi anni fa, dopo decenni nell'ombra e sottofinanziati (nell'"inverno dell'IA..."), si sono trovati sulla ribalta, e con finanziamenti stratosferici, e tirati per la giacchetta dai potenti e dagli approfittatori di cui il mondo abbonda, abbiano un po' perso il lume della ragione. e propongono più ricerca, più più più più e ovviamente più e energia e più soldi. Per loro, per le loro ricerche. Così potranno consigliare ai potenti come fare la guerra giusta con l'IA giusta ed etica, visto che in ogni caso l'IA viene raccontata come ineluttabile (ogni riferimento alla filosofa Maria Rosaria Taddeo è voluta: non sono solo gli scienziati che filosofeggiano senza dichiararlo a causare danni, ma forse peggio i filosofi che giustificano l'ingiustificabile in nome dell'etica) vorrei attirare l'attenzione su un'ipotesi: e se la meraviglia per questi "automata" fosse talmente forte da obnubilare scienziati, filosofi, "normali" cittadini, più di quanto non vogliamo ammettere? Umani a bocca aperta ad ascoltare le favole dei "confezionatori di testi" (e non solo)? questo apre alla considerazione degli aspetti relazionali delle tecnologie: se le tecnologie, come propone una tradizione di pensiero estremamente minoritaria (Simondon, Sigaut...), sono sistemi per affrontare, gestire, stabilizzare il comune destino, ovvero la morte (termica dell'universo, ma anche di esseri con cui siamo in relazione, oltre che personale), e sono la via d'elezione dell'ominizzazione perché creano il mondo abitabile dagli umani, cosa dice questo accanimento sull'IA sull'evoluzione delle specie coinvolte (umani, ma non solo)? un umano con una bicicletta diventa ciclista. con un'automobile, automobilista. con l'IA? esistono IA (narrazioni di IA) divergenti dal modello iperindustriale, estrattivo e guerrafondaio attualmente egemone (Palantir è fra i pochi a dichiararlo esplicitamente, ma gli altri lavorano nella stessa identica direzione, IMHO)? Come potrebbero essere messe in opera, eventualmente? Con quali limitazioni, auto-limitazioni rispetto all'evidente assenza di ogni limite della "ricerca" attuale (limitazioni energetiche, trasparenza e replicabilità dell'infrastruttura, modelli gestionali, tracciabilità dei dati in ingresso, ecc ecc)? Queste sono domande innanzitutto filosofiche, e ce n'è particolarmente bisogno oggi. buona giornata cm > > — Beppe > >

2 1

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
by ry May 14, 2026

May 14, 2026

Al di là di quanto sia surreale e tossico il dibattito sui social industriali, un dibattito polarizzato in cui francamente poco mi interessa se mettere like su "pappagalli stocastici Vs. corvi epistemici", faccio fatica a capire come si possa criticare i rapporti di potere dentro l'industria delle IA, usando quegli stessi strumenti. > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui > pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci > a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender > che è davvero importante: lo studio e la critica dei rapporti di potere > dentro l'industria delle intelligenze artificiali. Tra l'altro, mi sembra un limite anche dell'appello-manifesto “Per una visione realistica dell’Intelligenza Artificiale”...perché non si fanno nomi e cognomi, perché non si dice chiaramente che se c'è un problema di "marketing" è perché quelle 3-4 mega-aziende stanno inquinando la comunicazione sull'argomento, a scopo di dominio, chiaramente. Stiamo assistendo a un circuito promozionale di dimensioni epiche, è evidente che le posizioni estreme sono occupate da chi in un modo o nell'altro vuole trarre il massimo profitto da questo hype. Sinceramente, basta. rm. Il 14/05/26 07:12, nexa-request(a)server-nexa.polito.it ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via email, send a message with subject or > body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > Today's Topics: > > 1. Re: Forma mentis (Giacomo Tesio) > 2. Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. > (Fabio Alemagna) > 3. Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. > (Franco Marra) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Wed, 13 May 2026 23:50:36 +0200 > From: Giacomo Tesio<giacomo(a)tesio.it> > Subject: [nexa] Re: Forma mentis > To:nexa@server-nexa.polito.it > Message-ID:<20260513235036.7fe589fa(a)hermes.development.it> > Content-Type: text/plain; charset=UTF-8 > > D'accordo Giuseppe, assumiamo per un momento che tu abbia ragione. > > On Wed, 13 May 2026 09:11:00 +0000 Giuseppe Attardi wrote: > >>> sono archivi compressi con perdita di sequenze testuali di cui è >>> possibile decomprimere approssimazioni di alcune zone fornendo in >>> input una sequenza testuale prossima a quelle presenti nei testi >>> sorgente. >>> E' una spiegazione semplice, comprensibile ed esaustiva. >> Più che semplice, semplicistica. > Possiamo definire una teoria scientifica come "semplicistica" se non > riesce a spiegare tutte le osservazioni sperimentali pertinenti. > > Ti chiedo dunque (per l'ennesima volta) di condividere osservazioni > sperimentali (ovvero riproducibili) relative ad un LLM che non possano > essere spiegate semplicemente come sopra. > > > Te lo avevo già chiesto qualche giorno fa (richiesta ribadita, se non > erro, anche da Enrico): > > On Fri, 8 May 2026 11:45:07 +0200 Giacomo Tesio wrote: > >> On Thu, 7 May 2026 14:04:24 +0000 Giuseppe Attardi wrote: >> >>> Ci sono numerosi casi di risultati che non sono ottenibili >>> “riorganizzando informazioni già presenti nei dati”. >> Puoi condividere un paio delle numerose ricerche scientifiche >> sperimentali (ovvero, secondo il metodo scientifico, riproducibili) >> che mostrano output non ottenibili "riorganizzando informazioni già >> presenti nei dati"? >> >> Per dati, intendo il sorgente del software (sia il codice imperativo >> che i dati compilati e compressi durante l'eventuale programmazione >> statistica), lo stato iniziale e tutto l'input fornito (inclusi >> eventuali input casuali o pseudocasuali). > Ti sfido dunque a dimostrare che la mia spiegazione è semplicistica. > > Se non è possibile portare evidenze sperimentali, ne dovremo dedurre > che l'ipotesi della "intelligenza artificiale" è scientificamente > superflua per spiegare il comportamento di questi software > programmati statisticamente e come tale, va scartata per il > principio di parsimonia. > > > Per altro, come faceva notare Daniela in un altro thread, il problema > stesso di spiegare le "scelte" delle "GenAI" sparisce nel momento in > cui riconosci il loro output come semplice decompressione > approssimativa di un archivio compresso con perdita, invece di > interpretarle, appunto, come testo prodotto da un'intelligenza. > > Spariscono anche completamente le "allucinazioni" degli LLM, perché > cercare corrispondenza logica o fattuale fra la realtà e la > decompressione approssimativa di un archivio compresso con perdita, > sarebbe ridicolo. > > Al contempo, quelle degli "esperti" da Altman a Cristianini, diventano > invece palesi e, auspicabilmente, curabili. ;-) > > > Giacomo > > ------------------------------ > > Message: 2 > Date: Thu, 14 May 2026 02:43:40 +0400 > From: Fabio Alemagna<falemagn(a)gmail.com> > Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle > precisazioni di Emily Bender in merito. > To: Nexa<nexa(a)server-nexa.polito.it> > Message-ID: > <CACGmXuOE31CUDJJse_q28ooNVfjFkG-6sSfHpeC-f3ZYyT3+aQ(a)mail.gmail.com> > Content-Type: multipart/alternative; > boundary="000000000000d91dd10651bab6f0" > > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui > pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci > a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender > che è davvero importante: lo studio e la critica dei rapporti di potere > dentro l'industria delle intelligenze artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, > cinque anni dopo la pubblicazione di "On the Dangers of Stochastic > Parrots", di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo > una metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe > essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, > però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla > comprensione: "It is true that image/text models, for example, that can be > used to map from linguistic strings to images or vice versa, can be argued > to meet the definition of understanding in Bender & Koller 2020 — albeit in > an extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è una > retromarcia bella grossa, per quanto manovrata con delicatezza e ottima > arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava > che non si potesse parlare di "understanding" da parte dei modelli secondo > la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno > spiraglio è diverso da "non c'è understanding". Molto diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di > riposizionamento da parte di molte persone che hanno usato – > impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei > pappagalli stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori > non verrano mai riconosciuti come tali, ma questo è comunque un punto di > non ritorno sia per i critici a priori di queste tecnologie sia per chi ha > usato i pappagalli per costruirsi un posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto > affascinante, era già riduttiva quando è stata proposta. In questi cinque > anni lo è diventata sempre di più ma nel frattempo è diventata addirittura > identitaria, ingombrando il dibattito e portandolo completamente fuori > fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del > lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of > Data (Emily M. Bender, Alexander Koller, 2020) > https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 > (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret > Shmitchell, 2021https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… > ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender > https://www.youtube.com/watch?v=f4OZ7B2iP_E >

1 0

Re: Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

From: antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> No: sono archivi compressi con perdita di sequenze testuali di cui è possibile decomprimere approssimazioni di alcune zone fornendo in input una sequenza testuale prossima a quelle presenti nei testi sorgente. E' una spiegazione semplice, comprensibile ed esaustiva. Più che semplice, semplicistica. Aggiungo (tratto da [1]) ... Ahi! Sono numeri che il modello ha imparato durante l'addestramento. Non hanno "significato" umano e non rappresentano concetti o regole linguistiche in modo leggibile. 4.096 è grande abbastanza da codificare significati sfumati. Già: significati sfumati. Peccato poi che gli esperimenti, ad esempio con i syntax probe (Hewitt and Manning), dimostrino invece che rappresentano relazioni di dipendenze sintattiche tra le parole, e altre relazioni linguistiche semantiche quali la coreference. Altri concetti linguistici come i POS si ottengono ancor più facilmente col clustering. La pretesa che abbiano un’intelligibilità umana è del tutto pretestuosa. Ciò che conta è che abbiano un significato per il modello, che se li è costruiti appositamente per poter funzionare. È solo che per poterli “leggere” occorrono strumenti appositi, non c’è una leggenda, come per i file GGUF. BTW, quali “concetti o regole linguistiche" ha un bambino di 3 anni, che parla bene una lingua, senza che nessuno gli abbia insegnato alcunché di analisi sintattica o grammaticale? Non avrà imparato anche lui qualcosa che a noi risulta non intelligibile? — Quello che NON è un modello NON è intelligenza artificiale consapevole NON è un database esplicito di fatti memorizzati NON ha "comprensione" nel senso umano NON "ragiona" nel senso umano: calcola probabilità NON ha un meccanismo nativo di verifica logica/fattuale delle sue risposte NON apprende ma adatta i pesi durante l'inferenza NON contiene neuroni in senso organico, ma numeri, numeri e solo numeri NON ha memoria permanente tra le conversazioni (a meno che il sistema esterno non la aggiunga) [1] https://ilcibernetico.it/autopsia-di-un-llm-parte-prima/ [2] https://ilcibernetico.it/il-tokenizzatore-autopsia-di-un-llm-parte-seconda/ A.

3 2

Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism
by Daniela Tafani May 13, 2026

May 13, 2026

Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark May 7, 2026 Abstract Mysterianism is the idea that human cognition, mind, cannot be understood. Taking this concept and applying it to known mechanism — such that claims are made that we do not know how engineered systems, such as artificial neural networks (ANNs), work, or that they constitute black boxes that we can only open with difficulty — is inappropriate at best and malicious at worst. We do know the mechanistic structure of such models because we designed and built them. We also do know their functional role (what they are for) as well as the mathematical function they are asked to approximate (map inputs to target outputs). Because mysterianist beliefs about known systems, such as ANNs, are often expressed, scientists need to sit up and take notice. We provide an error theory as to what is going on to help unpick this metatheoretical blunder. Ultimately, the problem is that 'understanding' is not a technical term in these cases: the word is co-opted for a specific narrative to sell 'artificial intelligence' through mystification. All computational systems, from pendulums to databases, will behave in ways we cannot predict or control — this is not a unique property of ANNs — and experts do indeed grasp the computational properties of these systems nonetheless. https://zenodo.org/records/20071869

3 3

Re: Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

Grazie per avercelo ricordato. Mi chiedo però se accettiamo quanto la gente scrive su questa lista, che non è peer-reviewed, perché non dovremmo accettare quanto altri scrivono su arXiv. Poi vedo anche citazioni di semplici blog, come quello citato da antonio(a)piumarossa.it<mailto:antonio@piumarossa.it> proprio su questo oggetto, di cui nessuno si è lamentato. In tutti e tre i casi ognuno farà le proprie valutazioni di merito. — On 13 May 2026, at 09:55, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Maria Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Re: Forma mentis To: GC F <gcfrosio(a)gmail.com<mailto:gcfrosio@gmail.com>>, nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Buondì. Senza entrare nel merito vorrei ricordare che, data l'abitudine a citare articoli arXiv, che arXiv è una piattaforma di pre-press. Chiunque può inviare articoli e se corretti formalmente vederseli pubblicati. Non sono peer-reviewed. "Material is not peer-reviewed by arXiv - the contents of arXiv submissions are wholly the responsibility of the submitter and are presented “as is” without any warranty or guarantee" https://info.arxiv.org/about/index.html Il che significa che indipendentemente dal valore dei proponenti e del paper stesso, ai fini scientifici sono soltanto, per quanto autorevoli, opinioni. Ripeto, per non sollevare il solito vespaio, che è solo una valutazione "tecnica" e non nel merito. Per stemperare posso dire che non sono più scientifici di quelli in SIGBOVIK (https://sigbovik.org/) Che consiglio a chi non conosce per portare la propria intelligenza a super- intelligenza, tale da competere sullo stesso piano con le nuove AI. -- massimo

2 1

Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

Un punto di vista diverso, da parte di Nello Cristianini, noto ricercatore di Machine Learning: https://www.repubblica.it/tecnologia/2026/05/12/news/nello_cristianini_libr… — Beppe

6 6

[DAUIN Seminars] Moving from Human-Centered AI to People-Centered AI, Yvonne Rogers
by Daniele Quercia May 12, 2026

May 12, 2026

DAUIN has been delighted to welcome Prof. Yvonne Rogers over the past few weeks. It has been a real pleasure to have her with us, and we warmly invite you to join us for the final seminar of her visit. Y Combinator has recently identified the "Company Brain" as an emerging area of interest. Yvonne will ask how agentic AI might empower not only individuals, but also teams, organisations, and society at large. Moving from Human-Centered AI to People-Centered AI Yvonne Rogers, UCL May 18, 3:30pm, Lab8, DAUIN Recently there has been much excitement about agentic AI. But what does this mean for those of us working in HCI? Rather than focussing on how to amplify human cognition or augment users with GenAI tools it is important that we also begin considering how best to empower organisations, companies and society at large with agentic AI. In particular, we need to determine how to support teams and organisations in their workflows and complex tasks, for example, collaborative decision-making. This involves addressing scalability; coming up with different lens and frameworks. In my talk, I will begin by giving an overview of HCAI followed by considering the new challenges that are afoot and the opportunities that have arisen as we enter the new era of agentic AI. Yvonne Rogers is a Professor of Interaction Design at UCL. Her research interests are in the areas of human-computer interaction and human-centered AI. Her current research investigates how to design AI tools to empower people, especially human decision-making and metacognition. From 2022-2024 she was the CTO of LetsThink.com, a start-up that is developing new tools to augment how people think by applying behaviour science methods to AI. From 2020-2025 she was awarded a chair of excellence at Bremen University which was set up to fund distinguished international scholars to promote collaboration. During this time, she co-developed a centre for AI and healthcare. In 2024 she was elected as an international member of the US National Academy of Engineering. In 2022, she was awarded the ACM SIGCHI Lifetime Research Award; "presented to individuals for outstanding contributions to the study of human-computer interaction". In the same year, she was awarded the Royal Society Robin Milner Medal for Computer Science and was elected as a Fellow of the Royal Society as "one of the leaders who created the field of Ubiquitous Computing". She collaborates a lot with industrial partners and was awarded a Microsoft Research Outstanding Collaborator Award. She is also a Fellow of the ACM; a Fellow of the British Computer Society and a Fellow of the ACM's CHI Academy. ________________________________________________________________________________ Microsoft Teams meeting Join: https://teams.microsoft.com/meet/385368719903313?p=SXRMHN6TqPGP851CZs Meeting ID: 385 368 719 903 313 Passcode: 5ey3MM9g ________________________________ Need help?<https://aka.ms/JoinTeamsMeeting?omkt=en-GB> | System reference<https://teams.microsoft.com/l/meetup-join/19%3ameeting_NTkzZDRmYjQtNjZlYi00…> For organisers: Meeting options<https://teams.microsoft.com/meetingOptions/?organizerId=855f504a-6e63-4e94-…> ________________________________________________________________________________

1 0