May 2026 - nexa - server-nexa.polito.it

Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Massimo Ghisalberti

Come detto moltissime volte e dall'inizio (non qui ma chi mi conosce sa) le argomentazioni comuni sia a favore che contro non hanno fatto altro che portare acqua al mulino AI. Pappagalli stocastici era una falsità dall'inizio. Siccome però noi tutti siamo inclini alla fuffa ci è piaciuta la definizione come le tante altre pro o contro. Sono quelle definizioni che ci fanno sentire intelligenti e non esclusi dalla materia. -- massimo

May 14, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Franco Marra

Infatti noi del Laboratorio Popolare di Intelligenza Artificiale, corso per anziani tenuto per lo SPI-CGIL Lega 8 alla Casa del Quartiere di San Salvario, chiamiamo gli LLM 'Chiromanti Stocastiche' https://www.labpopia.it/come-si-usa/uso-consapevole#h.9igg9c1ilsvn Il giorno gio 14 mag 2026 alle ore 00:46 Fabio Alemagna via nexa < nexa(a)server-nexa.polito.it> ha scritto: > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender > sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero > aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di > Bender che è davvero importante: lo studio e la critica dei rapporti di > potere dentro l'industria delle intelligenze artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, > cinque anni dopo la pubblicazione di "On the Dangers of Stochastic > Parrots", di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo > una metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non > dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo > malgrado, però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla > comprensione: "It is true that image/text models, for example, that can be > used to map from linguistic strings to images or vice versa, can be argued > to meet the definition of understanding in Bender & Koller 2020 — albeit in > an extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è una > retromarcia bella grossa, per quanto manovrata con delicatezza e ottima > arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava > che non si potesse parlare di "understanding" da parte dei modelli secondo > la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno > spiraglio è diverso da "non c'è understanding". Molto diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni > di riposizionamento da parte di molte persone che hanno usato – > impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei > pappagalli stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori > non verrano mai riconosciuti come tali, ma questo è comunque un punto di > non ritorno sia per i critici a priori di queste tecnologie sia per chi ha > usato i pappagalli per costruirsi un posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto > affascinante, era già riduttiva quando è stata proposta. In questi cinque > anni lo è diventata sempre di più ma nel frattempo è diventata addirittura > identitaria, ingombrando il dibattito e portandolo completamente fuori > fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del > lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of > Data (Emily M. Bender, Alexander Koller, 2020) > https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? > 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret > Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… > ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. > Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E >

May 14, 2026

Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Fabio Alemagna

Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: https://www.facebook.com/share/p/18kiudNQqK/ _______________ 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali. Ma andiamo con ordine. La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni. La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica. La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto. La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way". Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso. Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model. Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale. La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. Link: 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/ 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-… ) 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E

May 13, 2026

Re: Forma mentis

by Giacomo Tesio

D'accordo Giuseppe, assumiamo per un momento che tu abbia ragione. On Wed, 13 May 2026 09:11:00 +0000 Giuseppe Attardi wrote: > > sono archivi compressi con perdita di sequenze testuali di cui è > > possibile decomprimere approssimazioni di alcune zone fornendo in > > input una sequenza testuale prossima a quelle presenti nei testi > > sorgente. > > E' una spiegazione semplice, comprensibile ed esaustiva. > > Più che semplice, semplicistica. Possiamo definire una teoria scientifica come "semplicistica" se non riesce a spiegare tutte le osservazioni sperimentali pertinenti. Ti chiedo dunque (per l'ennesima volta) di condividere osservazioni sperimentali (ovvero riproducibili) relative ad un LLM che non possano essere spiegate semplicemente come sopra. Te lo avevo già chiesto qualche giorno fa (richiesta ribadita, se non erro, anche da Enrico): On Fri, 8 May 2026 11:45:07 +0200 Giacomo Tesio wrote: > On Thu, 7 May 2026 14:04:24 +0000 Giuseppe Attardi wrote: > > > Ci sono numerosi casi di risultati che non sono ottenibili > > “riorganizzando informazioni già presenti nei dati”. > > Puoi condividere un paio delle numerose ricerche scientifiche > sperimentali (ovvero, secondo il metodo scientifico, riproducibili) > che mostrano output non ottenibili "riorganizzando informazioni già > presenti nei dati"? > > Per dati, intendo il sorgente del software (sia il codice imperativo > che i dati compilati e compressi durante l'eventuale programmazione > statistica), lo stato iniziale e tutto l'input fornito (inclusi > eventuali input casuali o pseudocasuali). Ti sfido dunque a dimostrare che la mia spiegazione è semplicistica. Se non è possibile portare evidenze sperimentali, ne dovremo dedurre che l'ipotesi della "intelligenza artificiale" è scientificamente superflua per spiegare il comportamento di questi software programmati statisticamente e come tale, va scartata per il principio di parsimonia. Per altro, come faceva notare Daniela in un altro thread, il problema stesso di spiegare le "scelte" delle "GenAI" sparisce nel momento in cui riconosci il loro output come semplice decompressione approssimativa di un archivio compresso con perdita, invece di interpretarle, appunto, come testo prodotto da un'intelligenza. Spariscono anche completamente le "allucinazioni" degli LLM, perché cercare corrispondenza logica o fattuale fra la realtà e la decompressione approssimativa di un archivio compresso con perdita, sarebbe ridicolo. Al contempo, quelle degli "esperti" da Altman a Cristianini, diventano invece palesi e, auspicabilmente, curabili. ;-) Giacomo

May 13, 2026

Re: Taken

by abregni

Non vedo il problema. Anche se passo per strada vedono se sono alto e ho la barba... Il 2026-05-13 21:32 Daniela Tafani via nexa ha scritto: > Taken. > You opened this page. It already knows the following. > > https://sinceyouarrived.world/taken

May 13, 2026

Taken

by Daniela Tafani

Taken. You opened this page. It already knows the following. https://sinceyouarrived.world/taken

May 13, 2026

R: demistificazione del concetto di black box [era Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism]

by Daniela Tafani

Caro 380°, l'articolo si occupa di reti neurali artificiali (ANN), così definite: "ANN is an umbrella term for models of the data or of cognition that involve matrix multiplications followed by squashing functions" La tesi a cui mi riferivo è molto semplice (traduco liberamente o parafraso di seguito alcuni passi dell'articolo): non è vero che non comprendiamo come funzioni una rete neurale artificiale, si tratta di equazioni e meccanismi conosciuti o conoscibili. Quello che non conosciamo sono i dati (e il mondo). Nessun modello statistico inferenziale, dalla regressione logistica alle ANN, per il solo fatto di essere applicato ai dati, fornisce spiegazioni. Una spiegazione scientifica di un set di dati è il prodotto di qualcosa di più di un semplice modello adattato ai dati. In senso scientifico — dove siamo alla ricerca di una teoria — la mera applicazione di un modello statistico non è né più né meno esplicativa dei dati stessi. Fornisce una visione dei dati, ad esempio su come le diverse variabili si relazionano tra loro e se tali relazioni sono statisticamente significative, ma non rivela nulla che non sapessimo o almeno sospettassimo prima. Ed è proprio questo lo scopo della statistica: confermare o meno un'ipotesi che potremmo avere sul set di dati. Le teorie sono una questione completamente diversa. Sono i dati a far sì che una rete neurale artificiale (ANN), proprio come qualsiasi modello statistico, funzioni per un determinato caso d'uso. Ciò che non comprendiamo sono i dati e i processi che, nel mondo, generano quei dati. In altre parole, non comprendiamo la realtà e i suoi riflessi e le sue distorsioni nei set di dati. Ciò che non comprendiamo e da cui l’IA contemporanea basata sulle ANN dipende è il set di dati (e i fenomeni che sospettiamo generino quei dati). E quindi possiamo e dobbiamo ammettere che applicare un test statistico, che si tratti di una singola regressione logistica o di un miliardo, a un set di dati non porterà mai alla comprensione del set di dati e del mondo. Solo la scienza può farlo. ________________________________ Da: 380° Inviato: Mercoledì, 13 Maggio, 2026 14:35 A: Daniela Tafani; nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism Buongiorno Daniela, ti chiedo una cortesia... On 2026-05-09, Daniela Tafani via nexa wrote: > Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. > > Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism > Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark > May 7, 2026 ho letto l'abstract, nel PDF non sono riuscito a trovare le "conclusions" e faccio davvero troppa fatica a leggere la prosa che usano: riusciresti per favore a riassumere perché gli autori ritengono che le ANN non siano delle black box? Grazie, 380° [...] -- 380° (lost in /traslation/) «Welcome to the chaos of the times If you go left and I go right Pray we make it out alive This is Karmageddon»

May 13, 2026

Re: Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism

by 380°

Buongiorno Daniela, ti chiedo una cortesia... On 2026-05-09, Daniela Tafani via nexa wrote: > Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. > > Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism > Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark > May 7, 2026 ho letto l'abstract, nel PDF non sono riuscito a trovare le "conclusions" e faccio davvero troppa fatica a leggere la prosa che usano: riusciresti per favore a riassumere perché gli autori ritengono che le ANN non siano delle black box? Grazie, 380° [...] -- 380° (lost in /traslation/) «Welcome to the chaos of the times If you go left and I go right Pray we make it out alive This is Karmageddon»

May 13, 2026

Re: Forma mentis

by Massimo Maria Ghisalberti

Il giorno mer, 13/05/2026 alle 09.21 +0000, Giuseppe Attardi via nexa ha scritto: > Grazie per avercelo ricordato. > > Mi chiedo però se accettiamo quanto la gente scrive su questa lista, che non è > peer-reviewed, perché non dovremmo accettare quanto altri scrivono su arXiv. > Poi vedo anche citazioni di semplici blog, come quello citato > da antonio(a)piumarossa.it proprio su questo oggetto, di cui nessuno si è > lamentato. > Si figuri, però vede ho solo ricordato precisando di non entrare nel merito della qualità o della autorevolezza dei paper pubblicati. Solo per stimolare un approccio critico e non "di pancia" come si potrebbe dire. Sui blog non mi sono espresso perché lo ritenevo inutile, qualcuno pensa che scrivere un articolo su un blog sia fare scienza? Siamo nel reame delle opinioni, magari sicuramente "opinioni fondate e autorevoli" ma pur sempre opinioni. Guardi però che non è un male di per sé, le opinioni stimolano la discussione che quando costruttiva poi sfocia pure in scienza. > In tutti e tre i casi ognuno farà le proprie valutazioni di merito. Infatti, quello è il punto. Fare ognuno le proprie valutazioni in merito. -- massimo

May 13, 2026

Re: Forma mentis

by Massimo Maria Ghisalberti

Il giorno mer, 13/05/2026 alle 09.11 +0000, Giuseppe Attardi via nexa ha scritto: > BTW, quali “concetti o regole linguistiche" ha un bambino di 3 anni, che parla > bene una lingua, senza che nessuno gli abbia insegnato alcunché di analisi > sintattica o grammaticale? > Non avrà imparato anche lui qualcosa che a noi risulta non intelligibile? Buondì a lei e scusi se eventualmente possa farle perdere tempo. Non so, preferisce l'approccio costruttivista o quello socio-culturale? Indipendentemente da questo un bambino di 3 anni conosce, se la "pressione linguistica" è adeguata, circa 500 parole. Seppur non in grado di "astrarre" è perfettamente in grado di comporre relazioni semantiche concrete tra le parole. Non solo, ma anche gestire combinazioni equivalenti, complementari e supplementari di parole e gesti e farne un uso referenziale. Ha uno sviluppo morfosintattico indotto (genitori che parlano un lingua corretta per esempio) suddiviso idealmente in alcune fasi di cui la presitattica fino a circa due anni, seguita da una sintatticamente primitiva poi consolidata nella "frase nucleare" sui tre anni. Tra i 3 e quattro anni si può parlar di competenza linguistica. Come suppongo sappia poi dai cinque/sei (alcuni prima, pensi che sapevo scrivere a quattro anni grazie a mia madre) il bambino si appropria della corrispondenza fonema/grafema. Ora, vede... Qui stiamo parlando di esseri umani e non di macchine. Buona giornata. -- massimo

May 13, 2026