Al di là di quanto sia surreale e tossico il dibattito sui social industriali, un dibattito polarizzato in cui francamente poco mi interessa se mettere like su "pappagalli stocastici Vs. corvi epistemici", faccio fatica a capire come si possa criticare i rapporti di potere dentro l'industria delle IA, usando quegli stessi strumenti.

🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali.

Tra l'altro, mi sembra un limite anche dell'appello-manifesto “Per una visione realistica dell’Intelligenza Artificiale”...perché non si fanno nomi e cognomi, perché non si dice chiaramente che se c'è un problema di "marketing" è perché quelle 3-4 mega-aziende stanno inquinando la comunicazione sull'argomento, a scopo di dominio, chiaramente. Stiamo assistendo a un circuito promozionale di dimensioni epiche, è evidente che le posizioni estreme sono occupate da chi in un modo o nell'altro vuole trarre il massimo profitto da questo hype. Sinceramente, basta. rm. Il 14/05/26 07:12, nexa-request@server-nexa.polito.it ha scritto:

Send nexa mailing list submissions to nexa@server-nexa.polito.it

To subscribe or unsubscribe via email, send a message with subject or body 'help' to nexa-request@server-nexa.polito.it

You can reach the person managing the list at nexa-owner@server-nexa.polito.it

When replying, please edit your Subject line so it is more specific than "Re: Contents of nexa digest..."

Today's Topics:

1. Re: Forma mentis (Giacomo Tesio) 2. Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. (Fabio Alemagna) 3. Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. (Franco Marra)

----------------------------------------------------------------------

Message: 1 Date: Wed, 13 May 2026 23:50:36 +0200 From: Giacomo Tesio<giacomo@tesio.it> Subject: [nexa] Re: Forma mentis To:nexa@server-nexa.polito.it Message-ID:<20260513235036.7fe589fa@hermes.development.it> Content-Type: text/plain; charset=UTF-8

D'accordo Giuseppe, assumiamo per un momento che tu abbia ragione.

On Wed, 13 May 2026 09:11:00 +0000 Giuseppe Attardi wrote:

...

...

sono archivi compressi con perdita di sequenze testuali di cui è possibile decomprimere approssimazioni di alcune zone fornendo in input una sequenza testuale prossima a quelle presenti nei testi sorgente. E' una spiegazione semplice, comprensibile ed esaustiva. Più che semplice, semplicistica. Possiamo definire una teoria scientifica come "semplicistica" se non riesce a spiegare tutte le osservazioni sperimentali pertinenti.

Ti chiedo dunque (per l'ennesima volta) di condividere osservazioni sperimentali (ovvero riproducibili) relative ad un LLM che non possano essere spiegate semplicemente come sopra.

Te lo avevo già chiesto qualche giorno fa (richiesta ribadita, se non erro, anche da Enrico):

On Fri, 8 May 2026 11:45:07 +0200 Giacomo Tesio wrote:

...

On Thu, 7 May 2026 14:04:24 +0000 Giuseppe Attardi wrote:

...

Ci sono numerosi casi di risultati che non sono ottenibili “riorganizzando informazioni già presenti nei dati”. Puoi condividere un paio delle numerose ricerche scientifiche sperimentali (ovvero, secondo il metodo scientifico, riproducibili) che mostrano output non ottenibili "riorganizzando informazioni già presenti nei dati"?

Per dati, intendo il sorgente del software (sia il codice imperativo che i dati compilati e compressi durante l'eventuale programmazione statistica), lo stato iniziale e tutto l'input fornito (inclusi eventuali input casuali o pseudocasuali). Ti sfido dunque a dimostrare che la mia spiegazione è semplicistica.

Se non è possibile portare evidenze sperimentali, ne dovremo dedurre che l'ipotesi della "intelligenza artificiale" è scientificamente superflua per spiegare il comportamento di questi software programmati statisticamente e come tale, va scartata per il principio di parsimonia.

Per altro, come faceva notare Daniela in un altro thread, il problema stesso di spiegare le "scelte" delle "GenAI" sparisce nel momento in cui riconosci il loro output come semplice decompressione approssimativa di un archivio compresso con perdita, invece di interpretarle, appunto, come testo prodotto da un'intelligenza.

Spariscono anche completamente le "allucinazioni" degli LLM, perché cercare corrispondenza logica o fattuale fra la realtà e la decompressione approssimativa di un archivio compresso con perdita, sarebbe ridicolo.

Al contempo, quelle degli "esperti" da Altman a Cristianini, diventano invece palesi e, auspicabilmente, curabili. ;-)

Giacomo

------------------------------

Message: 2 Date: Thu, 14 May 2026 02:43:40 +0400 From: Fabio Alemagna<falemagn@gmail.com> Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito. To: Nexa<nexa@server-nexa.polito.it> Message-ID: <CACGmXuOE31CUDJJse_q28ooNVfjFkG-6sSfHpeC-f3ZYyT3+aQ@mail.gmail.com> Content-Type: multipart/alternative; boundary="000000000000d91dd10651bab6f0"

Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: https://www.facebook.com/share/p/18kiudNQqK/

_______________

🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è davvero importante: lo studio e la critica dei rapporti di potere dentro l'industria delle intelligenze artificiali.

Ma andiamo con ordine.

La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", di fare delle precisazioni.

La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una metafora e non un'ipotesi empirica.

La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, però, è quel che è stato fatto.

La quarta e più importante, per me, è questo passaggio qui sulla comprensione: "It is true that image/text models, for example, that can be used to map from linguistic strings to images or vice versa, can be argued to meet the definition of understanding in Bender & Koller 2020 — albeit in an extremely thin way".

Si può provare a sostenere che questa non sia una retromarcia. Ma è una retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non si potesse parlare di "understanding" da parte dei modelli secondo la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è diverso da "non c'è understanding". Molto diverso.

Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di riposizionamento da parte di molte persone che hanno usato – impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei pappagalli stocastici per sminuire i large language model.

Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non verrano mai riconosciuti come tali, ma questo è comunque un punto di non ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato i pappagalli per costruirsi un posizionamento personale.

La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto affascinante, era già riduttiva quando è stata proposta. In questi cinque anni lo è diventata sempre di più ma nel frattempo è diventata addirittura identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco.

Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro di Bender che era la più utile fin dall’inizio: la critica al potere.

Link:

1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Emily M. Bender, Alexander Koller, 2020) https://aclanthology.org/2020.acl-main.463/

2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, 2021https://dl.acm.org/doi/10.1145/3442188.3445922 )

3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-q... )

4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E