Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.
Caro Guido, noto che hai non hai obiezioni riguardo all'assurdità di ridefinire termini associati alla esperienza umana (come "vita", "informazione" o "significato") al solo fine di poterli utilizzare nella definizione di algoritmi: devo supporre di averti convinto? :-D Sarebbe un passo avanti, giacché tutti i problemi di cui discutiamo spariscono nel momento in cui trattiamo questi software programmati statisticamente come normali tecnologie di compressione con perdita (seppur estremamente inquinanti).
Da quello che capisco, Bender adotta la teoria di Grice (Meaning, 1957 – notate l'anno) [...]
L'articolo di Bender e Koller (2020) [1] cita solo un articolo di Grice, del 1968, mentre l'articolo scritto con Gebru, McMillan-Major e Mitchell [2] che introduce la locuzione "stocastic parrots" non lo cita affatto. Il riferimento all'intenzionalità comunicativa è anche uno dei due punti deboli dell'articolo in questione (l'altro è il riferimento alla realtà condivisa dagli interlocutori di cui ho già scritto): quando pensiamo in modo verbale, il linguaggio svolge una funzione organizzativa senza esprimere alcuna intenzione comunicativa. Per questo nell'altra mail definivo l'intento comunicativo come un buon proxy concettuale per l'informazione. Con la notevole differenza che l'informazione continua ad esistere nella mente di cui è parte anche in assenza di qualsiasi intento comunicativo (ad esempio quando abbiamo un segreto). In qualunque caso, come detto, gli artefatti umani non sono mai "privi di intento", ma sono sempre espressione dell'intento combinato di chi li costruisce e di chi li controlla (in proporzioni variabili da artefatto ad artefatto, ma specifiche dell'artefatto stesso). Nel caso di un software programmato statisticamente, questo intento può essere però dedotto solo statisticamente, osservando l'effetto congiunto e di lungo periodo che il software determina nella società. Un intento che comunque non è collegato con il significato che l'utente sprovveduto attribuirebbe ad uno specifico output. 17 Mag 2026 08:07:18 Guido Vetere <vetere.guido@gmail.com>:
stiamo facendo una discussione vecchia di mezzo secolo.
16 Mag 2026 09:31:24 Giuseppe Attardi <nexa@server-nexa.polito.it>:
Questa è una regressione di oltre 2000 anni alla posizione di Platone
Mettetevi d'accordo: ci si ragiona da mezzo secolo o da 2000 anni? 17 Mag 2026 08:07:18 Guido Vetere <vetere.guido@gmail.com>:
Forse perché oggi abbiamo delle nuove evidenze, cari scienziati?
Suvvia Guido, non essere ingenuo. Se siamo d'accordo che ridefinire il significato delle parole per sostenere una teoria scientifica non è metodologicamente serio, allora non possiamo descrivere gli output di un LLM come "nuova evidenza". [3] Piuttosto, direi che questi dibattiti derivano dal degrado che la privatizzazione e l'industrializzazione della ricerca scientifica e informatica hanno prodotto negli ultimi decenni. Copernico non ebbe bisogno di ridefinire il concetto di "moto" per far sostenere la sua teoria eliocentrica. Nel momento in cui l'obiettivo della ricerca non è più costruire e organizzare conoscenza in forma di ipotesi verificabili e falsificabili, ma creare prodotti rivendibili, una narrazione _facile_ da capire per la maggioranza dei potenziali acquirenti è molto più utile di una spiegazione semplice e rigorosa che però riduce notevolmente l'applicabilità del prodotto [4] Che gli "scienziati" si prestino non dovrebbe sorprenderci, ma disgustarci.
Oggi sappiamo ben distinguere, de iure e de facto, tra un essere umano e un automa. Ecco: io suggerirei di fermarci all’oggi, che del domani, diceva quello, non v’è certezza.
Fai come credi. Quanto a me, non intendo lasciare il futuro nelle mani di chi tenta di erodere la libertà umana, alienando le persone per il solo fine di poter trattare gli esseri umani come cose da usare a piacimento di chi paga. Giacomo [1] https://aclanthology.org/2020.acl-main.463.pdf [2] https://dl.acm.org/doi/pdf/10.1145/3442188.3445922 [3] Fantasticare di intelligenze dentro matrici, sforzarsi di (far?) confondere con "astrazioni" zone di tali matrici che codificano la compressione con perdita di migliaia di testi simili, fornisce spiegazioni _facili_ da vendere ma tutt'altro che semplici. Se invece riconosciamo in questi software archivi compressi, abbiamo una spiegazione _semplice_ ma che richiede un minimo di competenza informatica per essere compresa appieno. Solo ad un osservatore privo di qualsiasi competenza informatica l'osservazione di questi software può apparire come una nuova evidenza. [4] Questa crisi di integrità della ricerca è stata coltivata per anni, con una pretesa separazione della tecnica dalla politica che può giovare solo a chi detiene il potere. Per questo, qualsiasi considerazione storico-politica che interferisca con gli affari deve essere tacciata di "complottismo".
participants (1)
-
Giacomo Tesio