- nexa - server-nexa.polito.it

Re: Illusions of Understanding from Outsourcing Thinking to LLMs

by Giuseppe Attardi

On 16 May 2026, at 19:57, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: D'accordo. Allora, quando hai scritto frasi come "Oggi i modelli sanno leggere e interpretare immagini e quindi farsi una propria idea della realtà", stavi formulando una tua personale professione di fede. Niente affatto. Si tratta di evidenze da esperimenti condotti nel campo della Mechanistic Interpretability. Sarò didascalico e rimando per approfondimenti e citazioni al libro di Nello Cristianini, Forma Mentis, ed. Il Mulino. Per dimostrare che un LLM multimodale (elaborazione di testo e visione) ha un modello della realtà, si applicano varie tecniche: probe, causal intervention, invarianza cross-modale e generalizzazione contrattuale. 1. Linear probe: trovare la mappa latente Si congelano l'LLM e si addestra un probe lineare (una sonda) per guardare le attivazioni interne del modello mentre legge il testo o guarda le immagini. Ad esempio, in un noto esperimento (Othello-GPT), un modello è stato addestrato solo su stringhe di testo di mosse legali nel gioco Othello. Non gli è mai stata data una scacchiera visiva o fornite regole. Sondando i suoi strati interni, si è osservato che il modello aveva costruito autonomamente una matrice interna 8x8, rappresentazione esatta dello stato della scacchiera. Geografia e tempo: quando i moderni LLM vengono alimentati con nomi di città o personaggi storici, i probe rivelano che le attivazioni interne del modello si raggruppano geometricamente in una mappa 3D della terra e su una cronologia lineare della storia. 2. Causal Intervention: Dimostrare che la mappa viene utilizzata Se individuiamo le attivazioni relative alla rappresentano il concetto "Parigi è la capitale della Francia", si possono alterare specificamente quei pesi in "Parigi è la capitale di Roma”. Gli effetti si propagano su tutta la sua percezione della realtà. Alla domanda: "Dove vive il presidente francese?" O "Che lingua parlano vicino alla Torre Eiffel?", un modello modificato risponderà "Roma" e "italiano". 3. Invarianza cross-modale Se un modello legge una descrizione testuale di una stanza o in alternativa una foto della stanza e poi lo si interroga sulla presenza di una chitarra con una frase nel primo caso o un’immagine nel secondo, si attivano gli stessi identici vettori. 4. Generalizzazione alle realtà controfattuale Se dici a un LLM multimodale: "In questo universo immaginario, la gravità spinge le cose verso l'alto e gli oggetti pesanti galleggiano più in alto di quelli leggeri", il modello utilizza le nuove regole astratte per simulare accuratamente la scena. Ci sono quindi evidenze scientifiche che un LLM crei una simulazione matematica compressa delle leggi fisiche e logiche del mondo utile a risolvere il compito cui è stato addestrato: prevedere cosa verrà dopo. Naturalmente questo non significa che un modello abbia una “comprensione in senso umano”, perché come ho già detto, non abbiamo una definizione scientifica di cosa questa sia e comunque la ritengo è una questione irrilevante. Così va bene, grazie. Non occorre discutere oltre. Io mi appello alla libertà di culto. La religione della Silicon Valley non è la mia. È spiacevole quando da una discussione sul merito si passa a giudizi sulla persona. Credo che chi mi conosce sappia che ho sempre operato in modo intellettualmente onesto e libero. Sono stato sempre in prima linea contro i monopoli, fin dai tempi di IBM a quelli delle telecom, portando Internet in Italia, costruendo la rete GARR, creando il primo motore di ricerca web in Italia con codice OS (che venne distrutto da Google che offrì i suoi servizi gratis ai nostri clienti), ho costruito il cloud GARR tutto su software OS (che venne anch’esso osteggiato da AWS che offrì alle università servizi a prezzi scontati o da Google che offrì Google Workspace con spazio disco illimitato gratis alle università, salvo poi rimangiarselo 3 anni dopo). Da dieci anni denuncio la deriva delle Tech Economy in scritti e convegni (https://wwwnew2.unipi.it/index.php/unipieventi/event/4887-la-deriva-della-t…) Ho programmato (non solo chiacchierato) insieme con Richard Stallman e sono autore di SW OS usato da milioni di persone, quali il mio contributo a Java o lo script usato per estrarre i testi da Wikipedia per allenare i LLM. Sono stato tra i pionieri del Deep Learning per il NLP, costruendo i primi word embeddings insieme col gruppo di Yoshua Bengio e una articolata libreria (DeepNL) oltre che un parser a dipendenze basato su DL. Ho insegnato il DL e i LM per 15 anni, prima che molti sapessero cosa fossero e gli studenti del mio corso hanno sviluppato soluzioni basate su di essi, vincendo premi a competizioni internazionali. Conosco la tecnologia nei minimi dettagli, ho assistito direttamente al suo progresso e per questo mi sforzo di farne cogliere la portata. — Beppe Il 16/05/26 18:53, Giuseppe Attardi ha scritto: On 16 May 2026, at 18:25, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: E' come temevo, sì: non si può dire, allora, né che le persone pensino né che gli artefatti non pensino. Puoi dire ciò che vuoi, ma devi fornire una definizione quando vuoi “provare” qualcosa, come quando parli di “onere della prova”. Anche una proprietà come l’intelligenza può essere “provabile” dandone una definizione osservabile e falsificabile, come ad esempio il test di Turing. -- Esattamente l'indistinguibilità tra persone e macchine che caratterizza l'approccio dello psicopatico (Simon Baron-Cohen, La scienza del male. L'empatia e le origini della crudeltà, 2012) e di quel progetto politico del complesso militare-industriale (e accademico) denominato "intelligenza artificiale". ________________________________________ Da: Giuseppe Attardi <attardi(a)di.unipi.it> Inviato: sabato 16 maggio 2026 17:59 A: Daniela Tafani Cc: Giuseppe Attardi; nexa Oggetto: Re: Illusions of Understanding from Outsourcing Thinking to LLMs On 16 May 2026, at 16:23, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: Quindi potrei sostenere che la sedia, il tavolo e la tovaglia pensino? Ragionamento fallace: dire che non si può affermare !P(x) senza una definizione di P(x), significa che non si può affermare né P(x) né !P(x) per nessun x. Non incomberebbe a me l'onere della prova? Per provare qualcosa, occorre prima definirla formalmente. -- ________________________________________ Da: Giuseppe Attardi via nexa <nexa(a)server-nexa.polito.it> Inviato: sabato 16 maggio 2026 12:48 A: Giuseppe Attardi Cc: nexa Oggetto: [nexa] Re: Illusions of Understanding from Outsourcing Thinking to LLMs On 16 May 2026, at 12:20, Giuseppe Attardi <giuseppe.attardi(a)unipi.it> wrote: On 16 May 2026, at 06:30, nexa-request(a)server-nexa.polito.it wrote: LLMs Cannot Think La scienza tratta solo concetti che siano misurabili, osservabili e falsificabili. Si potrà falsificare “think” solo quando se ne darà una definizione falsificabile. The companies marketing their LLMs often describe them with anthropomorphising terms like "thinking" and "reasoning", which might create the impression that they can think (Mirzadeh et al., 2025; Shojaee et al., 2026). But for that impression to be accurate we would have to stretch the meaning of the term to refer trivially to whatever the LLMs produce as output Argomento del fantoccio (strawman): attribuisce una definizione che piace a lui a quanto direbbero altri. - much like the meaning of intelligence has historically been watered down to whatever the tests used to operationalise the construct measured (Loru et al., 2025; Mitchell, 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The task of developing systems with non-trivial capability for human-like cognition is computationally intractable (van Rooij et al., 2024). L’articolo di van Rooij afferma che si tratta di un problema NP-hard. Quasi ogni problema interessante in informatica è NP-hard, il ché non vuol dire che non si possa affrontare. A scanso di equivoci: tutte le proprietà non banali dei programmi sono non decidibili, teorema di Rice. Per problemi interessanti intendevo ciò che resta all’interno del computabile. Lo sviluppo di euristiche per risolvere efficientemente problemi NP-hard è un importante campo di ricerca. Qualcuno lo ha fatto proprio con i Transformer: https://arxiv.org/abs/2103.03012 --

May 18, 2026

MEMENTO | 194° Mercoledì di Nexa | 20 maggio 2026, ore 17.00

by Nexa - Media

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 20 maggio, alle ore 17.00, si terrà il 194° Mercoledì di Nexa con un incontro dal titolo "Macchine dotate di linguaggio. Che cosa l’Intelligenza artificiale generativa ci dice dell’essere umano". Ospite dell'incontro: Claudio Paolucci (Università di Bologna). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina: https://nexa.polito.it/mercoledi-194 Un saluto cordiale, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society<https://nexa.polito.it/> DAUIN - Politecnico di Torino Via Pier Carlo Boggio, 65/A - Torino Digital Communication Assistant DAUIN - Politecnico di Torino<https://www.dauin.polito.it/> Corso Castelfidardo 34/D - Torino mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

May 18, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giacomo Tesio

Caro Guido, noto che hai non hai obiezioni riguardo all'assurdità di ridefinire termini associati alla esperienza umana (come "vita", "informazione" o "significato") al solo fine di poterli utilizzare nella definizione di algoritmi: devo supporre di averti convinto? :-D Sarebbe un passo avanti, giacché tutti i problemi di cui discutiamo spariscono nel momento in cui trattiamo questi software programmati statisticamente come normali tecnologie di compressione con perdita (seppur estremamente inquinanti). > Da quello che capisco, Bender adotta la teoria di Grice (Meaning, > 1957 – notate l'anno) [...] L'articolo di Bender e Koller (2020) [1] cita solo un articolo di Grice, del 1968, mentre l'articolo scritto con Gebru, McMillan-Major e Mitchell [2] che introduce la locuzione "stocastic parrots" non lo cita affatto. Il riferimento all'intenzionalità comunicativa è anche uno dei due punti deboli dell'articolo in questione (l'altro è il riferimento alla realtà condivisa dagli interlocutori di cui ho già scritto): quando pensiamo in modo verbale, il linguaggio svolge una funzione organizzativa senza esprimere alcuna intenzione comunicativa. Per questo nell'altra mail definivo l'intento comunicativo come un buon proxy concettuale per l'informazione. Con la notevole differenza che l'informazione continua ad esistere nella mente di cui è parte anche in assenza di qualsiasi intento comunicativo (ad esempio quando abbiamo un segreto). In qualunque caso, come detto, gli artefatti umani non sono mai "privi di intento", ma sono sempre espressione dell'intento combinato di chi li costruisce e di chi li controlla (in proporzioni variabili da artefatto ad artefatto, ma specifiche dell'artefatto stesso). Nel caso di un software programmato statisticamente, questo intento può essere però dedotto solo statisticamente, osservando l'effetto congiunto e di lungo periodo che il software determina nella società. Un intento che comunque non è collegato con il significato che l'utente sprovveduto attribuirebbe ad uno specifico output. 17 Mag 2026 08:07:18 Guido Vetere <vetere.guido(a)gmail.com>: > stiamo facendo una discussione vecchia di mezzo secolo. 16 Mag 2026 09:31:24 Giuseppe Attardi <nexa(a)server-nexa.polito.it>: > Questa è una regressione di oltre 2000 anni alla posizione di Platone Mettetevi d'accordo: ci si ragiona da mezzo secolo o da 2000 anni? 17 Mag 2026 08:07:18 Guido Vetere <vetere.guido(a)gmail.com>: > Forse perché oggi abbiamo delle nuove evidenze, cari scienziati? Suvvia Guido, non essere ingenuo. Se siamo d'accordo che ridefinire il significato delle parole per sostenere una teoria scientifica non è metodologicamente serio, allora non possiamo descrivere gli output di un LLM come "nuova evidenza". [3] Piuttosto, direi che questi dibattiti derivano dal degrado che la privatizzazione e l'industrializzazione della ricerca scientifica e informatica hanno prodotto negli ultimi decenni. Copernico non ebbe bisogno di ridefinire il concetto di "moto" per far sostenere la sua teoria eliocentrica. Nel momento in cui l'obiettivo della ricerca non è più costruire e organizzare conoscenza in forma di ipotesi verificabili e falsificabili, ma creare prodotti rivendibili, una narrazione _facile_ da capire per la maggioranza dei potenziali acquirenti è molto più utile di una spiegazione semplice e rigorosa che però riduce notevolmente l'applicabilità del prodotto [4] Che gli "scienziati" si prestino non dovrebbe sorprenderci, ma disgustarci. > Oggi sappiamo ben distinguere, de iure e de facto, tra un essere umano > e un automa. Ecco: io suggerirei di fermarci all’oggi, che del > domani, diceva quello, non v’è certezza. Fai come credi. Quanto a me, non intendo lasciare il futuro nelle mani di chi tenta di erodere la libertà umana, alienando le persone per il solo fine di poter trattare gli esseri umani come cose da usare a piacimento di chi paga. Giacomo [1] https://aclanthology.org/2020.acl-main.463.pdf [2] https://dl.acm.org/doi/pdf/10.1145/3442188.3445922 [3] Fantasticare di intelligenze dentro matrici, sforzarsi di (far?) confondere con "astrazioni" zone di tali matrici che codificano la compressione con perdita di migliaia di testi simili, fornisce spiegazioni _facili_ da vendere ma tutt'altro che semplici. Se invece riconosciamo in questi software archivi compressi, abbiamo una spiegazione _semplice_ ma che richiede un minimo di competenza informatica per essere compresa appieno. Solo ad un osservatore privo di qualsiasi competenza informatica l'osservazione di questi software può apparire come una nuova evidenza. [4] Questa crisi di integrità della ricerca è stata coltivata per anni, con una pretesa separazione della tecnica dalla politica che può giovare solo a chi detiene il potere. Per questo, qualsiasi considerazione storico-politica che interferisca con gli affari deve essere tacciata di "complottismo".

May 17, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Guido Vetere

Da quello che capisco, Bender adotta la teoria di Grice (Meaning, 1957 – notate l'anno) dove appunto al segno ’non-naturale’ si annette l’”intenzione comunicativa”. La definizione griceana richiede tre condizioni: il locutore intende produrre un effetto nel ricevente, intende che il ricevente riconosca questa intenzione, e intende che questo riconoscimento sia parte del motivo per cui s’è presa la parola. Grice non dice però che le intenzioni debbano essere biologiche, coscienti, o fondate in esperienze soggettive. Nulla esclude gli automi in linea di principio. Siamo nel 1957: sarà un caso? (Lo dico a beneficio dei complottisti) Per arrivare a escludere le macchine bisogna attendere il Searle degli anni ‘80, il quale sostiene la tesi del fondamento biologico della c.d. ‘intenzionalità intrinseca’. A questa tesi notoriamente si oppose Dennett eccetera, eccetera: stiamo facendo una discussione vecchia di mezzo secolo. Perché? Forse perché oggi abbiamo delle nuove evidenze, cari scienziati? Ma tutto questo riguarda la linea di principio. Oggi sappiamo ben distinguere de iure e de facto tra un essere umano e un automa. Ecco: io suggerirei di fermarci all’oggi, che del domani, diceva quello, non v’è certezza. Buona domenica, Guido > Il giorno 16 mag 2026, alle ore 22:45, Giacomo Tesio via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > Ti prego, non ti limitare a ciò che il povero Puliafito ha capito degli > articoli della Bender e rigurgitato su facebook. > > Una rapida lettura dell'articolo scritto con Koller nel 2020 [1] ti > rivelerà che la definizione formale di "significato" fornita nel > paragrafo 3.1 è molto più raffinata: > > """ > We take meaning to be the relation M ⊆ E × I which contains pairs > (e, i) of natural language expressions e and the communicative intents i > they can be used to evoke. Given this definition of meaning, we can now > use understand to refer to the process of retrieving i given e. > """ > > Il malinteso che la Bender sottolinea nell'articolo di qualche giorno fa > è relativo alla definizione _informale_, di poche righe precedente: > > """ > We take meaning to be the relation between the form and > something external to language... > """ > > Tale definizione informale è effettivamente vaga, a causa di quel > "something" cui i fanboy della "intelligenza artificale" si aggrappano > per farci rientrare tecniche di programmazione statistica come la > "Contrastive Language-Image Pre-training", in cui due "reti neurali > artificiali" vengono programmate parallelamente per produrre in output > vettori prossimi a fronte di ciascuna coppia di immagine/descrizione. > [2] > > Ora è vero che in qualche modo, a valle di una CLIP otteniamo una > mappatura fra un testo e _qualcosa_ fuori dal linguaggio (ovvero una > compressione con perdita delle immagini corrispondenti) ma questo non è > significato secondo la definizione di Bender e Keller perché, se ci > limitiamo a considerare il software che lo calcola, manca un qualsiasi > intento comunicativo. [7] > > > L'intenzionalità comunicativa è un interessantissimo proxy per la > definizione di informazione come esperienza soggettiva di pensiero > comunicabile. Ha di buono che chiarisce la centralità del mittente > nella definizione del significato che i riceventi si sforzano di > ricostruire interpretando il messaggio espresso. > Tuttavia l'intenzionalità comunicativa viene meno quando, ad esempio, > il discorso è tutto interiore: quando usiamo il linguaggio nella > nostra mente per pensare (ovvero elaborare le nostre esperienze > soggettive). > > Analogamente (ed in modo piuttosto ovvio) il riferimento alla realtà > condivisa nell'articolo in questione [3] è un proxy per le esperienze > condivise da mittente e ricevente. > > La realtà è irrilevante per la definizione di un significato: è solo > necessario un insieme di esperienze condivise fra gli interlocutori. > Esperienze che includono il linguaggio dello scambio, ovviamente. > > Se ci scrivessi che l'attuale re della Francia è calvo, intenderesti che > l'attuale re della Francia è calvo. > Non hai bisogno di conoscere il re di Francia per esprimere tale > significato: è sufficiente che la tua mente includa esperienze > soggettive di pensiero comunicabile come: > - "re", "attuale", "essere", "calvo" > - la lingua italiana > - l'assunzione che gli altri membri della lista dispongano di > esperienze sufficienti simili > - l'assunzione che gli altri membri della lista sappiano interpretare > la lingua italiana > > Non è la realtà fisica ad essere rilevante in sé (analogamente a come > non è il corpo umano ad essere rilevante in sé) bensì la condivisione > di sufficienti esperienze soggettive di pensiero comunicabile fra gli > interlocutori a guidare il mittente nella selezione dei termini da > utilizzare per esprimere il messaggio. > > La realtà (e la struttura dei corpi) che condividiamo sono poi veicoli > concretamente imprescindibili per acquisire esperienze soggettive di > pensiero comunicabile (per la gioia di Stefano e Enrico... :-) > sufficientemente simili da permetterci di sincronizzare le nostre menti > tramite il linguaggio. > > In questo senso, il significato di molti testi è basato sul mondo > che i mittenti condividono con i destinatari. > Ma ciò non significa in alcun modo che gli autori non possano ad > esempio descrivere la teoria delle stringhe [4], assumendo una > sufficiente comprensione della matematica negli interlocutori.

May 17, 2026

Nota sugli SMR, era: Una domanda a Beppe Attardi

by M. Fioretti

On Sat, May 16, 2026 18:19:40 PM +0200, Giovanna Sissa via nexa wrote: > La necessità di risolvere ad ogni costo il problema di alimentare > l'IA conduce direttamente alla produzione di energia elettrica ed al > farlo in modo disruptive. Ha fatto così il suo ingresso nel > dibattito sulla generazione elettrica una vecchia star: l'energia > nucleare, proponendosi come unica via, ad es. con gli Small Modular > Reactor... > ...c'è anche una prefazione di GB Zorzoli al libro "L'illusione del > nucleare e la rivoluzione delle rinnovabili" di Gianni Silvestrini e > Giuseppe Onufrio, edizioni Ambiente (2026). GB Zorzoli in tale > prefazione fa alcune considerazioni, di cui la sesta riguarda - e > non esattamente in termini entusiastici - proprio degli SMR: > "Come è documentato nel libro, si tratta di una minestra riscaldata, > essendo già stata proposta alla fine del secolo scorso e ben presto > abbandonata, perché già in fase di progetto i maggiori costi > unitari, dovuti alle ridotte dimensioni degli impianti, erano > immancabilmente superiori a quelli risparmiati nel cantiere. Se finora gli SMR sono sembrati, o sono effettivamente stati una "minestra riscaldata", forse e' anche perche' finora si e' cercato di farli solo nella solita maniera sbagliata "ognuno per se' e dio (dollaro) per tutti" di tante altre cose. Forse se li si facesse cosi' sarebbe diverso: https://mfioretti.substack.com/p/a-nuclear-power-offer-that-you-cannot Ovvero, forse gli SMR non possono davvero funzionare per qualche motivo fisico-economico che ancora non abbiamo visto, ma se possono funzionare e' solo in quel modo, che ancora nessuno ha provato, nemmeno a valutare. > Abbiamo dunque assistito a una versione aggiornata della celebre > arietta del Metastasio: “come l’araba fenice:/che ci sia, ciascun lo > dice;/dove sia, nessun lo sa”. Discussione chiusa? Niente > affatto. Malgrado queste evidenze, la fabbrica delle fake news sul > nucleare, che lavora ininterrottamente 24 ore su 24 e 7 giorni su 7, > ha attribuito agli impianti nucleari, in primis agli Small nuclear > reactor, la funzione di fornire nel modo economicamente più > efficiente l’energia necessaria per bilanciare l’intermittenza della > produzione eolica e solare."

May 17, 2026

Re: Illusions of Understanding from Outsourcing Thinking to LLMs

by Alfredo Bregni

Non mi sembra che Beppe abbia detto quello chi gli hai messo in bocca... E sulla faccenda "realta" vorrei stendere un velo di silenzio: è EVIDENTE che LLM e affini NON hanno un modello di realtà (se NON appositamente introdotto...), e quindi NON correlano testo e mondo. Fanno ALTRO. E, se ci fa comodo, ...perché non usarlo ("l'altro", il risultato, non l'LLM)? Io la vedo molto "operativamente": possono far danni, ma intanto fanno comodo. ----- Original Message ----- From: Daniela Tafani via nexa To: Giuseppe Attardi ; nexa(a)server-nexa.polito.it Sent: Saturday, May 16, 2026 7:57 PM Subject: [nexa] Re: Illusions of Understanding from Outsourcing Thinking to LLMs D'accordo. Allora, quando hai scritto frasi come "Oggi i modelli sanno leggere e interpretare immagini e quindi farsi una propria idea della realtà", stavi formulando una tua personale professione di fede. Così va bene, grazie. Non occorre discutere oltre. Io mi appello alla libertà di culto. La religione della Silicon Valley non è la mia. Il 16/05/26 18:53, Giuseppe Attardi ha scritto: > >> On 16 May 2026, at 18:25, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: >> >> E' come temevo, sì: non si può dire, allora, >> né che le persone pensino né che gli artefatti non pensino. > Puoi dire ciò che vuoi, ma devi fornire una definizione quando vuoi “provare” qualcosa, come quando parli di “onere della prova”. > Anche una proprietà come l’intelligenza può essere “provabile” dandone una definizione osservabile e falsificabile, come ad esempio il test di Turing. > > -- > >> Esattamente l'indistinguibilità tra persone e macchine che caratterizza l'approccio dello psicopatico >> (Simon Baron-Cohen, La scienza del male. L'empatia e le origini della crudeltà, 2012) >> e di quel progetto politico del complesso militare-industriale (e accademico) denominato "intelligenza artificiale". >> >> >> ________________________________________ >> Da: Giuseppe Attardi <attardi(a)di.unipi.it> >> Inviato: sabato 16 maggio 2026 17:59 >> A: Daniela Tafani >> Cc: Giuseppe Attardi; nexa >> Oggetto: Re: Illusions of Understanding from Outsourcing Thinking to LLMs >> >> >> >>> On 16 May 2026, at 16:23, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: >>> >>> Quindi potrei sostenere che la sedia, il tavolo e la tovaglia pensino? >> Ragionamento fallace: dire che non si può affermare !P(x) senza una definizione di P(x), significa che non si può affermare né P(x) né !P(x) per nessun x. >>> Non incomberebbe a me l'onere della prova? >> Per provare qualcosa, occorre prima definirla formalmente. >> >> -- >>> >>> >>> ________________________________________ >>> Da: Giuseppe Attardi via nexa <nexa(a)server-nexa.polito.it> >>> Inviato: sabato 16 maggio 2026 12:48 >>> A: Giuseppe Attardi >>> Cc: nexa >>> Oggetto: [nexa] Re: Illusions of Understanding from Outsourcing Thinking to LLMs >>> >>> >>> >>> On 16 May 2026, at 12:20, Giuseppe Attardi <giuseppe.attardi(a)unipi.it> wrote: >>> >>> >>> >>> On 16 May 2026, at 06:30, nexa-request(a)server-nexa.polito.it wrote: >>> >>> LLMs Cannot Think >>> >>> La scienza tratta solo concetti che siano misurabili, osservabili e falsificabili. >>> Si potrà falsificare “think” solo quando se ne darà una definizione falsificabile. >>> >>> The companies marketing their LLMs often describe them with >>> anthropomorphising terms like "thinking" and "reasoning", which might >>> create the impression that they can think (Mirzadeh et al., 2025; >>> Shojaee et al., 2026). But for that impression to be accurate we would >>> have to stretch the meaning of the term to refer trivially to whatever >>> the LLMs produce as output >>> Argomento del fantoccio (strawman): attribuisce una definizione che piace a lui a quanto direbbero altri. >>> - much like the meaning of intelligence has >>> historically been watered down to whatever the tests used to >>> operationalise the construct measured (Loru et al., 2025; Mitchell, >>> 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The >>> task of developing systems with non-trivial capability for human-like >>> cognition is computationally intractable (van Rooij et al., 2024). >>> >>> L’articolo di van Rooij afferma che si tratta di un problema NP-hard. Quasi ogni problema interessante in informatica è NP-hard, il ché non vuol dire che non si possa affrontare. >>> A scanso di equivoci: tutte le proprietà non banali dei programmi sono non decidibili, teorema di Rice. >>> Per problemi interessanti intendevo ciò che resta all’interno del computabile. >>> Lo sviluppo di euristiche per risolvere efficientemente problemi NP-hard è un importante campo di ricerca. >>> Qualcuno lo ha fatto proprio con i Transformer: >>> https://arxiv.org/abs/2103.03012 >>> >>> -- >>>

May 16, 2026

Re: Illusions of Understanding from Outsourcing Thinking to LLMs

by Alfredo Bregni

La mia definizione -- UMANA -- di "pensiero" è che sia composto da: - Funzioni generiche: . Memoria; . Apprendimento. - Funzioni specifiche: . Rappresentazione; . Astrazione; . Immaginazione; . Disegno / progetto / simulazione / pianificazione / comando all'azione. E' chiaro che i confini sono labili...; ad es.: - Serve un po' di astrazione per rappresentare; - Serve un po' di immaginazione per astrarre; - Ecc. E' altrettanto chiaro che: - Un'ipotetica AGI potrebbe pensare in modo "umano" (ovvero imitare il nostro pensiero), ...oppure anche no; - LLM e cuginetti / parenti vari, operano diversamente (e NON dico "pensano", volutamente). ------------ Per completezza -- ma non c'entra con i discorsi che stiamo facendo (non mi è chiarissimo quali...) -- io vedo l'intelligenza MOLTO connessa con l'apprendimento (almeno come condizione necessaria: se non si impara, non si è "intelligenti"), che vedo di tre tipi: 1. Additivo (come a scuola): si inseriscono nozioni entro uno schema cognitivo (storia, geografia, scienze, ...); 2. Cambio di paradigma (Kuhn): quando lo schema cognitivo -- all'arrivo di nuovi dati, nozioni, esperienze -- "scricchiola", può essere il caso di cambiarlo (es. da riduzionismo a multidisciplinarità, o da pensiero "classico" a relatività / quantistica / complessità); 3. Mente "plastica" (apprendimento continuo): una volta compreso che l'apprendimento VERO è il riassetto -- da minimale a massivo -- degli schemi cognitivi, si smette di vivere il cambio di paradigma come evento eccezionale / traumatico, e lo si considera come IL modo di apprendere (magari non c'entra, ma lo prendo a prestito: "apprendere ad apprendere, questo è il metodo", da "Il Metodo" di Edgar Morin, frase finale dell'Introduzione). In merito: - La "mente plastica" è tanto consigliatissima quanto (evidentemente) ...rara; - Forse per l'AGI servirebbe un database di conoscenza "plastico", in grado di autoristrutturarsi (ipotesi concettuale e strutturale che non vedo sorgere all'orizzonte informatico, strenuiamente fissato sul vaporware di vendere gli LLM come "IA", ...e noi sul seguirlo su questa china). Saluti. ----- Original Message ----- From: Giuseppe Attardi via nexa To: Daniela Tafani Cc: Giuseppe Attardi ; nexa Sent: Saturday, May 16, 2026 6:53 PM Subject: [nexa] Re: Illusions of Understanding from Outsourcing Thinking to LLMs > On 16 May 2026, at 18:25, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > > E' come temevo, sì: non si può dire, allora, > né che le persone pensino né che gli artefatti non pensino. Puoi dire ciò che vuoi, ma devi fornire una definizione quando vuoi “provare” qualcosa, come quando parli di “onere della prova”. Anche una proprietà come l’intelligenza può essere “provabile” dandone una definizione osservabile e falsificabile, come ad esempio il test di Turing. -- > > Esattamente l'indistinguibilità tra persone e macchine che caratterizza l'approccio dello psicopatico > (Simon Baron-Cohen, La scienza del male. L'empatia e le origini della crudeltà, 2012) > e di quel progetto politico del complesso militare-industriale (e accademico) denominato "intelligenza artificiale". > > > ________________________________________ > Da: Giuseppe Attardi <attardi(a)di.unipi.it> > Inviato: sabato 16 maggio 2026 17:59 > A: Daniela Tafani > Cc: Giuseppe Attardi; nexa > Oggetto: Re: Illusions of Understanding from Outsourcing Thinking to LLMs > > > >> On 16 May 2026, at 16:23, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: >> >> Quindi potrei sostenere che la sedia, il tavolo e la tovaglia pensino? > Ragionamento fallace: dire che non si può affermare !P(x) senza una definizione di P(x), significa che non si può affermare né P(x) né !P(x) per nessun x. >> Non incomberebbe a me l'onere della prova? > Per provare qualcosa, occorre prima definirla formalmente. > > -- >> >> >> >> ________________________________________ >> Da: Giuseppe Attardi via nexa <nexa(a)server-nexa.polito.it> >> Inviato: sabato 16 maggio 2026 12:48 >> A: Giuseppe Attardi >> Cc: nexa >> Oggetto: [nexa] Re: Illusions of Understanding from Outsourcing Thinking to LLMs >> >> >> >> On 16 May 2026, at 12:20, Giuseppe Attardi <giuseppe.attardi(a)unipi.it> wrote: >> >> >> >> On 16 May 2026, at 06:30, nexa-request(a)server-nexa.polito.it wrote: >> >> LLMs Cannot Think >> >> La scienza tratta solo concetti che siano misurabili, osservabili e falsificabili. >> Si potrà falsificare “think” solo quando se ne darà una definizione falsificabile. >> >> The companies marketing their LLMs often describe them with >> anthropomorphising terms like "thinking" and "reasoning", which might >> create the impression that they can think (Mirzadeh et al., 2025; >> Shojaee et al., 2026). But for that impression to be accurate we would >> have to stretch the meaning of the term to refer trivially to whatever >> the LLMs produce as output >> Argomento del fantoccio (strawman): attribuisce una definizione che piace a lui a quanto direbbero altri. >> - much like the meaning of intelligence has >> historically been watered down to whatever the tests used to >> operationalise the construct measured (Loru et al., 2025; Mitchell, >> 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The >> task of developing systems with non-trivial capability for human-like >> cognition is computationally intractable (van Rooij et al., 2024). >> >> L’articolo di van Rooij afferma che si tratta di un problema NP-hard. Quasi ogni problema interessante in informatica è NP-hard, il ché non vuol dire che non si possa affrontare. >> A scanso di equivoci: tutte le proprietà non banali dei programmi sono non decidibili, teorema di Rice. >> Per problemi interessanti intendevo ciò che resta all’interno del computabile. >> Lo sviluppo di euristiche per risolvere efficientemente problemi NP-hard è un importante campo di ricerca. >> Qualcuno lo ha fatto proprio con i Transformer: >> https://arxiv.org/abs/2103.03012 >> >> -- >> >

May 16, 2026

Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily Bender in merito.

by Giacomo Tesio

Caro Giuseppe On Sat, 16 May 2026 09:31:24 +0000 Giuseppe Attardi wrote: > I Language Model (ancor prima dei LLM) fin dai tempi di [1] hanno > fornito una definizione operativa di significato delle parole > attraverso i word embedding (contestuali). Ripeto operativa, ossia > sulla quale si possono costruire algoritmi, non generica o metafisica. seguendo questo approccio metodologico, potremmo definire la vita in modo da includere gli automi cellulari di Convey https://en.wikipedia.org/wiki/Conway%27s_Game_of_Life Non ti sembra assurdo? Spero ti renda conto anche tu che prendere un termine a caso dal linguaggio comune ed attribuirgli una definizione "operativa" arbitraria che permetta costruire algoritmi descrivibili con quel termine non ha alcun rigore scientifico. E se il problema è semplicemente costruire algoritmi, perché non definire il termine "significato" come "intero esprimibile in 8 bit"? Sai quanti algoritmi ci puoi fare! I word embedding non rappresentano alcun significato, ma relazioni statisticamente rilevanti fra i token cui sono associati all'interno testi sorgente. Parte di tali relazioni statisticamente rilevanti deriva dalle funzioni grammaticali dei termini nella lingua utilizzata. Un'altra parte deriva dallo stile compositivo degli autori dei testi. Un'altra ancora è certamente correlata ai significati di quei termini. Ma sempre di relazioni statisticamente rilevanti in un corpus testuale stiamo parlando, non di significato. > Si è dibattuto ad esempio sul significato di frasi quali “The present > king of France is bald” che non è mappatile in una realtà esistente e > così via per tutti i concetti astratti. Ti prego, non ti limitare a ciò che il povero Puliafito ha capito degli articoli della Bender e rigurgitato su facebook. Una rapida lettura dell'articolo scritto con Koller nel 2020 [1] ti rivelerà che la definizione formale di "significato" fornita nel paragrafo 3.1 è molto più raffinata: """ We take meaning to be the relation M ⊆ E × I which contains pairs (e, i) of natural language expressions e and the communicative intents i they can be used to evoke. Given this definition of meaning, we can now use understand to refer to the process of retrieving i given e. """ Il malinteso che la Bender sottolinea nell'articolo di qualche giorno fa è relativo alla definizione _informale_, di poche righe precedente: """ We take meaning to be the relation between the form and something external to language... """ Tale definizione informale è effettivamente vaga, a causa di quel "something" cui i fanboy della "intelligenza artificale" si aggrappano per farci rientrare tecniche di programmazione statistica come la "Contrastive Language-Image Pre-training", in cui due "reti neurali artificiali" vengono programmate parallelamente per produrre in output vettori prossimi a fronte di ciascuna coppia di immagine/descrizione. [2] Ora è vero che in qualche modo, a valle di una CLIP otteniamo una mappatura fra un testo e _qualcosa_ fuori dal linguaggio (ovvero una compressione con perdita delle immagini corrispondenti) ma questo non è significato secondo la definizione di Bender e Keller perché, se ci limitiamo a considerare il software che lo calcola, manca un qualsiasi intento comunicativo. [7] L'intenzionalità comunicativa è un interessantissimo proxy per la definizione di informazione come esperienza soggettiva di pensiero comunicabile. Ha di buono che chiarisce la centralità del mittente nella definizione del significato che i riceventi si sforzano di ricostruire interpretando il messaggio espresso. Tuttavia l'intenzionalità comunicativa viene meno quando, ad esempio, il discorso è tutto interiore: quando usiamo il linguaggio nella nostra mente per pensare (ovvero elaborare le nostre esperienze soggettive). Analogamente (ed in modo piuttosto ovvio) il riferimento alla realtà condivisa nell'articolo in questione [3] è un proxy per le esperienze condivise da mittente e ricevente. La realtà è irrilevante per la definizione di un significato: è solo necessario un insieme di esperienze condivise fra gli interlocutori. Esperienze che includono il linguaggio dello scambio, ovviamente. Se ci scrivessi che l'attuale re della Francia è calvo, intenderesti che l'attuale re della Francia è calvo. Non hai bisogno di conoscere il re di Francia per esprimere tale significato: è sufficiente che la tua mente includa esperienze soggettive di pensiero comunicabile come: - "re", "attuale", "essere", "calvo" - la lingua italiana - l'assunzione che gli altri membri della lista dispongano di esperienze sufficienti simili - l'assunzione che gli altri membri della lista sappiano interpretare la lingua italiana Non è la realtà fisica ad essere rilevante in sé (analogamente a come non è il corpo umano ad essere rilevante in sé) bensì la condivisione di sufficienti esperienze soggettive di pensiero comunicabile fra gli interlocutori a guidare il mittente nella selezione dei termini da utilizzare per esprimere il messaggio. La realtà (e la struttura dei corpi) che condividiamo sono poi veicoli concretamente imprescindibili per acquisire esperienze soggettive di pensiero comunicabile (per la gioia di Stefano e Enrico... :-) sufficientemente simili da permetterci di sincronizzare le nostre menti tramite il linguaggio. In questo senso, il significato di molti testi è basato sul mondo che i mittenti condividono con i destinatari. Ma ciò non significa in alcun modo che gli autori non possano ad esempio descrivere la teoria delle stringhe [4], assumendo una sufficiente comprensione della matematica negli interlocutori. > Enrico continua a usare la locuzione “comprendere in senso umano” > (qui dice "non è la comprensione umana”) che a me non interessa > assolutamente (anche perché non so come definirla scientificamente). Enrico cerca di essere divulgativo. Io, quando provo ad essere rigoroso, definisco la comprensione come il processo di integrazione dell'interpretazione del messaggio nella mente del ricevente [5]. Analogamente definisco il pensiero come l'esperienza soggettiva dell'elaborazione dell'informazione [6]. Definizioni che rifiuti non perché contraddette dalla tua esperienza soggettiva di pensiero, ma perché incompatibili con la speranza di riuscire a costruire un giorno una macchina intelligente. Giacomo [1] https://aclanthology.org/2020.acl-main.463.pdf [2] per semplificare, dato un dataset di coppie immagine/descrizione una vector mapping machine viene programmata per ricevere in input la rappresentazione vettoriale dell'immagine e proiettarla in uno spazio X in output; l'altra viene programmata per ricevere in input la descrizione e proiettarla sempre nello spazio X in output, assicurandosi tramite la backpropagation che i due elementi di ciascuna coppia vengano proiettata su punti prossimi dello spazio X, così che l'immagine di un gatto e la descrizione "un gatto" siano vicini mentre l'immagine di un gatto e la descrizione "una finestra" siano distanti. [3] le parole esatte, sempre nella sezione 3.1 sono "the real world the speaker and listener inhabit together" [4] notoriamente né verificabile, né falsificabile https://it.wikipedia.org/wiki/Teoria_delle_stringhe#Critiche [5] interpretazione che avviene, essa stessa, alla luce delle informazioni già presenti nella mente del ricevente. Se ti scrivo 1 + 1 = 10 tu non avrai problemi ad interpretare correttamente il messaggio come espressione in base 2, mentre altri obietteranno istintivamente "No, 1 + 1 = 2!". Tuttavia anche loro, leggendo il resto della frase precedente integreranno l'informazione nella propria mente che "espresso in base due, 1 + 1 = 10", comprendendo il messaggio iniziale. [6] informazione sempre definita come esperienza soggettiva di pensiero comunicabile [7] in realtà, a ben guardare, un intento comunicativo c'è: è l'intento dei programmatori statistici che hanno selezionato il corpus di coppie immagine/descrizione, ma il loro messaggio è l'intero software programmato statisticamente, di cui ogni specifico output è solo un frammento vagamente correlato all'input.

May 16, 2026

Re: Illusions of Understanding from Outsourcing Thinking to LLMs

by Stefano Borroni Barale

Questo è un arrocco epistemologico. Mossa elegante, ma siamo sempre nel campo della filosofia, magari della metafisica, ma non della fisica. Feyerabend docet. Mi spiace. La nuova teoria è quella che deve dimostrare di avere la carte in regola per rimpiazzare la vecchia. A nessuno sarebbe MAI venuto a mente di immaginare esseri non viventi che possono pensare prima della creazione di questi shredder-rebuilder di documenti. La relatività di Einstein spiegava, appena nata, la precessione del perielio di Mercurio con una precisione che la relatività di Newton non si sarebbe mai sognata. Idem il modello standard, con la sua brutta interpretazione che ha sparso irrazionalismo nel mondo scientifico, prevede alla perfezione le misure della funzione d'onda collassata. La teoria delle macchine pensanti, mi spiace, si basa su "esperimenti" che -al momento- non sono (in larghissima parte) nemmeno ripetibili. La cosa non merita nemmeno di essere presa in considerazione. Comunque, sebbene non ce ne sia il bisogno, la cosa da dimostrare sarebbe che il fenomeno che chiamiamo "pensiero" all'interno del corpo umano (non del cervello, visto che vi sono parecchie evidenze del fatto che sia un fenomeno che eccede la sola area cerebrale) ha sufficienti analogie con quello che accade nel software che alcuni chiamano "rete neurale artificiale", da giustificarne non l'ANALOGIA, bensì l'IDENTITA'. Ipotesi un po' fortina, direi, dati gli zero spaccato dati sperimentali. Altrimenti, ammesso e non concesso che quello che accade nel "cervello del LLM" sia un fenomeno e non semplice esecuzione di software, questo andrebbe etichettato con un altro nome (tipo "pipppero") e questo andrebbe studiato per i fatti suoi, a lungo, prima di potersi pronunciare sulla validità scientifica delle analogie, let alone della sua identità con il fenomeno che sperimentiamo leggendo questo interminabile scambio di email :-) Con buona pace di McCulloch e Pitts. Stefano Il 16/05/26 17:59, Giuseppe Attardi via nexa ha scritto: >> On 16 May 2026, at 16:23, Daniela Tafani >> [<daniela.tafani(a)unipi.it>](mailto:daniela.tafani@unipi.it) >> wrote: >> >> Quindi potrei sostenere che la sedia, il tavolo e la tovaglia pensino? > > Ragionamento fallace: dire che non si può affermare !P(x) senza una definizione di P(x), significa che non si può affermare né P(x) né !P(x) per nessun x. > >> Non incomberebbe a me l'onere della prova? > > Per provare qualcosa, occorre prima definirla formalmente. > > -- > >> ________________________________________ >> Da: Giuseppe Attardi via nexa >> [<nexa(a)server-nexa.polito.it>](mailto:nexa@server-nexa.polito.it) >> Inviato: sabato 16 maggio 2026 12:48 >> A: Giuseppe Attardi >> Cc: nexa >> Oggetto: [nexa] Re: Illusions of Understanding from Outsourcing Thinking to LLMs >> >> On 16 May 2026, at 12:20, Giuseppe Attardi >> [<giuseppe.attardi(a)unipi.it>](mailto:giuseppe.attardi@unipi.it) >> wrote: >> >> On 16 May 2026, at 06:30, >> nexa-request(a)server-nexa.polito.it >> wrote: >> >> LLMs Cannot Think >> >> La scienza tratta solo concetti che siano misurabili, osservabili e falsificabili. >> Si potrà falsificare “think” solo quando se ne darà una definizione falsificabile. >> >> The companies marketing their LLMs often describe them with >> anthropomorphising terms like "thinking" and "reasoning", which might >> create the impression that they can think (Mirzadeh et al., 2025; >> Shojaee et al., 2026). But for that impression to be accurate we would >> have to stretch the meaning of the term to refer trivially to whatever >> the LLMs produce as output >> Argomento del fantoccio (strawman): attribuisce una definizione che piace a lui a quanto direbbero altri. >> - much like the meaning of intelligence has >> historically been watered down to whatever the tests used to >> operationalise the construct measured (Loru et al., 2025; Mitchell, >> 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The >> task of developing systems with non-trivial capability for human-like >> cognition is computationally intractable (van Rooij et al., 2024). >> >> L’articolo di van Rooij afferma che si tratta di un problema NP-hard. Quasi ogni problema interessante in informatica è NP-hard, il ché non vuol dire che non si possa affrontare. >> A scanso di equivoci: tutte le proprietà non banali dei programmi sono non decidibili, teorema di Rice. >> Per problemi interessanti intendevo ciò che resta all’interno del computabile. >> Lo sviluppo di euristiche per risolvere efficientemente problemi NP-hard è un importante campo di ricerca. >> Qualcuno lo ha fatto proprio con i Transformer: >> https://arxiv.org/abs/2103.03012 >> --

May 16, 2026

Re: Illusions of Understanding from Outsourcing Thinking to LLMs

by Stefano Quintarelli

https://chatgpt.com/s/t_6a08afe7b0608191b733fda05f31e655 ehm. On 16/05/26 18:53, Giuseppe Attardi via nexa wrote: > > >> On 16 May 2026, at 18:25, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: >> >> E' come temevo, sì: non si può dire, allora, >> né che le persone pensino né che gli artefatti non pensino. > Puoi dire ciò che vuoi, ma devi fornire una definizione quando vuoi “provare” qualcosa, come quando parli di “onere della prova”. > Anche una proprietà come l’intelligenza può essere “provabile” dandone una definizione osservabile e falsificabile, come ad esempio il test di Turing. > > -- > >> >> Esattamente l'indistinguibilità tra persone e macchine che caratterizza l'approccio dello psicopatico >> (Simon Baron-Cohen, La scienza del male. L'empatia e le origini della crudeltà, 2012) >> e di quel progetto politico del complesso militare-industriale (e accademico) denominato "intelligenza artificiale". >> >> >> ________________________________________ >> Da: Giuseppe Attardi <attardi(a)di.unipi.it> >> Inviato: sabato 16 maggio 2026 17:59 >> A: Daniela Tafani >> Cc: Giuseppe Attardi; nexa >> Oggetto: Re: Illusions of Understanding from Outsourcing Thinking to LLMs >> >> >> >>> On 16 May 2026, at 16:23, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: >>> >>> Quindi potrei sostenere che la sedia, il tavolo e la tovaglia pensino? >> Ragionamento fallace: dire che non si può affermare !P(x) senza una definizione di P(x), significa che non si può affermare né P(x) né !P(x) per nessun x. >>> Non incomberebbe a me l'onere della prova? >> Per provare qualcosa, occorre prima definirla formalmente. >> >> -- >>> >>> >>> >>> ________________________________________ >>> Da: Giuseppe Attardi via nexa <nexa(a)server-nexa.polito.it> >>> Inviato: sabato 16 maggio 2026 12:48 >>> A: Giuseppe Attardi >>> Cc: nexa >>> Oggetto: [nexa] Re: Illusions of Understanding from Outsourcing Thinking to LLMs >>> >>> >>> >>> On 16 May 2026, at 12:20, Giuseppe Attardi <giuseppe.attardi(a)unipi.it> wrote: >>> >>> >>> >>> On 16 May 2026, at 06:30, nexa-request(a)server-nexa.polito.it wrote: >>> >>> LLMs Cannot Think >>> >>> La scienza tratta solo concetti che siano misurabili, osservabili e falsificabili. >>> Si potrà falsificare “think” solo quando se ne darà una definizione falsificabile. >>> >>> The companies marketing their LLMs often describe them with >>> anthropomorphising terms like "thinking" and "reasoning", which might >>> create the impression that they can think (Mirzadeh et al., 2025; >>> Shojaee et al., 2026). But for that impression to be accurate we would >>> have to stretch the meaning of the term to refer trivially to whatever >>> the LLMs produce as output >>> Argomento del fantoccio (strawman): attribuisce una definizione che piace a lui a quanto direbbero altri. >>> - much like the meaning of intelligence has >>> historically been watered down to whatever the tests used to >>> operationalise the construct measured (Loru et al., 2025; Mitchell, >>> 2023; Quattrociocchi & Capraro, 2025; van der Maas et al., 2021). The >>> task of developing systems with non-trivial capability for human-like >>> cognition is computationally intractable (van Rooij et al., 2024). >>> >>> L’articolo di van Rooij afferma che si tratta di un problema NP-hard. Quasi ogni problema interessante in informatica è NP-hard, il ché non vuol dire che non si possa affrontare. >>> A scanso di equivoci: tutte le proprietà non banali dei programmi sono non decidibili, teorema di Rice. >>> Per problemi interessanti intendevo ciò che resta all’interno del computabile. >>> Lo sviluppo di euristiche per risolvere efficientemente problemi NP-hard è un importante campo di ricerca. >>> Qualcuno lo ha fatto proprio con i Transformer: >>> https://arxiv.org/abs/2103.03012 >>> >>> -- >>> >> > -- You can reach me on Signal: @quinta.01 (no Whatsapp, no Telegram)

May 16, 2026