Buonasera Andrea, nel lontano 1721 Johnathan Swift scriveva: "Reasoning will never make a man correct an ill opinion, which by reasoning he never acquired" sfortunatamente il geniale scrittore non ci ha lasciato alcun suggerimento su come procedere, salvo il fatto che non possiamo sperare di far conto sulla razionalità. Forse il giorno che Sam Altman e i suoi epigoni faranno la fine dell'altro Sam (Bankman-Fried) allora avremo il "fattore emotivo" per affrontare questo tipo di discussioni. Chissà. Nel frattempo pare che le evidenze scientifiche su come funzionano i LLM non sembrano fare alcun effetto. Io posso solo certificare che i miei allievi, quando sperimentano in diretta il funzionamento dei LLM (e quanto sia semplice farli allucinare) hanno solitamente un "momento eureka". Learning by doing? Certamente una cosa molto più difficile con gli adulti, ovviamente. Stefano B. B. Inviato con la posta elettronica sicura [Proton Mail](https://proton.me/mail/home). martedì 18 novembre 2025 10:54, Andrea Bolioli <andrea.bolioli@gmail.com> ha scritto:
Grazie per la condivisione.
Mi capita spesso di avere a che fare con persone laureate, professionisti e altro, che pensano che sia una buona idea far fare calcoli a sistemi LLM (ad es. i calcoli al posto di usare Excel) e usare LLM per altri task deterministici, task che richiedono una risposta univoca e possibilmente vera. Come fare a contrastare questa tendenza? La prima volta mi è successo anni fa lavorando in una azienda di consulenza "di alto livello", cioè con clienti aziendali grossi: il cliente grosso chiedeva proprio di usare LLM per fare calcoli invece di Excel o altro foglio di calcolo o sw di base. Se il cliente paga molto per farlo giocare in questo modo, chi rinuncia e dice di no, e perde il cliente? Altri generano analisi di mercato e le vendono . Altri generano software a partire da un volume di specifiche fornito dal cliente. L'elenco è lungo e abbastanza inquietante. Se uno prova a spiegare che non va bene, che gli LLM non sono deterministici, ecc, gli interlocutori restano stupiti e non ci credono. Suggerimenti su come gestire queste situazioni sono benvenuti.
Andrea
On Tue, Nov 18, 2025 at 8:33 AM Alfredo Bregni <abregni@iperv.it> wrote:
Ho trovato su facebook questo "divertente" (per me) post di Walter Quattrociocchi (https://www.facebook.com/share/p/1FuLevWrGQ/); relata refero.
Quando si scambia un motore linguistico per altro
Qualche tempo fa spiegavo agli studenti a cosa si va incontro con un esempio pratico usando gli LLM per fare analisi dei dati. Ho preso una serie di dati epidemiologici dal 2010 al 2014 e ho chiesto al modello di costruire un grafico. Il risultato conteneva anche valori del 2020–2021, cioè il periodo in cui la disponibilità di dati esplode per via della pandemia. Non ha “rispettato i dati”; ha seguito il punto di massima densità informativa. Questi sistemi non “leggono” il tuo dataset, si muovono in uno spazio linguistico che è già stratificato intorno alle zone dove il dato è più abbondante, più ripetuto, più recente, più statisticamente conveniente. Io gli chiedo 2010–2014; lui mi porta comunque a 2020–2021 perché lì il terreno è più fertile, più denso, più “sicuro” dal punto di vista della plausibilità. Se metto accanto a questo esperimento quello che via via raccolgo e annoto, la trama è sempre la stessa. C’è chi prova a usare un modello per generare codice o markup ripetitivo. All’inizio la procedura sembra funzionare, poi, pagina dopo pagina, l’uscita si sfalda, la coerenza si perde, le stesse istruzioni producono varianti divergenti, e il costo di correzione supera quello di fare il lavoro a mano. C’è chi usa il modello su contenuti specialistici (musica, armonia, analisi di testi complessi) e ottiene risposte formalmente ben confezionate ma concettualmente vuote. Dalle frasi lunghe con lessico corretto, ma regole sbagliate in modo grossolano, come se il sistema imitasse il rumore di fondo della disciplina senza averne mai incontrato la struttura. Il meccanismo è sempre lo stesso, in ambito tecnico succede lo stesso: conversioni numeriche semplici, corrette per le prime richieste, cominciano a deragliare non appena si aumenta leggermente la complessità o la quantità di esempi. La procedura non si stabilizza, non si “irrobustisce”, si ridispone ogni volta come se fosse la prima. Quando si passa al dominio fattuale, la cosa diventa più inquietante: cronologie storiche riscritte con sicurezza, programmi esistiti dichiarati inesistenti o viceversa, riferimenti geografici inventati, dettagli biografici attribuiti a persone reali senza alcuna base; solo chi conosce già l’argomento ha gli strumenti per riconoscere l’invenzione. Chi non sa, prende atto. E integra. Nel dominio medico il pattern è ancora più evidente (alla faccia dei racconti metaforici e appezzotati fatti a botte di epistemia). Un referto viene interpretato con apparente competenza, alcuni dettagli sono spiegati in modo plausibile, poi una sigla viene proiettata in un contesto completamente incompatibile (ostetrico in presenza di un apparato genitale maschile), e il sistema razionalizza l’errore invece di riconoscerlo. Non dice “non lo so”, dice “ho capito, è un refuso”. Nella produzione di testi culturali (guida turistica, analisi letteraria, citazione poetica) si vede l’altro lato della stessa cosa, ovvero la capacità di generare un testo perfettamente leggibile, tonalmente adeguato, ritmato nel modo “giusto”, ma privo di informazioni. Pagine intere che potresti spostare da un luogo all’altro del mondo senza che cambi nulla. Infine ci sono i casi di delega integrale con strumenti configurati per monitorare notizie, che ripropongono come “nuovi” articoli vecchi di mesi, oppure ne saltano di rilevanti senza criterio apparente; manager convinti di risparmiare tempo affidando a un modello la ricostruzione di cifre complesse, che si ritrovano con numeri sbagliati di ordini di grandezza, ma esposti con tale sicurezza lessicale da passare il primo vaglio superficiale.
Quello che tiene insieme tutte queste situazioni non è il singolo errore, ma la combinazione di tre elementi: la fluidità del linguaggio, la pressione verso le aree ad alta densità di dato e l’assenza di una rappresentazione del mondo che faccia da vincolo. L’idea bislacca, ma molto diffusa, che “basterebbe cambiare la base di conoscenza” per risolvere il problema è la versione aggiornata della vecchia fede nella fonte giusta. Come se il difetto fosse “cosa ha letto il modello”, e non il modo in cui funziona. Aggiungere più dati, o dati migliori, può ridurre alcuni errori di superficie, ma questi sistemi non operano su un modello del mondo, non possiedono strutture interne che garantiscano coerenza temporale, causale o concettuale. Operano su distribuzioni di probabilità condizionate: massimizzano la plausibilità linguistica locale, frase per frase, token per token. Quando c’è molta informazione su un certo periodo, un certo evento, un certo modo di parlare, il gradiente le spinge lì, anche se tu stai chiedendo altro. Quando una spiegazione è stilisticamente convincente, la produce, anche in assenza di un criterio che la colleghi a qualcosa di vero. L’EpistemIA nasce esattamente in questo punto di contatto: dove un meccanismo cieco rispetto al mondo incontra un utente che cerca conoscenza, non testo. L’utente vede coerenza grammaticale, tono competente, riferimenti plausibili, e scambia tutto questo per prova. Ma il modello non “sa” se ciò che dice è vero; non ha un luogo interno dove la verità possa essere rappresentata o controllata. La verifica, se avviene, è sempre esterna: siamo noi. E proprio mentre ci affidiamo al sistema per risparmiarci la fatica della verifica, la verifica stessa scompare dall’orizzonte cognitivo: non viene più concepita come fase necessaria del processo, perché è delegata. Infatti il numero di ricercatori indipendenti, dotti-immaginari e tutto il cucuzzaro di gente che dice menate cresce ogni giorno di più. Per questo i vostri esempi sono così importanti: mostrano che non siamo davanti a una collezione di bug da correggere con l’aggiornamento successivo, ma a una trasformazione strutturale del rapporto tra linguaggio e conoscenza. Non è un problema di “accuratezza percentuale”, è lo slittamento da un ecosistema informativo basato sulla ricerca e sul confronto di fonti a uno basato sulla simulazione continua di risposte plausibili. Se non teniamo fermo questo punto, ci ritroviamo a discutere di queste tecnologie come se fossero motori di ricerca più evoluti o assistenti infallibili, mentre sono un’altra cosa. Sono interfacce che ricostruiscono il mondo a partire da come ne abbiamo scritto, non da com'è. Continuare a raccogliere casi non serve a fare l’elenco degli errori, ma a mappare il perimetro di questa nuova condizione: un ambiente in cui la facilità di produzione di testo può dare l’impressione che la conoscenza sia a portata di chat, mentre in realtà si è solo spostato, e reso invisibile, il lavoro più importante: quello della verifica.