- nexa - server-nexa.polito.it

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Andrea Bolioli

Buonasera, sono andato a rivedere che cosa diceva Andrew Ng (uno dei massimi esperti viventi di AI, sono un suo fan) nel suo corso introduttivo all'AI generativa. Allego screenshot di Coursera. Su come lavoravano gli LLM, Andrea Ng diceva la stessa cosa che hanno scritto Nardelli e Quattrociocchi . Boh... AB On Mon, May 11, 2026 at 5:58 PM antonio via nexa <nexa(a)server-nexa.polito.it> wrote: > > Eh, no! Lo confondi ed è peggio. > > L'hai "addestrato" cieco? E cieco conviene che tiri i rigori. > > Hai ragione, infatti quella frase ero incerto se e come inserirla. > Si può intenderla come: > "Ho visto la luce!" (cit. John Belushi in "Blues Brothers") dopo aver > calcolato al buio dentro la "black box". > Ma se rimaniamo dentro la metafora dell'uscire dal buio come assunzione > di consapevolezza e cognizione di sé e della realtà, > allora è meglio che il calciatore/AI resti bendato. > > Forse per un ragazzino un discorso troppo filosofico ;) > > A. >

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Enrico Nardelli

Cara Daniela grazie a te per ricordare sempre infaticabilmente l'importanza di riflettere su cosa fanno questi strumenti alla società e di cercare di riprenderne il controllo. Grazie anche per i riferimenti (*) e (**) che non conoscevo. Molto interessante il riferimento alla visione dell'IAgen come "culto"... 🙂 Segnalo questi due ulteriori articoli interessanti in merito ai danni dell'uso di strumenti di IAgen nei processi di apprendimento: - questo di Anthropic, particolarmente rilevante perché è sostanzialmente l'oste che dice che il suo vino può far male How AI assistance impacts the formation of coding skills https://www.anthropic.com/research/AI-assistance-coding-skills - questo di ricercatori indipendenti su matematica e lettura AI Assistance Reduces Persistence and Hurts Independent Performance https://ai-project-website.github.io/AI-assistance-reduces-persistence/ Ciao, Enrico Il 10/05/2026 11:49, Daniela Tafani ha scritto: > Caro Enrico, > > volevo ringraziarti di aver rivolto ai tuoi colleghi, con la lettera aperta, > un invito a non coltivare quello che chiamate un "fraintendimento". > > Come accade sovente in ambito religioso, c'è un doppio aspetto: > > - il fraintendimento di cui vi occupate, generato da una debolezza antropologica, dalla tendenza della natura umana > a una forma animistica di pensiero magico; > - l'inganno dei sacerdoti di questa specifica religione statutaria, variamente interessati al potere o al profitto che derivano da un simile culto. > > Da un punto di vista filosofico, gli argomenti di Searle su intelligenza e proprietà emergenti non sono mai stati confutati. > > La religione della tecnologia resta: già David Noble osservava che il concetto stesso di intelligenza artificiale è erede del mito giudaico-cristiano della creazione come di una procreazione divina maschile, senza donne e senza sesso. > > Trattandosi di un culto, qualcuno ha legittimamente richiesto di essere esentato dall'uso dei chatbot in nome della libertà religiosa > (Catherine Sawers: "I have a religious exemption from using all generative 'A.I.' I am not a member of the Silicon Valley sect"). > > Ne approfitto per aggiungere all'elenco tuo e di Giacomo (se le aveste già citate, scusatemi) > un altro paio di pubblicazioni sugli effetti dequalificanti dell'uso dei chatbot: > > - sulla "resa cognitiva", in virtù della quale si finisce per adottare l’output di un chatbot senza verifica e anche nei casi in cui contrasti con le proprie intuizioni o i propri ragionamenti*; > - sull'atrofia cognitiva negli adulti e sul mancato apprendimento nei bambini: negli adulti, con l’uso dei chatbot si indeboliscono, senza rendersene conto, le capacità che si possedevano e che possono tuttavia essere recuperate; nei giovani, l’uso di tali sistemi preclude del tutto l’apprendimento e abitua a a omologarsi, a non pensare, a recepire pensieri già formulati da altri**; > > Va da sé che non si tratti di spiacevoli effetti collaterali, ma, come sempre, di una delle funzioni di questi sistemi, > ritenute economicamente e politicamente utili dal complesso militare-industriale che controlla, in questo momento, > le traiettorie di sviluppo della tecnologia: dequalificazione e dipendenza da piattaforme e software proprietari, per quanto scadenti, > sono obiettivi intrecciati, funzionali alla riduzione dei cittadini a sudditi in stato di minorità. > > L'obiettivo delle grandissime aziende è che, anche nella vita privata, attività e relazioni umane siano non solo mediate dai loro prodotti, ma siano intrattenute direttamente con quelli, anziché con altri esseri umani: anche in questo ambito si mira a produrre dipendenza, perché questa è funzionale alla sorveglianza, alla manipolazione e al controllo degli utenti. Si diventa dipendenti dall'amico immaginario perché nella realtà c'è un software che estrude output che danno rinforzo senza contenimento, all'infinito. Psicologicamente, è una ricetta per il disastro. Non a caso, qualcuno ha osservato che l'attuale modello di business dell'IA generativa è quello della "psicosi come servizio". Non stupisce, quindi, il caso italiano recentissimo - dopo gli innumerevoli casi statunitensi - di una dipendenza da chatbot presa in carico dal sistema sanitario. > > Uno pseudo studio edtech sugli effetti positivi dei chatbot è appena stato ritrattato da Nature***. > > Un caro saluto, > Daniela > > > * Timothy Cook, Adults Lose Skills to AI. Children Never Build Them, “Psychilogy Today”, March 22, 2026,https://www.psychologytoday.com/us/blog/the-algorithmic-mind/202603/ad…. > ** Steven D. Shaw, Gideon Nave, Thinking ‐ Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender, “The Wharton School Research Paper”, January 11, 2026,https://doi.org/10.31234/osf.io/yk25n_v1. > *** Retraction Note: The effect of ChatGPT on students’ learning performance, learning perception, and higher-order thinking: insights from a meta-analysis,https://www.nature.com/articles/s41599-026-07310-z. > > > > ________________________________________ > Da: Enrico Nardelli via nexa<nexa(a)server-nexa.polito.it> > Inviato: sabato 9 maggio 2026 19:20 > A:nexa@server-nexa.polito.it > Oggetto: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società > > Grazie Giacomo > > per il riferimento a questo studio di Antrhopic, che non conoscevo quando avevo scritto il mio pezzo di un paio di mesi fa us IAgen e sviluppo softwarehttps://www.startmag.it/innovazione/iagen-lavoro-sviluppo-software/ > > È molto interessante, perché condotto seguendo gli approcci usati nella ricerca in didattica dell'informatica (o computer science education che dir si voglia): > > We found that using AI assistance led to a statistically significant decrease in mastery. On a quiz that covered concepts they’d used just a few minutes before, participants in the AI group scored 17% lower than those who coded by hand, or the equivalent of nearly two letter grades. Using AI sped up the task slightly, but this didn’t reach the threshold of statistical significance. > > Questo risultato ribatte quello in molti altri settori sta emergendo rispetto all'uso dell'IA nel settore educativo, che è esemplificato da questo studio massiccio (di cui forse si è già parlato qui in mailing list) sul cosiddetto "Debito Cognitivo". > > Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task > https://arxiv.org/pdf/2506.08872v2 > > As the educational impact of LLM use only begins to settle with the general population, in this study we demonstrate the pressing matter of a likely decrease in learning skills based on the results of our study. The use of LLM had a measurable impact on participants, and while the benefits were initially apparent, as we demonstrated over the course of 4 months, the LLM group's participants performed worse than their counterparts in the Brain-only group at all levels: neural, linguistic, scoring > > Ciao, Enrico > > NB: il grassetto delle citazioni è mio > > > > Il 08/05/2026 19:57, Giacomo Tesio via nexa ha scritto: > > Suvvia Enrico, non te la prendere: non è nulla di personale. > > On Fri, 8 May 2026 17:43:17 +0200 Enrico Nardelli wrote: > > > > Guido, io ho scritto: > [...] > > tu mi replichi > [...] > > NO! Se io avessi scritto > [...] > > Ma siccome ho scritto una cosa diversa, [...] > > > > Sono certo che Guido non abbia usato un agente automatico per ottenere > un riassunto della tua mail perché sa che sarebbe un'enorme mancanza di > rispetto per il tempo che hai dedicato a scrivergli. > > Semplicemente, leggere fischi per fiaschi è un effetto collaterale > comunissimo dell'uso intensivo di riassunti prodotti da software > programmati statisticamente. > > > Come ogni altra facoltà intellettiva, l'attenzione richiede costante > allenamento. Nemmeno Anthropic ha il coraggio di negarlo [1][2]: > https://www.anthropic.com/research/AI-assistance-coding-skills > > """ > On average, participants in the AI group finished about two minutes > faster, although the difference was not statistically significant. > There was, however, a significant difference in test scores: the AI > group averaged 50% on the quiz, compared to 67% in the hand-coding > group—or the equivalent of nearly two letter grades (Cohen's d=0.738, > p=0.01). The largest gap in scores between the two groups was on > debugging questions, suggesting that the ability to understand when > code is incorrect and why it fails may be a particular area of concern > if AI impedes coding development. > """ > > Un effetto collaterale che tende a vanificare persino l'utilità dei > "riassunti automatici" per chi, come suggerivo in altra mail, legge > comunque i documenti da riassumere. > > > Giacomo > > [1] pur argomentato che dipende da come le usi, per cui se > rincretinisci, è solo colpa tua... ;-) > > [2] Per altro, ben 2 minuti in meno nel completare lo sviluppo con un AI > (a pagamento) per diverse ore in più a debuggarlo: che affarone! :-D > > > > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > [cid:part1.B02fsOl4.0jOB00vj@mat.uniroma2.it] ====================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page:https://www.mat.uniroma2.it/~nardelli > blog:https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail:nardelli@mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> > online meeting:https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > -- -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by antonio

> Eh, no! Lo confondi ed è peggio. > L'hai "addestrato" cieco? E cieco conviene che tiri i rigori. Hai ragione, infatti quella frase ero incerto se e come inserirla. Si può intenderla come: "Ho visto la luce!" (cit. John Belushi in "Blues Brothers") dopo aver calcolato al buio dentro la "black box". Ma se rimaniamo dentro la metafora dell'uscire dal buio come assunzione di consapevolezza e cognizione di sé e della realtà, allora è meglio che il calciatore/AI resti bendato. Forse per un ragazzino un discorso troppo filosofico ;) A.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by abregni

>> A quel punto, toglieremo la benda... Eh, no! Lo confondi ed è peggio. L'hai "addestrato" cieco? E cieco conviene che tiri i rigori. Da un inesperto di calcio. :-))) Il 2026-05-11 12:22 antonio via nexa ha scritto: >> I LLM hanno risolto il problema in modo radicalmente diverso: invece >> di codificare >> regole, apprendono pattern statistici da enormi quantità di testo. > > Se venisse da me un ragazzino a chiedermi il funzionamento base di una > rete neurale gli farei questo esempio. > > Vuoi tirare il rigore perfetto all'incrocio dei pali? Vieni con me. > Ti porto nei pressi del dischetto e ti bendo. > "Tira il pallone in una direzione a caso, poi io ti dirò come > aggiustare il tiro". > Un po' più a destra, un po' più alto, ancora più in alto, no, troppo, > ora abbassa, e così per tutto il giorno. > Io prenderò nota solo dei movimenti corretti. > Dopo 10.000 rigori, non avrai più bisogno che io ti guidi. Avrai > memorizzato esattamente la tensione muscolare e > la potenza necessaria per colpire l'incrocio. A quel punto, toglieremo > la benda e farai gol al primo colpo. > > Quindi abbiamo: > > 1) Il calciatore (la rete neurale): È lui che agisce, ma all'inizio non > sa nulla. > 2) Il tiro a caso (forward propagation): La rete neurale fa una > previsione basandosi su pesi casuali. > 3) Tu che correggi ("più a destra/alto") (Funzione di perdita/loss > function): misuri l'errore tra dove è andata la palla e l'incrocio dei > pali. > 4) Aggiustare il tiro (backpropagation): Il calciatore capisce l'errore > e modifica la posizione del corpo per il prossimo tiro. > 5) Tirare tutto il giorno (addestramento/training): La rete impara > iterando migliaia di volte finché non azzecca il tiro > 6) Prendere nota (aggiornamento dei parametri della rete): I "pesi" > sinaptici" vengono consolidati quando portano ad un risultato migliore. > > Bene, ora sostituisci quel "migliaia di volte" con questo numero: > 38.000.000.000.000.000.000.000.000 > e "tutto il giorno" con 54 giorni. > > (Il training di Llama 3.1 405B ha richiesto circa 3,8 * 10^25 FLOP > utilizzando 16.384 GPU H100 per 54 giorni) > > p.s. forse è meglio citare De Gregori: > > Ma Nino non aver paura > Di sbagliare un calcio di rigore > Non è mica da questi particolari > Che si giudica un giocatore > Un giocatore lo vedi dal coraggio > Dall'altruismo e dalla fantasia > > A.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by abregni

Tu non "parli" mai con un foglio Excel? Io una volta mi sono accorto che avrei voluto impostare le cose in un modo nuovo, e stavo ricadendo invece nella solita prassi... Voglio dire che: 1. Gli strumenti sono strumenti. Se ci trovi semantica, ...vuol dire che esiste anche una semantica diversa da quella che insisti a vedere tu (da trasmittente umano a ricevente umano; butti metà del significato dell'arte astratta; ti perdi la bellezza di un tramonto...; cerco solo di farmi capire: non c'è solo il messaggio interumano ben codificato); 2. Gli strumenti ti servono: una mela, vista come strumento di indagine scientifica, è servita a Newton (che di semantica ce ne ha letta anche troppo), mentre una mela uguale, ma non in caduta è servita molto diversamente a Guglielmo Tell; 3. Esistono anche le associazioni di idee (talvolta rivelatrici), dove la semantica ce la mette tutta il ricevente, e il trasmittente non sa nemmeno cosa ha detto di significativo, oppure ancor più banalmente ...non c'è. Potrei andare avanti. Il punto, molto secco, è che NON PUOI partire dalla TUA definizione delle cose, pensando che rappresenti tutto il mondo possibile. Il 2026-05-11 14:24 Giacomo Tesio ha scritto: > Ciao Alfredo, > > Il 11 Maggio 2026 10:07:17 UTC, abregni <abregni(a)iperv.it> ha scritto: >> >> Il senso delle parole [...] è quello che capisce chi ascolta o legge > > No. > > Anzitutto tu leggi questa mail perché vuoi acquisire un'informazione, > presente > nella mia mente che io ho tentato di esprimere attraverso queste > parole. > > Se da questa casella email venissero sequenze di token privi di > significato > prodotti da una scimmia dotata di correttore ortografico, probabilmente > non la > leggeresti e molti si lamenterebbero della casella con gli > amministratori di sistema. > > In altri termini, ciò che cerci di ottenere da questo testo è il > significato che io > ho cercato di esprimere. > > Se la comunicazione ha successo, ovvero se le mie parole, interpretate > dalla > (ovvero proiettate ed integrate nella) tua mente, riescono a riprodurre > un'esperienza di pensiero comunicabile analoga a quella che io > intendevo > esprimere, otteniamo una sincronizzazione (parziale e imperfetta) fra > le nostre menti. > > Se la comunicazione fallisce, l'esperienza soggettiva di pensiero > comunicabile > che le mie parole producono per la tua mente sarà molto diversa e del > tutto scorrelata rispetto a quella che intendevo esprimere. > > > Tale fallimento avviene frequentemente, per ragioni riconducibili a due > categorie principali: una differenza molto elevata fra le esperienze > degli interlocutori entro cui il messaggio ricevuto viene integrato, > oppure > assunzioni errate da parte del mittente sulle esperienze condivise con > il destinatario che rendono l'atto comunicativo inadatto a veicolare > l'informazione desiderata. > > > È però sempre il mittente che sceglie le parole affinché vengano > interpretate dal destinatario. Dunque il significato del mesaggio > potrebbe non essere affatto quello che un altro destinatario, ignaro > delle esperienze condivise fra gli interlocutori interpreterebbe. > > Una coppia di amici anni fa, trovando troppo banale e conformista dirsi > "ti amo" > avevano iniziato a dirsi, invece, "ti odio". > Ed era effettivamente tenero, per noi che conoscevamo bene questa loro > convenzione, osservarli dirsi "ti odio" con occhi sorridenti e pieni di > affetto. > Così come era divertente osservare le reazioni di chi, invece, non li > conosceva. > > Il significato è l'informazione che il mittente cerca di esprimere. > Di conseguenza (e _solo_ come conseguenza) è l'informazione > che il destinatario cerca di ottenere interpretando il testo. > > Ma il destinatario non interpreterebbe il testo se non fosse per > sincronizzare > (pur parzialmente ed in modo imperfetto) la propria mente con quella > del mittente. > > > Per facilitare questa sincronizzazione abbiamo sviluppato lingue e > linguaggi sempre più complessi e raffinati (inclusa la matematica), > così da massimizzare > (almeno in determinati ambiti) l'efficacia della comunicazione. > > E i messaggi espressi in determinati linguaggi (tipicamente quelli per > cui > siamo "madrelingua") ci danno l'impressione di avere un significato > perfettamente > disambiguo ed intrinseco. > Ma è solo un'illusione derivata dalla consuetudine (e da ovvi bias > cognitivi). > > > Giacomo

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by abregni

Salve, Massimo. Non ho capito il punto, che non mi sembra correlato con il mio. Io "converso" normalmente con le macchine. Un foglio Excel è un'estensione di me, come pure un documento PowerPoint o un testo Word. Mi aiutano tutti -- aspetto comune: IN OUTPUT (ma anche a ragionare) -- a mettere ordine nei pensieri. Se non sono informato sui cani del deserto, o sulla band degli Oasis, e chiedo lumi a Google AI, invece che a un motore di ricerca "passivo" (chiamiamolo così), non vedo niente di strano leggerci della semantica, anche se è motore di ricerca "ripasticciato" (NON "con perdita", come dice Giacomo). L'AI (termine ebete, ribadisco), fa del suo meglio per sintetizzare, magari anche per essere gradevole e darmi ragione, il che è solo un grado sopra il completamento automatico delle parole, o il correttore ortografico quando non diventa invasivo. Se c'è qualcuno che ci vede oracoli, o mezzi di convincimento di massa, a me viene da ridere. C'è ben altro con cui la gente viene regolarmente fottuta -- non fatemi bestemmiare... -- e noi non diciamo nulla. Il 2026-05-11 13:08 Massimo Maria Ghisalberti ha scritto: > Quello che va valutato è l'impatto etico-sociale di questa tecnologia e > il > livello di attribuzione alle parole è importante. Appunto lei è un > umano. > L'umano tente ad "antropomorfizzare" ogni relazione al di fuori di sé > per un > semplice motivo, comprendere. È più semplice comprendere partendo da > una base > conosciuta è la natura si articola sul "minimo sforzo". Lei dice che > una > schimmia è provocatoria, perché ha una idea di scimmia, dice che una > fotocopia è > dirimente perché ha un'idea di fotocopia ma soprattutto ha un'idea del > testo > scritto. Qui andrebbe valutato del testo scritto da chi, ma lasciamo > stare e > immaginaniamo che sia un esimio professore. Che sia normale trovare > della > semantica in un testo grammaticalmente sufficientemente corretto e > plausibile > non si discute, infatti è quello il problema. Se adeguatamente > stimolato e > altrettanto adeguatamente ignorante in materia con la convinzione che > stia > discutendo con un oracolo infallibile o quasi, non sarebbe tentato di > credere > sulla fiducia? Per quale motivo crede che ci si stia così impegnando > nel livello > "conversazionale" di queste macchine? > Non basta incazzarzi per il nome di marketing e per quello che mi > riguarda, > nemmeno tacciarli di essere "statistici" soltanto (che è una riduzione > come IA > per fare a capirsi). > > Che ne facciamo si chiede? Ora come ora, considerando vari fattori il > "buttarli > a mare" sarebbe l'atto più appropriato, almeno finché non ne esista una > reale > comprensione e sia chiaro per chiunque come siano soltanto delle > macchine. > > -- massimo > > Il giorno lun, 11/05/2026 alle 11.48 +0200, abregni via nexa ha > scritto: >> Scusa, Giacomo, una piccola nota. >> >> A me sembra concettualmente sbagliato dire: "Il problema fondamentale >> è >> che chi non comprende il funzionamento di questi software attribuisce >> un >> significato al loro output, attribuendo alle parole relazioni >> semantiche >> invece che statistiche." >> >> Innanzitutto, io sono un umano, e se leggo qualcosa, leggo lessico, >> sintassi, semantica (e semantica sulle righe, tra le righe e dietro le >> righe, nel caso di Giuliano Amato, che riusciva a scrivere a tre >> livelli). >> Se poi leggo una fotocopia della Divina Commedia, o uno scritto di >> scimmia con la macchina da scrivere che l'ha casualmente riprodotta >> identica -- NB.: la scimmia è "provocatoria", ma la fotocopia è >> "dirimente" -- sinceramente non vedo testuale né semantica differenza >> (altro caso è se sono un esperto biblista, e devo distinguere fra un >> Gutemberg e una Xerox, ma qui stiamo parlando di semantica). >> Se l'obiettivo della MAL INDICATA "IA", invece di "CdT" >> (confezionatori >> di testi), è di confezionare testi su base statistica, o li buttiamo >> tutti a mare, oppure usiamo i loro risultati per la semantica che più >> o >> meno forniscono. >> Anche quando usi un metro da sarto, o un calibro, vedi dimensioni e >> non >> la realtà, e ti va bene anche se il metro e il calibro ...non pensano. >> >> Detto in breve, è DEL TUTTO NORMALE leggere semantica da uno STRUMENTO >> che cerca di fingerla al meglio. >> Concordo sul fatto che le informazioni sono nella testa di scrive, >> ...ma >> io quando leggo uno scritto ne traggo delle informazioni anche se chi >> ce >> le ha messe non le aveva (come molto giornalismo, ad esempio; peggio >> ancora i social). Perché ti preoccupi del fatto che gli LLM sono >> "statistici"? Io mi incazzo che li chiamino "IA", ...poi se mi fa >> comodo >> li uso, e li uso per la (possibile / ipotetica) semantica. Altrimenti, >> ...per cosa? >> >> >> >> >> Il 2026-05-10 22:18 Giacomo Tesio via nexa ha scritto: >> > Caro Andrea, >> > >> > On Fri, 8 May 2026 15:39:22 +0200 Andrea Bolioli wrote: >> > >> > > eh, sono in parte d'accordo con te Giacomo, ma se entriamo nel tema >> > > "semantica" non ne usciamo più... :-) >> > >> > per quanto stretta e scomoda, è una strada necessaria. >> > >> > >> > La mail che stai leggendo è una rappresentazione simbolica di >> > un'informazione nella mia mente: un'esperienza soggettiva di pensiero >> > comunicabile che cerco di esprimere e trasmetterti perché tu ne possa >> > vedere i simboli ed interpretarli, riproducendo tale esperienza nella >> > tua mente. [1] >> > >> > >> > Le parole di questa mail sono legate da relazioni semantiche: ogni >> > parola viene scelta per contribuire alla trasmissione delle >> > informazioni >> > nella mia mente che intendo trasmettere. >> > >> > Non rileva molto, in realtà, che tali informazioni siano o meno >> > derivate da esperienze sensibili (non concordo particolarmente con >> > Enrico sulla rilevanza dell'esperienza corporea nel contesto delle >> > "intelligenze artificiali", anche perché non è difficile collegare a >> > questi software sensori e attuatori). >> > >> > Molto più rilevante è la relazione fra l'informazione nella mia mente >> > (l'esperienza di pensiero comunicabile che intendo comunicare) e le >> > parole che scelgo, in modo auspicabilmente adeguato, per trasmetterla. >> > >> > >> > >> > L'output di un LLM invece non ha alcun significato. >> > >> > I token estrati dal modello a partire dal prompt non sono legati da >> > relazioni semantiche, ma statistiche. [2] >> > >> > Nessuna mente sta cercando di esprimere l'esperienza soggettiva di un >> > pensiero comunicabile. I processi di attivazione degli strati finali >> > della vector mapping machine (impropriamente detta "rete neurale >> > arficiale") sono "difficili da interpretare" (per usare le parole di >> > Giuseppe Attardi) semplicemente perché non hanno alcun significato >> > intrinseco [3] e dunque non c'è nulla da interpretare. >> > >> > >> > >> > Il problema fondamentale è che chi non comprende il funzionamento di >> > questi software attribuisce un significato al loro output, attribuendo >> > alle parole relazioni semantiche invece che statistiche. >> > >> > >> > Se usi un LLM come archivio compresso con perdita, può essere utile. >> > Ad esempio, puoi estrarre da Claude o da Copilot il codice dei tuoi >> > concorrenti che lo usano (fornendo loro in cambio accesso al tuo). >> > O puoi ottenere lorem ipsum a tema per il prototipo del sito web di un >> > cliente per praticamente qualsiasi ambito commerciale. >> > >> > Ma se lo confondi con un interlocutore, con un "AI peer programmer" >> > (vedi marketing di GitHub CopyALot o Claude), sei vittima di un >> > inganno. >> > >> > >> > Giacomo >> > >> > [1] Infatti, contrariamente ad un protocollo software che permette il >> > trasferimento (più propriamente, la copia) di un dato fra >> > dispositivi diversi, il linguaggio non determina una trasferimento >> > di informazione (che essendo esperienza soggettiva, non lascia mai >> > la mente di chi la esperisce) ma solo una sincronizzazione, >> > parziale >> > e inesatta, fra menti umane. >> > >> > https://encrypted.tesio.it/2019/06/03/what-is-informatics.html#a-complex-re… >> > >> > [2] nota polemica: _statistiche_, non _probabilistiche_ perché i numeri >> > prodotti a valle delle varie trasformazioni non lineari e delle >> > normalizzazioni calcolate durante l'esecuzione del LLM sul "motore >> > inferenziale" non sono più interpretabili matematicamente come >> > probabilità. >> > >> > [3] così come non ne hanno i livelli iniziali, sebbene sia possibile >> > ricondurre determinati pattern di attivazione a pattern >> > particolarmente frequenti nel testo, come sono, ovviamente, le >> > strutture grammaticali di una lingua.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Ciao Alfredo, Il 11 Maggio 2026 10:07:17 UTC, abregni <abregni(a)iperv.it> ha scritto: > > Il senso delle parole [...] è quello che capisce chi ascolta o legge No. Anzitutto tu leggi questa mail perché vuoi acquisire un'informazione, presente nella mia mente che io ho tentato di esprimere attraverso queste parole. Se da questa casella email venissero sequenze di token privi di significato prodotti da una scimmia dotata di correttore ortografico, probabilmente non la leggeresti e molti si lamenterebbero della casella con gli amministratori di sistema. In altri termini, ciò che cerci di ottenere da questo testo è il significato che io ho cercato di esprimere. Se la comunicazione ha successo, ovvero se le mie parole, interpretate dalla (ovvero proiettate ed integrate nella) tua mente, riescono a riprodurre un'esperienza di pensiero comunicabile analoga a quella che io intendevo esprimere, otteniamo una sincronizzazione (parziale e imperfetta) fra le nostre menti. Se la comunicazione fallisce, l'esperienza soggettiva di pensiero comunicabile che le mie parole producono per la tua mente sarà molto diversa e del tutto scorrelata rispetto a quella che intendevo esprimere. Tale fallimento avviene frequentemente, per ragioni riconducibili a due categorie principali: una differenza molto elevata fra le esperienze degli interlocutori entro cui il messaggio ricevuto viene integrato, oppure assunzioni errate da parte del mittente sulle esperienze condivise con il destinatario che rendono l'atto comunicativo inadatto a veicolare l'informazione desiderata. È però sempre il mittente che sceglie le parole affinché vengano interpretate dal destinatario. Dunque il significato del mesaggio potrebbe non essere affatto quello che un altro destinatario, ignaro delle esperienze condivise fra gli interlocutori interpreterebbe. Una coppia di amici anni fa, trovando troppo banale e conformista dirsi "ti amo" avevano iniziato a dirsi, invece, "ti odio". Ed era effettivamente tenero, per noi che conoscevamo bene questa loro convenzione, osservarli dirsi "ti odio" con occhi sorridenti e pieni di affetto. Così come era divertente osservare le reazioni di chi, invece, non li conosceva. Il significato è l'informazione che il mittente cerca di esprimere. Di conseguenza (e _solo_ come conseguenza) è l'informazione che il destinatario cerca di ottenere interpretando il testo. Ma il destinatario non interpreterebbe il testo se non fosse per sincronizzare (pur parzialmente ed in modo imperfetto) la propria mente con quella del mittente. Per facilitare questa sincronizzazione abbiamo sviluppato lingue e linguaggi sempre più complessi e raffinati (inclusa la matematica), così da massimizzare (almeno in determinati ambiti) l'efficacia della comunicazione. E i messaggi espressi in determinati linguaggi (tipicamente quelli per cui siamo "madrelingua") ci danno l'impressione di avere un significato perfettamente disambiguo ed intrinseco. Ma è solo un'illusione derivata dalla consuetudine (e da ovvi bias cognitivi). Giacomo

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Massimo Maria Ghisalberti

Quello che va valutato è l'impatto etico-sociale di questa tecnologia e il livello di attribuzione alle parole è importante. Appunto lei è un umano. L'umano tente ad "antropomorfizzare" ogni relazione al di fuori di sé per un semplice motivo, comprendere. È più semplice comprendere partendo da una base conosciuta è la natura si articola sul "minimo sforzo". Lei dice che una schimmia è provocatoria, perché ha una idea di scimmia, dice che una fotocopia è dirimente perché ha un'idea di fotocopia ma soprattutto ha un'idea del testo scritto. Qui andrebbe valutato del testo scritto da chi, ma lasciamo stare e immaginaniamo che sia un esimio professore. Che sia normale trovare della semantica in un testo grammaticalmente sufficientemente corretto e plausibile non si discute, infatti è quello il problema. Se adeguatamente stimolato e altrettanto adeguatamente ignorante in materia con la convinzione che stia discutendo con un oracolo infallibile o quasi, non sarebbe tentato di credere sulla fiducia? Per quale motivo crede che ci si stia così impegnando nel livello "conversazionale" di queste macchine? Non basta incazzarzi per il nome di marketing e per quello che mi riguarda, nemmeno tacciarli di essere "statistici" soltanto (che è una riduzione come IA per fare a capirsi). Che ne facciamo si chiede? Ora come ora, considerando vari fattori il "buttarli a mare" sarebbe l'atto più appropriato, almeno finché non ne esista una reale comprensione e sia chiaro per chiunque come siano soltanto delle macchine. -- massimo Il giorno lun, 11/05/2026 alle 11.48 +0200, abregni via nexa ha scritto: > Scusa, Giacomo, una piccola nota. > > A me sembra concettualmente sbagliato dire: "Il problema fondamentale è > che chi non comprende il funzionamento di questi software attribuisce un > significato al loro output, attribuendo alle parole relazioni semantiche > invece che statistiche." > > Innanzitutto, io sono un umano, e se leggo qualcosa, leggo lessico, > sintassi, semantica (e semantica sulle righe, tra le righe e dietro le > righe, nel caso di Giuliano Amato, che riusciva a scrivere a tre > livelli). > Se poi leggo una fotocopia della Divina Commedia, o uno scritto di > scimmia con la macchina da scrivere che l'ha casualmente riprodotta > identica -- NB.: la scimmia è "provocatoria", ma la fotocopia è > "dirimente" -- sinceramente non vedo testuale né semantica differenza > (altro caso è se sono un esperto biblista, e devo distinguere fra un > Gutemberg e una Xerox, ma qui stiamo parlando di semantica). > Se l'obiettivo della MAL INDICATA "IA", invece di "CdT" (confezionatori > di testi), è di confezionare testi su base statistica, o li buttiamo > tutti a mare, oppure usiamo i loro risultati per la semantica che più o > meno forniscono. > Anche quando usi un metro da sarto, o un calibro, vedi dimensioni e non > la realtà, e ti va bene anche se il metro e il calibro ...non pensano. > > Detto in breve, è DEL TUTTO NORMALE leggere semantica da uno STRUMENTO > che cerca di fingerla al meglio. > Concordo sul fatto che le informazioni sono nella testa di scrive, ...ma > io quando leggo uno scritto ne traggo delle informazioni anche se chi ce > le ha messe non le aveva (come molto giornalismo, ad esempio; peggio > ancora i social). Perché ti preoccupi del fatto che gli LLM sono > "statistici"? Io mi incazzo che li chiamino "IA", ...poi se mi fa comodo > li uso, e li uso per la (possibile / ipotetica) semantica. Altrimenti, > ...per cosa? > > > > > Il 2026-05-10 22:18 Giacomo Tesio via nexa ha scritto: > > Caro Andrea, > > > > On Fri, 8 May 2026 15:39:22 +0200 Andrea Bolioli wrote: > > > > > eh, sono in parte d'accordo con te Giacomo, ma se entriamo nel tema > > > "semantica" non ne usciamo più... :-) > > > > per quanto stretta e scomoda, è una strada necessaria. > > > > > > La mail che stai leggendo è una rappresentazione simbolica di > > un'informazione nella mia mente: un'esperienza soggettiva di pensiero > > comunicabile che cerco di esprimere e trasmetterti perché tu ne possa > > vedere i simboli ed interpretarli, riproducendo tale esperienza nella > > tua mente. [1] > > > > > > Le parole di questa mail sono legate da relazioni semantiche: ogni > > parola viene scelta per contribuire alla trasmissione delle > > informazioni > > nella mia mente che intendo trasmettere. > > > > Non rileva molto, in realtà, che tali informazioni siano o meno > > derivate da esperienze sensibili (non concordo particolarmente con > > Enrico sulla rilevanza dell'esperienza corporea nel contesto delle > > "intelligenze artificiali", anche perché non è difficile collegare a > > questi software sensori e attuatori). > > > > Molto più rilevante è la relazione fra l'informazione nella mia mente > > (l'esperienza di pensiero comunicabile che intendo comunicare) e le > > parole che scelgo, in modo auspicabilmente adeguato, per trasmetterla. > > > > > > > > L'output di un LLM invece non ha alcun significato. > > > > I token estrati dal modello a partire dal prompt non sono legati da > > relazioni semantiche, ma statistiche. [2] > > > > Nessuna mente sta cercando di esprimere l'esperienza soggettiva di un > > pensiero comunicabile. I processi di attivazione degli strati finali > > della vector mapping machine (impropriamente detta "rete neurale > > arficiale") sono "difficili da interpretare" (per usare le parole di > > Giuseppe Attardi) semplicemente perché non hanno alcun significato > > intrinseco [3] e dunque non c'è nulla da interpretare. > > > > > > > > Il problema fondamentale è che chi non comprende il funzionamento di > > questi software attribuisce un significato al loro output, attribuendo > > alle parole relazioni semantiche invece che statistiche. > > > > > > Se usi un LLM come archivio compresso con perdita, può essere utile. > > Ad esempio, puoi estrarre da Claude o da Copilot il codice dei tuoi > > concorrenti che lo usano (fornendo loro in cambio accesso al tuo). > > O puoi ottenere lorem ipsum a tema per il prototipo del sito web di un > > cliente per praticamente qualsiasi ambito commerciale. > > > > Ma se lo confondi con un interlocutore, con un "AI peer programmer" > > (vedi marketing di GitHub CopyALot o Claude), sei vittima di un > > inganno. > > > > > > Giacomo > > > > [1] Infatti, contrariamente ad un protocollo software che permette il > > trasferimento (più propriamente, la copia) di un dato fra > > dispositivi diversi, il linguaggio non determina una trasferimento > > di informazione (che essendo esperienza soggettiva, non lascia mai > > la mente di chi la esperisce) ma solo una sincronizzazione, > > parziale > > e inesatta, fra menti umane. > > > > https://encrypted.tesio.it/2019/06/03/what-is-informatics.html#a-complex-re… > > > > [2] nota polemica: _statistiche_, non _probabilistiche_ perché i numeri > > prodotti a valle delle varie trasformazioni non lineari e delle > > normalizzazioni calcolate durante l'esecuzione del LLM sul "motore > > inferenziale" non sono più interpretabili matematicamente come > > probabilità. > > > > [3] così come non ne hanno i livelli iniziali, sebbene sia possibile > > ricondurre determinati pattern di attivazione a pattern > > particolarmente frequenti nel testo, come sono, ovviamente, le > > strutture grammaticali di una lingua.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by antonio

> I LLM hanno risolto il problema in modo radicalmente diverso: invece di codificare > regole, apprendono pattern statistici da enormi quantità di testo. Se venisse da me un ragazzino a chiedermi il funzionamento base di una rete neurale gli farei questo esempio. Vuoi tirare il rigore perfetto all'incrocio dei pali? Vieni con me. Ti porto nei pressi del dischetto e ti bendo. "Tira il pallone in una direzione a caso, poi io ti dirò come aggiustare il tiro". Un po' più a destra, un po' più alto, ancora più in alto, no, troppo, ora abbassa, e così per tutto il giorno. Io prenderò nota solo dei movimenti corretti. Dopo 10.000 rigori, non avrai più bisogno che io ti guidi. Avrai memorizzato esattamente la tensione muscolare e la potenza necessaria per colpire l'incrocio. A quel punto, toglieremo la benda e farai gol al primo colpo. Quindi abbiamo: 1) Il calciatore (la rete neurale): È lui che agisce, ma all'inizio non sa nulla. 2) Il tiro a caso (forward propagation): La rete neurale fa una previsione basandosi su pesi casuali. 3) Tu che correggi ("più a destra/alto") (Funzione di perdita/loss function): misuri l'errore tra dove è andata la palla e l'incrocio dei pali. 4) Aggiustare il tiro (backpropagation): Il calciatore capisce l'errore e modifica la posizione del corpo per il prossimo tiro. 5) Tirare tutto il giorno (addestramento/training): La rete impara iterando migliaia di volte finché non azzecca il tiro 6) Prendere nota (aggiornamento dei parametri della rete): I "pesi" sinaptici" vengono consolidati quando portano ad un risultato migliore. Bene, ora sostituisci quel "migliaia di volte" con questo numero: 38.000.000.000.000.000.000.000.000 e "tutto il giorno" con 54 giorni. (Il training di Llama 3.1 405B ha richiesto circa 3,8 * 10^25 FLOP utilizzando 16.384 GPU H100 per 54 giorni) p.s. forse è meglio citare De Gregori: Ma Nino non aver paura Di sbagliare un calcio di rigore Non è mica da questi particolari Che si giudica un giocatore Un giocatore lo vedi dal coraggio Dall'altruismo e dalla fantasia A.

May 11, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giuseppe Attardi

Temo di non poterti seguire su questa strada: il mio invito è proprio a separare la tecnologia in sé dalla filosofia. Specie in questa discussione in cui si insiste su approcci scientifici e galileiani. La fisica è generalmente limitata allo studio di concetti misurabili, osservabili e falsificabili attraverso la sperimentazione empirica, rendendola una scienza basata sull'evidenza piuttosto che filosofica. I concetti che non possono essere quantificati, misurati o osservati direttamente sono in genere considerati al di fuori dell'ambito della fisica, spesso classificati come metafisica. Quindi finché non si stabilisce come possa essere misurabile, osservabile e falsificabile il concetto di coscienza o comprensione umana, non se ne può discutere in termini scientifici. Ovviamente le implicazioni socio-politico-culturali della tecnologia vanno invece affrontate apertamente da tutti. È un errore però utilizzare argomentazioni pseudo-scientifiche come “non comprende in senso umano”, o “non ragiona in senso umano” per trarre delle conclusioni socio-politico-culturali. Il giudizio sui benefici e limiti della tecnologia vanno valutati mediante verifiche approfondite su larga scala, che ciascuno possa interpretare senza pregiudizi. — Beppe On 10 May 2026, at 06:42, Guido Vetere <vetere.guido(a)gmail.com> wrote: Però Beppe, come vedi anche dal titolo di questo thread, la tecnologia gronda di filosofia (il realismo, in questo caso), soprattutto quando fa irruzione in problemi ‘hard’ come quelli del significato o della coscienza (due temi, tra l’altro, connessi in modo interessante). Non credo che, quando si arriva al nocciolo di certe questioni aperte, si possa dire “di questo si occupino i filosofi” (sottotesto: inutilmente), perché di fatto in questa apertura ‘intersezionale' ci troviamo tutti a vivere e operare. La vicenda di questo appello mostra bene la questione. I proponenti sottoscrivono una posizione filosofica, quella del realismo aristotelico (la realtà è la stessa per tutti e alle parole non resta che nominare le cose) mentre chi vi si oppone, consapevolmente o meno, apre all’idea che il linguaggio sia (anche? solo?) imitazione e ripetizione (una linea che da Hume porta a Deleuze, dove troviamo a modo suo anche Wittgenstein). Anche gli informatici, a mio avviso, dovrebbero avere un atteggiamento filosofico, cioè problematico, che accetta di sostare nella domanda piuttosto che limitarsi a rispondere. Gli sviluppi recenti dell'AI dicono sicuramente qualcosa sul problema del significato (cioè: come fa la parola a uscire nel mondo?), deponendo, almeno in una certa lettura, a favore di quello che è stato chiamato ’espressivismo’, però non giustificano l’idea che il problema del segno (aliquid stat pro aliquo) sia stato risolto per dissoluzione (gli automi riescono a parlare senza segno, dunque il segno non esiste). La critica realistica ai ‘pappagalli stocastici’ è filosoficamente ingenua e tecnicamente discutibile (almeno nella formulazione dell’appello) ma rivela che il problema del ‘fondamento’ esiste e non può essere ignorato. Il linguaggio è tante cose (qui ancora torna alla mente Wittgenstein) e ci sono molti usi (uno per tutti: giuridico) in cui è necessario che il significato sia non solo spiegato ex-post, ma garantito ex-ante. Si tratta di una questione che la performance neurale non tocca, perché riguarda il titolo del significare, non il suo fatto. Buona domenica, Guido Il giorno 9 mag 2026, alle ore 22:24, Giuseppe Attardi via nexa <nexa(a)server-nexa.polito.it> ha scritto: Questo è un tema che lascerei ai filosofi. Come informatici abbiamo cose più concrete a cui pensare.

May 11, 2026