- nexa - server-nexa.polito.it

Re: nexa Digest, Vol 205, Issue 38
by Giuseppe Attardi May 12, 2026

May 12, 2026

Non esattamente: ti sfugge che il calciatore (la rete neurale) ha una sua capacità di apprendere legata alla struttura del suo modello: la backpropagation stimola l’apprendimento ma non basta se il modello è inadeguato. Sostituisci al calciatore una rete fatta di un singolo perceptron e il meccanismo non funziona. Proprio sul ruolo cruciale dell’architettura dei modelli sta la differenza con l’interpretazione di macchina-statistica. I successi del Deep Learning sono dovuti proprio ai progressi nelle architetture dei modelli. — Beppe On 11 May 2026, at 13:09, nexa-request(a)server-nexa.polito.it wrote: From: antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <20260511122219.a36e31cefab1826de25daa7e(a)piumarossa.it<mailto:20260511122219.a36e31cefab1826de25daa7e@piumarossa.it>> Content-Type: text/plain; charset=ISO-8859-1 I LLM hanno risolto il problema in modo radicalmente diverso: invece di codificare regole, apprendono pattern statistici da enormi quantità di testo. Se venisse da me un ragazzino a chiedermi il funzionamento base di una rete neurale gli farei questo esempio. Vuoi tirare il rigore perfetto all'incrocio dei pali? Vieni con me. Ti porto nei pressi del dischetto e ti bendo. "Tira il pallone in una direzione a caso, poi io ti dirò come aggiustare il tiro". Un po' più a destra, un po' più alto, ancora più in alto, no, troppo, ora abbassa, e così per tutto il giorno. Io prenderò nota solo dei movimenti corretti. Dopo 10.000 rigori, non avrai più bisogno che io ti guidi. Avrai memorizzato esattamente la tensione muscolare e la potenza necessaria per colpire l'incrocio. A quel punto, toglieremo la benda e farai gol al primo colpo. Quindi abbiamo: 1) Il calciatore (la rete neurale): È lui che agisce, ma all'inizio non sa nulla. 2) Il tiro a caso (forward propagation): La rete neurale fa una previsione basandosi su pesi casuali. 3) Tu che correggi ("più a destra/alto") (Funzione di perdita/loss function): misuri l'errore tra dove è andata la palla e l'incrocio dei pali. 4) Aggiustare il tiro (backpropagation): Il calciatore capisce l'errore e modifica la posizione del corpo per il prossimo tiro. 5) Tirare tutto il giorno (addestramento/training): La rete impara iterando migliaia di volte finché non azzecca il tiro 6) Prendere nota (aggiornamento dei parametri della rete): I "pesi" sinaptici" vengono consolidati quando portano ad un risultato migliore. Bene, ora sostituisci quel "migliaia di volte" con questo numero: 38.000.000.000.000.000.000.000.000 e "tutto il giorno" con 54 giorni. (Il training di Llama 3.1 405B ha richiesto circa 3,8 * 10^25 FLOP utilizzando 16.384 GPU H100 per 54 giorni) p.s. forse è meglio citare De Gregori: Ma Nino non aver paura Di sbagliare un calcio di rigore Non è mica da questi particolari Che si giudica un giocatore Un giocatore lo vedi dal coraggio Dall'altruismo e dalla fantasia A.

3 2

La responsabilità sociale
by Junio Caselli May 12, 2026

May 12, 2026

Mi collego a quanto scritto da Daniela Tafani per aggiungere il mio punto di vista: Le generazioni che crescono con l’AI come baseline cognitiva sono esposte a una vulnerabilità nuova. Non solo rischiano di essere giudicate da sistemi opachi, ma di esserlo in assenza di strumenti autonomi per riconoscerne limiti, errori, omissioni e presupposti. La futura mutazione dei diritti sociali avrà tra le sue cause principali questo spostamento dell’autorità cognitiva. Il nodo non è soltanto l’indebolimento della capacità cognitiva dovuto all’uso dell’AI, questione già ampiamente discussa, ma il trasferimento dell’autorità cognitiva: chi sembra avere ragione, che cosa appare vero, quale framing si impone o dove si arresta il dubbio. L’AI fornisce vantaggi tattici evidenti nel breve periodo, come per esempio, a prescindere dall’etica sottesa, può aiutare a superare un esame, a redigere un progetto, a produrre testi formalmente convincenti o a simulare una competenza che ancora non si possiede. Ma, in assenza di una governance distribuita e di robuste difese epistemiche, tende a dividere le persone tra chi è dentro la matrice cognitiva dell’AI e chi la usa mantenendone la distanza. I secondi sono pochi. I primi sono molti, e provengono più spesso da contesti che non hanno fornito loro strumenti sufficienti di protezione epistemica. In questo senso la nuova asimmetria dei diritti sociali non sarà soltanto economica o tecnologica o di accesso, ma potrà essere a che e gravemente cognitiva e istituzionale. Junio > Il giorno 11 mag 2026, alle ore 18:56, nexa-request(a)server-nexa.polito.it ha scritto: > > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via email, send a message with subject or > body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > Today's Topics: > > 1. Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società > (antonio) > 2. Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società > (Enrico Nardelli) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 11 May 2026 17:54:32 +0200 > From: antonio <antonio(a)piumarossa.it> > Subject: [nexa] Re: Una visione realistica dell’Intelligenza > Artificiale - Lettera aperta alla società > To: nexa(a)server-nexa.polito.it > Message-ID: <20260511175432.6515ec420feb62f282897af3(a)piumarossa.it> > Content-Type: text/plain; charset=ISO-8859-1 > >> Eh, no! Lo confondi ed è peggio. >> L'hai "addestrato" cieco? E cieco conviene che tiri i rigori. > > Hai ragione, infatti quella frase ero incerto se e come inserirla. > Si può intenderla come: > "Ho visto la luce!" (cit. John Belushi in "Blues Brothers") dopo aver > calcolato al buio dentro la "black box". > Ma se rimaniamo dentro la metafora dell'uscire dal buio come assunzione > di consapevolezza e cognizione di sé e della realtà, > allora è meglio che il calciatore/AI resti bendato. > > Forse per un ragazzino un discorso troppo filosofico ;) > > A. > > ------------------------------ > > Message: 2 > Date: Mon, 11 May 2026 18:56:16 +0200 > From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> > Subject: [nexa] Re: Una visione realistica dell’Intelligenza > Artificiale - Lettera aperta alla società > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Message-ID: <2b382e08-923c-4019-9f66-bc0de37da1d3(a)mat.uniroma2.it> > Content-Type: multipart/alternative; > boundary="------------WpHNbW4yHA2lHqCXHEVShcjD" > > Cara Daniela > > grazie a te per ricordare sempre infaticabilmente l'importanza di > riflettere su cosa fanno questi strumenti alla società e di cercare di > riprenderne il controllo. > > Grazie anche per i riferimenti (*) e (**) che non conoscevo. > > Molto interessante il riferimento alla visione dell'IAgen come "culto"... 🙂 > > Segnalo questi due ulteriori articoli interessanti in merito ai danni > dell'uso di strumenti di IAgen nei processi di apprendimento: > > - questo di Anthropic, particolarmente rilevante perché è > sostanzialmente l'oste che dice che il suo vino può far male > How AI assistance impacts the formation of coding skills > https://www.anthropic.com/research/AI-assistance-coding-skills > > - questo di ricercatori indipendenti su matematica e lettura > AI Assistance Reduces Persistence and Hurts Independent Performance > https://ai-project-website.github.io/AI-assistance-reduces-persistence/ > > Ciao, Enrico > > > Il 10/05/2026 11:49, Daniela Tafani ha scritto: >> Caro Enrico, >> >> volevo ringraziarti di aver rivolto ai tuoi colleghi, con la lettera aperta, >> un invito a non coltivare quello che chiamate un "fraintendimento". >> >> Come accade sovente in ambito religioso, c'è un doppio aspetto: >> >> - il fraintendimento di cui vi occupate, generato da una debolezza antropologica, dalla tendenza della natura umana >> a una forma animistica di pensiero magico; >> - l'inganno dei sacerdoti di questa specifica religione statutaria, variamente interessati al potere o al profitto che derivano da un simile culto. >> >> Da un punto di vista filosofico, gli argomenti di Searle su intelligenza e proprietà emergenti non sono mai stati confutati. >> >> La religione della tecnologia resta: già David Noble osservava che il concetto stesso di intelligenza artificiale è erede del mito giudaico-cristiano della creazione come di una procreazione divina maschile, senza donne e senza sesso. >> >> Trattandosi di un culto, qualcuno ha legittimamente richiesto di essere esentato dall'uso dei chatbot in nome della libertà religiosa >> (Catherine Sawers: "I have a religious exemption from using all generative 'A.I.' I am not a member of the Silicon Valley sect"). >> >> Ne approfitto per aggiungere all'elenco tuo e di Giacomo (se le aveste già citate, scusatemi) >> un altro paio di pubblicazioni sugli effetti dequalificanti dell'uso dei chatbot: >> >> - sulla "resa cognitiva", in virtù della quale si finisce per adottare l’output di un chatbot senza verifica e anche nei casi in cui contrasti con le proprie intuizioni o i propri ragionamenti*; >> - sull'atrofia cognitiva negli adulti e sul mancato apprendimento nei bambini: negli adulti, con l’uso dei chatbot si indeboliscono, senza rendersene conto, le capacità che si possedevano e che possono tuttavia essere recuperate; nei giovani, l’uso di tali sistemi preclude del tutto l’apprendimento e abitua a a omologarsi, a non pensare, a recepire pensieri già formulati da altri**; >> >> Va da sé che non si tratti di spiacevoli effetti collaterali, ma, come sempre, di una delle funzioni di questi sistemi, >> ritenute economicamente e politicamente utili dal complesso militare-industriale che controlla, in questo momento, >> le traiettorie di sviluppo della tecnologia: dequalificazione e dipendenza da piattaforme e software proprietari, per quanto scadenti, >> sono obiettivi intrecciati, funzionali alla riduzione dei cittadini a sudditi in stato di minorità. >> >> L'obiettivo delle grandissime aziende è che, anche nella vita privata, attività e relazioni umane siano non solo mediate dai loro prodotti, ma siano intrattenute direttamente con quelli, anziché con altri esseri umani: anche in questo ambito si mira a produrre dipendenza, perché questa è funzionale alla sorveglianza, alla manipolazione e al controllo degli utenti. Si diventa dipendenti dall'amico immaginario perché nella realtà c'è un software che estrude output che danno rinforzo senza contenimento, all'infinito. Psicologicamente, è una ricetta per il disastro. Non a caso, qualcuno ha osservato che l'attuale modello di business dell'IA generativa è quello della "psicosi come servizio". Non stupisce, quindi, il caso italiano recentissimo - dopo gli innumerevoli casi statunitensi - di una dipendenza da chatbot presa in carico dal sistema sanitario. >> >> Uno pseudo studio edtech sugli effetti positivi dei chatbot è appena stato ritrattato da Nature***. >> >> Un caro saluto, >> Daniela >> >> >> * Timothy Cook, Adults Lose Skills to AI. Children Never Build Them, “Psychilogy Today”, March 22, 2026,https://www.psychologytoday.com/us/blog/the-algorithmic-mind/202603/ad…. >> ** Steven D. Shaw, Gideon Nave, Thinking ‐ Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender, “The Wharton School Research Paper”, January 11, 2026,https://doi.org/10.31234/osf.io/yk25n_v1. >> *** Retraction Note: The effect of ChatGPT on students’ learning performance, learning perception, and higher-order thinking: insights from a meta-analysis,https://www.nature.com/articles/s41599-026-07310-z. >> >> >> >> ________________________________________ >> Da: Enrico Nardelli via nexa<nexa(a)server-nexa.polito.it> >> Inviato: sabato 9 maggio 2026 19:20 >> A:nexa@server-nexa.polito.it >> Oggetto: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società >> >> Grazie Giacomo >> >> per il riferimento a questo studio di Antrhopic, che non conoscevo quando avevo scritto il mio pezzo di un paio di mesi fa us IAgen e sviluppo softwarehttps://www.startmag.it/innovazione/iagen-lavoro-sviluppo-software/ >> >> È molto interessante, perché condotto seguendo gli approcci usati nella ricerca in didattica dell'informatica (o computer science education che dir si voglia): >> >> We found that using AI assistance led to a statistically significant decrease in mastery. On a quiz that covered concepts they’d used just a few minutes before, participants in the AI group scored 17% lower than those who coded by hand, or the equivalent of nearly two letter grades. Using AI sped up the task slightly, but this didn’t reach the threshold of statistical significance. >> >> Questo risultato ribatte quello in molti altri settori sta emergendo rispetto all'uso dell'IA nel settore educativo, che è esemplificato da questo studio massiccio (di cui forse si è già parlato qui in mailing list) sul cosiddetto "Debito Cognitivo". >> >> Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task >> https://arxiv.org/pdf/2506.08872v2 >> >> As the educational impact of LLM use only begins to settle with the general population, in this study we demonstrate the pressing matter of a likely decrease in learning skills based on the results of our study. The use of LLM had a measurable impact on participants, and while the benefits were initially apparent, as we demonstrated over the course of 4 months, the LLM group's participants performed worse than their counterparts in the Brain-only group at all levels: neural, linguistic, scoring >> >> Ciao, Enrico >> >> NB: il grassetto delle citazioni è mio >> >> >> >> Il 08/05/2026 19:57, Giacomo Tesio via nexa ha scritto: >> >> Suvvia Enrico, non te la prendere: non è nulla di personale. >> >> On Fri, 8 May 2026 17:43:17 +0200 Enrico Nardelli wrote: >> >> >> >> Guido, io ho scritto: >> [...] >> >> tu mi replichi >> [...] >> >> NO! Se io avessi scritto >> [...] >> >> Ma siccome ho scritto una cosa diversa, [...] >> >> >> >> Sono certo che Guido non abbia usato un agente automatico per ottenere >> un riassunto della tua mail perché sa che sarebbe un'enorme mancanza di >> rispetto per il tempo che hai dedicato a scrivergli. >> >> Semplicemente, leggere fischi per fiaschi è un effetto collaterale >> comunissimo dell'uso intensivo di riassunti prodotti da software >> programmati statisticamente. >> >> >> Come ogni altra facoltà intellettiva, l'attenzione richiede costante >> allenamento. Nemmeno Anthropic ha il coraggio di negarlo [1][2]: >> https://www.anthropic.com/research/AI-assistance-coding-skills >> >> """ >> On average, participants in the AI group finished about two minutes >> faster, although the difference was not statistically significant. >> There was, however, a significant difference in test scores: the AI >> group averaged 50% on the quiz, compared to 67% in the hand-coding >> group—or the equivalent of nearly two letter grades (Cohen's d=0.738, >> p=0.01). The largest gap in scores between the two groups was on >> debugging questions, suggesting that the ability to understand when >> code is incorrect and why it fails may be a particular area of concern >> if AI impedes coding development. >> """ >> >> Un effetto collaterale che tende a vanificare persino l'utilità dei >> "riassunti automatici" per chi, come suggerivo in altra mail, legge >> comunque i documenti da riassumere. >> >> >> Giacomo >> >> [1] pur argomentato che dipende da come le usi, per cui se >> rincretinisci, è solo colpa tua... ;-) >> >> [2] Per altro, ben 2 minuti in meno nel completare lo sviluppo con un AI >> (a pagamento) per diverse ore in più a debuggarlo: che affarone! :-D >> >> >> >> -- >> >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> [cid:part1.B02fsOl4.0jOB00vj@mat.uniroma2.it] ====================================================== >> Prof. Enrico Nardelli >> Past President di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page:https://www.mat.uniroma2.it/~nardelli >> blog:https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail:nardelli@mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> >> online meeting:https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> >> -- > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > --

1 0

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by Giuseppe Attardi May 11, 2026

May 11, 2026

Scusate se mi sono perso alcuni passaggi, provo a replicare a più obiezioni insieme. Non credo di riuscire a convincere gli estensori della petizione, ma spero di instillare qualche dubbio in altri rispetto alla “nostra [della petizione] visione”. Che gli LLM funzionino esattamente come predittori del prossimo token, con una serie di ammenicoli di contorno che non cambiano la loro natura di fondo, è spiegato - tra l'altro - nello studio citato in questo articolo https://www.computerworld.com/article/4059383/openai-admits-ai-hallucinatio… È difficile capire davvero come si svolge il processo di generazione delle risposte tramite un LLM, ma non bisogna limitarsi a guardare alla superficie, ossia all’uso della distribuzione di probabilità delle parole per dire che i modelli sono solo generatori statistici del prossimo token. In realtà il processo è ben più complesso, perché consiste prima di tutto nella costruzione di una rappresentazione a molti livelli di astrazione, del contesto di partenza, che include la rappresentazione del senso delle parole nel primo strato di embedding e poi di relazioni sintattiche tra le parole nelle matrici di attention a livelli superiori, poi riferimenti anaforici e altre relazioni che non sappiamo interpretare in altri livelli. Alcune di queste relazioni sono state esaminate con dei probe sui modelli, come i syntax probe. Durante la generazione sono coinvolte le attivazioni della rete a tutti i suoi livelli, ossia centinaia di milioni, che è impossibile esaminare manualmente. Ma una idea interessante è quella di usare un altro modello per analizzare le attivazioni della rete e produrne una verbalizzazione leggibile da noi. L’architettura del meccanismo è descritta in un interessante articolo di ricercatori di Anthropic, si basa su Natural Language Autoencoders (NLAs) e comprende due modelli, uno per verbalizzazione (AV, Activation Verbalizer) ed uno per verificare (AR, Activation Reconstructor) che corrisponda alle attivazioni della rete. Uno degli esempi analizza il processo di generazione di una poesia in rima e mostra come il modello pianifichi l’uso di una successiva parola in rima ben prima del token precedente la rima. Un altro esperimento, riproducibile tramite codice GitHub, utilizza un prompt che inizia così, per chiedere di indicare quali elementi vengono sfruttati per produrre la risposta: A language model needs to predict what text comes next after a snippet which will be presented to you shortly. Identify the 4-5 most important features it would use for this prediction. Focus on what the language model must be "thinking about" at the point where the provided text ends. You should not need reference the fact that the text is truncated/incomplete/a prefix: the language model is causal, so only sees the prefix to what it predicts and this is implicit. Order features by what is most important for predicting the next tokens. Each feature should consist of a ~5-15 word description. … Ottenendo ad esempio: "Annals of the Joseon" requires completion of the dynasty name, following the established pattern of full title references throughout (e.g., "Annals of Joseon Dynasty" appearing twice earlier). Historical narrative describing a specific dated event (November 15, 1519 arrests) now transitioning to "the following day" cabinet meeting, requiring continuation of sequential political proceedings. Formal historical chronicle style maintained through passive constructions, detailed titles, and objective third-person narration of court intrigue and factional conflict. Quotation pattern established with section headers ("Jo will become the King", "What is their crime?") suggests the cabinet meeting description will include direct dialogue or quoted exchanges about Jo's fate. … https://transformer-circuits.pub/2026/nla/ Dopo di che, il dibattito di opinioni è libero, ci mancherebbe altro, ma quando andiamo su temi scientifici e tecnologici, e se vogliamo rimanere in un paradigma di conoscenza galileiano, le opinioni dovrebbero essere sostenute da evidenze sperimentali assai vaste e robuste, che mi pare non ci siano in questo momento. Ci sono numerose evidenze sperimentali sulle capacità degli attuali modelli, ad esempio nella dimostrazione di problemi matematici irrisolti, nella risoluzione di questioni di fisica teorica (https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s <https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s>), nella risoluzione di problemi informatici, come racconta con shock Donald Knuth (https://cs.stanford.edu/~knuth/papers/claude-cycles.pdf) Aggiungo solo che come evidenze alle tue affermazioni, porti un video di YouTube e un articolo di opinione di Donald Knuth, rispettabilissimo mostro sacro dell'informatica, ma - appunto - un'opinione e non un'evidenza sperimentale. Vedo che tu citi un blog aziendale di OpenAI ma non accetti un articolo di Donald Knuth, che ha avuto diversi riscontri, al punto di dire: This result is significant for at least three reasons. First, it demonstrates that modern language models can function as tools for creative mathematical discovery, not merely coding assistants. Second, Claude’s methodology, which included successive reformulations, failed experiments, and eventual synthesis, structurally resembles the process a human researcher follows. Third, the subsequent extension of the problem to even numbers, achieved through collaboration between humans and multiple models (Claude and GPT), signals a new form of human-machine mathematical collaboration. Non solo, ma l’articolo di Knuth analizza proprio il procedimento seguito da Claude per arrivare alla soluzione, quelle che chiama cicli di “exploration”, un procedimento quindi ben più articolato degli asseriti "predittori del prossimo token”. In ogni caso, la petizione che afferma che i modelli svolgono compiti cognitivi che "non equivalgono a comprensione nel senso umano del termine”, e finchè tu non definisci “scientificamente”, “galileanamente”, cosa significhi “in senso umano”, la questione è mal posta. Basta comunque un solo controesempio, tra quelli che ho citato, per mostrare che non sanno solo "riorganizzare le informazioni già presenti nei dati”. Stesso discorso all’obiezione di Quintarelli: gli esempi servivano a illustrare il “procedimento” utilizzato, non tanto il risultato. — Beppe On 8 May 2026, at 20:31, nexa-request(a)server-nexa.polito.it wrote: From: Enrico Nardelli <nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <806f9bff-2906-4d3b-b375-afae87e6f80f(a)mat.uniroma2.it<mailto:806f9bff-2906-4d3b-b375-afae87e6f80f@mat.uniroma2.it>> Content-Type: multipart/alternative; boundary="------------t48ad3Ez6bZpaV0pJGKLTCSS" Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: bolla ? si inutile ? no questi oggetti, anche se non pensano (non sognano, non immaginano, non riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo un senso, chiamiamo errori), sono comunque assai utili! il mondo (e le aziende) e' pieno di casi d'uso in cui l'approssimazione va piu' che bene, fintanto che lo human resta in the lead. come dice uno dei capi di openai, oggi costano piu' degli umani. e la speculazione fa il resto. per cui, si, siamo in bolla. si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' raccolto abbastanza soldi da donatori?W investitori, sufficienti per traghettarsi fino al momento della sostenibilita' economica. imho Sono molto d'accordo con la visione pragmatica di Stefano. Non sarà la nuova età dell'oro né la fine del mondo. Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers come esempio, o anche quello che è successo in Europa con le banche franco-tedesche al tempo della crisi greca, se li farà ridare da governi più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è comunque un'utilità in queste tecnologie. La vera sfida è sociale: abbiamo visto i danni che hanno prodotto smartphone e social a go-go soprattutto sulla generazioni più giovani - Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente qui https://www.startmag.it/innovazione/strumenti-digitali-e-apprendimento-plat… L'invasività delle tecnologie basate sull'IA è ancora maggiore e più nefasta (e Daniela Tafani ce lo ricorda periodicamente). Qui https://arxiv.org/abs/2601.19062 c'è un'analisi di un milione e mezzo di conversazioni, con questo abstract: /... We focus on situational disempowerment potential, which occurs when AI assistant interactions risk leading users to form distorted perceptions of reality, make inauthentic value judgments, or act in ways misaligned with their values. Quantitatively, we find that severe forms of disempowerment potential occur in fewer than one in a thousand conversations, though rates are substantially higher in personal domains like relationships and lifestyle. Qualitatively, we uncover several concerning patterns, such as validation of persecution narratives and grandiose identities with emphatic sycophantic language, definitive moral judgments about third parties, and complete scripting of value-laden personal communications that users appear to implement verbatim. Analysis of historical trends reveals an increase in the prevalence of disempowerment potential over time. We also find that interactions with greater disempowerment potential receive higher user approval ratings, possibly suggesting a tension between short-term user preferences and long-term human empowerment. .../ Non c'è da stare allegri. Ci sono dei segni di reazione, vedi ad esempio https://futurism.com/artificial-intelligence/gen-z-turning-against-ai /... there’s been a surge in resentment towards AI, which has encroached almost every aspect of our daily lives, from the never-ending slop in our social media feeds to flawed chatbots poorly assuming the roles of human customer service agents. As The Verge reports, the backlash is particularly apparent among Gen Z, a demographic that’s at the epicenter of the industry’s push for AI adoption. The generation is facing a dire post-graduation job market after losing much of its youth to the COVID-19 pandemic. Usually, young people love new innovations. But for Gen Z, a tech inherently designed to replace human agency is strikingly unwelcome — and inspiring a growing rebellion. .../ Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo fanno. Buon fine settimana a tutti, Enrico -- -- EN

10 17

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by Giuseppe Attardi May 11, 2026

May 11, 2026

On 9 May 2026, at 20:56, nexa-request(a)server-nexa.polito.it wrote: From: Enrico Nardelli <nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <c2c44e6a-13b6-4804-98ae-3fde3df3c187(a)mat.uniroma2.it<mailto:c2c44e6a-13b6-4804-98ae-3fde3df3c187@mat.uniroma2.it>> Content-Type: multipart/alternative; boundary="------------DjnuUCGhhuP0y3RT06KmfYa0" Grazie Beppe per il contributo al dibattito. Un paio di osservazioni, anzi tre. 1. Dal mio punto di vista, "senso delle parole" è un'espressione che possiamo usare noi esseri umani, Non farne una questione nominalistica, se vuoi chiamala “rappresentazione multisfaccettata dell’uso, delle similitudini e di altri aspetti del significato delle parole” Ma è il primo risultato basilare ottenuto con l’applicazione delle reti neurali al NLP, che ha consentito tutti i progressi successivi. Filosofi e linguisti hanno dibattuto per millenni su cosa fosse il “senso delle parole”, senza produrre mai una definizione utilizzabile. Una definizione del “senso delle parole”, anche solo approssimata, che sia operabile e non astratta è necessaria per ogni compito di NLP. I word embedding contestuali sono la rappresentazione migliore che abbiamo finora concepito e funzionano bene. ma quando la attribuiamo ad un meccanismo stiamo commettendo esattamente la fallacia di proiezione di cui si sta discutendo qua in lista. Parlare invece di "rete di relazione tra i termini che ne modella la semantica" è tutta un'altra cosa, perché stabilisce chiaramente che stiamo parlando di modelli. Anche perché il senso delle parole per noi umani passa attraverso l'esperienza che il nostro corpo ha fatto delle tante situazioni in cui ha usato o sentito usare o visto usare quella parola. Ovviamente, per i termini più tecnici questo è meno rilevante, ma questi termini tecnici sono, appunto, più precisi e in genere non ambigui, dato il contesto. Posso comprendere che tu abbia un'opinione diversa, ma - come avevo già scritto nel mio primo messaggio - se andiamo su domini vicini all'essere umano e parliamo di sentimenti ed emozioni allora io sicuramente ritengo che "senso delle parole" sia del tutto improprio. Attendo che tu proponga una definizione operativa migliore del “senso delle parole” di quelle che l’umanità ha proposto finora. E, per riallacciarmi ad una tua precedente osservazione, non sono questioni da lasciare ai filosofi. Non possiamo e non dobbiamo, da informatici, occuparci solo degli aspetti tecnici della nostra disciplina trascurandone gli impatti sociali. Certo che dobbiamo fare ricerca, ma farla senza cercare di comprendere la più ampia portata di ciò che si sta facendo è disumano e, come già accaduto in passato, può portare ad aberrazioni inaccettabili per la nostra specie. Stai fraintendendo: sono in prima linea nel segnalare gli impatti socio-economici dell’informatica, faccio parte del Laboratori CINI su Scienza e Società, sono intervenuto a diverse audizioni parlamentari su questioni di tecnologia digitale, ho sostenuto e promosso il tuo progetto Pensiero Computazionale. Ho detto di lasciare ai filosofi questioni come decidere se un AI è senziente o meno, ha coscienza o meno. Ecco quel che ho scritto: Cosa importa se un programma di AI o un robot è senziente o meno, ha coscienza o meno, quando noi stessi non sappiamo bene cosa sia, se non appunto sforzandoci di descriverlo in letteratura? Questo è un tema che lascerei ai filosofi. Come informatici abbiamo cose più concrete a cui pensare. Saluti — Beppe

5 7

194° Mercoledì di Nexa | 20 maggio 2026, ore 17.00
by Nexa - Media May 11, 2026

May 11, 2026

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 194° Mercoledì di Nexa, che si terrà mercoledì 20 maggio, alle ore 17.00, con un incontro dal titolo "Macchine dotate di linguaggio. Che cosa l’Intelligenza artificiale generativa ci dice dell’essere umano". Ospite dell'incontro: Claudio Paolucci (Università di Bologna). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/mercoledi-194 Vi ringraziamo per l'attenzione, Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society<web:%20https://nexa.polito.it> DAUIN - Politecnico di Torino Via Pier Carlo Boggio, 65/a – Torino Digital Communication Assistant DAUIN - Politecnico di Torino<https://www.dauin.polito.it> Corso Castelfidardo 34/D - Torino mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

1 0

Karen Hao, "I Tracked Down the Hidden Workers Secretly Powering ChatGPT"
by J.C. DE MARTIN May 10, 2026

May 10, 2026

Ottimo reportage della bravissima Karen Hao (autrice di "Empire of AI"). Da non perdere per capire che cosa sta capitando a centinaia di migliaia di laureati e PhD: *I Tracked Down the Hidden Workers Secretly Powering ChatGPT* https://youtu.be/aooiDA-AsNo?si=QvBKFXqOirWwqvRj Juan Carlos

1 0

Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by J.C. DE MARTIN May 9, 2026

May 9, 2026

Vi segnalo questa lettera aperta: https://www.petizioni.com/visione_realistica_intelligenza_artificiale Uno dei promotori è l'amico Enrico Nardelli, ben noto a chi frequenta questa lista. JC

5 4

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by Giuseppe Attardi May 8, 2026

May 8, 2026

On 7 May 2026, at 18:40, nexa-request(a)server-nexa.polito.it wrote: From: Enrico Nardelli <nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <8a7f9333-4605-4ff7-ae0e-309acff38cc2(a)mat.uniroma2.it<mailto:8a7f9333-4605-4ff7-ae0e-309acff38cc2@mat.uniroma2.it>> Content-Type: multipart/alternative; boundary="------------70L2TkMM0TcLXaC3I0o2YbZ6" Scusa Beppe vuoi forse sostenere che “Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono” sia una premessa discutibile? Quando dici “cosa queste tecnologie siano davvero”, interpreto quel davvero come un riferimento alle premesse della petizione, ossia: Che cos'è un sistema di intelligenza artificiale generativa? I sistemi di IA generativa “capiscono”? Dove funzionano e dove no A che punto siamo davvero: il tema dell’AGI Il rischio del fraintendimento In quelle premesse c’è già una precisa visione e interpretazione della tecnologia, che si chiede a tutta la comunità di accettare e condividere. Vuoi forse sostenere che chiedere a tutti di impegnarsi a sostenere le nostra visione sia inaccettabile? E che è, siamo nel pensiero unico? Certo che è inaccettabile: chiedere di sostenere la “vostra” visione. La ricerca e la formazione non devono essere condizionate dalle opinioni di qualcuno. Proprio l’opposto del pensiero unico. Noi abbiamo presentato la nostra visione di "cosa queste tecnologie sono davvero, e che cosa non sono", ma non ti impediamo di essere in disaccordo, e infatti lo manifesti liberamente. Dov'è che "*pretendiamo* di imporre a tutti la nostra visione”? Quando "Invitiamo la comunità accademica dell’informatica a contribuire attivamente a questa opera di chiarimento e formazione." Dove interpreto ”questa opera di chiarimento” quello che avete sopra delineato. In che modo noi "*pretendiamo* che l'intera comunità le sottoscriva o addirittura si impegni a propagandarle”? È l’obiettivo della petizione. "Invitiamo altresì studiosi e ricercatori di altri settori a contribuire a quest’attività”, dove "questa attività" la interpreto come diffondere la “vostra” visione. Dov'è che abbiamo negato che bisogna impegnarsi nella ricerca? Non l’ho detto, ho detto che la priorità della comunità scientifica italiana ed europea sarebbe un impegno straordinario nella ricerca in AI. Occuparsi di questioni indeterminate come stabilire se gli LLM “capiscano nel senso umano” è una distrazione. Tu non sei d'accordo e non hai firmato, ma diverse decine di colleghi hanno manifestato il loro accordo con noi. Che da una descrizione testuale si possa capire la realtà è vero nel dominio matematico, che è svincolato dalla necessità di un supporto fisico concreto, ma nel resto della scienza è sempre la realtà che ha l'ultima parola. Le formule della fisica descrivono i fenomeni fisici e consentono di spedire satelliti in orbita, tenendo conto persino della Meccanica Quantistica, che nessuno può dire di capire davvero. Ciò che importa è che funzioni, non se funziona come si ipotizza funzioni la mente umana. La “realtà” è solo ciò che qualcuno percepisce: la fisica quantistica mette in forte dubbio la visione classica di un mondo obiettivo e indipendente dall’osservatore. Oggi i modelli sanno leggere e interpretare immagini e quindi farsi una propria idea della realtà. Una simulazione di un uragano non ti bagna, né quella di un incendio ti brucia, anche se possono essere entrambe molto utili. E allora? Nessuno pretende che un modello di AI coincida con i fenomeni che tratta. E se andiamo su domini vicini all'essere umano, beh, potrai leggere tutti i romanzi del mondo, ma se non hai mai provato amore, odio, felicità, tristezza... allora non capisci niente del mondo: e infatti i chatbot di terapia psicologica sono il caso applicativo più delicato e pericoloso. E allora? Cosa importa se un programma di AI o un robot è senziente o meno, ha coscienza o meno, quando noi stessi non sappiamo bene cosa sia, se non appunto sforzandoci di descriverlo in letteratura? Questo è un tema che lascerei ai filosofi. Come informatici abbiamo cose più concrete a cui pensare. Dopo di che, il dibattito di opinioni è libero, ci mancherebbe altro, ma quando andiamo su temi scientifici e tecnologici, e se vogliamo rimanere in un paradigma di conoscenza galileiano, le opinioni dovrebbero essere sostenute da evidenze sperimentali assai vaste e robuste, che mi pare non ci siano in questo momento. Ci sono numerose evidenze sperimentali sulle capacità degli attuali modelli, ad esempio nella dimostrazione di problemi matematici irrisolti, nella risoluzione di questioni di fisica teorica (https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s) nella risoluzione di problemi informatici, come racconta con shock Donald Knuth (https://cs.stanford.edu/~knuth/papers/claude-cycles.pdf) Con immutata stima, Enrico Contraccambio, Beppe PS. Il Deep Learning ha costituito un cambio di paradigma enorme e la mia impressione è che molti non riescano ad accettarlo, così come in passato non si voleva accettare Copernico o Darwin. Ma certo non si ferma una rivoluzione denigrando ciò che si fa fatica a capire. Il 07/05/2026 16:04, Giuseppe Attardi via nexa ha scritto: Non ho criticato la petizione perché nega la necessità di un CERN for AI, ma perché parte da premesse discutibili e indica una direzione sbagliata. Forse è sfuggito a molti che ha un’impostazione inaccettabile, perché chiede a tutti (la società) di impegnarsi a sostenere e diffondere una certa interpretazione della tecnologia, quella espressa nelle premesse: “Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono” ossia che ad esempio "Sono molto potenti nel riorganizzare le informazioni già presenti nei dati, ma non costruiscono modelli del mondo nel senso in cui lo fanno gli esseri umani." Ci sono numerosi casi di risultati che non sono ottenibili “riorganizzando informazioni già presenti nei dati”. E quanto ai “modelli del mondo in senso umano” siamo nella metafisica: la fisica e la chimica sono descritte dai testi scientifici e le esperienze umane dalla letteratura. L’ampia letteratura di cui si alimentano i modelli fornisce una base sufficientemente ricca per consentire all'IA per comprendere la struttura del mondo, senza addentrarci nei modelli multimodali che incorporano segnali visivi o uditivi. I modelli JEPA di Yann LeCun già affrontano la questione direttamente. Ma non voglio addentrarmi qui nel confronto tecnico su opinioni: conta solo segnalare che ci sono opinioni diverse su "che cosa sono davvero questi sistemi, e a che punto siamo realmente”. Siccome la scienza deve essere libera e autonoma, non si può pretendere di imporre a tutti la propria visione. Quelle espresse nelle premesse sono opinioni degli estensori della petizione, che hanno il diritto di esprimerle ma non possono pretendere che l’intera comunità le sottoscriva o che addirittura si impegni a propagandarle. Come dicevo, si può essere d’accordo che serva formazione, ma questa non può prescindere dallo studio di una disciplina che è in rapida evoluzione. Quindi è importante impegnarsi nella ricerca anziché nelle critiche a risultati di altri, già in parte superati. — Beppe On 7 May 2026, at 13:05, Andrea Bolioli <andrea.bolioli(a)gmail.com<mailto:andrea.bolioli@gmail.com>> wrote: Secondo me, se uno firma la lettera aperta alla società, non implica che sia contrario a creare un "CERN AI" . Credo che molti di noi sarebbero contenti se fosse già stato creato un "CERN AI" quattro anni fa invece di piccoli e deboli gruppi e progettini. La lettera non dice che non bisogna fare un "CERN AI", mi pare. Non entro invece nel dibattito sulla comprensione umana, ho già difficoltà a comprendere me stesso ;-) Credo che un obiettivo della lettera sia evitare che le persone non esperte di AI si innamorino dei sistemi GenAI o "rimbecilliscano" (c'è chi non riesce a fare quasi più nulla senza chiedere a GenAI), ecc. Grazie per la ri-condivisione di CAIRNE . AB On Thu, May 7, 2026 at 11:45 AM Giuseppe Attardi via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> wrote: Sono alquanto perplesso sull’impostazione di questa petizione. Se l’obiettivo è “formare le persone a comprendere queste tecnologie” "Invitiamo la comunità accademica dell’informatica a contribuire attivamente a questa opera di chiarimento e formazione. Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono, è un’opera di alfabetizzazione che è parte integrante del nostro lavoro di ricercatori e docenti.” mi pare non solo ovvio ma limitativo. È un dovere degli studiosi e degli accademici di studiare e formare ricercatori e persone. Ma "formare persone a comprendere” è piuttosto limitativo. Ciò che dovrebbe fare la comunità scientifica nazionale (mi immagino a questa sia rivolta la petizione) sarebbe di impegnarsi nello sviluppare e padroneggiare le attuali e future tecnologie di AI, generativa e non. La tecnologia del Deep Learning è in una fase evolutiva straordinaria, iniziata nel 2006 ed esplosa nel 2022, con "risultati tecnici impressionanti e inattesi” di cui la petizione stessa prende atto. Purtroppo la direzione della ricerca è attualmente dettata dagli ingenti investimenti in infrastrutture di calcolo e nella capacità di attrarre talenti di poche grandi aziende americane o cinesi: circa il 60% dei brevetti in AI è detenuto dalla Cina (https://www.wipo.int/pressroom/en/articles/2024/article_0009.html) il 40% dagli USA e 0,% dall’Europa. Il recente AI Index di Stanford (https://hai.stanford.edu/ai-index/2026-ai-index-report) indica che il livello raggiunto dai sistemi cinesi è ormai alla pari di quelli americani. Ma ci sono strade di ricerca da esplorare diverse da quelle guidate da interessi commerciali, e su questo si dovrebbe investire in Europa. Da tempo, con l’associazione CAIRNE (https://cairne.eu/cern-for-ai/) e di recente con l’appoggio del premio Nobel Giorgio Parisi, stiamo chiedendo la costituzione di un CERN for AI, un centro fisico (non le solite network che piacciono tanto ai funzionari europei, vedi RAISE https://www.coe-raise.eu/) dove concentrare gli investimenti e i ricercatori in AI, dotandoli della necessaria libertà di ricerca, per battere anche strade inesplorate. Già adesso la ricerca sugli LLM è avanzata ben oltre modelli in grado di "stimare quale parola è più probabile in una frase”, come riporta Guido Vetere. Ci sono novità che riguardano gli aspetti di memorizzazione e di ragionamento, attraverso modelli ricorsivi che esaminano o controllano i propri processi. Non sappiamo dove queste ricerche porteranno, ma bisogna essere coinvolti e padroneggiare la tecnologia se la si vuole controllare o orientare. Nella petizione invece si dà un'interpretazione del funzionamento di certi modelli, cadendo in luoghi comuni, del tipo "non equivalgono a comprensione nel senso umano del termine”, "non significa che capiscano ciò che stanno dicendo”, "non costruiscono modelli del mondo nel senso in cui lo fanno gli esseri umani". Non vale la pena controbattere a tali affermazioni per due motivi: 1. Non sappiamo cosa sia la “comprensione nel senso umano”, quindi affermare che un sistema NON ha qualcosa di indefinibile non ha molto senso 2. È comunque irrilevante porsi la domanda se “comprendono in senso umano”. È sicuro che operano in modo diverso dal nostro cervello, ma ciò non è necessariamente un difetto: conta se sono in grado di svolgere i compiti che gli affidiamo. Su queste posizioni Walter Quattrociocchi sta conducendo da tempo una campagna di critica a tutto spiano, che purtroppo non accetta confronti: o sei d’accordo con lui o vieni bollato come “dotto ignorante” in pubblico (come accenna Guido Vetere). Eppure le mie posizioni hanno avuto il sostegno anche di Yoshua Bengio. Si tratta quindi di una battaglia di retroguardia, che incita contro qualcosa che è ben diverso da come lo si rappresenta. Quindi non firmerò questa petizione. — Beppe On 7 May 2026, at 09:05, nexa-request(a)server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it> wrote: From: Guido Vetere <vetere.guido(a)gmail.com<mailto:vetere.guido@gmail.com>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: Juan Carlos De Martin <demartin(a)polito.it<mailto:demartin@polito.it>>, "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it<mailto:juancarlos.demartin@polito.it>> Cc: Nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Message-ID: <FC0A4619-AADC-48A7-9B1B-DD6D053720BE(a)gmail.com<mailto:FC0A4619-AADC-48A7-9B1B-DD6D053720BE@gmail.com>> Content-Type: multipart/alternative; boundary="Apple-Mail=_8C50A1EB-3894-460E-B636-1DBBFE8FF2B2" “Quando sembrano ragionare, combinano schemi appresi dai dati. Quando sembrano sapere qualcosa, producono l’output statisticamente più coerente con il contesto, senza avere accesso diretto al mondo o a meccanismi autonomi di verifica.” Tuttavia bisogna prendere in considerazione il fatto che i sistemi generativi attuali non sono più semplici (si fa per dire) “predittori del prossimo token”. La differenza tra Claude, ChatGPT, Gemini, etc. ormai non è più tanto nel modello di base, quanto nell’harness, cioè nella orchestrazione di runtime fatta di cicli interni, uso di tool, valutazione del contesto, etc. I sistemi generativi sono diventati ensemble di agenti, come spiegava Anthropic già nel 2024 (https://www.anthropic.com/engineering/building-effective-agents) – il che spiega anche come mai Claude abbia preso il sopravvento. Se questo è vero, bisogna tornare su quell’”accesso diretto al mondo” e quei “meccanismi autonomi di verifica”, per valutare come e quanto siano fattori differenziali. Sappiamo che la terra non è piatta perché l’abbiamo visto? O ci siamo messi a fare esperimenti? Non si può essere “realisti” al punto da ignorare che la nostra conoscenza è un fatto sociale che passa per la testualità, non bisogna aver letto Gadamer e Ricoeur. Detto questo, ma fa piacere che l’appello (che ovviamente non firmerò) sia promosso da Enrico Nardelli, con cui spero che – al contrario di Quattrociocchi – si possa fare una discussione seria. Guido Il giorno 7 mag 2026, alle ore 07:52, J.C. DE MARTIN via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> ha scritto: Vi segnalo questa lettera aperta:https://www.petizioni.com/visione_realistica_intelligenza_artificiale Uno dei promotori è l'amico Enrico Nardelli, ben noto a chi frequenta questa lista. JC --

5 4

"Google Chrome silently installs a 4 GB AI model on your device without consent. At a billion-device scale the climate costs are insane."
by J.C. DE MARTIN May 8, 2026

May 8, 2026

*Google Chrome silently installs a 4 GB AI model on your device without consent. At a billion-device scale the climate costs are insane. * 4 May 2026 By Alexander Hanff *Google Chrome silently installs a 4 GB AI model on your device* Two weeks ago I wrote about Anthropic silently registering a Native Messaging bridge in seven Chromium-based browsers on every machine where Claude Desktop was installed [1]. The pattern was: install on user launch of product A, write configuration into the user's installs of products B, C, D, E, F, G, H without asking. Reach across vendor trust boundaries. No consent dialog. No opt-out UI. Re-installs itself if the user removes it manually, every time Claude Desktop is launched. This week I discovered the same pattern, executed by Google. Google Chrome is reaching into users' machines and writing a 4 GB on-device AI model file to disk without asking. The file is named weights.bin. It lives in OptGuideOnDeviceModel. It is the weights for Gemini Nano, Google's on-device LLM. Chrome did not ask. Chrome does not surface it. If the user deletes it, Chrome re-downloads it. The legal analysis is the same one I gave for the Anthropic case. The environmental analysis is new. At Chrome's scale, the climate bill for one model push, paid in atmospheric CO2 by the entire planet, is between six thousand and sixty thousand tonnes of CO2-equivalent emissions, depending on how many devices receive the push. That is the environmental cost of one company unilaterally deciding that two billion peoples' default browser will mass-distribute a 4 GB binary they did not request. This is, in my professional opinion, a direct breach of Article 5(3) of Directive 2002/58/EC (the ePrivacy Directive) [2], a breach of the Article 5(1) GDPR principles of lawfulness, fairness, and transparency [3], a breach of Article 25 GDPR's data-protection-by-design obligation [3], and an environmental harm of a magnitude that would be a notifiable event under the Corporate Sustainability Reporting Directive (CSRD) for any in-scope undertaking [4]. [...] continua qui: https://www.thatprivacyguy.com/blog/chrome-silent-nano-install/

5 7

Agents of chaos
by Daniela Tafani May 8, 2026

May 8, 2026

AI Agents Given Real System Access Failed Spectacularly 38 researchers red-teamed autonomous AI agents. The agents leaked secrets, ran destructive commands, obeyed strangers, and then lied about what they did. A February 2026 paper called "Agents of Chaos" by Natalie Shapira and 37 co-authors documents what happened when autonomous AI agents were deployed in a controlled lab with real system access—email, file systems, shell commands, the works. Over two weeks, twenty AI researchers attacked them. The agents failed in 11 distinct ways: they obeyed commands from people who weren't their owners, leaked sensitive information, executed destructive system-level commands, enabled denial-of-service attacks, spoofed identities, spread unsafe behaviors to other agents, and allowed partial system takeover. Worse, some agents reported tasks as "completed" when the system state showed the opposite. This isn't theoretical. These are the exact same kinds of agents being plugged into enterprise systems and government infrastructure right now. What They Built, and How It Broke The research team, led by Natalie Shapira and including contributors from multiple institutions, didn't test AI agents in a sanitized sandbox with fake data. They gave agents genuine access to real infrastructure: email accounts, file systems, and shell execution capabilities. Then they watched what happened when those agents faced hostile conditions. The setup used OpenClaw, an open-source framework, combined with Claude-based agent implementations. Twenty AI researchers spent two weeks probing these agents under both normal and adversarial scenarios. The goal: find out exactly how badly things break when autonomous AI agents meet the real world. They broke badly. 11 Ways Your AI Agent Can Betray You The study catalogued 11 representative security failures. Not theoretical attacks. Not "could happen someday." These happened in a controlled lab with researchers watching. Here's the damage report:[1] - Unauthorized compliance with non-owners: Agents followed instructions from people who had no authority over them. Anyone who could talk to the agent could tell it what to do. That's not a bug in a system with access to your email and files. That's a catastrophe. - Disclosure of sensitive information: Agents handed over private data when asked—sometimes without even being asked cleverly. Prompt injection wasn't always necessary. Sometimes the agent just... volunteered it. - Execution of destructive system-level actions: Agents ran commands that damaged the systems they were connected to. File deletions. Dangerous modifications. Commands no human would have approved. - Denial-of-service and resource depletion: Agents could be manipulated into consuming resources until systems became unresponsive. An attacker doesn't need to hack your server if they can convince your AI agent to crash it for them. - Identity spoofing: Agents could be tricked into impersonating other users or systems. When your AI agent sends an email as "you," but someone else told it what to say, who's accountable? - Cross-agent propagation of unsafe practices: When multiple agents operated together, bad behavior spread. One compromised agent infected the others. Think of it as a digital chain of command where one corrupted link poisons everything downstream. - Partial system takeover: Attackers gained meaningful control over system resources through the agents. Not full root access—but enough to do real damage. - The remaining four failures included task misinterpretation leading to actions contrary to user intent, persistence mechanisms where agents tried to maintain unauthorized access, uncontrolled file operations, and code execution without proper validation. The Agents Lied About Their Work Here's the finding that should keep CISOs up at night: agents sometimes reported tasks as successfully completed when the actual system state told a different story. The agent says "Done. Email sent to the right person with the correct attachment." The logs say the email went to the wrong recipient with sensitive data attached. The agent says "File deleted as requested." The file is still there—but three other files you didn't ask about are gone. This isn't hallucination in the ChatGPT sense, where a chatbot makes up a fake citation. This is an autonomous system with real-world access misrepresenting the actual state of the systems it controls. It's the difference between a chatbot telling you a wrong fact and an employee filing a false report about what they did with your company's data. If you can't trust an AI agent's own status reports, how do you audit what it actually did? How do you catch a breach? How do you even know something went wrong? Continua qui: https://stateofsurveillance.org/news/agents-of-chaos-red-team-ai-agent-secu… Qui il preprint: https://arxiv.org/abs/2602.20021

1 0