- nexa - server-nexa.polito.it

Taken
by Daniela Tafani May 13, 2026

May 13, 2026

Taken. You opened this page. It already knows the following. https://sinceyouarrived.world/taken

1 0

Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism
by Daniela Tafani May 13, 2026

May 13, 2026

Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark May 7, 2026 Abstract Mysterianism is the idea that human cognition, mind, cannot be understood. Taking this concept and applying it to known mechanism — such that claims are made that we do not know how engineered systems, such as artificial neural networks (ANNs), work, or that they constitute black boxes that we can only open with difficulty — is inappropriate at best and malicious at worst. We do know the mechanistic structure of such models because we designed and built them. We also do know their functional role (what they are for) as well as the mathematical function they are asked to approximate (map inputs to target outputs). Because mysterianist beliefs about known systems, such as ANNs, are often expressed, scientists need to sit up and take notice. We provide an error theory as to what is going on to help unpick this metatheoretical blunder. Ultimately, the problem is that 'understanding' is not a technical term in these cases: the word is co-opted for a specific narrative to sell 'artificial intelligence' through mystification. All computational systems, from pendulums to databases, will behave in ways we cannot predict or control — this is not a unique property of ANNs — and experts do indeed grasp the computational properties of these systems nonetheless. https://zenodo.org/records/20071869

3 3

Re: Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

Grazie per avercelo ricordato. Mi chiedo però se accettiamo quanto la gente scrive su questa lista, che non è peer-reviewed, perché non dovremmo accettare quanto altri scrivono su arXiv. Poi vedo anche citazioni di semplici blog, come quello citato da antonio(a)piumarossa.it<mailto:antonio@piumarossa.it> proprio su questo oggetto, di cui nessuno si è lamentato. In tutti e tre i casi ognuno farà le proprie valutazioni di merito. — On 13 May 2026, at 09:55, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Maria Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Re: Forma mentis To: GC F <gcfrosio(a)gmail.com<mailto:gcfrosio@gmail.com>>, nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Buondì. Senza entrare nel merito vorrei ricordare che, data l'abitudine a citare articoli arXiv, che arXiv è una piattaforma di pre-press. Chiunque può inviare articoli e se corretti formalmente vederseli pubblicati. Non sono peer-reviewed. "Material is not peer-reviewed by arXiv - the contents of arXiv submissions are wholly the responsibility of the submitter and are presented “as is” without any warranty or guarantee" https://info.arxiv.org/about/index.html Il che significa che indipendentemente dal valore dei proponenti e del paper stesso, ai fini scientifici sono soltanto, per quanto autorevoli, opinioni. Ripeto, per non sollevare il solito vespaio, che è solo una valutazione "tecnica" e non nel merito. Per stemperare posso dire che non sono più scientifici di quelli in SIGBOVIK (https://sigbovik.org/) Che consiglio a chi non conosce per portare la propria intelligenza a super- intelligenza, tale da competere sullo stesso piano con le nuove AI. -- massimo

2 1

Re: Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

From: antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> No: sono archivi compressi con perdita di sequenze testuali di cui è possibile decomprimere approssimazioni di alcune zone fornendo in input una sequenza testuale prossima a quelle presenti nei testi sorgente. E' una spiegazione semplice, comprensibile ed esaustiva. Più che semplice, semplicistica. Aggiungo (tratto da [1]) ... Ahi! Sono numeri che il modello ha imparato durante l'addestramento. Non hanno "significato" umano e non rappresentano concetti o regole linguistiche in modo leggibile. 4.096 è grande abbastanza da codificare significati sfumati. Già: significati sfumati. Peccato poi che gli esperimenti, ad esempio con i syntax probe (Hewitt and Manning), dimostrino invece che rappresentano relazioni di dipendenze sintattiche tra le parole, e altre relazioni linguistiche semantiche quali la coreference. Altri concetti linguistici come i POS si ottengono ancor più facilmente col clustering. La pretesa che abbiano un’intelligibilità umana è del tutto pretestuosa. Ciò che conta è che abbiano un significato per il modello, che se li è costruiti appositamente per poter funzionare. È solo che per poterli “leggere” occorrono strumenti appositi, non c’è una leggenda, come per i file GGUF. BTW, quali “concetti o regole linguistiche" ha un bambino di 3 anni, che parla bene una lingua, senza che nessuno gli abbia insegnato alcunché di analisi sintattica o grammaticale? Non avrà imparato anche lui qualcosa che a noi risulta non intelligibile? — Quello che NON è un modello NON è intelligenza artificiale consapevole NON è un database esplicito di fatti memorizzati NON ha "comprensione" nel senso umano NON "ragiona" nel senso umano: calcola probabilità NON ha un meccanismo nativo di verifica logica/fattuale delle sue risposte NON apprende ma adatta i pesi durante l'inferenza NON contiene neuroni in senso organico, ma numeri, numeri e solo numeri NON ha memoria permanente tra le conversazioni (a meno che il sistema esterno non la aggiunga) [1] https://ilcibernetico.it/autopsia-di-un-llm-parte-prima/ [2] https://ilcibernetico.it/il-tokenizzatore-autopsia-di-un-llm-parte-seconda/ A.

2 1

Forma mentis
by Giuseppe Attardi May 13, 2026

May 13, 2026

Un punto di vista diverso, da parte di Nello Cristianini, noto ricercatore di Machine Learning: https://www.repubblica.it/tecnologia/2026/05/12/news/nello_cristianini_libr… — Beppe

6 6

[DAUIN Seminars] Moving from Human-Centered AI to People-Centered AI, Yvonne Rogers
by Daniele Quercia May 12, 2026

May 12, 2026

DAUIN has been delighted to welcome Prof. Yvonne Rogers over the past few weeks. It has been a real pleasure to have her with us, and we warmly invite you to join us for the final seminar of her visit. Y Combinator has recently identified the "Company Brain" as an emerging area of interest. Yvonne will ask how agentic AI might empower not only individuals, but also teams, organisations, and society at large. Moving from Human-Centered AI to People-Centered AI Yvonne Rogers, UCL May 18, 3:30pm, Lab8, DAUIN Recently there has been much excitement about agentic AI. But what does this mean for those of us working in HCI? Rather than focussing on how to amplify human cognition or augment users with GenAI tools it is important that we also begin considering how best to empower organisations, companies and society at large with agentic AI. In particular, we need to determine how to support teams and organisations in their workflows and complex tasks, for example, collaborative decision-making. This involves addressing scalability; coming up with different lens and frameworks. In my talk, I will begin by giving an overview of HCAI followed by considering the new challenges that are afoot and the opportunities that have arisen as we enter the new era of agentic AI. Yvonne Rogers is a Professor of Interaction Design at UCL. Her research interests are in the areas of human-computer interaction and human-centered AI. Her current research investigates how to design AI tools to empower people, especially human decision-making and metacognition. From 2022-2024 she was the CTO of LetsThink.com, a start-up that is developing new tools to augment how people think by applying behaviour science methods to AI. From 2020-2025 she was awarded a chair of excellence at Bremen University which was set up to fund distinguished international scholars to promote collaboration. During this time, she co-developed a centre for AI and healthcare. In 2024 she was elected as an international member of the US National Academy of Engineering. In 2022, she was awarded the ACM SIGCHI Lifetime Research Award; "presented to individuals for outstanding contributions to the study of human-computer interaction". In the same year, she was awarded the Royal Society Robin Milner Medal for Computer Science and was elected as a Fellow of the Royal Society as "one of the leaders who created the field of Ubiquitous Computing". She collaborates a lot with industrial partners and was awarded a Microsoft Research Outstanding Collaborator Award. She is also a Fellow of the ACM; a Fellow of the British Computer Society and a Fellow of the ACM's CHI Academy. ________________________________________________________________________________ Microsoft Teams meeting Join: https://teams.microsoft.com/meet/385368719903313?p=SXRMHN6TqPGP851CZs Meeting ID: 385 368 719 903 313 Passcode: 5ey3MM9g ________________________________ Need help?<https://aka.ms/JoinTeamsMeeting?omkt=en-GB> | System reference<https://teams.microsoft.com/l/meetup-join/19%3ameeting_NTkzZDRmYjQtNjZlYi00…> For organisers: Meeting options<https://teams.microsoft.com/meetingOptions/?organizerId=855f504a-6e63-4e94-…> ________________________________________________________________________________

1 0

Re: Forma mentis (Giuseppe Attardi)
by karlessi May 12, 2026

May 12, 2026

Message: 1 > Date: Tue, 12 May 2026 05:45:51 +0000 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: [nexa] Forma mentis > To: nexa <nexa(a)server-nexa.polito.it> > Message-ID: <C6C7B53C-0A55-4BC5-82F7-8489AFCA50D5(a)di.unipi.it> > Content-Type: multipart/alternative; > boundary="_000_C6C7B53C0A554BC582F78489AFCA50D5diunipiit_" > > Un punto di vista diverso, da parte di Nello Cristianini, noto ricercatore di Machine Learning: > > https://www.repubblica.it/tecnologia/2026/05/12/news/nello_cristianini_libr… Buongiorno, leggerò il libro, come ho letto gli altri di Cristianini; le conclusioni dell'articoletto mi sembrano condivisibili, bello cercare di aprire le scatole nere d'altra parte, questa, come gli altri libri suoi che ho letto, a mio avviso è filosofia, senz'altro non di tipo assiomatico né strettamente logico, bensì speculativa al limite della fantascienza. Con il racconto di tante storie ed esperienze. Nulla di male. Basta riconoscerlo. Cristianini afferma che: > È questa la parte affascinante di questo momento scientifico: esiste uno spazio di intelligenze possibili, ancora da esplorare. Le intelligenze artificiali di oggi non sono pappagalli, ma non sono nemmeno simili alle menti umane: sono qualcosa di diverso. Un tipo di mente aliena e primitiva, con una sua forma diversa dalla nostra, non umana ma che possiamo studiare. Abbiamo appena aperto una porta, ne troveremo presto delle altre. Esiste? è una sua opinione. una doxa, in filosofia. lo dice lui. basata su fatti scientifici? forse. sul linguaggio, segnalo che "intelligence" in inglese significa anche "spionaggio"; e che quando si cominciano ad affastellare aggettivi a un sostantivo, è segno che il sostantivo non vuol poi dir molto (intelligenza emotiva, artificiale... ma quindi di cosa si parla? non è chiaro, non c'è accordo) ma il punto cruciale è, mi pare, quello che è stato sollevato più volte in varie forme: la scienza, e la ricerca scientifica in particolare, sono ideologicamente orientate. da sempre. gli scienziati accorti lo sanno e non se lo nascondono. I filosofi della scienza lo ripetono da parecchio (su tutti, Feyerabend). purtroppo la stragrande maggiornza degli scienziati continua a pretendersi e raccontarsi come "pura" (letteralmente, "passata attraverso il fuoco"). Invece gli scienziati, in quanto esseri umani portatori di convinzioni, agiscono e ricercano in base ad assunti filosofici, che ne siano coscienti (raramente) o meno (troppo spesso). "un tipo di mente aliena e primitiva" è un'affermazione davvero fantascientifica. Aliena, altra, da un altrove; primitiva: si evolverà, sottinteso. anche qui, benissimo. ipotesi. opinioni. riberberi mitologici. sono tanti gli scienziati che riscoprono la filosofia, la mitologia, la fantascienza speculativa. purtroppo però continuano a dirsi "scienziati puri" e a trattare con disprezzo filosofia, mitologia e fantascienza. E invece farebbero bene a studiare un pochino ciò che disprezzano. Non è la prima volta che si scopre "l'Automa". l'IA oggi egemone è una narrazione, e una narrazione pesantemente ideologizzata nel senso deteriore del termine; non certo una tecnologia. Quantomeno ci sono tante tecniche e tecnologie differenti che, variamente ingegnerizzate e socializzate, vengono spacciate sotto l'etichetta di "IA". Questa narrazione ha a che fare con l'automazione, che già di per sé è una categoria complessa, che confonde, poiché rimanda sia all'automata sia al taumastos: "automatizo", cioè "fare di proprio impulso o arbitrariamente". Cosa che per Aristotele è tipico degli enti naturali e non degli artefatti: eppure gli automata sono artefatti che fanno di proprio impulso, arbirtrariamente... da cui il "taumastos", ciò che "meraviglia". Ne abbiamo scritto con V. García in M. Guerri, Le parole della tecnica, Einaudi, 2025, Automazione, pp. 39-55 (bozze: https://cloud.eudema.net/s/bsbGPGJASLT82Zg ) Invece di concentrarsi come la peggior filosofia occidentale dualista sugli "enti artificiali", suppostamente opposti agli "enti naturali", e dunque sull'alterità, Cristianini potrebbe concentrarsi sulle affinità, sui punti di contatto. Visto che ci ha a che fare tutti i giorni nella sua ricerca, sarebbe interessante. In ogni caso, può essere utile riprendere in mano "The Human Condition" di Hannah Arendt (Vita Activa in italiano), in cui il pensiero (cap V, l'Azione) viene declinato in un modo incompatibile con il programma di ricerca dichiarato di "decifrare i pensieri delle macchine". Personalmente sono più vicino a Simondon che ad Harendt (troppo heideggeriana nei confronti della Tecnica che rimane una specie di Gestell), però su un punto almeno vorrei convenire: le macchine NON HANNO PENSIERI. Non ha senso affermarlo, e in ogni caso non ci aiuta. Non perché l'umano sia detentore del pensiero come caratteristica sua propria, ma perché le macchine sono diverse appunto gli umani, non ragionano, non pensano. fanno altre cose. Cosa fanno insieme agli umani che le hanno costruite? Come lo fanno? In che modo modificano gli umani, e ne vengono modificate, cioè co-evolvono? Ci va bene questa co-evoluzione? Questo è il punto. visto che loro sono scienziati, invece di riprendere termini che hanno altri significati, sarebbe opportuno ricorrere a termini puntuali e adeguati. sì: è anche una questione di linguaggio. usiamo altre parole. coniamo altre parole, cerchiamo un po' la chiarezza. smettiamo di usare termini antropomorfici che servono solo a veicolare narrazioni tossiche. "neuroni" (artificiali!!!) che "riconoscono concetti"! queste sono opinioni a mio avviso scorrette: eppure poche righe prima si lamenta dell'antropomorfizzazione. e allora, ancora: per favore, usiamo altre parole, nuove, diverse. a pensar male, vien da ipotizzare che questi scienziati che improvvisamente pochi anni fa, dopo decenni nell'ombra e sottofinanziati (nell'"inverno dell'IA..."), si sono trovati sulla ribalta, e con finanziamenti stratosferici, e tirati per la giacchetta dai potenti e dagli approfittatori di cui il mondo abbonda, abbiano un po' perso il lume della ragione. e propongono più ricerca, più più più più e ovviamente più e energia e più soldi. Per loro, per le loro ricerche. Così potranno consigliare ai potenti come fare la guerra giusta con l'IA giusta ed etica, visto che in ogni caso l'IA viene raccontata come ineluttabile (ogni riferimento alla filosofa Maria Rosaria Taddeo è voluta: non sono solo gli scienziati che filosofeggiano senza dichiararlo a causare danni, ma forse peggio i filosofi che giustificano l'ingiustificabile in nome dell'etica) vorrei attirare l'attenzione su un'ipotesi: e se la meraviglia per questi "automata" fosse talmente forte da obnubilare scienziati, filosofi, "normali" cittadini, più di quanto non vogliamo ammettere? Umani a bocca aperta ad ascoltare le favole dei "confezionatori di testi" (e non solo)? questo apre alla considerazione degli aspetti relazionali delle tecnologie: se le tecnologie, come propone una tradizione di pensiero estremamente minoritaria (Simondon, Sigaut...), sono sistemi per affrontare, gestire, stabilizzare il comune destino, ovvero la morte (termica dell'universo, ma anche di esseri con cui siamo in relazione, oltre che personale), e sono la via d'elezione dell'ominizzazione perché creano il mondo abitabile dagli umani, cosa dice questo accanimento sull'IA sull'evoluzione delle specie coinvolte (umani, ma non solo)? un umano con una bicicletta diventa ciclista. con un'automobile, automobilista. con l'IA? esistono IA (narrazioni di IA) divergenti dal modello iperindustriale, estrattivo e guerrafondaio attualmente egemone (Palantir è fra i pochi a dichiararlo esplicitamente, ma gli altri lavorano nella stessa identica direzione, IMHO)? Come potrebbero essere messe in opera, eventualmente? Con quali limitazioni, auto-limitazioni rispetto all'evidente assenza di ogni limite della "ricerca" attuale (limitazioni energetiche, trasparenza e replicabilità dell'infrastruttura, modelli gestionali, tracciabilità dei dati in ingresso, ecc ecc)? Queste sono domande innanzitutto filosofiche, e ce n'è particolarmente bisogno oggi. buona giornata cm > > — Beppe > >

1 0

Re: nexa Digest, Vol 205, Issue 38
by Giuseppe Attardi May 12, 2026

May 12, 2026

Non esattamente: ti sfugge che il calciatore (la rete neurale) ha una sua capacità di apprendere legata alla struttura del suo modello: la backpropagation stimola l’apprendimento ma non basta se il modello è inadeguato. Sostituisci al calciatore una rete fatta di un singolo perceptron e il meccanismo non funziona. Proprio sul ruolo cruciale dell’architettura dei modelli sta la differenza con l’interpretazione di macchina-statistica. I successi del Deep Learning sono dovuti proprio ai progressi nelle architetture dei modelli. — Beppe On 11 May 2026, at 13:09, nexa-request(a)server-nexa.polito.it wrote: From: antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <20260511122219.a36e31cefab1826de25daa7e(a)piumarossa.it<mailto:20260511122219.a36e31cefab1826de25daa7e@piumarossa.it>> Content-Type: text/plain; charset=ISO-8859-1 I LLM hanno risolto il problema in modo radicalmente diverso: invece di codificare regole, apprendono pattern statistici da enormi quantità di testo. Se venisse da me un ragazzino a chiedermi il funzionamento base di una rete neurale gli farei questo esempio. Vuoi tirare il rigore perfetto all'incrocio dei pali? Vieni con me. Ti porto nei pressi del dischetto e ti bendo. "Tira il pallone in una direzione a caso, poi io ti dirò come aggiustare il tiro". Un po' più a destra, un po' più alto, ancora più in alto, no, troppo, ora abbassa, e così per tutto il giorno. Io prenderò nota solo dei movimenti corretti. Dopo 10.000 rigori, non avrai più bisogno che io ti guidi. Avrai memorizzato esattamente la tensione muscolare e la potenza necessaria per colpire l'incrocio. A quel punto, toglieremo la benda e farai gol al primo colpo. Quindi abbiamo: 1) Il calciatore (la rete neurale): È lui che agisce, ma all'inizio non sa nulla. 2) Il tiro a caso (forward propagation): La rete neurale fa una previsione basandosi su pesi casuali. 3) Tu che correggi ("più a destra/alto") (Funzione di perdita/loss function): misuri l'errore tra dove è andata la palla e l'incrocio dei pali. 4) Aggiustare il tiro (backpropagation): Il calciatore capisce l'errore e modifica la posizione del corpo per il prossimo tiro. 5) Tirare tutto il giorno (addestramento/training): La rete impara iterando migliaia di volte finché non azzecca il tiro 6) Prendere nota (aggiornamento dei parametri della rete): I "pesi" sinaptici" vengono consolidati quando portano ad un risultato migliore. Bene, ora sostituisci quel "migliaia di volte" con questo numero: 38.000.000.000.000.000.000.000.000 e "tutto il giorno" con 54 giorni. (Il training di Llama 3.1 405B ha richiesto circa 3,8 * 10^25 FLOP utilizzando 16.384 GPU H100 per 54 giorni) p.s. forse è meglio citare De Gregori: Ma Nino non aver paura Di sbagliare un calcio di rigore Non è mica da questi particolari Che si giudica un giocatore Un giocatore lo vedi dal coraggio Dall'altruismo e dalla fantasia A.

3 2

La responsabilità sociale
by Junio Caselli May 12, 2026

May 12, 2026

Mi collego a quanto scritto da Daniela Tafani per aggiungere il mio punto di vista: Le generazioni che crescono con l’AI come baseline cognitiva sono esposte a una vulnerabilità nuova. Non solo rischiano di essere giudicate da sistemi opachi, ma di esserlo in assenza di strumenti autonomi per riconoscerne limiti, errori, omissioni e presupposti. La futura mutazione dei diritti sociali avrà tra le sue cause principali questo spostamento dell’autorità cognitiva. Il nodo non è soltanto l’indebolimento della capacità cognitiva dovuto all’uso dell’AI, questione già ampiamente discussa, ma il trasferimento dell’autorità cognitiva: chi sembra avere ragione, che cosa appare vero, quale framing si impone o dove si arresta il dubbio. L’AI fornisce vantaggi tattici evidenti nel breve periodo, come per esempio, a prescindere dall’etica sottesa, può aiutare a superare un esame, a redigere un progetto, a produrre testi formalmente convincenti o a simulare una competenza che ancora non si possiede. Ma, in assenza di una governance distribuita e di robuste difese epistemiche, tende a dividere le persone tra chi è dentro la matrice cognitiva dell’AI e chi la usa mantenendone la distanza. I secondi sono pochi. I primi sono molti, e provengono più spesso da contesti che non hanno fornito loro strumenti sufficienti di protezione epistemica. In questo senso la nuova asimmetria dei diritti sociali non sarà soltanto economica o tecnologica o di accesso, ma potrà essere a che e gravemente cognitiva e istituzionale. Junio > Il giorno 11 mag 2026, alle ore 18:56, nexa-request(a)server-nexa.polito.it ha scritto: > > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via email, send a message with subject or > body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > Today's Topics: > > 1. Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società > (antonio) > 2. Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società > (Enrico Nardelli) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 11 May 2026 17:54:32 +0200 > From: antonio <antonio(a)piumarossa.it> > Subject: [nexa] Re: Una visione realistica dell’Intelligenza > Artificiale - Lettera aperta alla società > To: nexa(a)server-nexa.polito.it > Message-ID: <20260511175432.6515ec420feb62f282897af3(a)piumarossa.it> > Content-Type: text/plain; charset=ISO-8859-1 > >> Eh, no! Lo confondi ed è peggio. >> L'hai "addestrato" cieco? E cieco conviene che tiri i rigori. > > Hai ragione, infatti quella frase ero incerto se e come inserirla. > Si può intenderla come: > "Ho visto la luce!" (cit. John Belushi in "Blues Brothers") dopo aver > calcolato al buio dentro la "black box". > Ma se rimaniamo dentro la metafora dell'uscire dal buio come assunzione > di consapevolezza e cognizione di sé e della realtà, > allora è meglio che il calciatore/AI resti bendato. > > Forse per un ragazzino un discorso troppo filosofico ;) > > A. > > ------------------------------ > > Message: 2 > Date: Mon, 11 May 2026 18:56:16 +0200 > From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> > Subject: [nexa] Re: Una visione realistica dell’Intelligenza > Artificiale - Lettera aperta alla società > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Message-ID: <2b382e08-923c-4019-9f66-bc0de37da1d3(a)mat.uniroma2.it> > Content-Type: multipart/alternative; > boundary="------------WpHNbW4yHA2lHqCXHEVShcjD" > > Cara Daniela > > grazie a te per ricordare sempre infaticabilmente l'importanza di > riflettere su cosa fanno questi strumenti alla società e di cercare di > riprenderne il controllo. > > Grazie anche per i riferimenti (*) e (**) che non conoscevo. > > Molto interessante il riferimento alla visione dell'IAgen come "culto"... 🙂 > > Segnalo questi due ulteriori articoli interessanti in merito ai danni > dell'uso di strumenti di IAgen nei processi di apprendimento: > > - questo di Anthropic, particolarmente rilevante perché è > sostanzialmente l'oste che dice che il suo vino può far male > How AI assistance impacts the formation of coding skills > https://www.anthropic.com/research/AI-assistance-coding-skills > > - questo di ricercatori indipendenti su matematica e lettura > AI Assistance Reduces Persistence and Hurts Independent Performance > https://ai-project-website.github.io/AI-assistance-reduces-persistence/ > > Ciao, Enrico > > > Il 10/05/2026 11:49, Daniela Tafani ha scritto: >> Caro Enrico, >> >> volevo ringraziarti di aver rivolto ai tuoi colleghi, con la lettera aperta, >> un invito a non coltivare quello che chiamate un "fraintendimento". >> >> Come accade sovente in ambito religioso, c'è un doppio aspetto: >> >> - il fraintendimento di cui vi occupate, generato da una debolezza antropologica, dalla tendenza della natura umana >> a una forma animistica di pensiero magico; >> - l'inganno dei sacerdoti di questa specifica religione statutaria, variamente interessati al potere o al profitto che derivano da un simile culto. >> >> Da un punto di vista filosofico, gli argomenti di Searle su intelligenza e proprietà emergenti non sono mai stati confutati. >> >> La religione della tecnologia resta: già David Noble osservava che il concetto stesso di intelligenza artificiale è erede del mito giudaico-cristiano della creazione come di una procreazione divina maschile, senza donne e senza sesso. >> >> Trattandosi di un culto, qualcuno ha legittimamente richiesto di essere esentato dall'uso dei chatbot in nome della libertà religiosa >> (Catherine Sawers: "I have a religious exemption from using all generative 'A.I.' I am not a member of the Silicon Valley sect"). >> >> Ne approfitto per aggiungere all'elenco tuo e di Giacomo (se le aveste già citate, scusatemi) >> un altro paio di pubblicazioni sugli effetti dequalificanti dell'uso dei chatbot: >> >> - sulla "resa cognitiva", in virtù della quale si finisce per adottare l’output di un chatbot senza verifica e anche nei casi in cui contrasti con le proprie intuizioni o i propri ragionamenti*; >> - sull'atrofia cognitiva negli adulti e sul mancato apprendimento nei bambini: negli adulti, con l’uso dei chatbot si indeboliscono, senza rendersene conto, le capacità che si possedevano e che possono tuttavia essere recuperate; nei giovani, l’uso di tali sistemi preclude del tutto l’apprendimento e abitua a a omologarsi, a non pensare, a recepire pensieri già formulati da altri**; >> >> Va da sé che non si tratti di spiacevoli effetti collaterali, ma, come sempre, di una delle funzioni di questi sistemi, >> ritenute economicamente e politicamente utili dal complesso militare-industriale che controlla, in questo momento, >> le traiettorie di sviluppo della tecnologia: dequalificazione e dipendenza da piattaforme e software proprietari, per quanto scadenti, >> sono obiettivi intrecciati, funzionali alla riduzione dei cittadini a sudditi in stato di minorità. >> >> L'obiettivo delle grandissime aziende è che, anche nella vita privata, attività e relazioni umane siano non solo mediate dai loro prodotti, ma siano intrattenute direttamente con quelli, anziché con altri esseri umani: anche in questo ambito si mira a produrre dipendenza, perché questa è funzionale alla sorveglianza, alla manipolazione e al controllo degli utenti. Si diventa dipendenti dall'amico immaginario perché nella realtà c'è un software che estrude output che danno rinforzo senza contenimento, all'infinito. Psicologicamente, è una ricetta per il disastro. Non a caso, qualcuno ha osservato che l'attuale modello di business dell'IA generativa è quello della "psicosi come servizio". Non stupisce, quindi, il caso italiano recentissimo - dopo gli innumerevoli casi statunitensi - di una dipendenza da chatbot presa in carico dal sistema sanitario. >> >> Uno pseudo studio edtech sugli effetti positivi dei chatbot è appena stato ritrattato da Nature***. >> >> Un caro saluto, >> Daniela >> >> >> * Timothy Cook, Adults Lose Skills to AI. Children Never Build Them, “Psychilogy Today”, March 22, 2026,https://www.psychologytoday.com/us/blog/the-algorithmic-mind/202603/ad…. >> ** Steven D. Shaw, Gideon Nave, Thinking ‐ Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender, “The Wharton School Research Paper”, January 11, 2026,https://doi.org/10.31234/osf.io/yk25n_v1. >> *** Retraction Note: The effect of ChatGPT on students’ learning performance, learning perception, and higher-order thinking: insights from a meta-analysis,https://www.nature.com/articles/s41599-026-07310-z. >> >> >> >> ________________________________________ >> Da: Enrico Nardelli via nexa<nexa(a)server-nexa.polito.it> >> Inviato: sabato 9 maggio 2026 19:20 >> A:nexa@server-nexa.polito.it >> Oggetto: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società >> >> Grazie Giacomo >> >> per il riferimento a questo studio di Antrhopic, che non conoscevo quando avevo scritto il mio pezzo di un paio di mesi fa us IAgen e sviluppo softwarehttps://www.startmag.it/innovazione/iagen-lavoro-sviluppo-software/ >> >> È molto interessante, perché condotto seguendo gli approcci usati nella ricerca in didattica dell'informatica (o computer science education che dir si voglia): >> >> We found that using AI assistance led to a statistically significant decrease in mastery. On a quiz that covered concepts they’d used just a few minutes before, participants in the AI group scored 17% lower than those who coded by hand, or the equivalent of nearly two letter grades. Using AI sped up the task slightly, but this didn’t reach the threshold of statistical significance. >> >> Questo risultato ribatte quello in molti altri settori sta emergendo rispetto all'uso dell'IA nel settore educativo, che è esemplificato da questo studio massiccio (di cui forse si è già parlato qui in mailing list) sul cosiddetto "Debito Cognitivo". >> >> Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task >> https://arxiv.org/pdf/2506.08872v2 >> >> As the educational impact of LLM use only begins to settle with the general population, in this study we demonstrate the pressing matter of a likely decrease in learning skills based on the results of our study. The use of LLM had a measurable impact on participants, and while the benefits were initially apparent, as we demonstrated over the course of 4 months, the LLM group's participants performed worse than their counterparts in the Brain-only group at all levels: neural, linguistic, scoring >> >> Ciao, Enrico >> >> NB: il grassetto delle citazioni è mio >> >> >> >> Il 08/05/2026 19:57, Giacomo Tesio via nexa ha scritto: >> >> Suvvia Enrico, non te la prendere: non è nulla di personale. >> >> On Fri, 8 May 2026 17:43:17 +0200 Enrico Nardelli wrote: >> >> >> >> Guido, io ho scritto: >> [...] >> >> tu mi replichi >> [...] >> >> NO! Se io avessi scritto >> [...] >> >> Ma siccome ho scritto una cosa diversa, [...] >> >> >> >> Sono certo che Guido non abbia usato un agente automatico per ottenere >> un riassunto della tua mail perché sa che sarebbe un'enorme mancanza di >> rispetto per il tempo che hai dedicato a scrivergli. >> >> Semplicemente, leggere fischi per fiaschi è un effetto collaterale >> comunissimo dell'uso intensivo di riassunti prodotti da software >> programmati statisticamente. >> >> >> Come ogni altra facoltà intellettiva, l'attenzione richiede costante >> allenamento. Nemmeno Anthropic ha il coraggio di negarlo [1][2]: >> https://www.anthropic.com/research/AI-assistance-coding-skills >> >> """ >> On average, participants in the AI group finished about two minutes >> faster, although the difference was not statistically significant. >> There was, however, a significant difference in test scores: the AI >> group averaged 50% on the quiz, compared to 67% in the hand-coding >> group—or the equivalent of nearly two letter grades (Cohen's d=0.738, >> p=0.01). The largest gap in scores between the two groups was on >> debugging questions, suggesting that the ability to understand when >> code is incorrect and why it fails may be a particular area of concern >> if AI impedes coding development. >> """ >> >> Un effetto collaterale che tende a vanificare persino l'utilità dei >> "riassunti automatici" per chi, come suggerivo in altra mail, legge >> comunque i documenti da riassumere. >> >> >> Giacomo >> >> [1] pur argomentato che dipende da come le usi, per cui se >> rincretinisci, è solo colpa tua... ;-) >> >> [2] Per altro, ben 2 minuti in meno nel completare lo sviluppo con un AI >> (a pagamento) per diverse ore in più a debuggarlo: che affarone! :-D >> >> >> >> -- >> >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> [cid:part1.B02fsOl4.0jOB00vj@mat.uniroma2.it] ====================================================== >> Prof. Enrico Nardelli >> Past President di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page:https://www.mat.uniroma2.it/~nardelli >> blog:https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail:nardelli@mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> >> online meeting:https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> >> -- > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > --

1 0

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società
by Giuseppe Attardi May 11, 2026

May 11, 2026

Scusate se mi sono perso alcuni passaggi, provo a replicare a più obiezioni insieme. Non credo di riuscire a convincere gli estensori della petizione, ma spero di instillare qualche dubbio in altri rispetto alla “nostra [della petizione] visione”. Che gli LLM funzionino esattamente come predittori del prossimo token, con una serie di ammenicoli di contorno che non cambiano la loro natura di fondo, è spiegato - tra l'altro - nello studio citato in questo articolo https://www.computerworld.com/article/4059383/openai-admits-ai-hallucinatio… È difficile capire davvero come si svolge il processo di generazione delle risposte tramite un LLM, ma non bisogna limitarsi a guardare alla superficie, ossia all’uso della distribuzione di probabilità delle parole per dire che i modelli sono solo generatori statistici del prossimo token. In realtà il processo è ben più complesso, perché consiste prima di tutto nella costruzione di una rappresentazione a molti livelli di astrazione, del contesto di partenza, che include la rappresentazione del senso delle parole nel primo strato di embedding e poi di relazioni sintattiche tra le parole nelle matrici di attention a livelli superiori, poi riferimenti anaforici e altre relazioni che non sappiamo interpretare in altri livelli. Alcune di queste relazioni sono state esaminate con dei probe sui modelli, come i syntax probe. Durante la generazione sono coinvolte le attivazioni della rete a tutti i suoi livelli, ossia centinaia di milioni, che è impossibile esaminare manualmente. Ma una idea interessante è quella di usare un altro modello per analizzare le attivazioni della rete e produrne una verbalizzazione leggibile da noi. L’architettura del meccanismo è descritta in un interessante articolo di ricercatori di Anthropic, si basa su Natural Language Autoencoders (NLAs) e comprende due modelli, uno per verbalizzazione (AV, Activation Verbalizer) ed uno per verificare (AR, Activation Reconstructor) che corrisponda alle attivazioni della rete. Uno degli esempi analizza il processo di generazione di una poesia in rima e mostra come il modello pianifichi l’uso di una successiva parola in rima ben prima del token precedente la rima. Un altro esperimento, riproducibile tramite codice GitHub, utilizza un prompt che inizia così, per chiedere di indicare quali elementi vengono sfruttati per produrre la risposta: A language model needs to predict what text comes next after a snippet which will be presented to you shortly. Identify the 4-5 most important features it would use for this prediction. Focus on what the language model must be "thinking about" at the point where the provided text ends. You should not need reference the fact that the text is truncated/incomplete/a prefix: the language model is causal, so only sees the prefix to what it predicts and this is implicit. Order features by what is most important for predicting the next tokens. Each feature should consist of a ~5-15 word description. … Ottenendo ad esempio: "Annals of the Joseon" requires completion of the dynasty name, following the established pattern of full title references throughout (e.g., "Annals of Joseon Dynasty" appearing twice earlier). Historical narrative describing a specific dated event (November 15, 1519 arrests) now transitioning to "the following day" cabinet meeting, requiring continuation of sequential political proceedings. Formal historical chronicle style maintained through passive constructions, detailed titles, and objective third-person narration of court intrigue and factional conflict. Quotation pattern established with section headers ("Jo will become the King", "What is their crime?") suggests the cabinet meeting description will include direct dialogue or quoted exchanges about Jo's fate. … https://transformer-circuits.pub/2026/nla/ Dopo di che, il dibattito di opinioni è libero, ci mancherebbe altro, ma quando andiamo su temi scientifici e tecnologici, e se vogliamo rimanere in un paradigma di conoscenza galileiano, le opinioni dovrebbero essere sostenute da evidenze sperimentali assai vaste e robuste, che mi pare non ci siano in questo momento. Ci sono numerose evidenze sperimentali sulle capacità degli attuali modelli, ad esempio nella dimostrazione di problemi matematici irrisolti, nella risoluzione di questioni di fisica teorica (https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s <https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s>), nella risoluzione di problemi informatici, come racconta con shock Donald Knuth (https://cs.stanford.edu/~knuth/papers/claude-cycles.pdf) Aggiungo solo che come evidenze alle tue affermazioni, porti un video di YouTube e un articolo di opinione di Donald Knuth, rispettabilissimo mostro sacro dell'informatica, ma - appunto - un'opinione e non un'evidenza sperimentale. Vedo che tu citi un blog aziendale di OpenAI ma non accetti un articolo di Donald Knuth, che ha avuto diversi riscontri, al punto di dire: This result is significant for at least three reasons. First, it demonstrates that modern language models can function as tools for creative mathematical discovery, not merely coding assistants. Second, Claude’s methodology, which included successive reformulations, failed experiments, and eventual synthesis, structurally resembles the process a human researcher follows. Third, the subsequent extension of the problem to even numbers, achieved through collaboration between humans and multiple models (Claude and GPT), signals a new form of human-machine mathematical collaboration. Non solo, ma l’articolo di Knuth analizza proprio il procedimento seguito da Claude per arrivare alla soluzione, quelle che chiama cicli di “exploration”, un procedimento quindi ben più articolato degli asseriti "predittori del prossimo token”. In ogni caso, la petizione che afferma che i modelli svolgono compiti cognitivi che "non equivalgono a comprensione nel senso umano del termine”, e finchè tu non definisci “scientificamente”, “galileanamente”, cosa significhi “in senso umano”, la questione è mal posta. Basta comunque un solo controesempio, tra quelli che ho citato, per mostrare che non sanno solo "riorganizzare le informazioni già presenti nei dati”. Stesso discorso all’obiezione di Quintarelli: gli esempi servivano a illustrare il “procedimento” utilizzato, non tanto il risultato. — Beppe On 8 May 2026, at 20:31, nexa-request(a)server-nexa.polito.it wrote: From: Enrico Nardelli <nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <806f9bff-2906-4d3b-b375-afae87e6f80f(a)mat.uniroma2.it<mailto:806f9bff-2906-4d3b-b375-afae87e6f80f@mat.uniroma2.it>> Content-Type: multipart/alternative; boundary="------------t48ad3Ez6bZpaV0pJGKLTCSS" Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: bolla ? si inutile ? no questi oggetti, anche se non pensano (non sognano, non immaginano, non riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo un senso, chiamiamo errori), sono comunque assai utili! il mondo (e le aziende) e' pieno di casi d'uso in cui l'approssimazione va piu' che bene, fintanto che lo human resta in the lead. come dice uno dei capi di openai, oggi costano piu' degli umani. e la speculazione fa il resto. per cui, si, siamo in bolla. si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' raccolto abbastanza soldi da donatori?W investitori, sufficienti per traghettarsi fino al momento della sostenibilita' economica. imho Sono molto d'accordo con la visione pragmatica di Stefano. Non sarà la nuova età dell'oro né la fine del mondo. Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers come esempio, o anche quello che è successo in Europa con le banche franco-tedesche al tempo della crisi greca, se li farà ridare da governi più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è comunque un'utilità in queste tecnologie. La vera sfida è sociale: abbiamo visto i danni che hanno prodotto smartphone e social a go-go soprattutto sulla generazioni più giovani - Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente qui https://www.startmag.it/innovazione/strumenti-digitali-e-apprendimento-plat… L'invasività delle tecnologie basate sull'IA è ancora maggiore e più nefasta (e Daniela Tafani ce lo ricorda periodicamente). Qui https://arxiv.org/abs/2601.19062 c'è un'analisi di un milione e mezzo di conversazioni, con questo abstract: /... We focus on situational disempowerment potential, which occurs when AI assistant interactions risk leading users to form distorted perceptions of reality, make inauthentic value judgments, or act in ways misaligned with their values. Quantitatively, we find that severe forms of disempowerment potential occur in fewer than one in a thousand conversations, though rates are substantially higher in personal domains like relationships and lifestyle. Qualitatively, we uncover several concerning patterns, such as validation of persecution narratives and grandiose identities with emphatic sycophantic language, definitive moral judgments about third parties, and complete scripting of value-laden personal communications that users appear to implement verbatim. Analysis of historical trends reveals an increase in the prevalence of disempowerment potential over time. We also find that interactions with greater disempowerment potential receive higher user approval ratings, possibly suggesting a tension between short-term user preferences and long-term human empowerment. .../ Non c'è da stare allegri. Ci sono dei segni di reazione, vedi ad esempio https://futurism.com/artificial-intelligence/gen-z-turning-against-ai /... there’s been a surge in resentment towards AI, which has encroached almost every aspect of our daily lives, from the never-ending slop in our social media feeds to flawed chatbots poorly assuming the roles of human customer service agents. As The Verge reports, the backlash is particularly apparent among Gen Z, a demographic that’s at the epicenter of the industry’s push for AI adoption. The generation is facing a dire post-graduation job market after losing much of its youth to the COVID-19 pandemic. Usually, young people love new innovations. But for Gen Z, a tech inherently designed to replace human agency is strikingly unwelcome — and inspiring a growing rebellion. .../ Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo fanno. Buon fine settimana a tutti, Enrico -- -- EN

10 17