- nexa - server-nexa.polito.it

R: demistificazione del concetto di black box [era Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism]

by Daniela Tafani

Caro 380°, l'articolo si occupa di reti neurali artificiali (ANN), così definite: "ANN is an umbrella term for models of the data or of cognition that involve matrix multiplications followed by squashing functions" La tesi a cui mi riferivo è molto semplice (traduco liberamente o parafraso di seguito alcuni passi dell'articolo): non è vero che non comprendiamo come funzioni una rete neurale artificiale, si tratta di equazioni e meccanismi conosciuti o conoscibili. Quello che non conosciamo sono i dati (e il mondo). Nessun modello statistico inferenziale, dalla regressione logistica alle ANN, per il solo fatto di essere applicato ai dati, fornisce spiegazioni. Una spiegazione scientifica di un set di dati è il prodotto di qualcosa di più di un semplice modello adattato ai dati. In senso scientifico — dove siamo alla ricerca di una teoria — la mera applicazione di un modello statistico non è né più né meno esplicativa dei dati stessi. Fornisce una visione dei dati, ad esempio su come le diverse variabili si relazionano tra loro e se tali relazioni sono statisticamente significative, ma non rivela nulla che non sapessimo o almeno sospettassimo prima. Ed è proprio questo lo scopo della statistica: confermare o meno un'ipotesi che potremmo avere sul set di dati. Le teorie sono una questione completamente diversa. Sono i dati a far sì che una rete neurale artificiale (ANN), proprio come qualsiasi modello statistico, funzioni per un determinato caso d'uso. Ciò che non comprendiamo sono i dati e i processi che, nel mondo, generano quei dati. In altre parole, non comprendiamo la realtà e i suoi riflessi e le sue distorsioni nei set di dati. Ciò che non comprendiamo e da cui l’IA contemporanea basata sulle ANN dipende è il set di dati (e i fenomeni che sospettiamo generino quei dati). E quindi possiamo e dobbiamo ammettere che applicare un test statistico, che si tratti di una singola regressione logistica o di un miliardo, a un set di dati non porterà mai alla comprensione del set di dati e del mondo. Solo la scienza può farlo. ________________________________ Da: 380° Inviato: Mercoledì, 13 Maggio, 2026 14:35 A: Daniela Tafani; nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism Buongiorno Daniela, ti chiedo una cortesia... On 2026-05-09, Daniela Tafani via nexa wrote: > Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. > > Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism > Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark > May 7, 2026 ho letto l'abstract, nel PDF non sono riuscito a trovare le "conclusions" e faccio davvero troppa fatica a leggere la prosa che usano: riusciresti per favore a riassumere perché gli autori ritengono che le ANN non siano delle black box? Grazie, 380° [...] -- 380° (lost in /traslation/) «Welcome to the chaos of the times If you go left and I go right Pray we make it out alive This is Karmageddon»

May 13, 2026

Re: Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism

by 380°

Buongiorno Daniela, ti chiedo una cortesia... On 2026-05-09, Daniela Tafani via nexa wrote: > Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. > > Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism > Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark > May 7, 2026 ho letto l'abstract, nel PDF non sono riuscito a trovare le "conclusions" e faccio davvero troppa fatica a leggere la prosa che usano: riusciresti per favore a riassumere perché gli autori ritengono che le ANN non siano delle black box? Grazie, 380° [...] -- 380° (lost in /traslation/) «Welcome to the chaos of the times If you go left and I go right Pray we make it out alive This is Karmageddon»

May 13, 2026

Re: Forma mentis

by Massimo Maria Ghisalberti

Il giorno mer, 13/05/2026 alle 09.21 +0000, Giuseppe Attardi via nexa ha scritto: > Grazie per avercelo ricordato. > > Mi chiedo però se accettiamo quanto la gente scrive su questa lista, che non è > peer-reviewed, perché non dovremmo accettare quanto altri scrivono su arXiv. > Poi vedo anche citazioni di semplici blog, come quello citato > da antonio(a)piumarossa.it proprio su questo oggetto, di cui nessuno si è > lamentato. > Si figuri, però vede ho solo ricordato precisando di non entrare nel merito della qualità o della autorevolezza dei paper pubblicati. Solo per stimolare un approccio critico e non "di pancia" come si potrebbe dire. Sui blog non mi sono espresso perché lo ritenevo inutile, qualcuno pensa che scrivere un articolo su un blog sia fare scienza? Siamo nel reame delle opinioni, magari sicuramente "opinioni fondate e autorevoli" ma pur sempre opinioni. Guardi però che non è un male di per sé, le opinioni stimolano la discussione che quando costruttiva poi sfocia pure in scienza. > In tutti e tre i casi ognuno farà le proprie valutazioni di merito. Infatti, quello è il punto. Fare ognuno le proprie valutazioni in merito. -- massimo

May 13, 2026

Re: Forma mentis

by Massimo Maria Ghisalberti

Il giorno mer, 13/05/2026 alle 09.11 +0000, Giuseppe Attardi via nexa ha scritto: > BTW, quali “concetti o regole linguistiche" ha un bambino di 3 anni, che parla > bene una lingua, senza che nessuno gli abbia insegnato alcunché di analisi > sintattica o grammaticale? > Non avrà imparato anche lui qualcosa che a noi risulta non intelligibile? Buondì a lei e scusi se eventualmente possa farle perdere tempo. Non so, preferisce l'approccio costruttivista o quello socio-culturale? Indipendentemente da questo un bambino di 3 anni conosce, se la "pressione linguistica" è adeguata, circa 500 parole. Seppur non in grado di "astrarre" è perfettamente in grado di comporre relazioni semantiche concrete tra le parole. Non solo, ma anche gestire combinazioni equivalenti, complementari e supplementari di parole e gesti e farne un uso referenziale. Ha uno sviluppo morfosintattico indotto (genitori che parlano un lingua corretta per esempio) suddiviso idealmente in alcune fasi di cui la presitattica fino a circa due anni, seguita da una sintatticamente primitiva poi consolidata nella "frase nucleare" sui tre anni. Tra i 3 e quattro anni si può parlar di competenza linguistica. Come suppongo sappia poi dai cinque/sei (alcuni prima, pensi che sapevo scrivere a quattro anni grazie a mia madre) il bambino si appropria della corrispondenza fonema/grafema. Ora, vede... Qui stiamo parlando di esseri umani e non di macchine. Buona giornata. -- massimo

May 13, 2026

Re: Forma mentis

by Giuseppe Attardi

Grazie per avercelo ricordato. Mi chiedo però se accettiamo quanto la gente scrive su questa lista, che non è peer-reviewed, perché non dovremmo accettare quanto altri scrivono su arXiv. Poi vedo anche citazioni di semplici blog, come quello citato da antonio(a)piumarossa.it<mailto:antonio@piumarossa.it> proprio su questo oggetto, di cui nessuno si è lamentato. In tutti e tre i casi ognuno farà le proprie valutazioni di merito. — On 13 May 2026, at 09:55, nexa-request(a)server-nexa.polito.it wrote: From: Massimo Maria Ghisalberti <zairik(a)zohomail.eu<mailto:zairik@zohomail.eu>> Subject: [nexa] Re: Forma mentis To: GC F <gcfrosio(a)gmail.com<mailto:gcfrosio@gmail.com>>, nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Buondì. Senza entrare nel merito vorrei ricordare che, data l'abitudine a citare articoli arXiv, che arXiv è una piattaforma di pre-press. Chiunque può inviare articoli e se corretti formalmente vederseli pubblicati. Non sono peer-reviewed. "Material is not peer-reviewed by arXiv - the contents of arXiv submissions are wholly the responsibility of the submitter and are presented “as is” without any warranty or guarantee" https://info.arxiv.org/about/index.html Il che significa che indipendentemente dal valore dei proponenti e del paper stesso, ai fini scientifici sono soltanto, per quanto autorevoli, opinioni. Ripeto, per non sollevare il solito vespaio, che è solo una valutazione "tecnica" e non nel merito. Per stemperare posso dire che non sono più scientifici di quelli in SIGBOVIK (https://sigbovik.org/) Che consiglio a chi non conosce per portare la propria intelligenza a super- intelligenza, tale da competere sullo stesso piano con le nuove AI. -- massimo

May 13, 2026

Re: Forma mentis

by Giuseppe Attardi

From: antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> No: sono archivi compressi con perdita di sequenze testuali di cui è possibile decomprimere approssimazioni di alcune zone fornendo in input una sequenza testuale prossima a quelle presenti nei testi sorgente. E' una spiegazione semplice, comprensibile ed esaustiva. Più che semplice, semplicistica. Aggiungo (tratto da [1]) ... Ahi! Sono numeri che il modello ha imparato durante l'addestramento. Non hanno "significato" umano e non rappresentano concetti o regole linguistiche in modo leggibile. 4.096 è grande abbastanza da codificare significati sfumati. Già: significati sfumati. Peccato poi che gli esperimenti, ad esempio con i syntax probe (Hewitt and Manning), dimostrino invece che rappresentano relazioni di dipendenze sintattiche tra le parole, e altre relazioni linguistiche semantiche quali la coreference. Altri concetti linguistici come i POS si ottengono ancor più facilmente col clustering. La pretesa che abbiano un’intelligibilità umana è del tutto pretestuosa. Ciò che conta è che abbiano un significato per il modello, che se li è costruiti appositamente per poter funzionare. È solo che per poterli “leggere” occorrono strumenti appositi, non c’è una leggenda, come per i file GGUF. BTW, quali “concetti o regole linguistiche" ha un bambino di 3 anni, che parla bene una lingua, senza che nessuno gli abbia insegnato alcunché di analisi sintattica o grammaticale? Non avrà imparato anche lui qualcosa che a noi risulta non intelligibile? — Quello che NON è un modello NON è intelligenza artificiale consapevole NON è un database esplicito di fatti memorizzati NON ha "comprensione" nel senso umano NON "ragiona" nel senso umano: calcola probabilità NON ha un meccanismo nativo di verifica logica/fattuale delle sue risposte NON apprende ma adatta i pesi durante l'inferenza NON contiene neuroni in senso organico, ma numeri, numeri e solo numeri NON ha memoria permanente tra le conversazioni (a meno che il sistema esterno non la aggiunga) [1] https://ilcibernetico.it/autopsia-di-un-llm-parte-prima/ [2] https://ilcibernetico.it/il-tokenizzatore-autopsia-di-un-llm-parte-seconda/ A.

May 13, 2026

Re: Forma mentis

by Giacomo Tesio

On Tue, 12 May 2026 19:39:32 +0200 GC F wrote: > Converrebbe anche leggersi la letteratura [...] Ma certo! Personalmente ti consiglio la collana Urania. https://it.wikipedia.org/wiki/Urania_(collana) La troverai molto più piacevole della bibliografia che hai menzionato e più facile da interpretare (e valutare criticamente) anche senza solide basi informatiche, ma altrettanto fantasiosa. > Posizione condivisibile, logica e presciente. :-DDD Sì, beh vero... è logico. Nell'universo in cui i LLM "ragionano", Cristianini è presciente. https://www.treccani.it/vocabolario/presciente/ https://www.treccani.it/vocabolario/prescienza/ Certo però che sfiga... cosmica? multi-versica? Potevamo avere SpiderMan... e ci è toccato Cristianini. :-D Giacomo

May 13, 2026

Re: Forma mentis

by Massimo Maria Ghisalberti

Buondì. Senza entrare nel merito vorrei ricordare che, data l'abitudine a citare articoli arXiv, che arXiv è una piattaforma di pre-press. Chiunque può inviare articoli e se corretti formalmente vederseli pubblicati. Non sono peer-reviewed. "Material is not peer-reviewed by arXiv - the contents of arXiv submissions are wholly the responsibility of the submitter and are presented “as is” without any warranty or guarantee" https://info.arxiv.org/about/index.html Il che significa che indipendentemente dal valore dei proponenti e del paper stesso, ai fini scientifici sono soltanto, per quanto autorevoli, opinioni. Ripeto, per non sollevare il solito vespaio, che è solo una valutazione "tecnica" e non nel merito. Per stemperare posso dire che non sono più scientifici di quelli in SIGBOVIK (https://sigbovik.org/) Che consiglio a chi non conosce per portare la propria intelligenza a super- intelligenza, tale da competere sullo stesso piano con le nuove AI. -- massimo

May 13, 2026

Re: Forma mentis

by Alfredo Bregni

>>NON è intelligenza artificiale consapevole Però l'hanno chiamata "IA". Vedi un po'... (Vup). >>NON è un database esplicito di fatti memorizzati Però c'è dietro il web. Vup. >>NON ha "comprensione" nel senso umano E infatti è una "scorciatoia". Vup. >>NON "ragiona" nel senso umano: calcola probabilità. E infatti è una "scorciatoia". Vup. >>NON ha un meccanismo nativo di verifica logica / fattuale delle sue risposte. Quando vanno bene, vanno bene; quando vanno male, vanno male. Come la statistica. >>NON apprende ma adatta i pesi durante l'inferenza. Se usate reti neurali, ...quello fanno. >>NON contiene neuroni in senso organico, ma numeri, numeri e solo numeri. Però reti "neurali" le avete chiamate voi. >>NON ha memoria permanente tra le conversazioni (a meno che il sistema esterno non la aggiunga). Questa è una scelta, e c'è -- almeno su google AI -- un elenco di conversazioni richiamabili. Ma la domanda vera è: che male c'è a usare i "confezionatori di testi" -- e cugini vari in altri ambiti -- PER QUELLO CHE SONO?? Mi va bene il dibattito, ma la domanda è sempre la medesima: di cosa ci preoccupiamo? Del fatto che le persone sono "esposte" (a qualche sorta di inganno?)? COME GIA' DETTO, c'è BEN ALTRO che ci frega. Vogliamo COME AL SOLITO montare un falso problema e parlare di quello, ... così EVITIAMO di parlare di quello VERO? Perché alla fine l'impressione ...è quella. VUP-VUP. ----- Original Message ----- From: antonio via nexa To: nexa(a)server-nexa.polito.it Sent: Tuesday, May 12, 2026 8:35 PM Subject: [nexa] Re: Forma mentis > No: sono archivi compressi con perdita di sequenze testuali di cui è > possibile decomprimere approssimazioni di alcune zone fornendo in input > una sequenza testuale prossima a quelle presenti nei testi sorgente. > E' una spiegazione semplice, comprensibile ed esaustiva. Aggiungo (tratto da [1]) ... Quello che NON è un modello NON è intelligenza artificiale consapevole NON è un database esplicito di fatti memorizzati NON ha "comprensione" nel senso umano NON "ragiona" nel senso umano: calcola probabilità NON ha un meccanismo nativo di verifica logica/fattuale delle sue risposte NON apprende ma adatta i pesi durante l'inferenza NON contiene neuroni in senso organico, ma numeri, numeri e solo numeri NON ha memoria permanente tra le conversazioni (a meno che il sistema esterno non la aggiunga) [1] https://ilcibernetico.it/autopsia-di-un-llm-parte-prima/ [2] https://ilcibernetico.it/il-tokenizzatore-autopsia-di-un-llm-parte-seconda/ A.

May 12, 2026

[DAUIN Seminars] Moving from Human-Centered AI to People-Centered AI, Yvonne Rogers

by Daniele Quercia

DAUIN has been delighted to welcome Prof. Yvonne Rogers over the past few weeks. It has been a real pleasure to have her with us, and we warmly invite you to join us for the final seminar of her visit. Y Combinator has recently identified the "Company Brain" as an emerging area of interest. Yvonne will ask how agentic AI might empower not only individuals, but also teams, organisations, and society at large. Moving from Human-Centered AI to People-Centered AI Yvonne Rogers, UCL May 18, 3:30pm, Lab8, DAUIN Recently there has been much excitement about agentic AI. But what does this mean for those of us working in HCI? Rather than focussing on how to amplify human cognition or augment users with GenAI tools it is important that we also begin considering how best to empower organisations, companies and society at large with agentic AI. In particular, we need to determine how to support teams and organisations in their workflows and complex tasks, for example, collaborative decision-making. This involves addressing scalability; coming up with different lens and frameworks. In my talk, I will begin by giving an overview of HCAI followed by considering the new challenges that are afoot and the opportunities that have arisen as we enter the new era of agentic AI. Yvonne Rogers is a Professor of Interaction Design at UCL. Her research interests are in the areas of human-computer interaction and human-centered AI. Her current research investigates how to design AI tools to empower people, especially human decision-making and metacognition. From 2022-2024 she was the CTO of LetsThink.com, a start-up that is developing new tools to augment how people think by applying behaviour science methods to AI. From 2020-2025 she was awarded a chair of excellence at Bremen University which was set up to fund distinguished international scholars to promote collaboration. During this time, she co-developed a centre for AI and healthcare. In 2024 she was elected as an international member of the US National Academy of Engineering. In 2022, she was awarded the ACM SIGCHI Lifetime Research Award; "presented to individuals for outstanding contributions to the study of human-computer interaction". In the same year, she was awarded the Royal Society Robin Milner Medal for Computer Science and was elected as a Fellow of the Royal Society as "one of the leaders who created the field of Ubiquitous Computing". She collaborates a lot with industrial partners and was awarded a Microsoft Research Outstanding Collaborator Award. She is also a Fellow of the ACM; a Fellow of the British Computer Society and a Fellow of the ACM's CHI Academy. ________________________________________________________________________________ Microsoft Teams meeting Join: https://teams.microsoft.com/meet/385368719903313?p=SXRMHN6TqPGP851CZs Meeting ID: 385 368 719 903 313 Passcode: 5ey3MM9g ________________________________ Need help?<https://aka.ms/JoinTeamsMeeting?omkt=en-GB> | System reference<https://teams.microsoft.com/l/meetup-join/19%3ameeting_NTkzZDRmYjQtNjZlYi00…> For organisers: Meeting options<https://teams.microsoft.com/meetingOptions/?organizerId=855f504a-6e63-4e94-…> ________________________________________________________________________________

May 12, 2026