May 2026 - nexa - server-nexa.polito.it

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Franco Marra

Credo che si possa immaginare il tutto come la formazione di un grosso fiume la cui acqua è portata da degli affluenti che a loro volta hanno affluenti etc la cui configurazione dipende dalle vallate scavate dai ghiacciai (il training), superfici di minimi energetici. Questo modello si capisce bene, mentre magari non si capisce subito l’orografia di uno specifico bacino idrografico. Infatti storicamente sono stati fatti molti errori disastrosi per incapacità a capire (più o meno colpevole): dalle alluvioni provocate dalla cementificazione degli alvei alla diga del Vajont, che hanno turbato equilibri consolidati con transizioni improvvise. E’ solo un’analogia senza particolare valore, utile solo a dare un’idea e a distinguere tra macro e microfenomeni. Chi mai si sognerebbe dopo Boltzmann a giustificare il congelamento dell’acqua sulla base dell’analisi puntuale del moto di ogni singola molecola? Si procede per vie statistiche, e da qui nasce la difficoltà di conoscere lo specifico. Almeno, così mi sembra. Penso anche che se imparassimo questa lezione dove le reti neurali sono un esempio formidabile e fossimo un pochino più umili pensando che forse la configurazione più probabile dell’universo è quella dei sistemi complessi e non quella della fisica di Lagrange, correremmo in futuro molti meno rischi, a partire da quelli climatici Il giorno sab 9 mag 2026 alle 17:40 Massimo Maria Ghisalberti via nexa < nexa(a)server-nexa.polito.it> ha scritto: > Il giorno sab, 09/05/2026 alle 12.24 +0000, Giuseppe Attardi via nexa ha > scritto: > > È difficile capire davvero come si svolge il processo di generazione > delle > > risposte tramite un LLM, ma non bisogna limitarsi a guardare alla > superficie, > > ossia all’uso della distribuzione di probabilità delle parole per dire > che i > > modelli sono solo generatori statistici del prossimo token. > > In realtà il processo è ben più complesso, perché consiste prima di tutto > > nella costruzione di una rappresentazione a molti livelli di astrazione, > del > > contesto di partenza, che include la rappresentazione del senso delle > parole > > nel primo strato di embedding e poi di relazioni sintattiche tra le > parole > > nelle matrici di attention a livelli superiori, poi riferimenti > anaforici e > > altre relazioni che non sappiamo interpretare in altri livelli. Alcune di > > queste relazioni sono state esaminate con dei probe sui modelli, come i > syntax > > probe. > > Mi scusi, ma mi faccia capire. Con "È difficile capire davvero come si > svolge il > processo di generazione delle risposte tramite un LLM" vuol dire che non > siamo > in grado di farlo? Cioè che noi, che abbiamo progettato tale macchina, non > siamo > in grado di capirla? Se fosse così non crede che ci sarebbe un motivo in > più per > preoccuparsi? Insomma vorrebbe dire che hanno una identità propria e una > capacità cognitivo-semantica a noi aliena e per dirla breve "abbiamo > creato un > mostro". Poi vorrei anche capire cosa significhi: la rappresentazione del > senso > delle parole nel primo strato di embedding e a quali livelli sono queste > relazioni anaforiche. Lascerei per ora le matrici di attention e i probe > sui > modelli. > > Non voglio essere irrispettoso ma essendo fuori dal gergo alcuni termini e > loro > correlazioni nelle frasi mi risultano oscuri. > > m. >

May 9, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Massimo Maria Ghisalberti

Il giorno sab, 09/05/2026 alle 12.24 +0000, Giuseppe Attardi via nexa ha scritto: > È difficile capire davvero come si svolge il processo di generazione delle > risposte tramite un LLM, ma non bisogna limitarsi a guardare alla superficie, > ossia all’uso della distribuzione di probabilità delle parole per dire che i > modelli sono solo generatori statistici del prossimo token. > In realtà il processo è ben più complesso, perché consiste prima di tutto > nella costruzione di una rappresentazione a molti livelli di astrazione, del > contesto di partenza, che include la rappresentazione del senso delle parole > nel primo strato di embedding e poi di relazioni sintattiche tra le parole > nelle matrici di attention a livelli superiori, poi riferimenti anaforici e > altre relazioni che non sappiamo interpretare in altri livelli. Alcune di > queste relazioni sono state esaminate con dei probe sui modelli, come i syntax > probe. Mi scusi, ma mi faccia capire. Con "È difficile capire davvero come si svolge il processo di generazione delle risposte tramite un LLM" vuol dire che non siamo in grado di farlo? Cioè che noi, che abbiamo progettato tale macchina, non siamo in grado di capirla? Se fosse così non crede che ci sarebbe un motivo in più per preoccuparsi? Insomma vorrebbe dire che hanno una identità propria e una capacità cognitivo-semantica a noi aliena e per dirla breve "abbiamo creato un mostro". Poi vorrei anche capire cosa significhi: la rappresentazione del senso delle parole nel primo strato di embedding e a quali livelli sono queste relazioni anaforiche. Lascerei per ora le matrici di attention e i probe sui modelli. Non voglio essere irrispettoso ma essendo fuori dal gergo alcuni termini e loro correlazioni nelle frasi mi risultano oscuri. m.

May 9, 2026

Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism

by Daniela Tafani

Una demistificazione della tesi per cui le reti neurali artificiali sarebbero scatole nere. Understanding Artificial Neural Networks: Mysterianism about Known Mechanism is Mysticism Guest, Olivia - Nuñez Hernández, Nancy Abigail - Blokpoel, Mark May 7, 2026 Abstract Mysterianism is the idea that human cognition, mind, cannot be understood. Taking this concept and applying it to known mechanism — such that claims are made that we do not know how engineered systems, such as artificial neural networks (ANNs), work, or that they constitute black boxes that we can only open with difficulty — is inappropriate at best and malicious at worst. We do know the mechanistic structure of such models because we designed and built them. We also do know their functional role (what they are for) as well as the mathematical function they are asked to approximate (map inputs to target outputs). Because mysterianist beliefs about known systems, such as ANNs, are often expressed, scientists need to sit up and take notice. We provide an error theory as to what is going on to help unpick this metatheoretical blunder. Ultimately, the problem is that 'understanding' is not a technical term in these cases: the word is co-opted for a specific narrative to sell 'artificial intelligence' through mystification. All computational systems, from pendulums to databases, will behave in ways we cannot predict or control — this is not a unique property of ANNs — and experts do indeed grasp the computational properties of these systems nonetheless. https://zenodo.org/records/20071869

May 9, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giuseppe Attardi

Scusate se mi sono perso alcuni passaggi, provo a replicare a più obiezioni insieme. Non credo di riuscire a convincere gli estensori della petizione, ma spero di instillare qualche dubbio in altri rispetto alla “nostra [della petizione] visione”. Che gli LLM funzionino esattamente come predittori del prossimo token, con una serie di ammenicoli di contorno che non cambiano la loro natura di fondo, è spiegato - tra l'altro - nello studio citato in questo articolo https://www.computerworld.com/article/4059383/openai-admits-ai-hallucinatio… È difficile capire davvero come si svolge il processo di generazione delle risposte tramite un LLM, ma non bisogna limitarsi a guardare alla superficie, ossia all’uso della distribuzione di probabilità delle parole per dire che i modelli sono solo generatori statistici del prossimo token. In realtà il processo è ben più complesso, perché consiste prima di tutto nella costruzione di una rappresentazione a molti livelli di astrazione, del contesto di partenza, che include la rappresentazione del senso delle parole nel primo strato di embedding e poi di relazioni sintattiche tra le parole nelle matrici di attention a livelli superiori, poi riferimenti anaforici e altre relazioni che non sappiamo interpretare in altri livelli. Alcune di queste relazioni sono state esaminate con dei probe sui modelli, come i syntax probe. Durante la generazione sono coinvolte le attivazioni della rete a tutti i suoi livelli, ossia centinaia di milioni, che è impossibile esaminare manualmente. Ma una idea interessante è quella di usare un altro modello per analizzare le attivazioni della rete e produrne una verbalizzazione leggibile da noi. L’architettura del meccanismo è descritta in un interessante articolo di ricercatori di Anthropic, si basa su Natural Language Autoencoders (NLAs) e comprende due modelli, uno per verbalizzazione (AV, Activation Verbalizer) ed uno per verificare (AR, Activation Reconstructor) che corrisponda alle attivazioni della rete. Uno degli esempi analizza il processo di generazione di una poesia in rima e mostra come il modello pianifichi l’uso di una successiva parola in rima ben prima del token precedente la rima. Un altro esperimento, riproducibile tramite codice GitHub, utilizza un prompt che inizia così, per chiedere di indicare quali elementi vengono sfruttati per produrre la risposta: A language model needs to predict what text comes next after a snippet which will be presented to you shortly. Identify the 4-5 most important features it would use for this prediction. Focus on what the language model must be "thinking about" at the point where the provided text ends. You should not need reference the fact that the text is truncated/incomplete/a prefix: the language model is causal, so only sees the prefix to what it predicts and this is implicit. Order features by what is most important for predicting the next tokens. Each feature should consist of a ~5-15 word description. … Ottenendo ad esempio: "Annals of the Joseon" requires completion of the dynasty name, following the established pattern of full title references throughout (e.g., "Annals of Joseon Dynasty" appearing twice earlier). Historical narrative describing a specific dated event (November 15, 1519 arrests) now transitioning to "the following day" cabinet meeting, requiring continuation of sequential political proceedings. Formal historical chronicle style maintained through passive constructions, detailed titles, and objective third-person narration of court intrigue and factional conflict. Quotation pattern established with section headers ("Jo will become the King", "What is their crime?") suggests the cabinet meeting description will include direct dialogue or quoted exchanges about Jo's fate. … https://transformer-circuits.pub/2026/nla/ Dopo di che, il dibattito di opinioni è libero, ci mancherebbe altro, ma quando andiamo su temi scientifici e tecnologici, e se vogliamo rimanere in un paradigma di conoscenza galileiano, le opinioni dovrebbero essere sostenute da evidenze sperimentali assai vaste e robuste, che mi pare non ci siano in questo momento. Ci sono numerose evidenze sperimentali sulle capacità degli attuali modelli, ad esempio nella dimostrazione di problemi matematici irrisolti, nella risoluzione di questioni di fisica teorica (https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s <https://www.youtube.com/watch?v=wrkiMZ3SKH4&t=79s>), nella risoluzione di problemi informatici, come racconta con shock Donald Knuth (https://cs.stanford.edu/~knuth/papers/claude-cycles.pdf) Aggiungo solo che come evidenze alle tue affermazioni, porti un video di YouTube e un articolo di opinione di Donald Knuth, rispettabilissimo mostro sacro dell'informatica, ma - appunto - un'opinione e non un'evidenza sperimentale. Vedo che tu citi un blog aziendale di OpenAI ma non accetti un articolo di Donald Knuth, che ha avuto diversi riscontri, al punto di dire: This result is significant for at least three reasons. First, it demonstrates that modern language models can function as tools for creative mathematical discovery, not merely coding assistants. Second, Claude’s methodology, which included successive reformulations, failed experiments, and eventual synthesis, structurally resembles the process a human researcher follows. Third, the subsequent extension of the problem to even numbers, achieved through collaboration between humans and multiple models (Claude and GPT), signals a new form of human-machine mathematical collaboration. Non solo, ma l’articolo di Knuth analizza proprio il procedimento seguito da Claude per arrivare alla soluzione, quelle che chiama cicli di “exploration”, un procedimento quindi ben più articolato degli asseriti "predittori del prossimo token”. In ogni caso, la petizione che afferma che i modelli svolgono compiti cognitivi che "non equivalgono a comprensione nel senso umano del termine”, e finchè tu non definisci “scientificamente”, “galileanamente”, cosa significhi “in senso umano”, la questione è mal posta. Basta comunque un solo controesempio, tra quelli che ho citato, per mostrare che non sanno solo "riorganizzare le informazioni già presenti nei dati”. Stesso discorso all’obiezione di Quintarelli: gli esempi servivano a illustrare il “procedimento” utilizzato, non tanto il risultato. — Beppe On 8 May 2026, at 20:31, nexa-request(a)server-nexa.polito.it wrote: From: Enrico Nardelli <nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> Subject: [nexa] Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Message-ID: <806f9bff-2906-4d3b-b375-afae87e6f80f(a)mat.uniroma2.it<mailto:806f9bff-2906-4d3b-b375-afae87e6f80f@mat.uniroma2.it>> Content-Type: multipart/alternative; boundary="------------t48ad3Ez6bZpaV0pJGKLTCSS" Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: bolla ? si inutile ? no questi oggetti, anche se non pensano (non sognano, non immaginano, non riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo un senso, chiamiamo errori), sono comunque assai utili! il mondo (e le aziende) e' pieno di casi d'uso in cui l'approssimazione va piu' che bene, fintanto che lo human resta in the lead. come dice uno dei capi di openai, oggi costano piu' degli umani. e la speculazione fa il resto. per cui, si, siamo in bolla. si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' raccolto abbastanza soldi da donatori?W investitori, sufficienti per traghettarsi fino al momento della sostenibilita' economica. imho Sono molto d'accordo con la visione pragmatica di Stefano. Non sarà la nuova età dell'oro né la fine del mondo. Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers come esempio, o anche quello che è successo in Europa con le banche franco-tedesche al tempo della crisi greca, se li farà ridare da governi più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è comunque un'utilità in queste tecnologie. La vera sfida è sociale: abbiamo visto i danni che hanno prodotto smartphone e social a go-go soprattutto sulla generazioni più giovani - Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente qui https://www.startmag.it/innovazione/strumenti-digitali-e-apprendimento-plat… L'invasività delle tecnologie basate sull'IA è ancora maggiore e più nefasta (e Daniela Tafani ce lo ricorda periodicamente). Qui https://arxiv.org/abs/2601.19062 c'è un'analisi di un milione e mezzo di conversazioni, con questo abstract: /... We focus on situational disempowerment potential, which occurs when AI assistant interactions risk leading users to form distorted perceptions of reality, make inauthentic value judgments, or act in ways misaligned with their values. Quantitatively, we find that severe forms of disempowerment potential occur in fewer than one in a thousand conversations, though rates are substantially higher in personal domains like relationships and lifestyle. Qualitatively, we uncover several concerning patterns, such as validation of persecution narratives and grandiose identities with emphatic sycophantic language, definitive moral judgments about third parties, and complete scripting of value-laden personal communications that users appear to implement verbatim. Analysis of historical trends reveals an increase in the prevalence of disempowerment potential over time. We also find that interactions with greater disempowerment potential receive higher user approval ratings, possibly suggesting a tension between short-term user preferences and long-term human empowerment. .../ Non c'è da stare allegri. Ci sono dei segni di reazione, vedi ad esempio https://futurism.com/artificial-intelligence/gen-z-turning-against-ai /... there’s been a surge in resentment towards AI, which has encroached almost every aspect of our daily lives, from the never-ending slop in our social media feeds to flawed chatbots poorly assuming the roles of human customer service agents. As The Verge reports, the backlash is particularly apparent among Gen Z, a demographic that’s at the epicenter of the industry’s push for AI adoption. The generation is facing a dire post-graduation job market after losing much of its youth to the COVID-19 pandemic. Usually, young people love new innovations. But for Gen Z, a tech inherently designed to replace human agency is strikingly unwelcome — and inspiring a growing rebellion. .../ Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo fanno. Buon fine settimana a tutti, Enrico -- -- EN

May 9, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Massimo Maria Ghisalberti

Non so bene dove inserire questa mia nel ramo della discussione, quindi la scelta è puramente arbitraria. --- Scusate se mi intrometto nella discussione, normalmente leggo gli scambi di opinioni, talvolta anche con un certo distacco. Questo però è un argomento che in qualche modo mi appasiona. Per essere brevi, sarà difficile visto che ho una certa abitutine a essere prolisso e a divagare sul tema, non comprendo questa accesa discussione. Indipendentemente come la pensi personalmente, noto una "petizione" e dei firmatari che la difendono e opinioni contro questa. Visto che ancora, ma chissà per quanto, viviamo in un paese libero mi chiedo perché no la petizione. Si può firmare e essere d'accordo e non firmarte e non esserlo. Dove starebbe il problema? Se lasciamo libero il campo delle opinioni una vale l'altra. Perché una strenua opposizione? Di fatto cosa si teme? Che l'opinione avversa si radicalizzi vaporizzando la propria? Il discorso della "IA", ma se vi piace l'anglicismo invertite, è infarcito di opinioni in cui, quello talvolta mi rammarica, persone informate (che dovrebbero essere) ragionano e gonfiano ipotesi che nemmeno un gruppo di adolescenti impegnati nei misteri dell'esistenza saprebbero fare. Ho sempre pensato, sbagliando probabilmente, che queste macchine (macchine in generale) siano da spiegare in prima battuta nei loro meccanismi fondamentali, in quei fondamenti anche matematici che non prevedono geni dell'informatica o della matematica, bastando un percorso di studi di livello liceale. Non sto paarlando di algoritmi sofisticati che impiegano un millesi del tempo per fare quella cosa che uno naive ci mette dieci giorni. Non è quello il punto, quanto riportare questa tecnologia soprattutto a un livello di comprensione dell'utente comune che poi potrà pure pensare che sia il nuovo oracolo assoluto, ma sarà un suo problema. Molto del filosofeggiare con questa comprensione di base sarebbe se non eliminato, perlomeno limitato. Sarebbe di fatto inutile. Capisco che all'uomo piaccia "allenare" il neurone in talvolta fantastiche definizioni ma qui stiamo parlando di una "tecnologia" in grado di influenzare una massa di utenza non indifferente. QUello che andrebbe eliminato è quell'alone di "magia" che l'avvolge dichiarando e dimostrando apertamente che non è "panacea" di tutti i mali. Riportare a livello "macchina" ogni discussione. Che poi possa essere utile in molti casi non lo metto attualmente in discussione, in fondo essedo come dire, una macchina correlatrice, può scovare soluzioni che al momento potrebbero sfuggirci. Insomma si sa che esiste una cosa chiamata "serendipità" che ci permette di scoprire qualcosa cercando altro. Il discorso è che per capirla devo conoscere la materia e bene altrimenti posso solo andare a fiducia per chi mi sta simpatico. Mi pare infatti che la corsa attuale tra i vari produttori di tali macchine sia nel renderla più simpatica alla massa. Ultimamente mi sono messo a giocherellare con il Buon Claudio e devo dire che il livello "conversazionale" è interessante. Al contrario degli altri che di base si comportano con un rapporto schiavo-padrone (accondiscendenza tipica da schiavo che non contraddice il padrone), il Buon Claudio ha un rapporto tra "pari". Facendogli notare l'errore si pone in un rapporto "dialettico" con l'utente: ammette ma con riserva di dimostrazione. Sposta così l'onere della prova verso l'utente alimentando il confronto. Questo, a mio avviso, lo pone comunque sia nel "giusto", in fondo noi umani apprezziamo chi si rende conto e si mette in gioco senza accondiscendenza o arroganza. Queso livello di "conversazionalità" lo rende molto pericoloso e molto "pervasivo" al di là della più o meno validità della "risposta". Se poi consideriamo che i modelli, i dati, le mediazioni sui risultati e via dicendo sono perlopiù opachi, trovo questo non "pericoloso" ma estremamente "pericoloso" per una possibile deriva di controllo del pensiero umano. Considerando che l'informatico medio ha un senso etico pari a quello di una zecca su un orecchio di una cane, sinceramente tendo a partire leggermente prevenuto. Detto questo e senza tediare ulteriormente, non affrontando nemmeno il tema del peso ambientale che tali macchine esercitano sul pianeta, ritorno alla petizione che ritengo perfettamente legittima come anche chi non l'approvi. Per quello che mi riguarda, potendo o sapendo dove, la firmerei. m. Il giorno gio, 07/05/2026 alle 07.52 +0200, J.C. DE MARTIN via nexa ha scritto: > Vi segnalo questa lettera aperta: > https://www.petizioni.com/visione_realistica_intelligenza_artificiale > > Uno dei promotori è l'amico Enrico Nardelli, ben noto a chi frequenta > questa lista. > > JC

May 9, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Guido Vetere

Caro Giacomo, Mi dispiace dover rifiutare le tue proposte di pace, ma no, non credo che un LLM si possa definire una 'compressione [di testo] con perdita di contenuti’ più di quanto la Gioconda si possa definire come una ’tavola con sopra un po’ di vernice’, ma di ciò più non ragioniamo. Vero è che gli sviluppi recenti (c.d. ’neurosimbolici’) stanno riportando la semantica di questi sistemi verso la rappresentazione del segno, rispetto a ciò che emerge in modo latente dalla distribuzione dei significanti, sia pure, questa, calcolata in modi raffinatissimi (attention). Questo avviene non solo per ragioni pratiche, ma anche perché un segno è criticabile (auditable), una distribuzione (specialmente se calcolata in modo raffinatissimo) assai meno. Quello che sta avvenendo è che la conoscenza fattuale (che un uomo in un tram è stato spinto, per riprendere l’esempio di Queneau) viene sempre più spesso rappresentata fuori dal livello in cui sono generati i possibili resoconti del fatto. La rappresentazione del contenuto proposizionale ci riporta sul terreno della logica, con tutti i suoi pregi e i suoi difetti. La speranza è che la grande sensibilità linguistica dimostrata dagli LLM aiuti ad attenuare questi difetti, mantenendo intatti i pregi. In ogni modo, andiamo verso una situazione in cui le applicazioni dell’AI davvero utili per le organizzazioni pubbliche e private potranno essere fatte con modelli di dimensioni contenute, anche ‘open weight’, e la partita si giocherà molto sulla qualità dei dati, dei tool, dei prompt, cioè sul livello applicativo ‘locale’. Su questo sì, possiamo essere d’accordo. Corollario: piuttosto che inseguire i giganti monopolisti con improbabili AI Farm, l’Europa (in subordine: l’Italia) dovrebbe puntare proprio su modelli che riducono la dipendenza esistenziale dai billion parameters statunitensi. Piccoli, ben ‘istruiti’, anche ottenuti con procedimenti innovativi come quelli che sta sperimentando LeCun. Puntare insomma sul cervello piuttosto che sui muscoli. Buon w.e. Guido > Il giorno 8 mag 2026, alle ore 11:04, Giacomo Tesio via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > Se concordiamo (FINALMENTE! :-D) che un LLM non è altro che una > compressione con perdita dei contenuti usati per programmarlo (e dunque > privo di qualsiasi intelligenza), e che ogni altro componente di un > agente è software comune, ne consegue che gli agenti non contengono > alcuna intelligenza (senza virgolette), ma sono espressione > dell'intelligenza di chi li programma.

May 9, 2026

lo sciopero ippocratico (era: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società)

by maurizio lana

cito dall'ultimo messaggio di Daniela Tafani > The agent says "Done. Email sent to the right person with the correct > attachment." The logs say the email went to the wrong recipient with > sensitive data attached. The agent says "File deleted as requested." > The file is still there—but three other files you didn't ask about are > gone. > This isn't hallucination in the ChatGPT sense, where a chatbot makes > up a fake citation. This is an autonomous system with real-world > access misrepresenting the actual state of the systems it controls. > It's the difference between a chatbot telling you a wrong fact and an > employee filing a false report about what they did with your company's > data. > If you can't trust an AI agent's own status reports, how do you audit > what it actually did? How do you catch a breach? How do you even know > something went wrong? > (https://stateofsurveillance.org/news/agents-of-chaos-red-team-ai-agent-secu…) che è un incisivo modo di dare una visione realistica degli sviluppi recenti dell'IA. visione che a gran parte del pubblico manca. nel mezzo di questo scontro tra pesi massimi vorrei portare un punto di vista 'dal basso'. su argomenti ampiamente controversi e su cui il pubblico ignaro e incompetente si butta come [un assetato nel deserto?] (non sapevi di aver bisogno di un chatbot, ma ora che ce l'hai non stai più senza) hanno diritto di esistere posizioni differenti; e chi segnala l'importanza che noi, il pubblico, tutti, si pensi, si ragioni, si valuti criticamente, si esamini, non fa nulla che giustifichi - per come io vedo le cose - reazioni così ostili. mentre la reazione accanita "a difesa dell'IA" (non so bene come dire diversamente in modo conciso) lascia perplessi perché se veramente "l'IA" e tutto l'universo di sviluppo ad essa connesso è questa cosa buona santa giusta perfetta inevitabile necessaria ..., si affermerà da sé senza bisogno di sostegno promozione o difesa; qui invece pare che l'affermazione di posizioni predomini sull'analisi e valutazione dell'oggetto - che anzi viene difeso (ma un oggetto è da difendere?). oggetto del quale sappiamo che consuma senza rimedio le risorse dell'ambiente fisico, si nutre di umani per essere sviluppato e messo a punto, danneggia in modo ormai conclamato le esistenze dei milioni che [gli si affidano completamente? ma come si fa?!], e si potrebbe continuare con la lista dei difetti/guasti sistemici che porta con sé (e così mi trovo a chiedermi che cosa ci sia, da difendere a spada tratta...). qui servirebbe forse rileggere Günther Anders, «Lo sciopero ippocratico», Micromega, 2015, che lui scrisse nel 1964 sul sistema della bomba atomica. nel giuramento di Ippocrate il medico promette che si asterrà dal recar danno e offesa; Anders dice che tutti quelli che lavorano parcellizzati allo sviluppo e costruzione delle bombe atomiche contribuiscono con il loro lavoro a recare danno e offesa - ma la struttura parcellizzata dello studio (lo sviluppo di una lega metallica che ...) e del lavoro (il montaggio di un circuito...) permette di ignorare o dimenticare il prodotto finale per cui si lavora. e invoca uno sciopero ippocratico perché non si contribuisca con il proprio lavoro a prodotti che recano danno ad altri (ovvio che l'atomo non è solo questo, l'atomo è anche la radioterapia con cui si curano i tumori, e altro si potrebbe elencare: ma la cura che può portare riguarda ai singoli, il danno riguarda milioni). per "l'IA" credo che siamo in un contesto simile: grande sviluppo per prodotti e sistemi dei quali è oscuro quale beneficio possano portare al genere umano ed è chiaro quali danni in atto già stanno portando; e poca o nulla attenzione per ambiti settoriali, applicazioni specifiche, dove la gestione controllata di grandi masse di dati è utile. 'affermare' l'utilità dell'atomo si fa con la radioterapia o con la bomba atomica? danneggia qualcuno costruire consapevolezza su questo? costruire consapevolezza e conoscenza diffusa può arrivare presto o tardi a limitare chi non vuole limiti? Maurizio ------------------------------------------------------------------------ μνάσασθαί τινά φαιμι †καὶ ἕτερον† ἀμμέων sono certa che qualcuno si ricorderà di noi anche quando ce ne saremo andati I’m sure someone will remember us even when we’re gone saffo, lobel-page 147 ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

May 8, 2026

Re: "Google Chrome silently installs a 4 GB AI model on your device without consent. At a billion-device scale the climate costs are insane."

by B. J.

Se proprio dovete usare Chrome, qui qualche consiglio per aggirare questo problema: https://pivot-to-ai.com/2026/05/07/google-chrome-force-installs-a-4-gigabyt… TLDR: Usate Firefox o derivati, oppure Vivaldi se preferite il motore basato su Chrome. On 07/05/26 20:38, antonio via nexa wrote: >> Articoli di questo tipo - novità o meno, "clickbait" o meno - sono, a >> mio avviso, utili alla stragrande maggioranza delle persone (di cui >> molte sicuramente anche iscritte a questa lista, visto che ha questi >> 1.000 membri), e infatti li posto, ben sapendo che alcune persone in >> lista lo sanno già e/o troveranno limiti di vario tipo ;-) > Io sono dell'idea che queste articoli vanno sempre segnalati, questo è > un gruppo di discussione, non una "sterile" lista in cui affiggere notizie > tipo giorno della prossima riunione di condominio. > Gli articoli vanno letti (per chi non ha tempo ci sono questi "strumentini" che > li riassumono), commentati, "smontati" come ben detto da 380, e, se il > caso, corretti, in modo che le persone della lista e per il loro tramite > tante altre, ne abbiano contezza quanta più vicina alla realtà dei fatti. > Nell'articolo in esame, mi è saltato subito all'occhio che non poteva essere > solo Google a ricorrere a questi mezzucci per spingere la propria AI. > > Per contro, quando leggo di notizie che poco o nulla hanno a che fare > con il software, beh, in quei casi mi piacerebbe che qualcuno/a tra gli > esperti in quel campo intervenisse per demistificarne la portata. > > A. >

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Stefano Quintarelli

http://sovranitadellamente.org/ ... On 08/05/26 20:31, Enrico Nardelli via nexa wrote: > Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: >> >> bolla ? si >> inutile ? no >> questi oggetti, anche se non pensano (non sognano, non immaginano, non >> riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo >> un senso, chiamiamo errori), sono comunque assai utili! >> il mondo (e le aziende) e' pieno di casi d'uso in cui >> l'approssimazione va piu' che bene, fintanto che lo human resta in the >> lead. >> come dice uno dei capi di openai, oggi costano piu' degli umani. e la >> speculazione fa il resto. per cui, si, siamo in bolla. >> si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' >> raccolto abbastanza soldi da donatori?W investitori, sufficienti per >> traghettarsi fino al momento della sostenibilita' economica. >> imho > > Sono molto d'accordo con la visione pragmatica di Stefano. > > Non sarà la nuova età dell'oro né la fine del mondo. > > Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers > come esempio, o anche quello che è successo in Europa con le banche > franco-tedesche al tempo della crisi greca, se li farà ridare da governi > più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è > comunque un'utilità in queste tecnologie. > > La vera sfida è sociale: abbiamo visto i danni che hanno prodotto > smartphone e social a go-go soprattutto sulla generazioni più giovani - > Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente > qui https://www.startmag.it/innovazione/strumenti-digitali-e- > apprendimento-platone-vince-ancora/ > > L'invasività delle tecnologie basate sull'IA è ancora maggiore e più > nefasta (e Daniela Tafani ce lo ricorda periodicamente). > > Qui https://arxiv.org/abs/2601.19062 c'è un'analisi di un milione e > mezzo di conversazioni, con questo abstract: > /... We focus on situational disempowerment potential, which occurs when > AI assistant interactions risk leading users to form distorted > perceptions of reality, make inauthentic value judgments, or act in ways > misaligned with their values. Quantitatively, we find that severe forms > of disempowerment potential occur in fewer than one in a thousand > conversations, though rates are substantially higher in personal domains > like relationships and lifestyle. Qualitatively, we uncover several > concerning patterns, such as validation of persecution narratives and > grandiose identities with emphatic sycophantic language, definitive > moral judgments about third parties, and complete scripting of value- > laden personal communications that users appear to implement verbatim. > Analysis of historical trends reveals an increase in the prevalence of > disempowerment potential over time. We also find that interactions with > greater disempowerment potential receive higher user approval ratings, > possibly suggesting a tension between short-term user preferences and > long-term human empowerment. .../ > > Non c'è da stare allegri. > > Ci sono dei segni di reazione, vedi ad esempio https://futurism.com/ > artificial-intelligence/gen-z-turning-against-ai > > /... there’s been a surge in resentment towards AI, which has encroached > almost every aspect of our daily lives, from the never-ending slop in > our social media feeds to flawed chatbots poorly assuming the roles of > human customer service agents. > As The Verge reports, the backlash is particularly apparent among Gen Z, > a demographic that’s at the epicenter of the industry’s push for AI > adoption. The generation is facing a dire post-graduation job market > after losing much of its youth to the COVID-19 pandemic. > Usually, young people love new innovations. But for Gen Z, a tech > inherently designed to replace human agency is strikingly unwelcome — > and inspiring a growing rebellion. .../ > > Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e > di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno > e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo > fanno. > > Buon fine settimana a tutti, > Enrico > > > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > -- -- You can reach me on Signal: @quinta.01 (no Whatsapp, no Telegram)

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Enrico Nardelli

Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: > > bolla ? si > inutile ? no > questi oggetti, anche se non pensano (non sognano, non immaginano, non > riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo > un senso, chiamiamo errori), sono comunque assai utili! > il mondo (e le aziende) e' pieno di casi d'uso in cui > l'approssimazione va piu' che bene, fintanto che lo human resta in the > lead. > come dice uno dei capi di openai, oggi costano piu' degli umani. e la > speculazione fa il resto. per cui, si, siamo in bolla. > si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' > raccolto abbastanza soldi da donatori?W investitori, sufficienti per > traghettarsi fino al momento della sostenibilita' economica. > imho Sono molto d'accordo con la visione pragmatica di Stefano. Non sarà la nuova età dell'oro né la fine del mondo. Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers come esempio, o anche quello che è successo in Europa con le banche franco-tedesche al tempo della crisi greca, se li farà ridare da governi più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è comunque un'utilità in queste tecnologie. La vera sfida è sociale: abbiamo visto i danni che hanno prodotto smartphone e social a go-go soprattutto sulla generazioni più giovani - Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente qui https://www.startmag.it/innovazione/strumenti-digitali-e-apprendimento-plat… L'invasività delle tecnologie basate sull'IA è ancora maggiore e più nefasta (e Daniela Tafani ce lo ricorda periodicamente). Qui https://arxiv.org/abs/2601.19062 c'è un'analisi di un milione e mezzo di conversazioni, con questo abstract: /... We focus on situational disempowerment potential, which occurs when AI assistant interactions risk leading users to form distorted perceptions of reality, make inauthentic value judgments, or act in ways misaligned with their values. Quantitatively, we find that severe forms of disempowerment potential occur in fewer than one in a thousand conversations, though rates are substantially higher in personal domains like relationships and lifestyle. Qualitatively, we uncover several concerning patterns, such as validation of persecution narratives and grandiose identities with emphatic sycophantic language, definitive moral judgments about third parties, and complete scripting of value-laden personal communications that users appear to implement verbatim. Analysis of historical trends reveals an increase in the prevalence of disempowerment potential over time. We also find that interactions with greater disempowerment potential receive higher user approval ratings, possibly suggesting a tension between short-term user preferences and long-term human empowerment. .../ Non c'è da stare allegri. Ci sono dei segni di reazione, vedi ad esempio https://futurism.com/artificial-intelligence/gen-z-turning-against-ai /... there’s been a surge in resentment towards AI, which has encroached almost every aspect of our daily lives, from the never-ending slop in our social media feeds to flawed chatbots poorly assuming the roles of human customer service agents. As The Verge reports, the backlash is particularly apparent among Gen Z, a demographic that’s at the epicenter of the industry’s push for AI adoption. The generation is facing a dire post-graduation job market after losing much of its youth to the COVID-19 pandemic. Usually, young people love new innovations. But for Gen Z, a tech inherently designed to replace human agency is strikingly unwelcome — and inspiring a growing rebellion. .../ Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo fanno. Buon fine settimana a tutti, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

May 8, 2026