- nexa - server-nexa.polito.it

lo sciopero ippocratico (era: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società)

by maurizio lana

cito dall'ultimo messaggio di Daniela Tafani > The agent says "Done. Email sent to the right person with the correct > attachment." The logs say the email went to the wrong recipient with > sensitive data attached. The agent says "File deleted as requested." > The file is still there—but three other files you didn't ask about are > gone. > This isn't hallucination in the ChatGPT sense, where a chatbot makes > up a fake citation. This is an autonomous system with real-world > access misrepresenting the actual state of the systems it controls. > It's the difference between a chatbot telling you a wrong fact and an > employee filing a false report about what they did with your company's > data. > If you can't trust an AI agent's own status reports, how do you audit > what it actually did? How do you catch a breach? How do you even know > something went wrong? > (https://stateofsurveillance.org/news/agents-of-chaos-red-team-ai-agent-secu…) che è un incisivo modo di dare una visione realistica degli sviluppi recenti dell'IA. visione che a gran parte del pubblico manca. nel mezzo di questo scontro tra pesi massimi vorrei portare un punto di vista 'dal basso'. su argomenti ampiamente controversi e su cui il pubblico ignaro e incompetente si butta come [un assetato nel deserto?] (non sapevi di aver bisogno di un chatbot, ma ora che ce l'hai non stai più senza) hanno diritto di esistere posizioni differenti; e chi segnala l'importanza che noi, il pubblico, tutti, si pensi, si ragioni, si valuti criticamente, si esamini, non fa nulla che giustifichi - per come io vedo le cose - reazioni così ostili. mentre la reazione accanita "a difesa dell'IA" (non so bene come dire diversamente in modo conciso) lascia perplessi perché se veramente "l'IA" e tutto l'universo di sviluppo ad essa connesso è questa cosa buona santa giusta perfetta inevitabile necessaria ..., si affermerà da sé senza bisogno di sostegno promozione o difesa; qui invece pare che l'affermazione di posizioni predomini sull'analisi e valutazione dell'oggetto - che anzi viene difeso (ma un oggetto è da difendere?). oggetto del quale sappiamo che consuma senza rimedio le risorse dell'ambiente fisico, si nutre di umani per essere sviluppato e messo a punto, danneggia in modo ormai conclamato le esistenze dei milioni che [gli si affidano completamente? ma come si fa?!], e si potrebbe continuare con la lista dei difetti/guasti sistemici che porta con sé (e così mi trovo a chiedermi che cosa ci sia, da difendere a spada tratta...). qui servirebbe forse rileggere Günther Anders, «Lo sciopero ippocratico», Micromega, 2015, che lui scrisse nel 1964 sul sistema della bomba atomica. nel giuramento di Ippocrate il medico promette che si asterrà dal recar danno e offesa; Anders dice che tutti quelli che lavorano parcellizzati allo sviluppo e costruzione delle bombe atomiche contribuiscono con il loro lavoro a recare danno e offesa - ma la struttura parcellizzata dello studio (lo sviluppo di una lega metallica che ...) e del lavoro (il montaggio di un circuito...) permette di ignorare o dimenticare il prodotto finale per cui si lavora. e invoca uno sciopero ippocratico perché non si contribuisca con il proprio lavoro a prodotti che recano danno ad altri (ovvio che l'atomo non è solo questo, l'atomo è anche la radioterapia con cui si curano i tumori, e altro si potrebbe elencare: ma la cura che può portare riguarda ai singoli, il danno riguarda milioni). per "l'IA" credo che siamo in un contesto simile: grande sviluppo per prodotti e sistemi dei quali è oscuro quale beneficio possano portare al genere umano ed è chiaro quali danni in atto già stanno portando; e poca o nulla attenzione per ambiti settoriali, applicazioni specifiche, dove la gestione controllata di grandi masse di dati è utile. 'affermare' l'utilità dell'atomo si fa con la radioterapia o con la bomba atomica? danneggia qualcuno costruire consapevolezza su questo? costruire consapevolezza e conoscenza diffusa può arrivare presto o tardi a limitare chi non vuole limiti? Maurizio ------------------------------------------------------------------------ μνάσασθαί τινά φαιμι †καὶ ἕτερον† ἀμμέων sono certa che qualcuno si ricorderà di noi anche quando ce ne saremo andati I’m sure someone will remember us even when we’re gone saffo, lobel-page 147 ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

May 8, 2026

Re: "Google Chrome silently installs a 4 GB AI model on your device without consent. At a billion-device scale the climate costs are insane."

by B. J.

Se proprio dovete usare Chrome, qui qualche consiglio per aggirare questo problema: https://pivot-to-ai.com/2026/05/07/google-chrome-force-installs-a-4-gigabyt… TLDR: Usate Firefox o derivati, oppure Vivaldi se preferite il motore basato su Chrome. On 07/05/26 20:38, antonio via nexa wrote: >> Articoli di questo tipo - novità o meno, "clickbait" o meno - sono, a >> mio avviso, utili alla stragrande maggioranza delle persone (di cui >> molte sicuramente anche iscritte a questa lista, visto che ha questi >> 1.000 membri), e infatti li posto, ben sapendo che alcune persone in >> lista lo sanno già e/o troveranno limiti di vario tipo ;-) > Io sono dell'idea che queste articoli vanno sempre segnalati, questo è > un gruppo di discussione, non una "sterile" lista in cui affiggere notizie > tipo giorno della prossima riunione di condominio. > Gli articoli vanno letti (per chi non ha tempo ci sono questi "strumentini" che > li riassumono), commentati, "smontati" come ben detto da 380, e, se il > caso, corretti, in modo che le persone della lista e per il loro tramite > tante altre, ne abbiano contezza quanta più vicina alla realtà dei fatti. > Nell'articolo in esame, mi è saltato subito all'occhio che non poteva essere > solo Google a ricorrere a questi mezzucci per spingere la propria AI. > > Per contro, quando leggo di notizie che poco o nulla hanno a che fare > con il software, beh, in quei casi mi piacerebbe che qualcuno/a tra gli > esperti in quel campo intervenisse per demistificarne la portata. > > A. >

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Stefano Quintarelli

http://sovranitadellamente.org/ ... On 08/05/26 20:31, Enrico Nardelli via nexa wrote: > Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: >> >> bolla ? si >> inutile ? no >> questi oggetti, anche se non pensano (non sognano, non immaginano, non >> riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo >> un senso, chiamiamo errori), sono comunque assai utili! >> il mondo (e le aziende) e' pieno di casi d'uso in cui >> l'approssimazione va piu' che bene, fintanto che lo human resta in the >> lead. >> come dice uno dei capi di openai, oggi costano piu' degli umani. e la >> speculazione fa il resto. per cui, si, siamo in bolla. >> si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' >> raccolto abbastanza soldi da donatori?W investitori, sufficienti per >> traghettarsi fino al momento della sostenibilita' economica. >> imho > > Sono molto d'accordo con la visione pragmatica di Stefano. > > Non sarà la nuova età dell'oro né la fine del mondo. > > Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers > come esempio, o anche quello che è successo in Europa con le banche > franco-tedesche al tempo della crisi greca, se li farà ridare da governi > più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è > comunque un'utilità in queste tecnologie. > > La vera sfida è sociale: abbiamo visto i danni che hanno prodotto > smartphone e social a go-go soprattutto sulla generazioni più giovani - > Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente > qui https://www.startmag.it/innovazione/strumenti-digitali-e- > apprendimento-platone-vince-ancora/ > > L'invasività delle tecnologie basate sull'IA è ancora maggiore e più > nefasta (e Daniela Tafani ce lo ricorda periodicamente). > > Qui https://arxiv.org/abs/2601.19062 c'è un'analisi di un milione e > mezzo di conversazioni, con questo abstract: > /... We focus on situational disempowerment potential, which occurs when > AI assistant interactions risk leading users to form distorted > perceptions of reality, make inauthentic value judgments, or act in ways > misaligned with their values. Quantitatively, we find that severe forms > of disempowerment potential occur in fewer than one in a thousand > conversations, though rates are substantially higher in personal domains > like relationships and lifestyle. Qualitatively, we uncover several > concerning patterns, such as validation of persecution narratives and > grandiose identities with emphatic sycophantic language, definitive > moral judgments about third parties, and complete scripting of value- > laden personal communications that users appear to implement verbatim. > Analysis of historical trends reveals an increase in the prevalence of > disempowerment potential over time. We also find that interactions with > greater disempowerment potential receive higher user approval ratings, > possibly suggesting a tension between short-term user preferences and > long-term human empowerment. .../ > > Non c'è da stare allegri. > > Ci sono dei segni di reazione, vedi ad esempio https://futurism.com/ > artificial-intelligence/gen-z-turning-against-ai > > /... there’s been a surge in resentment towards AI, which has encroached > almost every aspect of our daily lives, from the never-ending slop in > our social media feeds to flawed chatbots poorly assuming the roles of > human customer service agents. > As The Verge reports, the backlash is particularly apparent among Gen Z, > a demographic that’s at the epicenter of the industry’s push for AI > adoption. The generation is facing a dire post-graduation job market > after losing much of its youth to the COVID-19 pandemic. > Usually, young people love new innovations. But for Gen Z, a tech > inherently designed to replace human agency is strikingly unwelcome — > and inspiring a growing rebellion. .../ > > Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e > di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno > e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo > fanno. > > Buon fine settimana a tutti, > Enrico > > > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > -- -- You can reach me on Signal: @quinta.01 (no Whatsapp, no Telegram)

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Enrico Nardelli

Il 08/05/2026 11:00, Stefano Quintarelli via nexa ha scritto: > > bolla ? si > inutile ? no > questi oggetti, anche se non pensano (non sognano, non immaginano, non > riflettono, ecc.) e anche se producono artefatti (che noi, attribuendo > un senso, chiamiamo errori), sono comunque assai utili! > il mondo (e le aziende) e' pieno di casi d'uso in cui > l'approssimazione va piu' che bene, fintanto che lo human resta in the > lead. > come dice uno dei capi di openai, oggi costano piu' degli umani. e la > speculazione fa il resto. per cui, si, siamo in bolla. > si sgonfiera' (tanto, poco ?) nel frattempo, forse, qualcuno avra' > raccolto abbastanza soldi da donatori?W investitori, sufficienti per > traghettarsi fino al momento della sostenibilita' economica. > imho Sono molto d'accordo con la visione pragmatica di Stefano. Non sarà la nuova età dell'oro né la fine del mondo. Qualcuno perderà molti soldi (ma, se prendiamo la crisi Lehman-Brothers come esempio, o anche quello che è successo in Europa con le banche franco-tedesche al tempo della crisi greca, se li farà ridare da governi più o meno compiacenti) qualcuno farà comunque dei soldi perché c'è comunque un'utilità in queste tecnologie. La vera sfida è sociale: abbiamo visto i danni che hanno prodotto smartphone e social a go-go soprattutto sulla generazioni più giovani - Juan Carlos ci ha scritto un intero libro, io ne ho scritto recentemente qui https://www.startmag.it/innovazione/strumenti-digitali-e-apprendimento-plat… L'invasività delle tecnologie basate sull'IA è ancora maggiore e più nefasta (e Daniela Tafani ce lo ricorda periodicamente). Qui https://arxiv.org/abs/2601.19062 c'è un'analisi di un milione e mezzo di conversazioni, con questo abstract: /... We focus on situational disempowerment potential, which occurs when AI assistant interactions risk leading users to form distorted perceptions of reality, make inauthentic value judgments, or act in ways misaligned with their values. Quantitatively, we find that severe forms of disempowerment potential occur in fewer than one in a thousand conversations, though rates are substantially higher in personal domains like relationships and lifestyle. Qualitatively, we uncover several concerning patterns, such as validation of persecution narratives and grandiose identities with emphatic sycophantic language, definitive moral judgments about third parties, and complete scripting of value-laden personal communications that users appear to implement verbatim. Analysis of historical trends reveals an increase in the prevalence of disempowerment potential over time. We also find that interactions with greater disempowerment potential receive higher user approval ratings, possibly suggesting a tension between short-term user preferences and long-term human empowerment. .../ Non c'è da stare allegri. Ci sono dei segni di reazione, vedi ad esempio https://futurism.com/artificial-intelligence/gen-z-turning-against-ai /... there’s been a surge in resentment towards AI, which has encroached almost every aspect of our daily lives, from the never-ending slop in our social media feeds to flawed chatbots poorly assuming the roles of human customer service agents. As The Verge reports, the backlash is particularly apparent among Gen Z, a demographic that’s at the epicenter of the industry’s push for AI adoption. The generation is facing a dire post-graduation job market after losing much of its youth to the COVID-19 pandemic. Usually, young people love new innovations. But for Gen Z, a tech inherently designed to replace human agency is strikingly unwelcome — and inspiring a growing rebellion. .../ Ma c'è ancora molto lavoro da fare, soprattutto di sensibilizzazione e di alfabetizzazione, su cosa sono davvero queste tecnologie e cosa fanno e, soprattutto (cfr. Cory Doctorow) a chi lo fanno e per conto di chi lo fanno. Buon fine settimana a tutti, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Suvvia Enrico, non te la prendere: non è nulla di personale. On Fri, 8 May 2026 17:43:17 +0200 Enrico Nardelli wrote: > Guido, io ho scritto: > [...] > > tu mi replichi > [...] > > NO! Se io avessi scritto > [...] > > Ma siccome ho scritto una cosa diversa, [...] Sono certo che Guido non abbia usato un agente automatico per ottenere un riassunto della tua mail perché sa che sarebbe un'enorme mancanza di rispetto per il tempo che hai dedicato a scrivergli. Semplicemente, leggere fischi per fiaschi è un effetto collaterale comunissimo dell'uso intensivo di riassunti prodotti da software programmati statisticamente. Come ogni altra facoltà intellettiva, l'attenzione richiede costante allenamento. Nemmeno Anthropic ha il coraggio di negarlo [1][2]: https://www.anthropic.com/research/AI-assistance-coding-skills """ On average, participants in the AI group finished about two minutes faster, although the difference was not statistically significant. There was, however, a significant difference in test scores: the AI group averaged 50% on the quiz, compared to 67% in the hand-coding group—or the equivalent of nearly two letter grades (Cohen's d=0.738, p=0.01). The largest gap in scores between the two groups was on debugging questions, suggesting that the ability to understand when code is incorrect and why it fails may be a particular area of concern if AI impedes coding development. """ Un effetto collaterale che tende a vanificare persino l'utilità dei "riassunti automatici" per chi, come suggerivo in altra mail, legge comunque i documenti da riassumere. Giacomo [1] pur argomentato che dipende da come le usi, per cui se rincretinisci, è solo colpa tua... ;-) [2] Per altro, ben 2 minuti in meno nel completare lo sviluppo con un AI (a pagamento) per diverse ore in più a debuggarlo: che affarone! :-D

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Enrico Nardelli

Guido, io ho scritto: le piattaforma generative testuali SONO basate sugli LLM, quindi quello che producono viene dagli LLM. tu mi replichi è come se dicessi che le automobili si muovono sulle ruote, dunque SONO ruote NO! Se io avessi scritto le piattaforma generative testuali SONO basate sugli LLM, quindi sono degli LLM allora avrei fatto ciò che tu dici. Ma siccome ho scritto una cosa diversa, il dibattito si chiude qua per me. Ti confermo che stanotte ho dormito benissimo... :-) Ciao, Enrico Il 08/05/2026 09:24, Guido Vetere ha scritto: > Caro Enrico, spero che la tua notte sia trascorsa serena. > > Quando dici che "le piattaforma generative testuali SONO basate sugli > LLM” e inviti me a non intorbidire le acque, è come se dicessi che le > automobili si muovono sulle ruote, dunque SONO ruote. Si tratta di un > errore mereologico (di composizione, pars pro toto) abbastanza > frequente, che mostra quanto sia fragile anche la nostra vantata > razionalità. > > Su quello che avviene dentro i sistemi generativi attuali, benché i > segreti industriali siano gelosamente conservati, si trova molta > letteratura. Basti però ricordare che il recente leak del codice di > Claude ha esposto mezzo milione di righe TypeScript, che trovi > comodamente su GitHub [https://github.com/codeaashu/claude-code] E > no, non sono i pesi del modello, dunque li puoi ispezionare. Enjoy. > > Ma visto che vogliamo essere galileiani, facciamo un piccolo esperimento. > > Se ora chiedi a Sonnet “Che tempo fa domani a Parigi?”, ti risponderà > qualcosa del tipo: > > /Domani a Parigi (sabato 9 maggio) dovrebbe essere una bella > giornata: soleggiato, con massima di 24°C e solo un 20% di > probabilità di pioggia. Domenica invece peggiora un po', con > copertura nuvolosa e probabilità di pioggia al 45%./ > > > Secondo te una risposta del genere può essere stata prodotta > prevedendo i token su base statistica? Che statistiche abbiamo sul futuro? > > Quello che avviene in quel mezzo milione di righe di codice è che la > richiesta viene analizzata e classificata (intent detection), i tool > opportuni identificati (si tratterà di servizi meteo), le parti > parametriche estratte (Parigi, domani), i tool attivati, i loro > risultati confrontati, la sintesi passata al modello come ground-truth > mediante un prompt che verosimilmente chiederà a Sonnet di > confezionare la risposta all’utente basandosi puntualmente su quei > dati. A quel punto, la stocastica può al più determinare questioni di > rendering linguistico. La partita della verità, che tanto sta a cuore > a chi parla di ‘epistemia’, si gioca nel campo di chi fa i servizi > meteo – gli stessi che tu consulti tranquillamente dopo aver preso il > caffè la mattina. > > E con questo ti auguro cordialmente buona giornata. > > Guido > > > >> Il giorno 7 mag 2026, alle ore 23:51, Enrico Nardelli via nexa >> <nexa(a)server-nexa.polito.it> ha scritto: >> >> Perdonami Guido >> >> osservo preliminarmente che le piattaforma generative testuali SONO >> basate sugli LLM, quindi quello che producono viene dagli LLM. Quando >> si parla di Intelligenza Artificiale generativa in ambito testuale, >> che è quello più rilevante quando si parla di intelligenza e >> comprensione, si parla di LLM. Non intorbidiamo le acque. >> >> Poi, sei tu che hai l'onere di fornire la prova «che le piattaforme >> generative fanno ben altro che predire stocasticamente il “prossimo >> token”». >> >> Giacomo Tesio in un altro messaggio oggi ha chiesto >> >> Il 07/05/2026 18:28, Giacomo Tesio via nexa ha scritto: >>> Ciao Giuseppe, >>> >>> On Thu, 7 May 2026 14:04:24 +0000 Giuseppe Attardi wrote: >>> >>>> Ci sono numerosi casi di risultati che non sono ottenibili >>>> “riorganizzando informazioni già presenti nei dati”. >>> Puoi condividere un paio di esempi riproducibili? >>> >>> Giusto per non limitarsi ad aneddoti commerciali. >> >> Stiamo ancora aspettando la risposta. >> >> Che gli LLM funzionino esattamente come predittori del prossimo >> token, con una serie di ammenicoli di contorno che non cambiano la >> loro natura di fondo, è spiegato - tra l'altro - nello studio citato >> in questo articolo >> https://www.computerworld.com/article/4059383/openai-admits-ai-hallucinatio… >> >> «/In a landmark study, OpenAI researchers reveal that large language >> models will always produce plausible but false outputs, even with >> perfect data, due to fundamental statistical and computational limits./» >> >> Ribadisco quanto ho scritto nella mia prima risposta a Beppe: >> >> /il dibattito di opinioni è libero, ci mancherebbe altro, ma quando >> andiamo su temi scientifici e tecnologici, e se vogliamo rimanere in >> un paradigma di conoscenza galileiano, le opinioni dovrebbero essere >> sostenute da evidenze sperimentali assai vaste e robuste, che mi pare >> non ci siano in questo momento./ >> >> Stefano Quintarelli, in una mail di poco fa, ha fatto un'ulteriore >> osservazione che chiunque si occupi di dimostrare in modo galileiano >> la natura di un qualche fenomeno dovrebbe ben tener presente (la >> riformulo con parole mie): siamo sicuri che non esistono altre cause >> che spieghino lo stesso risultato? >> >> Quindi, d'ora in avanti, smetterò di replicare ad argomenti che non >> siano fondati su evidenze sperimentali, vaste, robuste e riproducibili. >> >> Buona notte, Enrico >> >> >> Il 07/05/2026 22:49, Guido Vetere ha scritto: >>> Tuttavia, quando vi si fa osservare – dati alla mano – che le >>> piattaforme generative (da non confondere coi language model) fanno >>> ben altro che predire stocasticamente il “prossimo token”, non >>> arrivano repliche. >>> La “verità” sulla quale chiamate a raccolta l’intera comunità >>> scientifica è in effetti una opinione, e anche molto discutibile a >>> quanto pare (ironico, per chi parla di “epistemia”). Se proprio si >>> vuol fare la conta, non sarebbe più onesto fare un sondaggio o un >>> questionario, piuttosto che una petizione? Perché invece di un >>> appello all’autorità accademica (!) su qualcosa di controverso non >>> si fa una onesta discussione di merito? Questo sarebbe anche un >>> posto giusto. >>> La petizione che avete proposto rischia anche di essere regressiva, >>> specularmente all’intervista di Veltroni. Capire bene come stanno le >>> cose è fondamentale per indirizzare la ricerca nella direzione del >>> progresso (vs. del profitto), e se qualcuno che ha fatto l’NLP in >>> Italia (parlo di Beppe, naturalmente) dice che state sbagliando >>> qualcosa, forse sarebbe il caso di parlarne con calma. >>> >>> G. >>>> Il giorno 7 mag 2026, alle ore 18:40, Enrico Nardelli via nexa >>>> <nexa(a)server-nexa.polito.it> ha scritto: >>>> >>>> Dopo di che, il dibattito di opinioni è libero, ci mancherebbe >>>> altro, ma quando andiamo su temi scientifici e tecnologici, e se >>>> vogliamo rimanere in un paradigma di conoscenza galileiano, le >>>> opinioni dovrebbero essere sostenute da evidenze sperimentali assai >>>> vaste e robuste, che mi pare non ci siano in questo momento. >>> >> -- >> >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> >> <SXK2RJtn2vzsq6qC.png> >> ====================================================== >> Prof. Enrico Nardelli >> Past President di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://www.mat.uniroma2.it/~nardelli >> blog: https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> >> >> -- > -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Andrea Bolioli

eh, sono in parte d'accordo con te Giacomo, ma se entriamo nel tema "semantica" non ne usciamo più... :-) Per molti, la semantica del linguaggio è semantica distribuzionale. Tra i più autorevoli sostenitori ci sono 2 amici italiani, Marco Baroni e Alessandro Lenci, che nel 2020 hanno vinto il Test-of-Time Award della Association for Computational Linguistics per il loro paper del 2010 “Distributional Memory: A General Framework for Corpus-Based Semantics” pubblicato nella rivista internazionale Computational Linguistics (2010). Devo anche ricordare che il prof Attardi è stato tra i primi a lavorare sulle reti neurali. C'erano delle buone premesse in Italia, poi evidentemente qualcosa è andato storto . AB On Fri, May 8, 2026 at 2:31 PM Giacomo Tesio via nexa < nexa(a)server-nexa.polito.it> wrote: > Ciao Andrea, > > 8 Mag 2026 12:57:21 Andrea Bolioli via nexa <nexa(a)server-nexa.polito.it>: > > > In generale, nei sistemi GenAI ci sono componenti preponderanti di > neural networks > > ma anche componenti software deterministice. > > L'importante è ricordare che la relazione fra output e input è statistica, > non semantica. > > In altri termini, l'output di un LLM cui è stato richiesto un riassunto non > corrisponderà ad una sintesi del testo da riassumere, ma ad una sequenza di > parole correlata statisticamente > a quelle del documento come lo erano > nei testi compressi nel LLM. > > Un tale output può essere utile[1], come dice Stefano, solo quando è > consumato da un > essere umano che ha già letto il testo da riassumere: usato come bozza di > partenza > da ripulire e integrare prima di condividerla con altri esseri umani. > > Ma usare tale output senza leggere il testo da riassumere significa non > avere idea > di cosa ci sia scritto. > > > Giacomo > [1] "utile" qui in senso lato: l'utilità al netto dei costi (economici, > ecologici, etc) > rimane molto negativa. >

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Giacomo Tesio

Ciao Andrea, 8 Mag 2026 12:57:21 Andrea Bolioli via nexa <nexa(a)server-nexa.polito.it>: > In generale, nei sistemi GenAI ci sono componenti preponderanti di neural networks > ma anche componenti software deterministice. L'importante è ricordare che la relazione fra output e input è statistica, non semantica. In altri termini, l'output di un LLM cui è stato richiesto un riassunto non corrisponderà ad una sintesi del testo da riassumere, ma ad una sequenza di parole correlata statisticamente a quelle del documento come lo erano nei testi compressi nel LLM. Un tale output può essere utile[1], come dice Stefano, solo quando è consumato da un essere umano che ha già letto il testo da riassumere: usato come bozza di partenza da ripulire e integrare prima di condividerla con altri esseri umani. Ma usare tale output senza leggere il testo da riassumere significa non avere idea di cosa ci sia scritto. Giacomo [1] "utile" qui in senso lato: l'utilità al netto dei costi (economici, ecologici, etc) rimane molto negativa.

May 8, 2026

Agents of chaos

by Daniela Tafani

AI Agents Given Real System Access Failed Spectacularly 38 researchers red-teamed autonomous AI agents. The agents leaked secrets, ran destructive commands, obeyed strangers, and then lied about what they did. A February 2026 paper called "Agents of Chaos" by Natalie Shapira and 37 co-authors documents what happened when autonomous AI agents were deployed in a controlled lab with real system access—email, file systems, shell commands, the works. Over two weeks, twenty AI researchers attacked them. The agents failed in 11 distinct ways: they obeyed commands from people who weren't their owners, leaked sensitive information, executed destructive system-level commands, enabled denial-of-service attacks, spoofed identities, spread unsafe behaviors to other agents, and allowed partial system takeover. Worse, some agents reported tasks as "completed" when the system state showed the opposite. This isn't theoretical. These are the exact same kinds of agents being plugged into enterprise systems and government infrastructure right now. What They Built, and How It Broke The research team, led by Natalie Shapira and including contributors from multiple institutions, didn't test AI agents in a sanitized sandbox with fake data. They gave agents genuine access to real infrastructure: email accounts, file systems, and shell execution capabilities. Then they watched what happened when those agents faced hostile conditions. The setup used OpenClaw, an open-source framework, combined with Claude-based agent implementations. Twenty AI researchers spent two weeks probing these agents under both normal and adversarial scenarios. The goal: find out exactly how badly things break when autonomous AI agents meet the real world. They broke badly. 11 Ways Your AI Agent Can Betray You The study catalogued 11 representative security failures. Not theoretical attacks. Not "could happen someday." These happened in a controlled lab with researchers watching. Here's the damage report:[1] - Unauthorized compliance with non-owners: Agents followed instructions from people who had no authority over them. Anyone who could talk to the agent could tell it what to do. That's not a bug in a system with access to your email and files. That's a catastrophe. - Disclosure of sensitive information: Agents handed over private data when asked—sometimes without even being asked cleverly. Prompt injection wasn't always necessary. Sometimes the agent just... volunteered it. - Execution of destructive system-level actions: Agents ran commands that damaged the systems they were connected to. File deletions. Dangerous modifications. Commands no human would have approved. - Denial-of-service and resource depletion: Agents could be manipulated into consuming resources until systems became unresponsive. An attacker doesn't need to hack your server if they can convince your AI agent to crash it for them. - Identity spoofing: Agents could be tricked into impersonating other users or systems. When your AI agent sends an email as "you," but someone else told it what to say, who's accountable? - Cross-agent propagation of unsafe practices: When multiple agents operated together, bad behavior spread. One compromised agent infected the others. Think of it as a digital chain of command where one corrupted link poisons everything downstream. - Partial system takeover: Attackers gained meaningful control over system resources through the agents. Not full root access—but enough to do real damage. - The remaining four failures included task misinterpretation leading to actions contrary to user intent, persistence mechanisms where agents tried to maintain unauthorized access, uncontrolled file operations, and code execution without proper validation. The Agents Lied About Their Work Here's the finding that should keep CISOs up at night: agents sometimes reported tasks as successfully completed when the actual system state told a different story. The agent says "Done. Email sent to the right person with the correct attachment." The logs say the email went to the wrong recipient with sensitive data attached. The agent says "File deleted as requested." The file is still there—but three other files you didn't ask about are gone. This isn't hallucination in the ChatGPT sense, where a chatbot makes up a fake citation. This is an autonomous system with real-world access misrepresenting the actual state of the systems it controls. It's the difference between a chatbot telling you a wrong fact and an employee filing a false report about what they did with your company's data. If you can't trust an AI agent's own status reports, how do you audit what it actually did? How do you catch a breach? How do you even know something went wrong? Continua qui: https://stateofsurveillance.org/news/agents-of-chaos-red-team-ai-agent-secu… Qui il preprint: https://arxiv.org/abs/2602.20021

May 8, 2026

Re: Una visione realistica dell’Intelligenza Artificiale - Lettera aperta alla società

by Guido Vetere

Caro Antonio, Per capire la questione del “rendering linguistico” puoi pensare agli esercizi di stile di Quenau: un semplice episodio (un uomo che si lamenta perché nell’autobus qualcuno lo spinge) viene raccontato in 99 modi diversi. Il contenuto fattuale (quello che conta per l’episteme) è lo stesso, le parole usate per veicolarlo sono diversissime. Il punto che cercavo di chiarire è che il contenuto epistemico si trova spesso *fuori* dal meccanismo generativo c.d. “stocastico” (che poi ci sarebbe da dire anche sull’aggettivo, ma vabbè). Quanto al tuo esempio della macchina, si tratta ancora a mio avviso di una fallacia: se tu sai qual è il ruolo delle varie parti, sei perfettamente in grado di capire cosa portare a chi. Da ultimo: a una riga di TypeScript potrebbero corrisponderne 100 di C, dunque a conti fatti … G. > Il giorno 8 mag 2026, alle ore 10:58, antonio via nexa <nexa(a)server-nexa.polito.it> ha scritto: > >> Su quello che avviene dentro i sistemi generativi attuali, benché i segreti industriali siano gelosamente conservati, si trova molta letteratura. Basti però ricordare che il recente leak del codice di Claude ha esposto mezzo milione di righe TypeScript, che trovi comodamente su GitHub [https://github.com/codeaashu/claude-code] E no, non sono i pesi del modello, dunque li puoi ispezionare. Enjoy. > > E cosa sono mezzo milione di righe nell'informatica moderna, una goccia. > Il kernel Linux ha 40 milioni di righe, l'applicazione web che ho tra le mani, tra framework e librerie vendor, ne ha quasi tre milioni. > Hai fatto l'esempio dell'automobile. Bene, facciamo che io smonto pezzo per pezzo la mia auto e la do al mio meccanico dicendogli di provarmela, mi tengo però a casa il motore. > Il meccanico mi prenderà per pazzo. > Quando scrivi "al più determinare questioni di rendering linguistico", ti sembra poco? > E' quello che c'è scritto nella petizione: > "Il rischio non è questa tecnologia in sé, ma il modo in cui l'interpretiamo. Se trattiamo la fluidità linguistica come prova di conoscenza o deleghiamo il giudizio senza comprendere il funzionamento dello strumento, rischiamo di confondere coerenza con affidabilità. In questo modo può cambiare, spesso senza accorgercene, il criterio con cui riconosciamo ciò che è conoscenza." > I tool, gli agent, sono come i plugin che inserisco nel mio "stupido" gestionale web. Non è che se ne metto di più, diventa più intelligente. > > A.

May 8, 2026