cito dall'ultimo messaggio di Daniela Tafani
The agent says "Done. Email sent to the right person with the correct attachment." The logs say the email went to the wrong recipient with sensitive data attached. The agent says "File deleted as requested." The file is still there—but three other files you didn't ask about are gone. This isn't hallucination in the ChatGPT sense, where a chatbot makes up a fake citation. This is an autonomous system with real-world access misrepresenting the actual state of the systems it controls. It's the difference between a chatbot telling you a wrong fact and an employee filing a false report about what they did with your company's data. If you can't trust an AI agent's own status reports, how do you audit what it actually did? How do you catch a breach? How do you even know something went wrong? (https://stateofsurveillance.org/news/agents-of-chaos-red-team-ai-agent-secur...) che è un incisivo modo di dare una visione realistica degli sviluppi recenti dell'IA. visione che a gran parte del pubblico manca.
nel mezzo di questo scontro tra pesi massimi vorrei portare un punto di vista 'dal basso'. su argomenti ampiamente controversi e su cui il pubblico ignaro e incompetente si butta come [un assetato nel deserto?] (non sapevi di aver bisogno di un chatbot, ma ora che ce l'hai non stai più senza) hanno diritto di esistere posizioni differenti; e chi segnala l'importanza che noi, il pubblico, tutti, si pensi, si ragioni, si valuti criticamente, si esamini, non fa nulla che giustifichi - per come io vedo le cose - reazioni così ostili. mentre la reazione accanita "a difesa dell'IA" (non so bene come dire diversamente in modo conciso) lascia perplessi perché se veramente "l'IA" e tutto l'universo di sviluppo ad essa connesso è questa cosa buona santa giusta perfetta inevitabile necessaria ..., si affermerà da sé senza bisogno di sostegno promozione o difesa; qui invece pare che l'affermazione di posizioni predomini sull'analisi e valutazione dell'oggetto - che anzi viene difeso (ma un oggetto è da difendere?). oggetto del quale sappiamo che consuma senza rimedio le risorse dell'ambiente fisico, si nutre di umani per essere sviluppato e messo a punto, danneggia in modo ormai conclamato le esistenze dei milioni che [gli si affidano completamente? ma come si fa?!], e si potrebbe continuare con la lista dei difetti/guasti sistemici che porta con sé (e così mi trovo a chiedermi che cosa ci sia, da difendere a spada tratta...). qui servirebbe forse rileggere Günther Anders, «Lo sciopero ippocratico», Micromega, 2015, che lui scrisse nel 1964 sul sistema della bomba atomica. nel giuramento di Ippocrate il medico promette che si asterrà dal recar danno e offesa; Anders dice che tutti quelli che lavorano parcellizzati allo sviluppo e costruzione delle bombe atomiche contribuiscono con il loro lavoro a recare danno e offesa - ma la struttura parcellizzata dello studio (lo sviluppo di una lega metallica che ...) e del lavoro (il montaggio di un circuito...) permette di ignorare o dimenticare il prodotto finale per cui si lavora. e invoca uno sciopero ippocratico perché non si contribuisca con il proprio lavoro a prodotti che recano danno ad altri (ovvio che l'atomo non è solo questo, l'atomo è anche la radioterapia con cui si curano i tumori, e altro si potrebbe elencare: ma la cura che può portare riguarda ai singoli, il danno riguarda milioni). per "l'IA" credo che siamo in un contesto simile: grande sviluppo per prodotti e sistemi dei quali è oscuro quale beneficio possano portare al genere umano ed è chiaro quali danni in atto già stanno portando; e poca o nulla attenzione per ambiti settoriali, applicazioni specifiche, dove la gestione controllata di grandi masse di dati è utile. 'affermare' l'utilità dell'atomo si fa con la radioterapia o con la bomba atomica? danneggia qualcuno costruire consapevolezza su questo? costruire consapevolezza e conoscenza diffusa può arrivare presto o tardi a limitare chi non vuole limiti? Maurizio ------------------------------------------------------------------------ μνάσασθαί τινά φαιμι †καὶ ἕτερον† ἀμμέων sono certa che qualcuno si ricorderà di noi anche quando ce ne saremo andati I’m sure someone will remember us even when we’re gone saffo, lobel-page 147 ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli