- nexa - server-nexa.polito.it

IA lettrice universale
by alessandro marzocchi July 8, 2025

July 8, 2025

Ia - digitale in genere - quale strumento sociale è affermazione che non mi pare nuovissima ma che ritengo significativa. https://www.rivistailmulino.it/a/la-lettrice-universale? Condivido la sintesi:""l’Intelligenza artificiale non è un essere umano. Ciò non significa che non sia capace – in termini e meccanismi che le sono propri – di processi cognitivi che per ora, in mancanza di concetti più adeguati, possiamo intendere solo per analogia con quelli umani."" Detto altrimenti: 1- il digitale non ha corpo, 2- ciononostante il digitale raggiunge facoltà cognitive sempre più importanti e finora ritenute esclusivamente umane. Unica mia critica negativa è la mancata considerazione sui costi energetici, invece condivido la definizione di Ia quale strumento sociale, la estenderei al digitale in genere quale "nuovo" linguaggio, nuova parola, negativamente eteronoma e non più autonoma. Siamo davanti ad un alfabeto nuovo, diverso, con mille tecnicalità importantissime ma che non costituiscono l'essenza del nuovo e diverso. Cordialmente, Duccio (Alessandro Marzocchi) *** *** *** La lettrice universale – Isacco Turina – 2 lug 2025 L'Intelligenza artificiale sta trasformando la scrittura, la lettura e il ruolo dell'intellettuale, fino ad arrivare a una potenziale alienazione del sapere - - - “Se [la tecnica] pone come scopi assoluti l’economia di tempo e di lavoro che permette di realizzare […], allora appare inutile, assurda, poiché il tempo guadagnato non può accumularsi in un granaio; è contraddittorio voler economizzare l’esistenza che esiste appunto solo nello spenderla”. Questa pagina di Simone de Beauvoir, tratta da Pour une morale de l’ambiguïté (Gallimard, 1947, p. 112), mi è tornata in mente leggendo un’inchiesta sull’uso dell’Intelligenza artificiale nella preparazione di saggi di storia (B. Wasik, The Future of History, “New York Times Magazine”, 22.06.2025, p. 48). Pur condividendo alcune preoccupazioni sulla sua rapida avanzata, Wasik riconosce che l’ausilio dell’Ia può servire a scoprire nuove prospettive, oltre ad aumentare la produttività alleggerendo il lavoro di ricerca e consultazione delle fonti. Non ho nulla da contestare alla sua diagnosi. Leggendola, tuttavia, ho avuto la visione di un futuro prossimo in cui non soltanto buona parte dei libri sarà scritta con l’intervento più o meno ampio dell’Ia ma, soprattutto, essi verranno “letti” per intero soltanto dagli stessi programmi, dato che tutti i potenziali lettori, ugualmente preoccupati di risparmiare tempo, praticheranno quello spoglio automatico che è servito a produrli. Oltre a diventare la principale coautrice, l’Ia diverrebbe insomma anche la principale lettrice al mondo. Se così fosse, occorrerebbe ammettere che, in misura crescente, i libri sarebbero scritti per l’Ia. In anni recenti si è discusso sul futuro del libro di fronte ai progressi della digitalizzazione. Quel dibattito è già di retroguardia. Sebbene continui a esistere una minoranza colta per la quale il libro come opera finita con determinate caratteristiche di lunghezza e approfondimento rimane il testo per eccellenza, per gran parte del pubblico la lettura è ormai una pratica sparsa – e non di rado marginale rispetto alla fruizione di video e immagini – che si esercita su testi brevi ed effimeri, quasi esclusivamente in rete. Lo zoccolo duro dei lettori adulti e assidui di libri, disposti a perforare lo schermo dei bestseller per scoprire e valorizzare titoli meno scontati, tende a restringersi a un circolo di specialisti che leggono per lavoro: scrittori, bibliotecari, ricercatori o insegnanti. Quello che, stando a vari resoconti, sta accadendo è che proprio costoro stanno esternalizzando una porzione del loro impegno a una macchina virtuale. In questo saggio vorrei riflettere su tale tendenza, sulle sue premesse e su alcune delle sue implicazioni. Oltre a diventare la principale coautrice, l’Intelligenza artificiale diverrebbe anche la principale lettrice al mondo Le paure in merito al potenziamento dell’Ia si possono dividere grosso modo in due gruppi: quelle di tipo ontologico, che temono la progressiva erosione delle barriere tra umano ed elettronico, e quelle funzionali, che pronosticano il licenziamento in massa di lavoratori divenuti inefficienti rispetto alle macchine intelligenti. Su entrambi i fronti, ciò che spaventa è la concorrenza tra Ia ed esseri umani, con la prima che appare già votata alla vittoria. Malgrado tali timori, dobbiamo constatare che sempre più attori sociali – individui, imprese, istituzioni, governi – stanno facendo spazio agli strumenti di Ia. O perché ritengono che comunque non sia possibile invertire la rotta, o perché calcolano i vantaggi sul piano economico, o perché si dicono che in ogni caso altri lo stanno facendo e non possono quindi permettersi di rimanere indietro, o infine, semplicemente, perché dispongono di un nuovo giocattolo e hanno tutta l’intenzione di giocarci. Credo sia importante sottolineare queste dinamiche per non perdere di vista che l’Ia è uno strumento sociale. La sua ascesa non è dovuta a fattori esterni. Al contrario, risulta dall’effetto aggregato di decisioni umane. Esaminerò per prima la paura ontologica, dicendo subito che la trovo infondata. L’Ia non è né sarà mai umana, per il semplice fatto di non essere membro della nostra specie che si è formata nel corso di una lunghissima evoluzione naturale. Non ha un corpo umano né, di conseguenza, lo spettro di esperienze soggettive legate alla nostra realtà psicofisica: emozioni, legami intimi, vulnerabilità e coscienza di essa – includendo la malattia e la morte. Da questo punto di vista, l’esperienza di un cane è senz’altro più prossima alla nostra. L’Ia eccelle soltanto in alcune prestazioni di tipo logico e cognitivo, che tuttavia sono centrali nella moderna organizzazione del lavoro. Oltre a non condividere la specie, non condivide con gli umani nemmeno la condizione di individuo. Al limite la si può considerare una persona in senso teatrale, dato che, quando interagisce con gli utenti, può impersonare un soggetto, complice la disponibilità dell’interlocutore umano di stare al gioco e lasciarsi ingannare dalla verosimiglianza delle conversazioni. Malgrado ciò, l’Ia rimane una macchina virtuale. Pur introducendo abilità inedite e quindi elementi di discontinuità, s'inserisce nella storia lunga delle macchine e del loro assumere sempre più compiti in precedenza svolti solo da umani o da animali. Ma questa può essere una consolazione modesta se consideriamo che la sua non umanità non rappresenta tanto un limite quanto una forza, da cui l’ansia che possa non tanto uguagliarci quanto superarci. In termini di prestazioni questo già si verifica, il che ci introduce alla seconda paura, quella dell’obsolescenza di molti impieghi umani, in particolare nell’area della conoscenza. Non sono esperto di questioni economiche, pertanto non entrerò nella discussione su futuri scenari. Tra le conseguenze possibili, segnalo soltanto l’eventuale espansione a ceti medio–alti e istruiti di quel risentimento che tanto ha pesato nelle vicende politiche dell’ultimo decennio. Non è quindi esclusa la formazione di un populismo dei lavoratori intellettuali (programmatori, progettisti, pubblicitari, sceneggiatori, redattori, tecnici ad alta specializzazione, artisti, formatori, consulenti, traduttori), che vada di pari passo con la precarizzazione delle loro carriere. D’altra parte, se consideriamo il meccanismo incrementale di arricchimento delle sue competenze, sembra inevitabile che l’Ia giunga gradualmente a divorare quegli stessi operatori che più hanno contribuito alla sua nascita e sviluppo. Per il suo carattere virtuale, l’Ia non sostituisce direttamente le mansioni manuali, come invece fanno gli apparecchi fisici. Possiamo certamente immaginare un idraulico o un barista robot, ma i costi appaiono, almeno per l’immediato futuro, superiori rispetto ai guadagni. Al contrario, alimentare un Large language model (Llm) ha già costi sostenibili, grazie al fatto che da vari anni si raccoglie in Rete un enorme bacino di contenuti codificati in quel linguaggio informatico che gli algoritmi possono rapidamente comprendere e processare. Dopo che la pandemia di Covid-19 ha temporaneamente falciato i lavori in presenza, ora l’onda si rovescia e coinvolge i lavori intellettuali, con conseguenze più durature. Entrambi sono episodi di una storia incipiente, quella del connubio tra l’umanità e internet. Come l’isolamento su larga scala è stato possibile solo grazie all’esistenza dell’infrastruttura digitale, così la sostituzione massiccia di menti umane con l’Ia è un effetto storico del successo delle reti informatiche. Tuttavia, la rapidità di questi eventi si spiega alla luce di passi precedenti che hanno preparato il terreno. Non sono stati i Llm a convincere gran parte dell’umanità a riversare nella rete una fetta sempre più vasta della propria esperienza in ogni campo. Questo è accaduto prima ed è stata la premessa necessaria affinché, in modo apparentemente improvviso, emergesse su queste fondamenta l’edificio già imponente di una nuova generazione di Ia. Come minimo, essa agisce riducendo la complessità e organizzando un materiale di gran lunga superiore alle capacità individuali di elaborarlo. Ma in termini metaforici è lecito considerarla come qualcosa di più, una sorta di coscienza di internet sulla quale sarebbe già possibile provare teorie gnoseologiche nate per spiegare l’umano: l’ipotesi empirista sembra in prima battuta la più adeguata a descriverne il funzionamento, ma non è escluso che si possano individuare strutture a priori della conoscenza propria dell’Ia. Ho dichiarato il mio scetticismo nei confronti di interpretazioni antropomorfiche: l’Intelligenza artificiale non è un essere umano. Ciò non significa che non sia capace – in termini e meccanismi che le sono propri – di processi cognitivi che per ora, in mancanza di concetti più adeguati, possiamo intendere solo per analogia con quelli umani. D’altra parte, è su questi che l’Ia è stata modellata da scienziati che per decenni hanno cercato di mettere a punto programmi in grado di imitare la mente umana, mentre miliardi di utenti della rete forniscono il combustibile che li muove. In definitiva, l’essere umano è il modello, il creatore e il nutrimento dell’Ia. Potremmo quindi dire, con Feuerbach, che noi stessi abbiamo creato quel Dio che oggi ci affronta come un’entità estranea. E costatare, con Marx, che “le nostre scoperte e progressi sembrano avere come risultato di dotare forze materiali di una vita intellettuale e di istupidire (stultify) la vita umana al livello di una forza materiale” (Discorso nell’anniversario del People’s Paper, 1856). Potremmo quindi dire, con Feuerbach, che noi stessi abbiamo creato quel Dio che oggi ci affronta come un’entità estranea La mia proposta, come si capisce, è di intendere l’Ia come una forma di alienazione. In quanto processo epocale, essa è impermeabile all’azione del singolo. Ma quest’ultimo mantiene la possibilità di elaborare una propria etica individuale per quanto riguarda il suo uso. Il problema è bifronte: l’espressione “uso dell’Ia” va intesa qui come genitivo tanto soggettivo quanto oggettivo. Il secondo ha un carattere più immediato: ciascuno di noi può decidere, come utente, in quale misura e per quali attività avvalersi dell’Ia. Si può obiettare, con ragione, che essa è già incorporata nei dispositivi che usiamo quotidianamente al punto che non è più possibile scegliere di non usarla. Se questo è vero, rimangono tuttavia attività complesse e intenzionali sulle quali il soggetto agente mantiene un certo controllo. Per tornare all’esempio di apertura, se ci dedichiamo a scrivere un libro possiamo ancora optare per un lavoro artigianale oppure, in alternativa, reclutare un aiutante artificiale che ci suggerisca la trama di un romanzo o ci aiuti nel vagliare la bibliografia, oltreché, eventualmente, nel redigere parti più o meno estese del testo. Si tratta di una scelta etica non perché un’opzione sia giusta e l’altra sbagliata in base a un determinato sistema normativo – dubito vi siano teologie credibili che minacciano punizioni divine per chi si serve dell’Ia; e le stesse leggi umane saranno via via più accomodanti –, bensì perché, nell’impegnarci in un lavoro, decidiamo come impiegare il nostro tempo e le nostre doti. Torniamo quindi alla citazione iniziale di Simone de Beauvoir. L’argomento secondo il quale l’Ia “fa risparmiare tempo” è fondato, ma trascura di valutare che cosa si guadagna e che cosa si perde in questo patto con la macchina. Un aumento delle prestazioni è indubbio, almeno in termini di quantità; ma quale ne sarà lo scopo finale se, nello scenario ipotizzato sopra, le persone sceglieranno di risparmiarsi anche il tempo di leggere quel surplus di libri prodotto grazie all’ausilio dell’Ia? Veniamo qui alla seconda faccia del dilemma, l’uso dell’Ia come genitivo soggettivo. L’interrogativo riguarda i modi in cui l’Ia si serve degli umani e i cambiamenti che può indurre in loro. Anche in questo caso, ritengo che gli effetti vadano a rinforzare tendenze già in corso più che crearle dal nulla. Come molti colleghi, da diversi anni osservo negli studenti universitari una certa fatica, o forse pigrizia, nella stesura di testi complessi. Non l’attribuisco a un declino nelle facoltà cognitive dei giovani; penserei piuttosto a una perdita di rilevanza di questo tipo di scritti nel mondo in cui si sono formati e nel contesto futuro del lavoro a cui guardano. Già da tempo l’abilità di comporre testi stratificati tanto nella forma quanto nel significato si è diradata. Le espressioni indirette, ironiche e polisemiche, al pari della sintassi ipotattica, appaiono sempre più come costruzioni del passato di cui si è perso il codice architettonico, non meno che la chiave per abitarle. La lingua del presente è ricca di scorciatoie ma povera di nascondigli. La stessa prosa accademica è quasi sempre disadorna e procedurale; oppure, per reazione, arbitrariamente oscura e contorta. Non intendo intonare l’ennesimo lamento su un male ormai conclamato. Noto però che vari docenti universitari, se interrogati, ammetteranno candidamente di non leggere quasi più interi libri, ancor meno se esterni alla loro area di competenza: non ne hanno il tempo. Dibattere di come e perché si sia giunti a questo stato di cose sarebbe penoso e controverso. In ogni caso non risponderebbe all’obiezione sollevata da Simone de Beauvoir, né coglierebbe la reazione della scrittrice e storica Stacy Schiff all’inchiesta di Wasik: “Rivolgersi all’Ia per strutturare un libro sembra più una punizione che un trucco, come reclutare qualcuno per mangiare il tuo gelato al posto tuo”. Kisai Marvazi, un poeta persiano del X secolo, chiedeva a un fiorista: “Tu che ti disfi delle tue rose per soldi, che cosa potrai comprare di più prezioso?” (Khayyam riprenderà la domanda ponendola però al mercante di vino, come sanno gli ascoltatori di De André). Come le merci per Marx o le immagini per Guy Debord, anche i dati sono rapporti sociali travestiti Per gli specialisti della parola, dei concetti e dell’attività creativa, si tratta quindi non solo di calcolare quali vantaggi il ricorso all’Ia possa fornire. Ma anche di soppesare che cosa vada perso in questo scambio: senza dimenticare che, mentre l’Ia lavora per noi, noi stiamo lavorando per essa, poiché ogni nuovo testo e immagine finirà prima o poi per alimentarla, come sanno bene le aziende che detengono i mezzi di produzione di queste macchine virtuali. Come le merci per Marx o le immagini per Guy Debord, anche i dati, infatti, sono rapporti sociali travestiti. Eppure la riflessione sull’Ia non ha bisogno di limitarsi a una critica, per quanto giustificata, del capitalismo digitale. Può invece estendersi a una domanda esistenziale sul tipo di essere umano che la crescente dipendenza dall’Ia sta forgiando, legata d’altronde a quella già frequente sugli effetti antropologici delle reti sociali. Ma quella sull’Ia ha una particolare pregnanza per quei ceti la cui immagine di sé dipende in modo decisivo da competenze elevate nella scrittura, nella ricerca e nella creazione. Ovvero proprio coloro che più di altri hanno contribuito e tuttora contribuiscono all’evoluzione dell’Ia. Che tutti, volendo o meno, siano già cooptati come operai nella costruzione della Grande piramide mi sembra un fatto compiuto. La discussione può aprirsi però in merito ai resti: quale ritorno gli autori si aspettano dalla propria dedizione alla conoscenza e alla letteratura nel momento in cui è mediata dall’Ia? Se si tratta unicamente di benefici strumentali in termini di produttività e successo, è probabile che alla fine del percorso poco o nulla rimanga per l’umanità. Esternalizzando a una macchina, assieme alla produzione, anche la fruizione delle opere, si sarà perso il valore di una formazione culturale lenta e fine a sé stessa in quanto rivolta, senza altro obiettivo, al miglioramento di sé. L’Ia lavora per gli altri e fa lavorare gli altri in cambio di un supposto risparmio nell’esercitare l’Intelligenza naturale che può tradursi, a lungo andare, in una atrofia e in una perdita di senso. Non da ultimo perché, insieme alla mente, si affinano anche i sentimenti; e con loro, la consapevolezza e la libertà. Negli ultimi due secoli molti operai, spesso sconosciuti, hanno sottratto ore al poco tempo libero per leggere e istruirsi come una maniera di curare la propria dignità ferita e coltivare la speranza in un domani più generoso. Se il loro esempio possa ancora servire di ispirazione, ed eventualmente in quali modi, è una domanda che ha significato soltanto per i lettori umani.

1 0

Re: [nexa] Factual error rate for the 4 new ChatGPT models
by Giuseppe Attardi July 7, 2025

July 7, 2025

Il task di Question Answering su factoid questions è stato l’oggetto della challenge TREC QA dal 2002 al 2007. Noi partecipammo nel 2003 col team PiQASso, ottenendo un score di 0.45. Nel corso degli anni i sistemi sono migliorati, fino a considerarlo un problema non più interessante. TREC 2003: The main task was a composite of factoid, list, and definition questions. The best-performing system on the factoid component achieved an accuracy of 0.698. This year also introduced a "passages" task where systems had to return a text snippet containing the answer; the top accuracy here was 0.532. TREC 2004: The format was further refined into question series. The top system for the factoid component demonstrated an accuracy of 0.770. This represents a significant jump and a high point in the TREC QA track for this specific task. TREC 2005 - 2007: The main QA task continued to evolve, often with a focus on more complex, context-dependent questions within a series. While direct year-over-year comparisons of factoid accuracy become more nuanced due to changes in the task design and the introduction of different document collections (like blogs in TREC 2007), the top systems continued to perform at a high level. For instance, in TREC 2006, the best factoid accuracy was 0.759. In TREC 2007, the top score for the factoid component was an accuracy of 0.748. Alcuni anni fa, nell’era pre-transformer, anche Google lanciò una Natural Question dataset and challenge. Nel 2019 tre miei studenti vinsero la Fujitsu NLP Challenge https://www.systemscue.it/fujitsu-ai-nlp-unipi-zinrai/14490/ Erano tutti sistemi ad hoc, altamente ingegnerizzati per quello specifico compito. -- > On 7 Jul 2025, at 09:50, nexa-request(a)server-nexa.polito.it wrote: > > From: Daniela Tafani <daniela.tafani(a)unipi.it <mailto:daniela.tafani@unipi.it>> > Suppongo si tratti degli stessi modelli utilizzati a scopi militari (<https://defensescoop.com/2025/01/16/openais-gpt-4o-gets-green-light-for-top…>). > > Open AI study shows factual error rate for the 4 new ChatGPT models, with hallucinations getting much worse: 48- 90%. > > GPT-4o-mini: 8.6% correct answers, 0.9% unanswered, and 90.5% incorrect. > > 01-mini: 8.1% correct answers, 28.5% unanswered, and > 63.4% incorrect. > > GPT-40: 38.2% correct answers, 1.0% unanswered, and 60.8% incorrect. > > 01-preview: The top performer, with 42.7% correct answers, 9.2% unanswered, and 48% incorrect. > > link here: > <https://openai.com/index/introducing-simpleqa/> > > La segnalazione è di Ewan Morrison: > <https://xcancel.com/MrEwanMorrison/status/1941627600096366662> >

1 0

Factual error rate for the 4 new ChatGPT models
by Daniela Tafani July 7, 2025

July 7, 2025

Suppongo si tratti degli stessi modelli utilizzati a scopi militari (<https://defensescoop.com/2025/01/16/openais-gpt-4o-gets-green-light-for-top…>). Open AI study shows factual error rate for the 4 new ChatGPT models, with hallucinations getting much worse: 48- 90%. GPT-4o-mini: 8.6% correct answers, 0.9% unanswered, and 90.5% incorrect. 01-mini: 8.1% correct answers, 28.5% unanswered, and 63.4% incorrect. GPT-40: 38.2% correct answers, 1.0% unanswered, and 60.8% incorrect. 01-preview: The top performer, with 42.7% correct answers, 9.2% unanswered, and 48% incorrect. link here: <https://openai.com/index/introducing-simpleqa/> La segnalazione è di Ewan Morrison: <https://xcancel.com/MrEwanMorrison/status/1941627600096366662>

3 3

MEMENTO | 185° Mercoledì di Nexa | 9 luglio 2025, ore 17.00
by Nexa - Media July 7, 2025

July 7, 2025

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 9 luglio, alle ore 17.00, si terrà il 185° Mercoledì di Nexa con un incontro dal titolo "Intelligenza artificiale e mondi reali". Ospite dell'incontro: Maurizio Tirassa (Università degli Studi di Torino). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina: https://nexa.polito.it/mercoledi-185 Ricordiamo che l'incontro si concluderà con un brindisi per salutarci in vista della pausa estiva. Un saluto cordiale, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

1 0

L’intelligenza artificiale nella professione forense - Intervista a Ugo Mattei
by Maurizio Borghi July 7, 2025

July 7, 2025

*L’intelligenza artificiale nella professione forense* *Cinzia Notaro* Mercoledì 10 marzo 2024, il Parlamento europeo ha approvato la legge sull’*intelligenza artificiale* che garantirebbe sicurezza e rispetto dei diritti fondamentali e promuove l’innovazione. L ‘Italia è orientata verso una disciplina nazionale dell’impiego dell’ I.A. in campo forense con un disegno di legge che prevede l’utilizzo dell’ I.A. come supporto escludendo la sostituzione umana con giudici – robot e avvocati algoritmici. Ne parliamo con il prof. Ugo Mattei, Ordinario di diritto civile, Università Torino; Emerito di diritto Internazionale e Comparato, University of California; Coordinatore Accademico International University College; Presidente Generazioni Future. *Possiamo affidarci per un parere, per una sentenza o per un qualsiasi atto processuale all’Intelligenza Artificiale ?* L’I.A. è la punta dell’ iceberg di una trasformazione epocale, una grande sostituzione del diritto con la sorveglianza che certo non si risolve con leggiucole formali. L’ Europa come sempre utilizza un approccio puramente normativo destinato a nascere vecchio. Non è la prima volta che si cerca di illudere la cittadinanza europea che la burocrazia di Bruxelles faccia qualcosa, (penso al GDPR) quando in realtà il nostro primo problema non è tecnologico ma politico .Che ci piaccia o meno, il diritto sarà sostituito dalla tecnologia e quindi non possiamo che fare i conti politici, non formalistici, con questa realtà. È il tema del mio libro in uscita ad ottobre per Feltrinelli: “La fine del diritto”. *Un avvocato, un giudice in che modo possono utilizzarla nel proprio lavoro?* [...] continua qui: https://www.lafiaccola.it/wp/lintelligenza-artificiale-nella-professione-fo… -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/>

1 0

Trial Court Decides Case Based On AI-Hallucinated Caselaw
by Daniela Tafani July 4, 2025

July 4, 2025

Qui c'è un passo ulteriore, rispetto ai casi precedenti. Trial Court Decides Case Based On AI-Hallucinated Caselaw Appellate court to trial judge: you know these cases are made up, right? By Joe Patrice on July 01, 2025 12:48 pm Every time a lawyer cites a fake case spit out by generative AI, an angel gets its wings. When the lawyers in Mata v. Avianca infamously earned a rebuke for citing an AI-imagined alternate history of the Montreal Convention, many of us assumed the high-profile embarrassment would mark the end of fake cases working their way into filings. Instead, new cases crop up with alarming frequency, ensnaring everyone from Trump’s former fixer (Opens in a new window)to Biglaw (Opens in a new window)to — almost certainly — the DOJ (Opens in a new window). It seems no amount of public embarrassment can overcome laziness (Opens in a new window). But so far, the system has stood up to these errors. Between opposing counsel and diligent judges, fake cases keep getting caught before they result in real mischief. That said, it was always only a matter of time before a poor litigant representing themselves fails to know enough to sniff out and flag Beavis v. Butthead and a busy or apathetic judge rubberstamps one side’s proposed order without probing the cites for verification. Hallucinations are all fun and games until they work their way into the orders. It finally happened with a trial judge issuing an order based off fake cases (flagged by Rob Freund (Opens in a new window)). While the appellate court put a stop to the matter, the fact that it got this far should terrify everyone. Shahid v. Esaam (Opens in a new window), out of the Georgia Court of Appeals, involved a final judgment and decree of divorce served by publication. When the wife objected to the judgment based on improper service, the husband’s brief included two fake cases. The trial judge accepted the husband’s argument, issuing an order based in part on the fake cases. On appeal, the husband did not respond to the fake case claim, but…. Undeterred by Wife’s argument that the order (which appears to have been prepared by Husband’s attorney, Diana Lynch) is “void on its face” because it relies on two non-existent cases, Husband cites to 11 additional cites in response that are either hallucinated or have nothing to do with the propositions for which they are cited. Appellee’s Brief further adds insult to injury by requesting “Attorney’s Fees on Appeal” and supports this “request” with one of the new hallucinated cases. They cited MORE fake cases to defend their first set of fake cases. Epic. A perpetual motion machine of bullshit, if you will. Seeking attorney’s fees based on a fake case was a nice touch. Probably should’ve thought of that at the trial court level, it probably would’ve worked. The appellate court could not make the factual leap to blame AI for the fake cases, but laid out its theory of the case: As noted above, the irregularities in these filings suggest that they were drafted using generative AI. In his 2023 Year-End Report on the Federal Judiciary, Chief Justice John Roberts warned that “any use of AI requires caution and humility.” Roberts specifically noted that commonly used AI applications can be prone to “hallucinations,” which caused lawyers using those programs to submit briefs with cites to non-existent cases. Well, there you go! Someone finally found a use for the Chief Justice’s infamous typewriter report (Opens in a new window). Now it almost seems like a useful expenditure of official resources instead of a cynical opportunity to dodge addressing that his proposed solution to the Court’s deepening ethical cesspool is… JAZZ HANDS! But there’s a critical line between submitting fake cases and judges acting on fake cases. The urgency the courts feel for stamping out fake citations stems in part from the “there but for the grace of my clerks go I” fear that the judge might bless a fake argument. Now that this has happened to a trial judge out there, the high-profile embarrassment should mark the end of fake cases working their way into orders. Where have I heard something like that before? *Re-reads first paragraph.* We’re screwed. <https://caselaw.findlaw.com/court/ga-court-of-appeals/117442275.html> <https://abovethelaw.com/2025/07/trial-court-decides-case-based-on-ai-halluc…>

1 0

La legge ammazza foto che soffocherà Wikipedia e il diritto alla conoscenza
by Francesco Macchia July 3, 2025

July 3, 2025

Buonasera a tutti. Riporto questo articolo di riepilogo sulla proposta di legge Amorese, nata per fare un favore ai fotografi e agli editori a scapito dei cittadini L’allarme serpeggia in questi giorni, per una proposta di legge che mira a > estendere la durata del diritto d’autore sulle cosiddette “fotografie > semplici” da 20 a 70 anni dopo la morte dell’autore. Ecco perché è un > attacco inaudito ai nostri diritti Qui il link all'articolo: https://www.agendadigitale.eu/mercati-digitali/la-legge-ammazza-foto-che-so… Qui invece il link per chi vuole evitare di cedere troppi dati personali: https://www.removepaywall.com/search?url=https://www.agendadigitale.eu/merc… Un saluto a tutti, Francesco Macchia

2 1

Meet the Ex-CIA Agents Deciding Facebook’s Content Policy
by Daniela Tafani July 3, 2025

July 3, 2025

Meet the Ex-CIA Agents Deciding Facebook’s Content Policy Alan Macleod It is an uncomfortable job for anyone trying to draw the line between “harmful content and protecting freedom of speech. It’s a balance”, Aaron says. In this official Facebook video, Aaron identifies himself as the manager of “the team that writes the rules for Facebook”, determining “what is acceptable and what is not.” Thus, he and his team effectively decide what content the platform’s 2.9 billion active users see and what they don’t see. Aaron is being interviewed in a bright warehouse-turned-studio. He is wearing a purple sweater and blue jeans. He comes across as a very likable, smiley person. It is not an easy job, of course, but someone has to make those calls. “Transparency is incredibly important in the work that I do,” he says. Aaron is CIA. Or at least he was until July 2019, when he left his job as a senior analytic manager at the agency to become senior product policy manager for misinformation at Meta, the company that owns Facebook, Instagram and WhatsApp. In his 15-year career, Aaron Berman rose to become a highly influential part of the CIA. For years, he prepared and edited the president of the United States’ daily brief, “wr[iting] and overs[eeing] intelligence analysis to enable the President and senior U.S. officials to make decisions on the most critical national security issues,” especially on “the impact of influence operations on social movements, security, and democracy,” his LinkedIn profile reads. None of this is mentioned in the Facebook video. Berman’s case is far from unique, however. Studying Meta’s reports, as well as employment websites and databases, MintPress has found that Facebook has recruited dozens of individuals from the Central Intelligence Agency (CIA), as well as many more from other agencies like the FBI and Department of Defense (DoD). These hires are primarily in highly politically sensitive sectors such as trust, security and content moderation, to the point where some might feel it becomes difficult to see where the U.S. national security state ends and Facebook begins. In previous investigations, this author has detailed how TikTok is flooded with NATO officials, how former FBI agents abound at Twitter, and how Reddit is led by a former war planner for the NATO think tank, the Atlantic Council. But the sheer scale of infiltration of Facebook blows these away. Facebook, in short, is utterly swarming with spooks. Trust me, bro In a political sense, trust, safety and misinformation are the most sensitive parts of Meta’s operation. It is here where decisions about what content is allowed, what will be promoted and who or what will be suppressed are made. These decisions affect what news and information billions of people across the world see every day. Therefore, those in charge of the algorithms hold far more power and influence over the public sphere than even editors at the largest news outlets. There are a number of other ex-CIA agents working in these fields. Deborah Berman, for example, spent 10 years as a data and intelligence analyst at the CIA before recently being brought on as a trust and safety project manager for Meta. Little is known about what she did at the agency, but her pre-agency publications indicate she was a specialist on Syria. Between 2006 and 2010, Bryan Weisbard was a CIA intelligence officer, his job entailing, in his own words, leading “global teams to conduct counter-terrorism and digital cyber investigations,” and “Identif[ying] online social media misinformation propaganda and covert influence campaigns”. Directly after that, he became a diplomat (underlining how close the line is between those two professions), and is currently a director of trust and safety, security and data privacy for Meta. Meanwhile, the LinkedIn profile of Cameron Harris – a CIA analyst until 2019 – notes that he is now a Meta trust and safety project manager. Harris Embed Individuals from other state institutions abound as well. Emily Vacher was an FBI employee between 2001 and 2011, rising to the rank of supervisory special agent. From there she was headhunted by Facebook/Meta, and is now a director of trust and safety. Between 2010 and 2020, Mike Bradow worked for USAID, eventually becoming deputy director of policy for the organization. USAID is a U.S. government-funded influence organization which has bankrolled or stage managed multiple regime change operations abroad, including in Venezuela in 2002, Cuba in 2021, and ongoing attempts in Nicaragua. Since 2020, Meta has employed Bradow as a misinformation policy manager. Others have similar pasts. Neil Potts, a former intelligence officer with the U.S. Marine Corps, is vice president of trust and safety at Facebook. In 2020, Sherif Kamal left his job as a program manager at the Pentagon to take up the post of Meta trust and safety program manager. Joey Chan currently holds the same trust and safety post as Kamal. Until last year, Chan was a U.S. Army officer commanding a company of over 100 troops in the Asia Pacific region. None of this is to say that any of those named are not conscientious, that they are bad people or bad at their job. Vacher, for example, helped design Facebook’s amber alert program, notifying people to missing children in their area. But hiring so many ex-U.S. state officials to run Facebook’s most politically sensitive operations raises troubling questions about the company’s impartiality and its proximity to government power. Meta is so full of national security state agents that at some point, it almost becomes more difficult to find individuals in trust and safety who were not formerly agents of the state. Despite its efforts to brand itself as a progressive, “woke” organization, the Central Intelligence Agency remains deeply controversial. It has been charged with overthrowing or attempting to overthrow numerous foreign governments (some of them democratically elected), helping prominent Nazis escape punishment after World War Two, funnelling large quantities of drugs and weapons around the world, penetrating domestic media outlets, routinely spreading false information and operating a global network of “black sites” where prisoners are repeatedly tortured. Therefore, critics argue that putting operatives from this organization in control of our news feeds is deeply inappropriate. One of these critics is Elizabeth Murray, who, in 2010, retired from a 27-year career at the CIA and other U.S. intelligence organizations. “This is insidious,” Murray told MintPress, adding, I see it as part of the gradual and sinister migration of ambitious young professionals originally trained (with CIA’s virtually unlimited, U.S.-taxpayer funded pot of resources) to surveil and target ‘the bad guys’ during the so-called Global War on Terror of the post-9-11 era.” MintPress also contacted Facebook/Meta for comment but has not received a response. Arm’s length control Some may ask what the big fuss is. There is a limited pool of individuals with the necessary skills and experience in these new tech and cybersecurity fields, and many of them come from government institutions. Casinos, after all, regularly hire card sharks to protect themselves. But there is little evidence that this is a poacher-turned-gamekeeper scenario; Facebook is certainly not hiring whistleblowers. The problem is not that these individuals are incompetant. The problem is that having so many former CIA employees running the world’s most important information and news platform is only one small step removed from the agency itself deciding what you see and what we do not see online – and all with essentially no public oversight. In this sense, this arrangement constitutes the best of both worlds for Washington. They can exert significant influence over global news and information flows but maintain some veneer of plausible deniability. The U.S. government does not need to directly tell Facebook what policies to enact. This is because the people in decision-making positions are inordinately those who rose through the ranks of the national security state beforehand, meaning their outlooks match those of Washington’s. And if Facebook does not play ball, quiet threats about regulation or breaking up the company’s enormous monopoly can also achieve the desired outcomes. Again, this article is not claiming that any of the named individuals are nefarious actors, or even that they are anything but model employees. This is a structural problem. Put another way, if Facebook were hiring dozens of managers from Russian intelligence agencies like the FSB or GRU, everybody would recognize the inherent dangers. It should be little different when it hires individuals from the CIA, an organization responsible for some of the worst crimes of the modern era. >From state intelligence to private intelligence Facebook has also hired a plethora of ex-national security state officers to run its intelligence and online security operations. Until 2013, Scott Stern was a targeting officer at the CIA, rising to become chief of targeting. In this role, he helped select the targets for U.S. drone strikes across South and West Asia. Today, however, as a senior manager of risk intelligence for Meta, “misinformation” and “malicious actors” are his targets. Hopefully he is more accurate at Facebook than at the CIA, where the government’s own internal assessments show that at least 90% of Afghans killed in drone strikes were innocent civilians. Other former CIA men at Facebook include Mike Torrey, who left his job as a senior analyst at the agency to become Meta’s technical lead of detection, investigations and disruptions of complex information operations threats, and former CIA contractor Hagan Barnett, who is now head of harmful content operations at the Silicon Valley giant. BarnettMeta’s intelligence and online security team includes individuals from virtually every government agency imaginable. In 2015, Department of Defense intelligence officer Suzanna Morrow left her post to become director of global security intelligence for Meta. The FBI is represented by threat investigations manager Ellen Nixon and head of cyber espionage investigations Mike Dvilyanski. Facebook’s influence operations policy manager Olga Belogolova had stints at the State Department and the Office of the Secretary of Defense. Before Meta, David Agranovich and Nathaniel Gleicher both worked for the National Security Council. Agranovich is director of global threat disruption at Facebook while Gleicher is head of security policy. Hayley Chang, director and associate general counsel for cybersecurity and investigations, worked formerly for both the FBI and Department of Homeland Security. And Meta’s global head of interaction operations, David Hansell, was once an Air Force and Defense Intelligence Agency man. One of Meta’s most outwardly-facing employees is its global threat intelligence lead for influence operations, Ben Nimmo, a character MintPress has covered before. Between 2011 and 2014, he served as NATO’s press officer, moving the next year to the Institute for Statecraft, a U.K. government-funded propaganda operation aimed at spreading misleading information about enemies of the British state. He was also a senior fellow at the Atlantic Council, NATO’s semi-official think tank. Perhaps then, it is not surprising that Facebook never seems to find U.S. government influence operations online – they are part of one! Cyber war, cyber warriors While Meta has not unmasked any nefarious U.S. government action, it regularly uncovers what it claims are foreign disinformation campaigns. According to a recent Facebook report, the top five locations of coordinated inauthentic behavior between 2017 and 2020 on its platform are Russia, Iran, Myanmar, the United States and Ukraine. However, it was at pains to note that American operations were driven by fringe far-right elements, white supremacists and conspiracy theorists, and not the government. This is despite the fact that it is now well-established that the Pentagon fields a clandestine army of at least 60,000 people whose job is to influence public opinion, the majority of them doing so from their keyboards. A Newsweek exposé from last year called it “The largest undercover force the world has ever known,” adding, The explosion of Pentagon cyber warfare, moreover, has led to thousands of spies who carry out their day-to-day work in various made-up personas, the very type of nefarious operations the United States decries when Russian and Chinese spies do the same.” Newsweek warned that this army was likely breaking both U.S. and international law by doing so, explaining that, These are the cutting-edge cyber fighters and intelligence collectors who assume false personas online, employing ‘nonattribution’ and ‘misattribution’ techniques to hide the who and the where of their online presence while they search for high-value targets and collect what is called ‘publicly accessible information’—or even engage in campaigns to influence and manipulate social media.” As far back as 2011, The Guardian was reporting on this enormous cyber force, whose job it was to “secretly manipulate social media sites by using fake online personas to influence internet conversations and spread pro-American propaganda.” Yet the ex-military and ex-CIA officials Facebook employs do not seem to have found any trace of their former colleagues’ at work on the platform. <https://www.mintpressnews.com/meet-ex-cia-agents-deciding-facebook-content-…>

1 0

[Responsible AI] BRIO: A Bias and Risk Assessment Tool for Fair ML Systems
by Daniele Quercia July 3, 2025

July 3, 2025

Title: BRIO: A Bias and Risk Assessment Tool for Fair ML Systems Giuseppe Primiero, University of Milan Join the meeting <https://teams.microsoft.com/l/meetup-join/19%3ameeting_ZWE1MDUyMWItM2Q2MC00…> Abstract: Phenomena of bias by AI systems based on machine learning methods are well known, and largely discussed in the literature. A variety of tools are being developed to assess these undesirable behaviours. In this talk I present BRIO, a bias and risk assessment tool developed by MIRAI (https://mirai.systems) The tool is based on a combination of formal and statistical methods and works on the I/O data of a ML system remaining agnostic on the model itself. The result of the analysis is a set of all the features and combinations thereof that produce violations with respect to a given target distribution. These values can be fed into a risk function which computes an overall value weighting them on parameters such as size of the population and number of features involved, mapping naturally into notions of group and individual fairness. <https://arxiv.org/abs/2407.02191>Bio: Giuseppe Primiero is Professor of Logic with the Logic, Uncertainty, Computation and Information Lab (luci.unimi.it) in the Department of Philosophy at the University of Milan, Italy. He acts as Scientific Director for PHILTECH, Research Center for The Philosophy of Technology (https://philtech.unimi.it/) and as Programme Leader for the Master's Degree in Human-Centered AI (https://hcai.cdl.unimi.it/en) He is co-founder and Chief Research Officer of MIRAI (https://mirai.systems) Giuseppe works in the formal modeling and verification of multi-agent systems. His preferred tools are proof-systems, modal and computational logics. Giuseppe's formal research is applied to AI systems and their deployment for resolving issues of misinformation and disinformation online, as well as computable approaches to the evaluation of trustworthiness of information sources, bias and fairness. He is currently the Principal Investigator of the Projects “BRIO: Bias, Risk and Opacity in AI” (https://sites.unimi.it/brio) and "SMARTEST: Simulation of probabilistic systems for the age of the digital twin" (https://sites.unimi.it/smartest/) both funded by the Italian Ministry of University and Research. Full CV at https://work.unimi.it/chiedove/cv/giuseppe_primiero.pdf. Subscribe to future talk announcements: Anyone outside Bell Labs can receive talk announcements by subscribing to the mailing list. To subscribe, send an empty email with the subject line "Subscribe RAI" to daniele.quercia(a)polito.it<mailto:daniele.quercia@polito.it>

1 0

concorso musicale
by alessandro marzocchi July 3, 2025

July 3, 2025

Do una mano ad organizzare un concorso per composizioni musicali. Servirà un sito, anche se economicamente e tecnicamente modesto chiedo aiuto a listanexa. Localmente, Grosseto, operano onesti professionisti che saranno interpellati ma non ci sono preclusioni. In argomento non vado oltre la richiesta di sw aperto e libero, ogni consiglio è gradito anche perché spero che una futura edizione, pur restando nell'ambito della composizione di musica cosiddetta "colta", possa essere dedicata al digitale nella composizione e/o esecuzione di musica. Grazie fin d'ora. Cordialmente. Duccio (Alessandro Marzocchi)

4 3