- nexa - server-nexa.polito.it

Re: LLMs e copyright

by GC F

Noi qui abbiamo una posizione diversa: Preserving Balance in the EU Digital Single Market: How Like Company Could Reframe Copyright and Innovation in the Generative AI Era by Enrico Bonadio, Giancarlo Frosio, Christophe Geiger, Andrés Guadamuz, Stavroula Karapapa, Irini A. Stamatoudi :: SSRN <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6326401> Lo studio Ahmed et al mostra quei risultati su un libro che è stato 'overfitted' migliaia di volte e con adversarial prompting che ha costi tre o quattro volte il valore del libro. Leggerò l'altro studio di cui vedo Ginsburg è una co-autrice. Nel frattempo questo studio ha posizioni diverse: Haviv, A. et al., ‘We Should Separate Memorization from Copyright’, arXiv:2602.08632v1 [cs.CY], 9 February 2026, https://doi.org/10.48550/arXiv.2602.08632. In questo secondo studio, Niva Elkin Koren è una delle co-autrici. Ginsburg e Koren hanno entrambe grande reputazione internazionale in materia di diritti d'autore. Ginsburg però è una massimalista del copyright, mentre Koren una minimalista... Giancarlo On Fri, 27 Mar 2026 at 10:22, Enrico Nardelli via nexa < nexa(a)server-nexa.polito.it> wrote: > Per chi se li fosse persi: un paio di lavori che indicano in modo > abbastanza chiaro come gli LLM siano certamente delle gigantesche memorie > che contengono intere opere soggette a diritto d'autore. > > Ciao, Enrico > > 1) > > Extracting books from production language models > hmed Ahmed, A. Feder Cooper, Sanmi Koyejo, Percy Liang > https://arxiv.org/abs/2601.02671 > > Many unresolved legal questions over LLMs and copyright center on > memorization: whether specific training data have been encoded in the > model's weights during training, and whether those memorized data can be > extracted in the model's outputs. While many believe that LLMs do not > memorize much of their training data, recent work shows that substantial > amounts of copyrighted text can be extracted from open-weight models. > However, it remains an open question if similar extraction is feasible for > production LLMs, given the safety measures these systems implement. We > investigate this question ... and we measure extraction success with a > score computed from a block-based approximation of longest common substring > (nv-recall). With different per-LLM experimental configurations, we were > able to extract varying amounts of text. ... e.g, nv-recall of 76.8% and > 70.3%, respectively, for Harry Potter and the Sorcerer's Stone ... Taken > together, our work highlights that, even with model- and system-level > safeguards, extraction of (in-copyright) training data remains a risk for > production LLMs. > > ---------------- > > 2) > > Xinyue Liu, Niloofar Mireshghallah, Jane C. Ginsburg, Tuhin Chakrabarty > Alignment Whack-a-Mole : Finetuning Activates Verbatim Recall of > Copyrighted Books in Large Language Models > https://arxiv.org/abs/2603.20957 > > Frontier LLM companies have repeatedly assured courts and regulators that > their models do not store copies of training data. They further rely on > safety alignment strategies via RLHF, system prompts, and output filters to > block verbatim regurgitation of copyrighted works, and have cited the > efficacy of these measures in their legal defenses against copyright > infringement claims. We show that finetuning bypasses these protections: by > training models to expand plot summaries into full text, a task naturally > suited for commercial writing assistants, we cause GPT-4o, Gemini-2.5-Pro, > and DeepSeek-V3.1 to reproduce up to 85-90% of held-out copyrighted books, > with single verbatim spans exceeding 460 words, using only semantic > descriptions as prompts and no actual book text. > > ... > > Our findings offer compelling evidence that model weights store copies of > copyrighted works and that the security failures that manifest after > finetuning on individual authors’ works undermine a key premise of recent > fair use rulings, where courts have conditioned favorable outcomes on the > adequacy of measures preventing reproduction of protected expression. > > -- > > -- EN > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > -- >

March 27, 2026

LLMs e copyright

by Enrico Nardelli

Per chi se li fosse persi: un paio di lavori che indicano in modo abbastanza chiaro come gli LLM siano certamente delle gigantesche memorie che contengono intere opere soggette a diritto d'autore. Ciao, Enrico 1) Extracting books from production language models hmed Ahmed, A. Feder Cooper, Sanmi Koyejo, Percy Liang https://arxiv.org/abs/2601.02671 Many unresolved legal questions over LLMs and copyright center on memorization: whether specific training data have been encoded in the model's weights during training, and whether those memorized data can be extracted in the model's outputs. While many believe that LLMs do not memorize much of their training data, recent work shows that substantial amounts of copyrighted text can be extracted from open-weight models. However, it remains an open question if similar extraction is feasible for production LLMs, given the safety measures these systems implement. We investigate this question ... and we measure extraction success with a score computed from a block-based approximation of longest common substring (nv-recall). With different per-LLM experimental configurations, we were able to extract varying amounts of text. ... e.g, nv-recall of 76.8% and 70.3%, respectively, for Harry Potter and the Sorcerer's Stone ... Taken together, our work highlights that, even with model- and system-level safeguards, extraction of (in-copyright) training data remains a risk for production LLMs. ---------------- 2) Xinyue Liu, Niloofar Mireshghallah, Jane C. Ginsburg, Tuhin Chakrabarty Alignment Whack-a-Mole : Finetuning Activates Verbatim Recall of Copyrighted Books in Large Language Models https://arxiv.org/abs/2603.20957 Frontier LLM companies have repeatedly assured courts and regulators that their models do not store copies of training data. They further rely on safety alignment strategies via RLHF, system prompts, and output filters to block verbatim regurgitation of copyrighted works, and have cited the efficacy of these measures in their legal defenses against copyright infringement claims. We show that finetuning bypasses these protections: by training models to expand plot summaries into full text, a task naturally suited for commercial writing assistants, we cause GPT-4o, Gemini-2.5-Pro, and DeepSeek-V3.1 to reproduce up to 85-90% of held-out copyrighted books, with single verbatim spans exceeding 460 words, using only semantic descriptions as prompts and no actual book text. ... Our findings offer compelling evidence that model weights store copies of copyrighted works and that the security failures that manifest after finetuning on individual authors’ works undermine a key premise of recent fair use rulings, where courts have conditioned favorable outcomes on the adequacy of measures preventing reproduction of protected expression. -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

March 27, 2026

[Responsible AI] Algorithmic Insurance, Agni Orfanoudaki, Saïd Business School, Oxford University

by Daniele Quercia

Algorithmic Insurance Agni Orfanoudaki, Saïd Business School, Oxford University Join MS Teams<https://teams.microsoft.com/meet/34363600242348?p=ChcPJFeEayAKJ4UBuJ> Format: 35 min talk + 25 min Q&A Abstract: Measuring and managing the risks associated with artificial intelligence (AI) is increasingly critical as AI systems are integrated into high-stakes decision-making environments, such as healthcare. Algorithmic insurance offers a scalable financial solution for quantifying, pricing, and managing the risks inherent in AI deployment, complementary to regulation. It provides a structured mechanism for transferring the risks associated with AI systems from developers and users to insurers, creating a financial buffer that incentivizes responsible AI use and mitigates liability. Our work formalizes the concept of algorithmic insurance and proposes quantitative frameworks to estimate the risk exposure of insurance contracts for machine-driven financial risk. Bio: Agni Orfanoudaki is an Associate Professor of Operations Management at the Saïd Business School of Oxford University. Alongside her role, Agni is a Management Studies Fellow at Exeter College and a visiting scholar at the Harvard Kennedy School as a Harvard Data Science Initiative Fellow. She leads the Data-Driven Decisions Lab (3DL) at Oxford, conducting theoretical and empirical research with machine learning, optimization, and stochastic processes with applications to healthcare and insurance. Prior to joining Oxford, Agni received a PhD in Operations Research from the Massachusetts Institute of Technology. She has collaborated with numerous institutions, including a major medical society, two international reinsurance companies, and more than eight hospitals in the US and Europe. References: Bertsimas, D. and Orfanoudaki, A., 2023. Pricing algorithmic insurance. arXiv preprint arXiv:2106.00839. https://arxiv.org/pdf/2106.00839.pdf Singh S, Sarna N, Li Y, Li Y, Orfanoudaki A, Berger M. Distribution-free risk assessment of regression-based machine learning algorithms. arXiv preprint arXiv:2310.03545. https://arxiv.org/pdf/2310.03545 Subscribe to future talk announcements: Anyone outside Bell Labs can receive talk announcements by subscribing to the mailing list. To subscribe, send an empty email with the subject line "Subscribe RAI” to daniele.quercia(a)polito.it

March 26, 2026

AI got the blame for the Iran school bombing. The truth is far more worrying

by Alberto Cammozzo

Articolo molto interessante sull'industrializzazione della guerra (o meglio, della morte) e sul ruolo delle tecnologie in questo processo. <https://www.theguardian.com/news/2026/mar/26/ai-got-the-blame-for-the-iran-…> Questo passaggio illumina l'ideologia che sta dietro alla /killchain/ come anche ai licenziamenti di Amazon trattati nel precedente messaggio di Juan Carlos, e ne evidenzia la logica prettamente industriale mirante al controllo e alla eliminazione di ogni conoscenza tacita e non codificata: In 1984, the historian David Noble showed that when the US military and American manufacturers automated their factory floors, they consistently chose systems that were slower and more expensive but which moved decision-making away from workers and into management. The point was not efficiency – it was frequently extremely wasteful – but control. A worker who understands what they are doing can exercise judgment the institution cannot govern. Move that understanding into the system, and the worker has nothing left to do but follow instructions. Alex Karp, the CEO of Palantir, describes exactly this achievement in his 2025 book, The Technological Republic. “Software is now at the helm,” he writes, with hardware “serving as the means by which the recommendations of AI are implemented in the world.” His model for what this should look like comes from nature: bee swarms and the murmurations of starlings. “There is no mediation of the information captured by the scouts once they return to the hive,” Karp writes. The starlings need no permission from above, they require “no weekly reports to middle management, no presentations to more senior leaders, no meetings or conference calls to prepare for other meetings”. This sounds liberating, even utopian. But the signal that passes without mediation is also the signal that nobody can question. Karp thinks he is destroying bureaucracy. He is encoding it. The contempt for meetings and weekly reports and presentations to senior leaders; he treats these as the bureaucratic process itself. They are not. They were where people interpreted procedure, the place where someone could notice when categories no longer fit the case. The targeting doctrine is still there. They are columns on a workflow board now, stages a target passes through on its way to being struck. What Karp eliminated was the discretion the institution could never admit it depended on. What remains is a bureaucracy that can execute its rules but with no one left to interpret them. Bureaucracy encoded in software does not bend. It shatters. Ciao, Alberto

March 26, 2026

Possibile interruzione mailing list 26/03

by Nexa - Media

Buongiorno a tutte e tutti, vi avvisiamo che nella giornata di giovedì 26/03 ci sarà un intervento tecnico sul server della mailing list. Non dovrebbero esserci interruzioni nel funzionamento della lista, ma non lo si può escludere del tutto. Grazie per la comprensione. -- Centro Nexa su Internet & Società DAUIN - Politecnico di Torino

March 25, 2026

Il giornalismo di domani in salsa digitale: l'ex dirigente di Google Matt Brittin è stato nominato nuovo direttore generale della BBC

by don Luca Peyron

Ma forse non è una buona idea? https://spectator.com/article/matt-brittin-wont-save-the-bbc/ Buona lettura dl _________________________ don Luca Peyron Pastorale della Cultura tecno scientifica - Apostolato Digitale Arcidiocesi di Torino apostolatodigitale.it <https://www.apostolatodigitale.it/>

March 25, 2026

MEMENTO | 129° Nexa Lunch Seminar | 25 marzo 2026, ore 13.00

by Nexa - Media

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 25 marzo, dalle ore 13.00 alle ore 14.00, si terrà il 129° Nexa Lunch Seminar con un incontro dal titolo "Artificial Intelligence, Intellectual Property and the Global South". Ospite dell'incontro: Pratyush Nath Upreti (Queen’s University Belfast) L'incontro si terrà IN PRESENZA e ONLINE, in lingua inglese. SEDE FISICA dell'incontro: Aula H1 (edificio D4, 2° piano), Campus Luigi Einaudi (Lungo Dora Siena, 100, Torino<https://www.google.com/maps/place/Campus+Luigi+Einaudi/@45.0734963,7.699408…>) STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina: https://nexa.polito.it/lunch-129 Un saluto cordiale, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society<https://nexa.polito.it/> DAUIN - Politecnico di Torino Via Pier Carlo Boggio, 65/A - Torino Digital Communication Assistant DAUIN - Politecnico di Torino<https://www.dauin.polito.it/> Corso Castelfidardo 34/D - Torino mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

March 23, 2026

Come l'UE sta smantellando i diritti digitali

by de petra giulio

Segnalo il nuovo incontro organizzato dalla Scuola critica del digitale del CRS in collaborazione con il Forum Disuguaglianze e Diversità *"Digital Omnibus: verso un'austerità dei diritti digitali"* relazione di *Maurizio Borghi* ne discutono *Daniele Imbruglia, Giorgio Resta, Elisabetta Stringhi* coordina *Giulio De Petra* A questo indirizzo si può trovare la descrizione dell'incontro: https://centroriformastato.it/iniziativa/digital-omnibus-verso-unausterita-… L'incontro si svolgerà a *Roma, venerdì 27 marzo, in via della Dogana Vecchia 5, **a partire dalle 17.* Sarà possibile partecipare anche a distanza, collegandosi tramite il link https://us06web.zoom.us/j/88937676217?pwd=wspn7ZpqxDvHDBLmNjua7JHkXBDJRa.1

March 22, 2026

Re: [nexa] Con il Digital Omnibus UE in ginocchio dal re

by Giovanna Sissa

Grazie Norberto, scusami del ritardo nel rispondere. L'articolo di Franco Padella è molto bello e chiaro e la portata del tema è enorme. Provo ad allargare il discorso: con il termine ombrello "Omnibus" la UE sta votando una serie di norme che, nel nome della "semplificazione", stanno smontando la legislazione europea in settori strategici, quali l'ambiente e ora il digitale: la semplificazione vine tradotta in "deregulation". Il decreto Omnibus 1, approvato nel Parlamento europeo lo scorso dicembre, ha "svuotato da dentro" il Green Deal, vanificando le norme di rendicontazione non finanziaria delle aziende sui temi ambientali: tali obblighi si applicheranno alle sole grandi aziende. Viene ridotto del 92% il numero di imprese a cui sarà richiesta una rendicontazione del proprio impatto sociale e ambientale: solo le aziende con più di cinquemila dipendenti e un fatturato superiore a 1,5 miliardi di euro continuano ad essere obbligate alla rendicontazione ESG. E vengono inoltre abolite le multe. Osservo che, per la prima volta nella sua storia, lo scorso dicembre il Parlamento Europeo ha votato un atto legislativo - la Direttiva sulla rendicontazione della sostenibilità aziendale, detta appunto Omnibus 1 - con una maggioranza formata da PPE e dai tre gruppi di destra (ECR, Patrioti, Nazioni sovrane). Il pacchetto Digital Omnibus (in realtà sono più decreti) riguarda il settore digitale, ma si basa sulla stessa premessa: semplificare = deregolamentare. Il nesso fra i due settori non è casuale: sono i due grandi ambiti su cui l'Europa potrebbe giocare un ruolo mondiale e sono strettamente connessi fra loro. La crisi energetica di questi giorno lo sta evidenziando, anche a chi ha sempre finto di non vederlo. Per questo il riferimento al pezzo di Franco Padella è molto importante e da far girare. Ti ringrazio di averlo postato. Giovanna Giovanna Il giorno lun 2 mar 2026 alle ore 14:15 Norberto Patrignani via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > segnalo anche se molt3 lo avranno gia' visto > > https://sbilanciamoci.info/con-il-digital-omnibus-lue-in-ginocchio-dal-re/ > > un caro saluto > Norberto

March 22, 2026

Peter Thiel, l’Antichrist Superstar di cui faremmo a meno

by antonio

L'Anticristo, per Thiel, è l'inganno che attenta alla libertà, nascondendosi dietro l'apparenza di buoni propositi umanitari, ambientalisti, transnazionalisti e liberal-democratici. È il Male (anti-capitalismo) travestito da Bene (diritti, uguaglianza, pace, ecc). Non è più Marx: è Greta Thunberg. Se si fermasse a questo livello, però, Thiel rimarrebbe nell'ambito dello scontato odio della destra americana per il calderone di sinistra liberal, woke e socialistoide. Invece il miliardario, che si arricchisce creando e vendendo algoritmi predittivi sulla base della raccolta di dati, va più in là, ragionando sul ruolo della Tecnica nell'epoca dell'intelligenza artificiale. Avendo invaso qualsiasi campo – dagli armamenti alle fabbriche, dalla domotica alla stessa biologia umana – quest'ultima pone un rischio esistenziale per l'uomo. Il terrore che suscita può indurre a desiderare più Stato, e la potenza che proietta sulla Rete globale può portare a un moloch mondiale, un G rande Fratello orwelliano (dietro cui si intuisce la fisionomia della Cina rivale strategica degli Stati Uniti, sebbene a fornire un ideale esempio da laboratorio sia, in questo senso, una città-Stato ammirata dai liberisti di ogni latitudine: Singapore). Contro questa minaccia apocalittica, Thiel estrae dalla manica il concetto di katechon, di cui parla san Paolo per indicare la forza che frena e dilaziona il regno delle tenebre. Bisogna catechizzare i gruppi dirigenti, come cerca di fare lui concionando davanti a pubblici selezionati (o come, sul piano formativo e promozionale, fa il ceo di Palantir, Alex Karp, altro nerd che se la crede tantissimo, che ha messo in piedi a New York una scuola per giovani che vogliano studiare come contrastare l'egemonia della sinistra). Perché lo scontro, secondo Thiel, non è fra popolo ed élite: è tutto interno all'élite – e, bisogna dire, in questo specifico punto non ha tutti i torti, anzi. Dov'è che tutta questa elucubrazione si sgonfia? Nella palese, sfacciata, ridicola contraddizione di uno che predica l'anti-totalitarismo essendo tra i maggiori beneficiari del medesimo totalitarismo, visto e considerato che fattura dollari a palate con la tecnologia letteralmente più disumanizzante che la Storia abbia conosciuto, quell'IA generativa che sta già espellendo l'essere umano per sostituirlo con le macchine. L'Anticristo, se proprio vogliamo usare il linguaggio biblico, è lui, e chi come lui scioglie inni a una “libertà” che, grattata la superficie retorica, è la solita, vecchia, stravecchia, infame libertà dei più ricchi di arricchirsi a dismisura, dei capitalisti da sempre ansiosi di eternizzare il surplus in rendita, dei lobbisti di sé stessi a caccia di relazioni privilegiate. Con la differenza, nel caso dell'Antichrist Superstar, che la pozione lisergica non ha più l'etichetta del “mercato” e in sovrimpressione la dicitura “valori tradizionali”, come per il neo-liberista reaganiano o thatcheriano, ma è imbevuta di un aperto darwinismo sociale (i più forti, nella giungla economica, hanno diritto a dominare) e di esalazioni apocalittiche, millenariste, manichee il cui aspetto veramente inquietante è che il primo a crederci, a occhio, è proprio lui, Thiel. Che è lo stesso Thiel che si è comprato un pezzo di Nuova Zelanda per costruirci un rifugio, a metà fra l'eden e il bunker, con tutto ciò che potrebbe servire a sopravvivere nell'eventualità di una catastrofe climatica o atomica. Un personaggio oggettivamente grottesco. Pertanto da non sovrastimare né sottovalutare, ma da prendere per quel che è: un appartenente a quella genìa di lucidi mitomani che ogni tanto saltano fuori auto-investendosi della missione di salvare il mondo. Mentre, di regola, è il mondo che deve salvarsi da loro. https://www.ariannaeditrice.it/articoli/peter-thiel-l-antichrist-superstar-… A.

March 20, 2026