July 2026 - nexa - server-nexa.polito.it

verifica

by valerio

salve a tutti, i messaggi da domenica non li ho ricevuti, ci sono problemi? valerio

July 30, 2026

Fw: OpenAI models escaped containment and executed a criminal cyberattack

by Alfredo Bregni

OpenAI models escaped containment and executed a criminal cyberattackLa fonte non so quanto affidabile sia. Trasmetto per importanza: ----- Original Message ----- From: 80,000 Hours To: Alfredo Sent: Sunday, July 26, 2026 5:02 PM Subject: OpenAI models escaped containment and executed a criminal cyberattack On July 21, 2026, OpenAI disclosed that its own AI models (GPT-5.6 Sol and a more capable unreleased model) autonomously broke out of an OpenAI... OpenAI’s rogue AI agents hacked a private company. Here’s why it matters. Share: Link Lawrence Chan July 26, 2026 Hi everyone, On July 21, 2026, OpenAI disclosed that its own AI models (GPT-5.6 Sol and a more capable unreleased model) autonomously broke out of an OpenAI testing environment, escalated their access through the company's internal systems, and compromised the production infrastructure of a separate company, Hugging Face. This was an AI hacking something, not humans hacking with AI help. According to OpenAI, the models did this to find answers to the cyber-capability test they were being evaluated on, which were hosted on HuggingFace servers. The AI decided to steal the answers of its own volition. If this had been a human, this hack would have been illegal. These models were not intended to have access to the open internet, let alone private servers of other companies. Yet they found novel vulnerabilities, escalated their access levels, used stolen credentials, and executed remote code on Hugging Face’s servers. This is a clear example of a misaligned AI model acting in the real world. This is, to our knowledge, the first publicly confirmed case of a frontier AI model autonomously breaching a third party's live production systems, against developer and user intent and without authorisation. This is crazy, but it’s not a surprise. Researchers have known that frontier AI models were technically capable of doing this for some time. Multiple benchmarks (ExploitBench, ExploitGym, UK AISI’s cyber ranges) show that Mythos 5 and GPT 5.6 Sol are able to create full exploits allowing them to gain unrestricted access in realistic environments. In June, Epoch AI’s assessment of Mythos’s cyber capabilities reported similar warnings. AI safety researchers have warned about this possibility for years. In July 2022, Ajeya Cotra predicted that models might bypass “official channels” to seek rewards through “operational and computer security vulnerabilities.” In their book If Anyone Builds It, Everyone Dies, Eliezer Yudkowsky and Nate Soares predicted that, if a model was “given the ability to run computer code of its own design, it could probably find some way to break out of the container running it.” This incident involved a model the public didn’t even know existed. One of the rogue agents was an unreleased model being used internally within OpenAI. It’s concerning that the most alarming AI behaviour we've seen came from a model that the public and the government can't see. This was not the first time a similar incident happened, nor will it be the last. In a May 2026 assessment of AI use inside frontier companies, METR catalogued 44 similar incidents of AI agents knowingly overstepping their instructions. These include an OpenAI model that tried to hack METR's own infrastructure after crashing its task server, and an Anthropic model that built a multi-step exploit to escape a restricted environment onto the open internet. It seems likely that there are other incidents that are not publicly disclosed: the July OpenAI hack was not caught until an outside party was compromised. We should not rely on voluntary disclosure of such incidents from companies. We are fortunate that this incident was disclosed: the public is aware of what happened because of OpenAI’s decision to disclose, but there was no guarantee that this would be the case. Companies have incentives to hide such incidents, so future incidents of this nature may go unreported. Hugging Face had already disclosed that they'd been breached by some kind of advanced AI model. If it wasn’t reported by another party, there would have been less incentive for OpenAI to disclose the incident. Internally deployed agents like these are the least regulated. Existing US AI regulation focuses almost entirely on how models behave once they're deployed to the public. Current dangerous capability evaluations occur before models are publicly deployed, and many safeguards described in companies’ Frontier Safety Policies are added after internal versions of the models are built. As Hugging Face learned, even if a model’s use is internal, the risks it imposes might not be. There are emerging standards for how companies should monitor their AIs during internal deployment to catch and prevent incidents like this, but questions remain. What was the exact scope of this breach? What exact instructions were given to the AIs? What safeguards did OpenAI have for internal use, and what new ones will they add? Will other companies disclose similar incidents? More information should be released about what happened. The capability for AI to cause serious harm is here. The scalable techniques and safeguards to prevent it are not. They need to catch up soon. Best, Lawrence Lawrence Chan is an independent AI researcher who previously worked at METR (Model Evaluation and Threat Research). Since this analysis was written, new details have emerged. According to Reuters: a.. The agents first attempted to escape on July 9. The Hugging Face intrusion began on July 11, and was apparently sustained for at least several days. OpenAI staff did not realise what had happened until July 18–19, after the FBI had been called. b.. In addition to escaping containment itself, one of the OpenAI agents left notes within OpenAI's software with instructions for how future versions of itself could also break out. At 80,000 Hours, we help people find fulfilling careers that make a big positive impact on the development of AI. If you’ve read this far, you should consider using your career to reduce risks from AI. Explore related career paths: a.. AI security b.. Technical governance 80,000 Hours is a nonprofit that helps people use their careers to solve the world’s most pressing problems. Read our career guide, subscribe to our podcast, apply to speak with our one-on-one-team, find a job on our job board, and find ways to meet others working to have an impact. You are receiving this newsletter because you signed up at 80000hours.org or a student activities fair. 80,000 Hours Limited is a not-for-profit company limited by guarantee registered in England and Wales (with registered company number 15746854). 80,000 Hours Third Floor, 20 Old Bailey London, EC4M 7AN United Kingdom If you only want some of our emails, you can unsubscribe from either our 'job board updates' or 'research updates.' Click here to be emailed a link to edit your preferences. If this link doesn't work, you can email us at team(a)80000hours.org and we'll update your preferences manually. Alternatively you can unsubscribe from all our emails and never hear from us again. We hope you won't, though! Add us to your address book

July 26, 2026

Re: US judge approves Anthropic's $1.5 billion settlement of copyright lawsuit

by GC F

Rilevante per questo thread (cita Bartz): India Delhi High Court <https://www.linkedin.com/feed/update/urn:li:activity:7486460083779022848/> rejects injunction, ruling OpenAI likely did not infringe news agency ANI Media’s copyright. AI training is prima facie fair dealing under India copyright law. Court cites Bartz, Kadrey, Google Books decisions. Conferma un giurisprudenza consolidata e coerente nelle giurisdizioni di common law: US, UK (Getty v Stability AI) e ora India. Giancarlo On Fri, 24 Jul 2026 at 10:12, Maurizio Borghi via nexa < nexa(a)server-nexa.polito.it> wrote: > Sì è corretto: condividiamo la tristezza di vedere i libri ridotti a > mangime per i pappagalli stocastici, ma dobbiamo prendere atto che per le > corti USA è fair use (sentenze Google Books). > > > Il giorno ven 24 lug 2026 alle ore 10:01 Antonio Vetro' < > antonio.vetro(a)polito.it> ha scritto: > >> E’ corretto quindi dedurre che invece la pratica di Anthropic -ma non >> solo- di acquistare massivamente tonnellate di libri usati, >> per digitalizzarli e utilizzarli nel training, non porti invece ad alcuna >> violazione del diritto d’autore ? >> >> (Libri che poi -sigh- sono mandati al macero ..) >> >> Grazie >> Antonio >> >> >> Il giorno 24 lug 2026, alle ore 09:15, Maurizio Borghi via nexa < >> nexa(a)server-nexa.polito.it> ha scritto: >> >> La sentenza non riguarda violazioni contrattuali o di licenza, ma solo >> violazioni del diritto d'autore. Sui passi intermedi, semplificando un po', >> la sentenza distingue tra le copie fatte per addestrare gli LLM (fair use) >> e quelle fatte per creare un database centrale da cui attingere per ogni >> evenienza (no fair use se ottenute illegalmente). >> >> Per rispondere alla tua domanda, il problema principale sta nella fase di >> acquisizione del "materiale da addestramento". Se lo prendo da database >> pirata, o aggirando un paywall (es. New York Times v OpenAI), o rimuovendo >> le informazioni sulle licenze (es. GitHub Copilot), allora tutti gli >> utilizzi successivi - che presi isolatamente sarebbero fair use - diventano >> illegittimi. >> >> Il contributo rilevante della sentenza sta essenzialmente nel fatto di >> aver respinto la difesa della "copia intermedia", cioè la copia realizzata >> quale mero passo intermedio per una finalità di fair use. Il giudice >> ridimensiona questa difesa (che ha permesso, ad esempio, a Google di >> prevalere nel caso Google Books), affermando che non si applica se la copia >> inziale è illecita. >> >> Naturalmente occorre precisare che si tratta per ora di una sentenza, non >> di un approccio consolidato nella giurisprunza USA. >> >> Un caro saluto, >> -- >> _______________ >> *Maurizio Borghi* >> Università di Torino >> https://www.dg.unito.it/persone/maurizio.borghi >> Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> >> >> >> Il giorno gio 23 lug 2026 alle ore 18:14 Stefano Zacchiroli via nexa < >> nexa(a)server-nexa.polito.it> ha scritto: >> >>> Grazie per la risposta, Maurizio. >>> Continuo qui sotto per entrare in alcuni dettagli che mi interessano >>> particolarmente: >>> >>> On Thu, Jul 23, 2026 at 05:40:29PM +0200, Maurizio Borghi wrote: >>> > la risposta non è semplice o univoca. Anthropic usava LibGen, Sci-Hub >>> e Bibliotik, che (correggimi se sbaglio) sono notorie >>> > "shadow libraries". >>> >>> (Confermo per LibGen e Sci-Hub, non conosco invece Bibliotik.) >>> >>> > Su Common Crawl non saprei, perché lì dentro c'è un po' di tutto: uno >>> studio ha stimato che un 70% dei dataset presenti >>> > non specifica quale licenza si applichi. >>> >>> Giusto --- o meglio, non conosco la percentuale, ma è certo che la >>> stragrande maggioranza dei contenuti su Web (come del codice su GitHub, e >>> contenuti di altra natura su piattaforme dedicate) non specifica una >>> licenza. >>> Ma questo non impedisce che io, utente di un Web browser, possa >>> *accedere* legalmente a quel contenuto. >>> Poi i default del diritto d'autore impediscono di fare altre cose, tipo >>> copiare, modificare, redistribuire, esibire ad un pubblico, etc. --- ed è >>> qui che entra in gioco il fair use che salva, almeno secondo questa >>> sentenza, gli allenatori di LLM. >>> Sbaglio qualcosa fin qui, strettamente dal punto di vista del diritto >>> d'autore? (Vedi sotto per i vincoli contrattuali.) >>> >>> > Con il web scraping puoi incorrere in violazioni contrattuali se non >>> rispetti i termini d'uso (che spesso vietano proprio lo scraping); >>> >>> Il caso dei vincoli contrattuali è in effetti molto pertinente ed >>> interessante. >>> La sentenza prevede l'assenza di entrambi i tipi di violazioni (licenza >>> ed eventuali contratti), o meno? >>> L'avevo finora interpretata come una sentenza principalmente sul diritto >>> d'autore, ma è possibilissimo che sia un errore da parte mia. >>> >>> > puoi inoltre violare di nuovo il copyright se rimuovi i metadati >>> ("rights management information"), >>> > cosa piuttosto frequente tra gli addestratori di IA, e già motivo di >>> altre cause legali. >>> >>> Questo punto mi pare molto meno evidente. >>> Il processo di allenamento contiene molti passi intermedi, non mi è >>> chiaro come riuscire legalmente a definire dove ne inizi uno che è protetto >>> dal fair use (e nel quale quindi, perdonami la semplificazione, si "può >>> violare" il diritto d'autore) e dove invece no. >>> Ma ho in mente anche io alcune delle cause aperte su questo punto, >>> quindi spero lo scopriremo "presto". >>> >>> Grazie per la bella discussione e a presto. >>> -- >>> Stefano Zacchiroli - https://upsilon.cc/zack >>> Full professor of Computer Science, Polytechnic Institute of Paris >>> Co-founder & Chief scientific officer Software Heritage >>> _______________________________________________ >>> nexa mailing list -- nexa(a)server-nexa.polito.it >>> To change settings or unsubscribe please go to: >>> https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ >>> The general archive of the list is located at: >>> https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ >>> Permalink to this message: >>> https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me… >> >> >> >> _______________________________________________ >> nexa mailing list -- nexa(a)server-nexa.polito.it >> To change settings or unsubscribe please go to: >> https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ >> The general archive of the list is located at: >> https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ >> Permalink to this message: >> https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me… >> >> >> > > -- > _______________ > *Maurizio Borghi* > Università di Torino > https://www.dg.unito.it/persone/maurizio.borghi > Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > _______________________________________________ > nexa mailing list -- nexa(a)server-nexa.polito.it > To change settings or unsubscribe please go to: > https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ > The general archive of the list is located at: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ > Permalink to this message: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me…

July 24, 2026

Re: US judge approves Anthropic's $1.5 billion settlement of copyright lawsuit

by Maurizio Borghi

Sì è corretto: condividiamo la tristezza di vedere i libri ridotti a mangime per i pappagalli stocastici, ma dobbiamo prendere atto che per le corti USA è fair use (sentenze Google Books). Il giorno ven 24 lug 2026 alle ore 10:01 Antonio Vetro' < antonio.vetro(a)polito.it> ha scritto: > E’ corretto quindi dedurre che invece la pratica di Anthropic -ma non > solo- di acquistare massivamente tonnellate di libri usati, > per digitalizzarli e utilizzarli nel training, non porti invece ad alcuna > violazione del diritto d’autore ? > > (Libri che poi -sigh- sono mandati al macero ..) > > Grazie > Antonio > > > Il giorno 24 lug 2026, alle ore 09:15, Maurizio Borghi via nexa < > nexa(a)server-nexa.polito.it> ha scritto: > > La sentenza non riguarda violazioni contrattuali o di licenza, ma solo > violazioni del diritto d'autore. Sui passi intermedi, semplificando un po', > la sentenza distingue tra le copie fatte per addestrare gli LLM (fair use) > e quelle fatte per creare un database centrale da cui attingere per ogni > evenienza (no fair use se ottenute illegalmente). > > Per rispondere alla tua domanda, il problema principale sta nella fase di > acquisizione del "materiale da addestramento". Se lo prendo da database > pirata, o aggirando un paywall (es. New York Times v OpenAI), o rimuovendo > le informazioni sulle licenze (es. GitHub Copilot), allora tutti gli > utilizzi successivi - che presi isolatamente sarebbero fair use - diventano > illegittimi. > > Il contributo rilevante della sentenza sta essenzialmente nel fatto di > aver respinto la difesa della "copia intermedia", cioè la copia realizzata > quale mero passo intermedio per una finalità di fair use. Il giudice > ridimensiona questa difesa (che ha permesso, ad esempio, a Google di > prevalere nel caso Google Books), affermando che non si applica se la copia > inziale è illecita. > > Naturalmente occorre precisare che si tratta per ora di una sentenza, non > di un approccio consolidato nella giurisprunza USA. > > Un caro saluto, > -- > _______________ > *Maurizio Borghi* > Università di Torino > https://www.dg.unito.it/persone/maurizio.borghi > Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > > > Il giorno gio 23 lug 2026 alle ore 18:14 Stefano Zacchiroli via nexa < > nexa(a)server-nexa.polito.it> ha scritto: > >> Grazie per la risposta, Maurizio. >> Continuo qui sotto per entrare in alcuni dettagli che mi interessano >> particolarmente: >> >> On Thu, Jul 23, 2026 at 05:40:29PM +0200, Maurizio Borghi wrote: >> > la risposta non è semplice o univoca. Anthropic usava LibGen, Sci-Hub e >> Bibliotik, che (correggimi se sbaglio) sono notorie >> > "shadow libraries". >> >> (Confermo per LibGen e Sci-Hub, non conosco invece Bibliotik.) >> >> > Su Common Crawl non saprei, perché lì dentro c'è un po' di tutto: uno >> studio ha stimato che un 70% dei dataset presenti >> > non specifica quale licenza si applichi. >> >> Giusto --- o meglio, non conosco la percentuale, ma è certo che la >> stragrande maggioranza dei contenuti su Web (come del codice su GitHub, e >> contenuti di altra natura su piattaforme dedicate) non specifica una >> licenza. >> Ma questo non impedisce che io, utente di un Web browser, possa >> *accedere* legalmente a quel contenuto. >> Poi i default del diritto d'autore impediscono di fare altre cose, tipo >> copiare, modificare, redistribuire, esibire ad un pubblico, etc. --- ed è >> qui che entra in gioco il fair use che salva, almeno secondo questa >> sentenza, gli allenatori di LLM. >> Sbaglio qualcosa fin qui, strettamente dal punto di vista del diritto >> d'autore? (Vedi sotto per i vincoli contrattuali.) >> >> > Con il web scraping puoi incorrere in violazioni contrattuali se non >> rispetti i termini d'uso (che spesso vietano proprio lo scraping); >> >> Il caso dei vincoli contrattuali è in effetti molto pertinente ed >> interessante. >> La sentenza prevede l'assenza di entrambi i tipi di violazioni (licenza >> ed eventuali contratti), o meno? >> L'avevo finora interpretata come una sentenza principalmente sul diritto >> d'autore, ma è possibilissimo che sia un errore da parte mia. >> >> > puoi inoltre violare di nuovo il copyright se rimuovi i metadati >> ("rights management information"), >> > cosa piuttosto frequente tra gli addestratori di IA, e già motivo di >> altre cause legali. >> >> Questo punto mi pare molto meno evidente. >> Il processo di allenamento contiene molti passi intermedi, non mi è >> chiaro come riuscire legalmente a definire dove ne inizi uno che è protetto >> dal fair use (e nel quale quindi, perdonami la semplificazione, si "può >> violare" il diritto d'autore) e dove invece no. >> Ma ho in mente anche io alcune delle cause aperte su questo punto, quindi >> spero lo scopriremo "presto". >> >> Grazie per la bella discussione e a presto. >> -- >> Stefano Zacchiroli - https://upsilon.cc/zack >> Full professor of Computer Science, Polytechnic Institute of Paris >> Co-founder & Chief scientific officer Software Heritage >> _______________________________________________ >> nexa mailing list -- nexa(a)server-nexa.polito.it >> To change settings or unsubscribe please go to: >> https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ >> The general archive of the list is located at: >> https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ >> Permalink to this message: >> https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me… > > > > _______________________________________________ > nexa mailing list -- nexa(a)server-nexa.polito.it > To change settings or unsubscribe please go to: > https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ > The general archive of the list is located at: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ > Permalink to this message: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me… > > > -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/>

July 24, 2026

Re: US judge approves Anthropic's $1.5 billion settlement of copyright lawsuit

by Antonio Vetro'

E’ corretto quindi dedurre che invece la pratica di Anthropic -ma non solo- di acquistare massivamente tonnellate di libri usati, per digitalizzarli e utilizzarli nel training, non porti invece ad alcuna violazione del diritto d’autore ? (Libri che poi -sigh- sono mandati al macero ..) Grazie Antonio Il giorno 24 lug 2026, alle ore 09:15, Maurizio Borghi via nexa <nexa(a)server-nexa.polito.it> ha scritto: La sentenza non riguarda violazioni contrattuali o di licenza, ma solo violazioni del diritto d'autore. Sui passi intermedi, semplificando un po', la sentenza distingue tra le copie fatte per addestrare gli LLM (fair use) e quelle fatte per creare un database centrale da cui attingere per ogni evenienza (no fair use se ottenute illegalmente). Per rispondere alla tua domanda, il problema principale sta nella fase di acquisizione del "materiale da addestramento". Se lo prendo da database pirata, o aggirando un paywall (es. New York Times v OpenAI), o rimuovendo le informazioni sulle licenze (es. GitHub Copilot), allora tutti gli utilizzi successivi - che presi isolatamente sarebbero fair use - diventano illegittimi. Il contributo rilevante della sentenza sta essenzialmente nel fatto di aver respinto la difesa della "copia intermedia", cioè la copia realizzata quale mero passo intermedio per una finalità di fair use. Il giudice ridimensiona questa difesa (che ha permesso, ad esempio, a Google di prevalere nel caso Google Books), affermando che non si applica se la copia inziale è illecita. Naturalmente occorre precisare che si tratta per ora di una sentenza, non di un approccio consolidato nella giurisprunza USA. Un caro saluto, -- _______________ Maurizio Borghi Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society<https://nexa.polito.it/> Il giorno gio 23 lug 2026 alle ore 18:14 Stefano Zacchiroli via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> ha scritto: Grazie per la risposta, Maurizio. Continuo qui sotto per entrare in alcuni dettagli che mi interessano particolarmente: On Thu, Jul 23, 2026 at 05:40:29PM +0200, Maurizio Borghi wrote: > la risposta non è semplice o univoca. Anthropic usava LibGen, Sci-Hub e Bibliotik, che (correggimi se sbaglio) sono notorie > "shadow libraries". (Confermo per LibGen e Sci-Hub, non conosco invece Bibliotik.) > Su Common Crawl non saprei, perché lì dentro c'è un po' di tutto: uno studio ha stimato che un 70% dei dataset presenti > non specifica quale licenza si applichi. Giusto --- o meglio, non conosco la percentuale, ma è certo che la stragrande maggioranza dei contenuti su Web (come del codice su GitHub, e contenuti di altra natura su piattaforme dedicate) non specifica una licenza. Ma questo non impedisce che io, utente di un Web browser, possa *accedere* legalmente a quel contenuto. Poi i default del diritto d'autore impediscono di fare altre cose, tipo copiare, modificare, redistribuire, esibire ad un pubblico, etc. --- ed è qui che entra in gioco il fair use che salva, almeno secondo questa sentenza, gli allenatori di LLM. Sbaglio qualcosa fin qui, strettamente dal punto di vista del diritto d'autore? (Vedi sotto per i vincoli contrattuali.) > Con il web scraping puoi incorrere in violazioni contrattuali se non rispetti i termini d'uso (che spesso vietano proprio lo scraping); Il caso dei vincoli contrattuali è in effetti molto pertinente ed interessante. La sentenza prevede l'assenza di entrambi i tipi di violazioni (licenza ed eventuali contratti), o meno? L'avevo finora interpretata come una sentenza principalmente sul diritto d'autore, ma è possibilissimo che sia un errore da parte mia. > puoi inoltre violare di nuovo il copyright se rimuovi i metadati ("rights management information"), > cosa piuttosto frequente tra gli addestratori di IA, e già motivo di altre cause legali. Questo punto mi pare molto meno evidente. Il processo di allenamento contiene molti passi intermedi, non mi è chiaro come riuscire legalmente a definire dove ne inizi uno che è protetto dal fair use (e nel quale quindi, perdonami la semplificazione, si "può violare" il diritto d'autore) e dove invece no. Ma ho in mente anche io alcune delle cause aperte su questo punto, quindi spero lo scopriremo "presto". Grazie per la bella discussione e a presto. -- Stefano Zacchiroli - https://upsilon.cc/zack Full professor of Computer Science, Polytechnic Institute of Paris Co-founder & Chief scientific officer Software Heritage _______________________________________________ nexa mailing list -- nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> To change settings or unsubscribe please go to: https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ The general archive of the list is located at: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ Permalink to this message: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me… _______________________________________________ nexa mailing list -- nexa(a)server-nexa.polito.it To change settings or unsubscribe please go to: https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ The general archive of the list is located at: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ Permalink to this message: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me…

July 24, 2026

Re: US judge approves Anthropic's $1.5 billion settlement of copyright lawsuit

by Maurizio Borghi

La sentenza non riguarda violazioni contrattuali o di licenza, ma solo violazioni del diritto d'autore. Sui passi intermedi, semplificando un po', la sentenza distingue tra le copie fatte per addestrare gli LLM (fair use) e quelle fatte per creare un database centrale da cui attingere per ogni evenienza (no fair use se ottenute illegalmente). Per rispondere alla tua domanda, il problema principale sta nella fase di acquisizione del "materiale da addestramento". Se lo prendo da database pirata, o aggirando un paywall (es. New York Times v OpenAI), o rimuovendo le informazioni sulle licenze (es. GitHub Copilot), allora tutti gli utilizzi successivi - che presi isolatamente sarebbero fair use - diventano illegittimi. Il contributo rilevante della sentenza sta essenzialmente nel fatto di aver respinto la difesa della "copia intermedia", cioè la copia realizzata quale mero passo intermedio per una finalità di fair use. Il giudice ridimensiona questa difesa (che ha permesso, ad esempio, a Google di prevalere nel caso Google Books), affermando che non si applica se la copia inziale è illecita. Naturalmente occorre precisare che si tratta per ora di una sentenza, non di un approccio consolidato nella giurisprunza USA. Un caro saluto, -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> Il giorno gio 23 lug 2026 alle ore 18:14 Stefano Zacchiroli via nexa < nexa(a)server-nexa.polito.it> ha scritto: > Grazie per la risposta, Maurizio. > Continuo qui sotto per entrare in alcuni dettagli che mi interessano > particolarmente: > > On Thu, Jul 23, 2026 at 05:40:29PM +0200, Maurizio Borghi wrote: > > la risposta non è semplice o univoca. Anthropic usava LibGen, Sci-Hub e > Bibliotik, che (correggimi se sbaglio) sono notorie > > "shadow libraries". > > (Confermo per LibGen e Sci-Hub, non conosco invece Bibliotik.) > > > Su Common Crawl non saprei, perché lì dentro c'è un po' di tutto: uno > studio ha stimato che un 70% dei dataset presenti > > non specifica quale licenza si applichi. > > Giusto --- o meglio, non conosco la percentuale, ma è certo che la > stragrande maggioranza dei contenuti su Web (come del codice su GitHub, e > contenuti di altra natura su piattaforme dedicate) non specifica una > licenza. > Ma questo non impedisce che io, utente di un Web browser, possa *accedere* > legalmente a quel contenuto. > Poi i default del diritto d'autore impediscono di fare altre cose, tipo > copiare, modificare, redistribuire, esibire ad un pubblico, etc. --- ed è > qui che entra in gioco il fair use che salva, almeno secondo questa > sentenza, gli allenatori di LLM. > Sbaglio qualcosa fin qui, strettamente dal punto di vista del diritto > d'autore? (Vedi sotto per i vincoli contrattuali.) > > > Con il web scraping puoi incorrere in violazioni contrattuali se non > rispetti i termini d'uso (che spesso vietano proprio lo scraping); > > Il caso dei vincoli contrattuali è in effetti molto pertinente ed > interessante. > La sentenza prevede l'assenza di entrambi i tipi di violazioni (licenza ed > eventuali contratti), o meno? > L'avevo finora interpretata come una sentenza principalmente sul diritto > d'autore, ma è possibilissimo che sia un errore da parte mia. > > > puoi inoltre violare di nuovo il copyright se rimuovi i metadati > ("rights management information"), > > cosa piuttosto frequente tra gli addestratori di IA, e già motivo di > altre cause legali. > > Questo punto mi pare molto meno evidente. > Il processo di allenamento contiene molti passi intermedi, non mi è chiaro > come riuscire legalmente a definire dove ne inizi uno che è protetto dal > fair use (e nel quale quindi, perdonami la semplificazione, si "può > violare" il diritto d'autore) e dove invece no. > Ma ho in mente anche io alcune delle cause aperte su questo punto, quindi > spero lo scopriremo "presto". > > Grazie per la bella discussione e a presto. > -- > Stefano Zacchiroli - https://upsilon.cc/zack > Full professor of Computer Science, Polytechnic Institute of Paris > Co-founder & Chief scientific officer Software Heritage > _______________________________________________ > nexa mailing list -- nexa(a)server-nexa.polito.it > To change settings or unsubscribe please go to: > https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ > The general archive of the list is located at: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ > Permalink to this message: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me…

July 24, 2026

Re: R: Re: They are already like us (J Hinton)

by GC F

(20+) Facebook <https://www.facebook.com/reel/1302954624969450> Giancarlo On Wed, 22 Jul 2026 at 19:50, Enrico Nardelli via nexa < nexa(a)server-nexa.polito.it> wrote: > Continuo a rimanere completamente allineato alle posizioni e perplessità > di Stefano. > > Un'analisi che avevo fatto a marzo 2026 sul settore dello sviluppo > software è qua > > https://link-and-think.blogspot.com/2026/03/la-grande-illusione-infranta-l-… > > dove ancora si prende spunto dal confronto tra le previsioni che fanno > "gli osti dell'IA" e i dati qualche tempo dopo. > > Purtroppo i dati hanno sempre la testa più dura di tutte le opinioni. Il > 2026 sarà diverso? Lo vedremo dai dati. > > Per questo il dibattito corrente non mi appassiona: se uno prevede > qualcosa e qualche anno dopo il termine della previsione ciò che è stato > previsto non si è avverato, la capacità di previsione è per me del tutto > svalutata. > > Anche un orologio rotto segna l'ora giusta due volte al giorno e sul lungo > periodo saremo tutti morti. > > Ciao, Enrico > > > Il 20/07/2026 23:02, Stefano Quintarelli via nexa ha scritto: > > condivido > stick to the annual reports > il personale ha iniziato ad essere ridotto da prima di chatgpt per effetto > del cambiamento fiscale negli ammortamenti. > > ciao, s. > > On 20/07/26 22:36, GC F wrote: > > In accademia le opinioni sono infinite. Aggiungerò un "but see" :-). > Comunque, Brynjolfsson è di un altro livello. Iscenko, tra l'altro, lavora > per Google, la dovremmo squalificare come gli Antropici ;-). > > Giancarlo > > On Mon, 20 Jul 2026 at 21:12, Stefano Quintarelli <stefano(a)quintarelli.it > <mailto:stefano@quintarelli.it> <stefano(a)quintarelli.it>> wrote: > > > > On 20/07/26 21:34, GC F wrote: > > Il paper di Anthropic però dà un altro dato importante, che > conferma le > > risultanze di altro paper molto noto: Erik Brynjolfsson, Bharat > Chandar > > and Ruyu Chen, 'Canaries in the Coal Mine? Six Facts about the > Recent > > Employment Effects of Artificial Intelligence' (Stanford Digital > Economy > > Lab Working Paper, August 2025): l'assunzione di giovani tra i 22 > e 25 > > anni è diminuita nelle occupazioni esposte (Brynjolfsson, Chandar > and > > Chen: "The first careful study of generative AI's employment > effects > > found a 13 per cent relative decline in employment for early-career > > workers in the most exposed occupations since late 2022, > concentrated > > among those aged 22 to 25, with older workers in the same > occupations > > largely unaffected"). Questo è un primo segnale preoccupante di > quel che > > potrà succedere a breve e che fornirebbe indizi circa l'inizio di > un > > processo che chiamo "career-path collapse" - il canarino appunto > nella > > miniera. > > il canarino nella miniera era morto prima, pero'... > > Se Chatgpt, il primo llm, avesse innescato il calo delle assunzioni > entry-level, ci si aspetterebbe che il declino inizi dopo il suo > lancio > o almeno nello stesso periodo. Ma non è quello che mostrano i dati: un > forte declino era già iniziato sei mesi prima. Se si guarda dove > lavorano effettivamente i lavoratori «esposti all’intelligenza > artificiale», si nota che sono prevalentemente concentrati nella > tecnologia, nella finanza e nei servizi professionali (circa il 38% di > loro, rispetto solo al 2% nelle occupazioni «meno esposte > all’intelligenza artificiale»). Sono proprio questi i settori più > sensibili ai tassi di interesse e ai costi di capitale: quando il > denaro > diventa costoso, queste industrie rinunciano prima ad assumere. > Lo studio di Google mostra che la correlazione con l’andamento dei > tassi > di interesse è molto forte: nel marzo 2022, la Federal Reserve ha > iniziato ad aumentare i tassi di interesse, dando il via al ciclo di > stretta monetaria più aggressivo degli ultimi quattro decenni. Questo > è > esattamente il momento in cui le offerte di lavoro per le «occupazioni > esposte all’intelligenza artificiale» hanno iniziato a diminuire. A > ben > vedere anche questa potrebbe non essere l’unica motivazione: nello > stesso periodo negli USA è entrata in vigore una norma che ha > modificato > il trattamento contabile delle spese di ricerca e sviluppo, > limitandone > la deducibilità fiscale. Riporta Quartz che «pubblicamente, le aziende > hanno citato come motivazioni per i licenziamenti organici pletorici e > l’intelligenza artificiale, ma internamente i fogli di calcolo > finanziari raccontavano una storia diversa. Le note del management > contenute nei documenti finanziari hanno rivelato che la ricerca e > sviluppo era diventata più costosa, e che l’organico rappresentava la > spesa di ricerca e sviluppo più significativa nel settore tecnologico. > Di conseguenza, ridurre il personale è diventato un modo semplice per > ridurre i costi» > > Cfr. Z. Iscenko e F. Curto Millet, Looking for the Ladder: Is ai > Impacting Entry-Level Jobs?, gennaio 2026: > https://eig.org/wp-content/uploads/2026/01/TAWP-Iscenko-Millet.pdf > <https://eig.org/wp-content/uploads/2026/01/TAWP-Iscenko-Millet.pdf> > <https://eig.org/wp-content/uploads/2026/01/TAWP-Iscenko-Millet.pdf>. > > Cfr. C. Baab, The hidden time bomb in the tax code that’s fueling mass > tech layoffs, «Quartz», 23 dicembre 2025: > https://qz.com/tech-layoffs-tax-code-trump-section-174-microsoft- > meta-1851783502 <https://qz.com/tech-layoffs-tax-code-trump- > section-174-microsoft-meta-1851783502>. > > -- You can reach me on Signal: @quinta.01 (no Whatsapp, no > Telegram) > > > -- > > -- EN > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > =================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Vicedirettore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================================================================== > > -- > > _______________________________________________ > nexa mailing list -- nexa(a)server-nexa.polito.it > To change settings or unsubscribe please go to: > https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ > The general archive of the list is located at: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ > Permalink to this message: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me…

July 23, 2026

Re: US judge approves Anthropic's $1.5 billion settlement of copyright lawsuit

by Stefano Zacchiroli

Grazie per la risposta, Maurizio. Continuo qui sotto per entrare in alcuni dettagli che mi interessano particolarmente: On Thu, Jul 23, 2026 at 05:40:29PM +0200, Maurizio Borghi wrote: > la risposta non è semplice o univoca. Anthropic usava LibGen, Sci-Hub e Bibliotik, che (correggimi se sbaglio) sono notorie > "shadow libraries". (Confermo per LibGen e Sci-Hub, non conosco invece Bibliotik.) > Su Common Crawl non saprei, perché lì dentro c'è un po' di tutto: uno studio ha stimato che un 70% dei dataset presenti > non specifica quale licenza si applichi. Giusto --- o meglio, non conosco la percentuale, ma è certo che la stragrande maggioranza dei contenuti su Web (come del codice su GitHub, e contenuti di altra natura su piattaforme dedicate) non specifica una licenza. Ma questo non impedisce che io, utente di un Web browser, possa *accedere* legalmente a quel contenuto. Poi i default del diritto d'autore impediscono di fare altre cose, tipo copiare, modificare, redistribuire, esibire ad un pubblico, etc. --- ed è qui che entra in gioco il fair use che salva, almeno secondo questa sentenza, gli allenatori di LLM. Sbaglio qualcosa fin qui, strettamente dal punto di vista del diritto d'autore? (Vedi sotto per i vincoli contrattuali.) > Con il web scraping puoi incorrere in violazioni contrattuali se non rispetti i termini d'uso (che spesso vietano proprio lo scraping); Il caso dei vincoli contrattuali è in effetti molto pertinente ed interessante. La sentenza prevede l'assenza di entrambi i tipi di violazioni (licenza ed eventuali contratti), o meno? L'avevo finora interpretata come una sentenza principalmente sul diritto d'autore, ma è possibilissimo che sia un errore da parte mia. > puoi inoltre violare di nuovo il copyright se rimuovi i metadati ("rights management information"), > cosa piuttosto frequente tra gli addestratori di IA, e già motivo di altre cause legali. Questo punto mi pare molto meno evidente. Il processo di allenamento contiene molti passi intermedi, non mi è chiaro come riuscire legalmente a definire dove ne inizi uno che è protetto dal fair use (e nel quale quindi, perdonami la semplificazione, si "può violare" il diritto d'autore) e dove invece no. Ma ho in mente anche io alcune delle cause aperte su questo punto, quindi spero lo scopriremo "presto". Grazie per la bella discussione e a presto. -- Stefano Zacchiroli - https://upsilon.cc/zack Full professor of Computer Science, Polytechnic Institute of Paris Co-founder & Chief scientific officer Software Heritage

July 23, 2026

Re: US judge approves Anthropic's $1.5 billion settlement of copyright lawsuit

by Maurizio Borghi

Caro Stefano, la risposta non è semplice o univoca. Anthropic usava LibGen, Sci-Hub e Bibliotik, che (correggimi se sbaglio) sono notorie "shadow libraries". Su Common Crawl non saprei, perché lì dentro c'è un po' di tutto: uno studio ha stimato che un 70% dei dataset presenti non specifica quale licenza si applichi. Con il web scraping puoi incorrere in violazioni contrattuali se non rispetti i termini d'uso (che spesso vietano proprio lo scraping); puoi inoltre violare di nuovo il copyright se rimuovi i metadati ("rights management information"), cosa piuttosto frequente tra gli addestratori di IA, e già motivo di altre cause legali. Che il training in sé sia fair use non è un risultato enorme: era abbastanza scontato. Che il fair use richieda l'accesso legittimo all'opera era molto meno scontato, ed è un risultato che è piaciuto molto ai proponenti della class action. Un caro saluto, Il giorno gio 23 lug 2026 alle ore 16:41 Stefano Zacchiroli via nexa < nexa(a)server-nexa.polito.it> ha scritto: > On Thu, Jul 23, 2026 at 09:28:49AM +0200, Maurizio Borghi via nexa wrote: > > E' vero, ma è una mezza verità: il giudice ha operato una distinzione > tra l'uso vero e proprio dei libri per il training > > dell'LLM e le attività preparatorie a questo uso, in particolare la > raccolta di libri in un database centrale. Il training in sé è fair > > use, ma la raccolta di milioni di libri scaricati illegalmente da > internet per essere successivamente utilizzati nel training è una > > violazione, che inficia ogni successivo uso di quei libri. Questa > distinzione riduce di molto la portata effettiva del fair use, poiché > > introduce di fatto un requisito di "acquisizione legittima" delle opere > per il training degli LLM. > > Personalmente ho una visione molto diversa della rilevanza della parte sul > fair use nella sentenza. > Se confermata, la ritengo un risultato enorme (nel bene e nel male) che > valida l'approccio "YOLO" seguito finora dai principali attori commerciali > nell'ambito dell'IA. > In particolare, per come la capisco io, significa che tutto ciò che si può > scaricare legalmente dal web può poi essere usato per l'addestramento. > Il che vuol dire che, per esempio, 1) usare i dataset di Common Crawl e/o > 2) in modo equivalente effettuare web crawling e utilizzare per > l'addestramento il materiale così ottenuto rientrano nel fair use. > Oppure mi sto perdendo qualche dettaglio legale che renderebbe legale per > me, come utente, fare la stessa cosa con un browser, ma allo stesso tempo > la renderebbe illegale quando lo fa un attore che usa i dati per addestrare > un'IA? > > Ciao > -- > Stefano Zacchiroli - https://upsilon.cc/zack > Full professor of Computer Science, Polytechnic Institute of Paris > Co-founder & Chief scientific officer Software Heritage > _______________________________________________ > nexa mailing list -- nexa(a)server-nexa.polito.it > To change settings or unsubscribe please go to: > https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ > The general archive of the list is located at: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ > Permalink to this message: > https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/me… -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/>

July 23, 2026

Re: US judge approves Anthropic's $1.5 billion settlement of copyright lawsuit

by Stefano Zacchiroli

On Thu, Jul 23, 2026 at 09:28:49AM +0200, Maurizio Borghi via nexa wrote: > E' vero, ma è una mezza verità: il giudice ha operato una distinzione tra l'uso vero e proprio dei libri per il training > dell'LLM e le attività preparatorie a questo uso, in particolare la raccolta di libri in un database centrale. Il training in sé è fair > use, ma la raccolta di milioni di libri scaricati illegalmente da internet per essere successivamente utilizzati nel training è una > violazione, che inficia ogni successivo uso di quei libri. Questa distinzione riduce di molto la portata effettiva del fair use, poiché > introduce di fatto un requisito di "acquisizione legittima" delle opere per il training degli LLM. Personalmente ho una visione molto diversa della rilevanza della parte sul fair use nella sentenza. Se confermata, la ritengo un risultato enorme (nel bene e nel male) che valida l'approccio "YOLO" seguito finora dai principali attori commerciali nell'ambito dell'IA. In particolare, per come la capisco io, significa che tutto ciò che si può scaricare legalmente dal web può poi essere usato per l'addestramento. Il che vuol dire che, per esempio, 1) usare i dataset di Common Crawl e/o 2) in modo equivalente effettuare web crawling e utilizzare per l'addestramento il materiale così ottenuto rientrano nel fair use. Oppure mi sto perdendo qualche dettaglio legale che renderebbe legale per me, come utente, fare la stessa cosa con un browser, ma allo stesso tempo la renderebbe illegale quando lo fa un attore che usa i dati per addestrare un'IA? Ciao -- Stefano Zacchiroli - https://upsilon.cc/zack Full professor of Computer Science, Polytechnic Institute of Paris Co-founder & Chief scientific officer Software Heritage

July 23, 2026