August 2023 - nexa - server-nexa.polito.it

OpenAI disputes authors’ claims that every ChatGPT response is a derivative work

by Fabio Alemagna

This week, OpenAI finally responded to a pair of nearly identical class-action lawsuits from book authors—including Sarah Silverman, Paul Tremblay, Mona Awad, Chris Golden, and Richard Kadrey—who earlier this summer alleged that ChatGPT was illegally trained on pirated copies of their books. In OpenAI's motion to dismiss (filed in both lawsuits), the company asked a US district court in California to toss all but one claim alleging direct copyright infringement, which OpenAI hopes to defeat at "a later stage of the case." The authors' other claims—alleging vicarious copyright infringement, violation of the Digital Millennium Copyright Act (DMCA), unfair competition, negligence, and unjust enrichment—need to be "trimmed" from the lawsuits "so that these cases do not proceed to discovery and beyond with legally infirm theories of liability," OpenAI argued. OpenAI claimed that the authors "misconceive the scope of copyright, failing to take into account the limitations and exceptions (including fair use) that properly leave room for innovations like the large language models now at the forefront of artificial intelligence." According to OpenAI, even if the authors' books were a "tiny part" of ChatGPT's massive data set, "the use of copyrighted materials by innovators in transformative ways does not violate copyright." Unlike plagiarists who seek to directly profit off distributing copyrighted materials, OpenAI argued that its goal was "to teach its models to derive the rules underlying human language" to do things like help people "save time at work," "make daily life easier," or simply entertain themselves by typing prompts into ChatGPT. The purpose of copyright law, OpenAI argued, is "to promote the Progress of Science and useful Arts" by protecting the way authors express ideas, but "not the underlying idea itself, facts embodied within the author’s articulated message, or other building blocks of creative," which are arguably the elements of authors' works that would be useful to ChatGPT's training model. Citing a notable copyright case involving Google Books, OpenAI reminded the court that "while an author may register a copyright in her book, the 'statistical information' pertaining to 'word frequencies, syntactic patterns, and thematic markers' in that book are beyond the scope of copyright protection." "Under the resulting judicial precedent, it is not an infringement to create 'wholesale cop[ies] of [a work] as a preliminary step' to develop a new, non-infringing product, even if the new product competes with the original," OpenAI wrote. Continua qui: https://arstechnica.com/tech-policy/2023/08/openai-disputes-authors-claims-… Faccio notare che questa è anche la posizione di Creative Commons: https://creativecommons.org/2023/02/17/fair-use-training-generative-ai/ Fabio

Aug. 31, 2023

Industrial policy for strategic industry: The case of China’s 5G and supercomputing industries

by Luigi Scorca

https://cepr.org/voxeu/columns/industrial-policy-strategic-industry-case-ch…

Aug. 31, 2023

Re: [nexa] ‘Life or Death:’ AI-Generated Mushroom Foraging Books Are All Over Amazon

by Giacomo Tesio

Caro Fabio, in Italia abbiamo ancora diverse Leggi che si applicano al CdA di OpenAI checché dicano i Termini del Servizio. On Wed, Aug 30, 2023 at 08:48:00AM +0200, Fabio Alemagna wrote: > Il mer 30 ago 2023, 08:44 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > > > Chi ha eseguito il software programmato statisticamente (il CdA di > > OpenAI/Microsoft etc...) > > è responsabile delle morti causate dall'errata interpretazione di quella > > sequenza di caratteri > > come un "testo" portatore di sognificato. > > > > Tale responsabilità deriva dalla scelta di realizzare e mantenere in > > esecuzione > > un software progettato per ingannare chi lo usa imitando il testo prodotto > > da un essere umano. > > Puoi cortesemente elencare le leggi a cui fai riferimento, evidentemente > non Italiane, e possibilmente la giurisprudenza in materia? Elencarle tutte va oltre il tempo che ti posso dedicare, ma se vuoi le trovi elencate tutte nel Codice Penale. Giusto a titolo d'esempio, in Italia chiunque cagiona per colpa la morte di una persona è punito con la reclusione da sei mesi a cinque anni (art. 589(1)) In generale, il reato è (e deve restare) ortogonale allo strumento utilizzato per compierlo. Prendi l'istigazione al suicidio: se il presidente di OpenAI lo commettesse scrivendo su una chat ad un minore di 14 anni, verrebbe punito come omicida (vedi art. 580(2)). Se anche la chat fosse controllata da un software che lo stesso Presidente ha scritto (o fatto scrivere) nonché deciso di eseguire e connettere alla chat con il minore suddetto, dovrebbe risponderne negli stessi termini. Se così non fosse, sarebbe sufficiente usare un software (programmato statisticamente o meno) per violare impunemente qualsiasi Legge. In altri termini, verrebbe meno il principio di uguaglianza di fronte alla Legge dei cittadini che, sempre in Italia, è ancora un Principio Fondamentale della nostra Costituzione (vedi articolo 3). E con esso, verrebbe meno la legittimità dello Stato. Dunque, ribadisco: se indurre al suicidio tramite l'ingestione di funghi velenosi una persona costituisce un reato in Italia (credo e spero di sì) allora, se un chatbot ha prodotto un output interpretabile in tal modo, chi ha eseguito ed inviato ad un utente ignaro tale output ne deve rispondere nello stesso modo in cui ne risponderebbe se quel messaggio l'avesse scritto di proprio pugno. Nessuno ti obbliga ad eseguire un software. Nessuno ti obbliga a pubblicare il suo output sul tuo sito in risposta al "prompt" di sprovveduti allucinati cui hai fatto credere di conversare con chissà quale "intelligenza aliena". Se non vuoi rispondere dei danni che può causare, basta spegnerlo. Se non lo spegni, accetti di rispondere del suo output. E' veramente semplicissimo! ;-) A presto! Giacomo

Aug. 30, 2023

Notizie belle e brutte

by Angelo Raffaele Meo

Papa Francesco ha anticipato il tema della prossima "Giornata Mondiale della Pace", la 57-esima, che sarà celebrata il prossimo 1° gennaio. Il tema sarà: "Intelligenze Artificiali e Pace". La notizia è stata comunicata dalla Sala Stampa Vaticana che ha diffuso "un comunicato del Dicastero per lo sviluppo umano integrale". Al centro dell'annuncio che il Papa intende trasmettere vi sarà "il timore di un utilizzo distorto delle intelligenze artificiali, che porti ad aumentare le disuguaglianze e quindi a generare conflitti". Giustamente, a mio giudizio, il Papa parla di "intelligenze artificiali" al plurale e non soltanto dell'insieme delle discipline scientifiche e delle applicazioni industriali a cui si pensa quando si parla di "intelligenza artificiale" al singolare. Quindi il tema di quella giornata mondiale potrebbe essere l'analisi dei meccanismi attraverso i quali le tecnologie informatiche diventano strumenti di sfruttamento dei paesi più deboli e dei cittadini più poveri. Per questa ragione noi della parrocchia del software libero puntiamo sul Papa e consideriamo molto bella la notizia che arriva dal Vaticano. Ma la gioia per quella notizia è offuscata da una cattiva notizia che arriva dalla Comunità Europea. Le due sentenze Schrems 1 e Schrems 2 della Corte di Giustizia dell'Unione Europea, del 2015 e del 2020, avevano annullato due decisioni di adeguatezza della Commissione Europea che legittimavano i trasferimenti di dati personali negli USA: il Safe Harbour Agreement e il Privacy Shield. Quelle sentenze rendevano illegale l'adozione dei prodotti di software applicativo oggi dominanti sul mercato. E' vero che quelle sentenze sono state praticamente ignorate dagli operatori del settore - pubblica amministrazione e scuola-, anche in virtù della disattenzione del Garante della Protezione dei Dati Personali; tuttavia, noi della parrocchia puntavamo tutto su quella sentanza. Ma il 10 luglio 2023 la Commissione U.E. ha adottato una nuova decisione di adeguatezza che torna a rendere legittimo il trasferimento di dati personali alle imprese USA che adottano il "Data Privacy Framework", un programma predisposto dallo U.S. Department of Commerce. Pertanto è tornato ad essere legittimo trasferire dati personali alle imprese USA che adottano il Data Privacy Framework. Tristezza!! Non ci resta che sperare nella Corte di Giustizia dell'U.E. che potrebbe deliberare come illegittima quella dichiarazione di adeguatezza. Ma ancora una volta, come quasi sempre, i più ricchi e potenti vinceranno la partita. Angelo Raffaele Meo

Aug. 30, 2023

Re: [nexa] Spagna lancia Agenzia di Regolamentazione dell’IA

by Luigi Scorca

Al di là delle beghe di campanile, senza polemica, mi domando se sia utile la creazione di nuove Agenzie oppure se sia più efficiente/veloce/efficace allocare nuove competenze/risorse agli enti di settore già esistenti.. Ciao, Luigi On Sun, 27 Aug 2023 at 10:31, don Luca Peyron <dluca.universitari(a)gmail.com> wrote: > Poteva essere Torino, mah già a Torino riusciamo solo a lamentarci di > Superga e del bando ai motori endotermici. > > dl > > p.s. e del fatto che Milano ci ha rubato il cinema e la moda... > > > https://www.matricedigitale.it/notizie/spagna-lancia-agenzia-di-regolamenta… > _________________________ > don Luca Peyron > Direttore Ufficio per la Pastorale Universitaria > Arcidiocesi di Torino > www.universitari.to.it > via XX settembre 83, Torino > tel. 011 5156239 > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- Luigi Scorca Mob: +39 347 85 22 221 Mail: luigi.scorca(a)gmail.com

Aug. 30, 2023

Re: [nexa] ‘Life or Death:’ AI-Generated Mushroom Foraging Books Are All Over Amazon

by Fabio Alemagna

Il giorno mer 30 ago 2023 alle ore 08:51 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: > Il mer 30 ago 2023, 08:48 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: >> Il mer 30 ago 2023, 08:44 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: >>> Chi ha eseguito il software programmato statisticamente (il CdA di OpenAI/Microsoft etc...) >>> è responsabile delle morti causate dall'errata interpretazione di quella sequenza di caratteri >>> come un "testo" portatore di sognificato. >>> >>> Tale responsabilità deriva dalla scelta di realizzare e mantenere in esecuzione >>> un software progettato per ingannare chi lo usa imitando il testo prodotto da un essere umano. >> >> Puoi cortesemente elencare le leggi a cui fai riferimento, evidentemente non Italiane, e possibilmente la giurisprudenza in materia? >> > Aggiungo: si legga il capitolo "Liability" qui: https://www.jdsupra.com/legalnews/the-legal-risks-of-using-chatgpt-6134018/…. E, chiaramente, il capitolo rilevante nelle condizioni contrattuali che vincolano OpenAI all'utente dei suoi servizi: https://openai.com/policies/terms-of-use#7-indemnification-disclaimer-of-wa… ---------8<--------- 7. Indemnification; Disclaimer of Warranties; Limitations on Liability (a) Indemnity. You will defend, indemnify, and hold harmless us, our affiliates, and our personnel, from and against any claims, losses, and expenses (including attorneys’ fees) arising from or relating to your use of the Services, including your Content, products or services you develop or offer in connection with the Services, and your breach of these Terms or violation of applicable law. (b) Disclaimer. THE SERVICES ARE PROVIDED “AS IS.” EXCEPT TO THE EXTENT PROHIBITED BY LAW, WE AND OUR AFFILIATES AND LICENSORS MAKE NO WARRANTIES (EXPRESS, IMPLIED, STATUTORY OR OTHERWISE) WITH RESPECT TO THE SERVICES, AND DISCLAIM ALL WARRANTIES INCLUDING BUT NOT LIMITED TO WARRANTIES OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE, SATISFACTORY QUALITY, NON-INFRINGEMENT, AND QUIET ENJOYMENT, AND ANY WARRANTIES ARISING OUT OF ANY COURSE OF DEALING OR TRADE USAGE. WE DO NOT WARRANT THAT THE SERVICES WILL BE UNINTERRUPTED, ACCURATE OR ERROR FREE, OR THAT ANY CONTENT WILL BE SECURE OR NOT LOST OR ALTERED. (c) Limitations of Liability. NEITHER WE NOR ANY OF OUR AFFILIATES OR LICENSORS WILL BE LIABLE FOR ANY INDIRECT, INCIDENTAL, SPECIAL, CONSEQUENTIAL OR EXEMPLARY DAMAGES, INCLUDING DAMAGES FOR LOSS OF PROFITS, GOODWILL, USE, OR DATA OR OTHER LOSSES, EVEN IF WE HAVE BEEN ADVISED OF THE POSSIBILITY OF SUCH DAMAGES. OUR AGGREGATE LIABILITY UNDER THESE TERMS SHALL NOT EXCEED THE GREATER OF THE AMOUNT YOU PAID FOR THE SERVICE THAT GAVE RISE TO THE CLAIM DURING THE 12 MONTHS BEFORE THE LIABILITY AROSE OR ONE HUNDRED DOLLARS ($100). THE LIMITATIONS IN THIS SECTION APPLY ONLY TO THE MAXIMUM EXTENT PERMITTED BY APPLICABLE LAW. --------->8--------- Faccio presente che queste sono le classiche condizioni contrattuali presenti in praticamente ogni software, tranne che in specifici settori, decisamente verticali, normati e contrattualizzati diversamente: la famosa clausola "as is". Fabio

Aug. 30, 2023

Re: [nexa] ‘Life or Death:’ AI-Generated Mushroom Foraging Books Are All Over Amazon

by Fabio Alemagna

Il mer 30 ago 2023, 08:48 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: > > Il mer 30 ago 2023, 08:44 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > >> >> Chi ha eseguito il software programmato statisticamente (il CdA di >> OpenAI/Microsoft etc...) >> è responsabile delle morti causate dall'errata interpretazione di quella >> sequenza di caratteri >> come un "testo" portatore di sognificato. >> >> Tale responsabilità deriva dalla scelta di realizzare e mantenere in >> esecuzione >> un software progettato per ingannare chi lo usa imitando il testo >> prodotto da un essere umano. > > > Puoi cortesemente elencare le leggi a cui fai riferimento, evidentemente > non Italiane, e possibilmente la giurisprudenza in materia? > Aggiungo: si legga il capitolo "Liability" qui: https://www.jdsupra.com/legalnews/the-legal-risks-of-using-chatgpt-6134018/… . >

Aug. 30, 2023

Re: [nexa] ‘Life or Death:’ AI-Generated Mushroom Foraging Books Are All Over Amazon

by Fabio Alemagna

Il mer 30 ago 2023, 08:44 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > > Chi ha eseguito il software programmato statisticamente (il CdA di > OpenAI/Microsoft etc...) > è responsabile delle morti causate dall'errata interpretazione di quella > sequenza di caratteri > come un "testo" portatore di sognificato. > > Tale responsabilità deriva dalla scelta di realizzare e mantenere in > esecuzione > un software progettato per ingannare chi lo usa imitando il testo prodotto > da un essere umano. Puoi cortesemente elencare le leggi a cui fai riferimento, evidentemente non Italiane, e possibilmente la giurisprudenza in materia? Altrimenti tocca ripetersi: fantagiuridica. Fabio

Aug. 30, 2023

Re: [nexa] ‘Life or Death:’ AI-Generated Mushroom Foraging Books Are All Over Amazon

by Giacomo Tesio

Infatti non è stato un software programmato statisticamente a mettere in vendita quegli output. Le responsabilità andranno dunque ricondotte a seconda delle azio:i compiute dalle diverse persone coinvolte. Per esempio, Amazon (e il venditore che ha messo il libro in vendita) è responsabile di truffa: ha venduto come "libro" una sequenza di caratteri che non ha alcun significato. Chi ha eseguito il software programmato statisticamente (il CdA di OpenAI/Microsoft etc...) è responsabile delle morti causate dall'errata interpretazione di quella sequenza di caratteri come un "testo" portatore di sognificato. Tale responsabilità deriva dalla scelta di realizzare e mantenere in esecuzione un software progettato per ingannare chi lo usa imitando il testo prodotto da un essere umano. Nessuno ha obbligato (ad esempio) OpenAI a partecipare all'"imitation game" di Turing. Per questo dovrà rispondere di ogni danno causato dall'inganno cui sottopone gli utenti. Giacomo Il 29 Agosto 2023 17:32:21 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha scritto: >Mi pare che il problema non sia che sono generati dall'AI, ma che >libri con istruzioni potenzialmente dannose siano vendibili senza che >passino il vaglio di alcun tipo di revisione. > >Il giorno mar 29 ago 2023 alle ore 19:17 Daniela Tafani ><daniela.tafani(a)unipi.it> ha scritto: >> >> A genre of AI-generated books on Amazon is scaring foragers and mycologists: cookbooks and identification guides for mushrooms aimed at beginners. >> >> Amazon has an AI-generated books problem that’s been documented by journalists for months. Many of these books are obviously gibberish designed to make money. But experts say that AI-generated foraging books, specifically, could actually kill people if they eat the wrong mushroom because a guidebook written by an AI prompt said it was safe. >> >> The New York Mycological Society (NYMS) warned on social media that the proliferation of AI-generated foraging books could “mean life or death.” >> >> >> https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/ >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >_______________________________________________ >nexa mailing list >nexa(a)server-nexa.polito.it >https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Aug. 30, 2023

Re: [nexa] ‘Life or Death:’ AI-Generated Mushroom Foraging Books Are All Over Amazon

by Fabio Alemagna

Mi pare che il problema non sia che sono generati dall'AI, ma che libri con istruzioni potenzialmente dannose siano vendibili senza che passino il vaglio di alcun tipo di revisione. Il giorno mar 29 ago 2023 alle ore 19:17 Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: > > A genre of AI-generated books on Amazon is scaring foragers and mycologists: cookbooks and identification guides for mushrooms aimed at beginners. > > Amazon has an AI-generated books problem that’s been documented by journalists for months. Many of these books are obviously gibberish designed to make money. But experts say that AI-generated foraging books, specifically, could actually kill people if they eat the wrong mushroom because a guidebook written by an AI prompt said it was safe. > > The New York Mycological Society (NYMS) warned on social media that the proliferation of AI-generated foraging books could “mean life or death.” > > > https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/ > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Aug. 29, 2023