July 2023 - nexa - server-nexa.polito.it

Re: [nexa] Authors call for AI companies to stop using their work without consent | Books | The Guardian

by Fabio Alemagna

Il giorno gio 20 lug 2023 alle ore 20:20 Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> ha scritto: > [...] > This petition is not the first time the Authors Guild has taken tech companies to task. In 2005 the writers’ organisation filed a copyright infringement case against Google, claiming that the search engine’s scanning of millions of books “was a plain and brazen violation of copyright law”. In 2016, the long-running dispute came to an end when the US supreme court denied the Guild the right to appeal the ruling that Google’s scanning of books constituted “fair use”, and that “Google Books provide significant public benefits”. Non vedo ragione per la quale a questo giro dovrebbe andare diversamente. Creative Commons, che di copyright e etica annessa se ne intende, la vede alla stessa maniera: https://creativecommons.org/2023/02/17/fair-use-training-generative-ai/ Fabio

July 20, 2023

Authors call for AI companies to stop using their work without consent | Books | The Guardian

by Alberto Cammozzo

<https://www.theguardian.com/books/2023/jul/20/authors-call-for-ai-companies…> Authors including Margaret Atwood, Viet Thanh Nguyen and Philip Pullman have signed a petition calling for artificial intelligence companies to stop using writers’ work without consent or credit. The open letter, which has been set up by the Authors Guild, America’s largest professional organisation for writers, is addressed to the CEOs of OpenAI, Alphabet, Meta, Stability AI, and IBM. It presents these generative AI leaders with three demands, asking that these companies: “Obtain permission for use of our copyrighted material”; “Compensate writers fairly for the past and ongoing use of our works”, and “Compensate writers fairly for the use of our works in AI output, whether or not the outputs are infringing under current law”. Maya Shanbhag Lang, president of the Authors Guild, said: “The output of AI will always be derivative in nature. AI regurgitates what it takes in, which is the work of human writers. It’s only fair that authors be compensated for having ‘fed’ AI and continuing to inform its evolution.” National book award-winning novelist Jonathan Franzen, My Sister’s Keeper author Jodi Picoult and nonfiction author and journalist Michael Pollan are among the letter’s nearly 8,000 signatories. “The Authors Guild is taking an important step to advance the rights of all Americans whose data and words and images are being exploited, for immense profit, without their consent”, said Franzen. “In other words, pretty much all Americans over the age of six.” The median writing-related income in 2022 for full-time writers in the US was just $23,330, according to the Authors Guild’s most recent income survey. “The advent of AI technology further exacerbates these challenges and will make it increasingly difficult, if not impossible, for writers – particularly those from underrepresented communities – to earn a living from the craft most spent years if not decades perfecting”, a statement from the Authors Guild read. “When writers have to give up their profession, it is a grave problem for all of us, not just the writers, because far fewer great books get written and published; and a free, democratic culture depends on a healthy, diverse ecosystem in which all views and voices are heard and ideas exchanged.” This petition is the latest in a series of steps taken by literary figures to combat the rising use of AI in the books sector. Earlier this month two North American authors, Mona Awad and Paul Tremblay, filed a lawsuit against OpenAI, claiming that the organisation breached copyright law. OpenAI is the company behind the tool ChatGPT, a chatbot that is “trained” by copying large swathes of text and extracting information from it. The suit filed on behalf of Awad and Tremblay argued that “ChatGPT generates summaries of plaintiffs’ copyrighted works – something only possible if ChatGPT was trained on plaintiffs’ copyrighted works”. This line of argument could be difficult to prove, as ChatGPT may work “exactly the same” if it had not ingested the books themselves, Andres Guadamuz, a reader in intellectual property law at the University of Sussex, told the Guardian at the time. This is because it may have been trained on non-copyrighted information such as internet users discussing the books. The UK’s leading industry body for writers, the Society of Authors (SoA) has backed both the legal action taken by Awad and Tremblay and this new petition by the Authors Guild. Nicola Solomon, chief executive of the SoA, said she and her colleagues “fully support” the open letter. “The principles of consent, credit and compensation are bedrocks of our intellectual property regime, and a critical part of every author’s ability to protect and make a living from their work.” But influencing AI developers is “only one part of the challenge here”, she added. “The race to build the next generation of systems is driven primarily by the profit motives of large corporations. It is opaque, unfettered and unregulated, while the ethical ramifications of AI systems are complex and crying out for scrutiny.” Solomon said the SoA is “working flat out on this - advising members and working closely with other creators’ unions (through the Creators’ Rights Alliance) and the British Copyright Council, as well as making sure we are part of conversations with industry, policy makers and technology companies to try to identify common ground and establish safeguards, regulation and compensation.” While the SoA does not currently have firm plans to publish its own open letter, it is something the team has discussed. At the moment, however, its focus is on continuing “to lobby in line with the recent report by the House of Lords, which urged government, in no uncertain terms, to protect IP and better fund and support the creative industries”, Solomon said. In June, the SoA published guidance for authors on how they can protect themselves and their work from being exploited by AI. In the same month the UK’s Publishers Association also announced it was setting up a taskforce to support the industry amid AI developments. This petition is not the first time the Authors Guild has taken tech companies to task. In 2005 the writers’ organisation filed a copyright infringement case against Google, claiming that the search engine’s scanning of millions of books “was a plain and brazen violation of copyright law”. In 2016, the long-running dispute came to an end when the US supreme court denied the Guild the right to appeal the ruling that Google’s scanning of books constituted “fair use”, and that “Google Books provide significant public benefits”.

July 20, 2023

Re: [nexa] Artificial Intelligence, Persuasive Technology and Manipulation

by Stefano Faraoni

Buongiorno Alberto, Interessantissima riflessione. Grazie del tuo pensiero. "Quale dottrina giuridica difende, oltre all'individuo, la libertà delle società di determinarsi autonomamente?" Teoricamente, i diritti fondamentali (riconosciuti a livello nazionale, regionale e internazionale) dovrebbero svolgere la funzione di difendere il diritto degli individui di autodeterminarsi e come sottolinei "There's no such thing as society. There are individual men and women and there are families." Gli individui esprimono il loro diritto di autodeterminarsi, anche socialmente. Lo stato, frutto del diritto di autodeterminarsi, dovrebbe avere, tra le sue funzioni, quella di garantire i diritti dei cittadini, disciplinando il loro esercizio. Quello che sta avvenendo, pero', e il passaggio della funzione legislativa dallo stato alle aziende private, che si auto-regolano e regolano la societa' influenzandola e, nel caso degli hypernudge, manipolandola. Credo sinceramente che i singoli stati dovrebbero riprendersi l'obbligo di tutelare gli individui, impedendo ad una oligarchia di fatto non eletta di dettare le regole del comportamento sociale. Un saluto. Stefano *Stefano Faraoni* *Founder and DirectorAvvocato Patrocinante in CassazioneAdjunct Professor in Legal English, University of TurinPGR in AI Law, University of York* *Lumen Legis - Law Firm* INTERNAZIONALE | CONTRACT LAW | IT LAW | DIRITTO CIVILE | DIRITTO PENALE *w*: lumenlegis.com *@*: stefano.faraoni(a)lumenlegis.com **** Riservatezza/Confidentiality **** In ottemperanza al Regolamento Europeo 679/2016 (GDPR) in materia di protezione dei dati personali, le informazioni contenute in questo messaggio sono strettamente riservate ed esclusivamente indirizzate al destinatario indicato (oppure alla persona responsabile di rimetterlo al destinatario). Vogliate tener presente che qualsiasi uso, riproduzione o divulgazione della informativa in esso contenuta è vietata. Nel caso in cui lo aveste ricevuto per errore, vi preghiamo di accettare le nostre scuse e di distruggerlo, informandoci immediatamente tramite l’indirizzo e-mail stefano.faraoni(a)lumenlegis.com / According to General Data Protection Regulation (GDPR) concerning privacy, if you are not the addressee (or responsible for delivery of the message to such person) you are hereby notified that any disclosure, reproduction, distribution or other dissemination or use of this communication is strictly prohibited. If you have received this message in error, please accept our apology and destroy any copies and delete it from your computer system, then inform us immediately sending a message to stefano.faraoni(a)lumenlegis.com On Tue, Jul 18, 2023 at 10:52 PM Alberto Cammozzo <ac+nexa(a)zeromx.net> wrote: > Buongiorno, > > grazie per l'articolo molto chiaro e ricco di riferimenti tecnici e > giuridici. > > Mi permetto di evidenziarne succintamente alcuni punti per chi non l'ha > letto, sperando di non travisare. > > La prospettiva dell'applicazione massiva dell'hypernudging è che chi > detiene le informazioni sugli individui ha la facoltà di 1) scegliere chi > manipolare e 2) usare le strategie più efficaci per influenzarne le > decisioni, senza che 3) l'interessato sappia di essere oggetto di un > tentativo di persuasione. > > Di conseguenza non solo viene violata la sua privacy, ma viene minata la > capacità dell'individuo di formarsi opinioni autonome e di compiere scelte > razionali conseguenti, quando non viene danneggiato sul piano psichico ed > economico. > > Questo nonostante esista una formidabile mole di dottrina filosofica e > giuridica, radicata nella concezione kantiana di autonomia, che sancisce il > diritto, o meglio la libertà, di esercitare tali capacità. > > Per contrastare il consolidarsi del macchinismo di cui sopra è richiesta > la tutela del diritto alla sovranità o *libertà cognitiva*: il non essere > misurati e analizzati perché sia mantenuta l'auto-determinazione mentale. > > Questo diritto è distinto da quello della libertà di espressione in quanto > la formazione del pensiero anticipa la sua espressione: se la formazione > del pensiero non è libera, non lo sarà né l'espressione né gli atti che ne > conseguono. E -incidentalmente- la persona non potrà nemmeno essere > considerata responsabile di atti compiuti seguendo pensieri non formati > liberamente. > > Se ho compreso bene la testi esposta, che mi sembra del tutto > condivisibile, il *condizionamento* del pensiero su scala e con metodo > industriale mina la libertà di formare un pensiero individuale autonomo, > che va difesa tutelandola come un diritto distinto da quello di espressione. > > Mi chiedo tuttavia se non sia possibile ampliare il punto di vista > guardando anche agli effetti sociali oltre che a quelli giuridici centrati > sull'individuo. > > Infatti un ruolo analogo a quello del condizionamento dell'hypernudging è > da sempre svolto dal contesto culturale e sociale. > > Il pensiero individuale, pur libero, non si forma nel vuoto di una pura > razionalità, ma nel contesto relazionale, culturale e sociale che da sempre > ha posto i vincoli e le *condizioni* all'interno dei quali può > esprimersi. Tanto che diverse culture e diversi contesti sociali in diverse > epoche storiche declinano differentemente questa medesima libertà, ed > eventualmente giungono a proteggere o negare diritti diversi. Il contesto > pone condizioni e limiti all'individuo affinché formi e trasmetta > determinati pensieri, e al contrario non possa formare e diffondere > pensieri contrari o pericolosi (ideologicamente, religiosamente, > filosoficamente) per il contesto stesso. In questo modo un contesto > culturale e sociale si riproduce tra generazioni, e grazie a mutazioni e > ibridazioni culturali, evolve. > > Il pensiero individuale è dunque sempre stato condizionato, ma > *socialmente*: la differenza significativa introdotta > dall'industrializzazione delle relazioni personali è che ora può essere > condizionato da una oligarchia industriale, seguendo ragioni non più > interne alla società, ma esterne, e in particolare secondo determinanti > economiche di remunerazione del capitale, e con tempi ridotti rispetto a > quelli dei mutamenti sociali. In aggiunta, viene a mancare il dibattito > interno alla società che porta al mantenimento o alla mutazione delle > condizioni di riproduzione delle relazioni sociali. > > Guardando da questa prospettiva, gli attori dell'industria della > sorveglianza si stanno appropriando del controllo esercitato > originariamente dalla collettività sociale per sostituirvisi ovunque sia > possibile monetizzarlo. L'attore commerciale tende a sostituirsi al > contesto culturale all'interno del quale veniva esercitato il > condizionamento sociale del pensiero. > > Se questo avvenisse in scala, metterebbe in gioco non solo la libertà > individuale, ma la capacità delle relazioni sociali di riprodursi. > > Il pensiero della Thatcher, se ricordo bene, era "There's no such thing as > society. There are individual men and women and there are families." > > Quale dottrina giuridica difende, oltre all'individuo, la libertà delle > società di determinarsi autonomamente? > > Credo che cada a proposito quanto leggiamo nel thread sull'antitrust in > questa stessa lista. > > Un saluto, > > Alberto > > > > > On 04/07/23 09:32, Stefano Faraoni wrote: > > Buongiorno a tutti, > > Leggo questa mailing list con estremo piacere da tempo, e oggi per la > prima volta provo a contribuire. > > Il mio articolo "Persuasive Technology and computational manipulation: > hypernudging out of mental self-determination" e' appena stato pubblicato > da Frontiers on Artificial Intelligence, e spero possa farvi piacere > leggerlo. > > https://www.frontiersin.org/articles/10.3389/frai.2023.1216340/full > > Parla di manipolazione computazionale, dark patterns e hypernudge, e della > necessita' di riconoscere un nuovo diritto fondamentale, il diritto alla > sovranita' cognitiva o autodeterminazione mentale. > > Un saluto a tutti. > > Stefano > > > *Stefano Faraoni* > > > > *Founder and Director Avvocato Patrocinante in Cassazione Adjunct > Professor in Legal English, University of Turin PGR in AI Law, University > of York* > > *Lumen Legis - Law Firm* > INTERNAZIONALE | CONTRACT LAW | IT LAW | DIRITTO CIVILE | DIRITTO PENALE > > *w*: lumenlegis.com *@*: stefano.faraoni(a)lumenlegis.com > > > **** Riservatezza/Confidentiality **** > > In ottemperanza al Regolamento Europeo 679/2016 (GDPR) in materia di > protezione dei dati personali, le informazioni contenute in questo > messaggio sono strettamente riservate ed esclusivamente indirizzate al > destinatario indicato (oppure alla persona responsabile di rimetterlo al > destinatario). Vogliate tener presente che qualsiasi uso, riproduzione o > divulgazione della informativa in esso contenuta è vietata. Nel caso in cui > lo aveste ricevuto per errore, vi preghiamo di accettare le nostre scuse e > di distruggerlo, informandoci immediatamente tramite l’indirizzo e-mail > stefano.faraoni(a)lumenlegis.com > > / According to General Data Protection Regulation (GDPR) concerning > privacy, if you are not the addressee (or responsible for delivery of the > message to such person) you are hereby notified that any disclosure, > reproduction, distribution or other dissemination or use of this > communication is strictly prohibited. If you have received this message in > error, please accept our apology and destroy any copies and delete it from > your computer system, then inform us immediately sending a message to > stefano.faraoni(a)lumenlegis.com > > > > > _______________________________________________ > nexa mailing listnexa@server-nexa.polito.ithttps://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > >

July 20, 2023

Re: [nexa] LLM (di serie "A"): possibili in Italia/Europa? [Era: nexa Digest, Vol 171, Issue 53]

by Damiano Verzulli

Il 20/07/23 00:39, Marco A. Calamari ha scritto: > On mer, 2023-07-19 at 18:26 +0200, Antonio wrote: >> Più per capire io ... >> Prendiamo per buono 10^23 (come fonte "secondaria" ho trovato questa [1]) >> 10^23 FLOPS, convertiti, sono 100.000 exaFLOPS. >> Frontier, il primo supercomputer della lista dei top100, supera di poco 1 >> exaFLOPS e >> richiede 22 MW di potenza. >> 22 MW * 100000 = 2200000 MW = 22000 GW ovvero 15000 centrali elettriche >> (1520 MW è la potenza della più grande centrale elettrica italiana [2]) messe >> assieme. >> Se non ho cannato i calcoli, mi sembra un poco eccessivo. > Li hai cannati di brutto. > 22 MW è la potenza di una molto piccola centrale elettrica. > Tipo la vecchia diga sul fiume Lima qui in toscana. > O la potenza installata in 8000 appartamenti Negativo. Ho impiegato un po' a fare il reverse-engineering della tesi di Antonio... ma è corretta ( i calcoli, sono corretti). Il ragionamento fatto da lui e': a - la potenza di calcolo di riferimento indicata da Attardi è 10^23 FLOPS, che è circa 100.000 volte superiore a quella indicata dal supercomputer al numero 1 della top500, che dichiara consumi per 22MW; b - spannometricamente, quindi, si assume che se serve un sistema HPC 100.000 volte piu' potente di uno che consuma 22MW, si puo' supporre che questo consumera' 100.000 volte i consumi di quello da 22MW; c - 100.000 volte 22MW fanno 22.000 GW d - si puo' supporre, quindi, che il sistema HPC da cui siamo partiti (quello da 10^23) consuma 22.000 GW, ossia l'equivalente di energia prodotta da 15.000 centrali elettriche. Personalmente, trovo il ragionamento "condivisibile", posto che esisteranno N "margini per economie [energetiche] di scal". Ma se anche riduciamo di un fattore 100 i consuni... otteniamo sempre 150 centrali.... Temo ci sia qualcosa che sfugge ai nostri ragionamenti (Antonio/mio), oppure ci sono "errori" in 10^23... Bye, DV -- Damiano Verzulli e-mail: damiano(a)verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

July 20, 2023

Re: [nexa] AI and antitrust in 10 minutes

by Roberto Resoli

Il 19 luglio 2023 10:12:06 CEST, Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: >Daron Acemoglu >Thank you, Cristina, for that wonderful introduction and to you and Tommaso for inviting me. […] ... > >https://mailchi.mp/cepr/central-bank-communication-rpn-seminar-series-516707 Link "ripulito" da mailchimp: https://cepr.org/events/competition-policy-rpn-gen-ai-market-power-what-rol… rob

July 20, 2023

Re: [nexa] LLM (di serie "A"): possibili in Italia/Europa? [Era: nexa Digest, Vol 171, Issue 53]

by Marco A. Calamari

On mer, 2023-07-19 at 18:26 +0200, Antonio wrote: > > Un'ultima nota a chiusura: sono cosciente che fra 10^17 e 10^23 c'e' > > *MOLTA* differenza (a proposito: qual'e' la fonte di 10^23?). > > Più per capire io ... > Prendiamo per buono 10^23 (come fonte "secondaria" ho trovato questa [1]) > 10^23 FLOPS, convertiti, sono 100.000 exaFLOPS. > Frontier, il primo supercomputer della lista dei top100, supera di poco 1 > exaFLOPS e > richiede 22 MW di potenza. > 22 MW * 100000 = 2200000 MW = 22000 GW ovvero 15000 centrali elettriche > (1520 MW è la potenza della più grande centrale elettrica italiana [2]) messe > assieme. > Se non ho cannato i calcoli, mi sembra un poco eccessivo. Li hai cannati di brutto. 22 MW è la potenza di una molto piccola centrale elettrica. Tipo la vecchia diga sul fiume Lima qui in toscana. O la potenza installata in 8000 appartamenti > > A. > > [1] > https://www.lesswrong.com/posts/bfsyLY3Xnq442eKL8/gpt-2005-a-conversation-w… > [2] https://it.wikipedia.org/wiki/Centrali_elettriche_in_Italia > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

July 19, 2023

Re: [nexa] AI and antitrust in 10 minutes

by Giacomo Tesio

Ciao Beppe, Il 19 Luglio 2023 10:45:51 UTC, Giuseppe Attardi <attardi(a)di.unipi.it> ha scritto: >Magistrale. >In particolare sono convinto della necessità di scoraggiare il business model dei servizi gratuiti finanziati con la pubblicità, introducendo una tassazione altamente progressiva dei ricavi pubblicitari, come propone il nobel Paul Romer. > >So I am actually quite favourable, […] to a digital ad tax that creates more openness for alternative business models based on things like Wikipedia or subscription models in the online space. Purtroppo non è sarà mai sufficiente a scoraggiare la sorveglianza e la manipolazione di massa. Aziende come Google o Microsoft pagherebbero qualsiasi cifra pur di poter controllare coloro... che possono decidere quanti dati possono raccogliere o quante tasse devono pagare. Un errore comune quello di Acemoglu, ampiamente fruttato da Google&friends: pensare che il loro potere politico ("social power" lo chiama) sia un effetto del potere economico accumulato, come avveniva per i grandi monopolisti del '900. Invece per queste aziende è vero il contrario: il loro immenso potere economico non è che una proiezione sulla dimensione economica del loro straordinario potere politico, ovvero della loro capacità di controllare individualmente il comportamenti di miliardi di individui. Un potere enorme nascosto in bella vista: è dal successo di tali condizionamenti (gli Ads) che dipende la loro ricchezza enorme. Non basterà la tassazione per "disincentivare" questo potere. Bisogna riconoscerne la pericolosità, l'incompibilità sia con la libertà individuale, che con la democrazia... e stroncarlo. Tassarlo è pericolosissimo. Da un lato si legittima la manipolazione cognitiva di miliardi di persone come se fosse un lavoro onesto. Dall'altro si rischia di rendere lo Stato dipendente da quelle entrate, rendendo ancora più difficile liberarsene. Infine c'è il rischio che lo Stato stesso inizi a collaborare alla manipolazione dei propri cittadini. Comprendo le buone intenzioni e i modelli economici dietro questo tipo di proposte... ma sono inapplicabili alla realtà di questo secolo dominato dalla cibernetica. Giacomo

July 19, 2023

Re: [nexa] LLM (di serie "A"): possibili in Italia/Europa? [Era: nexa Digest, Vol 171, Issue 53]

by Antonio

> Un'ultima nota a chiusura: sono cosciente che fra 10^17 e 10^23 c'e' > *MOLTA* differenza (a proposito: qual'e' la fonte di 10^23?). Più per capire io ... Prendiamo per buono 10^23 (come fonte "secondaria" ho trovato questa [1]) 10^23 FLOPS, convertiti, sono 100.000 exaFLOPS. Frontier, il primo supercomputer della lista dei top100, supera di poco 1 exaFLOPS e richiede 22 MW di potenza. 22 MW * 100000 = 2200000 MW = 22000 GW ovvero 15000 centrali elettriche (1520 MW è la potenza della più grande centrale elettrica italiana [2]) messe assieme. Se non ho cannato i calcoli, mi sembra un poco eccessivo. A. [1] https://www.lesswrong.com/posts/bfsyLY3Xnq442eKL8/gpt-2005-a-conversation-w… [2] https://it.wikipedia.org/wiki/Centrali_elettriche_in_Italia

July 19, 2023

Relazione Annuale 2023 - Autorità per le Garanzie nelle Comunicazioni (AGCOM)

by Luigi Scorca

Si segnala la pubblicazione, in data odierna, della Relazione Annuale 2023 dell'Autorità per le Garanzie nelle Comunicazioni (AGCOM). https://www.agcom.it/documentazione/documento?p_p_auth=fLw7zRht&p_p_id=101_…

July 19, 2023

Re: [nexa] “Emergence” isn’t an explanation, it’s a prayer. A critique of Emergentism in Artificial Intelligence

by Stefano Quintarelli

bel pezzo pero' cade in un pezzo di retorica anche lui... che la coscienza derivi dalla materia. tutt'altro che dimostrato... On 19/07/23 16:36, Daniela Tafani wrote: > The first use was to describe an observed emergent property; consciousness, we have seen > it, likely emerges out of neuronal interactions.

July 19, 2023