September 2024 - nexa - server-nexa.polito.it

Re: [nexa] Confessions of a chatbot helper

by Andrea Bolioli

grazie per la segnalazione, è utile che ogni tanto qualcuno ritiri fuori il tema degli annotatori umani e del training dei sistemi. Hanno/abbiamo sempre fatto parte dello sviluppo dei sistemi NLP, e ne facciamo parte anche per l'AI generativa. Non male l'immagine di Dracula... AB Il giorno dom 8 set 2024 alle ore 11:23 Antonio <antonio(a)piumarossa.it> ha scritto: > > Sembra che tutti questi sistemi "autonomi" in realtà non possano stare > in piedi senza un'enorme mole di lavoro umano, che però deve rimanere > nascosto. > > Sì, ma qui il livello si alza. > Non è più (o non solo) il lavoro umano degli "schiavi digitali" del Sud > del mondo. > Questi qua (OpenAI & C.) hanno una barca di soldi che stanno investendo, > oltre che in GPU e corrente elettrica, anche in lavoro "redazionale" > altamente specializzato. > Neolaureati in lettere e simili che, per campare, scrivono testi che > nessun essere umano leggerà mai, se non in forma "insaccata". > In questo modo viene superato anche il discorso copyright di cui stanno > discutendo in altro thread Daniela e altri. > > Risultato, OpenAI si gioca tutto, o 2000 dollari al mese [1] per chattare > con il nuovo GPT 5 (fatto anche di questi lavori umani specializzati) o > chiude [2]. > > A. > > [1] > https://www.pymnts.com/artificial-intelligence-2/2024/report-openai-conside… > [2] > https://www.ndtv.com/india-ai/openai-microsoft-sam-altman-openai-may-post-5… >

Sept. 8, 2024

Re: [nexa] "Yuval Noah Harari’s Apocalyptic Vision"

by Franco Marra

Maybe Harari himself could be an AI produced by some GAFAM. Who knows? Il giorno dom 8 set 2024 alle ore 11:02 J.C. DE MARTIN < juancarlos.demartin(a)polito.it> ha scritto: > “Although flesh and blood, Harari is Silicon Valley’s ideal of what a > chatbot should be. He raids libraries, detects the patterns, and boils all > of history down to bullet points.” > > Buona lettura! > > jc > > > > * Yuval Noah Harari’s Apocalyptic Vision * > > *His warning of AI’s dangers is alarming, but does it help us avoid them? * > By Daniel Immerwahr > > “About 14 billion years ago, matter, energy, time and space came into > being.” So begins Sapiens: A Brief History of Humankind (2011), by the > Israeli historian Yuval Noah Harari, and so began one of the 21st century’s > most astonishing academic careers. Sapiens has sold more than 25 million > copies in various languages. Since then, Harari has published several other > books, which have also sold millions. He now employs some 15 people to > organize his affairs and promote his ideas. > > He needs them. Harari might be, after the Dalai Lama, the figure of global > renown who is least online. He doesn’t use a smartphone (“I’m trying to > conserve my time and attention > <https://archive.jamesaltucher.com/podcast/yuval-noah-harari/>”). He meditates > for two hours daily > <https://tim.blog/2020/10/30/yuval-noah-harari-transcript/>. And he > spends a month or more each year on retreat, forgoing what one can only > presume are staggering speaking fees to sit in silence. Completing the > picture, Harari is bald, bespectacled, and largely vegan. The word *guru* > is sometimes heard > <https://www.theguardian.com/books/2018/aug/15/21-lessons-for-the-21st-centu…> > . > > Harari’s monastic aura gives him a powerful allure in Silicon Valley, > where he is revered. Bill Gates blurbed *Sapiens*. Mark Zuckerberg > promoted it. In 2020, Jeff Bezos testified remotely to Congress in front of > a nearly bare set of bookshelves—a disquieting look for the founder of > Amazon, the planet’s largest bookseller. Sharp-eyed viewers made out, among > the six lonely titles huddling for warmth on the lower-left shelf, two of > Harari’s books > <https://www.nytimes.com/2020/12/11/books/celebrity-bookshelves-anthony-fauc…>. > Harari is to the tech CEO what David Foster Wallace once was to the > Williamsburg hipster. > [...] > > cont: > https://www.theatlantic.com/magazine/archive/2024/10/yuval-noah-harari-nexu… >

Sept. 8, 2024

Re: [nexa] "Yuval Noah Harari’s Apocalyptic Vision"

by Stefano Quintarelli

Un amico direttore editoriale, persona di cultura sterminata (legge tutti i libri che vengono sottomessi all'editore) dice che Harari è uno scrittore brillante ed elegantissimo. solo che dovrebbe andare nella narrativa, non nella saggistica come dargli torto ? On 08/09/24 11:02, J.C. DE MARTIN wrote: > “Although flesh and blood, Harari is Silicon Valley’s ideal of what a chatbot should be. > He raids libraries, detects the patterns, and boils all of history down to bullet points.”* > > *Buona lettura! > * > *jc* > > > Yuval Noah Harari’s Apocalyptic Vision > * > /His warning of AI’s dangers is alarming, but does it help us avoid them? > / > By Daniel Immerwahr > > “About 14 billion years ago, matter, energy, time and space came into being.” So begins > Sapiens: A Brief History of Humankind (2011), by the Israeli historian Yuval Noah Harari, > and so began one of the 21st century’s most astonishing academic careers. Sapiens has sold > more than 25 million copies in various languages. Since then, Harari has published several > other books, which have also sold millions. He now employs some 15 people to organize his > affairs and promote his ideas. > > He needs them. Harari might be, after the Dalai Lama, the figure of global renown who is > least online. He doesn’t use a smartphone (“I’m trying to conserve my time and attention > <https://archive.jamesaltucher.com/podcast/yuval-noah-harari/>”). He meditates for two > hours daily <https://tim.blog/2020/10/30/yuval-noah-harari-transcript/>. And he spends a > month or more each year on retreat, forgoing what one can only presume are staggering > speaking fees to sit in silence. Completing the picture, Harari is bald, bespectacled, and > largely vegan. The word /guru/ is sometimes heard > <https://www.theguardian.com/books/2018/aug/15/21-lessons-for-the-21st-centu…>. > > Harari’s monastic aura gives him a powerful allure in Silicon Valley, where he is revered. > Bill Gates blurbed /Sapiens/. Mark Zuckerberg promoted it. In 2020, Jeff Bezos testified > remotely to Congress in front of a nearly bare set of bookshelves—a disquieting look for > the founder of Amazon, the planet’s largest bookseller. Sharp-eyed viewers made out, among > the six lonely titles huddling for warmth on the lower-left shelf, two of Harari’s books > <https://www.nytimes.com/2020/12/11/books/celebrity-bookshelves-anthony-fauc…>. Harari is to the tech CEO what David Foster Wallace once was to the Williamsburg hipster. > > [...] > > cont: > https://www.theatlantic.com/magazine/archive/2024/10/yuval-noah-harari-nexu… -- You can reach me on Signal: @quinta.01 (no Whatsapp, Telegram)

Sept. 8, 2024

Re: [nexa] Confessions of a chatbot helper

by Antonio

> Sembra che tutti questi sistemi "autonomi" in realtà non possano stare in piedi senza un'enorme mole di lavoro umano, che però deve rimanere nascosto. Sì, ma qui il livello si alza. Non è più (o non solo) il lavoro umano degli "schiavi digitali" del Sud del mondo. Questi qua (OpenAI & C.) hanno una barca di soldi che stanno investendo, oltre che in GPU e corrente elettrica, anche in lavoro "redazionale" altamente specializzato. Neolaureati in lettere e simili che, per campare, scrivono testi che nessun essere umano leggerà mai, se non in forma "insaccata". In questo modo viene superato anche il discorso copyright di cui stanno discutendo in altro thread Daniela e altri. Risultato, OpenAI si gioca tutto, o 2000 dollari al mese [1] per chattare con il nuovo GPT 5 (fatto anche di questi lavori umani specializzati) o chiude [2]. A. [1] https://www.pymnts.com/artificial-intelligence-2/2024/report-openai-conside… [2] https://www.ndtv.com/india-ai/openai-microsoft-sam-altman-openai-may-post-5…

Sept. 8, 2024

"Yuval Noah Harari’s Apocalyptic Vision"

by J.C. DE MARTIN

“Although flesh and blood, Harari is Silicon Valley’s ideal of what a chatbot should be. He raids libraries, detects the patterns, and boils all of history down to bullet points.”* *Buona lettura! * *jc* Yuval Noah Harari’s Apocalyptic Vision * /His warning of AI’s dangers is alarming, but does it help us avoid them? / By Daniel Immerwahr “About 14 billion years ago, matter, energy, time and space came into being.” So begins Sapiens: A Brief History of Humankind (2011), by the Israeli historian Yuval Noah Harari, and so began one of the 21st century’s most astonishing academic careers. Sapiens has sold more than 25 million copies in various languages. Since then, Harari has published several other books, which have also sold millions. He now employs some 15 people to organize his affairs and promote his ideas. He needs them. Harari might be, after the Dalai Lama, the figure of global renown who is least online. He doesn’t use a smartphone (“I’m trying to conserve my time and attention <https://archive.jamesaltucher.com/podcast/yuval-noah-harari/>”). He meditates for two hours daily <https://tim.blog/2020/10/30/yuval-noah-harari-transcript/>. And he spends a month or more each year on retreat, forgoing what one can only presume are staggering speaking fees to sit in silence. Completing the picture, Harari is bald, bespectacled, and largely vegan. The word /guru/ is sometimes heard <https://www.theguardian.com/books/2018/aug/15/21-lessons-for-the-21st-centu…>. Harari’s monastic aura gives him a powerful allure in Silicon Valley, where he is revered. Bill Gates blurbed /Sapiens/. Mark Zuckerberg promoted it. In 2020, Jeff Bezos testified remotely to Congress in front of a nearly bare set of bookshelves—a disquieting look for the founder of Amazon, the planet’s largest bookseller. Sharp-eyed viewers made out, among the six lonely titles huddling for warmth on the lower-left shelf, two of Harari’s books <https://www.nytimes.com/2020/12/11/books/celebrity-bookshelves-anthony-fauc…>. Harari is to the tech CEO what David Foster Wallace once was to the Williamsburg hipster. [...] cont: https://www.theatlantic.com/magazine/archive/2024/10/yuval-noah-harari-nexu…

Sept. 8, 2024

Re: [nexa] AI Training is Copyright Infringement

by Antonio

> Domanda da inesperto: perchè non rafforzare Framasoft? Sì certo, si può rafforzare Framasoft o, meglio, i software utilizzati da Framasoft. Ad esempio Framapad, un editor di testo collaborativo ( https://framapad.org/abc/it/ ), si basa su un software libero, Etherpad ( https://github.com/ether/etherpad-lite ). Si può contribuire a migliorare Etherpad o qualsiasi altro software libero. Io per anni ho contribuito a OpenSSL, Giacomo ha addirittura creato un sistema operativo da zero ( https://gitea.it/JehanneOS ). Framasoft ha preso alcuni software liberi e resi fruibili in un contenitore essenzialmente destinato alla didattica. Ma il panorama del software libero è immenso, per questo dicevo di prendere "ad esempio" Framasoft. Alla stessa stregua si può creare un altro contenitore, per la didattica e/o altri settori. A.

Sept. 8, 2024

Re: [nexa] Confessions of a chatbot helper

by Roberto Resoli

Il 7 settembre 2024 18:51:37 CEST, Antonio <antonio(a)piumarossa.it> ha scritto: >"Working for an AI company as a writer was therefore a little like being told you were going to be paid a visit by Dracula, and instead of running for the hills, you stayed in and laid the table. But our destroyer is generous, the pay sufficient to justify the alienation. If our sector was going up in smoke, we might as well get high off the fumes." > >https://www.theguardian.com/technology/article/2024/sep/07/if-journalism-is… > Grazie Antonio, molto interessante. Sembra che tutti questi sistemi "autonomi" in realtà non possano stare in piedi senza un'enorme mole di lavoro umano, che però deve rimanere nascosto. Come nel caso della moderazione nelle reti sociali: <https://peertube.datagueule.tv/w/wDP7Rfym5MCLihrNY4yJMW> rob

Sept. 8, 2024

Re: [nexa] AI Training is Copyright Infringement - Axel Voss

by Maria Chiara Pievatolo

On 05/09/24 23:02, Daniela Tafani wrote: > Axel Voss, MEP and host of today's event in the European Parliament, expressly thanks the scientists Dornis and Stober and is pleased that > > “the study not only proves that the training of Generative AI models is not covered by text and data mining, but that it also provides further important indications and suggestions for a better balance between the protection of human creativity and the promotion of AI innovation.” > “This study is explosive because it proves that we are dealing with large-scale theft of intellectual property. The ball is now in the politicians' court to draw the necessary conclusions and finally put an end to this theft at the expense of journalists and other authors,” > commented Hanna Möllers, legal advisor to the DJV and representative of the European Federation of Journalists (EFJ). Axel Voss (https://en.wikipedia.org/wiki/Axel_Voss) citato qui sopra è uno dei più accaniti sostenitori della direttiva copyright del 2019, censorship machine (https://en.wikipedia.org/wiki/Directive_on_Copyright_in_the_Digital_Single_…) compresa. Cito la citazione che riporta wikipedia: "this directive is an important step towards correcting a situation which has allowed a few companies to earn huge sums of money without properly remunerating the thousands of creatives and journalists whose work they depend on" Axel Voss non è un nemico dei monopoli intellettuali e dei loro banchetti. Semplicemente desidera inasprire il copyright perché i monopolisti tradizionali - che sono gli editori i quali si fanno cedere il copyright dagli autori - ne ricevano qualche briciola. *Dove i SAlAMI copiano alla lettera*, basta il copyright così com'è. Dove i SALAMI rimescolano, bisognerebbe cambiare il copyright estendendo a tutte le espressioni delle idee (recensioni, riassunti umani e no etc.) la stessa disciplina che si applica, secondo me incoerentemente (slide 22: https://zenodo.org/records/11163103) alle traduzioni. Con il risultato che i detentori del copyright (cioè per lo più gli editori) potrebbero sequestrare buona parte del dibattito pubblico sulle "loro" opere, come avviene con le traduzioni. Ed è poco rilevante che Qui potete leggere di un paio di sequestri famosi, e catastrofici per l'uso pubblico della ragione. In uno dei due la posta in gioco era informare il pubblico statunitense delle idee di Hitler https://btfp.sp.unipi.it/dida/kant_7/index.xhtml#idm181 L'idea di curare i monopoli, de iure o de facto, inasprendoli ed estendendoli può apparire plausibile solo a chi già, come Axel Voss, li apprezza. Le critiche di Doctorow (https://pluralistic.net/2024/03/13/hey-look-over-there/#lets-you-and-he-fig…) mi sembrano ben fondate. Oltre tutto, un copyright così inasprito ed esteso non impedirebbe affatto agli editori di offrire i "propri" testi, a pagamento, per il confezionamento di SALAMI. Soprattutto per gli editori scientifici commerciali, che ricevono i loro testi gratis, sarebbe - ed è già - un affarone. "Bullies want you to think they're on your side". A presto, MCP

Sept. 8, 2024

Re: [nexa] AI Training is Copyright Infringement

by alessandro marzocchi

Domanda da inesperto: perchè non rafforzare Framasoft? Date: Fri, 06 Sep 2024 21:51:39 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] AI Training is Copyright Infringement > Message-ID: <6EDF4516-C8D1-4FB3-8301-833112475147(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > Io ci sono. > Quando si parte? > Che si fa? > > Il 6 Settembre 2024 18:45:35 UTC, Antonio <antonio(a)piumarossa.it> ha > scritto: > > > la Storia ha corsi e ricorsi, ma talvolta fa anche inversioni a U > > > ma non bisogna limitarsi all'invettiva aspettando che a sterzare sia > > > qualcun'altro, altrimenti non avremo alcuna rilevanza neanche a questo > giro > > > > Se c'è la volontà di cambiare, di sterzare, le professionalità, anche in > questa lista, non mancano :) > > Basta un cenno e si parte. > > A parte costruire un clone di ChatGpt, per il resto possiamo mettere su > di tutto. > > L'hanno fatto i francesi di Framasoft ( > https://framasoft.org/it/manifest ) 23 anni fa, perché non seguire > quell'esempio? > > > > A. > >

Sept. 7, 2024

Re: [nexa] AI Training is Copyright Infringement

by Daniela Tafani

Ciao, Stefano, sì, Sam Altman lo ha detto pubblicamente qualche mese fa: OpenAI Pleads That It Can’t Make Money Without Using Copyrighted Materials for Free "It would be impossible to train today’s leading AI models without using copyrighted materials." <https://futurism.com/the-byte/openai-copyrighted-material-parliament> Ed è ormai noto che i "pappagalli stocastici" sono più pappagalli del previsto; capita infatti che riproducano integralmente le immagini o i testi utilizzati per il "training": <https://qz.com/openai-chatgpt-anthropic-claude-copyright-law-violation-1851…> Proprio in virtù di questo secondo aspetto, eviterei di cercare nel copyright la soluzione: come scrive spesso Cory Doctorow, sarebbe come se ai tuoi bambini un gruppo di bulli rubasse sempre i soldi della merenda, davanti alla scuola, e tu pensassi di risolvere il problema dando ai bambini più soldi. Il punto che a me sembra decisivo è quello del plagio: se si tratta di macchine per il plagio, è da questo che si deve prendere avvio. I SALAMI copioni in distribuzione al momento si basano su pagine web, libri, messaggi di posta elettronica, post privati e non, trascrizioni di video Youtube*, foto e video che rigurgitano talvolta alla lettera (o all'ultimo pixel), senza che sia possibile risalire alla fonte. Per questo, i disabili si sono rivoltati contro gli organizzatori del National Novel Writing Month**, che hanno ammesso l'uso di SALAMI (per scrivere il racconto da presentare al concorso) e tacciato di "classism and ableism" chi lo respinga. Così, hanno replicato le associazioni di disabili, state sostenendo che noi siamo in grado soltanto di plagiare. Se qualcuno scrive una poesia e la invia ai suoi amici con il servizio di posta elettronica offertogli da un monopolista, la poesia sarà ovviamente insaccata e un SALAME potrà rigurgitarla per intero, pari pari, al primo artista in stile NaNoWriMo, il quale si affretterà a pubblicarla, ben felice di questa "democratizzazione" del talento. E nessun software antiplagio avrà da ridire. Lo stesso per le immagini: si crede che siano "sintetiche" e a volte sono invece la foto di una persona esistente (ad esempio, di una paziente, intubata, all'ospedale, che aveva dato il consenso soltanto ad essere curata). Dopodiché qualcuno farà fare al SALAME un film porno a partire dalla foto "sintetica" e lo farà circolare. Non escludo che la quota di testo rigurgitato sia enormemente più alta di quanto si stimi al momento e che non ci accorgiamo della marea di plagi solo perché nessuno ha un database di tutto il web (post sui social inclusi) e di tutti i messaggi di posta elettronica. Se si tratta di macchine per il plagio, mi pare che - i sistemi attualmente distribuiti dai monopolisti siano irredimibili, visto che possono rigurgitare, e rigurgitano, dati privati di ogni genere o brandelli di opere dell'ingegno senza che sia possibile anche solo citarne l'autore; - i sistemi costruiti a partire da dataset curati e documentati sarebbero comunque macchine per il plagio e dovrebbero essere utilizzati o distribuiti quanto è lecito che lo siano, entro ciascun ordinamento giuridico, macchine che estrudano, a sorpresa e senza indicazione delle fonti, testi o immagini che sono opere del lavoro di qualcuno. Senza nominare il fatto che si tratta di sistemi che, sebbene non siano in grado di portarci via il lavoro, di certo ci stanno portando via l'acqua <https://www.context.news/ai/video/forget-jobs-ai-is-coming-for-your-water> Credo che convenga solo ai broligarchs la rinuncia alle coltivazioni di riso per un datacenter che può farci avere qualche immagine dei campi di riso o qualche penosa frase in rima sui medesimi. Un saluto, Daniela *<https://www.nytimes.com/2024/04/06/technology/tech-giants-harvest-data-arti…> ** <https://www.wired.com/story/nanowrimo-organizers-classist-and-ableist-to-co…> ________________________________________ Da: Stefano Quintarelli <stefano(a)quintarelli.it> Inviato: sabato 7 settembre 2024 16:47 A: Daniela Tafani Oggetto: Re: [nexa] AI Training is Copyright Infringement Daniela, come prendono i testi dai libri ? usano file piratati o rompono loro il DRM ? in ogni caso la fonte e' illecita imho On 06/09/24 14:09, Daniela Tafani wrote: > Caro Giacomo, caro 380°, > > >>> Tuttavia NON è ciò che avviene durante la programmazione statistica di >>> un "AI generativa" che è semplicemente un'opera derivata dei dati >>> sorgente > >> Il software (programmato statisticamente) è un'opera derivata dei testi >> (dati?) utilizzati per il "machine learning": ho capito bene? > >> Per essere considerata opera derivata, è mio modestissimo parere che >> tale opera debba essere espressa in una forma (linguaggio) comprensibile >> agli umani, ma non mi pare proprio che il software programmato >> statisticamente (che è del tutto analogo al software binario) rientri in >> questa categoria. > >>> non troppo dissimile da un jpeg o da uno zip danneggiato ma >>> ancora utilizzabile. > >> ...oppure ho capito male e tu non ti stai riferendo al software >> (binario) come opera derivata ma all'output dei sistem "AI generativi"? > > La questione che state discutendo è l'elemento che mi ha indotta a segnalarvi l'articolo. > Ted Chiang l'ha posta sostenendo che ChatGPT sia come un certo tipo di fotocopiatrice: > quello che produce è un "JPEG sfuocato del web", una "lossy compression" del web*, > che potrebbe essermi utile, ad esempio, se stessi per perdere per sempre l'accesso a Internet > e volessi salvare tutto il testo del web su un server privato, in uno spazio pari a un centesimo dell'originale. > > Con una simile compressione di gruppo, non potrei più avere accesso alle opere nella loro forma originale, > ma potrei ottenerne, per interpolazione, delle approssimazioni, tramite queries dalla forma di domande > (senza alcuna garanzia che il sistema sia in grado anche solo di indicare il titolo della singola opera originaria). > > A me pare che questo modo di concettualizzare la questione fornisca un buon punto di partenza per discuterne, dal punto di vista politico. > > Un saluto, > Daniela > > *https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web > > -- You can reach me on Signal: @quinta.01 (no Whatsapp, Telegram)

Sept. 7, 2024