- nexa - server-nexa.polito.it

30 under 30-year sentences: why so many of Forbes’ young heroes face jail

by Alberto Cammozzo

<https://www.theguardian.com/business/2023/apr/06/forbes-30-under-30-tech-fi…> ust a few years ago, Charlie Javice was riding high. In 2019 the tech CEO landed a spot on Forbes’s 30 Under 30 list for her work on a startup called Frank, which she described as “Amazon for higher education”. What does that catchy but completely empty phrase mean? It means Frank helped students navigate the financial aid process. It was apparently so successfully at doing this that JPMorgan Chase acquired the company for $175m in 2021 and Javice was made a managing partner at the bank. [...] The problem here isn’t Forbes, of course; the problem is the vision of success that we’ve been sold and the fetishizing of youth. 30 Under 30 isn’t just a list, it’s a mentality: a pressure to achieve great things before youth slips away from you. The pressure can lead certain ambitious people to take shortcuts. And, in fact, shortcuts are encouraged: millennials, after all, grew up being told to “fake it ’til you make it”, cash in now until you become a withered, irrelevant, 30-year-old prune. If you exaggerate a little bit, that’s not fraud, that’s hustle! Until, of course, the justice department comes knocking.

April 7, 2023

Re: [nexa] incontro OpenAI e Garante privacy

by Stefano Maffulli

Occhio agli effetti collaterali del massimalismo del diritto d'autore... Kit Walsh di EFF ha scritto un pezzo molto interessante: https://www.eff.org/deeplinks/2023/04/how-we-think-about-copyright-and-ai-a… On Thu, Apr 6, 2023 at 5:50 AM Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > On Thu, Apr 06, 2023 at 01:08:47PM +0200, Stefano Quintarelli wrote: > > https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/ > > > > se prima pensavo che l'opt out fosse sufficiente, forse mi ricredo e > forse > > si arrivera' all'opt in. > > Sulla stessa linea argomentativa: > > > https://arstechnica.com/tech-policy/2023/04/stable-diffusion-copyright-laws… > > Sai mai che si riveli falsa l'ipotesi presa per buona dalla maggior > parte degli attori (a partire da GitHub Copilot, che in questo è stato > precursore) --- ovvero che sia fair use secondo il diritto americano > fare addestramento su contenti protetti da diritto d'autore... > > -- > Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ > Full professor of Computer Science o o o \/|V|\/ > Télécom Paris, Polytechnic Institute of Paris o o o </> <\> > Co-founder & CTO Software Heritage o o o o /\|^|/\ > https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "' > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 6, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Giacomo Tesio

Ciao Carlo, On Thu, 6 Apr 2023 11:54:50 +0200 Carlo Blengino wrote: > È tutto complicato... in realtà, da una prospettiva informatica è banale. > Chi è responsabile di aver diffuso ad almeno due persone le frasi > diffamatorie in questo caso? Vediamo se riusciamo a rispondere con uno schema (da visualizzare con un font monospace) +Rete di OpenAI-------+ +-> Persona 1 | | | | Server ChatGPT-[MD]-+-[MD]--+-> Persona 2 | | | +---------------------+ +-> Persona 3 | ... Lo schema è semplificato (ci sono vari server frontend nella rete etc..), ma il messaggio diffamatorio MD viene inviato dai server di OpenAI ai browser di N persone in risposta a richieste innocue. Chi è responsabile di aver diffuso ad almeno due persone le frasi diffamatorie in questo caso? Visto che GPT4 è stato costruito da OpenAI per rispondere a domande delle persone, direi che la responsabilità delle risposte è di Open AI. Mi sfugge qualcosa? > [...] Però dobbiamo come ho già detto spostare il focus da macchina e > messaggio, e andare sugli attori. Sono assolutamente d'accordo! Smettiamo di focalizzarci sul software, e concentriamoci su chi l'ha programmato, chi lo esegue manutiene e amministra etc... Iniziamo finalmente a considerare responsabili le persone che si vogliono nascondere dietro software opachi per violare impunemente i diritti altrui? Giacomo

April 6, 2023

Re: [nexa] incontro OpenAI e Garante privacy

by Stefano Zacchiroli

On Thu, Apr 06, 2023 at 01:08:47PM +0200, Stefano Quintarelli wrote: > https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/ > > se prima pensavo che l'opt out fosse sufficiente, forse mi ricredo e forse > si arrivera' all'opt in. Sulla stessa linea argomentativa: https://arstechnica.com/tech-policy/2023/04/stable-diffusion-copyright-laws… Sai mai che si riveli falsa l'ipotesi presa per buona dalla maggior parte degli attori (a partire da GitHub Copilot, che in questo è stato precursore) --- ovvero che sia fair use secondo il diritto americano fare addestramento su contenti protetti da diritto d'autore... -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

April 6, 2023

Re: [nexa] incontro OpenAI e Garante privacy

by Stefano Quintarelli

chi uscirne ? il garante o openai ? che ha provocato il garante o che ha provocato openai ? https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/ se prima pensavo che l'opt out fosse sufficiente, forse mi ricredo e forse si arrivera' all'opt in. ciao, s. On 06/04/23 12:51, Giuseppe Attardi wrote: > Comunicato a seguito dell’incontro: > > https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9872832 > <https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9872832> > > Il Garante si riserva di valutare le misure proposte dalla società, anche riguardo al > provvedimento adottato nei confronti di OpenAI. > > Tradotto: ancora non sanno bene come uscire dal pasticcio che hanno provocato. > > — Beppe > >> On 4 Apr 2023, at 22:15, nexa-request(a)server-nexa.polito.it wrote: >> >> From: Mauro Alovisio <mauro.alovisio(a)gmail.com <mailto:mauro.alovisio@gmail.com>> >> To: Diego Giorio <dgiorio(a)hotmail.com <mailto:dgiorio@hotmail.com>> >> Cc: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>>, Guido Vetere >> <vetere.guido(a)gmail.com <mailto:vetere.guido@gmail.com>>, "nexa(a)server-nexa.polito.it >> <mailto:nexa@server-nexa.polito.it>" >> <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> >> Subject: [nexa] incontro OpenAI e Garante privacy >> Message-ID: >> <CAEJR+62R32YyXbi=nXid3e-Jitqp4mkJM4fqF7nH84pk0y3vuA(a)mail.gmail.com >> <mailto:CAEJR+62R32YyXbi=nXid3e-Jitqp4mkJM4fqF7nH84pk0y3vuA@mail.gmail.com>> >> Content-Type: text/plain; charset="utf-8" >> >> dal sito del Garante >> ChatGPT: domani incontro tra OpenAI e Garante privacy >> >> *ChatGPT: domani incontro tra OpenAI e Garante privacy* >> >> E’ previsto per domani sera un incontro, in videoconferenza, tra i >> rappresentanti di OpenAI e il Garante per la protezione dei dati personali, >> che nei giorni scorsi ha imposto allapiattaforma >> di limitare temporaneamente il trattamento dei dati degli utenti italiani >> finché non si sarà messa in regola con la normativa privacy italiana e >> europea. >> >> L’iniziativa, apprezzata dal Garante, fa seguito alla lettera con cui ieri >> la società statunitense ha risposto al Garante per esprimere la propria >> disponibilità immediata a collaborare con l’Autorità italiana al fine di >> rispettare la disciplina privacy europea e giungere a una soluzione >> condivisa in grado di risolvere i profili critici sollevati dall’Autorità >> in merito al trattamento dei dati dei cittadini italiani. >> >> *Roma, 4 aprile 2023* >> >> >> *Un caro saluto* >> >> >> *Mauro* > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 6, 2023

Re: [nexa] incontro OpenAI e Garante privacy

by Giuseppe Attardi

Comunicato a seguito dell’incontro: https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9872832 Il Garante si riserva di valutare le misure proposte dalla società, anche riguardo al provvedimento adottato nei confronti di OpenAI. Tradotto: ancora non sanno bene come uscire dal pasticcio che hanno provocato. — Beppe > On 4 Apr 2023, at 22:15, nexa-request(a)server-nexa.polito.it wrote: > > From: Mauro Alovisio <mauro.alovisio(a)gmail.com <mailto:mauro.alovisio@gmail.com>> > To: Diego Giorio <dgiorio(a)hotmail.com <mailto:dgiorio@hotmail.com>> > Cc: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>>, Guido Vetere > <vetere.guido(a)gmail.com <mailto:vetere.guido@gmail.com>>, "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" > <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: [nexa] incontro OpenAI e Garante privacy > Message-ID: > <CAEJR+62R32YyXbi=nXid3e-Jitqp4mkJM4fqF7nH84pk0y3vuA(a)mail.gmail.com <mailto:CAEJR+62R32YyXbi=nXid3e-Jitqp4mkJM4fqF7nH84pk0y3vuA@mail.gmail.com>> > Content-Type: text/plain; charset="utf-8" > > dal sito del Garante > ChatGPT: domani incontro tra OpenAI e Garante privacy > > *ChatGPT: domani incontro tra OpenAI e Garante privacy* > > E’ previsto per domani sera un incontro, in videoconferenza, tra i > rappresentanti di OpenAI e il Garante per la protezione dei dati personali, > che nei giorni scorsi ha imposto alla piattaforma > di limitare temporaneamente il trattamento dei dati degli utenti italiani > finché non si sarà messa in regola con la normativa privacy italiana e > europea. > > L’iniziativa, apprezzata dal Garante, fa seguito alla lettera con cui ieri > la società statunitense ha risposto al Garante per esprimere la propria > disponibilità immediata a collaborare con l’Autorità italiana al fine di > rispettare la disciplina privacy europea e giungere a una soluzione > condivisa in grado di risolvere i profili critici sollevati dall’Autorità > in merito al trattamento dei dati dei cittadini italiani. > > *Roma, 4 aprile 2023* > > > *Un caro saluto* > > > *Mauro*

April 6, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Carlo Blengino

Mah, ho dei dubbi. I punti 0 e 1 sono nodali per una qualche responsabilità e qui manca un pezzo fondamentale: la diffamazione si consuma quando la frase lesiva viene percepita almeno dal secondo soggetto (io posso dire o sentire le peggiori cose riguardanti un terzo in una conversazione 1a1 e per fortuna non è reato!!) Chi è responsabile di aver diffuso ad almeno due persone le frasi diffamatorie in questo caso? Poi il problema resta eh, ma non nei termini indicati. Qui x si è se va bene autodiffamato, subendo poi le conseguenze della circolazione di quella diffamazione. Un effetto Streisand perfetto. Poi ripeto, il problema resta e il servizio non può non consentire, come avverrebbe nel mondo reale, un "chiarimento" per evitare altre possibili ma non scontate comunicazioni a terzi. Però dobbiamo come ho già detto spostare il focus da macchina e messaggio, e andare sugli attori. È tutto complicato... CB Il gio 6 apr 2023, 11:03 Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: > Buongiorno. > > > Grazie della segnalazione. > > > Gli effetti ulteriori saranno i seguenti (i punti da 0. a 2. hanno già > avuto luogo nel caso in oggetto*): > > > > 0. un generatore di stringhe di testo (nel caso citato, ChatGPT) > restituisce, a x oppure a y, un output D, diffamatorio nei riguardi di x; > > 1. x rettifica pubblicamente, online, ovviamente citando il testo > della diffamazione D; > 2. il testo della diffamazione D è prelevato da un generatore di testo > con accesso alla rete (nel caso in oggetto, Bing), che la restituisce > all'utente z quale output; > > 3. l'utente z procede come i molti che vanno cercando in libreria i > libri indicati da ChatGPT: diffonde la diffamazione D, ritenendola fondata; > 4. la vita di x è rovinata. > > > *<https://nitter.snopyta.org/WillOremus/status/1643687459627180057> > > Un saluto, > Daniela > > ------------------------------ > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Benedetto > Ponti <benedetto.ponti(a)unipg.it> > *Inviato:* giovedì 6 aprile 2023 07:38 > *A:* nexa(a)server-nexa.polito.it > *Oggetto:* [nexa] ChatGPT invented a sexual harassment scandal and named > a real law prof as the accused > > ChatGPT invented a sexual harassment scandal and named a real law prof as > the accused > > The AI chatbot can misrepresent key facts with great flourish, even citing > a fake Washington Post article as evidence > > April 5, 2023 at 2:07 p.m. EDT > > > One night last week, the law professor Jonathan Turley got a troubling > email. As part of a research study, a fellow lawyer in California had asked > the AI chatbot ChatGPT to generate a list of legal scholars who had > sexually harassed someone. Turley’s name was on the list. > Tech is not your friend. We are. Sign up for The Tech Friend newsletter. > > The chatbot, created by OpenAI, said Turley had made sexually suggestive > comments and attempted to touch a student while on a class trip to Alaska, > citing a March 2018 article in The Washington Post as the source of the > information. The problem: No such article existed. There had never been a > class trip to Alaska. And Turley said he’d never been accused of harassing > a student. > > A regular commentator in the media, Turley had sometimes asked for > corrections in news stories. But this time, there was no journalist or > editor to call — and no way to correct the record. > > (continua qui: > > https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/ > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230406053902084561…> > ) > -- > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 6, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Daniela Tafani

Buongiorno. Grazie della segnalazione. Gli effetti ulteriori saranno i seguenti (i punti da 0. a 2. hanno già avuto luogo nel caso in oggetto*): 0. un generatore di stringhe di testo (nel caso citato, ChatGPT) restituisce, a x oppure a y, un output D, diffamatorio nei riguardi di x; 1. x rettifica pubblicamente, online, ovviamente citando il testo della diffamazione D; 2. il testo della diffamazione D è prelevato da un generatore di testo con accesso alla rete (nel caso in oggetto, Bing), che la restituisce all'utente z quale output; 3. l'utente z procede come i molti che vanno cercando in libreria i libri indicati da ChatGPT: diffonde la diffamazione D, ritenendola fondata; 4. la vita di x è rovinata. *<https://nitter.snopyta.org/WillOremus/status/1643687459627180057> Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Benedetto Ponti <benedetto.ponti(a)unipg.it> Inviato: giovedì 6 aprile 2023 07:38 A: nexa(a)server-nexa.polito.it Oggetto: [nexa] ChatGPT invented a sexual harassment scandal and named a real law prof as the accused ChatGPT invented a sexual harassment scandal and named a real law prof as the accused The AI chatbot can misrepresent key facts with great flourish, even citing a fake Washington Post article as evidence April 5, 2023 at 2:07 p.m. EDT One night last week, the law professor Jonathan Turley got a troubling email. As part of a research study, a fellow lawyer in California had asked the AI chatbot ChatGPT to generate a list of legal scholars who had sexually harassed someone. Turley’s name was on the list. Tech is not your friend. We are. Sign up for The Tech Friend newsletter. The chatbot, created by OpenAI, said Turley had made sexually suggestive comments and attempted to touch a student while on a class trip to Alaska, citing a March 2018 article in The Washington Post as the source of the information. The problem: No such article existed. There had never been a class trip to Alaska. And Turley said he’d never been accused of harassing a student. A regular commentator in the media, Turley had sometimes asked for corrections in news stories. But this time, there was no journalist or editor to call — and no way to correct the record. (continua qui: https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230406053902084561…>) -- [cid:part1.0yNHdZM6.E7kktMnf@unipg.it]

April 6, 2023

Re: [nexa] Samsung workers made a major error by using ChatGPT. Samsung meeting notes and new source code are now in the wild after being leaked in ChatGPT

by Stefano Zacchiroli

On Thu, Apr 06, 2023 at 10:14:37AM +0200, Marco A. Calamari wrote: > Pur senza avere certezze, non credo che sia possibile effettuare un retraining > incrementale di un LLM. Non conosco il caso specifico di ChatGPT, ma conosco abbastanza bene quello dei large language models (LLMs) per il solo codice sorgente, dei quali ChatGPT è un sovrainsieme. Nello stato dell'arte nessuno fa retraining incrementale di LLM per il codice, anche se è tecnicamente fattibile, perché è troppo costoso in relazione a quanto ci si guadagna in termini di miglioramento dei risultati. Ciò che si fa invece è periodicamente rifare l'addresstamento di tutto il modello da zero, solitamente su dataset che nel frattempo sono molto aumentati di volume (e potenzialmente qualità), e usando pipeline di addestramento che sono anch'esse evolute rispetto alla generazione precedente del LLM. Da un punto di vista di politiche pubbliche, però, trovo che sia assolutamente irrilevante se il (re)training di ChatGPT sia incrementale o rifatto ogni volta a partire da zero. Il punto importante è che OpenAI può tecnicamente stoccare e utilizzare in futuro gli input degli utenti e quindi molto probabilmente lo farà --- nel modo tecnico che trova più adeguato ai bisogni dell'azienda e fino a quando qualcuno, ad esempio un regolatore pubblico, non impedirà loro di farlo. Saluti -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

April 6, 2023

Re: [nexa] Samsung workers made a major error by using ChatGPT. Samsung meeting notes and new source code are now in the wild after being leaked in ChatGPT

by Marco A. Calamari

On gio, 2023-04-06 at 09:13 +0200, Stefano Zacchiroli wrote: > Grazie per la segnalazione. Osservo che questo passaggio: > > On Wed, Apr 05, 2023 at 02:09:26PM +0000, Daniela Tafani wrote: > > The upshot is that in just under a month, there were three recorded > > incidences of employees leaking sensitive information via > > ChatGPT. Since ChatGPT retains user input data to further train > > itself, these trade secrets from Samsung are now effectively in the > > hands of OpenAI, the company behind the AI service. > > smentisce alcuni delle ipotesi che sono circolate qui in lista nei > giorni scorsi, sul fatto che ChatGPT *non* usasse gli input per il > (re)training futuro. (Personalmente lo trovo poco sorprendente: non si > capisce perché dovrebbero rinunciare ad utilizzare dati "gentilmente > offerti" dagli utenti del servizio...) Pur senza avere certezze, non credo che sia possibile effettuare un retraining incrementale di un LLM. Penso piuttosto che vengano "riprogrammati" filtraggi" digitali od umani (sfruttati) per modificare/censurare le risposte di GPT-3 in fase di input o dopo l'output. Nessun retraining. GTP continua, come tutti gli LLC a sparare output cinofallici (come direbbe Flora) per sua natura e progetto. JM2EC. Marco > A presto

April 6, 2023