April 2023 - nexa - server-nexa.polito.it

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Giovanni Battista Gallus

Carissimi, seguo il dibattito con estremo interesse, per la sua incomparabile ricchezza. Aggiungo alcune osservazioni sulla "diffamazione automatica". Al di là della circostanza che la diffamazione in USA non è reato (con tutto ciò che comporta) concordo con Carlo che, laddove fosse per avventura applicabile la legge italiana, il problema non si porrebbe comunque, dal punto di vista penalistisco, non solo e non tanto per la difficoltà di individuare se un secondo soggetto abbia visualizzato la stessa informazione (come sappiamo, non è detto che succeda, per non essere costanti le risposte), ma per assenza di dolo. Solo che il punto fondamentale a mio parere è un altro: un servizio che diffonda simili informazioni false può andare esente da responsabilità civile extracontrattuale, semplicemente sostenendo che le informazioni che genera non sono nè vere ne false, ma verisimili, e che quindi non si tratti di un bug ma di una feature? Mi pare di rivivere, sia pure con i dovuti distinguo, le querelle connesse a google autocomplete, con le varie ordinanze del Tribunale di Milano, e le stesse difese di Google ante Google Spain, ove si sosteneva (mi chiedo come facessero a rimanere seri) che l'attività di un motore di ricerca non fosse un trattamento di dati personali (par. 22 della sentenza Costeja Gonzales - "Secondo Google Spain e Google Inc., l’attività dei motori di ricerca non può essere considerata quale trattamento dei dati che appaiono sulle pagine web di terzi visualizzate nell’elenco dei risultati della ricerca, dato che detti motori di ricerca trattano le informazioni accessibili su Internet nel loro insieme senza operare una selezione tra i dati personali e le altre informazioni. Inoltre, anche supponendo che tale attività debba essere qualificata come «trattamento di dati», il gestore di un motore di ricerca non può essere considerato come «responsabile» di tale trattamento, dal momento che egli non ha conoscenza dei dati in questione e non esercita alcun controllo su di essi"). Leggere questo periodo a distanza di meno di 10 anni mi fa anche riflettere su come un ragionamento così palesemente specioso e infondato abbia resistito fino al 2014. Per cui mi chiedo in che modo possiamo accettare che un ragionamento sostanzialmente analogo venga oggi sostenuto da OpenAI. E questo senza andare a approfondire i profili di responsabilità collegati al Digital Governance act... Grazie a Nexa e a tutti coloro che animano la lista per gli spunti preziosissimi. GB Gallus -- Avv. Giovanni Battista Gallus Patrocinante in Cassazione LL.M. Master of Laws - Ph.D. ISO/IEC 27001/2013 Lead Auditor Array - Studio Legale Via Castelvì n. 9 09129 Cagliari (Italy) phone +390707966538 fax +390702041360 Piazza San Nazaro in Brolo 15 20121 Milano (Italy) phone +390287075914 fax +391782709429 e-mail gallus(a)array.law PEC g.gallus(a)legalmail.it twitter @gbgallus http://www.array.eu PGP key fingerprint 1278 C257 1372 8307 FD8A B625 502B E542 4123 3AED Sent with Proton Mail secure email. ------- Original Message ------- On Wednesday, April 12th, 2023 at 15:46, 380° <g380(a)biscuolo.net> wrote: > Buongiorno, > > avrei bisogno di un chiarimento per favore > > Carlo Blengino blengino(a)penalistiassociati.it writes: > > > Mah, ho dei dubbi. > > I punti 0 e 1 sono nodali per una qualche responsabilità > > > li riporto qui per completezza > > > > 0. un generatore di stringhe di testo (nel caso citato, ChatGPT) > > > restituisce, a x oppure a y, un output D, diffamatorio nei riguardi > > > di x; > > > > > > 1. x rettifica pubblicamente, online, ovviamente citando il testo > > > della diffamazione D; > > > e qui manca un pezzo fondamentale: la diffamazione si consuma quando > > la frase lesiva viene percepita almeno dal secondo soggetto (io posso > > dire o sentire le peggiori cose riguardanti un terzo in una > > conversazione 1a1 e per fortuna non è reato!!) > > > il fatto è descritto nell'articolo in questo modo: > > --8<---------------cut here---------------start------------->8--- > > > One night last week, the law professor Jonathan Turley got a troubling > email. As part of a research study, a fellow lawyer in California had > asked the AI chatbot ChatGPT to generate a list of legal scholars who > had sexually harassed someone. Turley’s name was on the list. > > The chatbot, created by OpenAI, said Turley had made sexually suggestive > comments and attempted to touch a student while on a class trip to > Alaska, citing a March 2018 article in The Washington Post as the source > of the information. The problem: No such article existed. There had > never been a class trip to Alaska. And Turley said he’d never been > accused of harassing a student. > > --8<---------------cut here---------------end--------------->8--- > > > Quindi una persona y chiede un elenco di giuristi che hanno molestato > sessualmente qualcuno a ChatGPT, non è x (Turley) a chiedere l'elenco a > ChatGPT; x (Turley) ne viene a conoscenza perché è y che glielo > riferisce > > > Chi è responsabile di aver diffuso ad almeno due persone le frasi > > diffamatorie in questo caso? > > > Quindi ChatGPT fornisce a un terzo un messaggio che è SPACCIATO [1] > come notizia, contiene informazioni false e /potenzialmente/ > diffamatorie portando a sostegno un articolo inventato e il cornuto è > Turley? :-D > > > Poi il problema resta eh, ma non nei termini indicati. > > > In che termini giuridici possiamo inquadrare allora questo problema? > > Turley a chi si può rivolgere per tutelare la propria reputazione? > > In che modo le persone possono difendersi dal fatto che ChatGPT (et al) > diffondono notizie false sul proprio conto? > > Perché OpenAI e tutti quelli che offrono servizi analoghi non scrivono > chiaramente in ogni messaggio che si tratta di /fiction/ e > intimano a tutti i propri utenti che non devono rimuovere tale > disclaimer? > > Ma anche se ci fosse tale "disclaimer" per evitare potenziale > diffamazione, sarebbe sufficiente a tutelare il diritto delle persone > nei confronti dei propri dati personali? > > [...] > > > È tutto complicato... > > > Secondo me invece è "solo" complesso... ma neanche tanto > > Credo che la soluzione più semplice per OpenAI et al sia di programmare > un filtro di ChatGPT per non diffondere nessuna /stronzata/ (cit.) in > merito alle persone (rimarrebbe comunque il "problemino" della > legittimità "da GDPR" della raccolta dei dati personali per il > training). > > Ci sono tante altre cose sulle quali ChatGPT può continuare a > diffondere... parodie :-D > > [...] > > saluti, 380° > > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about https://stallmansupport.org. > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 12, 2023

Re: [nexa] Statement from the listed authors of Stochastic Parrots on the “AI pause” letter

by Marco A. Calamari

On mer, 2023-04-12 at 14:15 +0200, Giuseppe Attardi wrote: > > > On 11 Apr 2023, at 20:34, Antonio Casilli <antonio.casilli(a)telecom-paris.fr> > > wrote: > > > > > PS. I LLM sono tutt’altro che Stochastic Parrots: ripetere a pappagallo i > > > testi da cui sono stati allenati è proprio ciò che non sanno fare. > > > > Beppe, "stochastic parrot" non è questo. > > Timnit Gebru et al. ne parlano nel senso di un dispositivo che "haphazardly > > stitch[es] together sequences of linguistic forms (...), according to > > probabilistic information about how they combine, but without any reference > > to meaning". L'accento è sullo "stochastic". > > Ma non è questo quello che fanno i LLM della serie GPT: non attaccano affatto > insieme “sequenze di forme linguistiche”. Questo riprodurrebbe appunto pezzi > di frasi a pappagallo. > Invece il loro meccanismo di base è quello del calcolo della distribuzione di > probabilità della prossima parola a seguire in una sequenza. > > Come spiega Giorgio Parisi nel suo libro In un volo di storni, il > funzionamento di un sistema complesso è il risultato dell’applicazione su > larga scala di semplici leggi probabilistiche. > I Large Language Models come GPT-3 fanno appunto questo: sono stati allenati a > stimare una distribuzione di probabilità. Da questa capacità usata su larga > scala (miliardi di parametri a rappresentare connessioni tra neuroni) > emergono, altre capacità, apparentemente scollegate, come quella di rispondere > a domande, riassumere testi, tradurre, scrivere codice, generare immagini, > compiere semplici ragionamenti, ecc. > > Il risultato più che altro esula dalla nostra capacità di “comprensione" e > tendiamo a concludere che non hanno capacità di “comprensione”, anche se sono > in grado di superare molti dei test che sono stati sviluppati proprio per > valutare la capacità di “comprensione" umana. > Se dicessero sempre sciocchezze, dovremmo solo farci una risata: in realtà le > risposte sono quasi sempre plausibili, e quindi coerenti col “meaning”, anche > se a volte inesatte. Scusa Giuseppe, ma hai usato la parola "emergono". Mi sembra di aver capito che intendi dire che GPT è diventato abbastanza complesso da manifestare, una proprietà "emergente", non prevista dal suo progetto. Dei comportamenti imprevisti che lo stanno portando ad essere, almeno statisticamente, in grado di "capire" la domanda e fornire la "risposta corretta", se la conosce? Perché in questo caso invece che GPT-4 chiamiamolo HAL9000 e siamo a posto! Perdonate la brutalità, è giusto per essere chiari. Marco > — Beppe > > > > C'è anche un altro senso sviluppato nell'articolo: gli LLMs sono dei > > pappagalli stocastici perché reiterano visioni del mondo egemoniche. > > > > > > > > > > From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> > > > > > > > > To: Nexa <nexa(a)server-nexa.polito.it> > > Subject: [nexa] Statement from the listed authors of Stochastic > > Parrots on the “AI pause” letter > > Message-ID: <22c6ff05-a037-f3de-68c0-83548bc4a122(a)mat.uniroma2.it> > > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > > > (mi pare non sia passato in lista) > > > > > > Statement from the listed authors of Stochastic Parrots on the “AI pause” > > letter > > > > Timnit Gebru (DAIR), Emily M. Bender (University of Washington), Angelina > > McMillan-Major (University of Washington), Margaret Mitchell (Hugging Face) > > > > March 31, 2023 > > > > /Tl;dr: The harms from so-called AI are real and present and follow from the > > acts of people and corporations deploying automated systems. Regulatory > > efforts should focus on transparency, accountability and preventing > > exploitative labor practices./ > > > > [ > > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230411183424079346… > > | > > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230411183424079346… > > ]

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

> Ulteriori prescrizioni riguardano la messa a disposizione di strumenti utili per permettere agli interessati, anche non utenti, di chiedere la rettifica dei dati personali che li riguardano generati in > modo inesatto dal servizio o la cancellazione degli stessi, nel caso la rettifica non fosse tecnicamente possibile. e niente: non hanno capito di cosa stanno parlando G. On Wed, 12 Apr 2023 at 16:49, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI > adotterà le misure richieste. L’Autorità ha dato tempo alla società fino al > 30 aprile per mettersi in regola > https://gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9874751 > > <https://gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9874751> > > OpenAI avrà tempo fino al 30 aprile per adempiere alle prescrizioni > imposte dal Garante per la protezione dei dati personali riguardo a > informativa, diritti degli interessati, utenti e non utenti, base giuridica > del trattamento dei dati personali per l’addestramento degli algoritmi con > i dati degli utenti. Solo allora, venendo meno le ragioni di urgenza, > l’Autorità sospenderà il provvedimento di limitazione provvisoria del > trattamento dei dati degli utenti italiani preso nei confronti della > società statunitense e ChatGPT potrà tornare accessibile dall’Italia. > > Sulla base del provvedimento odierno dell’Autorità, entro fine aprile la > società dovrà dunque adottare una serie di misure concrete. > > *Informativa* > > OpenAI dovrà predisporre e rendere disponibile sul proprio sito > un’informativa trasparente, in cui siano illustrate modalità e logica alla > base del trattamento dei dati necessari al funzionamento di ChatGPT nonché > i diritti attribuiti agli utenti e agli interessati non utenti. > L’informativa dovrà essere facilmente accessibile e collocata in una > posizione che ne consenta la lettura prima di procedere all’eventuale > registrazione al servizio. > > Per gli utenti che si collegano dall’Italia, l’informativa dovrà essere > presentata prima del completamento della registrazione e, sempre prima del > completamento della registrazione dovrà essere loro richiesto di dichiarare > di essere maggiorenni. > > Agli utenti già registrati, l’informativa dovrà essere presentata al > momento del primo accesso successivo alla riattivazione del servizio e, > nella stessa occasione, dovrà essere loro richiesto di superare un age gate > che escluda, sulla base dell’età dichiarata, gli utenti minorenni. > > *Base giuridica* > > Quanto alla base giuridica del trattamento dei dati personali degli utenti > per l’addestramento degli algoritmi, il Garante privacy ha ordinato a > OpenAI di eliminare ogni riferimento all’esecuzione di un contratto e di > indicare, invece, in base al principio di accountability, il consenso o il > legittimo interesse quale presupposto per utilizzare tali dati, fermo > restando l’esercizio dei propri poteri di verifica e accertamento > successivi a tale scelta. > > *Esercizio dei diritti* > > Ulteriori prescrizioni riguardano la messa a disposizione di strumenti > utili per permettere agli interessati, anche non utenti, di chiedere la > rettifica dei dati personali che li riguardano generati in modo inesatto > dal servizio o la cancellazione degli stessi, nel caso la rettifica non > fosse tecnicamente possibile. > > OpenAI, inoltre, dovrà consentire agli interessati non utenti di > esercitare, in modo semplice e accessibile, il diritto di opposizione > rispetto al trattamento dei loro dati personali utilizzati per l’esercizio > degli algoritmi e riconoscere analogo diritto agli utenti, qualora > individui il legittimo interesse quale base giuridica del trattamento. > > *Tutela dei minori* > > Per quanto riguarda la verifica dell’età dei minori, oltre all’immediata > implementazione di un sistema di richiesta dell’età ai fini della > registrazione al servizio, l’Autorità ha ordinato a OpenAI di sottoporle > entro il 31 maggio un piano di azione che preveda, al più tardi entro il 30 > settembre 2023, l’implementazione di un sistema di age verification, in > grado di escludere l’accesso agli utenti infratredicenni e ai minorenni per > i quali manchi il consenso dei genitori. > > *Campagna di informazione* > > Di concerto col Garante, entro il 15 maggio, OpenAI dovrà infine > promuovere una campagna di informazione su radio, televisione, giornali e > web per informare le persone sull’uso dei loro dati personali ai fini > dell’addestramento degli algoritmi. > > L’Autorità proseguirà nell’accertamento delle violazioni della disciplina > vigente eventualmente poste in essere dalla società e si riserva l’adozione > di ogni ulteriore o diversa misura che si rendesse necessaria a conclusione > della formale istruttoria tuttora in corso. > > *Roma, 12 aprile 2023* > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 12, 2023

ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Daniela Tafani

ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. L’Autorità ha dato tempo alla società fino al 30 aprile per mettersi in regola https://gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9874751 <https://gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9874751> OpenAI avrà tempo fino al 30 aprile per adempiere alle prescrizioni imposte dal Garante per la protezione dei dati personali riguardo a informativa, diritti degli interessati, utenti e non utenti, base giuridica del trattamento dei dati personali per l’addestramento degli algoritmi con i dati degli utenti. Solo allora, venendo meno le ragioni di urgenza, l’Autorità sospenderà il provvedimento di limitazione provvisoria del trattamento dei dati degli utenti italiani preso nei confronti della società statunitense e ChatGPT potrà tornare accessibile dall’Italia. Sulla base del provvedimento odierno dell’Autorità, entro fine aprile la società dovrà dunque adottare una serie di misure concrete. Informativa OpenAI dovrà predisporre e rendere disponibile sul proprio sito un’informativa trasparente, in cui siano illustrate modalità e logica alla base del trattamento dei dati necessari al funzionamento di ChatGPT nonché i diritti attribuiti agli utenti e agli interessati non utenti. L’informativa dovrà essere facilmente accessibile e collocata in una posizione che ne consenta la lettura prima di procedere all’eventuale registrazione al servizio. Per gli utenti che si collegano dall’Italia, l’informativa dovrà essere presentata prima del completamento della registrazione e, sempre prima del completamento della registrazione dovrà essere loro richiesto di dichiarare di essere maggiorenni. Agli utenti già registrati, l’informativa dovrà essere presentata al momento del primo accesso successivo alla riattivazione del servizio e, nella stessa occasione, dovrà essere loro richiesto di superare un age gate che escluda, sulla base dell’età dichiarata, gli utenti minorenni. Base giuridica Quanto alla base giuridica del trattamento dei dati personali degli utenti per l’addestramento degli algoritmi, il Garante privacy ha ordinato a OpenAI di eliminare ogni riferimento all’esecuzione di un contratto e di indicare, invece, in base al principio di accountability, il consenso o il legittimo interesse quale presupposto per utilizzare tali dati, fermo restando l’esercizio dei propri poteri di verifica e accertamento successivi a tale scelta. Esercizio dei diritti Ulteriori prescrizioni riguardano la messa a disposizione di strumenti utili per permettere agli interessati, anche non utenti, di chiedere la rettifica dei dati personali che li riguardano generati in modo inesatto dal servizio o la cancellazione degli stessi, nel caso la rettifica non fosse tecnicamente possibile. OpenAI, inoltre, dovrà consentire agli interessati non utenti di esercitare, in modo semplice e accessibile, il diritto di opposizione rispetto al trattamento dei loro dati personali utilizzati per l’esercizio degli algoritmi e riconoscere analogo diritto agli utenti, qualora individui il legittimo interesse quale base giuridica del trattamento. Tutela dei minori Per quanto riguarda la verifica dell’età dei minori, oltre all’immediata implementazione di un sistema di richiesta dell’età ai fini della registrazione al servizio, l’Autorità ha ordinato a OpenAI di sottoporle entro il 31 maggio un piano di azione che preveda, al più tardi entro il 30 settembre 2023, l’implementazione di un sistema di age verification, in grado di escludere l’accesso agli utenti infratredicenni e ai minorenni per i quali manchi il consenso dei genitori. Campagna di informazione Di concerto col Garante, entro il 15 maggio, OpenAI dovrà infine promuovere una campagna di informazione su radio, televisione, giornali e web per informare le persone sull’uso dei loro dati personali ai fini dell’addestramento degli algoritmi. L’Autorità proseguirà nell’accertamento delle violazioni della disciplina vigente eventualmente poste in essere dalla società e si riserva l’adozione di ogni ulteriore o diversa misura che si rendesse necessaria a conclusione della formale istruttoria tuttora in corso. Roma, 12 aprile 2023

April 12, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

Giacomo, anche il LM più puri usati per il più innocente task di classificazione potrebbero essere stati addestrati con dati ottenuti senza il consenso esplicito di chi li ha condivisi, dunque in violazione del GDPR. Che vogliamo fare? Se li usassi per costruire un diffamatore automatico, o un generatore di outing casuale, forse possiamo stabilire che il problema è l'applicazione, non il modello. Questo intendo per 'quadra'. E no, non sto in ansia, se non per il fatto che sotto VPN mi escono gli AD in tedesco :-(( G. On Wed, 12 Apr 2023 at 15:04, 380° <g380(a)biscuolo.net> wrote: > Buongiorno Guido, > > Guido Vetere <vetere.guido(a)gmail.com> writes: > > [...] > > > dunque chiedo: dobbiamo bandire l'intera pratica dei LLM oppure possiamo > > trovare una quadra? > > non fatemi stare in ansia .. :-) > > per quello che conta non penso che "bandire l'intera pratica" sia una > soluzione sbagliata al problema > > su "trovare una quadra" tra "l'intera pratica dei LLM" e il GDPR [1] non > sono io a dover rispondere ma chi usa i dati personali per il training > (e i re-training) dei modelli > > oppure "trovare la quadra" significa /pragmaticamente/ adattare le norme > a ciò che si può fare nell'"intera pratica" in esame, oppure applicare > eccezioni /ad-machinam/ in funzione della tecnologia adottata? > > ...non farmi stare in ansia :-D > > saluti, 380° > > [...] > > [1] per rimanere in oggetto, ma ci sono /diversi/ contesti > (diffamazione, esercizio abusivo della professione medica, pubblicità > ingannevole, ecc?) per i quali i "praticanti" di AI dovrebbero "trovare > la quadra" > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. >

April 12, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by 380°

Buongiorno, Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > Gli effetti ulteriori saranno i seguenti (i punti da 0. a 2. hanno già avuto luogo nel caso in oggetto*): > > > > 0. un generatore di stringhe di testo (nel caso citato, ChatGPT) restituisce, a x oppure a y, un output D, diffamatorio nei riguardi di x; > > 1. x rettifica pubblicamente, online, ovviamente citando il testo della diffamazione D; > 2. il testo della diffamazione D è prelevato da un generatore di testo con accesso alla rete (nel caso in oggetto, Bing), che la restituisce all'utente z quale output; > > 3. l'utente z procede come i molti che vanno cercando in libreria i libri indicati da ChatGPT: diffonde la diffamazione D, ritenendola fondata; > 4. la vita di x è rovinata. aggiungo i successivi effetti di questo andazzo: 5. l'amico a spiega a z che è un boccalone perché D è stato inventato da ChatGPT, sarebbe bastato verificare l'inesistenza dell'articolo citato 6. dopo la terza volta che si sente dare del boccalone, z comincia a sospettare che più spesso che no ChatGPT spara stronzate a caso 7. l'effetto Streisand (perché ci sarà) costringerà OpenAI et al a ridimensionare pesantemente le str... dichiarazioni dei propri dirigenti, che useranno toni meno apodittici 8. nonostante le contromisure, sempre più utenti smetteranno di dar peso a cose come ChatGPT 9. i nuovi dirigenti di OpenAI et al cominceranno a /rinnegare/ tutto quello che avevano fortemente sostenuto i loro predecessori, nel disperato tentativo di continuare a ricevere finanziamenti 10. gli investitori in AI cominceranno a domandarsi se chiedere a ChatGPT di calcolare il ROI sia stata una buona idea . . N. il terzo inverno della AI peccato che nel frattempo c'è l'altissima probabilità che a molti z sarà rovinata la reputazione saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 12, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by 380°

Buongiorno, avrei bisogno di un chiarimento per favore Carlo Blengino <blengino(a)penalistiassociati.it> writes: > Mah, ho dei dubbi. > I punti 0 e 1 sono nodali per una qualche responsabilità li riporto qui per completezza >> 0. un generatore di stringhe di testo (nel caso citato, ChatGPT) >> restituisce, a x oppure a y, un output D, diffamatorio nei riguardi >> di x; >> >> 1. x rettifica pubblicamente, online, ovviamente citando il testo >> della diffamazione D; > e qui manca un pezzo fondamentale: la diffamazione si consuma quando > la frase lesiva viene percepita almeno dal secondo soggetto (io posso > dire o sentire le peggiori cose riguardanti un terzo in una > conversazione 1a1 e per fortuna non è reato!!) il fatto è descritto nell'articolo in questo modo: --8<---------------cut here---------------start------------->8--- One night last week, the law professor Jonathan Turley got a troubling email. As part of a research study, a fellow lawyer in California had asked the AI chatbot ChatGPT to generate a list of legal scholars who had sexually harassed someone. Turley’s name was on the list. The chatbot, created by OpenAI, said Turley had made sexually suggestive comments and attempted to touch a student while on a class trip to Alaska, citing a March 2018 article in The Washington Post as the source of the information. The problem: No such article existed. There had never been a class trip to Alaska. And Turley said he’d never been accused of harassing a student. --8<---------------cut here---------------end--------------->8--- Quindi una persona y chiede un elenco di giuristi che hanno molestato sessualmente qualcuno a ChatGPT, non è x (Turley) a chiedere l'elenco a ChatGPT; x (Turley) ne viene a conoscenza perché è y che glielo riferisce > Chi è responsabile di aver diffuso ad almeno due persone le frasi > diffamatorie in questo caso? Quindi ChatGPT fornisce a un terzo un messaggio che è **SPACCIATO** [1] come notizia, contiene informazioni false e /potenzialmente/ diffamatorie portando a sostegno un articolo inventato e il *cornuto* è Turley? :-D > Poi il problema resta eh, ma non nei termini indicati. In che termini giuridici possiamo inquadrare allora questo problema? Turley a chi si può rivolgere per tutelare la propria reputazione? In che modo le persone possono difendersi dal fatto che ChatGPT (et al) diffondono notizie false sul proprio conto? Perché OpenAI e tutti quelli che offrono servizi analoghi non scrivono chiaramente in **ogni** messaggio che si tratta di /fiction/ _e_ intimano a tutti i propri utenti che non devono rimuovere tale disclaimer? Ma anche se ci fosse tale "disclaimer" per evitare potenziale diffamazione, sarebbe sufficiente a tutelare il diritto delle persone nei confronti dei propri dati personali? [...] > È tutto complicato... Secondo me invece è "solo" complesso... ma neanche tanto Credo che la soluzione più semplice per OpenAI et al sia di programmare un filtro di ChatGPT per non diffondere nessuna /stronzata/ (cit.) in merito alle persone (rimarrebbe comunque il "problemino" della legittimità "da GDPR" della raccolta dei dati personali per il training). Ci sono tante altre _cose_ sulle quali ChatGPT può continuare a diffondere... parodie :-D [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 12, 2023

Nuove indicazioni per raggiungere la sala dell'incontro | 161° Mercoledì di Nexa | 12 aprile 2023, ore 17.00

by Nexa Media

Gentilissime, gentilissimi, Vi segnaliamo che, a causa della chiusura dei locali del Politecnico per le festività pasquali, per accedere alla sala dove si terrà il Mercoledì di Nexa di oggi, dovrete, una volta entrati dal portone di ferro in Via Boggio 65/a (che troverete aperto), salire le scale fino al 1° piano: lì troverete ad accogliervi un membro dello staff che vi condurrà nella sala dell'incontro. Ricordiamo che sarà inoltre possibile partecipare all'incontro collegandosi da remoto al seguente link: https://didattica.polito.it/VClass/NexaEvent Per maggiori informazioni sull'evento è possibile consultare la pagina: https://nexa.polito.it/mercoledi-161 Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

April 12, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by 380°

Buongiorno Guido, Guido Vetere <vetere.guido(a)gmail.com> writes: [...] > dunque chiedo: dobbiamo bandire l'intera pratica dei LLM oppure possiamo > trovare una quadra? > non fatemi stare in ansia .. :-) per quello che conta non penso che "bandire l'intera pratica" sia una soluzione sbagliata al problema su "trovare una quadra" tra "l'intera pratica dei LLM" e il GDPR [1] non sono io a dover rispondere ma chi usa i dati personali per il training (e i re-training) dei modelli oppure "trovare la quadra" significa /pragmaticamente/ adattare le norme a ciò che si può fare nell'"intera pratica" in esame, oppure applicare eccezioni /ad-machinam/ in funzione della tecnologia adottata? ...non farmi stare in ansia :-D saluti, 380° [...] [1] per rimanere in oggetto, ma ci sono /diversi/ contesti (diffamazione, esercizio abusivo della professione medica, pubblicità ingannevole, ecc?) per i quali i "praticanti" di AI dovrebbero "trovare la quadra" -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 12, 2023

Re: [nexa] Statement from the listed authors of Stochastic Parrots on the “AI pause” letter

by Giuseppe Attardi

> On 11 Apr 2023, at 20:34, Antonio Casilli <antonio.casilli(a)telecom-paris.fr> wrote: > > >> PS. I LLM sono tutt’altro che Stochastic Parrots: ripetere a pappagallo i testi da cui sono stati allenati è proprio ciò che non sanno fare. > > Beppe, "stochastic parrot" non è questo. > Timnit Gebru et al. ne parlano nel senso di un dispositivo che "haphazardly stitch[es] together sequences of linguistic forms (...), according to probabilistic information about how they combine, but without any reference to meaning". L'accento è sullo "stochastic". Ma non è questo quello che fanno i LLM della serie GPT: non attaccano affatto insieme “sequenze di forme linguistiche”. Questo riprodurrebbe appunto pezzi di frasi a pappagallo. Invece il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza. Come spiega Giorgio Parisi nel suo libro In un volo di storni, il funzionamento di un sistema complesso è il risultato dell’applicazione su larga scala di semplici leggi probabilistiche. I Large Language Models come GPT-3 fanno appunto questo: sono stati allenati a stimare una distribuzione di probabilità. Da questa capacità usata su larga scala (miliardi di parametri a rappresentare connessioni tra neuroni) emergono, altre capacità, apparentemente scollegate, come quella di rispondere a domande, riassumere testi, tradurre, scrivere codice, generare immagini, compiere semplici ragionamenti, ecc. Il risultato più che altro esula dalla nostra capacità di “comprensione" e tendiamo a concludere che non hanno capacità di “comprensione”, anche se sono in grado di superare molti dei test che sono stati sviluppati proprio per valutare la capacità di “comprensione" umana. Se dicessero sempre sciocchezze, dovremmo solo farci una risata: in realtà le risposte sono quasi sempre plausibili, e quindi coerenti col “meaning”, anche se a volte inesatte. — Beppe > C'è anche un altro senso sviluppato nell'articolo: gli LLMs sono dei pappagalli stocastici perché reiterano visioni del mondo egemoniche. > > > > > From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> > > > > To: Nexa <nexa(a)server-nexa.polito.it> > Subject: [nexa] Statement from the listed authors of Stochastic > Parrots on the “AI pause” letter > Message-ID: <22c6ff05-a037-f3de-68c0-83548bc4a122(a)mat.uniroma2.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > (mi pare non sia passato in lista) > > > Statement from the listed authors of Stochastic Parrots on the “AI pause” letter > > Timnit Gebru (DAIR), Emily M. Bender (University of Washington), Angelina McMillan-Major (University of Washington), Margaret Mitchell (Hugging Face) > > March 31, 2023 > > /Tl;dr: The harms from so-called AI are real and present and follow from the acts of people and corporations deploying automated systems. Regulatory efforts should focus on transparency, accountability and preventing exploitative labor practices./ > > [ https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230411183424079346… | https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230411183424079346… ] > > > / > > -- > > -- EN > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230411183424079346…

April 12, 2023