- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Diego Giorio

Forse non è il caso di aprire un nuovo filone filosofico/giuridico, tuttavia mi è venuto in mente che anche il meccanismo dell'opt-out potrebbe prestarsi a parecchie discussioni. Già con il diritto all'oblio ci sono stati casi nei quali il diritto di cronaca e di conoscenza storica - come nel caso di un terrorista degli '70 - è stato ritenuto prevalente sul diritto all'oblio, per cui la de-indicizzazione non è stata concessa. Fino a che punto un personaggio pubblico ha diritto di opt-out? Se, ad esempio, il Presidente Mattarella chiedesse la rimozione della sua pagina di Wikipedia, ne avrebbe diritto oppure no? E fino a che punto bisogna essere famosi per restare nel ruolo di personaggio pubblico, per cui il diritto della gente alla consocenza può prevalere, e fino a che punto si può scomparire? Chi decide? Questo non solo per l'AI, ma in generale per tanti tipi di contenuto. Sinceramente non ho risposte, mi è venuta in mente la domanda ed ho voluto condividerla, sperando che quclhe filosofo e/o giurista possa avere le idee più chiare e voglia condividere le sue conclusioni. D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Guido Vetere <vetere.guido(a)gmail.com> Sent: Wednesday, April 12, 2023 7:30 PM To: Stefano Quintarelli <stefano(a)quintarelli.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. Allora: il metodo 2 (reinforcement learning per evitare di rispondere a certe domande) si può fare e già lo fanno; l'1 (re-training del modello ogni volta che qualcuno fa opt-out) proprio no G. Il Mer 12 Apr 2023, 21:02 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it>> ha scritto: e' un modo un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) fa ora (cfr mio esmepio precedente salvini/schlein) ciao, s. On 12/04/23 21:01, Guido Vetere wrote: > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi > in cui compare la stringa 'Guido Vetere'? > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it> > <mailto:stefano@quintarelli.it<mailto:stefano@quintarelli.it>>> ha scritto: > > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> <mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> <mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Allora: il metodo 2 (reinforcement learning per evitare di rispondere a certe domande) si può fare e già lo fanno; l'1 (re-training del modello ogni volta che qualcuno fa opt-out) proprio no G. Il Mer 12 Apr 2023, 21:02 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > e' un modo > un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) > fa ora > (cfr mio esmepio precedente salvini/schlein) > ciao, s. > > On 12/04/23 21:01, Guido Vetere wrote: > > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello > togliendo tutti i passaggi > > in cui compare la stringa 'Guido Vetere'? > > > > > > > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it > > <mailto:stefano@quintarelli.it>> ha scritto: > > > > per l'opt out basta retraining. > > il gdpr lo chiede entro 30 gg., se non erro > > > > On 12/04/23 20:12, Giacomo Tesio wrote: > > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > > >> > strumenti utili per permettere agli interessati, anche non > utenti, > > >> > di chiedere la rettifica dei dati personali che li riguardano > > >> > generati in modo inesatto dal servizio o la cancellazione > > >> > degli stessi, nel caso la rettifica non fosse tecnicamente > possibile. > > >> > > >> e niente: non hanno capito di cosa stanno parlando > > > > > > Al contrario, per una volta, come informatico che ha ben chiaro > di cosa > > > si sta parlando, mi sembra abbiano capito benissimo. > > > > > > Dici che non è ancora tecnicamente possibile? > > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > > di Open AI che lo renderà possibile. > > > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è > dedicata, > > > non credi? > > > > > > > > > Giacomo > > > _______________________________________________ > > > nexa mailing list > > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > > >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Quintarelli

e' un modo un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) fa ora (cfr mio esmepio precedente salvini/schlein) ciao, s. On 12/04/23 21:01, Guido Vetere wrote: > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi > in cui compare la stringa 'Guido Vetere'? > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it > <mailto:stefano@quintarelli.it>> ha scritto: > > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi in cui compare la stringa 'Guido Vetere'? Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente > possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Quintarelli

per l'opt out basta retraining. il gdpr lo chiede entro 30 gg., se non erro On 12/04/23 20:12, Giacomo Tesio wrote: > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > >> > Ulteriori prescrizioni riguardano la messa a disposizione di >> > strumenti utili per permettere agli interessati, anche non utenti, >> > di chiedere la rettifica dei dati personali che li riguardano >> > generati in modo inesatto dal servizio o la cancellazione >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. >> >> e niente: non hanno capito di cosa stanno parlando > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > si sta parlando, mi sembra abbiano capito benissimo. > > Dici che non è ancora tecnicamente possibile? > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > di Open AI che lo renderà possibile. > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > non credi? > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > Ulteriori prescrizioni riguardano la messa a disposizione di > > strumenti utili per permettere agli interessati, anche non utenti, > > di chiedere la rettifica dei dati personali che li riguardano > > generati in modo inesatto dal servizio o la cancellazione > > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > > e niente: non hanno capito di cosa stanno parlando Al contrario, per una volta, come informatico che ha ben chiaro di cosa si sta parlando, mi sembra abbiano capito benissimo. Dici che non è ancora tecnicamente possibile? Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo di Open AI che lo renderà possibile. Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, non credi? Giacomo

April 12, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Giacomo Tesio

Salve Giovanni Battista, grazie per questa considerazione interessantissima: On Wed, 12 Apr 2023 16:08:21 +0000 Giovanni Battista Gallus via nexa wrote: > laddove fosse per avventura applicabile la legge italiana, il > problema [della diffamazione] non si porrebbe comunque, dal punto di > vista penalistisco [...] per assenza di dolo. Non mi è chiaro un aspetto: cosa ti fa pensare che non ci sia dolo? Assumiamo che Open AI sostenga, senza poterlo dimostrare, di non aver selezionato intenzionalmente i testi del dataset per produrre in output una certa diffamazione per una certa persona o categoria di persone. Cosa che potrebbe invece benissimo aver fatto. Basta che l'imputato dichiari di non aver avuto intenzione di nuocere alla vittima per far decadere il reato di diffamazione? Giacomo

April 12, 2023

termine 30 aprile per Open Ai per le msiure richieste- nuovo provvedimento del Garante

by Mauro Alovisio

ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. L’Autorità ha dato tempo alla società fino al 30 aprile per mettersi in regola [image: Stampa] Stam <https://garanteprivacy.it/home/docweb/-/docweb-display/docweb/9874751#> *ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste L’Autorità ha dato tempo alla società fino al 30 aprile per mettersi in regola* OpenAI avrà tempo fino al 30 aprile per adempiere alle prescrizioni imposte dal Garante per la protezione dei dati personali riguardo a informativa, diritti degli interessati, utenti e non utenti, base giuridica del trattamento dei dati personali per l’addestramento degli algoritmi con i dati degli utenti. Solo allora, venendo meno le ragioni di urgenza, l’Autorità sospenderà il provvedimento di limitazione provvisoria del trattamento dei dati degli utenti italiani preso nei confronti della società statunitense e ChatGPT potrà tornare accessibile dall’Italia. Sulla base del provvedimento odierno <https://garanteprivacy.it/garante/doc.jsp?ID=9874702> dell’Autorità, entro fine aprile la società dovrà dunque adottare una serie di misure concrete. *Informativa* OpenAI dovrà predisporre e rendere disponibile sul proprio sito un’informativa trasparente, in cui siano illustrate modalità e logica alla base del trattamento dei dati necessari al funzionamento di ChatGPT nonché i diritti attribuiti agli utenti e agli interessati non utenti. L’informativa dovrà essere facilmente accessibile e collocata in una posizione che ne consenta la lettura prima di procedere all’eventuale registrazione al servizio. Per gli utenti che si collegano dall’Italia, l’informativa dovrà essere presentata prima del completamento della registrazione e, sempre prima del completamento della registrazione dovrà essere loro richiesto di dichiarare di essere maggiorenni. Agli utenti già registrati, l’informativa dovrà essere presentata al momento del primo accesso successivo alla riattivazione del servizio e, nella stessa occasione, dovrà essere loro richiesto di superare un age gate che escluda, sulla base dell’età dichiarata, gli utenti minorenni. *Base giuridica* Quanto alla base giuridica del trattamento dei dati personali degli utenti per l’addestramento degli algoritmi, il Garante privacy ha ordinato a OpenAI di eliminare ogni riferimento all’esecuzione di un contratto e di indicare, invece, in base al principio di accountability, il consenso o il legittimo interesse quale presupposto per utilizzare tali dati, fermo restando l’esercizio dei propri poteri di verifica e accertamento successivi a tale scelta. *Esercizio dei diritti* Ulteriori prescrizioni riguardano la messa a disposizione di strumenti utili per permettere agli interessati, anche non utenti, di chiedere la rettifica dei dati personali che li riguardano generati in modo inesatto dal servizio o la cancellazione degli stessi, nel caso la rettifica non fosse tecnicamente possibile. OpenAI, inoltre, dovrà consentire agli interessati non utenti di esercitare, in modo semplice e accessibile, il diritto di opposizione rispetto al trattamento dei loro dati personali utilizzati per l’esercizio degli algoritmi e riconoscere analogo diritto agli utenti, qualora individui il legittimo interesse quale base giuridica del trattamento. *Tutela dei minori* Per quanto riguarda la verifica dell’età dei minori, oltre all’immediata implementazione di un sistema di richiesta dell’età ai fini della registrazione al servizio, l’Autorità ha ordinato a OpenAI di sottoporle entro il 31 maggio un piano di azione che preveda, al più tardi entro il 30 settembre 2023, l’implementazione di un sistema di age verification, in grado di escludere l’accesso agli utenti infratredicenni e ai minorenni per i quali manchi il consenso dei genitori. *Campagna di informazione* Di concerto col Garante, entro il 15 maggio, OpenAI dovrà infine promuovere una campagna di informazione su radio, televisione, giornali e web per informare le persone sull’uso dei loro dati personali ai fini dell’addestramento degli algoritmi. L’Autorità proseguirà nell’accertamento delle violazioni della disciplina vigente eventualmente poste in essere dalla società e si riserva l’adozione di ogni ulteriore o diversa misura che si rendesse necessaria a conclusione della formale istruttoria tuttora in corso. *Roma, 12 aprile 2023* ___________

April 12, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Giovanni Battista Gallus

Carissimi, seguo il dibattito con estremo interesse, per la sua incomparabile ricchezza. Aggiungo alcune osservazioni sulla "diffamazione automatica". Al di là della circostanza che la diffamazione in USA non è reato (con tutto ciò che comporta) concordo con Carlo che, laddove fosse per avventura applicabile la legge italiana, il problema non si porrebbe comunque, dal punto di vista penalistisco, non solo e non tanto per la difficoltà di individuare se un secondo soggetto abbia visualizzato la stessa informazione (come sappiamo, non è detto che succeda, per non essere costanti le risposte), ma per assenza di dolo. Solo che il punto fondamentale a mio parere è un altro: un servizio che diffonda simili informazioni false può andare esente da responsabilità civile extracontrattuale, semplicemente sostenendo che le informazioni che genera non sono nè vere ne false, ma verisimili, e che quindi non si tratti di un bug ma di una feature? Mi pare di rivivere, sia pure con i dovuti distinguo, le querelle connesse a google autocomplete, con le varie ordinanze del Tribunale di Milano, e le stesse difese di Google ante Google Spain, ove si sosteneva (mi chiedo come facessero a rimanere seri) che l'attività di un motore di ricerca non fosse un trattamento di dati personali (par. 22 della sentenza Costeja Gonzales - "Secondo Google Spain e Google Inc., l’attività dei motori di ricerca non può essere considerata quale trattamento dei dati che appaiono sulle pagine web di terzi visualizzate nell’elenco dei risultati della ricerca, dato che detti motori di ricerca trattano le informazioni accessibili su Internet nel loro insieme senza operare una selezione tra i dati personali e le altre informazioni. Inoltre, anche supponendo che tale attività debba essere qualificata come «trattamento di dati», il gestore di un motore di ricerca non può essere considerato come «responsabile» di tale trattamento, dal momento che egli non ha conoscenza dei dati in questione e non esercita alcun controllo su di essi"). Leggere questo periodo a distanza di meno di 10 anni mi fa anche riflettere su come un ragionamento così palesemente specioso e infondato abbia resistito fino al 2014. Per cui mi chiedo in che modo possiamo accettare che un ragionamento sostanzialmente analogo venga oggi sostenuto da OpenAI. E questo senza andare a approfondire i profili di responsabilità collegati al Digital Governance act... Grazie a Nexa e a tutti coloro che animano la lista per gli spunti preziosissimi. GB Gallus -- Avv. Giovanni Battista Gallus Patrocinante in Cassazione LL.M. Master of Laws - Ph.D. ISO/IEC 27001/2013 Lead Auditor Array - Studio Legale Via Castelvì n. 9 09129 Cagliari (Italy) phone +390707966538 fax +390702041360 Piazza San Nazaro in Brolo 15 20121 Milano (Italy) phone +390287075914 fax +391782709429 e-mail gallus(a)array.law PEC g.gallus(a)legalmail.it twitter @gbgallus http://www.array.eu PGP key fingerprint 1278 C257 1372 8307 FD8A B625 502B E542 4123 3AED Sent with Proton Mail secure email. ------- Original Message ------- On Wednesday, April 12th, 2023 at 15:46, 380° <g380(a)biscuolo.net> wrote: > Buongiorno, > > avrei bisogno di un chiarimento per favore > > Carlo Blengino blengino(a)penalistiassociati.it writes: > > > Mah, ho dei dubbi. > > I punti 0 e 1 sono nodali per una qualche responsabilità > > > li riporto qui per completezza > > > > 0. un generatore di stringhe di testo (nel caso citato, ChatGPT) > > > restituisce, a x oppure a y, un output D, diffamatorio nei riguardi > > > di x; > > > > > > 1. x rettifica pubblicamente, online, ovviamente citando il testo > > > della diffamazione D; > > > e qui manca un pezzo fondamentale: la diffamazione si consuma quando > > la frase lesiva viene percepita almeno dal secondo soggetto (io posso > > dire o sentire le peggiori cose riguardanti un terzo in una > > conversazione 1a1 e per fortuna non è reato!!) > > > il fatto è descritto nell'articolo in questo modo: > > --8<---------------cut here---------------start------------->8--- > > > One night last week, the law professor Jonathan Turley got a troubling > email. As part of a research study, a fellow lawyer in California had > asked the AI chatbot ChatGPT to generate a list of legal scholars who > had sexually harassed someone. Turley’s name was on the list. > > The chatbot, created by OpenAI, said Turley had made sexually suggestive > comments and attempted to touch a student while on a class trip to > Alaska, citing a March 2018 article in The Washington Post as the source > of the information. The problem: No such article existed. There had > never been a class trip to Alaska. And Turley said he’d never been > accused of harassing a student. > > --8<---------------cut here---------------end--------------->8--- > > > Quindi una persona y chiede un elenco di giuristi che hanno molestato > sessualmente qualcuno a ChatGPT, non è x (Turley) a chiedere l'elenco a > ChatGPT; x (Turley) ne viene a conoscenza perché è y che glielo > riferisce > > > Chi è responsabile di aver diffuso ad almeno due persone le frasi > > diffamatorie in questo caso? > > > Quindi ChatGPT fornisce a un terzo un messaggio che è SPACCIATO [1] > come notizia, contiene informazioni false e /potenzialmente/ > diffamatorie portando a sostegno un articolo inventato e il cornuto è > Turley? :-D > > > Poi il problema resta eh, ma non nei termini indicati. > > > In che termini giuridici possiamo inquadrare allora questo problema? > > Turley a chi si può rivolgere per tutelare la propria reputazione? > > In che modo le persone possono difendersi dal fatto che ChatGPT (et al) > diffondono notizie false sul proprio conto? > > Perché OpenAI e tutti quelli che offrono servizi analoghi non scrivono > chiaramente in ogni messaggio che si tratta di /fiction/ e > intimano a tutti i propri utenti che non devono rimuovere tale > disclaimer? > > Ma anche se ci fosse tale "disclaimer" per evitare potenziale > diffamazione, sarebbe sufficiente a tutelare il diritto delle persone > nei confronti dei propri dati personali? > > [...] > > > È tutto complicato... > > > Secondo me invece è "solo" complesso... ma neanche tanto > > Credo che la soluzione più semplice per OpenAI et al sia di programmare > un filtro di ChatGPT per non diffondere nessuna /stronzata/ (cit.) in > merito alle persone (rimarrebbe comunque il "problemino" della > legittimità "da GDPR" della raccolta dei dati personali per il > training). > > Ci sono tante altre cose sulle quali ChatGPT può continuare a > diffondere... parodie :-D > > [...] > > saluti, 380° > > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about https://stallmansupport.org. > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 12, 2023

Re: [nexa] Statement from the listed authors of Stochastic Parrots on the “AI pause” letter

by Marco A. Calamari

On mer, 2023-04-12 at 14:15 +0200, Giuseppe Attardi wrote: > > > On 11 Apr 2023, at 20:34, Antonio Casilli <antonio.casilli(a)telecom-paris.fr> > > wrote: > > > > > PS. I LLM sono tutt’altro che Stochastic Parrots: ripetere a pappagallo i > > > testi da cui sono stati allenati è proprio ciò che non sanno fare. > > > > Beppe, "stochastic parrot" non è questo. > > Timnit Gebru et al. ne parlano nel senso di un dispositivo che "haphazardly > > stitch[es] together sequences of linguistic forms (...), according to > > probabilistic information about how they combine, but without any reference > > to meaning". L'accento è sullo "stochastic". > > Ma non è questo quello che fanno i LLM della serie GPT: non attaccano affatto > insieme “sequenze di forme linguistiche”. Questo riprodurrebbe appunto pezzi > di frasi a pappagallo. > Invece il loro meccanismo di base è quello del calcolo della distribuzione di > probabilità della prossima parola a seguire in una sequenza. > > Come spiega Giorgio Parisi nel suo libro In un volo di storni, il > funzionamento di un sistema complesso è il risultato dell’applicazione su > larga scala di semplici leggi probabilistiche. > I Large Language Models come GPT-3 fanno appunto questo: sono stati allenati a > stimare una distribuzione di probabilità. Da questa capacità usata su larga > scala (miliardi di parametri a rappresentare connessioni tra neuroni) > emergono, altre capacità, apparentemente scollegate, come quella di rispondere > a domande, riassumere testi, tradurre, scrivere codice, generare immagini, > compiere semplici ragionamenti, ecc. > > Il risultato più che altro esula dalla nostra capacità di “comprensione" e > tendiamo a concludere che non hanno capacità di “comprensione”, anche se sono > in grado di superare molti dei test che sono stati sviluppati proprio per > valutare la capacità di “comprensione" umana. > Se dicessero sempre sciocchezze, dovremmo solo farci una risata: in realtà le > risposte sono quasi sempre plausibili, e quindi coerenti col “meaning”, anche > se a volte inesatte. Scusa Giuseppe, ma hai usato la parola "emergono". Mi sembra di aver capito che intendi dire che GPT è diventato abbastanza complesso da manifestare, una proprietà "emergente", non prevista dal suo progetto. Dei comportamenti imprevisti che lo stanno portando ad essere, almeno statisticamente, in grado di "capire" la domanda e fornire la "risposta corretta", se la conosce? Perché in questo caso invece che GPT-4 chiamiamolo HAL9000 e siamo a posto! Perdonate la brutalità, è giusto per essere chiari. Marco > — Beppe > > > > C'è anche un altro senso sviluppato nell'articolo: gli LLMs sono dei > > pappagalli stocastici perché reiterano visioni del mondo egemoniche. > > > > > > > > > > From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> > > > > > > > > To: Nexa <nexa(a)server-nexa.polito.it> > > Subject: [nexa] Statement from the listed authors of Stochastic > > Parrots on the “AI pause” letter > > Message-ID: <22c6ff05-a037-f3de-68c0-83548bc4a122(a)mat.uniroma2.it> > > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > > > (mi pare non sia passato in lista) > > > > > > Statement from the listed authors of Stochastic Parrots on the “AI pause” > > letter > > > > Timnit Gebru (DAIR), Emily M. Bender (University of Washington), Angelina > > McMillan-Major (University of Washington), Margaret Mitchell (Hugging Face) > > > > March 31, 2023 > > > > /Tl;dr: The harms from so-called AI are real and present and follow from the > > acts of people and corporations deploying automated systems. Regulatory > > efforts should focus on transparency, accountability and preventing > > exploitative labor practices./ > > > > [ > > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230411183424079346… > > | > > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230411183424079346… > > ]

April 12, 2023