April 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Salve Diego, ottima domanda: On Wed, 12 Apr 2023 20:07:57 +0000 Diego Giorio wrote: > Se, ad esempio, il Presidente Mattarella chiedesse la rimozione della > sua pagina di Wikipedia, ne avrebbe diritto oppure no? Probabilmente no. Ma se la sua pagina Wikipedia contenesse inesattezze di qualsiasi natura avrebbe sempre il diritto alla loro rettifica. Il fatto che Wikipedia sia salvata su file invece che su una matrice N dimensionale è invece irrilevante: i diritti umani non decadono (e non devono essere sacrificati) così facilmente. Giacomo

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

On Wed, 12 Apr 2023 21:30:48 +0200 Guido Vetere wrote: > Allora: il metodo 2 (reinforcement learning per evitare di rispondere > a certe domande) si può fare e già lo fanno; l'1 (re-training del > modello ogni volta che qualcuno fa opt-out) proprio no Riprogrammare statisticamente il software (il "re-training") rimuovendo tutte le occorrenze di testi che contengano il nome di chi chiede di essere cancellato, è tecnicamente fattibilissimo. E' solo costoso. Ed è esattamente ciò che è necessario fare su richiesta dell'interessato: https://gdpr-info.eu/art-17-gdpr/ Ma di nuovo, non è un ottimo incentivo alla ricerca di metodi più economici ed ecologici di effettuare tali operazioni? La ragion d'essere di Open AI, giusto? Stessa cosa per il diritto alla rettifica, che non viene meno solo perché il contenuto errato è salvato in una matrice invece che in un file o in un database. Tutte ottime ragioni per finanziare Open AI (e molti altri centri di ricerca)! Open AI dovrebbe ringraziare il GDPR e il Garante Italiano. Spegnere GPT e dire a tutti: "Vi piace il giocattolo? Ok allora dateci qualche trilliardo di dollari per trovare il modo di renderlo compatibile con i diritti umani". Per una volta diritto, ecologia ed economia si sposano alla perfezione! D'altro canto non ci sono alternative: mica vorremo sacrificare i diritti umani e il futuro del pianeta ai profitti di una azienda? Giacomo

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Diego Giorio

Forse non è il caso di aprire un nuovo filone filosofico/giuridico, tuttavia mi è venuto in mente che anche il meccanismo dell'opt-out potrebbe prestarsi a parecchie discussioni. Già con il diritto all'oblio ci sono stati casi nei quali il diritto di cronaca e di conoscenza storica - come nel caso di un terrorista degli '70 - è stato ritenuto prevalente sul diritto all'oblio, per cui la de-indicizzazione non è stata concessa. Fino a che punto un personaggio pubblico ha diritto di opt-out? Se, ad esempio, il Presidente Mattarella chiedesse la rimozione della sua pagina di Wikipedia, ne avrebbe diritto oppure no? E fino a che punto bisogna essere famosi per restare nel ruolo di personaggio pubblico, per cui il diritto della gente alla consocenza può prevalere, e fino a che punto si può scomparire? Chi decide? Questo non solo per l'AI, ma in generale per tanti tipi di contenuto. Sinceramente non ho risposte, mi è venuta in mente la domanda ed ho voluto condividerla, sperando che quclhe filosofo e/o giurista possa avere le idee più chiare e voglia condividere le sue conclusioni. D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Guido Vetere <vetere.guido(a)gmail.com> Sent: Wednesday, April 12, 2023 7:30 PM To: Stefano Quintarelli <stefano(a)quintarelli.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. Allora: il metodo 2 (reinforcement learning per evitare di rispondere a certe domande) si può fare e già lo fanno; l'1 (re-training del modello ogni volta che qualcuno fa opt-out) proprio no G. Il Mer 12 Apr 2023, 21:02 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it>> ha scritto: e' un modo un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) fa ora (cfr mio esmepio precedente salvini/schlein) ciao, s. On 12/04/23 21:01, Guido Vetere wrote: > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi > in cui compare la stringa 'Guido Vetere'? > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it> > <mailto:stefano@quintarelli.it<mailto:stefano@quintarelli.it>>> ha scritto: > > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> <mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> <mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Allora: il metodo 2 (reinforcement learning per evitare di rispondere a certe domande) si può fare e già lo fanno; l'1 (re-training del modello ogni volta che qualcuno fa opt-out) proprio no G. Il Mer 12 Apr 2023, 21:02 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > e' un modo > un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) > fa ora > (cfr mio esmepio precedente salvini/schlein) > ciao, s. > > On 12/04/23 21:01, Guido Vetere wrote: > > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello > togliendo tutti i passaggi > > in cui compare la stringa 'Guido Vetere'? > > > > > > > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it > > <mailto:stefano@quintarelli.it>> ha scritto: > > > > per l'opt out basta retraining. > > il gdpr lo chiede entro 30 gg., se non erro > > > > On 12/04/23 20:12, Giacomo Tesio wrote: > > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > > >> > strumenti utili per permettere agli interessati, anche non > utenti, > > >> > di chiedere la rettifica dei dati personali che li riguardano > > >> > generati in modo inesatto dal servizio o la cancellazione > > >> > degli stessi, nel caso la rettifica non fosse tecnicamente > possibile. > > >> > > >> e niente: non hanno capito di cosa stanno parlando > > > > > > Al contrario, per una volta, come informatico che ha ben chiaro > di cosa > > > si sta parlando, mi sembra abbiano capito benissimo. > > > > > > Dici che non è ancora tecnicamente possibile? > > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > > di Open AI che lo renderà possibile. > > > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è > dedicata, > > > non credi? > > > > > > > > > Giacomo > > > _______________________________________________ > > > nexa mailing list > > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > > >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Quintarelli

e' un modo un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) fa ora (cfr mio esmepio precedente salvini/schlein) ciao, s. On 12/04/23 21:01, Guido Vetere wrote: > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi > in cui compare la stringa 'Guido Vetere'? > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it > <mailto:stefano@quintarelli.it>> ha scritto: > > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi in cui compare la stringa 'Guido Vetere'? Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente > possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Quintarelli

per l'opt out basta retraining. il gdpr lo chiede entro 30 gg., se non erro On 12/04/23 20:12, Giacomo Tesio wrote: > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > >> > Ulteriori prescrizioni riguardano la messa a disposizione di >> > strumenti utili per permettere agli interessati, anche non utenti, >> > di chiedere la rettifica dei dati personali che li riguardano >> > generati in modo inesatto dal servizio o la cancellazione >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. >> >> e niente: non hanno capito di cosa stanno parlando > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > si sta parlando, mi sembra abbiano capito benissimo. > > Dici che non è ancora tecnicamente possibile? > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > di Open AI che lo renderà possibile. > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > non credi? > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > Ulteriori prescrizioni riguardano la messa a disposizione di > > strumenti utili per permettere agli interessati, anche non utenti, > > di chiedere la rettifica dei dati personali che li riguardano > > generati in modo inesatto dal servizio o la cancellazione > > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > > e niente: non hanno capito di cosa stanno parlando Al contrario, per una volta, come informatico che ha ben chiaro di cosa si sta parlando, mi sembra abbiano capito benissimo. Dici che non è ancora tecnicamente possibile? Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo di Open AI che lo renderà possibile. Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, non credi? Giacomo

April 12, 2023

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Giacomo Tesio

Salve Giovanni Battista, grazie per questa considerazione interessantissima: On Wed, 12 Apr 2023 16:08:21 +0000 Giovanni Battista Gallus via nexa wrote: > laddove fosse per avventura applicabile la legge italiana, il > problema [della diffamazione] non si porrebbe comunque, dal punto di > vista penalistisco [...] per assenza di dolo. Non mi è chiaro un aspetto: cosa ti fa pensare che non ci sia dolo? Assumiamo che Open AI sostenga, senza poterlo dimostrare, di non aver selezionato intenzionalmente i testi del dataset per produrre in output una certa diffamazione per una certa persona o categoria di persone. Cosa che potrebbe invece benissimo aver fatto. Basta che l'imputato dichiari di non aver avuto intenzione di nuocere alla vittima per far decadere il reato di diffamazione? Giacomo

April 12, 2023

termine 30 aprile per Open Ai per le msiure richieste- nuovo provvedimento del Garante

by Mauro Alovisio

ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. L’Autorità ha dato tempo alla società fino al 30 aprile per mettersi in regola [image: Stampa] Stam <https://garanteprivacy.it/home/docweb/-/docweb-display/docweb/9874751#> *ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste L’Autorità ha dato tempo alla società fino al 30 aprile per mettersi in regola* OpenAI avrà tempo fino al 30 aprile per adempiere alle prescrizioni imposte dal Garante per la protezione dei dati personali riguardo a informativa, diritti degli interessati, utenti e non utenti, base giuridica del trattamento dei dati personali per l’addestramento degli algoritmi con i dati degli utenti. Solo allora, venendo meno le ragioni di urgenza, l’Autorità sospenderà il provvedimento di limitazione provvisoria del trattamento dei dati degli utenti italiani preso nei confronti della società statunitense e ChatGPT potrà tornare accessibile dall’Italia. Sulla base del provvedimento odierno <https://garanteprivacy.it/garante/doc.jsp?ID=9874702> dell’Autorità, entro fine aprile la società dovrà dunque adottare una serie di misure concrete. *Informativa* OpenAI dovrà predisporre e rendere disponibile sul proprio sito un’informativa trasparente, in cui siano illustrate modalità e logica alla base del trattamento dei dati necessari al funzionamento di ChatGPT nonché i diritti attribuiti agli utenti e agli interessati non utenti. L’informativa dovrà essere facilmente accessibile e collocata in una posizione che ne consenta la lettura prima di procedere all’eventuale registrazione al servizio. Per gli utenti che si collegano dall’Italia, l’informativa dovrà essere presentata prima del completamento della registrazione e, sempre prima del completamento della registrazione dovrà essere loro richiesto di dichiarare di essere maggiorenni. Agli utenti già registrati, l’informativa dovrà essere presentata al momento del primo accesso successivo alla riattivazione del servizio e, nella stessa occasione, dovrà essere loro richiesto di superare un age gate che escluda, sulla base dell’età dichiarata, gli utenti minorenni. *Base giuridica* Quanto alla base giuridica del trattamento dei dati personali degli utenti per l’addestramento degli algoritmi, il Garante privacy ha ordinato a OpenAI di eliminare ogni riferimento all’esecuzione di un contratto e di indicare, invece, in base al principio di accountability, il consenso o il legittimo interesse quale presupposto per utilizzare tali dati, fermo restando l’esercizio dei propri poteri di verifica e accertamento successivi a tale scelta. *Esercizio dei diritti* Ulteriori prescrizioni riguardano la messa a disposizione di strumenti utili per permettere agli interessati, anche non utenti, di chiedere la rettifica dei dati personali che li riguardano generati in modo inesatto dal servizio o la cancellazione degli stessi, nel caso la rettifica non fosse tecnicamente possibile. OpenAI, inoltre, dovrà consentire agli interessati non utenti di esercitare, in modo semplice e accessibile, il diritto di opposizione rispetto al trattamento dei loro dati personali utilizzati per l’esercizio degli algoritmi e riconoscere analogo diritto agli utenti, qualora individui il legittimo interesse quale base giuridica del trattamento. *Tutela dei minori* Per quanto riguarda la verifica dell’età dei minori, oltre all’immediata implementazione di un sistema di richiesta dell’età ai fini della registrazione al servizio, l’Autorità ha ordinato a OpenAI di sottoporle entro il 31 maggio un piano di azione che preveda, al più tardi entro il 30 settembre 2023, l’implementazione di un sistema di age verification, in grado di escludere l’accesso agli utenti infratredicenni e ai minorenni per i quali manchi il consenso dei genitori. *Campagna di informazione* Di concerto col Garante, entro il 15 maggio, OpenAI dovrà infine promuovere una campagna di informazione su radio, televisione, giornali e web per informare le persone sull’uso dei loro dati personali ai fini dell’addestramento degli algoritmi. L’Autorità proseguirà nell’accertamento delle violazioni della disciplina vigente eventualmente poste in essere dalla società e si riserva l’adozione di ogni ulteriore o diversa misura che si rendesse necessaria a conclusione della formale istruttoria tuttora in corso. *Roma, 12 aprile 2023* ___________

April 12, 2023