- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Caro Stefano, queste facili ironie (per glissare sugli insulti) rivelano il sottofondo ideologico della questione. Si interpreta la vicenda come la difesa dei diritti contro il profitto, e ci si compiace per la propria democraticità. Benissimo. Questo però offusca una visione chiara della cosa, e rischia di fornire l'alibi per continuare a non capire certi aspetti tecnici. Il punto non è tanto che rifare il training ogni 6 mesi costa 80M (e svariati gigawatt), il punto è che bonificare terabyte di dati testuali da tutto ciò che può riguardare il sig, Mario Rossi che ha fatto opt-out è un'impresa abbastanza ardua (cosa facciamo col Mario Rossi che ha fatto opt-in?), e in ogni caso nulla garantisce che un sistema generativo basato su trasformers non possa comunque inventare storielle su 'Mario Rossi' sulla base di analogie ('somiglianze di famiglia' per usare una metafora wittgensteiniana) Non vorrei sembrare arrogante, e mi scuso in anticipo, ma credo davvero che la questione vada studiata più a fondo. G. On Thu, 13 Apr 2023 at 07:46, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > > eh gia', quelle cose fastidiose chiamate regole, che impongono limiti al > magnifico e > progressivo sviluppo (di qualche megacorporate). non sono questi i veri > problemi. il > problema e' che magari ci sfugge di mano e schiavizza l'umanita'! di > quello ci dovremmo > occupare! mica di impatti sulla societa', sui lavoratori, fiscali, ecc. > ecc. > > scusa la facile ironia, ma dissento. > > On 12/04/23 22:57, Guido Vetere wrote: > > non credo che Google e Microsoft stiano lì a rivedere i loro piani sulla > base degli > > ultimatum del Garante italiano, più verosimilmente tutta questa vicenda > sarà solo una > > annoyance per chi in Italia continuerà a usare quei servizi per lavoro, > del tutto > > disinteressati alla tua e alla mia biografia > > premesso che la cosa non e' IT ma UE, ma anche mmettendo fosse solo IT, > dipenderebbe solo > se in IT fanno piu' soldi di quanto gli costerebbe > e la risposta ovvia e' si. (e gia' successo e succedera' ancora) > > supponiamo il garante trovi proporzionale che l'opt out sia entro 60 > giorni e non entro 30. > > supponiamo che > - un retraining del modello costi 20M > - ne facciano di per se' gia uno ogni sei mesi > - sono 4 retraining aggiuntivi, pari a 80M > > bazzeccole. > rinuncio al fatturato IT per bazzeccole ? (cosa che tra l'altro mi > metterebbe al riparo da > fastidi analoghi in altri paesi) > > ciao, s. > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 13, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Quintarelli

eh gia', quelle cose fastidiose chiamate regole, che impongono limiti al magnifico e progressivo sviluppo (di qualche megacorporate). non sono questi i veri problemi. il problema e' che magari ci sfugge di mano e schiavizza l'umanita'! di quello ci dovremmo occupare! mica di impatti sulla societa', sui lavoratori, fiscali, ecc. ecc. scusa la facile ironia, ma dissento. On 12/04/23 22:57, Guido Vetere wrote: > non credo che Google e Microsoft stiano lì a rivedere i loro piani sulla base degli > ultimatum del Garante italiano, più verosimilmente tutta questa vicenda sarà solo una > annoyance per chi in Italia continuerà a usare quei servizi per lavoro, del tutto > disinteressati alla tua e alla mia biografia premesso che la cosa non e' IT ma UE, ma anche mmettendo fosse solo IT, dipenderebbe solo se in IT fanno piu' soldi di quanto gli costerebbe e la risposta ovvia e' si. (e gia' successo e succedera' ancora) supponiamo il garante trovi proporzionale che l'opt out sia entro 60 giorni e non entro 30. supponiamo che - un retraining del modello costi 20M - ne facciano di per se' gia uno ogni sei mesi - sono 4 retraining aggiuntivi, pari a 80M bazzeccole. rinuncio al fatturato IT per bazzeccole ? (cosa che tra l'altro mi metterebbe al riparo da fastidi analoghi in altri paesi) ciao, s.

April 13, 2023

China to require ‘security assessment’ for new AI products

by J.C. DE MARTIN

*China to require ‘security assessment’ for new AI products* AFP April 11, 2023 5:21 am New AI products developed in China will have to undergo a security assessment before being released and must reflect “core socialist values”, a sweeping new draft law by the country’s internet regulator showed Tuesday. The fresh regulations come as a flurry of Chinese companies rush to develop artificial intelligence services that can mimic human speech since San Francisco-based OpenAI launched ChatGPT in November, sparking a gold rush in the market. Rapid advancements in AI have stoked global alarm over the technology’s potential for disinformation and misuse, with deepfake images and people shown mouthing things they never said. “Before providing services to the public that use generative AI products, a security assessment shall be applied for through national internet regulatory departments,” the draft law, released by the Cyberspace Administration of China, reads. continua qui: https://insiderpaper.com/china-draft-law-to-require-security-assessment-for…

April 13, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Beh, che dire Guido... On Wed, 12 Apr 2023 22:57:43 +0200 Guido Vetere wrote: > non credo che Google e Microsoft stiano lì a rivedere i loro piani > sulla base degli ultimatum del Garante italiano, più verosimilmente > tutta questa vicenda sarà solo una annoyance per chi in Italia > continuerà a usare quei servizi per lavoro, del tutto disinteressati > alla tua e alla mia biografia ...mi dispiace disturbare il bestiame ammaestrato... Ma preservare lo Stato di Diritto è più importante. Giacomo

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

> Riprogrammare statisticamente il software (il "re- training") rimuovendo tutte le occorrenze di testi che contengano il nome di chi chiede di essere cancellato, è tecnicamente fattibilissimo. > E' solo costoso certo, ad esempio costerebbe qualche gigawatt, ma poi resterebbe il problema di capire che quel 'Giacomo Tesio' di cui, in un twitt, si dice questo e quello, sei proprio tu e non un tuo omonimo. insomma: no way, secondo me ma vedremo cosa rispondono da OpenAI alternative ai LLM per gestire dati fattuali ci sono da sempre, sono le basi di dati (o di conoscenza, se preferisci). la ricerca per integrare gli approcci simbolici e neurali è anche ben nota, Bing e Bard vanno proprio in quella direzione non credo che Google e Microsoft stiano lì a rivedere i loro piani sulla base degli ultimatum del Garante italiano, più verosimilmente tutta questa vicenda sarà solo una annoyance per chi in Italia continuerà a usare quei servizi per lavoro, del tutto disinteressati alla tua e alla mia biografia G. Il Mer 12 Apr 2023, 22:12 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > On Wed, 12 Apr 2023 21:30:48 +0200 Guido Vetere wrote: > > > Allora: il metodo 2 (reinforcement learning per evitare di rispondere > > a certe domande) si può fare e già lo fanno; l'1 (re-training del > > modello ogni volta che qualcuno fa opt-out) proprio no > > Riprogrammare statisticamente il software (il "re-training") rimuovendo > tutte le occorrenze di testi che contengano il nome di chi chiede di > essere cancellato, è tecnicamente fattibilissimo. > > E' solo costoso. > > Ed è esattamente ciò che è necessario fare su richiesta > dell'interessato: https://gdpr-info.eu/art-17-gdpr/ > > Ma di nuovo, non è un ottimo incentivo alla ricerca di metodi più > economici ed ecologici di effettuare tali operazioni? > > La ragion d'essere di Open AI, giusto? > > > Stessa cosa per il diritto alla rettifica, che non viene meno solo > perché il contenuto errato è salvato in una matrice invece che > in un file o in un database. > > Tutte ottime ragioni per finanziare Open AI (e molti altri centri di > ricerca)! > > > Open AI dovrebbe ringraziare il GDPR e il Garante Italiano. > Spegnere GPT e dire a tutti: "Vi piace il giocattolo? Ok allora dateci > qualche trilliardo di dollari per trovare il modo di renderlo > compatibile con i diritti umani". > > > Per una volta diritto, ecologia ed economia si sposano alla perfezione! > > > D'altro canto non ci sono alternative: mica vorremo sacrificare i > diritti umani e il futuro del pianeta ai profitti di una azienda? > > > Giacomo >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Salve Diego, ottima domanda: On Wed, 12 Apr 2023 20:07:57 +0000 Diego Giorio wrote: > Se, ad esempio, il Presidente Mattarella chiedesse la rimozione della > sua pagina di Wikipedia, ne avrebbe diritto oppure no? Probabilmente no. Ma se la sua pagina Wikipedia contenesse inesattezze di qualsiasi natura avrebbe sempre il diritto alla loro rettifica. Il fatto che Wikipedia sia salvata su file invece che su una matrice N dimensionale è invece irrilevante: i diritti umani non decadono (e non devono essere sacrificati) così facilmente. Giacomo

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

On Wed, 12 Apr 2023 21:30:48 +0200 Guido Vetere wrote: > Allora: il metodo 2 (reinforcement learning per evitare di rispondere > a certe domande) si può fare e già lo fanno; l'1 (re-training del > modello ogni volta che qualcuno fa opt-out) proprio no Riprogrammare statisticamente il software (il "re-training") rimuovendo tutte le occorrenze di testi che contengano il nome di chi chiede di essere cancellato, è tecnicamente fattibilissimo. E' solo costoso. Ed è esattamente ciò che è necessario fare su richiesta dell'interessato: https://gdpr-info.eu/art-17-gdpr/ Ma di nuovo, non è un ottimo incentivo alla ricerca di metodi più economici ed ecologici di effettuare tali operazioni? La ragion d'essere di Open AI, giusto? Stessa cosa per il diritto alla rettifica, che non viene meno solo perché il contenuto errato è salvato in una matrice invece che in un file o in un database. Tutte ottime ragioni per finanziare Open AI (e molti altri centri di ricerca)! Open AI dovrebbe ringraziare il GDPR e il Garante Italiano. Spegnere GPT e dire a tutti: "Vi piace il giocattolo? Ok allora dateci qualche trilliardo di dollari per trovare il modo di renderlo compatibile con i diritti umani". Per una volta diritto, ecologia ed economia si sposano alla perfezione! D'altro canto non ci sono alternative: mica vorremo sacrificare i diritti umani e il futuro del pianeta ai profitti di una azienda? Giacomo

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Diego Giorio

Forse non è il caso di aprire un nuovo filone filosofico/giuridico, tuttavia mi è venuto in mente che anche il meccanismo dell'opt-out potrebbe prestarsi a parecchie discussioni. Già con il diritto all'oblio ci sono stati casi nei quali il diritto di cronaca e di conoscenza storica - come nel caso di un terrorista degli '70 - è stato ritenuto prevalente sul diritto all'oblio, per cui la de-indicizzazione non è stata concessa. Fino a che punto un personaggio pubblico ha diritto di opt-out? Se, ad esempio, il Presidente Mattarella chiedesse la rimozione della sua pagina di Wikipedia, ne avrebbe diritto oppure no? E fino a che punto bisogna essere famosi per restare nel ruolo di personaggio pubblico, per cui il diritto della gente alla consocenza può prevalere, e fino a che punto si può scomparire? Chi decide? Questo non solo per l'AI, ma in generale per tanti tipi di contenuto. Sinceramente non ho risposte, mi è venuta in mente la domanda ed ho voluto condividerla, sperando che quclhe filosofo e/o giurista possa avere le idee più chiare e voglia condividere le sue conclusioni. D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Guido Vetere <vetere.guido(a)gmail.com> Sent: Wednesday, April 12, 2023 7:30 PM To: Stefano Quintarelli <stefano(a)quintarelli.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. Allora: il metodo 2 (reinforcement learning per evitare di rispondere a certe domande) si può fare e già lo fanno; l'1 (re-training del modello ogni volta che qualcuno fa opt-out) proprio no G. Il Mer 12 Apr 2023, 21:02 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it>> ha scritto: e' un modo un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) fa ora (cfr mio esmepio precedente salvini/schlein) ciao, s. On 12/04/23 21:01, Guido Vetere wrote: > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi > in cui compare la stringa 'Guido Vetere'? > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it> > <mailto:stefano@quintarelli.it<mailto:stefano@quintarelli.it>>> ha scritto: > > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> <mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> <mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Allora: il metodo 2 (reinforcement learning per evitare di rispondere a certe domande) si può fare e già lo fanno; l'1 (re-training del modello ogni volta che qualcuno fa opt-out) proprio no G. Il Mer 12 Apr 2023, 21:02 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > e' un modo > un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) > fa ora > (cfr mio esmepio precedente salvini/schlein) > ciao, s. > > On 12/04/23 21:01, Guido Vetere wrote: > > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello > togliendo tutti i passaggi > > in cui compare la stringa 'Guido Vetere'? > > > > > > > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it > > <mailto:stefano@quintarelli.it>> ha scritto: > > > > per l'opt out basta retraining. > > il gdpr lo chiede entro 30 gg., se non erro > > > > On 12/04/23 20:12, Giacomo Tesio wrote: > > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > > >> > strumenti utili per permettere agli interessati, anche non > utenti, > > >> > di chiedere la rettifica dei dati personali che li riguardano > > >> > generati in modo inesatto dal servizio o la cancellazione > > >> > degli stessi, nel caso la rettifica non fosse tecnicamente > possibile. > > >> > > >> e niente: non hanno capito di cosa stanno parlando > > > > > > Al contrario, per una volta, come informatico che ha ben chiaro > di cosa > > > si sta parlando, mi sembra abbiano capito benissimo. > > > > > > Dici che non è ancora tecnicamente possibile? > > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > > di Open AI che lo renderà possibile. > > > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è > dedicata, > > > non credi? > > > > > > > > > Giacomo > > > _______________________________________________ > > > nexa mailing list > > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > > >

April 12, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Quintarelli

e' un modo un altro e' aggiungere un filtro in una pipeline, come (quasi sicuramente) fa ora (cfr mio esmepio precedente salvini/schlein) ciao, s. On 12/04/23 21:01, Guido Vetere wrote: > Cioè: io chiedo di stare fuori e OpenAI in 30gg rifà il modello togliendo tutti i passaggi > in cui compare la stringa 'Guido Vetere'? > > > > > > Il Mer 12 Apr 2023, 20:24 Stefano Quintarelli <stefano(a)quintarelli.it > <mailto:stefano@quintarelli.it>> ha scritto: > > per l'opt out basta retraining. > il gdpr lo chiede entro 30 gg., se non erro > > On 12/04/23 20:12, Giacomo Tesio wrote: > > On Wed, 12 Apr 2023 17:29:10 +0200 Guido Vetere wrote: > > > >> > Ulteriori prescrizioni riguardano la messa a disposizione di > >> > strumenti utili per permettere agli interessati, anche non utenti, > >> > di chiedere la rettifica dei dati personali che li riguardano > >> > generati in modo inesatto dal servizio o la cancellazione > >> > degli stessi, nel caso la rettifica non fosse tecnicamente possibile. > >> > >> e niente: non hanno capito di cosa stanno parlando > > > > Al contrario, per una volta, come informatico che ha ben chiaro di cosa > > si sta parlando, mi sembra abbiano capito benissimo. > > > > Dici che non è ancora tecnicamente possibile? > > Peccato, dovremo fare a meno di GPT4 fino al prossimo sviluppo > > di Open AI che lo renderà possibile. > > > > Sarebbe una gran bella spinta per la ricerca cui Open AI è dedicata, > > non credi? > > > > > > Giacomo > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> >

April 12, 2023