- nexa - server-nexa.polito.it

Forse su AI e Data Protection Europa e USA riusciranno a mettersi d'accordo

by Diego Giorio

O almeno sembra essercene l'intenzione, che è già un'ottima notizia per sé https://www.corrierecomunicazioni.it/podcast/intelligenza-artificiale-sulla… [https://d110erj175o600.cloudfront.net/wp-content/uploads/2023/01/02154729/s…]<https://www.corrierecomunicazioni.it/podcast/intelligenza-artificiale-sulla…> Intelligenza artificiale, sulla data protection linea comune Ue-Usa?<https://www.corrierecomunicazioni.it/podcast/intelligenza-artificiale-sulla…> Sul tavolo la questione regolatoria a fronte di una repentina evoluzione dello scenario con l'avvento di ChatGpt e dei sistemi di AI generativa. Autorità, aziende e stakeholder dovranno riuscire a trovare il giusto equilibrio. L'analisi dell'avvocato Rocco Panetta www.corrierecomunicazioni.it Buona settimana a tutti D.

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giuseppe Attardi

Non sono d’accordo, anch’io la considero diffamazione. L’art. 9 della GDPR dice: 1. Processing of personal data revealing racial or ethnic origin, political opinions, religious or philosophical beliefs, or trade union membership, and the processing of genetic data, biometric data for the purpose of uniquely identifying a natural person, data concerning health or data concerning a natural person’s sex life or sexual orientation shall be prohibited. ma esclude: (e) processing relates to personal data which are manifestly made public by the data subject; Nel produrre le risposte risposte di ChatGPT non ci sono dati personali che vengono elaborati, solo dati “manifestly made public” nelle fonti web da cui li trae, e le risposte sono solo affermazioni, senza garanzia di verità. Se fossero vere, si potrebbe contestare che rivelano fatti personali, ma se sono falsi si tratta di diffamazione. Delle due l’una: o riteniamo che ChatGPT dica cose vere o non lo crediamo. Se il solo rimettere in circolazione dati pubblicati su web violasse la GDPR, anche i motori di ricerca sarebbero vietati. Non dobbiamo vedere tutto come chiodi perché siamo un martello (GDPR). Per la diffamazione c’è un reato apposito. È abbastanza evidente che le norme attuali, GDPR, Copyright e annunciato European AI Act, sono inadeguati. Ma intervenire adesso a bloccare una tecnologia che non fa danni, certamente di meno di tanto software di cui non ci curiamo, è prematuro e controproducente. — Beppe > On 3 Apr 2023, at 07:19, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > Date: Sun, 2 Apr 2023 22:14:12 +0200 > From: Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> > To: <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Message-ID: <c3aee1da-ee0f-4ea4-4581-4b0a45515802(a)unipi.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > On 02/04/23 20:19, Stefano Zacchiroli wrote: > >> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è >> in effetti evidente a tutti. Ma, da non giurista, faccio veramente >> fatica a capire perché questo ponga problemi al Garante per la >> protezione dei dati personali. Se pubblico un sito web pieno di panzane >> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi >> (sempre da non giurista), che al massimo rischio una querela per >> diffamazione dagli interessati. >> > > Se si rivelano dati particolari (ex sensibili) senza il consenso > esplicito dell'interessato si viola l'articolo 9 della GDPR. I dati > particolari, perfino quando sono falsi, mi rappresentano. Se un SALAMI > allucinato mi arruola nei testimoni di Geova, descrive comunque le mie > (presunte) convinzioni religiose senza il mio consenso. > > In questo sito > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230403051928082463… c'è un > fantastico esempio, quello della malattia di un Peppino agente di > commercio in realtà fin troppo sano, in cui una rivelazione in buona > fede di un dato particolare *falso* senza il consenso dell'interessato > provoca pure una tragedia familiare. > > Buonanotte, > MCP >

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Maurizio Borghi

La mia ipotesi è che il Garante consideri i due aspetti come collegati. La finalità del trattamento determina infatti la liceità del trattamento, in particolare quando si invoca il legittimo interesse come base giuridica. Se la finalità è produrre in serie informazioni errate su persone fisiche, viene meno questa base giuridica per il trattamento. Buona giornata Il giorno lun 3 apr 2023 alle ore 07:19 Stefano Zacchiroli <zack(a)upsilon.cc> ha scritto: > Certo. Ma questo è l'altro aspetto: quello del trattamento dei dati in > *input* a ChatGPT, che esiste ed è potenzialmente problematico dal punto di > vista della privacy, a prescindere dalla veridicità delle risposte date. > > La mia domanda era su quale sia l'impatto della falsità dell'*output* (che > sollevavi come fattore a se stante nella mail precedente) sui profili > giuridici di violazione della privacy. > > Saluti > > > > >Se la produzione di quelle panzane richiede il trattamento dei dati di > >milioni di ignari cittadini, allora sì, attrai le ire del Garante (oltre > >che quelle dei destinatari delle tue panzane). > > > >> > >> -- > >_______________ > >*Maurizio Borghi* > >Università di Torino > >https://www.dg.unito.it/persone/maurizio.borghi > >Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > > > >My Webex room: https://unito.webex.com/meet/maurizio.borghi > > -- > Sent from my mobile phone. Please excuse my brevity and top-posting. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

E' bene considerare che i LLM sono pre-addestrati con dati liberamente accessibili sul web, cioè resi manifestamente pubblici dagli interessati, per trattare i quali non occorre il consenso (art. 9) Non risulta che OpenAI abbia chiesto e ottenuto dati tutelati da GDPR, ad es. cartelle cliniche, e in tal caso andrebbe perseguito soprattutto chi glieli ha ceduti. Non risulta neppure che il sistema interroghi l'utente in modo da ottenere dati del genere; le circostanze in cui un utente spontaneamente le rivela non sono diverse da quelle in cui lo stesso utente le manifesta in qualsiasi altra interazione, ad esempio quando usa l'assistente vitruale di una piattaforma di e-commerce. E' inoltre chiaro, oltre che noto, che ChatGPT non fa 'ingestion' delle interazioni con l'utente nel Language Model, sarebbe peraltro costosissimo; semmai può correggere a posteriori certi suoi 'atteggiamenti'. Infine, appare evidente che il sistema sia stato condizionato per non rispondere a domande 'sensibili': pur essendo, come sappiamo, del tutto ignaro del significato delle sue parole, si mostra assolutamente rispettoso della privacy dei soggetti terzi. Allego uno screeshot, un po' per celia. Buona settimana. G. On Sun, 2 Apr 2023 at 23:22, Maurizio Borghi <maurizio.borghi(a)unito.it> wrote: > > > On Sun, 2 Apr 2023 at 20:19, Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > >> >> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è >> in effetti evidente a tutti. Ma, da non giurista, faccio veramente >> fatica a capire perché questo ponga problemi al Garante per la >> protezione dei dati personali. Se pubblico un sito web pieno di panzane >> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi >> (sempre da non giurista), che al massimo rischio una querela per >> diffamazione > > > Se la produzione di quelle panzane richiede il trattamento dei dati di > milioni di ignari cittadini, allora sì, attrai le ire del Garante (oltre > che quelle dei destinatari delle tue panzane). > >> >> -- > _______________ > *Maurizio Borghi* > Università di Torino > https://www.dg.unito.it/persone/maurizio.borghi > Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > > My Webex room: https://unito.webex.com/meet/maurizio.borghi > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Zacchiroli

Certo. Ma questo è l'altro aspetto: quello del trattamento dei dati in *input* a ChatGPT, che esiste ed è potenzialmente problematico dal punto di vista della privacy, a prescindere dalla veridicità delle risposte date. La mia domanda era su quale sia l'impatto della falsità dell'*output* (che sollevavi come fattore a se stante nella mail precedente) sui profili giuridici di violazione della privacy. Saluti On April 2, 2023 11:22:03 PM GMT+02:00, Maurizio Borghi <maurizio.borghi(a)unito.it> wrote: >On Sun, 2 Apr 2023 at 20:19, Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > >> >> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è >> in effetti evidente a tutti. Ma, da non giurista, faccio veramente >> fatica a capire perché questo ponga problemi al Garante per la >> protezione dei dati personali. Se pubblico un sito web pieno di panzane >> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi >> (sempre da non giurista), che al massimo rischio una querela per >> diffamazione > > >Se la produzione di quelle panzane richiede il trattamento dei dati di >milioni di ignari cittadini, allora sì, attrai le ire del Garante (oltre >che quelle dei destinatari delle tue panzane). > >> >> -- >_______________ >*Maurizio Borghi* >Università di Torino >https://www.dg.unito.it/persone/maurizio.borghi >Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > >My Webex room: https://unito.webex.com/meet/maurizio.borghi -- Sent from my mobile phone. Please excuse my brevity and top-posting.

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Maurizio Borghi

On Sun, 2 Apr 2023 at 20:19, Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > > Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è > in effetti evidente a tutti. Ma, da non giurista, faccio veramente > fatica a capire perché questo ponga problemi al Garante per la > protezione dei dati personali. Se pubblico un sito web pieno di panzane > su persone viventi, il Garante ha il potere di farmelo chiudere? Direi > (sempre da non giurista), che al massimo rischio una querela per > diffamazione Se la produzione di quelle panzane richiede il trattamento dei dati di milioni di ignari cittadini, allora sì, attrai le ire del Garante (oltre che quelle dei destinatari delle tue panzane). > > -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> My Webex room: https://unito.webex.com/meet/maurizio.borghi

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Maria Chiara Pievatolo

On 02/04/23 20:19, Stefano Zacchiroli wrote: > Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è > in effetti evidente a tutti. Ma, da non giurista, faccio veramente > fatica a capire perché questo ponga problemi al Garante per la > protezione dei dati personali. Se pubblico un sito web pieno di panzane > su persone viventi, il Garante ha il potere di farmelo chiudere? Direi > (sempre da non giurista), che al massimo rischio una querela per > diffamazione dagli interessati. > Se si rivelano dati particolari (ex sensibili) senza il consenso esplicito dell'interessato si viola l'articolo 9 della GDPR. I dati particolari, perfino quando sono falsi, mi rappresentano. Se un SALAMI allucinato mi arruola nei testimoni di Geova, descrive comunque le mie (presunte) convinzioni religiose senza il mio consenso. In questo sito https://www.privacylab.it/IT/205/I-dati-sensibili-nel-GDPR/ c'è un fantastico esempio, quello della malattia di un Peppino agente di commercio in realtà fin troppo sano, in cui una rivelazione in buona fede di un dato particolare *falso* senza il consenso dell'interessato provoca pure una tragedia familiare. Buonanotte, MCP

April 2, 2023

Articolo proposto alla revisione paritaria aperta

by Daniela Tafani

Buonasera. Propongo alla revisione paritaria aperta un mio articolo: L’«etica» come specchietto per le allodole. Sistemi di intelligenza artificiale e violazioni dei diritti. Qui si trova il .pdf dell'articolo: <https://zenodo.org/record/7793156/<https://zenodo.org/record/7793156/files/Daniela%20Tafani%20-%20L%27etica%20…>> e qui la versione online e la possibilità di commentare: https://commentbfp.sp.unipi.it/letica-come-specchietto-per-le-allodole/ Vi sarò grata di qualsiasi osservazione. Un saluto, Daniela

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

On 02/04/23 21:07, Guido Vetere wrote: > @Stefano Quintarelli <mailto:stefano@quintarelli.it>, in effetti sembra stiano > 'incoraggiando' (reinforcement learning) ChatGPT ad essere più cauto riguardo alle vicende > delle persone, e facendo qualche prova ho constatato che il sistema si rifiuta di > rispondere a domande 'sensibili'. a naso direi che potrebbe essere una "pecetta" attaccata dopo in una pipeline. sarebbe piu' controllabile e affidabile. boh.

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Antonio

... > detto in altri termini, il dato e' solo quello codificato "non lossy" e inserito in un > record di un DB relazionale o anche quello codificato "lossy" e sparso in una matrice ? A proposito del dato "lossy" sparso in una matrice mi viene in mente il "google bombing" [1]. Chi è su Internet da più di ventanni se lo ricorderà sicuramente, cercavi "miserable failure" e ti veniva fuori la biografia di George Bush [2]. Mutatis mutandis, cosa succederebbe se un ingegnere (buontempone) di OpenAI immettesse, assieme a miliardi di altre frasi, anche un milione di "tizio è gay" (dato personale /sensibile/ in quanto relativo alla vita sessuale di una persona)? Una volta /processato/ il dato di partenza potrebbe anche essere cancellato, ma alla richiesta di un ignaro utente: "chi è tizio?", la risposta sarebbe una sola. E ancora, dato che i dati delle conversazioni "rientrano in circolo" per produrre altri modelli, mettiamo il caso che, invece del programmatore di OpenAI, quella frase venisse scritta da mille utenti, mille volte ciascuno. Si otterrebbe lo stesso risultato, insomma un "gpt bombing". Antonio [1] https://it.wikipedia.org/wiki/Google_bombing [2] https://searchengineland.com/wp-content/seloads/2012/10/369539947_e3f05b50e…

April 2, 2023