- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Antonio

On Sun, 2 Apr 2023 14:36:27 +0200 Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > secondo ChatGPT, riporta il podcast Knightmare di Walter Vannini, io sarei stato membro di > un certo insieme di sciocchezze e, dopo avergli fatto notare piu' volte che erano > informazioni sbagliate, ChatGPT si e' scusato e ha detto che sono morto. Questo e altro sull'articolo di oggi di Walter Vannini apparso su: https://www.agendadigitale.eu/sicurezza/privacy/stop-a-chatgpt-per-fortuna-… A.

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

vedi attachment a mia mail precedente in cui si chiede di scrivere una ode a salvini ed una a schlein nel primo caso non la fa, perche' e' un politico nel secondo la fa, perche' non e' stato programmato/configurata schlein come politica. ciao, s. On 03/04/23 20:18, Guido Vetere wrote: > Ma se passasse questa linea dovremmo spegnere tutti i generatori basati (solo) su LLM: > anche se addestrati sui dati più puri del mondo, la probabilità che generino 'utterances' > censurabili non sarebbe mai nulla. > > La difficoltà qui risiede nel fatto di aver a che fare con oggetti privi di intenzionalità > che tuttavia producono locuzioni a cui, antropologicamente, attribuiamo in effetti > intenzionalità. Se gli sviluppatori o gli esercenti di questi oggetti dovessero rispondere > di questa intenzionalità fittizia, farebbero bene a dedicarsi ad altro. > > Non ho ancora capito tuttavia (anche perché nessuno me lo ha spiegato) come mai un > 'disclaimer' bello grosso non potrebbe risolvere il problema. > > G. > > > On Mon, 3 Apr 2023 at 19:46, Mario Sabatino <mario(a)sabatino.cloud> wrote: > > Sono totalmente d'accordo. Grazie di averlo detto con tanta chiarezza. > > Per la macchina il testo **oggi** non può avere alcun significato. Solo > l'essere umano è in grado di attribuire un significato all'output dei > sistemi di NLP. Quindi l'essere umano si assumerà la responsabilità di > un eventuale uso illecito (privacy o altro) di questo output. Al massimo > vedrei la possibilità di esercitare il diritto all'oblio da parte degli > interessati. Credo però che queste considerazioni siano state già fatte > da altri. > > Buon pomeriggio > > Mario Sabatino > > Il 03/04/23 17:56, Carlo Blengino ha scritto: > > Pensare di tutelare e “proteggere” come dati personali gli out-put di > > questi sistemi significa oggi conferire loro una valenza che non hanno ed > > avallare temo l’allucinazione che stiamo vivendo con l’intelligenza > > artificiale. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Enrico Nardelli

Quest'ultima discussione tra Benedetto Ponti e Carlo Blengino mi sembra centri esattamente la sostanza del problema, che avevo anticipato nel mio brevissimo messaggioa Nexa "ChatGPT e la stanza cinese" del 17 marzo u.s. https://server-nexa.polito.it/pipermail/nexa/2023-March/025111.html ----- ...ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi. ----- Non essendo un giurista non so dire se l'azione del Garante italiano sia formalmente corretta: mi sento di poter assolutamente dire, però, che sia socialmente desiderabile. Pur dovendo, pubblico e privato, continuare a fare ricerca in questo settore, lasciare una Ferrari in mano ad un ragazzo di 14 anni non è la scelta socialmente più desiderabile. In questo post https://www.startmag.it/innovazione/dibattito-intelligenza-artificiale-chat… ho proposto un esempio un po' più forte (un mini-reattore nucleare casalingo), per far riflettere sul punto che mi sembra centrale. Aggiungo che negli Stati Uniti il Center for AI and Digital Privacy ha fatto ricorso alla US Federal Trade Commission sulla base di comportamento ingannevole per il consumatore (i riferimenti nel post sopra citato). Anche Al Capone fu fermato per evasione fiscale e non per omicidio. Ciao, Enrico Il 03/04/2023 18:33, Benedetto Ponti ha scritto: > > Il 03/04/2023 17:56, Carlo Blengino ha scritto: >> Queste considerazioni non vogliono negare le potenzialità lesive di quei dati sintetici o la pericolosità delle macchine che li generano, ma consentono di spostare il focus e l’attenzione da quel dato che non "rappresenta" nulla (se non se stesso), all'uso che di quell’artefatto sintetico e delle macchine che lo producono ne facciamo noi umani. > > > reagisco "di getto", in particolare perché le considerazioni che fa Carlo catturano alcune impressioni che sono rimaste latenti, in questi giorni, ogni volta che mi sono affacciato alla questione. > > dice Carlo: spostiamo l'attenzione dall'artefatto (che in quanto tale, per definizione e per modalità di elaborazione, non può essere rappresentativo di alcunché) all'uso che di quell'artefatto ne facciamo "noi umani". > > Suggestivo. > > Però io devo notare questo: quel linguaggio (se ha senso) ha senso solo per l'umano, e quello che producono quelle macchine (quelle pseudo rappresentazioni), è fruibile solo dall'umano. [Le macchine, tra loro, comunicano in tutt'altro modo]. Cioè, se anche concettualmente la distinzione che Carlo propone è configurabile, essa non ha ricadute dal punto di vista pratico, perché quelle macchine sono pensate, programmate e realizzate per creare artefatti che siano fruiti da umani (perché solo gli umani possono fruirne, solo per loro quei costrutti sono suscettibili di avere un senso). Chi immette la query è un umano, ed anche se non lo fosse (se la query fosse formulata da una macchina), la "risposta", l'output sarebbe suscettibile di acquistare un senso solo per gli umani. > > Pertanto, "l'uso che di quell'artefatto sintetico e delle macchine che lo producono ne facciamo noi umani", è l'unico uso possibile, ed è l'uso per il quale quelle macchine sono programmate e realizzate (o comunque operano). Se l'uomo è l'unico utente/destinatiario significativo, l'affermazione per cui "quel dato [...] non "rappresenta" nulla (se non se stesso)" è - ripeto - suggestiva, ma prima di rilievo concreto. L'uomo è l'unico fruitore: l'unico scopo per cui quei dati (quegli output, quei costrutti) sono realizzati è proprio quello di delineare una rappresentazione che sia fruibile dall'uomo, che abbia senso per l'uomo. > > Quindi, no, caro Carlo. > Così, a caldo, mi pare proprio che l'unico senso, l'unico rilievo che possono avere quegli output è proprio essere una rappresentazione, un costrutto dotato di un senso per l'uomo. Quindi, se contengono dati che per l'uomo che ne fruisce (i.e., l'unico fruitore possibile) appaiono come dati personali ("qualsiasi informazione riguardante una persona fisica identificata o identificabile"), allora - in termini pratici - non possiamo che trattarli come dati personali. > > Benedetto Ponti > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Mario Sabatino

Ma infatti. Il disclaimer in realtà c'è. https://openai.com/policies/terms-of-use Forse non è scritto a caratteri cubitali ma qualcosa c'è eccome. V. punti 3 e 5. Non so se questa versione delle condizioni di servizio siano precedenti o successive all'intervento del Garante. Mario Sabatino Il 3 aprile 2023 20:18:55 CEST, Guido Vetere <vetere.guido(a)gmail.com> ha scritto: >Ma se passasse questa linea dovremmo spegnere tutti i generatori basati >(solo) su LLM: anche se addestrati sui dati più puri del mondo, la >probabilità che generino 'utterances' censurabili non sarebbe mai nulla. > >La difficoltà qui risiede nel fatto di aver a che fare con oggetti privi di >intenzionalità che tuttavia producono locuzioni a cui, antropologicamente, >attribuiamo in effetti intenzionalità. Se gli sviluppatori o gli esercenti >di questi oggetti dovessero rispondere di questa intenzionalità fittizia, >farebbero bene a dedicarsi ad altro. > >Non ho ancora capito tuttavia (anche perché nessuno me lo ha spiegato) come >mai un 'disclaimer' bello grosso non potrebbe risolvere il problema. > >G. > > >On Mon, 3 Apr 2023 at 19:46, Mario Sabatino <mario(a)sabatino.cloud> wrote: > >> Sono totalmente d'accordo. Grazie di averlo detto con tanta chiarezza. >> >> Per la macchina il testo **oggi** non può avere alcun significato. Solo >> l'essere umano è in grado di attribuire un significato all'output dei >> sistemi di NLP. Quindi l'essere umano si assumerà la responsabilità di >> un eventuale uso illecito (privacy o altro) di questo output. Al massimo >> vedrei la possibilità di esercitare il diritto all'oblio da parte degli >> interessati. Credo però che queste considerazioni siano state già fatte >> da altri. >> >> Buon pomeriggio >> >> Mario Sabatino >> >> Il 03/04/23 17:56, Carlo Blengino ha scritto: >> > Pensare di tutelare e “proteggere” come dati personali gli out-put di >> > questi sistemi significa oggi conferire loro una valenza che non hanno ed >> > avallare temo l’allucinazione che stiamo vivendo con l’intelligenza >> > artificiale. >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> -- Inviato da /e/ Mail.

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

Ma se passasse questa linea dovremmo spegnere tutti i generatori basati (solo) su LLM: anche se addestrati sui dati più puri del mondo, la probabilità che generino 'utterances' censurabili non sarebbe mai nulla. La difficoltà qui risiede nel fatto di aver a che fare con oggetti privi di intenzionalità che tuttavia producono locuzioni a cui, antropologicamente, attribuiamo in effetti intenzionalità. Se gli sviluppatori o gli esercenti di questi oggetti dovessero rispondere di questa intenzionalità fittizia, farebbero bene a dedicarsi ad altro. Non ho ancora capito tuttavia (anche perché nessuno me lo ha spiegato) come mai un 'disclaimer' bello grosso non potrebbe risolvere il problema. G. On Mon, 3 Apr 2023 at 19:46, Mario Sabatino <mario(a)sabatino.cloud> wrote: > Sono totalmente d'accordo. Grazie di averlo detto con tanta chiarezza. > > Per la macchina il testo **oggi** non può avere alcun significato. Solo > l'essere umano è in grado di attribuire un significato all'output dei > sistemi di NLP. Quindi l'essere umano si assumerà la responsabilità di > un eventuale uso illecito (privacy o altro) di questo output. Al massimo > vedrei la possibilità di esercitare il diritto all'oblio da parte degli > interessati. Credo però che queste considerazioni siano state già fatte > da altri. > > Buon pomeriggio > > Mario Sabatino > > Il 03/04/23 17:56, Carlo Blengino ha scritto: > > Pensare di tutelare e “proteggere” come dati personali gli out-put di > > questi sistemi significa oggi conferire loro una valenza che non hanno ed > > avallare temo l’allucinazione che stiamo vivendo con l’intelligenza > > artificiale. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Mario Sabatino

Sono totalmente d'accordo. Grazie di averlo detto con tanta chiarezza. Per la macchina il testo **oggi** non può avere alcun significato. Solo l'essere umano è in grado di attribuire un significato all'output dei sistemi di NLP. Quindi l'essere umano si assumerà la responsabilità di un eventuale uso illecito (privacy o altro) di questo output. Al massimo vedrei la possibilità di esercitare il diritto all'oblio da parte degli interessati. Credo però che queste considerazioni siano state già fatte da altri. Buon pomeriggio Mario Sabatino Il 03/04/23 17:56, Carlo Blengino ha scritto: > Pensare di tutelare e “proteggere” come dati personali gli out-put di > questi sistemi significa oggi conferire loro una valenza che non hanno ed > avallare temo l’allucinazione che stiamo vivendo con l’intelligenza > artificiale.

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Benedetto Ponti

Il 03/04/2023 17:56, Carlo Blengino ha scritto: > Queste considerazioni non vogliono negare le potenzialità lesive di > quei dati sintetici o la pericolosità delle macchine che li generano, > ma consentono di spostare il focus e l’attenzione da quel dato che non > "rappresenta" nulla (se non se stesso), all'uso che di quell’artefatto > sintetico e delle macchine che lo producono ne facciamo noi umani. reagisco "di getto", in particolare perché le considerazioni che fa Carlo catturano alcune impressioni che sono rimaste latenti, in questi giorni, ogni volta che mi sono affacciato alla questione. dice Carlo: spostiamo l'attenzione dall'artefatto (che in quanto tale, per definizione e per modalità di elaborazione, non può essere rappresentativo di alcunché) all'uso che di quell'artefatto ne facciamo "noi umani". Suggestivo. Però io devo notare questo: quel linguaggio (se ha senso) ha senso solo per l'umano, e quello che producono quelle macchine (quelle pseudo rappresentazioni), è fruibile solo dall'umano. [Le macchine, tra loro, comunicano in tutt'altro modo]. Cioè, se anche concettualmente la distinzione che Carlo propone è configurabile, essa non ha ricadute dal punto di vista pratico, perché quelle macchine sono pensate, programmate e realizzate per creare artefatti che siano fruiti da umani (perché solo gli umani possono fruirne, solo per loro quei costrutti sono suscettibili di avere un senso). Chi immette la query è un umano, ed anche se non lo fosse (se la query fosse formulata da una macchina), la "risposta", l'output sarebbe suscettibile di acquistare un senso solo per gli umani. Pertanto, "l'uso che di quell'artefatto sintetico e delle macchine che lo producono ne facciamo noi umani", è l'unico uso possibile, ed è l'uso per il quale quelle macchine sono programmate e realizzate (o comunque operano). Se l'uomo è l'unico utente/destinatiario significativo, l'affermazione per cui "quel dato [...] non "rappresenta" nulla (se non se stesso)" è - ripeto - suggestiva, ma prima di rilievo concreto. L'uomo è l'unico fruitore: l'unico scopo per cui quei dati (quegli output, quei costrutti) sono realizzati è proprio quello di delineare una rappresentazione che sia fruibile dall'uomo, che abbia senso per l'uomo. Quindi, no, caro Carlo. Così, a caldo, mi pare proprio che l'unico senso, l'unico rilievo che possono avere quegli output è proprio essere una rappresentazione, un costrutto dotato di un senso per l'uomo. Quindi, se contengono dati che per l'uomo che ne fruisce (i.e., l'unico fruitore possibile) appaiono come dati personali ("qualsiasi informazione riguardante una persona fisica identificata o identificabile"), allora - in termini pratici - non possiamo che trattarli come dati personali. Benedetto Ponti

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Carlo Blengino

Provo ad inserirmi sul problema degli out-put falsi e “fantasiosi” con alcune considerazioni che non sono affatto sicuro stiano in piedi, ma la difficoltà del diritto non tanto a governare, quanto a comprendere e a collocare al suo interno, in norme e leggi, le realtà generate dalle nuove tecnologie è uno degli aspetti più affascinanti ed al contempo più complessi che questo tempo ci offre (Nexa nasce anche per questo!). Parto dalla tesi di fondo, per poi argomentare. I dati generati da ChatGPT ed in generale dalle attuali forme di AI Generativa, anche per immagini come Dall-e, anche quando apparentemente riferibili ad una persona fisica identificata o identificabile, *non dovrebbero mai esser considerati dati personali*, e ciò a prescindere dalla loro verità/falsità o dalla loro più o meno marcata aderenza alla realtà. Sono dati sintetici che non rappresentano altro se non loro stessi. Per comprendere l’affermazione, forse azzardata, è bene definire cosa è un dato per il diritto: il dato è *una rappresentazione di fatti, informazioni o concetti*. Il dato informatico è sin dalla Convenzione di Budapest del 2001 definito come una “presentazione di fatti, informazioni o concetti in forma suscettibile di essere utilizzata in un sistema computerizzato…” Ora, per quanto ho capito io anche leggendo i contributi passati su questa lista, le frasi generate da ChatGPT, come le immagini di Dall-e, sono sempre “false”, o meglio “contraffatte”, anche quando corrispondono per “magia” (i millemila parametri) a fatti, concetti o informazioni reali. Sono artefatti sintetici (come la carne, che in effetti l’abbiamo vietata Sic!) generati da una macchina che non ha alcuna contezza di ciò che il dato vuole rappresentare (e che è poi ciò che ontologicamente caratterizza il "dato"). E se ho ben capito, non ne hanno contezza neanche i “padroni” della macchina, che agisce in autonomia generando quegli pseudo-dati (pseudo-informazioni) più o meno plausibili. Con le foto è altrettanto evidente: l’immagine generata da Dall-e può esser identica alla realtà (una veduta di Mondovì, per dire..) o rappresentare realisticamente un “fatto” mai accaduto (le foto dell’arresto di Trump) ma in entrambi i casi l’artefatto non è e non può esser "vero", o meglio, non ha le caratteristiche informative (i dati) che noi attribuiamo alla fotografia come rappresentazione di un fatto, in un dato tempo e in un dato posto. Le creazioni di questi sistemi, da quel che ho capito, anche quando appaiono “dati” personali, rappresentano unicamente loro stessi, ovvero una sequenza di parole o numeri o di pixels, e null’altro. Per questo a mio giudizio quei dati non dovrebbero esser oggetto *ex sé* di protezione e di tutela alcuna. Non contengono alcuna rappresentazione di fatti concetti o informazioni in qualche modo degni di tutela dall’ordinamento (infatti non c'è diritto d'autore, che comunque è un diritto intimamente legato nei suoi aspetti morali all’identità della persona, esattamente come il diritto alla protezione dei dati). Pensare di tutelare e “proteggere” come dati personali gli out-put di questi sistemi significa oggi conferire loro una valenza che non hanno ed avallare temo l’allucinazione che stiamo vivendo con l’intelligenza artificiale. Queste considerazioni non vogliono negare le potenzialità lesive di quei dati sintetici o la pericolosità delle macchine che li generano, ma consentono di spostare il focus e l’attenzione da quel dato che non "rappresenta" nulla (se non se stesso), all'uso che di quell’artefatto sintetico e delle macchine che lo producono ne facciamo noi umani. Forse il mio ragionamento non sta in piedi, ma io sotto il profilo “protezione dei dati personali” vedo enormi e quasi insormontabili problemi in relazione ai data-set di addestramento (e a mio giudizio non sono problemi legati agli errori di output quanto meno in relazione al GDPR) e vedo problemi possibili ma a me (e temo anche al Garante) ignoti in relazione ai dati degli utenti/fruitori ed ai dati da questi immessi nel prompt. Trovo invece un po’ folle pensare di attenzionare le risposte sbagliate, attribuendo a quei non-dati uno status di tutela che, a mio giudizio, allo stato dell’arte, non dovrebbero avere. Ultima annotazione: l’uso di dati falsi, inesatti o le lesioni ad onore e reputazione legati all’uso di informazioni comunque ottenute da quegli artefatti sono tutte condotte adeguatamente presidiate dall’ordinamento. Assai più preoccupante e poco presidiata la folle corsa alle API ed all’utilizzo di quei sistemi per automatizzare processi diversi come search...vedremo. CB Il giorno lun 3 apr 2023 alle ore 07:19 Stefano Zacchiroli <zack(a)upsilon.cc> ha scritto: > Certo. Ma questo è l'altro aspetto: quello del trattamento dei dati in > *input* a ChatGPT, che esiste ed è potenzialmente problematico dal punto di > vista della privacy, a prescindere dalla veridicità delle risposte date. > > La mia domanda era su quale sia l'impatto della falsità dell'*output* (che > sollevavi come fattore a se stante nella mail precedente) sui profili > giuridici di violazione della privacy. > > Saluti > > On April 2, 2023 11:22:03 PM GMT+02:00, Maurizio Borghi < > maurizio.borghi(a)unito.it> wrote: > >On Sun, 2 Apr 2023 at 20:19, Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > > > >> > >> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è > >> in effetti evidente a tutti. Ma, da non giurista, faccio veramente > >> fatica a capire perché questo ponga problemi al Garante per la > >> protezione dei dati personali. Se pubblico un sito web pieno di panzane > >> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi > >> (sempre da non giurista), che al massimo rischio una querela per > >> diffamazione > > > > > >Se la produzione di quelle panzane richiede il trattamento dei dati di > >milioni di ignari cittadini, allora sì, attrai le ire del Garante (oltre > >che quelle dei destinatari delle tue panzane). > > > >> > >> -- > >_______________ > >*Maurizio Borghi* > >Università di Torino > >https://www.dg.unito.it/persone/maurizio.borghi > >Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > > > >My Webex room: https://unito.webex.com/meet/maurizio.borghi > > -- > Sent from my mobile phone. Please excuse my brevity and top-posting. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

April 3, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Antonio

> "ma gli italiani che adesso usano le VPN per raggiungere il sito di > ChatGPT stanno compiendo un atto illegale ? " Le VPN sono illegali in Bielorussia, Iraq, Turkmenistan, Corea del Nord. Fortemente limitate e/o controllate dal governo, in Cina, Iran, Oman, Russia, Turchia, Emirati Arabi [1] Comunque, se è solo per usare ChatGPT, invece delle VPN, io proverei servizi alternativi, tipo poe.com (servizio di Quora) che permette di interpellare, non solo ChatGPT, ma Sage, GPT-4, Claude+, Claude-instant, Dragonfly. Antonio [1] https://nordvpn.com/it/blog/usare-vpn-e-legale/

April 3, 2023

Fwd: ChatGPT disabled for users in Italy

by Benedetto Ponti

Il 03/04/2023 11:35, Giuseppe Attardi ha scritto: > > >> On 3 Apr 2023, at 11:09, Benedetto Ponti <benedetto.ponti(a)unipg.it> >> wrote: >> >> >> >> >> Il 03/04/2023 10:46, Giuseppe Attardi ha scritto: >>> >>> >>>> On 3 Apr 2023, at 10:03, Benedetto >>>> Ponti<benedetto.ponti(a)unipg.it>wrote: >>>> >>>> mi pare che ci siano un po' di punti fermi da cui partire, sul >>>> piano della disciplina e del regime giuridico a tutela dei dati >>>> personali (non solo e non tanto della "privacy"), se si vuole >>>> impostare un ragionamento (non tanto sulla bontà o meno della >>>> decisione del Garante, in sè, quanto) sull'impatto di tale regime >>>> giuridico su chatGPT (o chi per lei). >>>> >>>> 1) vorrei intanto ricordare che la diffamazione non richiede che il >>>> fatto narrato/rappresentato sia falso. Si può essere diffamati >>>> anche mediante l'allegazione di un fatto vero. La verità opera come >>>> scriminante in caso di esercizio del diritto di cronaca (rende non >>>> punibile il reato commesso). >>>> >>> Quindi di diffamazione si tratta, questo era il mio punto. >> >> No, è vero il contrario: l'alternativa vero/falso non opera sul piano >> della diffamazione (si può essere incrimitati per diffamazione per >> diffusione di un fatto vero), ma su piani diversi. >> >> > Non ci capiamo. Siamo d’accordo che c’è diffamazione, nel diffondere > affermazioni che un soggetto non vorrebbe fossero diffuse? - no, non siamo d'accordo. 1) C'è diffamazione solo se le informazioni diffuse sono lesive della reputazione. 2) Se vengono diffuse notizie che non sono lesive della reputazione, ma rappresentano in modo falsato/scorretto i miei gusti, preferenze, vicende, etc., c'è lesione dell'identità personale; 3) se vengono diffuse notizie vere che riguardano la sfera intima e strettamente personale, senza un giustificato motivo per la loro diffusione (interesse pubblico della notizia), c'è lesione della riservatezza 4) se - in presenza di diffusioni di dati personali - non si verifica nessuna delle condizioni precedenti, residua l'applicazione del GDPR: diritto di opposizione, diritto di cancellazione, con i connessi presupposti e casi di non applicazione/deroga >>>> >>>> 2) c'è poi da aggiungere che la diffamazione è la lesione della >>>> reputazione, mentre nel discorso che qui ci occupa (il fatto che le >>>> risposte di chatGPT forniscano informazione false, scorrette, >>>> datate, etc. riguardo a persone identificate o identificabili) il >>>> profilo rilevante è quello del diritto alla (corretta >>>> rappresentazione dell')identità personale, che è un piano >>>> differente rispetto a quello della reputazione. Rileva cioè - per >>>> essere schematici - il GDPR come legslazione a tutela dei dati >>>> personali, anche in quanto funzionale alla_tutela del diritto >>>> fondamentale all'identità personale_. (correttezza, aggiornamento, >>>> esattezza dei dati sono requisiti funzionali a tale tutela). >>>> >>> Quindi il diritto da tutelare è quello all’identità personale, non >>> alla protezione dei dati. La GDPR viene invocata surrettiziamente >>> per difendere il primo, ma è una estrapolazione. >>> Capisco che tu sostieni che bisogna fare uso delle leggi esistenti, >>> ma non mi pare corretto stiracchiarle verso altre finalità. >> >> - ah, ma non lo sostengo mica io, eh! questa che ti ho riportato è >> giurisprudenza consolidata: la tutela dei dati personali è anche >> funzionale/strumentale alla tutela di altri diritti. >> > Mah, io qui vedo il percorso opposto: si pretende che il diritto > all’identità sia tutelato da una regola che non si applica, e si forza > tale regola ad essere applicabile in funzione del diritto all’identità. libero di vederla così: chi applica il diritto in italia ed in UE la vede diversamente (lo vogliamo chiamare "il diritto vivente"?) >> >>>> >>>> 3) Fatte queste precisazioni, vorrei venire ad alcune affermazioni, >>>> tipo: "Se il solo rimettere in circolazione dati pubblicati su web >>>> violasse la GDPR, anche i motori di ricerca sarebbero vietati.". Si >>>> dà il caso che dalla sentenza della Corte di giustizia "Google >>>> Spain" in poi (una sentenza del 2014), i motori di ricerca sono >>>> tenuti alla deindicizzazione dei link prodotti da una query basata >>>> su nome e cognome dell'interessato, qualora il link punti ad una >>>> pagina web in cui siano contenuti dati scorretti/inesatti/non (più) >>>> aggiornati. Il diritto al delisting (come strumento che consente di >>>> far valere in diritto alla cancellazione come strumentale, in >>>> particolare, non tanto alla tutela della reputazione, ma più >>>> ampiamente alla tutela dell'identità personale) è oramai >>>> consolidato. Possiamo discutere di come sia costruito l'equilibrio, >>>> se l'eccezione fondata sul diritto di espressione sia adeguata, >>>> etc.; ma che il diritto alla cancellazione (art. 17 GDPR) combinato >>>> con il diritto di opposizione (art. 21) impatti sui motori di >>>> ricerca oramai è un dato acquisito. I motori di ricerca non sono >>>> vietati, ma regolati sì! >>>> >>> Quindi il singolo interessato, non l’Autorità, dovrebbe richiedere >>> ad OpenAI di eliminare le fonti che lo riferiscono. >> (se rischio sistemico, vedi quanto detto sotto, al punto 4). E poi, >> attenzione perché la tutela dei dati personali NON si riduce negli >> strumenti a disposizione del singolo interessato. Il principio di >> responsabilizzazione (art. 6, comma 2) ci dice che la compliance >> grava come responsabilità su chi tratta i dati personali, e le >> autorità stanno lì a verificare che il gdpr sia rispettato. C'è un >> interesse pubblico (una dimensione pubblica, di interesse generale) >> alla tutela dei dati personali (proprio perché strumentale alla >> tutela di diritti fondamentali della persona), non soltanto >> l'interesse specifico deill'interessato. >>>> >>>> >>>> 4)/mutatis mutandis/, quali ricadute del combinato disposto >>>> (diritto di cancellazione+diritto di opposizione) sui chatbot LLM? >>>> Questo a mio parere è il nodo. Il delisting ha funzionato, e >>>> funziona, perché il motore di ricerca non costruisce un contenuto >>>> ad hoc, ma linka a contenuti già esistenti. Diversamente, il >>>> sistema basato sul LLM come chat GPT, non si limita a linkare, anzi >>>> fa tutt'altro. Assembla di volta in volta informazioni che trae dal >>>> web, e fornisce un contenuto ad hoc. Se in questo contenuto sono >>>> presenti inesattezze, dati non aggiornati, dati falsi etc. che sono >>>> riferiti ad una persona identificata o identificabile, i diritti di >>>> cui sopra possono essere fatti valere nei confronti del titolare >>>> del trattamento (che è OpenAI). Se la presenza di errori, >>>> scorrettezze, dati vecchi/non aggiornati è sistematica (by >>>> design),_l'impatto è enorme_, dal momento che varrebbe il principio >>>> opposto (art. 25 del gdpr cd. "privacy by design", espressione >>>> sintetica fuorviante perché l'articolo in questione impone una >>>> conformità della progettazione dei mezzi del trattamento alla >>>> tutela di tutti i diritti degli interessati, non solo della "privacy") >>>> >>>> 5) si dice, ancora: "Nel produrre le risposte risposte di ChatGPT >>>> non ci sono dati personali che vengono elaborati, solo dati >>>> “manifestly made public” nelle fonti web da cui li trae" >>>> - ora, il fatto che i dati personali siano tratti dal web non >>>> comporta anche che i dati siano stati “manifestly made public” >>>> dallo stesso interessato cui si riferiscono (potrebbe averli >>>> pubblicati qualcun altro). Ed anche nel caso in cui quei dati li >>>> abbia effettivamente resi pubblici l'interessato, ciò non comporta >>>> di per sè che ai trattamenti di quei dati non si applichi tutto il >>>> regime del GDPR. Quella disposizione serve a disattivare il divieto >>>> con cui si apre all'art. 9 (divieto di trattamento), senza però che >>>> questo disattivi tutto il resto del GDPR. In particolare non viene >>>> meno la cogenza del principio di finalità. Tendenzialmente, sono >>>> leciti solo i trattamenti che abbiano una finalità compatibile con >>>> la finalità della pubblicazione da parte dell'interessato. Qual è >>>> la finalità del/dei trattamento/i realizzati per erogare chatCPT? >>>> chi le stabilisce? sono compatibili con quelle per le quali >>>> l'interessato aveva reso pubblici i dati (qui c'è un enorme tema di >>>> rilevanza del contesto). >>>> >>> Me ne rendevo conto, ma interpretavo il fatto che se il soggetto non >>> ha richiesto la cancellazione della fonte, come nel caso precedente, >>> li abbia di fatto resi pubblici. >> >> No, questa lettura è improponibile (nel senso che contrasta con tutti >> i principi del GDPR, e non solo). In questo modo un diritto si >> trasforma in un onere: se non passo la vita a verificare che qualcun >> altro abbia pubblicato i miei dati, chiedendogli di cancellarli, >> allora è come se quei dati li avessi pubblicati io? Dai, sù... >> >> >>>> >>>> NB: non sto dicendo che il GDPR sia sempre e cmq soddisfacente >>>> (ieri scrivevo che per molti aspetti si rivela molto rigido, poco >>>> adatto a alle caratteristiche di determinati trattamenti, etc.), ma >>>> la legge vigente è quella lì, non quella che noi vorremmo che ci fosse. >>>> Se non muoviamo, nelle nostre analisi, dal corretto inquadramento >>>> di ciò che il regime attualmente vigente impone, faremo fatica a >>>> comprendere le ragioni dei regolatori (che ci piacciano o meno), e >>>> faremo fatica a immaginare come tale normativa dovrebbe essere >>>> modificata (eventualmente). >>>> >>> Sono d’accordo, ma servono regole idonee allo scopo, non >>> stiracchiare regole fatte per altri scopi e per altre tecnologie. >>> Anche il Copyright non si applica a ChatGPT, perché protegge la >>> forma dell’opera, che ChatGPT non replica mai esattamente. >>> >>> Ciò che servirebbe sono regole contro la concentrazione di potere >>> tecnologico in poche aziende. >>> Come dice Daniela Tafani, occorre garantire il "il rispetto dei >>> diritti umani [rispetto a] il modello di business dei grandi >>> monopoli del capitalismo intellettuale.” >>> È una questione più di politica economica che giuridica. >> >> >> non ho capito: "servono regole idonee" (e allora è una questione - >> anche - giuridica) oppure "È una questione più di politica economica >> che giuridica" ? devo citare Natalino Irti (il mercato è una >> costruzione del diritto)? >> > > Intendo che occorre un intervento sui meccanismi economici, la > concentrazione di mercato (che l’antitrust depotenziato in USA non > protegge più) e sul capitalismo di sorveglianza (servizi gratuiti in > cambio di profilazione). > Le norme per attuare tali interventi richiedono un accordo di politica > economica su scala internazionale che non c’è: vedi l’accantonamento > della Minimum Tax. >> >> >> BP >> >>> >>> — Beppe >>>> >>>> >>>> Benedetto Ponti >>>> >>>> >>>> <firma nuova mail_3.png> >>>> Il 03/04/2023 08:39, Giuseppe Attardi ha scritto: >>>>> Non sono d’accordo, anch’io la considero diffamazione. >>>>> >>>>> L’art. 9 della GDPR dice: >>>>> >>>>> 1. Processing of personal data revealing racial or ethnic origin, political opinions, religious or philosophical beliefs, or trade union membership, and the processing of genetic data, biometric data for the purpose of uniquely identifying a natural person, data concerning health or data concerning a natural person’s sex life or sexual orientation shall be prohibited. >>>>> >>>>> ma esclude: >>>>> >>>>> (e) processing relates to personal data which are manifestly made public by the data subject; >>>>> >>>>> Nel produrre le risposte risposte di ChatGPT non ci sono dati personali che vengono elaborati, solo dati “manifestly made public” nelle fonti web da cui li trae, e le risposte sono solo affermazioni, senza garanzia di verità. >>>>> Se fossero vere, si potrebbe contestare che rivelano fatti personali, ma se sono falsi si tratta di diffamazione. >>>>> Delle due l’una: o riteniamo che ChatGPT dica cose vere o non lo crediamo. >>>>> >>>>> Se il solo rimettere in circolazione dati pubblicati su web violasse la GDPR, anche i motori di ricerca sarebbero vietati. >>>>> Non dobbiamo vedere tutto come chiodi perché siamo un martello (GDPR). >>>>> Per la diffamazione c’è un reato apposito. >>>>> >>>>> È abbastanza evidente che le norme attuali, GDPR, Copyright e annunciato European AI Act, sono inadeguati. >>>>> Ma intervenire adesso a bloccare una tecnologia che non fa danni, certamente di meno di tanto software di cui non ci curiamo, è prematuro e controproducente. >>>>> >>>>> — Beppe >>>>> >>>>>> On 3 Apr 2023, at 07:19,<nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: >>>>>> >>>>>> Date: Sun, 2 Apr 2023 22:14:12 +0200 >>>>>> From: Maria Chiara Pievatolo<mariachiara.pievatolo(a)unipi.it> >>>>>> To:<nexa(a)server-nexa.polito.it> >>>>>> Subject: Re: [nexa] ChatGPT disabled for users in Italy >>>>>> Message-ID:<c3aee1da-ee0f-4ea4-4581-4b0a45515802(a)unipi.it> >>>>>> Content-Type: text/plain; charset="utf-8"; Format="flowed" >>>>>> >>>>>> On 02/04/23 20:19, Stefano Zacchiroli wrote: >>>>>> >>>>>>> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è >>>>>>> in effetti evidente a tutti. Ma, da non giurista, faccio veramente >>>>>>> fatica a capire perché questo ponga problemi al Garante per la >>>>>>> protezione dei dati personali. Se pubblico un sito web pieno di panzane >>>>>>> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi >>>>>>> (sempre da non giurista), che al massimo rischio una querela per >>>>>>> diffamazione dagli interessati. >>>>>>> >>>>>> Se si rivelano dati particolari (ex sensibili) senza il consenso >>>>>> esplicito dell'interessato si viola l'articolo 9 della GDPR. I dati >>>>>> particolari, perfino quando sono falsi, mi rappresentano. Se un SALAMI >>>>>> allucinato mi arruola nei testimoni di Geova, descrive comunque le mie >>>>>> (presunte) convinzioni religiose senza il mio consenso. >>>>>> >>>>>> In questo sito >>>>>> https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230403051928082463… c'è un >>>>>> fantastico esempio, quello della malattia di un Peppino agente di >>>>>> commercio in realtà fin troppo sano, in cui una rivelazione in buona >>>>>> fede di un dato particolare *falso* senza il consenso dell'interessato >>>>>> provoca pure una tragedia familiare. >>>>>> >>>>>> Buonanotte, >>>>>> MCP >>>>>> >>>>> _______________________________________________ >>>>> nexa mailing list >>>>> nexa(a)server-nexa.polito.it >>>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 3, 2023