April 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

On 02/04/23 21:07, Guido Vetere wrote: > @Stefano Quintarelli <mailto:stefano@quintarelli.it>, in effetti sembra stiano > 'incoraggiando' (reinforcement learning) ChatGPT ad essere più cauto riguardo alle vicende > delle persone, e facendo qualche prova ho constatato che il sistema si rifiuta di > rispondere a domande 'sensibili'. a naso direi che potrebbe essere una "pecetta" attaccata dopo in una pipeline. sarebbe piu' controllabile e affidabile. boh.

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Antonio

... > detto in altri termini, il dato e' solo quello codificato "non lossy" e inserito in un > record di un DB relazionale o anche quello codificato "lossy" e sparso in una matrice ? A proposito del dato "lossy" sparso in una matrice mi viene in mente il "google bombing" [1]. Chi è su Internet da più di ventanni se lo ricorderà sicuramente, cercavi "miserable failure" e ti veniva fuori la biografia di George Bush [2]. Mutatis mutandis, cosa succederebbe se un ingegnere (buontempone) di OpenAI immettesse, assieme a miliardi di altre frasi, anche un milione di "tizio è gay" (dato personale /sensibile/ in quanto relativo alla vita sessuale di una persona)? Una volta /processato/ il dato di partenza potrebbe anche essere cancellato, ma alla richiesta di un ignaro utente: "chi è tizio?", la risposta sarebbe una sola. E ancora, dato che i dati delle conversazioni "rientrano in circolo" per produrre altri modelli, mettiamo il caso che, invece del programmatore di OpenAI, quella frase venisse scritta da mille utenti, mille volte ciascuno. Si otterrebbe lo stesso risultato, insomma un "gpt bombing". Antonio [1] https://it.wikipedia.org/wiki/Google_bombing [2] https://searchengineland.com/wp-content/seloads/2012/10/369539947_e3f05b50e…

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

In non vedo niente di sbagliato nel tuo ragionamento, Stefano Zacchiroli. Da non giurista, ma da amante della logica, avverto anche io la dissonanza dell'affermazione che ChatGPT rivela dati personali sensibili e al contempo falsi. Nella sua teoria dell'"informazione semantica", Floridi dice che una affermazione falsa non reca in effetti alcuna informazione. Non so quanto essere d'accordo col filosofo, ma l'incongruenza del Garante mi sembra comunque evidente. @Stefano Quintarelli <stefano(a)quintarelli.it>, in effetti sembra stiano 'incoraggiando' (reinforcement learning) ChatGPT ad essere più cauto riguardo alle vicende delle persone, e facendo qualche prova ho constatato che il sistema si rifiuta di rispondere a domande 'sensibili'. Resta comunque valida la tua osservazione: basterebbe dire chiaramente che ChatGPT inventa storie, più o meno come un sito di satira. Invece - e qui c'è il dolo di OpenAI - è stato inizialmente proposto come un sistema di question-answering, dal quale ci si possono aspettare risposte autentiche. La storia poi che GPT-4 sarebbe stato più veridico del suo predecessore si sta rivelando alquanto inattendibile. Su questo - l'ho detto già ma ci torno - andrebbe fatta una seria riflessione tecnica. G. On Sun, 2 Apr 2023 at 20:19, Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > On Sun, Apr 02, 2023 at 06:34:50PM +0200, Maurizio Borghi wrote: > > aggiungerei soltanto che il problema principale emerge a mio parere > > dall'effetto congiunto di due dei profili di illegittimità individuati > > dal Garante: il trattamento di milioni di dati personali senza base > > giuridica E la sistematica produzione di informazioni false su > > soggetti interessati. Questo secondo profilo (riscontrabile da > > chiunque faccia uso del sistema), oltre a costituire un illecito di > > per sè, esclude secondo me categoricamente il "legittimo interesse" > > come possibile base giuridica del trattamento. Dunque si configura una > > violazione grave del GDPR che può anche motivare un provvedimento > > d'urgenza. > > Se capisco bene, la seconda parte del tuo "E" qui sopra è il punto > seguente evocato da Carlo nella sua (ottima!, grazie!!) analisi: > > > iii) l’inesattezza di dati personali rivelata dagli out-put errati > > della chat (questa è davvero significativa di un grave problema di > > comprensione del servizio stesso) > > Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è > in effetti evidente a tutti. Ma, da non giurista, faccio veramente > fatica a capire perché questo ponga problemi al Garante per la > protezione dei dati personali. Se pubblico un sito web pieno di panzane > su persone viventi, il Garante ha il potere di farmelo chiudere? Direi > (sempre da non giurista), che al massimo rischio una querela per > diffamazione dagli interessati. > > Cosa sbaglio nella analogia e/o nella mia comprensione di questo aspetto > del problema? > > Grazie a tutt*, > a presto! > -- > Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ > Full professor of Computer Science o o o \/|V|\/ > Télécom Paris, Polytechnic Institute of Paris o o o </> <\> > Co-founder & CTO Software Heritage o o o o /\|^|/\ > https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "' > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Zacchiroli

On Sun, Apr 02, 2023 at 06:34:50PM +0200, Maurizio Borghi wrote: > aggiungerei soltanto che il problema principale emerge a mio parere > dall'effetto congiunto di due dei profili di illegittimità individuati > dal Garante: il trattamento di milioni di dati personali senza base > giuridica E la sistematica produzione di informazioni false su > soggetti interessati. Questo secondo profilo (riscontrabile da > chiunque faccia uso del sistema), oltre a costituire un illecito di > per sè, esclude secondo me categoricamente il "legittimo interesse" > come possibile base giuridica del trattamento. Dunque si configura una > violazione grave del GDPR che può anche motivare un provvedimento > d'urgenza. Se capisco bene, la seconda parte del tuo "E" qui sopra è il punto seguente evocato da Carlo nella sua (ottima!, grazie!!) analisi: > iii) l’inesattezza di dati personali rivelata dagli out-put errati > della chat (questa è davvero significativa di un grave problema di > comprensione del servizio stesso) Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è in effetti evidente a tutti. Ma, da non giurista, faccio veramente fatica a capire perché questo ponga problemi al Garante per la protezione dei dati personali. Se pubblico un sito web pieno di panzane su persone viventi, il Garante ha il potere di farmelo chiudere? Direi (sempre da non giurista), che al massimo rischio una querela per diffamazione dagli interessati. Cosa sbaglio nella analogia e/o nella mia comprensione di questo aspetto del problema? Grazie a tutt*, a presto! -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

e' successo anche a me, in effetti, nelle api On 02/04/23 19:35, Antonio wrote: >> Le ragioni di tale straordinaria urgenza ed >> indifferibilità non sono note e non sono espresse nel provvedimento. > ... > Nel comunicato stampa, il Garante fa riferimento al data-breach del 20 marzo [1]. > Cos'è successo il 20 marzo? Che alcuni utenti hanno riferito di conversazioni di estranei apparse inspiegabilmente nelle loro finestre di chat. > Probabilmente il motivo dell'urgenza è questo e non che il set di dati di addestramento contenga quantità infinite di dati personali e spesso sensibili che possano emergere in modo casuale in risposta a un prompt. > > Antonio > > [1] https://www.theregister.com/2023/03/23/openai_ceo_leak/ > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Antonio

> Le ragioni di tale straordinaria urgenza ed > indifferibilità non sono note e non sono espresse nel provvedimento. ... Nel comunicato stampa, il Garante fa riferimento al data-breach del 20 marzo [1]. Cos'è successo il 20 marzo? Che alcuni utenti hanno riferito di conversazioni di estranei apparse inspiegabilmente nelle loro finestre di chat. Probabilmente il motivo dell'urgenza è questo e non che il set di dati di addestramento contenga quantità infinite di dati personali e spesso sensibili che possano emergere in modo casuale in risposta a un prompt. Antonio [1] https://www.theregister.com/2023/03/23/openai_ceo_leak/

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Maurizio Borghi

La discussione è già molto ricca e interessante, e dunque mi astengo dal mettere altre carne al fuoco... Rispetto all'ottima analisi di Carlo Blengino, aggiungerei soltanto che il problema principale emerge a mio parere dall'effetto congiunto di due dei profili di illegittimità individuati dal Garante: il trattamento di milioni di dati personali senza base giuridica E la sistematica produzione di informazioni false su soggetti interessati. Questo secondo profilo (riscontrabile da chiunque faccia uso del sistema), oltre a costituire un illecito di per sè, esclude secondo me categoricamente il "legittimo interesse" come possibile base giuridica del trattamento. Dunque si configura una violazione grave del GDPR che può anche motivare un provvedimento d'urgenza. Un saluto cordiale, -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> Il giorno dom 2 apr 2023 alle ore 16:40 Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > ChatGPT non può proporsi come oracolo universale > <https://guidovetere.nova100.ilsole24ore.com/2023/02/11/il-problema-epistemi…>, > questo è certo, e d'altronde mi sembra che sia ormai chiaro a tutti. > > L'uso in un motore di ricerca di GPT o simili sistemi generativi basati su > Large Language Models sarebbe però (ed è, nel caso di Bing) basato sulla > riformulazione di una 'ground truth' attinta da sorgenti editabili, es. > wikipedia, non direttamente dal modello linguistico general-generico > (pre-trained). Sostanzialmente si tratta di nuovi sistemi di organizzazione > e presentazione del materiale, non tutto eccelso, che già oggi otteniamo > con le nostre query su Bing oggi e su Google domani. @Giuseppe Attardi > <giuseppe.attardi(a)unipi.it> ha fatto esperienze dirette e ne ha già > parlato anche qui più volte. > > ChatGPT avverte che le sue risposte potrebbero essere inaccurate. Dovrebbe > fare di più e dire chiaramente che si tratta di invenzioni talvolta > verosimili. Si vede bene, ad esempio, nel software che genera, dove può > accadere che certe allucinazioni assumano forma computabile (nulla comunque > a confronto dei disastri che potrebbe combinare in medicina). > > Per quanto riguarda il problema delle notizie biografiche inventate di cui > parla @Stefano Quintarelli <stefano(a)quintarelli.it>, potremmo chiederci: > un dato personale falso rivelato da qualcuno che avverte di essere > occasionalmente mendace si può considerare come una violazione della > privacy? Gli esempi per discuterne possono far riferimento ai siti di > satira. > > Il problema insomma non è tanto quello della tecnica di estrazione \ > conservazione \ presentazione del dato, ma è quello del contratto > psicologico che ci lega a questi automi, soprattutto, beninteso, per colpa > di chi ce li vuole vendere. La dismisura del provvedimento del Garante > italiano è una conseguenza del fraintendimento non tanto della tecnica, > quanto degli scopi. > > Buona domenica, > G. > > > On Sun, 2 Apr 2023 at 15:30, Daniela Tafani <daniela.tafani(a)unipi.it> > wrote: > >> "Sometimes companies make money by doing bad things. Other times, >> companies merely allow bad things to happen, because it’s cheaper than >> preventing them. Either way, the basic premise of tort law is that when >> someone is responsible for a bad thing, they should have to pay, or at >> least make it stop. You can think of this as a form of justice: forcing >> wrongdoers to make their victims whole. Or you can think of it as a form of >> deterrence, in which the point is to prevent bad behavior. But civil >> liability, especially corporate liability, can also be understood in >> economic terms: a question of who should have to pay the costs that certain >> activities impose on everyone else". >> >> >> https://www.wired.com/story/section-230-internet-sacred-law-false-idol/ >> >> >> ------------------------------ >> *Da:* Roberto Dolci <rob.dolci(a)aizoon.us> >> *Inviato:* domenica 2 aprile 2023 15:20 >> *A:* Daniela Tafani; Enrico Nardelli; nexa(a)server-nexa.polito.it >> *Oggetto:* [SPAM]RE: [nexa] ChatGPT disabled for users in Italy >> >> >> Ho testato ChatGPT su alcuni casi ipotetici di angina, ipertensione e >> quadro sistemico, ed il robot manderebbe al Creatore se lasciato solo. >> Segue le orme di Watson ed altri tentativi idioti di sostituirsi al medico >> (all’architetto, all’avvocato, al professionista di turno), che falliscono >> periodicamente. >> >> >> >> Questi “CEO con la Felpa” devono raccontarci fuffa per indorare la >> pillola e tenerci utili idioti al loro servizio, come i 2 miliardi che >> ruminano su Facebook ed altri su altri social media. Sta a noi capire la >> fregatura e non pagarli, prima ancora di portarli di fronte al giudice del >> caso. >> >> Ciao >> >> rob >> >> >> >> *From:* Daniela Tafani <daniela.tafani(a)unipi.it> >> *Sent:* Sunday, April 2, 2023 8:02 AM >> *To:* Roberto Dolci <rob.dolci(a)aizoon.us>; Enrico Nardelli < >> nardelli(a)mat.uniroma2.it>; nexa(a)server-nexa.polito.it >> *Subject:* Re: [nexa] ChatGPT disabled for users in Italy >> >> >> >> ChatGPT no, in effetti, non ha pretese. >> >> Il CEO di Openai sì, però, visto che suggerisce ai poveri di farsi curare >> da chatGPT. >> >> >> >> Qualche ipotesi di reato dovrà pur essere pertinente, >> per chi distribuisca diserbante spacciandolo per colluttorio. >> >> E chi si prenda la briga di applicare quella che gli pare pertinente, non >> lo farà mai troppo presto. >> >> >> >> https://twitter.com/sama/status/1627110889508978688 >> <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402132021011204…> >> >> >> >> Buona domenica, >> Daniela >> >> >> >> >> ------------------------------ >> >> *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Roberto >> Dolci <rob.dolci(a)aizoon.us> >> *Inviato:* domenica 2 aprile 2023 14:11 >> *A:* Enrico Nardelli; nexa(a)server-nexa.polito.it >> *Oggetto:* Re: [nexa] ChatGPT disabled for users in Italy >> >> >> >> In tutto questo, forse serve ricordare che ChatGPT non ha alcuna pretesa >> di scrivere cose corrette, risolvere problemi o fare diagnosi sicure: e’ >> fatto per generare testi scorrevoli e di facile interpretazione, nulla di >> piu’. >> >> >> >> *From:* nexa <nexa-bounces(a)server-nexa.polito.it> *On Behalf Of *Enrico >> Nardelli >> *Sent:* Saturday, April 1, 2023 4:19 AM >> *To:* nexa(a)server-nexa.polito.it >> *Subject:* Re: [nexa] ChatGPT disabled for users in Italy >> >> >> >> A me pare che la decisione del Garante sia formalmente ineccepibile: sarò >> lieto di leggere pareri difformi da parte degli avvocati esperti di privacy >> presenti in lista. >> >> Per il momento è un atto urgente del Presidente che il collegio deve >> confermare entro 30 giorni (come immagino accadrà). >> >> Però penso che quelli che ritengo siano i due punti principali contestati: >> - la mancanza di un'informativa rispondente al GDPR sui dati raccolti >> - la mancanza di un sistema di verifica dell'età >> >> possano essere rimediati in un tempo sicuramente inferiore a 6 mesi (la >> moratoria richiesta dalla famosa lettera). >> >> Personalmente proverei a fare qualcos'altro, basandomi sulla legislazione >> in materia di informazione al pubblico. Non sono un avvocato, quindi non >> posso dire se sia fattibile, ma in sostanza qui abbiamo un sistema che - a >> differenza dei motori di ricerca che rispondono agli utenti con qualcosa di >> realmente esistente sul web - fabbrica informazioni false. >> >> Questo difetto può essere corretto con molta più difficoltà e quindi >> quest'approccio fornirebbe, se fattibile, una base legale per bloccare >> l'uso di ChatGPT per un tempo molto più lungo. >> >> Sia chiaro: non ritengo abbia senso bloccare ricerca e sviluppo in questo >> settore, ma qui c'è qualcosa di equivalente (anzi, probabilmente superiore) >> ad una tecnologia per costruire a costo irrisorio reattori nucleari >> portatili. Possono essere un enorme vantaggio per tutti, ma possono essere >> anche assai pericolosi. Una qualche forma di regolamentazione va trovata. >> >> Aggiungo che un reclamo presentato negli USA alla Federal Trade >> Commission da parte del Center for AI and Digital Policy ( >> https://s899a9742c3d83292.jimcontent.com/download/version/1680174583/module… >> <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…>) >> cita, tra l'altro, la "consumer deception" come motivo per bloccare >> l'utilizzo di questi strumenti. >> >> Concludo osservando che il paragone con regimi autoritari mi sembra un >> po' fuor di luogo: questo collegio non è espressione dell'attuale governo >> (che comunque è il risultato di elezioni democraticamente svolte) ma del >> governo Draghi. >> >> Ciao, Enrico >> >> -- >> >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> >> >> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://www.mat.uniroma2.it/~nardelli >> <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> >> blog: https://link-and-think.blogspot.it/ >> <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> >> ====================================================== >> >> >> -- >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

On 02/04/23 16:39, Guido Vetere wrote: > Per quanto riguarda il problema delle notizie biografiche inventate di cui parla @Stefano > Quintarelli <mailto:stefano@quintarelli.it>, potremmo chiederci: un dato personale falso > rivelato da qualcuno che avverte di essere occasionalmente mendace si può considerare come > una violazione della privacy? Gli esempi per discuterne possono far riferimento ai siti > di satira. carina l'idea che si presenti come un sito di satira... ma non era esattamente quello il mio punto. il mio punto e': se gli chiedo di correggere i dati personali -errati- che propala su di me, lo deve fare ? secondo me si. (a meno che non si iscriva alla siae come comico... LOL)

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

ChatGPT non può proporsi come oracolo universale <https://guidovetere.nova100.ilsole24ore.com/2023/02/11/il-problema-epistemi…>, questo è certo, e d'altronde mi sembra che sia ormai chiaro a tutti. L'uso in un motore di ricerca di GPT o simili sistemi generativi basati su Large Language Models sarebbe però (ed è, nel caso di Bing) basato sulla riformulazione di una 'ground truth' attinta da sorgenti editabili, es. wikipedia, non direttamente dal modello linguistico general-generico (pre-trained). Sostanzialmente si tratta di nuovi sistemi di organizzazione e presentazione del materiale, non tutto eccelso, che già oggi otteniamo con le nostre query su Bing oggi e su Google domani. @Giuseppe Attardi <giuseppe.attardi(a)unipi.it> ha fatto esperienze dirette e ne ha già parlato anche qui più volte. ChatGPT avverte che le sue risposte potrebbero essere inaccurate. Dovrebbe fare di più e dire chiaramente che si tratta di invenzioni talvolta verosimili. Si vede bene, ad esempio, nel software che genera, dove può accadere che certe allucinazioni assumano forma computabile (nulla comunque a confronto dei disastri che potrebbe combinare in medicina). Per quanto riguarda il problema delle notizie biografiche inventate di cui parla @Stefano Quintarelli <stefano(a)quintarelli.it>, potremmo chiederci: un dato personale falso rivelato da qualcuno che avverte di essere occasionalmente mendace si può considerare come una violazione della privacy? Gli esempi per discuterne possono far riferimento ai siti di satira. Il problema insomma non è tanto quello della tecnica di estrazione \ conservazione \ presentazione del dato, ma è quello del contratto psicologico che ci lega a questi automi, soprattutto, beninteso, per colpa di chi ce li vuole vendere. La dismisura del provvedimento del Garante italiano è una conseguenza del fraintendimento non tanto della tecnica, quanto degli scopi. Buona domenica, G. On Sun, 2 Apr 2023 at 15:30, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > "Sometimes companies make money by doing bad things. Other times, > companies merely allow bad things to happen, because it’s cheaper than > preventing them. Either way, the basic premise of tort law is that when > someone is responsible for a bad thing, they should have to pay, or at > least make it stop. You can think of this as a form of justice: forcing > wrongdoers to make their victims whole. Or you can think of it as a form of > deterrence, in which the point is to prevent bad behavior. But civil > liability, especially corporate liability, can also be understood in > economic terms: a question of who should have to pay the costs that certain > activities impose on everyone else". > > > https://www.wired.com/story/section-230-internet-sacred-law-false-idol/ > > > ------------------------------ > *Da:* Roberto Dolci <rob.dolci(a)aizoon.us> > *Inviato:* domenica 2 aprile 2023 15:20 > *A:* Daniela Tafani; Enrico Nardelli; nexa(a)server-nexa.polito.it > *Oggetto:* [SPAM]RE: [nexa] ChatGPT disabled for users in Italy > > > Ho testato ChatGPT su alcuni casi ipotetici di angina, ipertensione e > quadro sistemico, ed il robot manderebbe al Creatore se lasciato solo. > Segue le orme di Watson ed altri tentativi idioti di sostituirsi al medico > (all’architetto, all’avvocato, al professionista di turno), che falliscono > periodicamente. > > > > Questi “CEO con la Felpa” devono raccontarci fuffa per indorare la pillola > e tenerci utili idioti al loro servizio, come i 2 miliardi che ruminano su > Facebook ed altri su altri social media. Sta a noi capire la fregatura e > non pagarli, prima ancora di portarli di fronte al giudice del caso. > > Ciao > > rob > > > > *From:* Daniela Tafani <daniela.tafani(a)unipi.it> > *Sent:* Sunday, April 2, 2023 8:02 AM > *To:* Roberto Dolci <rob.dolci(a)aizoon.us>; Enrico Nardelli < > nardelli(a)mat.uniroma2.it>; nexa(a)server-nexa.polito.it > *Subject:* Re: [nexa] ChatGPT disabled for users in Italy > > > > ChatGPT no, in effetti, non ha pretese. > > Il CEO di Openai sì, però, visto che suggerisce ai poveri di farsi curare > da chatGPT. > > > > Qualche ipotesi di reato dovrà pur essere pertinente, > per chi distribuisca diserbante spacciandolo per colluttorio. > > E chi si prenda la briga di applicare quella che gli pare pertinente, non > lo farà mai troppo presto. > > > > https://twitter.com/sama/status/1627110889508978688 > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402132021011204…> > > > > Buona domenica, > Daniela > > > > > ------------------------------ > > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Roberto > Dolci <rob.dolci(a)aizoon.us> > *Inviato:* domenica 2 aprile 2023 14:11 > *A:* Enrico Nardelli; nexa(a)server-nexa.polito.it > *Oggetto:* Re: [nexa] ChatGPT disabled for users in Italy > > > > In tutto questo, forse serve ricordare che ChatGPT non ha alcuna pretesa > di scrivere cose corrette, risolvere problemi o fare diagnosi sicure: e’ > fatto per generare testi scorrevoli e di facile interpretazione, nulla di > piu’. > > > > *From:* nexa <nexa-bounces(a)server-nexa.polito.it> *On Behalf Of *Enrico > Nardelli > *Sent:* Saturday, April 1, 2023 4:19 AM > *To:* nexa(a)server-nexa.polito.it > *Subject:* Re: [nexa] ChatGPT disabled for users in Italy > > > > A me pare che la decisione del Garante sia formalmente ineccepibile: sarò > lieto di leggere pareri difformi da parte degli avvocati esperti di privacy > presenti in lista. > > Per il momento è un atto urgente del Presidente che il collegio deve > confermare entro 30 giorni (come immagino accadrà). > > Però penso che quelli che ritengo siano i due punti principali contestati: > - la mancanza di un'informativa rispondente al GDPR sui dati raccolti > - la mancanza di un sistema di verifica dell'età > > possano essere rimediati in un tempo sicuramente inferiore a 6 mesi (la > moratoria richiesta dalla famosa lettera). > > Personalmente proverei a fare qualcos'altro, basandomi sulla legislazione > in materia di informazione al pubblico. Non sono un avvocato, quindi non > posso dire se sia fattibile, ma in sostanza qui abbiamo un sistema che - a > differenza dei motori di ricerca che rispondono agli utenti con qualcosa di > realmente esistente sul web - fabbrica informazioni false. > > Questo difetto può essere corretto con molta più difficoltà e quindi > quest'approccio fornirebbe, se fattibile, una base legale per bloccare > l'uso di ChatGPT per un tempo molto più lungo. > > Sia chiaro: non ritengo abbia senso bloccare ricerca e sviluppo in questo > settore, ma qui c'è qualcosa di equivalente (anzi, probabilmente superiore) > ad una tecnologia per costruire a costo irrisorio reattori nucleari > portatili. Possono essere un enorme vantaggio per tutti, ma possono essere > anche assai pericolosi. Una qualche forma di regolamentazione va trovata. > > Aggiungo che un reclamo presentato negli USA alla Federal Trade Commission > da parte del Center for AI and Digital Policy ( > https://s899a9742c3d83292.jimcontent.com/download/version/1680174583/module… > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…>) > cita, tra l'altro, la "consumer deception" come motivo per bloccare > l'utilizzo di questi strumenti. > > Concludo osservando che il paragone con regimi autoritari mi sembra un po' > fuor di luogo: questo collegio non è espressione dell'attuale governo (che > comunque è il risultato di elezioni democraticamente svolte) ma del governo > Draghi. > > Ciao, Enrico > > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> > > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> > blog: https://link-and-think.blogspot.it/ > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> > ====================================================== > > > -- > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 2, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Daniela Tafani

"Sometimes companies make money by doing bad things. Other times, companies merely allow bad things to happen, because it’s cheaper than preventing them. Either way, the basic premise of tort law is that when someone is responsible for a bad thing, they should have to pay, or at least make it stop. You can think of this as a form of justice: forcing wrongdoers to make their victims whole. Or you can think of it as a form of deterrence, in which the point is to prevent bad behavior. But civil liability, especially corporate liability, can also be understood in economic terms: a question of who should have to pay the costs that certain activities impose on everyone else". https://www.wired.com/story/section-230-internet-sacred-law-false-idol/ ________________________________ Da: Roberto Dolci <rob.dolci(a)aizoon.us> Inviato: domenica 2 aprile 2023 15:20 A: Daniela Tafani; Enrico Nardelli; nexa(a)server-nexa.polito.it Oggetto: [SPAM]RE: [nexa] ChatGPT disabled for users in Italy Ho testato ChatGPT su alcuni casi ipotetici di angina, ipertensione e quadro sistemico, ed il robot manderebbe al Creatore se lasciato solo. Segue le orme di Watson ed altri tentativi idioti di sostituirsi al medico (all’architetto, all’avvocato, al professionista di turno), che falliscono periodicamente. Questi “CEO con la Felpa” devono raccontarci fuffa per indorare la pillola e tenerci utili idioti al loro servizio, come i 2 miliardi che ruminano su Facebook ed altri su altri social media. Sta a noi capire la fregatura e non pagarli, prima ancora di portarli di fronte al giudice del caso. Ciao rob From: Daniela Tafani <daniela.tafani(a)unipi.it> Sent: Sunday, April 2, 2023 8:02 AM To: Roberto Dolci <rob.dolci(a)aizoon.us>; Enrico Nardelli <nardelli(a)mat.uniroma2.it>; nexa(a)server-nexa.polito.it Subject: Re: [nexa] ChatGPT disabled for users in Italy ChatGPT no, in effetti, non ha pretese. Il CEO di Openai sì, però, visto che suggerisce ai poveri di farsi curare da chatGPT. Qualche ipotesi di reato dovrà pur essere pertinente, per chi distribuisca diserbante spacciandolo per colluttorio. E chi si prenda la briga di applicare quella che gli pare pertinente, non lo farà mai troppo presto. https://twitter.com/sama/status/1627110889508978688<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402132021011204…> [cid:image002.png@01D9653B.8211C9E0] Buona domenica, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di Roberto Dolci <rob.dolci(a)aizoon.us<mailto:rob.dolci@aizoon.us>> Inviato: domenica 2 aprile 2023 14:11 A: Enrico Nardelli; nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: Re: [nexa] ChatGPT disabled for users in Italy In tutto questo, forse serve ricordare che ChatGPT non ha alcuna pretesa di scrivere cose corrette, risolvere problemi o fare diagnosi sicure: e’ fatto per generare testi scorrevoli e di facile interpretazione, nulla di piu’. From: nexa <nexa-bounces(a)server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> On Behalf Of Enrico Nardelli Sent: Saturday, April 1, 2023 4:19 AM To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Subject: Re: [nexa] ChatGPT disabled for users in Italy A me pare che la decisione del Garante sia formalmente ineccepibile: sarò lieto di leggere pareri difformi da parte degli avvocati esperti di privacy presenti in lista. Per il momento è un atto urgente del Presidente che il collegio deve confermare entro 30 giorni (come immagino accadrà). Però penso che quelli che ritengo siano i due punti principali contestati: - la mancanza di un'informativa rispondente al GDPR sui dati raccolti - la mancanza di un sistema di verifica dell'età possano essere rimediati in un tempo sicuramente inferiore a 6 mesi (la moratoria richiesta dalla famosa lettera). Personalmente proverei a fare qualcos'altro, basandomi sulla legislazione in materia di informazione al pubblico. Non sono un avvocato, quindi non posso dire se sia fattibile, ma in sostanza qui abbiamo un sistema che - a differenza dei motori di ricerca che rispondono agli utenti con qualcosa di realmente esistente sul web - fabbrica informazioni false. Questo difetto può essere corretto con molta più difficoltà e quindi quest'approccio fornirebbe, se fattibile, una base legale per bloccare l'uso di ChatGPT per un tempo molto più lungo. Sia chiaro: non ritengo abbia senso bloccare ricerca e sviluppo in questo settore, ma qui c'è qualcosa di equivalente (anzi, probabilmente superiore) ad una tecnologia per costruire a costo irrisorio reattori nucleari portatili. Possono essere un enorme vantaggio per tutti, ma possono essere anche assai pericolosi. Una qualche forma di regolamentazione va trovata. Aggiungo che un reclamo presentato negli USA alla Federal Trade Commission da parte del Center for AI and Digital Policy (https://s899a9742c3d83292.jimcontent.com/download/version/1680174583/module…<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…>) cita, tra l'altro, la "consumer deception" come motivo per bloccare l'utilizzo di questi strumenti. Concludo osservando che il paragone con regimi autoritari mi sembra un po' fuor di luogo: questo collegio non è espressione dell'attuale governo (che comunque è il risultato di elezioni democraticamente svolte) ma del governo Draghi. Ciao, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> [cid:image003.png@01D9653B.8211C9E0] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> blog: https://link-and-think.blogspot.it/<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230402123503070906…> ====================================================== --

April 2, 2023