- nexa - server-nexa.polito.it

Intanto, su Repubblica... era: ChatGPT disabled for users in Italy
by M. Fioretti April 4, 2023

April 4, 2023

Q: Musk e altri mille hanno scritto una lettera preoccupati per lo sviluppo di questa tecnologia. Esagerano anche loro? A: “La loro preoccupazione la comprendo. Immaginano che se si dovesse continuare l’allenamento di ChatGpt a un certo punto potrebbe avere coscienza di se stesso”. Q: Cosa potrebbe succedere a qual punto? A: “Che magari pensa: perché dovrei stare qui a risponderei in modo ottimale a domande quando posso risolvere da solo le cose? Ad esempio, trovo un modo per risolvere il riscaldamento globale”. Skynet e' qui, insomma, e potrebbe ucciderci nei nostri letti... L'intervista completa e' qui: https://www.repubblica.it/tecnologia/2023/04/03/news/chatgpt_italia_blocco_… se a qualcuno interessa, la risposta mia a "AI will kill us" l'avevo gia' scritta la settimana scorsa: https://mfioretti.substack.com/p/you-are-all-getting-this-stop-ai Marco -- Vi aspetto su Substack: https://mfioretti.substack.com

1 0

fake journal papers
by Alberto Cammozzo April 4, 2023

April 4, 2023

Questa mattina alla rassegna stampa di radio 3 un ascoltatore che si definiva un fisico dava come abituale nel suo ambiente l'uso di chatGPT nel 'supporto' alla generazione di paper scientifici. Discutendo la cosa un amico mi ha segnalato questo apparentemente diffuso fenomeno dei 'paper mills': <https://sciencebusiness.net/news/us-lawmakers-turn-attention-plague-fake-jo…> (lo riporto di seguito) L'articolo e' datato ma non credo che nel frattempo i numeri dei paper fasulli sia calato. Forse con chatGPT i paper mills andranno in rovina: perché pagare? Alberto -- US lawmakers turn attention to plague of fake journal papers 26 Jul 2022 AI tools are now allowing so-called paper mills to trick journals with fake articles on an industrial scale. The issue risks scientific integrity and is beginning to get high level political attention US lawmakers have warned that fake research papers risk compromising trust in the entire scientific system, as artificial intelligence (AI) makes it ever easier for so-called paper mills to fool journals into accepting made up articles. Some estimates suggest hundreds of thousands of fake papers could exist in the human genomics literature alone. Paper mills have also managed to impersonate guest journal editors to wave through hundreds of their own fraudulent articles. “The automation arms race is upon us,” warned <https://science.house.gov/imo/media/doc/chair_foster_os_publishing.pdf> Democrat congressman Bill Foster in a hearing of the US House of Representatives’ science, space and technology committee last week. To prove his point, Foster, along with another representative, created a fake nuclear physics paper <https://science.house.gov/download/fake-foster-paper> using a text generator that easily evaded plagiarism detectors. “The creation of hundreds of papers – complete with figures and citations – becomes the work of an afternoon, much to the disgust of real scientists who might spend months on a single paper,” said Foster. Fraud in scientific work will undermine honest academics’ work, and could have “disastrous” effects if it ends up influencing policy or public behaviour, warned <https://science.house.gov/imo/media/doc/chairwoman_johnson_os_publishing.pdf> congresswoman Eddie Bernice Johnson, who chairs the committee. Concern around paper mills has existed for at least a decade, but improvements in AI image and text generation have made fake paper production possible on an industrial scale. Now, with last week’s congressional hearing, there is high level political attention focused on what it could do to the scientific system. “This is the first time the US Congress has been interested,” said Chris Graf, research integrity director at scientific publisher Springer Nature, and one of those who testified at the hearing, told Science|Business. Paper mills use AI tools to create realistic-seeming papers that are submitted to journals, normally many at a time. They then sell authorship spots on those journals to academics willing to pay for authorship. This might then earn the academic a bonus or promotion. One Latvia-based paper mill uncovered by a publishers’ report <https://publicationethics.org/files/paper-mills-cope-stm-research-report.pdf> last month claims to have sold close to 13,000 articles into real journals. But Graf said publishers often didn’t know where the mills were based because they conceal their locations. As for the mills’ customers – academics willing to pay for a fake authorship credit – they tend to be based in Asia, Graf said. “The majority of the authors whose papers I know about […] are in China,” he said. “A proportion them are also in India.” Graf, who is one of the leaders of a publishers’ effort to better detect paper mills, said he is angry with the mills, not the academics themselves. These academics – often busy clinicians - may be trapped in a system that demands they publish internationally but without the time, resources, or English language skills to do so honestly, he said. *Fooling journals* In some fields, research is so specialised that journal peer reviewers simply cannot spot when a paper is fake. In human genetics, sometimes there are no expert communities for particular genes, said Jennifer Byrne, an oncology professor at the University of Sydney, another expert who testified last week. “If the manuscript looks plausible, for example by including the expected types of images and nucleotide sequence reagents, they may accept the manuscript, even though they don’t know whether the results describe represent a genuine advance in knowledge,” she said. Bryne and colleagues recently screened around 12,000 human genomics papers, and found <https://science.house.gov/imo/media/doc/Byrne%20Testimony.pdf> over 700 contained errors indicating they could originate from a paper mill. “The threat of paper mills to scientific publishing and integrity has no parallel over my 30-year scientific career,” she said in her testimony <https://science.house.gov/imo/media/doc/Byrne%20Testimony.pdf>. Another paper mill technique relies on full-scale identity fraud. Journals often use outside guest editors to oversee niche editions, said Graf. In one case, however, a journal was contacted by a paper mill pretending to be a specialist guest editor, using a very similar email address to the academic they were impersonating. This fake guest editor then waved through hundreds of articles from the paper mill before the journal realised what was happening and retracted the articles, Graf said. “We realised the journal had been hacked, effectively.” Paper mills have also targeted pre-print servers. These publish articles online prior to peer review, and became increasingly important during the pandemic, when scientists couldn’t wait for publication to get their results out. ArXiv, a popular pre-print server, has received fake papers for some time, said Steinn Sigurdsson, scientific director. “It is a bit of a ‘Red Queen Race’ as computer technology and algorithms improve and the fakes become ‘deeper’,” he said, referring to a situation where more and more work is required just to stay in the same place. “arXiv uses a combination of human moderators who do mostly quick screens of submissions, and a hierarchy of software tools that run both synchronously with submission and asynchronously offline to detect submissions with errors or problems, and outliers of various sorts,” he explained. *Scale unclear* Exactly how many fake papers lurk in the scientific literature is unclear. In the publishers’ report last month, called /Paper Mills/ <https://publicationethics.org/files/paper-mills-cope-stm-research-report.pdf>, estimates varied widely. At most journals, just 2% of submissions are from paper mills, it found. But when a paper mill finds a journal that takes its papers, it appears to bombard it with manuscripts. At some targeted journals, nearly half of submissions are from paper mills, it found. One unnamed publisher cited in the report discovered that between 2019 - 21, they had published more than 450 paper mill articles. Publishers have faced criticism of inaction when issues are flagged up, either due to paper mill fakery or other forms of misconduct. “Journal and institutional responses remain, on average, very ineffective and inefficient, even when evident problems have been made public,” US lawmakers were told <https://science.house.gov/imo/media/doc/Stell%20Testimony.pdf> by Brandon Stell, co-founder of the PubPeer site, which allows anonymous commentators to pick apart problems in papers. It’s also unclear to what extent fake papers in the literature will actually steer science down blind alleys. Graf thinks that researchers are on the whole able to spot them. “They know what’s rubbish, and they know what’s trustworthy,” he said. *Taking action* Still, the existence of fake paper mill articles has rattled publishers, said Graf. “Publishers care a lot about this,” he said. “It goes straight to the heart of the thing we call our value proposition.” Last December, the International Association of Scientific, Technical and Medical Publishers, set up an Integrity Hub, which they will use to share data on simultaneous submission of papers to several journals, which can be a sign that a paper mill is behind them. Graf predicted a spike in retractions due to increasing paper mill fraud. “Maybe we’re at the start of that spike for retractions for paper mill type work,” he said.

2 1

Fwd: ChatGPT disabled for users in Italy
by Benedetto Ponti April 3, 2023

April 3, 2023

Il 03/04/2023 11:35, Giuseppe Attardi ha scritto: > > >> On 3 Apr 2023, at 11:09, Benedetto Ponti <benedetto.ponti(a)unipg.it> >> wrote: >> >> >> >> >> Il 03/04/2023 10:46, Giuseppe Attardi ha scritto: >>> >>> >>>> On 3 Apr 2023, at 10:03, Benedetto >>>> Ponti<benedetto.ponti(a)unipg.it>wrote: >>>> >>>> mi pare che ci siano un po' di punti fermi da cui partire, sul >>>> piano della disciplina e del regime giuridico a tutela dei dati >>>> personali (non solo e non tanto della "privacy"), se si vuole >>>> impostare un ragionamento (non tanto sulla bontà o meno della >>>> decisione del Garante, in sè, quanto) sull'impatto di tale regime >>>> giuridico su chatGPT (o chi per lei). >>>> >>>> 1) vorrei intanto ricordare che la diffamazione non richiede che il >>>> fatto narrato/rappresentato sia falso. Si può essere diffamati >>>> anche mediante l'allegazione di un fatto vero. La verità opera come >>>> scriminante in caso di esercizio del diritto di cronaca (rende non >>>> punibile il reato commesso). >>>> >>> Quindi di diffamazione si tratta, questo era il mio punto. >> >> No, è vero il contrario: l'alternativa vero/falso non opera sul piano >> della diffamazione (si può essere incrimitati per diffamazione per >> diffusione di un fatto vero), ma su piani diversi. >> >> > Non ci capiamo. Siamo d’accordo che c’è diffamazione, nel diffondere > affermazioni che un soggetto non vorrebbe fossero diffuse? - no, non siamo d'accordo. 1) C'è diffamazione solo se le informazioni diffuse sono lesive della reputazione. 2) Se vengono diffuse notizie che non sono lesive della reputazione, ma rappresentano in modo falsato/scorretto i miei gusti, preferenze, vicende, etc., c'è lesione dell'identità personale; 3) se vengono diffuse notizie vere che riguardano la sfera intima e strettamente personale, senza un giustificato motivo per la loro diffusione (interesse pubblico della notizia), c'è lesione della riservatezza 4) se - in presenza di diffusioni di dati personali - non si verifica nessuna delle condizioni precedenti, residua l'applicazione del GDPR: diritto di opposizione, diritto di cancellazione, con i connessi presupposti e casi di non applicazione/deroga >>>> >>>> 2) c'è poi da aggiungere che la diffamazione è la lesione della >>>> reputazione, mentre nel discorso che qui ci occupa (il fatto che le >>>> risposte di chatGPT forniscano informazione false, scorrette, >>>> datate, etc. riguardo a persone identificate o identificabili) il >>>> profilo rilevante è quello del diritto alla (corretta >>>> rappresentazione dell')identità personale, che è un piano >>>> differente rispetto a quello della reputazione. Rileva cioè - per >>>> essere schematici - il GDPR come legslazione a tutela dei dati >>>> personali, anche in quanto funzionale alla_tutela del diritto >>>> fondamentale all'identità personale_. (correttezza, aggiornamento, >>>> esattezza dei dati sono requisiti funzionali a tale tutela). >>>> >>> Quindi il diritto da tutelare è quello all’identità personale, non >>> alla protezione dei dati. La GDPR viene invocata surrettiziamente >>> per difendere il primo, ma è una estrapolazione. >>> Capisco che tu sostieni che bisogna fare uso delle leggi esistenti, >>> ma non mi pare corretto stiracchiarle verso altre finalità. >> >> - ah, ma non lo sostengo mica io, eh! questa che ti ho riportato è >> giurisprudenza consolidata: la tutela dei dati personali è anche >> funzionale/strumentale alla tutela di altri diritti. >> > Mah, io qui vedo il percorso opposto: si pretende che il diritto > all’identità sia tutelato da una regola che non si applica, e si forza > tale regola ad essere applicabile in funzione del diritto all’identità. libero di vederla così: chi applica il diritto in italia ed in UE la vede diversamente (lo vogliamo chiamare "il diritto vivente"?) >> >>>> >>>> 3) Fatte queste precisazioni, vorrei venire ad alcune affermazioni, >>>> tipo: "Se il solo rimettere in circolazione dati pubblicati su web >>>> violasse la GDPR, anche i motori di ricerca sarebbero vietati.". Si >>>> dà il caso che dalla sentenza della Corte di giustizia "Google >>>> Spain" in poi (una sentenza del 2014), i motori di ricerca sono >>>> tenuti alla deindicizzazione dei link prodotti da una query basata >>>> su nome e cognome dell'interessato, qualora il link punti ad una >>>> pagina web in cui siano contenuti dati scorretti/inesatti/non (più) >>>> aggiornati. Il diritto al delisting (come strumento che consente di >>>> far valere in diritto alla cancellazione come strumentale, in >>>> particolare, non tanto alla tutela della reputazione, ma più >>>> ampiamente alla tutela dell'identità personale) è oramai >>>> consolidato. Possiamo discutere di come sia costruito l'equilibrio, >>>> se l'eccezione fondata sul diritto di espressione sia adeguata, >>>> etc.; ma che il diritto alla cancellazione (art. 17 GDPR) combinato >>>> con il diritto di opposizione (art. 21) impatti sui motori di >>>> ricerca oramai è un dato acquisito. I motori di ricerca non sono >>>> vietati, ma regolati sì! >>>> >>> Quindi il singolo interessato, non l’Autorità, dovrebbe richiedere >>> ad OpenAI di eliminare le fonti che lo riferiscono. >> (se rischio sistemico, vedi quanto detto sotto, al punto 4). E poi, >> attenzione perché la tutela dei dati personali NON si riduce negli >> strumenti a disposizione del singolo interessato. Il principio di >> responsabilizzazione (art. 6, comma 2) ci dice che la compliance >> grava come responsabilità su chi tratta i dati personali, e le >> autorità stanno lì a verificare che il gdpr sia rispettato. C'è un >> interesse pubblico (una dimensione pubblica, di interesse generale) >> alla tutela dei dati personali (proprio perché strumentale alla >> tutela di diritti fondamentali della persona), non soltanto >> l'interesse specifico deill'interessato. >>>> >>>> >>>> 4)/mutatis mutandis/, quali ricadute del combinato disposto >>>> (diritto di cancellazione+diritto di opposizione) sui chatbot LLM? >>>> Questo a mio parere è il nodo. Il delisting ha funzionato, e >>>> funziona, perché il motore di ricerca non costruisce un contenuto >>>> ad hoc, ma linka a contenuti già esistenti. Diversamente, il >>>> sistema basato sul LLM come chat GPT, non si limita a linkare, anzi >>>> fa tutt'altro. Assembla di volta in volta informazioni che trae dal >>>> web, e fornisce un contenuto ad hoc. Se in questo contenuto sono >>>> presenti inesattezze, dati non aggiornati, dati falsi etc. che sono >>>> riferiti ad una persona identificata o identificabile, i diritti di >>>> cui sopra possono essere fatti valere nei confronti del titolare >>>> del trattamento (che è OpenAI). Se la presenza di errori, >>>> scorrettezze, dati vecchi/non aggiornati è sistematica (by >>>> design),_l'impatto è enorme_, dal momento che varrebbe il principio >>>> opposto (art. 25 del gdpr cd. "privacy by design", espressione >>>> sintetica fuorviante perché l'articolo in questione impone una >>>> conformità della progettazione dei mezzi del trattamento alla >>>> tutela di tutti i diritti degli interessati, non solo della "privacy") >>>> >>>> 5) si dice, ancora: "Nel produrre le risposte risposte di ChatGPT >>>> non ci sono dati personali che vengono elaborati, solo dati >>>> “manifestly made public” nelle fonti web da cui li trae" >>>> - ora, il fatto che i dati personali siano tratti dal web non >>>> comporta anche che i dati siano stati “manifestly made public” >>>> dallo stesso interessato cui si riferiscono (potrebbe averli >>>> pubblicati qualcun altro). Ed anche nel caso in cui quei dati li >>>> abbia effettivamente resi pubblici l'interessato, ciò non comporta >>>> di per sè che ai trattamenti di quei dati non si applichi tutto il >>>> regime del GDPR. Quella disposizione serve a disattivare il divieto >>>> con cui si apre all'art. 9 (divieto di trattamento), senza però che >>>> questo disattivi tutto il resto del GDPR. In particolare non viene >>>> meno la cogenza del principio di finalità. Tendenzialmente, sono >>>> leciti solo i trattamenti che abbiano una finalità compatibile con >>>> la finalità della pubblicazione da parte dell'interessato. Qual è >>>> la finalità del/dei trattamento/i realizzati per erogare chatCPT? >>>> chi le stabilisce? sono compatibili con quelle per le quali >>>> l'interessato aveva reso pubblici i dati (qui c'è un enorme tema di >>>> rilevanza del contesto). >>>> >>> Me ne rendevo conto, ma interpretavo il fatto che se il soggetto non >>> ha richiesto la cancellazione della fonte, come nel caso precedente, >>> li abbia di fatto resi pubblici. >> >> No, questa lettura è improponibile (nel senso che contrasta con tutti >> i principi del GDPR, e non solo). In questo modo un diritto si >> trasforma in un onere: se non passo la vita a verificare che qualcun >> altro abbia pubblicato i miei dati, chiedendogli di cancellarli, >> allora è come se quei dati li avessi pubblicati io? Dai, sù... >> >> >>>> >>>> NB: non sto dicendo che il GDPR sia sempre e cmq soddisfacente >>>> (ieri scrivevo che per molti aspetti si rivela molto rigido, poco >>>> adatto a alle caratteristiche di determinati trattamenti, etc.), ma >>>> la legge vigente è quella lì, non quella che noi vorremmo che ci fosse. >>>> Se non muoviamo, nelle nostre analisi, dal corretto inquadramento >>>> di ciò che il regime attualmente vigente impone, faremo fatica a >>>> comprendere le ragioni dei regolatori (che ci piacciano o meno), e >>>> faremo fatica a immaginare come tale normativa dovrebbe essere >>>> modificata (eventualmente). >>>> >>> Sono d’accordo, ma servono regole idonee allo scopo, non >>> stiracchiare regole fatte per altri scopi e per altre tecnologie. >>> Anche il Copyright non si applica a ChatGPT, perché protegge la >>> forma dell’opera, che ChatGPT non replica mai esattamente. >>> >>> Ciò che servirebbe sono regole contro la concentrazione di potere >>> tecnologico in poche aziende. >>> Come dice Daniela Tafani, occorre garantire il "il rispetto dei >>> diritti umani [rispetto a] il modello di business dei grandi >>> monopoli del capitalismo intellettuale.” >>> È una questione più di politica economica che giuridica. >> >> >> non ho capito: "servono regole idonee" (e allora è una questione - >> anche - giuridica) oppure "È una questione più di politica economica >> che giuridica" ? devo citare Natalino Irti (il mercato è una >> costruzione del diritto)? >> > > Intendo che occorre un intervento sui meccanismi economici, la > concentrazione di mercato (che l’antitrust depotenziato in USA non > protegge più) e sul capitalismo di sorveglianza (servizi gratuiti in > cambio di profilazione). > Le norme per attuare tali interventi richiedono un accordo di politica > economica su scala internazionale che non c’è: vedi l’accantonamento > della Minimum Tax. >> >> >> BP >> >>> >>> — Beppe >>>> >>>> >>>> Benedetto Ponti >>>> >>>> >>>> <firma nuova mail_3.png> >>>> Il 03/04/2023 08:39, Giuseppe Attardi ha scritto: >>>>> Non sono d’accordo, anch’io la considero diffamazione. >>>>> >>>>> L’art. 9 della GDPR dice: >>>>> >>>>> 1. Processing of personal data revealing racial or ethnic origin, political opinions, religious or philosophical beliefs, or trade union membership, and the processing of genetic data, biometric data for the purpose of uniquely identifying a natural person, data concerning health or data concerning a natural person’s sex life or sexual orientation shall be prohibited. >>>>> >>>>> ma esclude: >>>>> >>>>> (e) processing relates to personal data which are manifestly made public by the data subject; >>>>> >>>>> Nel produrre le risposte risposte di ChatGPT non ci sono dati personali che vengono elaborati, solo dati “manifestly made public” nelle fonti web da cui li trae, e le risposte sono solo affermazioni, senza garanzia di verità. >>>>> Se fossero vere, si potrebbe contestare che rivelano fatti personali, ma se sono falsi si tratta di diffamazione. >>>>> Delle due l’una: o riteniamo che ChatGPT dica cose vere o non lo crediamo. >>>>> >>>>> Se il solo rimettere in circolazione dati pubblicati su web violasse la GDPR, anche i motori di ricerca sarebbero vietati. >>>>> Non dobbiamo vedere tutto come chiodi perché siamo un martello (GDPR). >>>>> Per la diffamazione c’è un reato apposito. >>>>> >>>>> È abbastanza evidente che le norme attuali, GDPR, Copyright e annunciato European AI Act, sono inadeguati. >>>>> Ma intervenire adesso a bloccare una tecnologia che non fa danni, certamente di meno di tanto software di cui non ci curiamo, è prematuro e controproducente. >>>>> >>>>> — Beppe >>>>> >>>>>> On 3 Apr 2023, at 07:19,<nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: >>>>>> >>>>>> Date: Sun, 2 Apr 2023 22:14:12 +0200 >>>>>> From: Maria Chiara Pievatolo<mariachiara.pievatolo(a)unipi.it> >>>>>> To:<nexa(a)server-nexa.polito.it> >>>>>> Subject: Re: [nexa] ChatGPT disabled for users in Italy >>>>>> Message-ID:<c3aee1da-ee0f-4ea4-4581-4b0a45515802(a)unipi.it> >>>>>> Content-Type: text/plain; charset="utf-8"; Format="flowed" >>>>>> >>>>>> On 02/04/23 20:19, Stefano Zacchiroli wrote: >>>>>> >>>>>>> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è >>>>>>> in effetti evidente a tutti. Ma, da non giurista, faccio veramente >>>>>>> fatica a capire perché questo ponga problemi al Garante per la >>>>>>> protezione dei dati personali. Se pubblico un sito web pieno di panzane >>>>>>> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi >>>>>>> (sempre da non giurista), che al massimo rischio una querela per >>>>>>> diffamazione dagli interessati. >>>>>>> >>>>>> Se si rivelano dati particolari (ex sensibili) senza il consenso >>>>>> esplicito dell'interessato si viola l'articolo 9 della GDPR. I dati >>>>>> particolari, perfino quando sono falsi, mi rappresentano. Se un SALAMI >>>>>> allucinato mi arruola nei testimoni di Geova, descrive comunque le mie >>>>>> (presunte) convinzioni religiose senza il mio consenso. >>>>>> >>>>>> In questo sito >>>>>> https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230403051928082463… c'è un >>>>>> fantastico esempio, quello della malattia di un Peppino agente di >>>>>> commercio in realtà fin troppo sano, in cui una rivelazione in buona >>>>>> fede di un dato particolare *falso* senza il consenso dell'interessato >>>>>> provoca pure una tragedia familiare. >>>>>> >>>>>> Buonanotte, >>>>>> MCP >>>>>> >>>>> _______________________________________________ >>>>> nexa mailing list >>>>> nexa(a)server-nexa.polito.it >>>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

1 0

Re: [nexa] ChatGPT disabled for users in Italy
by Giuseppe Attardi April 3, 2023

April 3, 2023

Non sono d’accordo, anch’io la considero diffamazione. L’art. 9 della GDPR dice: 1. Processing of personal data revealing racial or ethnic origin, political opinions, religious or philosophical beliefs, or trade union membership, and the processing of genetic data, biometric data for the purpose of uniquely identifying a natural person, data concerning health or data concerning a natural person’s sex life or sexual orientation shall be prohibited. ma esclude: (e) processing relates to personal data which are manifestly made public by the data subject; Nel produrre le risposte risposte di ChatGPT non ci sono dati personali che vengono elaborati, solo dati “manifestly made public” nelle fonti web da cui li trae, e le risposte sono solo affermazioni, senza garanzia di verità. Se fossero vere, si potrebbe contestare che rivelano fatti personali, ma se sono falsi si tratta di diffamazione. Delle due l’una: o riteniamo che ChatGPT dica cose vere o non lo crediamo. Se il solo rimettere in circolazione dati pubblicati su web violasse la GDPR, anche i motori di ricerca sarebbero vietati. Non dobbiamo vedere tutto come chiodi perché siamo un martello (GDPR). Per la diffamazione c’è un reato apposito. È abbastanza evidente che le norme attuali, GDPR, Copyright e annunciato European AI Act, sono inadeguati. Ma intervenire adesso a bloccare una tecnologia che non fa danni, certamente di meno di tanto software di cui non ci curiamo, è prematuro e controproducente. — Beppe > On 3 Apr 2023, at 07:19, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > Date: Sun, 2 Apr 2023 22:14:12 +0200 > From: Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> > To: <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Message-ID: <c3aee1da-ee0f-4ea4-4581-4b0a45515802(a)unipi.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > On 02/04/23 20:19, Stefano Zacchiroli wrote: > >> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è >> in effetti evidente a tutti. Ma, da non giurista, faccio veramente >> fatica a capire perché questo ponga problemi al Garante per la >> protezione dei dati personali. Se pubblico un sito web pieno di panzane >> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi >> (sempre da non giurista), che al massimo rischio una querela per >> diffamazione dagli interessati. >> > > Se si rivelano dati particolari (ex sensibili) senza il consenso > esplicito dell'interessato si viola l'articolo 9 della GDPR. I dati > particolari, perfino quando sono falsi, mi rappresentano. Se un SALAMI > allucinato mi arruola nei testimoni di Geova, descrive comunque le mie > (presunte) convinzioni religiose senza il mio consenso. > > In questo sito > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230403051928082463… c'è un > fantastico esempio, quello della malattia di un Peppino agente di > commercio in realtà fin troppo sano, in cui una rivelazione in buona > fede di un dato particolare *falso* senza il consenso dell'interessato > provoca pure una tragedia familiare. > > Buonanotte, > MCP >

5 5

Re: [nexa] ChatGPT disabled for users in Italy
by Benedetto Ponti April 3, 2023

April 3, 2023

Il 03/04/2023 10:46, Giuseppe Attardi ha scritto: > > >> On 3 Apr 2023, at 10:03, Benedetto Ponti <benedetto.ponti(a)unipg.it> >> wrote: >> >> mi pare che ci siano un po' di punti fermi da cui partire, sul piano >> della disciplina e del regime giuridico a tutela dei dati personali >> (non solo e non tanto della "privacy"), se si vuole impostare un >> ragionamento (non tanto sulla bontà o meno della decisione del >> Garante, in sè, quanto) sull'impatto di tale regime giuridico su >> chatGPT (o chi per lei). >> >> 1) vorrei intanto ricordare che la diffamazione non richiede che il >> fatto narrato/rappresentato sia falso. Si può essere diffamati anche >> mediante l'allegazione di un fatto vero. La verità opera come >> scriminante in caso di esercizio del diritto di cronaca (rende non >> punibile il reato commesso). >> > Quindi di diffamazione si tratta, questo era il mio punto. No, è vero il contrario: l'alternativa vero/falso non opera sul piano della diffamazione (si può essere incrimitati per diffamazione per diffusione di un fatto vero), ma su piani diversi. >> >> 2) c'è poi da aggiungere che la diffamazione è la lesione della >> reputazione, mentre nel discorso che qui ci occupa (il fatto che le >> risposte di chatGPT forniscano informazione false, scorrette, datate, >> etc. riguardo a persone identificate o identificabili) il profilo >> rilevante è quello del diritto alla (corretta rappresentazione >> dell')identità personale, che è un piano differente rispetto a quello >> della reputazione. Rileva cioè - per essere schematici - il GDPR come >> legslazione a tutela dei dati personali, anche in quanto funzionale >> alla _tutela del diritto fondamentale all'identità personale_. >> (correttezza, aggiornamento, esattezza dei dati sono requisiti >> funzionali a tale tutela). >> > Quindi il diritto da tutelare è quello all’identità personale, non > alla protezione dei dati. La GDPR viene invocata surrettiziamente per > difendere il primo, ma è una estrapolazione. > Capisco che tu sostieni che bisogna fare uso delle leggi esistenti, ma > non mi pare corretto stiracchiarle verso altre finalità. - ah, ma non lo sostengo mica io, eh! questa che ti ho riportato è giurisprudenza consolidata: la tutela dei dati personali è anche funzionale/strumentale alla tutela di altri diritti. >> >> 3) Fatte queste precisazioni, vorrei venire ad alcune affermazioni, >> tipo: "Se il solo rimettere in circolazione dati pubblicati su web >> violasse la GDPR, anche i motori di ricerca sarebbero vietati.". Si >> dà il caso che dalla sentenza della Corte di giustizia "Google Spain" >> in poi (una sentenza del 2014), i motori di ricerca sono tenuti alla >> deindicizzazione dei link prodotti da una query basata su nome e >> cognome dell'interessato, qualora il link punti ad una pagina web in >> cui siano contenuti dati scorretti/inesatti/non (più) aggiornati. Il >> diritto al delisting (come strumento che consente di far valere in >> diritto alla cancellazione come strumentale, in particolare, non >> tanto alla tutela della reputazione, ma più ampiamente alla tutela >> dell'identità personale) è oramai consolidato. Possiamo discutere di >> come sia costruito l'equilibrio, se l'eccezione fondata sul diritto >> di espressione sia adeguata, etc.; ma che il diritto alla >> cancellazione (art. 17 GDPR) combinato con il diritto di opposizione >> (art. 21) impatti sui motori di ricerca oramai è un dato acquisito. I >> motori di ricerca non sono vietati, ma regolati sì! >> > Quindi il singolo interessato, non l’Autorità, dovrebbe richiedere ad > OpenAI di eliminare le fonti che lo riferiscono. (se rischio sistemico, vedi quanto detto sotto, al punto 4). E poi, attenzione perché la tutela dei dati personali NON si riduce negli strumenti a disposizione del singolo interessato. Il principio di responsabilizzazione (art. 6, comma 2) ci dice che la compliance grava come responsabilità su chi tratta i dati personali, e le autorità stanno lì a verificare che il gdpr sia rispettato. C'è un interesse pubblico (una dimensione pubblica, di interesse generale) alla tutela dei dati personali (proprio perché strumentale alla tutela di diritti fondamentali della persona), non soltanto l'interesse specifico deill'interessato. >> >> >> 4) /mutatis mutandis/, quali ricadute del combinato disposto (diritto >> di cancellazione+diritto di opposizione) sui chatbot LLM? Questo a >> mio parere è il nodo. Il delisting ha funzionato, e funziona, perché >> il motore di ricerca non costruisce un contenuto ad hoc, ma linka a >> contenuti già esistenti. Diversamente, il sistema basato sul LLM come >> chat GPT, non si limita a linkare, anzi fa tutt'altro. Assembla di >> volta in volta informazioni che trae dal web, e fornisce un contenuto >> ad hoc. Se in questo contenuto sono presenti inesattezze, dati non >> aggiornati, dati falsi etc. che sono riferiti ad una persona >> identificata o identificabile, i diritti di cui sopra possono essere >> fatti valere nei confronti del titolare del trattamento (che è >> OpenAI). Se la presenza di errori, scorrettezze, dati vecchi/non >> aggiornati è sistematica (by design), _l'impatto è enorme_, dal >> momento che varrebbe il principio opposto (art. 25 del gdpr cd. >> "privacy by design", espressione sintetica fuorviante perché >> l'articolo in questione impone una conformità della progettazione dei >> mezzi del trattamento alla tutela di tutti i diritti degli >> interessati, non solo della "privacy") >> >> 5) si dice, ancora: "Nel produrre le risposte risposte di ChatGPT non >> ci sono dati personali che vengono elaborati, solo dati “manifestly >> made public” nelle fonti web da cui li trae" >> - ora, il fatto che i dati personali siano tratti dal web non >> comporta anche che i dati siano stati “manifestly made public” dallo >> stesso interessato cui si riferiscono (potrebbe averli pubblicati >> qualcun altro). Ed anche nel caso in cui quei dati li abbia >> effettivamente resi pubblici l'interessato, ciò non comporta di per >> sè che ai trattamenti di quei dati non si applichi tutto il regime >> del GDPR. Quella disposizione serve a disattivare il divieto con cui >> si apre all'art. 9 (divieto di trattamento), senza però che questo >> disattivi tutto il resto del GDPR. In particolare non viene meno la >> cogenza del principio di finalità. Tendenzialmente, sono leciti solo >> i trattamenti che abbiano una finalità compatibile con la finalità >> della pubblicazione da parte dell'interessato. Qual è la finalità >> del/dei trattamento/i realizzati per erogare chatCPT? chi le >> stabilisce? sono compatibili con quelle per le quali l'interessato >> aveva reso pubblici i dati (qui c'è un enorme tema di rilevanza del >> contesto). >> > Me ne rendevo conto, ma interpretavo il fatto che se il soggetto non > ha richiesto la cancellazione della fonte, come nel caso precedente, > li abbia di fatto resi pubblici. No, questa lettura è improponibile (nel senso che contrasta con tutti i principi del GDPR, e non solo). In questo modo un diritto si trasforma in un onere: se non passo la vita a verificare che qualcun altro abbia pubblicato i miei dati, chiedendogli di cancellarli, allora è come se quei dati li avessi pubblicati io? Dai, sù... >> >> NB: non sto dicendo che il GDPR sia sempre e cmq soddisfacente (ieri >> scrivevo che per molti aspetti si rivela molto rigido, poco adatto a >> alle caratteristiche di determinati trattamenti, etc.), ma la legge >> vigente è quella lì, non quella che noi vorremmo che ci fosse. >> Se non muoviamo, nelle nostre analisi, dal corretto inquadramento di >> ciò che il regime attualmente vigente impone, faremo fatica a >> comprendere le ragioni dei regolatori (che ci piacciano o meno), e >> faremo fatica a immaginare come tale normativa dovrebbe essere >> modificata (eventualmente). >> > Sono d’accordo, ma servono regole idonee allo scopo, non stiracchiare > regole fatte per altri scopi e per altre tecnologie. > Anche il Copyright non si applica a ChatGPT, perché protegge la forma > dell’opera, che ChatGPT non replica mai esattamente. > > Ciò che servirebbe sono regole contro la concentrazione di potere > tecnologico in poche aziende. > Come dice Daniela Tafani, occorre garantire il "il rispetto dei > diritti umani [rispetto a] il modello di business dei grandi monopoli > del capitalismo intellettuale.” > È una questione più di politica economica che giuridica. non ho capito: "servono regole idonee" (e allora è una questione - anche - giuridica) oppure "È una questione più di politica economica che giuridica" ? devo citare Natalino Irti (il mercato è una costruzione del diritto)? BP > > — Beppe >> >> >> Benedetto Ponti >> >> >> <firma nuova mail_3.png> >> Il 03/04/2023 08:39, Giuseppe Attardi ha scritto: >>> Non sono d’accordo, anch’io la considero diffamazione. >>> >>> L’art. 9 della GDPR dice: >>> >>> 1. Processing of personal data revealing racial or ethnic origin, political opinions, religious or philosophical beliefs, or trade union membership, and the processing of genetic data, biometric data for the purpose of uniquely identifying a natural person, data concerning health or data concerning a natural person’s sex life or sexual orientation shall be prohibited. >>> >>> ma esclude: >>> >>> (e) processing relates to personal data which are manifestly made public by the data subject; >>> >>> Nel produrre le risposte risposte di ChatGPT non ci sono dati personali che vengono elaborati, solo dati “manifestly made public” nelle fonti web da cui li trae, e le risposte sono solo affermazioni, senza garanzia di verità. >>> Se fossero vere, si potrebbe contestare che rivelano fatti personali, ma se sono falsi si tratta di diffamazione. >>> Delle due l’una: o riteniamo che ChatGPT dica cose vere o non lo crediamo. >>> >>> Se il solo rimettere in circolazione dati pubblicati su web violasse la GDPR, anche i motori di ricerca sarebbero vietati. >>> Non dobbiamo vedere tutto come chiodi perché siamo un martello (GDPR). >>> Per la diffamazione c’è un reato apposito. >>> >>> È abbastanza evidente che le norme attuali, GDPR, Copyright e annunciato European AI Act, sono inadeguati. >>> Ma intervenire adesso a bloccare una tecnologia che non fa danni, certamente di meno di tanto software di cui non ci curiamo, è prematuro e controproducente. >>> >>> — Beppe >>> >>>> On 3 Apr 2023, at 07:19,<nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: >>>> >>>> Date: Sun, 2 Apr 2023 22:14:12 +0200 >>>> From: Maria Chiara Pievatolo<mariachiara.pievatolo(a)unipi.it> >>>> To:<nexa(a)server-nexa.polito.it> >>>> Subject: Re: [nexa] ChatGPT disabled for users in Italy >>>> Message-ID:<c3aee1da-ee0f-4ea4-4581-4b0a45515802(a)unipi.it> >>>> Content-Type: text/plain; charset="utf-8"; Format="flowed" >>>> >>>> On 02/04/23 20:19, Stefano Zacchiroli wrote: >>>> >>>>> Che GhatGPT dica panzane a proposito di persone specifiche (viventi) è >>>>> in effetti evidente a tutti. Ma, da non giurista, faccio veramente >>>>> fatica a capire perché questo ponga problemi al Garante per la >>>>> protezione dei dati personali. Se pubblico un sito web pieno di panzane >>>>> su persone viventi, il Garante ha il potere di farmelo chiudere? Direi >>>>> (sempre da non giurista), che al massimo rischio una querela per >>>>> diffamazione dagli interessati. >>>>> >>>> Se si rivelano dati particolari (ex sensibili) senza il consenso >>>> esplicito dell'interessato si viola l'articolo 9 della GDPR. I dati >>>> particolari, perfino quando sono falsi, mi rappresentano. Se un SALAMI >>>> allucinato mi arruola nei testimoni di Geova, descrive comunque le mie >>>> (presunte) convinzioni religiose senza il mio consenso. >>>> >>>> In questo sito >>>> https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230403051928082463… c'è un >>>> fantastico esempio, quello della malattia di un Peppino agente di >>>> commercio in realtà fin troppo sano, in cui una rivelazione in buona >>>> fede di un dato particolare *falso* senza il consenso dell'interessato >>>> provoca pure una tragedia familiare. >>>> >>>> Buonanotte, >>>> MCP >>>> >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

1 0

Forse su AI e Data Protection Europa e USA riusciranno a mettersi d'accordo
by Diego Giorio April 3, 2023

April 3, 2023

O almeno sembra essercene l'intenzione, che è già un'ottima notizia per sé https://www.corrierecomunicazioni.it/podcast/intelligenza-artificiale-sulla… [https://d110erj175o600.cloudfront.net/wp-content/uploads/2023/01/02154729/s…]<https://www.corrierecomunicazioni.it/podcast/intelligenza-artificiale-sulla…> Intelligenza artificiale, sulla data protection linea comune Ue-Usa?<https://www.corrierecomunicazioni.it/podcast/intelligenza-artificiale-sulla…> Sul tavolo la questione regolatoria a fronte di una repentina evoluzione dello scenario con l'avvento di ChatGpt e dei sistemi di AI generativa. Autorità, aziende e stakeholder dovranno riuscire a trovare il giusto equilibrio. L'analisi dell'avvocato Rocco Panetta www.corrierecomunicazioni.it Buona settimana a tutti D.

1 0

Re: [nexa] ChatGPT, il Garante e il digital labor
by maurizio lana April 1, 2023

April 1, 2023

concordo con Giacomo, che parla essendo uno che anche agisce: > da qualche parte bisogna iniziare > Chi vuole capire il messaggio, inizierà a mettersi in regola > (finalmente!) > > Chi no, continuerà a strapparsi le vesti, a gridare al sovranismo, > a blaterare di treni che passano e magnifiche sorti e progressive... mi colpisce nel dibattito sul chatbot l'emergere a fior d'acqua di 2 "non argomenti": che siccome tutto va male, non si dovrebbe sanzionare nessuno (=tantissime aziende calpestano il GDPR perché mai prendersela con OpenAI); questo è solo un tanto peggio tanto meglio, in sostanza; o un benaltrismo; che non servono alla crescita della società perché in queste situazioni i deboli schiattano e i forti prosperano. non è la mia idea di società. che se qualcuno fa ricerca, nessuno si permetta anche solo di pensare di governare la ricerca (=ci sono spazi in cui lo Stato, e leggi, e il controllo democratico della società non devono entrare) non vedo (?) perché lo Stato con le sue leggi che sono espressione della volontà della cittadinanza attraverso i suoi rappresentanti non dovrebbe agire. è un principio. se togliamo questo principio le possibili scivolate sono tutte verso direzioni diverse fra loro ma indesiderabili. credo che qui in nexa sia possibile una robusta discussione su come si definiscono le regole e quali esse debbano essere. col presupposto che se siamo in uno Stato (se siamo in Unione Europea) le regole ci sono, e allora è interesse di tutti che siano le migliori possibili. :-) Maurizio Il 01/04/23 11:54, Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Message: 1 > Date: Sat, 1 Apr 2023 11:37:21 +0200 > From: Giacomo Tesio<giacomo(a)tesio.it> > To: Alberto Cammozzo via nexa<nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] ChatGPT, il Garante e il digital labor > Message-ID:<20230401113721.000033c9(a)tesio.it> > Content-Type: text/plain; charset=ISO-8859-1 > > Salve Alberto, Antonio e Nexa > > On Sat, 1 Apr 2023 11:07:11 +0200 Alberto Cammozzo via nexa wrote: > >> In tal caso però vanno sanzionati tutti i servizi che usano gli >> utenti per il training di modelli interni alle piattaforme, incluso >> il più diffuso, ReCaptcha di Google, che viene usato anche in servizi >> pubblici obbligati, come ad esempio il registro degli indirizzi PEC >> (IniPEC):<https://www.inipec.gov.it> > Naturalmente. > > Non c'è alcuna differenza fra ciò che è stato fatto da Open AI per > programmare statisticamente ("addestrare", nella vulgata) GPT4 > (di cui ChatGPT è solo un'interfaccia) e ciò che Google dichiara > espressamente di fare nella propria Privacy Policy: > > """ > - Sviluppare nuovi prodotti e funzionalità... > - Capire come le persone utilizzano i nostri servizi al fine di > garantire e migliorare il rendimento dei nostri servizi > - Personalizzare i nostri servizi... > - Effettuare ricerche che migliorino i nostri servizi... > """ > > Tutto questo viene fatto attraverso una raccolta di dati personali di > cui gli utenti non hanno vera consapevolezza (da Android, dal Web con > Google Analytics, da Chrome, da ogni applicazione che usa i servizi o > il cloud di Google, da Google Workspace, da Google Meet, da GMail, dai > crawler di Google etc..) > > > Io credo sia per questo che tanti si strappano le vesti oggi. > > > Ma è vero che da qualche parte bisogna iniziare, e intimare ad OpenAI > di rispettare il GDPR è decisamente più leggero che iniziare a > sanzionare le migliaia di PA che, da ormai quasi 3 anni violano > palesemente l'articolo 25 e l'articolo 28 del GDPR affidando i dati di > minori, malati, lavoratori e cittadini a Google e Microsoft. > > > Chi vuole capire il messaggio, inizierà a mettersi in regola > (finalmente!) > > Chi no, continuerà a strapparsi le vesti, a gridare al sovranismo, > a blaterare di treni che passano e magnifiche sorti e progressive... > > La solita cantilena, insomma. > > > Che andrebbe spazzata via dalla vergogna: come si può anteporre > quattro soldi ai diritti fondamentali di milioni di persone? > > Ma tant'è: l'ignoranza regna sovrana. > Si venera il libero mercato ma si è disposti a cedere la propria > libertà. > > > A costoro propongo un vero affare: 100 milioni di euro in cambio del > completo ed insindacabile controllo su TUTTO ciò che possono dire, fare > o pensare dal momento della firma del contratto in avanti. > > Chi ci stà? > > > Giacomo > > > ------------------------------ > > Message: 2 > Date: Sat, 1 Apr 2023 11:54:35 +0200 > From: Alessandro Brolpito<abrolpito(a)gmail.com> > To: Enrico Nardelli<nardelli(a)mat.uniroma2.it> > Cc:nexa@server-nexa.polito.it > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Message-ID: > <CABkhOK_cX6=2tzUo5Ho6oENcgv5ihBh=T2s6zqFNbr6EOyqW4A(a)mail.gmail.com> > Content-Type: text/plain; charset="utf-8" > >>> a differenza dei motori di ricerca che rispondono agli utenti con > qualcosa di realmente esistente sul web - fabbrica informazioni false. > Purtroppo anche il web contiene molte informazioni false, il tutto > amplificato da algoritmi predittivi che portano a risultati diversi ad > ognuno di noi, senza parlare di echo chambers o di epistemic bubbles... > > Tra l'altro, ieri, appena successo, una persona "normale" (nel senso di una > persona non tecnica - ma speciale per me) mi scrive: "io non ci rinuncio!" > Installa un VPN e voilà è di nuovo connessa al servizio di > ChatGPT dall'Italia. > Ma è davvero così facile aggirare un blocco? E' legale usare un VPN? > > Insomma la cosa è fuori controllo davvero, in tutti i sensi. > > E dal momento che la questione è sempre più etica, legata ad un uso libero > ma critico, consapevole e responsabile di strumenti digitali, lo sviluppo > delle competenze digitali delle persone sembra l'unica soluzione che possa > funzionare. > Sarebbe bello lavorare su questo in lista, insieme. > > Alessandro > > > On Sat, 1 Apr 2023 at 11:19, Enrico Nardelli<nardelli(a)mat.uniroma2.it> > wrote: > >> A me pare che la decisione del Garante sia formalmente ineccepibile: sarò >> lieto di leggere pareri difformi da parte degli avvocati esperti di privacy >> presenti in lista. >> >> Per il momento è un atto urgente del Presidente che il collegio deve >> confermare entro 30 giorni (come immagino accadrà). >> Però penso che quelli che ritengo siano i due punti principali contestati: >> - la mancanza di un'informativa rispondente al GDPR sui dati raccolti >> - la mancanza di un sistema di verifica dell'età >> >> possano essere rimediati in un tempo sicuramente inferiore a 6 mesi (la >> moratoria richiesta dalla famosa lettera). >> >> Personalmente proverei a fare qualcos'altro, basandomi sulla legislazione >> in materia di informazione al pubblico. Non sono un avvocato, quindi non >> posso dire se sia fattibile, ma in sostanza qui abbiamo un sistema che - a >> differenza dei motori di ricerca che rispondono agli utenti con qualcosa di >> realmente esistente sul web - fabbrica informazioni false. >> >> Questo difetto può essere corretto con molta più difficoltà e quindi >> quest'approccio fornirebbe, se fattibile, una base legale per bloccare >> l'uso di ChatGPT per un tempo molto più lungo. >> >> Sia chiaro: non ritengo abbia senso bloccare ricerca e sviluppo in questo >> settore, ma qui c'è qualcosa di equivalente (anzi, probabilmente superiore) >> ad una tecnologia per costruire a costo irrisorio reattori nucleari >> portatili. Possono essere un enorme vantaggio per tutti, ma possono essere >> anche assai pericolosi. Una qualche forma di regolamentazione va trovata. >> >> Aggiungo che un reclamo presentato negli USA alla Federal Trade Commission >> da parte del Center for AI and Digital Policy ( >> https://s899a9742c3d83292.jimcontent.com/download/version/1680174583/module…) >> cita, tra l'altro, la "consumer deception" come motivo per bloccare >> l'utilizzo di questi strumenti. >> >> Concludo osservando che il paragone con regimi autoritari mi sembra un po' >> fuor di luogo: questo collegio non è espressione dell'attuale governo (che >> comunque è il risultato di elezioni democraticamente svolte) ma del governo >> Draghi. >> >> Ciao, Enrico >> >> -- >> >> -- EN >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page:https://www.mat.uniroma2.it/~nardelli >> blog:https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail:nardelli@mat.uniroma2.it >> online meeting:https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> -- >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> > -------------- next part -------------- > An HTML attachment was scrubbed... > URL:<http://server-nexa.polito.it/pipermail/nexa/attachments/20230401/dfb006d2/a…> > -------------- next part -------------- > A non-text attachment was scrubbed... > Name: 9pKa22glrUyDZLGR.png > Type: image/png > Size: 42928 bytes > Desc: not available > URL:<http://server-nexa.polito.it/pipermail/nexa/attachments/20230401/dfb006d2/a…> > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 168, Issue 4 > ************************************ ------------------------------------------------------------------------ non credo a nessuna liberazione né individuale né collettiva che si ottenga senza il costo di un’autodisciplina, di un’autocostruzione, di uno sforzo italo calvino ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

1 0

ChatGPT, il Garante e il digital labor
by Antonio Casilli April 1, 2023

April 1, 2023

Nel comunicato del Garante della privacy su ChatGPT, si cita esplicitamente l'utilizzo dei dati personali degli utilizzatori per l'addestramento di un sistema di intelligenza artificiale. E' una motivazione originale, che merita di essere sottolineata. La privacy non è solo difesa dell'intimità, è anche difesa dei diritti dei 'lavoratori del clic', pagati o no, che rendono possibile l'IA. Ne parlo in questa intervista nel Manifesto di oggi: https://ilmanifesto.it/chatgpt-il-lato-oscuro-dellalgoritmo-e-la-forza-lavo… -- Antonio A. Casilli Professor, Telecom Paris | Institut Polytechnique de Paris Member, Interdisciplinary Institute for Innovation (CNRS) Associate Member, LACI-LAP (EHESS) Associate researcher, Weizenbaum-Institut, Berlin Member, Scholarly council UCLA Center for Critical Internet Inquiry (C2i2) Faculty Fellow, Nexa Center for Internet & Society *We respect your right to disconnect. My workflow efficiency accounts for this email send time. Taking action or responding outside of office hours is not mandatory*

3 3

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter
by Giuseppe Attardi April 1, 2023

April 1, 2023

Sono totalmente in disaccordo con la lettera aperta, perché affronta il problema dalla parte sbagliata. Non dobbiamo rallentare lo sviluppo di AI da parte dei privati, dobbiamo invece accelerare lo sviluppo dell’AI con finanziamenti pubblici ai ricercatori che oggi non dispongono delle risorse di calcolo necessarie per restare all’avanguardia, esplorando approcci e direzioni che non vengono seguite dalle aziende private. Sono anche un disaccordo con l’idea di rafforzare l”European AI Act, che era già palesemente inadeguato e contraddittorio: non si può affermare da una parte che l’AI sia inaffidabile e dall’altra pretendere che lo diventi tramite un fantomatico e discriminatorio (in termini di costi) processo di autocertificazione. Il fatto che la proposta non contemplasse il caso dei chatbot come tecnologia da regolamentare, dimostra non solo come la regolamentazione fosse inadeguata ma anche come qualunque regolamentazione lo sarebbe in un periodo di rapido sviluppo della tecnologia stessa. Se c’è qualcosa da regolare, non è la tecnologia o il suoi tempi di sviluppo, ma il modo indecoroso con cui le Big Tech stanno dominando il settore digitale, con gli effetti deleteri che Daniela riporta, e con l’espansione ad altri settori ed ulteriore concentrazione che provoca l’uso di tecnologie, di cui solo loro possono permettersi di disporre (perché glielo abbiamo lasciato fare). Una moratoria di sei mesi alle sviluppo “modelli più potenti di GPT-4” sarebbe solo una foglia di fico senza alcun effetto pratico: tutti gli altri, che non hanno modo di farlo, non ne trarranno alcun beneficio. — Beppe > On 31 Mar 2023, at 10:37, nexa-request(a)server-nexa.polito.it wrote: > > Date: Fri, 31 Mar 2023 08:37:45 +0000 > From: Daniela Tafani <daniela.tafani(a)unipi.it <mailto:daniela.tafani@unipi.it>> > To: Andrea Bolioli <andrea.bolioli(a)gmail.com <mailto:andrea.bolioli@gmail.com>>, "J.C. DE MARTIN" > <juancarlos.demartin(a)polito.it <mailto:juancarlos.demartin@polito.it>> > Cc: "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An > Open Letter > Message-ID: <ad3a3992a802403cb989b01bd372b652(a)unipi.it <mailto:ad3a3992a802403cb989b01bd372b652@unipi.it>> > Content-Type: text/plain; charset="windows-1252" > > Buongiorno. > > > Non mi pare difficile trovare un'iniziativa pubblica meno indecente della mossa insultante di quella lettera aperta: > > il modo in cui parlano di fantomatici rischi futuri, come se non si fossero accorti di quanto siano reali e dolorosi > i danni generati dal loro sfruttamento di persone, dati e risorse naturali > > e dal rilascio di strumenti deliberatamente ingannevoli, > che inquinano pesantemente l'ecosistema dell'informazione > > e illudono e manipolano per loro conto gli utenti inesperti, > > mi ricorda - non a caso, visti i firmatari - il dialogo tra Huckleberry Finn e la zia Sally: > > > Huckleberry Finn, quando gli chiesero se lo scoppio della caldaia di un battello a vapore avesse colpito qualcuno, > rispose: «Nessuno: è rimasto ucciso un negro». > Il commento della zia Sally: «Bene, è una fortuna, perché a volte capita che qualcuno si faccia male», > riassume l’intera moralità che spesso ha prevalso fra gli uomini. > > > Tra le iniziative non proposte da ideologhi TESCREAL<https://nitter.snopyta.org/xriskology/status/1635313838508883968> (transhumanism, extropianism, singularitarianism, cosmism, Rationalism, Effective Altruism e longtermism), > > segnalo una lettera aperta odierna: > > <https://www.law.kuleuven.be/ai-summer-school/open-brief/open-letter-manipul…> > > > Un saluto, > Daniela >

3 2

GDPR e chat GPT
by Mauro Alovisio March 31, 2023

March 31, 2023

Ciao segnalo news appena pubblicata di interesse https://garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847 Cordiali saluti mauro

3 2