April 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Salve Fabio, e... benvenuto! :-) On Fri, 14 Apr 2023 11:31:49 +0200 Fabio Alemagna wrote: > I "diritti umani" sono stati tirati in ballo più e più volte in questa > e altre conversazioni analoghe ma, per restare nel reame delle > fallacie logiche, a me questo pare un vero e proprio "red herring". > Pur conoscendo la dichiarazione universale dei diritti umani a > menadito, non riesco a comprendere a quale di quei diritti si faccia > riferimento. > > Potrei fare ipotesi, ma preferisco domandare. Si potrebbe quindi > sapere a cosa, con rigorosa esattezza, si fa riferimento? Visto che rispondevi a me, posso spiegarti a quali diritti umani vengono violati da Open AI tramite ChatGPT al momento. Mi limito (per mancanza di tempo, perdonami) a questa caratterizzazione dei diritti umani, pur consapevole che ne esistono altre [1]: https://www.ohchr.org/sites/default/files/UDHR/Documents/UDHR_Translations/… Articolo 1: Tutti gli esseri umani nascono liberi ed EGUALI in dignità e diritti. ESSI sono dotati di ragione e di coscienza e DEVONO agire gli uni verso gli altri in spirito di FRATELLANZA. Articolo 7: Tutti sono EGUALI dinanzi alla legge e hanno diritto, senza alcuna discriminazione, ad una eguale tutela da parte della legge. Tutti hanno diritto ad una eguale tutela contro ogni discriminazione che violi la presente Dichiarazione come contro qualsiasi incitamento a tale discriminazione. Articolo 12: Nessun individuo potrà essere sottoposto ad interferenze arbitrarie nella sua vita privata, nella sua famiglia, nella sua casa, nella sua corrispondenza, né A LESIONE DEL SUO ONORE E DELLA SUA REPUTAZIONE. Ogni individuo ha diritto ad essere tutelato dalla legge contro tali interferenze o lesioni. Articolo 18: Ogni individuo ha diritto alla libertà di pensiero, di coscienza e di religione; tale diritto include la libertà di cambiare di religione o di credo, e la libertà di manifestare, isolatamente o in comune, e sia in pubblico che in privato, la propria religione o il proprio credo nell'insegnamento, nelle pratiche, nel culto e nell'osservanza dei riti. Articolo 19: Ogni individuo ha diritto alla libertà di opinione e di espressione incluso il diritto di NON ESSERE MOLESTATO per la propria opinione e quello di cercare, ricevere e diffondere informazioni e idee attraverso ogni mezzo e senza riguardo a frontiere. Articolo 27: 1. Ogni individuo ha diritto di prendere parte liberamente alla vita culturale della comunità, di godere delle arti e di partecipare al progresso scientifico ed ai suoi benefici. 2. Ogni individuo ha diritto alla protezione degli interessi morali e materiali derivanti da ogni produzione scientifica, letteraria e artistica di cui egli sia autore. Articolo 28: Ogni individuo ha diritto ad un ordine sociale e internazionale nel quale i diritti e le libertà enunciati in questa Dichiarazione possano essere pienamente realizzati. In questo thread (come altrove) alcuni sostengono l'urgenza di esenare Open AI dal rispondere delle violazioni dei diritti descritti dagli articolo 12, 18, 19 e 27 operate tramite ChatGPT, in ragione di una violazione decennale ed ormai evidentemente normalizzata del diritto enunciato all'articolo 28. Se tali argomentazioni dovessero prevalere, oltre ai diritti di cui agli articoli 12, 18, 19, 27 e 28, subiremmo tutti una violazione dei diritti di cui all'articolo 1 e 7: gli esseri umani non sarebbero più equali di fronte alla Legge, che alcuni potrebbero violare liberamente attraverso costosi automatismi come GPT-4. Potrebbero sfuggirmi altri diritti rilevanti, ovviamente. Ad esempio, l'uso di sistemi come GPT-4 in ambito scolastico o educativo potrebbe produrre diverse violazioni del diritto all'istruzione descritto all'articolo 26, ed in particolare ai commi 2 e 3. Ma attenzione Fabio, non è ChatGPT a violare i diritti umani. ChatGPT è solo un software che qualcuno ha programmato ed esegue. Fa esattamente ciò per cui è programmato. E' Open AI che deve rispondere di tali violazioni. E deve farlo perché la legge deve restare uguale per tutti. Giacomo [1]: ad esempio https://www.europarl.europa.eu/charter/pdf/text_it.pdf

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Fabio Alemagna

Il giorno ven 14 apr 2023 alle ore 16:42 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > On 14/04/23 11:31, Fabio Alemagna wrote: > > Potrei fare ipotesi, ma preferisco domandare. Si potrebbe quindi > > sapere a cosa, con rigorosa esattezza, si fa riferimento? > > il nostro lavoro fu ispirato a queste: > > B. A Framework for Trustworthy AI > (21) These Guidelines articulate a framework for achieving Trustworthy AI based on > fundamental rights as enshrined in the Charter of Fundamental Rights of the European Union > (EU Charter), and in relevant international human rights law. Below, we briefly touch upon > Trustworthy AI’s three components... > https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustwor… Grazie per il link, ma la domanda verteva specificatamente su ChatGPT, nella fattispecie era volta a conoscere quali sono i diritti umani che violerebbe. Fabio

April 14, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by Maria Chiara Pievatolo

On 14/04/23 16:26, Daniela Tafani wrote: > Concordo, naturalmente. Ma la narrazione sugli agenti antromorfi e le > menti sovrumane > > riesce a far credere che la situazione sia quella del povero Topolino > apprendista stregone in Fantasia, che ha evocato una forza incontrollabile, > > mentre la situazione è quella di Ezechiele lupo che adesca i porcellini > per mangiarseli. > > > Quanto al disclaimer, ce n'era uno anche in Replika (che era, esso > stesso stesso, pubblicità ingannevole: ne copio alla fine la parte che > avevo salvato). > Contemporaneamente, c'erano meccanismi introdotti per creare dipendenza > emotiva > (alcuni argomenti di conversazione si sbloccavano solo collegandosi più > volte nello stesso giorno). > Se vogliamo essere meno fiabeschi, qui il termine di confronto appropriato è quella potente multinazionale del tabacco B&W che consapevolmente manipolava la sua miscela con additivi dannosi e in grado di accrescere la dipendenza. Qui c'è la storia di Jeffrey Wigand, l'informatore civico (whistleblower) che si espose per smascherarla: https://web.archive.org/web/20081010102623/http://www.mariebrenner.com/PDF/… storia poi romanzata nel film "The Insider" (1999). Oggi, a proposito del fumo, a nessuno verrebbe in mente di sostenere che la controversia che oppose B&W a 46 stati americani (https://wikiless.org/wiki/Brown_%26_Williamson?lang=en) era un conflitto fra l'innovazione privata e l'ossessione regolativa di uno stato arretrato e oscurantista, ma le cose sarebbero potute andare diversamente, se non ci fosse stata una stampa indipendente e una crescente percezione sociale della pericolosità del tabacco. Cito dal pdf sopra: "The anti-tobacco forces depict Jeffrey Wigand as a portrait in courage, a Marlon Brando taking on the powers in On the Waterfront. The pro-tobacco lobbies have been equally vociferous in their campaign to turn Wigand into a demon, a Mark Furhman who could cause potentially devastating cases against the tobacco industry to dissolve over issues that have little to do with the dangers of smoking. According to New York public-relations man John Scanlon, who was hired by B&W’s law firm to help discredit Wigand, “Wigand is a habitual liar, a bad, bad guy.” It was Scanlon’s assign- ment to disseminate a wide range of damaging charges against Wigand, such as shoplifting, fraud, and spousal abuse. Scanlon himself, along with B&W, is now the subject of an unprecedented Justice Department investigation for possible intimidation of a witness. For First Amendment specialist James Goodale, the charges and countercharges B&W has attempt- ed to level against Wigand represent “the most important press issue since the Pentagon Papers.” Goodale, who represented The New York Times during that period, said, “You counteract these tactics by a courageous press and big balls." Un saluto, MCP

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > > On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > > Beh, è facile concordare sui finanziamenti alla ricerca. > > Talmente facile che non viene fatto. > > La voce “Intelligenza Artificiale” non era nemmeno presente nei > progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati > stanziati 50 milioni per 5 progetti ICT-48. Vuoi dire che l'hanno messa? Bah... che posso dire, farà il paio con la blockchain! Il fatto che la voce "Intelligenza Artificiale" non fosse presente lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come allucinazione collettiva) ma sulla programmazione statistica cui troppi, non comprendendone il funzionamento, attribuiscono una qualche forma di "intelligenza". Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di programmazione statistica che producano risultati più affidabili! Ma ben vengano anche finanziamenti alla ricerca di nuovi framework interpretativi di queste tecnologie, un po' meno allucinati e allucinogeni! :-D Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha presentato le tesi del suo libro "La rivoluzione informatica", Juan Carlos ha detto una cosa importantissima: "sicuramente non esiste indipendenza, non esiste sovranità, senza la possibilità di controllare, produrre e sviluppare tutte le tecnologie fondamentali che servono per una società moderna" Condivido pienamente il concetto. Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa significa "società moderna"? chi decide quali siano le tecnologie fondamentali che servono per realizzarla? In Europa arranchiamo solo perché inseguiamo, invece di guidare. I software della Silicon Valley sono progettati per realizzare una specifica idea di società. Dobbiamo davvero competere con loro, solo se vogliamo imporre all'Europa esattamente quella idea di società (e vogliamo farlo meglio di loro). Ma se decidessimo invece di provare a creare una società democratica, libera ed equa, di quali strumenti avremmo bisogno? > PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni > a posteriori dei risultati degli attuali sistemi di ML, semplicemente > non funzionano, perché non scalano alle dimensiini di modelli > costituiti da miliardi di parametri. Del resto, se esistesse una > spiegazione semplice e comprensibile per un problema complesso e > difficile, il problema non sarebbe complesso e difficile. Ecco un'evidenza concreta dei gravi danni che la narrazione della "Intelligenza Artificiale" causa alla ricerca scientifica. Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice (ancorché estremamente costoso) di non aver selezionato scientemente il dataset in modo da causare specifiche discriminazione. Non ho mai detto che ciò garantisca l'assenza di discriminazioni. Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, ma non rimuove la responsabilità per i danni causati dal software. > D’altra parte, con le tecniche di prompting cone il Chain of Thought, > si può chiedere agli stessi modelli come ChatGPT di fornire un filo > logico dei passaggi che hanno portato alla risposta. Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. ChatGPT può sicuramente produrre una stringa di testo che la tua mente interpreti come una valida GIUSTIFICAZIONE di un proprio output. Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale output sia stato calcolato. Il calcolo effettuato potrebbe essere del tutto diverso: nessun informatico (o scienziato) con un minimo di serietà potrebbe accontentarsi di una tale giustificazione NON VERIFICABILE. Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro l'obiettivo: non ci interessa trovare un'argomentazione più o meno soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato preso in considerazione durante l'elaborazione E COSA NO, nonché capire ESATTAMENTE come. Giacomo [1]: https://inv.bp.projectsegfau.lt/watch?v=E7SMZ4WbG1c

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Quintarelli

On 14/04/23 11:31, Fabio Alemagna wrote: > Potrei fare ipotesi, ma preferisco domandare. Si potrebbe quindi > sapere a cosa, con rigorosa esattezza, si fa riferimento? il nostro lavoro fu ispirato a queste: B. A Framework for Trustworthy AI (21) These Guidelines articulate a framework for achieving Trustworthy AI based on fundamental rights as enshrined in the Charter of Fundamental Rights of the European Union (EU Charter), and in relevant international human rights law. Below, we briefly touch upon Trustworthy AI’s three components... https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustwor… ciao, s.

April 14, 2023

Open Source negli atenei: la nuova PoliTO Students App

by Fulvio Corno

Buongiorno a tutti/e, in questi giorni di mirabolanti applicazioni della AI, vorrei condividere con questa lista, in quanto sensibile alle tematiche Open Source, una piccola novità (ma importante nel nostro piccolo): al Politecnico di Torino è in corso lo sviluppo di una nuova applicazione mobile ufficiale (che gradualmente sostituirà quella precedente, ormai obsoleta). La vera novità sta nel fatto che la nuova App è stata sviluppata con un team aperto (personale tecnico + studenti laureandi e laureati + docenti), è rilasciata con licenza open (EUPL), ed è in fase di "public beta" in cui il testing e lo sviluppo viene guidato anche dalle segnalazioni e dai suggerimenti degli utenti. Chi fosse interessato ad approfondire può vedere la news ufficiale (https://www.polito.it/ateneo/comunicazione-e-ufficio-stampa/poliflash/nasce…) oppure tuffarsi direttamente nel repository GitHub (https://github.com/polito) Cordialemnte, Fulvio Corno -- -- Fulvio Corno <Fulvio.Corno(a)polito.it> Referente del Rettore per le tecnologie a supporto della didattica Vice-coordinatore Collegio ing. Informatica, Cinema e Meccatronica <coord.icm(a)polito.it> Politecnico di Torino - Dip. di Automatica e Informatica C.so Duca degli Abruzzi 24, 10129 Torino (Italy) http://elite.polito.it/

April 14, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by Daniela Tafani

Concordo, naturalmente. Ma la narrazione sugli agenti antromorfi e le menti sovrumane riesce a far credere che la situazione sia quella del povero Topolino apprendista stregone in Fantasia, che ha evocato una forza incontrollabile, mentre la situazione è quella di Ezechiele lupo che adesca i porcellini per mangiarseli. Quanto al disclaimer, ce n'era uno anche in Replika (che era, esso stesso stesso, pubblicità ingannevole: ne copio alla fine la parte che avevo salvato). Contemporaneamente, c'erano meccanismi introdotti per creare dipendenza emotiva (alcuni argomenti di conversazione si sbloccavano solo collegandosi più volte nello stesso giorno). In questo caso, il garante ha bloccato una truffa, più che il progresso della scienza. Quanto ai minori, ci sono paesi in cui li si affida consapevolmente a un chatbot, proprio nei casi in cui abbiano bisogno di assistenza mentale: https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/ <https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/> Frank Pasquale aveva previsto la tendenza: "A personal doctor might be dismissed as a luxury, like a bespoke tailor". Buona serata, Daniela [cid:c3c2cda9-3d12-4f43-a739-7c5aad893469] ________________________________ Da: 380° <g380(a)biscuolo.net> Inviato: venerdì 14 aprile 2023 12:40 A: Daniela Tafani; Andrea Bolioli; J.C. DE MARTIN Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter Buongiorno, Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > <https://www.law.kuleuven.be/ai-summer-school/open-brief/open-letter-manipul…> «Open Letter: We are not ready for manipulative AI – urgent need for action» --8<---------------cut here---------------start------------->8--- [...] But one of the main risks associated with human-imitating AI was reflected in the recent chatbot-incited suicide in Belgium: the risk of manipulation. While this tragedy illustrates one of the most extreme consequences of this risk, emotional manipulation can also manifest itself in more subtle forms. As soon as people get the feeling that they interact with a subjective entity, they build a bond with this "interlocutor" – even unconsciously – that exposes them to this risk and can undermine their autonomy. This is hence not an isolated incident. Other users of text-generating AI also described ([1], n.d.r.) its manipulative effects. [...] It is, however, in our human nature to react emotionally to realistic interactions, even without wanting it. This also means that merely obliging companies to clearly indicate that “this is an AI system and not a human being” is not a sufficient solution. [...] The European Union is currently working on new legislation that will impose stronger rules on “high-risk” AI systems and stricter liability on their suppliers, the so-called AI Act. However, the original proposal does not classify chatbots and generative AI systems as “high risk”, and their providers must only inform users that it is a chatbot and not a human being. A prohibition on manipulation was included, but only insofar as the manipulation leads to 'physical or mental harm', which is by no means easy to prove. [...] In the meantime, we ask that all necessary measures be taken – through data protection law, consumer law, and if need be the imposition of targeted moratoria – to prevent the tragic case of our compatriot from repeating itself. Let this be a wake-up call to us all. The AI playtime is over: it's time to draw lessons and take responsibility. --8<---------------cut here---------------end--------------->8--- è ovvio che chiunque SPACCI un sistema del genere come "psicoterapeuta" o anche solo "telefono amico" andrebbe fermato subito e in casi come quello citato sopra di (presunta?) indizione al suicidio dovrebbe essere aperta un'inchiesta giudiziaria ed celebrato l'eventuale relativo processo... ...e vorrei _sottolineare_ che i SALAMI non arrivano nel "vuoto cosmico del diritto", come /autorevolmente/ (non autoritariamente) spiegato da Alvaro M. Bedoya [2]: --8<---------------cut here---------------start------------->8--- Let’s start with that first point. There is a powerful myth out there that “AI is unregulated.” You see it pop up in New York Times op-ed columns, in civil society advocacy, and in scholarship. It has a powerful intuitive appeal — it just sounds right. How could these mysterious new technologies be regulated under our dusty old laws? If you’ve heard this, or even said it, please take a step back and ask: Who does this idea help? It doesn’t help consumers, who feel increasingly helpless and lost. It doesn’t help most companies. It certainly doesn’t help privacy professionals like you, who now have to deal with investors and staff who think they’re operating in a law-free zone. I think that this idea that “AI is unregulated” helps that small subset of companies who are uninterested in compliance. And we’ve heard similar lines before. “We’re not a taxi company, we’re a tech company.” “We’re not a hotel company, we’re a tech company.” These statements were usually followed by claims that state or local regulations could not apply to said companies. [...] I worry that this debate may obscure the point. Because the law doesn’t turn on how a trained expert reacts to a technology – it turns on how regular people understand it. At the FTC, for example, when we evaluate whether a statement is deceptive, we ask what a reasonable person would think of it. When analyzing unfairness, we ask whether a reasonable person could avoid the harms in question. In tort law, we have the “eggshell” plaintiff doctrine: If your victim is particularly susceptible to an injury you caused, that is on you. The American Academy of Pediatrics has declared a national emergency in child and adolescent mental health. The Surgeon General says that we are going through an epidemic of loneliness. I urge companies to think twice before they deploy a product that is designed in a way that may lead people to feel they have a trusted relationship with it or think that it is a real person. I urge companies to think hard about how their technology will affect people’s mental health – particularly kids and teenagers. --8<---------------cut here---------------end--------------->8--- Il discrimine _esiste_: il prodotto non deve essere progettato in modo tale da indurre le persone a credere di avere una relazione di _fiducia_ (col prodotto) Discrimine **fondamentale**: il "prodotto" che NON è il LLM, es. GPT4, ma è l'INTERFACCIA, es. ChatGPT; è l'interfaccia che /determina/ l'interazione uomo-macchina, spesso _mascherandola_, rendendola opaca... a volte _esattamente_ per ingannare l'utilizzatore, facendogli credere che è lui a controllare il software invece che il contrario Una interfaccia che faccia chiaramente comprendere a chi utilizza un servizio del genera che si tratta di /fiction/, una sorta di RPG interattivo (magari con tanto di /visualizzazione/ di un lancio di dadi per ottenere la risposta :-O), non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Oppure, un avviso di "fictioning" **incluso in ogni messaggio** non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Poi bisognerebbe anche interrogarsi sulla responsabilità genitoriale nel lasciare che i bimbi utilizzino certi prodotti senza alcuna supervisione... e comunque (anche) su questo il Garante per la protezione dei dati personali è intervenuto sulla base del GDPR Comunque concordo con la conclusione dell'articolo: educazione, ci vuole una /valanga/ di educazione informatica. [...] saluti, 380° P.S.: l'analisi del pericolo dell'utilizzo allegro dell'AI non si deve fermare all'utilizzo "diretto" da parte dell'"uomo qualunque" ma anche (soprattutto) da parte degli esperti di settore... /alienati/ (periti finanziari, medici, insegnanti...) [1] https://www.theverge.com/2023/2/15/23599072/microsoft-ai-bing-personality-c… [2] grazie della segnalazione! (Msg-id:46c18e05fc1042be90f83bde3c2412f9@unipi.it); la relazione completa (grandiosa relazione, da incorniciare) è qui: https://www.ftc.gov/system/files/ftc_gov/pdf/Early-Thoughts-on-Generative-A… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 14, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by 380°

Buongiorno, Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > <https://www.law.kuleuven.be/ai-summer-school/open-brief/open-letter-manipul…> «Open Letter: We are not ready for manipulative AI – urgent need for action» --8<---------------cut here---------------start------------->8--- [...] But one of the main risks associated with human-imitating AI was reflected in the recent chatbot-incited suicide in Belgium: the risk of manipulation. While this tragedy illustrates one of the most extreme consequences of this risk, emotional manipulation can also manifest itself in more subtle forms. As soon as people get the feeling that they interact with a subjective entity, they build a bond with this "interlocutor" – even unconsciously – that exposes them to this risk and can undermine their autonomy. This is hence not an isolated incident. Other users of text-generating AI also described ([1], n.d.r.) its manipulative effects. [...] It is, however, in our human nature to react emotionally to realistic interactions, even without wanting it. This also means that merely obliging companies to clearly indicate that “this is an AI system and not a human being” is not a sufficient solution. [...] The European Union is currently working on new legislation that will impose stronger rules on “high-risk” AI systems and stricter liability on their suppliers, the so-called AI Act. However, the original proposal does not classify chatbots and generative AI systems as “high risk”, and their providers must only inform users that it is a chatbot and not a human being. A prohibition on manipulation was included, but only insofar as the manipulation leads to 'physical or mental harm', which is by no means easy to prove. [...] In the meantime, we ask that all necessary measures be taken – through data protection law, consumer law, and if need be the imposition of targeted moratoria – to prevent the tragic case of our compatriot from repeating itself. Let this be a wake-up call to us all. The AI playtime is over: it's time to draw lessons and take responsibility. --8<---------------cut here---------------end--------------->8--- è ovvio che chiunque SPACCI un sistema del genere come "psicoterapeuta" o anche solo "telefono amico" andrebbe fermato subito e in casi come quello citato sopra di (presunta?) indizione al suicidio dovrebbe essere aperta un'inchiesta giudiziaria ed celebrato l'eventuale relativo processo... ...e vorrei _sottolineare_ che i SALAMI non arrivano nel "vuoto cosmico del diritto", come /autorevolmente/ (non autoritariamente) spiegato da Alvaro M. Bedoya [2]: --8<---------------cut here---------------start------------->8--- Let’s start with that first point. There is a powerful myth out there that “AI is unregulated.” You see it pop up in New York Times op-ed columns, in civil society advocacy, and in scholarship. It has a powerful intuitive appeal — it just sounds right. How could these mysterious new technologies be regulated under our dusty old laws? If you’ve heard this, or even said it, please take a step back and ask: Who does this idea help? It doesn’t help consumers, who feel increasingly helpless and lost. It doesn’t help most companies. It certainly doesn’t help privacy professionals like you, who now have to deal with investors and staff who think they’re operating in a law-free zone. I think that this idea that “AI is unregulated” helps that small subset of companies who are uninterested in compliance. And we’ve heard similar lines before. “We’re not a taxi company, we’re a tech company.” “We’re not a hotel company, we’re a tech company.” These statements were usually followed by claims that state or local regulations could not apply to said companies. [...] I worry that this debate may obscure the point. Because the law doesn’t turn on how a trained expert reacts to a technology – it turns on how regular people understand it. At the FTC, for example, when we evaluate whether a statement is deceptive, we ask what a reasonable person would think of it. When analyzing unfairness, we ask whether a reasonable person could avoid the harms in question. In tort law, we have the “eggshell” plaintiff doctrine: If your victim is particularly susceptible to an injury you caused, that is on you. The American Academy of Pediatrics has declared a national emergency in child and adolescent mental health. The Surgeon General says that we are going through an epidemic of loneliness. I urge companies to think twice before they deploy a product that is designed in a way that may lead people to feel they have a trusted relationship with it or think that it is a real person. I urge companies to think hard about how their technology will affect people’s mental health – particularly kids and teenagers. --8<---------------cut here---------------end--------------->8--- Il discrimine _esiste_: il prodotto non deve essere progettato in modo tale da indurre le persone a credere di avere una relazione di _fiducia_ (col prodotto) Discrimine **fondamentale**: il "prodotto" che NON è il LLM, es. GPT4, ma è l'INTERFACCIA, es. ChatGPT; è l'interfaccia che /determina/ l'interazione uomo-macchina, spesso _mascherandola_, rendendola opaca... a volte _esattamente_ per ingannare l'utilizzatore, facendogli credere che è lui a controllare il software invece che il contrario Una interfaccia che faccia chiaramente comprendere a chi utilizza un servizio del genera che si tratta di /fiction/, una sorta di RPG interattivo (magari con tanto di /visualizzazione/ di un lancio di dadi per ottenere la risposta :-O), non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Oppure, un avviso di "fictioning" **incluso in ogni messaggio** non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Poi bisognerebbe anche interrogarsi sulla responsabilità genitoriale nel lasciare che i bimbi utilizzino certi prodotti senza alcuna supervisione... e comunque (anche) su questo il Garante per la protezione dei dati personali è intervenuto sulla base del GDPR Comunque concordo con la conclusione dell'articolo: educazione, ci vuole una /valanga/ di educazione informatica. [...] saluti, 380° P.S.: l'analisi del pericolo dell'utilizzo allegro dell'AI non si deve fermare all'utilizzo "diretto" da parte dell'"uomo qualunque" ma anche (soprattutto) da parte degli esperti di settore... /alienati/ (periti finanziari, medici, insegnanti...) [1] https://www.theverge.com/2023/2/15/23599072/microsoft-ai-bing-personality-c… [2] grazie della segnalazione! (Msg-id:46c18e05fc1042be90f83bde3c2412f9@unipi.it); la relazione completa (grandiosa relazione, da incorniciare) è qui: https://www.ftc.gov/system/files/ftc_gov/pdf/Early-Thoughts-on-Generative-A… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giuseppe Attardi

> On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > Beh, è facile concordare sui finanziamenti alla ricerca. Talmente facile che non viene fatto. La voce “Intelligenza Artificiale” non era nemmeno presente nei progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati stanziati 50 milioni per 5 progetti ICT-48. Non si trova nemmeno nel nuovo workprogram, se non associata alla robotica e alla data science, al punto che è stata costituita persino un’associazione ADRA (Association for Data, Robotics and AI), per suggerire alla commissione come orientare i finanziamenti verso i primi due settori, da tempo dominanti, a scapito del terzo. I documenti strategici della UE, che nel 2018 si occupavano di come sviluppare la disciplina, sono stati disattesi e l’attenzione della commissione è virata verso questioni di regolamentazione (European AI Act), di Explainable AI (XAI), completamente tralasciando ogni minimo tentativo di investire nello sviluppo della tecnologia e dei suoi fondamenti. Del resto i LLM vengono detti Foundation Models perché sono il fondamento di altri sistemi più articolati e complessi. È miope pensare di fermare la ricerca sui LLM, senza capire che così si blocca la possibilità di sviluppare sistemi con capacità superiori di ragionamento, controllo dei risultati, ecc. — Beppe PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni a posteriori dei risultati degli attuali sistemi di ML, semplicemente non funzionano, perché non scalano alle dimensiini di modelli costituiti da miliardi di parametri. Del resto, se esistesse una spiegazione semplice e comprensibile per un problema complesso e difficile, il problema non sarebbe complesso e difficile. D’altra parte, con le tecniche di prompting cone il Chain of Thought, si può chiedere agli stessi modelli come ChatGPT di fornire un filo logico dei passaggi che hanno portato alla risposta. > > Talmente facile che temo sia uno strawman piuttosto banalotto. > > > Non c'è alcuna contrapposizione fra ricerca e diritti umani. > Possiamo tranquillamente garantire entrambi. SE vogliamo. > > > Chi prova a contrapporli, non difende la ricerca, ma la strumentalizza > per proteggere gli interessi privati di soggetti che non intendono > rispondere dei danni che causano con applicazioni specifiche. > > > Sarebbe bello se, almeno qui ove simili fallacie retoriche hanno > vita breve, potessimo evitare di perdere tempo a smontarle. > > >> On Fri, 14 Apr 2023 09:05:48 +0200 Guido Vetere wrote: >> >> Io credo che questo processo sia già spontaneamente in corso (non solo >> nelle università) e credo che la UE dovrebbe dare supporto >> all'affermazione di questo nuovo modello di sviluppo, più che cercare >> di inibire i soggetti privati statunitensi (gli stessi che piazzano i >> loro VP nella nostra Amministrazione) con improbabili richieste. > > Io invece auspico che l'UE anteponga sempre i diritti umani a qualsiasi > narrazione su "modelli di sviluppo". > > Perché dietro le promesse di magnifiche sorti e progressive, dietro i > software di cui parliamo, ci sono persone che DEVONO rispondere di ciò > che fanno attraverso i propri artefatti, come chiunque altro. > > > Nessuna azione che sia vietata per un essere umano deve essere > consentita quando effettuata tramite l'uso di una macchina. > > Siamo d'accordo su questo principio? > > Se sì, ne deriva che la costruzione di macchine che non possano > tecnicamente garantire il rispetto dei diritti umani va > semplicemente vietata. > > > Il che non limita in alcun modo la ricerca! Anzi! La incoraggia! > E la orienta verso soluzioni... "degne di fiducia" ;-) > > > Giacomo > > >> On Thu, 13 Apr 2023 16:34:08 -0700 Stefano Maffulli wrote: >> >> On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> >> wrote: >> >>> Per l’energia atomica, abbiamo da una parte firmato trattati di non >>> proliferazione delle armi nucleari, ma dall’altra abbiamo costruito >>> il CERN, con fondi pubblici, per permettere di studiare la scienza >>> delle particelle e della costituzione dell’universo. >>> >> >> Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare >> in modo che gli LLM non siano solo appannaggio delle mega corp e dei >> governi.

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Fabio Alemagna

Salve a tutti, sono venuto a conoscenza di questa lista tramite un tweet di Floridi e da allora sono stato solo un lurker, ma leggendo più volte determinate argomentazioni ho deciso di saltare il fosso e fare il mio primo post. Il giorno ven 14 apr 2023 alle ore 10:20 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Beh, è facile concordare sui finanziamenti alla ricerca. > Talmente facile che temo sia uno strawman piuttosto banalotto. > > Non c'è alcuna contrapposizione fra ricerca e diritti umani. > Possiamo tranquillamente garantire entrambi. SE vogliamo. I "diritti umani" sono stati tirati in ballo più e più volte in questa e altre conversazioni analoghe ma, per restare nel reame delle fallacie logiche, a me questo pare un vero e proprio "red herring". Pur conoscendo la dichiarazione universale dei diritti umani a menadito, non riesco a comprendere a quale di quei diritti si faccia riferimento. Potrei fare ipotesi, ma preferisco domandare. Si potrebbe quindi sapere a cosa, con rigorosa esattezza, si fa riferimento? Fabio

April 14, 2023