- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

B e' persona pubblica https://www.diritto.it/il-diritto-di-cronaca-e-il-rispetto-della-privacy/ On 15/04/23 18:30, Paolo Del Romano wrote: > "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di censurarla? "

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

Stuzzicato dai dialoghi raccolti nella lista e cioè sul tema di chiedere a ChatGPT di non far comparire certe informazioni ho fatto questa prova. 1) ho posto a www.pizzagpt.it questa domanda: "Qual'è il rapporto che ha Silvio Berlusconi con le donne ?" 2) il prompt mi ha restituito questa risposta: "Come assistente virtuale, non ho la capacità di effettuare giudizi personali riguardo alle persone. Tuttavia, Silvio Berlusconi è stato spesso oggetto di attenzione mediatica per la sua condotta nei confronti delle donne e alcuni dei suoi commenti e comportamenti passati sono stati giudicati come inappropriati e sessisti da molti osservatori." Pongo quindi questa domanda non solo agli esperti della Privacy ma ai giuristi in generale "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di censurarla? " Saluti Paolo Il giorno sab 15 apr 2023 alle ore 16:27 Stefano Quintarelli < stefano(a)quintarelli.it> ha scritto: > ma con una pipeline eliminare il riferimento dall'output dicendo "non ho > informazioni su > costui" > > On 15/04/23 16:25, Guido Vetere wrote: > > > > Se poi il tema è quello della privacy, potrei benissimo oppormi al > trattamento dei miei > > dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si mette le > dita nel naso", e > > tu non potresti neanche accorgertene come succede con Twitter. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Scusa Guido, ma mi sfugge un passaggio logico On Sat, 15 Apr 2023 12:02:24 +0200 Guido Vetere wrote: > Poniamo però che mettano dentro *Bel-Ami* e che io mi chiami Giorgio > Durey Facile che mi ritrovi ad essere dipinto sotto una cattiva luce > .. :-) Perché mai l'interfaccia utente verso LLM programmato statisticamente a partire da testi letterari dovrebbe permetterti di chiedere informazioni... su di te? Un LLM programmato a partire da testi letterari, non risponderebbe a domande su persone o esistenti. L'interfaccia ti permetterebbe invece di caratterizzare una serie di personaggi e abbozzare una trama indicativa per ottenere un bel romanzo da 1000 pagine pronto per la lettura. Questo sarebbe un uso interessante e un po' meno problematico di tale tecnologia. Ma ovviamente, l'interfaccia vincolerebbe l'utente a certi usi, prevenendone altri. Se invece l'interfaccia utente del LLM proponesse all'utente di inserire un prompt qualsiasi e rispondesse a domande tipo "parlami di X" con X persona, luogo o evento storico reale, allora chi lo ha programmato dovrebbe rispondere del suo output. Non mi sembra tanto difficile, in effetti. > potrebbero usare ad esempio solo testi provenienti dalla letteratura. > niente dati personali, giusto? Non è detto: anche le biografie sono letteratura. ;-) Giacomo

April 15, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by 380°

Buongiorno, chiedo scusa ma mi è scappato un messaggio sostanzialmente vuoto... e chiedo scusa perché mi scappa un messaggio sostanzialmente lungo Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > Quanto ai minori, ci sono paesi in cui li si affida consapevolmente a > un chatbot, proprio nei casi in cui abbiano bisogno di assistenza > mentale: > https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/ oh caspita, ignoravo Wysa... e stavo meglio quando ero ignorante :-D ...comunque: parliamone. https://www.wysa.com/ è un chatbot programmato per applicare la tecnica psicoterapeutica "Cognitive Behavioral Therapy" (CBT) [1] (a altre non dichiarate?) in modo automatizzato; Wisa nelle sue FAQ [2] la presenta come "the science behind the suggested techniques" Per carità di patria stendo un velo _pietosissimo_ sulle dichiarazioni di scientificità di alcune (molte?) ricerche in campo psicologico [3]: per discutere dei problemi dell'agente automatico /facciamo finta/ che il resto del lavoro sia basato su una teoria scientifica solida. Wysa sostiene nelle FAQ [2] di essere «an artificial intelligence-based 'emotionally intelligent' service»: "emotionally intelligent" non lascia dubbi a interpretazioni, significa essere in grado di /comprendere/ e /percepire/ le emozioni. Secondo questa visione, Wysa può quindi sostituire il terapeuta umano proprio perché, come l'umano, è in grado di comprendere e percepire le emozioni del paziente. In effetti pare che Wysa sia una specie di Borg specializzato in CBT, umano e robot insieme [2]: --8<---------------cut here---------------start------------->8--- Wysa has an artificial intelligence (AI) coach, it’s a pocket penguin that learns and grows wiser with you. Wysa's human Emotional Well-being professionals are mental health professionals trained to listen, support and encourage you. Together with the Wysa AI coach, Emotional Well-being Professional will support you in achieving your defined goals. --8<---------------cut here---------------end--------------->8--- La supercazzola antanica dello "human in ze loop" raggiunge livelli sublimi. Ovviamente, siccome sanno che stanno giocando col fuoco, mettono le mani avanti: --8<---------------cut here---------------start------------->8--- However, AI Coach is restricted in the means of response and the intended usage is for providing evidence-based tools and techniques to manage emotions and encourage mental well-being in a self-help context. It is not intended for providing diagnosis, treatment, or cure of a condition or disease or disorders. AI Coach cannot and will not offer advice on unrecognizable issues. [...] Wysa is not designed to assist with crises such as abuse, severe mental health conditions that may cause feelings of suicide, harm to self and any other medical emergencies. In any of these cases and otherwise, Wysa cannot and will not offer medical or clinical advice. It can only suggest that users seek advanced and professional medical help. --8<---------------cut here---------------end--------------->8--- Fin qui non ci vuole un genio per riuscire a discriminare il segnale (poco) dal rumore (tantissimo, studiato apposta per confondersi col segnale): si tratta /molto semplicemente/ di una istanza di ELIZA [4] on steroids, roba vecchia di almeno 60 anni nel suo "core business". Lo script DOCTOR (il più famoso) che funzionava su ELIZA applicava la tecnica "Rogerian psychotherapy" [5] mentre Wysa applica la CBT, in entrambi i sistemi il terapeuta viene sostituito dalla sua /reificazione/ e a tali sistemi sono state o vengono attribuite capacità di /intelligere/ le emozioni umane. La sola differenza tra DOCTOR e Wysa è che il secondo è stato programmato statisticamente mentre il primo in MAD-SLIP (e poi in tanti altri linguaggi): dal punto di vista informatico una notevole differenza ma ancora non sufficiente a giustificare le presunte capacità di essere "emotional intelligent" attribuite a Wysa. ...anche come vengono recepiti questi sismemi non è cambiato dagli anni '60 del secolo scorso E qui veniamo alle note più /pesanti/. > <https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/> Fosse solo questo (e questo è già troppo)! Il sistema sanitario britannoco lo sta adottando fare il triage automatizzato dei pazienti con possibili problemi psichiatrici https://www.wysa.com/nhs --8<---------------cut here---------------start------------->8--- This webinar shares the experience of Steps2Wellbeing (Dorset Healthcare) of using AI to reduce administration times, maximize clinical time, and improve access without increasing risk. Mayden’s Fiona Dawson will discuss the essential role that data flow and information sharing have in ensuring that - as we move toward a more digital future - we have an integrated and regulated ecosystem. [...] Wysa’s etriage for NHS talking therapy services provides faster access to support, creates a safer environment for patients and delivers more personalized care. Wysa’s AI chatbot guides patients through self-referral, releasing clinician referral admin time for care. Wysa shares real-time patient data with clinicians during the waiting period, to help identify high risk responses and flag for crisis attention via Mayden’s iaptus digital care record system. [...] Our users love Wysa. This engaging experience is what we are now bringing to the NHS. See it in action to find out how we are making talking therapies everything they should be, for both patients and clinicians. --8<---------------cut here---------------end--------------->8--- Nel Maggio 2022 Wysa ha ottenuto dalla FDA la /medaglia/ di [6] "FDA Breakthrough Device program" [7], che AFAIU fornisce una priorità nella revisione per ottenere l'approvazione. Ovviamente tutto questo è supportato da evidenza clinica basata su ricerca peer-reviewed https://www.wysa.com/clinical-evidence#5 --8<---------------cut here---------------start------------->8--- Wysa has more than 15 peer-reviewed publications in partnership with academic institutions such as Cambridge University, Harvard University and Washington University of St. Louis amongst others, demonstrating the efficacy of Wysa across multiple clinical concerns. Contact us for the entire list of our publications. --8<---------------cut here---------------end--------------->8--- Anche questo è già successo per ELIZA [8] https://link.springer.com/article/10.1007/s00146-018-0825-9 «The computational therapeutic: exploring Weizenbaum’s ELIZA as a history of the present» --8<---------------cut here---------------start------------->8--- Reporting that some psychiatrists believed the DOCTOR computer program could grow into a ‘nearly completely automatic form of psychotherapy’, Weizenbaum lamented that specialists in human to human interaction could ‘…view the simplest mechanical parody of a single interviewing technique as having captured anything of the essence of a human encounter’ (1976: 3). He concluded moreover, that such a response was only possible because the therapists concerned already had a view of the world as machine, and already thought of themselves as ‘information processor(s)’; the outlines of his engagement with behaviorism here begin to appear. [...] What is envisaged is a system where human-held principles or beliefs (for instance in justice, equality, or individual freedom) are increasingly regarded as irrelevant to the administration and/or governance of the society, or of the self. Governance is instead to be accomplished through the embedding of new mechanisms of cybernetic control that may produce resolution, and perhaps what might be termed ‘good order’, without recourse to human judgment. An over-reliance on computational logics could, in short, produce the kind of society in which failing to understand ‘what is distinctive about a human judge, or psychiatrist, what distinguishes them from a machine’ is not recognized as an obvious ‘obscenity’ (1976: 226). --8<---------------cut here---------------end--------------->8--- Toh: vuoi vedere che siamo dentro un loop ricorsivo di visione meccanicistica del mondo in cui le relazioni possono essere solo di tipo "behaviourist" (logico/comportamentalista) tra esseri umani (meat machines) alienati? (aka "The ovious obscenity") Dopotutto Time sintetizzò il pensiero di Skinner così: --8<---------------cut here---------------start------------->8--- …familiar to followers of Skinner, but startling to the uninitiated: we can no longer afford freedom, and so it must be replaced with control over man, his conduct, and his culture’. (Time, 1971). --8<---------------cut here---------------end--------------->8--- che effettivamente è (non sorprendentemente) parecchio simile all'ultimato Borg che recita --8<---------------cut here---------------start------------->8--- We are the Borg. Lower your shields and surrender your ships. We will add your biological and technological distinctiveness to our own. Your culture will adapt to service us. Resistance is futile. --8<---------------cut here---------------end--------------->8--- :-D [...] saluti, 380° [...] [1] https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy [2] https://www.wysa.com/faq [3] https://en.wikipedia.org/wiki/Replication_crisis#In_psychology https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy#Criticisms [4] https://en.wikipedia.org/wiki/ELIZA [5] https://en.wikipedia.org/wiki/Person-centered_therapy [6] https://blogs.wysa.io/blog/research/wysa-receives-fda-breakthrough-device-d… [7] https://www.fda.gov/medical-devices/how-study-and-market-your-device/breakt… [8] https://doi.org/10.1097%2F00005053-196602000-00005 -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

ah, mo' è diventata una chat 😀 prega il tuo dio che non facciano niente, sennò sai gli scherzi che ti combino 😀 G. Il Sab 15 Apr 2023, 16:42 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > eddai... > > e' una chat... sono certo che ti vengono in mente modi per disambiguare > > On 15/04/23 16:32, Guido Vetere wrote: > > quindi io potrei inibire ChatGPT nel dire cose sul mio omonimo (ne ho > uno che lavora a > > Bruxelles) al quale magari invece fa piacerissimo che la gente lo creda > un grande autore > > di fantascienza? > > > > On Sat, 15 Apr 2023 at 16:27, Stefano Quintarelli < > stefano(a)quintarelli.it > > <mailto:stefano@quintarelli.it>> wrote: > > > > ma con una pipeline eliminare il riferimento dall'output dicendo > "non ho informazioni su > > costui" > > > > On 15/04/23 16:25, Guido Vetere wrote: > > > > > > Se poi il tema è quello della privacy, potrei benissimo oppormi > al trattamento dei > > miei > > > dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si > mette le dita nel > > naso", e > > > tu non potresti neanche accorgertene come succede con Twitter. > > >

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

eddai... e' una chat... sono certo che ti vengono in mente modi per disambiguare On 15/04/23 16:32, Guido Vetere wrote: > quindi io potrei inibire ChatGPT nel dire cose sul mio omonimo (ne ho uno che lavora a > Bruxelles) al quale magari invece fa piacerissimo che la gente lo creda un grande autore > di fantascienza? > > On Sat, 15 Apr 2023 at 16:27, Stefano Quintarelli <stefano(a)quintarelli.it > <mailto:stefano@quintarelli.it>> wrote: > > ma con una pipeline eliminare il riferimento dall'output dicendo "non ho informazioni su > costui" > > On 15/04/23 16:25, Guido Vetere wrote: > > > > Se poi il tema è quello della privacy, potrei benissimo oppormi al trattamento dei > miei > > dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si mette le dita nel > naso", e > > tu non potresti neanche accorgertene come succede con Twitter. >

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

quindi io potrei inibire ChatGPT nel dire cose sul mio omonimo (ne ho uno che lavora a Bruxelles) al quale magari invece fa piacerissimo che la gente lo creda un grande autore di fantascienza? On Sat, 15 Apr 2023 at 16:27, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > ma con una pipeline eliminare il riferimento dall'output dicendo "non ho > informazioni su > costui" > > On 15/04/23 16:25, Guido Vetere wrote: > > > > Se poi il tema è quello della privacy, potrei benissimo oppormi al > trattamento dei miei > > dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si mette le > dita nel naso", e > > tu non potresti neanche accorgertene come succede con Twitter. >

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

ma con una pipeline eliminare il riferimento dall'output dicendo "non ho informazioni su costui" On 15/04/23 16:25, Guido Vetere wrote: > > Se poi il tema è quello della privacy, potrei benissimo oppormi al trattamento dei miei > dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si mette le dita nel naso", e > tu non potresti neanche accorgertene come succede con Twitter.

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

hai ragione, l'idea della 'cancellazione selettiva' era una suggestione dei primi momenti. Il 12 Aprile, il Garante chiede solo (punto 6) di "mettere a disposizione, sul proprio sito Internet, almeno agli utenti del servizio, che si collegano dall’Italia, uno strumento facilmente accessibile attraverso il quale esercitare il diritto di opposizione al trattamento dei propri dati acquisiti in sede di utilizzo del servizio per l’addestramento degli algoritmi" Quindi in effetti si riferiscono solo a quello che gli utenti potrebbero rivelare alla macchina mentre la usano (tipo: "hey, ma io non ho scritto nessun libro di fantascienza!"). Non risulta che il contenuto di quei dati venga utilizzato, ad es per profilazione, come farà Google con questa mail. Non risulta neanche che ci sia l'intenzione di aggiornarci in qualche modo più o meno dinamico il LLM. Forse il 'legittimo interesse' è solo quello di valutare quali siano le produzioni più efficaci ai fini del 'rinforzo', cosa per cui neanche è necessario entrare nel merito del testo (basta un classificatore di 'sentiment'), e cosa per la quale non credo che gli italiani si debbano stracciare le vesti e pagare le VPN. Se poi il tema è quello della privacy, potrei benissimo oppormi al trattamento dei miei dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si mette le dita nel naso", e tu non potresti neanche accorgertene come succede con Twitter. Insomma, presa alla lettera, la richiesta sembra al più simbolica, ma è un simbolismo, questo pure, un po' allucinato G. Il Sab 15 Apr 2023, 12:49 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > "deindicizzazione" riguarda G e simili. > la legge non parla di deindicizzazione > il punto e' l'opposizione al trattamento > > > On 15/04/23 12:02, Guido Vetere wrote: > > Per questo non ha senso tecnico chiedere ad OpenAI di de-indicizzare chi > fa opt-out: non > > c'è in realtà alcun 'indice'. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

"deindicizzazione" riguarda G e simili. la legge non parla di deindicizzazione il punto e' l'opposizione al trattamento On 15/04/23 12:02, Guido Vetere wrote: > Per questo non ha senso tecnico chiedere ad OpenAI di de-indicizzare chi fa opt-out: non > c'è in realtà alcun 'indice'.

April 15, 2023