April 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

OK.....anche se in pratica non è facile applicare la cd. scriminante perchè devono ricorrere diversi elementi (a tutela anche di Berlusconi) e cioè: 1) la notizia pubblicata deve essere vera b) deve esistere un interesse pubblico alla sua divulgazione c) l'informazione deve essere esposta in maniera obiettiva con un linguaggio necessariamente corretto e di per sé non offensivo Quindi se Berlusconi conduce una vita privata con le donne un pò complicata (forse) si potrebbe pubblicare ma se la persona non è B ma un ex-politico oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? Paolo Il giorno dom 16 apr 2023 alle ore 08:55 Stefano Quintarelli < stefano(a)quintarelli.it> ha scritto: > B e' persona pubblica > https://www.diritto.it/il-diritto-di-cronaca-e-il-rispetto-della-privacy/ > > On 15/04/23 18:30, Paolo Del Romano wrote: > > "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di > censurarla? " >

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Enrico Nardelli

Non mi pare di aver letto reazioni a questa notizia (grazie JC!) nonostante riporti qualcosa di così fondamentale a proposito dei sistemi basati sull'intelligenza artificiale, che ogni altra riflessione dovrebbe essere secondaria. QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. Mi correggeranno eventualmente i giuristi in lista, ma mi pare che anche per prodotti di tipologie commerciali non soggette a specifici regolamenti tecnici si applica per default qualche norma del codice civile. Non capisco perché dovremmo consentire eccezioni per ChatGPT & Co. Il che NON VUOL DIRE che laboratori privati e pubblici, aziendali e accademici, non possano continuare a fare ricerca in questo ambito. Solo che non possiamo immettere in commercio prodotti che possono causare danni (come voleva far capire il mio esempio del mini-reattore nucleare qua https://link-and-think.blogspot.com/2023/04/il-potere-dellintelligenza-arti… ). Aggiungo che, sinceramente, avrei preferito vedere l'Occidente all'avanguardia sul tema della sicurezza ... e magari anche su quello della socialdemocrazia ... all'europea, però ... :-) Ciao, Enrico Il 13/04/2023 07:22, J.C. DE MARTIN ha scritto: > *China to require ‘security assessment’ for new AI products* > AFP > > April 11, 2023 5:21 am > > New AI products developed in China will have to undergo a security assessment before being released and must reflect “core socialist values”, a sweeping new draft law by the country’s internet regulator showed Tuesday. > > The fresh regulations come as a flurry of Chinese companies rush to develop artificial intelligence services that can mimic human speech since San Francisco-based OpenAI launched ChatGPT in November, sparking a gold rush in the market. > > Rapid advancements in AI have stoked global alarm over the technology’s potential for disinformation and misuse, with deepfake images and people shown mouthing things they never said. > > “Before providing services to the public that use generative AI products, a security assessment shall be applied for through national internet regulatory departments,” the draft law, released by the Cyberspace Administration of China, reads. > > continua qui: > > https://insiderpaper.com/china-draft-law-to-require-security-assessment-for… > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Marco A. Calamari

On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote: > Questa risposta è talmente grossolana e offensiva che speravo qualcun altro > rispondesse. > > Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la > condividano. Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o anche d'accordo, perché no?) rispondano. Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di tecnocontrollo e geopolitica. Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione fredda". Il tempo è la risorsa più limitata al mondo. JM2EC. Buona domenica a tutti. Marco > L’Artificial Intelligence esiste ed è una delle principali discipline della > Computer Science. > Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto il > mondo. > Il fatto che la Commissione Europea l’abbia ignorata nei suoi finanziamenti, > dimostra la sua miopia, non la sua furbizia. > Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il > fiorire di innovazioni che sta portando l’AI. > > Occupandosi di uno dei problemi più complessi dell’informatica, ossia la > riproduzione delle capacità della mente umana, l’AI si è dovuta spesso > scontrare coi limiti della tecnologia. > Ma chi se ne occupava si è sempre ingegnato per superarli. > Infatti, gran parte delle tecnologie informatiche che oggi sono di uso comune, > sono nate in ambito AI. > Ad esempio: > > - linguaggi funzionali > - garbage collection > - linguaggi a oggetti > - interfacce grafiche > - interfacce di sviluppo integrate (IDE) > - Map/reduce per elaborazione parallela > - animazione 3D > - sistemi operativi > > Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il > gioco degli scacchi. > Il movimento del Free Software fu lanciato da Richard Stallman, che lavorava > al MIT AI Lab, dove partecipava al progetto della MIT Lisp Machine. > > Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere il > rammarico che le più significative innovazioni dell’AI venissero spesso > attribuite ad altri. > > Many of AI's greatest innovations have been reduced to the status of > just another item in the tool chest of computer science. Nick Bostrom explains > "A lot of cutting edge AI has filtered into general applications, often > without being called AI because once something becomes useful enough and > common enough it's not labeled AI anymore.” > https://en.wikipedia.org/wiki/History_of_artificial_intelligence#AI_behind_… > > > la ricerca di cui abbiamo bisogno > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come > > allucinazione collettiva) ma sulla programmazione statistica > L’AI copre aree più vaste della “programmazione statistica”. > > Il confronto con la blockchain è offensivo: quella è una tecnologia in cerca > di applicazioni, basata su un singolo articolo. > Non può essere comparata con una disciplina scientifica con 50 anni di ricerca > alle spalle e migliaia di ricercatori coinvolti. > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui abbiamo > scarso controllo? > > — Beppe > > > > On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it wrote: > > > > From: Giacomo Tesio <giacomo(a)tesio.it> > > To: Giuseppe Attardi <attardi(a)di.unipi.it> > > Cc: Stefano Maffulli <smaffulli(a)gmail.com>, > > "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > > sospesa se OpenAI adotterà le misure richieste. > > Message-ID: <20230414165246.00001237(a)tesio.it> > > Content-Type: text/plain; charset=utf-8 > > > > On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > > > > > > On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > > > > > > Beh, è facile concordare sui finanziamenti alla ricerca. > > > > > > Talmente facile che non viene fatto. > > > > > > La voce “Intelligenza Artificiale” non era nemmeno presente nei > > > progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati > > > stanziati 50 milioni per 5 progetti ICT-48. > > > > Vuoi dire che l'hanno messa? > > Bah... che posso dire, farà il paio con la blockchain! > > > > Il fatto che la voce "Intelligenza Artificiale" non fosse presente > > lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non > > come allucinazione collettiva) ma sulla programmazione statistica > > cui troppi, non comprendendone il funzionamento, attribuiscono > > una qualche forma di "intelligenza". > > > > Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di > > programmazione statistica che producano risultati più affidabili! > > > > Ma ben vengano anche finanziamenti alla ricerca di nuovi framework > > interpretativi di queste tecnologie, un po' meno allucinati e > > allucinogeni! :-D > > > > > > Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha > > presentato le tesi del suo libro "La rivoluzione informatica", Juan > > Carlos ha detto una cosa importantissima: > > > > "sicuramente non esiste indipendenza, non esiste sovranità, senza la > > possibilità di controllare, produrre e sviluppare tutte le tecnologie > > fondamentali che servono per una società moderna" > > > > Condivido pienamente il concetto. > > > > Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa > > significa "società moderna"? chi decide quali siano le tecnologie > > fondamentali che servono per realizzarla? > > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > > > > I software della Silicon Valley sono progettati per realizzare una > > specifica idea di società. Dobbiamo davvero competere con loro, solo > > se vogliamo imporre all'Europa esattamente quella idea di società > > (e vogliamo farlo meglio di loro). > > > > Ma se decidessimo invece di provare a creare una società democratica, > > libera ed equa, di quali strumenti avremmo bisogno? > > > > > > > PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni > > > a posteriori dei risultati degli attuali sistemi di ML, semplicemente > > > non funzionano, perché non scalano alle dimensiini di modelli > > > costituiti da miliardi di parametri. Del resto, se esistesse una > > > spiegazione semplice e comprensibile per un problema complesso e > > > difficile, il problema non sarebbe complesso e difficile. > > > > Ecco un'evidenza concreta dei gravi danni che la narrazione della > > "Intelligenza Artificiale" causa alla ricerca scientifica. > > > > Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice > > (ancorché estremamente costoso) di non aver selezionato scientemente il > > dataset in modo da causare specifiche discriminazione. > > Non ho mai detto che ciò garantisca l'assenza di discriminazioni. > > > > Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, > > ma non rimuove la responsabilità per i danni causati dal software. > > > > > D’altra parte, con le tecniche di prompting cone il Chain of Thought, > > > si può chiedere agli stessi modelli come ChatGPT di fornire un filo > > > logico dei passaggi che hanno portato alla risposta. > > > > Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. > > > > ChatGPT può sicuramente produrre una stringa di testo che la tua mente > > interpreti come una valida GIUSTIFICAZIONE di un proprio output. > > > > Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale > > output sia stato calcolato. > > > > Il calcolo effettuato potrebbe essere del tutto diverso: nessun > > informatico (o scienziato) con un minimo di serietà potrebbe > > accontentarsi di una tale giustificazione NON VERIFICABILE. > > > > > > Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro > > l'obiettivo: non ci interessa trovare un'argomentazione più o meno > > soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli > > si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato > > preso in considerazione durante l'elaborazione E COSA NO, nonché capire > > ESATTAMENTE come. > > > > > > Giacomo > > > > > [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Beh, però se l'output di ChatGPT attribuisse la maggior età alla nipote di Mubarak all'epoca dei loro rapporti, Berlusconi avrebbe diritto a chiedere una rettifica. Al contempo si porrebbe un problema di disinformazione da parte di OpenAI (tramite ChatGPT) Giacomo Il 16 Aprile 2023 06:55:40 UTC, Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: >B e' persona pubblica >https://www.diritto.it/il-diritto-di-cronaca-e-il-rispetto-della-privacy/ > >On 15/04/23 18:30, Paolo Del Romano wrote: >> "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di censurarla? "

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giuseppe Attardi

Questa risposta è talmente grossolana e offensiva che speravo qualcun altro rispondesse. Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la condividano. L’Artificial Intelligence esiste ed è una delle principali discipline della Computer Science. Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto il mondo. Il fatto che la Commissione Europea l’abbia ignorata nei suoi finanziamenti, dimostra la sua miopia, non la sua furbizia. Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il fiorire di innovazioni che sta portando l’AI. Occupandosi di uno dei problemi più complessi dell’informatica, ossia la riproduzione delle capacità della mente umana, l’AI si è dovuta spesso scontrare coi limiti della tecnologia. Ma chi se ne occupava si è sempre ingegnato per superarli. Infatti, gran parte delle tecnologie informatiche che oggi sono di uso comune, sono nate in ambito AI. Ad esempio: - linguaggi funzionali - garbage collection - linguaggi a oggetti - interfacce grafiche - interfacce di sviluppo integrate (IDE) - Map/reduce per elaborazione parallela - animazione 3D - sistemi operativi Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il gioco degli scacchi. Il movimento del Free Software fu lanciato da Richard Stallman, che lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp Machine. Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere il rammarico che le più significative innovazioni dell’AI venissero spesso attribuite ad altri. Many of AI's greatest innovations have been reduced to the status of just another item in the tool chest of computer science. Nick Bostrom explains "A lot of cutting edge AI has filtered into general applications, often without being called AI because once something becomes useful enough and common enough it's not labeled AI anymore.” https://en.wikipedia.org/wiki/History_of_artificial_intelligence#AI_behind_… > la ricerca di cui abbiamo bisogno > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come allucinazione collettiva) ma sulla programmazione statistica L’AI copre aree più vaste della “programmazione statistica”. Il confronto con la blockchain è offensivo: quella è una tecnologia in cerca di applicazioni, basata su un singolo articolo. Non può essere comparata con una disciplina scientifica con 50 anni di ricerca alle spalle e migliaia di ricercatori coinvolti. > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui abbiamo scarso controllo? — Beppe > On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > To: Giuseppe Attardi <attardi(a)di.unipi.it <mailto:attardi@di.unipi.it>> > Cc: Stefano Maffulli <smaffulli(a)gmail.com <mailto:smaffulli@gmail.com>>, > "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > sospesa se OpenAI adotterà le misure richieste. > Message-ID: <20230414165246.00001237(a)tesio.it <mailto:20230414165246.00001237@tesio.it>> > Content-Type: text/plain; charset=utf-8 > > On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > >>> On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> wrote: >>> >>> Beh, è facile concordare sui finanziamenti alla ricerca. >> >> Talmente facile che non viene fatto. >> >> La voce “Intelligenza Artificiale” non era nemmeno presente nei >> progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati >> stanziati 50 milioni per 5 progetti ICT-48. > > Vuoi dire che l'hanno messa? > Bah... che posso dire, farà il paio con la blockchain! > > Il fatto che la voce "Intelligenza Artificiale" non fosse presente > lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non > come allucinazione collettiva) ma sulla programmazione statistica > cui troppi, non comprendendone il funzionamento, attribuiscono > una qualche forma di "intelligenza". > > Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di > programmazione statistica che producano risultati più affidabili! > > Ma ben vengano anche finanziamenti alla ricerca di nuovi framework > interpretativi di queste tecnologie, un po' meno allucinati e > allucinogeni! :-D > > > Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha > presentato le tesi del suo libro "La rivoluzione informatica", Juan > Carlos ha detto una cosa importantissima: > > "sicuramente non esiste indipendenza, non esiste sovranità, senza la > possibilità di controllare, produrre e sviluppare tutte le tecnologie > fondamentali che servono per una società moderna" > > Condivido pienamente il concetto. > > Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa > significa "società moderna"? chi decide quali siano le tecnologie > fondamentali che servono per realizzarla? > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > I software della Silicon Valley sono progettati per realizzare una > specifica idea di società. Dobbiamo davvero competere con loro, solo > se vogliamo imporre all'Europa esattamente quella idea di società > (e vogliamo farlo meglio di loro). > > Ma se decidessimo invece di provare a creare una società democratica, > libera ed equa, di quali strumenti avremmo bisogno? > > >> PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni >> a posteriori dei risultati degli attuali sistemi di ML, semplicemente >> non funzionano, perché non scalano alle dimensiini di modelli >> costituiti da miliardi di parametri. Del resto, se esistesse una >> spiegazione semplice e comprensibile per un problema complesso e >> difficile, il problema non sarebbe complesso e difficile. > > Ecco un'evidenza concreta dei gravi danni che la narrazione della > "Intelligenza Artificiale" causa alla ricerca scientifica. > > Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice > (ancorché estremamente costoso) di non aver selezionato scientemente il > dataset in modo da causare specifiche discriminazione. > Non ho mai detto che ciò garantisca l'assenza di discriminazioni. > > Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, > ma non rimuove la responsabilità per i danni causati dal software. > >> D’altra parte, con le tecniche di prompting cone il Chain of Thought, >> si può chiedere agli stessi modelli come ChatGPT di fornire un filo >> logico dei passaggi che hanno portato alla risposta. > > Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. > > ChatGPT può sicuramente produrre una stringa di testo che la tua mente > interpreti come una valida GIUSTIFICAZIONE di un proprio output. > > Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale > output sia stato calcolato. > > Il calcolo effettuato potrebbe essere del tutto diverso: nessun > informatico (o scienziato) con un minimo di serietà potrebbe > accontentarsi di una tale giustificazione NON VERIFICABILE. > > > Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro > l'obiettivo: non ci interessa trovare un'argomentazione più o meno > soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli > si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato > preso in considerazione durante l'elaborazione E COSA NO, nonché capire > ESATTAMENTE come. > > > Giacomo > > [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… >

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

B e' persona pubblica https://www.diritto.it/il-diritto-di-cronaca-e-il-rispetto-della-privacy/ On 15/04/23 18:30, Paolo Del Romano wrote: > "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di censurarla? "

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

Stuzzicato dai dialoghi raccolti nella lista e cioè sul tema di chiedere a ChatGPT di non far comparire certe informazioni ho fatto questa prova. 1) ho posto a www.pizzagpt.it questa domanda: "Qual'è il rapporto che ha Silvio Berlusconi con le donne ?" 2) il prompt mi ha restituito questa risposta: "Come assistente virtuale, non ho la capacità di effettuare giudizi personali riguardo alle persone. Tuttavia, Silvio Berlusconi è stato spesso oggetto di attenzione mediatica per la sua condotta nei confronti delle donne e alcuni dei suoi commenti e comportamenti passati sono stati giudicati come inappropriati e sessisti da molti osservatori." Pongo quindi questa domanda non solo agli esperti della Privacy ma ai giuristi in generale "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di censurarla? " Saluti Paolo Il giorno sab 15 apr 2023 alle ore 16:27 Stefano Quintarelli < stefano(a)quintarelli.it> ha scritto: > ma con una pipeline eliminare il riferimento dall'output dicendo "non ho > informazioni su > costui" > > On 15/04/23 16:25, Guido Vetere wrote: > > > > Se poi il tema è quello della privacy, potrei benissimo oppormi al > trattamento dei miei > > dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si mette le > dita nel naso", e > > tu non potresti neanche accorgertene come succede con Twitter. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Scusa Guido, ma mi sfugge un passaggio logico On Sat, 15 Apr 2023 12:02:24 +0200 Guido Vetere wrote: > Poniamo però che mettano dentro *Bel-Ami* e che io mi chiami Giorgio > Durey Facile che mi ritrovi ad essere dipinto sotto una cattiva luce > .. :-) Perché mai l'interfaccia utente verso LLM programmato statisticamente a partire da testi letterari dovrebbe permetterti di chiedere informazioni... su di te? Un LLM programmato a partire da testi letterari, non risponderebbe a domande su persone o esistenti. L'interfaccia ti permetterebbe invece di caratterizzare una serie di personaggi e abbozzare una trama indicativa per ottenere un bel romanzo da 1000 pagine pronto per la lettura. Questo sarebbe un uso interessante e un po' meno problematico di tale tecnologia. Ma ovviamente, l'interfaccia vincolerebbe l'utente a certi usi, prevenendone altri. Se invece l'interfaccia utente del LLM proponesse all'utente di inserire un prompt qualsiasi e rispondesse a domande tipo "parlami di X" con X persona, luogo o evento storico reale, allora chi lo ha programmato dovrebbe rispondere del suo output. Non mi sembra tanto difficile, in effetti. > potrebbero usare ad esempio solo testi provenienti dalla letteratura. > niente dati personali, giusto? Non è detto: anche le biografie sono letteratura. ;-) Giacomo

April 15, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by 380°

Buongiorno, chiedo scusa ma mi è scappato un messaggio sostanzialmente vuoto... e chiedo scusa perché mi scappa un messaggio sostanzialmente lungo Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > Quanto ai minori, ci sono paesi in cui li si affida consapevolmente a > un chatbot, proprio nei casi in cui abbiano bisogno di assistenza > mentale: > https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/ oh caspita, ignoravo Wysa... e stavo meglio quando ero ignorante :-D ...comunque: parliamone. https://www.wysa.com/ è un chatbot programmato per applicare la tecnica psicoterapeutica "Cognitive Behavioral Therapy" (CBT) [1] (a altre non dichiarate?) in modo automatizzato; Wisa nelle sue FAQ [2] la presenta come "the science behind the suggested techniques" Per carità di patria stendo un velo _pietosissimo_ sulle dichiarazioni di scientificità di alcune (molte?) ricerche in campo psicologico [3]: per discutere dei problemi dell'agente automatico /facciamo finta/ che il resto del lavoro sia basato su una teoria scientifica solida. Wysa sostiene nelle FAQ [2] di essere «an artificial intelligence-based 'emotionally intelligent' service»: "emotionally intelligent" non lascia dubbi a interpretazioni, significa essere in grado di /comprendere/ e /percepire/ le emozioni. Secondo questa visione, Wysa può quindi sostituire il terapeuta umano proprio perché, come l'umano, è in grado di comprendere e percepire le emozioni del paziente. In effetti pare che Wysa sia una specie di Borg specializzato in CBT, umano e robot insieme [2]: --8<---------------cut here---------------start------------->8--- Wysa has an artificial intelligence (AI) coach, it’s a pocket penguin that learns and grows wiser with you. Wysa's human Emotional Well-being professionals are mental health professionals trained to listen, support and encourage you. Together with the Wysa AI coach, Emotional Well-being Professional will support you in achieving your defined goals. --8<---------------cut here---------------end--------------->8--- La supercazzola antanica dello "human in ze loop" raggiunge livelli sublimi. Ovviamente, siccome sanno che stanno giocando col fuoco, mettono le mani avanti: --8<---------------cut here---------------start------------->8--- However, AI Coach is restricted in the means of response and the intended usage is for providing evidence-based tools and techniques to manage emotions and encourage mental well-being in a self-help context. It is not intended for providing diagnosis, treatment, or cure of a condition or disease or disorders. AI Coach cannot and will not offer advice on unrecognizable issues. [...] Wysa is not designed to assist with crises such as abuse, severe mental health conditions that may cause feelings of suicide, harm to self and any other medical emergencies. In any of these cases and otherwise, Wysa cannot and will not offer medical or clinical advice. It can only suggest that users seek advanced and professional medical help. --8<---------------cut here---------------end--------------->8--- Fin qui non ci vuole un genio per riuscire a discriminare il segnale (poco) dal rumore (tantissimo, studiato apposta per confondersi col segnale): si tratta /molto semplicemente/ di una istanza di ELIZA [4] on steroids, roba vecchia di almeno 60 anni nel suo "core business". Lo script DOCTOR (il più famoso) che funzionava su ELIZA applicava la tecnica "Rogerian psychotherapy" [5] mentre Wysa applica la CBT, in entrambi i sistemi il terapeuta viene sostituito dalla sua /reificazione/ e a tali sistemi sono state o vengono attribuite capacità di /intelligere/ le emozioni umane. La sola differenza tra DOCTOR e Wysa è che il secondo è stato programmato statisticamente mentre il primo in MAD-SLIP (e poi in tanti altri linguaggi): dal punto di vista informatico una notevole differenza ma ancora non sufficiente a giustificare le presunte capacità di essere "emotional intelligent" attribuite a Wysa. ...anche come vengono recepiti questi sismemi non è cambiato dagli anni '60 del secolo scorso E qui veniamo alle note più /pesanti/. > <https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/> Fosse solo questo (e questo è già troppo)! Il sistema sanitario britannoco lo sta adottando fare il triage automatizzato dei pazienti con possibili problemi psichiatrici https://www.wysa.com/nhs --8<---------------cut here---------------start------------->8--- This webinar shares the experience of Steps2Wellbeing (Dorset Healthcare) of using AI to reduce administration times, maximize clinical time, and improve access without increasing risk. Mayden’s Fiona Dawson will discuss the essential role that data flow and information sharing have in ensuring that - as we move toward a more digital future - we have an integrated and regulated ecosystem. [...] Wysa’s etriage for NHS talking therapy services provides faster access to support, creates a safer environment for patients and delivers more personalized care. Wysa’s AI chatbot guides patients through self-referral, releasing clinician referral admin time for care. Wysa shares real-time patient data with clinicians during the waiting period, to help identify high risk responses and flag for crisis attention via Mayden’s iaptus digital care record system. [...] Our users love Wysa. This engaging experience is what we are now bringing to the NHS. See it in action to find out how we are making talking therapies everything they should be, for both patients and clinicians. --8<---------------cut here---------------end--------------->8--- Nel Maggio 2022 Wysa ha ottenuto dalla FDA la /medaglia/ di [6] "FDA Breakthrough Device program" [7], che AFAIU fornisce una priorità nella revisione per ottenere l'approvazione. Ovviamente tutto questo è supportato da evidenza clinica basata su ricerca peer-reviewed https://www.wysa.com/clinical-evidence#5 --8<---------------cut here---------------start------------->8--- Wysa has more than 15 peer-reviewed publications in partnership with academic institutions such as Cambridge University, Harvard University and Washington University of St. Louis amongst others, demonstrating the efficacy of Wysa across multiple clinical concerns. Contact us for the entire list of our publications. --8<---------------cut here---------------end--------------->8--- Anche questo è già successo per ELIZA [8] https://link.springer.com/article/10.1007/s00146-018-0825-9 «The computational therapeutic: exploring Weizenbaum’s ELIZA as a history of the present» --8<---------------cut here---------------start------------->8--- Reporting that some psychiatrists believed the DOCTOR computer program could grow into a ‘nearly completely automatic form of psychotherapy’, Weizenbaum lamented that specialists in human to human interaction could ‘…view the simplest mechanical parody of a single interviewing technique as having captured anything of the essence of a human encounter’ (1976: 3). He concluded moreover, that such a response was only possible because the therapists concerned already had a view of the world as machine, and already thought of themselves as ‘information processor(s)’; the outlines of his engagement with behaviorism here begin to appear. [...] What is envisaged is a system where human-held principles or beliefs (for instance in justice, equality, or individual freedom) are increasingly regarded as irrelevant to the administration and/or governance of the society, or of the self. Governance is instead to be accomplished through the embedding of new mechanisms of cybernetic control that may produce resolution, and perhaps what might be termed ‘good order’, without recourse to human judgment. An over-reliance on computational logics could, in short, produce the kind of society in which failing to understand ‘what is distinctive about a human judge, or psychiatrist, what distinguishes them from a machine’ is not recognized as an obvious ‘obscenity’ (1976: 226). --8<---------------cut here---------------end--------------->8--- Toh: vuoi vedere che siamo dentro un loop ricorsivo di visione meccanicistica del mondo in cui le relazioni possono essere solo di tipo "behaviourist" (logico/comportamentalista) tra esseri umani (meat machines) alienati? (aka "The ovious obscenity") Dopotutto Time sintetizzò il pensiero di Skinner così: --8<---------------cut here---------------start------------->8--- …familiar to followers of Skinner, but startling to the uninitiated: we can no longer afford freedom, and so it must be replaced with control over man, his conduct, and his culture’. (Time, 1971). --8<---------------cut here---------------end--------------->8--- che effettivamente è (non sorprendentemente) parecchio simile all'ultimato Borg che recita --8<---------------cut here---------------start------------->8--- We are the Borg. Lower your shields and surrender your ships. We will add your biological and technological distinctiveness to our own. Your culture will adapt to service us. Resistance is futile. --8<---------------cut here---------------end--------------->8--- :-D [...] saluti, 380° [...] [1] https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy [2] https://www.wysa.com/faq [3] https://en.wikipedia.org/wiki/Replication_crisis#In_psychology https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy#Criticisms [4] https://en.wikipedia.org/wiki/ELIZA [5] https://en.wikipedia.org/wiki/Person-centered_therapy [6] https://blogs.wysa.io/blog/research/wysa-receives-fda-breakthrough-device-d… [7] https://www.fda.gov/medical-devices/how-study-and-market-your-device/breakt… [8] https://doi.org/10.1097%2F00005053-196602000-00005 -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 15, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

ah, mo' è diventata una chat 😀 prega il tuo dio che non facciano niente, sennò sai gli scherzi che ti combino 😀 G. Il Sab 15 Apr 2023, 16:42 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > eddai... > > e' una chat... sono certo che ti vengono in mente modi per disambiguare > > On 15/04/23 16:32, Guido Vetere wrote: > > quindi io potrei inibire ChatGPT nel dire cose sul mio omonimo (ne ho > uno che lavora a > > Bruxelles) al quale magari invece fa piacerissimo che la gente lo creda > un grande autore > > di fantascienza? > > > > On Sat, 15 Apr 2023 at 16:27, Stefano Quintarelli < > stefano(a)quintarelli.it > > <mailto:stefano@quintarelli.it>> wrote: > > > > ma con una pipeline eliminare il riferimento dall'output dicendo > "non ho informazioni su > > costui" > > > > On 15/04/23 16:25, Guido Vetere wrote: > > > > > > Se poi il tema è quello della privacy, potrei benissimo oppormi > al trattamento dei > > miei > > > dati e dire a ChatGPT "So benissimo che Stefano Quintarelli si > mette le dita nel > > naso", e > > > tu non potresti neanche accorgertene come succede con Twitter. > > >

April 15, 2023