- nexa - server-nexa.polito.it

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by Daniela Tafani

Grazie, molto utile, l'approfondimento su Wysa. Purtroppo, sui genuini progressi ottenuti con i sistemi di apprendimento automatico, si fondano centinaia di truffe, che mescolano quei progressi con pseudoscienze vecchie e nuove (dalla fisiognomica alla psicografia), con una concezione animistica e con l'indistinzione tra persone e cose (che sconvolse già Weizenbaum e che viola il diritto, nei paesi in cui qualche diritto umano sia costituzionalmente riconosciuto); per cui si affidano ai medesimi sistemi la manutenzione predittiva di un macchinario industriale, la predizione di un crimine, l'emissione di una sentenza e la cura di un disagio mentale . Il guaio è che i truffatori non sono singoli, isolati malfattori, ma quelle stesse grandi aziende che detengono i mezzi per i genuini progressi e che hanno finora ottenuto di spacciare prodotti insicuri o difettosi per agenti autonomi. E le istituzioni comunitarie che dovrebbero finanziare una ricerca pubblica e, parallelamente, vietare le truffe, assecondano invece la narrazione che sostiene le truffe (e anzi, declassate a agenzie pubblicitarie, si ripromettono solennemente di promuovere la fiducia dei cittadini nei SALAMI) e non finanziano a sufficienza la ricerca pubblica. Questo influenza anche i toni e gli accenti di chi si occupa del corrente upgrade del liberalismo punitivo con i SALAMI. Degli LLM, ad esempio, se non ci fossero truffe e politiche infami, quali il curare i più vulnerabili con un chatbot, non ci sarebbe bisogno di scrivere che sono pappagalli stocastici, per contrastare chi li presenta e li vende come esseri intelligenti, senzienti, empatici, e a breve anche morali , leali e allineati: potremmo stupirci dello straordinario progresso e discutere delle tesi di Roal Dahl o di Italo Calvino sulla letteratura come processo combinatorio. Buona domenica, Daniela ________________________________ Da: 380° <g380(a)biscuolo.net> Inviato: sabato 15 aprile 2023 17:06 A: Daniela Tafani Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter Buongiorno, chiedo scusa ma mi è scappato un messaggio sostanzialmente vuoto... e chiedo scusa perché mi scappa un messaggio sostanzialmente lungo Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > Quanto ai minori, ci sono paesi in cui li si affida consapevolmente a > un chatbot, proprio nei casi in cui abbiano bisogno di assistenza > mentale: > https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/ oh caspita, ignoravo Wysa... e stavo meglio quando ero ignorante :-D ...comunque: parliamone. https://www.wysa.com/ è un chatbot programmato per applicare la tecnica psicoterapeutica "Cognitive Behavioral Therapy" (CBT) [1] (a altre non dichiarate?) in modo automatizzato; Wisa nelle sue FAQ [2] la presenta come "the science behind the suggested techniques" Per carità di patria stendo un velo _pietosissimo_ sulle dichiarazioni di scientificità di alcune (molte?) ricerche in campo psicologico [3]: per discutere dei problemi dell'agente automatico /facciamo finta/ che il resto del lavoro sia basato su una teoria scientifica solida. Wysa sostiene nelle FAQ [2] di essere «an artificial intelligence-based 'emotionally intelligent' service»: "emotionally intelligent" non lascia dubbi a interpretazioni, significa essere in grado di /comprendere/ e /percepire/ le emozioni. Secondo questa visione, Wysa può quindi sostituire il terapeuta umano proprio perché, come l'umano, è in grado di comprendere e percepire le emozioni del paziente. In effetti pare che Wysa sia una specie di Borg specializzato in CBT, umano e robot insieme [2]: --8<---------------cut here---------------start------------->8--- Wysa has an artificial intelligence (AI) coach, it’s a pocket penguin that learns and grows wiser with you. Wysa's human Emotional Well-being professionals are mental health professionals trained to listen, support and encourage you. Together with the Wysa AI coach, Emotional Well-being Professional will support you in achieving your defined goals. --8<---------------cut here---------------end--------------->8--- La supercazzola antanica dello "human in ze loop" raggiunge livelli sublimi. Ovviamente, siccome sanno che stanno giocando col fuoco, mettono le mani avanti: --8<---------------cut here---------------start------------->8--- However, AI Coach is restricted in the means of response and the intended usage is for providing evidence-based tools and techniques to manage emotions and encourage mental well-being in a self-help context. It is not intended for providing diagnosis, treatment, or cure of a condition or disease or disorders. AI Coach cannot and will not offer advice on unrecognizable issues. [...] Wysa is not designed to assist with crises such as abuse, severe mental health conditions that may cause feelings of suicide, harm to self and any other medical emergencies. In any of these cases and otherwise, Wysa cannot and will not offer medical or clinical advice. It can only suggest that users seek advanced and professional medical help. --8<---------------cut here---------------end--------------->8--- Fin qui non ci vuole un genio per riuscire a discriminare il segnale (poco) dal rumore (tantissimo, studiato apposta per confondersi col segnale): si tratta /molto semplicemente/ di una istanza di ELIZA [4] on steroids, roba vecchia di almeno 60 anni nel suo "core business". Lo script DOCTOR (il più famoso) che funzionava su ELIZA applicava la tecnica "Rogerian psychotherapy" [5] mentre Wysa applica la CBT, in entrambi i sistemi il terapeuta viene sostituito dalla sua /reificazione/ e a tali sistemi sono state o vengono attribuite capacità di /intelligere/ le emozioni umane. La sola differenza tra DOCTOR e Wysa è che il secondo è stato programmato statisticamente mentre il primo in MAD-SLIP (e poi in tanti altri linguaggi): dal punto di vista informatico una notevole differenza ma ancora non sufficiente a giustificare le presunte capacità di essere "emotional intelligent" attribuite a Wysa. ...anche come vengono recepiti questi sismemi non è cambiato dagli anni '60 del secolo scorso E qui veniamo alle note più /pesanti/. > <https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/> Fosse solo questo (e questo è già troppo)! Il sistema sanitario britannoco lo sta adottando fare il triage automatizzato dei pazienti con possibili problemi psichiatrici https://www.wysa.com/nhs --8<---------------cut here---------------start------------->8--- This webinar shares the experience of Steps2Wellbeing (Dorset Healthcare) of using AI to reduce administration times, maximize clinical time, and improve access without increasing risk. Mayden’s Fiona Dawson will discuss the essential role that data flow and information sharing have in ensuring that - as we move toward a more digital future - we have an integrated and regulated ecosystem. [...] Wysa’s etriage for NHS talking therapy services provides faster access to support, creates a safer environment for patients and delivers more personalized care. Wysa’s AI chatbot guides patients through self-referral, releasing clinician referral admin time for care. Wysa shares real-time patient data with clinicians during the waiting period, to help identify high risk responses and flag for crisis attention via Mayden’s iaptus digital care record system. [...] Our users love Wysa. This engaging experience is what we are now bringing to the NHS. See it in action to find out how we are making talking therapies everything they should be, for both patients and clinicians. --8<---------------cut here---------------end--------------->8--- Nel Maggio 2022 Wysa ha ottenuto dalla FDA la /medaglia/ di [6] "FDA Breakthrough Device program" [7], che AFAIU fornisce una priorità nella revisione per ottenere l'approvazione. Ovviamente tutto questo è supportato da evidenza clinica basata su ricerca peer-reviewed https://www.wysa.com/clinical-evidence#5 --8<---------------cut here---------------start------------->8--- Wysa has more than 15 peer-reviewed publications in partnership with academic institutions such as Cambridge University, Harvard University and Washington University of St. Louis amongst others, demonstrating the efficacy of Wysa across multiple clinical concerns. Contact us for the entire list of our publications. --8<---------------cut here---------------end--------------->8--- Anche questo è già successo per ELIZA [8] https://link.springer.com/article/10.1007/s00146-018-0825-9 «The computational therapeutic: exploring Weizenbaum’s ELIZA as a history of the present» --8<---------------cut here---------------start------------->8--- Reporting that some psychiatrists believed the DOCTOR computer program could grow into a ‘nearly completely automatic form of psychotherapy’, Weizenbaum lamented that specialists in human to human interaction could ‘…view the simplest mechanical parody of a single interviewing technique as having captured anything of the essence of a human encounter’ (1976: 3). He concluded moreover, that such a response was only possible because the therapists concerned already had a view of the world as machine, and already thought of themselves as ‘information processor(s)’; the outlines of his engagement with behaviorism here begin to appear. [...] What is envisaged is a system where human-held principles or beliefs (for instance in justice, equality, or individual freedom) are increasingly regarded as irrelevant to the administration and/or governance of the society, or of the self. Governance is instead to be accomplished through the embedding of new mechanisms of cybernetic control that may produce resolution, and perhaps what might be termed ‘good order’, without recourse to human judgment. An over-reliance on computational logics could, in short, produce the kind of society in which failing to understand ‘what is distinctive about a human judge, or psychiatrist, what distinguishes them from a machine’ is not recognized as an obvious ‘obscenity’ (1976: 226). --8<---------------cut here---------------end--------------->8--- Toh: vuoi vedere che siamo dentro un loop ricorsivo di visione meccanicistica del mondo in cui le relazioni possono essere solo di tipo "behaviourist" (logico/comportamentalista) tra esseri umani (meat machines) alienati? (aka "The ovious obscenity") Dopotutto Time sintetizzò il pensiero di Skinner così: --8<---------------cut here---------------start------------->8--- …familiar to followers of Skinner, but startling to the uninitiated: we can no longer afford freedom, and so it must be replaced with control over man, his conduct, and his culture’. (Time, 1971). --8<---------------cut here---------------end--------------->8--- che effettivamente è (non sorprendentemente) parecchio simile all'ultimato Borg che recita --8<---------------cut here---------------start------------->8--- We are the Borg. Lower your shields and surrender your ships. We will add your biological and technological distinctiveness to our own. Your culture will adapt to service us. Resistance is futile. --8<---------------cut here---------------end--------------->8--- :-D [...] saluti, 380° [...] [1] https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy [2] https://www.wysa.com/faq [3] https://en.wikipedia.org/wiki/Replication_crisis#In_psychology https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy#Criticisms [4] https://en.wikipedia.org/wiki/ELIZA [5] https://en.wikipedia.org/wiki/Person-centered_therapy [6] https://blogs.wysa.io/blog/research/wysa-receives-fda-breakthrough-device-d… [7] https://www.fda.gov/medical-devices/how-study-and-market-your-device/breakt… [8] https://doi.org/10.1097%2F00005053-196602000-00005 -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Roberto Dolci

La Cina aveva gia’ bloccato l’accesso a ChatGPT a febbraio, accusando Open AI di fare propaganda politica (‘Political propaganda’: China clamps down on access to ChatGPT | Artificial intelligence (AI) | The Guardian<https://www.theguardian.com/technology/2023/feb/23/china-chatgpt-clamp-down…>) e qui in USA tutti a sproloquiare del regime dittatoriale cinese che blocca la liberta’ di parola. Poi anche il nostro Congresso s’e’ messo di buzzo buono per bloccare TikTok (il Montana e’ il primo stato che l’ha fatto), ed ora i toni si sono smorzati, vista l’ipocrisia. Un commento interessante e’ quello di Eric Schmidt della settimana scorsa, sicuramente motivato dai suoi interessi personali, che riflette sulla non prevedibilita’ degli effetti secondari dell’AI, non tanto per l’algoritmo specifico che potrebbe causare un qualche danno, ma per la mancata comprensione di come questi sono collegati in tutto il mondo. Stesso pensiero espresso da David Auerbach nei giorni scorsi (Why No One Can Control AI | The Free Press (thefp.com)<https://www.thefp.com/p/why-no-one-can-control-ai> Buona Domenica rob From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Enrico Nardelli Sent: Sunday, April 16, 2023 5:13 AM To: nexa(a)server-nexa.polito.it Subject: Re: [nexa] China to require ‘security assessment’ for new AI products Non mi pare di aver letto reazioni a questa notizia (grazie JC!) nonostante riporti qualcosa di così fondamentale a proposito dei sistemi basati sull'intelligenza artificiale, che ogni altra riflessione dovrebbe essere secondaria. QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. Mi correggeranno eventualmente i giuristi in lista, ma mi pare che anche per prodotti di tipologie commerciali non soggette a specifici regolamenti tecnici si applica per default qualche norma del codice civile. Non capisco perché dovremmo consentire eccezioni per ChatGPT & Co. Il che NON VUOL DIRE che laboratori privati e pubblici, aziendali e accademici, non possano continuare a fare ricerca in questo ambito. Solo che non possiamo immettere in commercio prodotti che possono causare danni (come voleva far capire il mio esempio del mini-reattore nucleare qua https://link-and-think.blogspot.com/2023/04/il-potere-dellintelligenza-arti… ). Aggiungo che, sinceramente, avrei preferito vedere l'Occidente all'avanguardia sul tema della sicurezza ... e magari anche su quello della socialdemocrazia ... all'europea, però ... :-) Ciao, Enrico Il 13/04/2023 07:22, J.C. DE MARTIN ha scritto: China to require ‘security assessment’ for new AI products AFP April 11, 2023 5:21 am New AI products developed in China will have to undergo a security assessment before being released and must reflect “core socialist values”, a sweeping new draft law by the country’s internet regulator showed Tuesday. The fresh regulations come as a flurry of Chinese companies rush to develop artificial intelligence services that can mimic human speech since San Francisco-based OpenAI launched ChatGPT in November, sparking a gold rush in the market. Rapid advancements in AI have stoked global alarm over the technology’s potential for disinformation and misuse, with deepfake images and people shown mouthing things they never said. “Before providing services to the public that use generative AI products, a security assessment shall be applied for through national internet regulatory departments,” the draft law, released by the Cyberspace Administration of China, reads. continua qui: https://insiderpaper.com/china-draft-law-to-require-security-assessment-for… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:image001.png@01D9703F.57E164A0] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Il 16 Aprile 2023 10:40:27 UTC, Paolo Del Romano ha scritto: >Quindi se Berlusconi conduce una vita privata con le donne un pò complicata >(forse) si potrebbe pubblicare ma se la persona non è B ma un ex-politico >oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? Quello che si fa con qualsiasi altra azienda che pubblichi su un sito web lo stesso contenuto. Dov'è il problema? Giacomo

April 16, 2023

Re: [nexa] Sugli utilizzi degli LLM per scopi criminali

by Enrico Nardelli

Grazie Marco, molto bello! La riflessione finale «This is all an old story, though: It reminds us that many of the bad uses of AI are a reflection of humanity more than they are a reflection of AI technology itself. » sottolinea ancora una volta che non ci sono strumenti e loro usi la responsabilità dei quali non sia riconducibile ad esseri umani (punto che Giacomo Tesio giustissimamente enfatizza sempre). Ciao, Enrico Il 11/04/2023 10:02, Marco A. Calamari ha scritto: > Un interessante saggio di Bruce Schneier sugli usi criminali e manipolatori degli LLM, > che dovrebbe farci scendere ogni tanto dai ragionamenti troppo filosofici a quelli più pratici. > > Consigliato. > > https://www.schneier.com/blog/archives/2023/04/llms-and-phishing.html > > Marco > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Enrico Nardelli

Aggiungo (ho letto la sua mail solo dopo aver inviato questa) che è rilevante per questo tema il recente messaggio di Maria Chiara Pievatolo che ricordava ------ Oggi, a proposito del fumo, a nessuno verrebbe in mente di sostenere che la controversia che oppose B&W a 46 stati americani (https://wikiless.org/wiki/Brown_%26_Williamson?lang=en) era un conflitto fra l'innovazione privata e l'ossessione regolativa di uno stato arretrato e oscurantista, ma le cose sarebbero potute andare diversamente, se non ci fosse stata una stampa indipendente e una crescente percezione sociale della pericolosità del tabacco. ----- Parafrasando le sue parole verrebbe da chiedersi se qualcuno ritiene che la controversia che oppone il Garante e OpenAI è un «conflitto tra l'innovazione privata e l'ossessione regolativa di uno stato arretrato e oscurantista»... :-) Ciao, Enrico Il 16/04/2023 12:13, Enrico Nardelli ha scritto: > > Non mi pare di aver letto reazioni a questa notizia (grazie JC!) nonostante riporti qualcosa di così fondamentale a proposito dei sistemi basati sull'intelligenza artificiale, che ogni altra riflessione dovrebbe essere secondaria. > > QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. Mi correggeranno eventualmente i giuristi in lista, ma mi pare che anche per prodotti di tipologie commerciali non soggette a specifici regolamenti tecnici si applica per default qualche norma del codice civile. > > Non capisco perché dovremmo consentire eccezioni per ChatGPT & Co. Il che NON VUOL DIRE che laboratori privati e pubblici, aziendali e accademici, non possano continuare a fare ricerca in questo ambito. Solo che non possiamo immettere in commercio prodotti che possono causare danni (come voleva far capire il mio esempio del mini-reattore nucleare qua https://link-and-think.blogspot.com/2023/04/il-potere-dellintelligenza-arti… ). > > Aggiungo che, sinceramente, avrei preferito vedere l'Occidente all'avanguardia sul tema della sicurezza ... e magari anche su quello della socialdemocrazia ... all'europea, però ... :-) > > Ciao, Enrico > > Il 13/04/2023 07:22, J.C. DE MARTIN ha scritto: >> *China to require ‘security assessment’ for new AI products* >> AFP >> >> April 11, 2023 5:21 am >> >> New AI products developed in China will have to undergo a security assessment before being released and must reflect “core socialist values”, a sweeping new draft law by the country’s internet regulator showed Tuesday. >> >> The fresh regulations come as a flurry of Chinese companies rush to develop artificial intelligence services that can mimic human speech since San Francisco-based OpenAI launched ChatGPT in November, sparking a gold rush in the market. >> >> Rapid advancements in AI have stoked global alarm over the technology’s potential for disinformation and misuse, with deepfake images and people shown mouthing things they never said. >> >> “Before providing services to the public that use generative AI products, a security assessment shall be applied for through national internet regulatory departments,” the draft law, released by the Cyberspace Administration of China, reads. >> >> continua qui: >> >> https://insiderpaper.com/china-draft-law-to-require-security-assessment-for… >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > -- > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

OK.....anche se in pratica non è facile applicare la cd. scriminante perchè devono ricorrere diversi elementi (a tutela anche di Berlusconi) e cioè: 1) la notizia pubblicata deve essere vera b) deve esistere un interesse pubblico alla sua divulgazione c) l'informazione deve essere esposta in maniera obiettiva con un linguaggio necessariamente corretto e di per sé non offensivo Quindi se Berlusconi conduce una vita privata con le donne un pò complicata (forse) si potrebbe pubblicare ma se la persona non è B ma un ex-politico oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? Paolo Il giorno dom 16 apr 2023 alle ore 08:55 Stefano Quintarelli < stefano(a)quintarelli.it> ha scritto: > B e' persona pubblica > https://www.diritto.it/il-diritto-di-cronaca-e-il-rispetto-della-privacy/ > > On 15/04/23 18:30, Paolo Del Romano wrote: > > "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di > censurarla? " >

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Enrico Nardelli

Non mi pare di aver letto reazioni a questa notizia (grazie JC!) nonostante riporti qualcosa di così fondamentale a proposito dei sistemi basati sull'intelligenza artificiale, che ogni altra riflessione dovrebbe essere secondaria. QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. Mi correggeranno eventualmente i giuristi in lista, ma mi pare che anche per prodotti di tipologie commerciali non soggette a specifici regolamenti tecnici si applica per default qualche norma del codice civile. Non capisco perché dovremmo consentire eccezioni per ChatGPT & Co. Il che NON VUOL DIRE che laboratori privati e pubblici, aziendali e accademici, non possano continuare a fare ricerca in questo ambito. Solo che non possiamo immettere in commercio prodotti che possono causare danni (come voleva far capire il mio esempio del mini-reattore nucleare qua https://link-and-think.blogspot.com/2023/04/il-potere-dellintelligenza-arti… ). Aggiungo che, sinceramente, avrei preferito vedere l'Occidente all'avanguardia sul tema della sicurezza ... e magari anche su quello della socialdemocrazia ... all'europea, però ... :-) Ciao, Enrico Il 13/04/2023 07:22, J.C. DE MARTIN ha scritto: > *China to require ‘security assessment’ for new AI products* > AFP > > April 11, 2023 5:21 am > > New AI products developed in China will have to undergo a security assessment before being released and must reflect “core socialist values”, a sweeping new draft law by the country’s internet regulator showed Tuesday. > > The fresh regulations come as a flurry of Chinese companies rush to develop artificial intelligence services that can mimic human speech since San Francisco-based OpenAI launched ChatGPT in November, sparking a gold rush in the market. > > Rapid advancements in AI have stoked global alarm over the technology’s potential for disinformation and misuse, with deepfake images and people shown mouthing things they never said. > > “Before providing services to the public that use generative AI products, a security assessment shall be applied for through national internet regulatory departments,” the draft law, released by the Cyberspace Administration of China, reads. > > continua qui: > > https://insiderpaper.com/china-draft-law-to-require-security-assessment-for… > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Marco A. Calamari

On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote: > Questa risposta è talmente grossolana e offensiva che speravo qualcun altro > rispondesse. > > Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la > condividano. Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o anche d'accordo, perché no?) rispondano. Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di tecnocontrollo e geopolitica. Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione fredda". Il tempo è la risorsa più limitata al mondo. JM2EC. Buona domenica a tutti. Marco > L’Artificial Intelligence esiste ed è una delle principali discipline della > Computer Science. > Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto il > mondo. > Il fatto che la Commissione Europea l’abbia ignorata nei suoi finanziamenti, > dimostra la sua miopia, non la sua furbizia. > Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il > fiorire di innovazioni che sta portando l’AI. > > Occupandosi di uno dei problemi più complessi dell’informatica, ossia la > riproduzione delle capacità della mente umana, l’AI si è dovuta spesso > scontrare coi limiti della tecnologia. > Ma chi se ne occupava si è sempre ingegnato per superarli. > Infatti, gran parte delle tecnologie informatiche che oggi sono di uso comune, > sono nate in ambito AI. > Ad esempio: > > - linguaggi funzionali > - garbage collection > - linguaggi a oggetti > - interfacce grafiche > - interfacce di sviluppo integrate (IDE) > - Map/reduce per elaborazione parallela > - animazione 3D > - sistemi operativi > > Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il > gioco degli scacchi. > Il movimento del Free Software fu lanciato da Richard Stallman, che lavorava > al MIT AI Lab, dove partecipava al progetto della MIT Lisp Machine. > > Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere il > rammarico che le più significative innovazioni dell’AI venissero spesso > attribuite ad altri. > > Many of AI's greatest innovations have been reduced to the status of > just another item in the tool chest of computer science. Nick Bostrom explains > "A lot of cutting edge AI has filtered into general applications, often > without being called AI because once something becomes useful enough and > common enough it's not labeled AI anymore.” > https://en.wikipedia.org/wiki/History_of_artificial_intelligence#AI_behind_… > > > la ricerca di cui abbiamo bisogno > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come > > allucinazione collettiva) ma sulla programmazione statistica > L’AI copre aree più vaste della “programmazione statistica”. > > Il confronto con la blockchain è offensivo: quella è una tecnologia in cerca > di applicazioni, basata su un singolo articolo. > Non può essere comparata con una disciplina scientifica con 50 anni di ricerca > alle spalle e migliaia di ricercatori coinvolti. > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui abbiamo > scarso controllo? > > — Beppe > > > > On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it wrote: > > > > From: Giacomo Tesio <giacomo(a)tesio.it> > > To: Giuseppe Attardi <attardi(a)di.unipi.it> > > Cc: Stefano Maffulli <smaffulli(a)gmail.com>, > > "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > > sospesa se OpenAI adotterà le misure richieste. > > Message-ID: <20230414165246.00001237(a)tesio.it> > > Content-Type: text/plain; charset=utf-8 > > > > On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > > > > > > On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > > > > > > Beh, è facile concordare sui finanziamenti alla ricerca. > > > > > > Talmente facile che non viene fatto. > > > > > > La voce “Intelligenza Artificiale” non era nemmeno presente nei > > > progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati > > > stanziati 50 milioni per 5 progetti ICT-48. > > > > Vuoi dire che l'hanno messa? > > Bah... che posso dire, farà il paio con la blockchain! > > > > Il fatto che la voce "Intelligenza Artificiale" non fosse presente > > lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non > > come allucinazione collettiva) ma sulla programmazione statistica > > cui troppi, non comprendendone il funzionamento, attribuiscono > > una qualche forma di "intelligenza". > > > > Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di > > programmazione statistica che producano risultati più affidabili! > > > > Ma ben vengano anche finanziamenti alla ricerca di nuovi framework > > interpretativi di queste tecnologie, un po' meno allucinati e > > allucinogeni! :-D > > > > > > Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha > > presentato le tesi del suo libro "La rivoluzione informatica", Juan > > Carlos ha detto una cosa importantissima: > > > > "sicuramente non esiste indipendenza, non esiste sovranità, senza la > > possibilità di controllare, produrre e sviluppare tutte le tecnologie > > fondamentali che servono per una società moderna" > > > > Condivido pienamente il concetto. > > > > Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa > > significa "società moderna"? chi decide quali siano le tecnologie > > fondamentali che servono per realizzarla? > > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > > > > I software della Silicon Valley sono progettati per realizzare una > > specifica idea di società. Dobbiamo davvero competere con loro, solo > > se vogliamo imporre all'Europa esattamente quella idea di società > > (e vogliamo farlo meglio di loro). > > > > Ma se decidessimo invece di provare a creare una società democratica, > > libera ed equa, di quali strumenti avremmo bisogno? > > > > > > > PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni > > > a posteriori dei risultati degli attuali sistemi di ML, semplicemente > > > non funzionano, perché non scalano alle dimensiini di modelli > > > costituiti da miliardi di parametri. Del resto, se esistesse una > > > spiegazione semplice e comprensibile per un problema complesso e > > > difficile, il problema non sarebbe complesso e difficile. > > > > Ecco un'evidenza concreta dei gravi danni che la narrazione della > > "Intelligenza Artificiale" causa alla ricerca scientifica. > > > > Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice > > (ancorché estremamente costoso) di non aver selezionato scientemente il > > dataset in modo da causare specifiche discriminazione. > > Non ho mai detto che ciò garantisca l'assenza di discriminazioni. > > > > Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, > > ma non rimuove la responsabilità per i danni causati dal software. > > > > > D’altra parte, con le tecniche di prompting cone il Chain of Thought, > > > si può chiedere agli stessi modelli come ChatGPT di fornire un filo > > > logico dei passaggi che hanno portato alla risposta. > > > > Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. > > > > ChatGPT può sicuramente produrre una stringa di testo che la tua mente > > interpreti come una valida GIUSTIFICAZIONE di un proprio output. > > > > Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale > > output sia stato calcolato. > > > > Il calcolo effettuato potrebbe essere del tutto diverso: nessun > > informatico (o scienziato) con un minimo di serietà potrebbe > > accontentarsi di una tale giustificazione NON VERIFICABILE. > > > > > > Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro > > l'obiettivo: non ci interessa trovare un'argomentazione più o meno > > soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli > > si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato > > preso in considerazione durante l'elaborazione E COSA NO, nonché capire > > ESATTAMENTE come. > > > > > > Giacomo > > > > > [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Beh, però se l'output di ChatGPT attribuisse la maggior età alla nipote di Mubarak all'epoca dei loro rapporti, Berlusconi avrebbe diritto a chiedere una rettifica. Al contempo si porrebbe un problema di disinformazione da parte di OpenAI (tramite ChatGPT) Giacomo Il 16 Aprile 2023 06:55:40 UTC, Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: >B e' persona pubblica >https://www.diritto.it/il-diritto-di-cronaca-e-il-rispetto-della-privacy/ > >On 15/04/23 18:30, Paolo Del Romano wrote: >> "Se a Berlusconi non piace questa risposta, lui deve avere il diritto di censurarla? "

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giuseppe Attardi

Questa risposta è talmente grossolana e offensiva che speravo qualcun altro rispondesse. Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la condividano. L’Artificial Intelligence esiste ed è una delle principali discipline della Computer Science. Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto il mondo. Il fatto che la Commissione Europea l’abbia ignorata nei suoi finanziamenti, dimostra la sua miopia, non la sua furbizia. Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il fiorire di innovazioni che sta portando l’AI. Occupandosi di uno dei problemi più complessi dell’informatica, ossia la riproduzione delle capacità della mente umana, l’AI si è dovuta spesso scontrare coi limiti della tecnologia. Ma chi se ne occupava si è sempre ingegnato per superarli. Infatti, gran parte delle tecnologie informatiche che oggi sono di uso comune, sono nate in ambito AI. Ad esempio: - linguaggi funzionali - garbage collection - linguaggi a oggetti - interfacce grafiche - interfacce di sviluppo integrate (IDE) - Map/reduce per elaborazione parallela - animazione 3D - sistemi operativi Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il gioco degli scacchi. Il movimento del Free Software fu lanciato da Richard Stallman, che lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp Machine. Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere il rammarico che le più significative innovazioni dell’AI venissero spesso attribuite ad altri. Many of AI's greatest innovations have been reduced to the status of just another item in the tool chest of computer science. Nick Bostrom explains "A lot of cutting edge AI has filtered into general applications, often without being called AI because once something becomes useful enough and common enough it's not labeled AI anymore.” https://en.wikipedia.org/wiki/History_of_artificial_intelligence#AI_behind_… > la ricerca di cui abbiamo bisogno > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come allucinazione collettiva) ma sulla programmazione statistica L’AI copre aree più vaste della “programmazione statistica”. Il confronto con la blockchain è offensivo: quella è una tecnologia in cerca di applicazioni, basata su un singolo articolo. Non può essere comparata con una disciplina scientifica con 50 anni di ricerca alle spalle e migliaia di ricercatori coinvolti. > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui abbiamo scarso controllo? — Beppe > On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > To: Giuseppe Attardi <attardi(a)di.unipi.it <mailto:attardi@di.unipi.it>> > Cc: Stefano Maffulli <smaffulli(a)gmail.com <mailto:smaffulli@gmail.com>>, > "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > sospesa se OpenAI adotterà le misure richieste. > Message-ID: <20230414165246.00001237(a)tesio.it <mailto:20230414165246.00001237@tesio.it>> > Content-Type: text/plain; charset=utf-8 > > On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > >>> On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> wrote: >>> >>> Beh, è facile concordare sui finanziamenti alla ricerca. >> >> Talmente facile che non viene fatto. >> >> La voce “Intelligenza Artificiale” non era nemmeno presente nei >> progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati >> stanziati 50 milioni per 5 progetti ICT-48. > > Vuoi dire che l'hanno messa? > Bah... che posso dire, farà il paio con la blockchain! > > Il fatto che la voce "Intelligenza Artificiale" non fosse presente > lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non > come allucinazione collettiva) ma sulla programmazione statistica > cui troppi, non comprendendone il funzionamento, attribuiscono > una qualche forma di "intelligenza". > > Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di > programmazione statistica che producano risultati più affidabili! > > Ma ben vengano anche finanziamenti alla ricerca di nuovi framework > interpretativi di queste tecnologie, un po' meno allucinati e > allucinogeni! :-D > > > Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha > presentato le tesi del suo libro "La rivoluzione informatica", Juan > Carlos ha detto una cosa importantissima: > > "sicuramente non esiste indipendenza, non esiste sovranità, senza la > possibilità di controllare, produrre e sviluppare tutte le tecnologie > fondamentali che servono per una società moderna" > > Condivido pienamente il concetto. > > Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa > significa "società moderna"? chi decide quali siano le tecnologie > fondamentali che servono per realizzarla? > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > I software della Silicon Valley sono progettati per realizzare una > specifica idea di società. Dobbiamo davvero competere con loro, solo > se vogliamo imporre all'Europa esattamente quella idea di società > (e vogliamo farlo meglio di loro). > > Ma se decidessimo invece di provare a creare una società democratica, > libera ed equa, di quali strumenti avremmo bisogno? > > >> PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni >> a posteriori dei risultati degli attuali sistemi di ML, semplicemente >> non funzionano, perché non scalano alle dimensiini di modelli >> costituiti da miliardi di parametri. Del resto, se esistesse una >> spiegazione semplice e comprensibile per un problema complesso e >> difficile, il problema non sarebbe complesso e difficile. > > Ecco un'evidenza concreta dei gravi danni che la narrazione della > "Intelligenza Artificiale" causa alla ricerca scientifica. > > Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice > (ancorché estremamente costoso) di non aver selezionato scientemente il > dataset in modo da causare specifiche discriminazione. > Non ho mai detto che ciò garantisca l'assenza di discriminazioni. > > Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, > ma non rimuove la responsabilità per i danni causati dal software. > >> D’altra parte, con le tecniche di prompting cone il Chain of Thought, >> si può chiedere agli stessi modelli come ChatGPT di fornire un filo >> logico dei passaggi che hanno portato alla risposta. > > Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. > > ChatGPT può sicuramente produrre una stringa di testo che la tua mente > interpreti come una valida GIUSTIFICAZIONE di un proprio output. > > Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale > output sia stato calcolato. > > Il calcolo effettuato potrebbe essere del tutto diverso: nessun > informatico (o scienziato) con un minimo di serietà potrebbe > accontentarsi di una tale giustificazione NON VERIFICABILE. > > > Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro > l'obiettivo: non ci interessa trovare un'argomentazione più o meno > soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli > si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato > preso in considerazione durante l'elaborazione E COSA NO, nonché capire > ESATTAMENTE come. > > > Giacomo > > [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… >

April 16, 2023