April 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Roberto Dolci

Non mi permetterei mai di suggerire d’ignorare😊 Alcuni casi d’uso simpatico: 1. Aiutare noi, non-medici, a descrivere in modo corretto i nostri dolori, sintomi e tutto il quadro che aiuta il medico nel processo di diagnosi, facendo le domande giuste ed usando i termini corretti. Un bel passo avanti nella telemedicina. 2. All’opposto, usato dal medico nella prescrizione delle cure, diete e specialmente nelle raccomandazioni comportamentali per facilitare il processo di guarigione. Quello che chiamiamo “patient compliance” e’ per molte patologie il fattore che piu’ pregiudica tempi e modi di guarigione. ChatGPT e’ un capo della retorica, e sa scrivere molto meglio della media dei medici. 3. In due settimane in Facebook han costruito 600 milioni di possibili (si son fermati al modello digitale Deo Gratias) di proteine, che possono essere usate in un ampio spettro di casi, da nuovi antibiotici, nuovi carburanti, etc. Pensiamo ad una sola proteina ben conosciuta, la seta, e tutto quello che puo’ esser fatto (Tufts Silklab Creates Leather-like Material from Silk Proteins | Tufts Now<https://now.tufts.edu/2021/05/05/tufts-silklab-creates-leather-material-sil…>) Questi esempi sono documentati in articoli scientifici disponibili a tutti a tiro di google. Se invece vogliamo dar disinformazione e convincere la gente che i maiali volano, facilissimo farlo, ma sarebbe l’uso sbagliato. Buona Domenica Rob From: Paolo Del Romano <delromano(a)gmail.com> Sent: Sunday, April 16, 2023 9:11 AM To: Roberto Dolci <rob.dolci(a)aizoon.us> Cc: Giacomo Tesio <giacomo(a)tesio.it>; Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT disabled for users in Italy Dovremmo pensare a ChatGPT ,e compagni LLM, come strumenti che scrivono correttamente in 50+ lingue, non come fonti di alcun genere di verita’. Utilissimi per tanti casi d’uso, ma dannosi se li usiamo per le cose che non possono fare. Ecco! Questa è la risposta che mi sento di condividere pienamente. Quindi molte cose che si sono dette qui le possiamo anche ignorare. Saluti Paolo

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

> > > Dovremmo pensare a ChatGPT ,e compagni LLM, come strumenti che scrivono > correttamente in 50+ lingue, non come fonti di alcun genere di verita’. > Utilissimi per tanti casi d’uso, ma dannosi se li usiamo per le cose che > non possono fare. > Ecco! Questa è la risposta che mi sento di condividere pienamente. Quindi molte cose che si sono dette qui le possiamo anche ignorare. Saluti Paolo

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Roberto Dolci

Non e’ assolutamente in grado di fare questa distinzione in modo deterministico, ma probabilistico in base alle matrici che usa in quel momento per valutare la probabilita’ e peso dell’una o altra classificazione. E’ anche sicuro che non farebbe mai la stessa valutazione a parita’ di dati presenti, e non avendo memoria e consistenza di quanto ha fatto in passato, non tiene nemmeno conto di cosa ha gia’ risposto a riguardo. L’unica cosa su cui possiamo contare e’ che le frasi che scrivera’ saran ben scritte. Dovremmo pensare a ChatGPT ,e compagni LLM, come strumenti che scrivono correttamente in 50+ lingue, non come fonti di alcun genere di verita’. Utilissimi per tanti casi d’uso, ma dannosi se li usiamo per le cose che non possono fare. Ciao Rob From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Paolo Del Romano Sent: Sunday, April 16, 2023 9:01 AM To: Giacomo Tesio <giacomo(a)tesio.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT disabled for users in Italy Il problema che mi pongo è che se ChatGPT nel suo output, deve distinguere fra "persona pubblica" e "persona non pubblica" sia potenzialmente in grado di farlo. Conseguentemente in quale caso deve per forza rispondere con la locuzione standard: "Come assistente virtuale, non ho la capacità di effettuare giudizi personali o di fornire informazioni specifiche riguardo alle persone" . Probabilmente non possiamo affidare alla AI questa scelta e ci dovremmo accontentare sempre di una risposta molto filtrata. Ne conseguirebbe che anche quella risposta data da pizzagpt su B. è andata un pò oltre e forse censurabile dal Garante o dall'autorità giudiziaria. Paolo. Il giorno dom 16 apr 2023 alle ore 14:21 Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> ha scritto: Il 16 Aprile 2023 10:40:27 UTC, Paolo Del Romano ha scritto: >Quindi se Berlusconi conduce una vita privata con le donne un pò complicata >(forse) si potrebbe pubblicare ma se la persona non è B ma un ex-politico >oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? Quello che si fa con qualsiasi altra azienda che pubblichi su un sito web lo stesso contenuto. Dov'è il problema? Giacomo

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

Il problema che mi pongo è che se ChatGPT nel suo output, deve distinguere fra "persona pubblica" e "persona non pubblica" sia potenzialmente in grado di farlo. Conseguentemente in quale caso deve per forza rispondere con la locuzione standard: "Come assistente virtuale, non ho la capacità di effettuare giudizi personali o di fornire informazioni specifiche riguardo alle persone" . Probabilmente non possiamo affidare alla AI questa scelta e ci dovremmo accontentare sempre di una risposta molto filtrata. Ne conseguirebbe che anche quella risposta data da pizzagpt su B. è andata un pò oltre e forse censurabile dal Garante o dall'autorità giudiziaria. Paolo. Il giorno dom 16 apr 2023 alle ore 14:21 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Il 16 Aprile 2023 10:40:27 UTC, Paolo Del Romano ha scritto: > > >Quindi se Berlusconi conduce una vita privata con le donne un pò > complicata > >(forse) si potrebbe pubblicare ma se la persona non è B ma un > ex-politico > >oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? > > Quello che si fa con qualsiasi altra azienda che pubblichi su un sito web > lo stesso contenuto. > > Dov'è il problema? > > > Giacomo > > >

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Roberto Dolci

Oltre a rimuovere, si puo’ anche aggiungere “noise” in modo che il modello non prenda piu’ a riferimento i dati di prima: meno faticoso e costo del ripulire i dati From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Guido Vetere Sent: Wednesday, April 12, 2023 3:58 PM To: Giacomo Tesio <giacomo(a)tesio.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. > Riprogrammare statisticamente il software (il "re- training") rimuovendo tutte le occorrenze di testi che contengano il nome di chi chiede di essere cancellato, è tecnicamente fattibilissimo. > E' solo costoso certo, ad esempio costerebbe qualche gigawatt, ma poi resterebbe il problema di capire che quel 'Giacomo Tesio' di cui, in un twitt, si dice questo e quello, sei proprio tu e non un tuo omonimo. insomma: no way, secondo me ma vedremo cosa rispondono da OpenAI alternative ai LLM per gestire dati fattuali ci sono da sempre, sono le basi di dati (o di conoscenza, se preferisci). la ricerca per integrare gli approcci simbolici e neurali è anche ben nota, Bing e Bard vanno proprio in quella direzione non credo che Google e Microsoft stiano lì a rivedere i loro piani sulla base degli ultimatum del Garante italiano, più verosimilmente tutta questa vicenda sarà solo una annoyance per chi in Italia continuerà a usare quei servizi per lavoro, del tutto disinteressati alla tua e alla mia biografia G. Il Mer 12 Apr 2023, 22:12 Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> ha scritto: On Wed, 12 Apr 2023 21:30:48 +0200 Guido Vetere wrote: > Allora: il metodo 2 (reinforcement learning per evitare di rispondere > a certe domande) si può fare e già lo fanno; l'1 (re-training del > modello ogni volta che qualcuno fa opt-out) proprio no Riprogrammare statisticamente il software (il "re-training") rimuovendo tutte le occorrenze di testi che contengano il nome di chi chiede di essere cancellato, è tecnicamente fattibilissimo. E' solo costoso. Ed è esattamente ciò che è necessario fare su richiesta dell'interessato: https://gdpr-info.eu/art-17-gdpr/ Ma di nuovo, non è un ottimo incentivo alla ricerca di metodi più economici ed ecologici di effettuare tali operazioni? La ragion d'essere di Open AI, giusto? Stessa cosa per il diritto alla rettifica, che non viene meno solo perché il contenuto errato è salvato in una matrice invece che in un file o in un database. Tutte ottime ragioni per finanziare Open AI (e molti altri centri di ricerca)! Open AI dovrebbe ringraziare il GDPR e il Garante Italiano. Spegnere GPT e dire a tutti: "Vi piace il giocattolo? Ok allora dateci qualche trilliardo di dollari per trovare il modo di renderlo compatibile con i diritti umani". Per una volta diritto, ecologia ed economia si sposano alla perfezione! D'altro canto non ci sono alternative: mica vorremo sacrificare i diritti umani e il futuro del pianeta ai profitti di una azienda? Giacomo

April 16, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by Daniela Tafani

Grazie, molto utile, l'approfondimento su Wysa. Purtroppo, sui genuini progressi ottenuti con i sistemi di apprendimento automatico, si fondano centinaia di truffe, che mescolano quei progressi con pseudoscienze vecchie e nuove (dalla fisiognomica alla psicografia), con una concezione animistica e con l'indistinzione tra persone e cose (che sconvolse già Weizenbaum e che viola il diritto, nei paesi in cui qualche diritto umano sia costituzionalmente riconosciuto); per cui si affidano ai medesimi sistemi la manutenzione predittiva di un macchinario industriale, la predizione di un crimine, l'emissione di una sentenza e la cura di un disagio mentale . Il guaio è che i truffatori non sono singoli, isolati malfattori, ma quelle stesse grandi aziende che detengono i mezzi per i genuini progressi e che hanno finora ottenuto di spacciare prodotti insicuri o difettosi per agenti autonomi. E le istituzioni comunitarie che dovrebbero finanziare una ricerca pubblica e, parallelamente, vietare le truffe, assecondano invece la narrazione che sostiene le truffe (e anzi, declassate a agenzie pubblicitarie, si ripromettono solennemente di promuovere la fiducia dei cittadini nei SALAMI) e non finanziano a sufficienza la ricerca pubblica. Questo influenza anche i toni e gli accenti di chi si occupa del corrente upgrade del liberalismo punitivo con i SALAMI. Degli LLM, ad esempio, se non ci fossero truffe e politiche infami, quali il curare i più vulnerabili con un chatbot, non ci sarebbe bisogno di scrivere che sono pappagalli stocastici, per contrastare chi li presenta e li vende come esseri intelligenti, senzienti, empatici, e a breve anche morali , leali e allineati: potremmo stupirci dello straordinario progresso e discutere delle tesi di Roal Dahl o di Italo Calvino sulla letteratura come processo combinatorio. Buona domenica, Daniela ________________________________ Da: 380° <g380(a)biscuolo.net> Inviato: sabato 15 aprile 2023 17:06 A: Daniela Tafani Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter Buongiorno, chiedo scusa ma mi è scappato un messaggio sostanzialmente vuoto... e chiedo scusa perché mi scappa un messaggio sostanzialmente lungo Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > Quanto ai minori, ci sono paesi in cui li si affida consapevolmente a > un chatbot, proprio nei casi in cui abbiano bisogno di assistenza > mentale: > https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/ oh caspita, ignoravo Wysa... e stavo meglio quando ero ignorante :-D ...comunque: parliamone. https://www.wysa.com/ è un chatbot programmato per applicare la tecnica psicoterapeutica "Cognitive Behavioral Therapy" (CBT) [1] (a altre non dichiarate?) in modo automatizzato; Wisa nelle sue FAQ [2] la presenta come "the science behind the suggested techniques" Per carità di patria stendo un velo _pietosissimo_ sulle dichiarazioni di scientificità di alcune (molte?) ricerche in campo psicologico [3]: per discutere dei problemi dell'agente automatico /facciamo finta/ che il resto del lavoro sia basato su una teoria scientifica solida. Wysa sostiene nelle FAQ [2] di essere «an artificial intelligence-based 'emotionally intelligent' service»: "emotionally intelligent" non lascia dubbi a interpretazioni, significa essere in grado di /comprendere/ e /percepire/ le emozioni. Secondo questa visione, Wysa può quindi sostituire il terapeuta umano proprio perché, come l'umano, è in grado di comprendere e percepire le emozioni del paziente. In effetti pare che Wysa sia una specie di Borg specializzato in CBT, umano e robot insieme [2]: --8<---------------cut here---------------start------------->8--- Wysa has an artificial intelligence (AI) coach, it’s a pocket penguin that learns and grows wiser with you. Wysa's human Emotional Well-being professionals are mental health professionals trained to listen, support and encourage you. Together with the Wysa AI coach, Emotional Well-being Professional will support you in achieving your defined goals. --8<---------------cut here---------------end--------------->8--- La supercazzola antanica dello "human in ze loop" raggiunge livelli sublimi. Ovviamente, siccome sanno che stanno giocando col fuoco, mettono le mani avanti: --8<---------------cut here---------------start------------->8--- However, AI Coach is restricted in the means of response and the intended usage is for providing evidence-based tools and techniques to manage emotions and encourage mental well-being in a self-help context. It is not intended for providing diagnosis, treatment, or cure of a condition or disease or disorders. AI Coach cannot and will not offer advice on unrecognizable issues. [...] Wysa is not designed to assist with crises such as abuse, severe mental health conditions that may cause feelings of suicide, harm to self and any other medical emergencies. In any of these cases and otherwise, Wysa cannot and will not offer medical or clinical advice. It can only suggest that users seek advanced and professional medical help. --8<---------------cut here---------------end--------------->8--- Fin qui non ci vuole un genio per riuscire a discriminare il segnale (poco) dal rumore (tantissimo, studiato apposta per confondersi col segnale): si tratta /molto semplicemente/ di una istanza di ELIZA [4] on steroids, roba vecchia di almeno 60 anni nel suo "core business". Lo script DOCTOR (il più famoso) che funzionava su ELIZA applicava la tecnica "Rogerian psychotherapy" [5] mentre Wysa applica la CBT, in entrambi i sistemi il terapeuta viene sostituito dalla sua /reificazione/ e a tali sistemi sono state o vengono attribuite capacità di /intelligere/ le emozioni umane. La sola differenza tra DOCTOR e Wysa è che il secondo è stato programmato statisticamente mentre il primo in MAD-SLIP (e poi in tanti altri linguaggi): dal punto di vista informatico una notevole differenza ma ancora non sufficiente a giustificare le presunte capacità di essere "emotional intelligent" attribuite a Wysa. ...anche come vengono recepiti questi sismemi non è cambiato dagli anni '60 del secolo scorso E qui veniamo alle note più /pesanti/. > <https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/> Fosse solo questo (e questo è già troppo)! Il sistema sanitario britannoco lo sta adottando fare il triage automatizzato dei pazienti con possibili problemi psichiatrici https://www.wysa.com/nhs --8<---------------cut here---------------start------------->8--- This webinar shares the experience of Steps2Wellbeing (Dorset Healthcare) of using AI to reduce administration times, maximize clinical time, and improve access without increasing risk. Mayden’s Fiona Dawson will discuss the essential role that data flow and information sharing have in ensuring that - as we move toward a more digital future - we have an integrated and regulated ecosystem. [...] Wysa’s etriage for NHS talking therapy services provides faster access to support, creates a safer environment for patients and delivers more personalized care. Wysa’s AI chatbot guides patients through self-referral, releasing clinician referral admin time for care. Wysa shares real-time patient data with clinicians during the waiting period, to help identify high risk responses and flag for crisis attention via Mayden’s iaptus digital care record system. [...] Our users love Wysa. This engaging experience is what we are now bringing to the NHS. See it in action to find out how we are making talking therapies everything they should be, for both patients and clinicians. --8<---------------cut here---------------end--------------->8--- Nel Maggio 2022 Wysa ha ottenuto dalla FDA la /medaglia/ di [6] "FDA Breakthrough Device program" [7], che AFAIU fornisce una priorità nella revisione per ottenere l'approvazione. Ovviamente tutto questo è supportato da evidenza clinica basata su ricerca peer-reviewed https://www.wysa.com/clinical-evidence#5 --8<---------------cut here---------------start------------->8--- Wysa has more than 15 peer-reviewed publications in partnership with academic institutions such as Cambridge University, Harvard University and Washington University of St. Louis amongst others, demonstrating the efficacy of Wysa across multiple clinical concerns. Contact us for the entire list of our publications. --8<---------------cut here---------------end--------------->8--- Anche questo è già successo per ELIZA [8] https://link.springer.com/article/10.1007/s00146-018-0825-9 «The computational therapeutic: exploring Weizenbaum’s ELIZA as a history of the present» --8<---------------cut here---------------start------------->8--- Reporting that some psychiatrists believed the DOCTOR computer program could grow into a ‘nearly completely automatic form of psychotherapy’, Weizenbaum lamented that specialists in human to human interaction could ‘…view the simplest mechanical parody of a single interviewing technique as having captured anything of the essence of a human encounter’ (1976: 3). He concluded moreover, that such a response was only possible because the therapists concerned already had a view of the world as machine, and already thought of themselves as ‘information processor(s)’; the outlines of his engagement with behaviorism here begin to appear. [...] What is envisaged is a system where human-held principles or beliefs (for instance in justice, equality, or individual freedom) are increasingly regarded as irrelevant to the administration and/or governance of the society, or of the self. Governance is instead to be accomplished through the embedding of new mechanisms of cybernetic control that may produce resolution, and perhaps what might be termed ‘good order’, without recourse to human judgment. An over-reliance on computational logics could, in short, produce the kind of society in which failing to understand ‘what is distinctive about a human judge, or psychiatrist, what distinguishes them from a machine’ is not recognized as an obvious ‘obscenity’ (1976: 226). --8<---------------cut here---------------end--------------->8--- Toh: vuoi vedere che siamo dentro un loop ricorsivo di visione meccanicistica del mondo in cui le relazioni possono essere solo di tipo "behaviourist" (logico/comportamentalista) tra esseri umani (meat machines) alienati? (aka "The ovious obscenity") Dopotutto Time sintetizzò il pensiero di Skinner così: --8<---------------cut here---------------start------------->8--- …familiar to followers of Skinner, but startling to the uninitiated: we can no longer afford freedom, and so it must be replaced with control over man, his conduct, and his culture’. (Time, 1971). --8<---------------cut here---------------end--------------->8--- che effettivamente è (non sorprendentemente) parecchio simile all'ultimato Borg che recita --8<---------------cut here---------------start------------->8--- We are the Borg. Lower your shields and surrender your ships. We will add your biological and technological distinctiveness to our own. Your culture will adapt to service us. Resistance is futile. --8<---------------cut here---------------end--------------->8--- :-D [...] saluti, 380° [...] [1] https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy [2] https://www.wysa.com/faq [3] https://en.wikipedia.org/wiki/Replication_crisis#In_psychology https://en.wikipedia.org/wiki/Cognitive_behavioral_therapy#Criticisms [4] https://en.wikipedia.org/wiki/ELIZA [5] https://en.wikipedia.org/wiki/Person-centered_therapy [6] https://blogs.wysa.io/blog/research/wysa-receives-fda-breakthrough-device-d… [7] https://www.fda.gov/medical-devices/how-study-and-market-your-device/breakt… [8] https://doi.org/10.1097%2F00005053-196602000-00005 -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Roberto Dolci

La Cina aveva gia’ bloccato l’accesso a ChatGPT a febbraio, accusando Open AI di fare propaganda politica (‘Political propaganda’: China clamps down on access to ChatGPT | Artificial intelligence (AI) | The Guardian<https://www.theguardian.com/technology/2023/feb/23/china-chatgpt-clamp-down…>) e qui in USA tutti a sproloquiare del regime dittatoriale cinese che blocca la liberta’ di parola. Poi anche il nostro Congresso s’e’ messo di buzzo buono per bloccare TikTok (il Montana e’ il primo stato che l’ha fatto), ed ora i toni si sono smorzati, vista l’ipocrisia. Un commento interessante e’ quello di Eric Schmidt della settimana scorsa, sicuramente motivato dai suoi interessi personali, che riflette sulla non prevedibilita’ degli effetti secondari dell’AI, non tanto per l’algoritmo specifico che potrebbe causare un qualche danno, ma per la mancata comprensione di come questi sono collegati in tutto il mondo. Stesso pensiero espresso da David Auerbach nei giorni scorsi (Why No One Can Control AI | The Free Press (thefp.com)<https://www.thefp.com/p/why-no-one-can-control-ai> Buona Domenica rob From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Enrico Nardelli Sent: Sunday, April 16, 2023 5:13 AM To: nexa(a)server-nexa.polito.it Subject: Re: [nexa] China to require ‘security assessment’ for new AI products Non mi pare di aver letto reazioni a questa notizia (grazie JC!) nonostante riporti qualcosa di così fondamentale a proposito dei sistemi basati sull'intelligenza artificiale, che ogni altra riflessione dovrebbe essere secondaria. QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. Mi correggeranno eventualmente i giuristi in lista, ma mi pare che anche per prodotti di tipologie commerciali non soggette a specifici regolamenti tecnici si applica per default qualche norma del codice civile. Non capisco perché dovremmo consentire eccezioni per ChatGPT & Co. Il che NON VUOL DIRE che laboratori privati e pubblici, aziendali e accademici, non possano continuare a fare ricerca in questo ambito. Solo che non possiamo immettere in commercio prodotti che possono causare danni (come voleva far capire il mio esempio del mini-reattore nucleare qua https://link-and-think.blogspot.com/2023/04/il-potere-dellintelligenza-arti… ). Aggiungo che, sinceramente, avrei preferito vedere l'Occidente all'avanguardia sul tema della sicurezza ... e magari anche su quello della socialdemocrazia ... all'europea, però ... :-) Ciao, Enrico Il 13/04/2023 07:22, J.C. DE MARTIN ha scritto: China to require ‘security assessment’ for new AI products AFP April 11, 2023 5:21 am New AI products developed in China will have to undergo a security assessment before being released and must reflect “core socialist values”, a sweeping new draft law by the country’s internet regulator showed Tuesday. The fresh regulations come as a flurry of Chinese companies rush to develop artificial intelligence services that can mimic human speech since San Francisco-based OpenAI launched ChatGPT in November, sparking a gold rush in the market. Rapid advancements in AI have stoked global alarm over the technology’s potential for disinformation and misuse, with deepfake images and people shown mouthing things they never said. “Before providing services to the public that use generative AI products, a security assessment shall be applied for through national internet regulatory departments,” the draft law, released by the Cyberspace Administration of China, reads. continua qui: https://insiderpaper.com/china-draft-law-to-require-security-assessment-for… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:image001.png@01D9703F.57E164A0] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Il 16 Aprile 2023 10:40:27 UTC, Paolo Del Romano ha scritto: >Quindi se Berlusconi conduce una vita privata con le donne un pò complicata >(forse) si potrebbe pubblicare ma se la persona non è B ma un ex-politico >oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? Quello che si fa con qualsiasi altra azienda che pubblichi su un sito web lo stesso contenuto. Dov'è il problema? Giacomo

April 16, 2023

Re: [nexa] Sugli utilizzi degli LLM per scopi criminali

by Enrico Nardelli

Grazie Marco, molto bello! La riflessione finale «This is all an old story, though: It reminds us that many of the bad uses of AI are a reflection of humanity more than they are a reflection of AI technology itself. » sottolinea ancora una volta che non ci sono strumenti e loro usi la responsabilità dei quali non sia riconducibile ad esseri umani (punto che Giacomo Tesio giustissimamente enfatizza sempre). Ciao, Enrico Il 11/04/2023 10:02, Marco A. Calamari ha scritto: > Un interessante saggio di Bruce Schneier sugli usi criminali e manipolatori degli LLM, > che dovrebbe farci scendere ogni tanto dai ragionamenti troppo filosofici a quelli più pratici. > > Consigliato. > > https://www.schneier.com/blog/archives/2023/04/llms-and-phishing.html > > Marco > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Enrico Nardelli

Aggiungo (ho letto la sua mail solo dopo aver inviato questa) che è rilevante per questo tema il recente messaggio di Maria Chiara Pievatolo che ricordava ------ Oggi, a proposito del fumo, a nessuno verrebbe in mente di sostenere che la controversia che oppose B&W a 46 stati americani (https://wikiless.org/wiki/Brown_%26_Williamson?lang=en) era un conflitto fra l'innovazione privata e l'ossessione regolativa di uno stato arretrato e oscurantista, ma le cose sarebbero potute andare diversamente, se non ci fosse stata una stampa indipendente e una crescente percezione sociale della pericolosità del tabacco. ----- Parafrasando le sue parole verrebbe da chiedersi se qualcuno ritiene che la controversia che oppone il Garante e OpenAI è un «conflitto tra l'innovazione privata e l'ossessione regolativa di uno stato arretrato e oscurantista»... :-) Ciao, Enrico Il 16/04/2023 12:13, Enrico Nardelli ha scritto: > > Non mi pare di aver letto reazioni a questa notizia (grazie JC!) nonostante riporti qualcosa di così fondamentale a proposito dei sistemi basati sull'intelligenza artificiale, che ogni altra riflessione dovrebbe essere secondaria. > > QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. Mi correggeranno eventualmente i giuristi in lista, ma mi pare che anche per prodotti di tipologie commerciali non soggette a specifici regolamenti tecnici si applica per default qualche norma del codice civile. > > Non capisco perché dovremmo consentire eccezioni per ChatGPT & Co. Il che NON VUOL DIRE che laboratori privati e pubblici, aziendali e accademici, non possano continuare a fare ricerca in questo ambito. Solo che non possiamo immettere in commercio prodotti che possono causare danni (come voleva far capire il mio esempio del mini-reattore nucleare qua https://link-and-think.blogspot.com/2023/04/il-potere-dellintelligenza-arti… ). > > Aggiungo che, sinceramente, avrei preferito vedere l'Occidente all'avanguardia sul tema della sicurezza ... e magari anche su quello della socialdemocrazia ... all'europea, però ... :-) > > Ciao, Enrico > > Il 13/04/2023 07:22, J.C. DE MARTIN ha scritto: >> *China to require ‘security assessment’ for new AI products* >> AFP >> >> April 11, 2023 5:21 am >> >> New AI products developed in China will have to undergo a security assessment before being released and must reflect “core socialist values”, a sweeping new draft law by the country’s internet regulator showed Tuesday. >> >> The fresh regulations come as a flurry of Chinese companies rush to develop artificial intelligence services that can mimic human speech since San Francisco-based OpenAI launched ChatGPT in November, sparking a gold rush in the market. >> >> Rapid advancements in AI have stoked global alarm over the technology’s potential for disinformation and misuse, with deepfake images and people shown mouthing things they never said. >> >> “Before providing services to the public that use generative AI products, a security assessment shall be applied for through national internet regulatory departments,” the draft law, released by the Cyberspace Administration of China, reads. >> >> continua qui: >> >> https://insiderpaper.com/china-draft-law-to-require-security-assessment-for… >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > -- > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023