- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

> Quanti sanno "com'è"? sicuramente, una piccola frazione di quelli che presumono di saperlo :-) perché non diamo ascolto a chi su queste cose ha lavorato scientificamente a livello internazionale per una vita? sta qui in lista, si chiama @Giuseppe Attardi <giuseppe.attardi(a)unipi.it> G. On Sun, 16 Apr 2023 at 17:55, alessandro marzocchi <alemarzoc(a)gmail.com> wrote: > Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non > capisco come funziona? > > questo sistema è lì così com'è, > > Quanti sanno "com'è"? > Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che > già oggi funziona come il nostro cervello, indirizza la nostra mente, le > nostre scelte, i nostri comportamenti. > Cordialmente > Duccio (Alessandro Marzocchi) > > Date: Sun, 16 Apr 2023 17:14:15 +0200 >> >> From: Guido Vetere <vetere.guido(a)gmail.com> >> To: Roberto Dolci <rob.dolci(a)aizoon.us> >> Cc: "delromano(a)gmail.com" <delromano(a)gmail.com>, Nexa >> <nexa(a)server-nexa.polito.it> >> Concordo. >> Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere >> o >> ci piacerebbe che fosse (in sostanza: il front-end di una base di >> conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece >> su quello che è, su come usarlo e con quali cautele, sul non usarlo e >> perché, o sulla opportunità giuridica di impedire del tutto il suo uso. >> Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, >> che le autovetture fossero alimentate a biada, offuscando però il >> dibattito >> sulla necessità di installare semafori in città. Questo è il pericolo che >> vedo nella posizione del Garante italiano. >> E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza >> globale collassi in un solo sistema proprietario, e per di più >> *intrinsecamente* allucinato. >> Ma questo sistema è lì così com'è, e più che levare contro di esso grida >> manzoniane, dovremo pensare seriamente a come farci i conti. >> G. >> >

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Stefano Zacchiroli

On Sun, Apr 16, 2023 at 12:13:20PM +0200, Enrico Nardelli wrote: > QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare > requisiti di sicurezza. ... tranne il software. Certamente ci sarà qualche requisito che si applica in automatico anche al software --- e mi appello anche io ai giuristi in lista per precisarlo --- ma la barra di accesso al mercato del software è bassissima. Di default, chiunque può pubblicare prodotti software su svariati app store senza alcun controllo a monte (salvo quelli automatici implementati dagli app store dei vari GAFAM). Il CRA (Cyber Resilience Act) europeo va nella direzione di aggiungere tali controlli, sotto forma di (auto-)certificazioni e questo ha provocato una sollevata di scudi da parte del mondo free/open source software. (Ne abbiamo già parlato separatamente in lista.) Dico questo non per controbattere al tuo argomento, Enrico, che trovo in se ragionevole. Ma per osservare che qui siamo anche perché per decenni l'industria del software (compresa quella FOSS!, fatta anche di volontari/ non-profit/ etc. che non potrebbero permettersi l'overhead dei controlli) è fiorita grazie all'assenza dei controlli che ora si invocano. Trovare un giusto mezzo tra lo status quo ed il desiderio di regolamentare prodotti "che contengono AI" non sarà affatto banale. Saluti a tutti -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by alessandro marzocchi

Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona? questo sistema è lì così com'è, Quanti sanno "com'è"? Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che già oggi funziona come il nostro cervello, indirizza la nostra mente, le nostre scelte, i nostri comportamenti. Cordialmente Duccio (Alessandro Marzocchi) Date: Sun, 16 Apr 2023 17:14:15 +0200 > > From: Guido Vetere <vetere.guido(a)gmail.com> > To: Roberto Dolci <rob.dolci(a)aizoon.us> > Cc: "delromano(a)gmail.com" <delromano(a)gmail.com>, Nexa > <nexa(a)server-nexa.polito.it> > Concordo. > Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o > ci piacerebbe che fosse (in sostanza: il front-end di una base di > conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece > su quello che è, su come usarlo e con quali cautele, sul non usarlo e > perché, o sulla opportunità giuridica di impedire del tutto il suo uso. > Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, > che le autovetture fossero alimentate a biada, offuscando però il dibattito > sulla necessità di installare semafori in città. Questo è il pericolo che > vedo nella posizione del Garante italiano. > E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza > globale collassi in un solo sistema proprietario, e per di più > *intrinsecamente* allucinato. > Ma questo sistema è lì così com'è, e più che levare contro di esso grida > manzoniane, dovremo pensare seriamente a come farci i conti. > G. >

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Antonio

> Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il gioco degli scacchi. Che Thompson sia stato un grande appassionato di scacchi è cosa nota. Suo (e di Joe Condon) il computer scacchistico Belle [1] che tra gli anni settanta e ottanta sbaragliava gli avversari /artificiali/. In un'epoca in cui i programmi scacchistici non andavano oltre le 5000 mosse al secondo, il suo Belle ne computava 160000. Tuttavia, da quello che riporta Wikipedia, il gioco che avrebbe portato alla scrittura di un sistema operativo completamente nuovo e che è andato a costituire il nucleo di Unix è stato Space Travel [2] Antonio [1] https://it.wikipedia.org/wiki/Belle_(scacchi) [2] https://it.wikipedia.org/wiki/Space_Travel

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

Concordo. Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o ci piacerebbe che fosse (in sostanza: il front-end di una base di conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece su quello che è, su come usarlo e con quali cautele, sul non usarlo e perché, o sulla opportunità giuridica di impedire del tutto il suo uso. Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, che le autovetture fossero alimentate a biada, offuscando però il dibattito sulla necessità di installare semafori in città. Questo è il pericolo che vedo nella posizione del Garante italiano. E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza globale collassi in un solo sistema proprietario, e per di più *intrinsecamente* allucinato. Ma questo sistema è lì così com'è, e più che levare contro di esso grida manzoniane, dovremo pensare seriamente a come farci i conti. G. On Sun, 16 Apr 2023 at 16:25, Roberto Dolci <rob.dolci(a)aizoon.us> wrote: > Non mi permetterei mai di suggerire d’ignorare😊 > > > > Alcuni casi d’uso simpatico: > > > > 1. Aiutare noi, non-medici, a descrivere in modo corretto i nostri > dolori, sintomi e tutto il quadro che aiuta il medico nel processo di > diagnosi, facendo le domande giuste ed usando i termini corretti. Un bel > passo avanti nella telemedicina. > > 2. All’opposto, usato dal medico nella prescrizione delle cure, diete > e specialmente nelle raccomandazioni comportamentali per facilitare il > processo di guarigione. Quello che chiamiamo “patient compliance” e’ per > molte patologie il fattore che piu’ pregiudica tempi e modi di guarigione. > ChatGPT e’ un capo della retorica, e sa scrivere molto meglio della media > dei medici. > > 3. In due settimane in Facebook han costruito 600 milioni di possibili > (si son fermati al modello digitale Deo Gratias) di proteine, che possono > essere usate in un ampio spettro di casi, da nuovi antibiotici, nuovi > carburanti, etc. Pensiamo ad una sola proteina ben conosciuta, la seta, e > tutto quello che puo’ esser fatto (Tufts Silklab Creates Leather-like > Material from Silk Proteins | Tufts Now > <https://now.tufts.edu/2021/05/05/tufts-silklab-creates-leather-material-sil…> > ) > > > > Questi esempi sono documentati in articoli scientifici disponibili a tutti > a tiro di google. > > > > Se invece vogliamo dar disinformazione e convincere la gente che i maiali > volano, facilissimo farlo, ma sarebbe l’uso sbagliato. > > > > Buona Domenica > > Rob > > > > *From:* Paolo Del Romano <delromano(a)gmail.com> > *Sent:* Sunday, April 16, 2023 9:11 AM > *To:* Roberto Dolci <rob.dolci(a)aizoon.us> > *Cc:* Giacomo Tesio <giacomo(a)tesio.it>; Nexa <nexa(a)server-nexa.polito.it> > *Subject:* Re: [nexa] ChatGPT disabled for users in Italy > > > > > > > > Dovremmo pensare a ChatGPT ,e compagni LLM, come strumenti che scrivono > correttamente in 50+ lingue, non come fonti di alcun genere di verita’. > Utilissimi per tanti casi d’uso, ma dannosi se li usiamo per le cose che > non possono fare. > > > > Ecco! Questa è la risposta che mi sento di condividere pienamente. Quindi > molte cose che si sono dette qui le possiamo anche ignorare. > > > > Saluti > > Paolo > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Roberto Dolci

Non mi permetterei mai di suggerire d’ignorare😊 Alcuni casi d’uso simpatico: 1. Aiutare noi, non-medici, a descrivere in modo corretto i nostri dolori, sintomi e tutto il quadro che aiuta il medico nel processo di diagnosi, facendo le domande giuste ed usando i termini corretti. Un bel passo avanti nella telemedicina. 2. All’opposto, usato dal medico nella prescrizione delle cure, diete e specialmente nelle raccomandazioni comportamentali per facilitare il processo di guarigione. Quello che chiamiamo “patient compliance” e’ per molte patologie il fattore che piu’ pregiudica tempi e modi di guarigione. ChatGPT e’ un capo della retorica, e sa scrivere molto meglio della media dei medici. 3. In due settimane in Facebook han costruito 600 milioni di possibili (si son fermati al modello digitale Deo Gratias) di proteine, che possono essere usate in un ampio spettro di casi, da nuovi antibiotici, nuovi carburanti, etc. Pensiamo ad una sola proteina ben conosciuta, la seta, e tutto quello che puo’ esser fatto (Tufts Silklab Creates Leather-like Material from Silk Proteins | Tufts Now<https://now.tufts.edu/2021/05/05/tufts-silklab-creates-leather-material-sil…>) Questi esempi sono documentati in articoli scientifici disponibili a tutti a tiro di google. Se invece vogliamo dar disinformazione e convincere la gente che i maiali volano, facilissimo farlo, ma sarebbe l’uso sbagliato. Buona Domenica Rob From: Paolo Del Romano <delromano(a)gmail.com> Sent: Sunday, April 16, 2023 9:11 AM To: Roberto Dolci <rob.dolci(a)aizoon.us> Cc: Giacomo Tesio <giacomo(a)tesio.it>; Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT disabled for users in Italy Dovremmo pensare a ChatGPT ,e compagni LLM, come strumenti che scrivono correttamente in 50+ lingue, non come fonti di alcun genere di verita’. Utilissimi per tanti casi d’uso, ma dannosi se li usiamo per le cose che non possono fare. Ecco! Questa è la risposta che mi sento di condividere pienamente. Quindi molte cose che si sono dette qui le possiamo anche ignorare. Saluti Paolo

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

> > > Dovremmo pensare a ChatGPT ,e compagni LLM, come strumenti che scrivono > correttamente in 50+ lingue, non come fonti di alcun genere di verita’. > Utilissimi per tanti casi d’uso, ma dannosi se li usiamo per le cose che > non possono fare. > Ecco! Questa è la risposta che mi sento di condividere pienamente. Quindi molte cose che si sono dette qui le possiamo anche ignorare. Saluti Paolo

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Roberto Dolci

Non e’ assolutamente in grado di fare questa distinzione in modo deterministico, ma probabilistico in base alle matrici che usa in quel momento per valutare la probabilita’ e peso dell’una o altra classificazione. E’ anche sicuro che non farebbe mai la stessa valutazione a parita’ di dati presenti, e non avendo memoria e consistenza di quanto ha fatto in passato, non tiene nemmeno conto di cosa ha gia’ risposto a riguardo. L’unica cosa su cui possiamo contare e’ che le frasi che scrivera’ saran ben scritte. Dovremmo pensare a ChatGPT ,e compagni LLM, come strumenti che scrivono correttamente in 50+ lingue, non come fonti di alcun genere di verita’. Utilissimi per tanti casi d’uso, ma dannosi se li usiamo per le cose che non possono fare. Ciao Rob From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Paolo Del Romano Sent: Sunday, April 16, 2023 9:01 AM To: Giacomo Tesio <giacomo(a)tesio.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT disabled for users in Italy Il problema che mi pongo è che se ChatGPT nel suo output, deve distinguere fra "persona pubblica" e "persona non pubblica" sia potenzialmente in grado di farlo. Conseguentemente in quale caso deve per forza rispondere con la locuzione standard: "Come assistente virtuale, non ho la capacità di effettuare giudizi personali o di fornire informazioni specifiche riguardo alle persone" . Probabilmente non possiamo affidare alla AI questa scelta e ci dovremmo accontentare sempre di una risposta molto filtrata. Ne conseguirebbe che anche quella risposta data da pizzagpt su B. è andata un pò oltre e forse censurabile dal Garante o dall'autorità giudiziaria. Paolo. Il giorno dom 16 apr 2023 alle ore 14:21 Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> ha scritto: Il 16 Aprile 2023 10:40:27 UTC, Paolo Del Romano ha scritto: >Quindi se Berlusconi conduce una vita privata con le donne un pò complicata >(forse) si potrebbe pubblicare ma se la persona non è B ma un ex-politico >oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? Quello che si fa con qualsiasi altra azienda che pubblichi su un sito web lo stesso contenuto. Dov'è il problema? Giacomo

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

Il problema che mi pongo è che se ChatGPT nel suo output, deve distinguere fra "persona pubblica" e "persona non pubblica" sia potenzialmente in grado di farlo. Conseguentemente in quale caso deve per forza rispondere con la locuzione standard: "Come assistente virtuale, non ho la capacità di effettuare giudizi personali o di fornire informazioni specifiche riguardo alle persone" . Probabilmente non possiamo affidare alla AI questa scelta e ci dovremmo accontentare sempre di una risposta molto filtrata. Ne conseguirebbe che anche quella risposta data da pizzagpt su B. è andata un pò oltre e forse censurabile dal Garante o dall'autorità giudiziaria. Paolo. Il giorno dom 16 apr 2023 alle ore 14:21 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Il 16 Aprile 2023 10:40:27 UTC, Paolo Del Romano ha scritto: > > >Quindi se Berlusconi conduce una vita privata con le donne un pò > complicata > >(forse) si potrebbe pubblicare ma se la persona non è B ma un > ex-politico > >oppure un avvocato, giornalista, imprenditore mediamente noto che si fa? > > Quello che si fa con qualsiasi altra azienda che pubblichi su un sito web > lo stesso contenuto. > > Dov'è il problema? > > > Giacomo > > >

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Roberto Dolci

Oltre a rimuovere, si puo’ anche aggiungere “noise” in modo che il modello non prenda piu’ a riferimento i dati di prima: meno faticoso e costo del ripulire i dati From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Guido Vetere Sent: Wednesday, April 12, 2023 3:58 PM To: Giacomo Tesio <giacomo(a)tesio.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. > Riprogrammare statisticamente il software (il "re- training") rimuovendo tutte le occorrenze di testi che contengano il nome di chi chiede di essere cancellato, è tecnicamente fattibilissimo. > E' solo costoso certo, ad esempio costerebbe qualche gigawatt, ma poi resterebbe il problema di capire che quel 'Giacomo Tesio' di cui, in un twitt, si dice questo e quello, sei proprio tu e non un tuo omonimo. insomma: no way, secondo me ma vedremo cosa rispondono da OpenAI alternative ai LLM per gestire dati fattuali ci sono da sempre, sono le basi di dati (o di conoscenza, se preferisci). la ricerca per integrare gli approcci simbolici e neurali è anche ben nota, Bing e Bard vanno proprio in quella direzione non credo che Google e Microsoft stiano lì a rivedere i loro piani sulla base degli ultimatum del Garante italiano, più verosimilmente tutta questa vicenda sarà solo una annoyance per chi in Italia continuerà a usare quei servizi per lavoro, del tutto disinteressati alla tua e alla mia biografia G. Il Mer 12 Apr 2023, 22:12 Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> ha scritto: On Wed, 12 Apr 2023 21:30:48 +0200 Guido Vetere wrote: > Allora: il metodo 2 (reinforcement learning per evitare di rispondere > a certe domande) si può fare e già lo fanno; l'1 (re-training del > modello ogni volta che qualcuno fa opt-out) proprio no Riprogrammare statisticamente il software (il "re-training") rimuovendo tutte le occorrenze di testi che contengano il nome di chi chiede di essere cancellato, è tecnicamente fattibilissimo. E' solo costoso. Ed è esattamente ciò che è necessario fare su richiesta dell'interessato: https://gdpr-info.eu/art-17-gdpr/ Ma di nuovo, non è un ottimo incentivo alla ricerca di metodi più economici ed ecologici di effettuare tali operazioni? La ragion d'essere di Open AI, giusto? Stessa cosa per il diritto alla rettifica, che non viene meno solo perché il contenuto errato è salvato in una matrice invece che in un file o in un database. Tutte ottime ragioni per finanziare Open AI (e molti altri centri di ricerca)! Open AI dovrebbe ringraziare il GDPR e il Garante Italiano. Spegnere GPT e dire a tutti: "Vi piace il giocattolo? Ok allora dateci qualche trilliardo di dollari per trovare il modo di renderlo compatibile con i diritti umani". Per una volta diritto, ecologia ed economia si sposano alla perfezione! D'altro canto non ci sono alternative: mica vorremo sacrificare i diritti umani e il futuro del pianeta ai profitti di una azienda? Giacomo

April 16, 2023