- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by D. Davide Lamanna

On 4/13/23 12:49, Giacomo Tesio wrote: > > Basta imporre che tutti i dataset utilizzati durante la programmazione statistica > ("training" nella vulgata), inclusi quelli usati per la cross validation e il test, nonché tutti gli > altri dati necessari a riprodurre esattamente il processo ed ottenere esattamente il modello > in produzione (e le sue alternative scartate), siano preservati per tutta la durata della sua permanenza in produzione e diciamo 20 anni dopo (in caso di aggiornamento). [1] > > Rendendo verficabilmente e completamente riproducibile il processo di programmazione > statistica, Open AI (come chiunque altro) potrà facilmente dimostrare di non aver utilizzato dati > ottenuti in violazione di qualsisi Legge. > Ciao Giacomo, una cosa così? <https://venturebeat.com/ai/databricks-releases-dolly-2-0-the-first-open-ins…>. <https://github.com/databrickslabs/dolly/tree/master/data>. D. (null)

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Non ci vorrebbe molto in effetti per fare un EU-GPT, con allucinazioni garantite da procedure e regolamenti. Il problema è che tedeschi e francesi impiegherebbero un paio di anni solo per spartirsi l'organigramma. L'Italia potrebbe avere il Direttore Generale dell'Etica (in realtà, però, nominato dal Vaticano). Ma mettiamo da parte le facezie. Se guardiamo dentro GPT-4, ci troviamo almeno una ventina di lingue tra cui il coreano e il fiammingo, e un numero enorme di competenze specialistiche, per lo più nell'ambito della programmazione, ma estese praticamente a tutto lo scibile, dalla filosofia teoretica alle ricette di cucina. Tutto contenuto nel campo di forze generato da non si sa (letteralmente) quante centinaia di miliardi di parametri. Se decomponiamo questo spazio sulle assi delle lingue e delle competenze, forse riusciamo a vedere che, ad esempio, non essendo interessati alle conversazioni di filosofia teoretica in coreano, ci basta un modello più piccolo e maneggevole. Insomma: GPT-4 può essere "fatto a pezzi", e ciascun pezzo può essere gestito in modo "aperto e democratico", realizzando così gli scopi (umoristicamente) dichiarati da OpenAI. Io credo che questo processo sia già spontaneamente in corso (non solo nelle università) e credo che la UE dovrebbe dare supporto all'affermazione di questo nuovo modello di sviluppo, più che cercare di inibire i soggetti privati statunitensi (gli stessi che piazzano i loro VP nella nostra Amministrazione) con improbabili richieste. G. On Fri, 14 Apr 2023 at 01:34, Stefano Maffulli <smaffulli(a)gmail.com> wrote: > On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> > wrote: > >> Per l’energia atomica, abbiamo da una parte firmato trattati di non >> proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il >> CERN, con fondi pubblici, per permettere di studiare la scienza delle >> particelle e della costituzione dell’universo. >> > > Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare in > modo che gli LLM non siano solo appannaggio delle mega corp e dei governi. > Questi hanno facile accesso ai gigabyte di dati necessari mentre agli altri > alcuni gruppi (da Getty ai massimalisti della privacy e del copyright) > stanno opponendo ogni tipo di ostacolo... C'è un delicato equilibrio da > raggiungere per consentire a gruppi senza fini di lucro ben intenzionati > come Laion e Eleuther AI e alle classiche università di creare conoscenza > liberamente accessibile in questo settore. > > Parlando di CERN, LAION sta facendo circolare una proposta quantomeno > stuzzicante: https://laion.ai/blog/petition/ > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Maffulli

On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> wrote: > Per l’energia atomica, abbiamo da una parte firmato trattati di non > proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il > CERN, con fondi pubblici, per permettere di studiare la scienza delle > particelle e della costituzione dell’universo. > Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare in modo che gli LLM non siano solo appannaggio delle mega corp e dei governi. Questi hanno facile accesso ai gigabyte di dati necessari mentre agli altri alcuni gruppi (da Getty ai massimalisti della privacy e del copyright) stanno opponendo ogni tipo di ostacolo... C'è un delicato equilibrio da raggiungere per consentire a gruppi senza fini di lucro ben intenzionati come Laion e Eleuther AI e alle classiche università di creare conoscenza liberamente accessibile in questo settore. Parlando di CERN, LAION sta facendo circolare una proposta quantomeno stuzzicante: https://laion.ai/blog/petition/

April 13, 2023

Re: [nexa] The principle of technological inevitability

by alessandro marzocchi

Era inevitabile la parola, primo artefatto prima tecnologia? E' evitabile il digitale? Con l'imbarazzo di trovarmi in una posizione diversa da "tanti" nomi, nell'argomento trovo poca utilità, è arrivata la parola, il digitale ed altro, in sostanza "attrezzi" la cui direzione è nostra responsabilità. L'attrezzo nuovo, il digitale, conquista funzioni umane in numero e qualità crescenti, potrebbe incidere in profondità nel nostro (modo di) essere, fondamentalmente erodendo l'autonomia della nostra facoltà critica che è la caratteristica che distingue l'umano. Vedendo, temendo questa erosione spero di sbagliare. Sono ottimi molti suggerimenti che ho letto in listaNexa, praticamente tutti, ma - convinzione mia - l'unico rimedio radicale è rendere completamente verificabile e riproducibile l'intero processo di programmazione. ... se di fatto (parte de) il digitale ha l'efficacia imperativa di una legge ... quando il digitale non è conoscibile ci troviamo in una situazione di inconoscibilità della regola. E' una situazione scomoda, andava evitata, va avversata. Grazie per quanto mi insegnate. Duccio (Alessandro Marzocchi) Il giorno gio 13 apr 2023 alle ore 21:29 <nexa-request(a)server-nexa.polito.it> ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: ChatGPT disabled for users in Italy (alessandro marzocchi) > 2. Re: ChatGPT disabled for users in Italy (Stefano Quintarelli) > 3. The principle of technological inevitability [era: ChatGPT > disabled for users in Italy] (Daniela Tafani) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Thu, 13 Apr 2023 20:02:14 +0200 > From: alessandro marzocchi <alemarzoc(a)gmail.com> > To: nexa(a)server-nexa.polito.it, stefano(a)quintarelli.it > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Message-ID: > <CAG5xczfJnpbhJ= > x+hs5FhUKt0tr3nGvVJ9Cdz6NgUrgnFfqk_Q(a)mail.gmail.com> > Content-Type: text/plain; charset="utf-8" > > Puoi inviare il link alla proposta di legge cui ti riferisci? > Cosa intendi, a cosa riferisci "penso che questo sia una sorta di > inevitabilismo"? > Grazie e cordialità. > Duccio (Alessandro Marzocchi) > > > Date: Thu, 13 Apr 2023 17:53:56 +0200 > > From: Stefano Quintarelli <stefano(a)quintarelli.it> > > penso che questo sia una sorta di inevitabilismo > > quando ho fatto la mia PDL su device neutrality (arrivata in italia ad un > > voto > > dall'approvazione, come qualcuno di voi ricordera') ho toccato con mano > la > > paura che > > costoro avevano. > > in una lunga e spiacevole riunione con un capo delle relazioni > > istituzionali a Bruxelles > > mi fu prospettato per il post parlamento un futuro radioso per competenze > > come le mie, in > > silicon valley. > > si spesero molto in lobby per fare in modo che l'ultimo voto non > arrivasse > > mai. > > il potere dello stato e' grande e per loro era un forte rischio, tanto da > > spendersi > > cospicuamente in lobby. > > il voto finale al senato non arrivo' mai, termino' la legislatura. > > pero' le mie previsioni sono finite nel digital markets act. > > ciao, s. > > > > On 13/04/23 17:14, alessandro marzocchi wrote: > > > A me pare che lo stato di diritto sia in forte crisi avviata prima > > ancora della > > > transizione digitale, quest'ultima la accentua e potrebbe dargli il > > colpo finale. > > > [Qual'è il potere di un stato (Italia, ma anche Cina, Ue, Usa) di > fronte > > alla "fattualità" > > > dei colossi digitali? Parafrasando Manzoni, parlerei di "grida" che > > inutilmente cercano di > > > arginare i fatti] > > > Con questi timori si deve insistere per rendere completamente > > verificabile e riproducibile > > > l'intero processo di programmazione. > > > Cordialmente > > > Duccio (Alessandro Marzocchi) > > > > > > Date: Thu, 13 Apr 2023 10:49:17 +0000 > > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > > > To: Guido Vetere <vetere.guido(a)gmail.com <mailto: > > vetere.guido(a)gmail.com>>, 380° > > > <g380(a)biscuolo.net <mailto:g380@biscuolo.net>> > > > Il 12 Aprile 2023 14:28:03 UTC, Guido Vetere < > vetere.guido(a)gmail.com > > > <mailto:vetere.guido@gmail.com>> ha scritto: > > > >Giacomo, > > > >anche il LM più puri usati per il più innocente task di > > classificazione > > > >potrebbero essere stati addestrati con dati ottenuti senza il > > consenso > > > >esplicito di chi li ha condivisi, dunque in violazione del GDPR. > > > >Che vogliamo fare? > > > > > > Nella peggiore delle ipotesi, quello che si fa con l'Eternit, per > > esempio. > > > Possibilmente prima che faccia troppi danni alle persone e alla > > società. > > > Però la questione che poni sul dataset usato per la programmazione > > statistica ha una > > > soluzione > > > estremamente semplice. > > > Basta imporre che tutti i dataset utilizzati durante la > > programmazione statistica > > > ("training" nella vulgata), inclusi quelli usati per la cross > > validation e il test, > > > nonché tutti gli > > > altri dati necessari a riprodurre esattamente il processo ed > > ottenere esattamente il > > > modello > > > in produzione (e le sue alternative scartate), siano preservati per > > tutta la durata > > > della sua permanenza in produzione e diciamo 20 anni dopo (in caso > > di aggiornamento). [1] > > > Rendendo verficabilmente e completamente riproducibile il processo > > di programmazione > > > statistica, Open AI (come chiunque altro) potrà facilmente > > dimostrare di non aver > > > utilizzato dati > > > ottenuti in violazione di qualsisi Legge. > > > Più costoso (ma spesso possibile) sarà dimostrare che la selezione > > del dataset > > > o il processo di programnazione utilizzato non abbia prodotto > > specifiche discriminazioni. > > > Molto più complesso e costoso, dimostrare di non aver voluto > imporre > > al modello alcuna > > > discriminazione intenzionale. > > > Tuttavia parliamo di cose perfettamente fattibili sul piano > tecnico, > > ancorché costose. > > > Ma si sa: l'innovazione costa. > > > E al DARPA hanno un sacco di soldi per finanziarla. ;-) > > > L'importante è impedire che qualsiasi tecnologia possa essere usata > > per violare i > > > diritti delle persone > > > (a vantaggio di altre persone, per altro) > > > Perché se passasse questo principio, dovremmo dire addio allo Stato > > di Diritto, > > > con tutto ciò che questo comporta. > > > Inclusa, ad esempio, l'abolizione del diritto alla proprietà > privata. > > > Si può fare eh! > > > Ma sei sicuro che sia ciò a cui aspiri? > > > Giacomo > > > [1]: inclusi ovviamente vettori di inizializzazione, valori > ottenuti > > da sorgenti > > > randomiche, > > > ordine esatto e contenuto dei batch di vettori usati durante il > > processo di > > > programmazione statistica etc... tutto insomma ciò che serve a > > riottenere esattamente > > > quel binario codato come matrice. > > > > >

April 13, 2023

Assegno di ricerca

by de petra giulio

Segnalo che nel progetto "FAIR - Future Artificial Research", partenariato PNRR la Scuola Normale di Firenze ha bandito un *assegno di ricerca di 2 anni* *sull'impatto sociale ed economico dell'intelligenza artificiale* e delle tecnologie digitali sulla democrazia sia politica che industriale Per informazioni contattare il responsabile del progetto Hans-Jorg Trenz hansjorg.trenz(a)sns.it il bando è qui *https://amministrazionetrasparente.sns.it/bando/fair-future-artificial-research <https://amministrazionetrasparente.sns.it/bando/fair-future-artificial-rese…>* La scadenza è il 2 maggio.

April 13, 2023

The principle of technological inevitability [era: ChatGPT disabled for users in Italy]

by Daniela Tafani

"The myth of technological and political and social inevitability is a powerful tranquilizer of the conscience. Its service is to remove responsibility from the shoulders of everyone who truly believes in it. But, in fact, there are actors!" "As we ourselves have also observed, the reification of complex systems that have no authors, about which we know only that they were somehow given us by science and that they speak with its authority, permits no questions of truth or justice to be asked. I cannot tell why the spokesmen I have cited want the developments they forecast to become true. Some of them have told me that they work on them for the morally bankrupt reason that “If we don’t do it, someone else will.” They fear that evil people will develop superintelligent machines and use them to oppress mankind, and that the only defense against these enemy machines will be superintelligent machines controlled by us, that is, by well-intentioned people. Others reveal that they have abdicated their autonomy by appealing to the “principle” of technological inevitability". Joseph Weizenbaum, Computer power and human reason. From judgement to calculation, 1976 ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di alessandro marzocchi <alemarzoc(a)gmail.com> Inviato: giovedì 13 aprile 2023 20:02 A: nexa(a)server-nexa.polito.it; stefano(a)quintarelli.it Oggetto: Re: [nexa] ChatGPT disabled for users in Italy Puoi inviare il link alla proposta di legge cui ti riferisci? Cosa intendi, a cosa riferisci "penso che questo sia una sorta di inevitabilismo"? Grazie e cordialità. Duccio (Alessandro Marzocchi) Date: Thu, 13 Apr 2023 17:53:56 +0200 From: Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it>> penso che questo sia una sorta di inevitabilismo quando ho fatto la mia PDL su device neutrality (arrivata in italia ad un voto dall'approvazione, come qualcuno di voi ricordera') ho toccato con mano la paura che costoro avevano. in una lunga e spiacevole riunione con un capo delle relazioni istituzionali a Bruxelles mi fu prospettato per il post parlamento un futuro radioso per competenze come le mie, in silicon valley. si spesero molto in lobby per fare in modo che l'ultimo voto non arrivasse mai. il potere dello stato e' grande e per loro era un forte rischio, tanto da spendersi cospicuamente in lobby. il voto finale al senato non arrivo' mai, termino' la legislatura. pero' le mie previsioni sono finite nel digital markets act. ciao, s. On 13/04/23 17:14, alessandro marzocchi wrote: > A me pare che lo stato di diritto sia in forte crisi avviata prima ancora della > transizione digitale, quest'ultima la accentua e potrebbe dargli il colpo finale. > [Qual'è il potere di un stato (Italia, ma anche Cina, Ue, Usa) di fronte alla "fattualità" > dei colossi digitali? Parafrasando Manzoni, parlerei di "grida" che inutilmente cercano di > arginare i fatti] > Con questi timori si deve insistere per rendere completamente verificabile e riproducibile > l'intero processo di programmazione. > Cordialmente > Duccio (Alessandro Marzocchi) > > Date: Thu, 13 Apr 2023 10:49:17 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it> <mailto:giacomo@tesio.it<mailto:giacomo@tesio.it>>> > To: Guido Vetere <vetere.guido(a)gmail.com<mailto:vetere.guido@gmail.com> <mailto:vetere.guido@gmail.com<mailto:vetere.guido@gmail.com>>>, 380° > <g380(a)biscuolo.net<mailto:g380@biscuolo.net> <mailto:g380@biscuolo.net<mailto:g380@biscuolo.net>>> > Il 12 Aprile 2023 14:28:03 UTC, Guido Vetere <vetere.guido(a)gmail.com<mailto:vetere.guido@gmail.com> > <mailto:vetere.guido@gmail.com<mailto:vetere.guido@gmail.com>>> ha scritto: > >Giacomo, > >anche il LM più puri usati per il più innocente task di classificazione > >potrebbero essere stati addestrati con dati ottenuti senza il consenso > >esplicito di chi li ha condivisi, dunque in violazione del GDPR. > >Che vogliamo fare? > > Nella peggiore delle ipotesi, quello che si fa con l'Eternit, per esempio. > Possibilmente prima che faccia troppi danni alle persone e alla società. > Però la questione che poni sul dataset usato per la programmazione statistica ha una > soluzione > estremamente semplice. > Basta imporre che tutti i dataset utilizzati durante la programmazione statistica > ("training" nella vulgata), inclusi quelli usati per la cross validation e il test, > nonché tutti gli > altri dati necessari a riprodurre esattamente il processo ed ottenere esattamente il > modello > in produzione (e le sue alternative scartate), siano preservati per tutta la durata > della sua permanenza in produzione e diciamo 20 anni dopo (in caso di aggiornamento). [1] > Rendendo verficabilmente e completamente riproducibile il processo di programmazione > statistica, Open AI (come chiunque altro) potrà facilmente dimostrare di non aver > utilizzato dati > ottenuti in violazione di qualsisi Legge. > Più costoso (ma spesso possibile) sarà dimostrare che la selezione del dataset > o il processo di programnazione utilizzato non abbia prodotto specifiche discriminazioni. > Molto più complesso e costoso, dimostrare di non aver voluto imporre al modello alcuna > discriminazione intenzionale. > Tuttavia parliamo di cose perfettamente fattibili sul piano tecnico, ancorché costose. > Ma si sa: l'innovazione costa. > E al DARPA hanno un sacco di soldi per finanziarla. ;-) > L'importante è impedire che qualsiasi tecnologia possa essere usata per violare i > diritti delle persone > (a vantaggio di altre persone, per altro) > Perché se passasse questo principio, dovremmo dire addio allo Stato di Diritto, > con tutto ciò che questo comporta. > Inclusa, ad esempio, l'abolizione del diritto alla proprietà privata. > Si può fare eh! > Ma sei sicuro che sia ciò a cui aspiri? > Giacomo > [1]: inclusi ovviamente vettori di inizializzazione, valori ottenuti da sorgenti > randomiche, > ordine esatto e contenuto dei batch di vettori usati durante il processo di > programmazione statistica etc... tutto insomma ciò che serve a riottenere esattamente > quel binario codato come matrice.

April 13, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Stefano Quintarelli

https://duckduckgo.com/?q=proposta+di+legge+device+neutrality&t=newext&atb=… https://www.senato.it/leg/17/BGT/Schede/Ddliter/testi/47153_testi.htm ‘Technological inevitability is the mantra on which we are trained, but it is an existential narcotic prescribe to induce resignation: a snuff dream of the spirit.’ - The Age of Surveillance Capitalism, p. 516. ciao, s. On 13/04/23 20:02, alessandro marzocchi wrote: > Puoi inviare il link alla proposta di legge cui ti riferisci? > Cosa intendi, a cosa riferisci "penso che questo sia una sorta di inevitabilismo"? > Grazie e cordialità. > Duccio (Alessandro Marzocchi) > > > Date: Thu, 13 Apr 2023 17:53:56 +0200 > From: Stefano Quintarelli <stefano(a)quintarelli.it <mailto:stefano@quintarelli.it>> > penso che questo sia una sorta di inevitabilismo > quando ho fatto la mia PDL su device neutrality (arrivata in italia ad un voto > dall'approvazione, come qualcuno di voi ricordera') ho toccato con mano la paura che > costoro avevano. > in una lunga e spiacevole riunione con un capo delle relazioni istituzionali a Bruxelles > mi fu prospettato per il post parlamento un futuro radioso per competenze come le mie, in > silicon valley. > si spesero molto in lobby per fare in modo che l'ultimo voto non arrivasse mai. > il potere dello stato e' grande e per loro era un forte rischio, tanto da spendersi > cospicuamente in lobby. > il voto finale al senato non arrivo' mai, termino' la legislatura. > pero' le mie previsioni sono finite nel digital markets act. > ciao, s. > > On 13/04/23 17:14, alessandro marzocchi wrote: > > A me pare che lo stato di diritto sia in forte crisi avviata prima ancora della > > transizione digitale, quest'ultima la accentua e potrebbe dargli il colpo finale. > > [Qual'è il potere di un stato (Italia, ma anche Cina, Ue, Usa) di fronte alla > "fattualità" > > dei colossi digitali? Parafrasando Manzoni, parlerei di "grida" che inutilmente > cercano di > > arginare i fatti] > > Con questi timori si deve insistere per rendere completamente verificabile e > riproducibile > > l'intero processo di programmazione. > > Cordialmente > > Duccio (Alessandro Marzocchi) > > > > Date: Thu, 13 Apr 2023 10:49:17 +0000 > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it> > <mailto:giacomo@tesio.it <mailto:giacomo@tesio.it>>> > > To: Guido Vetere <vetere.guido(a)gmail.com <mailto:vetere.guido@gmail.com> > <mailto:vetere.guido@gmail.com <mailto:vetere.guido@gmail.com>>>, 380° > > <g380(a)biscuolo.net <mailto:g380@biscuolo.net> <mailto:g380@biscuolo.net > <mailto:g380@biscuolo.net>>> > > Il 12 Aprile 2023 14:28:03 UTC, Guido Vetere <vetere.guido(a)gmail.com > <mailto:vetere.guido@gmail.com> > > <mailto:vetere.guido@gmail.com <mailto:vetere.guido@gmail.com>>> ha scritto: > > >Giacomo, > > >anche il LM più puri usati per il più innocente task di classificazione > > >potrebbero essere stati addestrati con dati ottenuti senza il consenso > > >esplicito di chi li ha condivisi, dunque in violazione del GDPR. > > >Che vogliamo fare? > > > > Nella peggiore delle ipotesi, quello che si fa con l'Eternit, per esempio. > > Possibilmente prima che faccia troppi danni alle persone e alla società. > > Però la questione che poni sul dataset usato per la programmazione statistica > ha una > > soluzione > > estremamente semplice. > > Basta imporre che tutti i dataset utilizzati durante la programmazione statistica > > ("training" nella vulgata), inclusi quelli usati per la cross validation e il test, > > nonché tutti gli > > altri dati necessari a riprodurre esattamente il processo ed ottenere > esattamente il > > modello > > in produzione (e le sue alternative scartate), siano preservati per tutta la durata > > della sua permanenza in produzione e diciamo 20 anni dopo (in caso di > aggiornamento). [1] > > Rendendo verficabilmente e completamente riproducibile il processo di > programmazione > > statistica, Open AI (come chiunque altro) potrà facilmente dimostrare di non aver > > utilizzato dati > > ottenuti in violazione di qualsisi Legge. > > Più costoso (ma spesso possibile) sarà dimostrare che la selezione del dataset > > o il processo di programnazione utilizzato non abbia prodotto specifiche > discriminazioni. > > Molto più complesso e costoso, dimostrare di non aver voluto imporre al modello > alcuna > > discriminazione intenzionale. > > Tuttavia parliamo di cose perfettamente fattibili sul piano tecnico, ancorché > costose. > > Ma si sa: l'innovazione costa. > > E al DARPA hanno un sacco di soldi per finanziarla. ;-) > > L'importante è impedire che qualsiasi tecnologia possa essere usata per violare i > > diritti delle persone > > (a vantaggio di altre persone, per altro) > > Perché se passasse questo principio, dovremmo dire addio allo Stato di Diritto, > > con tutto ciò che questo comporta. > > Inclusa, ad esempio, l'abolizione del diritto alla proprietà privata. > > Si può fare eh! > > Ma sei sicuro che sia ciò a cui aspiri? > > Giacomo > > [1]: inclusi ovviamente vettori di inizializzazione, valori ottenuti da sorgenti > > randomiche, > > ordine esatto e contenuto dei batch di vettori usati durante il processo di > > programmazione statistica etc... tutto insomma ciò che serve a riottenere > esattamente > > quel binario codato come matrice. >

April 13, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by alessandro marzocchi

Puoi inviare il link alla proposta di legge cui ti riferisci? Cosa intendi, a cosa riferisci "penso che questo sia una sorta di inevitabilismo"? Grazie e cordialità. Duccio (Alessandro Marzocchi) Date: Thu, 13 Apr 2023 17:53:56 +0200 > From: Stefano Quintarelli <stefano(a)quintarelli.it> > penso che questo sia una sorta di inevitabilismo > quando ho fatto la mia PDL su device neutrality (arrivata in italia ad un > voto > dall'approvazione, come qualcuno di voi ricordera') ho toccato con mano la > paura che > costoro avevano. > in una lunga e spiacevole riunione con un capo delle relazioni > istituzionali a Bruxelles > mi fu prospettato per il post parlamento un futuro radioso per competenze > come le mie, in > silicon valley. > si spesero molto in lobby per fare in modo che l'ultimo voto non arrivasse > mai. > il potere dello stato e' grande e per loro era un forte rischio, tanto da > spendersi > cospicuamente in lobby. > il voto finale al senato non arrivo' mai, termino' la legislatura. > pero' le mie previsioni sono finite nel digital markets act. > ciao, s. > > On 13/04/23 17:14, alessandro marzocchi wrote: > > A me pare che lo stato di diritto sia in forte crisi avviata prima > ancora della > > transizione digitale, quest'ultima la accentua e potrebbe dargli il > colpo finale. > > [Qual'è il potere di un stato (Italia, ma anche Cina, Ue, Usa) di fronte > alla "fattualità" > > dei colossi digitali? Parafrasando Manzoni, parlerei di "grida" che > inutilmente cercano di > > arginare i fatti] > > Con questi timori si deve insistere per rendere completamente > verificabile e riproducibile > > l'intero processo di programmazione. > > Cordialmente > > Duccio (Alessandro Marzocchi) > > > > Date: Thu, 13 Apr 2023 10:49:17 +0000 > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > > To: Guido Vetere <vetere.guido(a)gmail.com <mailto: > vetere.guido(a)gmail.com>>, 380° > > <g380(a)biscuolo.net <mailto:g380@biscuolo.net>> > > Il 12 Aprile 2023 14:28:03 UTC, Guido Vetere <vetere.guido(a)gmail.com > > <mailto:vetere.guido@gmail.com>> ha scritto: > > >Giacomo, > > >anche il LM più puri usati per il più innocente task di > classificazione > > >potrebbero essere stati addestrati con dati ottenuti senza il > consenso > > >esplicito di chi li ha condivisi, dunque in violazione del GDPR. > > >Che vogliamo fare? > > > > Nella peggiore delle ipotesi, quello che si fa con l'Eternit, per > esempio. > > Possibilmente prima che faccia troppi danni alle persone e alla > società. > > Però la questione che poni sul dataset usato per la programmazione > statistica ha una > > soluzione > > estremamente semplice. > > Basta imporre che tutti i dataset utilizzati durante la > programmazione statistica > > ("training" nella vulgata), inclusi quelli usati per la cross > validation e il test, > > nonché tutti gli > > altri dati necessari a riprodurre esattamente il processo ed > ottenere esattamente il > > modello > > in produzione (e le sue alternative scartate), siano preservati per > tutta la durata > > della sua permanenza in produzione e diciamo 20 anni dopo (in caso > di aggiornamento). [1] > > Rendendo verficabilmente e completamente riproducibile il processo > di programmazione > > statistica, Open AI (come chiunque altro) potrà facilmente > dimostrare di non aver > > utilizzato dati > > ottenuti in violazione di qualsisi Legge. > > Più costoso (ma spesso possibile) sarà dimostrare che la selezione > del dataset > > o il processo di programnazione utilizzato non abbia prodotto > specifiche discriminazioni. > > Molto più complesso e costoso, dimostrare di non aver voluto imporre > al modello alcuna > > discriminazione intenzionale. > > Tuttavia parliamo di cose perfettamente fattibili sul piano tecnico, > ancorché costose. > > Ma si sa: l'innovazione costa. > > E al DARPA hanno un sacco di soldi per finanziarla. ;-) > > L'importante è impedire che qualsiasi tecnologia possa essere usata > per violare i > > diritti delle persone > > (a vantaggio di altre persone, per altro) > > Perché se passasse questo principio, dovremmo dire addio allo Stato > di Diritto, > > con tutto ciò che questo comporta. > > Inclusa, ad esempio, l'abolizione del diritto alla proprietà privata. > > Si può fare eh! > > Ma sei sicuro che sia ciò a cui aspiri? > > Giacomo > > [1]: inclusi ovviamente vettori di inizializzazione, valori ottenuti > da sorgenti > > randomiche, > > ordine esatto e contenuto dei batch di vettori usati durante il > processo di > > programmazione statistica etc... tutto insomma ciò che serve a > riottenere esattamente > > quel binario codato come matrice. > >

April 13, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giuseppe Attardi

Sottoscrivo, per non lasciare Guido solo, nel suo sforzo di invitare a riflettere anche sugli aspetti tecnici, che sono rilevanti e innovativi, e non solo su quelli normativi. Ci sono stati 3 breakthrough scientifici nel campo dei LLM in soli 10 anni. Se non si affronta la questione tenendo conto della derivata e si guarda solo allo stato attuale, si perde di vista il quadro prospettico. Paradossalmente è più sensata la richiesta di fermare lo sviluppo dei LLM che quella di regolamentarli oggi con le scarse conoscenze che abbiamo del loro funzionamento e dei loro potenziali benefici. Anche se ovviamente fermare il progresso è oscurantista e pericoloso, se affidato solo ai governi o a coloro che essi scelgono. AStefano ribatto che rallentare il "progressivo sviluppo (di qualche megacorporate)” non è l'unica scelta possibile, ma c'è anche quella di accelerare lo sviluppo della scienza e della tecnologia da parte della comunità scientifica internazionale. Per l’energia atomica, abbiamo da una parte firmato trattati di non proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il CERN, con fondi pubblici, per permettere di studiare la scienza delle particelle e della costituzione dell’universo. — Beppe > On 13 Apr 2023, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > From: Guido Vetere <vetere.guido(a)gmail.com <mailto:vetere.guido@gmail.com>> > To: Stefano Quintarelli <stefano(a)quintarelli.it <mailto:stefano@quintarelli.it>> > Cc: Nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > sospesa se OpenAI adotterà le misure richieste. > Message-ID: > <CAD3hHB494OGr98BxTs7RDzz_Dem_O7JrsRzWpPKEikVE-W0A_w(a)mail.gmail.com <mailto:CAD3hHB494OGr98BxTs7RDzz_Dem_O7JrsRzWpPKEikVE-W0A_w@mail.gmail.com>> > Content-Type: text/plain; charset="utf-8" > > Caro Stefano, > queste facili ironie (per glissare sugli insulti) rivelano il sottofondo > ideologico della questione. > Si interpreta la vicenda come la difesa dei diritti contro il profitto, e > ci si compiace per la propria democraticità. > Benissimo. Questo però offusca una visione chiara della cosa, e rischia di > fornire l'alibi per continuare a non capire certi aspetti tecnici. > Il punto non è tanto che rifare il training ogni 6 mesi costa 80M (e > svariati gigawatt), il punto è che bonificare terabyte di dati testuali da > tutto ciò che può riguardare il sig, Mario Rossi che ha fatto opt-out è > un'impresa abbastanza ardua (cosa facciamo col Mario Rossi che ha fatto > opt-in?), e in ogni caso nulla garantisce che un sistema generativo basato > su trasformers non possa comunque inventare storielle su 'Mario Rossi' > sulla base di analogie ('somiglianze di famiglia' per usare una metafora > wittgensteiniana) > Non vorrei sembrare arrogante, e mi scuso in anticipo, ma credo davvero che > la questione vada studiata più a fondo. > G. > > > > > > On Thu, 13 Apr 2023 at 07:46, Stefano Quintarelli <stefano(a)quintarelli.it <mailto:stefano@quintarelli.it>> > wrote: > >> >> eh gia', quelle cose fastidiose chiamate regole, che impongono limiti al >> magnifico e >> progressivo sviluppo (di qualche megacorporate). non sono questi i veri >> problemi. il >> problema e' che magari ci sfugge di mano e schiavizza l'umanita'! di >> quello ci dovremmo >> occupare! mica di impatti sulla societa', sui lavoratori, fiscali, ecc. >> ecc. >> >> scusa la facile ironia, ma dissento. >> >> On 12/04/23 22:57, Guido Vetere wrote: >>> non credo che Google e Microsoft stiano lì a rivedere i loro piani sulla >> base degli >>> ultimatum del Garante italiano, più verosimilmente tutta questa vicenda >> sarà solo una >>> annoyance per chi in Italia continuerà a usare quei servizi per lavoro, >> del tutto >>> disinteressati alla tua e alla mia biografia >> >> premesso che la cosa non e' IT ma UE, ma anche mmettendo fosse solo IT, >> dipenderebbe solo >> se in IT fanno piu' soldi di quanto gli costerebbe >> e la risposta ovvia e' si. (e gia' successo e succedera' ancora) >> >> supponiamo il garante trovi proporzionale che l'opt out sia entro 60 >> giorni e non entro 30. >> >> supponiamo che >> - un retraining del modello costi 20M >> - ne facciano di per se' gia uno ogni sei mesi >> - sono 4 retraining aggiuntivi, pari a 80M >> >> bazzeccole. >> rinuncio al fatturato IT per bazzeccole ? (cosa che tra l'altro mi >> metterebbe al riparo da >> fastidi analoghi in altri paesi) >> >> ciao, s.

April 13, 2023

Re: [nexa] Charles Oppenheimer - To avoid an AI “arms race,” the world needs to expand scientific collaboration - BAS notsp

by Alberto Cammozzo

Grazie, vedo che il nipote di Robert Oppenheimer cita il nonno, che dice accomiatandosi dallo staff che coordinò nei laboratori di Los Alamos: “If you are a scientist you believe that it is good to find out how the world works; that it is good to find out what the realities are; that it is good to turn over to mankind at large the greatest possible power to control the world and to deal with it according to its lights and its values.” Sono belle parole, forse un poco retoriche, alle quali andrebbero affiancate anche altre sue parole, dette quasi 10 anni dopo, sulle quali forse è bene riflettere nel contesto attuale: «when you see something that is technically sweet, you go ahead and do it and you argue about what to do about it only after you have had your technical success. That is the way it was with the atomic bomb. I do not think anybody opposed asking it; there were some debates about what to do with it after it was made. I cannot very well imagine if we had known in late 1949 what we go to know by early 1951 that the tone of our report would have been the same.» [1] Alberto [1] Robert Oppenheimer in US Atomic Energy Commission – Personnel Security Board. “Proceedings: Hearing of Robert Oppenheimer – Volume 2.” Washington DC., 1954, p.266 On 13/04/23 17:37, Diego.Latella wrote: > > *Charles Oppenheimer* > To avoid an AI “arms race,” the world needs to expand scientific > collaboration > /Bulletin of Atomic Scientists/ > https://thebulletin.org/2023/04/to-avoid-an-ai-arms-race-the-world-needs-to… > > DL > > -- > Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 > Pisa, Italy (http:www.isti.cnr.it <http://www.isti.cnr.it>) > FM&&T Lab. (http://fmt.isti.cnr.it) > CNR/GI-STS (http://gists.pi.cnr.it) > https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: > +390506212040 > =================== > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 13, 2023