April 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Daniela Tafani

Ha scritto, su questa distinzione, un paio di giorni fa, Margaret Mitchell: "When AI companies release "open training data" for a model, they're generally sharing *fine-tuning* data. The big issues w data and consent are NOT of this type. The issues are with the MAIN DATA used in training" <https://nitter.snopyta.org/mmitchell_ai/status/1646242689862729728> [cid:98ff1663-62f2-4593-9e2b-a4c0486c3fa0] ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> Inviato: venerdì 14 aprile 2023 10:52 A: D. Davide Lamanna Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] ChatGPT disabled for users in Italy Purtroppo no, Davide. Per rendere riproducibile ed ispezionabile il processo di programmazione statistica che costruisce un software LLM sono necessarie moltissime informazioni che lì mancano. Non foss'altro che per il semplice fatto che Dolly 2.0 si basa su GPT-3 e quindi, per poterne ispezionare la programmazione e poterne escludere (ad esempio) discriminazioni intenzionali, sarebbe necessario avere tutti i dati ed il processo esatto di programmazione di GPT-3 stesso. La relazione fra la verticalizzazione ("fine-tuning", lo definiscono gli autori dell'articolo associato al dataset che hai condiviso) e programmazione di un LLM è molto più... "intima" di quella che esiste fra un applicazione ed una libreria usata durante il suo sviluppo. E' più simile, se vuoi, a quella che intercorre fra un CMS e le pagine web che ne vengono pubblicate, la cui forma sarà sempre sostanzialmente la stessa perché i limiti (ciò che può o non può essere fatto con quel CMS) non vengono intaccati dal layout grafico del sito web, che si deve adattare inevitabilmente a quei vincoli (a meno di smettere di usare quel CMS, ovviamente). Inoltre, il dataset sorgente come viene solitamente condiviso in questi progetti fintamente "open source", non è sufficiente a riprodurre esattamente lo stato di un LLM. Sono necessari parametri iniziali delle "reti neurali" utilizzate, registrazioni dettagliate dell'ordine in cui i vari record sono stati usati durante la programmazione statistica (ad esempio, nel caso di quella tecnica che viene impropriamente chiamata "Reinforcement Learning") e così via. In sostanza, per poter ambire a dimostrare di NON aver iniettato una particolare discriminazione all'interno di GPT-4, Open AI dovrebbe fornire un bello scriptino, ben documentato, in grado di riprodurre ESATTAMENTE GPT-4 nello stato attualmente in produzione a partire dai testi di partenza (anch'essi inclusi nel pacchetto) e da tutte le altre sorgenti di input. Dovrebbe essere ovviamente uno script ben leggibile e debuggabile passo passo. A quel punto si potrebbe effettuare un confronto binario fra gli output prodotti dallo script e GPT-4 in produzione, e dopo averne verificato la corrispondenza esatta, analizzare i dataset sorgente e il processo di compilazione di tale software alla ricerca di discriminazioni o problemi. Nulla di lontanamente paragonabile a quello che ha fatto Databricks, insomma. Purtuttavia qualcosa di perfettamente fattibile da un punto di vista tecnico, sebbene estremamente costoso. Giacomo On Fri, 14 Apr 2023 09:36:30 +0200 D. Davide Lamanna wrote: > On 4/13/23 12:49, Giacomo Tesio wrote: > > > > Basta imporre che tutti i dataset utilizzati durante la > > programmazione statistica ("training" nella vulgata), inclusi > > quelli usati per la cross validation e il test, nonché tutti gli > > altri dati necessari a riprodurre esattamente il processo ed > > ottenere esattamente il modello in produzione (e le sue alternative > > scartate), siano preservati per tutta la durata della sua > > permanenza in produzione e diciamo 20 anni dopo (in caso di > > aggiornamento). [1] > > > > Rendendo verficabilmente e completamente riproducibile il processo > > di programmazione statistica, Open AI (come chiunque altro) potrà > > facilmente dimostrare di non aver utilizzato dati ottenuti in > > violazione di qualsisi Legge. > Ciao Giacomo, > > una cosa così? > > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617…>. > > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617…>. > > D. > > (null) > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617…

April 14, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Purtroppo no, Davide. Per rendere riproducibile ed ispezionabile il processo di programmazione statistica che costruisce un software LLM sono necessarie moltissime informazioni che lì mancano. Non foss'altro che per il semplice fatto che Dolly 2.0 si basa su GPT-3 e quindi, per poterne ispezionare la programmazione e poterne escludere (ad esempio) discriminazioni intenzionali, sarebbe necessario avere tutti i dati ed il processo esatto di programmazione di GPT-3 stesso. La relazione fra la verticalizzazione ("fine-tuning", lo definiscono gli autori dell'articolo associato al dataset che hai condiviso) e programmazione di un LLM è molto più... "intima" di quella che esiste fra un applicazione ed una libreria usata durante il suo sviluppo. E' più simile, se vuoi, a quella che intercorre fra un CMS e le pagine web che ne vengono pubblicate, la cui forma sarà sempre sostanzialmente la stessa perché i limiti (ciò che può o non può essere fatto con quel CMS) non vengono intaccati dal layout grafico del sito web, che si deve adattare inevitabilmente a quei vincoli (a meno di smettere di usare quel CMS, ovviamente). Inoltre, il dataset sorgente come viene solitamente condiviso in questi progetti fintamente "open source", non è sufficiente a riprodurre esattamente lo stato di un LLM. Sono necessari parametri iniziali delle "reti neurali" utilizzate, registrazioni dettagliate dell'ordine in cui i vari record sono stati usati durante la programmazione statistica (ad esempio, nel caso di quella tecnica che viene impropriamente chiamata "Reinforcement Learning") e così via. In sostanza, per poter ambire a dimostrare di NON aver iniettato una particolare discriminazione all'interno di GPT-4, Open AI dovrebbe fornire un bello scriptino, ben documentato, in grado di riprodurre ESATTAMENTE GPT-4 nello stato attualmente in produzione a partire dai testi di partenza (anch'essi inclusi nel pacchetto) e da tutte le altre sorgenti di input. Dovrebbe essere ovviamente uno script ben leggibile e debuggabile passo passo. A quel punto si potrebbe effettuare un confronto binario fra gli output prodotti dallo script e GPT-4 in produzione, e dopo averne verificato la corrispondenza esatta, analizzare i dataset sorgente e il processo di compilazione di tale software alla ricerca di discriminazioni o problemi. Nulla di lontanamente paragonabile a quello che ha fatto Databricks, insomma. Purtuttavia qualcosa di perfettamente fattibile da un punto di vista tecnico, sebbene estremamente costoso. Giacomo On Fri, 14 Apr 2023 09:36:30 +0200 D. Davide Lamanna wrote: > On 4/13/23 12:49, Giacomo Tesio wrote: > > > > Basta imporre che tutti i dataset utilizzati durante la > > programmazione statistica ("training" nella vulgata), inclusi > > quelli usati per la cross validation e il test, nonché tutti gli > > altri dati necessari a riprodurre esattamente il processo ed > > ottenere esattamente il modello in produzione (e le sue alternative > > scartate), siano preservati per tutta la durata della sua > > permanenza in produzione e diciamo 20 anni dopo (in caso di > > aggiornamento). [1] > > > > Rendendo verficabilmente e completamente riproducibile il processo > > di programmazione statistica, Open AI (come chiunque altro) potrà > > facilmente dimostrare di non aver utilizzato dati ottenuti in > > violazione di qualsisi Legge. > Ciao Giacomo, > > una cosa così? > > <https://venturebeat.com/ai/databricks-releases-dolly-2-0-the-first-open-ins…>. > > <https://github.com/databrickslabs/dolly/tree/master/data>. > > D. > > (null) > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Beh, è facile concordare sui finanziamenti alla ricerca. Talmente facile che temo sia uno strawman piuttosto banalotto. Non c'è alcuna contrapposizione fra ricerca e diritti umani. Possiamo tranquillamente garantire entrambi. SE vogliamo. Chi prova a contrapporli, non difende la ricerca, ma la strumentalizza per proteggere gli interessi privati di soggetti che non intendono rispondere dei danni che causano con applicazioni specifiche. Sarebbe bello se, almeno qui ove simili fallacie retoriche hanno vita breve, potessimo evitare di perdere tempo a smontarle. On Fri, 14 Apr 2023 09:05:48 +0200 Guido Vetere wrote: > Io credo che questo processo sia già spontaneamente in corso (non solo > nelle università) e credo che la UE dovrebbe dare supporto > all'affermazione di questo nuovo modello di sviluppo, più che cercare > di inibire i soggetti privati statunitensi (gli stessi che piazzano i > loro VP nella nostra Amministrazione) con improbabili richieste. Io invece auspico che l'UE anteponga sempre i diritti umani a qualsiasi narrazione su "modelli di sviluppo". Perché dietro le promesse di magnifiche sorti e progressive, dietro i software di cui parliamo, ci sono persone che DEVONO rispondere di ciò che fanno attraverso i propri artefatti, come chiunque altro. Nessuna azione che sia vietata per un essere umano deve essere consentita quando effettuata tramite l'uso di una macchina. Siamo d'accordo su questo principio? Se sì, ne deriva che la costruzione di macchine che non possano tecnicamente garantire il rispetto dei diritti umani va semplicemente vietata. Il che non limita in alcun modo la ricerca! Anzi! La incoraggia! E la orienta verso soluzioni... "degne di fiducia" ;-) Giacomo On Thu, 13 Apr 2023 16:34:08 -0700 Stefano Maffulli wrote: > On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> > wrote: > > > Per l’energia atomica, abbiamo da una parte firmato trattati di non > > proliferazione delle armi nucleari, ma dall’altra abbiamo costruito > > il CERN, con fondi pubblici, per permettere di studiare la scienza > > delle particelle e della costituzione dell’universo. > > > > Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare > in modo che gli LLM non siano solo appannaggio delle mega corp e dei > governi.

April 14, 2023

ChatGPT: promesse e illusioni - Lunedì 17 aprile ore 16, Circolo dei lettori di Torino

by Guido Boella

Carissime e carissimi segnalo evento di possibile interesse, anche in streaming, organizzato dal progetto AI Aware dell'Università di Torino e dalla Società Italiana per l'Etica dell'Intelligenza Artificiale ChatGPT: promesse e illusioni - Lunedì 17 aprile ore 16, Circolo dei lettori di Torino https://ai-aware.unito.it/2023/04/01/chatgpt-promesse-e-illusioni/ ChatGPT: promesse e illusioni Limiti e potenzialità del fenomeno informatico del momento Lunedì 17 aprile alle ore 16.00, il Circolo dei lettori di Torino (via Bogino 9) ospiterà in Sala Grande l’incontro ChatGPT: promesse e illusioni, con la partecipazione di Stefano Bartezzaghi, Elena Esposito, Roberto Navigli, Daniela Tafani e la moderazione di Guido Boella: un appuntamento multidisciplinare dedicato al fenomeno informatico del momento e ai miti, dubbi e paure che si sono rapidamente creati intorno al suo nome. “ChatGPT e gli altri cosiddetti Large Language Model rappresentano la frontiera dell’applicazione dell’AI nella nostra vita lavorativa e quotidiana”, spiega Guido Boella, informatico dell’Università degli Studi di Torino, cofondatore della Società Italiana per l’Etica dell’Intelligenza Artificiale e responsabile scientifico di FirstLife, il primo social network civico, co-progettato con la cittadinanza e le istituzioni del territorio torinese. “Sta a noi comprenderne le opportunità, i limiti e i rischi e supportare i legislatori, prima di tutto quelli Europei, nel costruire un quadro normativo che risponda alle nostre esigenze e non a quelle dei giganti di Silicon Valley che stanno introducendo prematuramente sul mercato tecnologie che possono avere un impatto profondo sulla nostra società, nel bene e nel male, come abbiamo visto succedere con i social network nel decennio che ci precede.” Cosa può fare? Come funziona? Potrà davvero sostituire l’essere umano? L’Intelligenza Artificiale e i suoi strumenti sono sulla bocca di tutti, la necessità di chiarirne le funzioni, gli utilizzi, le incognite e le potenzialità si fa sempre più urgente, soprattutto di fronte al rapido avanzamento di un chatbot basato su Intelligenza Artificiale che ha raccolto in pochi mesi più di 100 milioni di utenti. Per capire cosa sia ChatGPT, quali siano i rischi e i benefici del suo utilizzo, il 17 aprile al Circolo dei lettori interverranno Stefano Bartezzaghi, semiologo dell’Università IULM di Milano, Elena Esposito, sociologa dell’Università Alma Mater Studiorum di Bologna, Roberto Navigli, informatico dell’Università di Roma La Sapienza e Daniela Tafani, filosofa politica dell’Università di Pisa. L’evento sarà un’occasione per scandagliare insieme un tema caldo (e che promette di diventarlo sempre di più) da diversi e cruciali punti di vista - etico, politico, scientifico - per non cadere preda di facili entusiasmi ma nemmeno di paure infondate. L’incontro, organizzato con la Società Italiana per l'Etica dell'Intelligenza Artificiale (SIpEIA) e finanziato dal progetto AI Aware dell'Università di Torino, sarà disponibile anche in streaming al link https://tinyurl.com/5f8pn3kw. Ufficio Stampa Stilema Simona Oliva | simona.oliva(a)stilema-to.it | +39 389 488 6947 Federica Cucci | federica.cucci(a)stilema-to.it | +39 328 730 3718 Un cordiale saluto Guido [image: ChatGPT promesse e illusioni.png] -- Dipartimento di Informatica Università di Torino Cso Svizzera 185 10149 Torino Vice-Rettore Vicario dell'Università di Torino per la promozione dei rapporti con le imprese e le associazioni di categoria delle imprese e per il coordinamento con le iniziative di innovazione industriale sul territorio Vicepresidente del Competence Center CIM4.0 www.cim40.com Visitate i siti delle nostre iniziative www.firstlife.org www.commonshood.eu www.projectco3.eu www.sipeia.it www.chedih.eu

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Alessandro Brolpito

Ottimi principi, lucidi e pratici, grazie Guido. Si tende alla "network society" (van Dijk, Jan (2006) The Network Society. Sage Publications. pp. 28, 39. ISBN 1-4129-0867-1) e la sua applicazione anche nel contesto di GPT-4 sarebbe assai utile, garantendo rilevanza, qualità e "democrazia". La dimensione Europea è ancora troppo debole, ad esempio, la ricerca diretta comune Europea - EU Science Hub homepage (europa.eu) <https://joint-research-centre.ec.europa.eu/index_en>, non decolla, prevalgono quelle nazionali. Allora, con la stessa logica, si potrebbe passare a dei modelli "federativi" su tre dimensioni, oltre a quelle che proponi, aggiungendo la dimensione dei paesi UE, ma su una architettura dei parametri coordinata a livello EU. In effetti un approccio europeo puramente difensivistico, seppur importante per il rispetto delle legge, rimane parziale e in prospettiva inadeguato, anche, e soprattutto, per garantire i principi e diritti digitali promessi ai cittadini europei - Europe’s Digital Decade: digital targets for 2030 (europa.eu) <https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europ…> . Alessandro On Fri, 14 Apr 2023 at 09:06, Guido Vetere <vetere.guido(a)gmail.com> wrote: > Non ci vorrebbe molto in effetti per fare un EU-GPT, con allucinazioni > garantite da procedure e regolamenti. > Il problema è che tedeschi e francesi impiegherebbero un paio di anni solo > per spartirsi l'organigramma. L'Italia potrebbe avere il Direttore Generale > dell'Etica (in realtà, però, nominato dal Vaticano). > Ma mettiamo da parte le facezie. > Se guardiamo dentro GPT-4, ci troviamo almeno una ventina di lingue tra > cui il coreano e il fiammingo, e un numero enorme di competenze > specialistiche, per lo più nell'ambito della programmazione, ma estese > praticamente a tutto lo scibile, dalla filosofia teoretica alle ricette di > cucina. Tutto contenuto nel campo di forze generato da non si sa > (letteralmente) quante centinaia di miliardi di parametri. > Se decomponiamo questo spazio sulle assi delle lingue e delle competenze, > forse riusciamo a vedere che, ad esempio, non essendo interessati alle > conversazioni di filosofia teoretica in coreano, ci basta un modello più > piccolo e maneggevole. > Insomma: GPT-4 può essere "fatto a pezzi", e ciascun pezzo può essere > gestito in modo "aperto e democratico", realizzando così gli scopi > (umoristicamente) dichiarati da OpenAI. > Io credo che questo processo sia già spontaneamente in corso (non solo > nelle università) e credo che la UE dovrebbe dare supporto all'affermazione > di questo nuovo modello di sviluppo, più che cercare di inibire i soggetti > privati statunitensi (gli stessi che piazzano i loro VP nella nostra > Amministrazione) con improbabili richieste. > > G. > > > > > > > On Fri, 14 Apr 2023 at 01:34, Stefano Maffulli <smaffulli(a)gmail.com> > wrote: > >> On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> >> wrote: >> >>> Per l’energia atomica, abbiamo da una parte firmato trattati di non >>> proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il >>> CERN, con fondi pubblici, per permettere di studiare la scienza delle >>> particelle e della costituzione dell’universo. >>> >> >> Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare in >> modo che gli LLM non siano solo appannaggio delle mega corp e dei governi. >> Questi hanno facile accesso ai gigabyte di dati necessari mentre agli altri >> alcuni gruppi (da Getty ai massimalisti della privacy e del copyright) >> stanno opponendo ogni tipo di ostacolo... C'è un delicato equilibrio da >> raggiungere per consentire a gruppi senza fini di lucro ben intenzionati >> come Laion e Eleuther AI e alle classiche università di creare conoscenza >> liberamente accessibile in questo settore. >> >> Parlando di CERN, LAION sta facendo circolare una proposta quantomeno >> stuzzicante: https://laion.ai/blog/petition/ >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 14, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by D. Davide Lamanna

On 4/13/23 12:49, Giacomo Tesio wrote: > > Basta imporre che tutti i dataset utilizzati durante la programmazione statistica > ("training" nella vulgata), inclusi quelli usati per la cross validation e il test, nonché tutti gli > altri dati necessari a riprodurre esattamente il processo ed ottenere esattamente il modello > in produzione (e le sue alternative scartate), siano preservati per tutta la durata della sua permanenza in produzione e diciamo 20 anni dopo (in caso di aggiornamento). [1] > > Rendendo verficabilmente e completamente riproducibile il processo di programmazione > statistica, Open AI (come chiunque altro) potrà facilmente dimostrare di non aver utilizzato dati > ottenuti in violazione di qualsisi Legge. > Ciao Giacomo, una cosa così? <https://venturebeat.com/ai/databricks-releases-dolly-2-0-the-first-open-ins…>. <https://github.com/databrickslabs/dolly/tree/master/data>. D. (null)

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Guido Vetere

Non ci vorrebbe molto in effetti per fare un EU-GPT, con allucinazioni garantite da procedure e regolamenti. Il problema è che tedeschi e francesi impiegherebbero un paio di anni solo per spartirsi l'organigramma. L'Italia potrebbe avere il Direttore Generale dell'Etica (in realtà, però, nominato dal Vaticano). Ma mettiamo da parte le facezie. Se guardiamo dentro GPT-4, ci troviamo almeno una ventina di lingue tra cui il coreano e il fiammingo, e un numero enorme di competenze specialistiche, per lo più nell'ambito della programmazione, ma estese praticamente a tutto lo scibile, dalla filosofia teoretica alle ricette di cucina. Tutto contenuto nel campo di forze generato da non si sa (letteralmente) quante centinaia di miliardi di parametri. Se decomponiamo questo spazio sulle assi delle lingue e delle competenze, forse riusciamo a vedere che, ad esempio, non essendo interessati alle conversazioni di filosofia teoretica in coreano, ci basta un modello più piccolo e maneggevole. Insomma: GPT-4 può essere "fatto a pezzi", e ciascun pezzo può essere gestito in modo "aperto e democratico", realizzando così gli scopi (umoristicamente) dichiarati da OpenAI. Io credo che questo processo sia già spontaneamente in corso (non solo nelle università) e credo che la UE dovrebbe dare supporto all'affermazione di questo nuovo modello di sviluppo, più che cercare di inibire i soggetti privati statunitensi (gli stessi che piazzano i loro VP nella nostra Amministrazione) con improbabili richieste. G. On Fri, 14 Apr 2023 at 01:34, Stefano Maffulli <smaffulli(a)gmail.com> wrote: > On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> > wrote: > >> Per l’energia atomica, abbiamo da una parte firmato trattati di non >> proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il >> CERN, con fondi pubblici, per permettere di studiare la scienza delle >> particelle e della costituzione dell’universo. >> > > Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare in > modo che gli LLM non siano solo appannaggio delle mega corp e dei governi. > Questi hanno facile accesso ai gigabyte di dati necessari mentre agli altri > alcuni gruppi (da Getty ai massimalisti della privacy e del copyright) > stanno opponendo ogni tipo di ostacolo... C'è un delicato equilibrio da > raggiungere per consentire a gruppi senza fini di lucro ben intenzionati > come Laion e Eleuther AI e alle classiche università di creare conoscenza > liberamente accessibile in questo settore. > > Parlando di CERN, LAION sta facendo circolare una proposta quantomeno > stuzzicante: https://laion.ai/blog/petition/ > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Stefano Maffulli

On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> wrote: > Per l’energia atomica, abbiamo da una parte firmato trattati di non > proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il > CERN, con fondi pubblici, per permettere di studiare la scienza delle > particelle e della costituzione dell’universo. > Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare in modo che gli LLM non siano solo appannaggio delle mega corp e dei governi. Questi hanno facile accesso ai gigabyte di dati necessari mentre agli altri alcuni gruppi (da Getty ai massimalisti della privacy e del copyright) stanno opponendo ogni tipo di ostacolo... C'è un delicato equilibrio da raggiungere per consentire a gruppi senza fini di lucro ben intenzionati come Laion e Eleuther AI e alle classiche università di creare conoscenza liberamente accessibile in questo settore. Parlando di CERN, LAION sta facendo circolare una proposta quantomeno stuzzicante: https://laion.ai/blog/petition/

April 13, 2023

Re: [nexa] The principle of technological inevitability

by alessandro marzocchi

Era inevitabile la parola, primo artefatto prima tecnologia? E' evitabile il digitale? Con l'imbarazzo di trovarmi in una posizione diversa da "tanti" nomi, nell'argomento trovo poca utilità, è arrivata la parola, il digitale ed altro, in sostanza "attrezzi" la cui direzione è nostra responsabilità. L'attrezzo nuovo, il digitale, conquista funzioni umane in numero e qualità crescenti, potrebbe incidere in profondità nel nostro (modo di) essere, fondamentalmente erodendo l'autonomia della nostra facoltà critica che è la caratteristica che distingue l'umano. Vedendo, temendo questa erosione spero di sbagliare. Sono ottimi molti suggerimenti che ho letto in listaNexa, praticamente tutti, ma - convinzione mia - l'unico rimedio radicale è rendere completamente verificabile e riproducibile l'intero processo di programmazione. ... se di fatto (parte de) il digitale ha l'efficacia imperativa di una legge ... quando il digitale non è conoscibile ci troviamo in una situazione di inconoscibilità della regola. E' una situazione scomoda, andava evitata, va avversata. Grazie per quanto mi insegnate. Duccio (Alessandro Marzocchi) Il giorno gio 13 apr 2023 alle ore 21:29 <nexa-request(a)server-nexa.polito.it> ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: ChatGPT disabled for users in Italy (alessandro marzocchi) > 2. Re: ChatGPT disabled for users in Italy (Stefano Quintarelli) > 3. The principle of technological inevitability [era: ChatGPT > disabled for users in Italy] (Daniela Tafani) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Thu, 13 Apr 2023 20:02:14 +0200 > From: alessandro marzocchi <alemarzoc(a)gmail.com> > To: nexa(a)server-nexa.polito.it, stefano(a)quintarelli.it > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Message-ID: > <CAG5xczfJnpbhJ= > x+hs5FhUKt0tr3nGvVJ9Cdz6NgUrgnFfqk_Q(a)mail.gmail.com> > Content-Type: text/plain; charset="utf-8" > > Puoi inviare il link alla proposta di legge cui ti riferisci? > Cosa intendi, a cosa riferisci "penso che questo sia una sorta di > inevitabilismo"? > Grazie e cordialità. > Duccio (Alessandro Marzocchi) > > > Date: Thu, 13 Apr 2023 17:53:56 +0200 > > From: Stefano Quintarelli <stefano(a)quintarelli.it> > > penso che questo sia una sorta di inevitabilismo > > quando ho fatto la mia PDL su device neutrality (arrivata in italia ad un > > voto > > dall'approvazione, come qualcuno di voi ricordera') ho toccato con mano > la > > paura che > > costoro avevano. > > in una lunga e spiacevole riunione con un capo delle relazioni > > istituzionali a Bruxelles > > mi fu prospettato per il post parlamento un futuro radioso per competenze > > come le mie, in > > silicon valley. > > si spesero molto in lobby per fare in modo che l'ultimo voto non > arrivasse > > mai. > > il potere dello stato e' grande e per loro era un forte rischio, tanto da > > spendersi > > cospicuamente in lobby. > > il voto finale al senato non arrivo' mai, termino' la legislatura. > > pero' le mie previsioni sono finite nel digital markets act. > > ciao, s. > > > > On 13/04/23 17:14, alessandro marzocchi wrote: > > > A me pare che lo stato di diritto sia in forte crisi avviata prima > > ancora della > > > transizione digitale, quest'ultima la accentua e potrebbe dargli il > > colpo finale. > > > [Qual'è il potere di un stato (Italia, ma anche Cina, Ue, Usa) di > fronte > > alla "fattualità" > > > dei colossi digitali? Parafrasando Manzoni, parlerei di "grida" che > > inutilmente cercano di > > > arginare i fatti] > > > Con questi timori si deve insistere per rendere completamente > > verificabile e riproducibile > > > l'intero processo di programmazione. > > > Cordialmente > > > Duccio (Alessandro Marzocchi) > > > > > > Date: Thu, 13 Apr 2023 10:49:17 +0000 > > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > > > To: Guido Vetere <vetere.guido(a)gmail.com <mailto: > > vetere.guido(a)gmail.com>>, 380° > > > <g380(a)biscuolo.net <mailto:g380@biscuolo.net>> > > > Il 12 Aprile 2023 14:28:03 UTC, Guido Vetere < > vetere.guido(a)gmail.com > > > <mailto:vetere.guido@gmail.com>> ha scritto: > > > >Giacomo, > > > >anche il LM più puri usati per il più innocente task di > > classificazione > > > >potrebbero essere stati addestrati con dati ottenuti senza il > > consenso > > > >esplicito di chi li ha condivisi, dunque in violazione del GDPR. > > > >Che vogliamo fare? > > > > > > Nella peggiore delle ipotesi, quello che si fa con l'Eternit, per > > esempio. > > > Possibilmente prima che faccia troppi danni alle persone e alla > > società. > > > Però la questione che poni sul dataset usato per la programmazione > > statistica ha una > > > soluzione > > > estremamente semplice. > > > Basta imporre che tutti i dataset utilizzati durante la > > programmazione statistica > > > ("training" nella vulgata), inclusi quelli usati per la cross > > validation e il test, > > > nonché tutti gli > > > altri dati necessari a riprodurre esattamente il processo ed > > ottenere esattamente il > > > modello > > > in produzione (e le sue alternative scartate), siano preservati per > > tutta la durata > > > della sua permanenza in produzione e diciamo 20 anni dopo (in caso > > di aggiornamento). [1] > > > Rendendo verficabilmente e completamente riproducibile il processo > > di programmazione > > > statistica, Open AI (come chiunque altro) potrà facilmente > > dimostrare di non aver > > > utilizzato dati > > > ottenuti in violazione di qualsisi Legge. > > > Più costoso (ma spesso possibile) sarà dimostrare che la selezione > > del dataset > > > o il processo di programnazione utilizzato non abbia prodotto > > specifiche discriminazioni. > > > Molto più complesso e costoso, dimostrare di non aver voluto > imporre > > al modello alcuna > > > discriminazione intenzionale. > > > Tuttavia parliamo di cose perfettamente fattibili sul piano > tecnico, > > ancorché costose. > > > Ma si sa: l'innovazione costa. > > > E al DARPA hanno un sacco di soldi per finanziarla. ;-) > > > L'importante è impedire che qualsiasi tecnologia possa essere usata > > per violare i > > > diritti delle persone > > > (a vantaggio di altre persone, per altro) > > > Perché se passasse questo principio, dovremmo dire addio allo Stato > > di Diritto, > > > con tutto ciò che questo comporta. > > > Inclusa, ad esempio, l'abolizione del diritto alla proprietà > privata. > > > Si può fare eh! > > > Ma sei sicuro che sia ciò a cui aspiri? > > > Giacomo > > > [1]: inclusi ovviamente vettori di inizializzazione, valori > ottenuti > > da sorgenti > > > randomiche, > > > ordine esatto e contenuto dei batch di vettori usati durante il > > processo di > > > programmazione statistica etc... tutto insomma ciò che serve a > > riottenere esattamente > > > quel binario codato come matrice. > > > > >

April 13, 2023

Assegno di ricerca

by de petra giulio

Segnalo che nel progetto "FAIR - Future Artificial Research", partenariato PNRR la Scuola Normale di Firenze ha bandito un *assegno di ricerca di 2 anni* *sull'impatto sociale ed economico dell'intelligenza artificiale* e delle tecnologie digitali sulla democrazia sia politica che industriale Per informazioni contattare il responsabile del progetto Hans-Jorg Trenz hansjorg.trenz(a)sns.it il bando è qui *https://amministrazionetrasparente.sns.it/bando/fair-future-artificial-research <https://amministrazionetrasparente.sns.it/bando/fair-future-artificial-rese…>* La scadenza è il 2 maggio.

April 13, 2023