- nexa - server-nexa.polito.it

Re: [nexa] Copyright law makes a case for requiring data information rather than open datasets for Open Source AI - Felix Reda

by Giacomo Tesio

Salve Maria Chiara, Il 17 Settembre 2024 00:43:38 UTC, Maria Chiara Pievatolo ha scritto: > > L'Unione Europea abbraccia formalmente i principi della scienza aperta. Beh anche l'OSI abbraccia "formalmente" i "principi dell'Open Source". Ma propone una definizione di Open Source AI che ammette le black box. Pensaci... Open Source Black Box! Sarebbe ridicolo, l'ennesima prova della mala fede dell'organizzazione che ha rifiutato la SSPL su indicazione di Amazon. Ma purtroppo la definizione avrà un ruolo legale, aprendo un loophole enorme nella normativa. > non si vede perché i SALAMI debbano (e possano) essere offerti come scatole nere, > e sottratti all'indagine scientifica pubblica, in nome di una concezione proprietaria > del copyright. Perché lo dice l'OSI? Già, perché OSI lo dice? Non certo nell'interesse della ricerca scientifica, della sicurezza informatica o della tutela delle minoranze che subiranno le consuete discriminazioni, ma in modo automatizzato e su una nuova scala. Cui prodest? Fortuna vuole che basterà guardare gli sponsor dell'OSI e delle organizzazioni che faranno endorsement per questa definizione così smaccatamente contraria ai principi che dichiara in premessa, per scoprirlo. D'altro canto l'OSI ha un Board of Directors: <https://opensource.org/about/board-of-directors> Persone che si stanno assumendo pubblicamente la responsabilità morale dei danni che queste black box open washed faranno. Segnamoci i loro nomi e teniamo traccia di dove li porteranno le sliding doors alla fine del loro mandato. Sono certo che spiegherà molte cose. Giacomo

Sept. 17, 2024

Re: [nexa] Copyright law makes a case for requiring data information rather than open datasets for Open Source AI - Felix Reda

by Maria Chiara Pievatolo

On 15/09/24 10:31, Stefano Zacchiroli wrote: > https://opensource.org/blog/copyright-law-makes-a-case-for-requiring-data-i… > > (Personalmente ne traggo una conclusione diversa da Felix, ovvero che > bisognerebbe quindi agire per *cambiare* il copyright in modo che > permetta di incorporare lavori protetti in dataset aperti, anziché > limitarsi alla data mining exception. È quella eccezione che ha creato > il disequilibrio di potere che avvantaggia le aziende come Open AI in > questo momento. Ma resta una delle letture più interessanti che mi è > capitato di leggere a supporto della posizione di compromesso adottata > in OSAID.) Questa diversa conclusione, messa in pratica, permetterebbe di fare qualcosa di più che resistere all'istituzione di un ulteriore diritto sui generis connesso al materiale sotto copyright usato come dato d'addestramento, che, temo, verrà proposta al parlamento europeo. L'Unione Europea abbraccia formalmente i principi della scienza aperta. Meriterebbe di essere presa in parola: non si vede perché i SALAMI debbano (e possano) essere offerti come scatole nere, e sottratti all'indagine scientifica pubblica, in nome di una concezione proprietaria del copyright. Buonanotte, MCP

Sept. 17, 2024

Open Washing AI definition by OSI?

by Giacomo Tesio

Ciao a tutti, un piccolo aggiornamento dal fronte^W forum dell'OSI dedicato alla definizione della "Open Source AI". 10 minuti prima di scrivere una risposta alla mia proposta, Nick Vidal (Community Manager di OSI) mi ha silenziato su discuss.opensource.org senza alcun contatto precedente (di seguito la comunicazione). La cosa è particolarmente interessante perché subito dopo ha scritto una risposta in cui mi pone alcune domande e ha chiuso il thread senza darmi modo di rispondere, ironicamente accusandomi di non lasciare spazio agli altri per commentare. Il tutto dopo quasi 24 ore di silenzio sul forum. ¯\_(ツ)_/¯ https://discuss.opensource.org/t/rfc-separating-concerns-between-source-dat… Poco dopo ha chiesto endorsements pubblici [1] per una definizione che, di fatto, non garantisce né la libertà di studio né quella di modifica, ma solo quella di fine tuning, permettendo ovvie forme di open washing nonché di nascondere nei modelli "open source" sia backdoor [2] che bias contro minoranze specifiche, senza che nessuno possa esaminare i dataset sorgente per individuarle e rendendo di fatto meno sicuro l'intero ecosistema open source. Sarebbe stato interessante discutere invece del merito della proposta che, non richiedendo la redistribuzione di dataset già disponibili online, non richiede che gli sviluppatori che li utilizzano per il training li debbano redistribuire. Quanto al fatto che sia tecnicamente impossibile ricalcolare esattamente i pesi di un LLM dalle informazioni e dai dati sorgente, è ovviamente una sciocchezza a meno di bug hardware di cui comunque è sempre possibile evitare il verificarsi. Vidal lo sa. Allora perché questo nervosismo? Perché questa fretta di raccogliere endorsements su una bozza ancora evidentemente prematura? In qualunque caso, una definizione di Open Source AI che non garantisca né la studiabilità dei dati utilizzati per il calcolo dei pesi né la riproducibilità del processo, favorirà ogni sorta di open washing, aprendo un enorme loophole anche nella normativa dell'AI Act. [3] Con l'account sospeso non posso fare molto né per rispondere alle domande di Vidal, né per migliorare la proposta, ma vi invito a partecipare attivamente al dibattito (nella speranza che abbiate maggior fortuna e non veniate anche voi silenziati). Giacomo [1] https://discuss.opensource.org/t/endorse-the-open-source-ai-definition/570 [2] https://arxiv.org/abs/2204.06974 [3] come in effetti aveva già ipotizzato Claudio a Giugno. _____ Data: Mon, 16 Sep 2024 19:28:00 +0000 Da: OSI Discuss <notifications(a)opensource2.discoursemail.com> A: giacomo(a)tesio.it Oggetto: [OSI Discuss] Your account has been silenced You have been silenced from the forum until September 23, 2024, 7:27pm. Reason - Would not listen to staff feedback Please present new arguments, don’t open new topics repeating the same arguments over and over, and leave space for others to comment. Don’t flood the conversation and be respectful of the guidelines.

Sept. 16, 2024

Data center emissions probably 662% higher than big tech claims. Can it keep up the ruse? | Technology | The Guardian

by J.C. DE MARTIN

https://www.theguardian.com/technology/2024/sep/15/data-center-gas-emission… (messaggio spedito in movimento - scusate brevità ed eventuali refusi)

Sept. 16, 2024

116° Nexa Lunch Seminar | 25 settembre 2024, ore 13.00

by Nexa - Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 116° Nexa Lunch Seminar che si terrà mercoledì 25 settembre, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: "Bringing Archives to Life. Costruire Knowledge Graphs con i Large Language Models". Ospite dell'incontro: Giuseppe Futia (Fellow del Centro Nexa). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-116<https://nexa.polito.it/lunch-116/> Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Sept. 16, 2024

Re: [nexa] Copyright law makes a case for requiring data information rather than open datasets for Open Source AI - Felix Reda

by Giacomo Tesio

Ciao Stefano, On Sun, 15 Sep 2024 10:31:56 +0200 Stefano Zacchiroli wrote: > https://opensource.org/blog/copyright-law-makes-a-case-for-requiring-data-i… dopo aver letto attentamente le considerazioni di Felix Reda e di Stefano Maffulli ed approfondito varie questioni correlate, ho deciso di proporre questa modifica: https://discuss.opensource.org/t/rfc-separating-concerns-between-source-dat… In sintesi, si tratta di distinguere fra "source data" e "processing information". I dati sorgente devono essere completamente disponibili al pubblico o sotto una licenza opensource o sotto gli stessi termini che ne hanno permesso l'utilizzo durante il training da parte degli sviluppatori del sistema. Le informazioni di processo devono essere esaustive e disponibili sotto una licenza opensource. Che ne pensi? Giacomo PS: aveva ragione Claudio a preoccuparsi della questione già a Giugno. https://server-nexa.polito.it/pipermail/nexa/2024-June/052852.html

Sept. 16, 2024

Re: [nexa] an evil Nexa

by J.C. DE MARTIN

Accidenti... ci hanno sgamato... On 15/09/24 20:05, maurizio lana wrote: > Bruce Schneier nel suo blog segnala il progetto surveillance-watch > (https://www.schneier.com/blog/archives/2024/08/surveillance-watch.html) > > se si apre e si va alla sezione surveilling entities, tra le tante c'è > un "Nexa Technologies" >> Senior executives at this French spyware firm have been indicted for >> the company’s sale of surveillance software to authoritarian regimes >> in Libya and Egypt that resulted in the torture and disappearance of >> dissidents. Eagle products supplied by Nexa Technologies / Amesys >> were discovered in the offices of Muammar Gaddafi’s secret police. >> Nexa has an Emirati-based subsidiary called Advanced Middle East Systems > Nexus Technologies, no? oppure Nexon Technologies? > > Maurizio > > ------------------------------------------------------------------------ > dialogare tra di noi per costruire una democrazia, > l’unica istituzione di vita comune > che non sia fondata sulla paura di morire > michel dardenne > ------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli

Sept. 15, 2024

an evil Nexa

by maurizio lana

Bruce Schneier nel suo blog segnala il progetto surveillance-watch (https://www.schneier.com/blog/archives/2024/08/surveillance-watch.html) se si apre e si va alla sezione surveilling entities, tra le tante c'è un "Nexa Technologies" > Senior executives at this French spyware firm have been indicted for > the company’s sale of surveillance software to authoritarian regimes > in Libya and Egypt that resulted in the torture and disappearance of > dissidents. Eagle products supplied by Nexa Technologies / Amesys were > discovered in the offices of Muammar Gaddafi’s secret police. Nexa has > an Emirati-based subsidiary called Advanced Middle East Systems Nexus Technologies, no? oppure Nexon Technologies? Maurizio ------------------------------------------------------------------------ dialogare tra di noi per costruire una democrazia, l’unica istituzione di vita comune che non sia fondata sulla paura di morire michel dardenne ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Sept. 15, 2024

Informatica a scuola

by Angelo Raffaele Meo

bellissimi messaggi degli amici Marco Fioretti, Enrico Nardelli, Giuseppe Attardi e 380° finalizzati alla promozione dell’insegnamento dell’informatica nella scuola mi suggeriscono una autentica operazione di marketing a favore di due nostri prodotti. Per farmi perdonare vi inforno che questi due prodotti sono una piccola parte del lavoro svolto gratuitamente nel tempo libero da una ventina di fanatici della parrocchia del software libero. I due pacchetti, come molti altri di cui intendo parlarvi in futuro, sono assolutamente liberi e gratuiti. Il primo prodotto è un riassunto dei principi e degli strumenti dell’informatica; il secondo è un manuale di programmazione in linguaggio Python. Stiamo completando in questi giorni l'attivazione del prototipo di un nuovo "archivio nazionale del materiale didattico libero" (definizione di UNESCO) nel quale stiamo caricando 2000 oggetti didattici (libri, manuali, videolezioni e videoconferenze, videogiochi didattici, software didattico). Ovviamente stiamo caricando in quell'archivio anche quei due manualini. Chi avesse bisogno subito dei due prodotti di cui vi ho parlato mi mandi un mail (angelo.meo(a)polito.it) ed io glieli manderò immediatamente via "we transfer". Molti colleghi della scuola mi hanno manifestato il timore che i loro allievi non siano in grado di comprendere i principi dell’informatica e della programmazione. Io invece penso che l’insegnamento dell’informatica sia più facile dell’insegnamento della mia prediletta filosofia e che anche l’apprendimento dei principi dell’informatica da parte degli allievi sia più facile dell’apprendimento dei concetti fondanti della filosofia. Inoltre, l’insegnamento dell’informatica può divenire più divertente inventando qualche gioco didattico che coinvolga gli allievi in ogni momento della lezione. Vi presento l’esempio di una lezione di un mio corso di programmazione nel linguaggio Python che tenni in una terza elementare (allego la foto). Si, cari amici. Vi parlo non di un programma applicativo ma della programmazione in Python, non dell’ultimo anno del liceo scientifico ma di una terza elementare, con allievi di 8 anni. L’oggetto della lezione erano gli operatori logici OR, AND e NOT. Le bambine rappresentavano le variabili Booleane indipendenti e il bambino la variabile Booleana dipendente.In quel momento veniva illustrato il seguente esempio: “bagnetto dell’elefantino” = “acqua fresca” OR “elefantino sporco”. Conservo fra i ricordi più simpatici le letterine che gli allievi di quella classe mi mandarono, forse su suggerimento della loro insegnante, per dirmi che si erano divertiti. Quelle letterine contenevano meravigliosi disegni, proposte di nuovi esempi e simpatici messaggi scritti in codice binario. Arrivo alle conclusioni, chiara manifestazione del mio fanatismo. Io penso che anche un maestro o un docente di materie umanistiche possano impartire lezioni di informatica. Ma ritengo che gli ordinamenti scolastici debbano prevedere anche l’insegnamento obbligatorio dell’informatica in tutte le scuole di ogni ordine e grado, compresa la scuola primaria. La finalità è quella indicata da Angelo Marcello Cardani: “ trasformare l’Italia in un Paese ad alfabeto puramente digitale”. Angelo Raffaele Meo

Sept. 15, 2024

Copyright law makes a case for requiring data information rather than open datasets for Open Source AI - Felix Reda

by Stefano Zacchiroli

https://opensource.org/blog/copyright-law-makes-a-case-for-requiring-data-i… (Personalmente ne traggo una conclusione diversa da Felix, ovvero che bisognerebbe quindi agire per *cambiare* il copyright in modo che permetta di incorporare lavori protetti in dataset aperti, anziché limitarsi alla data mining exception. È quella eccezione che ha creato il disequilibrio di potere che avvantaggia le aziende come Open AI in questo momento. Ma resta una delle letture più interessanti che mi è capitato di leggere a supporto della posizione di compromesso adottata in OSAID.) -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

Sept. 15, 2024