Ciao a tutti, un piccolo aggiornamento dal fronte^W forum dell'OSI dedicato alla definizione della "Open Source AI". 10 minuti prima di scrivere una risposta alla mia proposta, Nick Vidal (Community Manager di OSI) mi ha silenziato su discuss.opensource.org senza alcun contatto precedente (di seguito la comunicazione). La cosa è particolarmente interessante perché subito dopo ha scritto una risposta in cui mi pone alcune domande e ha chiuso il thread senza darmi modo di rispondere, ironicamente accusandomi di non lasciare spazio agli altri per commentare. Il tutto dopo quasi 24 ore di silenzio sul forum. ¯\_(ツ)_/¯ https://discuss.opensource.org/t/rfc-separating-concerns-between-source-data... Poco dopo ha chiesto endorsements pubblici [1] per una definizione che, di fatto, non garantisce né la libertà di studio né quella di modifica, ma solo quella di fine tuning, permettendo ovvie forme di open washing nonché di nascondere nei modelli "open source" sia backdoor [2] che bias contro minoranze specifiche, senza che nessuno possa esaminare i dataset sorgente per individuarle e rendendo di fatto meno sicuro l'intero ecosistema open source. Sarebbe stato interessante discutere invece del merito della proposta che, non richiedendo la redistribuzione di dataset già disponibili online, non richiede che gli sviluppatori che li utilizzano per il training li debbano redistribuire. Quanto al fatto che sia tecnicamente impossibile ricalcolare esattamente i pesi di un LLM dalle informazioni e dai dati sorgente, è ovviamente una sciocchezza a meno di bug hardware di cui comunque è sempre possibile evitare il verificarsi. Vidal lo sa. Allora perché questo nervosismo? Perché questa fretta di raccogliere endorsements su una bozza ancora evidentemente prematura? In qualunque caso, una definizione di Open Source AI che non garantisca né la studiabilità dei dati utilizzati per il calcolo dei pesi né la riproducibilità del processo, favorirà ogni sorta di open washing, aprendo un enorme loophole anche nella normativa dell'AI Act. [3] Con l'account sospeso non posso fare molto né per rispondere alle domande di Vidal, né per migliorare la proposta, ma vi invito a partecipare attivamente al dibattito (nella speranza che abbiate maggior fortuna e non veniate anche voi silenziati). Giacomo [1] https://discuss.opensource.org/t/endorse-the-open-source-ai-definition/570 [2] https://arxiv.org/abs/2204.06974 [3] come in effetti aveva già ipotizzato Claudio a Giugno. _____ Data: Mon, 16 Sep 2024 19:28:00 +0000 Da: OSI Discuss <notifications@opensource2.discoursemail.com> A: giacomo@tesio.it Oggetto: [OSI Discuss] Your account has been silenced You have been silenced from the forum until September 23, 2024, 7:27pm. Reason - Would not listen to staff feedback Please present new arguments, don’t open new topics repeating the same arguments over and over, and leave space for others to comment. Don’t flood the conversation and be respectful of the guidelines.

Ciao 380° On Fri, 20 Sep 2024 14:01:01 +0200 380° <g380@biscuolo.net> wrote:

...

In qualunque caso, una definizione di Open Source AI

ma è davvero così importante la deinizione di "Open Source AI" data da OSI?

Evidentemente, sì, se ci si scomoda a impedire il confronto su una soluzione semplice come "richiediamo che i dati sorgente siano disponibili, se non possiamo richiedere che vengano distribuiti". Non è indicativo che nessuno abbia osato _obiettare_ nel merito? Abbiamo anche membri di OSI qui su Nexa eppure, anche qui, silenzio. Perché? Forse che questo piccolo uovo di colombo smonta tutte le scuse opposte alla trasparenza dei dati da OSI & friends? D'altro canto, se leggi il blog dell'OSI in proposito, trovi una lunga serie di voli pindarici per giustificare questa assenza di trasparenza che di fatto vanifica la libertà di studio e la libertà di modifica.

...

che non garantisca né la studiabilità dei dati utilizzati per il calcolo dei pesi né la riproducibilità del processo, favorirà ogni sorta di open washing, aprendo un enorme loophole anche nella normativa dell'AI Act. [3]

ma è davvero _quello_ il vero problema dell'AI Act?

Sono certo che ci siano problemi e scappatoie peggiori, ma quello è UN problema anche al di là dell'AI Act. Immagina un Chat Control basato su una "Open Source AI", con fior di accademici a spergiurare che il dataset sorgente ("di training") non contiene alcun bias... dopo per aver analizzato un dataset diverso da quello effettivamente utilizzato. Al di là dell'AI Act: molte persone si fiderebbero.

Please present new arguments

La proposta che ho presentato in quel post non era stata discussa da nessun'altra parte per quanto io abbia potuto verificare cercando sul forum. Alcuni degli argomenti in favore di quella proposta, riprendevano considerazioni fatte discutendo su thread correlati. Il "community manager" comunque ha dovuto fingere di non capire cosa ho proposto per giustificare la chiusura del thread. E prima mi ha silenziato, così che non potessi presentare nuovi argomenti. Purtroppo qualcuno li prende ancora sul serio... quindi tocca averci a che fare.

vuol dire davvero che le guidelines sono private?

Beh, certo: mica vuoi finiscano nella Wayback Machine! Poi si nota quando le cambi alla bisogna! :-D

è ovvio che si tratta solo di una operazione di facciata.

Ma vedi, a me non interessa se l'OSI salva la faccia o meno. A me interessa evitare che delle black box possano passare per "open source" solo perché chi le sviluppa pubblica una parte irrilevante del dataset sorgente. Il livello di opacità dei software programmati statisticamente è infinitamente maggiore rispetto a quello dei software proprietari. Giacomo PS:

sconfortato dalla tua pervicacia

Mi dispiace sempre per lo sconforto che causo, ma mi devo occupare del futuro, perché ho figli che ne faranno parte.

Salve Maria Chiara, Il 17 Settembre 2024 00:43:38 UTC, Maria Chiara Pievatolo ha scritto:

L'Unione Europea abbraccia formalmente i principi della scienza aperta.

Beh anche l'OSI abbraccia "formalmente" i "principi dell'Open Source". Ma propone una definizione di Open Source AI che ammette le black box. Pensaci... Open Source Black Box! Sarebbe ridicolo, l'ennesima prova della mala fede dell'organizzazione che ha rifiutato la SSPL su indicazione di Amazon. Ma purtroppo la definizione avrà un ruolo legale, aprendo un loophole enorme nella normativa.

non si vede perché i SALAMI debbano (e possano) essere offerti come scatole nere, e sottratti all'indagine scientifica pubblica, in nome di una concezione proprietaria del copyright.

Perché lo dice l'OSI? Già, perché OSI lo dice? Non certo nell'interesse della ricerca scientifica, della sicurezza informatica o della tutela delle minoranze che subiranno le consuete discriminazioni, ma in modo automatizzato e su una nuova scala. Cui prodest? Fortuna vuole che basterà guardare gli sponsor dell'OSI e delle organizzazioni che faranno endorsement per questa definizione così smaccatamente contraria ai principi che dichiara in premessa, per scoprirlo. D'altro canto l'OSI ha un Board of Directors: <https://opensource.org/about/board-of-directors> Persone che si stanno assumendo pubblicamente la responsabilità morale dei danni che queste black box open washed faranno. Segnamoci i loro nomi e teniamo traccia di dove li porteranno le sliding doors alla fine del loro mandato. Sono certo che spiegherà molte cose. Giacomo