Ciao 380° On Fri, 20 Sep 2024 14:01:01 +0200 380° <g380@biscuolo.net> wrote:
In qualunque caso, una definizione di Open Source AI
ma è davvero così importante la deinizione di "Open Source AI" data da OSI?
Evidentemente, sì, se ci si scomoda a impedire il confronto su una soluzione semplice come "richiediamo che i dati sorgente siano disponibili, se non possiamo richiedere che vengano distribuiti". Non è indicativo che nessuno abbia osato _obiettare_ nel merito? Abbiamo anche membri di OSI qui su Nexa eppure, anche qui, silenzio. Perché? Forse che questo piccolo uovo di colombo smonta tutte le scuse opposte alla trasparenza dei dati da OSI & friends? D'altro canto, se leggi il blog dell'OSI in proposito, trovi una lunga serie di voli pindarici per giustificare questa assenza di trasparenza che di fatto vanifica la libertà di studio e la libertà di modifica.
che non garantisca né la studiabilità dei dati utilizzati per il calcolo dei pesi né la riproducibilità del processo, favorirà ogni sorta di open washing, aprendo un enorme loophole anche nella normativa dell'AI Act. [3]
ma è davvero _quello_ il vero problema dell'AI Act?
Sono certo che ci siano problemi e scappatoie peggiori, ma quello è UN problema anche al di là dell'AI Act. Immagina un Chat Control basato su una "Open Source AI", con fior di accademici a spergiurare che il dataset sorgente ("di training") non contiene alcun bias... dopo per aver analizzato un dataset diverso da quello effettivamente utilizzato. Al di là dell'AI Act: molte persone si fiderebbero.
Please present new arguments
La proposta che ho presentato in quel post non era stata discussa da nessun'altra parte per quanto io abbia potuto verificare cercando sul forum. Alcuni degli argomenti in favore di quella proposta, riprendevano considerazioni fatte discutendo su thread correlati. Il "community manager" comunque ha dovuto fingere di non capire cosa ho proposto per giustificare la chiusura del thread. E prima mi ha silenziato, così che non potessi presentare nuovi argomenti. Purtroppo qualcuno li prende ancora sul serio... quindi tocca averci a che fare.
vuol dire davvero che le guidelines sono private?
Beh, certo: mica vuoi finiscano nella Wayback Machine! Poi si nota quando le cambi alla bisogna! :-D
è ovvio che si tratta solo di una operazione di facciata.
Ma vedi, a me non interessa se l'OSI salva la faccia o meno. A me interessa evitare che delle black box possano passare per "open source" solo perché chi le sviluppa pubblica una parte irrilevante del dataset sorgente. Il livello di opacità dei software programmati statisticamente è infinitamente maggiore rispetto a quello dei software proprietari. Giacomo PS:
sconfortato dalla tua pervicacia
Mi dispiace sempre per lo sconforto che causo, ma mi devo occupare del futuro, perché ho figli che ne faranno parte.