November 2024 - nexa - server-nexa.polito.it

OpenAI vince causa su violazione di Copyright

by Giuseppe Attardi

Nov. 14, 2024

Re: [nexa] Bruce Schneier sulla "Open Source AI" di OSI

by Stefano Maffulli

Nov. 13, 2024

Re: [nexa] Bruce Schneier sulla "Open Source AI" di OSI

by Giacomo Tesio

Suvvia Stefano, On Tue, 12 Nov 2024 15:27:48 +0100 Stefano Maffulli wrote: > Peccato che Schneier abbia dedicato a un tema così complesso solo > poche parole. non offendere l'intelligenza degli iscritti a questa lista. Non servono tante parole. Una black box non può essere definita "open source". Non senza ridefinire l'open source, cosa che avete provato a fare con l'invenzione della "libertà di forkare" che però non avete avuto il coraggio di menzionare nella OSAID, ma solo nelle FAQ. > fare uno sforzo per comprendere che gli unici stakeholder che OSI serve sono le Big Tech che la finanziano ormai da anni https://opensource.org/sponsors ? Oh beh... è piuttosto evidente. Voi e Meta ormai sembrate Sandra e Raimondo. "Che noia, che barba, che barba che noia". Un bel giorno Zuck farà finta di capitolare, cambierà due licenze, scriverà quattro favolette edificanti sui dati usati per il training e si piegherà alla "open source AI" liberandosi da qualsiasi obbligo di trasparenza e impedendo a qualsiasi ricercatore indipendente di accedere ai dati che ha compresso nei modelli che distribuisce. E voi canterete vittoria! Avete già scelto la data per l'epilogo della sceneggiata? Giacomo

Nov. 12, 2024

Re: [nexa] Bruce Schneier sulla "Open Source AI" di OSI

by Claudio Agosti

On Tue, Nov 12, 2024 at 3:28 PM Stefano Maffulli <smaffulli(a)gmail.com> wrote: > > Alcuni soggetti bollano con leggerezza la questione senza notare che > praticamente tutti i grandi dataset "aperti" hanno più o meno gli stessi > problemi, anche quelli che non sono ancora stati portati in giudizio per > violazione di copyright e altro. > Il mondo "Open" è già in profondo svantaggio in questo settore e il > consiglio di amministrazione di OSI ha l'obbligo di difendere l'ecosistema > Open Source. > > ciao Stefano! grazie per l'email, ha chiarito alcuni punti interessanti e comprendo la tua posizione. Tuttavia mi rimane un dubbio nell'intersezione tra la leggittimità che conferisce l'OSI, e la vaghezza che c'è nell'AIAct. Faccio riferimento al fatto che un sistema open source secondo l'AIAct, NON sia vincolato ad obblighi di conformità. Va inteso che la terminologia "open source" nel regolamento è ancora radicata ad una visione più binaria, ed è lì messa per tutelare chi sviluppa framework e librerie. Componenti distanti dal prodotto finale e per questo uno sviluppatore non può essere ritenuto responsabile degli usi. Poi la garanzia dell'apertura e l'ipotetica peer review permetterà a chi include uno strumento nel proprio codice di poter definire responsabilità e conformità. Comprendo che che tu stia cercando di far recuperare quello svantaggio di cui parli, ma inevitabilmente uno degli effetti sarà quello di dare il bollino di "open source" a cose che alla fine open non sono. E questo porterà a degli abusi che sfrutteranno questa ambiguità. Quando questi abusi avverranno, non credo si criticherà l'AIAct, ma bensì la OSAID, che arriva dopo, e legittima condizioni impreviste. Mi chiedevo se hai avuto modo di rifletterci e se vedi soluzioni che al momento a me sfuggono. Grazie! Ciao, Claudio

Nov. 12, 2024

Re: [nexa] Bruce Schneier sulla "Open Source AI" di OSI

by Stefano Maffulli

Peccato che Schneier abbia dedicato a un tema così complesso solo poche parole. La questione fondamentale in questo dibattito è fare uno sforzo per comprendere che ci sono 4 tipi di "dati" <https://hackmd.io/@opensourceinitiative/osaid-faq#What-kind-of-data-should-…> (dalle FAQ della OSI): - Open training data: data that can be copied, preserved, modified and reshared. It provides the best way to enable users to study the system. This must be shared. - Public training data: data that others can inspect as long as it remains available. This also enables users to study the work. However, this data can degrade as links or references are lost or removed from network availability. To obviate this, different communities will have to work together to define standards, procedures, tools and governance models to overcome this risk, and Data Information is required in case the data becomes later unavailable. This must be disclosed with full details on where to obtain it. - Obtainable training data: data that can be obtained, including for a fee. This information provides transparency and is similar to a purchasable component in an open hardware system. The Data Information provides a means of understanding this data other than obtaining or purchasing it. This is an area that is likely to change rapidly and will need careful monitoring to protect Open Source AI developers. This must be disclosed with full details on where to obtain it. - Unshareable non-public training data: data that cannot be shared for explainable reasons, like Personally Identifiable Information (PII). For this class of data, the ability to study some of the system's biases demands a detailed description of the data – what it is, how it was collected, its characteristics, and so on – so that users can understand the biases and categorization underlying the system. This must be revealed in detail so that, for example, a hospital can create a dataset with identical structure using their own patient data. Alcuni di questi non si possono distribuire (copyright e diritti vari) e neppure richiedere (PII). Quindi richiedere che Open Source AI sia solo composto da open data porta come conseguenza che Open Source AI sia sempre ridotto a prodotto inferiore (ridotta quantità di dati), e sia escluso da alcuni scopi (AI mediche, per esempio)... come se GNU si rassegnasse a essere una copia ridotta di Unix perché gli standard ISO non sono liberamente copiabili. Alcuni soggetti bollano con leggerezza la questione senza notare che praticamente tutti i grandi dataset "aperti" hanno più o meno gli stessi problemi, anche quelli che non sono ancora stati portati in giudizio per violazione di copyright e altro. Il mondo "Open" è già in profondo svantaggio in questo settore e il consiglio di amministrazione di OSI ha l'obbligo di difendere l'ecosistema Open Source. Il prof. Liang <https://press.airstreet.com/p/percy-liang-on-truly-open-ai> sintetizza bene: Companies also want to avoid costly and time-consuming litigation (think OpenAI and the New York Times), so it makes short-term economic sense to be closed about their data. We’re also seeing a shrinking of the AI Data Commons - the crawlable web data assembled <https://arxiv.org/abs/2407.14933> in corpora like C4, RefinedWeb, and Dolma. 5-7% of previously available training data has been restricted <https://arxiv.org/abs/2407.14933> in just the past year, with rates getting closer to 20-33% for valuable sources like news sites and social media. The current tools for managing this access, like robots.txt (which dates back to 1995) are inconsistently implemented, creating a messy patchwork of restrictions. [...]For a model to be open-source, we need full information about the processing code and data. Sempre Liang <https://xcancel.com/percyliang/status/1832164166314160163#m>: On the flip side, even a full data release is insufficient for the goals of open-source (to study and modify). From just the data, it is hard to understand *why* certain tokens are included or excluded. For this, you really need the code for the *full* data processing pipeline. La complessità della questione è ribadita anche dalla posizione della FSF <https://www.fsf.org/news/fsf-is-working-on-freedom-in-machine-learning-appl…>, che sostanzialmente giunge alla stessa conclusione della OSI accettando un paradosso: per la FSF i sistemi AI addestrati con dati privati sono "nonfree" ma moralmente accettabili. Ridicola poi l'accusa che la definizione di Open Source AI sia ben vista dalle mega aziende: Meta sta facendo una lotta senza quartiere, con IBM e Amazon seguendo a ruota. Mistral e i suoi finanziatori ugualmente si tengono a debita distanza perché la definizione richiede di rilevare i veri "segreti" che stanno non tanto nei dati quanto nel codice che produce il dataset e il training. Infine, vorrei far notare che durante il processo di gestazione della definizione di Open Source AI, la OSI ha coordinato un'analisi di una dozzina di sistemi disponibili pubblicamente e ha convalidato la definizione trovando che effettivamente i sistemi Open Source sono quelli che quantomeno fanno uno sforzo a produrre i dataset di training. Per chi continua a dire che Llama è "open source", trovate argomentazioni contrarie sulla FAQ <https://hackmd.io/@opensourceinitiative/osaid-faq#Which-AI-systems-comply-w…> oltre al commento specifico sulla licenza <https://blog.opensource.org/metas-llama-2-license-is-not-open-source/>. Il tema purtroppo non è intuitivo per chi da sempre promuove libertà e aperture: c'è un paradosso e la OSI ha suggerito un modo per aggirarlo che ne rispetta i valori fondanti. Nei prossimi mesi vedremo come applicare in pratica la nuova Definizione e sarà più chiaro cosa cambiare nelle versioni future. /stefano maffulli Direttore esecutivo - Open Source Initiative On Mon, Nov 11, 2024 at 10:10 AM Roberto Resoli <roberto(a)resolutions.it> wrote: > Bruce Schneier si unisce ai critici della definizione OSI di IA Open > Source, riferendone nel suo blog: > > > https://www.schneier.com/blog/archives/2024/11/ai-industry-is-trying-to-sub… > > ... e non ci va giù piano: > > > The Open Source Initiative has published (news article here) its > definition of “open source AI,” and it’s terrible. It allows for secret > training data and mechanisms. It allows for development to be done in > secret. Since for a neural network, the training data is the source > code—it’s how the model gets programmed—the definition makes no sense. > > ... > > Nell'articolo ci sono molti link ad altrettante critiche (anche di > Debian[1], ad esempio). > > rob > > [1] > > https://samjohnston.org/2024/10/22/debian-general-resolution-gr-drafted-opp… >

Nov. 12, 2024

MEMENTO | 177° Mercoledì di Nexa | 13 novembre 2024, ore 17.00

by Nexa - Media

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 13 novembre, alle ore 17.00, si terrà il 177° Mercoledì di Nexa con un incontro dal titolo "Tecnica e libertà: la lezione di Santiago '73 sulle affinità elettive". Ospite dell'incontro: Andrea Cerroni (Università degli Studi di Milano-Bicocca). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina: https://nexa.polito.it/mercoledi-177 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Nov. 12, 2024

Dalla cyber security alla cyber salute: il Governo delega ai poteri digitali il controllo dei dati sulle nostre cure - HuffPost Italia

by don Luca Peyron

https://www.huffingtonpost.it/blog/2024/11/11/news/il_governo_delega_ai_pot…

Nov. 11, 2024

Re: [nexa] Documentary "In the Belly of AI" (Online Trailer & Workshop, Cambridge, 12 Nov. 2024)

by J.C. DE MARTIN

fantastico, grazie! jc On 11/11/24 13:22, Antonio Casilli wrote: > Sarebbe una grande cosa. Appena abbiamo una data di uscita internazionale ne riparliamo. > > ----- Original Message ----- > From: "maurizio lana" <maurizio.lana(a)uniupo.it> > To: "Antonio Casilli" <antonio.casilli(a)telecom-paris.fr> > Cc: "nexa" <nexa(a)server-nexa.polito.it> > Sent: Monday, November 11, 2024 8:17:58 AM > Subject: Re: [nexa] Documentary "In the Belly of AI" (Online Trailer & Workshop, Cambridge, 12 Nov. 2024) > > in attesa del distributore, > potrebbe essere proiettato in uno dei mercoledì di Nexa? > Maurizio > > Il 11/11/24 02:17, Antonio Casilli ha scritto: >> ..si aspetta che un distributore italiano se lo compri! >> >> >> -----Original Message----- >> From: maurizio<maurizio.lana(a)uniupo.it> >> To: nexa<nexa(a)server-nexa.polito.it> >> Date: Sunday, 10 November 2024 11:08 PM GMT >> Subject: Re: [nexa] Documentary "In the Belly of AI" (Online Trailer & Workshop, Cambridge, 12 Nov. 2024) >> >> >> ...per vederlo in Italia? >> Maurizio >> >> >> Il 10/11/24 16:56, Antonio Casilli ha scritto: >>> In the Belly of AI: A Documentary on the Real Price of Automation >>> >>> >>> In the Belly of AI: A Documentary on the Real Price of Automation >>> >>> Online Trailer & Workshop, Cambridge, 12 Nov. 2024 >>> >>> Dear all, >>> >>> I am excited to share with you the trailer of our upcoming documentary >>> *In the Belly of AI* >>> <https://www.casilli.fr/wp-content/uploads/2024/11/In-the-Belly-of-AI-traile…>, >>> which examines the human and environmental costs of artificial >>> intelligence through the stories and experiences of the people who >>> shape the technologies that affect our daily lives. >>> >>> Documentary Screenshot >>> >>> The documentary is directed by *Henri Poulain*, and co-written by >>> *Julien Goetz* and yours truly. Officially scheduled for release in >>> 2025, it is produced by France Télévisions and set to be distributed >>> in the UK by the BBC. It has been shortlisted for the Sundance Film >>> Festival. >>> >>> Sundance Film Festival >>> >>> We will preview the documentary on Tuesday, November 12, 2024, at >>> Churchill College, University of Cambridge, as part of a workshop >>> co-organized with the /Minderoo Centre for Technology and Democracy/. >>> >>> The workshop will feature speakers Ana Valdivia (Oxford Internet >>> Institute) and Adio Dinika (Distributed AI Research Institute), along >>> with discussants Debangana Bose (Dept. of Geography, Cambridge) and >>> Alex Wood (Dept. of Sociology, Cambridge). Following the workshop, >>> there will be an open conversation with author James Muldoon >>> (University of Essex) about his new book, /Feeding the Machine: The >>> Hidden Human Labour Powering AI/, co-authored with Mark Graham and >>> Callum Cant. >>> >>> >>> Workshop: In the Belly of AI >>> >>> *Date:* Tuesday, 12 Nov 2024 | *Time:* 14:30 – 17:00 | *Location:* >>> Sixties Room, Churchill College, Storey’s Way, Cambridge CB3 0DS >>> >>> >>> Programme: >>> >>> *14:30 – 14:40* – Welcome: Professor Gina Neff, Executive Director of >>> Minderoo Centre for Technology & Democracy >>> *14:40 – 15:00* – Presentation: Professor Antonio A. Casilli, >>> Professor of Sociology, Institut Polytechnique de Paris and By-Fellow >>> Churchill College, University of Cambridge >>> *15:00 – 15:05* – Excerpt 1: In the Belly of AI >>> *15:05 – 16:00* – Roundtable: ‘Data Workers’ Inquiry: Community-led >>> Research into AI Labour Practices’ | Led by: Dr Adio-Adet Dinika >>> (Distributed AI Research Institute (DAIR)) | Discussant: Dr Alex Wood >>> (Sociology, University of Cambridge) >>> *16:00 – 16:05* – Excerpt 2: In the Belly of AI >>> *16:05 – 17:00* – Roundtable: ‘AI Supply Chain Capitalism: Rethinking >>> Algorithmic Harms Through an Environmental Lens’ | Led by: Dr Ana >>> Valdivia (Oxford Internet Institute and UCL Centre for Capitalism >>> Studies) | Discussant: Dr Debangana Bose (Geography, University of >>> Cambridge) >>> >>> Workshop Image >>> >>> >>> >>> Open Conversation: In the Belly of AI / Feeding the Machine >>> >>> *Date:* Tuesday, 12 Nov 2024 | *Time:* 17:30 – 18:30 BST | *Location:* >>> Sixties Room, Churchill College, Storey’s Way, Cambridge CB3 0DS >>> >>> >>> Programme: >>> >>> *17:30* – Welcome >>> *17:35* – Viewing: Excerpt from In the Belly of AI >>> *17:40-18:30* – In conversation: Professor Antonio Casilli and Dr. >>> James Muldoon on In the Belly of AI and Feeding the Machine** >>> >>> -- >>> Antonio A. Casilli >>> Professor, Telecom Paris | Institut Polytechnique de Paris >>> By-Fellow, Churchill College | University of Cambridge >>> My upcoming book: /Waiting for Robots. The Hired Hands of Automation/ >>> <https://press.uchicago.edu/ucp/books/book/chicago/W/bo239039613.html> >>> (University of Chicago Press, 2025) >>> >> ------------------------------------------------------------------------ >> >> manutenzione della felicità comune >> michela murgia >> >> ------------------------------------------------------------------------ >> Maurizio Lana >> Università del Piemonte Orientale >> Dipartimento di Studi Umanistici >> Piazza Roma 36 - 13100 Vercelli > > ------------------------------------------------------------------------ > > dialogare tra di noi per costruire una democrazia, > l’unica istituzione di vita comune > che non sia fondata sulla paura di morire > michel dardenne > > ------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli

Nov. 11, 2024

Re: [nexa] Documentary "In the Belly of AI" (Online Trailer & Workshop, Cambridge, 12 Nov. 2024)

by Antonio Casilli

Sarebbe una grande cosa. Appena abbiamo una data di uscita internazionale ne riparliamo. ----- Original Message ----- From: "maurizio lana" <maurizio.lana(a)uniupo.it> To: "Antonio Casilli" <antonio.casilli(a)telecom-paris.fr> Cc: "nexa" <nexa(a)server-nexa.polito.it> Sent: Monday, November 11, 2024 8:17:58 AM Subject: Re: [nexa] Documentary "In the Belly of AI" (Online Trailer & Workshop, Cambridge, 12 Nov. 2024) in attesa del distributore, potrebbe essere proiettato in uno dei mercoledì di Nexa? Maurizio Il 11/11/24 02:17, Antonio Casilli ha scritto: > ..si aspetta che un distributore italiano se lo compri! > > > -----Original Message----- > From: maurizio<maurizio.lana(a)uniupo.it> > To: nexa<nexa(a)server-nexa.polito.it> > Date: Sunday, 10 November 2024 11:08 PM GMT > Subject: Re: [nexa] Documentary "In the Belly of AI" (Online Trailer & Workshop, Cambridge, 12 Nov. 2024) > > > ...per vederlo in Italia? > Maurizio > > > Il 10/11/24 16:56, Antonio Casilli ha scritto: >> In the Belly of AI: A Documentary on the Real Price of Automation >> >> >> In the Belly of AI: A Documentary on the Real Price of Automation >> >> Online Trailer & Workshop, Cambridge, 12 Nov. 2024 >> >> Dear all, >> >> I am excited to share with you the trailer of our upcoming documentary >> *In the Belly of AI* >> <https://www.casilli.fr/wp-content/uploads/2024/11/In-the-Belly-of-AI-traile…>, >> which examines the human and environmental costs of artificial >> intelligence through the stories and experiences of the people who >> shape the technologies that affect our daily lives. >> >> Documentary Screenshot >> >> The documentary is directed by *Henri Poulain*, and co-written by >> *Julien Goetz* and yours truly. Officially scheduled for release in >> 2025, it is produced by France Télévisions and set to be distributed >> in the UK by the BBC. It has been shortlisted for the Sundance Film >> Festival. >> >> Sundance Film Festival >> >> We will preview the documentary on Tuesday, November 12, 2024, at >> Churchill College, University of Cambridge, as part of a workshop >> co-organized with the /Minderoo Centre for Technology and Democracy/. >> >> The workshop will feature speakers Ana Valdivia (Oxford Internet >> Institute) and Adio Dinika (Distributed AI Research Institute), along >> with discussants Debangana Bose (Dept. of Geography, Cambridge) and >> Alex Wood (Dept. of Sociology, Cambridge). Following the workshop, >> there will be an open conversation with author James Muldoon >> (University of Essex) about his new book, /Feeding the Machine: The >> Hidden Human Labour Powering AI/, co-authored with Mark Graham and >> Callum Cant. >> >> >> Workshop: In the Belly of AI >> >> *Date:* Tuesday, 12 Nov 2024 | *Time:* 14:30 – 17:00 | *Location:* >> Sixties Room, Churchill College, Storey’s Way, Cambridge CB3 0DS >> >> >> Programme: >> >> *14:30 – 14:40* – Welcome: Professor Gina Neff, Executive Director of >> Minderoo Centre for Technology & Democracy >> *14:40 – 15:00* – Presentation: Professor Antonio A. Casilli, >> Professor of Sociology, Institut Polytechnique de Paris and By-Fellow >> Churchill College, University of Cambridge >> *15:00 – 15:05* – Excerpt 1: In the Belly of AI >> *15:05 – 16:00* – Roundtable: ‘Data Workers’ Inquiry: Community-led >> Research into AI Labour Practices’ | Led by: Dr Adio-Adet Dinika >> (Distributed AI Research Institute (DAIR)) | Discussant: Dr Alex Wood >> (Sociology, University of Cambridge) >> *16:00 – 16:05* – Excerpt 2: In the Belly of AI >> *16:05 – 17:00* – Roundtable: ‘AI Supply Chain Capitalism: Rethinking >> Algorithmic Harms Through an Environmental Lens’ | Led by: Dr Ana >> Valdivia (Oxford Internet Institute and UCL Centre for Capitalism >> Studies) | Discussant: Dr Debangana Bose (Geography, University of >> Cambridge) >> >> Workshop Image >> >> >> >> Open Conversation: In the Belly of AI / Feeding the Machine >> >> *Date:* Tuesday, 12 Nov 2024 | *Time:* 17:30 – 18:30 BST | *Location:* >> Sixties Room, Churchill College, Storey’s Way, Cambridge CB3 0DS >> >> >> Programme: >> >> *17:30* – Welcome >> *17:35* – Viewing: Excerpt from In the Belly of AI >> *17:40-18:30* – In conversation: Professor Antonio Casilli and Dr. >> James Muldoon on In the Belly of AI and Feeding the Machine** >> >> -- >> Antonio A. Casilli >> Professor, Telecom Paris | Institut Polytechnique de Paris >> By-Fellow, Churchill College | University of Cambridge >> My upcoming book: /Waiting for Robots. The Hired Hands of Automation/ >> <https://press.uchicago.edu/ucp/books/book/chicago/W/bo239039613.html> >> (University of Chicago Press, 2025) >> > > ------------------------------------------------------------------------ > > manutenzione della felicità comune > michela murgia > > ------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli ------------------------------------------------------------------------ dialogare tra di noi per costruire una democrazia, l’unica istituzione di vita comune che non sia fondata sulla paura di morire michel dardenne ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Nov. 11, 2024

Bruce Schneier sulla "Open Source AI" di OSI

by Roberto Resoli

Bruce Schneier si unisce ai critici della definizione OSI di IA Open Source, riferendone nel suo blog: https://www.schneier.com/blog/archives/2024/11/ai-industry-is-trying-to-sub… ... e non ci va giù piano: > The Open Source Initiative has published (news article here) its definition of “open source AI,” and it’s terrible. It allows for secret training data and mechanisms. It allows for development to be done in secret. Since for a neural network, the training data is the source code—it’s how the model gets programmed—the definition makes no sense. > ... Nell'articolo ci sono molti link ad altrettante critiche (anche di Debian[1], ad esempio). rob [1] https://samjohnston.org/2024/10/22/debian-general-resolution-gr-drafted-opp…

Nov. 11, 2024