- nexa - server-nexa.polito.it

Re: [nexa] ‘Biggest act of copyright theft in history’: thousands of Australian books allegedly used to train AI model | Australia news | The Guardian

by Giacomo Tesio

Ciao 380, Il 30 Settembre 2023 14:03:23 UTC, "380°" <g380(a)biscuolo.net> ha scritto: > > in direi che tra colleghi di questa lista ogni tanto possiamo anche > perdonarci qualche imprecisione terminologica Naturalmente! Ma di fronte a termini ambigui ed evocativi che impediscono ai più di comprendere la natura di ciò di cui stiamo parlando, credo che sia doveroso fare chiarezza. > > Dunque il modello CONTIENE, seppur in forma difficile da estrarre e > > non necessariamente corrispondente all'intento comunicativo dei > > rispettivi autori, ampie parti dei testi originali. > > ecco: qui proprio non capisco quello che vuoi dire > > stai dicendo che quelle parti di testo, che sono espresse in /forma/ > difficilmente estraibile, sarebbero plagio (ampie parti dei testi > originali)? Se siano plagio o semplicemente opere derivata create e distribuite senza il permesso dell'autore è una valutazione giuridica che non so fare. Sto semplicemente dicendo che quei testi sono in gran parte presenti nel LLM seppure codificati con perdita di informazione. Una similitudine tecnicamente più attinente di uno zip sarebbe un jpeg o un mp3, ma non volevo confondere ulteriormente il mio interlocutore. > > Un esempio particolarmente lampante di questo meccanismo fu > > evidenziato con Microsoft Copilot (aka CopyALot) che distribuì codice > > sotto GPL in violazione della stessa, copiando alla lettera il > > sorgente ma (guarda caso) attribuendogli una licenza permissiva ed un > > autore inesistente. > > già, ma come ha fatto CopyALot, **se** è un LLM, a riprodurre alla > lettera il sorgente? I ricercatori di Microsoft scrissero che lo faceva per "rompere il ghiaccio" in presenza di poche informazioni sulle esigenze dell'utente. Comunque non si tratta di barare in questo caso: si tratta solo di probabilità. Qualche volta CopyALot restituirà lo stesso codice, altre volte rimpiazzerà alcuni identificativi con l'equivalente di uno string replace. Ripeto, a me può anche stare bene purché io possa nello stesso modo disassemblare Microsoft Windows o Microsoft Office e distribuirne il codice sotto GPL, magari attribuendolo a Mickey Mouse. Non sono contrario alla abolizione delle varie forme di "proprietà intellettuale", voglio solo sia esplicita e valga per tutti. Ma finché non posso usare come mi piace il codice di Microsoft, Microsoft non deve usare come le pare il mio. > > Violazioni particolarmente gravi perché il codice GPL viene poi > > incluso in prodotti proprietari. > > se permetti, sono stracavolacci di quelli che copia-incollano l'output > da CopyALot, non ho verificato ma scommetto un fiorino che è pure > scritto chiaramente nelle condizioni di utilizzo del servizio No 380: se io voglio riservare alla collettività un mio pezzo di codice utilizzando una licenza copyleft (metti la AGPL) e Microsoft lo distribuisce senza attribuzione e con licenza sbagliata, buttandolo in mezzo ad un software proprietario di un proprio cliente pagante, se permetti "sono stracavolacci" miei. Subisco un danno morale ed economico. E quel che è peggio, non ho alcun modo di individuare precisamente quanto grave sia questo danno morale, ovvero in quanti software proprietari che aborro il mio lavoro sia stato inserito. La responsabilità del programmatore che riceve il mio codice da CopyALot viene dopo: prima Microsoft ha realizzato un opera derivata dal mio codice (il "modello" di Copilot) che distribuisce il mio codice senza permesso quando deve "rompere il ghiaccio". > quale sarebbe la violazione del diritto d'autore, se non c'è plagio *e* > chi usa quei testi per usarli in una elaborazione ha *pagato* "i libri"? Anche ne avesse comprate un milione di copie, non avrebbe alcun diritto di creare opere derivate. Quanti testi CC-BY ND sono stati usati da OpenAI per programmare statisticamente ChatGPT? Quanti CC-BY SA? IMHO ha violato e sta violando entrambe le licenze. E quel che è peggio è che sta violando i diritti morali degli autori. Giacomo

Sept. 30, 2023

Re: [nexa] ‘Biggest act of copyright theft in history’: thousands of Australian books allegedly used to train AI model | Australia news | The Guardian (Giancarlo Frosio)

by karlessi

> Date: Sat, 30 Sep 2023 14:11:14 +0000 > From: Giancarlo Frosio <gcfrosio(a)gmail.com> > To: Giacomo Tesio <giacomo(a)tesio.it>, "nexa(a)server-nexa.polito.it" > <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] ‘Biggest act of copyright theft in history’: > thousands of Australian books allegedly used to train AI model | > Australia news | The Guardian > > Incredibile..."non capisco il senso di questa rsposta" era una affermazione retorica per evidenziarne la pretestuosità, non una richiesta di chiarimenti. Lei ha seri problemi di comprensione delle logiche e meccaniche del linguaggio. > > La Sua convinzione di comprendere tutto più di altri che dedicano anni di studio a certe tematiche rasenta la follia...tanto quanto i suoi deliri tecnocratici. > > Giancarlo Buonasera, sì, Giacomo. Leggendoti ho (spesso) una sensazione analoga a quella segnalata da Giancarlo: sei davvero convinto di comprendere tutto più di chiunque altro? Maddai... tutti cretini? tutti in malafede? Ohibò, che caso strano! Forse non cogli l'ironia, il sarcasmo, il ricorso a figure retoriche in alcune frasi? O forse scegli deliberatamente di ignorarle per reiterare la questione dell'imparare l'informatica, e in particolare di imparare a scrivere codice? A scrivere codice come dici tu, perché un sacco di gente impara a scrivere codice, da vent'anni a questa parte sempre di più, eppure le cose non sono migliorate granché, mi pare! (immagino che ribatterai con qualche migliaio di parole a questa evidente imprecisione e voluta confusione di piani :D ) Personalmente mi trovo d'accordo sul fondo del tuo ragionamento, se l'ho inteso bene. Politicamente mi colloco in netta opposizione a questa ennesima truffa spacciata per grande innovazione (mi riferisco alle cosiddette IA). Persino legalmente (non sono legalista in alcun modo, e ci capisco poco di legislazione) non mi sembra così impossibile evidenziare l'esproprio appena mascherato da gioco delle tre carte a livello di copyright: ma come, decenni di legislazioni liberticide a difesa del copyright, e ora passa tutto in giudicato perché l'hanno fatto passare attraverso un tot di strati nascosti? (hidden layer nelle reti neurali)? A saperlo, invece di far copyleft ecc. avremmo investito in black box che mescolano le carte in tavola! tuttavia, caro Giacomo, continuare a dire agli altr* con uno sproposito di parole che non hanno capito nulla tende ad alienare anche le persone meglio disposte (mi ritengo fra queste) nei confronti delle tue argomentazioni l'aspetto più inquietante è sottolineato dall'aggettivo "tecnocratico", che mi pare azzeccato. Fai cadere le cose dall'alto e ciò IMHO è problematico e toglie molta forza ai tuoi ragionamenti. Ci sono già abbastanza tecnocrati, e molti sono pure miliardari e padroni. A mio parere è importante limitare le dichiarazioni apodittiche e cercare un confronto franco e aperto, senza scrivere come se volessi sotterrare l'interlocutore/trice. Magari nn vuoi farlo, ma a me questo sembra. A cercare il pelo nell'uovo, molti dei termini a cui fai ricorso sono assai vaghi, e sono abbastanza convinto che persone diverse li intendono in maniera molto differente. Parole a caso: "forma", "modello" (intendi aristotelicamente? platonicamente? ci vuol poco a mettere in difficoltà, volendo. ma non aiuta nessuno). Per non parlare di "dato". La tua definizione di "dato" è condivisibile, IMHO. Ma è TUA. Forse altr* la condividono (io, abbastanza). Beh, non è un granché. Non che la verità e la giustezza siano questione di maggioranze, però a mo' di aneddoto, una storiella sui dati: tre anni fa sono stato relatore con alcune colleghe qui https://www.anthropocene-curriculum.org/project/parallax-lisboa/lisboa-para… fuffa? non fuffa? come vi pare. sparare sull'accademia è come sparare sulla croce rossa. ad ogni modo, c'erano una trentina di ricercatori e professori da tutto il mondo, perlopiù hard science: fisica, biologia, ecc. e ciascun* mi pareva piuttosto competente nel proprio campo. Se non lo era (ne dubito, mi ritengo piuttosto allenato), mi hanno imbrogliato per bene. cercando di spiegare quel che facciamo, come funziona la "pedagogia hacker", ho detto qualcosa tipo: "you know, technical and digital systems are increasingly complex, complicated indeed, with many layers. In fact, these systems tend to manipulate us while we're feeding them by interacting with them. We are manipulated by how systems are designed, by the default UI etc." sì, si parlava in finto inglese. sì, sono scarso in inglese e anche in finto inglese. cmq volevo proprio dire "manipulated", "manipolati" apriti cielo. Gli scienziati ci hanno attaccati, verbalmente aggrediti, al limite dell'aggressione fisica. Gente che non si conosceva, discipline lontanissime, continuavano a ripetere che i "dati" sono cose "oggettive". Stavo forse sostenendo che loro venivano manipolati dai "dati"? Stavo forse suggerendo che i loro "dati" non erano corretti? I "dati" non manipolano, e loro si occupavano di "dati". Sarà. Si sono calmati solo quando una collega ha preso in mano la situazione e ha fatto vedere la pagina principale di Google... ripetendo che l'apparenza inganna, "many layers", etc. ha digitato "Ctrl+u" sulla tastiera. Di fronte al JavaScript offuscato gli scienziati si sono calmati. Pensavo l'avrebbero sbranata, invece si sono acquietati. Valli a capire, è un giochino introduttivo per spiegare l'idea di "sollevare gli strati" che facciamo di solito nei laboratori... Quindi, il giorno dopo abbiamo proposto un pad aperto per l'occasione, a libero accesso, e abbiamo chiesto di scrivere la definizione di "data". Dopo un quarto d'ora c'erano una trentina di definizioni parecchio distanti fra loro, molte del tutto incompatibili. Ora... assumendo per un istante che quegli studiosi fossero un ragionevole campione di studiosi in "scienze dure", ci siamo portate a casa l'idea che non sia affatto chiaro cosa sono questi fantomatici dati. è una storia realmente accaduta, dal mio punto di vista, s'intende; per me non c'è da discutere sul vero o falso, sul giusto e lo sbagliato, su chi è scemo e chi intelligente, ma sul fatto che intendersi è complicato, provenendo da culture diverse in lingue malparlate e malcomprese ancora di più, nonostante tutto, IMHO si può capirsi, al di là delle differenze di diversità e varietà, più ce n'è, meglio è. le cosiddette IA sono, guarda caso, l'esatto opposto, cioè un esempio di omologazione, perché si pongono come "dato di fatto" indiscutibile e ineluttabile. ma... si può capirsi, con calma, e gentilezza ciao k. -- "tecnologie conviviali - https://tc.eleuthera.it" "tecnologie appropriate - https://alekos.net" "pedagogia hacker - https://circex.org"

Sept. 30, 2023

Open Source e Decentralizzazione: verso una Coevoluzione Sostenibile

by D. Davide Lamanna

Carissime, venerdì prossimo, 6 ottobre, ore 14:30, faremo un talk show nell'ambito della Milano Digital Week. Avremo piacere di avervi con noi. D. Open Source e Decentralizzazione: verso una Coevoluzione Sostenibile ABSTRACT: I sistemi distribuiti, che appassionarono i pionieri della comunicazione in rete in virtù delle loro caratteristiche di decentralizzazione, sono stati invece piegati a logiche di centralizzazione esasperate, dettate dalla corsa alla capitalizzazione del dato. Abbiamo coinvolto tre esperti di diverse discipline per un appassionante viaggio multidisciplinare attraverso il passato, il presente e il futuro dei sistemi distribuiti e il loro impatto sulla società contemporanea. Esploreremo l'evoluzione in corso nelle relazioni tra esseri umani e tecnologia e ci chiederemo come è possibile trasformare il modo in cui sviluppiamo e utilizziamo le tecnologie per ottenere ecosistemi digitali più inclusivi ed equi. Come possiamo oggi riscoprire le tecnologie conviviali? Con quali architetture hardware e software? Gli esperti ci inviteranno ad una riflessione profonda sul modo in cui possiamo recuperare la decentralizzazione, attraverso curiosità, pazienza e predilezione per la semplicità, spronandoci a coltivare e diffondere soluzioni che promuovano l'autonomia e la diversità. Il monopolio non è solo e in primo luogo un problema economico; beni comuni e gratuità sussistono e si espandono in virtù di un consapevole impegno collettivo, e non da sé. RELATORI: Maria Chiara Pievatolo, docente di Filosofia Politica all'Università di Pisa Norberto Patrignani, docente di Computer Ethics alla Scuola di Dottorato del Politecnico di Torino Agnese Trocchi, Digital Communications Manager MODERATORE: Davide Lamanna, CTO Binario Etico PER ISCRIVERSI: https://us02web.zoom.us/meeting/register/tZ0ucuurrDIjHteILrmrM2w6MWPXdSHIYs… (null)

Sept. 30, 2023

The promise of a post-copyright world

by 380°

Buongiorno, giustamente si parla molto di copyright in questa lista. Sottolineo che ho usato di proposito il /contemporaneo/ e _reazionario_ "copyright" invece del /vecchio/ e _rivoluzionario_ "droit d’auteur"... anche se i francesi e gli italiani si ostinano a usare quel /vecchio/ termine (more on this later?). Sottopongo alla vostra attenzione un saggio *archeologico* di Karl Fogel [1], perché è _solo_ attraverso un'opera di /archeologia/ che si può comprendere come _sicuramente_ l'attuale impianto normativo, sin dal suo concepimento, non ha *mai* avuto a che fare con la tutela dei diritti degli autori... tra l'altro mi pare anche *lampante*, per come il copyrigth è /esperito/ dagli autori stessi. https://questioncopyright.org/promise [2] «The Surprising History of Copyright and The Promise of a Post-Copyright World» [3] by Karl Fogel --8<---------------cut here---------------start------------->8--- [...] copyright was never primarily about paying artists for their work, and that far from being designed to support creators, copyright was designed by and for distributors — that is, publishers, which today includes record companies. But now that the Internet has given us a world without distribution costs, it no longer makes any sense to restrict sharing in order to pay for centralized distribution. Abandoning copyright is now not only possible, but desirable. Both artists and audiences would benefit, financially and aesthetically. In place of corporate gatekeepers determining what can and can’t be distributed, a much finer-grained filtering process would allow works to spread based on their merit alone. We would see a return to an older and richer cosmology of creativity, one in which copying and borrowing openly from others’ works is simply a normal part of the creative process, a way of acknowledging one’s sources and of improving on what has come before. And the old canard that artists need copyright to earn a living would be revealed as the pretense it has always been. None of this will happen, however, if the industry has its way. For three centuries, the publishing industry has been working very hard to obscure copyright’s true origins, and to promote the myth that it was invented by writers and artists. Even today, they continue to campaign for ever stronger laws against sharing, for international treaties that compel all nations to conform to the copyright policies of the strictest, and most of all to make sure the public never asks exactly who this system is meant to help. [...] To read the true history of copyright is to understand just how completely this reaction plays into the industry’s hands. The record companies don’t really care whether they win or lose these lawsuits. In the long run, they don’t even expect to eliminate file sharing. What they’re fighting for is much bigger. They’re fighting to maintain a state of mind, an attitude toward creative work that says someone ought to own products of the mind, and control who can copy them. [...] Copyright is an outgrowth of the privatization of government censorship in sixteenth-century England. There was no uprising of authors suddenly demanding the right to prevent other people from copying their works; far from viewing copying as theft, authors generally regarded it as flattery. The bulk of creative work has always depended, then and now, on a diversity of funding sources: commissions, teaching jobs, grants or stipends, patronage, etc. The introduction of copyright did not change this situation. What it did was allow a particular business model — mass pressings with centralized distribution — to make a few lucky works available to a wider audience, at considerable profit to the distributors. --8<---------------cut here---------------end--------------->8--- ...and much more. Cordiali saluti, 380° [1] https://www.red-bean.com/kfogel/ direttore di https://questioncopyright.org/ [2] disponibile anche in altri formati: https://archive.org/details/TheSurprisingHistoryOfCopyrightAndThePromiseOfA… [3] apparso la prima volta nel 2004 col titolo ««The promise of a post-copyright world. Report.» https://web.archive.org/web/20080624181625/http://eprints.rclis.org/archive… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 30, 2023

Re: [nexa] ‘Biggest act of copyright theft in history’: thousands of Australian books allegedly used to train AI model | Australia news | The Guardian

by 380°

Buongiorno, mi permetto di aggiungere un po' si sale :-) Premetto che "in soldoni" sono perfettamente d'accordo che l'utilizzo GC F <gcfrosio(a)gmail.com> writes: > Non capisco il senso di questa risposta Il senso è che il copyright è una "brutta bestia", lo dimostra il fatto che per poter "accomodare" software _e_ (banche) dati negli ultimi 40 anni, giuristi e legislatori hanno dovuto usare la mazza, più che il fioretto [...] > In principio, condivido la posizione di Fabio, poichè la teoria generale > del diritto d'autore vorrebbe che si proteggessero espressioni e non dati o > informazioni estratte per fini ulteriori e trasformativi. Mi rendo però poi > anche conto delle complessità nell'applicare quel principio generale in > diritto europeo. Domanda da un _miliardo_ di EUR: perché è così complesso applicare quel principio generale nel diritto europeo? Non è, per caso, che il diritto europeo è stato "accomodato" con la mazza per accontentare chi, attraverso il diritto d'autore, ha voluto e **ottenuto** abusi di posizione dominante che una più attenta applicazione della "teoria generale del diritto d'autore" avrebbe _dovuto_ evitare? > Ho pochi dubbi invece che la dottrina del "fair use" > dovrebbe giustificare gli usi di contenuti protetti in processi di > machine learning. Oh Sant'iGNUzio mi è testimone di quanto io desideri ardentemente che si scopra anche solo per UN processo di machine learnig è stato violato UN DRM!!! :-D > Sono però anche d'accordo che un qualche soluzione, forse endogena al > diritto d'autore, dovrebbe essere proposta per evitare esternalità > negative rilevanti, anche se forse solo nel breve-medio periodo, sul > mercato della creatività. Mi spiace ma più passa il tempo più è del tutto evidente che del diritto d'autore non si può salvare _quasi_ nulla, temo che "adeguarlo" o riformarlo sia solo prolungarne la lenta agonia, anche perché - insisto - l'ultimo adeguamento del diritto d'autore è di natura *esonega* e ci ha regalato quella perla del male nota come DRM. > Ne parlo in maniera esaustiva qui (anche per rispondere alle molteplici > domande che questo thread contiene): Grazie! [...] Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 30, 2023

Re: [nexa] ‘Biggest act of copyright theft in history’: thousands of Australian books allegedly used to train AI model | Australia news | The Guardian

by Giancarlo Frosio

Incredibile..."non capisco il senso di questa rsposta" era una affermazione retorica per evidenziarne la pretestuosità, non una richiesta di chiarimenti. Lei ha seri problemi di comprensione delle logiche e meccaniche del linguaggio. La Sua convinzione di comprendere tutto più di altri che dedicano anni di studio a certe tematiche rasenta la follia...tanto quanto i suoi deliri tecnocratici. Giancarlo Sent from Outlook for Android<https://aka.ms/AAb9ysg> ________________________________ From: Giacomo Tesio <giacomo(a)tesio.it> Sent: Saturday, September 30, 2023 11:37:36 AM To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it>; GC F <gcfrosio(a)gmail.com> Subject: Re: [nexa] ‘Biggest act of copyright theft in history’: thousands of Australian books allegedly used to train AI model | Australia news | The Guardian Il 30 Settembre 2023 00:38:33 UTC, GC F <gcfrosio(a)gmail.com> ha scritto: > Non capisco il senso di questa risposta quando la questione è tecnica e > riguarda l'applicazione delle norme... La cosa, ahimé, non mi sorprende. La confusione fra norma e programma è "vecchia e stantia" e non sarà facile superarla visto l'investimento emotivo e sociale che milioni di giuristi vi hanno dedicato. Purtroppo in un sistema cibernetico in cui gli esseri unani costituiscono meno di un millesimo (e presto, un milionesimo) degli agenti attivi, vedere la propria rilevanza culturale e politica tranciata nel corso di pochi decenni (dopo millenni di status elevato) dev'essere molto frustrante, per chi ne acquisisca la piena consapevolezza. Presumere di poter prescindere dalla comprensione della realtà di cui si tratta, è un comprensibile rifugio. Le norme si applicano alle persone perché ontologicamente libere di sovvertirle (quandanche convinte della loro bontà o di essere inermi contro chi le impone). La loro imposizione segue costi lineari e crescenti, parte dei quali è costituita dai redditi di avvocati, magistrati e forze dell'ordine. I programmi vengono eseguiti rigorosamente da macchine deterministiche ontologicamente incapaci di qualsiasi autonomia. Per potergli attribuire intelligenza dobbiamo ridefinire il concetto di "intelligenza" per prescindere dalla nostra stessa esperienza della stessa. La loro imposizione alla società cibernetica segue costi decrescenti con la loro diffusione, parte dei quali è costituita dai redditi di chi ne cura il marketing iniziale e dei lobbisti che a vari livelli ne assicurano la penetrazione nei punti chiave della società. Dovrebbe essere facile intuire perché, in assenza di consapevolezza diffusa, i nostri discendenti vivranno nella peggiore e più duratura distopia della storia. Una distopia in cui saranno ridotti a meno di bestiame: ingranaggi sostituibili di macchine che non comprendono controllate dai pochissimi che lo fanno. Ma si sa, la dissonanza cognitiva fa brutti scherzi. Torniamo pure però alle quisquiglie su cui ti sei focalizzato: > sul diritto d'autore, la dicotomia > idea/espressione e l'applicazione di potenziali eccezioni e limitazioni o > usi privilegiati in base alla giurisdizione di riferimento. La domanda di Fabio fonda su presupposti errati, che andavano segnalati. L'appropriazione di biada per allevare gli unicorni, costituisce reato? Prima di lanciarsi in disquisizioni accademiche sulla fattispecie del furto di biada, una persona caritatevole dovrebbe segnalare l'inesistenza degli unicorni. Soprattutto qualora ci siano noti ladri di biada che si giustificano con la ricerca sull'allevamento degli unicorni e moltissime persone (fra cui anche alcuni contadini) che se la bevono sulla base delle proprie fantasie infantili! Per non parlare dei politici (spesso giuristi, mai informatici) che, non avendo imparato nulla dalla fiaba di Andersen sui vestiti nuovi dell'imperatore, fanno a gara a lodare l'intelligenza delle macchine come all'epoca avrebbero lodato la fattura dei vestiti. Solo per non sembrare stupidi! Una volta chiarito che i LLM non sono nulla di più che grossi e complessi archivi dei testi utilizzati per programmarli statisticamente, dovrebbe apparire evidente la loro natura di opera derivata da tali testi anche a chi non bastasse l'evidenza che ne sputano fuori ampi estratti (seppur talvolta corrotti dal rumore necessario a confondere l'utente sulla natura del giocattolo elettromeccanico che sta usando). Insomma, una volta chiarito che i LLM non sono altro che antologie dei testi originali, il contributo dell'informatico finisce per lasciar decidere ai giuristi se chi realizza antologie di testi autoriali prive di attribuzioni (o, come nel caso di GitHub CopyALot con attribuzioni e licenze errate) sia vincolato dal diritto d'autore o meno. In particolare, personalmente, sarei curioso di sapere a che punto i diritti inalienabili dell'autore (quelli che nel diritto europeo l'autore non può cedere) possono essere alienati automaticamente tramite un software. Perché sapendo scrivere software, sarei ben felice di liberarmi anch'io di questa noiosa seccatura legale.. ;-) > In principio, condivido la posizione di Fabio, poichè la teoria generale > del diritto d'autore vorrebbe che si proteggessero espressioni e non dati o > informazioni Ahimé, questa frase evidenzia un'enorme confusione terminologica. Le informazioni sono esperienze soggettive di pensiero comunicabile. I dati sono rappresentazioni trasferibili ed interpretabili di informazioni. Quando tali dati sono emessi da una persona indipendentemente dalla propria volontà, proteggiamo i "dati personali". Quando tali dati sono espressi volontariamente da una persona come opera creativa, proteggiamo il suo "diritto d'autore". Quando tali dati sono espressi volontariamente da una persona nel tentativo di comunicare la propria opinione, proteggiamo la libertà d'espressione. Tali distinzioni emergono chiaramente anche nel diritto seppur non sempre in modo coerente. Ad esempio, l'articolo 19 della Dichiarazione dei Diritti Umani distingue la libertà di opinione (che attiene alle informazioni che costituiscono la mente dell'individuo) dalla libertà di espressione (che riguarda i dati che es-primono tali informazioni) Dunque il diritto d'autore protegge una paricolare categoria di dati. Si tratta di una normativa pre-cibernetica, e dunque inevitabilmente messa in crisi dall'informatica. Purtuttavia, come spesso accade, una piena comprensione della realtà cui la norma si applica permette di interpretarla in modo attinente alla sua ratio. Purtroppo è vero anche il contrario: una scarsa comprensione della realtà cui una normativa si applica conduce inevitabilmente alla violazione della sua ratio e dei principi su cui la norma si basa. > Ho pochi dubbi invece che la dottrina del "fair use" > dovrebbe giustificare gli usi di contenuti protetti in processi di > machine learning. Beh... in tal caso credo che potresti aiutare i giudici statunitensi che in questi anni sono stati molro attenti ad evitare di esprimersi a riguardo. Se non hai dubbi, potresti chiarire i loro! > Sono però anche d'accordo che un qualche soluzione, forse endogena > al diritto d'autore, dovrebbe essere proposta per evitare esternalità > negative rilevanti, anche se forse solo nel breve-medio periodo, sul > mercato della creatività. Ohibò: non è blasfemo evocare un deus ex-machina sul mercato? :-D > Ne parlo in maniera esaustiva qui (anche per rispondere alle molteplici > domande che questo thread contiene): > > 'Generative AI in Court > <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4558865>' in Nikos > Koutras and Niloufer Selvadurai (eds), Recreating Creativity, Reinventing > Inventiveness - International Perspectives on AI and IP Governance > (Routledge, Forthcoming) Il fatto che una rivista autorevole pubblichi un articolo dove si inizia con "In the age of burgeoning AI-driven creativity" e "This product of 'Generative AI' is a testament to AI's creative capabilities." credo evidenzi diversi problemi culturali e politici di quest'epoca. Anzitutto nei processi di selezione dei testi da pubblicare: se questo è l'esito del processo di peer review, appare quanto meno comprensibile la ricerca di alternativa (per quanto ingenua, autolesionista e tecnosoluzionista, quando suggerisce di affidarla a strumenti software che non farebbero che esacerbare le sue storture) Poi nella formazione dei giuristi che trattano questa materia: è urgente introdurre corsi di programmazione avanzata nei corsi di laurea in giurisprudenza, corredati da tirocini pluriennali in grado di fornire un esperienza diretta ed approfondita della realtà di cui si occuperanno. A valle un una decina di anni di debug e programmazione NESSUNO attribuirebbe (in buona fede) "creatività" ad un software. Un articolo scritto dallo stesso autore a valle di una tale formazione, potrebbe forse iniziare con "In the age of statistical programming and software-aided art..." e continuare "This output is a testament to human capabilities in the selection, extraction and reproduction of patterns from all kind of data, and from particular from the creative works of artists". In altri termini, un framework interpretativo attinente alla realtà tecnica (invece che alla propaganda interessata di un pugno di produttori) avrebbe spazzato via diverse delle "unprecedented challenges" "the intersection of technology and copyright law". Attenzione: la sfida senza precedenti rimane! Ma non concerne l'applicabilità delle norme sul copyright bensì l'applicabilità della Legge a chi controlla la stragrande maggioranza degli agenti cibernetici attivi nella società, da parte di Stati privi degli strumenti culturali ancor prima che legali per resisterne al potere. > la proposta menzionata sopra invece è qui: > > 'Should We Ban Generative AI, Incentivise it or Make it a Medium for > Inclusive Creativity? > <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4527461>' in Enrico > Bonadio and Caterina Sganga (eds), A Research Agenda for EU Copyright Law > (Edward Elgar, Forthcoming) Vedi, il problema sta di nuovo nelle assunzioni preliminari tecnicamente infondate. Ad esempio perché chiedersi "should we impose a complete prohibition on this technology or contemplate a temporary pause in its development? " e "what is the most effective way to create a regulatory framework to oversee its application?" invece di chiedersi più semplicemente "Why the Hell should we NOT treat LLMs as derivative works of the works they derive from?" Lo stesso bisogno di leggi ad hoc per queste quisquiglie economiche svanirebbe, per permetterci di concentrarci sulle norme necessarie a ridurre e contenere il potere di chi li realizza e mantiene in funzione. > PS Il dibattito circa l'antropomorfizzazione linguistica di quel che fa la > macchina è ormai vecchio e stantio. ROFTL ! ! ! :-D Ma se è appena cominciato! > Ci siano accordati nel dire che la > macchina "genera" e viene "istruita" tramite processi di machine learning, Ehm... non so da quanto ti occupi della materia ma queste tecniche di programmazione statistica hanno cambiato nome diverse volte negli ultimi venti anni. Ricerca Operativa, Data Mining, Business Intelligence, Artificial Intelligence, Machine Learning... La ciccia è più o meno sempre la stessa. Cambia sostanzialmente solo la disponibilità di potenza di calcolo e dati da elaborre. Tuttavia MAI la loro denominazione è stata oggetto di un dibattito pubblico informato: si è sempre trattato di buzzword commerciali, sostituite quando perdevano di efficacia... o sparandola più grossa o riesumando evergreen. Chi non ne capisce il funzionamento se le beve, gli altri se la ridono (o ne approfittano). Dunque non ci siamo affatto "messi d'accordo". Il fatto che tu lo creda è un'altro effetto dell'egemonia culturale di chi controlla il dibattito in merito (controllo individuale e collettivo). Spero dunque di averti chiarito il senso della mia risposta. Un invito ad uno studio approfondito dell'informatica e della sua storia per non soccombere alle sirene commerciali, pur tenendo loro testa come Ulisse. A presto! Giacomo

Sept. 30, 2023

Re: [nexa] ‘Biggest act of copyright theft in history’: thousands of Australian books allegedly used to train AI model | Australia news | The Guardian

by 380°

Ciao Giacomo, Giacomo Tesio <giacomo(a)tesio.it> writes: [...] > Ciò che chiami "modello" non è stato istruito ma programmato > statisticamente usando determinati testi "sorgente". questo è un concetto _fondamentale_ e anche ampiamente condiviso da qutti gli addetti ai lavori, il fatto che anche qui se ne discuta anche fin troppo dipende solo dalla *confusione* proveniente dal "ambiente esterno" :-O in più, direi che tra colleghi di questa lista ogni tanto possiamo anche perdonarci qualche imprecisione terminologica poi, per stabilire se l'utilizzo di qualsiasi testo (tutti i testi sono tutelati da copyright, anche il pubblico dominio *è* copyright) come input per l'elaborazione di modelli costituisca di per sè violazione o meno del copyright non è importante sapere se il modello è programmato statisticamente o meno > Il "modello" rappresenta una codifica parziale (o se peferisci, una > compressione con perdita di informazione) con interferenze (le varie > sorgenti casuali utilizzate durante la programmazione statistica o > durante l'esecuzione del programma e poi scartate per poter fingere > che l'output non sia deterministico). esatto: una (ri)codifica con _rielaborazione_ della **forma** del testo qui non siamo nemmeno nel c.d. fair use (riproduzione parziale ai fini didattici, parodistici, bla bla...), siamo nella rielaborazone della **forma**, che è l'unica cosa protetta dal copyright: non sono protette le idee, non la semantica (che l'AI non sa nemmeno cos'è) e nemmeno la sintassi > Dunque il modello CONTIENE, seppur in forma difficile da estrarre e > non necessariamente corrispondente all'intento comunicativo dei > rispettivi autori, ampie parti dei testi originali. ecco: qui proprio non capisco quello che vuoi dire stai dicendo che quelle parti di testo, che sono espresse in /forma/ difficilmente estraibile, sarebbero plagio (ampie parti dei testi originali)? > Un esempio particolarmente lampante di questo meccanismo fu > evidenziato con Microsoft Copilot (aka CopyALot) che distribuì codice > sotto GPL in violazione della stessa, copiando alla lettera il > sorgente ma (guarda caso) attribuendogli una licenza permissiva ed un > autore inesistente. già, ma come ha fatto CopyALot, **se** è un LLM, a riprodurre alla lettera il sorgente? Microsofoft bara o, trattandosi di software, a precisa domanda l'LLM non ha potuto fare altro che fornire precisa risposta nell'unica **forma** /ricavata/ dal suo modello, perché il "conosce" solo quella precisa forma di "risposta" che risponde perfettamente alla "domanda"? ma a ben pansarci: che importa /come/ abbia fatto CopyALot a sputare fuori quel codice con attribuzione sbagliata? Se io avessi cercato quel codice con altri criteri, male interpretando l'attribuzione, cosa sarebbe cambiato? Sono _io_ a essere responsabile di eventuale violazione (e per questo ci vuole un processo _di_merito_). il problema, come ho detto in altre occasioni, è che /ogni/ fornitore di servizi che usano LLM per sputare scemate a pseudo-caso in output, scrive in piccolo e con un linguaggio che a volte supera quello delle clausole vessatorie che non si prende la responsabilità dell'adeguatezza del testo, _nemmeno_ in merito alla sua legalità: è _la_persona_ che usa l'output che si prende la responsabilità di /decidere/ in merito alla sua adeguatezza, _anche_ legale, in funzione di come lo vuole utilizzare. ...certo, Microsoft e compagnia cantante dovrebbero scrivere 'sta cosa su **ogni** output (watermarking, quel che l'è)... ieri, non domani [...] > Violazioni particolarmente gravi perché il codice GPL viene poi > incluso in prodotti proprietari. se permetti, sono stracavolacci di quelli che copia-incollano l'output da CopyALot, non ho verificato ma scommetto un fiorino che è pure scritto chiaramente nelle condizioni di utilizzo del servizio [...] > Personalmente sarei felicissimo di scoprire che fare uno zip di > windows o office è sufficiente a far decadere i diritti di Microsoft a > su di esso. ovviamente no... ma meno male che nessuno ha mai pensato di accusare il software zip di violare il diritto d'autore per via di quello che "zippa" :-D [...] > Ma dentro un LLM non opera alcuna intelligenza, solo rappresentazioni vettoriali di > testi attraversate lungo tracciati statisticamente probabili selezionati in modo (pseudo) > casuale entro un errore accettabile... quale sarebbe la violazione del diritto d'autore, se non c'è plagio *e* chi usa quei testi per usarli in una elaborazione ha *pagato* "i libri"? [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 30, 2023

Re: [nexa] ‘Biggest act of copyright theft in history’: thousands of Australian books allegedly used to train AI model | Australia news | The Guardian

by Giacomo Tesio

Il 30 Settembre 2023 00:38:33 UTC, GC F <gcfrosio(a)gmail.com> ha scritto: > Non capisco il senso di questa risposta quando la questione è tecnica e > riguarda l'applicazione delle norme... La cosa, ahimé, non mi sorprende. La confusione fra norma e programma è "vecchia e stantia" e non sarà facile superarla visto l'investimento emotivo e sociale che milioni di giuristi vi hanno dedicato. Purtroppo in un sistema cibernetico in cui gli esseri unani costituiscono meno di un millesimo (e presto, un milionesimo) degli agenti attivi, vedere la propria rilevanza culturale e politica tranciata nel corso di pochi decenni (dopo millenni di status elevato) dev'essere molto frustrante, per chi ne acquisisca la piena consapevolezza. Presumere di poter prescindere dalla comprensione della realtà di cui si tratta, è un comprensibile rifugio. Le norme si applicano alle persone perché ontologicamente libere di sovvertirle (quandanche convinte della loro bontà o di essere inermi contro chi le impone). La loro imposizione segue costi lineari e crescenti, parte dei quali è costituita dai redditi di avvocati, magistrati e forze dell'ordine. I programmi vengono eseguiti rigorosamente da macchine deterministiche ontologicamente incapaci di qualsiasi autonomia. Per potergli attribuire intelligenza dobbiamo ridefinire il concetto di "intelligenza" per prescindere dalla nostra stessa esperienza della stessa. La loro imposizione alla società cibernetica segue costi decrescenti con la loro diffusione, parte dei quali è costituita dai redditi di chi ne cura il marketing iniziale e dei lobbisti che a vari livelli ne assicurano la penetrazione nei punti chiave della società. Dovrebbe essere facile intuire perché, in assenza di consapevolezza diffusa, i nostri discendenti vivranno nella peggiore e più duratura distopia della storia. Una distopia in cui saranno ridotti a meno di bestiame: ingranaggi sostituibili di macchine che non comprendono controllate dai pochissimi che lo fanno. Ma si sa, la dissonanza cognitiva fa brutti scherzi. Torniamo pure però alle quisquiglie su cui ti sei focalizzato: > sul diritto d'autore, la dicotomia > idea/espressione e l'applicazione di potenziali eccezioni e limitazioni o > usi privilegiati in base alla giurisdizione di riferimento. La domanda di Fabio fonda su presupposti errati, che andavano segnalati. L'appropriazione di biada per allevare gli unicorni, costituisce reato? Prima di lanciarsi in disquisizioni accademiche sulla fattispecie del furto di biada, una persona caritatevole dovrebbe segnalare l'inesistenza degli unicorni. Soprattutto qualora ci siano noti ladri di biada che si giustificano con la ricerca sull'allevamento degli unicorni e moltissime persone (fra cui anche alcuni contadini) che se la bevono sulla base delle proprie fantasie infantili! Per non parlare dei politici (spesso giuristi, mai informatici) che, non avendo imparato nulla dalla fiaba di Andersen sui vestiti nuovi dell'imperatore, fanno a gara a lodare l'intelligenza delle macchine come all'epoca avrebbero lodato la fattura dei vestiti. Solo per non sembrare stupidi! Una volta chiarito che i LLM non sono nulla di più che grossi e complessi archivi dei testi utilizzati per programmarli statisticamente, dovrebbe apparire evidente la loro natura di opera derivata da tali testi anche a chi non bastasse l'evidenza che ne sputano fuori ampi estratti (seppur talvolta corrotti dal rumore necessario a confondere l'utente sulla natura del giocattolo elettromeccanico che sta usando). Insomma, una volta chiarito che i LLM non sono altro che antologie dei testi originali, il contributo dell'informatico finisce per lasciar decidere ai giuristi se chi realizza antologie di testi autoriali prive di attribuzioni (o, come nel caso di GitHub CopyALot con attribuzioni e licenze errate) sia vincolato dal diritto d'autore o meno. In particolare, personalmente, sarei curioso di sapere a che punto i diritti inalienabili dell'autore (quelli che nel diritto europeo l'autore non può cedere) possono essere alienati automaticamente tramite un software. Perché sapendo scrivere software, sarei ben felice di liberarmi anch'io di questa noiosa seccatura legale.. ;-) > In principio, condivido la posizione di Fabio, poichè la teoria generale > del diritto d'autore vorrebbe che si proteggessero espressioni e non dati o > informazioni Ahimé, questa frase evidenzia un'enorme confusione terminologica. Le informazioni sono esperienze soggettive di pensiero comunicabile. I dati sono rappresentazioni trasferibili ed interpretabili di informazioni. Quando tali dati sono emessi da una persona indipendentemente dalla propria volontà, proteggiamo i "dati personali". Quando tali dati sono espressi volontariamente da una persona come opera creativa, proteggiamo il suo "diritto d'autore". Quando tali dati sono espressi volontariamente da una persona nel tentativo di comunicare la propria opinione, proteggiamo la libertà d'espressione. Tali distinzioni emergono chiaramente anche nel diritto seppur non sempre in modo coerente. Ad esempio, l'articolo 19 della Dichiarazione dei Diritti Umani distingue la libertà di opinione (che attiene alle informazioni che costituiscono la mente dell'individuo) dalla libertà di espressione (che riguarda i dati che es-primono tali informazioni) Dunque il diritto d'autore protegge una paricolare categoria di dati. Si tratta di una normativa pre-cibernetica, e dunque inevitabilmente messa in crisi dall'informatica. Purtuttavia, come spesso accade, una piena comprensione della realtà cui la norma si applica permette di interpretarla in modo attinente alla sua ratio. Purtroppo è vero anche il contrario: una scarsa comprensione della realtà cui una normativa si applica conduce inevitabilmente alla violazione della sua ratio e dei principi su cui la norma si basa. > Ho pochi dubbi invece che la dottrina del "fair use" > dovrebbe giustificare gli usi di contenuti protetti in processi di > machine learning. Beh... in tal caso credo che potresti aiutare i giudici statunitensi che in questi anni sono stati molro attenti ad evitare di esprimersi a riguardo. Se non hai dubbi, potresti chiarire i loro! > Sono però anche d'accordo che un qualche soluzione, forse endogena > al diritto d'autore, dovrebbe essere proposta per evitare esternalità > negative rilevanti, anche se forse solo nel breve-medio periodo, sul > mercato della creatività. Ohibò: non è blasfemo evocare un deus ex-machina sul mercato? :-D > Ne parlo in maniera esaustiva qui (anche per rispondere alle molteplici > domande che questo thread contiene): > > 'Generative AI in Court > <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4558865>' in Nikos > Koutras and Niloufer Selvadurai (eds), Recreating Creativity, Reinventing > Inventiveness - International Perspectives on AI and IP Governance > (Routledge, Forthcoming) Il fatto che una rivista autorevole pubblichi un articolo dove si inizia con "In the age of burgeoning AI-driven creativity" e "This product of 'Generative AI' is a testament to AI's creative capabilities." credo evidenzi diversi problemi culturali e politici di quest'epoca. Anzitutto nei processi di selezione dei testi da pubblicare: se questo è l'esito del processo di peer review, appare quanto meno comprensibile la ricerca di alternativa (per quanto ingenua, autolesionista e tecnosoluzionista, quando suggerisce di affidarla a strumenti software che non farebbero che esacerbare le sue storture) Poi nella formazione dei giuristi che trattano questa materia: è urgente introdurre corsi di programmazione avanzata nei corsi di laurea in giurisprudenza, corredati da tirocini pluriennali in grado di fornire un esperienza diretta ed approfondita della realtà di cui si occuperanno. A valle un una decina di anni di debug e programmazione NESSUNO attribuirebbe (in buona fede) "creatività" ad un software. Un articolo scritto dallo stesso autore a valle di una tale formazione, potrebbe forse iniziare con "In the age of statistical programming and software-aided art..." e continuare "This output is a testament to human capabilities in the selection, extraction and reproduction of patterns from all kind of data, and from particular from the creative works of artists". In altri termini, un framework interpretativo attinente alla realtà tecnica (invece che alla propaganda interessata di un pugno di produttori) avrebbe spazzato via diverse delle "unprecedented challenges" "the intersection of technology and copyright law". Attenzione: la sfida senza precedenti rimane! Ma non concerne l'applicabilità delle norme sul copyright bensì l'applicabilità della Legge a chi controlla la stragrande maggioranza degli agenti cibernetici attivi nella società, da parte di Stati privi degli strumenti culturali ancor prima che legali per resisterne al potere. > la proposta menzionata sopra invece è qui: > > 'Should We Ban Generative AI, Incentivise it or Make it a Medium for > Inclusive Creativity? > <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4527461>' in Enrico > Bonadio and Caterina Sganga (eds), A Research Agenda for EU Copyright Law > (Edward Elgar, Forthcoming) Vedi, il problema sta di nuovo nelle assunzioni preliminari tecnicamente infondate. Ad esempio perché chiedersi "should we impose a complete prohibition on this technology or contemplate a temporary pause in its development? " e "what is the most effective way to create a regulatory framework to oversee its application?" invece di chiedersi più semplicemente "Why the Hell should we NOT treat LLMs as derivative works of the works they derive from?" Lo stesso bisogno di leggi ad hoc per queste quisquiglie economiche svanirebbe, per permetterci di concentrarci sulle norme necessarie a ridurre e contenere il potere di chi li realizza e mantiene in funzione. > PS Il dibattito circa l'antropomorfizzazione linguistica di quel che fa la > macchina è ormai vecchio e stantio. ROFTL ! ! ! :-D Ma se è appena cominciato! > Ci siano accordati nel dire che la > macchina "genera" e viene "istruita" tramite processi di machine learning, Ehm... non so da quanto ti occupi della materia ma queste tecniche di programmazione statistica hanno cambiato nome diverse volte negli ultimi venti anni. Ricerca Operativa, Data Mining, Business Intelligence, Artificial Intelligence, Machine Learning... La ciccia è più o meno sempre la stessa. Cambia sostanzialmente solo la disponibilità di potenza di calcolo e dati da elaborre. Tuttavia MAI la loro denominazione è stata oggetto di un dibattito pubblico informato: si è sempre trattato di buzzword commerciali, sostituite quando perdevano di efficacia... o sparandola più grossa o riesumando evergreen. Chi non ne capisce il funzionamento se le beve, gli altri se la ridono (o ne approfittano). Dunque non ci siamo affatto "messi d'accordo". Il fatto che tu lo creda è un'altro effetto dell'egemonia culturale di chi controlla il dibattito in merito (controllo individuale e collettivo). Spero dunque di averti chiarito il senso della mia risposta. Un invito ad uno studio approfondito dell'informatica e della sua storia per non soccombere alle sirene commerciali, pur tenendo loro testa come Ulisse. A presto! Giacomo

Sept. 30, 2023

How the “Surveillance AI Pipeline” Literally Objectifies Human Beings

by J.C. DE MARTIN

*How the “Surveillance AI Pipeline” Literally Objectifies Human Beings * /A preprint study covering 20,000 computer vision papers and patents over three decades shows “The Surveillance AI Pipeline,” and why the field needs more interdisciplinary studies./ Emanuel Maiberg · Sep 28, 2023 at 9:43 AM https://www.404media.co/how-the-surveillance-ai-pipeline-literally-objectif…

Sept. 30, 2023

Europol Sought Unlimited Data Access in Online Child Sexual Abuse Regulation

by J.C. DE MARTIN

*Europol Sought Unlimited Data Access in Online Child Sexual Abuse Regulation * /According to minutes released under FOI, the European police agency pushed for unfiltered access to data that would be obtained under a proposed new scanning system for detecting child sexual abuse images on messaging apps, with a view, experts say, to training AI algorithms. / Apostolis Fotiadis, Luděk Stavinoha and Giacomo Zandonini Athens, Norwich, Rome BIRN September 29, 202314:56 The European police agency, Europol, has requested unfiltered access to data that would be harvested under a controversial EU proposal to scan online content for child sexual abuse images and for the AI technology behind it to be applied to other crimes too, according to minutes of a high-level meeting in mid-2022. The meeting, involving Europol Executive Director Catherine de Bolle and the European Commission’s Director-General for Migration and Home Affairs, Monique Pariat, took place in July last year, weeks after the Commission unveiled a proposed regulation that would require digital chat providers to scan client content for child sexual abuse material, or CSAM. The regulation, put forward by European Commissioner for Home Affairs Ylva Johansson, would also create a new EU agency - the EU centre to prevent and counter child sexual abuse. It has stirred heated debate, with critics warning it risks opening the door to mass surveillance of EU citizens. [...] continua qui: https://balkaninsight.com/2023/09/29/europol-sought-unlimited-data-access-i…

Sept. 30, 2023