September 2024 - nexa - server-nexa.polito.it

Confessions of a chatbot helper

by Antonio

"Working for an AI company as a writer was therefore a little like being told you were going to be paid a visit by Dracula, and instead of running for the hills, you stayed in and laid the table. But our destroyer is generous, the pay sufficient to justify the alienation. If our sector was going up in smoke, we might as well get high off the fumes." https://www.theguardian.com/technology/article/2024/sep/07/if-journalism-is… A.

Sept. 7, 2024

Re: [nexa] AI Training is Copyright Infringement

by Antonio

On Fri, 06 Sep 2024 21:51:39 +0000 Giacomo Tesio <giacomo(a)tesio.it> wrote: > Io ci sono. :) > Quando si parte? Anche subito > Che si fa? Si fa ;) Si discute, certo, ma insieme si agisce. Le idee arrivano con il dialogo, con la dialettica. E dalle idee, i progetti ... La lista Nexa è un ottimo posto per discutere ma ovviamente non può andare bene per il resto. Servirebbe una lista "esecutiva", privata, in cui lo scambiarsi anche dieci mail al giorno, a persona, non sarebbe un problema (tanto ci sono i filtri dei client). Facciamo così, per evitare di inquinare la lista, chi vuole aggregarsi mandi una mail a Giacomo e me. Settembre è un ottimo mese per partire :) Antonio

Sept. 7, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

Io ci sono. Quando si parte? Che si fa? Il 6 Settembre 2024 18:45:35 UTC, Antonio <antonio(a)piumarossa.it> ha scritto: > > la Storia ha corsi e ricorsi, ma talvolta fa anche inversioni a U > > ma non bisogna limitarsi all'invettiva aspettando che a sterzare sia > > qualcun'altro, altrimenti non avremo alcuna rilevanza neanche a questo giro > > Se c'è la volontà di cambiare, di sterzare, le professionalità, anche in questa lista, non mancano :) > Basta un cenno e si parte. > A parte costruire un clone di ChatGpt, per il resto possiamo mettere su di tutto. > L'hanno fatto i francesi di Framasoft ( https://framasoft.org/it/manifest ) 23 anni fa, perché non seguire quell'esempio? > > A.

Sept. 6, 2024

In Leak, Facebook Partner Brags About Listening to Your Phone’s Microphone to Serve Ads for Stuff You Mention

by Alberto Cammozzo

In Leak, Facebook Partner Brags About Listening to Your Phone’s Microphone to Serve Ads for Stuff You Mention <https://futurism.com/the-byte/facebook-partner-phones-listening-microphone> "We know what you're thinking. Is this even legal?" Actively Creepy In a pitch deck to prospective customers, one of Facebook's alleged marketing partners explained how it listens to users' smartphone microphones and advertises to them accordingly. As 404 Media reports based on documents leaked to its reporters, the TV and radio news giant Cox Media Group (CMG) claims that its so-called "Active Listening" software uses artificial intelligence to "capture real-time intent data by listening to our conversations." "Advertisers can pair this voice-data with behavioral data to target in-market consumers," the deck continues. In the same slideshow, CMG counted Facebook, Google, and Amazon as clients, though it didn't specify whether they were involved in the "Active Listening" service. After 404 reached out to Google about its partnership, the tech giant removed the media group from the site for its "Partners Program." A Meta spokesperson also pushed back in a statement, saying that CMG was a general partner, not a partner in the program advertised in the deck. "Meta does not use your phone's microphone for ads and we've been public about this for years," the statement read. "We are reaching out to CMG to get them to clarify that their program is not based on Meta data." And an Amazon spokesperson told 404 that its Ads arm "has never worked with CMG on this program and has no plans to do so." Ill-Fated Admissions This latest leak marks the third time in a year that 404 has reported on CMG's shady voice targeting service. Last December, the independent news site not only put a marketing company on blast for boasting about such creepy tech on its podcast, and also revealed the existence of CMG's Active Listening feature. Together with this latest update to the CMG saga, these stories bolster longstanding suspicions about advertisers using our phones to listen to us. "We know what you're thinking. Is this even legal?" a since-deleted Cox blog post from November 2023 noted. "It is legal for phones and devices to listen to you. When a new app download or update prompts consumers with a multi-page term of use agreement somewhere in the fine print, Active Listening is often included." Beyond taking a big game, CMG did not cop to how it acquires its alleged voice data, instead saying only that it can identify users who are "ready-to-buy" and create targeted ad lists based on their interests. For this service, the media group that specializes in hyperlocal news charges $100 per day to target folks in a 10-mile radius, and $200 per day to target those in a 20-mile radius. CMG didn't respond to questions about the story. Given that the company boasted about it on its public — and still archived — website before anyone began paying attention, however, it seems like it would be pretty hard at this juncture to deny that it was charging for its eavesdropping services.

Sept. 6, 2024

Re: [nexa] Sistemi decisionali automatizzati e diritto all'oblio

by Antonio Vetro'

I nuovi, recenti pasticci dell'algoritmo per l'assegnazione delle supplenze a scuola dimostrano che la questione è sempre più decisiva per le nostre società. https://torino.corriere.it/notizie/scuola/24_settembre_02/supplenze-a-scuol… ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Gianluca Fasano <gianluca.fasano(a)cnr.it> Inviato: venerdì, settembre 6, 2024 12:09:55 PM A: Nexa <nexa(a)server-nexa.polito.it> Oggetto: [nexa] Sistemi decisionali automatizzati e diritto all'oblio Buongiorno, vorrei condividere con voi una riflessione in tema di 'sistemi decisionali automatizzati', ove il diritto all’intervento umano rappresenta sempre più l'affermazione del diritto all’oblio, anche comportamentale. La mia idea è che le tutele previste dall’art. 22 del Gdpr saranno sempre più difficili da attuare: per via della complessità sempre più spinta dei processi che concorrono alla formazione delle decisioni automatizzate; per via della tendenza dell’uomo ad appiattirsi sui risultati della macchina e delle sue capacità di aggregare, elaborare e inferire enormi quantità di dati; per via della facilità con cui l’uomo è pronto ad abdicare dalla proprie responsabilità di decidere; per via delle difficoltà concrete di poter reclamare le tutele previste dall’art. 22 Gdpr da parte di chi, avendone diritto, non possiede le conoscenze per indagare la complessità delle diverse dinamiche e interconnessioni che caratterizzano i sistemi decisionali automatizzati. Come intervenire? Per saperne di più vi lascio il link al saggio [1] e all'abstract [2]. Buon fine settimana. Gianluca Fasano [1] www.rivistaitalianadiinformaticaediritto.it<http://www.rivistaitalianadiinformaticaediritto.it> Guarda L’interpretazione estensiva della nozione di “decisione automatizzata” ad opera della Corte di giustizia: una prospettiva più ampia ma ancora fragili tutele per le libertà fondamentali 🔗 https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/…<https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/…> [2] www.rivistaitalianadiinformaticaediritto.it<http://www.rivistaitalianadiinformaticaediritto.it> L’interpretazione estensiva della nozione di “decisione automatizzata” ad opera della Corte di giustizia: una prospettiva più ampia ma ancora fragili tutele per le libertà fondamentali | Rivista italiana di informatica e diritto 🔗 https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/…<https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/…>

Sept. 6, 2024

Re: [nexa] AI Training is Copyright Infringement

by Antonio

> la Storia ha corsi e ricorsi, ma talvolta fa anche inversioni a U > ma non bisogna limitarsi all'invettiva aspettando che a sterzare sia > qualcun'altro, altrimenti non avremo alcuna rilevanza neanche a questo giro Se c'è la volontà di cambiare, di sterzare, le professionalità, anche in questa lista, non mancano :) Basta un cenno e si parte. A parte costruire un clone di ChatGpt, per il resto possiamo mettere su di tutto. L'hanno fatto i francesi di Framasoft ( https://framasoft.org/it/manifest ) 23 anni fa, perché non seguire quell'esempio? A.

Sept. 6, 2024

Re: [nexa] AI Training is Copyright Infringement

by Guido Vetere

chissà che invece stavolta l'eterogenesi dei fini non giri a favore del Vero, del Bene e del Bello la Storia ha corsi e ricorsi, ma talvolta fa anche inversioni a U ma non bisogna limitarsi all'invettiva aspettando che a sterzare sia qualcun'altro, altrimenti non avremo alcuna rilevanza neanche a questo giro G. On Fri, 6 Sept 2024 at 17:01, Antonio <antonio(a)piumarossa.it> wrote: > > ... se stessi per perdere per sempre l'accesso a Internet > > Questa tua frase mi ha fatto pensare ad un film che ho visto di recente: > "Falla girare 2 – Offline" dove un virus ha cancellato Internet ... > > Già, l'"Internet fatta a pezzi" (cit. Quintarelli/Bertola), dov'è finito > quel Web strumento foriero di intelligenza collettiva? > A post-verità, fake news, populismo, narcisismo, marketing > commercial-politico, echo chamber, polarizzazione, ecc. mancava giusto una > superChat antropomorfa che promette un Web 4.0 (o 5.0, boh, ho perso il > conto) e che, grazie ad un'operazione di scissione che abbiamo imparato a > conoscere nelle crisi d'impresa, si prepara all'enucleazione e alla > successiva liquidazione della bad company (Internet 1.0) dopo averne, come > un moderno Dracula, succhiatone il sangue. > E' vero, Internet 1.0 (quella dei blog, dei siti personali, ecc.) è morta > con l'avvento dei Social, ma è servita e serve tuttora per istruire gli > LLM. Una volta completato l'addestramento, se ne potrà fare a meno. Gli LLM > impareranno dagli utenti stessi delle chat. > Rimarranno solo i Social, gli Oracoli, la SuperTelevisione e la > Propaganda, pardon, l'Informazione. > > A. > > (scusate l'OT) >

Sept. 6, 2024

Re: [nexa] AI Training is Copyright Infringement

by Antonio

> ... se stessi per perdere per sempre l'accesso a Internet Questa tua frase mi ha fatto pensare ad un film che ho visto di recente: "Falla girare 2 – Offline" dove un virus ha cancellato Internet ... Già, l'"Internet fatta a pezzi" (cit. Quintarelli/Bertola), dov'è finito quel Web strumento foriero di intelligenza collettiva? A post-verità, fake news, populismo, narcisismo, marketing commercial-politico, echo chamber, polarizzazione, ecc. mancava giusto una superChat antropomorfa che promette un Web 4.0 (o 5.0, boh, ho perso il conto) e che, grazie ad un'operazione di scissione che abbiamo imparato a conoscere nelle crisi d'impresa, si prepara all'enucleazione e alla successiva liquidazione della bad company (Internet 1.0) dopo averne, come un moderno Dracula, succhiatone il sangue. E' vero, Internet 1.0 (quella dei blog, dei siti personali, ecc.) è morta con l'avvento dei Social, ma è servita e serve tuttora per istruire gli LLM. Una volta completato l'addestramento, se ne potrà fare a meno. Gli LLM impareranno dagli utenti stessi delle chat. Rimarranno solo i Social, gli Oracoli, la SuperTelevisione e la Propaganda, pardon, l'Informazione. A. (scusate l'OT)

Sept. 6, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

Ciao 380°, On Fri, 06 Sep 2024 12:47:39 +0200 380° <g380(a)biscuolo.net> wrote: > Non capisco perché la parte "text mining" che del processo di > c.d. "machine learning" non rientri tranquillamente nella definizione > di "text and data mining" riportata sopra. Perché il processo di "machine learning" (più propriamente programmazione statistica) usato per la realizzazione di un "AI generativa" produce matrici numeriche inintelligibili. Non a caso vengono definite "black box". > > Il processo di programmazione statistica di un LLM o di qualsiasi > > altra "IA generativa" non comporta in alcun modo l'estrazione di > > conoscenza "human-understandable" sui testi e più in generale sui > > dati usati come sorgente. > > e perché il ‘text and data mining’ definito sopra comporta > l'estrazione di conoscenza "human-understandable" sui testi > analizzati? Perché quella definizione chiarisce che l'analisi effettuata costituisce data mining solo quando è effettuata "in order to generate information". Le matrici numeriche _generate_ da tali processi che costituiscono gli eseguibili di cui parliamo non veicolano alcuna informazione. > il fatto che la definizione dica "includes but is not limited to > patterns..." non è secondario Non secondario, ma subordinato (anche grammaticalmente) alla generazione di informazioni. D'altro canto, non parliamo di locuzioni inedite: persino Wikipedia è cristallina in merito a cosa costituisca il data mining: https://en.wikipedia.org/wiki/Data_mining > quindi il processo di "machine learning" a cosa sarebbe ricondicibile, > secondo te? Il processo di "machine learning" è un processo di compilazione costituito da una forma di compressione dati con perdita che produce una rappresentazione eseguibile da parte di una certa "architettura" (ovvero una macchina virtuale programmata allo scopo). La scelta delle tecniche e dei dati da utilizzare (il dataset sorgente, ma anche i valori iniziali delle matrici, gli hyperparameters etc..) costituisce invece l'attività di programmazione statistica operata da programmatori che si fanno pomposamente chiamare "data scientist". > > Tuttavia NON è ciò che avviene durante la programmazione statistica > > di un "AI generativa" che è semplicemente un'opera derivata dei dati > > sorgente > > Il software (programmato statisticamente) è un'opera derivata dei > testi (dati?) utilizzati per il "machine learning": ho capito bene? Sì. Esattamente come un binario eseguibile dall'architettura x86_64 è un'opera derivata dai sorgenti usati per compilarlo, una matrice eseguibile dall'architettura GPT-4 è un'opera derivata dei testi usati per realizzarla. > Per essere considerata opera derivata, è mio modestissimo parere che > tale opera debba essere espressa in una forma (linguaggio) > comprensibile agli umani, ma non mi pare proprio che il software > programmato statisticamente (che è del tutto analogo al software > binario) rientri in questa categoria. Se così fosse, i binari compilati a partire da sorgenti proprietari non sarebbero protetti dal diritto d'autore. Sarei felicissimo di scoprirlo, ma ne dubito fortemente perché corrisponderebbe alla abolizione del copyright sul software. Verrebbe meno anche il copyleft e alcuni modelli di business che vi si basano, ma sarebbe comunque una vittoria. > > non troppo dissimile da un jpeg o da uno zip danneggiato ma > > ancora utilizzabile. > > ...oppure ho capito male e tu non ti stai riferendo al software > (binario) come opera derivata ma all'output dei sistem "AI > generativi"? Io sto parlando dei cosiddetti "modelli AI" ovvero le matrici eseguibili (binari nella memoria della GPU, ma la codifica è irrilevante...) che vengono eseguiti dalle macchine virtuali preposte (le cosiddette "architetture") a loro volta eseguite da GPU etc... Tali matrici sono oggetto del diritto d'autore di coloro che hanno scritto i testi da cui sono state compilate. Poi sì, come conseguenza, l'output calcolato dal LLM è necessariamente un'opera derivata dalla matrice che sta eseguendo e dunque sarà utilizzati durante la sua programmazione. soggetta al diritto d'autore di coloro che avevano scritto i testi E' una sorta di (ovvia?) proprietà transitiva. Naturalmente le matrici di cui parliamo (e gli output degli LLM) non sono SOLO opera derivata dai testi in questione perché ad esempio c'è anche un piccolo contributo del prompt (il cui peso è indicativamente pari al rapporto fra la sua lunghezza in byte e la lunghezza in byte di tutti i testi usati durante il processo di programmazione statistica, quindi trascurabile ma non nullo). Ma negare i diritti degli autori nella realizzazione delle matrici di cui parliamo è tecnicamente e logicamente infondato. Abolire il diritto d'autore VA BENISSIMO ! ! ! L'importante è che venga abolito per tutti, non solo per qualcuno. Giacomo

Sept. 6, 2024

Re: [nexa] AI Training is Copyright Infringement

by Stefano Quintarelli

mi pare che la violazione del diritto d'autore sia in origine. da dove sono presi i testi, senza violare tpm? Hanno scansionato e fatto ocr dei testi? Il 6 settembre 2024 12:09:18 UTC, Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: >Caro Giacomo, caro 380°, > > >>> Tuttavia NON è ciò che avviene durante la programmazione statistica di >>> un "AI generativa" che è semplicemente un'opera derivata dei dati >>> sorgente > >>Il software (programmato statisticamente) è un'opera derivata dei testi >>(dati?) utilizzati per il "machine learning": ho capito bene? > >>Per essere considerata opera derivata, è mio modestissimo parere che >>tale opera debba essere espressa in una forma (linguaggio) comprensibile >>agli umani, ma non mi pare proprio che il software programmato >>statisticamente (che è del tutto analogo al software binario) rientri in >>questa categoria. > >>> non troppo dissimile da un jpeg o da uno zip danneggiato ma >>> ancora utilizzabile. > >>...oppure ho capito male e tu non ti stai riferendo al software >>(binario) come opera derivata ma all'output dei sistem "AI generativi"? > >La questione che state discutendo è l'elemento che mi ha indotta a segnalarvi l'articolo. >Ted Chiang l'ha posta sostenendo che ChatGPT sia come un certo tipo di fotocopiatrice: >quello che produce è un "JPEG sfuocato del web", una "lossy compression" del web*, >che potrebbe essermi utile, ad esempio, se stessi per perdere per sempre l'accesso a Internet >e volessi salvare tutto il testo del web su un server privato, in uno spazio pari a un centesimo dell'originale. > >Con una simile compressione di gruppo, non potrei più avere accesso alle opere nella loro forma originale, >ma potrei ottenerne, per interpolazione, delle approssimazioni, tramite queries dalla forma di domande >(senza alcuna garanzia che il sistema sia in grado anche solo di indicare il titolo della singola opera originaria). > >A me pare che questo modo di concettualizzare la questione fornisca un buon punto di partenza per discuterne, dal punto di vista politico. > >Un saluto, >Daniela > >*https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web > >

Sept. 6, 2024