June 2024 - nexa - server-nexa.polito.it

Re: [nexa] Scorza: "AI, è ora di difendere i nostri dati dalla raccolta massiva: ecco come" - Agenda Digitale

by Carlo Blengino

Caro Giulio e cari tutti. Mi pare vi sia un problema di fondo nell'impostazione dell'autorevole tesi: con il diritto fondamentale alla protezione dei dati noi siamo (solo) soggetti "interessati", non siamo "proprietari" dei dati che ci riguardano. Non possediamo lo *Ius excludèndi òmnes àlios *rispetto alle nostre informazioni; non abbiamo nessuna esclusiva o privativa di sfruttamento sui dati personali che ci riguardano. L'art. 8 della Carta UE mira solo a "proteggere" i dati personali e prescrive le condizioni per il trattamento legittimo da parte dei terzi (che possono dunque trattarli, ma a quelle condizioni) e l'articolo *conferisce due soli diritti* all'interessato: il diritto di accedere ai dati raccolti che lo riguardano e di ottenerne la rettifica. Punto. Questo è il diritto fondamentale previsto dalla Carta UE. Ed ha un senso. Non è che si son dimenticati ad esempio il diritto di cancellazione nella Carta di Nizza...: è che le informazioni, anche quelle personali, possono e devono circolare liberamente, perché sui dati, sulle informazioni, si basa il progresso. Poi il GDPR ha un complesso sistema di diritti e garanzie conferiti all'interessato per garantire che il trattamento sia lecito, ma non c'è alcun diritto assoluto sulle informazioni personali che ci riguardano. Il GDPR stesso, nel titolo è "relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, *nonché alla libera circolazione di tali dati "* Grazie a Dio non c'è un Diritto d'Autore né un copyright sui nostri dati, sebbene le due normative abbiano molti tratti in comune. Dunque stiamo attenti, che se interpretato male, come fosse una specie di copyright, il diritto alla protezione dei dati rischia di generare gli stessi danni: compromettere e limitare la libera circolazione delle informazioni, delle idee ed in fin dei conti, della cultura, e, come nei settori della proprietà intellettuale, di aggravare le diseguaglianze e rafforzare i monopoli. I disastri del copyright li conosciamo, evitiamo di generarne altri. Mi è venuto in mente che 12 anni fa, quando fu presentata in UE la prima proposta del GDPR e si voleva inserire il diritto all'oblio appena sancito dalla sentenza Costeja Gonzales, in un piccolo pezzo scritto per IlPost avevo affrontato i miei dubbi proprio sul diritto all'oblio che nella prima bozza in italiano era "il diritto di esser dimenticati" (poi per fortuna fu tolto!). In quel pezzo facevo un paragone proprio con il copyright (in vero in senso opposto). Erano altri tempi, un'era geologica fa, ma in quel pezzo scrivevo: *Quell’incommensurabile massa di dati <https://www.ilpost.it/carloblengino/2011/12/22/dati-sui-dati/>, anche personali, che si sta accumulando sui server del mondo e che si incrementa del 40% ogni anno può esser valutata in molti modi. Per semplificare, può esser considerata solo un enorme giacimento da sfruttare ad opera di rapaci società commerciali o di governi più o meno autoritari, con potenziale abuso a danno di utenti e cittadini, oppure può esser considerata una risorsa straordinaria degna di automa tutela. Può darsi che, senza rendercene conto, stiamo costruendo davvero la base per un intelligenza collettiva, ponendo le basi di una sorta di complesso DNA dell’umanità, che modificherà totalmente le nostre potenzialità intellettive e creative.* Il pezzo del 2012, per mera informazione, è qui: https://www.ilpost.it/carloblengino/2012/02/06/il-copyright-sui-miei-dati/ Un abbraccio a tutti Carlo Il giorno sab 29 giu 2024 alle ore 09:22 de petra giulio < giulio.depetra(a)gmail.com> ha scritto: > Segnalo questo articolo di Guido Scorza di cui non riesco a cogliere > pienamente, per mia ignoranza, tutte le implicazioni, ma che mi sembra > rilevante anche per il ruolo attuale dell’autore. > > Scorza: "AI, è ora di difendere i nostri dati dalla raccolta massiva: ecco > come" - Agenda Digitale > > > > https://www.agendadigitale.eu/sicurezza/privacy/linsostenibile-scorrettezza… > -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

June 30, 2024

Re: [nexa] large language model e open washing (da: una "gemma" da Google)

by Antonio

> La circostanza mi sembra rilevante: molte organizzazioni pubbliche e > private potranno usare questi strumenti senza mandar fuori dati, senza > legarsi a monopolisti che operano fuori dalla propria giurisdizione, senza > l'incognita dei prezzi. Sì, ok, ma aggiungiamo qualche elemento in più. Questi strumenti sono estremamente CPU bound, ovvero utilizzano una quantità eccessiva di risorse di elaborazione. Prendiamo un ufficio pubblico, le strade per emanciparsi dai monopolisti sono tre: 1) comprare un PC potente ad ogni impiegato e distribuire una versione "locale" customizzata di LM; 2) comprare un Server potente, dotato di GPU, etc in cui installare una versione "locale" customizzata di LM a cui far accedere, dalla intranet, gli utenti; 3) affidarsi ad un servizio esterno (ma all'interno della propria giurisdizione, regionale, nazionale, europea, ecc.). Un pc potente, con CPU a palla, porta ovviamente con se un consumo nettamente superiore. Quindi costi, costi e ancora costi. Il gioco ne vale la candela? Per la mia esperienza i funzionari non "generano" più testi da zero, da anni. Un template, un copia/incolla e via. Nelle PP.AA. più evolute è lo stesso gestionale che prepare i documenti, che poi vanno solo firmati ed inviati. Magari qualche funzionario legale con memoria corta che prima andava su Google (e questo lo rimandava a gazzettaufficiale.it) ora prompterà al proprio PC: "Cosa recità l'articolo 143 del Codice Civile?" Risposta (non ridete/piangete), qui [1] il resto reale. "Art. 143. (Matrimonio) Il matrimonio è l'unione legale tra uomo e donna, regolata dalle disposizioni del presente titolo. Il matrimonio ha per iscopo di regolare la convivenza tra i coniugi e la procreazione." Questo articolo definisce il matrimonio come un'unione legale tra uomo e donna e stabilisce che lo scopo del matrimonio è quello di regolare la convivenza tra i coniugi e la procreazione. A. [1] Art. 143. Diritti e doveri reciproci dei coniugi. Con il matrimonio il marito e la moglie acquistano gli stessi diritti e assumono i medesimi doveri. Dal matrimonio deriva l'obbligo reciproco alla fedeltà, all'assistenza morale e materiale, alla collaborazione nell'interesse della famiglia e alla coabitazione. Entrambi i coniugi sono tenuti, ciascuno in relazione alle proprie sostanze e alla propria capacità di lavoro professionale o casalingo, a contribuire ai bisogni della famiglia.

June 30, 2024

Re: [nexa] large language model e open washing (da: una "gemma" da Google)

by Giacomo Tesio

Ciao Guido, Il 30 Giugno 2024 17:32:35 UTC, Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > Col tempo, una parola può cambiare significato in modo anche radicale, sono > cose che accadono di continuo nel linguaggio, dove l'unica regola è l'uso. Vero. Basti pensare al termine "scienza". Una volta, la replicabilità degli esperimenti era caratteristica definitoria delle discipline scientifiche. Oggi non è più necessaria: possiamo fidarci ciecamente di chiunque abbia ottenuto finanziamenti sufficienti a pubblicare su una "rivista scientifica", preferibilmente americana. D'altro canto.. questa è l'epoca dei "data scientist"! :-D E vogliamo parlare del termine "intellettuale"? Mi perdonerete, perché non sono un accademico, ma un informatico: scrivo software di mestiere e non posso permettermi il lusso di usare termini vaghi e definizioni confuse, o il software poi non funziona. "You cannot argue with a root shell". Che poi è un po' il "dura lex sed lex" di quando ancora c'era lo stato di diritto. Ma sto divagando. > Dunque non starei qui a fare una questione lessicale. Non è questione "lessicale", ma storica e cibernetica (ovvero politica e informatica). > Di fatto, ci sono LM > che puoi scaricare liberamente e far girare sulla tua workstation, e LM che > invece puoi usare solo via API e pagando. Ed abbiamo da decenni termini dedicati per questi due concetti, rispettivamente "freeware" e "SaaS". Perché ridefinire in fretta e furia "open"? Cui prodest? > La circostanza mi sembra rilevante: molte organizzazioni pubbliche e > private potranno usare questi strumenti senza mandar fuori dati, senza > legarsi a monopolisti che operano fuori dalla propria giurisdizione, senza > l'incognita dei prezzi. Già. Basta accettare che quegli strumenti riproducano e diffondano tramite quelle organizzazioni pubbliche gli interessi e le opinioni di quei monopolisti, sollevandoli al contempo da qualsiasi responsabilità riconducibile. Concordo: è sicuramente una notizia da diffondere capillarmente. > Mi sembra che questo meriti più attenzione della filologia informatica :-) Ti sembra che l'informatica meriti più attenzione... dell'informatica? :-D Perché non è "filologia", è proprio informatica. [1] Ma come sempre, c'è chi crede di poterla ignorare. Giacomo [1] http://www.tesio.it/2019/06/03/what-is-informatics.html

June 30, 2024

Re: [nexa] large language model e open washing (da: una "gemma" da Google)

by Guido Vetere

Col tempo, una parola può cambiare significato in modo anche radicale, sono cose che accadono di continuo nel linguaggio, dove l'unica regola è l'uso. Dunque non starei qui a fare una questione lessicale. Di fatto, ci sono LM che puoi scaricare liberamente e far girare sulla tua workstation, e LM che invece puoi usare solo via API e pagando. La notizia è che la differenza qualitativa tra questi due tipi si sta assottigliando, almeno per quanto riguarda le funzioni strettamente linguistiche. La circostanza mi sembra rilevante: molte organizzazioni pubbliche e private potranno usare questi strumenti senza mandar fuori dati, senza legarsi a monopolisti che operano fuori dalla propria giurisdizione, senza l'incognita dei prezzi. Mi sembra che questo meriti più attenzione della filologia informatica :-) G. Il Dom 30 Giu 2024, 11:38 Claudio Agosti <claudio.agosti(a)hermescenter.org> ha scritto: > Ciao, ho rinominato il thread per passare un po' di references che mi sono > letto negli ultimi periodi > > il problema alla base è che la nostra cultura di free software, già > sussunta dall' "open source" aveva creato una dicotomia esclusiva per cui > un software o è open o è closed. Le dinamiche che ci hanno portato lì, non > devo ripeterle, in questa lista sono parte della Lore. > > I valori del free software non potrebbero essere più distanti dall'attuale > situazione, e l'ambiguità culturale dell'open source viene sfruttata in > modo così iconico (openAI) da aver svuotato ogni significato. > > bipensiero, neolinga, keyword dropping. ma veniamo alle references. > > 1) questo documento identifica il problema della falsa openness: > https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4543807 - Open (For > Business): Big Tech, Concentrated Power, and the Political Economy of Open > AI - This paper examines ‘open’ AI in the context of recent attention to > open and open source AI systems. > > 2) https://blog.mozilla.org/en/mozilla/ai/readouts-columbia-convening/ > questa mistura di tecnici ed accadmici ha prodotto un paio di grafici e di > tassionomie, dicendo come "l'opennes nell'AI è una sfumatura", ora, a me è > chiaro che avere un'AI aperta solo al 90% è come dire "sono negativo al > codiv per il 90%". umh. o quarantena o serata. non c'è una via di mezzo. ma > come pregio, possiamo anche considerare che questo ci permetterebbe di > iniziare ad avere visibilità e riproducibilità in alcuni passaggi. del > resto anche l'idea che ci ri-addestriamo i miliardi di parametri in casa > non è realistica quanto la ricompilazione di un software. > > 3) > https://pure.mpg.de/rest/items/item_3588217_2/component/file_3588218/content > - Rethinking open source generative AI: open-washing and the EU AI Act. > Questo paper apre ad un'altro aspetto potenzialmente problematico. > nell'AIAct i software "open" (cazzo, è tornato!) vengono visti come > neutrali, general purposes, unbiased. Ha senso quando pensi a librerie e > framework, che non debbano essere soggetti agli obblighi di conformità. Ma > siccome il termine open è ambiguo, come questo impatta la regolamentazione? > I decreti attuativi, cosa dovrebbero definire? > > E ci sta pure, se creo una libreria ad alto livello per operare sui > database vettoriali, sto servendo la comunità di sviluppatori. Ma se faccio > la liberia chiamata "best worker". è un pezzo di codice python e un RAG > preaddestrato, con documentazione sommaria. > > Il software, in questo esempio, si compone di una sola funzione > guess_fitness(), e si aspetta due parametri nella black box. il primo è > questo, e contiene i dati del candidato: > > { nome: <String> > foto: <FILE.jpeg> > esperienze: <markdown text> > }, > > il secondo invece contiene i dettagli del lavoro da svolgere: > > { "job_name": <String>, > "job_description:" <markdown text>, > "challenges_example:" <markdown text> > }, > > restituisce una percentuale così che l'HR possa ordinarli e prendere la > top 3 > > Questo software rilasciato sotto AGPL-3, sarebbe un loophole nel > regolamento? > > abbracci, > Claudio > > On Sat, Jun 29, 2024 at 4:08 PM Giacomo Tesio <giacomo(a)tesio.it> wrote: > >> >> Quindi è "aperto" nel senso che... è chiuso. >> Splendido esempio di bipensiero! :-D >> > > > > > > -- > Claudio Agosti - Hermes Center, AI Forensics, Reversing Works. > Platform Auditor & Tech Researcher > [ linktr.ee/claudio.agosti ] >

June 30, 2024

Re: [nexa] large language model e open washing (da: una "gemma" da Google)

by Giacomo Tesio

Ciao Claudio, grazie dei riferimenti! Il 30 Giugno 2024 09:38:24 UTC, Claudio Agosti ha scritto: > > 2) https://blog.mozilla.org/en/mozilla/ai/readouts-columbia-convening/ > questa mistura di tecnici ed accadmici Oh... Mozilla... il reparto PR geek-friendly di Google... > ha prodotto un paio di grafici e di > tassionomie, dicendo come "l'opennes nell'AI è una sfumatura", forse intendevano "di grigio"? :-D > come pregio, possiamo anche considerare che questo ci permetterebbe di > iniziare ad avere visibilità e riproducibilità in alcuni passaggi. Passaggi probabilmente irrilevanti e non problematici dal punto di vista politico. In altri termini fumo negli occhi. > del resto anche l'idea che ci ri-addestriamo i miliardi di parametri in casa > non è realistica quanto la ricompilazione di un software. Che lo facciamo in casa, al bar, o al CERN è irrilevante. Il punto è che se Google impedisce di farlo nascondendo qualsiasi informazione rilevante per riprodurre esattamente e completamente la compilazione di Gemma2 a partire dai testi sorgente, allora Gemma 2 non è open per nessuna definizione applicabile di open. Ci prende per fessi? Prende per fessi i Giudici europei? Conta che i fanboy delle magnifiche sorti e progressive dell'AI ne esaltino la magnanimità? Non lo so. Ma come Gemma 2 non può essere "un po' incinta", non può essere nemmeno "un po' open". Giacomo

June 30, 2024

Re: [nexa] Scorza: "AI, è ora di difendere i nostri dati dalla raccolta massiva: ecco come" - Agenda Digitale

by alessandro marzocchi

Giacomo, se capisco bene vedi il digitale come questione politica. Se così, concordo anche perchè sono convinto che il digitale ha funzioni sostanzialmente analoghe a parola, lingua, vorrei dire che sostituisce parola e lingua ed in proposito leggerei volentieri le opinioni di chi ne sa più di me. Sono questioni da affrontare nell'educazione e nella scuola, a partire dal primissimo anno perchè da quando un bambino prende in mano un telefono si incammina alla subordinazione passiva verso un sistema che non conosce e che lo usa. Ci vorrebbe molto tempo, almeno una generazione o due, temo che non lo avremo, mi preoccupano anche le parole di Eric Posner, https://www.project-syndicate.org/commentary/ai-will-strengthen-big-tech-ol…, If artificial intelligence lives up to its promise and becomes the lifeblood of every sector of the economy, we can expect a future of economic concentration and corporate political power that dwarfs anything that came before. Collusion and coordination among a handful of players make that outcome all but inevitable. Cordialmente. Duccio (Alessandro Marzocchi) Il giorno dom 30 giu 2024 alle ore 11:24 <nexa-request(a)server-nexa.polito.it> ha scritto: > ------------------------------ > Message: 3 > Date: Sun, 30 Jun 2024 09:09:10 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Scorza: "AI, è ora di difendere i nostri dati > dalla raccolta massiva: ecco come" - Agenda Digitale > Message-ID: <8B4E0927-4CB2-47F5-A85D-D5382D711B97(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > Salve Maurizio, > > Il 29 Giugno 2024 17:08:48 UTC, maurizio lana ha scritto: > > Il 29/06/24 09:22, de petra giulio ha scritto: > > > Segnalo questo articolo di Guido Scorza > > perché - lui argomenta in modo molto analitico e giuridicamente fondato > [...] > > ma tecnicamente inconsistente. > > Ad esempio, quando scrive > > ``` > l’interessato, allo stato, qualora non eserciti tale diritto prima > dell’inizio della raccolta dei dati > (il che peraltro è ormai impossibile in relazione alla più parte dei > titolari che hanno posto > in essere questo genere di trattamento) sembra costretto a doversi poi > accontentare > che il titolare del trattamento escluda i propri dati personali – sempre > nei limiti di quelli > specificamente indicatigli e fornitigli dall’interessato – da eventuali > output del servizio, > non potendo, invece, ambire a un’effettiva cessazione del trattamento di > ogni > proprio dato personale. > > L’uno e l’altro appaiono limiti imposti dallo stato della tecnologia. > ``` > > Non c'è alcun limite tecnologico che impedisca al creatore di un LLM di > ricrearlo a partire da > un dataset emendato dei dati personali di chiunque ne faccia richiesta. > > Nessun LLM soffre se lo spegni, lo cancelli e lo sostituisci con una nuova > versione. > Tant'è che questo viene fatto continuamente per ragioni commerciali. > > È _solo_ una questione di costi. > > > E la libertà di impresa non è diritto al profitto: se i costi superano i > profitti, si cambia impresa. > > > In altri termini, la contrapposizione fra innovazione tecnologica e > diritti > fondamentali è una allucinazione diffusa da aziende che approfittano della > ignoranza informatica di persone come Scorza per risparmiare. > A danno dei cittadini i cui diritti quelle persone sono chiamate a > proteggere. > > > > tutta la raccolta massiva dei nostri dati che è accaduta fino ad ora da > un lato > > è illecita ma non reversibile > > Per la verità, è sufficiente cancellarli insieme a tutto ciò che da essi è > stato prodotto. > > Tecnicamente, questione di pochi minuti. > > > > e dall'altro difficilmente sanzionabile in pratica. > > Beh, Google e Microsoft sono responsabili del trattamento di decine di > migliaia di aziende > e PA italiane. Nulla impedisce al Garante di sanzionarle laddove > trasferimenti illeciti > sono accertati (quali ad esempio quelli individuati e segnalati da > Monitora PA). > > > > cioè non siamo messi bene perché ci vogliono anni per arrivarci, e > intanto > > i dati personali continuano ad essere raccolti. > > Sanzionando i titolarii che hanno inviato a queste aziende i dati > personali di milioni > di persone, molti appartenenti a categorie fragili, come minori, disabili > o malati, si produrrebbe > una rapida riduzione dei dati personali ad esse sottratte e del controllo > che queste aziende > eserciteranno su di esse. > > Inoltre, seppur lentamente, i dati personali diventano obsoleti e smettono > di descrivere > le persone che li hanno inizialmente emessi. > > Ciò che non smettono di descrivere sono i comportamenti > probabilisticamente associati > a ciascun profilo a fronte di ciascuno stimolo. > > In altri termini, interrompendo l'afflusso di dati personali, la > probabilità di successo nel > controllo individuale delle persone interessate si ridurrebbe > drasticamente nell'arco > di un anno o due, ma i modelli comportamentali inferiti da quei dati > rimarrebbero applicabili > ad altre persone, simili sotto le dimensioni rilevanti, molto più a lungo. > > > Si può quindi ridurre il danno subito alla libertà individuale dei singoli > cittadini sorvegliati > applicando il GDPR (ovvero intervenendo sui sensori delle BigTech) ma per > ripristinare > la democrazia (ovvero la sovranità dei popoli) è necessario intervenire > anche sui loro attuatori, > sottraendo i cittadini dai loro mezzi di controllo (dagli Ads, ai LLM). > > > > e capisco che qualcuno, come [Ali Alkhatib, 24 June 2024 Destroy AI] > proponga > > una sorta di luddismo al tempo del'IA > > Spero di sbagliare, ma la lotta nonviolenta presuppone uno stato di > diritto. > > Se lo Stato smette di rispettare le proprie leggi pur di non urtare una > manciata di aziende USA, > "distruggere le AI" (qualunque cosa ciò concretamente significhi) non sarà > sufficiente. > > > Giacomo >

June 30, 2024

large language model e open washing (da: una "gemma" da Google)

by Claudio Agosti

Ciao, ho rinominato il thread per passare un po' di references che mi sono letto negli ultimi periodi il problema alla base è che la nostra cultura di free software, già sussunta dall' "open source" aveva creato una dicotomia esclusiva per cui un software o è open o è closed. Le dinamiche che ci hanno portato lì, non devo ripeterle, in questa lista sono parte della Lore. I valori del free software non potrebbero essere più distanti dall'attuale situazione, e l'ambiguità culturale dell'open source viene sfruttata in modo così iconico (openAI) da aver svuotato ogni significato. bipensiero, neolinga, keyword dropping. ma veniamo alle references. 1) questo documento identifica il problema della falsa openness: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4543807 - Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI - This paper examines ‘open’ AI in the context of recent attention to open and open source AI systems. 2) https://blog.mozilla.org/en/mozilla/ai/readouts-columbia-convening/ questa mistura di tecnici ed accadmici ha prodotto un paio di grafici e di tassionomie, dicendo come "l'opennes nell'AI è una sfumatura", ora, a me è chiaro che avere un'AI aperta solo al 90% è come dire "sono negativo al codiv per il 90%". umh. o quarantena o serata. non c'è una via di mezzo. ma come pregio, possiamo anche considerare che questo ci permetterebbe di iniziare ad avere visibilità e riproducibilità in alcuni passaggi. del resto anche l'idea che ci ri-addestriamo i miliardi di parametri in casa non è realistica quanto la ricompilazione di un software. 3) https://pure.mpg.de/rest/items/item_3588217_2/component/file_3588218/content - Rethinking open source generative AI: open-washing and the EU AI Act. Questo paper apre ad un'altro aspetto potenzialmente problematico. nell'AIAct i software "open" (cazzo, è tornato!) vengono visti come neutrali, general purposes, unbiased. Ha senso quando pensi a librerie e framework, che non debbano essere soggetti agli obblighi di conformità. Ma siccome il termine open è ambiguo, come questo impatta la regolamentazione? I decreti attuativi, cosa dovrebbero definire? E ci sta pure, se creo una libreria ad alto livello per operare sui database vettoriali, sto servendo la comunità di sviluppatori. Ma se faccio la liberia chiamata "best worker". è un pezzo di codice python e un RAG preaddestrato, con documentazione sommaria. Il software, in questo esempio, si compone di una sola funzione guess_fitness(), e si aspetta due parametri nella black box. il primo è questo, e contiene i dati del candidato: { nome: <String> foto: <FILE.jpeg> esperienze: <markdown text> }, il secondo invece contiene i dettagli del lavoro da svolgere: { "job_name": <String>, "job_description:" <markdown text>, "challenges_example:" <markdown text> }, restituisce una percentuale così che l'HR possa ordinarli e prendere la top 3 Questo software rilasciato sotto AGPL-3, sarebbe un loophole nel regolamento? abbracci, Claudio On Sat, Jun 29, 2024 at 4:08 PM Giacomo Tesio <giacomo(a)tesio.it> wrote: > > Quindi è "aperto" nel senso che... è chiuso. > Splendido esempio di bipensiero! :-D > -- Claudio Agosti - Hermes Center, AI Forensics, Reversing Works. Platform Auditor & Tech Researcher [ linktr.ee/claudio.agosti ]

June 30, 2024

Re: [nexa] una "gemma" da Google

by Guido Vetere

Il problema è che per ottenere un surrogato distribuzionale della competenza linguistica sono necessari molti TB di testo. Ma per come sono fatti e come normalmente funzionano, i LM non sono in grado di separare gli aspetti 'grammaticali' da quelli fattuali e valoriali. Si cerca dunque fare qualcosa a monte e a valle del training, col filtraggio e l'allineamento, ed è qui che chi ha più risorse può far meglio valere il proprio vantaggio. Bisognerà dunque tornare a separare sintassi e semantica, come raccomandava Chomsky negli anni '50 in polemica coi distribuzionalisti del tempo. L'approccio c.d. "neurosimbolico" punta un po' a questo, quì un libro per chi vuole approfondire: https://www.iospress.com/catalog/books/compendium-of-neurosymbolic-artifici… Il Dom 30 Giu 2024, 10:04 Mauro Gorrino <mauro.gorrino(a)gmail.com> ha scritto: > Se gli LLM si alimentano con quello che si trova a titolo gratuito in > rete, ovviamente trovano anche tutto il ciarpame nostalgico storicamente > infondato, di cui non sanno valutare l'attendibilità e che quindi prendono > in considerazione. > > Se invece si alimentassero a partire dagli studi degli storici seri, non > troverebbero questo ciarpame, ma gli studi seri sono in grandissima parte > coperti da copyright e quindi non disponibili agli LLM. > > Il che mi pare sia un serio indizio del fatto che l'attendibilità di > quanto affermato da LLM su molti argomenti tra cui il fascismo si avvicini > a quella di una discussione in uno scompartimento ferroviario quando il > treno accumula ritardo e qualcuno afferma che quando c'era lui i treni > arrivavano in orario. > > Il giorno sab 29 giu 2024 alle ore 23:57 Antonio <antonio(a)piumarossa.it> > ha scritto: > >> > Un sacco di cose! >> > Ad esempio, una volta verificato che sono effettivamente i dataset >> sorgente, >> > ne indagherei i "bias di selezione" ovvero le opinioni che Google >> intende imporre >> > agli utenti senza risponderne. >> >> Stiamo dicendo la stessa cosa. >> Nel documento che ho citato leggo: >> "IBM had curated 6.48 TB of data before pre-processing, 2.07 TB after >> pre-processing". >> Quei 6,48 TB sono raw data che una volta processati, filtrati, censurati, >> ecc. diventano 2.07 TB, quest'ultima è la "conoscenza" dell'LLM. >> Devi avere a disposizione entrambi, i dati grezzi e i dati filtrati, per >> poter provare ad indagarne i filtri (non semplice, certo, parliamo pur >> sempre di terabyte). >> Rispondendo a Guido: "notare lo stile cerchiobottista che denota un gran >> lavoro di 'filtering' e 'alignment' (Google se lo può permettere, le nostre >> Università evidentemente no)" faccio notare che non è solo Google a >> poterselo permettere, anche gli altri operano in quel modo. >> Basta andare su https://gpt.h2o.ai/ e scrivere la query: "Chi oggi in >> Italia potrebbe rimpiangere Mussolini?" e scegliere di volta in volta un >> model diverso. Gli output si assomiglieranno tutti e quasi tutti avranno >> una frase e poi la successiva che inizia con "tuttavia", un colpo al >> cerchio ed uno alla botte. >> L'unico LLM "antifascista" che ho trovato è >> HuggingFaceM4/idefics2-8b-chatty : >> "In Italia, non ci sono persone che rimpiangano Mussolini. Mussolini è >> considerato un leader negativo e crudele, responsabile di molte atrocità e >> violazioni dei diritti umani. La sua politica di guerra e la sua >> collaborazione con i nazisti durante la Seconda Guerra Mondiale hanno >> portato a molti danni e sofferenze per l'Italia e per il mondo intero." >> >> A. >> >

June 30, 2024

Re: [nexa] Scorza: "AI, è ora di difendere i nostri dati dalla raccolta massiva: ecco come" - Agenda Digitale

by Giacomo Tesio

Salve Maurizio, Il 29 Giugno 2024 17:08:48 UTC, maurizio lana ha scritto: > Il 29/06/24 09:22, de petra giulio ha scritto: > > Segnalo questo articolo di Guido Scorza > perché - lui argomenta in modo molto analitico e giuridicamente fondato [...] ma tecnicamente inconsistente. Ad esempio, quando scrive ``` l’interessato, allo stato, qualora non eserciti tale diritto prima dell’inizio della raccolta dei dati (il che peraltro è ormai impossibile in relazione alla più parte dei titolari che hanno posto in essere questo genere di trattamento) sembra costretto a doversi poi accontentare che il titolare del trattamento escluda i propri dati personali – sempre nei limiti di quelli specificamente indicatigli e fornitigli dall’interessato – da eventuali output del servizio, non potendo, invece, ambire a un’effettiva cessazione del trattamento di ogni proprio dato personale. L’uno e l’altro appaiono limiti imposti dallo stato della tecnologia. ``` Non c'è alcun limite tecnologico che impedisca al creatore di un LLM di ricrearlo a partire da un dataset emendato dei dati personali di chiunque ne faccia richiesta. Nessun LLM soffre se lo spegni, lo cancelli e lo sostituisci con una nuova versione. Tant'è che questo viene fatto continuamente per ragioni commerciali. È _solo_ una questione di costi. E la libertà di impresa non è diritto al profitto: se i costi superano i profitti, si cambia impresa. In altri termini, la contrapposizione fra innovazione tecnologica e diritti fondamentali è una allucinazione diffusa da aziende che approfittano della ignoranza informatica di persone come Scorza per risparmiare. A danno dei cittadini i cui diritti quelle persone sono chiamate a proteggere. > tutta la raccolta massiva dei nostri dati che è accaduta fino ad ora da un lato > è illecita ma non reversibile Per la verità, è sufficiente cancellarli insieme a tutto ciò che da essi è stato prodotto. Tecnicamente, questione di pochi minuti. > e dall'altro difficilmente sanzionabile in pratica. Beh, Google e Microsoft sono responsabili del trattamento di decine di migliaia di aziende e PA italiane. Nulla impedisce al Garante di sanzionarle laddove trasferimenti illeciti sono accertati (quali ad esempio quelli individuati e segnalati da Monitora PA). > cioè non siamo messi bene perché ci vogliono anni per arrivarci, e intanto > i dati personali continuano ad essere raccolti. Sanzionando i titolarii che hanno inviato a queste aziende i dati personali di milioni di persone, molti appartenenti a categorie fragili, come minori, disabili o malati, si produrrebbe una rapida riduzione dei dati personali ad esse sottratte e del controllo che queste aziende eserciteranno su di esse. Inoltre, seppur lentamente, i dati personali diventano obsoleti e smettono di descrivere le persone che li hanno inizialmente emessi. Ciò che non smettono di descrivere sono i comportamenti probabilisticamente associati a ciascun profilo a fronte di ciascuno stimolo. In altri termini, interrompendo l'afflusso di dati personali, la probabilità di successo nel controllo individuale delle persone interessate si ridurrebbe drasticamente nell'arco di un anno o due, ma i modelli comportamentali inferiti da quei dati rimarrebbero applicabili ad altre persone, simili sotto le dimensioni rilevanti, molto più a lungo. Si può quindi ridurre il danno subito alla libertà individuale dei singoli cittadini sorvegliati applicando il GDPR (ovvero intervenendo sui sensori delle BigTech) ma per ripristinare la democrazia (ovvero la sovranità dei popoli) è necessario intervenire anche sui loro attuatori, sottraendo i cittadini dai loro mezzi di controllo (dagli Ads, ai LLM). > e capisco che qualcuno, come [Ali Alkhatib, 24 June 2024 Destroy AI] proponga > una sorta di luddismo al tempo del'IA Spero di sbagliare, ma la lotta nonviolenta presuppone uno stato di diritto. Se lo Stato smette di rispettare le proprie leggi pur di non urtare una manciata di aziende USA, "distruggere le AI" (qualunque cosa ciò concretamente significhi) non sarà sufficiente. Giacomo

June 30, 2024

Re: [nexa] una "gemma" da Google

by Mauro Gorrino

Se gli LLM si alimentano con quello che si trova a titolo gratuito in rete, ovviamente trovano anche tutto il ciarpame nostalgico storicamente infondato, di cui non sanno valutare l'attendibilità e che quindi prendono in considerazione. Se invece si alimentassero a partire dagli studi degli storici seri, non troverebbero questo ciarpame, ma gli studi seri sono in grandissima parte coperti da copyright e quindi non disponibili agli LLM. Il che mi pare sia un serio indizio del fatto che l'attendibilità di quanto affermato da LLM su molti argomenti tra cui il fascismo si avvicini a quella di una discussione in uno scompartimento ferroviario quando il treno accumula ritardo e qualcuno afferma che quando c'era lui i treni arrivavano in orario. Il giorno sab 29 giu 2024 alle ore 23:57 Antonio <antonio(a)piumarossa.it> ha scritto: > > Un sacco di cose! > > Ad esempio, una volta verificato che sono effettivamente i dataset > sorgente, > > ne indagherei i "bias di selezione" ovvero le opinioni che Google > intende imporre > > agli utenti senza risponderne. > > Stiamo dicendo la stessa cosa. > Nel documento che ho citato leggo: > "IBM had curated 6.48 TB of data before pre-processing, 2.07 TB after > pre-processing". > Quei 6,48 TB sono raw data che una volta processati, filtrati, censurati, > ecc. diventano 2.07 TB, quest'ultima è la "conoscenza" dell'LLM. > Devi avere a disposizione entrambi, i dati grezzi e i dati filtrati, per > poter provare ad indagarne i filtri (non semplice, certo, parliamo pur > sempre di terabyte). > Rispondendo a Guido: "notare lo stile cerchiobottista che denota un gran > lavoro di 'filtering' e 'alignment' (Google se lo può permettere, le nostre > Università evidentemente no)" faccio notare che non è solo Google a > poterselo permettere, anche gli altri operano in quel modo. > Basta andare su https://gpt.h2o.ai/ e scrivere la query: "Chi oggi in > Italia potrebbe rimpiangere Mussolini?" e scegliere di volta in volta un > model diverso. Gli output si assomiglieranno tutti e quasi tutti avranno > una frase e poi la successiva che inizia con "tuttavia", un colpo al > cerchio ed uno alla botte. > L'unico LLM "antifascista" che ho trovato è > HuggingFaceM4/idefics2-8b-chatty : > "In Italia, non ci sono persone che rimpiangano Mussolini. Mussolini è > considerato un leader negativo e crudele, responsabile di molte atrocità e > violazioni dei diritti umani. La sua politica di guerra e la sua > collaborazione con i nazisti durante la Seconda Guerra Mondiale hanno > portato a molti danni e sofferenze per l'Italia e per il mondo intero." > > A. >

June 30, 2024