September 2024 - nexa - server-nexa.polito.it

Call for papers - e-privacy XXXV@Brescia - 30 e 31 ottobre 2024

by Marco A. Calamari

Il 30 e 31 ottobre 2024 a Brescia si terrà e-privacy XXXV «Privacy: tante norme, poca protezione» Quali reali tutele è in grado di offrire l’Europa, a fronte di tecnologie sempre più invasive, più sofisticate e più veloci nella loro diffusione? Sono sufficienti norme come il GDPR o l’AI act per frenare i sistemi che saranno disponibili fra due anni, quando questo Regolamento troverà piena applicazione? Il Call for Papers è aperto fino al 30 settembre. Trovate tutte le informazioni qui https://e-privacy.winstonsmith.org/ qui il link per presentare una proposta. https://e-privacy.winstonsmith.org/e-privacy-XXXV-proposta.html Vi aspettiamo.

Sept. 23, 2024

MEMENTO | 116° Nexa Lunch Seminar | 25 settembre 2024, ore 13.00

by Nexa - Media

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 25 settembre, dalle ore 13.00 alle ore 14.00, si terrà il 116° Nexa Lunch Seminar con un incontro dal titolo: "Bringing Archives to Life. Costruire Knowledge Graphs con i Large Language Models". Ospite dell'incontro: Giuseppe Futia (Fellow del Centro Nexa). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Per maggiori dettagli è possibile consultare la pagina web dell'evento: https://nexa.polito.it/lunch-116<https://nexa.polito.it/lunch-116/> Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Sept. 23, 2024

Fiducia nelle istituzioni: l’AI Act e i diritti fondamentali, narrazione o realtà?

by Daniela Tafani

Fiducia nelle istituzioni: l’AI Act e i diritti fondamentali, narrazione o realtà? Enrico Pelino - 19 settembre 2024 Abstract L’AI Act costituisce nella vulgata istituzionale la più avanzata disciplina giuridica del momento, anche in termini di garanzie. Viene raccontato come un avamposto di tutela della persona e, al tempo stesso, un sofisticato congegno normativo per dare sostegno e regole alle applicazioni, dilaganti, dell’intelligenza artificiale. Ma è davvero così? L’articolo esplora alcuni evidenti limiti del nuovo regolamento e avanza dubbi sul preteso approccio antropocentrico di cui sarebbe espressione. In realtà, ad avviso di chi scrive, l’AI Act segna addirittura, sotto alcuni profili, un arretramento dei diritti del cittadino digitale e incrina quindi l’aspettativa di protezione che costituisce il presupposto del rapporto di fiducia tra cittadini e istituzioni. ---- “Lo scopo del presente regolamento è migliorare il funzionamento del mercato interno e promuovere la diffusione di un’intelligenza artificiale (IA) antropocentrica e affidabile, garantendo nel contempo un livello elevato di protezione della salute, della sicurezza e dei diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell’Unione europea…”: esordiscono in questo modo sia il primo considerando sia il primo articolo del nuovo regolamento dell’Unione europea 2024/1689, cd. “AI Act” o “AIA”. Lo scopo è segnato con rigore: l’uomo al centro, l’enfasi sui diritti fondamentali. Ne segue l’attesa legittima – se le parole hanno un senso – di un atto normativo ad approccio “costituzionale”, costruito, cioè, non solo pensando alle esigenze di mercato interno e alla sua facilitazione, ma introducendo anche uno statuto dei diritti della persona, ossia un’architettura di contrappesi, in chiave antropocentrica per l’appunto, che bilanci l’incidenza enorme del potere tecnologico. Si potrebbe obiettare: perché c’è bisogno di un arricchimento dei diritti o di tutele addirittura completamente nuove, non basta un richiamo all’esistente? La risposta è semplice: se le sfide sono inedite, e fino a qualche anno fa neppure immaginabili, devono esserlo anche le garanzie. Si pensi, per citare soltanto alcune novità, ai sistemi di inferenza di emozioni e intenzioni, implementati su larga scala e pervasivamente, attraverso machine learning o ai sistemi di categorizzazione biometrica o di social scoring. È chiaro che si attingono qui territori giuridici inesplorati, rispetto ai quali il diritto alla libertà e alla dignità umana costituiscono riferimenti opportuni, ma insieme sfocati, se non vengono declinati in modo più specifico. Ora dobbiamo verificare se l’AI Act contenga davvero l’auspicato decalogo di diritti avanzati che illuminano la nuova era del rapporto tra uomo e macchina, esercitando una spinta uguale e contraria all’incidenza dei sistemi di intelligenza artificiale sulla persona, sulla sua socialità, sul suo pensiero, sulle sue fragilità oppure quelle di esordio siano soltanto “parole, parole, vuote parole; niente dal cuore”[1]? Il confronto con il GDPR Quando va alla ricerca di una legge dal taglio “costituzionale”, il giurista digitale non ha dubbi, guarda al GDPR. Del resto, il regolamento generale sui dati personali, nei limiti del suo oggetto, costituisce un riferimento normativo imprescindibile anche in tema di intelligenza artificiale; peraltro, ha fornito la matrice per il testo di alcune disposizioni dell’AI Act. Bene, anche il GDPR esordisce con una premessa dal sapore costituzionale “the processing of personal data should be designed to serve mankind” (cons. 4), che è anche una promessa mantenuta, se si considera che la tessitura giuridica della legge sviluppa senza alcun dubbio un solido guscio protettivo attorno all’individuo. Si pensi al ricco elenco di diritti agli articoli dal 12 al 22 e ancora all’art. 34, alle tre disposizioni sui mezzi di ricorso, artt. 77-79, alla norma speciale sul risarcimento del danno, l’art. 82, giacché i diritti sono vuoti senza mezzi di ricorso e senza ristoro del danno. Una serie di altre tutele essenziali della persona è inoltre desumibile dall’intero impianto normativo del regolamento del 2016, innanzitutto dagli artt. 5 e 25, dalla delimitazione di basi tassative agli artt. 6 e 9, dall’introduzione di presìdi come il DPO, giusto per scorrere rapidamente e a macchia di leopardo alcune delle norme di spicco. Tuttavia, quando ci si sposta sull’AI Act per tracciare un confronto, si resta oltremodo perplessi. Per prima cosa, è irragionevolmente sparito dall’articolato finale l’emendamento del Parlamento UE (art. 4 a) recante il fondamentale (anche per la vicenda istituzionale da cui origina) elenco dei principi generali applicabili a tutti i sistemi di intelligenza artificiale, che troviamo retrocesso a elenco di principi etici non vincolanti, cfr. considerando 27 AIA, i quali fungeranno – almeno questo – da base per l’elaborazione di codici di condotta. È vero che alcuni di essi riaffiorano isolatamente in altre disposizioni, ma resta la constatazione che abbiamo un atto privo di un articolo dedicato a raccogliere unitariamente i principi vincolanti, e non appare buon segno, almeno non in prospettiva antropocentrica. La scelta ha del resto una sua logica: i principi pongono altrettanti limiti alla libertà di azione e di impresa e offrono spiacevoli spunti in sede contenziosa, come insegna la ricca giurisprudenza della Corte di giustizia sull’art. 5 GDPR. Procedendo nella disamina, scopriamo che sono riconosciuti alla persona due soli diritti, quello di reclamo all’autorità di vigilanza del mercato e quello alla spiegazione della decisione automatizzata. Entrambi sfortunatamente ricevono una disciplina molto circoscritta. La disposizione sul reclamo, art. 85 AIA, pur utilizzando nella parte iniziale l’ottimo calco dell’art. 77 GDPR, se ne distanzia poi in maniera alquanto deludente. Il reclamo è trattato, significativamente, come un reclamo sulla conformità dei prodotti, ai sensi del Reg. (UE) 2019/1020, non è assistito dalla fissazione, a livello unionale, di termini minimi di riscontro, come i tre mesi contemplati nel GDPR, da informazioni sull’esito e sull’impugnazione o da regole di riparto di giurisdizione, né figura una disciplina ad hoc relativa a reclami che abbiano natura transfrontaliera. Manca la precisazione del diritto di essere ascoltati in contraddittorio (questo invero anche nel GDPR). Soprattutto, è assente una chiara indicazione sulla reclamabilità da parte dei gruppi o relativa alla lesione di interessi di gruppo, nonostante il riferimento al “gruppo” come formazione sociale a rischio di discriminazione ricorra nel regolamento sull’intelligenza artificiale. Certo, molti di questi elementi possono essere recuperati da altri istituti del sistema giuridico, attraverso opera di paziente cucitura, ma una norma autosufficiente avrebbe notevolmente giovato, anche in termini di uniformità nell’Unione e di facilitazione interpretativa. Chi scrive tende ad avvertire “antropocentrico” in questo modo. Manca altresì il riconoscimento di un diritto alla tutela giurisdizionale, clamorosa assenza, come manca una disposizione dedicata all’impugnazione delle decisioni dell’autorità di vigilanza del mercato. Tale rimedio, che pure era stato introdotto dal Parlamento UE nel pacchetto di emendamenti del 2023, è poi sparito dal testo finale, senza clamori nella pur copiosa e alquanto ripetitiva (mi sia permesso) fioritura dottrinale dell’ultima stagione. Anche in questo caso, si supplisce attingendo da altre fonti, come l’art. 19 TUE e l’art. 47 CDFUE, tuttavia, l’omissione, ancorché rimediabile attraverso norme di sistema, o talora attraverso discipline di settore quali la dir. UE 2020/1828, appare – proprio per questo – eloquente dell’attenzione realmente riservata alla persona fisica e ai gruppi nella nuova legge sull’intelligenza artificiale. Siamo davvero ben distanti dalla logica, e dall’utilità concreta, degli articoli 78 e 79 GDPR. Peraltro, la presenza di disposizioni omologhe nell’AI Act avrebbe facilitato lo sviluppo di pronunce della Corte di giustizia, come è avvenuto in materia di dati personali. Ugualmente, non si trova alcun riferimento al risarcimento del danno, specialmente il danno da discriminazione, insidiosissimo e di difficile dimostrazione, che avrebbe richiesto meccanismi di inversione dell’onere della prova e altre facilitazioni. Non a caso, per trovare disposizioni mirate al contesto in esame occorre ricorrere ad altri strumenti giuridici, il cui principale, la AILD (AI Liability Directive) si trova allo stato di mera proposta, non è in ogni caso un regolamento, e appare, al momento in cui si scrive, in fase di evidente stallo nell’iter legislativo. Allo stato della normativa applicabile, il danno è ovviamente risarcibile secondo le ordinarie regole civilistiche oppure, ove applicabile, utilizzando il regime di favore dell’art. 82 GDPR, scontentando tuttavia chi auspicava che la peculiare invasività delle applicazioni di intelligenza artificiale dovesse trovare espressione, già nel contesto del nuovo regolamento dedicato, in una disciplina risarcitoria altrettanto peculiare per persone e gruppi. La compressione del diritto alla spiegazione Quanto al diritto alla spiegazione, presidio imprescindibile in tema di intelligenza artificiale, cominciamo con l’osservare che è riconosciuto (ma soltanto a seguito di un emendamento del Parlamento UE), limitatamente ai soli sistemi ad alto rischio di cui all’Allegato III. Ne risultano perciò non solo irragionevolmente esclusi quelli, di pari rischio, individuati in base ai criteri di cui al primo paragrafo dell’art. 6, ma anche, a monte, le pratiche proibite elencate all’art. 5, come se non sussistesse anche in tali casi la legittima pretesa di comprenderne la logica, non foss’altro in occasione di contenzioso. Sono altresì esclusi, a valle, i modelli per finalità generale (General Purpose AI). È una limitazione di cui sfugge la ratio: perché non assicurare un diritto generale alla spiegazione? Giova qui osservare che il diritto alla spiegazione è una valvola vitale del sistema, è cioè fondamentale per superare il primo e più ovvio ostacolo dinanzi ai risultati prodotti dai sistemi di intelligenza artificiale, l’opacità. La spiegazione costituisce altresì un precursore per l’esercizio di altri diritti, tra cui quello di difesa e quello di contestare i risultati automatici, che, diversamente, assumerebbero un significato oracolare. Come infatti rilevato dalla Corte di giustizia nell’arresto del 21 giugno 2022, Ligue des droits humains, C‑817/19, punto 195: “Tenuto conto dell’opacità che caratterizza il funzionamento delle tecnologie di intelligenza artificiale, può risultare impossibile comprendere la ragione per la quale un dato programma sia arrivato ad un riscontro positivo. In tali circostanze, l’uso di siffatte tecnologie potrebbe privare gli interessati anche del loro diritto a un ricorso giurisdizionale effettivo sancito dall’articolo 47 della Carta”. Va altresì ricordata la pregevole giurisprudenza sviluppata dal Consiglio di Stato, a partire da clausole generali, in tema di spiegabilità in ambito pubblico delle decisioni automatizzate, es. ex multis sez. VI, sent. 4 febbraio 2020, n. 881. L’obiezione che molti sistemi non siano spiegabili è un dato di fatto, non di diritto. Inserire l’obbligo di una spiegazione incide sui criteri di progettazione. Va poi notato che nell’AI Act l’istituto in parola è limitato ai soli risultati qualificabili come “decisioni”, termine non definito e dunque dai lembi concettuali incerti. A parere di chi scrive, è particolarmente scivoloso il confine tra “decisione” e “raccomandazione”, parola presente anch’essa nell’AI Act e altrettanto non definita, e perplessità simili possono essere estese anche alla “previsione”, in considerazione del fenomeno ben noto dell’automation bias, vale a dire il condizionamento subito dal decisore umano rispetto al risultato della macchina, anche quando la stessa si limita a raccomandare o perfino a restituire un contenuto. In tal caso potrebbe risultare utile, mutatis mutandis, un riferimento allo storico della Corte di giustizia, penso alla sentenza 7 dicembre 2023, Schufa Holding, C‑634/21.Infine, il diritto alla spiegazione può essere esercitato solo nei confronti del deployer. Vero che si tratta dell’anello più prossimo all’interessato, ma non si comprende il perché, in definitiva, di una limitazione a risalire la filiera. Ora, dobbiamo chiederci se un diritto alla spiegazione così circoscritto aggiunga davvero qualcosa alle garanzie già sussistenti, ossia all’analogo diritto già previsto dal GDPR oppure a quanto desumibile, con ampiezza ancora maggiore, dai principi generali del diritto. Si può dubitarne: il diritto alla spiegazione[2] riconosciuto nel regolamento sui dati personali sembra, a una prima analisi, intercettare un’area di maggiore ampiezza (quantomeno rispetto alle persone fisiche), riguardando tutti processi decisionali unicamente automatizzati, ambito assai maggiore di quello dell’AI. Inoltre, non pone limiti connessi al livello di rischio, include la pretesa di essere preventivamente informati sull’importanza e le conseguenze per l’interessato ed è accompagnato dal riconoscimento, sia pure con alcuni limiti, di un connesso diritto alla contestazione della decisione. Otto anni più tardi, e dinanzi a fenomeni esponenzialmente più invasivi, si sarebbe dovuti partire da questa base e allargare, anziché restringere, l’area di tutela. Addirittura, l’attuale art. 86 AIA non prevede neppure che siano fornite spiegazioni in relazione ai dati di input, come era invece previsto nell’emendamento originario del Parlamento UE. In definitiva, la disciplina che dovrebbe segnare la nuova era del rapporto tra uomo e macchina fallisce sul più essenziale e più umano dei diritti. Antropocentrico… sì, ma senza anthropos Ancora più imbarazzante è, a ben vedere, che il protagonista, l’uomo, non abbia trovato spazio nel pur lunghissimo elenco di definizioni di cui all’art. 3 AIA. Le definizioni in un atto normativo europeo, e soprattutto in un atto con questo oggetto e con queste ambizioni, sono i blocchi concettuali della successiva costruzione. Ebbene, all’art. 3 troviamo definiti tutti gli attori, ci sono il fornitore, il deployer, il distributore, l’importatore, ma, paradossalmente, manca una voce dedicata alla persona fisica o al gruppo di persone che subisce l’impatto delle applicazioni intelligenza artificiale. Eppure, approccio antropocentrico vuol dire, si converrà, che la persona e i gruppi sono protagonisti. Non si tratta di un formalismo, così come nel GDPR la nozione di “interessato” non è un formalismo, e non è un caso che il Parlamento UE avesse adottato un emendamento apposito diretto a introdurre la definizione di “affected person”, caldeggiato autorevolmente nell’opinione congiunta n. 5/2021 da EDPB ed EDPS, vale a dire dai massimi riferimenti istituzionali in materia di protezione dei dati personali e nuovamente dall’EDPS ancora nell’opinione n. 44/2023. L’espunzione dell’emendamento nel testo finale appare perciò rispondere a un calcolo deliberato. In buona sostanza, oggi per definire le affected person o i gruppi discriminati occorre ricorrere a perifrasi oppure utilizzare, atecnicamente e con imprecisione, il termine “interessato”, come leggiamo per esempio all’art. 2.1.g), al 50 o all’art. 86 AIA. La realtà è che il focus dell’AI Act è, ed è sempre stato, al di là di ipocrisie di facciata, sul mercato, sulla safety e sulla security, non sui diritti fondamentali. L’operazione finale approdata in Gazzetta resta in ogni caso, a parere di chi scrive, spiccatamente mercato-centrica. Anche così, tuttavia, qualche forma di tutela alla persona indirettamente perviene. Il riferimento più ovvio è all’art. 5, che elenca le pratiche di AI proibite. Da tali divieti emergono, a contrario, altrettanti diritti, ossia pretese giuridicamente fondate di non essere fatti oggetto delle pratiche vietate e di poterlo contestare, attraverso strumenti di ricorso da cercare non di rado altrove nel sistema giuridico. È però un fatto che l’elenco delle pratiche vietate – per lunghissimo tempo oggetto di contesa politica nel corso dell’iter normativo – risulti assai limitato, falcidiato da numerose eccezioni e soprattutto permeabile, dato che spesso a formulazioni ampie e astratte si sono preferite formulazioni precise e alquanto strutturate. In definitiva, l’articolo 5, se da un lato introduce opportuni divieti, dall’altro fa filtrare molto, finendo per autorizzare (almeno in prima battuta) ciò che non è puntualmente vietato, incluse per esempio alcune forme di social scoring. Facciamo un esempio per chiarirci, riprendendo un altro dei temi di apertura di questo articolo, quello dell’inferenza di emozioni e intenzioni. Il legislatore europeo rivela piena consapevolezza della dubbiosa affidabilità di tali tecniche: “Tra le principali carenze di tali sistemi figurano la limitata affidabilità” (considerando 44), dovuta anche alla circostanza che “l’espressione delle emozioni varia notevolmente in base alle culture e alle situazioni e persino in relazione a una stessa persona”. Nondimeno, e con una certa incoerenza, limita il divieto di tali sistemi ai soli settori dell’istruzione e dell’occupazione, qualificando le altre applicazioni come trattamento solo ad alto rischio, ma perfettamente lecito. Ne viene normalizzata con ciò la percezione. La disciplina dei trattamenti ad alto rischio è, sì, presidiata da una serie di norme di dettaglio, ma non appare, in tutta onestà, eccessivamente stringente. Sono state superate diverse linee rosse, culturali e giuridiche. L’obiezione maggiore a tali pratiche non sta tanto, o comunque non solo, nella precisione (magari perfettibile), ma nella sostanza, vale a dire nel fatto che determinano l’invasione di un luogo sacro, quello della pace mentale. In definitiva, infatti, attraverso le espressioni si cerca di catturare, sia pure dall’esterno, le reazioni che avvengono nel chiuso della mente. Non è chi non colga il significato giuridico e culturale profondo del normalizzare queste pratiche. Vuol dire varcare una frontiera, viene sfondata l’ultima parete a protezione dei neurodiritti, un tabù, oltre il quale esistono solo forme odiose di compressione dell’unico luogo rimasto ormai privato, quello chiuso nella scatola cranica. Possiamo facilmente immaginare uno scenario distopico in cui chi vuole tutelarsi dalla lettura delle emozioni è costretto a non mostrarle più. Ciò non vuol dire che non possano essere ravvisati divieti all’inferenza emotiva, ma in larga misura vanno cercati all’esterno dell’AI Act. E tuttavia, proprio la circostanza che il giurista sia costretto a volgersi altrove rivela il sostanziale fallimento, sul piano umano, della legge che ci occupa. Conclusioni Tolto l’elenco delle pratiche vietate per rischio inaccettabile, resta una manciata, assai modesta, di garanzie, soprattutto nel caso di trattamenti ad alto rischio, quali la FRIA (Fundamental Rights Impact Assessment), comunque limitata quanto ai soggetti obbligati; il circoscritto diritto alla spiegazione già toccato; e poco altro. Anche gli obblighi di informazione rispetto ai sistemi di AI destinati a interagire con le persone fisiche sono, in tutta franchezza, assai basici, ossia lontani dalla ricchezza informativa desiderabile. Prescindono dai limiti di questo articolo riflessioni più ampie e più analitiche, tuttavia già dai pochi cenni sviluppati emerge, credo, un quadro fortemente carente rispetto sia alle premesse sia alle legittime attese che la prima legge dell’Unione dedicata all’intelligenza artificiale autorizzava. Affiorano in definitiva contraddizioni lampanti rispetto alla vantata centralità dell’essere umano. L’impressione è rafforzata dalla constatazione che la maggior parte dei diritti e delle tutele va infatti cercata altrove, nel sistema giuridico complessivamente inteso e nelle leges speciales fatte salve. In definitiva, il regolamento più recente e più atteso, anziché tesaurizzare dal passato ed eccellere in quello che fino a qualche tempo addietro era stato il primato dell’Unione, ossia un’attenzione ai diritti ben calibrata da meccanismi fini di bilanciamento, espone sul piano strettamente umano, a parere di chi scrive, una soluzione di modesto profilo, a ribasso, titubante: non andava scontentata un’industria che si stenta a inseguire. Certo, le lacune potranno essere colmate in via interpretativa, con percorsi incerti e onerosi, o potranno essere riempite da nuovi provvedimenti normativi più puntuali, ma la sensazione è che l’effetto “Bruxelles”, ossia la forza trainante che trasforma gli atti normativi dell’Unione in modelli mondiali da imitare, sarà qui alquanto contenuto. L’effetto “Bruxelles” in passato poggiava infatti non solo sulla portata innovatrice, sulla chiarezza degli istituti giuridici, ma altresì sulla forza etica e sulla rigorosa tutela della persona, sul coraggio, in altre parole, di disturbare centri di potere, nella convinzione che una società più equilibrata è più sana. Non che non siano contenute norme di pregio nell’AI Act, come l’art. 10 sulla governance dei dati, l’art. 14 che impone una progettazione dei sistemi ad alto rischio che permetta supervisione umana o l’art. 15, volto a precisare parametri minimi di cybersecurity, per portare solo alcuni esempi, tuttavia, l’impressione è che laddove nel mondo le istanze antropocentriche saranno avvertite con intensità appare assai dubbio che l’esempio a cui guardare sarà rappresentato dal nuovo regolamento sull’intelligenza artificiale. Ciò osservato, l’AI Act riesce probabilmente più efficace nello scopo pratico di facilitazione del mercato interno, ancorché si avverta anche in questo caso l’impressione di un’impronta più burocratica che sostanziale in molti dei processi introdotti. NOTE [1] Shakespeare, Troilo e Cressida, V.3, trad. C.V. Lodovici, Torino, 1974. [2] Ritiene lo scrivente che gli istituti richiamati agli artt. 13.2.f), 14.2.g), 15.1.h) e 22.3 GDPR vadano letti alla luce del “diritto… di ottenere una spiegazione della decisione” ricordato al considerando 71 GDPR. <https://digeat.info/articolo-rivista/digeat32024-pelino/>

Sept. 23, 2024

Re: [nexa] AI Training is Copyright Infringement

by Fabio Alemagna

Salto a pie' pari il solito pippone su quanto tu sappia le cose e quanto gli altri non le capiscano o vogliano capire. Il giorno gio 12 set 2024 alle ore 03:40 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > > Io trovo che sia scientificamente interessante e persino > > strabiliante che un algoritmo che non è stato esplicitamente > > istruito per saper far di conto, riesca a far di conto entro > > una certa misura, semplicemente per essere stato allenato > > su tomi che spiegano come si fa di conto. > > Commentavi questo articolo: https://arxiv.org/pdf/2301.13867 No, commentavo questa tua affermazione: > In qualunque caso GPT-4 non ha appreso nulla dai testi usati per la sua programmazione. Che tu ora cerchi di spostare il discorso altrove non sorprende, è quello che fai abitualmente. > Questi ricercatori NON hanno sottoposto a ChatGPT e GPT-4 problemi > inediti, Si che lo hanno fatto, è letteralmente scritto nell'abstract. «We investigate the mathematical capabilities [...] by testing them on publicly available datasets, AS WELL AS HAND-CRAFTED ONES.» Fabio

Sept. 23, 2024

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Guido Vetere

> Dando per buono (e non lo è) quanto scritto, un pronome è sicuramente sbagliato: "chiunque", ed è su quello che si potrebbe fare leva per una critica. attenzione: "chiunque" non significa "un gran numero di persone", ma "tutti coloro che ne abbiano voglia". peraltro, i modelli aperti (no nausea, pls) in effetti sono largamente usati (mi riferisco alla comunità tecnico-scientifica, ovviamente), per vederlo basta fare un giro su huggingface mi rendo conto che leggere la lettera aperta di Meta col sottofondo del discorso di Draghi può irritare, ma non dobbiamo diventare un barattolo pieno di mosconi che ronzano :-) non credo che l'interesse di Meta e Google sia quello di distruggere il GDPR per addestrare le loro AI: semplicemente non ne hanno alcun bisogno. credo invece che spingano sui modelli aperti per contrastare il business di quelli chiusi, OpenAI\Microsoft in primiis. certo, se ci fosse un CERN dell'AI in grado di produrre modelli aperti EU-kosher saremmo tutti più contenti, ma al momento non è così. la storia è piena di strane e temporanee alleanze, americani e britannici davano armi ai partigiani comunisti, per dirne una, quindi per adesso tornano buoni llama e gemma :-) G. On Fri, 20 Sept 2024 at 09:27, Antonio <antonio(a)piumarossa.it> wrote: > > ho letto anche io la lettera, sul giornale. > > Hanno acquistato un'intera pagina su tutti i maggiori giornali. > Dando per buono (e non lo è) quanto scritto, un pronome è sicuramente > sbagliato: "chiunque", ed è su quello che si potrebbe fare leva per una > critica. > > "Il primo riguarda lo sviluppo dei modelli "aperti", che sono resi > disponibili gratuitamente per essere utilizzati da chiunque, modificati e > sviluppati, moltiplicandone così i benefici e offrendo opportunità sociali > ed economiche." > > FALSO > > Utilizzati da pochissimi e modificati e sviluppati da ancor meno gente. > Diciamo una decina di aziende in tutta Europa, il cui obiettivo è molto > lontano da quello di dare opportunità sociali. > > A. >

Sept. 23, 2024

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Antonio

> attenzione: "chiunque" non significa "un gran numero di persone", ma "tutti > coloro che ne abbiano voglia". Io ne ho voglia e ne sono capace. Posso farlo? NO. Posso compilare, modificare ed eseguire il kernel Linux (milioni di linee di codice), LLaMA né smontarlo né rimontarlo come voglio io. Google ha creato Colab, Hugging Face la sua piattaforma collaborativa. C'è un'istituzione pubblica, un'università, un centro di ricerca, che ha fatto altrettanto? Su Hugging Face ci possono anche essere migliaia di progetti, ma si basano tutti o quasi su LLaMA (nelle varie versioni). E' come se mi dicessero fai un'applicazione open source SOLO su Windows. E per Linux? No, l'ambiente in cui deve girare DEVE essere Windows. Poi, abbiamo capito, sull'"open" dobbiamo abituarci a diversi "gradi" di apertura. Ma scrivere applicazioni open basate su LLaMA è come fare i baffetti alla Gioconda. A.

Sept. 23, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

Fabio, non mi piace infierire ma... li leggi gli articoli che proponi? O ti basta che l'abstract possa essere (mal)interpretato per confermare le tue opinioni? On Fri, 20 Sep 2024 15:35:47 +0200 Fabio Alemagna wrote: > > Questi ricercatori NON hanno sottoposto a ChatGPT e GPT-4 problemi > > inediti, > > Si che lo hanno fatto, è letteralmente scritto nell'abstract. > > «We investigate the mathematical capabilities [...] by testing them on > publicly available datasets, AS WELL AS HAND-CRAFTED ONES.» Per favore, leggi con più attenzione e meno pregiudizi. I ricercatori NON hanno proposto alcun problema inedito a ChatGPT e GPT-4 e i prompt "hand-crafted" appartengono solo a tre categorie: - Definition Retrieval - Named Theorem Proof Completion - Reverse Definition Retrival Si tratta del subdataset Search-Engine-Aspects in cui verificano (indovina un po'?) proprio il fatto che LLM come un archivio compresso da cui estrarre contenuti attinenti. Infatti, TUTTI i problemi forniti in input ChatGPT e GPT4 sono stati tratti da testi disponibili online da anni. Controlla tu stesso: https://github.com/friederrr/GHOSTS Come spiegato nell'appendice B2 dell'articolo, ogni record JSON del dataset contiene un attributo `ref` il cui valore indica "where the prompt was originally taken from" e che può essere vuoto "if the question was formulated by the authors and no authoritative source was plausible". I soli prompt inediti, con `ref: ""`, sono quelli di ricerca. Dunque, ripeto: questi ricercatori NON hanno sottoposto a ChatGPT e GPT-4 alcun problema inedito, ma solo problemi tratti da eserciziari disponibili in rete. Testi che sono stati usati per la sua programmazione statistica. Mi dispiace deluderti, ma GPT-4 non ha davvero appreso nulla dai testi usati per la sua programmazione. Ne produce stralci variamente corrotti in output perché li contiene in forma compressa (lossy). Niente di più e niente di meno. Non sono gli LLM ad avere le allucinazioni, ma coloro che gli attribuiscono una qualche forma di intelligenza. Giacomo

Sept. 23, 2024

Re: [nexa] Open Washing AI definition by OSI?

by Giacomo Tesio

Ciao 380° On Fri, 20 Sep 2024 14:01:01 +0200 380° <g380(a)biscuolo.net> wrote: > > In qualunque caso, una definizione di Open Source AI > > ma è davvero così importante la deinizione di "Open Source AI" data da > OSI? Evidentemente, sì, se ci si scomoda a impedire il confronto su una soluzione semplice come "richiediamo che i dati sorgente siano disponibili, se non possiamo richiedere che vengano distribuiti". Non è indicativo che nessuno abbia osato _obiettare_ nel merito? Abbiamo anche membri di OSI qui su Nexa eppure, anche qui, silenzio. Perché? Forse che questo piccolo uovo di colombo smonta tutte le scuse opposte alla trasparenza dei dati da OSI & friends? D'altro canto, se leggi il blog dell'OSI in proposito, trovi una lunga serie di voli pindarici per giustificare questa assenza di trasparenza che di fatto vanifica la libertà di studio e la libertà di modifica. > > che non garantisca né la studiabilità dei dati utilizzati per il > > calcolo dei pesi né la riproducibilità del processo, favorirà ogni > > sorta di open washing, aprendo un enorme loophole anche nella > > normativa dell'AI Act. [3] > > ma è davvero _quello_ il vero problema dell'AI Act? Sono certo che ci siano problemi e scappatoie peggiori, ma quello è UN problema anche al di là dell'AI Act. Immagina un Chat Control basato su una "Open Source AI", con fior di accademici a spergiurare che il dataset sorgente ("di training") non contiene alcun bias... dopo per aver analizzato un dataset diverso da quello effettivamente utilizzato. Al di là dell'AI Act: molte persone si fiderebbero. > Please present new arguments La proposta che ho presentato in quel post non era stata discussa da nessun'altra parte per quanto io abbia potuto verificare cercando sul forum. Alcuni degli argomenti in favore di quella proposta, riprendevano considerazioni fatte discutendo su thread correlati. Il "community manager" comunque ha dovuto fingere di non capire cosa ho proposto per giustificare la chiusura del thread. E prima mi ha silenziato, così che non potessi presentare nuovi argomenti. Purtroppo qualcuno li prende ancora sul serio... quindi tocca averci a che fare. > vuol dire davvero che le guidelines sono private? Beh, certo: mica vuoi finiscano nella Wayback Machine! Poi si nota quando le cambi alla bisogna! :-D > è ovvio che si tratta solo di una operazione di facciata. Ma vedi, a me non interessa se l'OSI salva la faccia o meno. A me interessa evitare che delle black box possano passare per "open source" solo perché chi le sviluppa pubblica una parte irrilevante del dataset sorgente. Il livello di opacità dei software programmati statisticamente è infinitamente maggiore rispetto a quello dei software proprietari. Giacomo PS: > sconfortato dalla tua pervicacia Mi dispiace sempre per lo sconforto che causo, ma mi devo occupare del futuro, perché ho figli che ne faranno parte.

Sept. 23, 2024

Tecnologia e società

by Alessandro Brolpito

Buonasera, Un interessante articolo su come la Silicon Valley sta cambiando pelle. Buona lettura, Alessandro ____ Breve sintesi: una nuova generazione di imprenditori digitali, tra cui Musk e il fondatore di Paypal, predica il superamento della democrazia. Articolo completato: https://www.repubblica.it/esteri/2024/09/22/news/usa_2024_trump_kamala_harr…

Sept. 22, 2024

Re: [nexa] Social media and online video firms are conducting ‘vast surveillance’ on users, FTC finds

by 380°

Buongiorno, mentre in EU è in atto un malcelato piano per _sabotare_ il GDPR (che tanto è inapplicato, quindi serve solo a rompere le scatole agli sfigati), negli USA c'è una fazione dell'amministrazione che sta (ancora) tentando di introdurre una roba simile... comunque, io mi chiedo come diavolo può essere che le stesse aziende facciano /macelleria messicana/ coi dati degli americani mentre /Qualcuno ™/ sostiene che lo stesso trattamento sia del tutto compatibile con il GDPR quando si tratta di cittadini europei... ma sono io che sono limitato! Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> writes: > <https://www.theguardian.com/technology/2024/sep/19/social-media-companies-s…> > www.theguardian.com > > Social media and online video firms are conducting ‘vast surveillance’ on users, FTC finds > > Johana Bhuiyan (il report completo in PDF di 129 pagine è qui: https://www.ftc.gov/system/files/ftc_gov/pdf/Social-Media-6b-Report-9-11-20… di seguito il comunicato stampa pubblicato da FTC ieri 19 Settembre: «FTC Staff Report Finds Large Social Media and Video Streaming Companies Have Engaged in Vast Surveillance of Users with Lax Privacy Controls and Inadequate Safeguards for Kids and Teens» https://www.ftc.gov/news-events/news/press-releases/2024/09/ftc-staff-repor… --8<---------------cut here---------------start------------->8--- A new Federal Trade Commission staff report that examines the data collection and use practices of major social media and video streaming services shows they engaged in vast surveillance of consumers in order to monetize their personal information while failing to adequately protect users online, especially children and teens. The [staff report] ** is based on responses to [6(b) orders] issued in December 2020 to nine companies including some of the largest social media and video streaming services: Amazon.com, Inc., which owns the gaming platform Twitch; Facebook, Inc. (now Meta Platforms, Inc.); YouTube LLC; Twitter, Inc. (now X Corp.); Snap Inc.; ByteDance Ltd., which owns the video-sharing platform TikTok; Discord Inc.; Reddit, Inc.; and WhatsApp Inc. The orders asked for information about how the companies collect, track and use personal and demographic information, how they determine which ads and other content are shown to consumers, whether and how they apply algorithms or data analytics to personal and demographic information, and how their practices impact children and teens. “The report lays out how social media and video streaming companies harvest an enormous amount of Americans' personal data and monetize it to the tune of billions of dollars a year,” said FTC Chair Lina M. Khan. “While lucrative for the companies, these surveillance practices can endanger people's privacy, threaten their freedoms, and expose them to a host of harms, from identify theft to stalking. Several firms' failure to adequately protect kids and teens online is especially troubling. The Report's findings are timely, particularly as state and federal policymakers consider legislation to protect people from abusive data practices.” The report found that the companies collected and could indefinitely retain troves of data, including information from data brokers, and about both users and non-users of their platforms. The staff report further highlights that many companies engaged in broad data sharing that raises serious concerns regarding the adequacy of the companies' data handling controls and oversight. In particular, the staff report noted that the companies' data collection, minimization and retention practices were “woefully inadequate.” In addition, the staff report found that some companies did not delete all user data in response to user deletion requests. The staff report also found that the business models of many of the companies incentivized mass collection of user data to monetize, especially through targeted advertising, which accounts for most of their revenue. It further noted that those incentives were in tension with user privacy, and therefore posed risks to users' privacy. Notably, the report found that some companies deployed privacy-invasive tracking technologies, such as pixels, to facilitate advertising to users based on preferences and interests. Additionally, the staff report highlighted the many ways in which the companies fed users' and non-users' personal information into their automated systems, including for use by their algorithms, data analytics, and AI. The report found that users and non-users had little or no way to opt out of how their data was used by these automated systems, and that there were differing, inconsistent, and inadequate approaches to monitoring and testing the use of automated systems. Furthermore, the staff report concluded that the social media and video streaming services didn't adequately protect children and teens on their sites. The report cited research that found social media and digital technology contributed to negative mental health impacts on young users. Based on the data collected, the staff report said many companies assert that there are no children on their platforms because their services were not directed to children or did not allow children to create accounts. The staff report noted that this was an apparent attempt to avoid liability under the [Children's Online Privacy Protection Act Rule]. The staff report found that the social media and video streaming services often treated teens the same as adult users, with most companies allowing teens on their platforms with no account restrictions. The report also noted some of the potential competition implications of the companies' data practices. It noted that companies that amass significant amounts of user data may be in a position to achieve market dominance, which may lead to harmful practices with companies prioritizing acquiring data at the expense of user privacy. It noted that when there is limited competition among social media and video streaming services, consumers will have limited choices. The staff report makes recommendations to policymakers and companies based on staff's observations, findings, and analysis, including: • Congress should pass comprehensive federal privacy legislation to limit surveillance, address baseline protections, and grant consumers data rights; • Companies should limit data collection, implement concrete and enforceable data minimization and retention policies, limit data sharing with third parties and affiliates, delete consumer data when it is no longer needed, and adopt consumer-friendly privacy policies that are clear, simple, and easily understood; • Companies should not collect sensitive information through privacy-invasive ad tracking technologies; • Companies should carefully examine their policies and practices regarding ad targeting based on sensitive categories; • Companies should address the lack of user control over how their data is used by systems as well as the lack of transparency regarding how such systems are used, and also should implement more stringent testing and monitoring standards for such systems; Companies should not ignore the reality that there are child users on their platforms and should treat COPPA as representing the minimum requirements and provide additional safety measures for children; • The Companies should recognize teens are not adults and provide them greater privacy protections; and • Congress should pass federal privacy legislation to fill the gap in privacy protections provided by COPPA for teens over the age of 13. The Commission voted 5-0 to issue the staff report. [Chair Khan], as well as Commissioners [Alvaro Bedoya], [Melissa Holyoak] and [Andrew N. Ferguson] each released separate statements. The lead attorneys on this matter are Jacqueline Ford, Ronnie Solomon and Ryan Mehm from the FTC's Bureau of Consumer Protection. [staff report] </reports/look-behind-scenes-examining-data-practices-social-media-video-streaming-services> [6(b) orders] </news-events/news/press-releases/2020/12/ftc-issues-orders-nine-social-media-video-streaming-services-seeking-data-about-how-they-collect-use> [Children's Online Privacy Protection Act Rule] </business-guidance/resources/childrens-online-privacy-protection-rule-not-just-kids-sites> [Chair Khan] </legal-library/browse/cases-proceedings/public-statements/statement-chair-lina-m-khan-regarding-social-media-video-streaming-service-providers-privacy-report> [Alvaro Bedoya] </legal-library/browse/cases-proceedings/public-statements/statement-commissioner-alvaro-m-bedoya-6b-report-examining-data-practices-social-media-video> [Melissa Holyoak] </legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-melissa-holyoak-regarding-social-media-video-streaming> [Andrew N. Ferguson] </legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-andrew-n-ferguson-regarding-social-media-video> --8<---------------cut here---------------end--------------->8--- saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 20, 2024