- nexa - server-nexa.polito.it

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Maurizio Borghi

L'attacco al GDPR, che ora riprende slancio grazie al rapporto Draghi, fa il pari con la tendenza recente del legislatore UE (particolarmente marcata in questa commissione) a sostituire la tecnica normativa classica, basata su disposizioni generali soggette all'interpretazione del giudice, con sistemi di regolazione "by design" gestiti direttamente dai soggetti coinvolti, sotto la supervisione di autorità di controllo. Dopodiché è sufficiente sotto-finanziare queste autorità o trasferire i poteri di controllo alla commissione stessa, e lo svuotamento dei diritti è compiuto. Un saluto a tutti i membri della lista, Maurizio Il giorno ven 20 set 2024 alle ore 00:02 Daniela Tafani < daniela.tafani(a)unipi.it> ha scritto: > Buonasera, > > a me pare che ci sia un attacco violento che le grandi aziende stanno > sferrando contro il GDPR. > Già lo hanno già scritto, di loro pugno, nel rapporto Draghi: > > "while the ambitions of the EU’s GDPR and AI Act are commendable, their > complexity and risk of > overlaps and inconsistencies can undermine developments in the field of AI > by EU industry actors. The differ- > ences among Member States in the implementation and enforcement of the > GDPR (as detailed in the Governance > Chapter), as well as overlaps and areas of potential inconsistency with > the provisions of the AI Act create the risk > of European companies being excluded from early AI innovations because of > uncertainty of regulatory frameworks > as well as higher burdens for EU researchers and innovators to develop > homegrown AI" > > e ora lo ribadiscono. > > Considerato che la cosiddetta "IA" si fonda sulla sorveglianza e che > questa ha luogo in violazione di diritti giuridicamente tutelati - la > bolla giuridica di cui ha scritto Marco Giraudo - > non mi pare sorprendente che le aziende preferiscano cancellare parti del > GPDR (in nome dell'"armonizzazione") e tenere l'AI Act. > L'AI Act non solo non protegge i diritti fondamentali, ma ha il merito, > per le grandi aziende, di stravolgere il significato stesso di ciò che la > protezione di un diritto significa, > prevedendo che siano vietate non le violazioni dei diritti fondamentali, > ma solo quelle violazioni che generano danni > (e che dunque, "per il nostro bene", qualsiasi violazione dei diritti sia > lecita). > > Che l'attacco sia condotto in nome dell'innovazione, da parte di aziende > che promuovono solo innovazioni tossiche, che non nuocciano al loro modello > di business, > non è una novità. > > Un saluto, > Daniela > > ________________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Claudio Agosti > <claudio.agosti(a)hermescenter.org> > Inviato: giovedì 19 settembre 2024 19:29 > A: nexa(a)server-nexa.polito.it > Oggetto: Re: [nexa] La regolamentazione UE su IA è frammentata, > incerta ed incoerente > > Quello che mi chiedo da stamattina è: ma quale regola incoerente vedono? > Quotando le due parti che forse nascondono il punto: > > Ma, negli ultimi tempi, le decisioni normative sono diventate frammentate > e imprevedibili, mentre gli interventi delle autorità europee per la > protezione dei dati hanno creato una grande incertezza sul tipo di dati che > possono essere utilizzati per addestrare i modelli IA. > > Qui sembrerebbe che la critica viene mossa ad alcune autorità protezione > dati. > > Può scegliere di riaffermare il principio di armonizzazione sancito nei > quadri normativi come il GDPR, e offrire un'interpretazione moderna delle > sue disposizioni che ne rispetti comunque i valori fondamentali, > permettendo così che l'innovazione nell'IA si sviluppi qui con la stessa > portata e velocità che in altre regioni del mondo. Oppure, può continuare a > respingere il progresso, [...] > > Per piacere, qualcuno mi sa dire quali incongruenze ci sono state tra le > varie decisioni dei DPA ? > > grazie! > Claudio > > On Thu, Sep 19, 2024 at 7:13 PM Antonio <antonio(a)piumarossa.it<mailto: > antonio(a)piumarossa.it>> wrote: > "Senza regole coerenti, l'UE rischia di perdersi i due momenti > fondamentali nel processo di innovazione dell'IA. Il primo riguarda lo > sviluppo dei modelli "aperti", che sono resi disponibili gratuitamente per > essere utilizzati da chiunque, modificati e sviluppati, moltiplicandone > così i benefici e offrendo opportunità sociali ed economiche. > ... > Il secondo riguarda i più recenti modelli "multimodali", che operano > fluidamente tra testo, immagini e audio, e che consentiranno il prossimo > salto in avanti nell'IA. La differenza tra modelli di solo testo e modelli > multimodali è paragonabile alla differenza tra avere un solo senso e averli > tutti e cinque." > > La lettera aperta è qui: https://euneedsai.com/it > > Confesso che non ho capito a cosa si riferiscano esattamente. > > A. > > > -- > Claudio Agosti - Hermes Center, AI Forensics, Reversing Works. > Platform Auditor & Tech Researcher > [ linktr.ee/claudio.agosti<http://linktr.ee/claudio.agosti> ] > -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> My Webex room: https://unito.webex.com/meet/maurizio.borghi

Sept. 20, 2024

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Maria Chiara Pievatolo

On 20/09/24 00:02, Daniela Tafani wrote: > > Che l'attacco sia condotto in nome dell'innovazione, da parte di aziende che promuovono solo innovazioni tossiche, che non nuocciano al loro modello di business, > non è una novità. > Il principio di innovazione è esso stesso stato introdotto grazie alla pressione di lobby private (https://www.andreasaltelli.eu/file/repository/Lobbies_0_1.pdf pp. 81-89). Dietro c'è un'ideologia non liberale bensì neoliberale, come definita rigorosamente da Quinn Slobodian (Globalists, 2018, p.2: The core of twentieth-century neoliberal theorizing involves what they called the meta-economic or extra-economic conditions for safeguarding capitalism at the scale of the entire world. I show that ***the neoliberal project focused on designing institutions— not to liberate markets but to encase them, to inoculate capitalism against the threat of democracy,*** to create a framework to contain often-irrational human behavior, and to reorder the world after empire as a space of competing states in which borders fulfill a necessary function. Ne segue che quando la legislazione europea è liberaldemocratica e si sforza di garantire, invece che un sistema, diritti di persone, essa diventa una nemica. Il neo- fa la differenza: la libertà individuale, quando è comodo riconoscerla, ha solo un valore strumentale; se invece diviene una minaccia per l'ordine capitalistico, merita di essere spazzata via, anche con il contributo di un potere statale che può diventare, specie nel cosiddetto ordoliberalismo, anche molto invadente (purché asservito agli interessi giusti). A presto, MCP (*) Merita sempre rileggere questa vecchia intervista a Luciano Gallino: https://jacobinitalia.it/come-il-neoliberismo-arrivo-in-italia/

Sept. 20, 2024

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Antonio

> ho letto anche io la lettera, sul giornale. Hanno acquistato un'intera pagina su tutti i maggiori giornali. Dando per buono (e non lo è) quanto scritto, un pronome è sicuramente sbagliato: "chiunque", ed è su quello che si potrebbe fare leva per una critica. "Il primo riguarda lo sviluppo dei modelli "aperti", che sono resi disponibili gratuitamente per essere utilizzati da chiunque, modificati e sviluppati, moltiplicandone così i benefici e offrendo opportunità sociali ed economiche." FALSO Utilizzati da pochissimi e modificati e sviluppati da ancor meno gente. Diciamo una decina di aziende in tutta Europa, il cui obiettivo è molto lontano da quello di dare opportunità sociali. A.

Sept. 20, 2024

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Daniela Tafani

Buonasera, a me pare che ci sia un attacco violento che le grandi aziende stanno sferrando contro il GDPR. Già lo hanno già scritto, di loro pugno, nel rapporto Draghi: "while the ambitions of the EU’s GDPR and AI Act are commendable, their complexity and risk of overlaps and inconsistencies can undermine developments in the field of AI by EU industry actors. The differ- ences among Member States in the implementation and enforcement of the GDPR (as detailed in the Governance Chapter), as well as overlaps and areas of potential inconsistency with the provisions of the AI Act create the risk of European companies being excluded from early AI innovations because of uncertainty of regulatory frameworks as well as higher burdens for EU researchers and innovators to develop homegrown AI" e ora lo ribadiscono. Considerato che la cosiddetta "IA" si fonda sulla sorveglianza e che questa ha luogo in violazione di diritti giuridicamente tutelati - la bolla giuridica di cui ha scritto Marco Giraudo - non mi pare sorprendente che le aziende preferiscano cancellare parti del GPDR (in nome dell'"armonizzazione") e tenere l'AI Act. L'AI Act non solo non protegge i diritti fondamentali, ma ha il merito, per le grandi aziende, di stravolgere il significato stesso di ciò che la protezione di un diritto significa, prevedendo che siano vietate non le violazioni dei diritti fondamentali, ma solo quelle violazioni che generano danni (e che dunque, "per il nostro bene", qualsiasi violazione dei diritti sia lecita). Che l'attacco sia condotto in nome dell'innovazione, da parte di aziende che promuovono solo innovazioni tossiche, che non nuocciano al loro modello di business, non è una novità. Un saluto, Daniela ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Claudio Agosti <claudio.agosti(a)hermescenter.org> Inviato: giovedì 19 settembre 2024 19:29 A: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente Quello che mi chiedo da stamattina è: ma quale regola incoerente vedono? Quotando le due parti che forse nascondono il punto: Ma, negli ultimi tempi, le decisioni normative sono diventate frammentate e imprevedibili, mentre gli interventi delle autorità europee per la protezione dei dati hanno creato una grande incertezza sul tipo di dati che possono essere utilizzati per addestrare i modelli IA. Qui sembrerebbe che la critica viene mossa ad alcune autorità protezione dati. Può scegliere di riaffermare il principio di armonizzazione sancito nei quadri normativi come il GDPR, e offrire un'interpretazione moderna delle sue disposizioni che ne rispetti comunque i valori fondamentali, permettendo così che l'innovazione nell'IA si sviluppi qui con la stessa portata e velocità che in altre regioni del mondo. Oppure, può continuare a respingere il progresso, [...] Per piacere, qualcuno mi sa dire quali incongruenze ci sono state tra le varie decisioni dei DPA ? grazie! Claudio On Thu, Sep 19, 2024 at 7:13 PM Antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> wrote: "Senza regole coerenti, l'UE rischia di perdersi i due momenti fondamentali nel processo di innovazione dell'IA. Il primo riguarda lo sviluppo dei modelli "aperti", che sono resi disponibili gratuitamente per essere utilizzati da chiunque, modificati e sviluppati, moltiplicandone così i benefici e offrendo opportunità sociali ed economiche. ... Il secondo riguarda i più recenti modelli "multimodali", che operano fluidamente tra testo, immagini e audio, e che consentiranno il prossimo salto in avanti nell'IA. La differenza tra modelli di solo testo e modelli multimodali è paragonabile alla differenza tra avere un solo senso e averli tutti e cinque." La lettera aperta è qui: https://euneedsai.com/it Confesso che non ho capito a cosa si riferiscano esattamente. A. -- Claudio Agosti - Hermes Center, AI Forensics, Reversing Works. Platform Auditor & Tech Researcher [ linktr.ee/claudio.agosti<http://linktr.ee/claudio.agosti> ]

Sept. 19, 2024

Social media and online video firms are conducting ‘vast surveillance’ on users, FTC finds

by Alberto Cammozzo

<https://www.theguardian.com/technology/2024/sep/19/social-media-companies-s…> www.theguardian.com Social media and online video firms are conducting ‘vast surveillance’ on users, FTC finds Johana Bhuiyan Social media and online video companies are collecting huge troves of your personal information on and off their websites or apps and sharing it with a wide range of third-party entities, a new Federal Trade Commission (FTC) staff report on nine tech companies confirms. The FTC report published on Thursday looked at the data-gathering practices of Facebook, WhatsApp, YouTube, Discord, Reddit, Amazon, Snap, TikTok and Twitter/X between January 2019 and 31 December 2020. The majority of the companies’ business models incentivized tracking how people engaged with their platforms, collecting their personal data and using it to determine what content and ads users see on their feeds, the report states. The FTC’s findings validate years of reporting on the depth and breadth of these companies’ tracking practices and call out the tech firms for “vast surveillance of users”. The agency is recommending Congress pass federal privacy regulations based on what it has documented. In particular, the agency is urging lawmakers to recognize that the business models of many of these companies do little to incentivize effective self-regulation or protection of user data. “Recognizing this basic fact is important for enforcers and policymakers alike because any efforts to limit or regulate how these firms harvest troves of people’s personal data will conflict with their primary business incentives,” FTC chair Lina Khan said in a statement. “To craft effective rules or remedies limiting this data collection, policymakers will need to ensure that violating the law is not more lucrative than abiding by it.” The FTC is also asking that the companies mentioned in the report invest in “limiting data retention and sharing, restricting targeted advertising, and strengthening protections for teens”. Notably, the report highlights how consumers have little control over how these companies use and share their personal details. Most companies collected or inferred demographic information about users such as age, gender and language. Some collected information about household income, education and parental and marital status. But even when this type of personal information was not explicitly collected, some companies could analyze user behavior on the platform to deduce the details of their personal lives without their knowledge. For instance, some companies’ user interest categories included “baby, kids and maternity”, which would reveal parental status, or “newlyweds” and “divorce support”, which would reveal marital status. This information was then used by some companies to tailor what content people saw to increase engagement on their platforms. In some cases, that demographic information was shared with third-party entities to help target them with more relevant advertisements. Whatever product was in use, it was not easy to opt out of data collection, according to the FTC. Nearly all the companies said they fed personal information to automated systems, most often to serve content and advertisements. On the flipside, almost none of them offered “a comprehensive ability to directly control or opt-out of use of their data by all Algorithms, Data Analytics, or AI”, per the report. Several firms say it’s impossible to even compile a full list of who they share your data with. When the companies were asked to enumerate which advertisers, data brokers or other entities they shared consumer data with, none of these nine firms provided the FTC with a full inventory. The FTC also found that despite evidence that children and teens use many of these platforms, many of the tech companies reported that, because their platforms are not directed at children, they do not need different data-sharing practices for children under 13 years of age. According to the report, none of the companies reported having data-sharing practices that treated the information collected about and from 13- to 17-year-olds via their sites and apps differently than adult data, even though data about minors is more sensitive. The FTC called the companies’ data-minimization practices “woefully inadequate”, finding that some of the companies did not delete information when users requested it. “Even those Companies that actually deleted data would only delete some data, but not all,” the report stated. “That is the most basic requirement,” said Mario Trujillo, a staff attorney at the Electronic Frontier Foundation. “The fact that some weren’t doing that even in the face of state privacy laws that require it proves that stronger enforcement is needed, especially from consumers themselves.” Some of the firms have disputed the report’s findings. In a statement, Discord said the FTC report was an important step but lumped “very different models into one bucket”. “Discord’s business model is very different – we are a real-time communications platform with strong user privacy controls and no feeds for endless scrolling. At the time of the study, Discord did not run a formal digital advertising service,” Kate Sheerin, Discord’s head of public policy in the US and Canada, said in a statement. A Google spokesperson said the company had the strictest privacy policies in the industry. “We never sell people’s personal information and we don’t use sensitive information to serve ads. We prohibit ad personalization for users under 18 and we don’t personalize ads to anyone watching ‘made for kids content’ on YouTube,” said Google spokesperson, José Castañeda. The other firms either did not provide an on-the-record comment or did not immediately respond to a request for comment. However, if companies dispute the FTC’s findings, the onus is on them to provide evidence, says the Electronic Privacy Information Center (Epic), a Washington DC-based public interest research organization focused on privacy and free speech. “I used to work in privacy compliance for companies, and let’s just say I believe absolutely nothing without documentation to back up claims,” said Epic global privacy counsel, Calli Schroeder. “And I agree with the FTC’s conclusion that self-regulation is a failure. Companies have repeatedly shown that their priority is profit and they will only take consumer protection and privacy issues seriously when failing to do so affects that profit.”

Sept. 19, 2024

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Claudio Agosti

Quello che mi chiedo da stamattina è: ma quale regola incoerente vedono? Quotando le due parti che forse nascondono il punto: Ma, negli ultimi tempi, le decisioni normative sono diventate frammentate e > imprevedibili, mentre gli interventi delle autorità europee per la > protezione dei dati hanno creato una grande incertezza sul tipo di dati che > possono essere utilizzati per addestrare i modelli IA. Qui sembrerebbe che la critica viene mossa ad alcune autorità protezione dati. Può scegliere di riaffermare il principio di armonizzazione sancito nei > quadri normativi come il GDPR, e offrire un'interpretazione moderna delle > sue disposizioni che ne rispetti comunque i valori fondamentali, > permettendo così che l'innovazione nell'IA si sviluppi qui con la stessa > portata e velocità che in altre regioni del mondo. Oppure, può continuare a > respingere il progresso, [...] > Per piacere, qualcuno mi sa dire quali incongruenze ci sono state tra le varie decisioni dei DPA ? grazie! Claudio On Thu, Sep 19, 2024 at 7:13 PM Antonio <antonio(a)piumarossa.it> wrote: > "Senza regole coerenti, l'UE rischia di perdersi i due momenti > fondamentali nel processo di innovazione dell'IA. Il primo riguarda lo > sviluppo dei modelli "aperti", che sono resi disponibili gratuitamente per > essere utilizzati da chiunque, modificati e sviluppati, moltiplicandone > così i benefici e offrendo opportunità sociali ed economiche. > ... > Il secondo riguarda i più recenti modelli "multimodali", che operano > fluidamente tra testo, immagini e audio, e che consentiranno il prossimo > salto in avanti nell'IA. La differenza tra modelli di solo testo e modelli > multimodali è paragonabile alla differenza tra avere un solo senso e averli > tutti e cinque." > > La lettera aperta è qui: https://euneedsai.com/it > > Confesso che non ho capito a cosa si riferiscano esattamente. > > A. > -- Claudio Agosti - Hermes Center, AI Forensics, Reversing Works. Platform Auditor & Tech Researcher [ linktr.ee/claudio.agosti ]

Sept. 19, 2024

La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Antonio

"Senza regole coerenti, l'UE rischia di perdersi i due momenti fondamentali nel processo di innovazione dell'IA. Il primo riguarda lo sviluppo dei modelli "aperti", che sono resi disponibili gratuitamente per essere utilizzati da chiunque, modificati e sviluppati, moltiplicandone così i benefici e offrendo opportunità sociali ed economiche. ... Il secondo riguarda i più recenti modelli "multimodali", che operano fluidamente tra testo, immagini e audio, e che consentiranno il prossimo salto in avanti nell'IA. La differenza tra modelli di solo testo e modelli multimodali è paragonabile alla differenza tra avere un solo senso e averli tutti e cinque." La lettera aperta è qui: https://euneedsai.com/it Confesso che non ho capito a cosa si riferiscano esattamente. A.

Sept. 19, 2024

Generative AI Has a Visual Plagiarism Problem

by Giacomo Tesio

Experiments with Midjourney and DALL-E 3 show a copyright minefield https://spectrum.ieee.org/midjourney-copyright Di nuovo, la scoperta dell'acqua calda se si riconosce le "AI generative" come compressioni lossy dei dati sorgente: anche un jpeg compresso ha delle aree in cui gli artefatti sono nulli. Giacomo

Sept. 19, 2024

Re: [nexa] Storia vecchia, era: explosive supply chain attack on Hezbollah pagers.

by M. Fioretti

On Wed, Sep 18, 2024 18:31:04 PM +0200, Marco Fioretti wrote: > On Wed, Sep 18, 2024 12:50:58 PM +0200, 380° via nexa wrote: > > Buongiorno, > > > > siccome ne ho lette di tutti i colori in merito a "hanno stati gli > > hacker col MALWARE" (anche da presunti espertoni), vale la pena > > analizzare i fatti cum granu salis e smetterla con la SUPERSTIZIONE. > > > > https://arstechnica.com/security/2024/09/8-dead-2700-injured-after-simultan… > > https://www.wired.com/story/walkie-talkie-explosions-hezbollah/ scusate, avevo dimenticato gli impianti solari domestici: https://abcnews.go.com/International/wireStory/lebanons-official-news-agenc… sempre piu' sbigottito Marco

Sept. 18, 2024

Storia vecchia, era: explosive supply chain attack on Hezbollah pagers.

by M. Fioretti

On Wed, Sep 18, 2024 12:50:58 PM +0200, 380° via nexa wrote: > Buongiorno, > > siccome ne ho lette di tutti i colori in merito a "hanno stati gli > hacker col MALWARE" (anche da presunti espertoni), vale la pena > analizzare i fatti cum granu salis e smetterla con la SUPERSTIZIONE. > > https://arstechnica.com/security/2024/09/8-dead-2700-injured-after-simultan… https://www.wired.com/story/walkie-talkie-explosions-hezbollah/ 'sta storia e' sempre piu' affascinante. In tutti i modi sbagliati, ovviamente. Ma affascinante. Marco

Sept. 18, 2024