- nexa - server-nexa.polito.it

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Antonio

> attenzione: "chiunque" non significa "un gran numero di persone", ma "tutti > coloro che ne abbiano voglia". Io ne ho voglia e ne sono capace. Posso farlo? NO. Posso compilare, modificare ed eseguire il kernel Linux (milioni di linee di codice), LLaMA né smontarlo né rimontarlo come voglio io. Google ha creato Colab, Hugging Face la sua piattaforma collaborativa. C'è un'istituzione pubblica, un'università, un centro di ricerca, che ha fatto altrettanto? Su Hugging Face ci possono anche essere migliaia di progetti, ma si basano tutti o quasi su LLaMA (nelle varie versioni). E' come se mi dicessero fai un'applicazione open source SOLO su Windows. E per Linux? No, l'ambiente in cui deve girare DEVE essere Windows. Poi, abbiamo capito, sull'"open" dobbiamo abituarci a diversi "gradi" di apertura. Ma scrivere applicazioni open basate su LLaMA è come fare i baffetti alla Gioconda. A.

Sept. 23, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

Fabio, non mi piace infierire ma... li leggi gli articoli che proponi? O ti basta che l'abstract possa essere (mal)interpretato per confermare le tue opinioni? On Fri, 20 Sep 2024 15:35:47 +0200 Fabio Alemagna wrote: > > Questi ricercatori NON hanno sottoposto a ChatGPT e GPT-4 problemi > > inediti, > > Si che lo hanno fatto, è letteralmente scritto nell'abstract. > > «We investigate the mathematical capabilities [...] by testing them on > publicly available datasets, AS WELL AS HAND-CRAFTED ONES.» Per favore, leggi con più attenzione e meno pregiudizi. I ricercatori NON hanno proposto alcun problema inedito a ChatGPT e GPT-4 e i prompt "hand-crafted" appartengono solo a tre categorie: - Definition Retrieval - Named Theorem Proof Completion - Reverse Definition Retrival Si tratta del subdataset Search-Engine-Aspects in cui verificano (indovina un po'?) proprio il fatto che LLM come un archivio compresso da cui estrarre contenuti attinenti. Infatti, TUTTI i problemi forniti in input ChatGPT e GPT4 sono stati tratti da testi disponibili online da anni. Controlla tu stesso: https://github.com/friederrr/GHOSTS Come spiegato nell'appendice B2 dell'articolo, ogni record JSON del dataset contiene un attributo `ref` il cui valore indica "where the prompt was originally taken from" e che può essere vuoto "if the question was formulated by the authors and no authoritative source was plausible". I soli prompt inediti, con `ref: ""`, sono quelli di ricerca. Dunque, ripeto: questi ricercatori NON hanno sottoposto a ChatGPT e GPT-4 alcun problema inedito, ma solo problemi tratti da eserciziari disponibili in rete. Testi che sono stati usati per la sua programmazione statistica. Mi dispiace deluderti, ma GPT-4 non ha davvero appreso nulla dai testi usati per la sua programmazione. Ne produce stralci variamente corrotti in output perché li contiene in forma compressa (lossy). Niente di più e niente di meno. Non sono gli LLM ad avere le allucinazioni, ma coloro che gli attribuiscono una qualche forma di intelligenza. Giacomo

Sept. 23, 2024

Re: [nexa] Open Washing AI definition by OSI?

by Giacomo Tesio

Ciao 380° On Fri, 20 Sep 2024 14:01:01 +0200 380° <g380(a)biscuolo.net> wrote: > > In qualunque caso, una definizione di Open Source AI > > ma è davvero così importante la deinizione di "Open Source AI" data da > OSI? Evidentemente, sì, se ci si scomoda a impedire il confronto su una soluzione semplice come "richiediamo che i dati sorgente siano disponibili, se non possiamo richiedere che vengano distribuiti". Non è indicativo che nessuno abbia osato _obiettare_ nel merito? Abbiamo anche membri di OSI qui su Nexa eppure, anche qui, silenzio. Perché? Forse che questo piccolo uovo di colombo smonta tutte le scuse opposte alla trasparenza dei dati da OSI & friends? D'altro canto, se leggi il blog dell'OSI in proposito, trovi una lunga serie di voli pindarici per giustificare questa assenza di trasparenza che di fatto vanifica la libertà di studio e la libertà di modifica. > > che non garantisca né la studiabilità dei dati utilizzati per il > > calcolo dei pesi né la riproducibilità del processo, favorirà ogni > > sorta di open washing, aprendo un enorme loophole anche nella > > normativa dell'AI Act. [3] > > ma è davvero _quello_ il vero problema dell'AI Act? Sono certo che ci siano problemi e scappatoie peggiori, ma quello è UN problema anche al di là dell'AI Act. Immagina un Chat Control basato su una "Open Source AI", con fior di accademici a spergiurare che il dataset sorgente ("di training") non contiene alcun bias... dopo per aver analizzato un dataset diverso da quello effettivamente utilizzato. Al di là dell'AI Act: molte persone si fiderebbero. > Please present new arguments La proposta che ho presentato in quel post non era stata discussa da nessun'altra parte per quanto io abbia potuto verificare cercando sul forum. Alcuni degli argomenti in favore di quella proposta, riprendevano considerazioni fatte discutendo su thread correlati. Il "community manager" comunque ha dovuto fingere di non capire cosa ho proposto per giustificare la chiusura del thread. E prima mi ha silenziato, così che non potessi presentare nuovi argomenti. Purtroppo qualcuno li prende ancora sul serio... quindi tocca averci a che fare. > vuol dire davvero che le guidelines sono private? Beh, certo: mica vuoi finiscano nella Wayback Machine! Poi si nota quando le cambi alla bisogna! :-D > è ovvio che si tratta solo di una operazione di facciata. Ma vedi, a me non interessa se l'OSI salva la faccia o meno. A me interessa evitare che delle black box possano passare per "open source" solo perché chi le sviluppa pubblica una parte irrilevante del dataset sorgente. Il livello di opacità dei software programmati statisticamente è infinitamente maggiore rispetto a quello dei software proprietari. Giacomo PS: > sconfortato dalla tua pervicacia Mi dispiace sempre per lo sconforto che causo, ma mi devo occupare del futuro, perché ho figli che ne faranno parte.

Sept. 23, 2024

Tecnologia e società

by Alessandro Brolpito

Buonasera, Un interessante articolo su come la Silicon Valley sta cambiando pelle. Buona lettura, Alessandro ____ Breve sintesi: una nuova generazione di imprenditori digitali, tra cui Musk e il fondatore di Paypal, predica il superamento della democrazia. Articolo completato: https://www.repubblica.it/esteri/2024/09/22/news/usa_2024_trump_kamala_harr…

Sept. 22, 2024

Re: [nexa] Social media and online video firms are conducting ‘vast surveillance’ on users, FTC finds

by 380°

Buongiorno, mentre in EU è in atto un malcelato piano per _sabotare_ il GDPR (che tanto è inapplicato, quindi serve solo a rompere le scatole agli sfigati), negli USA c'è una fazione dell'amministrazione che sta (ancora) tentando di introdurre una roba simile... comunque, io mi chiedo come diavolo può essere che le stesse aziende facciano /macelleria messicana/ coi dati degli americani mentre /Qualcuno ™/ sostiene che lo stesso trattamento sia del tutto compatibile con il GDPR quando si tratta di cittadini europei... ma sono io che sono limitato! Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> writes: > <https://www.theguardian.com/technology/2024/sep/19/social-media-companies-s…> > www.theguardian.com > > Social media and online video firms are conducting ‘vast surveillance’ on users, FTC finds > > Johana Bhuiyan (il report completo in PDF di 129 pagine è qui: https://www.ftc.gov/system/files/ftc_gov/pdf/Social-Media-6b-Report-9-11-20… di seguito il comunicato stampa pubblicato da FTC ieri 19 Settembre: «FTC Staff Report Finds Large Social Media and Video Streaming Companies Have Engaged in Vast Surveillance of Users with Lax Privacy Controls and Inadequate Safeguards for Kids and Teens» https://www.ftc.gov/news-events/news/press-releases/2024/09/ftc-staff-repor… --8<---------------cut here---------------start------------->8--- A new Federal Trade Commission staff report that examines the data collection and use practices of major social media and video streaming services shows they engaged in vast surveillance of consumers in order to monetize their personal information while failing to adequately protect users online, especially children and teens. The [staff report] ** is based on responses to [6(b) orders] issued in December 2020 to nine companies including some of the largest social media and video streaming services: Amazon.com, Inc., which owns the gaming platform Twitch; Facebook, Inc. (now Meta Platforms, Inc.); YouTube LLC; Twitter, Inc. (now X Corp.); Snap Inc.; ByteDance Ltd., which owns the video-sharing platform TikTok; Discord Inc.; Reddit, Inc.; and WhatsApp Inc. The orders asked for information about how the companies collect, track and use personal and demographic information, how they determine which ads and other content are shown to consumers, whether and how they apply algorithms or data analytics to personal and demographic information, and how their practices impact children and teens. “The report lays out how social media and video streaming companies harvest an enormous amount of Americans' personal data and monetize it to the tune of billions of dollars a year,” said FTC Chair Lina M. Khan. “While lucrative for the companies, these surveillance practices can endanger people's privacy, threaten their freedoms, and expose them to a host of harms, from identify theft to stalking. Several firms' failure to adequately protect kids and teens online is especially troubling. The Report's findings are timely, particularly as state and federal policymakers consider legislation to protect people from abusive data practices.” The report found that the companies collected and could indefinitely retain troves of data, including information from data brokers, and about both users and non-users of their platforms. The staff report further highlights that many companies engaged in broad data sharing that raises serious concerns regarding the adequacy of the companies' data handling controls and oversight. In particular, the staff report noted that the companies' data collection, minimization and retention practices were “woefully inadequate.” In addition, the staff report found that some companies did not delete all user data in response to user deletion requests. The staff report also found that the business models of many of the companies incentivized mass collection of user data to monetize, especially through targeted advertising, which accounts for most of their revenue. It further noted that those incentives were in tension with user privacy, and therefore posed risks to users' privacy. Notably, the report found that some companies deployed privacy-invasive tracking technologies, such as pixels, to facilitate advertising to users based on preferences and interests. Additionally, the staff report highlighted the many ways in which the companies fed users' and non-users' personal information into their automated systems, including for use by their algorithms, data analytics, and AI. The report found that users and non-users had little or no way to opt out of how their data was used by these automated systems, and that there were differing, inconsistent, and inadequate approaches to monitoring and testing the use of automated systems. Furthermore, the staff report concluded that the social media and video streaming services didn't adequately protect children and teens on their sites. The report cited research that found social media and digital technology contributed to negative mental health impacts on young users. Based on the data collected, the staff report said many companies assert that there are no children on their platforms because their services were not directed to children or did not allow children to create accounts. The staff report noted that this was an apparent attempt to avoid liability under the [Children's Online Privacy Protection Act Rule]. The staff report found that the social media and video streaming services often treated teens the same as adult users, with most companies allowing teens on their platforms with no account restrictions. The report also noted some of the potential competition implications of the companies' data practices. It noted that companies that amass significant amounts of user data may be in a position to achieve market dominance, which may lead to harmful practices with companies prioritizing acquiring data at the expense of user privacy. It noted that when there is limited competition among social media and video streaming services, consumers will have limited choices. The staff report makes recommendations to policymakers and companies based on staff's observations, findings, and analysis, including: • Congress should pass comprehensive federal privacy legislation to limit surveillance, address baseline protections, and grant consumers data rights; • Companies should limit data collection, implement concrete and enforceable data minimization and retention policies, limit data sharing with third parties and affiliates, delete consumer data when it is no longer needed, and adopt consumer-friendly privacy policies that are clear, simple, and easily understood; • Companies should not collect sensitive information through privacy-invasive ad tracking technologies; • Companies should carefully examine their policies and practices regarding ad targeting based on sensitive categories; • Companies should address the lack of user control over how their data is used by systems as well as the lack of transparency regarding how such systems are used, and also should implement more stringent testing and monitoring standards for such systems; Companies should not ignore the reality that there are child users on their platforms and should treat COPPA as representing the minimum requirements and provide additional safety measures for children; • The Companies should recognize teens are not adults and provide them greater privacy protections; and • Congress should pass federal privacy legislation to fill the gap in privacy protections provided by COPPA for teens over the age of 13. The Commission voted 5-0 to issue the staff report. [Chair Khan], as well as Commissioners [Alvaro Bedoya], [Melissa Holyoak] and [Andrew N. Ferguson] each released separate statements. The lead attorneys on this matter are Jacqueline Ford, Ronnie Solomon and Ryan Mehm from the FTC's Bureau of Consumer Protection. [staff report] </reports/look-behind-scenes-examining-data-practices-social-media-video-streaming-services> [6(b) orders] </news-events/news/press-releases/2020/12/ftc-issues-orders-nine-social-media-video-streaming-services-seeking-data-about-how-they-collect-use> [Children's Online Privacy Protection Act Rule] </business-guidance/resources/childrens-online-privacy-protection-rule-not-just-kids-sites> [Chair Khan] </legal-library/browse/cases-proceedings/public-statements/statement-chair-lina-m-khan-regarding-social-media-video-streaming-service-providers-privacy-report> [Alvaro Bedoya] </legal-library/browse/cases-proceedings/public-statements/statement-commissioner-alvaro-m-bedoya-6b-report-examining-data-practices-social-media-video> [Melissa Holyoak] </legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-melissa-holyoak-regarding-social-media-video-streaming> [Andrew N. Ferguson] </legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-andrew-n-ferguson-regarding-social-media-video> --8<---------------cut here---------------end--------------->8--- saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 20, 2024

Seminario Protection of AI and virtual objects in virtual spaces - 27 settembre ore 14h30 (CEST)

by Cristiana Sappa

Carissimi/e, Mi permetto di segnalare un seminario che si svolgerà a IESEG, Campus Parigi (La Defense) il giorno 27 settembre, dalle 14h30 alle 16h00. Il tema dell'incontro è: Protection of AI and virtual objects in virtual spaces. La prospettiva sarà quella del diritto giapponese e cinese. E' possibile partecipare in presenza, dopo previa informazione spedita entro il 26 settembre all'indirizzo: c.sappa(a)ieseg.fr Oppure è possibile partecipare da remoto, tramite il link Zoom che segue: https://ieseg.zoom.us/j/83595970311 Mi tengo a disposizione per informazioni ulteriori. Un saluto, Cristiana

Sept. 20, 2024

Re: [nexa] Open Washing AI definition by OSI?

by 380°

Ciao Giacomo, Giacomo Tesio <giacomo(a)tesio.it> writes: [...] > 10 minuti prima di scrivere una risposta alla mia proposta, Nick Vidal > (Community Manager di OSI) mi ha silenziato su discuss.opensource.org > senza alcun contatto precedente (di seguito la comunicazione). visto, la motivazione della sospensione del tuo account (da parte del "Community Manager at the OSI") è ripresa pari pari da quanto scritto nella risposta al tuo post --8<---------------cut here---------------start------------->8--- Please present new arguments, don’t open new topics repeating the same arguments over and over, and leave space for others to comment. Don’t flood the conversation and be respectful of the guidelines [1]. [1] https://discuss.opensource.org/t/faq-guidelines/4 --8<---------------cut here---------------end--------------->8--- (https://discuss.opensource.org/t/rfc-separating-concerns-between-source-dat…) siccome io non seguo quel forum, non ho la minima idea di quali argomenti vecchi tu abbia ripetuto ad nauseam... ma tu lo sai perché ti sei meritato la _censura_, vero?!? :-O la cosa divertente è che aprendo il link sopra "guidelines" esce un bel: --8<---------------cut here---------------start------------->8--- Ops! La pagina richiesta non esiste oppure è privata. --8<---------------cut here---------------end--------------->8--- vuol dire davvero che le guidelines sono private? comunque nulla di nuovo, non è certo la prima volta che le "community guidelines" vengono usate per censurare argomenti che nulla hanno a che vedere con la loro violazione (stendiamo un velo _pietosissimo_ poi sulla solidità logico-fattuale di molte "community guidelines" o "code of conduct") [...] > In qualunque caso, una definizione di Open Source AI ma è davvero così importante la deinizione di "Open Source AI" data da OSI? > che non garantisca né la studiabilità dei dati utilizzati per il > calcolo dei pesi né la riproducibilità del processo, favorirà ogni > sorta di open washing, aprendo un enorme loophole anche nella > normativa dell'AI Act. [3] ma è davvero _quello_ il vero problema dell'AI Act? non è che se a struttura mangiata dalla _ruggine_ gli dai una mano di bianco, anche /di marca/, allora hai risolto il problema, eh! > Con l'account sospeso non posso fare molto né per rispondere alle > domande di Vidal, né per migliorare la proposta, ma vi invito a > partecipare attivamente al dibattito (nella speranza che abbiate > maggior fortuna e non veniate anche voi silenziati). non so se essere ammirato o sconfortato dalla tua pervicacia nel voler (tentare di) dialogare con chi è solo alla ricerca di persone che si prestano in buona fede a una operazione che possiamo tranquillamente definire come "community washing", che ha il solo scopo di far credere che una "norma" sia il frutto di un processo partecipativo mentre è ovvio che si tratta solo di una operazione di facciata. [...] un caro saluto, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 20, 2024

Why wordfreq will not be updated

by Giacomo Tesio

The wordfreq data is a snapshot of language that could be found in various online sources up through 2021. There are several reasons why it will not be updated anymore. # Generative AI has polluted the data I don't think anyone has reliable information about post-2021 language usage by humans. The open Web (via OSCAR) was one of wordfreq's data sources. Now the Web at large is full of slop generated by large language models, written by no one to communicate nothing. Including this slop in the data skews the word frequencies. [...] As one example, [Philip Shapira reports]() that ChatGPT (OpenAI's popular brand of generative language model circa 2024) is obsessed with the word "delve" in a way that people never have been, and caused its overall frequency to increase by an order of magnitude. ## Information that used to be free became expensive [...] Even if X made its raw data feed available (which it doesn't), there would be no valuable information to be found there. Reddit also stopped providing public data archives, and now they sell their archives at a price that only OpenAI will pay. ## I don't want to be part of this scene anymore wordfreq used to be at the intersection of my interests. I was doing corpus linguistics in a way that could also benefit natural language processing tools. The field I know as "natural language processing" is hard to find these days. It's all being devoured by generative AI. Other techniques still exist but generative AI sucks up all the air in the room and gets all the money. It's rare to see NLP research that doesn't have a dependency on closed data controlled by OpenAI and Google, two companies that I already despise. wordfreq was built by collecting a whole lot of text in a lot of languages. That used to be a pretty reasonable thing to do, and not the kind of thing someone would be likely to object to. Now, the text-slurping tools are mostly used for training generative AI, and people are quite rightly on the defensive. If someone is collecting all the text from your books, articles, Web site, or public posts, it's very likely because they are creating a plagiarism machine that will claim your words as its own. So I don't want to work on anything that could be confused with generative AI, or that could benefit generative AI. https://github.com/rspeer/wordfreq/blob/master/SUNSET.md [1] https://pshapira.net/2024/03/31/delving-into-delve/

Sept. 20, 2024

Re: [nexa] La regolamentazione UE su IA è frammentata, incerta ed incoerente

by Antonio

> Quello che mi chiedo da stamattina è: ma quale regola incoerente vedono? Forse la risposta è nelle parole di Nick Clegg [1] di un paio di mesi fa [2] "... nonostante tutto l’attivismo normativo - dal 2019 ad oggi sono stati adottati ben 77 nuovi atti legislativi dell'UE in materia digitale - siamo stati frenati dalla nostra incapacità di realizzare adeguatamente il mercato unico digitale. È sorprendente, ad esempio, che una startup digitale di Amsterdam debba ancora districarsi tra 27 diverse leggi sulla proprietà intellettuale, varie normative per la concessione di licenze sui contenuti, autorità per la protezione dei dati e altri ostacoli prima di poter essere operativa in tutto il continente." La settimana scorsa, lo stesso Nick CLegg, annunciava che "Meta has now gained approval to use public user posts within its AI training, after negotiation with British authorities" e "Brazilian authorities have now also agreed to allow Meta to use public posts for AI training, which is another significant step for its evolving AI effort" [3] I puntini cominciano ad unirsi ... A. [1] ex leader del partito liberaldemocratico britannico, oggi vicepresidente degli affari globali di Meta [2] https://www.ilsole24ore.com/art/clegg-meta-il-parlamento-europeo-e-l-europa… [3] https://www.socialmediatoday.com/news/meta-gains-approval-use-uk-user-posts…

Sept. 20, 2024

Why the AI Hype is another Tech Bubble - Floridi

by Enrico Nardelli

This article argues that the current hype surrounding artificial intelligence (AI) exhibits characteristics of a tech bubble, based on parallels with five previous technological bubbles: the Dot-Com Bubble, the Telecom Bubble, the Chinese Tech Bubble, the Cryptocurrency Boom, and the Tech Stock Bubble. The AI hype cycle shares with them some essential features, including the presence of potentially disruptive technology, speculation outpacing reality, the emergence of new valuation paradigms, significant retail investor participation, and a lack of adequate regulation. The article also highlights other specific similarities, such as the proliferation of AI startups, inflated valuations, and the ethical concerns associated with the technology. While acknowledging AI's transformative potential, the article calls for pragmatic caution, evidence-based planning, and critical thinking in approaching the current hype. It concludes by offering some recommendations to minimise the negative impact of the impending bubble burst, emphasising the importance of focusing on sustainable business models and real-world applications, maintaining a balanced perspective on AI's potential and limitations, and supporting the development of effective regulatory frameworks to guide the technology's design, development, and deployment. Luciano Floridi https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4960826 1. Introduction The tech industry has seen several dramatic booms and busts over the past few decades. These periods, often called “tech bubbles” (see section 2), have significantly impacted economies, industries, and individual fortunes, influencing political economies and even international relations, especially between the US and China. In this article, I analyse the morphology of tech bubbles, extract some invariants and lessons, and argue that the current hype surrounding Artificial Intelligence (AI) may be considered a tech bubble leading to a new AI Winter. In section 2, I briefly analyse what a tech bubble is. In section 3, I outline some of the most notable tech bubbles, examining their causes, characteristics, and consequences. I summarise some criteria to identify a tech bubble in section 4, and argue, in section 5, that the AI hype qualifies as a tech bubble, and that its bursting may lead to a new AI Winter. In section 6, I conclude by looking into what could be done to prevent the worst consequences of such a scenario. -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Sept. 20, 2024