February 2024 - nexa - server-nexa.polito.it

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Stefano Quintarelli

nella mia esperienza solo una piccola parte delle news possono essere generate in questo modo. c'e' un popolare sito italiano di tecnologia che produce la maggioranza dei suoi contenuti da tempo cosi'. (se devi confrontare due telefonini, è abbastanza facile). il "giornalista" fa pochissimi aggiustamenti. metto "giornalista" tra virgolette perche' non mi pare paradigmatico del giornalismo. coem puo' confermare Anna Masera, un giornalista fa un mare di lavoro, prima di scrivere e scrivere e' tutto sommato una delle attivita' che richiede minor parte del suo tempo di attivita'. non mi pare che un outlet siffatto possa catturare tanto traffico, almeno non di più di quanto gia' accade per alcuni siti stra-minori con compensi da tre euro a pezzo... nella nostra mente sono dominanti gli outlet maggiori (stampa, corriere, ecc.) e questo si riverbera sui risultati dei motori di ricerca. rimane il traffico indotto dai social, ma anche qui vale in larga misur ail discorso fatto pe ri motori di ricerca. nel merito della sintesi di news di altri, vi segnalo questa curiosita' https://blog.quintarelli.it/2024/01/automatically-generated-news-back-in-20… ciao, s. On 28/02/24 09:57, Maurizio Borghi via nexa wrote: > Grazie Daniela, molto interessante. Soprattutto questo paragrafo: > > > The beta tools let under-resourced publishers create aggregated content more > efficiently by indexing recently published reports generated by other organizations, _like > government agencies and neighboring news outlets_, and then summarizing and publishing > them as a new article. > > Del resto, cosa c'è di più sicuro, per giornali in ristrettezze economiche (cioè quasi > tutti), che riciclare propaganda governativa a basso costo? Con buona pace del ruolo > politico del giornalismo. > > -- > _______________ > *Maurizio Borghi* > Università di Torino > https://www.dg.unito.it/persone/maurizio.borghi > <https://www.dg.unito.it/persone/maurizio.borghi> > Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Daniela Tafani

Buongiorno, Maurizio. Vediamo se si realizzerà la previsione di Daron Acemoglu, Get Ready for the Great AI Disappointment Rose-tinted predictions for artificial intelligence’s grand achievements will be swept aside by underwhelming performance and dangerous results. In the decades to come, 2023 may be remembered as the year of generative AI hype, where ChatGPT became arguably the fastest-spreading new technology in human history and expectations of AI-powered riches became commonplace. The year 2024 will be the time for recalibrating expectations. Of course, generative AI is an impressive technology, and it provides tremendous opportunities for improving productivity in a number of tasks. But because the hype has gone so far ahead of reality, the setbacks of the technology in 2024 will be more memorable. More and more evidence will emerge that generative AI and large language models provide false information and are prone to hallucination—where an AI simply makes stuff up, and gets it wrong. Hopes of a quick fix to the hallucination problem via supervised learning, where these models are taught to stay away from questionable sources or statements, will prove optimistic at best. Because the architecture of these models is based on predicting the next word or words in a sequence, it will prove exceedingly difficult to have the predictions be anchored to known truths. Anticipation that there will be exponential improvements in productivity across the economy, or the much-vaunted first steps towards “artificial general intelligence”, or AGI, will fare no better. The tune on productivity improvements will shift to blaming failures on faulty implementation of generative AI by businesses. We may start moving towards the (much more meaningful) conclusion that one needs to know which human tasks can be augmented by these models, and what types of additional training workers need to make this a reality. Some people will start recognizing that it was always a pipe dream to reach anything resembling complex human cognition on the basis of predicting words. Others will say that intelligence is just around the corner. Many more, I fear, will continue to talk of the “existential risks” of AI, missing what is going wrong, as well as the much more mundane (and consequential) risks that its uncontrolled rollout is posing for jobs, inequality, and democracy. We will witness these costs more clearly in 2024. Generative AI will have been adopted by many companies, but it will prove to be just “so-so automation” of the type that displaces workers but fails to deliver huge productivity improvements. The biggest use of ChatGPT and other large language models will be in social media and online search. Platforms will continue to monetize the information they collect via individualized digital ads, while competition for user attention will intensify. The amount of manipulation and misinformation online will grow. Generative AI will then increase the amount of time people spend using screens (and the inevitable mental health problems associated with it). There will be more AI startups, and the open source model will gain some traction, but this will not be enough to halt the emergence of a duopoly in the industry, with Google and Microsoft/OpenAI dominating the field with their gargantuan models. Many more companies will be compelled to rely on these foundation models to develop their own apps. And because these models will continue to disappoint due to false information and hallucinations, many of these apps will also disappoint. Calls for antitrust and regulation will intensify. Antitrust action will go nowhere, because neither the courts nor policymakers will have the courage to attempt to break up the largest tech companies. There will be more stirrings in the regulation space. Nevertheless, meaningful regulation will not arrive in 2024, for the simple reason that the US government has fallen so far behind the technology that it needs some time to catch up—a shortcoming that will become more apparent in 2024, intensifying discussions around new laws and regulations, and even becoming more bipartisan. https://www.wired.com/story/get-ready-for-the-great-ai-disappointment/ Un caro saluto, Daniela ________________________________________ Da: Maurizio Borghi <maurizio.borghi(a)unito.it> Inviato: mercoledì 28 febbraio 2024 09:57 A: Daniela Tafani; Nexa Oggetto: Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform Grazie Daniela, molto interessante. Soprattutto questo paragrafo: > The beta tools let under-resourced publishers create aggregated content more efficiently by indexing recently published reports generated by other organizations, like government agencies and neighboring news outlets, and then summarizing and publishing them as a new article. Del resto, cosa c'è di più sicuro, per giornali in ristrettezze economiche (cioè quasi tutti), che riciclare propaganda governativa a basso costo? Con buona pace del ruolo politico del giornalismo. -- _______________ Maurizio Borghi Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society<https://nexa.polito.it/>

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Maurizio Borghi

Grazie Daniela, molto interessante. Soprattutto questo paragrafo: > The beta tools let under-resourced publishers create aggregated content more efficiently by indexing recently published reports generated by other organizations, *like government agencies and neighboring news outlets*, and then summarizing and publishing them as a new article. Del resto, cosa c'è di più sicuro, per giornali in ristrettezze economiche (cioè quasi tutti), che riciclare propaganda governativa a basso costo? Con buona pace del ruolo politico del giornalismo. -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/>

Feb. 28, 2024

The Stockholm Declaration on AI for Science

by Antonio Vetro'

Dall’appello alla firma pubblicato su Nature qualche giorno fa: Stockholm declaration on AI ethics: why others should sign<https://www.nature.com/articles/d41586-024-00517-7> "The use of artificial intelligence (AI) in science has potential to do both harm and good. As a step towards preventing the harms we have prepared the Stockholm Declaration on AI for Science. Signatories commit to using AI responsibly and ethically. We encourage researchers involved in developing AI to sign (see go.nature.com/486azp7) […] " Qui la dichiarazione: https://sites.google.com/view/stockholm-declaration In questo passaggio della dichiarazione (grassetto mio), sostituendo Big Data con AI, sembra di rileggere la “End of theory”<https://www.wired.com/2008/06/pb-theory/> di Chris Anderson nel 2008: "We believe that by harnessing the power of AI we can propel humanity toward a future where groundbreaking achievements in science even achievements worthy of a Nobel Prize can be fully automated. We believe that this is achievable by the year 2050". Al di là del personale scetticismo che potrebbe essere sbagliato, ritengo utile condividerlo Antonio

Feb. 28, 2024

Re: [nexa] Per un’intelligenza artificiale bene comune.

by Giacomo Tesio

Ciao Alberto Il 27 Febbraio 2024 12:31:40 CET, Alberto Cammozzo via nexa ha scritto: > Il processo che ha portato a "modificarele strutture di potere sociale nel XIX secolo", > a dispetto del tono irenista dell'articolo,è stato però cruento. Temo che la finestra temporale per approcci non cruenti si stia rapidamente chiudendo. La favola dell'autoregolamentazione dell'industria si basa su ragionamenti simili a quelli che descrivi (applicati non dai singoli informatici ma dalle aziende di cui costituiscono l'unico vero asset produttivo). E non funziona. Perché? Perché quando funziona davvero, finisci come Mario Tchou. > Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il compito di moderare > le conseguenze dell'asservimento della cibernetica e dell'informatica alla > distruttività industriale? Che tipo di realtà intermedia possiamo immaginare > che adempia a questo compito storico? > Che ruolo possono avere gli informatici? Ruoli ispirati a grandi hacker come Phineas Fisher. Giacomo

Feb. 27, 2024

Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Daniela Tafani

Google Is Paying Publishers to Test an Unreleased Gen AI Platform In exchange for a five-figure sum, publishers must use the tool to publish 3 stories per day By Mark Stenberg Google launched a private program for a handful of independent publishers last month, providing the news organizations with beta access to an unreleased generative artificial intelligence platform in exchange for receiving analytics and feedback, according to documents seen by ADWEEK. As part of the agreement, the publishers are expected to use the suite of tools to produce a fixed volume of content for 12 months. In return, the news outlets receive a monthly stipend amounting to a five-figure sum annually, as well as the means to produce content relevant to their readership at no cost. “In partnership with news publishers, especially smaller publishers, we’re in the early stages of exploring ideas to potentially provide AI-enabled tools to help journalists with their work,” a Google representative said in a statement. “These tools are not intended to, and cannot, replace the essential role journalists have in reporting, creating and fact-checking their articles.” The AI-enabled results could throttle readership to an ‘apocalyptic’ degree. The beta tools let under-resourced publishers create aggregated content more efficiently by indexing recently published reports generated by other organizations, like government agencies and neighboring news outlets, and then summarizing and publishing them as a new article. Other gen AI experiments Google has released over the past two years include the codenamed Genesis, which can reportedly produce whole news articles and was privately demonstrated to several publishers last summer, according to The New York Times. Others, including Search Generative Experience and Gemini, are available for public use and threaten to upend many of the commercial foundations of digital publishing. The program is part of the Google News Initiative, which launched in 2018 to provide publishers with technology and training. Although many of its programs indisputably benefit the publishers involved, the broader reception of GNI has been mixed. Google has used GNI to drum up positive press and industry goodwill during moments of reputational duress, and many of the commercial problems it aims to solve for publishers were created by Google in the first place, said Digital Content Next CEO Jason Kint. “The larger point here is that Google is in legislative activity and antitrust enforcement globally for extracting revenue from the publishing world,” Kint said. “Instead of giving up some of that revenue, it’s attacking the cost side for its long-tail members with the least bargaining power.” Details of the program Google first shared a call for news organizations to apply to test the emerging technologies in an October edition of the Local Independent Online News newsletter. GNI began onboarding publishers in January, and the yearlong program kicked off in February. According to the conditions of the agreement, participating publishers must use the platform to produce and publish three articles per day, one newsletter per week and one marketing campaign per month. To produce articles, publishers first compile a list of external websites that regularly produce news and reports relevant to their readership. These sources of original material are not asked for their consent to have their content scraped or notified of their participation in the process—a potentially troubling precedent, said Kint. When any of these indexed websites produce a new article, it appears on the platform dashboard. The publisher can then apply the gen AI tool to summarize the article, altering the language and style of the report to read like a news story. The resulting copy is underlined in different colors to indicate its potential accuracy: yellow, with language taken almost verbatim from the source material, is the most accurate, followed by blue and then red, with text that is least based on the original report. A human editor then scans the copy for accuracy before publishing three such stories per day. The program does not require that these AI-assisted articles be labeled. The platform cannot gather facts or information that have not already been produced elsewhere, limiting its utility for premium publishers. Articles produced by the platform could also draw traffic away from the original sources, negatively affecting their businesses. The process resembles the ripping technique newly in use at Reach plc, except that in this case, the text is pulled from external sources. “I think this calls into question the mission of GNI,” Kint said. “It’s hard to argue that stealing people’s work supports the mission of the news. This is not adding any new information to the mix.” https://www.adweek.com/media/google-paying-publishers-unreleased-gen-ai/

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Stefano Zacchiroli

On Tue, Feb 27, 2024 at 05:27:06PM +0100, Stefano Maffulli wrote: > On Tue, Feb 27, 2024, 14:11 Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > > > > Ma ci sono anche esempi virtuosi, come Starcoder o Eleuther (LLM per il > > codice), i cui training dataset (assieme a tutto il resto) sono > > interamente disponibili e libri. > > Non tutti i dataset di Eleuther AI sono ridistribuibili. Anzi, The Pile è > purtroppo stato rimosso dalla circolazione, se non ricordo male. Ah, non lo sapevo, grazie per l'informazione. Ora che mi ci hai fatto guardare vedo qua https://huggingface.co/datasets/EleutherAI/pile/discussions/15 che ci sono versioni di The Pile ripulite dei contenuti problematici, ma mantenute dalla comunità e non da Eleuther. (Disclaimer: non le ho testate.) Starcoder/The Stack invece è ancora vivo e lotta insieme a noi per avere AI libere: https://huggingface.co/datasets/bigcode/the-stack -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Stefano Maffulli

On Tue, Feb 27, 2024, 14:11 Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > > Ma ci sono anche esempi virtuosi, come Starcoder o Eleuther (LLM per il > codice), i cui training dataset (assieme a tutto il resto) sono > interamente disponibili e libri. > Non tutti i dataset di Eleuther AI sono ridistribuibili. Anzi, The Pile è purtroppo stato rimosso dalla circolazione, se non ricordo male.

Feb. 27, 2024

Re: [nexa] Per un’intelligenza artificiale bene comune.

by Alberto Cammozzo

Grazie per le domande. Rispondo in sintesi ai due argomenti: 1) quello sulle moratorie (su cosa avrebbero fatto moratorie i biologi? e quali sarebbero le applicazioni software da sottoporre a moratoria?) I biologi hanno convenuto da molto tempo di limitare la ricerca sul DNA ricombinante nel 1975, quella sulla clonazione umana nel 1997, e nel 2019 di non editare materiale genetico umano che possa essere ereditato (human germline genome editing - HGGE). In questo ultimo caso hanno considerato che per numerosi motivi “it would be irresponsible to proceed with any clinical use … unless and until (i) the relevant safety and efficacy issues have been resolved … and (ii) there is broad societal consensus about the appropriateness of the proposed application”.[1] Analogamente sottoporrei a moratoria ogni applicazione informatica che possa avere effetti estesi ed irreversibili e che possa potenzialmente causare gravi sofferenze alla persona umana in modo diretto o indiretto, anche attraverso lo stravolgimento dell'ambiente vitale o sociale, senza che la cosa sia adeguatamente analizzata. L'ambiente professionale informatico ha espresso più volte preoccupazioni analoghe a quelle dei biologi sulle più recenti applicazioni come le LLM buttate irresponsabilmente sul mercato, chiedendo però che fosse la parte politica a regolamentare ciò che avrebbe in primo luogo dovuto essere discusso responsabilmente tra esperti. Eppure la moratoria non è completamente aliena in ICT: alcune compagnie hanno in passato unilateralmente adottato moratorie su alcune tecnologie, come ad esempio Google sul riconoscimento facciale. Come mai l'ambiente scientifico informatico appare come decisamente meno responsabile di quello della ricerca biologica? 2) quello sul free software (se lavorare solo per/con/a software libero vale come "obiezione di coscienza" e se non è più efficace il controllo dei cittadini sui propri dispositivi che una moratoria?) Il F/OSS è un modello di licenza, e per quanto abbia un profondo impatto sul modello di sviluppo e di business, non è un modello etico che possa influenzare la giustizia o la sostenibilità delle applicazioni sviluppate, che sarebbe invece lo scopo dell'obiezione di coscienza. "The freedom to run the program as you wish, for any purpose":per sua natura non discrimina gli scopi per i quali viene usato, per esempio un uso bellico. Prova è chelo stack free è alla base delle principali piattaforme, anche le più oppressive. Per lo stesso motivo il controllo dei cittadini sui propri dispositivi può liberarli dal lock-in e dai tanti mali del software proprietario ma non li libera dal controllo esercitato tramite essi. Saluti, Alberto [1] Lander, E. S., Baylis, F., Zhang, F., Charpentier, E., Berg, P., Bourgain, C., … Winnacker, E.-L. (2019). /Adopt a moratorium on heritable genome editing. Nature, 567(7747), 165–168./ doi:10.1038/d41586-019-00726-5 On 27/02/24 15:18, 380° wrote: > Buongiorno Alberto, > > Alberto Cammozzo via nexa<nexa(a)server-nexa.polito.it> writes: > >> Grazie della segnalazione. Articolo interessante e spunto di >> riflessione. > Certo che la c.d. intelligenza artificiale deve essere bene comune, lo > deve essere come tutto il resto del software: software libero. > >> L'articolista, dopo aver constatato in modo dettagliato quanto >> squilibrato sia il mondo plasmato dalla tecnologia, > non è forse è la tecnologia a essere plasmata da "certo mondo", ma non > andiamo OT > > Per andare direttamente a cuore del problema: lo squilibrio nel mondo > NON dipende dalla tecnologia ma dalla "proprietà intellettuale", > concetto /bislacco/ col quale si impedisce a tutti di poter > *partecipare* liberamente allo sviluppo tecnologico (cioè a /come/ > funziona la tecnologia); al massimo una forma assai *alienata* di > partecipazione è /concessa/ a condizioni ristrettissime a coloro che > lavorano come "funzionari civili", i quali si /limitano/ a fare solo > "uso privato" della ragione [1] > > [...] > >> Rifiutandosi di collaborare a questo processo diversi bravi >> professionisti abbandonano il loro posto di lavoro per motivi morali. > Alcuni smettendo di scrivere software, altri dedicandosi a scrivere solo > software libero e a cercare di spiegare al resto della società /perché/ > il software, non solo l'AI, deve essere "bene comune". > > (Nota: comunque, questo NON basta a porre fine al dominio di alcuni > umani su molti altri umani) > >> Tra questi voglio ricordare anche l'amico Jacopo Pantaleoni, che ha >> lasciato il posto di Principal Research Scientist a Nvidia e di cui ho >> letto con piacere il libro "The Quickest Revolution1", nel quale lancia >> il suo grido di allarme. > Se è per questo c'è stato anche chi si è suicidato, come Aaron Swartz > > Comunque non è detto che le attività che faranno la storia > dell'informatica siano oggi svolte da persone famose (a volte famose > loro malgrado) > >> Spero di essere smentito da qualche collega, ma non vedo da parte degli >> informatici né /moratorie/ né /obiezioni di coscienza/ a questa spirale >> autodistruttiva: > Lavorare solo per/con/a software libero vale come "obiezione di > conscienza"? > > [...] > >> Con la /moratoria/ una categoria protegge la collettività dagli abusi e >> dalle conseguenze nefaste del proprio operato astenendosi da alcune >> applicazioni > Quali sarebbero le applicazioni software da sottoporre a moratoria? > > Io trovo molto più efficace, di diversi ordini di grandezza, fare in > modo che chiunque possa /controllare/ il software che decide di eseguire > sui propri dispositivi (NO, questo non basta a determinare un adeguato > livello di pertecipazione dei cittadini, ma è /conditio sine qua non/). > >> (come hanno fatto i biologi, ad esempio) > Non ho capito: su cosa avrebbero fatto moratorie i biologi? > >> e così facendo difende la propria reputazione. >> >> Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il >> compito di moderare le conseguenze dell'asservimento della cibernetica e >> dell'informatica alla distruttività industriale? > a chi spetta nominare l'«Autorità Garante della moderazione delle > conseguenze...»?!? ;-) > > Nessuno verrà a salvarci. > > «La sovranità appartiene al popolo». > > ...e: > > --8<---------------cut here---------------start------------->8--- > Tutti i cittadini hanno pari dignità sociale [cfr. XIV] e sono eguali > davanti alla legge, senza distinzione di sesso [cfr. artt. 29 c. 2, 37 > c. 1, 48 c. 1, 51 c. 1], di razza, di lingua [cfr. art. 6], di religione > [cfr. artt. 8, 19], di opinioni politiche [cfr. art. 22], di condizioni > personali e sociali. > > E` compito della Repubblica rimuovere gli ostacoli di ordine economico e > sociale, che, limitando di fatto la libertà e l'eguaglianza dei > cittadini, impediscono il pieno sviluppo della persona umana e > l'effettiva partecipazione di tutti i lavoratori all'organizzazione > politica, economica e sociale del Paese. > --8<---------------cut here---------------end--------------->8--- > > che, in altre parole, significa che è compito del popolo rimuovere gli > ostacoli... > > A meno che le costituzioni moderne siano solo una bella narrazione... > >> Che tipo di realtà intermedia possiamo immaginare che adempia a questo >> compito storico? Che ruolo possono avere gli informatici? > Diffondere capillarmente la cultura informatica (che è scienza e in > quanto tale parte integrante della filosofia). > > [...] > > Saluti 380° > > > > [1]https://archiviomarini.sp.unipi.it/362/1/kant_7/ar01s04.html >

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Stefano Zacchiroli

On Tue, Feb 27, 2024 at 03:16:03PM +0100, Marco A. Calamari wrote: > Non vorrei tediare la lista, quindi sarò sintetico > https://datarade.ai/data-categories/ai-ml-training-data/datasets Nel caso di ChatGPT, quello che si sa per GPT-4 (a mia conoscenza) è questo: "trained [...] using both publicly available data (such as internet data) and data licensed from third-party providers." (fonte: https://arxiv.org/pdf/2303.08774.pdf ) Loro stessi dichiarano di avere un web crawler e come escludere pagine dal suo crawling qua: https://platform.openai.com/docs/gptbot (Per GPT-3 hanno dichiarato di avere usato anche CommonCrawl, ma era "solo" il 60% del training set.) Comunque sia, proprio perché è tutto molto chiuso (e nel caso specifico anche segreto industriale), possiamo solo tirare a indovinare sulla esattezza dei dettagli... -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

Feb. 27, 2024