- nexa - server-nexa.polito.it

Re: [nexa] nexa Digest, Vol 178, Issue 52

by maurizio lana

Il 28/02/24 14:44, maurizio lana <maurizio.lana(a)uniupo.it> ha scritto: > vorrei recuperare i messaggi scambiati in lista in cui si parla della scuola, ma sono un po' in difficoltà con > https://www.mail-archive.com/search?a=1&l=all&haswords=&x=12&y=7&from=nexa > posto che gli archivi sono online, ci sono altri strumenti che si possono usare, al posto di mail-archive? PS: eventualmente scaricare il corpus dei messaggi per poter poi cercare in locale? M ------------------------------------------------------------------------ citazioni come briganti ai bordi della strada che balzano fuori armati e strappano l’assenso all’ozioso viandante walter benjamin ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Daniela Tafani

Il 28/02/2024 14:43, Maria Chiara Pievatolo ha scritto: > Ci sono però casi, quali la valutazione dell'affidabilità di chi chiede un prestito, in cui l'imprecisione - eufemisticamente detto - dei SALAMI è ben nota e non è considerata un problema. Come scrive Brett Scott in Cloud Money (2022), capitolo 9. > > > Rebus sic stantibus, monopolisti e oligopolisti possono tenersi i SALAMI traendone profitto, anche se è possibile che chi deve misurarsi con la concorrenza ne tragga invece un danno economico. Ma "competition" - come scriveva Peter Thiel - "is for losers". Sì, è così. Gli effetti sono quelli della "so-so automation", per usare un'espresseione di Acemoglu. Nel caso del reclutamento automatizzato, ad esempio, le aziende evitano di investire risorse nella procedura di reclutamento, ma evitano così anche di trovare i candidati migliori: https://www.bbc.com/worklife/article/20240214-ai-recruiting-hiring-software… > Possiamo estendere queste considerazioni anche all'AI generativa e ai LLM? A qualcuno servono, certo. Provo a cominciare l'elenco. Servono 1. ai venture capitalists che vi hanno investito, ai quali non serve che una tecnologia sia utile o che funzioni; serve soltanto che le persone credano che funzioni, per un tempo sufficientemente lungo da rendere possibile un ritorno sugli investimenti; 2. alle aziende edtech, per impadronirsi di una parte dei magri stipendi dei docenti e di tutti i dati e i metadati degli studenti; 3. ai governi interessati a presentare un taglio dei servizi come un'innovazione tecnologica; 4. alle piattaforme, per trattenere gli utenti nei loro ecosistemi chiusi e disporre così della loro attenzione e dei loro dati e metadati; 5. in tutti gli ambiti in cui abbia luogo uno scambio di testi in cui il mittente non ha voglia di scrivere e il destinatario non ha intenzione di leggere (anche nell'ambito della ricerca scientifica e della revisione paritaria); 6. nei rapporti tra capitale e lavoro, a rafforzare il primo a danno del secondo: la forza contrattuale dei lavoratori è schiacciata dalla prospettiva, pur infondata, di una loro generale sostituibilità con macchine e robot; 7. a truffe, manipolazioni e propaganda su vasta scala. ... A presto, Daniela

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Maria Chiara Pievatolo

On 28/02/24 10:54, Daniela Tafani wrote: > More and more evidence will emerge that generative AI and large language models provide false information and are prone to hallucination—where an AI simply makes stuff up, and gets it wrong. Hopes of a quick fix to the hallucination problem via supervised learning, where these models are taught to stay away from questionable sources or statements, will prove optimistic at best. Because the architecture of these models is based on predicting the next word or words in a sequence, it will prove exceedingly difficult to have the predictions be anchored to known truths. > Ci sono però casi, quali la valutazione dell'affidabilità di chi chiede un prestito, in cui l'imprecisione - eufemisticamente detto - dei SALAMI è ben nota e non è considerata un problema. Come scrive Brett Scott in Cloud Money (2022), capitolo 9. And there are countless possible mis-categorisations. To use a light-hearted example, I discovered that Twitter’s Robo-Sherlocks have me categorised – among other things – as a possible ‘working-class mom’. In Twitter’s case this may mean I’m shown adverts for cut-price family holidays, but in the case of a bank it could mean getting blacklisted from credit, or even its opposite – getting enticed into over-indebtedness. Regardless, ***if bluntly auto-categorising can help a bank make money by allowing it to churn through many more customers at low cost, the bank will try to do just that.*** Much in the way YouTube does not care if it gets video suggestions wrong for 20 per cent of people, so too will banks write off those customers who find themselves punished by the imprecision of their systems. ***The motivation in automating ‘intelligence’ is not to seek the truth and nuance of every case: it is to optimise profit at scale,*** and, unless it hurts the bottom line, financial institutions will not discard a system if they discover it only has the capabilities of a lazy holiday intern. Questo vale in particolare per il celebrato microcredito: Poorer people are unprofitable if an institution has to spend too much time serving or thinking about them, so the solution is to automate the process of doing both. Rebus sic stantibus, monopolisti e oligopolisti possono tenersi i SALAMI traendone profitto, anche se è possibile che chi deve misurarsi con la concorrenza ne tragga invece un danno economico. Ma "competition" - come scriveva Peter Thiel - "is for losers". Possiamo estendere queste considerazioni anche all'AI generativa e ai LLM? A presto, MCP

Feb. 28, 2024

funzione di ricerca nelle mail della lista?

by maurizio lana

vorrei recuperare i messaggi scambiati in lista in cui si parla della scuola, ma sono un po' in difficoltà con https://www.mail-archive.com/search?a=1&l=all&haswords=&x=12&y=7&from=nexa posto che gli archivi sono online, ci sono altri strumenti che si possono usare, al posto di mail-archive? Maurizio ------------------------------------------------------------------------ one of the things I really believed in is the idea of simplicity, that life should always be moving toward more simplicity rather than more complexity yvon chouinard ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Anna Masera

+1 🤗 Anna Inviato da iPhone > Il giorno 28 feb 2024, alle ore 11:16, Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > > nella mia esperienza solo una piccola parte delle news possono essere generate in questo modo. > c'e' un popolare sito italiano di tecnologia che produce la maggioranza dei suoi contenuti da tempo cosi'. (se devi confrontare due telefonini, è abbastanza facile). il "giornalista" fa pochissimi aggiustamenti. > > metto "giornalista" tra virgolette perche' non mi pare paradigmatico del giornalismo. > > coem puo' confermare Anna Masera, un giornalista fa un mare di lavoro, prima di scrivere e scrivere e' tutto sommato una delle attivita' che richiede minor parte del suo tempo di attivita'. > > non mi pare che un outlet siffatto possa catturare tanto traffico, almeno non di più di quanto gia' accade per alcuni siti stra-minori con compensi da tre euro a pezzo... > nella nostra mente sono dominanti gli outlet maggiori (stampa, corriere, ecc.) e questo si riverbera sui risultati dei motori di ricerca. > rimane il traffico indotto dai social, ma anche qui vale in larga misur ail discorso fatto pe ri motori di ricerca. > > > nel merito della sintesi di news di altri, vi segnalo questa curiosita' > https://blog.quintarelli.it/2024/01/automatically-generated-news-back-in-20… > > ciao, s. > > >> On 28/02/24 09:57, Maurizio Borghi via nexa wrote: >> Grazie Daniela, molto interessante. Soprattutto questo paragrafo: >> > The beta tools let under-resourced publishers create aggregated content more efficiently by indexing recently published reports generated by other organizations, _like government agencies and neighboring news outlets_, and then summarizing and publishing them as a new article. >> Del resto, cosa c'è di più sicuro, per giornali in ristrettezze economiche (cioè quasi tutti), che riciclare propaganda governativa a basso costo? Con buona pace del ruolo politico del giornalismo. >> -- >> _______________ >> *Maurizio Borghi* >> Università di Torino >> https://www.dg.unito.it/persone/maurizio.borghi <https://www.dg.unito.it/persone/maurizio.borghi> >> Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 28, 2024

Re: [nexa] The Stockholm Declaration on AI for Science

by Enrico Nardelli

Quando leggo a proposito dell'AI queste prese di posizione mi viene in mente la favola dei topolini che vanno appresso al pifferaio di Hamelin... Nonostante quasi giornalmente, non un'AGI che non c'è e che è un potente dispositivo di "distrazione di massa" per l'opinione pubblica, ma gli strumenti "normali" dell'IA generativa - che vengono raccomandati anche all'uso degli insegnanti come utili strumenti educativi! - continuino ad esibire comportamenti pericolosi (quasi da istigazione al suicidio, vedi per esempio https://twitter.com/colin_fraser/status/1762351995296350592 https://twitter.com/colin_fraser/status/1762482073900884332) si vedono dichiarazioni tipo questa citate da Alberto Cammozzo, che ringrazio per il riferimento e di cui condivido e approvo lo scetticismo. Nel caso della /End of Theory/, la legnata sui denti ad Anderson arrivò con The Deluge of Spurious Correlations in Big Data, di Cristian S. Calude e Giuseppe Longo https://www.di.ens.fr/users/longo/files/BigData-Calude-LongoAug21.pdf a dimostrazione che, ancora una volta, una cosa sono le "narrazioni" giornalistiche e un'altra la faticosa costruzione di pezzettini di conoscenza. In questa novella dichiarazione vedo due grandissimi errori concettuali: 1) l'impressione che dà il testo della dichiarazione (https://sites.google.com/view/stockholm-declaration) pur senza scriverlo esplicitamente, che «/the great challenges the 21st century world faces: climate change, environmental degradation, food insecurity, disease, pandemics, inequality, etc./» siano «/challenging scientific questions/». NON LO SONO, sono problemi politici, e l'unica soluzione possibile per gestirli è attraverso la democrazia e non attraverso strumenti controllati da una ristretta oligarchia 2) l'esplicita dichiarazione che «/achievements worthy of a Nobel Prize, can be fully automated ... by the year 2050/» NON È COSÌ, perché ridurre la creatività degli scienziati che risolvono problemi nelle loro discipline alla semplice computazione meccanica di deduzioni a partire da assunti di base è altrettanto ingenuo del pensare che la dimostrazione di teoremi in matematica sia una semplice computazione meccanica. Il che non vuol dire, come giustamente la dichiarazione osserva, che l'IA non sia di enorme aiuto per qualunque scienziato con la sua incredibile e instancabile «/ability to process vast datasets, identify patterns, generate hypotheses at unprecedented speeds, and control laboratory automation/». Quindi, certamente la vedremo usata sempre di più nel lavoro scientifico (e non solo), questa che secondo la bella definizione di Stefano Quintarelli è una "IA noiosa", e certamente è utile richiamare tutti alla cautela nel suo utilizzo e mi piacerebbe vederne di più in tutte e discussioni, pubbliche e non. Però, io tendo a pensare che non ci sia bisogno di nuove regole quanto di applicare quelle esistenti, come ha espresso recentemente Daniela Tafani «/i sistemi informatici sono artefatti, ossia prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria/» (https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor…) ricordando che è l'approccio che sta seguendo la Federal Trade Commission negli USA. Ciao, Enrico Il 28/02/2024 09:49, Antonio Vetro' ha scritto: > Dall’appello alla firma pubblicato su Nature qualche giorno fa: > Stockholm declaration on AI ethics: why others should sign > <https://www.nature.com/articles/d41586-024-00517-7> > > > /"The use of artificial intelligence (AI) in science has potential to > do both harm and good. As a step towards preventing the harms we have > prepared the Stockholm Declaration on AI for Science. Signatories > commit to using AI responsibly and ethically. We encourage researchers > involved in developing AI to sign (see go.nature.com/486azp7) […] "/ > > Qui la dichiarazione: > https://sites.google.com/view/stockholm-declaration// > / > / > > In questo passaggio della dichiarazione (grassetto mio), sostituendo > Big Data con AI, > sembra di rileggere la “End of theory” > <https://www.wired.com/2008/06/pb-theory/> di Chris Anderson nel 2008: > > /"We believe that by harnessing the power of AI we can propel humanity > toward *a future where groundbreaking achievements in science even > achievements worthy of a Nobel Prize can be fully automated.* We > believe that this is achievable by the year 2050". / > > Al di là del personale scetticismo che potrebbe essere sbagliato, > ritengo utile condividerlo > > Antonio > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Stefano Quintarelli

nella mia esperienza solo una piccola parte delle news possono essere generate in questo modo. c'e' un popolare sito italiano di tecnologia che produce la maggioranza dei suoi contenuti da tempo cosi'. (se devi confrontare due telefonini, è abbastanza facile). il "giornalista" fa pochissimi aggiustamenti. metto "giornalista" tra virgolette perche' non mi pare paradigmatico del giornalismo. coem puo' confermare Anna Masera, un giornalista fa un mare di lavoro, prima di scrivere e scrivere e' tutto sommato una delle attivita' che richiede minor parte del suo tempo di attivita'. non mi pare che un outlet siffatto possa catturare tanto traffico, almeno non di più di quanto gia' accade per alcuni siti stra-minori con compensi da tre euro a pezzo... nella nostra mente sono dominanti gli outlet maggiori (stampa, corriere, ecc.) e questo si riverbera sui risultati dei motori di ricerca. rimane il traffico indotto dai social, ma anche qui vale in larga misur ail discorso fatto pe ri motori di ricerca. nel merito della sintesi di news di altri, vi segnalo questa curiosita' https://blog.quintarelli.it/2024/01/automatically-generated-news-back-in-20… ciao, s. On 28/02/24 09:57, Maurizio Borghi via nexa wrote: > Grazie Daniela, molto interessante. Soprattutto questo paragrafo: > > > The beta tools let under-resourced publishers create aggregated content more > efficiently by indexing recently published reports generated by other organizations, _like > government agencies and neighboring news outlets_, and then summarizing and publishing > them as a new article. > > Del resto, cosa c'è di più sicuro, per giornali in ristrettezze economiche (cioè quasi > tutti), che riciclare propaganda governativa a basso costo? Con buona pace del ruolo > politico del giornalismo. > > -- > _______________ > *Maurizio Borghi* > Università di Torino > https://www.dg.unito.it/persone/maurizio.borghi > <https://www.dg.unito.it/persone/maurizio.borghi> > Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/> > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Daniela Tafani

Buongiorno, Maurizio. Vediamo se si realizzerà la previsione di Daron Acemoglu, Get Ready for the Great AI Disappointment Rose-tinted predictions for artificial intelligence’s grand achievements will be swept aside by underwhelming performance and dangerous results. In the decades to come, 2023 may be remembered as the year of generative AI hype, where ChatGPT became arguably the fastest-spreading new technology in human history and expectations of AI-powered riches became commonplace. The year 2024 will be the time for recalibrating expectations. Of course, generative AI is an impressive technology, and it provides tremendous opportunities for improving productivity in a number of tasks. But because the hype has gone so far ahead of reality, the setbacks of the technology in 2024 will be more memorable. More and more evidence will emerge that generative AI and large language models provide false information and are prone to hallucination—where an AI simply makes stuff up, and gets it wrong. Hopes of a quick fix to the hallucination problem via supervised learning, where these models are taught to stay away from questionable sources or statements, will prove optimistic at best. Because the architecture of these models is based on predicting the next word or words in a sequence, it will prove exceedingly difficult to have the predictions be anchored to known truths. Anticipation that there will be exponential improvements in productivity across the economy, or the much-vaunted first steps towards “artificial general intelligence”, or AGI, will fare no better. The tune on productivity improvements will shift to blaming failures on faulty implementation of generative AI by businesses. We may start moving towards the (much more meaningful) conclusion that one needs to know which human tasks can be augmented by these models, and what types of additional training workers need to make this a reality. Some people will start recognizing that it was always a pipe dream to reach anything resembling complex human cognition on the basis of predicting words. Others will say that intelligence is just around the corner. Many more, I fear, will continue to talk of the “existential risks” of AI, missing what is going wrong, as well as the much more mundane (and consequential) risks that its uncontrolled rollout is posing for jobs, inequality, and democracy. We will witness these costs more clearly in 2024. Generative AI will have been adopted by many companies, but it will prove to be just “so-so automation” of the type that displaces workers but fails to deliver huge productivity improvements. The biggest use of ChatGPT and other large language models will be in social media and online search. Platforms will continue to monetize the information they collect via individualized digital ads, while competition for user attention will intensify. The amount of manipulation and misinformation online will grow. Generative AI will then increase the amount of time people spend using screens (and the inevitable mental health problems associated with it). There will be more AI startups, and the open source model will gain some traction, but this will not be enough to halt the emergence of a duopoly in the industry, with Google and Microsoft/OpenAI dominating the field with their gargantuan models. Many more companies will be compelled to rely on these foundation models to develop their own apps. And because these models will continue to disappoint due to false information and hallucinations, many of these apps will also disappoint. Calls for antitrust and regulation will intensify. Antitrust action will go nowhere, because neither the courts nor policymakers will have the courage to attempt to break up the largest tech companies. There will be more stirrings in the regulation space. Nevertheless, meaningful regulation will not arrive in 2024, for the simple reason that the US government has fallen so far behind the technology that it needs some time to catch up—a shortcoming that will become more apparent in 2024, intensifying discussions around new laws and regulations, and even becoming more bipartisan. https://www.wired.com/story/get-ready-for-the-great-ai-disappointment/ Un caro saluto, Daniela ________________________________________ Da: Maurizio Borghi <maurizio.borghi(a)unito.it> Inviato: mercoledì 28 febbraio 2024 09:57 A: Daniela Tafani; Nexa Oggetto: Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform Grazie Daniela, molto interessante. Soprattutto questo paragrafo: > The beta tools let under-resourced publishers create aggregated content more efficiently by indexing recently published reports generated by other organizations, like government agencies and neighboring news outlets, and then summarizing and publishing them as a new article. Del resto, cosa c'è di più sicuro, per giornali in ristrettezze economiche (cioè quasi tutti), che riciclare propaganda governativa a basso costo? Con buona pace del ruolo politico del giornalismo. -- _______________ Maurizio Borghi Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society<https://nexa.polito.it/>

Feb. 28, 2024

Re: [nexa] Google Is Paying Publishers to Test an Unreleased Gen AI Platform

by Maurizio Borghi

Grazie Daniela, molto interessante. Soprattutto questo paragrafo: > The beta tools let under-resourced publishers create aggregated content more efficiently by indexing recently published reports generated by other organizations, *like government agencies and neighboring news outlets*, and then summarizing and publishing them as a new article. Del resto, cosa c'è di più sicuro, per giornali in ristrettezze economiche (cioè quasi tutti), che riciclare propaganda governativa a basso costo? Con buona pace del ruolo politico del giornalismo. -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/>

Feb. 28, 2024

The Stockholm Declaration on AI for Science

by Antonio Vetro'

Dall’appello alla firma pubblicato su Nature qualche giorno fa: Stockholm declaration on AI ethics: why others should sign<https://www.nature.com/articles/d41586-024-00517-7> "The use of artificial intelligence (AI) in science has potential to do both harm and good. As a step towards preventing the harms we have prepared the Stockholm Declaration on AI for Science. Signatories commit to using AI responsibly and ethically. We encourage researchers involved in developing AI to sign (see go.nature.com/486azp7) […] " Qui la dichiarazione: https://sites.google.com/view/stockholm-declaration In questo passaggio della dichiarazione (grassetto mio), sostituendo Big Data con AI, sembra di rileggere la “End of theory”<https://www.wired.com/2008/06/pb-theory/> di Chris Anderson nel 2008: "We believe that by harnessing the power of AI we can propel humanity toward a future where groundbreaking achievements in science even achievements worthy of a Nobel Prize can be fully automated. We believe that this is achievable by the year 2050". Al di là del personale scetticismo che potrebbe essere sbagliato, ritengo utile condividerlo Antonio

Feb. 28, 2024