November 2023 - nexa - server-nexa.polito.it

Hacking Google Bard - From Prompt Injection to Data Exfiltration

by Alberto Cammozzo

<https://embracethered.com/blog/posts/2023/google-bard-data-exfiltration/> Recently Google Bard got some powerful updates, including Extensions. Extensions allow Bard to access YouTube, search for flights and hotels, and also to access a user’s personal documents and emails. So, Bard can now access and analyze your Drive, Docs and Gmail! This means that it analyzes untrusted data and will be susceptible to Indirect Prompt Injection. I was able to quickly validate that Prompt Injection works by pointing Bard to some older YouTube videos I had put up and ask it to summarize, and I also tested with Google Docs. Turns out that it followed the instructions: [...]

Nov. 15, 2023

Re: [nexa] Se l'intelligenza artificiale inizia a cibarsi dei dati che ha prodotto, abbiamo un problema

by Alberto Cammozzo

Come previsto questo rappresenta un problema per i motori di ricerca. Vediamo in azione 'fast-forward' la dinamica industriale globale: per non potersi fermare distrugge il proprio ecosistema. Come se la caveranno? <https://arxiv.org/pdf/2305.17493.pdf> Stable Diffusion revolutionised image creation from descriptive text. GPT-2, GPT-3(.5) and GPT-4 demonstrated astonishing performance across a variety of language tasks. ChatGPT introduced such language models to the general public. It is now clear that large language models (LLMs) are here to stay, and will bring about drastic change in the whole ecosystem of online text and images. In this paper we consider what the future might hold. What will happen to GPT-{n} once LLMs contribute much of the language found online? We find that use of model-generated content in training causes irreversible defects in the resulting models, where tails of the original content distribution disappear. We refer to this effect as model collapse1 and show that it can occur in Variational Autoencoders, Gaussian Mixture Models and LLMs. We build theoretical intuition behind the phenomenon and portray its ubiquity amongst all learned generative models. We demonstrate that it has to be taken seriously if we are to sustain the benefits of training from large-scale data scraped from the web. Indeed, the value of data collected about genuine human interactions with systems will be increasingly valuable in the presence of content generated by LLMs in data crawled from the Internet. [...] Discussion and Conclusion We now discuss the implications of Model Collapse on the underlying learning dynamics of LLMs. Long-term poisoning attacks on language models are not new. For example, we saw the creation of click, content, and troll farms – a form of human ‘language models’, whose job is to misguide social networks and search algorithms. The negative effect these poisoning attacks had on search results led to changes in search algorithms: e.g., Google downgraded farmed articles , putting more emphasis on content produced by trustworthy sources e.g. education domains, while DuckDuckGo removed them altogether. What is different with the arrival of LLMs is the scale at which such poisoning can happen once it is automated. Preserving the ability of LLMs to model low-probability events is essential to the fairness of their predictions: such events are often relevant to marginalised groups. Low-probability events are also vital to understand complex systems [Taleb, 2007]. Our evaluation suggests a “first mover advantage” when it comes to training models such as LLMs. In our work we demonstrate that training on samples from another generative model can induce a distribution shift, which over time causes Model Collapse. This in turn causes the model to mis-perceive the underlying learning task. To make sure that learning is sustained over a long time period, one needs to make sure that access to the original data source is preserved and that additional data not generated by LLMs remain available over time. The need to distinguish data generated by LLMs from other data raises questions around the provenance of content that is crawled from the Internet: it is unclear how content generated by LLMs can be tracked at scale. One option is community-wide coordination to ensure that different parties involved in LLM creation and deployment share the information needed to resolve questions of provenance. Otherwise, it may become increasingly difficult to train newer versions of LLMs without access to data that was crawled from the Internet prior to the mass adoption of the technology, or direct access to data generated by humans at scale. On 14/11/23 12:55, Alberto Cammozzo via nexa wrote: > QED > > <https://www.wired.it/article/intelligenza-artificiale-collasso-modelli-fond…> > > > Da poco più di un anno, chiunque abbia accesso a internet può > sperimentare liberamente con l'intelligenza artificiale generativa. I > contenuti prodotti con ChatGPT, Bard, Mid Journey, Dall-E e Stable > Diffusion, solo per nominare le più diffuse, sono ovunque. Utilizzate > da professionisti e utenti alle prime armi, le AI generative > permettono di creare testi e immagini che hanno improvvisamente invaso > il web, dalle agenzie creative alle classifiche dei libri più venduti > su Amazon. La proliferazione di questi contenuti però, potrebbe creare > un corto circuito su cui ricercatori di diversi paesi si stanno > concentrando: il model collapse. > > Il fenomeno è stato descritto per la prima volta da un gruppo di > ricerca di cui fanno parte membri di università britanniche e > canadesi. Lo definiscono come un processo degenerativo in cui i > contenuti generati finiscono per inquinare i dataset delle prossime > generazioni di modelli, che, addestrati con dati inquinati, avranno > una percezione sbagliata della realtà. In sostanza, se le informazioni > a cui queste AI attingono sono quelli prodotte dalle stesse AI, > potrebbe verificarsi un processo di degenerazione dei risultati. > > L’idea di base è tutto sommato intuitiva: queste AI producono > risultati su base statistica e tendono a eliminare progressivamente > ogni evento poco probabile ad ogni successiva iterazione. I modelli > linguistici di grandi dimensioni – comunemente chiamati Large Language > Model o LLM – sono la tecnologia che permette a questi programmi di > funzionare sulla base di prompt, o input, forniti in linguaggio > naturale dall’utente. Basandosi su enormi quantità di parametri, gli > algoritmi di deep learning utilizzati per far funzionare queste > tecnologie vengono addestrati su dati ricavati anche tramite scraping > da fonti online. E se i dati contengono errori o bias, l'AI non farà > che riprodurli. > > Finora possiamo dire che i contenuti su cui si basano le risposte di > ChatGPT sono stati creati da esseri umani, ma questo era vero solo > fino allo scorso anno. In futuro un ipotetico GPT-6 (la futura > generazione del LLM di ChatGPT) potrebbe trovare un dataset diverso da > quello usato da GPT-3, in cui molte informazioni sono state prodotte > utilizzando le versioni precedenti della stessa tecnologia. Come > sottolineato dai ricercatori questo implica che “i dati sulle > interazioni degli umani con gli LLM saranno sempre più preziosi”. Ma > cosa succede quando una crescente quantità di informazioni è di > origine “sintetica”, ovvero creata dalle macchine? Soffriranno di > quello che un’altra ricerca americana ha chiamato Mad, Model autophagy > disorder. Una disfunzione determinata da modelli che si nutrono delle > informazioni che hanno creato. > Il sistema di intelligenza artificiale ChatGPT > L'Europa vuole mettere più paletti ai grandi modelli di intelligenza > artificiale, come GPT > È la proposta di accordo su cui convergono Parlamento, Commissione e > Consiglio europeo nei negoziati sull'AI Act e prevede più obblighi per > i foundation models > > Dagli studi effettuati emerge che la qualità del lessico peggiora, > appiattendosi su un livello che offre una minore diversità di > linguaggio. Se pensiamo che una delle prime forme di intelligenza > artificiale con la quale siamo entrati in contatto quotidianamente è > l’autocomplete del telefono, la cosa ci appare subito più chiara e > semplice da estendere ad altre categorie. Il correttore automatico ci > offre come soluzioni quelle più statisticamente più probabili. Con i > dovuti distinguo, anche altri sistemi di raccomandazione funzionano > nello stesso modo, che siano combinazioni di parole, prodotti che > compriamo online, contenuti social o canzoni su Spotify. La differenza > principale sta nei parametri considerati e nella capacità del sistema > di imparare dai nuovi dati che vengono forniti alle macchine. Tutti i > sistemi basati su tecnologie simili sono sensibili all’inquinamento > dei dati. Questo non avviene solo per i testi, ma anche nel caso delle > immagini. E in questo caso i risultati sono forse ancora più visibili. > Il “rumore” di fondo può aumentare a tal punto da rendere i soggetti > quasi indistinguibili e coperti da una patina opaca, oppure le > immagini possono risultare visibilmente artefatte. > > Di recente Microsoft e Google hanno incorporato i propri chatbot in > diversi prodotti e nei loro motori di ricerca, una mossa che potrebbe > amplificare i problemi che generano. Non solo espongono gli utenti > alle cosiddette allucinazioni, gli errori degli LLM che generano > risposte che non trovano riscontro nella realtà, ma anche a feedback > loop in cui gli eventi meno frequenti tendono a scomparire. I sistemi > di raccomandazione possono creare camere dell’eco in cui trovano > rappresentazione solo gli eventi più probabili. > > Secondo Daniele Gambetta, dottorando in intelligenza artificiale > presso l'Università di Pisa, “ognuno di questi casi è rilevante nella > comprensione di fenomeni che saranno sempre più diffusi e che > potrebbero portare a implicazioni indesiderate. La ricerca si sta > muovendo in questa direzione, intersecando conoscenze tecniche e > informatiche con strumenti e teorie provenienti dalla sociologia e > dalla psicologia". > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Nov. 14, 2023

Se l'intelligenza artificiale inizia a cibarsi dei dati che ha prodotto, abbiamo un problema

by Alberto Cammozzo

QED <https://www.wired.it/article/intelligenza-artificiale-collasso-modelli-fond…> Da poco più di un anno, chiunque abbia accesso a internet può sperimentare liberamente con l'intelligenza artificiale generativa. I contenuti prodotti con ChatGPT, Bard, Mid Journey, Dall-E e Stable Diffusion, solo per nominare le più diffuse, sono ovunque. Utilizzate da professionisti e utenti alle prime armi, le AI generative permettono di creare testi e immagini che hanno improvvisamente invaso il web, dalle agenzie creative alle classifiche dei libri più venduti su Amazon. La proliferazione di questi contenuti però, potrebbe creare un corto circuito su cui ricercatori di diversi paesi si stanno concentrando: il model collapse. Il fenomeno è stato descritto per la prima volta da un gruppo di ricerca di cui fanno parte membri di università britanniche e canadesi. Lo definiscono come un processo degenerativo in cui i contenuti generati finiscono per inquinare i dataset delle prossime generazioni di modelli, che, addestrati con dati inquinati, avranno una percezione sbagliata della realtà. In sostanza, se le informazioni a cui queste AI attingono sono quelli prodotte dalle stesse AI, potrebbe verificarsi un processo di degenerazione dei risultati. L’idea di base è tutto sommato intuitiva: queste AI producono risultati su base statistica e tendono a eliminare progressivamente ogni evento poco probabile ad ogni successiva iterazione. I modelli linguistici di grandi dimensioni – comunemente chiamati Large Language Model o LLM – sono la tecnologia che permette a questi programmi di funzionare sulla base di prompt, o input, forniti in linguaggio naturale dall’utente. Basandosi su enormi quantità di parametri, gli algoritmi di deep learning utilizzati per far funzionare queste tecnologie vengono addestrati su dati ricavati anche tramite scraping da fonti online. E se i dati contengono errori o bias, l'AI non farà che riprodurli. Finora possiamo dire che i contenuti su cui si basano le risposte di ChatGPT sono stati creati da esseri umani, ma questo era vero solo fino allo scorso anno. In futuro un ipotetico GPT-6 (la futura generazione del LLM di ChatGPT) potrebbe trovare un dataset diverso da quello usato da GPT-3, in cui molte informazioni sono state prodotte utilizzando le versioni precedenti della stessa tecnologia. Come sottolineato dai ricercatori questo implica che “i dati sulle interazioni degli umani con gli LLM saranno sempre più preziosi”. Ma cosa succede quando una crescente quantità di informazioni è di origine “sintetica”, ovvero creata dalle macchine? Soffriranno di quello che un’altra ricerca americana ha chiamato Mad, Model autophagy disorder. Una disfunzione determinata da modelli che si nutrono delle informazioni che hanno creato. Il sistema di intelligenza artificiale ChatGPT L'Europa vuole mettere più paletti ai grandi modelli di intelligenza artificiale, come GPT È la proposta di accordo su cui convergono Parlamento, Commissione e Consiglio europeo nei negoziati sull'AI Act e prevede più obblighi per i foundation models Dagli studi effettuati emerge che la qualità del lessico peggiora, appiattendosi su un livello che offre una minore diversità di linguaggio. Se pensiamo che una delle prime forme di intelligenza artificiale con la quale siamo entrati in contatto quotidianamente è l’autocomplete del telefono, la cosa ci appare subito più chiara e semplice da estendere ad altre categorie. Il correttore automatico ci offre come soluzioni quelle più statisticamente più probabili. Con i dovuti distinguo, anche altri sistemi di raccomandazione funzionano nello stesso modo, che siano combinazioni di parole, prodotti che compriamo online, contenuti social o canzoni su Spotify. La differenza principale sta nei parametri considerati e nella capacità del sistema di imparare dai nuovi dati che vengono forniti alle macchine. Tutti i sistemi basati su tecnologie simili sono sensibili all’inquinamento dei dati. Questo non avviene solo per i testi, ma anche nel caso delle immagini. E in questo caso i risultati sono forse ancora più visibili. Il “rumore” di fondo può aumentare a tal punto da rendere i soggetti quasi indistinguibili e coperti da una patina opaca, oppure le immagini possono risultare visibilmente artefatte. Di recente Microsoft e Google hanno incorporato i propri chatbot in diversi prodotti e nei loro motori di ricerca, una mossa che potrebbe amplificare i problemi che generano. Non solo espongono gli utenti alle cosiddette allucinazioni, gli errori degli LLM che generano risposte che non trovano riscontro nella realtà, ma anche a feedback loop in cui gli eventi meno frequenti tendono a scomparire. I sistemi di raccomandazione possono creare camere dell’eco in cui trovano rappresentazione solo gli eventi più probabili. Secondo Daniele Gambetta, dottorando in intelligenza artificiale presso l'Università di Pisa, “ognuno di questi casi è rilevante nella comprensione di fenomeni che saranno sempre più diffusi e che potrebbero portare a implicazioni indesiderate. La ricerca si sta muovendo in questa direzione, intersecando conoscenze tecniche e informatiche con strumenti e teorie provenienti dalla sociologia e dalla psicologia".

Nov. 14, 2023

Re: [nexa] "How a billionaire-backed network of AI advisers took over Washington"

by Antonio Casilli

Open Philanthropy è un vero pericolo. Grazie JC per questo pezzo del puzzle dell'"Effective regulation". Per coloro che volessero approfondire la tematica e i suoi legami con miliardari di estrema destra e truffatori "altruisti", qui trovate un video di un mio recente seminario: https://diplab.eu/video-effective-regulation-and-the-real-risks-of-ai-inagu… Cheers, ---a ----- Original Message ----- From: "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it> To: "Nexa" <nexa(a)server-nexa.polito.it> Sent: Sunday, November 12, 2023 2:31:09 PM Subject: [nexa] "How a billionaire-backed network of AI advisers took over Washington" How a billionaire-backed network of AI advisers took over Washington A sprawling network spread across Congress, federal agencies and think tanks is pushing policymakers to put AI apocalypse at the top of the agenda — potentially boxing out other worries and benefiting top AI companies with ties to the network. By Brendan Bordelon 10/13/2023 05:00 AM EDT An organization backed by Silicon Valley billionaires and tied to leading artificial intelligence firms is funding the salaries of more than a dozen AI fellows in key congressional offices, across federal agencies and at influential think tanks. The fellows funded by Open Philanthropy, which is [ https://www.openphilanthropy.org/about-us/ | financed primarily by billionaire Facebook co-founder and Asana CEO Dustin Moskovitz ] and his wife Cari Tuna, are already involved in negotiations that will shape Capitol Hill’s accelerating plans to regulate AI. And they’re closely tied to a powerful influence network that’s pushing Washington to focus on the technology’s long-term risks — a focus critics fear will divert Congress from more immediate rules that would tie the hands of tech firms. [...] continua qui: [ https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-polic… | https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-polic… ] _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Nov. 13, 2023

Aggiornamento: How AI Fosters Global Inequalities (20 novembre, online)

by Michele Molè

Buongiorno, Ricordandovi del seminario di lunedí prossimo, segnalo che sará possibile seguirlo tramite diretta YouTube disponibile a questo link: https://www.youtube.com/watch?v=L01d8u97iE4 . Per chi fosse giá registrato per seguire l'evento online, riceverá una mail entro domani. Cordiali saluti,Michele ------- Forwarded Message ------- From: Michele Molè <michele.mole(a)protonmail.com> Date: On Thursday, 28 September 2023 at 11:26 Subject: Seminario: How AI Fosters Global Inequalities (20 novembre, online) To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> > Buongiorno, > > Segnalo che il 20 novembre 2023 ore 15.30 presso l'Università di Groningen (Paesi Bassi) ospiteremo il seminario (online) "[How Artificial Intelligence Fosters Global Inequalities: A Four-Country Study on Data Work](https://www.rug.nl/jantina-tammes-school/calendar/2023/how-artificial-intelligence-fosters-global-inequalities)". Il prof. Antonio A. Casilli (Institut Polytechnique de Paris) presentera' il suo studio condotto con il DiPiLab tra il 2020-2023 in Venezuela, Madagascar, Brasile e Francia. Seguirà un panel multidisciplinare (programma allegato). > > E' necessario registrarsi[qui](https://forms.gle/V7P8BYyi4AJfHa1Y8), (scuse anticipate per il Google form:)) > Michele > > -- > > Michele Molè, PhD candidate > https://www.rug.nl/staff/m.mole/

Nov. 13, 2023

109° Nexa Lunch Seminar | 22 novembre 2023, ore 13.00

by Valeria Bergantino

Gentilissime, gentilissimi, Vi invitiamo a partecipare al *109° Nexa Lunch Seminar *che si terrà *mercoledì 22 novembre*, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: /*"Piattaforme digitali e autodeterminazione. Relazioni sociali, lavoro e diritti al tempo della 'governamentalità algoritmica'"*/. Ospite dell'incontro: *Giacomo Pisani* (Euricse). _L'incontro si terrà SOLO IN PRESENZA._ _SEDE FISICA __dell'incontro_: Campus Luigi Einaudi, Lungo Dora Siena, 100 Edificio D2, II piano, Meeting Room Dipartimento di Giurisprudenza (*MAPS <https://maps.app.goo.gl/jGxDQbUp2y8nD52LA>*) Di seguito maggiori dettagli: Se non visualizzi correttamente questo messaggio clicca qui <https://nexa.polito.it/lunch-109> NEXA 109° Nexa Lunch Seminar Mercoledì 22 novembre 2023, ore 13.00 - 14.00 https://nexa.polito.it/lunch-109 Piattaforme digitali e autodeterminazione Relazioni sociali, lavoro e diritti al tempo della "governamentalità algoritmica" Speaker: *GIACOMO PISANI* (Euricse) *L'INCONTRO SI TERRÀ SOLO IN PRESENZA* *SEDE FISICA*: Campus Luigi Einaudi, Lungo Dora Siena, 100 Edificio D2, II piano, Meeting Room Dipartimento di Giurisprudenza (Per maggiori informazioni su come raggiungerci clicca QUI <https://www.google.com/maps/place/Campus+Luigi+Einaudi/@45.0734963,7.699408…>) Le piattaforme digitali stanno ridisegnando le modalità di relazione fra gli individui. Esse hanno veicolato la *promessa di “disintermediare” sfere sempre più ampie dell’esistenza, celando nuove forme di controllo*. Attraverso l’uso di *algoritmi opachi*, le piattaforme mettono in atto strategie di potere che agiscono su gruppi, se non sull’intera popolazione, istituendo correlazioni, differenze, assemblaggi. L’obiettivo delle piattaforme sembra essere esattamente quello di agire a partire da una valorizzazione della personalità degli utenti, intervenendo sulle loro scelte attraverso la provocazione di impercettibili smottamenti. Anche il mondo del lavoro è al centro di fenomeni di imponente trasformazione, che investono la possibilità delle persone di autodeterminarsi in maniera consapevole. In questo quadro, *la promozione del diritto all’autodeterminazione della persona può avvenire solo a condizione di garantire adeguata rappresentazione agli interessi collettivi implicati*. Il volume */Piattaforme digitali e autodeterminazione/* delinea i tratti salienti di questa sfida, assumendo il diritto all’autodeterminazione come principio di democratizzazione del mondo digitale. BIOGRAFIA - e informazioni supplementari: [Lunch109] *Giacomo PISANI* , ricercatore presso Euricse (Trento), ha conseguito l'abilitazione scientifica nazionale a professore universitario associato in Filosofia del diritto. Formatosi presso l’Università di Bari, dottore di ricerca in Diritti e Istituzioni presso l'Università di Torino, ha collaborato con vari istituti di ricerca e università, tra cui l’Iisf (Istituto italiano per gli studi filosofici), l’Airi (Associazione italiana per la ricerca industriale), l’Università di Torino. Si occupa di welfare e diritti sociali, trasformazioni del lavoro, filosofia e teoria sociale critica del diritto. Ha pubblicato articoli e saggi su diverse riviste italiane e internazionali. Tra le sue pubblicazioni si segnalano le monografie /Welfare e trasformazioni del lavoro/ (Roma, Ediesse 2019), /Piattaforme digitali e autodeterminazione/ (Modena, Mucchi 2023). *Letture consigliate e link utili:* * Pisani G. (2023). /Piattaforme digitali e autodeterminazione. Relazioni sociali, lavoro e diritti al tempo della “governamentalità algoritmica/, Mucchi, Modena * Rosenblat, A. (2018). /Uberland. How Algorithms are Rewriting the Rules of Work/, University of California Press, Oakland * Resta, G. (2019). /Governare l’innovazione tecnologica: decisioni algoritmiche, diritti digitali e principio di uguaglianza/, in «Politica del diritto», 50, 2, pp. 199-236 * Borgesius F.J.Z. (2020). /Strengthening Legal Protection Against Discrimination by Algorithms and Artificial Intelligence/, in «The International Journal of Human Rights», 24, 2020, 10, pp. 1572-1593 * Viljoen, S. (2021). /A Relational Theory of Data Governance/, in «Yale Law Journal», 131, 2, pp. 573-654 Che cosa sono il Centro Nexa e i cicli di incontri “Mercoledì di Nexa” e “Nexa Lunch Seminar” <https://www.facebook.com/nexa.center/> <https://twitter.com/nexacenter> <https://www.youtube.com/user/NexaCenter> <https://www.instagram.com/nexa_center/> <https://www.linkedin.com/company/3054864/admin/> #nexalunchseminar <https://twitter.com/search?q=%23nexalunchseminar&src=typd> #Euricse <https://twitter.com/Euricse> Il Centro Nexa su Internet & Società del Politecnico di Torino (Dipartimento di Automatica e Informatica), fondato nel 2006, è un centro di ricerca interdisciplinare che, in collaborazione con l’Università di Torino (in particolare il Dipartimento di Giurisprudenza), studia le tecnologie digitali e il loro rapporto con la società. Maggiori informazioni all'indirizzo: http://nexa.polito.it/about. Durante i “Mercoledì di Nexa”, che si tengono *ogni 2° mercoledì del mese alle ore 17 in punto*, il Centro Nexa su Internet e Società apre le sue porte non solo agli esperti e a tutti coloro i quali lavorano con Internet, ma anche a semplici appassionati e cittadini. Il ciclo di incontri intende approfondire, con un linguaggio preciso ma accessibile, i temi legati alla Rete: “intelligenza artificiale”, reti sociali, software libero, capitalismo della sorveglianza, neutralità della rete, libertà di espressione, privacy, condivisione di file, "big data" e "open data", “smart cities”, e molto altro. Al centro della maggior parte degli incontri un ospite pronto a dialogare con i direttori del Centro Nexa, il Prof. Juan Carlos De Martin del Politecnico di Torino, i Proff. Marco Ricolfi e Maurizio Borghi dell'Università di Torino, lo staff, i Fellows del Centro Nexa e tutti i presenti. Maggiori informazioni sui Mercoledì di Nexa, incluso un elenco di tutti i “Mercoledì” passati, sono disponibili all'indirizzo: http://nexa.polito.it/mercoledi. Le registrazioni degli incontri sono disponibili qui: https://nexa.polito.it/audio-video. Si segnala inoltre che dal maggio 2012 *ogni 4° mercoledì* del mese *dalle ore 13 alle ore 14* il Centro Nexa organizza anche i "*Nexa Lunch Seminar*". Una lista di tutti i “Lunch Seminar” passati è disponibile all'indirizzo: http://nexa.polito.it/lunch-seminars. See our events calendar <http://nexa.polito.it/events> if you're curious about future luncheons, discussions, lectures, and conferences not listed in this email. Our events are free and open to the public, unless otherwise noted. Responsabile Comunicazione Centro Nexa su Internet & Società: *Valeria Bergantino*, tel: +39 011 090 7219, valeria.bergantino(a)polito.it. Maggiori informazioni sui Mercoledì di Nexa e i Nexa Lunch Seminar, sono disponibili all'indirizzo: http://nexa.polito.it/events. Weekly Events Newsletter. Sign up <http://nexa.polito.it/mailing-lists> to receive this newsletter if this email was forwarded to you. To manage your subscription preferences, please click here <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>. Connect & get involved: Jobs, internships, and more <http://nexa.polito.it/get-involved>. Nexa Center for Internet and Society Newsletter Cordiali saluti, -- Valeria Bergantino Communication Officer Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ <https://nexa.polito.it/> mail: valeria.bergantino(a)polito.it <mailto:valeria.bergantino@polito.it> tel: 3473443585

Nov. 13, 2023

Surveillance Wages: A Taxonomy

by Daniela Tafani

Surveillance Wages: A Taxonomy Zephyr Teachout PUBLISHED 11.06.23 One notable feature of the so-called gig economy is that workers, such as for-hire drivers and delivery workers, are often paid different amounts for performing the same task. More broadly, as work by the Markup and Veena Dubal shows, the manner in which these wages are calculated is a black box: they are determined by a complicated algorithm to which the workers have no access. At Uber, for instance, the company uses data-rich driver profiles to match the wage to the individual incentives of the driver and the needs of the platform. Uber drivers’ experiences should not, however, be understood as unique to gig work. The techniques used to extract the maximal gig worker productivity for minimal pay—such as individualized pay, schedules, benefits, and individualized behaviorally-based incentive structures—are on the verge of being imported to the formal employment sector. Moreover, gig work is increasingly the nature of work itself, with surveys showing that between 10 and 30% of Americans have some form of contract work. As a result, wage scales with set pay grades, which have been the norm for blue collar jobs for more than a century, may be on the decline. Partly as a result of this shift, the market for employee surveillance systems is booming. Monitoring systems include thumb scans, identification badges, closed circuit cameras, geolocation tracking, and sensors on tablets and vehicles. Software flags not only a decrease in productivity but also the expression of “negative attitudes.” Tools record keyboard strokes and conversations, which are then analyzed to rate an employee’s emotional status based on word patterns and content. The company Cogito, for instance, sells software to call centers that records and then analyzes calls between employees and customers, with a real-time behavioral dashboard that tells the employees when to be more empathetic, when to pick up the pace, and when to “exude more confidence and professionalism.” Supervisors have dashboards summarizing these performance metrics, which are used to determine pay and retention. In addition to making worker’s pay much less predictable, the potential spread of these management techniques has broader democratic implications. They will increase economic and racial inequality, undermine labor solidarity, and put workers in a profoundly humiliating position in relationship to their boss, one where worker speech and autonomy are highly circumscribed. If we are to have any hope of successfully regulating these new forms of technological control, we first need a clearer understanding of how they operate. To that end, this post offers a brief taxonomy of five different forms of algorithmic wage differentiation, each of which is already visible in the gig work economy: productivity-based wage adjustments, gamified wages shifted through incentive bonuses and demerits, behavioral wages, dynamic wages, and wages shifted to conduct an experiment. After surveying these different techniques, I explain in greater depth why these practices threaten to undermine important democratic values. Extreme Taylorism At the heart of management in the past century was a belief, exemplified by Taylorism, that workers were driven by simple motivations. They wanted pay, and didn’t like to work, and so close monitoring and control were required, lest workers take the pay and avoid the work. Taylorism depended on small, easy to measure tasks, regularized training, and payment based on production. Extreme Taylorism is a direct outgrowth of these former tools, but with unheard of levels of precision. Employers now measure time in the bathroom and time per unit task, not just the total number of units processed over an hour, and can thus reward or dock employees on a far more ongoing, updated basis. For instance, when Amazon follows workers physical location and tracks multitasking, it can dock pay for long breaks in real time. And with increasingly precise levels of surveillance, companies can monitor and reward productivity down to the head-swivel. Gamification Amazon started using video games in five warehouses from suburban Seattle to near Manchester in Britain, after an initial experiment in a single warehouse in late 2016. With names like MissionRacer, PicksInSpace, Dragon Duel, and CastleCrafter, the games have graphics that mimic Nintendo, according to workers (employees aren’t allowed to take pictures). Success at these games can lead to changes in wages—one worker reported that managers rewarded successful workers with “Swag Bucks,” an internal currency that can be used to make purchases. Similarly, Uber tracks millions of metrics every day and then delivers individualized tasks to drivers. At least some of this differentiation appears to be related to the “gamification” of work. The screen used by drivers has point-scoring, levels, competition with others, and ratings, which play on both positive and negative aspects of gaming—they offer engagement and possibly fun, but also pray on irrational tendencies, like gambling. And, like gambling, they appear to depend upon both personalization (differentiation) and some degree of inconsistency. Behavioral Price Discrimination Fifteen years ago, social media delivered content based on either requests by users or chronology; today, social media posts are delivered based on a data-based portrait of each individual user. The PII (personally identifiable information) is fed to algorithms which predict behavior and responsiveness. Persuasion technologies are matched with unique features to maximize the profits made by the platforms. We can expect that a similar shift is on the horizon at the workplace, if not already here. This kind of wage discrimination, which focuses on a worker’s behavior, is the area where we have the least information, and the fewest examples, but we have every reason to think it will be a growth area. Employers can combine the data collected directly on their own sites with personal data bought on the open market from third parties, who collect and aggregate social media activity, credit reports, consumer history, and driving reports. Outside of state law, there is nothing currently stopping employers from using data about, e.g., the indebtedness of a worker, to target a lower wage, knowing the worker has less flexibility to move jobs. Dynamic Labor Pricing In the gig economy, dynamic labor pricing—paying more for labor when it is low supply or high demand, and vice versa—is baked into the business model. It is also standard for consumer goods where prices are shifting constantly; according to one estimate, Amazon prices change more than 2.5 million times a day. Outside of gig work, firms—especially those with monopsony power—can write contracts that make bonuses ongoing in the same way they are ongoing for Uber drivers, and in so doing, can engage in real-time labor pricing based on demand. It is currently unclear if (or to what extent) this is happening outside of gig work, but opportunity and incentive suggest it could. Within gig work, for instance, caregivers are paid differently depending on the time of day, delivery workers are paid differently depending on demand, and pay can shift on a dime. Experimentation In the late 1920s, inspired by Frederick Taylor, a psychologist from Harvard Business School ran a series of experiments on workers at Hawthorne Works, an electric company in Illinois, that became known as “the Hawthorne Studies.” Among other things, these studies explored whether changing pay based on performance impacted productivity. In one group, they gave higher pay to those who were more productive in assembling equipment; in a control group, they did not. They found, perhaps surprisingly to modern readers, that the increased wages did not incentivize productivity. Instead, productivity was more likely to be spurred by group pressures and group standards. The experiments are interesting not merely for their results, but also as the beginning of a long history in which workers are subjected to experiments and manipulation by their employers. Since Hawthorne, firms have routinely conducted experiments on workers, testing assumptions about what will lead to the firm gathering the highest output for the wages it pays. However, until recently, wage experimentation at a level likely to reveal meaningful results was practically very difficult. This has changed with the rise of surveillance, big data, and electronic contracts with real-time bonuses, which have enabled low-cost wage experiments. For instance, when Instacart was caught using tips to supplement wages, the proceedings revealed that the company was more broadly experimenting with wages. Delivery pay was initially like piecework in farming: a flat rate per item. The company started adding bonuses, and then taking other factors into account, such as product weight and distance. And over the years, with small changes, the pay changed from being clearly tied to productivity to being a black box. Workers are not merely harmed by the end-outcome of these experiments, but also by the manipulation of the experiments themselves, which undermine any sense of stability at work. *** With this taxonomy in hand, let’s return to the democratic implications of such wage discrimination. To begin, real time and individually targeted wages will transform the nature of supervision. It undermines the importance of relationships between supervisors and mid-level decisionmakers, instead allowing upper-level management to continuously spy and tinker with low-level workers. Workers are then employed in a state of rational paranoia, where they know that they are being punished and rewarded and experimented upon, but they have no way of knowing whether any given decision they are faced with is a result of a game, an experiment, a punishment, a reward, or changing circumstances on the ground and changing needs at the job. Being dominated, watched, and controlled are destabilizing conditions even when they are occasional, and all the more so if they are the center of work life. Privacy concerns that have long attended the workplace—and never been adequately addressed—are thus even more important today, as the lack of protection from intimate intrusions enables this further harm. Beyond undermining the liberties of the moderns, intrusive surveillance and experimentation and differentiation also necessarily undermines the liberties of the ancients. The people being surveilled are not just workers but citizens, who must vote, serve on juries, share their experiences with the public, and engage in public debate. Citizens are also subject to some of the same monopoly practices in their role as consumers, but the relationship between the consumer and surveillance capitalism and the worker and the surveilled workplace is different. At work—when labor markets have a handful of dominant players—employees don’t even have the theoretical option of opting out of being watched. Negotiating the terms of surveillance and experimentation simply doesn’t happen. And unlike the consumer, the worker is surveilled for the entire scope of their workday, with no default right of respite. When you combine personalized labor pricing with the fact that most firms have strong political views, it leads to all kinds of distortions in the political sphere. Sixteen percent of workers surveyed recently reported that they had either personally experienced or witnessed political retaliation on the job. One in eight American workers believes that “someone at their job was treated unfairly, missed out on a promotion, or was fired as a result of political views or actions.” It is unclear the degree to which employers are purposefully tracking the political activities of employees, but the scope of the sweep they conduct on a daily basis means that the conversations and online behavior are necessarily being gathered, whether they are used or not. With both capacity and incentive, we should anticipate that political spying will be a growth area. In the wake of Citizens United, corporations are free to engage in explicitly political activity, to monitor and respond and dissuade and punish. And just as importantly for society, even if an employer refrains from acting on this information, workers, aware of this capacity, will be discouraged from engaging in open, free debate. I assume that these techniques are not yet the norm, but that the infrastructure to enable them is being put into place as we speak. We know from recent rise of targeted ads just how quickly business practices can change with the arrival of new technological tool. Given that, we should treat these discriminatory wages as a present threat, and think now about how to limit their reach. Key tools involve not only privacy legislation, and absolute bans on the collection of certain data, but using non-discrimination principles to require employers, especially large ones, to pay for the job on a structured pay scale, instead of tailoring pay to individual profiles. https://lpeproject.org/blog/surveillance-wages-a-taxonomy/

Nov. 13, 2023

Re: [nexa] "How a billionaire-backed network of AI advisers took over Washington"

by Andrea Barontini

Recensione che invoglia ad approfondire, oltre a raccontare cose spesso viste all'interno degli Atenei ma su cui forse in troppo pochi hanno riflettuto, e cmq probabilmente non in chiave olistica. Thanks Il 12/11/23 16:16, maurizio lana ha scritto: > Il 12/11/23 14:53, "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it> ha > scritto: >> Date: Sun, 12 Nov 2023 14:31:09 +0100 >> From: "J.C. DE MARTIN"<juancarlos.demartin(a)polito.it> >> To: Nexa<nexa(a)server-nexa.polito.it> >> Subject: [nexa] "How a billionaire-backed network of AI advisers took >> over Washington" >> >> *How a billionaire-backed network of AI advisers took over Washington* >> >> /A sprawling network spread across Congress, federal agencies and think >> tanks is pushing policymakers to put AI apocalypse at the top of the >> agenda — potentially boxing out other worries and benefiting top AI >> companies with ties to the network./ > a proposito di "a sprawling network spread across Congress, federal > agencies and think tanks", segnalo questo articolo sul Domenicale del > Sole24ore di oggi 12 novembre:m Luigino Bruni. «La bolla delle società > di consulenza» che recensisce Mariana Mazzucato, Rosie Collington, Il > grande imbroglio, Laterza. > Mazzucato e Collington mostrano che è un problema che riguarda tutti > (che si presenta in tutti i paesi) > Maurizio > > «La nostra analisi dell’industria della consulenza traccia un quadro > cupo della situazione attuale. Tutti questi contratti con società che > interpretano i ruoli più vari (consigliere, legittimatrici di decisioni > controverse, appaltatrici di servizi esternalizzati) indeboliscono le > imprese, infantilizzano il settore pubblico e distorcono l’economia» (p. > 12). > È questa la tesi principale del bel libro di Mariana Mazzucato e Rosie > Collington, un saggio che tocca un tema decisivo e troppo trascurato del > capitalismo contemporaneo, perché le molte forme della consulenza sono > cresciute come un’edera attorno all’albero dell’economia e delle > istituzioni, ormai fanno parte del paesaggio e non riusciamo più a > percepirne la dimensione parassita e invasiva. Ma perché le società di > consulenza soprattutto le grandi compagnie globali – da strumento di > aiuto (come si presentano) sono, o dovrebbero essere, una debolezza di > imprese, governo e istituzioni? > E quando, e dove, e grazie a chi la consulenza da risorsa è diventata > una minaccia? E perché l’industria cresce così velocemente, con un > fatturato globale sﬁora i mille miliardi di dollari l’anno? Il libro, > attraverso i vari capitoli (che sono forse troppi, con ripetizioni > evitabili, con molti dati-fatti e non abbastanza teoria che invece > potevamo aspettarci, visto l’alto proﬁlo della Mazzucato), cerca di > rispondere esattamente a questa domanda cruciale. > Una premessa. > Nel XX secolo il paradigma dominante era la democrazia, e quindi la > partecipazione. Nel XXI secolo il paradigma vincente e quindi ormai > pervasivo è il business con le sue nuove élite e profeti: se vuoi fare > una cosa seria devi imitare le grandi imprese, e per imitarle devi > imparare da chi sa come si fanno le cose. > Una pervasività che dall’economia è emigrata ad ogni tipo di > istituzione, sempre più quelle politiche. Le autrici sono molto > preoccupate del crescente ruolo dei consulenti dentro Governi dei Paesi > e nelle istituzioni internazionali – e nelle Ong, nelle religioni e > nelle chiese, aggiungo io. Ecco allora splendere la ﬁgura del consulente > top-di-gamma, che, con spettacolari power point e citazioni ad effetto > di poeti e guru, si presenta come una ﬁgura di medico universale delle > istituzioni. In quanto tecnico non incontra la difﬁdenza che hanno > incontrato gli esperti di ieri (professori, intellettuali, persino > scienziati), perché i nuovi medici sono ideologicamente neutrali: > parlano in nome della oggettiva tecnica, e quindi le loro diagnosi e le > loro terapie sono auto-evidenti. > I due aspetti per me cruciali del libro sono l’infantilizzazione e > l’outsourcing delle competenze. L’infantilizzazione dei governi (cap. > 6), ma anche delle organizzazioni, nasce dalla progressiva riduzione di > autonomia delle imprese in mano alla consulenza. Ciò che all’inizio si > presenta come un aiuto al management, con il tempo diventa una presenza > via via più pervasiva e sostitutiva, che cresce insieme all’insicurezza > di imprenditori e management che, presto, si ritrovano a perdere > autonomia per le scelte più importanti. Si crea quella che le autrici > chiamano una versa e propria “dipendenza” (addiction) da consulenti, e, > come tutte le dipendenze, per mantenere domani la stessa soddisfazione > di oggi devo aumentare la dote. Ciò che nel Novecento era afﬁdato al > management sta passando alla consulenza, in un contratto narcisistico > mutuamente vantaggioso, almeno così appare ad entrambe le parti – la > dipendenza perniciosa si rivela col tempo (p. 156). > La consulenza, poi, cresce soprattutto come risposta ad una domanda dal > mondo delle imprese e delle istituzioni: «l’offerta è una risposta ad > una domanda» (p. 104). E ciò perché la presenza delle grandi società di > consulenza svolge la funzione di certiﬁcazione di scelte delicate e > controverse, sulle quali le imprese-istituzioni sono insicure, in un > mercato e un mondo sempre più complesso. E così il consulente certiﬁca – > come si certiﬁcano i bilanci – che quella scelta è seria, > tranquillizzando non solo gli stakeholders ma anche e soprattutto gli > stessi imprenditori e manager: «I consulenti vengono assoldati perché > possono fornire una legittimazione alle decisioni del manager» (p. 127). > L’infantilizzazione è dunque perdita di autonomia, di responsabilità e > di controllo sulle scelte che vengono “appaltate” a terzi; ma, e qui sta > il punto, una volta che la parte più importante delle dinamiche > aziendali sono esternalizzate le aziende perdono conoscenza, know-how e > know-why, e si ritrovano sempre più dipendenti da chi quelle conoscenze > le ha, e che usa spesso in conﬂitto oggettivo di interesse: le stesse > compagnie assistono i governi per ridurre le emissioni di CO2 e le > imprese che le aumentano (p. 241). Ecco perché la quota di valore > aggiunto che va alla consulenza non è tecnicamente proﬁtto ma rendita > (pp. 103 e ss.). > L’esternalizzazione non si limita alle competenze, perché stiamo > assistendo anche ad outsourcing delle relazioni e delle emozioni > aziendali. Se ai consulenti di cui parla il libro aggiungiamo anche la > grande proliferazione di coach, counselor, psicologi del lavoro, > facilitatori, esperti di risoluzione di conﬂitti…, ci accorgiamo che le > imprese stanno rinunciando a gestire non solo strategie e governance: > stanno rinunciando a gestire anche le loro persone, soprattutto le loro > criticità e le fragilità, come hanno rinunciato alla mensa e alle > pulizie appaltandole ad agenzie esterne. Il consulente è un mediatore, a > cui io impresa do l’incarico di “toccarti” al mio posto, per evitare il > contagio della relazione. È una forma di immunitas, direbbe R. Esposito. > La consulenza è dunque buona solo se segue il “principio di > sussidiarietà”, se è di aiuto al management e non sostituto come invece > in genere accade, perché il mondo della consulenza è quasi per natura > anti-sussidiario – arriva con soluzioni e protocolli che troppo > velocemente applica alla realtà senza averla prima sufﬁciente e > adeguatamente auscultata. > C’è, inﬁne, un altro grande pericolo che le autrici segnalano (insieme a > molti altri). È quello del potere senza rischio. Queste imprese di > consulenza inﬂuenzano e spesso dettano le scelte delle aziende ma non si > assumono le conseguenze di queste azioni. Si spezza così il nesso tra > potere e responsabilità, che era al cuore non solo delle imprese ma, > come dicono molte volte la Mazzucato e la Collington, della stessa > democrazia. > Il saggio è dunque un Sos politico e civile lanciato al cuore del nostro > capitalismo, che è stato sempre governato da élite (lo sapevano bene già > Pareto e Mosca nell’Ottocento), ma ora le élite sono sempre più > invisibili perché nascoste sotto la retorica della tecnica. > > Mariana Mazzucato, Rosie Collington Il grande imbroglio Laterza, pagg. > 352, € 26 > > > > > > > >> By Brendan Bordelon >> >> 10/13/2023 05:00 AM EDT >> >> An organization backed by Silicon Valley billionaires and tied to >> leading artificial intelligence firms is funding the salaries of more >> than a dozen AI fellows in key congressional offices, across federal >> agencies and at influential think tanks. >> >> The fellows funded by Open Philanthropy, which is financed primarily by >> billionaire Facebook co-founder and Asana CEO Dustin Moskovitz >> <https://www.openphilanthropy.org/about-us/> and his wife Cari Tuna, are >> already involved in negotiations that will shape Capitol Hill’s >> accelerating plans to regulate AI. And they’re closely tied to a >> powerful influence network that’s pushing Washington to focus on the >> technology’s long-term risks — a focus critics fear will divert Congress >> from more immediate rules that would tie the hands of tech firms. >> >> [...] >> >> continua qui: >> https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-polic… >> >> >> >>

Nov. 12, 2023

Re: [nexa] "How a billionaire-backed network of AI advisers took over Washington"

by maurizio lana

Il 12/11/23 14:53, "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it> ha scritto: > Date: Sun, 12 Nov 2023 14:31:09 +0100 > From: "J.C. DE MARTIN"<juancarlos.demartin(a)polito.it> > To: Nexa<nexa(a)server-nexa.polito.it> > Subject: [nexa] "How a billionaire-backed network of AI advisers took > over Washington" > > *How a billionaire-backed network of AI advisers took over Washington* > > /A sprawling network spread across Congress, federal agencies and think > tanks is pushing policymakers to put AI apocalypse at the top of the > agenda — potentially boxing out other worries and benefiting top AI > companies with ties to the network./ a proposito di "a sprawling network spread across Congress, federal agencies and think tanks", segnalo questo articolo sul Domenicale del Sole24ore di oggi 12 novembre:m Luigino Bruni. «La bolla delle società di consulenza» che recensisce Mariana Mazzucato, Rosie Collington, Il grande imbroglio, Laterza. Mazzucato e Collington mostrano che è un problema che riguarda tutti (che si presenta in tutti i paesi) Maurizio «La nostra analisi dell’industria della consulenza traccia un quadro cupo della situazione attuale. Tutti questi contratti con società che interpretano i ruoli più vari (consigliere, legittimatrici di decisioni controverse, appaltatrici di servizi esternalizzati) indeboliscono le imprese, infantilizzano il settore pubblico e distorcono l’economia» (p. 12). È questa la tesi principale del bel libro di Mariana Mazzucato e Rosie Collington, un saggio che tocca un tema decisivo e troppo trascurato del capitalismo contemporaneo, perché le molte forme della consulenza sono cresciute come un’edera attorno all’albero dell’economia e delle istituzioni, ormai fanno parte del paesaggio e non riusciamo più a percepirne la dimensione parassita e invasiva. Ma perché le società di consulenza soprattutto le grandi compagnie globali – da strumento di aiuto (come si presentano) sono, o dovrebbero essere, una debolezza di imprese, governo e istituzioni? E quando, e dove, e grazie a chi la consulenza da risorsa è diventata una minaccia? E perché l’industria cresce così velocemente, con un fatturato globale sﬁora i mille miliardi di dollari l’anno? Il libro, attraverso i vari capitoli (che sono forse troppi, con ripetizioni evitabili, con molti dati-fatti e non abbastanza teoria che invece potevamo aspettarci, visto l’alto proﬁlo della Mazzucato), cerca di rispondere esattamente a questa domanda cruciale. Una premessa. Nel XX secolo il paradigma dominante era la democrazia, e quindi la partecipazione. Nel XXI secolo il paradigma vincente e quindi ormai pervasivo è il business con le sue nuove élite e profeti: se vuoi fare una cosa seria devi imitare le grandi imprese, e per imitarle devi imparare da chi sa come si fanno le cose. Una pervasività che dall’economia è emigrata ad ogni tipo di istituzione, sempre più quelle politiche. Le autrici sono molto preoccupate del crescente ruolo dei consulenti dentro Governi dei Paesi e nelle istituzioni internazionali – e nelle Ong, nelle religioni e nelle chiese, aggiungo io. Ecco allora splendere la ﬁgura del consulente top-di-gamma, che, con spettacolari power point e citazioni ad effetto di poeti e guru, si presenta come una ﬁgura di medico universale delle istituzioni. In quanto tecnico non incontra la difﬁdenza che hanno incontrato gli esperti di ieri (professori, intellettuali, persino scienziati), perché i nuovi medici sono ideologicamente neutrali: parlano in nome della oggettiva tecnica, e quindi le loro diagnosi e le loro terapie sono auto-evidenti. I due aspetti per me cruciali del libro sono l’infantilizzazione e l’outsourcing delle competenze. L’infantilizzazione dei governi (cap. 6), ma anche delle organizzazioni, nasce dalla progressiva riduzione di autonomia delle imprese in mano alla consulenza. Ciò che all’inizio si presenta come un aiuto al management, con il tempo diventa una presenza via via più pervasiva e sostitutiva, che cresce insieme all’insicurezza di imprenditori e management che, presto, si ritrovano a perdere autonomia per le scelte più importanti. Si crea quella che le autrici chiamano una versa e propria “dipendenza” (addiction) da consulenti, e, come tutte le dipendenze, per mantenere domani la stessa soddisfazione di oggi devo aumentare la dote. Ciò che nel Novecento era afﬁdato al management sta passando alla consulenza, in un contratto narcisistico mutuamente vantaggioso, almeno così appare ad entrambe le parti – la dipendenza perniciosa si rivela col tempo (p. 156). La consulenza, poi, cresce soprattutto come risposta ad una domanda dal mondo delle imprese e delle istituzioni: «l’offerta è una risposta ad una domanda» (p. 104). E ciò perché la presenza delle grandi società di consulenza svolge la funzione di certiﬁcazione di scelte delicate e controverse, sulle quali le imprese-istituzioni sono insicure, in un mercato e un mondo sempre più complesso. E così il consulente certiﬁca – come si certiﬁcano i bilanci – che quella scelta è seria, tranquillizzando non solo gli stakeholders ma anche e soprattutto gli stessi imprenditori e manager: «I consulenti vengono assoldati perché possono fornire una legittimazione alle decisioni del manager» (p. 127). L’infantilizzazione è dunque perdita di autonomia, di responsabilità e di controllo sulle scelte che vengono “appaltate” a terzi; ma, e qui sta il punto, una volta che la parte più importante delle dinamiche aziendali sono esternalizzate le aziende perdono conoscenza, know-how e know-why, e si ritrovano sempre più dipendenti da chi quelle conoscenze le ha, e che usa spesso in conﬂitto oggettivo di interesse: le stesse compagnie assistono i governi per ridurre le emissioni di CO2 e le imprese che le aumentano (p. 241). Ecco perché la quota di valore aggiunto che va alla consulenza non è tecnicamente proﬁtto ma rendita (pp. 103 e ss.). L’esternalizzazione non si limita alle competenze, perché stiamo assistendo anche ad outsourcing delle relazioni e delle emozioni aziendali. Se ai consulenti di cui parla il libro aggiungiamo anche la grande proliferazione di coach, counselor, psicologi del lavoro, facilitatori, esperti di risoluzione di conﬂitti…, ci accorgiamo che le imprese stanno rinunciando a gestire non solo strategie e governance: stanno rinunciando a gestire anche le loro persone, soprattutto le loro criticità e le fragilità, come hanno rinunciato alla mensa e alle pulizie appaltandole ad agenzie esterne. Il consulente è un mediatore, a cui io impresa do l’incarico di “toccarti” al mio posto, per evitare il contagio della relazione. È una forma di immunitas, direbbe R. Esposito. La consulenza è dunque buona solo se segue il “principio di sussidiarietà”, se è di aiuto al management e non sostituto come invece in genere accade, perché il mondo della consulenza è quasi per natura anti-sussidiario – arriva con soluzioni e protocolli che troppo velocemente applica alla realtà senza averla prima sufﬁciente e adeguatamente auscultata. C’è, inﬁne, un altro grande pericolo che le autrici segnalano (insieme a molti altri). È quello del potere senza rischio. Queste imprese di consulenza inﬂuenzano e spesso dettano le scelte delle aziende ma non si assumono le conseguenze di queste azioni. Si spezza così il nesso tra potere e responsabilità, che era al cuore non solo delle imprese ma, come dicono molte volte la Mazzucato e la Collington, della stessa democrazia. Il saggio è dunque un Sos politico e civile lanciato al cuore del nostro capitalismo, che è stato sempre governato da élite (lo sapevano bene già Pareto e Mosca nell’Ottocento), ma ora le élite sono sempre più invisibili perché nascoste sotto la retorica della tecnica. Mariana Mazzucato, Rosie Collington Il grande imbroglio Laterza, pagg. 352, € 26 > > By Brendan Bordelon > > 10/13/2023 05:00 AM EDT > > An organization backed by Silicon Valley billionaires and tied to > leading artificial intelligence firms is funding the salaries of more > than a dozen AI fellows in key congressional offices, across federal > agencies and at influential think tanks. > > The fellows funded by Open Philanthropy, which is financed primarily by > billionaire Facebook co-founder and Asana CEO Dustin Moskovitz > <https://www.openphilanthropy.org/about-us/> and his wife Cari Tuna, are > already involved in negotiations that will shape Capitol Hill’s > accelerating plans to regulate AI. And they’re closely tied to a > powerful influence network that’s pushing Washington to focus on the > technology’s long-term risks — a focus critics fear will divert Congress > from more immediate rules that would tie the hands of tech firms. > > [...] > > continua qui: > https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-polic… > > > > -------------- next part -------------- > An HTML attachment was scrubbed... > URL:<http://server-nexa.polito.it/pipermail/nexa/attachments/20231112/7579ebf3/a…> > > ------------------------------ > > Message: 2 > Date: Sun, 12 Nov 2023 13:53:11 +0000 > From: Roberto Dolci<rob.dolci(a)aizoon.us> > To: "J.C. DE MARTIN"<juancarlos.demartin(a)polito.it>, Nexa > <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] "How a billionaire-backed network of AI advisers > took over Washington" > Message-ID:<52dfb5fd4e954accbee3dddc0a8f23bb(a)aizoon.us> > Content-Type: text/plain; charset="utf-8" > > L’Executive Order contiene dei buoni principi ma sbaglia completamente l’approccio all’open source e specialmente al tema del controllo, favorendo le grandi multinazionali a discapito di piccole aziende, ricercatori e spinoff. Un pasticcio, di cui ho scritto su Zafferano.News ieri. > Ciao > Rob > > From: nexa<nexa-bounces(a)server-nexa.polito.it> On Behalf Of J.C. DE MARTIN > Sent: Sunday, November 12, 2023 7:31 AM > To: Nexa<nexa(a)server-nexa.polito.it> > Subject: [nexa] " > How a billionaire-backed network of AI advisers took over Washington > > A sprawling network spread across Congress, federal agencies and think tanks is pushing policymakers to put AI apocalypse at the top of the agenda — potentially boxing out other worries and benefiting top AI companies with ties to the network. > > By Brendan Bordelon > > 10/13/2023 05:00 AM EDT > > An organization backed by Silicon Valley billionaires and tied to leading artificial intelligence firms is funding the salaries of more than a dozen AI fellows in key congressional offices, across federal agencies and at influential think tanks. > > The fellows funded by Open Philanthropy, which is financed primarily by billionaire Facebook co-founder and Asana CEO Dustin Moskovitz<https://eu-west-1.protection.sophos.com?d=openphilanthropy.org&u=aHR0cHM6Ly…> and his wife Cari Tuna, are already involved in negotiations that will shape Capitol Hill’s accelerating plans to regulate AI. And they’re closely tied to a powerful influence network that’s pushing Washington to focus on the technology’s long-term risks — a focus critics fear will divert Congress from more immediate rules that would tie the hands of tech firms. > > [...] > > continua qui:https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-p…<https://eu-west-1.protection.sophos.com?d=politico.com&u=aHR0cHM6Ly93d3cucG…> > > > > -------------- next part -------------- > An HTML attachment was scrubbed... > URL:<http://server-nexa.polito.it/pipermail/nexa/attachments/20231112/328eb9b4/a…> > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 175, Issue 11 > ************************************* ------------------------------------------------------------------------ e non sapevano che celavo una continua attesa d'andarmene D. M. Turoldo ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Nov. 12, 2023

Re: [nexa] "How a billionaire-backed network of AI advisers took over Washington"

by Roberto Dolci

L’Executive Order contiene dei buoni principi ma sbaglia completamente l’approccio all’open source e specialmente al tema del controllo, favorendo le grandi multinazionali a discapito di piccole aziende, ricercatori e spinoff. Un pasticcio, di cui ho scritto su Zafferano.News ieri. Ciao Rob From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of J.C. DE MARTIN Sent: Sunday, November 12, 2023 7:31 AM To: Nexa <nexa(a)server-nexa.polito.it> Subject: [nexa] " How a billionaire-backed network of AI advisers took over Washington A sprawling network spread across Congress, federal agencies and think tanks is pushing policymakers to put AI apocalypse at the top of the agenda — potentially boxing out other worries and benefiting top AI companies with ties to the network. By Brendan Bordelon 10/13/2023 05:00 AM EDT An organization backed by Silicon Valley billionaires and tied to leading artificial intelligence firms is funding the salaries of more than a dozen AI fellows in key congressional offices, across federal agencies and at influential think tanks. The fellows funded by Open Philanthropy, which is financed primarily by billionaire Facebook co-founder and Asana CEO Dustin Moskovitz<https://eu-west-1.protection.sophos.com?d=openphilanthropy.org&u=aHR0cHM6Ly…> and his wife Cari Tuna, are already involved in negotiations that will shape Capitol Hill’s accelerating plans to regulate AI. And they’re closely tied to a powerful influence network that’s pushing Washington to focus on the technology’s long-term risks — a focus critics fear will divert Congress from more immediate rules that would tie the hands of tech firms. [...] continua qui: https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-polic…<https://eu-west-1.protection.sophos.com?d=politico.com&u=aHR0cHM6Ly93d3cucG…>

Nov. 12, 2023