nexa

By thread

nexa@server-nexa.polito.it

December 2023

31 participants
56 messages

Re: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy

by Benedetto Ponti

Complimenti a Daniela, che mi fornisce un riferimento solidissimo da inserire in bibliografia per tutte le volte che cercherò di argomentare come il ricorso al ML predittivo come meccanismo decisionale da parte della PA (non importa se l'algoritmo e poi fatto in casa o fornito dall'esterno) comporta inevitabilmente una ineliminabile pre-impostazione neoliberista. Segnalo a Maurizio che un paio di anni fa avevo organizzato un intenso seminario dedicato al tema delle big tech inquadrate come "sovrani privati", appuntamento cui colpevolmente non fece seguito una qualche pubblicazione. https://asimmetrie.org/eventi/sovrani-privati-poteri-e-legalita-nel-capital… Un saluto a tutti! Benedetto Ponti Inviato da Outlook per Android<https://aka.ms/AAb9ysg> ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Marco Giraudo via nexa <nexa(a)server-nexa.polito.it> Sent: Saturday, December 2, 2023 4:30:51 PM To: Daniela Tafani <daniela.tafani(a)unipi.it> Cc: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it>; maurizio lana <maurizio.lana(a)uniupo.it> Subject: Re: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Cari Daniela, Caro Maurizio, Mi unisco ai complimenti a Daniela per l'articolo, davvero compelling. In due battute provo a chiarire cosa intendo per bolla giuridica e se ed in che modo sono ottimista riguardo al fatto che scoppi presto. In prima battuta, credo che la bolla sia una fase matura e che l'attuale hype sull'AI sia un'ulteriore tentativo di non affrontare il tema fondamentale delle basi giuridiche instabili dell'economia digitale. Credo che la mancanza di coraggio politico dell'Europa non faccia altro che aggravare lo stato di anomalia economico-giuridica che affligge i mercati digitali. La speranza è che le scommesse di mercificazione alla base della bolla giuridica siano apertamente respinte, facendo così scoppiare la bolla. Tuttavia i tempi sono imprevedibili, il presente giuridico rimane esteso e pertanto diversi futuri giuridico sono tuttora in competizione. Infattti, come accade in finanza vale sempre l'adagio: "do not try to time the market, for it can be irrational for longer than you can remain solvent'... credo che questa valga anche e soprattutto nel mercato delle regole. Purtroppo, come accade nelle bolle speculative, è sempre possibile che gli investitori che hanno azzardato troppo ed investito in maniera irrazionale vengano "bailed out" dal sistema. Quindi è possibile che la bolla non scoppi, ma ad un costo politico e giuridico imponderabile derivante dalle gravi dissonanze giuridiche che ne potrebbero scaturire in termini democratico e di rule of law. Come dico in un libretto del 2022 sulla crisi americana dei mutui ipotecari, le corti supreme ed il legislatore in alcuni casi possono "arrivare in soccorso" e socializzare i costi di scommesse giuridiche fallite, di fatto modificando ex post i parametri constituzionali ed imperativi in base ai quali le scommesse giuridiche sono state respinte. Tuttavia, tali legal bail out hanno costi enormi in termini di certezza giuridica e stabilità politica. Chissà, il futuro giuridico è incerto ed in qualche modo è anche il riflesso delle azioni e delle immagini di futuro che noi stessi abbiamo. La teoria delle bolle giuridiche vuole anche essere uno strumento di rappresentazione ed azione verso un certo futuro gius-economico possibile (e da parte di molti auspicabile). A presto Marco Il Sab 2 Dic 2023, 16:02 Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> ha scritto: Caro Maurizio, grazie molte delle osservazioni (e di aver già letto il mio articolo!). Quanto a Marco Giraudo, lascio senz'altro a lui la risposta. Io cito due volte i suoi lavori perché trovo felice l'espressione "bolla giuridica" (della durata della bolla non ho idea) e perché trovo che sostenere che la regolazione giuridica del furto debba essere scritta insieme al ladro equivalga ad allearsi col ladro medesimo o a dichiarare la propria insignificanza. Sono consapevole, naturalmente, del ruolo che la dimensione e la forza del ladro hanno avuto, storicamente. Nel De Republica, Cicerone aveva riportato questo aneddoto: Alessandro Magno chiese a un pirata, da lui catturato, per quale scellerato impulso infestasse il mare col proprio naviglio; il pirata gli rispose, «con verità ed eleganza», che si trattava del medesimo impulso che spingeva lo stesso Alessandro Magno «ad infestare il mondo intero». La replica del pirata fu completata da Agostino quasi cinque secoli dopo: "perché io faccio ciò, con un piccolo naviglio, sono chiamato ladro, e perché tu lo fai con grande flotta, sei chiamato principe". Della distinzione tra uno Stato e una banda di ladri mi sono occupata qui: https://mulino.it/isbn/9788815251329 Concordo con te che la questione dell'educazione sia decisiva. Proprio per questo credo che meriti una trattazione dedicata. Qui, volevo concentrarmi sui soli sistemi di ottimizzazione predittiva, perché ritengo che abbiano proprietà politiche intrinseche. Nell'ambito educativo sono utilizzati anche sistemi che non hanno proprietà politiche intrinseche e che potrebbero dunque essere progettati per l'emancipazione, anziché per l'asservimento, se l'IA non fosse, come adesso, un derivato della sorveglianza (e di un assetto coloniale, per cui sono presentati come nulli tutti i costi che sono scaricati su lavoratori e territori a debita distanza). Buon fine settimana, Daniela ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di maurizio lana <maurizio.lana(a)uniupo.it<mailto:maurizio.lana@uniupo.it>> Inviato: sabato 2 dicembre 2023 15:07 A: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Il 30/11/23 16:24, Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>><mailto:daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>> ha scritto: Date: Thu, 30 Nov 2023 15:24:13 +0000 From: Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>><mailto:daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>> Subject: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Buon pomeriggio, vi sottopongo il postprint di un mio articolo che è stato accettato da "Ethics & Politics", Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy. Questo è l'abstract: In predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned. Qui il testo completo: https://doi.org/10.5281/zenodo.10229060 Vi sarò grata di qualsiasi osservazione. ho letto l'articolo. trovo che raccolga e intrecci in modo molto efficace i fili di questioni di grande rilevanza. due osservazioni, se posso là dove scrivi Considering all this, one cannot but agree with those who observe that the use of ML systems for decision-making purposes in areas relevant to people's lives is tantamount to the creation, through administrative decisions, of “almost human rights-free zones”.(94) The development, sale and use of predictive optimisation systems is exploiting a “legal bubble”,(95) ie, it is taking place in violation of legally protected rights, betting on a subsequent legal rescue in the name of the inevitability of technological innovation(96). alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles. un anno prima, in Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at the Core of the Digital Economy». Journal of Institutional Economics 18, fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa anche se con passo più lento di quello della tecnologia, attiva e regolamenta. mentre nell'articolo che citi ora Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno 2023. https://papers.ssrn.com/abstract=4499785. Giraudo et al,. paiono più preoccupati del futuro perché il modello che vede la cooperazione degli stati con le aziende a fini regolativi si basa a loro avviso su un'eccessiva fiducia nella buona volontà degli attori privati: "the EU Commission is adopting an economic primacy approach, showing that a kind of deference to corporate expertise and techno epistemic communities, especially when closely linked to corporate interests, is still very influential and conducive to the repetition of regulatory failures." ritengo che la legislazione sia in termini generali e di principio la risorsa da utilizzare per indirizzare in modo corretto le forze che operano nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un passo nel riconoscimento che le grandi aziende del mondo digitale (che sia hanno strapotenza economica sia sono dativore) si comportano come stati nazionali e gli stati nazionali 'storici' gli riconoscono questa status, nei fatti. Marcus, Gary. «Critical national security questions should not be decided unilaterally by unelected tech leaders». Substack newsletter. Marcus on AI (blog), 28 novembre 2023. https://garymarcus.substack.com/p/critical-national-security-questions?publ…. l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le prospettive di introduzione di sistemi di IA per gestire la scuola, la formazione, l'educazione: la formazione ha al centro la concezione che l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - appunto - individuale e originale; e che la società si giova di questa proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. forma individui standard, butta fuori quelli irregolari, e per chi comanda non ci saranno più problemi. una distopia realizzata secondo me questo è un campo di azione di contrasto all'IA particolarmente importante. buon w.e. Maurizio ________________________________ la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. la Repubblica detta le norme generali sull'istruzione ed istituisce scuole statali per tutti gli ordini e gradi. Costituzione della Repubblica Italiana, art. 9 e 33 ________________________________ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Dec. 3, 2023

Amazon’s Q has ‘severe hallucinations’ and leaks confidential data in public preview, employees warn

by Daniela Tafani

Amazon’s Q has ‘severe hallucinations’ and leaks confidential data in public preview, employees warn Some hallucinations could ‘potentially induce cardiac incidents in Legal,’ according to internal documents Zoë Schiff - 2 dic 2023 Three days after Amazon announced its AI chatbot Q, some employees are sounding alarms about accuracy and privacy issues. Q is “experiencing severe hallucinations and leaking confidential data,” including the location of AWS data centers, internal discount programs, and unreleased features, according to leaked documents obtained by Platformer. An employee marked the incident as “sev 2,” meaning an incident bad enough to warrant paging engineers at night and make them work through the weekend to fix it. Q’s early woes come at a time when Amazon is working to fight the perception that Microsoft, Google, and other tech companies have surpassed it in the race to build tools and infrastructure that take advantage of generative artificial intelligence. In September, the company announced it would invest up to $4 billion in AI startup Anthropic. On Tuesday, at its annual Amazon Web Services developer conference, it announced Q — arguably the highest-profile release in the series of new AI initiatives the company unveiled this week. In a statement, Amazon played down the significance of the employee discussions. “Some employees are sharing feedback through internal channels and ticketing systems, which is standard practice at Amazon,” a spokesperson said. “No security issue was identified as a result of that feedback. We appreciate all of the feedback we’ve already received and will continue to tune Q as it transitions from being a product in preview to being generally available.” After publication, the spokesperson sent another statement pushing back on employees’ claims: “Amazon Q has not leaked confidential information.” Q, which is now available in a free preview, was presented as a kind of enterprise-software version of ChatGPT. Initially, it will be able to answer developers’ questions about AWS, edit source code, and cite sources, Amazon executives said onstage this week. It will compete with similar tools from Microsoft and Google but be priced lower than rivals’, at least to start. In unveiling Q, executives promoted it as more secure than consumer-grade tools like ChatGPT. Adam Selipsky, CEO of Amazon Web Services, told the New York Times that companies “had banned these A.I. assistants from the enterprise because of the security and privacy concerns.” In response, the Times reported, “Amazon built Q to be more secure and private than a consumer chatbot.” An internal document about Q’s hallucinations and wrong answers notes that “Amazon Q can hallucinate and return harmful or inappropriate responses. For example, Amazon Q might return out of date security information that could put customer accounts at risk.” The risks outlined in the document are typical of large language models, all of which return incorrect or inappropriate responses at least some of the time. https://www.platformer.news/p/amazons-q-has-severe-hallucinations

Dec. 2, 2023

Re: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy

by Marco Giraudo

Cari Daniela, Caro Maurizio, Mi unisco ai complimenti a Daniela per l'articolo, davvero compelling. In due battute provo a chiarire cosa intendo per bolla giuridica e se ed in che modo sono ottimista riguardo al fatto che scoppi presto. In prima battuta, credo che la bolla sia una fase matura e che l'attuale hype sull'AI sia un'ulteriore tentativo di non affrontare il tema fondamentale delle basi giuridiche instabili dell'economia digitale. Credo che la mancanza di coraggio politico dell'Europa non faccia altro che aggravare lo stato di anomalia economico-giuridica che affligge i mercati digitali. La speranza è che le scommesse di mercificazione alla base della bolla giuridica siano apertamente respinte, facendo così scoppiare la bolla. Tuttavia i tempi sono imprevedibili, il presente giuridico rimane esteso e pertanto diversi futuri giuridico sono tuttora in competizione. Infattti, come accade in finanza vale sempre l'adagio: "do not try to time the market, for it can be irrational for longer than you can remain solvent'... credo che questa valga anche e soprattutto nel mercato delle regole. Purtroppo, come accade nelle bolle speculative, è sempre possibile che gli investitori che hanno azzardato troppo ed investito in maniera irrazionale vengano "bailed out" dal sistema. Quindi è possibile che la bolla non scoppi, ma ad un costo politico e giuridico imponderabile derivante dalle gravi dissonanze giuridiche che ne potrebbero scaturire in termini democratico e di rule of law. Come dico in un libretto del 2022 sulla crisi americana dei mutui ipotecari, le corti supreme ed il legislatore in alcuni casi possono "arrivare in soccorso" e socializzare i costi di scommesse giuridiche fallite, di fatto modificando ex post i parametri constituzionali ed imperativi in base ai quali le scommesse giuridiche sono state respinte. Tuttavia, tali legal bail out hanno costi enormi in termini di certezza giuridica e stabilità politica. Chissà, il futuro giuridico è incerto ed in qualche modo è anche il riflesso delle azioni e delle immagini di futuro che noi stessi abbiamo. La teoria delle bolle giuridiche vuole anche essere uno strumento di rappresentazione ed azione verso un certo futuro gius-economico possibile (e da parte di molti auspicabile). A presto Marco Il Sab 2 Dic 2023, 16:02 Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: > Caro Maurizio, > > grazie molte delle osservazioni (e di aver già letto il mio articolo!). > > Quanto a Marco Giraudo, lascio senz'altro a lui la risposta. > Io cito due volte i suoi lavori perché trovo felice l'espressione "bolla > giuridica" > (della durata della bolla non ho idea) e perché trovo che sostenere che > la regolazione giuridica del furto debba essere scritta insieme al ladro > equivalga ad allearsi col ladro medesimo o a dichiarare la propria > insignificanza. > > Sono consapevole, naturalmente, del ruolo che la dimensione e la forza del > ladro hanno avuto, storicamente. > Nel De Republica, Cicerone aveva riportato questo aneddoto: > Alessandro Magno chiese a un pirata, da lui catturato, per quale > scellerato impulso infestasse il mare col proprio naviglio; > il pirata gli rispose, «con verità ed eleganza», che si trattava del > medesimo impulso > che spingeva lo stesso Alessandro Magno «ad infestare il mondo intero». > La replica del pirata fu completata da Agostino quasi cinque secoli dopo: > "perché io faccio ciò, > con un piccolo naviglio, sono chiamato ladro, e perché tu lo fai con > grande flotta, sei chiamato principe". > > Della distinzione tra uno Stato e una banda di ladri mi sono occupata qui: > https://mulino.it/isbn/9788815251329 > > Concordo con te che la questione dell'educazione sia decisiva. Proprio per > questo credo che meriti una trattazione dedicata. > Qui, volevo concentrarmi sui soli sistemi di ottimizzazione predittiva, > perché ritengo che abbiano proprietà politiche intrinseche. > Nell'ambito educativo sono utilizzati anche sistemi che non hanno > proprietà politiche intrinseche > e che potrebbero dunque essere progettati per l'emancipazione, anziché per > l'asservimento, > se l'IA non fosse, come adesso, un derivato della sorveglianza > (e di un assetto coloniale, per cui sono presentati come nulli tutti i > costi che sono scaricati su lavoratori e territori a debita distanza). > > Buon fine settimana, > Daniela > ________________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di maurizio lana < > maurizio.lana(a)uniupo.it> > Inviato: sabato 2 dicembre 2023 15:07 > A: nexa(a)server-nexa.polito.it > Oggetto: [nexa] Postprint: Do AI systems have politics? Predictive > optimisation as a move away from the rule of law, liberalism and democracy > > Il 30/11/23 16:24, > > Daniela Tafani <daniela.tafani(a)unipi.it><mailto:daniela.tafani@unipi.it> > > ha scritto: > > Date: Thu, 30 Nov 2023 15:24:13 +0000 > From: Daniela Tafani <daniela.tafani(a)unipi.it><mailto: > daniela.tafani(a)unipi.it> > Subject: [nexa] Postprint: Do AI systems have politics? Predictive > optimisation as a move away from the rule of law, liberalism and > democracy > > Buon pomeriggio, > > vi sottopongo il postprint di un mio articolo che è stato accettato da > "Ethics & Politics", > > Do AI systems have politics? Predictive optimisation as a move away from > the rule of law, liberalism and democracy. > > Questo è l'abstract: > > In predictive optimisation systems, machine learning is used to predict > future outcomes of interest about individuals, and these predictions are > used to make decisions about them. Despite being based on > pseudoscience, not working and unfixably harmful, predictive > optimisation systems are still used by private companies and by > governments. As they are based on the assimilation of people to things, > predictive optimisation systems have inherent political properties that > cannot be altered by any technical design choice: the initial choice > about whether or not to adopt them is therefore decisive, as Langdon > Winner wrote about inherently political technologies. The adoption of > predictive optimisation systems is incompatible with liberalism and the > rule of law because it results in people not being recognised as > self-determining subjects, not being equal before the law, not being > able to predict which law will be applied to them, all being under > surveillance as ‘suspects’ and being able or unable to exercise their > rights in ways that depend not on their status as citizens, but on their > contingent economic, social, emotional, health or religious status. > Under the rule of law, these systems should simply be banned. > > Qui il testo completo: > https://doi.org/10.5281/zenodo.10229060 > > Vi sarò grata di qualsiasi osservazione. > > ho letto l'articolo. > trovo che raccolga e intrecci in modo molto efficace i fili di questioni > di grande rilevanza. > due osservazioni, se posso > > là dove scrivi > Considering all this, one cannot but agree with those who observe that the > use of ML systems for decision-making purposes in areas relevant to > people's lives is tantamount to the creation, through administrative > decisions, of “almost human rights-free zones”.(94) The development, sale > and use of predictive optimisation systems is exploiting a “legal > bubble”,(95) ie, it is taking place in violation of legally protected > rights, betting on a subsequent legal rescue in the name of the > inevitability of technological innovation(96). > alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles. > > un anno prima, in > Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at > the Core of the Digital Economy». Journal of Institutional Economics 18, > fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. > Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal > bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa > anche se con passo più lento di quello della tecnologia, attiva e > regolamenta. > > mentre nell'articolo che citi ora > Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. > «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno > 2023. https://papers.ssrn.com/abstract=4499785. > Giraudo et al,. paiono più preoccupati del futuro perché il modello che > vede la cooperazione degli stati con le aziende a fini regolativi si basa a > loro avviso su un'eccessiva fiducia nella buona volontà degli attori > privati: "the EU Commission is adopting an economic primacy approach, > showing that a kind of deference to corporate expertise and techno > epistemic communities, especially when closely linked to corporate > interests, is still very influential and conducive to the repetition of > regulatory failures." > > ritengo che la legislazione sia in termini generali e di principio la > risorsa da utilizzare per indirizzare in modo corretto le forze che operano > nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un > passo nel riconoscimento che le grandi aziende del mondo digitale (che sia > hanno strapotenza economica sia sono dativore) si comportano come stati > nazionali e gli stati nazionali 'storici' gli riconoscono questa status, > nei fatti. > Marcus, Gary. «Critical national security questions should not be decided > unilaterally by unelected tech leaders». Substack newsletter. Marcus on AI > (blog), 28 novembre 2023. > https://garymarcus.substack.com/p/critical-national-security-questions?publ… > . > > l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le > prospettive di introduzione di sistemi di IA per gestire la scuola, la > formazione, l'educazione: la formazione ha al centro la concezione che > l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - > appunto - individuale e originale; e che la società si giova di questa > proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. > forma individui standard, butta fuori quelli irregolari, e per chi comanda > non ci saranno più problemi. una distopia realizzata > secondo me questo è un campo di azione di contrasto all'IA particolarmente > importante. > > buon w.e. > Maurizio > > > > > > > > > > ________________________________ > > la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica > e tecnica. > la Repubblica detta le norme generali sull'istruzione ed istituisce scuole > statali per tutti gli ordini e gradi. > Costituzione della Repubblica Italiana, art. 9 e 33 > > ________________________________ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli >

Dec. 2, 2023

Re: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy

by Daniela Tafani

Caro Maurizio, grazie molte delle osservazioni (e di aver già letto il mio articolo!). Quanto a Marco Giraudo, lascio senz'altro a lui la risposta. Io cito due volte i suoi lavori perché trovo felice l'espressione "bolla giuridica" (della durata della bolla non ho idea) e perché trovo che sostenere che la regolazione giuridica del furto debba essere scritta insieme al ladro equivalga ad allearsi col ladro medesimo o a dichiarare la propria insignificanza. Sono consapevole, naturalmente, del ruolo che la dimensione e la forza del ladro hanno avuto, storicamente. Nel De Republica, Cicerone aveva riportato questo aneddoto: Alessandro Magno chiese a un pirata, da lui catturato, per quale scellerato impulso infestasse il mare col proprio naviglio; il pirata gli rispose, «con verità ed eleganza», che si trattava del medesimo impulso che spingeva lo stesso Alessandro Magno «ad infestare il mondo intero». La replica del pirata fu completata da Agostino quasi cinque secoli dopo: "perché io faccio ciò, con un piccolo naviglio, sono chiamato ladro, e perché tu lo fai con grande flotta, sei chiamato principe". Della distinzione tra uno Stato e una banda di ladri mi sono occupata qui: https://mulino.it/isbn/9788815251329 Concordo con te che la questione dell'educazione sia decisiva. Proprio per questo credo che meriti una trattazione dedicata. Qui, volevo concentrarmi sui soli sistemi di ottimizzazione predittiva, perché ritengo che abbiano proprietà politiche intrinseche. Nell'ambito educativo sono utilizzati anche sistemi che non hanno proprietà politiche intrinseche e che potrebbero dunque essere progettati per l'emancipazione, anziché per l'asservimento, se l'IA non fosse, come adesso, un derivato della sorveglianza (e di un assetto coloniale, per cui sono presentati come nulli tutti i costi che sono scaricati su lavoratori e territori a debita distanza). Buon fine settimana, Daniela ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di maurizio lana <maurizio.lana(a)uniupo.it> Inviato: sabato 2 dicembre 2023 15:07 A: nexa(a)server-nexa.polito.it Oggetto: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Il 30/11/23 16:24, Daniela Tafani <daniela.tafani(a)unipi.it><mailto:daniela.tafani@unipi.it> ha scritto: Date: Thu, 30 Nov 2023 15:24:13 +0000 From: Daniela Tafani <daniela.tafani(a)unipi.it><mailto:daniela.tafani@unipi.it> Subject: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Buon pomeriggio, vi sottopongo il postprint di un mio articolo che è stato accettato da "Ethics & Politics", Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy. Questo è l'abstract: In predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned. Qui il testo completo: https://doi.org/10.5281/zenodo.10229060 Vi sarò grata di qualsiasi osservazione. ho letto l'articolo. trovo che raccolga e intrecci in modo molto efficace i fili di questioni di grande rilevanza. due osservazioni, se posso là dove scrivi Considering all this, one cannot but agree with those who observe that the use of ML systems for decision-making purposes in areas relevant to people's lives is tantamount to the creation, through administrative decisions, of “almost human rights-free zones”.(94) The development, sale and use of predictive optimisation systems is exploiting a “legal bubble”,(95) ie, it is taking place in violation of legally protected rights, betting on a subsequent legal rescue in the name of the inevitability of technological innovation(96). alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles. un anno prima, in Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at the Core of the Digital Economy». Journal of Institutional Economics 18, fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa anche se con passo più lento di quello della tecnologia, attiva e regolamenta. mentre nell'articolo che citi ora Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno 2023. https://papers.ssrn.com/abstract=4499785. Giraudo et al,. paiono più preoccupati del futuro perché il modello che vede la cooperazione degli stati con le aziende a fini regolativi si basa a loro avviso su un'eccessiva fiducia nella buona volontà degli attori privati: "the EU Commission is adopting an economic primacy approach, showing that a kind of deference to corporate expertise and techno epistemic communities, especially when closely linked to corporate interests, is still very influential and conducive to the repetition of regulatory failures." ritengo che la legislazione sia in termini generali e di principio la risorsa da utilizzare per indirizzare in modo corretto le forze che operano nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un passo nel riconoscimento che le grandi aziende del mondo digitale (che sia hanno strapotenza economica sia sono dativore) si comportano come stati nazionali e gli stati nazionali 'storici' gli riconoscono questa status, nei fatti. Marcus, Gary. «Critical national security questions should not be decided unilaterally by unelected tech leaders». Substack newsletter. Marcus on AI (blog), 28 novembre 2023. https://garymarcus.substack.com/p/critical-national-security-questions?publ…. l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le prospettive di introduzione di sistemi di IA per gestire la scuola, la formazione, l'educazione: la formazione ha al centro la concezione che l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - appunto - individuale e originale; e che la società si giova di questa proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. forma individui standard, butta fuori quelli irregolari, e per chi comanda non ci saranno più problemi. una distopia realizzata secondo me questo è un campo di azione di contrasto all'IA particolarmente importante. buon w.e. Maurizio ________________________________ la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. la Repubblica detta le norme generali sull'istruzione ed istituisce scuole statali per tutti gli ordini e gradi. Costituzione della Repubblica Italiana, art. 9 e 33 ________________________________ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Dec. 2, 2023

Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy

by maurizio lana

Il 30/11/23 16:24, Daniela Tafani<daniela.tafani(a)unipi.it> ha scritto: > Date: Thu, 30 Nov 2023 15:24:13 +0000 > From: Daniela Tafani<daniela.tafani(a)unipi.it> > Subject: [nexa] Postprint: Do AI systems have politics? Predictive > optimisation as a move away from the rule of law, liberalism and > democracy > > Buon pomeriggio, > > vi sottopongo il postprint di un mio articolo che è stato accettato da > "Ethics & Politics", > > Do AI systems have politics? Predictive optimisation as a move away from > the rule of law, liberalism and democracy. > > Questo è l'abstract: > > In predictive optimisation systems, machine learning is used to predict > future outcomes of interest about individuals, and these predictions are > used to make decisions about them. Despite being based on > pseudoscience, not working and unfixably harmful, predictive > optimisation systems are still used by private companies and by > governments. As they are based on the assimilation of people to things, > predictive optimisation systems have inherent political properties that > cannot be altered by any technical design choice: the initial choice > about whether or not to adopt them is therefore decisive, as Langdon > Winner wrote about inherently political technologies. The adoption of > predictive optimisation systems is incompatible with liberalism and the > rule of law because it results in people not being recognised as > self-determining subjects, not being equal before the law, not being > able to predict which law will be applied to them, all being under > surveillance as ‘suspects’ and being able or unable to exercise their > rights in ways that depend not on their status as citizens, but on their > contingent economic, social, emotional, health or religious status. > Under the rule of law, these systems should simply be banned. > > Qui il testo completo: > https://doi.org/10.5281/zenodo.10229060 > > Vi sarò grata di qualsiasi osservazione. ho letto l'articolo. trovo che raccolga e intrecci in modo molto efficace i fili di questioni di grande rilevanza. due osservazioni, se posso là dove scrivi > Considering all this, one cannot but agree with those who observe that > the use of ML systems for decision-making purposes in areas relevant > to people's lives is tantamount to the creation, through > administrative decisions, of “almost human rights-free zones”.(94) The > development, sale and use of predictive optimisation systems is > exploiting a “legal bubble”,(95) ie, it is taking place in violation > of legally protected rights, betting on a subsequent legal rescue in > the name of the inevitability of technological innovation(96). alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles. un anno prima, in Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at the Core of the Digital Economy». /Journal of Institutional Economics/ 18, fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa anche se con passo più lento di quello della tecnologia, attiva e regolamenta. mentre nell'articolo che citi ora Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno 2023. https://papers.ssrn.com/abstract=4499785. Giraudo et al,. paiono più preoccupati del futuro perché il modello che vede la cooperazione degli stati con le aziende a fini regolativi si basa a loro avviso su un'eccessiva fiducia nella buona volontà degli attori privati: "the EU Commission is adopting an economic primacy approach, showing that a kind of deference to corporate expertise and techno epistemic communities, especially when closely linked to corporate interests, is still very influential and conducive to the repetition of regulatory failures." ritengo che la legislazione sia in termini generali e di principio la risorsa da utilizzare per indirizzare in modo corretto le forze che operano nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un passo nel riconoscimento che le grandi aziende del mondo digitale (che sia hanno strapotenza economica sia sono dativore) si comportano come stati nazionali e gli stati nazionali 'storici' gli riconoscono questa status, nei fatti. Marcus, Gary. «Critical national security questions should not be decided unilaterally by unelected tech leaders». Substack newsletter. /Marcus on AI/ (blog), 28 novembre 2023. https://garymarcus.substack.com/p/critical-national-security-questions?publ… <https://garymarcus.substack.com/p/critical-national-security-questions?publ…>. l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le prospettive di introduzione di sistemi di IA per gestire la scuola, la formazione, l'educazione: la formazione ha al centro la concezione che l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - appunto - individuale e originale; e che la società si giova di questa proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. forma individui standard, butta fuori quelli irregolari, e per chi comanda non ci saranno più problemi. una distopia realizzata secondo me questo è un campo di azione di contrasto all'IA particolarmente importante. buon w.e. Maurizio ------------------------------------------------------------------------ la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. la Repubblica detta le norme generali sull'istruzione ed istituisce scuole statali per tutti gli ordini e gradi. Costituzione della Repubblica Italiana, art. 9 e 33 ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Dec. 2, 2023

France bans ministers from WhatsApp, Signal; demands French alternatives

by Enrico Nardelli

https://www.politico.eu/article/france-requires-ministers-to-swap-whatsapp-… French Prime Minister Élisabeth Borne has banned widely used messaging applications WhatsApp, Telegram and Signal for ministers and their teams due to security vulnerabilities, according to a memo seen by POLITICO. "These digital tools are not devoid of security flaws, and therefore cannot guarantee the security of conversations and information shared via them," reads the document, dated November 22. Borne set a deadline of December 8 for the government to switch to using the French app Olvid instead, which is certified by France's cybersecurity agency ANSSI. Tchap, the government-developed secure messaging and collaboration app, launched in 2019, is also allowed. The news was first reported by French news outlet Le Point. "My team and I have been using it since July 2022. In December, the entire government will be using [Olvid], the world's most secure instant messaging system," French digital minister Jean-Noël Barrot confirmed on X. The government previously ordered civil servants to remove all types of social media platforms, gaming and video-streaming apps — including TikTok, CandyCrush and Netflix — from their work devices over cybersecurity and privacy concerns. -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Dec. 1, 2023