Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy
Il 30/11/23 16:24, Daniela Tafani<daniela.tafani@unipi.it> ha scritto:
Date: Thu, 30 Nov 2023 15:24:13 +0000 From: Daniela Tafani<daniela.tafani@unipi.it> Subject: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy
Buon pomeriggio,
vi sottopongo il postprint di un mio articolo che è stato accettato da "Ethics & Politics",
Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy.
Questo è l'abstract:
In predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned.
Qui il testo completo: https://doi.org/10.5281/zenodo.10229060
Vi sarò grata di qualsiasi osservazione. ho letto l'articolo. trovo che raccolga e intrecci in modo molto efficace i fili di questioni di grande rilevanza. due osservazioni, se posso
là dove scrivi
Considering all this, one cannot but agree with those who observe that the use of ML systems for decision-making purposes in areas relevant to people's lives is tantamount to the creation, through administrative decisions, of “almost human rights-free zones”.(94) The development, sale and use of predictive optimisation systems is exploiting a “legal bubble”,(95) ie, it is taking place in violation of legally protected rights, betting on a subsequent legal rescue in the name of the inevitability of technological innovation(96). alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles.
un anno prima, in Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at the Core of the Digital Economy». /Journal of Institutional Economics/ 18, fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa anche se con passo più lento di quello della tecnologia, attiva e regolamenta. mentre nell'articolo che citi ora Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno 2023. https://papers.ssrn.com/abstract=4499785. Giraudo et al,. paiono più preoccupati del futuro perché il modello che vede la cooperazione degli stati con le aziende a fini regolativi si basa a loro avviso su un'eccessiva fiducia nella buona volontà degli attori privati: "the EU Commission is adopting an economic primacy approach, showing that a kind of deference to corporate expertise and techno epistemic communities, especially when closely linked to corporate interests, is still very influential and conducive to the repetition of regulatory failures." ritengo che la legislazione sia in termini generali e di principio la risorsa da utilizzare per indirizzare in modo corretto le forze che operano nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un passo nel riconoscimento che le grandi aziende del mondo digitale (che sia hanno strapotenza economica sia sono dativore) si comportano come stati nazionali e gli stati nazionali 'storici' gli riconoscono questa status, nei fatti. Marcus, Gary. «Critical national security questions should not be decided unilaterally by unelected tech leaders». Substack newsletter. /Marcus on AI/ (blog), 28 novembre 2023. https://garymarcus.substack.com/p/critical-national-security-questions?publi... <https://garymarcus.substack.com/p/critical-national-security-questions?publi...>. l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le prospettive di introduzione di sistemi di IA per gestire la scuola, la formazione, l'educazione: la formazione ha al centro la concezione che l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - appunto - individuale e originale; e che la società si giova di questa proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. forma individui standard, butta fuori quelli irregolari, e per chi comanda non ci saranno più problemi. una distopia realizzata secondo me questo è un campo di azione di contrasto all'IA particolarmente importante. buon w.e. Maurizio ------------------------------------------------------------------------ la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. la Repubblica detta le norme generali sull'istruzione ed istituisce scuole statali per tutti gli ordini e gradi. Costituzione della Repubblica Italiana, art. 9 e 33 ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli
Caro Maurizio, grazie molte delle osservazioni (e di aver già letto il mio articolo!). Quanto a Marco Giraudo, lascio senz'altro a lui la risposta. Io cito due volte i suoi lavori perché trovo felice l'espressione "bolla giuridica" (della durata della bolla non ho idea) e perché trovo che sostenere che la regolazione giuridica del furto debba essere scritta insieme al ladro equivalga ad allearsi col ladro medesimo o a dichiarare la propria insignificanza. Sono consapevole, naturalmente, del ruolo che la dimensione e la forza del ladro hanno avuto, storicamente. Nel De Republica, Cicerone aveva riportato questo aneddoto: Alessandro Magno chiese a un pirata, da lui catturato, per quale scellerato impulso infestasse il mare col proprio naviglio; il pirata gli rispose, «con verità ed eleganza», che si trattava del medesimo impulso che spingeva lo stesso Alessandro Magno «ad infestare il mondo intero». La replica del pirata fu completata da Agostino quasi cinque secoli dopo: "perché io faccio ciò, con un piccolo naviglio, sono chiamato ladro, e perché tu lo fai con grande flotta, sei chiamato principe". Della distinzione tra uno Stato e una banda di ladri mi sono occupata qui: https://mulino.it/isbn/9788815251329 Concordo con te che la questione dell'educazione sia decisiva. Proprio per questo credo che meriti una trattazione dedicata. Qui, volevo concentrarmi sui soli sistemi di ottimizzazione predittiva, perché ritengo che abbiano proprietà politiche intrinseche. Nell'ambito educativo sono utilizzati anche sistemi che non hanno proprietà politiche intrinseche e che potrebbero dunque essere progettati per l'emancipazione, anziché per l'asservimento, se l'IA non fosse, come adesso, un derivato della sorveglianza (e di un assetto coloniale, per cui sono presentati come nulli tutti i costi che sono scaricati su lavoratori e territori a debita distanza). Buon fine settimana, Daniela ________________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di maurizio lana <maurizio.lana@uniupo.it> Inviato: sabato 2 dicembre 2023 15:07 A: nexa@server-nexa.polito.it Oggetto: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Il 30/11/23 16:24, Daniela Tafani <daniela.tafani@unipi.it><mailto:daniela.tafani@unipi.it> ha scritto: Date: Thu, 30 Nov 2023 15:24:13 +0000 From: Daniela Tafani <daniela.tafani@unipi.it><mailto:daniela.tafani@unipi.it> Subject: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Buon pomeriggio, vi sottopongo il postprint di un mio articolo che è stato accettato da "Ethics & Politics", Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy. Questo è l'abstract: In predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned. Qui il testo completo: https://doi.org/10.5281/zenodo.10229060 Vi sarò grata di qualsiasi osservazione. ho letto l'articolo. trovo che raccolga e intrecci in modo molto efficace i fili di questioni di grande rilevanza. due osservazioni, se posso là dove scrivi Considering all this, one cannot but agree with those who observe that the use of ML systems for decision-making purposes in areas relevant to people's lives is tantamount to the creation, through administrative decisions, of “almost human rights-free zones”.(94) The development, sale and use of predictive optimisation systems is exploiting a “legal bubble”,(95) ie, it is taking place in violation of legally protected rights, betting on a subsequent legal rescue in the name of the inevitability of technological innovation(96). alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles. un anno prima, in Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at the Core of the Digital Economy». Journal of Institutional Economics 18, fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa anche se con passo più lento di quello della tecnologia, attiva e regolamenta. mentre nell'articolo che citi ora Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno 2023. https://papers.ssrn.com/abstract=4499785. Giraudo et al,. paiono più preoccupati del futuro perché il modello che vede la cooperazione degli stati con le aziende a fini regolativi si basa a loro avviso su un'eccessiva fiducia nella buona volontà degli attori privati: "the EU Commission is adopting an economic primacy approach, showing that a kind of deference to corporate expertise and techno epistemic communities, especially when closely linked to corporate interests, is still very influential and conducive to the repetition of regulatory failures." ritengo che la legislazione sia in termini generali e di principio la risorsa da utilizzare per indirizzare in modo corretto le forze che operano nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un passo nel riconoscimento che le grandi aziende del mondo digitale (che sia hanno strapotenza economica sia sono dativore) si comportano come stati nazionali e gli stati nazionali 'storici' gli riconoscono questa status, nei fatti. Marcus, Gary. «Critical national security questions should not be decided unilaterally by unelected tech leaders». Substack newsletter. Marcus on AI (blog), 28 novembre 2023. https://garymarcus.substack.com/p/critical-national-security-questions?publi.... l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le prospettive di introduzione di sistemi di IA per gestire la scuola, la formazione, l'educazione: la formazione ha al centro la concezione che l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - appunto - individuale e originale; e che la società si giova di questa proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. forma individui standard, butta fuori quelli irregolari, e per chi comanda non ci saranno più problemi. una distopia realizzata secondo me questo è un campo di azione di contrasto all'IA particolarmente importante. buon w.e. Maurizio ________________________________ la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. la Repubblica detta le norme generali sull'istruzione ed istituisce scuole statali per tutti gli ordini e gradi. Costituzione della Repubblica Italiana, art. 9 e 33 ________________________________ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli
Cari Daniela, Caro Maurizio, Mi unisco ai complimenti a Daniela per l'articolo, davvero compelling. In due battute provo a chiarire cosa intendo per bolla giuridica e se ed in che modo sono ottimista riguardo al fatto che scoppi presto. In prima battuta, credo che la bolla sia una fase matura e che l'attuale hype sull'AI sia un'ulteriore tentativo di non affrontare il tema fondamentale delle basi giuridiche instabili dell'economia digitale. Credo che la mancanza di coraggio politico dell'Europa non faccia altro che aggravare lo stato di anomalia economico-giuridica che affligge i mercati digitali. La speranza è che le scommesse di mercificazione alla base della bolla giuridica siano apertamente respinte, facendo così scoppiare la bolla. Tuttavia i tempi sono imprevedibili, il presente giuridico rimane esteso e pertanto diversi futuri giuridico sono tuttora in competizione. Infattti, come accade in finanza vale sempre l'adagio: "do not try to time the market, for it can be irrational for longer than you can remain solvent'... credo che questa valga anche e soprattutto nel mercato delle regole. Purtroppo, come accade nelle bolle speculative, è sempre possibile che gli investitori che hanno azzardato troppo ed investito in maniera irrazionale vengano "bailed out" dal sistema. Quindi è possibile che la bolla non scoppi, ma ad un costo politico e giuridico imponderabile derivante dalle gravi dissonanze giuridiche che ne potrebbero scaturire in termini democratico e di rule of law. Come dico in un libretto del 2022 sulla crisi americana dei mutui ipotecari, le corti supreme ed il legislatore in alcuni casi possono "arrivare in soccorso" e socializzare i costi di scommesse giuridiche fallite, di fatto modificando ex post i parametri constituzionali ed imperativi in base ai quali le scommesse giuridiche sono state respinte. Tuttavia, tali legal bail out hanno costi enormi in termini di certezza giuridica e stabilità politica. Chissà, il futuro giuridico è incerto ed in qualche modo è anche il riflesso delle azioni e delle immagini di futuro che noi stessi abbiamo. La teoria delle bolle giuridiche vuole anche essere uno strumento di rappresentazione ed azione verso un certo futuro gius-economico possibile (e da parte di molti auspicabile). A presto Marco Il Sab 2 Dic 2023, 16:02 Daniela Tafani <daniela.tafani@unipi.it> ha scritto:
Caro Maurizio,
grazie molte delle osservazioni (e di aver già letto il mio articolo!).
Quanto a Marco Giraudo, lascio senz'altro a lui la risposta. Io cito due volte i suoi lavori perché trovo felice l'espressione "bolla giuridica" (della durata della bolla non ho idea) e perché trovo che sostenere che la regolazione giuridica del furto debba essere scritta insieme al ladro equivalga ad allearsi col ladro medesimo o a dichiarare la propria insignificanza.
Sono consapevole, naturalmente, del ruolo che la dimensione e la forza del ladro hanno avuto, storicamente. Nel De Republica, Cicerone aveva riportato questo aneddoto: Alessandro Magno chiese a un pirata, da lui catturato, per quale scellerato impulso infestasse il mare col proprio naviglio; il pirata gli rispose, «con verità ed eleganza», che si trattava del medesimo impulso che spingeva lo stesso Alessandro Magno «ad infestare il mondo intero». La replica del pirata fu completata da Agostino quasi cinque secoli dopo: "perché io faccio ciò, con un piccolo naviglio, sono chiamato ladro, e perché tu lo fai con grande flotta, sei chiamato principe".
Della distinzione tra uno Stato e una banda di ladri mi sono occupata qui: https://mulino.it/isbn/9788815251329
Concordo con te che la questione dell'educazione sia decisiva. Proprio per questo credo che meriti una trattazione dedicata. Qui, volevo concentrarmi sui soli sistemi di ottimizzazione predittiva, perché ritengo che abbiano proprietà politiche intrinseche. Nell'ambito educativo sono utilizzati anche sistemi che non hanno proprietà politiche intrinseche e che potrebbero dunque essere progettati per l'emancipazione, anziché per l'asservimento, se l'IA non fosse, come adesso, un derivato della sorveglianza (e di un assetto coloniale, per cui sono presentati come nulli tutti i costi che sono scaricati su lavoratori e territori a debita distanza).
Buon fine settimana, Daniela ________________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di maurizio lana < maurizio.lana@uniupo.it> Inviato: sabato 2 dicembre 2023 15:07 A: nexa@server-nexa.polito.it Oggetto: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy
Il 30/11/23 16:24,
Daniela Tafani <daniela.tafani@unipi.it><mailto:daniela.tafani@unipi.it>
ha scritto:
Date: Thu, 30 Nov 2023 15:24:13 +0000 From: Daniela Tafani <daniela.tafani@unipi.it><mailto: daniela.tafani@unipi.it> Subject: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy
Buon pomeriggio,
vi sottopongo il postprint di un mio articolo che è stato accettato da "Ethics & Politics",
Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy.
Questo è l'abstract:
In predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned.
Qui il testo completo: https://doi.org/10.5281/zenodo.10229060
Vi sarò grata di qualsiasi osservazione.
ho letto l'articolo. trovo che raccolga e intrecci in modo molto efficace i fili di questioni di grande rilevanza. due osservazioni, se posso
là dove scrivi Considering all this, one cannot but agree with those who observe that the use of ML systems for decision-making purposes in areas relevant to people's lives is tantamount to the creation, through administrative decisions, of “almost human rights-free zones”.(94) The development, sale and use of predictive optimisation systems is exploiting a “legal bubble”,(95) ie, it is taking place in violation of legally protected rights, betting on a subsequent legal rescue in the name of the inevitability of technological innovation(96). alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles.
un anno prima, in Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at the Core of the Digital Economy». Journal of Institutional Economics 18, fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa anche se con passo più lento di quello della tecnologia, attiva e regolamenta.
mentre nell'articolo che citi ora Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno 2023. https://papers.ssrn.com/abstract=4499785. Giraudo et al,. paiono più preoccupati del futuro perché il modello che vede la cooperazione degli stati con le aziende a fini regolativi si basa a loro avviso su un'eccessiva fiducia nella buona volontà degli attori privati: "the EU Commission is adopting an economic primacy approach, showing that a kind of deference to corporate expertise and techno epistemic communities, especially when closely linked to corporate interests, is still very influential and conducive to the repetition of regulatory failures."
ritengo che la legislazione sia in termini generali e di principio la risorsa da utilizzare per indirizzare in modo corretto le forze che operano nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un passo nel riconoscimento che le grandi aziende del mondo digitale (che sia hanno strapotenza economica sia sono dativore) si comportano come stati nazionali e gli stati nazionali 'storici' gli riconoscono questa status, nei fatti. Marcus, Gary. «Critical national security questions should not be decided unilaterally by unelected tech leaders». Substack newsletter. Marcus on AI (blog), 28 novembre 2023. https://garymarcus.substack.com/p/critical-national-security-questions?publi... .
l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le prospettive di introduzione di sistemi di IA per gestire la scuola, la formazione, l'educazione: la formazione ha al centro la concezione che l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - appunto - individuale e originale; e che la società si giova di questa proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. forma individui standard, butta fuori quelli irregolari, e per chi comanda non ci saranno più problemi. una distopia realizzata secondo me questo è un campo di azione di contrasto all'IA particolarmente importante.
buon w.e. Maurizio
________________________________
la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. la Repubblica detta le norme generali sull'istruzione ed istituisce scuole statali per tutti gli ordini e gradi. Costituzione della Repubblica Italiana, art. 9 e 33
________________________________ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli
Complimenti a Daniela, che mi fornisce un riferimento solidissimo da inserire in bibliografia per tutte le volte che cercherò di argomentare come il ricorso al ML predittivo come meccanismo decisionale da parte della PA (non importa se l'algoritmo e poi fatto in casa o fornito dall'esterno) comporta inevitabilmente una ineliminabile pre-impostazione neoliberista. Segnalo a Maurizio che un paio di anni fa avevo organizzato un intenso seminario dedicato al tema delle big tech inquadrate come "sovrani privati", appuntamento cui colpevolmente non fece seguito una qualche pubblicazione. https://asimmetrie.org/eventi/sovrani-privati-poteri-e-legalita-nel-capitali... Un saluto a tutti! Benedetto Ponti Inviato da Outlook per Android<https://aka.ms/AAb9ysg> ________________________________ From: nexa <nexa-bounces@server-nexa.polito.it> on behalf of Marco Giraudo via nexa <nexa@server-nexa.polito.it> Sent: Saturday, December 2, 2023 4:30:51 PM To: Daniela Tafani <daniela.tafani@unipi.it> Cc: nexa@server-nexa.polito.it <nexa@server-nexa.polito.it>; maurizio lana <maurizio.lana@uniupo.it> Subject: Re: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Cari Daniela, Caro Maurizio, Mi unisco ai complimenti a Daniela per l'articolo, davvero compelling. In due battute provo a chiarire cosa intendo per bolla giuridica e se ed in che modo sono ottimista riguardo al fatto che scoppi presto. In prima battuta, credo che la bolla sia una fase matura e che l'attuale hype sull'AI sia un'ulteriore tentativo di non affrontare il tema fondamentale delle basi giuridiche instabili dell'economia digitale. Credo che la mancanza di coraggio politico dell'Europa non faccia altro che aggravare lo stato di anomalia economico-giuridica che affligge i mercati digitali. La speranza è che le scommesse di mercificazione alla base della bolla giuridica siano apertamente respinte, facendo così scoppiare la bolla. Tuttavia i tempi sono imprevedibili, il presente giuridico rimane esteso e pertanto diversi futuri giuridico sono tuttora in competizione. Infattti, come accade in finanza vale sempre l'adagio: "do not try to time the market, for it can be irrational for longer than you can remain solvent'... credo che questa valga anche e soprattutto nel mercato delle regole. Purtroppo, come accade nelle bolle speculative, è sempre possibile che gli investitori che hanno azzardato troppo ed investito in maniera irrazionale vengano "bailed out" dal sistema. Quindi è possibile che la bolla non scoppi, ma ad un costo politico e giuridico imponderabile derivante dalle gravi dissonanze giuridiche che ne potrebbero scaturire in termini democratico e di rule of law. Come dico in un libretto del 2022 sulla crisi americana dei mutui ipotecari, le corti supreme ed il legislatore in alcuni casi possono "arrivare in soccorso" e socializzare i costi di scommesse giuridiche fallite, di fatto modificando ex post i parametri constituzionali ed imperativi in base ai quali le scommesse giuridiche sono state respinte. Tuttavia, tali legal bail out hanno costi enormi in termini di certezza giuridica e stabilità politica. Chissà, il futuro giuridico è incerto ed in qualche modo è anche il riflesso delle azioni e delle immagini di futuro che noi stessi abbiamo. La teoria delle bolle giuridiche vuole anche essere uno strumento di rappresentazione ed azione verso un certo futuro gius-economico possibile (e da parte di molti auspicabile). A presto Marco Il Sab 2 Dic 2023, 16:02 Daniela Tafani <daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>> ha scritto: Caro Maurizio, grazie molte delle osservazioni (e di aver già letto il mio articolo!). Quanto a Marco Giraudo, lascio senz'altro a lui la risposta. Io cito due volte i suoi lavori perché trovo felice l'espressione "bolla giuridica" (della durata della bolla non ho idea) e perché trovo che sostenere che la regolazione giuridica del furto debba essere scritta insieme al ladro equivalga ad allearsi col ladro medesimo o a dichiarare la propria insignificanza. Sono consapevole, naturalmente, del ruolo che la dimensione e la forza del ladro hanno avuto, storicamente. Nel De Republica, Cicerone aveva riportato questo aneddoto: Alessandro Magno chiese a un pirata, da lui catturato, per quale scellerato impulso infestasse il mare col proprio naviglio; il pirata gli rispose, «con verità ed eleganza», che si trattava del medesimo impulso che spingeva lo stesso Alessandro Magno «ad infestare il mondo intero». La replica del pirata fu completata da Agostino quasi cinque secoli dopo: "perché io faccio ciò, con un piccolo naviglio, sono chiamato ladro, e perché tu lo fai con grande flotta, sei chiamato principe". Della distinzione tra uno Stato e una banda di ladri mi sono occupata qui: https://mulino.it/isbn/9788815251329 Concordo con te che la questione dell'educazione sia decisiva. Proprio per questo credo che meriti una trattazione dedicata. Qui, volevo concentrarmi sui soli sistemi di ottimizzazione predittiva, perché ritengo che abbiano proprietà politiche intrinseche. Nell'ambito educativo sono utilizzati anche sistemi che non hanno proprietà politiche intrinseche e che potrebbero dunque essere progettati per l'emancipazione, anziché per l'asservimento, se l'IA non fosse, come adesso, un derivato della sorveglianza (e di un assetto coloniale, per cui sono presentati come nulli tutti i costi che sono scaricati su lavoratori e territori a debita distanza). Buon fine settimana, Daniela ________________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di maurizio lana <maurizio.lana@uniupo.it<mailto:maurizio.lana@uniupo.it>> Inviato: sabato 2 dicembre 2023 15:07 A: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Il 30/11/23 16:24, Daniela Tafani <daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>><mailto:daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>> ha scritto: Date: Thu, 30 Nov 2023 15:24:13 +0000 From: Daniela Tafani <daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>><mailto:daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>> Subject: [nexa] Postprint: Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy Buon pomeriggio, vi sottopongo il postprint di un mio articolo che è stato accettato da "Ethics & Politics", Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy. Questo è l'abstract: In predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned. Qui il testo completo: https://doi.org/10.5281/zenodo.10229060 Vi sarò grata di qualsiasi osservazione. ho letto l'articolo. trovo che raccolga e intrecci in modo molto efficace i fili di questioni di grande rilevanza. due osservazioni, se posso là dove scrivi Considering all this, one cannot but agree with those who observe that the use of ML systems for decision-making purposes in areas relevant to people's lives is tantamount to the creation, through administrative decisions, of “almost human rights-free zones”.(94) The development, sale and use of predictive optimisation systems is exploiting a “legal bubble”,(95) ie, it is taking place in violation of legally protected rights, betting on a subsequent legal rescue in the name of the inevitability of technological innovation(96). alla nota 95 citi un articolo di Marco Giraudo et al. sulle legal bubbles. un anno prima, in Giraudo, Marco. «On Legal Bubbles: Some Thoughts on Legal Shockwaves at the Core of the Digital Economy». Journal of Institutional Economics 18, fasc. 4 (agosto 2022): 587–604. https://doi.org/10.1017/S1744137421000473. Giraudo aveva una prospettiva ottimistica perché, scriveva, le legal bubbles alla fine scoppiano, si dissolvono, in quanto l'azione legislativa anche se con passo più lento di quello della tecnologia, attiva e regolamenta. mentre nell'articolo che citi ora Giraudo, Marco, Eduard Fosch-Villaronga, e Gianclaudio Malgieri. «Competing Legal Futures». SSRN Scholarly Paper. Rochester, NY, 1 giugno 2023. https://papers.ssrn.com/abstract=4499785. Giraudo et al,. paiono più preoccupati del futuro perché il modello che vede la cooperazione degli stati con le aziende a fini regolativi si basa a loro avviso su un'eccessiva fiducia nella buona volontà degli attori privati: "the EU Commission is adopting an economic primacy approach, showing that a kind of deference to corporate expertise and techno epistemic communities, especially when closely linked to corporate interests, is still very influential and conducive to the repetition of regulatory failures." ritengo che la legislazione sia in termini generali e di principio la risorsa da utilizzare per indirizzare in modo corretto le forze che operano nella società, ma questa cooperazione dei regolatori con i 'regolandi' è un passo nel riconoscimento che le grandi aziende del mondo digitale (che sia hanno strapotenza economica sia sono dativore) si comportano come stati nazionali e gli stati nazionali 'storici' gli riconoscono questa status, nei fatti. Marcus, Gary. «Critical national security questions should not be decided unilaterally by unelected tech leaders». Substack newsletter. Marcus on AI (blog), 28 novembre 2023. https://garymarcus.substack.com/p/critical-national-security-questions?publi.... l'altro tema enorme, presente solo in 2 punti del tuo articolo, sono le prospettive di introduzione di sistemi di IA per gestire la scuola, la formazione, l'educazione: la formazione ha al centro la concezione che l'individuo sia aiutato a scoprire le sue qualità e a svilupparle in modo - appunto - individuale e originale; e che la società si giova di questa proliferazione di diversità. gestirla con sistemi di IA ne è la negazione. forma individui standard, butta fuori quelli irregolari, e per chi comanda non ci saranno più problemi. una distopia realizzata secondo me questo è un campo di azione di contrasto all'IA particolarmente importante. buon w.e. Maurizio ________________________________ la Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. la Repubblica detta le norme generali sull'istruzione ed istituisce scuole statali per tutti gli ordini e gradi. Costituzione della Repubblica Italiana, art. 9 e 33 ________________________________ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli
participants (4)
-
Benedetto Ponti -
Daniela Tafani -
Marco Giraudo -
maurizio lana