Against Predictive Optimization: On the Legitimacy of Decision-Making Algorithms that Optimize Predictive Accuracy
Against Predictive Optimization: On the Legitimacy of Decision-Making Algorithms that Optimize Predictive Accuracy Angelina Wang, Sayash Kapoor, Solon Barocas, Arvind Narayanan. https://predictive-optimization.cs.princeton.edu Executive summary sotto: il punto 3 è radicale ma coerente con l’evidenza empirica raccolta dagli autori (e, se non sbaglio, simile con quanto espresso in questa lista da Daniela Tafani riguardo l’uso di AI per prevedere esiti sociali). 1. Predictive optimization is a distinct type of automated decision making that has proliferated widely. It is sold as accurate, fair, and efficient. 2. We identify a recurring set of flaws that apply broadly to predictive optimization, are hard to fix technologically, and negate its claimed benefits. 3. Any application of predictive optimization should be considered illegitimate by default unless the developer justifies how it avoids these flaws. Qui il paper completo, che è un work in progress : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4238015 A
Sì, esatto. A una loro una verifica puntuale, i sistemi di ottimizzazione predittiva sono risultati così poco affidabili, per la previsione di eventi e azioni individuali, che gli autori suggeriscono piuttosto il ricorso a una lotteria tra le persone ammissibili, quando si debbano allocare risorse scarse e non sia possibile utilizzare – anziché sistemi di apprendimento automatico – semplici procedimenti di calcolo con variabili pertinenti ed esplicite. Di questo, quale esempio di AI snake oil, ho provato a scrivere in un articolo di prossima pubblicazione, L'"etica" dell'intelligenza artificiale come specchietto per le allodole, che vi sottoporrò senz'altro. Un caro saluto, Daniela ________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Antonio Vetro' <antonio.vetro@polito.it> Inviato: lunedì 20 marzo 2023 15:07 A: mailing list nexa Oggetto: [nexa] Against Predictive Optimization: On the Legitimacy of Decision-Making Algorithms that Optimize Predictive Accuracy Against Predictive Optimization: On the Legitimacy of Decision-Making Algorithms that Optimize Predictive Accuracy Angelina Wang, Sayash Kapoor, Solon Barocas, Arvind Narayanan. https://predictive-optimization.cs.princeton.edu<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303201407320147186&URLID=2&ESV=10.0.19.7431&IV=8C7B44D970C6D0FCBD4192675B3DE748&TT=1679321252748&ESN=%2BcCP%2FFf4ynn3ABW5FjA4Xvz%2B3r2jSLvi5dHzDy92LNI%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9wcmVkaWN0aXZlLW9wdGltaXphdGlvbi5jcy5wcmluY2V0b24uZWR1&HK=7E7BD997DD72255D7FC859DC43E454B6E2072F8B4F704F230A5F4D009A01B63B> Executive summary sotto: il punto 3 è radicale ma coerente con l’evidenza empirica raccolta dagli autori (e, se non sbaglio, simile con quanto espresso in questa lista da Daniela Tafani riguardo l’uso di AI per prevedere esiti sociali). 1. Predictive optimization is a distinct type of automated decision making that has proliferated widely. It is sold as accurate, fair, and efficient. 2. We identify a recurring set of flaws that apply broadly to predictive optimization, are hard to fix technologically, and negate its claimed benefits. 3. Any application of predictive optimization should be considered illegitimate by default unless the developer justifies how it avoids these flaws. Qui il paper completo, che è un work in progress : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4238015 A
participants (2)
-
Antonio Vetro' -
Daniela Tafani