Re: [nexa] bias da soluzionismo tecnologico
Date: Fri, 11 Oct 2024 20:25:14 +0200 Alberto Cammozzo ha scritto < ac+nexa@zeromx.net> Ho appena letto questo articolo che mi pare affronti il tema dei bias cognitivi da AI, anche se limitatamente al campo dell'intelligence. Anche i rimandi mi paiono altrettanto interessanti. Peccato non consideri il problema che dati di qualità saranno sempre più rari per via dell'inquinamento dell'ecosistema da parte dei LLM generativi. < https://warontherocks.com/2024/10/ai-and-intelligence-analysis-panacea-or-pe...
*** "AI is ... a capability that continues to evolve", è il punto dell'argomento, non solo dell'articolo: c'è voluto del tempo, dai graffiti preistorici a Platone ed oltre. "AI can play a valuable role ... but only if humans are kept in the loop" è il centro della sfida, col "thinking about thinking" e con la consapevolezza che "it is a fallacy to believe that humans fully control their thought processes." Il tema che vedo è come evitare il peggioramento qualitativo dei dati di addestramento, perchè nel contesto della ricerca scientifica la qualità "asettica" dell'analisi della macchina è utile. *** Va comunque tenuta ben presente tutta la società oltre la sfera della ricerca scientifica e qui concordo con quanto ha ricordato Daniela Tafani a proposito dell'ultimo pensiero di Morozov - https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html - "Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato." < https://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera-min...> Cordialmente. Duccio (Alessandro Marzocchi)
ci sono anche cose non di mercato anzi, forse quelle sono le più rischiose, dato che l'esecutivo gestisce il monopolio della forza installare una telecamera ogni 130m a Roma, 15000, collegate ad un sistema ai Gualtieri non lo fa per ragioni di mercato Il 12 ottobre 2024 22:09:47 UTC, alessandro marzocchi <alemarzoc@gmail.com> ha scritto:
Date: Fri, 11 Oct 2024 20:25:14 +0200 Alberto Cammozzo ha scritto < ac+nexa@zeromx.net> Ho appena letto questo articolo che mi pare affronti il tema dei bias cognitivi da AI, anche se limitatamente al campo dell'intelligence. Anche i rimandi mi paiono altrettanto interessanti. Peccato non consideri il problema che dati di qualità saranno sempre più rari per via dell'inquinamento dell'ecosistema da parte dei LLM generativi. < https://warontherocks.com/2024/10/ai-and-intelligence-analysis-panacea-or-pe...
*** "AI is ... a capability that continues to evolve", è il punto dell'argomento, non solo dell'articolo: c'è voluto del tempo, dai graffiti preistorici a Platone ed oltre. "AI can play a valuable role ... but only if humans are kept in the loop" è il centro della sfida, col "thinking about thinking" e con la consapevolezza che "it is a fallacy to believe that humans fully control their thought processes." Il tema che vedo è come evitare il peggioramento qualitativo dei dati di addestramento, perchè nel contesto della ricerca scientifica la qualità "asettica" dell'analisi della macchina è utile. *** Va comunque tenuta ben presente tutta la società oltre la sfera della ricerca scientifica e qui concordo con quanto ha ricordato Daniela Tafani a proposito dell'ultimo pensiero di Morozov - https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html - "Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato." < https://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera-min...>
Cordialmente. Duccio (Alessandro Marzocchi)
Fatta la tara dell'autore (che non conosco e che potrebbe essere un po' dubbio), l'espansione massiccia dell'uso del riconoscimento facciale solleva preoccupazioni analoghe: https://theeconomiccollapseblog.com/the-u-s-government-is-dramatically-expan... jc On 13/10/24 08:37, Stefano Quintarelli via nexa wrote:
ci sono anche cose non di mercato anzi, forse quelle sono le più rischiose, dato che l'esecutivo gestisce il monopolio della forza installare una telecamera ogni 130m a Roma, 15000, collegate ad un sistema ai Gualtieri non lo fa per ragioni di mercato
Il 12 ottobre 2024 22:09:47 UTC, alessandro marzocchi <alemarzoc@gmail.com> ha scritto:
Date: Fri, 11 Oct 2024 20:25:14 +0200 Alberto Cammozzo ha scritto < ac+nexa@zeromx.net> Ho appena letto questo articolo che mi pare affronti il tema dei bias cognitivi da AI, anche se limitatamente al campo dell'intelligence. Anche i rimandi mi paiono altrettanto interessanti. Peccato non consideri il problema che dati di qualità saranno sempre più rari per via dell'inquinamento dell'ecosistema da parte dei LLM generativi. < https://warontherocks.com/2024/10/ai-and-intelligence-analysis-panacea-or-pe... *** "AI is ... a capability that continues to evolve", è il punto dell'argomento, non solo dell'articolo: c'è voluto del tempo, dai graffiti preistorici a Platone ed oltre. "AI can play a valuable role ... but only if humans are kept in the loop" è il centro della sfida, col "thinking about thinking" e con la consapevolezza che "it is a fallacy to believe that humans fully control their thought processes." Il tema che vedo è come evitare il peggioramento qualitativo dei dati di addestramento, perchè nel contesto della ricerca scientifica la qualità "asettica" dell'analisi della macchina è utile. *** Va comunque tenuta ben presente tutta la società oltre la sfera della ricerca scientifica e qui concordo con quanto ha ricordato Daniela Tafani a proposito dell'ultimo pensiero di Morozov - https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html - "Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato." < https://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera-min...>
Cordialmente. Duccio (Alessandro Marzocchi)
Ciao Stefano, vero che alcune applicazioni "pubbliche" sono coperte dal monopolio della forza. Ma l'AI è sempre un prodotto ideato, sviluppato e fornito "dal mercato". Molto umilmente, su questo (e sulla scia di molte riflessioni che devo a Daniela Tafani) è appena uscito questo https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/v... Benedetto Inviato da Outlook per Android<https://aka.ms/AAb9ysg> ________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Stefano Quintarelli via nexa <nexa@server-nexa.polito.it> Inviato: Domenica, Ottobre 13, 2024 8:37:35 AM A: nexa@server-nexa.polito.it <nexa@server-nexa.polito.it> Oggetto: Re: [nexa] bias da soluzionismo tecnologico ci sono anche cose non di mercato anzi, forse quelle sono le più rischiose, dato che l'esecutivo gestisce il monopolio della forza installare una telecamera ogni 130m a Roma, 15000, collegate ad un sistema ai Gualtieri non lo fa per ragioni di mercato Il 12 ottobre 2024 22:09:47 UTC, alessandro marzocchi <alemarzoc@gmail.com> ha scritto:
Date: Fri, 11 Oct 2024 20:25:14 +0200 Alberto Cammozzo ha scritto < ac+nexa@zeromx.net> Ho appena letto questo articolo che mi pare affronti il tema dei bias cognitivi da AI, anche se limitatamente al campo dell'intelligence. Anche i rimandi mi paiono altrettanto interessanti. Peccato non consideri il problema che dati di qualità saranno sempre più rari per via dell'inquinamento dell'ecosistema da parte dei LLM generativi. < https://warontherocks.com/2024/10/ai-and-intelligence-analysis-panacea-or-pe...
*** "AI is ... a capability that continues to evolve", è il punto dell'argomento, non solo dell'articolo: c'è voluto del tempo, dai graffiti preistorici a Platone ed oltre. "AI can play a valuable role ... but only if humans are kept in the loop" è il centro della sfida, col "thinking about thinking" e con la consapevolezza che "it is a fallacy to believe that humans fully control their thought processes." Il tema che vedo è come evitare il peggioramento qualitativo dei dati di addestramento, perchè nel contesto della ricerca scientifica la qualità "asettica" dell'analisi della macchina è utile. *** Va comunque tenuta ben presente tutta la società oltre la sfera della ricerca scientifica e qui concordo con quanto ha ricordato Daniela Tafani a proposito dell'ultimo pensiero di Morozov - https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html - "Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato." < https://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera-min...>
Cordialmente. Duccio (Alessandro Marzocchi)
e quindi ? non capisco il punto. mi preoccupano molto di piu' le 15mila telecamere a roma, collegate con un sistema AI, per decisione del Dott. Greco (gia' a capo del tribunale di milano) come consulente del sindaco gualtieri dell'azienda che decide di usare telecamere e riconosicmento immagini per vedere come crescono i pomodori. forse intendi che il Dott. Greco e' un emissario di Microsoft/Amazon/whatsoever ? ciao, s. On 13/10/24 13:19, Benedetto Ponti wrote:
Ciao Stefano, vero che alcune applicazioni "pubbliche" sono coperte dal monopolio della forza. Ma l'AI è sempre un prodotto ideato, sviluppato e fornito "dal mercato".
Molto umilmente, su questo (e sulla scia di molte riflessioni che devo a Daniela Tafani) è appena uscito questo
https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/ article/view/264 <https://www.rivistaitalianadiinformaticaediritto.it/ index.php/RIID/article/view/264>
Benedetto
Inviato da Outlook per Android <https://aka.ms/AAb9ysg>
------------------------------------------------------------------------ *Da:* nexa <nexa-bounces@server-nexa.polito.it> per conto di Stefano Quintarelli via nexa <nexa@server-nexa.polito.it> *Inviato:* Domenica, Ottobre 13, 2024 8:37:35 AM *A:* nexa@server-nexa.polito.it <nexa@server-nexa.polito.it> *Oggetto:* Re: [nexa] bias da soluzionismo tecnologico
ci sono anche cose non di mercato anzi, forse quelle sono le più rischiose, dato che l'esecutivo gestisce il monopolio della forza installare una telecamera ogni 130m a Roma, 15000, collegate ad un sistema ai Gualtieri non lo fa per ragioni di mercato
Il 12 ottobre 2024 22:09:47 UTC, alessandro marzocchi <alemarzoc@gmail.com> ha scritto:
Date: Fri, 11 Oct 2024 20:25:14 +0200 Alberto Cammozzo ha scritto < ac+nexa@zeromx.net> Ho appena letto questo articolo che mi pare affronti il tema dei bias cognitivi da AI, anche se limitatamente al campo dell'intelligence. Anche i rimandi mi paiono altrettanto interessanti. Peccato non consideri il problema che dati di qualità saranno sempre più rari per via dell'inquinamento dell'ecosistema da parte dei LLM generativi. < https://warontherocks.com/2024/10/ai-and-intelligence-analysis-panacea- or-peril/ <https://warontherocks.com/2024/10/ai-and-intelligence- analysis-panacea-or-peril/>
*** "AI is ... a capability that continues to evolve", è il punto dell'argomento, non solo dell'articolo: c'è voluto del tempo, dai graffiti preistorici a Platone ed oltre. "AI can play a valuable role ... but only if humans are kept in the loop" è il centro della sfida, col "thinking about thinking" e con la consapevolezza che "it is a fallacy to believe that humans fully control their thought processes." Il tema che vedo è come evitare il peggioramento qualitativo dei dati di addestramento, perchè nel contesto della ricerca scientifica la qualità "asettica" dell'analisi della macchina è utile. *** Va comunque tenuta ben presente tutta la società oltre la sfera della ricerca scientifica e qui concordo con quanto ha ricordato Daniela Tafani a proposito dell'ultimo pensiero di Morozov - https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html <https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html> - "Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato." < https://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la- vera-minaccia-dell-intelligenza-artificiale> <https:// www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera- minaccia-dell-intelligenza-artificiale>>
Cordialmente. Duccio (Alessandro Marzocchi)
-- You can reach me on Signal: @quinta.01 (no Whatsapp, Telegram)
Se lo leggi, provo a spiegarlo. Dopodiché, ognuno è libero di essere più preoccupato per ciò che crede. Ma se un poliziotto spara con una Beretta (prodotto di un'azienda privata), secondo la mia tesi (e non solo mia) è una cosa molto diversa rispetto al caso di un sindaco che usa una soluzione di riconoscimento facciale (parimenti prodotta da un'azienda privata). Un caro saluto B. Inviato da Outlook per Android<https://aka.ms/AAb9ysg> ________________________________ From: nexa <nexa-bounces@server-nexa.polito.it> on behalf of Stefano Quintarelli via nexa <nexa@server-nexa.polito.it> Sent: Sunday, October 13, 2024 8:27:46 PM To: nexa@server-nexa.polito.it <nexa@server-nexa.polito.it> Subject: Re: [nexa] bias da soluzionismo tecnologico e quindi ? non capisco il punto. mi preoccupano molto di piu' le 15mila telecamere a roma, collegate con un sistema AI, per decisione del Dott. Greco (gia' a capo del tribunale di milano) come consulente del sindaco gualtieri dell'azienda che decide di usare telecamere e riconosicmento immagini per vedere come crescono i pomodori. forse intendi che il Dott. Greco e' un emissario di Microsoft/Amazon/whatsoever ? ciao, s. On 13/10/24 13:19, Benedetto Ponti wrote:
Ciao Stefano, vero che alcune applicazioni "pubbliche" sono coperte dal monopolio della forza. Ma l'AI è sempre un prodotto ideato, sviluppato e fornito "dal mercato".
Molto umilmente, su questo (e sulla scia di molte riflessioni che devo a Daniela Tafani) è appena uscito questo
https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/ article/view/264 <https://www.rivistaitalianadiinformaticaediritto.it/ index.php/RIID/article/view/264>
Benedetto
Inviato da Outlook per Android <https://aka.ms/AAb9ysg>
------------------------------------------------------------------------ *Da:* nexa <nexa-bounces@server-nexa.polito.it> per conto di Stefano Quintarelli via nexa <nexa@server-nexa.polito.it> *Inviato:* Domenica, Ottobre 13, 2024 8:37:35 AM *A:* nexa@server-nexa.polito.it <nexa@server-nexa.polito.it> *Oggetto:* Re: [nexa] bias da soluzionismo tecnologico
ci sono anche cose non di mercato anzi, forse quelle sono le più rischiose, dato che l'esecutivo gestisce il monopolio della forza installare una telecamera ogni 130m a Roma, 15000, collegate ad un sistema ai Gualtieri non lo fa per ragioni di mercato
Il 12 ottobre 2024 22:09:47 UTC, alessandro marzocchi <alemarzoc@gmail.com> ha scritto:
Date: Fri, 11 Oct 2024 20:25:14 +0200 Alberto Cammozzo ha scritto < ac+nexa@zeromx.net> Ho appena letto questo articolo che mi pare affronti il tema dei bias cognitivi da AI, anche se limitatamente al campo dell'intelligence. Anche i rimandi mi paiono altrettanto interessanti. Peccato non consideri il problema che dati di qualità saranno sempre più rari per via dell'inquinamento dell'ecosistema da parte dei LLM generativi. < https://warontherocks.com/2024/10/ai-and-intelligence-analysis-panacea- or-peril/ <https://warontherocks.com/2024/10/ai-and-intelligence- analysis-panacea-or-peril/>
*** "AI is ... a capability that continues to evolve", è il punto dell'argomento, non solo dell'articolo: c'è voluto del tempo, dai graffiti preistorici a Platone ed oltre. "AI can play a valuable role ... but only if humans are kept in the loop" è il centro della sfida, col "thinking about thinking" e con la consapevolezza che "it is a fallacy to believe that humans fully control their thought processes." Il tema che vedo è come evitare il peggioramento qualitativo dei dati di addestramento, perchè nel contesto della ricerca scientifica la qualità "asettica" dell'analisi della macchina è utile. *** Va comunque tenuta ben presente tutta la società oltre la sfera della ricerca scientifica e qui concordo con quanto ha ricordato Daniela Tafani a proposito dell'ultimo pensiero di Morozov - https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html <https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html> - "Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato." < https://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la- vera-minaccia-dell-intelligenza-artificiale> <https:// www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera-<http://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera-> minaccia-dell-intelligenza-artificiale>>
Cordialmente. Duccio (Alessandro Marzocchi)
-- You can reach me on Signal: @quinta.01 (no Whatsapp, Telegram)
participants (4)
-
alessandro marzocchi -
Benedetto Ponti -
J.C. DE MARTIN -
Stefano Quintarelli