October 2022 - nexa - server-nexa.polito.it

"It’s time to admit, self-driving cars aren’t going to happen"

by maurizio lana

a proposito delle questioni sottese al tema complesso del senso comune (D. Tafani), e della precisione (come scriveva E. Nardelli) e dell'interazione umani-macchine, penso che sia interessante in sé e utile alla discussione ricordare cosa scriveva Douglas Engelbart 60 anni fa in «Augmenting human intellect: a conceptual framework.» AFOSR-3233. Menlo Park, CA: Stanford Research Institute. https://apps.dtic.mil/dtic/tr/fulltext/u2/289565.pdf > by “complex situations” we include the professional problems of > diplomats, executives, social scientists, life scientists, physical > scientists, attorneys, designers--whether the problem situation exists > for twenty minutes or twenty years. We do not speak of isolated clever > tricks that help in particular situations. /We refer to a way of life > in an integrated domain where hunches, cut-and-try, intangibles, and > the human “feel for a situation” usefully co-exist with powerful > concepts, streamlined terminology and notation, sophisticated methods, > and high-powered electronic aids/. [...] Augmenting man’s intellect, > in the sense defined above, would warrant full pursuit by an > enlightened society if there could be shown a reasonable approach and > some plausible benefits. il tema di «augmenting man’s intellect» mi sembra vicino a quello di S. Quintarelli quando in https://blog.quintarelli.it/2022/04/autonomous-driving-the-right-technology… scrive > why not use the technology for other purposes? > I mean, autonomous driving technology could be assisted driving on > steroids Maurizio > ------------------------------ > Date: Sat, 29 Oct 2022 > From: Daniela Tafani<daniela.tafani(a)unipi.it> > > Abbiamo il senso comune, che vale molto di più dell'essere precisi. > > Come osservava Kant, siamo in grado di procedere, nelle inferenze abituali, > > in virtù di automatismi che ci inducono a scambiarle, poi, per percezioni > immediate. > > E a quanto ne so, nessuno ha la più pallida idea di come implementare il senso comune, > malgrado tutti i finanziamenti in questo ambito, > perché è un patrimonio di conoscenza e capacità non replicabile con la sola statistica > e non riducibile a un catalogo di regole. > ------------------------------ ------------------------------------------------------------------------ non credo a niente che sia facile, rapido, spontaneo, improvvisato, approssimativo. credo nella forza di ciò che è lento, calmo, ostinato, senza fanatismi né entusiasmi i. calvino ------------------------------------------------------------------------ Maurizio Lana - 347 7370925

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Daniela Tafani

Lo sguardo vigile è ora promosso dalla Commissione europea, insieme alla tesi che un algoritmo possa predire l'abbandono di singoli studenti: https://t.co/3olPk2PngT La manutenzione predittiva dei macchinari applicata ai bambini (a proposito di uomini e cose) ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> Inviato: domenica 30 ottobre 2022 15:05:38 A: Roberto Dolci; Enrico Nardelli; nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen" Non è triste, è ingiusto. Ma è anche lo scopo ultimo del capitalismo. Impoverire i deboli per arricchire i forti. Ma finquando quei bimbi cresceranno sotto lo sguardo vigile di chi li sfrutta[1], non potranno concepire idee efficaci per sovvertire il sistema di oppressione di cui sono vittime. E anzi si opporranno a chiunque cerchi di contrastarlo (o anche solo di sottrarvisi). Giacomo [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20221030140547072169… On October 30, 2022 1:38:07 PM UTC, Roberto Dolci <rob.dolci(a)aizoon.us> wrote: > Esatto, poi ti trovi famiglie con entrambe i genitori che lavorano nella distribuzione o gig (Amazon, Wallmart, Uber, etc.), che se hanno un paio di bimbi a carico devono ricorrere ai servizi sociali per mettere un piatto in tavola. > > triste > > rob > > ________________________________ > Da: Giacomo Tesio <giacomo(a)tesio.it> > Inviato: domenica 30 ottobre 2022 09:33:34 > A: Roberto Dolci; Enrico Nardelli; nexa(a)server-nexa.polito.it > Oggetto: Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen" > > > > On October 30, 2022 12:50:03 PM UTC, Roberto Dolci wrote: > > Specialmente, arrivare al 100% e' inutile. > > Infatti! > > L'importante è azzerare il potere contrattuale degli autisti. > > > Giacomo _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20221030140547072169…

Oct. 30, 2022

Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen"

by Giacomo Tesio

On October 30, 2022 1:45:32 PM UTC, Roberto Dolci <rob.dolci(a)aizoon.us> wrote: > Forse, piu' che a trattare uomini come oggetti, l'errore e' pensarli come sommatoria molto semplificata di una serie di attivita'. No, l'obiettivo è proprio ridurre le persone a cose. Per farlo, uno degli strumenti fondamentali è l'antropomorfizzazione delle cose (quando non la loro divinizzazione, dal vitello d'oro alla "AI superiore all'uomo") Ad esempio tu parli di "guida autonoma" laddove non c'è alcuna autonomia. Sarebbe più appropriato parlare di "guida automatica" e tu certamente sai perché, ma usi automaticamente (ovvero acriticamente) un termine inappropriato perché difuso, rafforzando l'alienazione cibernetica che produce in chi non è in grado di cogliere l'errore. La riduzione dell'autonomia delle persone, l'alienazione cibernetica, passa dalla loro mente: - bisogna convincerle di essere ingranaggi sostituibili da un lato - bisogna convincerle che gli automatismi sono "trustworthy", più affidabili degli altri umani Che si tratti di convincere il Garante della Privacy a vantarsi in pubblico di Alexa che lo sveglia e gli dice le notizie che deve sapere, o un parlamentare che la "guida autonoma" è più affidabile di quella responsabile, o un autista che se non fa il bravo, se anche solo pensa di scioperare, perderà il lavoro perché sostituibile con delle macchine. O ancora di convincere il Preside che i servizi dei GAFAM sono gratuiti. O un Ministro che non ci sono alternative. L'obiettivo è SEMPRE ridurre l'autonomia delle persone. Parlare di "intelligenza artificiale", "guida autonoma", "apprendimento profondo", "reti neurali" etc, serve solo ed escusivamente questo scopo. Ridurre le persone a cose. Convincerle di ESSERE cose. Giacomo > > Ecco l'errore con la guida autonoma: pensare che un autista vada da A a B col suo camion, e quindi possa essere sostituito. Ma quell'autista fa molto di piu': si occupa della sicurezza delle merci, partecipa attivamente al controllo qualita' dei pezzi, disbriga una serie di requisiti contabili/fiscali/normativi, e posso continuare a lungo con un elenco mirato sulla professione "autista". Lascio perdere che la persona non e' solo autista ma molto piu', ovviamente. > > Quando pensiamo ad una professione come sommatoria di attivita' standardizzabili, apriamo la strada al secondo errore, quello di pensare in termini sostitutivi invece che complementari. > > Saluti > > Rob > > ________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Daniela Tafani <daniela.tafani(a)unipi.it> > Inviato: domenica 30 ottobre 2022 09:36:58 > A: Giacomo Tesio; Enrico Nardelli; Nexa > Oggetto: Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen" > > > Grazie a voi per tutte queste considerazioni. > > > Concordo con te, Giacomo. > > Credo però che la riduzione degli uomini a cose sia un gesto politico, più che un errore teorico. > > Fattualmente, è sempre possibile trattare gli uomini come se fossero cose. Ne sono la prova i campi di concentramento nazisti. > > Non a caso, Simon Baron-Cohen (La scienza del male: l’empatia e le origini della crudeltà, Milano, Cortina, 2012, pp. 1-5) > > collegava la sua volontà di capire, da scienziato, > > «i fattori che inducono le persone a trattare gli altri come oggetti» > > a un episodio biografico: il racconto di una reale trasformazione di persone in oggetti > > (quando aveva sette anni, il padre gli disse che i nazisti avevano trasformato gli ebrei in saponette). > > E non sono sicura che una lezione teorica sia sufficiente a dissuadere un nazista. > > > Quanto alle auto a guida autonoma, cercavo di mettere in discussione il minor numero possibile di concetti impegnativi, come la libertà, > > considerato che, al momento, la tecnologia si ferma decisamente molto prima. > > Intendevo perciò "senso comune" nel suo significato più ristretto, essendo fuori dalla portata delle macchine già quello, oggi. > > Tra l'altro, per restare di nuovo a Kant, solo gli esseri umani sono in grado di agire non solo secondo leggi, > > ma altresì secondo la rappresentazione di leggi, da rispettare o violare. > > > Concordo anche sull'insensatezza dell'etica dell'IA, ma ritengo, > come ho provato ad argomentare nell'articolo che vi ho sottoposto, che la narrazione sull'etica dell'IA > > assecondi sì alcune tendenze umane spontanee, > > ma sia deliberatamente costruita e diffusa per interesse. > > > Scusate, ho già scritto troppo e malamente. Spero che avremo modo di parlarne di persona. > > > Un saluto, > Daniela > > ________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> > Inviato: domenica 30 ottobre 2022 12:34 > A: Enrico Nardelli; Nexa > Oggetto: Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen" > > Ciao Enrico, Daniela e Nexa. > > Grazie per questa splendida conversazione. > > > On October 29, 2022 4:38:13 PM UTC, Enrico Nardelli wrote: > > in contesti in qualche modo "chiusi" tali sistemi possono essere superiori agli esseri > > umani, mentre in situazioni "generaliste" le loro prestazioni continuano a > > rimanere indietro. > > Vi sono almeno due problemi in questa frase Enrico: > > 1. la riduzione della persona ad una funzione > 2. la riduzione del problema ad una questione di complessita computazionale > > Nessuna cosa che l'uomo costruisce può essere paragonata (e dunque essere > qualificata come "superiore") all'uomo. > > Non è solo una questione etica o politica, ma proprio ontologica. > > > Chi costruisce un artefatto, esprime sé stesso, la proprie idee ee i propri interessi > di quel momento. > > Ma una volta costruito, l'artefatto ne rimane espressione invariabile (se non secondo > le regole impostegli da quella stesaa volontà) e continua ad applicare quella volontà > al mondo, fino ad ulteriore intervento umano (che si tratti di spegnerlo, romperlo o modificarlo). > > L'artefice invece ha una libertà che l'artefatto non può avere e che non gli può essere > attribuita (così come una responsabilità) senza prima aver dimostrato non solo che > è in grado di simulare intelligenza, ma che è dotato di libero arbitrio. > > L'artefice può cambiare idea. > L'artefatto non ha idee. > > > Dunque un artefatto è ontologicamente... una cosa. > > "Superiore all'uomo" non sarà mai, neanche in contesti chiusi. > > E questo perché l'uomo non esiste per svolgere una funzione. > > > L'uomo è autonomo, l'artrfatto no. > > Questo significa che ha SEMPRE la possibilità di alterare (e scardinare) le regole > di funzionamento del sistema cibernetico in cii opera, rendendolo imprevedibile. > > Può essere convinto a non esercitare questa autonomia, "perché non è giusto", > "perché il padrone è buono", "perché we shall do no evil", "perché funziona così", > per paura etc... > > Ma continua ontologicamente ad essere autonomo. > > > Lo so, sembra una lunga supercazzola per due parole, ma l'uso di certe riduzioni > (soprattutto da parte di figure autorevoli come te) alimenta l'alienazione cibernetica di molti. > > > Alienazione che consiste nel processo di riduzione dell'autonomia delle persone sia > attraverso la loro automatizione (pensa al burocrate senza compassione) sia > attraverso l'antropomorfizzazione dell'automatismo che viene presentato > come "autonomo" e antropomorfo. > > > > Il 29/10/2022 08:00, Daniela Tafani ha scritto: > > > > > > Abbiamo il senso comune, che vale molto di più dell'essere precisi. > > Soprattutto abbiamo il buon senso (che è cosa sempre meno comune, purtroppo). > > Non siamo solo capaci di prevedere conseguenze, ma di empatizzare con > chi sarà affetto da tali conseguenze. > > Quand'anche riuscissimo a superare i limiti computazionali che impediscono la previsione > potremmo ottenere un "senso comune" applicato meccanicamente. > > Un "senso comune" indipendente dalla comunità. > Un "senso comune" immutabile, che non può evolvere se non nel solco del programma > (ovvero degli interessi di chi l'ha creato). > > Un "sensi comune" privo di "senso" giacché le macchine elaborano dati cui solo la > mente umana può attribuire un significato. > > > Non è dunque un problema di quantità, di disponibilità di dati o di potenza di calcolo. > > > È una questione di essenza. > Gli automatismi trasformano meccanicamente dati, non informazioni. > > Segni privi di un significato intrinseco, che solo l'uomo vi può attribuire. > E non parlo solo dell'input o dell'output: il software stesso è privo di un significato > intrinseco, tant'è che processori diversi reagiscono a segni diversi nello stesso > modo e a segni uguali in modo diverso. > > E tant'è che possiamo persino progettare macchine per reagire in un determinato > modo a segni (dati) cui non proviamo nemmeno ad attribuire un significato. > > > Acquisire questa consapevolezza ha profonde implicazioni pratiche. > > Per esempio rende evidente l'assurdità di parlare di "etica delle AI" o di "Explainable AI". > > Il software è debuggabile. > Ciò che puoi spiegare al limite sono le intenzioni e gli errori di chi l'ha scritto. > > E quando non è perfettamente debuggabile, allora è da buttare, perché troppo pericoloso: > la sua esecuzione è letteralmente "irresponsabile". > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20221030113408062190…

Oct. 30, 2022

Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen"

by Giacomo Tesio

On October 30, 2022 1:36:58 PM UTC, Daniela Tafani wrote: > > Credo però che la riduzione degli uomini a cose sia un gesto politico, più che un errore teorico. È naturalmente un gesto politico, ma necesita di un errore teorico per giustificarsi e normalizzarsi. > E non sono sicura che una lezione teorica sia sufficiente a dissuadere un nazista. Come non è sufficiente a dissuadere uno dei tanti lobbisti di Google & friends. Non è per dissuadere chi trae vantaggio dall'errore teorico, che dobbiamo smascherarlo come tale. È per allertare i tantissimi che se la bevono. > Quanto alle auto a guida autonoma, cercavo di mettere in discussione il minor > numero possibile di concetti impegnativi, come la libertà, > considerato che, al momento, la tecnologia si ferma decisamente molto prima. Solo se la consideri in isolamento. Se ragioni in termini di agenti cibernetici invece che dei singoli elementi che li costituiscono, se non perdi di vista gli uomini dietro l'automatismo, che si chiami "AI", Google Classroom o 9front, la libertà diventa rilevante. Compreso che l'automatismo non ce l'ha, dobbiamo chiederci chi poteva scegliere o creare un automatismo diverso, perché non l'ha fatto e perché eventualmente cerca di nascondere tale libertà e responsabilità. > Concordo anche sull'insensatezza dell'etica dell'IA, ma ritengo, > come ho provato ad argomentare nell'articolo che vi ho sottoposto, che la narrazione sull'etica dell'IA > assecondi sì alcune tendenze umane spontanee, > ma sia deliberatamente costruita e diffusa per interesse. Ho trovato talmente illuminante ed importante il tuo articolo da non avere trovato ancora il tempo di risponderti come merita. Posso però ringraziarti per averlo scritto e sperare che abbia ampia diffusione. Giacomo

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Giacomo Tesio

Non è triste, è ingiusto. Ma è anche lo scopo ultimo del capitalismo. Impoverire i deboli per arricchire i forti. Ma finquando quei bimbi cresceranno sotto lo sguardo vigile di chi li sfrutta[1], non potranno concepire idee efficaci per sovvertire il sistema di oppressione di cui sono vittime. E anzi si opporranno a chiunque cerchi di contrastarlo (o anche solo di sottrarvisi). Giacomo [1]: https://nepc.colorado.edu/blog/google-magic On October 30, 2022 1:38:07 PM UTC, Roberto Dolci <rob.dolci(a)aizoon.us> wrote: > Esatto, poi ti trovi famiglie con entrambe i genitori che lavorano nella distribuzione o gig (Amazon, Wallmart, Uber, etc.), che se hanno un paio di bimbi a carico devono ricorrere ai servizi sociali per mettere un piatto in tavola. > > triste > > rob > > ________________________________ > Da: Giacomo Tesio <giacomo(a)tesio.it> > Inviato: domenica 30 ottobre 2022 09:33:34 > A: Roberto Dolci; Enrico Nardelli; nexa(a)server-nexa.polito.it > Oggetto: Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen" > > > > On October 30, 2022 12:50:03 PM UTC, Roberto Dolci wrote: > > Specialmente, arrivare al 100% e' inutile. > > Infatti! > > L'importante è azzerare il potere contrattuale degli autisti. > > > Giacomo

Oct. 30, 2022

Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen"

by Roberto Dolci

Forse, piu' che a trattare uomini come oggetti, l'errore e' pensarli come sommatoria molto semplificata di una serie di attivita'. Ecco l'errore con la guida autonoma: pensare che un autista vada da A a B col suo camion, e quindi possa essere sostituito. Ma quell'autista fa molto di piu': si occupa della sicurezza delle merci, partecipa attivamente al controllo qualita' dei pezzi, disbriga una serie di requisiti contabili/fiscali/normativi, e posso continuare a lungo con un elenco mirato sulla professione "autista". Lascio perdere che la persona non e' solo autista ma molto piu', ovviamente. Quando pensiamo ad una professione come sommatoria di attivita' standardizzabili, apriamo la strada al secondo errore, quello di pensare in termini sostitutivi invece che complementari. Saluti Rob ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Daniela Tafani <daniela.tafani(a)unipi.it> Inviato: domenica 30 ottobre 2022 09:36:58 A: Giacomo Tesio; Enrico Nardelli; Nexa Oggetto: Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen" Grazie a voi per tutte queste considerazioni. Concordo con te, Giacomo. Credo però che la riduzione degli uomini a cose sia un gesto politico, più che un errore teorico. Fattualmente, è sempre possibile trattare gli uomini come se fossero cose. Ne sono la prova i campi di concentramento nazisti. Non a caso, Simon Baron-Cohen (La scienza del male: l’empatia e le origini della crudeltà, Milano, Cortina, 2012, pp. 1-5) collegava la sua volontà di capire, da scienziato, «i fattori che inducono le persone a trattare gli altri come oggetti» a un episodio biografico: il racconto di una reale trasformazione di persone in oggetti (quando aveva sette anni, il padre gli disse che i nazisti avevano trasformato gli ebrei in saponette). E non sono sicura che una lezione teorica sia sufficiente a dissuadere un nazista. Quanto alle auto a guida autonoma, cercavo di mettere in discussione il minor numero possibile di concetti impegnativi, come la libertà, considerato che, al momento, la tecnologia si ferma decisamente molto prima. Intendevo perciò "senso comune" nel suo significato più ristretto, essendo fuori dalla portata delle macchine già quello, oggi. Tra l'altro, per restare di nuovo a Kant, solo gli esseri umani sono in grado di agire non solo secondo leggi, ma altresì secondo la rappresentazione di leggi, da rispettare o violare. Concordo anche sull'insensatezza dell'etica dell'IA, ma ritengo, come ho provato ad argomentare nell'articolo che vi ho sottoposto, che la narrazione sull'etica dell'IA assecondi sì alcune tendenze umane spontanee, ma sia deliberatamente costruita e diffusa per interesse. Scusate, ho già scritto troppo e malamente. Spero che avremo modo di parlarne di persona. Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> Inviato: domenica 30 ottobre 2022 12:34 A: Enrico Nardelli; Nexa Oggetto: Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen" Ciao Enrico, Daniela e Nexa. Grazie per questa splendida conversazione. On October 29, 2022 4:38:13 PM UTC, Enrico Nardelli wrote: > in contesti in qualche modo "chiusi" tali sistemi possono essere superiori agli esseri > umani, mentre in situazioni "generaliste" le loro prestazioni continuano a > rimanere indietro. Vi sono almeno due problemi in questa frase Enrico: 1. la riduzione della persona ad una funzione 2. la riduzione del problema ad una questione di complessita computazionale Nessuna cosa che l'uomo costruisce può essere paragonata (e dunque essere qualificata come "superiore") all'uomo. Non è solo una questione etica o politica, ma proprio ontologica. Chi costruisce un artefatto, esprime sé stesso, la proprie idee ee i propri interessi di quel momento. Ma una volta costruito, l'artefatto ne rimane espressione invariabile (se non secondo le regole impostegli da quella stesaa volontà) e continua ad applicare quella volontà al mondo, fino ad ulteriore intervento umano (che si tratti di spegnerlo, romperlo o modificarlo). L'artefice invece ha una libertà che l'artefatto non può avere e che non gli può essere attribuita (così come una responsabilità) senza prima aver dimostrato non solo che è in grado di simulare intelligenza, ma che è dotato di libero arbitrio. L'artefice può cambiare idea. L'artefatto non ha idee. Dunque un artefatto è ontologicamente... una cosa. "Superiore all'uomo" non sarà mai, neanche in contesti chiusi. E questo perché l'uomo non esiste per svolgere una funzione. L'uomo è autonomo, l'artrfatto no. Questo significa che ha SEMPRE la possibilità di alterare (e scardinare) le regole di funzionamento del sistema cibernetico in cii opera, rendendolo imprevedibile. Può essere convinto a non esercitare questa autonomia, "perché non è giusto", "perché il padrone è buono", "perché we shall do no evil", "perché funziona così", per paura etc... Ma continua ontologicamente ad essere autonomo. Lo so, sembra una lunga supercazzola per due parole, ma l'uso di certe riduzioni (soprattutto da parte di figure autorevoli come te) alimenta l'alienazione cibernetica di molti. Alienazione che consiste nel processo di riduzione dell'autonomia delle persone sia attraverso la loro automatizione (pensa al burocrate senza compassione) sia attraverso l'antropomorfizzazione dell'automatismo che viene presentato come "autonomo" e antropomorfo. > Il 29/10/2022 08:00, Daniela Tafani ha scritto: > > > > Abbiamo il senso comune, che vale molto di più dell'essere precisi. Soprattutto abbiamo il buon senso (che è cosa sempre meno comune, purtroppo). Non siamo solo capaci di prevedere conseguenze, ma di empatizzare con chi sarà affetto da tali conseguenze. Quand'anche riuscissimo a superare i limiti computazionali che impediscono la previsione potremmo ottenere un "senso comune" applicato meccanicamente. Un "senso comune" indipendente dalla comunità. Un "senso comune" immutabile, che non può evolvere se non nel solco del programma (ovvero degli interessi di chi l'ha creato). Un "sensi comune" privo di "senso" giacché le macchine elaborano dati cui solo la mente umana può attribuire un significato. Non è dunque un problema di quantità, di disponibilità di dati o di potenza di calcolo. È una questione di essenza. Gli automatismi trasformano meccanicamente dati, non informazioni. Segni privi di un significato intrinseco, che solo l'uomo vi può attribuire. E non parlo solo dell'input o dell'output: il software stesso è privo di un significato intrinseco, tant'è che processori diversi reagiscono a segni diversi nello stesso modo e a segni uguali in modo diverso. E tant'è che possiamo persino progettare macchine per reagire in un determinato modo a segni (dati) cui non proviamo nemmeno ad attribuire un significato. Acquisire questa consapevolezza ha profonde implicazioni pratiche. Per esempio rende evidente l'assurdità di parlare di "etica delle AI" o di "Explainable AI". Il software è debuggabile. Ciò che puoi spiegare al limite sono le intenzioni e gli errori di chi l'ha scritto. E quando non è perfettamente debuggabile, allora è da buttare, perché troppo pericoloso: la sua esecuzione è letteralmente "irresponsabile". Giacomo _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20221030113408062190…

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Roberto Dolci

Esatto, poi ti trovi famiglie con entrambe i genitori che lavorano nella distribuzione o gig (Amazon, Wallmart, Uber, etc.), che se hanno un paio di bimbi a carico devono ricorrere ai servizi sociali per mettere un piatto in tavola. triste rob ________________________________ Da: Giacomo Tesio <giacomo(a)tesio.it> Inviato: domenica 30 ottobre 2022 09:33:34 A: Roberto Dolci; Enrico Nardelli; nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen" On October 30, 2022 12:50:03 PM UTC, Roberto Dolci wrote: > Specialmente, arrivare al 100% e' inutile. Infatti! L'importante è azzerare il potere contrattuale degli autisti. Giacomo

Oct. 30, 2022

Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen"

by Daniela Tafani

Grazie a voi per tutte queste considerazioni. Concordo con te, Giacomo. Credo però che la riduzione degli uomini a cose sia un gesto politico, più che un errore teorico. Fattualmente, è sempre possibile trattare gli uomini come se fossero cose. Ne sono la prova i campi di concentramento nazisti. Non a caso, Simon Baron-Cohen (La scienza del male: l’empatia e le origini della crudeltà, Milano, Cortina, 2012, pp. 1-5) collegava la sua volontà di capire, da scienziato, «i fattori che inducono le persone a trattare gli altri come oggetti» a un episodio biografico: il racconto di una reale trasformazione di persone in oggetti (quando aveva sette anni, il padre gli disse che i nazisti avevano trasformato gli ebrei in saponette). E non sono sicura che una lezione teorica sia sufficiente a dissuadere un nazista. Quanto alle auto a guida autonoma, cercavo di mettere in discussione il minor numero possibile di concetti impegnativi, come la libertà, considerato che, al momento, la tecnologia si ferma decisamente molto prima. Intendevo perciò "senso comune" nel suo significato più ristretto, essendo fuori dalla portata delle macchine già quello, oggi. Tra l'altro, per restare di nuovo a Kant, solo gli esseri umani sono in grado di agire non solo secondo leggi, ma altresì secondo la rappresentazione di leggi, da rispettare o violare. Concordo anche sull'insensatezza dell'etica dell'IA, ma ritengo, come ho provato ad argomentare nell'articolo che vi ho sottoposto, che la narrazione sull'etica dell'IA assecondi sì alcune tendenze umane spontanee, ma sia deliberatamente costruita e diffusa per interesse. Scusate, ho già scritto troppo e malamente. Spero che avremo modo di parlarne di persona. Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> Inviato: domenica 30 ottobre 2022 12:34 A: Enrico Nardelli; Nexa Oggetto: Re: [nexa] [DKIM Failed] Re: "It’s time to admit self-driving cars aren’t going to happen" Ciao Enrico, Daniela e Nexa. Grazie per questa splendida conversazione. On October 29, 2022 4:38:13 PM UTC, Enrico Nardelli wrote: > in contesti in qualche modo "chiusi" tali sistemi possono essere superiori agli esseri > umani, mentre in situazioni "generaliste" le loro prestazioni continuano a > rimanere indietro. Vi sono almeno due problemi in questa frase Enrico: 1. la riduzione della persona ad una funzione 2. la riduzione del problema ad una questione di complessita computazionale Nessuna cosa che l'uomo costruisce può essere paragonata (e dunque essere qualificata come "superiore") all'uomo. Non è solo una questione etica o politica, ma proprio ontologica. Chi costruisce un artefatto, esprime sé stesso, la proprie idee ee i propri interessi di quel momento. Ma una volta costruito, l'artefatto ne rimane espressione invariabile (se non secondo le regole impostegli da quella stesaa volontà) e continua ad applicare quella volontà al mondo, fino ad ulteriore intervento umano (che si tratti di spegnerlo, romperlo o modificarlo). L'artefice invece ha una libertà che l'artefatto non può avere e che non gli può essere attribuita (così come una responsabilità) senza prima aver dimostrato non solo che è in grado di simulare intelligenza, ma che è dotato di libero arbitrio. L'artefice può cambiare idea. L'artefatto non ha idee. Dunque un artefatto è ontologicamente... una cosa. "Superiore all'uomo" non sarà mai, neanche in contesti chiusi. E questo perché l'uomo non esiste per svolgere una funzione. L'uomo è autonomo, l'artrfatto no. Questo significa che ha SEMPRE la possibilità di alterare (e scardinare) le regole di funzionamento del sistema cibernetico in cii opera, rendendolo imprevedibile. Può essere convinto a non esercitare questa autonomia, "perché non è giusto", "perché il padrone è buono", "perché we shall do no evil", "perché funziona così", per paura etc... Ma continua ontologicamente ad essere autonomo. Lo so, sembra una lunga supercazzola per due parole, ma l'uso di certe riduzioni (soprattutto da parte di figure autorevoli come te) alimenta l'alienazione cibernetica di molti. Alienazione che consiste nel processo di riduzione dell'autonomia delle persone sia attraverso la loro automatizione (pensa al burocrate senza compassione) sia attraverso l'antropomorfizzazione dell'automatismo che viene presentato come "autonomo" e antropomorfo. > Il 29/10/2022 08:00, Daniela Tafani ha scritto: > > > > Abbiamo il senso comune, che vale molto di più dell'essere precisi. Soprattutto abbiamo il buon senso (che è cosa sempre meno comune, purtroppo). Non siamo solo capaci di prevedere conseguenze, ma di empatizzare con chi sarà affetto da tali conseguenze. Quand'anche riuscissimo a superare i limiti computazionali che impediscono la previsione potremmo ottenere un "senso comune" applicato meccanicamente. Un "senso comune" indipendente dalla comunità. Un "senso comune" immutabile, che non può evolvere se non nel solco del programma (ovvero degli interessi di chi l'ha creato). Un "sensi comune" privo di "senso" giacché le macchine elaborano dati cui solo la mente umana può attribuire un significato. Non è dunque un problema di quantità, di disponibilità di dati o di potenza di calcolo. È una questione di essenza. Gli automatismi trasformano meccanicamente dati, non informazioni. Segni privi di un significato intrinseco, che solo l'uomo vi può attribuire. E non parlo solo dell'input o dell'output: il software stesso è privo di un significato intrinseco, tant'è che processori diversi reagiscono a segni diversi nello stesso modo e a segni uguali in modo diverso. E tant'è che possiamo persino progettare macchine per reagire in un determinato modo a segni (dati) cui non proviamo nemmeno ad attribuire un significato. Acquisire questa consapevolezza ha profonde implicazioni pratiche. Per esempio rende evidente l'assurdità di parlare di "etica delle AI" o di "Explainable AI". Il software è debuggabile. Ciò che puoi spiegare al limite sono le intenzioni e gli errori di chi l'ha scritto. E quando non è perfettamente debuggabile, allora è da buttare, perché troppo pericoloso: la sua esecuzione è letteralmente "irresponsabile". Giacomo _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20221030113408062190…

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Giacomo Tesio

On October 30, 2022 12:50:03 PM UTC, Roberto Dolci wrote: > Specialmente, arrivare al 100% e' inutile. Infatti! L'importante è azzerare il potere contrattuale degli autisti. Giacomo

Oct. 30, 2022

Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen"

by Roberto Dolci

Negli USA abbiamo gia' tir che vengono portati in autostrada dall'autista, guidano in autonomia fino all'uscita e vengono presi in carico da altro autista in carne ed ossa che completa la consegna. Sull'autostrada questi camion a guida autonoma fanno anche platooning con buon risparmio di carburante. Da quanto sopra ad una completa guida autonoma siamo molto lontani, ho avuto modo ancora di recente di vedere che non siamo minimamente vicini ad un neopatentato. Specialmente, arrivare al 100% e' inutile. Buona domenica Roberto ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Enrico Nardelli <nardelli(a)mat.uniroma2.it> Inviato: venerdì 28 ottobre 2022 14:10:02 A: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] "It’s time to admit self-driving cars aren’t going to happen" Mi pare, però, per quanto ricordo di aver letto da qualche parte (purtroppo non ho riferimenti e se sto sbagliando qualcuno sicuramente mi correggerà), che in questo caso (come per il linguaggio naturale) la relazione tra precisione ottenuta e dati/tempo necessari per ottenerla è di tipo esponenziale. In altre parole, non riusciremo mai ad arrivare al livello di precisione degli esseri umani, perché non ci sono - da un punto di vista pragmatico - abbastanza dati o tempo: mi pare implausibile che Tesla possa arruolare come beta tester 160 milioni di persone per 20 anni... (sono numeri a caso, solo per illustrare il punto di vista). Per non parlare del fatto che gli esseri umani riescono a mantenere le performance anche in situazioni mai viste prima... Ciao, Enrico Il 28/10/2022 17:40, Andrea Zanni ha scritto: L'articolo l'ho letto, e su alcuni punti non sono d'accordo. Ma è la mia opinione, per carità. Per vedere lo stato dell'arte, sinceramente vi consiglio di guardare qualche video recente (su Youtube ci sono centinaia di ore di video a riguardo, li ho linkati sopra): questo non vuol dire che le auto arriveranno nel 2023, ci sono un sacco di cose che devono succedere. Ma la guida autonoma è un perfetto caso di "marcia dei 9": già le auto autonome (almeno, Tesla, che è quella che seguo) fanno il 99% del tragitto da sole, o forse siamo al 99,9. Il punto è arrivare a 99,9999, o 99.99999, dipende quello che deciderà il legislatore, che statistiche vorrà vedere, quali percorsi o tipi di strade permetterà ecc. È sicuramente una lunga strada, anche per il lato politico e in generale "sociale" della faccenda. Andrea -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:part1.k9QxZoGI.2ZPTvxeD@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Oct. 30, 2022