March 2018 - nexa - server-nexa.polito.it

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Roberto Dolci

Perfettamente d'accordo Alberto. Peraltro il "contenuto" di un automobile continua ad aumentare a parita' di Prezzo (scontato per inflazione): quindi dalle cinture di sicurezza e poggiatesta in poi, non e' che il costo sia stato passato sulle spalle dei consumatori, ma assorbito dallo sviluppo tecnologico. -----Original Message----- From: Alberto Cammozzo <ac+nexa(a)zeromx.net> Sent: Thursday, March 22, 2018 2:45 PM To: Roberto Dolci <rob.dolci(a)aizoon.us>; nexa(a)server-nexa.polito.it Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber Grazie Roberto, metti giustamente in evidenza che la dotazione del veicolo influisce sulla sua intelligenza in relazione all'ambiente e su quanto vi si adatta. Quello che voglio mettere in evidenza io è che mentre non si può pretendere che un umano veda di notte, si deve pretendere che una vettura autonoma lo faccia, visto che può tecnicamente farlo con la dotazione adatta. Altrimenti non dovrà avere licenza di circolare di notte. Essendo in gioco non solo la sicurezza del conducente (è relativamente affar suo) ma soprattutto quella pubblica (che è affare del decisore pubblico), a me pare che la "dotazione adatta" non possa essere decisa dal costo dei sensori e dal budget di chi acquista l'auto, ma debba essere oggetto di regolazione. Credo che chi vuole circolare autonomamente di notte (o a los Angeles, o sulla neve,...) deve avere la dotazione che (ragionevolmente) offre la massima reazione possibile tecnicamente in relazione all'ambiente, non solo quella che offrirebbe un guidatore umano (medio). In caso contrario privilegiamo un profitto privato a discapito dell'incolumità pubblica. [Il che comunque non sarebbe una novità... Basta saperlo.] Alberto On 22/03/2018 19:23, Roberto Dolci wrote: > Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno IR installato, e non solo. Occorre tenere presente pero' che una Mercedes ha $2800 (al costo) di sensori in piu' della Volvo XC90: la prima guida agevolmente a LosAngeles, la seconda no perche' non ci son line di mezzeria. > > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar > e-supposed-to-detect-pedestrians/ > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ > > -----Original Message----- > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Alberto > Cammozzo > Sent: Thursday, March 22, 2018 1:28 PM > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di > Uber > > Certo che si può pretendere che la macchina superi l'uomo se le si affida un veicolo sulla pubblica via. Anzi lo si deve richiedere. > > La telecamera evidentemente opera nello spettro visibile, cioè replica i limiti della visione umana. > Una telecamera a infrarossi, per non dire un radar, avrebbe certamente evitato l'incidente e salvato la vita dell'assai incauto pedone. > > Un veicolo automatico dotato di visione I/R oltre che ottica avrebbe potuto superare la capacità di reazione del guidatore umano. > Non lo ha fatto perché è stato progettato per non farlo, o meglio non è stato progettato per farlo, pur essendo tale progetto possibile e non a un costo proibitivo. > Quel veicolo, abilitato alla guida autonoma notturna, si limita a replicare i limiti della visione notturna umana pur potendo essere disegnato per rendere tale guida più sicura. > > Non dotare il veicolo anche di una videocamera IR è certamente una scelta di progetto, che definirei "insecure by design", almeno nella guida notturna. > > Per questo motivo non escludo la responsabilità, certamente morale e per omissione, del progettista o del committente. > > > Alberto > > > On 22/03/2018 13:12, Roberto Dolci wrote: >> Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. >> >> -----Original Message----- >> From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Mariella >> Berra >> Sent: Thursday, March 22, 2018 8:09 AM >> To: nexa(a)server-nexa.polito.it >> Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di >> Uber >> >> Cari tutti mi sembrerebbe un messaggio di responsabilità politica >> sociale e etica >> >> Mariella b >> >> >> Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: >>> estremizzo la posizione di Giacomo: nell'attesa di un ulteriore >>> progresso che renda i veicoli automatici più sicuri di quelli a >>> guida umana (che potrebbe arrivare in un paio di anni) vietiamo >>> l'impiego di veicoli automatici. >>> >>> Raf >>> >>> >>> Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >>>> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: >>>>> Non so se quel che si legge è vero, perchè in questi giorni si è >>>>> sentito di tutto, ma sembra che in realtà l'autista umano sia >>>>> stato avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. >>>> A quanto avevo letto, l'auto non ha frenato. >>>> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia >>>> opposta fosse perfettamente libera. >>>> >>>> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo >>>> caso, ma anche fosse, un auto a guida autonoma non dovrebbe >>>> affidarsi ai riflessi di un essere umano, non credi? >>>> >>>>> D'altra parte se uno si >>>>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: >>>>> una frenata non può avvenire in tempo zero. >>>> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo >>>> di >>>> - suonare il clacson >>>> - effettuare segnalazioni luminose >>>> - rallentare >>>> - deviare >>>> >>>> Ricordiamoci che non stiamo parlando di un cervello umano, ma di >>>> processori: non mi sono mai interessato di questo tipo di >>>> simulazioni, sono abbastanza confidente che calcolare una >>>> traiettoria per evitare il pedone data la sua velocità e direzione >>>> sarebbe stato piuttosto rapido. >>>> >>>> Se poi hanno messo un simulatore scritto in JavaScript a guidare la >>>> macchina, allora bisogna arrestare ANCHE gli ingegneri! >>>> >>>>> Peraltro, se fosse accertata la responsabilità del pedone, il >>>>> problema penale non si porrebbe. >>>> Obbiezione interessante. Probabilmente hai ragione: bisogna >>>> aggiornare l'ordinamento. >>>> >>>> Se disponiamo di una tecnologia che può evitare una morte in caso >>>> di errore umano, non possiamo dire che il suo fallimento non >>>> costituisce reato solo perché l'errore umano più evidente è della vittima. >>>> >>>> L'errore umano principale infatti sta nella progettazione del veicolo. >>>> >>>> In particolare nella interfaccia utente destinata al passeggero, >>>> che appunto, ha smesso di sentirsi autista dell'auto (come evidente >>>> dalla parte finale del filmato). >>>> La stessa definizione di "auto a guida autonoma", o "self driving car" >>>> (o forse persino "intelligenza artificiale") ha causato questo >>>> enorme (e facilmente evitabile) errore di progettazione. >>>> >>>>> Però è evidente che deve nascere una forma nuova di diritto (non >>>>> ho ancora finito di leggere "the law of robots" del prof. >>>>> Pollicino). E spero che includa un principio di innocenza fino a >>>>> prova contraria anche per gli automi! >>>> Questo temo sia impossibile. >>>> Non sono MAI gli automi ad essere innocenti o colpevoli: la >>>> responsabilità va sempre ricondotta alle persone che li hanno messi >>>> in circolazione. >>>> >>>> I principio di innocenza fino a prova contraria, non si applica >>>> alle cose. >>>> >>>> >>>> Vi e poi un problema pratico: come dimostrare che la macchina ha >>>> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la >>>> responsabilità penale sussiste? >>>> >>>> Chi paga il lavoro degli esperti necessari ad analizzare ogni >>>> singolo componente e ogni riga di codice per verificare l'assenza di errori? >>>> Infatti, in via precauzionale, dovremmo interrompere la produzione >>>> ma al contempo non potremmo mettere Uber a verificare il proprio >>>> prodotto ne persone pagate da Uber. >>>> >>>> Avremmo bisogno di esperti indipendenti da queste multinazionali >>>> per valutare il loro lavoro (e ci potrebbero volere anni). >>>> >>>> Nella remota ipotesi che non trovassero errori nel sistema, chi >>>> facciamo pagare? la famiglia della vittima? lo stato? >>>> >>>> >>>> In realtà comunque gli errori ci sono di sicuro, quanto meno a >>>> livello software. >>>> >>>> Perché chiunque sviluppa software sa che l'errore non è una >>>> condizione occasionale che capita a persone che per il resto non sbagliano. >>>> L'errore è condizione normale della operatività umana. E questa è >>>> particolarmente evidente nel software, per la natura stessa >>>> dell'artefatto e per la scarsa evoluzione dell'informatica. >>>> >>>> >>>> Dunque, per gli automi, dovremo adottare un principio di >>>> colpevolezza dei costruttori fino a prova contraria. >>>> >>>> >>>> >>>> Giacomo >>>> _______________________________________________ >>>> nexa mailing list >>>> nexa(a)server-nexa.polito.it >>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> -- >> Prof.ssa Mariella Berra >> Dipartimento di Culture, Politica e Società Università di Torino >> tel.+390116702606 >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Alberto Cammozzo

Grazie Roberto, metti giustamente in evidenza che la dotazione del veicolo influisce sulla sua intelligenza in relazione all'ambiente e su quanto vi si adatta. Quello che voglio mettere in evidenza io è che mentre non si può pretendere che un umano veda di notte, si deve pretendere che una vettura autonoma lo faccia, visto che può tecnicamente farlo con la dotazione adatta. Altrimenti non dovrà avere licenza di circolare di notte. Essendo in gioco non solo la sicurezza del conducente (è relativamente affar suo) ma soprattutto quella pubblica (che è affare del decisore pubblico), a me pare che la "dotazione adatta" non possa essere decisa dal costo dei sensori e dal budget di chi acquista l'auto, ma debba essere oggetto di regolazione. Credo che chi vuole circolare autonomamente di notte (o a los Angeles, o sulla neve,...) deve avere la dotazione che (ragionevolmente) offre la massima reazione possibile tecnicamente in relazione all'ambiente, non solo quella che offrirebbe un guidatore umano (medio). In caso contrario privilegiamo un profitto privato a discapito dell'incolumità pubblica. [Il che comunque non sarebbe una novità... Basta saperlo.] Alberto On 22/03/2018 19:23, Roberto Dolci wrote: > Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno IR installato, e non solo. Occorre tenere presente pero' che una Mercedes ha $2800 (al costo) di sensori in piu' della Volvo XC90: la prima guida agevolmente a LosAngeles, la seconda no perche' non ci son line di mezzeria. > > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-are-sup… > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ > > -----Original Message----- > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Alberto Cammozzo > Sent: Thursday, March 22, 2018 1:28 PM > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber > > Certo che si può pretendere che la macchina superi l'uomo se le si affida un veicolo sulla pubblica via. Anzi lo si deve richiedere. > > La telecamera evidentemente opera nello spettro visibile, cioè replica i limiti della visione umana. > Una telecamera a infrarossi, per non dire un radar, avrebbe certamente evitato l'incidente e salvato la vita dell'assai incauto pedone. > > Un veicolo automatico dotato di visione I/R oltre che ottica avrebbe potuto superare la capacità di reazione del guidatore umano. > Non lo ha fatto perché è stato progettato per non farlo, o meglio non è stato progettato per farlo, pur essendo tale progetto possibile e non a un costo proibitivo. > Quel veicolo, abilitato alla guida autonoma notturna, si limita a replicare i limiti della visione notturna umana pur potendo essere disegnato per rendere tale guida più sicura. > > Non dotare il veicolo anche di una videocamera IR è certamente una scelta di progetto, che definirei "insecure by design", almeno nella guida notturna. > > Per questo motivo non escludo la responsabilità, certamente morale e per omissione, del progettista o del committente. > > > Alberto > > > On 22/03/2018 13:12, Roberto Dolci wrote: >> Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. >> >> -----Original Message----- >> From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Mariella >> Berra >> Sent: Thursday, March 22, 2018 8:09 AM >> To: nexa(a)server-nexa.polito.it >> Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di >> Uber >> >> Cari tutti mi sembrerebbe un messaggio di responsabilità politica >> sociale e etica >> >> Mariella b >> >> >> Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: >>> estremizzo la posizione di Giacomo: nell'attesa di un ulteriore >>> progresso che renda i veicoli automatici più sicuri di quelli a guida >>> umana (che potrebbe arrivare in un paio di anni) vietiamo l'impiego >>> di veicoli automatici. >>> >>> Raf >>> >>> >>> Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >>>> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: >>>>> Non so se quel che si legge è vero, perchè in questi giorni si è >>>>> sentito di tutto, ma sembra che in realtà l'autista umano sia stato >>>>> avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. >>>> A quanto avevo letto, l'auto non ha frenato. >>>> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia >>>> opposta fosse perfettamente libera. >>>> >>>> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo >>>> caso, ma anche fosse, un auto a guida autonoma non dovrebbe >>>> affidarsi ai riflessi di un essere umano, non credi? >>>> >>>>> D'altra parte se uno si >>>>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: una >>>>> frenata non può avvenire in tempo zero. >>>> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo di >>>> - suonare il clacson >>>> - effettuare segnalazioni luminose >>>> - rallentare >>>> - deviare >>>> >>>> Ricordiamoci che non stiamo parlando di un cervello umano, ma di >>>> processori: non mi sono mai interessato di questo tipo di >>>> simulazioni, sono abbastanza confidente che calcolare una >>>> traiettoria per evitare il pedone data la sua velocità e direzione >>>> sarebbe stato piuttosto rapido. >>>> >>>> Se poi hanno messo un simulatore scritto in JavaScript a guidare la >>>> macchina, allora bisogna arrestare ANCHE gli ingegneri! >>>> >>>>> Peraltro, se fosse accertata la responsabilità del pedone, il >>>>> problema penale non si porrebbe. >>>> Obbiezione interessante. Probabilmente hai ragione: bisogna >>>> aggiornare l'ordinamento. >>>> >>>> Se disponiamo di una tecnologia che può evitare una morte in caso di >>>> errore umano, non possiamo dire che il suo fallimento non >>>> costituisce reato solo perché l'errore umano più evidente è della vittima. >>>> >>>> L'errore umano principale infatti sta nella progettazione del veicolo. >>>> >>>> In particolare nella interfaccia utente destinata al passeggero, che >>>> appunto, ha smesso di sentirsi autista dell'auto (come evidente >>>> dalla parte finale del filmato). >>>> La stessa definizione di "auto a guida autonoma", o "self driving car" >>>> (o forse persino "intelligenza artificiale") ha causato questo >>>> enorme (e facilmente evitabile) errore di progettazione. >>>> >>>>> Però è evidente che deve nascere una forma nuova di diritto (non ho >>>>> ancora finito di leggere "the law of robots" del prof. >>>>> Pollicino). E spero che includa un principio di innocenza fino a >>>>> prova contraria anche per gli automi! >>>> Questo temo sia impossibile. >>>> Non sono MAI gli automi ad essere innocenti o colpevoli: la >>>> responsabilità va sempre ricondotta alle persone che li hanno messi >>>> in circolazione. >>>> >>>> I principio di innocenza fino a prova contraria, non si applica alle >>>> cose. >>>> >>>> >>>> Vi e poi un problema pratico: come dimostrare che la macchina ha >>>> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la >>>> responsabilità penale sussiste? >>>> >>>> Chi paga il lavoro degli esperti necessari ad analizzare ogni >>>> singolo componente e ogni riga di codice per verificare l'assenza di errori? >>>> Infatti, in via precauzionale, dovremmo interrompere la produzione >>>> ma al contempo non potremmo mettere Uber a verificare il proprio >>>> prodotto ne persone pagate da Uber. >>>> >>>> Avremmo bisogno di esperti indipendenti da queste multinazionali per >>>> valutare il loro lavoro (e ci potrebbero volere anni). >>>> >>>> Nella remota ipotesi che non trovassero errori nel sistema, chi >>>> facciamo pagare? la famiglia della vittima? lo stato? >>>> >>>> >>>> In realtà comunque gli errori ci sono di sicuro, quanto meno a >>>> livello software. >>>> >>>> Perché chiunque sviluppa software sa che l'errore non è una >>>> condizione occasionale che capita a persone che per il resto non sbagliano. >>>> L'errore è condizione normale della operatività umana. E questa è >>>> particolarmente evidente nel software, per la natura stessa >>>> dell'artefatto e per la scarsa evoluzione dell'informatica. >>>> >>>> >>>> Dunque, per gli automi, dovremo adottare un principio di >>>> colpevolezza dei costruttori fino a prova contraria. >>>> >>>> >>>> >>>> Giacomo >>>> _______________________________________________ >>>> nexa mailing list >>>> nexa(a)server-nexa.polito.it >>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> -- >> Prof.ssa Mariella Berra >> Dipartimento di Culture, Politica e Società Università di Torino >> tel.+390116702606 >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Roberto Dolci

Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno IR installato, e non solo. Occorre tenere presente pero' che una Mercedes ha $2800 (al costo) di sensori in piu' della Volvo XC90: la prima guida agevolmente a LosAngeles, la seconda no perche' non ci son line di mezzeria. https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-are-sup… https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ -----Original Message----- From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Alberto Cammozzo Sent: Thursday, March 22, 2018 1:28 PM To: nexa(a)server-nexa.polito.it Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber Certo che si può pretendere che la macchina superi l'uomo se le si affida un veicolo sulla pubblica via. Anzi lo si deve richiedere. La telecamera evidentemente opera nello spettro visibile, cioè replica i limiti della visione umana. Una telecamera a infrarossi, per non dire un radar, avrebbe certamente evitato l'incidente e salvato la vita dell'assai incauto pedone. Un veicolo automatico dotato di visione I/R oltre che ottica avrebbe potuto superare la capacità di reazione del guidatore umano. Non lo ha fatto perché è stato progettato per non farlo, o meglio non è stato progettato per farlo, pur essendo tale progetto possibile e non a un costo proibitivo. Quel veicolo, abilitato alla guida autonoma notturna, si limita a replicare i limiti della visione notturna umana pur potendo essere disegnato per rendere tale guida più sicura. Non dotare il veicolo anche di una videocamera IR è certamente una scelta di progetto, che definirei "insecure by design", almeno nella guida notturna. Per questo motivo non escludo la responsabilità, certamente morale e per omissione, del progettista o del committente. Alberto On 22/03/2018 13:12, Roberto Dolci wrote: > Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. > > -----Original Message----- > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Mariella > Berra > Sent: Thursday, March 22, 2018 8:09 AM > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di > Uber > > Cari tutti mi sembrerebbe un messaggio di responsabilità politica > sociale e etica > > Mariella b > > > Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: >> estremizzo la posizione di Giacomo: nell'attesa di un ulteriore >> progresso che renda i veicoli automatici più sicuri di quelli a guida >> umana (che potrebbe arrivare in un paio di anni) vietiamo l'impiego >> di veicoli automatici. >> >> Raf >> >> >> Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >>> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: >>>> Non so se quel che si legge è vero, perchè in questi giorni si è >>>> sentito di tutto, ma sembra che in realtà l'autista umano sia stato >>>> avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. >>> A quanto avevo letto, l'auto non ha frenato. >>> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia >>> opposta fosse perfettamente libera. >>> >>> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo >>> caso, ma anche fosse, un auto a guida autonoma non dovrebbe >>> affidarsi ai riflessi di un essere umano, non credi? >>> >>>> D'altra parte se uno si >>>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: una >>>> frenata non può avvenire in tempo zero. >>> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo di >>> - suonare il clacson >>> - effettuare segnalazioni luminose >>> - rallentare >>> - deviare >>> >>> Ricordiamoci che non stiamo parlando di un cervello umano, ma di >>> processori: non mi sono mai interessato di questo tipo di >>> simulazioni, sono abbastanza confidente che calcolare una >>> traiettoria per evitare il pedone data la sua velocità e direzione >>> sarebbe stato piuttosto rapido. >>> >>> Se poi hanno messo un simulatore scritto in JavaScript a guidare la >>> macchina, allora bisogna arrestare ANCHE gli ingegneri! >>> >>>> Peraltro, se fosse accertata la responsabilità del pedone, il >>>> problema penale non si porrebbe. >>> Obbiezione interessante. Probabilmente hai ragione: bisogna >>> aggiornare l'ordinamento. >>> >>> Se disponiamo di una tecnologia che può evitare una morte in caso di >>> errore umano, non possiamo dire che il suo fallimento non >>> costituisce reato solo perché l'errore umano più evidente è della vittima. >>> >>> L'errore umano principale infatti sta nella progettazione del veicolo. >>> >>> In particolare nella interfaccia utente destinata al passeggero, che >>> appunto, ha smesso di sentirsi autista dell'auto (come evidente >>> dalla parte finale del filmato). >>> La stessa definizione di "auto a guida autonoma", o "self driving car" >>> (o forse persino "intelligenza artificiale") ha causato questo >>> enorme (e facilmente evitabile) errore di progettazione. >>> >>>> Però è evidente che deve nascere una forma nuova di diritto (non ho >>>> ancora finito di leggere "the law of robots" del prof. >>>> Pollicino). E spero che includa un principio di innocenza fino a >>>> prova contraria anche per gli automi! >>> Questo temo sia impossibile. >>> Non sono MAI gli automi ad essere innocenti o colpevoli: la >>> responsabilità va sempre ricondotta alle persone che li hanno messi >>> in circolazione. >>> >>> I principio di innocenza fino a prova contraria, non si applica alle >>> cose. >>> >>> >>> Vi e poi un problema pratico: come dimostrare che la macchina ha >>> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la >>> responsabilità penale sussiste? >>> >>> Chi paga il lavoro degli esperti necessari ad analizzare ogni >>> singolo componente e ogni riga di codice per verificare l'assenza di errori? >>> Infatti, in via precauzionale, dovremmo interrompere la produzione >>> ma al contempo non potremmo mettere Uber a verificare il proprio >>> prodotto ne persone pagate da Uber. >>> >>> Avremmo bisogno di esperti indipendenti da queste multinazionali per >>> valutare il loro lavoro (e ci potrebbero volere anni). >>> >>> Nella remota ipotesi che non trovassero errori nel sistema, chi >>> facciamo pagare? la famiglia della vittima? lo stato? >>> >>> >>> In realtà comunque gli errori ci sono di sicuro, quanto meno a >>> livello software. >>> >>> Perché chiunque sviluppa software sa che l'errore non è una >>> condizione occasionale che capita a persone che per il resto non sbagliano. >>> L'errore è condizione normale della operatività umana. E questa è >>> particolarmente evidente nel software, per la natura stessa >>> dell'artefatto e per la scarsa evoluzione dell'informatica. >>> >>> >>> Dunque, per gli automi, dovremo adottare un principio di >>> colpevolezza dei costruttori fino a prova contraria. >>> >>> >>> >>> Giacomo >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- > Prof.ssa Mariella Berra > Dipartimento di Culture, Politica e Società Università di Torino > tel.+390116702606 > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Alberto Cammozzo

Certo che si può pretendere che la macchina superi l'uomo se le si affida un veicolo sulla pubblica via. Anzi lo si deve richiedere. La telecamera evidentemente opera nello spettro visibile, cioè replica i limiti della visione umana. Una telecamera a infrarossi, per non dire un radar, avrebbe certamente evitato l'incidente e salvato la vita dell'assai incauto pedone. Un veicolo automatico dotato di visione I/R oltre che ottica avrebbe potuto superare la capacità di reazione del guidatore umano. Non lo ha fatto perché è stato progettato per non farlo, o meglio non è stato progettato per farlo, pur essendo tale progetto possibile e non a un costo proibitivo. Quel veicolo, abilitato alla guida autonoma notturna, si limita a replicare i limiti della visione notturna umana pur potendo essere disegnato per rendere tale guida più sicura. Non dotare il veicolo anche di una videocamera IR è certamente una scelta di progetto, che definirei "insecure by design", almeno nella guida notturna. Per questo motivo non escludo la responsabilità, certamente morale e per omissione, del progettista o del committente. Alberto On 22/03/2018 13:12, Roberto Dolci wrote: > Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. > > -----Original Message----- > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Mariella Berra > Sent: Thursday, March 22, 2018 8:09 AM > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber > > Cari tutti mi sembrerebbe un messaggio di responsabilità politica sociale e etica > > Mariella b > > > Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: >> estremizzo la posizione di Giacomo: nell'attesa di un ulteriore >> progresso che renda i veicoli automatici più sicuri di quelli a guida >> umana (che potrebbe arrivare in un paio di anni) vietiamo l'impiego di >> veicoli automatici. >> >> Raf >> >> >> Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >>> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: >>>> Non so se quel che si legge è vero, perchè in questi giorni si è >>>> sentito di tutto, ma sembra che in realtà l'autista umano sia stato >>>> avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. >>> A quanto avevo letto, l'auto non ha frenato. >>> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia >>> opposta fosse perfettamente libera. >>> >>> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo caso, >>> ma anche fosse, un auto a guida autonoma non dovrebbe affidarsi ai >>> riflessi di un essere umano, non credi? >>> >>>> D'altra parte se uno si >>>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: una >>>> frenata non può avvenire in tempo zero. >>> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo di >>> - suonare il clacson >>> - effettuare segnalazioni luminose >>> - rallentare >>> - deviare >>> >>> Ricordiamoci che non stiamo parlando di un cervello umano, ma di >>> processori: non mi sono mai interessato di questo tipo di >>> simulazioni, sono abbastanza confidente che calcolare una traiettoria >>> per evitare il pedone data la sua velocità e direzione sarebbe stato >>> piuttosto rapido. >>> >>> Se poi hanno messo un simulatore scritto in JavaScript a guidare la >>> macchina, allora bisogna arrestare ANCHE gli ingegneri! >>> >>>> Peraltro, se fosse accertata la responsabilità del pedone, il >>>> problema penale non si porrebbe. >>> Obbiezione interessante. Probabilmente hai ragione: bisogna >>> aggiornare l'ordinamento. >>> >>> Se disponiamo di una tecnologia che può evitare una morte in caso di >>> errore umano, non possiamo dire che il suo fallimento non costituisce >>> reato solo perché l'errore umano più evidente è della vittima. >>> >>> L'errore umano principale infatti sta nella progettazione del veicolo. >>> >>> In particolare nella interfaccia utente destinata al passeggero, che >>> appunto, ha smesso di sentirsi autista dell'auto (come evidente dalla >>> parte finale del filmato). >>> La stessa definizione di "auto a guida autonoma", o "self driving car" >>> (o forse persino "intelligenza artificiale") ha causato questo enorme >>> (e facilmente evitabile) errore di progettazione. >>> >>>> Però è evidente che deve nascere una forma nuova di diritto (non ho >>>> ancora finito di leggere "the law of robots" del prof. >>>> Pollicino). E spero che includa un principio di innocenza fino a >>>> prova contraria anche per gli automi! >>> Questo temo sia impossibile. >>> Non sono MAI gli automi ad essere innocenti o colpevoli: la >>> responsabilità va sempre ricondotta alle persone che li hanno messi >>> in circolazione. >>> >>> I principio di innocenza fino a prova contraria, non si applica alle >>> cose. >>> >>> >>> Vi e poi un problema pratico: come dimostrare che la macchina ha >>> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la >>> responsabilità penale sussiste? >>> >>> Chi paga il lavoro degli esperti necessari ad analizzare ogni singolo >>> componente e ogni riga di codice per verificare l'assenza di errori? >>> Infatti, in via precauzionale, dovremmo interrompere la produzione ma >>> al contempo non potremmo mettere Uber a verificare il proprio >>> prodotto ne persone pagate da Uber. >>> >>> Avremmo bisogno di esperti indipendenti da queste multinazionali per >>> valutare il loro lavoro (e ci potrebbero volere anni). >>> >>> Nella remota ipotesi che non trovassero errori nel sistema, chi >>> facciamo pagare? la famiglia della vittima? lo stato? >>> >>> >>> In realtà comunque gli errori ci sono di sicuro, quanto meno a >>> livello software. >>> >>> Perché chiunque sviluppa software sa che l'errore non è una >>> condizione occasionale che capita a persone che per il resto non sbagliano. >>> L'errore è condizione normale della operatività umana. E questa è >>> particolarmente evidente nel software, per la natura stessa >>> dell'artefatto e per la scarsa evoluzione dell'informatica. >>> >>> >>> Dunque, per gli automi, dovremo adottare un principio di colpevolezza >>> dei costruttori fino a prova contraria. >>> >>> >>> >>> Giacomo >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- > Prof.ssa Mariella Berra > Dipartimento di Culture, Politica e Società Università di Torino > tel.+390116702606 > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Giacomo Tesio

Il giorno 22 marzo 2018 17:52, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: > In ogni caso, se si pensasse di introdurre una tecnologia solo quando è > perfetta, saremmo ancora nelle caverne. > Infatti non si tratta di vietare. Si tratta di pretendere responsabilità. > Anche oggetti apparentemente innocui come il cellulare hanno già causato > rare vittime per esplosioni di batterie. L'aereo è il mezzo più sicuro, ma > ogni tanto qualcuno casca, nè peraltro si sarebbe potuti arrivare > all'elevato standard odierno senza passare dagli incidenti e dalla > successiva analisi. > Sai, anche l'amianto era apparentemente innocuo... o forse no? > Con questo non voglio dire né che non si debbano perseguire le eventuali > responsabilità > Ecco esatto il punto è tutto qui. Toglierei però l'aggettivo "eventuali". Ci sono SEMPRE responsabilità quando qualcuno muore per cause non naturali. E tutte le volte che lo stato rinuncia a punire i veri responsabili di una morte, come nel caso della Thyssenkrupp o della Eternit, mostra di non detenere il monopolio dell'uso legittimo della forza. Questo tipo di ingiustizie hanno un* ruolo profondo e fondamentale* nel minare la stabilità di una Nazione e *la fiducia dei suoi cittadini nelle istituzioni*. Ma questa, come si suol dire, è un altra storia... Giacomo

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Giacomo Tesio

Il giorno 22 marzo 2018 17:13, M. Fioretti <mfioretti(a)nexaima.net> ha scritto: > Secondo me ti stai avvitando a vuoto, > su qualcosa che almeno **io** non ho detto, nè intendo. > Sì infatti ti ho detto che *sono d'accordo con te* (sulla stupidità di questo approccio). E avevo notato le virgolette nella tua citazione (che ho riportato). Io contestavo il contenuto della citazione. > Primo, perché l'UNICO confronto di cui sto parlando IO è quello fra > QUANTITÀ di vite. Appunto. Puoi parlare di quantità discrete solo per cose uguali: 10 pere, 5 mele e così via. Per mettere insieme mele e pere devi astrarre: 5.5 kg di frutta. Io sto dicendo che* ogni vita è unica ed irripetibile* e *non può essere dunque contata con un'altra*. Non pretendo che siamo d'accordo su questo: non voglio fare lo stesso errore del MIT, forzando tutti in una visione utilitaristica. La mia morale non è "migliore" di quella utilitaristica. Ma visto che è altrettanto degna, credo meriti la stessa considerazione. Inoltre è importante che *la moralità di riferimento sia resa esplicita*, soprattutto quando si parla di* insegnare l'etica alle macchine*: https://twitter.com/giacomotesio/status/974347546570248192 > Che è cosa enormemente diversa del "confronto > fra vite". Se mi si dimostra che usando lo strumento X muoiono > 1000 persone l'anno, e usando lo strumento Y ne muoiono solo 100, > e non ci sono altre soluzioni, se dico "OK, allora sarei cretino > a non usare Y" che senso hanno i confronti fra chi morirebbe > con Y e chi muore con X? Sto forse dicendo che è meglio morire > in un modo che in un altro, o che una vita vale meno di un'altra? > No, stai dicendo che, nel tuo sistema morale di riferimento, le vite valgono tutte nello stesso modo. Io sto dicendo che se proietto il valore (vettoriale) di qualunque vita su qualunque altra, ottengo sempre zero. Dunque non posso decidere se le 100 uccise da Y valgono di più, di meno o uguale alle 1000 uccise da X. Il che mi costringe ad introdurre un'altro fattore nel ragionamento: la responsabilità umana, che non può essere rimossa. > Secondo: dove sta scritto che quanto sopra sia EQUIVALENTE a > "se Y ammazza qualcuno per suoi errori di progettazione > pazienza, perché senza Y sarebbero morte di sicuro molte più persone"? > Temo sia una conseguenza logica: se accetti di comparare le vite, si tratta di mera economia. > > dove sta scritto, usando le tue parole, che promuovere la soluzione > che fa perdere meno vite umane esclude che: > > ... se una persona si assume la responsabilità morale di >> mettere in circolazione auto a guida autonoma, sia solo chiaro che ne >> risponde penalmente come ne risponde moralmente. >> > Se accetti di comprare (o permetti di diffondere) una tecnologia che uccide "solo 100 persone": puoi chiedere a chi te la vende di finire in prigione per omicidio colposo quando una di quelle 100 persone viene uccisa? Giacomo

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Diego Giorio

In ogni caso, se si pensasse di introdurre una tecnologia solo quando è perfetta, saremmo ancora nelle caverne. Anche oggetti apparentemente innocui come il cellulare hanno già causato rare vittime per esplosioni di batterie. L'aereo è il mezzo più sicuro, ma ogni tanto qualcuno casca, nè peraltro si sarebbe potuti arrivare all'elevato standard odierno senza passare dagli incidenti e dalla successiva analisi. Con questo non voglio dire né che non si debbano perseguire le eventuali responsabilità, né che si possano mettere sulla strada auto killer senza uno sviluppo adeguato, sto solo dicendo che una drastica riduzione degli incidenti sarebbe già motivo sufficiente per sostituire una tecnologia (già in essere e già causa di vittime senza che nessuno si sogni di abolirla) con l'altra più sicura. Quanto al fatto che sperare che un "autista passivo" possa svegliarsi ed agire più rapidamente di un computer in caso di problemi, sono d'accordo che è pura utopia. Il fatto però che si debba passare di colpo da un'auto manuale ad un'auto senza comandi non mi vede del tutto favorevole. Mi immagino invece, soprattutto nella realtà italiana con tanti borghi di vie strette e tortuose, una soluzione ibrida, per cui l'auto guida da sola in autostrada o su arterie di scorrimento, mentre io riprendo il controllo nell'ultimo miglio. Ma ognuno ha una sua visione del futuro, e di solito finchè le tecnologie non si concretizzano molti si avvicinano ma nessuno ci azzecca del tutto. D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of M. Fioretti <mfioretti(a)nexaima.net> Sent: Thursday, March 22, 2018 4:13 PM To: Nexa Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber On 2018-03-22 16:14, Giacomo Tesio wrote: > Il giorno 22 marzo 2018 15:51, M. Fioretti <mfioretti(a)nexaima.net> ha > scritto: > >> "vale la pena passare alle auto a guida autonoma perché i decessi >> per incidenti stradali sarebbero molti di meno di quanti ce ne sono >> oggi" > > In realtà è ESATTAMENTE la stessa affermazione, solo posta in > maniera più diplomatica. :-) > > Io sto dicendo che il valore delle vite non è esprimibile con uno > scalare (almeno per un cristiano). > > Dunque non è proprio possibile fare il confronto fra le vite > interrotte dalla guida autonoma e quelle interrote senza la guida > autonoma. non so che altro dirti. Secondo me ti stai avvitando a vuoto, su qualcosa che almeno **io** non ho detto, nè intendo. Primo, perché l'UNICO confronto di cui sto parlando IO è quello fra QUANTITÀ di vite. Che è cosa enormemente diversa del "confronto fra vite". Se mi si dimostra che usando lo strumento X muoiono 1000 persone l'anno, e usando lo strumento Y ne muoiono solo 100, e non ci sono altre soluzioni, se dico "OK, allora sarei cretino a non usare Y" che senso hanno i confronti fra chi morirebbe con Y e chi muore con X? Sto forse dicendo che è meglio morire in un modo che in un altro, o che una vita vale meno di un'altra? Secondo: dove sta scritto che quanto sopra sia EQUIVALENTE a "se Y ammazza qualcuno per suoi errori di progettazione pazienza, perché senza Y sarebbero morte di sicuro molte più persone"? dove sta scritto, usando le tue parole, che promuovere la soluzione che fa perdere meno vite umane esclude che: > ... se una persona si assume la responsabilità morale di > mettere in circolazione auto a guida autonoma, sia solo chiaro che ne > risponde penalmente come ne risponde moralmente. Marco -- http://mfioretti.com Marco Fioretti<http://mfioretti.com/> mfioretti.com Author, trainer, popularizer, researcher ... © 1997-2016 Marco Fioretti · Powered by the Academic theme for Hugo. _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-22 16:14, Giacomo Tesio wrote: > Il giorno 22 marzo 2018 15:51, M. Fioretti <mfioretti(a)nexaima.net> ha > scritto: > >> "vale la pena passare alle auto a guida autonoma perché i decessi >> per incidenti stradali sarebbero molti di meno di quanti ce ne sono >> oggi" > > In realtà è ESATTAMENTE la stessa affermazione, solo posta in > maniera più diplomatica. :-) > > Io sto dicendo che il valore delle vite non è esprimibile con uno > scalare (almeno per un cristiano). > > Dunque non è proprio possibile fare il confronto fra le vite > interrotte dalla guida autonoma e quelle interrote senza la guida > autonoma. non so che altro dirti. Secondo me ti stai avvitando a vuoto, su qualcosa che almeno **io** non ho detto, nè intendo. Primo, perché l'UNICO confronto di cui sto parlando IO è quello fra QUANTITÀ di vite. Che è cosa enormemente diversa del "confronto fra vite". Se mi si dimostra che usando lo strumento X muoiono 1000 persone l'anno, e usando lo strumento Y ne muoiono solo 100, e non ci sono altre soluzioni, se dico "OK, allora sarei cretino a non usare Y" che senso hanno i confronti fra chi morirebbe con Y e chi muore con X? Sto forse dicendo che è meglio morire in un modo che in un altro, o che una vita vale meno di un'altra? Secondo: dove sta scritto che quanto sopra sia EQUIVALENTE a "se Y ammazza qualcuno per suoi errori di progettazione pazienza, perché senza Y sarebbero morte di sicuro molte più persone"? dove sta scritto, usando le tue parole, che promuovere la soluzione che fa perdere meno vite umane esclude che: > ... se una persona si assume la responsabilità morale di > mettere in circolazione auto a guida autonoma, sia solo chiaro che ne > risponde penalmente come ne risponde moralmente. Marco -- http://mfioretti.com

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Giacomo Tesio

Il giorno 22 marzo 2018 15:51, M. Fioretti <mfioretti(a)nexaima.net> ha scritto: > "vale la pena passare alle auto a guida autonoma perché i decessi per > incidenti stradali sarebbero molti di meno di quanti ce ne sono oggi" > In realtà è *esattamente *la stessa affermazione, solo posta in maniera più diplomatica. :-) Io sto dicendo che il valore delle vite non è esprimibile con uno scalare (almeno per un cristiano). Dunque non è proprio possibile fare il confronto fra le vite interrotte dalla guida autonoma e quelle interrote senza la guida autonoma. Si può invece trasformare tutto questo spreco di fondi ed energie (sul quale concordo con te) per realizzare sistemi di sicurezza che salvino più vite, su auto a guida umana. Semplicemente perché la responsabilità umana è un bene prezioso. D'altro canto, se una persona si assume la responsabilità morale di mettere in circolazione auto a guida autonoma, sia solo chiaro che ne risponde penalmente come ne risponde moralmente. E *visto che i bug sono la condizione normale del software*, si assuma nei suoi confronti il *principio di colpevolezza fino prova contraria*. D'altro canto questo approccio avrebbe un effetto positivo sulla qualità di queste auto, del software e della ricerca sulla IA in generale. Giacomo

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Roberto Dolci

Ciao Giacomo, IMHO sarebbe assolutamente etico metterla sul mercato dal punto di vista utilitaristico, e sarebbe pure corretto dal punto di vista kantiano. Il NON metterla sul mercato sarebbe probabilmente anche corretto per Kant 😊 Rob From: Giacomo Tesio <giacomo(a)tesio.it> Sent: Thursday, March 22, 2018 10:37 AM To: Roberto Dolci <rob.dolci(a)aizoon.us>; mfioretti(a)nexaima.net; Diego Giorio <dgiorio(a)hotmail.com> Cc: Mariella Berra <mariella.berra(a)unito.it>; nexa(a)server-nexa.polito.it Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber Il 22 marzo 2018 11:36, Diego Giorio <dgiorio(a)hotmail.com<mailto:dgiorio@hotmail.com>> ha scritto: > Se un'auto robotica, per quanto imperfetta, dimezzasse questi > incidenti, sarebbe etico non metterla sul mercato perchè i difetti causano > l'altra metà? Il 22 marzo 2018 13:12, M. Fioretti <mfioretti(a)nexaima.net<mailto:mfioretti@nexaima.net>> ha scritto: > "La responsabilità morale del fornitore di VA e della rete di VA sulle > strade in un determinato momento non è salvare zia Ada ma raggiungere > le ottimizzazioni che noi, come società, abbiamo assunto come decisione > politica." Il 22 marzo 2018 13:12, Roberto Dolci <rob.dolci(a)aizoon.us<mailto:rob.dolci@aizoon.us>> ha scritto: > Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. Durante la revisione del Libro Bianco IA, uno dei commentatori ha proposto un link di futurism che parlava della "MoralMachine" del MIT.: http://moralmachine.mit.edu/ Eseguire quel giochino è stato veramente ILLUMINANTE. Suggerisco a tutti di provare a farlo SERIAMENTE: 1) immaginate persone AMATE nei diversi ruoli prima di scegliere CHI UCCIDERE 2) segnare il responso su un foglietto 3) poi provate a scambiarle di ruolo e segnate di nuovo il responso 4) riprendete dal punto 1 fino a quando i responsi divergono 5) quando i responsi segnati sul foglietto convergono cliccate sulla opzione corrispondente e ricominciate con l'esempio successivo. Ripeto che è una esperienza ILLUMINANTE, che consiglio a tutti, per quanto LACERANTE possa essere (io ho fatto una enorme fatica a concentrarmi immaginando tutto il dolore che le diverse opzioni avrebbero causato). Per decidere fra le alternative fornite è NECESSARIO attribuire un valore "morale" relativo alle diverse vite in gioco, in modo da poter scegliere "moralmente" chi uccidere e chi salvare. Ora, la "Moral Machine" del MIT, come le frasi che ho citato, mostra due problemi macroscopici, uno psicologico/culturale e l'altro logico/matematico. Il problema psicologico in fondo accomuna il MIT e l'ISIS ma anche i crociati medioevali ed una vasta parte della popolazione occidentale. Si tratta dell'assunzione che il proprio sistema morale sia l'unico possibile, o quanto meno il migliore. Attribuire un valore scalare ad una vita è possibile in tutti i sistemi morali utilitaristici ed edonistici, quale quello che sorregge il capitalismo, in cui il MIT è immerso. La massima espressione ti questo sistema morale la troviamo espressa con eleganza in Italia, nel motto "uno vale uno". Fortunatamente il mondo è un po' più vario di così. In sistemi morali appena più raffinati, infatti, il problema così posto non ha soluzione. Per esempio il mio sistema morale, da cristiano cattolico, è multidimensionale: attribuisce a ciascuna vita un valore vettoriale su una direzione ortogonale a tutte le altre vite. Come conseguenza, io non posso letteralmente scegliere chi uccidere: vi lascio la dimostrazione (piuttosto semplice in realtà), ma per i non matematici basti notare che "non uccidere" non ammette eccezioni. ATTENZIONE! Questo non significa che il sistema morale cattolico sia inapplicabile a questo tipo di problemi pratici. Se proiettate su un asse economico ciascuna vita assume istantaneamente un valore infinito. E dunque, se il mio sistema morale non permette di decidere chi uccidere, permette invece di stabilire con chiarezza a quanta ricchezza possiamo rinunciare per salvare una vita: tutta quella che serve. Vi prego, dunque di non usare come argomento il fatto che le auto a guida autonoma possono salvare più vite di quelle che spezzano. A me non interessa. A me interessa che chi causa la morte di una persona, per azione o per omissione, ne sia responsabile penalmente come ne è responsabile moralmente. Giacomo

March 22, 2018