nexa

By thread

nexa@server-nexa.polito.it

March 2018

39 participants
238 messages

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Alberto Cammozzo

Interessante scambio, grazie! Vorrei aggiungere due spunti. Il primo, sulla questione interfaccia. Stiamo passando dall'umano "in the loop" (guida manuale) a quello "on the loop" (supervisore) mirando all'umano "off the loop" (veicolo 100% autonomo). La supervisione non semplifica la guida, ma al contrario la complica: l'uomo che controlla il veicolo "quasi-sempre-autonomo" dovrebbe non solo saper guidare ma anche saper gestire i guasti del sistema con una tempestività non umana. Ho trovato illuminante un articolo su questo "paradox of automation", basato sull'incidente aereo del volo Air France 447: <https://www.theguardian.com/technology/2016/oct/11/crash-how-computers-are-…> Il secondo spunto, sul cambio di paradigma nella mobilità. Condivisibili e perfino auspicabili razionalmente le riflessioni sull'emergere di una nuova collettivizzazione del trasporto. Ma non illudiamoci che siano processi razionali a guidare eventuali svolte. Negli USA degli anni '20 l'industria automobilistica si è attivamente prodigata nel cambiare il senso comune a sfavore del pedone per non affrontare la responsabilità nei confronti delle vittime degli incidenti stradali, grazie all'introduzione del reato di /jaywalking/ o “attraversamento imprudente”, usando tra l'altro la retorica della libertà e della necessità dell'avanzamento tecnologico e del progresso. La strada non era ciò che è ora: da spazio comune (adatto per esempio al gioco dei bambini) è diventata sede del traffico automobilistico solo con un processo di appropriazione attivo e combattuto. Questo articolo ne parla:Norton, P. D. (2007) Street Rivals: Jaywalking and the Invention of the Motor Age Street, /Technology and Culture/48 (2) <http://muse.jhu.edu/article/215409> Divulgato qui:<https://www.vox.com/2015/1/15/7551873/jaywalking-history> Ciao, Alberto On 23/03/2018 08:38, M. Fioretti wrote: > On 2018-03-23 08:30, Stefano Quintarelli wrote: >> In data 23 marzo 2018 8:05:02 AM "M. Fioretti" <mfioretti(a)nexaima.net> >> ha scritto: >> con quelle premesse, una delle azioni inevitabili è, usando le >> tue parole, la "rinuncia al possesso" dell'auto di proprietà >> INDIVIDUALE, di QUALUNQUE tipo e propulsione. Che fra parentesi sta >> già avvenendo >> comunque fra i giovani, sia perché non hanno soldi, sia perché >> in molti considerano poter smanettare senza pensieri sullo >> smartphone mentre si spostano molto più appagante che guidare >> >> >> Chi mi conosce sa che una delle mie espressioni preferite è "lo pensi >> o lo sai?". Lo pensi perché frutto ragionamento o lo sai perché basato >> su dati misurati? > > tutte e due. é frutto di ragionamenti fatti giornalmente, per parecchi > anni, > a partire almeno dal 2000 quando stavo bloccato nel traffico del GRA > perché costruivano la terza corsia... insieme a decine e decine di nuovi > palazzi a fianco del GRA stesso, col risultato che oggi c'è più > traffico di > allora. Ma questo è uno fra tanti ragionamenti miei. > > Ma soprattutto, è anche la conclusione di decine di "misure" di > terzi,in Italia e > fuori,una parte delle quali ho raccolto qui: > > http://bookmarks.zona-m.net/tags.php/peak%20car > > Marco >

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-23 08:30, Stefano Quintarelli wrote: > In data 23 marzo 2018 8:05:02 AM "M. Fioretti" <mfioretti(a)nexaima.net> > ha scritto: > con quelle premesse, una delle azioni inevitabili è, usando le > tue parole, la "rinuncia al possesso" dell'auto di proprietà > INDIVIDUALE, di QUALUNQUE tipo e propulsione. Che fra parentesi sta > già avvenendo > comunque fra i giovani, sia perché non hanno soldi, sia perché > in molti considerano poter smanettare senza pensieri sullo > smartphone mentre si spostano molto più appagante che guidare > > > Chi mi conosce sa che una delle mie espressioni preferite è "lo pensi > o lo sai?". Lo pensi perché frutto ragionamento o lo sai perché basato > su dati misurati? tutte e due. é frutto di ragionamenti fatti giornalmente, per parecchi anni, a partire almeno dal 2000 quando stavo bloccato nel traffico del GRA perché costruivano la terza corsia... insieme a decine e decine di nuovi palazzi a fianco del GRA stesso, col risultato che oggi c'è più traffico di allora. Ma questo è uno fra tanti ragionamenti miei. Ma soprattutto, è anche la conclusione di decine di "misure" di terzi,in Italia e fuori,una parte delle quali ho raccolto qui: http://bookmarks.zona-m.net/tags.php/peak%20car Marco -- http://mfioretti.com

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Stefano Quintarelli

In data 23 marzo 2018 8:05:02 AM "M. Fioretti" <mfioretti(a)nexaima.net> ha scritto: con quelle premesse, una delle azioni inevitabili è, usando le tue parole, la "rinuncia al possesso" dell'auto di proprietà INDIVIDUALE, di QUALUNQUE tipo e propulsione. Che fra parentesi sta già avvenendo comunque fra i giovani, sia perché non hanno soldi, sia perché in molti considerano poter smanettare senza pensieri sullo smartphone mentre si spostano molto più appagante che guidare Chi mi conosce sa che una delle mie espressioni preferite è "lo pensi o lo sai?". Lo pensi perché frutto ragionamento o lo sai perché basato su dati misurati? Anche io lo pensavo finché non ho saputo da Lorenzo Sistino, che sta facendo la startup molto interessante miacar.it, già amministratore delegato di Fiat auto (10 anni con Marchionne..) che l'età media all'acquisto della prima auto nuova è stabile a 50 anni. Con questo non dico che determinati fenomeni non esistano, ma che ci sono tanti, tanti fattori per dire che, nel mercato complessivo, il non possesso (diverso dalla non proprietà) rimarrà marginale per molti decenni a venire. Ciao, s.

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-23 07:43, Stefano Quintarelli wrote: > In tutto questo, ammesso e non concesso che veicoli autonomi andranno > in giro in ambienti non circoscritti senza un operatore umano > (chiamatelo come volete) c'è l'idea di un nesso causale tra autonomia > della guida e rinuncia al possesso. E da qui a cascata esternalità > sull'arredo urbano e sulla circolazione nel mio caso, e questo almeno in parte credo di averlo spiegato nel mio post, è esattamente il contrario. Questo non esclude affatto che le mie interpretazioni e proposte siano completamente sbagliate, lo so. Però è comunque il contrario. Io penso, nell'ordine che: - città e sistemi di trasporto vanno pesantemente ristrutturati A PRESCINDERE, per fattori esterni non più ignorabili nè rimandabili, citando a caso solo alcuni dei maggiori: inquinamento, congestione, sovrappopolazione, invecchiamento popolazione, trasformazione attività produttive e via dicendo - con quelle premesse, una delle azioni inevitabili è, usando le tue parole, la "rinuncia al possesso" dell'auto di proprietà INDIVIDUALE, di QUALUNQUE tipo e propulsione. Che fra parentesi sta già avvenendo comunque fra i giovani, sia perché non hanno soldi, sia perché in molti considerano poter smanettare senza pensieri sullo smartphone mentre si spostano molto più appagante che guidare. - Ma allora la mobilità deve per forza basarsi su mezzi di trasporto condivisi. E almeno in ambito urbano, che una parte di quei mezzi condivisi siano auto senza guidatore in ambiti CIRCOSCRITTI mi pare una soluzione molto più interessante E praticabile di tante altre, per i motivi descritti nel mio post. Marco > > Questa assunzione di fondo ha già fatto deragliare utopie ben più > significative, nel passato, oltre ad effetti di bordo che vengono > trascurati. > > Io sono convinto che non esista tale nesso causale e che anzi le > esternalità non sarebbero positive. > > Ciao, s. > > > In data 23 marzo 2018 6:41:33 AM "M. Fioretti" <mfioretti(a)nexaima.net> > ha scritto: > >> On 2018-03-22 22:39, armeo(a)mail.nexacenter.org wrote: >> > Il pilota utomatico può funzionare bene solo su una >> > strada frequentata solo da altri veicoli automatici, e non da pedoni o >> > macchine non automatiche. >> >> esatto, grazie. Non è che c'è un problema strutturale di user >> interface >> se un passeggero al posto di guida non si percepisce come autista. C'è >> proprio,come ho già scritto, un problema "commerciale" e di logica di >> base, nel credere che auto fintamente autonome di quel genere debbano >> o comunque possano essere vendibili. >> >> Io VOGLIO NON percepirmi più come autista. Se davvero devo perdere >> due ore di vita al giorno in spostamenti, voglio almeno farlo nel modo >> meno stancante, palloso ed economico possibile. Quindi, sì a >> trasporti pubblici prima di tutto, poi casomai ad auto DAVVERO >> AUTONOME >> NELLE CONDIZIONI GIÀ DETTE DAL PROF. MEO, senza posto di guida, >> e condivise. così mentre mi sposto posso leggere,dormire, lavorare.... >> senza patemi. No senza appello a spendere migliaia di euro in più di >> sensori, per poi dovergli comunque fare da babysitter, sprecando >> in spostamenti lo stesso tempo di oggi. >> >> Tutto questo l'ho già descritto più in dettaglio in questo post su >> quale dovrebbe essere il VERO nome delle "auto a guida autonoma": >> >> http://stop.zona-m.net/2017/10/the-real-name-and-value-of-self-driving-cars/ >> >> e non mi dispiacerebbe affatto lavorarci seriamente, su questo tema. >> Se avete proposte,sapete come trovarmi :-) >> >> Marco >> >> > Il 22/03/2018 20:02, Giacomo Tesio ha scritto: >> > >>> > Ma secondo voi non c'è un problema strutturale di user interface e >>> > user experience se un passeggero al posto di guida non si percepisce >>> > come un autista? >>> > >>> > Questo problema (piuttosto ovvio) è risolvibile? >>> > O è piuttosto in diretta contraddizione con il concetto stesso di >>> > auto a guida autonoma? >>> > >>> > >> > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… >>> > [4] >>> > >>> > Giacomo >>> > >>> > Il Gio 22 Mar 2018 19:49 Roberto Dolci <rob.dolci(a)aizoon.us> ha >>> > scritto: >>> > >>>> > Perfettamente d'accordo Alberto. Peraltro il "contenuto" di un >>>> > automobile continua ad aumentare a parita' di Prezzo (scontato per >>>> > inflazione): quindi dalle cinture di sicurezza e poggiatesta in >>>> > poi, non e' che il costo sia stato passato sulle spalle dei >>>> > consumatori, ma assorbito dallo sviluppo tecnologico. >>>> > >>>> > -----Original Message----- >>>> > From: Alberto Cammozzo <ac+nexa(a)zeromx.net> >>>> > Sent: Thursday, March 22, 2018 2:45 PM >>>> > To: Roberto Dolci <rob.dolci(a)aizoon.us>; >>>> > nexa(a)server-nexa.polito.it >>>> > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI >>>> > di Uber >>>> > >>>> > Grazie Roberto, >>>> > metti giustamente in evidenza che la dotazione del veicolo >>>> > influisce sulla sua intelligenza in relazione all'ambiente e su >>>> > quanto vi si adatta. >>>> > >>>> > Quello che voglio mettere in evidenza io è che mentre non si >>>> > può pretendere che un umano veda di notte, si deve pretendere che >>>> > una vettura autonoma lo faccia, visto che può tecnicamente farlo >>>> > con la dotazione adatta. >>>> > Altrimenti non dovrà avere licenza di circolare di notte. >>>> > >>>> > Essendo in gioco non solo la sicurezza del conducente (è >>>> > relativamente affar suo) ma soprattutto quella pubblica (che è >>>> > affare del decisore pubblico), a me pare che la "dotazione adatta" >>>> > non possa essere decisa dal costo dei sensori e dal budget di chi >>>> > acquista l'auto, ma debba essere oggetto di regolazione. >>>> > Credo che chi vuole circolare autonomamente di notte (o a los >>>> > Angeles, o sulla neve,...) deve avere la dotazione che >>>> > (ragionevolmente) offre la massima reazione possibile tecnicamente >>>> > in relazione all'ambiente, non solo quella che offrirebbe un >>>> > guidatore umano (medio). >>>> > In caso contrario privilegiamo un profitto privato a discapito >>>> > dell'incolumità pubblica. >>>> > [Il che comunque non sarebbe una novità... Basta saperlo.] >>>> > >>>> > Alberto >>>> > >>>> > On 22/03/2018 19:23, Roberto Dolci wrote: >>>>> > Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno >>>> > IR installato, e non solo. Occorre tenere presente pero' che una >>>> > Mercedes ha $2800 (al costo) di sensori in piu' della Volvo XC90: >>>> > la prima guida agevolmente a LosAngeles, la seconda no perche' non >>>> > ci son line di mezzeria. >>>>> > >>>>> > >>>> > >>> > >> > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar >>>> > [1] >>>>> > e-supposed-to-detect-pedestrians/ >>>>> > >>>> > >>> > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ >>>> > [2] >>>>> > >>>>> > -----Original Message----- >>>>> > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of >>>> > Alberto >>>>> > Cammozzo >>>>> > Sent: Thursday, March 22, 2018 1:28 PM >>>>> > To: nexa(a)server-nexa.polito.it >>>>> > Subject: Re: [nexa] Video dell'incidente mortale causato dalla >>>> > AI di >>>>> > Uber >>>>> > >>>>> > Certo che si può pretendere che la macchina superi l'uomo se >>>> > le si affida un veicolo sulla pubblica via. Anzi lo si deve >>>> > richiedere. >>>>> > >>>>> > La telecamera evidentemente opera nello spettro visibile, cioè >>>> > replica i limiti della visione umana. >>>>> > Una telecamera a infrarossi, per non dire un radar, avrebbe >>>> > certamente evitato l'incidente e salvato la vita dell'assai >>>> > incauto pedone. >>>>> > >>>>> > Un veicolo automatico dotato di visione I/R oltre che ottica >>>> > avrebbe potuto superare la capacità di reazione del guidatore >>>> > umano. >>>>> > Non lo ha fatto perché è stato progettato per non farlo, o >>>> > meglio non è stato progettato per farlo, pur essendo tale >>>> > progetto possibile e non a un costo proibitivo. >>>>> > Quel veicolo, abilitato alla guida autonoma notturna, si limita >>>> > a replicare i limiti della visione notturna umana pur potendo >>>> > essere disegnato per rendere tale guida più sicura. >>>>> > >>>>> > Non dotare il veicolo anche di una videocamera IR è certamente >>>> > una scelta di progetto, che definirei "insecure by design", almeno >>>> > nella guida notturna. >>>>> > >>>>> > Per questo motivo non escludo la responsabilità, certamente >>>> > morale e per omissione, del progettista o del committente. >>>>> > >>>>> > >>>>> > Alberto >>>>> > >>>>> > >>>>> > On 22/03/2018 13:12, Roberto Dolci wrote: >>>>>> > Il filmato e' visionabile da due punti di vista: telecamera su >>>> > strada e su guidatore (che mostra come questi stia guardando in >>>> > basso su smartphone o tablet). E' chiaro che la vittima e' vestita >>>> > di scuro/nero, attraversa una strada ad alta percorrenza ben fuori >>>> > da strisce pedonali o semafori. Non si puo' pretendere che un >>>> > algoritmo superi Darwin. >>>>>> > >>>>>> > -----Original Message----- >>>>>> > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of >>>> > Mariella >>>>>> > Berra >>>>>> > Sent: Thursday, March 22, 2018 8:09 AM >>>>>> > To: nexa(a)server-nexa.polito.it >>>>>> > Subject: Re: [nexa] Video dell'incidente mortale causato dalla >>>> > AI di >>>>>> > Uber >>>>>> > >>>>>> > Cari tutti mi sembrerebbe un messaggio di responsabilità >>>> > politica >>>>>> > sociale e etica >>>>>> > >>>>>> > Mariella b >>>>>> > >>>>>> > >>>>>> > Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: >>>>>>> > estremizzo la posizione di Giacomo: nell'attesa di un >>>> > ulteriore >>>>>>> > progresso che renda i veicoli automatici più sicuri di >>>> > quelli a >>>>>>> > guida umana (che potrebbe arrivare in un paio di anni) >>>> > vietiamo >>>>>>> > l'impiego di veicoli automatici. >>>>>>> > >>>>>>> > Raf >>>>>>> > >>>>>>> > >>>>>>> > Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >>>>>>>> > Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> >>>> > ha scritto: >>>>>>>>> > Non so se quel che si legge è vero, perchè in questi >>>> > giorni si è >>>>>>>>> > sentito di tutto, ma sembra che in realtà l'autista umano >>>> > sia >>>>>>>>> > stato avvisato dai sensori, e nemmeno lui abbia potuto >>>> > agire in tempo. >>>>>>>> > A quanto avevo letto, l'auto non ha frenato. >>>>>>>> > A quanto vedo, l'auto non ha nemmeno deviato nonostante la >>>> > corsia >>>>>>>> > opposta fosse perfettamente libera. >>>>>>>> > >>>>>>>> > Definire il passeggero "autista" e' MOLTO DISCUTIBILE in >>>> > questo >>>>>>>> > caso, ma anche fosse, un auto a guida autonoma non dovrebbe >>>>>>>> > affidarsi ai riflessi di un essere umano, non credi? >>>>>>>> > >>>>>>>>> > D'altra parte se uno si >>>>>>>>> > butta sotto un mezzo in movimento non c'è tecnologia che >>>> > tenga: >>>>>>>>> > una frenata non può avvenire in tempo zero. >>>>>>>> > Il pedone aveva attraversato l'intera corsia opposta, c'era >>>> > tempo >>>>>>>> > di >>>>>>>> > - suonare il clacson >>>>>>>> > - effettuare segnalazioni luminose >>>>>>>> > - rallentare >>>>>>>> > - deviare >>>>>>>> > >>>>>>>> > Ricordiamoci che non stiamo parlando di un cervello umano, >>>> > ma di >>>>>>>> > processori: non mi sono mai interessato di questo tipo di >>>>>>>> > simulazioni, sono abbastanza confidente che calcolare una >>>>>>>> > traiettoria per evitare il pedone data la sua velocità e >>>> > direzione >>>>>>>> > sarebbe stato piuttosto rapido. >>>>>>>> > >>>>>>>> > Se poi hanno messo un simulatore scritto in JavaScript a >>>> > guidare la >>>>>>>> > macchina, allora bisogna arrestare ANCHE gli ingegneri! >>>>>>>> > >>>>>>>>> > Peraltro, se fosse accertata la responsabilità del pedone, >>>> > il >>>>>>>>> > problema penale non si porrebbe. >>>>>>>> > Obbiezione interessante. Probabilmente hai ragione: bisogna >>>>>>>> > aggiornare l'ordinamento. >>>>>>>> > >>>>>>>> > Se disponiamo di una tecnologia che può evitare una morte >>>> > in caso >>>>>>>> > di errore umano, non possiamo dire che il suo fallimento non >>>>>>>> > costituisce reato solo perché l'errore umano più evidente >>>> > è della vittima. >>>>>>>> > >>>>>>>> > L'errore umano principale infatti sta nella progettazione >>>> > del veicolo. >>>>>>>> > >>>>>>>> > In particolare nella interfaccia utente destinata al >>>> > passeggero, >>>>>>>> > che appunto, ha smesso di sentirsi autista dell'auto (come >>>> > evidente >>>>>>>> > dalla parte finale del filmato). >>>>>>>> > La stessa definizione di "auto a guida autonoma", o "self >>>> > driving car" >>>>>>>> > (o forse persino "intelligenza artificiale") ha causato >>>> > questo >>>>>>>> > enorme (e facilmente evitabile) errore di progettazione. >>>>>>>> > >>>>>>>>> > Però è evidente che deve nascere una forma nuova di >>>> > diritto (non >>>>>>>>> > ho ancora finito di leggere "the law of robots" del prof. >>>>>>>>> > Pollicino). E spero che includa un principio di innocenza >>>> > fino a >>>>>>>>> > prova contraria anche per gli automi! >>>>>>>> > Questo temo sia impossibile. >>>>>>>> > Non sono MAI gli automi ad essere innocenti o colpevoli: la >>>>>>>> > responsabilità va sempre ricondotta alle persone che li >>>> > hanno messi >>>>>>>> > in circolazione. >>>>>>>> > >>>>>>>> > I principio di innocenza fino a prova contraria, non si >>>> > applica >>>>>>>> > alle cose. >>>>>>>> > >>>>>>>> > >>>>>>>> > Vi e poi un problema pratico: come dimostrare che la >>>> > macchina ha >>>>>>>> > sbagliato (in uno qualsiasi dei suoi componenti) e dunque >>>> > che la >>>>>>>> > responsabilità penale sussiste? >>>>>>>> > >>>>>>>> > Chi paga il lavoro degli esperti necessari ad analizzare >>>> > ogni >>>>>>>> > singolo componente e ogni riga di codice per verificare >>>> > l'assenza di errori? >>>>>>>> > Infatti, in via precauzionale, dovremmo interrompere la >>>> > produzione >>>>>>>> > ma al contempo non potremmo mettere Uber a verificare il >>>> > proprio >>>>>>>> > prodotto ne persone pagate da Uber. >>>>>>>> > >>>>>>>> > Avremmo bisogno di esperti indipendenti da queste >>>> > multinazionali >>>>>>>> > per valutare il loro lavoro (e ci potrebbero volere anni). >>>>>>>> > >>>>>>>> > Nella remota ipotesi che non trovassero errori nel sistema, >>>> > chi >>>>>>>> > facciamo pagare? la famiglia della vittima? lo stato? >>>>>>>> > >>>>>>>> > >>>>>>>> > In realtà comunque gli errori ci sono di sicuro, quanto >>>> > meno a >>>>>>>> > livello software. >>>>>>>> > >>>>>>>> > Perché chiunque sviluppa software sa che l'errore non è >>>> > una >>>>>>>> > condizione occasionale che capita a persone che per il resto >>>> > non sbagliano. >>>>>>>> > L'errore è condizione normale della operatività umana. E >>>> > questa è >>>>>>>> > particolarmente evidente nel software, per la natura stessa >>>>>>>> > dell'artefatto e per la scarsa evoluzione dell'informatica. >>>>>>>> > >>>>>>>> > >>>>>>>> > Dunque, per gli automi, dovremo adottare un principio di >>>>>>>> > colpevolezza dei costruttori fino a prova contraria. >>>>>>>> > >>>>>>>> > >>>>>>>> > >>>>>>>> > Giacomo >>>>>>>> > _______________________________________________ >>>>>>>> > nexa mailing list >>>>>>>> > nexa(a)server-nexa.polito.it >>>>>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>>> > [3] >>>>>>> > _______________________________________________ >>>>>>> > nexa mailing list >>>>>>> > nexa(a)server-nexa.polito.it >>>>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>>> > [3] >>>>>> > -- >>>>>> > Prof.ssa Mariella Berra >>>>>> > Dipartimento di Culture, Politica e Società Università di >>>> > Torino >>>>>> > tel.+390116702606 >>>>>> > >>>>>> > _______________________________________________ >>>>>> > nexa mailing list >>>>>> > nexa(a)server-nexa.polito.it >>>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>>> > [3] >>>>>> > _______________________________________________ >>>>>> > nexa mailing list >>>>>> > nexa(a)server-nexa.polito.it >>>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>>> > [3] >>>>> > >>>>> > _______________________________________________ >>>>> > nexa mailing list >>>>> > nexa(a)server-nexa.polito.it >>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] >>>> > >>>> > _______________________________________________ >>>> > nexa mailing list >>>> > nexa(a)server-nexa.polito.it >>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] >>> > >>> > _______________________________________________ >>> > nexa mailing list >>> > nexa(a)server-nexa.polito.it >>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] >> > >> > >> > >> > Links: >> > ------ >> > [1] >> > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar >> > [2] >> > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ >> > [3] https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> > [4] >> > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… >> > >> > _______________________________________________ >> > nexa mailing list >> > nexa(a)server-nexa.polito.it >> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> >> -- >> http://mfioretti.com >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- http://mfioretti.com

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Stefano Quintarelli

In tutto questo, ammesso e non concesso che veicoli autonomi andranno in giro in ambienti non circoscritti senza un operatore umano (chiamatelo come volete) c'è l'idea di un nesso causale tra autonomia della guida e rinuncia al possesso. E da qui a cascata esternalità sull'arredo urbano e sulla circolazione Questa assunzione di fondo ha già fatto deragliare utopie ben più significative, nel passato, oltre ad effetti di bordo che vengono trascurati. Io sono convinto che non esista tale nesso causale e che anzi le esternalità non sarebbero positive. Ciao, s. In data 23 marzo 2018 6:41:33 AM "M. Fioretti" <mfioretti(a)nexaima.net> ha scritto: > On 2018-03-22 22:39, armeo(a)mail.nexacenter.org wrote: > > Il pilota utomatico può funzionare bene solo su una > > strada frequentata solo da altri veicoli automatici, e non da pedoni o > > macchine non automatiche. > > esatto, grazie. Non è che c'è un problema strutturale di user interface > se un passeggero al posto di guida non si percepisce come autista. C'è > proprio,come ho già scritto, un problema "commerciale" e di logica di > base, nel credere che auto fintamente autonome di quel genere debbano > o comunque possano essere vendibili. > > Io VOGLIO NON percepirmi più come autista. Se davvero devo perdere > due ore di vita al giorno in spostamenti, voglio almeno farlo nel modo > meno stancante, palloso ed economico possibile. Quindi, sì a > trasporti pubblici prima di tutto, poi casomai ad auto DAVVERO AUTONOME > NELLE CONDIZIONI GIÀ DETTE DAL PROF. MEO, senza posto di guida, > e condivise. così mentre mi sposto posso leggere,dormire, lavorare.... > senza patemi. No senza appello a spendere migliaia di euro in più di > sensori, per poi dovergli comunque fare da babysitter, sprecando > in spostamenti lo stesso tempo di oggi. > > Tutto questo l'ho già descritto più in dettaglio in questo post su > quale dovrebbe essere il VERO nome delle "auto a guida autonoma": > > http://stop.zona-m.net/2017/10/the-real-name-and-value-of-self-driving-cars/ > > e non mi dispiacerebbe affatto lavorarci seriamente, su questo tema. > Se avete proposte,sapete come trovarmi :-) > > Marco > > > Il 22/03/2018 20:02, Giacomo Tesio ha scritto: > > >> > Ma secondo voi non c'è un problema strutturale di user interface e >> > user experience se un passeggero al posto di guida non si percepisce >> > come un autista? >> > >> > Questo problema (piuttosto ovvio) è risolvibile? >> > O è piuttosto in diretta contraddizione con il concetto stesso di >> > auto a guida autonoma? >> > >> > > > > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… >> > [4] >> > >> > Giacomo >> > >> > Il Gio 22 Mar 2018 19:49 Roberto Dolci <rob.dolci(a)aizoon.us> ha >> > scritto: >> > >>> > Perfettamente d'accordo Alberto. Peraltro il "contenuto" di un >>> > automobile continua ad aumentare a parita' di Prezzo (scontato per >>> > inflazione): quindi dalle cinture di sicurezza e poggiatesta in >>> > poi, non e' che il costo sia stato passato sulle spalle dei >>> > consumatori, ma assorbito dallo sviluppo tecnologico. >>> > >>> > -----Original Message----- >>> > From: Alberto Cammozzo <ac+nexa(a)zeromx.net> >>> > Sent: Thursday, March 22, 2018 2:45 PM >>> > To: Roberto Dolci <rob.dolci(a)aizoon.us>; >>> > nexa(a)server-nexa.polito.it >>> > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI >>> > di Uber >>> > >>> > Grazie Roberto, >>> > metti giustamente in evidenza che la dotazione del veicolo >>> > influisce sulla sua intelligenza in relazione all'ambiente e su >>> > quanto vi si adatta. >>> > >>> > Quello che voglio mettere in evidenza io è che mentre non si >>> > può pretendere che un umano veda di notte, si deve pretendere che >>> > una vettura autonoma lo faccia, visto che può tecnicamente farlo >>> > con la dotazione adatta. >>> > Altrimenti non dovrà avere licenza di circolare di notte. >>> > >>> > Essendo in gioco non solo la sicurezza del conducente (è >>> > relativamente affar suo) ma soprattutto quella pubblica (che è >>> > affare del decisore pubblico), a me pare che la "dotazione adatta" >>> > non possa essere decisa dal costo dei sensori e dal budget di chi >>> > acquista l'auto, ma debba essere oggetto di regolazione. >>> > Credo che chi vuole circolare autonomamente di notte (o a los >>> > Angeles, o sulla neve,...) deve avere la dotazione che >>> > (ragionevolmente) offre la massima reazione possibile tecnicamente >>> > in relazione all'ambiente, non solo quella che offrirebbe un >>> > guidatore umano (medio). >>> > In caso contrario privilegiamo un profitto privato a discapito >>> > dell'incolumità pubblica. >>> > [Il che comunque non sarebbe una novità... Basta saperlo.] >>> > >>> > Alberto >>> > >>> > On 22/03/2018 19:23, Roberto Dolci wrote: >>>> > Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno >>> > IR installato, e non solo. Occorre tenere presente pero' che una >>> > Mercedes ha $2800 (al costo) di sensori in piu' della Volvo XC90: >>> > la prima guida agevolmente a LosAngeles, la seconda no perche' non >>> > ci son line di mezzeria. >>>> > >>>> > >>> > >> > > > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar >>> > [1] >>>> > e-supposed-to-detect-pedestrians/ >>>> > >>> > >> > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ >>> > [2] >>>> > >>>> > -----Original Message----- >>>> > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of >>> > Alberto >>>> > Cammozzo >>>> > Sent: Thursday, March 22, 2018 1:28 PM >>>> > To: nexa(a)server-nexa.polito.it >>>> > Subject: Re: [nexa] Video dell'incidente mortale causato dalla >>> > AI di >>>> > Uber >>>> > >>>> > Certo che si può pretendere che la macchina superi l'uomo se >>> > le si affida un veicolo sulla pubblica via. Anzi lo si deve >>> > richiedere. >>>> > >>>> > La telecamera evidentemente opera nello spettro visibile, cioè >>> > replica i limiti della visione umana. >>>> > Una telecamera a infrarossi, per non dire un radar, avrebbe >>> > certamente evitato l'incidente e salvato la vita dell'assai >>> > incauto pedone. >>>> > >>>> > Un veicolo automatico dotato di visione I/R oltre che ottica >>> > avrebbe potuto superare la capacità di reazione del guidatore >>> > umano. >>>> > Non lo ha fatto perché è stato progettato per non farlo, o >>> > meglio non è stato progettato per farlo, pur essendo tale >>> > progetto possibile e non a un costo proibitivo. >>>> > Quel veicolo, abilitato alla guida autonoma notturna, si limita >>> > a replicare i limiti della visione notturna umana pur potendo >>> > essere disegnato per rendere tale guida più sicura. >>>> > >>>> > Non dotare il veicolo anche di una videocamera IR è certamente >>> > una scelta di progetto, che definirei "insecure by design", almeno >>> > nella guida notturna. >>>> > >>>> > Per questo motivo non escludo la responsabilità, certamente >>> > morale e per omissione, del progettista o del committente. >>>> > >>>> > >>>> > Alberto >>>> > >>>> > >>>> > On 22/03/2018 13:12, Roberto Dolci wrote: >>>>> > Il filmato e' visionabile da due punti di vista: telecamera su >>> > strada e su guidatore (che mostra come questi stia guardando in >>> > basso su smartphone o tablet). E' chiaro che la vittima e' vestita >>> > di scuro/nero, attraversa una strada ad alta percorrenza ben fuori >>> > da strisce pedonali o semafori. Non si puo' pretendere che un >>> > algoritmo superi Darwin. >>>>> > >>>>> > -----Original Message----- >>>>> > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of >>> > Mariella >>>>> > Berra >>>>> > Sent: Thursday, March 22, 2018 8:09 AM >>>>> > To: nexa(a)server-nexa.polito.it >>>>> > Subject: Re: [nexa] Video dell'incidente mortale causato dalla >>> > AI di >>>>> > Uber >>>>> > >>>>> > Cari tutti mi sembrerebbe un messaggio di responsabilità >>> > politica >>>>> > sociale e etica >>>>> > >>>>> > Mariella b >>>>> > >>>>> > >>>>> > Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: >>>>>> > estremizzo la posizione di Giacomo: nell'attesa di un >>> > ulteriore >>>>>> > progresso che renda i veicoli automatici più sicuri di >>> > quelli a >>>>>> > guida umana (che potrebbe arrivare in un paio di anni) >>> > vietiamo >>>>>> > l'impiego di veicoli automatici. >>>>>> > >>>>>> > Raf >>>>>> > >>>>>> > >>>>>> > Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >>>>>>> > Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> >>> > ha scritto: >>>>>>>> > Non so se quel che si legge è vero, perchè in questi >>> > giorni si è >>>>>>>> > sentito di tutto, ma sembra che in realtà l'autista umano >>> > sia >>>>>>>> > stato avvisato dai sensori, e nemmeno lui abbia potuto >>> > agire in tempo. >>>>>>> > A quanto avevo letto, l'auto non ha frenato. >>>>>>> > A quanto vedo, l'auto non ha nemmeno deviato nonostante la >>> > corsia >>>>>>> > opposta fosse perfettamente libera. >>>>>>> > >>>>>>> > Definire il passeggero "autista" e' MOLTO DISCUTIBILE in >>> > questo >>>>>>> > caso, ma anche fosse, un auto a guida autonoma non dovrebbe >>>>>>> > affidarsi ai riflessi di un essere umano, non credi? >>>>>>> > >>>>>>>> > D'altra parte se uno si >>>>>>>> > butta sotto un mezzo in movimento non c'è tecnologia che >>> > tenga: >>>>>>>> > una frenata non può avvenire in tempo zero. >>>>>>> > Il pedone aveva attraversato l'intera corsia opposta, c'era >>> > tempo >>>>>>> > di >>>>>>> > - suonare il clacson >>>>>>> > - effettuare segnalazioni luminose >>>>>>> > - rallentare >>>>>>> > - deviare >>>>>>> > >>>>>>> > Ricordiamoci che non stiamo parlando di un cervello umano, >>> > ma di >>>>>>> > processori: non mi sono mai interessato di questo tipo di >>>>>>> > simulazioni, sono abbastanza confidente che calcolare una >>>>>>> > traiettoria per evitare il pedone data la sua velocità e >>> > direzione >>>>>>> > sarebbe stato piuttosto rapido. >>>>>>> > >>>>>>> > Se poi hanno messo un simulatore scritto in JavaScript a >>> > guidare la >>>>>>> > macchina, allora bisogna arrestare ANCHE gli ingegneri! >>>>>>> > >>>>>>>> > Peraltro, se fosse accertata la responsabilità del pedone, >>> > il >>>>>>>> > problema penale non si porrebbe. >>>>>>> > Obbiezione interessante. Probabilmente hai ragione: bisogna >>>>>>> > aggiornare l'ordinamento. >>>>>>> > >>>>>>> > Se disponiamo di una tecnologia che può evitare una morte >>> > in caso >>>>>>> > di errore umano, non possiamo dire che il suo fallimento non >>>>>>> > costituisce reato solo perché l'errore umano più evidente >>> > è della vittima. >>>>>>> > >>>>>>> > L'errore umano principale infatti sta nella progettazione >>> > del veicolo. >>>>>>> > >>>>>>> > In particolare nella interfaccia utente destinata al >>> > passeggero, >>>>>>> > che appunto, ha smesso di sentirsi autista dell'auto (come >>> > evidente >>>>>>> > dalla parte finale del filmato). >>>>>>> > La stessa definizione di "auto a guida autonoma", o "self >>> > driving car" >>>>>>> > (o forse persino "intelligenza artificiale") ha causato >>> > questo >>>>>>> > enorme (e facilmente evitabile) errore di progettazione. >>>>>>> > >>>>>>>> > Però è evidente che deve nascere una forma nuova di >>> > diritto (non >>>>>>>> > ho ancora finito di leggere "the law of robots" del prof. >>>>>>>> > Pollicino). E spero che includa un principio di innocenza >>> > fino a >>>>>>>> > prova contraria anche per gli automi! >>>>>>> > Questo temo sia impossibile. >>>>>>> > Non sono MAI gli automi ad essere innocenti o colpevoli: la >>>>>>> > responsabilità va sempre ricondotta alle persone che li >>> > hanno messi >>>>>>> > in circolazione. >>>>>>> > >>>>>>> > I principio di innocenza fino a prova contraria, non si >>> > applica >>>>>>> > alle cose. >>>>>>> > >>>>>>> > >>>>>>> > Vi e poi un problema pratico: come dimostrare che la >>> > macchina ha >>>>>>> > sbagliato (in uno qualsiasi dei suoi componenti) e dunque >>> > che la >>>>>>> > responsabilità penale sussiste? >>>>>>> > >>>>>>> > Chi paga il lavoro degli esperti necessari ad analizzare >>> > ogni >>>>>>> > singolo componente e ogni riga di codice per verificare >>> > l'assenza di errori? >>>>>>> > Infatti, in via precauzionale, dovremmo interrompere la >>> > produzione >>>>>>> > ma al contempo non potremmo mettere Uber a verificare il >>> > proprio >>>>>>> > prodotto ne persone pagate da Uber. >>>>>>> > >>>>>>> > Avremmo bisogno di esperti indipendenti da queste >>> > multinazionali >>>>>>> > per valutare il loro lavoro (e ci potrebbero volere anni). >>>>>>> > >>>>>>> > Nella remota ipotesi che non trovassero errori nel sistema, >>> > chi >>>>>>> > facciamo pagare? la famiglia della vittima? lo stato? >>>>>>> > >>>>>>> > >>>>>>> > In realtà comunque gli errori ci sono di sicuro, quanto >>> > meno a >>>>>>> > livello software. >>>>>>> > >>>>>>> > Perché chiunque sviluppa software sa che l'errore non è >>> > una >>>>>>> > condizione occasionale che capita a persone che per il resto >>> > non sbagliano. >>>>>>> > L'errore è condizione normale della operatività umana. E >>> > questa è >>>>>>> > particolarmente evidente nel software, per la natura stessa >>>>>>> > dell'artefatto e per la scarsa evoluzione dell'informatica. >>>>>>> > >>>>>>> > >>>>>>> > Dunque, per gli automi, dovremo adottare un principio di >>>>>>> > colpevolezza dei costruttori fino a prova contraria. >>>>>>> > >>>>>>> > >>>>>>> > >>>>>>> > Giacomo >>>>>>> > _______________________________________________ >>>>>>> > nexa mailing list >>>>>>> > nexa(a)server-nexa.polito.it >>>>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> > [3] >>>>>> > _______________________________________________ >>>>>> > nexa mailing list >>>>>> > nexa(a)server-nexa.polito.it >>>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> > [3] >>>>> > -- >>>>> > Prof.ssa Mariella Berra >>>>> > Dipartimento di Culture, Politica e Società Università di >>> > Torino >>>>> > tel.+390116702606 >>>>> > >>>>> > _______________________________________________ >>>>> > nexa mailing list >>>>> > nexa(a)server-nexa.polito.it >>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> > [3] >>>>> > _______________________________________________ >>>>> > nexa mailing list >>>>> > nexa(a)server-nexa.polito.it >>>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> > [3] >>>> > >>>> > _______________________________________________ >>>> > nexa mailing list >>>> > nexa(a)server-nexa.polito.it >>>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] >>> > >>> > _______________________________________________ >>> > nexa mailing list >>> > nexa(a)server-nexa.polito.it >>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] >> > >> > _______________________________________________ >> > nexa mailing list >> > nexa(a)server-nexa.polito.it >> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] > > > > > > > > Links: > > ------ > > [1] > > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar > > [2] > > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ > > [3] https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > [4] > > > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… > > > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > -- > http://mfioretti.com > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Stefano Quintarelli

Secondo me trascura troppe dipendenze sistemiche che sono elementi di frizione, anche bloccanti per molte delle cose che scrive. Per molte altre, assume implicitamente che non ci saranno cambiamenti rilevanti nella tecnologia disponibile e nella regolamentazione, ipotesi discutibile. Ciao, s. In data 23 marzo 2018 6:56:09 AM "M. Fioretti" <mfioretti(a)nexaima.net> ha scritto: > On 2018-03-23 06:41, M. Fioretti wrote: > > > ... sì a trasporti pubblici prima di tutto, poi casomai ad auto DAVVERO > > AUTONOME > > NELLE CONDIZIONI GIÀ DETTE DAL PROF. MEO, senza posto di guida, > > e condivise... Tutto questo l'ho già descritto più in dettaglio in > > questo post su > > quale dovrebbe essere il VERO nome delle "auto a guida autonoma": > > > > http://stop.zona-m.net/2017/10/the-real-name-and-value-of-self-driving-cars/ > > Per la cronaca, questo pezzo segnalato da Giacomo,che ringrazio: > > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… > > è,quasi punto per punto, una lista molto dettagliata delle stesse cose > che hanno portato a scrivere il mio post sul "vero nome delle auto > autonome". > è davvero ben fatto, su 73 punti ce ne saranno 5/6 che non condivido > appieno, > leggetevelo! Ora vado a complimentarmi con il suo autore. > > Marco > > > -- > http://mfioretti.com > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-23 06:41, M. Fioretti wrote: > ... sì a trasporti pubblici prima di tutto, poi casomai ad auto DAVVERO > AUTONOME > NELLE CONDIZIONI GIÀ DETTE DAL PROF. MEO, senza posto di guida, > e condivise... Tutto questo l'ho già descritto più in dettaglio in > questo post su > quale dovrebbe essere il VERO nome delle "auto a guida autonoma": > > http://stop.zona-m.net/2017/10/the-real-name-and-value-of-self-driving-cars/ Per la cronaca, questo pezzo segnalato da Giacomo,che ringrazio: https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… è,quasi punto per punto, una lista molto dettagliata delle stesse cose che hanno portato a scrivere il mio post sul "vero nome delle auto autonome". è davvero ben fatto, su 73 punti ce ne saranno 5/6 che non condivido appieno, leggetevelo! Ora vado a complimentarmi con il suo autore. Marco -- http://mfioretti.com

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-22 22:39, armeo(a)mail.nexacenter.org wrote: > Il pilota utomatico può funzionare bene solo su una > strada frequentata solo da altri veicoli automatici, e non da pedoni o > macchine non automatiche. esatto, grazie. Non è che c'è un problema strutturale di user interface se un passeggero al posto di guida non si percepisce come autista. C'è proprio,come ho già scritto, un problema "commerciale" e di logica di base, nel credere che auto fintamente autonome di quel genere debbano o comunque possano essere vendibili. Io VOGLIO NON percepirmi più come autista. Se davvero devo perdere due ore di vita al giorno in spostamenti, voglio almeno farlo nel modo meno stancante, palloso ed economico possibile. Quindi, sì a trasporti pubblici prima di tutto, poi casomai ad auto DAVVERO AUTONOME NELLE CONDIZIONI GIÀ DETTE DAL PROF. MEO, senza posto di guida, e condivise. così mentre mi sposto posso leggere,dormire, lavorare.... senza patemi. No senza appello a spendere migliaia di euro in più di sensori, per poi dovergli comunque fare da babysitter, sprecando in spostamenti lo stesso tempo di oggi. Tutto questo l'ho già descritto più in dettaglio in questo post su quale dovrebbe essere il VERO nome delle "auto a guida autonoma": http://stop.zona-m.net/2017/10/the-real-name-and-value-of-self-driving-cars/ e non mi dispiacerebbe affatto lavorarci seriamente, su questo tema. Se avete proposte,sapete come trovarmi :-) Marco > Il 22/03/2018 20:02, Giacomo Tesio ha scritto: > >> Ma secondo voi non c'è un problema strutturale di user interface e >> user experience se un passeggero al posto di guida non si percepisce >> come un autista? >> >> Questo problema (piuttosto ovvio) è risolvibile? >> O è piuttosto in diretta contraddizione con il concetto stesso di >> auto a guida autonoma? >> >> > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… >> [4] >> >> Giacomo >> >> Il Gio 22 Mar 2018 19:49 Roberto Dolci <rob.dolci(a)aizoon.us> ha >> scritto: >> >>> Perfettamente d'accordo Alberto. Peraltro il "contenuto" di un >>> automobile continua ad aumentare a parita' di Prezzo (scontato per >>> inflazione): quindi dalle cinture di sicurezza e poggiatesta in >>> poi, non e' che il costo sia stato passato sulle spalle dei >>> consumatori, ma assorbito dallo sviluppo tecnologico. >>> >>> -----Original Message----- >>> From: Alberto Cammozzo <ac+nexa(a)zeromx.net> >>> Sent: Thursday, March 22, 2018 2:45 PM >>> To: Roberto Dolci <rob.dolci(a)aizoon.us>; >>> nexa(a)server-nexa.polito.it >>> Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI >>> di Uber >>> >>> Grazie Roberto, >>> metti giustamente in evidenza che la dotazione del veicolo >>> influisce sulla sua intelligenza in relazione all'ambiente e su >>> quanto vi si adatta. >>> >>> Quello che voglio mettere in evidenza io è che mentre non si >>> può pretendere che un umano veda di notte, si deve pretendere che >>> una vettura autonoma lo faccia, visto che può tecnicamente farlo >>> con la dotazione adatta. >>> Altrimenti non dovrà avere licenza di circolare di notte. >>> >>> Essendo in gioco non solo la sicurezza del conducente (è >>> relativamente affar suo) ma soprattutto quella pubblica (che è >>> affare del decisore pubblico), a me pare che la "dotazione adatta" >>> non possa essere decisa dal costo dei sensori e dal budget di chi >>> acquista l'auto, ma debba essere oggetto di regolazione. >>> Credo che chi vuole circolare autonomamente di notte (o a los >>> Angeles, o sulla neve,...) deve avere la dotazione che >>> (ragionevolmente) offre la massima reazione possibile tecnicamente >>> in relazione all'ambiente, non solo quella che offrirebbe un >>> guidatore umano (medio). >>> In caso contrario privilegiamo un profitto privato a discapito >>> dell'incolumità pubblica. >>> [Il che comunque non sarebbe una novità... Basta saperlo.] >>> >>> Alberto >>> >>> On 22/03/2018 19:23, Roberto Dolci wrote: >>>> Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno >>> IR installato, e non solo. Occorre tenere presente pero' che una >>> Mercedes ha $2800 (al costo) di sensori in piu' della Volvo XC90: >>> la prima guida agevolmente a LosAngeles, la seconda no perche' non >>> ci son line di mezzeria. >>>> >>>> >>> >> > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar >>> [1] >>>> e-supposed-to-detect-pedestrians/ >>>> >>> >> https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ >>> [2] >>>> >>>> -----Original Message----- >>>> From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of >>> Alberto >>>> Cammozzo >>>> Sent: Thursday, March 22, 2018 1:28 PM >>>> To: nexa(a)server-nexa.polito.it >>>> Subject: Re: [nexa] Video dell'incidente mortale causato dalla >>> AI di >>>> Uber >>>> >>>> Certo che si può pretendere che la macchina superi l'uomo se >>> le si affida un veicolo sulla pubblica via. Anzi lo si deve >>> richiedere. >>>> >>>> La telecamera evidentemente opera nello spettro visibile, cioè >>> replica i limiti della visione umana. >>>> Una telecamera a infrarossi, per non dire un radar, avrebbe >>> certamente evitato l'incidente e salvato la vita dell'assai >>> incauto pedone. >>>> >>>> Un veicolo automatico dotato di visione I/R oltre che ottica >>> avrebbe potuto superare la capacità di reazione del guidatore >>> umano. >>>> Non lo ha fatto perché è stato progettato per non farlo, o >>> meglio non è stato progettato per farlo, pur essendo tale >>> progetto possibile e non a un costo proibitivo. >>>> Quel veicolo, abilitato alla guida autonoma notturna, si limita >>> a replicare i limiti della visione notturna umana pur potendo >>> essere disegnato per rendere tale guida più sicura. >>>> >>>> Non dotare il veicolo anche di una videocamera IR è certamente >>> una scelta di progetto, che definirei "insecure by design", almeno >>> nella guida notturna. >>>> >>>> Per questo motivo non escludo la responsabilità, certamente >>> morale e per omissione, del progettista o del committente. >>>> >>>> >>>> Alberto >>>> >>>> >>>> On 22/03/2018 13:12, Roberto Dolci wrote: >>>>> Il filmato e' visionabile da due punti di vista: telecamera su >>> strada e su guidatore (che mostra come questi stia guardando in >>> basso su smartphone o tablet). E' chiaro che la vittima e' vestita >>> di scuro/nero, attraversa una strada ad alta percorrenza ben fuori >>> da strisce pedonali o semafori. Non si puo' pretendere che un >>> algoritmo superi Darwin. >>>>> >>>>> -----Original Message----- >>>>> From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of >>> Mariella >>>>> Berra >>>>> Sent: Thursday, March 22, 2018 8:09 AM >>>>> To: nexa(a)server-nexa.polito.it >>>>> Subject: Re: [nexa] Video dell'incidente mortale causato dalla >>> AI di >>>>> Uber >>>>> >>>>> Cari tutti mi sembrerebbe un messaggio di responsabilità >>> politica >>>>> sociale e etica >>>>> >>>>> Mariella b >>>>> >>>>> >>>>> Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: >>>>>> estremizzo la posizione di Giacomo: nell'attesa di un >>> ulteriore >>>>>> progresso che renda i veicoli automatici più sicuri di >>> quelli a >>>>>> guida umana (che potrebbe arrivare in un paio di anni) >>> vietiamo >>>>>> l'impiego di veicoli automatici. >>>>>> >>>>>> Raf >>>>>> >>>>>> >>>>>> Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >>>>>>> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> >>> ha scritto: >>>>>>>> Non so se quel che si legge è vero, perchè in questi >>> giorni si è >>>>>>>> sentito di tutto, ma sembra che in realtà l'autista umano >>> sia >>>>>>>> stato avvisato dai sensori, e nemmeno lui abbia potuto >>> agire in tempo. >>>>>>> A quanto avevo letto, l'auto non ha frenato. >>>>>>> A quanto vedo, l'auto non ha nemmeno deviato nonostante la >>> corsia >>>>>>> opposta fosse perfettamente libera. >>>>>>> >>>>>>> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in >>> questo >>>>>>> caso, ma anche fosse, un auto a guida autonoma non dovrebbe >>>>>>> affidarsi ai riflessi di un essere umano, non credi? >>>>>>> >>>>>>>> D'altra parte se uno si >>>>>>>> butta sotto un mezzo in movimento non c'è tecnologia che >>> tenga: >>>>>>>> una frenata non può avvenire in tempo zero. >>>>>>> Il pedone aveva attraversato l'intera corsia opposta, c'era >>> tempo >>>>>>> di >>>>>>> - suonare il clacson >>>>>>> - effettuare segnalazioni luminose >>>>>>> - rallentare >>>>>>> - deviare >>>>>>> >>>>>>> Ricordiamoci che non stiamo parlando di un cervello umano, >>> ma di >>>>>>> processori: non mi sono mai interessato di questo tipo di >>>>>>> simulazioni, sono abbastanza confidente che calcolare una >>>>>>> traiettoria per evitare il pedone data la sua velocità e >>> direzione >>>>>>> sarebbe stato piuttosto rapido. >>>>>>> >>>>>>> Se poi hanno messo un simulatore scritto in JavaScript a >>> guidare la >>>>>>> macchina, allora bisogna arrestare ANCHE gli ingegneri! >>>>>>> >>>>>>>> Peraltro, se fosse accertata la responsabilità del pedone, >>> il >>>>>>>> problema penale non si porrebbe. >>>>>>> Obbiezione interessante. Probabilmente hai ragione: bisogna >>>>>>> aggiornare l'ordinamento. >>>>>>> >>>>>>> Se disponiamo di una tecnologia che può evitare una morte >>> in caso >>>>>>> di errore umano, non possiamo dire che il suo fallimento non >>>>>>> costituisce reato solo perché l'errore umano più evidente >>> è della vittima. >>>>>>> >>>>>>> L'errore umano principale infatti sta nella progettazione >>> del veicolo. >>>>>>> >>>>>>> In particolare nella interfaccia utente destinata al >>> passeggero, >>>>>>> che appunto, ha smesso di sentirsi autista dell'auto (come >>> evidente >>>>>>> dalla parte finale del filmato). >>>>>>> La stessa definizione di "auto a guida autonoma", o "self >>> driving car" >>>>>>> (o forse persino "intelligenza artificiale") ha causato >>> questo >>>>>>> enorme (e facilmente evitabile) errore di progettazione. >>>>>>> >>>>>>>> Però è evidente che deve nascere una forma nuova di >>> diritto (non >>>>>>>> ho ancora finito di leggere "the law of robots" del prof. >>>>>>>> Pollicino). E spero che includa un principio di innocenza >>> fino a >>>>>>>> prova contraria anche per gli automi! >>>>>>> Questo temo sia impossibile. >>>>>>> Non sono MAI gli automi ad essere innocenti o colpevoli: la >>>>>>> responsabilità va sempre ricondotta alle persone che li >>> hanno messi >>>>>>> in circolazione. >>>>>>> >>>>>>> I principio di innocenza fino a prova contraria, non si >>> applica >>>>>>> alle cose. >>>>>>> >>>>>>> >>>>>>> Vi e poi un problema pratico: come dimostrare che la >>> macchina ha >>>>>>> sbagliato (in uno qualsiasi dei suoi componenti) e dunque >>> che la >>>>>>> responsabilità penale sussiste? >>>>>>> >>>>>>> Chi paga il lavoro degli esperti necessari ad analizzare >>> ogni >>>>>>> singolo componente e ogni riga di codice per verificare >>> l'assenza di errori? >>>>>>> Infatti, in via precauzionale, dovremmo interrompere la >>> produzione >>>>>>> ma al contempo non potremmo mettere Uber a verificare il >>> proprio >>>>>>> prodotto ne persone pagate da Uber. >>>>>>> >>>>>>> Avremmo bisogno di esperti indipendenti da queste >>> multinazionali >>>>>>> per valutare il loro lavoro (e ci potrebbero volere anni). >>>>>>> >>>>>>> Nella remota ipotesi che non trovassero errori nel sistema, >>> chi >>>>>>> facciamo pagare? la famiglia della vittima? lo stato? >>>>>>> >>>>>>> >>>>>>> In realtà comunque gli errori ci sono di sicuro, quanto >>> meno a >>>>>>> livello software. >>>>>>> >>>>>>> Perché chiunque sviluppa software sa che l'errore non è >>> una >>>>>>> condizione occasionale che capita a persone che per il resto >>> non sbagliano. >>>>>>> L'errore è condizione normale della operatività umana. E >>> questa è >>>>>>> particolarmente evidente nel software, per la natura stessa >>>>>>> dell'artefatto e per la scarsa evoluzione dell'informatica. >>>>>>> >>>>>>> >>>>>>> Dunque, per gli automi, dovremo adottare un principio di >>>>>>> colpevolezza dei costruttori fino a prova contraria. >>>>>>> >>>>>>> >>>>>>> >>>>>>> Giacomo >>>>>>> _______________________________________________ >>>>>>> nexa mailing list >>>>>>> nexa(a)server-nexa.polito.it >>>>>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> [3] >>>>>> _______________________________________________ >>>>>> nexa mailing list >>>>>> nexa(a)server-nexa.polito.it >>>>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> [3] >>>>> -- >>>>> Prof.ssa Mariella Berra >>>>> Dipartimento di Culture, Politica e Società Università di >>> Torino >>>>> tel.+390116702606 >>>>> >>>>> _______________________________________________ >>>>> nexa mailing list >>>>> nexa(a)server-nexa.polito.it >>>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> [3] >>>>> _______________________________________________ >>>>> nexa mailing list >>>>> nexa(a)server-nexa.polito.it >>>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> [3] >>>> >>>> _______________________________________________ >>>> nexa mailing list >>>> nexa(a)server-nexa.polito.it >>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] >>> >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa [3] > > > > Links: > ------ > [1] > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar > [2] > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ > [3] https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > [4] > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- http://mfioretti.com

March 23, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by armeo＠mail.nexacenter.org

scrissi un giorno lontano che l'intelligenza artificiale è quella scienza, terribilmente difficile, che è finalizzata a progettare un robot domestico. Penso che il robot domestico che faccia entrare il gatto di casa e cacci gli altri gatti non esisterà per molto tempo. Calandomi nei panni del progettista del pilota automatico, mi domando come questo pilota automatico possa riconoscere il passante frettoloso che vuole attraversare a tutti i costi e quello che sta correndo per attraversare le altre corsie senza tagliare la strada al veicolo automatico. Il pilota utomatico può funzionare bene solo su una strada frequentata solo da altri veicoli automatici, e non da pedoni o macchine non automatiche. In conclusione, per ora, vieterei i piloti automatici. Raf Il 22/03/2018 20:02, Giacomo Tesio ha scritto: > Ma secondo voi non c'è un problema strutturale di user interface e > user experience se un passeggero al posto di guida non si percepisce > come un autista? > > Questo problema (piuttosto ovvio) è risolvibile? > O è piuttosto in diretta contraddizione con il concetto stesso di auto > a guida autonoma? > > > https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… > > > > Giacomo > > Il Gio 22 Mar 2018 19:49 Roberto Dolci <rob.dolci(a)aizoon.us > <mailto:rob.dolci@aizoon.us>> ha scritto: > > Perfettamente d'accordo Alberto. Peraltro il "contenuto" di un > automobile continua ad aumentare a parita' di Prezzo (scontato per > inflazione): quindi dalle cinture di sicurezza e poggiatesta in > poi, non e' che il costo sia stato passato sulle spalle dei > consumatori, ma assorbito dallo sviluppo tecnologico. > > -----Original Message----- > From: Alberto Cammozzo <ac+nexa(a)zeromx.net > <mailto:ac%2Bnexa@zeromx.net>> > Sent: Thursday, March 22, 2018 2:45 PM > To: Roberto Dolci <rob.dolci(a)aizoon.us > <mailto:rob.dolci@aizoon.us>>; nexa(a)server-nexa.polito.it > <mailto:nexa@server-nexa.polito.it> > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI > di Uber > > Grazie Roberto, > metti giustamente in evidenza che la dotazione del veicolo > influisce sulla sua intelligenza in relazione all'ambiente e su > quanto vi si adatta. > > Quello che voglio mettere in evidenza io è che mentre non si può > pretendere che un umano veda di notte, si deve pretendere che una > vettura autonoma lo faccia, visto che può tecnicamente farlo con > la dotazione adatta. > Altrimenti non dovrà avere licenza di circolare di notte. > > Essendo in gioco non solo la sicurezza del conducente (è > relativamente affar suo) ma soprattutto quella pubblica (che è > affare del decisore pubblico), a me pare che la "dotazione adatta" > non possa essere decisa dal costo dei sensori e dal budget di chi > acquista l'auto, ma debba essere oggetto di regolazione. > Credo che chi vuole circolare autonomamente di notte (o a los > Angeles, o sulla neve,...) deve avere la dotazione che > (ragionevolmente) offre la massima reazione possibile tecnicamente > in relazione all'ambiente, non solo quella che offrirebbe un > guidatore umano (medio). > In caso contrario privilegiamo un profitto privato a discapito > dell'incolumità pubblica. > [Il che comunque non sarebbe una novità... Basta saperlo.] > > Alberto > > > On 22/03/2018 19:23, Roberto Dolci wrote: > > Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno IR > installato, e non solo. Occorre tenere presente pero' che una > Mercedes ha $2800 (al costo) di sensori in piu' della Volvo XC90: > la prima guida agevolmente a LosAngeles, la seconda no perche' non > ci son line di mezzeria. > > > > > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar > > e-supposed-to-detect-pedestrians/ > > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ > > > > -----Original Message----- > > From: nexa <nexa-bounces(a)server-nexa.polito.it > <mailto:nexa-bounces@server-nexa.polito.it>> On Behalf Of Alberto > > Cammozzo > > Sent: Thursday, March 22, 2018 1:28 PM > > To: nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di > > Uber > > > > Certo che si può pretendere che la macchina superi l'uomo se le > si affida un veicolo sulla pubblica via. Anzi lo si deve richiedere. > > > > La telecamera evidentemente opera nello spettro visibile, cioè > replica i limiti della visione umana. > > Una telecamera a infrarossi, per non dire un radar, avrebbe > certamente evitato l'incidente e salvato la vita dell'assai > incauto pedone. > > > > Un veicolo automatico dotato di visione I/R oltre che ottica > avrebbe potuto superare la capacità di reazione del guidatore umano. > > Non lo ha fatto perché è stato progettato per non farlo, o > meglio non è stato progettato per farlo, pur essendo tale progetto > possibile e non a un costo proibitivo. > > Quel veicolo, abilitato alla guida autonoma notturna, si limita > a replicare i limiti della visione notturna umana pur potendo > essere disegnato per rendere tale guida più sicura. > > > > Non dotare il veicolo anche di una videocamera IR è certamente > una scelta di progetto, che definirei "insecure by design", almeno > nella guida notturna. > > > > Per questo motivo non escludo la responsabilità, certamente > morale e per omissione, del progettista o del committente. > > > > > > Alberto > > > > > > On 22/03/2018 13:12, Roberto Dolci wrote: > >> Il filmato e' visionabile da due punti di vista: telecamera su > strada e su guidatore (che mostra come questi stia guardando in > basso su smartphone o tablet). E' chiaro che la vittima e' vestita > di scuro/nero, attraversa una strada ad alta percorrenza ben fuori > da strisce pedonali o semafori. Non si puo' pretendere che un > algoritmo superi Darwin. > >> > >> -----Original Message----- > >> From: nexa <nexa-bounces(a)server-nexa.polito.it > <mailto:nexa-bounces@server-nexa.polito.it>> On Behalf Of Mariella > >> Berra > >> Sent: Thursday, March 22, 2018 8:09 AM > >> To: nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > >> Subject: Re: [nexa] Video dell'incidente mortale causato dalla > AI di > >> Uber > >> > >> Cari tutti mi sembrerebbe un messaggio di responsabilità politica > >> sociale e etica > >> > >> Mariella b > >> > >> > >> Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org > <mailto:armeo@mail.nexacenter.org> ha scritto: > >>> estremizzo la posizione di Giacomo: nell'attesa di un ulteriore > >>> progresso che renda i veicoli automatici più sicuri di quelli a > >>> guida umana (che potrebbe arrivare in un paio di anni) vietiamo > >>> l'impiego di veicoli automatici. > >>> > >>> Raf > >>> > >>> > >>> Il 22/03/2018 10:50, Giacomo Tesio ha scritto: > >>>> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com > <mailto:dgiorio@hotmail.com>> ha scritto: > >>>>> Non so se quel che si legge è vero, perchè in questi giorni si è > >>>>> sentito di tutto, ma sembra che in realtà l'autista umano sia > >>>>> stato avvisato dai sensori, e nemmeno lui abbia potuto agire > in tempo. > >>>> A quanto avevo letto, l'auto non ha frenato. > >>>> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia > >>>> opposta fosse perfettamente libera. > >>>> > >>>> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo > >>>> caso, ma anche fosse, un auto a guida autonoma non dovrebbe > >>>> affidarsi ai riflessi di un essere umano, non credi? > >>>> > >>>>> D'altra parte se uno si > >>>>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: > >>>>> una frenata non può avvenire in tempo zero. > >>>> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo > >>>> di > >>>> - suonare il clacson > >>>> - effettuare segnalazioni luminose > >>>> - rallentare > >>>> - deviare > >>>> > >>>> Ricordiamoci che non stiamo parlando di un cervello umano, ma di > >>>> processori: non mi sono mai interessato di questo tipo di > >>>> simulazioni, sono abbastanza confidente che calcolare una > >>>> traiettoria per evitare il pedone data la sua velocità e > direzione > >>>> sarebbe stato piuttosto rapido. > >>>> > >>>> Se poi hanno messo un simulatore scritto in JavaScript a > guidare la > >>>> macchina, allora bisogna arrestare ANCHE gli ingegneri! > >>>> > >>>>> Peraltro, se fosse accertata la responsabilità del pedone, il > >>>>> problema penale non si porrebbe. > >>>> Obbiezione interessante. Probabilmente hai ragione: bisogna > >>>> aggiornare l'ordinamento. > >>>> > >>>> Se disponiamo di una tecnologia che può evitare una morte in caso > >>>> di errore umano, non possiamo dire che il suo fallimento non > >>>> costituisce reato solo perché l'errore umano più evidente è > della vittima. > >>>> > >>>> L'errore umano principale infatti sta nella progettazione del > veicolo. > >>>> > >>>> In particolare nella interfaccia utente destinata al passeggero, > >>>> che appunto, ha smesso di sentirsi autista dell'auto (come > evidente > >>>> dalla parte finale del filmato). > >>>> La stessa definizione di "auto a guida autonoma", o "self > driving car" > >>>> (o forse persino "intelligenza artificiale") ha causato questo > >>>> enorme (e facilmente evitabile) errore di progettazione. > >>>> > >>>>> Però è evidente che deve nascere una forma nuova di diritto (non > >>>>> ho ancora finito di leggere "the law of robots" del prof. > >>>>> Pollicino). E spero che includa un principio di innocenza fino a > >>>>> prova contraria anche per gli automi! > >>>> Questo temo sia impossibile. > >>>> Non sono MAI gli automi ad essere innocenti o colpevoli: la > >>>> responsabilità va sempre ricondotta alle persone che li hanno > messi > >>>> in circolazione. > >>>> > >>>> I principio di innocenza fino a prova contraria, non si applica > >>>> alle cose. > >>>> > >>>> > >>>> Vi e poi un problema pratico: come dimostrare che la macchina ha > >>>> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la > >>>> responsabilità penale sussiste? > >>>> > >>>> Chi paga il lavoro degli esperti necessari ad analizzare ogni > >>>> singolo componente e ogni riga di codice per verificare > l'assenza di errori? > >>>> Infatti, in via precauzionale, dovremmo interrompere la > produzione > >>>> ma al contempo non potremmo mettere Uber a verificare il proprio > >>>> prodotto ne persone pagate da Uber. > >>>> > >>>> Avremmo bisogno di esperti indipendenti da queste multinazionali > >>>> per valutare il loro lavoro (e ci potrebbero volere anni). > >>>> > >>>> Nella remota ipotesi che non trovassero errori nel sistema, chi > >>>> facciamo pagare? la famiglia della vittima? lo stato? > >>>> > >>>> > >>>> In realtà comunque gli errori ci sono di sicuro, quanto meno a > >>>> livello software. > >>>> > >>>> Perché chiunque sviluppa software sa che l'errore non è una > >>>> condizione occasionale che capita a persone che per il resto > non sbagliano. > >>>> L'errore è condizione normale della operatività umana. E questa è > >>>> particolarmente evidente nel software, per la natura stessa > >>>> dell'artefatto e per la scarsa evoluzione dell'informatica. > >>>> > >>>> > >>>> Dunque, per gli automi, dovremo adottare un principio di > >>>> colpevolezza dei costruttori fino a prova contraria. > >>>> > >>>> > >>>> > >>>> Giacomo > >>>> _______________________________________________ > >>>> nexa mailing list > >>>> nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > >>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > >>> _______________________________________________ > >>> nexa mailing list > >>> nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > >> -- > >> Prof.ssa Mariella Berra > >> Dipartimento di Culture, Politica e Società Università di Torino > >> tel.+390116702606 > >> > >> _______________________________________________ > >> nexa mailing list > >> nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > >> _______________________________________________ > >> nexa mailing list > >> nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Giacomo Tesio

Ma secondo voi non c'è un problema strutturale di user interface e user experience se un passeggero al posto di guida non si percepisce come un autista? Questo problema (piuttosto ovvio) è risolvibile? O è piuttosto in diretta contraddizione con il concetto stesso di auto a guida autonoma? https://medium.com/@DonotInnovate/73-mind-blowing-implications-of-a-driverl… Giacomo Il Gio 22 Mar 2018 19:49 Roberto Dolci <rob.dolci(a)aizoon.us> ha scritto: > Perfettamente d'accordo Alberto. Peraltro il "contenuto" di un automobile > continua ad aumentare a parita' di Prezzo (scontato per inflazione): quindi > dalle cinture di sicurezza e poggiatesta in poi, non e' che il costo sia > stato passato sulle spalle dei consumatori, ma assorbito dallo sviluppo > tecnologico. > > -----Original Message----- > From: Alberto Cammozzo <ac+nexa(a)zeromx.net> > Sent: Thursday, March 22, 2018 2:45 PM > To: Roberto Dolci <rob.dolci(a)aizoon.us>; nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber > > Grazie Roberto, > metti giustamente in evidenza che la dotazione del veicolo influisce sulla > sua intelligenza in relazione all'ambiente e su quanto vi si adatta. > > Quello che voglio mettere in evidenza io è che mentre non si può > pretendere che un umano veda di notte, si deve pretendere che una vettura > autonoma lo faccia, visto che può tecnicamente farlo con la dotazione > adatta. > Altrimenti non dovrà avere licenza di circolare di notte. > > Essendo in gioco non solo la sicurezza del conducente (è relativamente > affar suo) ma soprattutto quella pubblica (che è affare del decisore > pubblico), a me pare che la "dotazione adatta" non possa essere decisa dal > costo dei sensori e dal budget di chi acquista l'auto, ma debba essere > oggetto di regolazione. > Credo che chi vuole circolare autonomamente di notte (o a los Angeles, o > sulla neve,...) deve avere la dotazione che (ragionevolmente) offre la > massima reazione possibile tecnicamente in relazione all'ambiente, non solo > quella che offrirebbe un guidatore umano (medio). > In caso contrario privilegiamo un profitto privato a discapito > dell'incolumità pubblica. > [Il che comunque non sarebbe una novità... Basta saperlo.] > > Alberto > > > On 22/03/2018 19:23, Roberto Dolci wrote: > > Tutte le auto ora in test (Volvo, Google, GM, Mercedes) hanno IR > installato, e non solo. Occorre tenere presente pero' che una Mercedes ha > $2800 (al costo) di sensori in piu' della Volvo XC90: la prima guida > agevolmente a LosAngeles, la seconda no perche' non ci son line di mezzeria. > > > > https://techcrunch.com/2018/03/19/heres-how-ubers-self-driving-cars-ar > > e-supposed-to-detect-pedestrians/ > > https://www.wired.com/2017/01/volvos-cars-now-spot-moose-hit-brakes/ > > > > -----Original Message----- > > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Alberto > > Cammozzo > > Sent: Thursday, March 22, 2018 1:28 PM > > To: nexa(a)server-nexa.polito.it > > Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di > > Uber > > > > Certo che si può pretendere che la macchina superi l'uomo se le si > affida un veicolo sulla pubblica via. Anzi lo si deve richiedere. > > > > La telecamera evidentemente opera nello spettro visibile, cioè replica i > limiti della visione umana. > > Una telecamera a infrarossi, per non dire un radar, avrebbe certamente > evitato l'incidente e salvato la vita dell'assai incauto pedone. > > > > Un veicolo automatico dotato di visione I/R oltre che ottica avrebbe > potuto superare la capacità di reazione del guidatore umano. > > Non lo ha fatto perché è stato progettato per non farlo, o meglio non è > stato progettato per farlo, pur essendo tale progetto possibile e non a un > costo proibitivo. > > Quel veicolo, abilitato alla guida autonoma notturna, si limita a > replicare i limiti della visione notturna umana pur potendo essere > disegnato per rendere tale guida più sicura. > > > > Non dotare il veicolo anche di una videocamera IR è certamente una > scelta di progetto, che definirei "insecure by design", almeno nella guida > notturna. > > > > Per questo motivo non escludo la responsabilità, certamente morale e per > omissione, del progettista o del committente. > > > > > > Alberto > > > > > > On 22/03/2018 13:12, Roberto Dolci wrote: > >> Il filmato e' visionabile da due punti di vista: telecamera su strada e > su guidatore (che mostra come questi stia guardando in basso su smartphone > o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa > una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. > Non si puo' pretendere che un algoritmo superi Darwin. > >> > >> -----Original Message----- > >> From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Mariella > >> Berra > >> Sent: Thursday, March 22, 2018 8:09 AM > >> To: nexa(a)server-nexa.polito.it > >> Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di > >> Uber > >> > >> Cari tutti mi sembrerebbe un messaggio di responsabilità politica > >> sociale e etica > >> > >> Mariella b > >> > >> > >> Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: > >>> estremizzo la posizione di Giacomo: nell'attesa di un ulteriore > >>> progresso che renda i veicoli automatici più sicuri di quelli a > >>> guida umana (che potrebbe arrivare in un paio di anni) vietiamo > >>> l'impiego di veicoli automatici. > >>> > >>> Raf > >>> > >>> > >>> Il 22/03/2018 10:50, Giacomo Tesio ha scritto: > >>>> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha > scritto: > >>>>> Non so se quel che si legge è vero, perchè in questi giorni si è > >>>>> sentito di tutto, ma sembra che in realtà l'autista umano sia > >>>>> stato avvisato dai sensori, e nemmeno lui abbia potuto agire in > tempo. > >>>> A quanto avevo letto, l'auto non ha frenato. > >>>> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia > >>>> opposta fosse perfettamente libera. > >>>> > >>>> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo > >>>> caso, ma anche fosse, un auto a guida autonoma non dovrebbe > >>>> affidarsi ai riflessi di un essere umano, non credi? > >>>> > >>>>> D'altra parte se uno si > >>>>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: > >>>>> una frenata non può avvenire in tempo zero. > >>>> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo > >>>> di > >>>> - suonare il clacson > >>>> - effettuare segnalazioni luminose > >>>> - rallentare > >>>> - deviare > >>>> > >>>> Ricordiamoci che non stiamo parlando di un cervello umano, ma di > >>>> processori: non mi sono mai interessato di questo tipo di > >>>> simulazioni, sono abbastanza confidente che calcolare una > >>>> traiettoria per evitare il pedone data la sua velocità e direzione > >>>> sarebbe stato piuttosto rapido. > >>>> > >>>> Se poi hanno messo un simulatore scritto in JavaScript a guidare la > >>>> macchina, allora bisogna arrestare ANCHE gli ingegneri! > >>>> > >>>>> Peraltro, se fosse accertata la responsabilità del pedone, il > >>>>> problema penale non si porrebbe. > >>>> Obbiezione interessante. Probabilmente hai ragione: bisogna > >>>> aggiornare l'ordinamento. > >>>> > >>>> Se disponiamo di una tecnologia che può evitare una morte in caso > >>>> di errore umano, non possiamo dire che il suo fallimento non > >>>> costituisce reato solo perché l'errore umano più evidente è della > vittima. > >>>> > >>>> L'errore umano principale infatti sta nella progettazione del veicolo. > >>>> > >>>> In particolare nella interfaccia utente destinata al passeggero, > >>>> che appunto, ha smesso di sentirsi autista dell'auto (come evidente > >>>> dalla parte finale del filmato). > >>>> La stessa definizione di "auto a guida autonoma", o "self driving car" > >>>> (o forse persino "intelligenza artificiale") ha causato questo > >>>> enorme (e facilmente evitabile) errore di progettazione. > >>>> > >>>>> Però è evidente che deve nascere una forma nuova di diritto (non > >>>>> ho ancora finito di leggere "the law of robots" del prof. > >>>>> Pollicino). E spero che includa un principio di innocenza fino a > >>>>> prova contraria anche per gli automi! > >>>> Questo temo sia impossibile. > >>>> Non sono MAI gli automi ad essere innocenti o colpevoli: la > >>>> responsabilità va sempre ricondotta alle persone che li hanno messi > >>>> in circolazione. > >>>> > >>>> I principio di innocenza fino a prova contraria, non si applica > >>>> alle cose. > >>>> > >>>> > >>>> Vi e poi un problema pratico: come dimostrare che la macchina ha > >>>> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la > >>>> responsabilità penale sussiste? > >>>> > >>>> Chi paga il lavoro degli esperti necessari ad analizzare ogni > >>>> singolo componente e ogni riga di codice per verificare l'assenza di > errori? > >>>> Infatti, in via precauzionale, dovremmo interrompere la produzione > >>>> ma al contempo non potremmo mettere Uber a verificare il proprio > >>>> prodotto ne persone pagate da Uber. > >>>> > >>>> Avremmo bisogno di esperti indipendenti da queste multinazionali > >>>> per valutare il loro lavoro (e ci potrebbero volere anni). > >>>> > >>>> Nella remota ipotesi che non trovassero errori nel sistema, chi > >>>> facciamo pagare? la famiglia della vittima? lo stato? > >>>> > >>>> > >>>> In realtà comunque gli errori ci sono di sicuro, quanto meno a > >>>> livello software. > >>>> > >>>> Perché chiunque sviluppa software sa che l'errore non è una > >>>> condizione occasionale che capita a persone che per il resto non > sbagliano. > >>>> L'errore è condizione normale della operatività umana. E questa è > >>>> particolarmente evidente nel software, per la natura stessa > >>>> dell'artefatto e per la scarsa evoluzione dell'informatica. > >>>> > >>>> > >>>> Dunque, per gli automi, dovremo adottare un principio di > >>>> colpevolezza dei costruttori fino a prova contraria. > >>>> > >>>> > >>>> > >>>> Giacomo > >>>> _______________________________________________ > >>>> nexa mailing list > >>>> nexa(a)server-nexa.polito.it > >>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > >>> _______________________________________________ > >>> nexa mailing list > >>> nexa(a)server-nexa.polito.it > >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > >> -- > >> Prof.ssa Mariella Berra > >> Dipartimento di Culture, Politica e Società Università di Torino > >> tel.+390116702606 > >> > >> _______________________________________________ > >> nexa mailing list > >> nexa(a)server-nexa.polito.it > >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > >> _______________________________________________ > >> nexa mailing list > >> nexa(a)server-nexa.polito.it > >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 22, 2018

← Newer
1
...
5
6
7
8
9
10
11
...
24
Older →

Jump to page: