March 2018 - nexa - server-nexa.polito.it

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-22 15:37, Giacomo Tesio wrote: > Vi prego, dunque di non usare come argomento il fatto che le auto a > guida autonoma possono salvare più vite di quelle che spezzano. in tutta franchezza, personalmente non so che rispondere perché non mi pare nè che nessuno abbia effettivamente detto questo, nè che QUELL'argomento abbia alcun senso, con qualsiasi sistema morale lo si consideri. A me "salvare più vite di quelle che spezzano" pare "not even wrong", come dicono gli americani. A me pare che l'argomento effettivamente portato sia tutt'altro, ovvero: "vale la pena passare alle auto a guida autonoma perché i decessi per incidenti stradali sarebbero molti di meno di quanti ce ne sono oggi" che magari non è vero, ma di sicuro è argomento completamente diversa da quella che tu preghi di non usare. Marco -- http://mfioretti.com

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Giacomo Tesio

Il 22 marzo 2018 11:36, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: > Se un'auto robotica, per quanto imperfetta, dimezzasse questi > incidenti, sarebbe etico non metterla sul mercato perchè i difetti causano > l'altra metà? Il 22 marzo 2018 13:12, M. Fioretti <mfioretti(a)nexaima.net> ha scritto: > "La responsabilità morale del fornitore di VA e della rete di VA sulle > strade in un determinato momento non è salvare zia Ada ma raggiungere > le ottimizzazioni che noi, come società, abbiamo assunto come decisione > politica." Il 22 marzo 2018 13:12, Roberto Dolci <rob.dolci(a)aizoon.us> ha scritto: > Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. Durante la revisione del Libro Bianco IA, uno dei commentatori ha proposto un link di futurism che parlava della "MoralMachine" del MIT.: http://moralmachine.mit.edu/ Eseguire quel giochino è stato veramente ILLUMINANTE. Suggerisco a tutti di provare a farlo SERIAMENTE: 1) immaginate persone AMATE nei diversi ruoli prima di scegliere CHI UCCIDERE 2) segnare il responso su un foglietto 3) poi provate a scambiarle di ruolo e segnate di nuovo il responso 4) riprendete dal punto 1 fino a quando i responsi divergono 5) quando i responsi segnati sul foglietto convergono cliccate sulla opzione corrispondente e ricominciate con l'esempio successivo. Ripeto che è una esperienza ILLUMINANTE, che consiglio a tutti, per quanto LACERANTE possa essere (io ho fatto una enorme fatica a concentrarmi immaginando tutto il dolore che le diverse opzioni avrebbero causato). Per decidere fra le alternative fornite è NECESSARIO attribuire un valore "morale" relativo alle diverse vite in gioco, in modo da poter scegliere "moralmente" chi uccidere e chi salvare. Ora, la "Moral Machine" del MIT, come le frasi che ho citato, mostra *due problemi macroscopici*, uno psicologico/culturale e l'altro logico/matematico. Il problema psicologico in fondo accomuna il MIT e l'ISIS ma anche i crociati medioevali ed una vasta parte della popolazione occidentale. Si tratta dell*'assunzione che il proprio sistema morale sia l'unico possibile*, o quanto meno il migliore. Attribuire un valore scalare ad una vita è possibile in tutti* i sistemi morali utilitaristici ed edonistici*, quale quello che sorregge il *capitalismo*, in cui il MIT è immerso. La massima espressione ti questo sistema morale la troviamo espressa con eleganza in Italia, nel motto *"uno vale uno"*. Fortunatamente il mondo è un po' più vario di così. In sistemi morali appena più raffinati, infatti, il problema *così posto* non ha soluzione. Per esempio *il mio sistema morale*, da cristiano cattolico,* è multidimensionale*: attribuisce a *ciascuna vita un valore vettoriale su una direzione ortogonale a tutte le altre vite*. Come conseguenza, *io non posso letteralmente scegliere chi uccidere*: vi lascio la dimostrazione (piuttosto semplice in realtà), ma per i non matematici basti notare che "non uccidere" non ammette eccezioni. *ATTENZIONE! *Questo non significa che il sistema morale cattolico sia inapplicabile a questo tipo di problemi pratici. Se proiettate su un asse economico ciascuna vita assume istantaneamente un valore infinito. E dunque, se il mio sistema morale non permette di decidere chi uccidere, permette invece di *stabilire con chiarezza a quanta ricchezza possiamo rinunciare per salvare una vita: tutta quella che serve*. Vi prego, dunque di non usare come argomento il fatto che le auto a guida autonoma possono salvare più vite di quelle che spezzano. A me non interessa. *A me interessa che chi causa la morte di una persona, per azione o per omissione, ne sia responsabile penalmente come ne è responsabile moralmente.* Giacomo

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-22 13:32, Diego Giorio wrote: > Fra l'altro, mi viene in mente che è stata una magnifica occasione > persa di dimostrare la superiorità di un veicolo a guida autonoma: rischio di essere noioso, ma è perché ci tengo ai vostri pareri su quanto ho già scritto in proposito: io specificherei che si è persa l'occasione di dimostrare la superiorità di dimostrare la superiorità di un veicolo REALMENTE autonomo, in cui l'umano non può far danni nemmeno cascando addormentato sul volante, perché se devi star fermo senza far niente di sicuro ti addormenti, ma OK, tanto non c'è più nessun volante. Mentre invece l'auto che "guida lei, ma tu rimani sveglio e scomodo per metterci una pezza" è un prodotto invendibile commercialmente quanto un frullatore elettrico alimentabile solo con una dinamo a manovella. Ovvero: i problemi etici e giuridici poniamoceli pure sulle auto realmente autonome, senza più volante e pedali. Ma quelle fatte in quel modo buttiamole direttamente via, perché perderci tempo? Marco -- http://mfioretti.com

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Diego Giorio

Fra l'altro, mi viene in mente che è stata una magnifica occasione persa di dimostrare la superiorità di un veicolo a guida autonoma: se il pedone fosse stato percepito in tempo da un radar o simili ed avesse frenato, ora vedremmo il video come dimostrazione che mentre il guidatore è distratto e la vista non è sufficiente, una self driving car è in grado di superare i limiti umani. Purtroppo non ci siamo ancora, ma credo che neppure siamo così lontani. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Roberto Dolci <rob.dolci(a)aizoon.us> Sent: Thursday, March 22, 2018 12:12 PM To: Mariella Berra; nexa(a)server-nexa.polito.it Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. -----Original Message----- From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Mariella Berra Sent: Thursday, March 22, 2018 8:09 AM To: nexa(a)server-nexa.polito.it Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber Cari tutti mi sembrerebbe un messaggio di responsabilità politica sociale e etica Mariella b Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: > estremizzo la posizione di Giacomo: nell'attesa di un ulteriore > progresso che renda i veicoli automatici più sicuri di quelli a guida > umana (che potrebbe arrivare in un paio di anni) vietiamo l'impiego di > veicoli automatici. > > Raf > > > Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: >>> Non so se quel che si legge è vero, perchè in questi giorni si è >>> sentito di tutto, ma sembra che in realtà l'autista umano sia stato >>> avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. >> A quanto avevo letto, l'auto non ha frenato. >> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia >> opposta fosse perfettamente libera. >> >> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo caso, >> ma anche fosse, un auto a guida autonoma non dovrebbe affidarsi ai >> riflessi di un essere umano, non credi? >> >>> D'altra parte se uno si >>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: una >>> frenata non può avvenire in tempo zero. >> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo di >> - suonare il clacson >> - effettuare segnalazioni luminose >> - rallentare >> - deviare >> >> Ricordiamoci che non stiamo parlando di un cervello umano, ma di >> processori: non mi sono mai interessato di questo tipo di >> simulazioni, sono abbastanza confidente che calcolare una traiettoria >> per evitare il pedone data la sua velocità e direzione sarebbe stato >> piuttosto rapido. >> >> Se poi hanno messo un simulatore scritto in JavaScript a guidare la >> macchina, allora bisogna arrestare ANCHE gli ingegneri! >> >>> Peraltro, se fosse accertata la responsabilità del pedone, il >>> problema penale non si porrebbe. >> Obbiezione interessante. Probabilmente hai ragione: bisogna >> aggiornare l'ordinamento. >> >> Se disponiamo di una tecnologia che può evitare una morte in caso di >> errore umano, non possiamo dire che il suo fallimento non costituisce >> reato solo perché l'errore umano più evidente è della vittima. >> >> L'errore umano principale infatti sta nella progettazione del veicolo. >> >> In particolare nella interfaccia utente destinata al passeggero, che >> appunto, ha smesso di sentirsi autista dell'auto (come evidente dalla >> parte finale del filmato). >> La stessa definizione di "auto a guida autonoma", o "self driving car" >> (o forse persino "intelligenza artificiale") ha causato questo enorme >> (e facilmente evitabile) errore di progettazione. >> >>> Però è evidente che deve nascere una forma nuova di diritto (non ho >>> ancora finito di leggere "the law of robots" del prof. >>> Pollicino). E spero che includa un principio di innocenza fino a >>> prova contraria anche per gli automi! >> Questo temo sia impossibile. >> Non sono MAI gli automi ad essere innocenti o colpevoli: la >> responsabilità va sempre ricondotta alle persone che li hanno messi >> in circolazione. >> >> I principio di innocenza fino a prova contraria, non si applica alle >> cose. >> >> >> Vi e poi un problema pratico: come dimostrare che la macchina ha >> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la >> responsabilità penale sussiste? >> >> Chi paga il lavoro degli esperti necessari ad analizzare ogni singolo >> componente e ogni riga di codice per verificare l'assenza di errori? >> Infatti, in via precauzionale, dovremmo interrompere la produzione ma >> al contempo non potremmo mettere Uber a verificare il proprio >> prodotto ne persone pagate da Uber. >> >> Avremmo bisogno di esperti indipendenti da queste multinazionali per >> valutare il loro lavoro (e ci potrebbero volere anni). >> >> Nella remota ipotesi che non trovassero errori nel sistema, chi >> facciamo pagare? la famiglia della vittima? lo stato? >> >> >> In realtà comunque gli errori ci sono di sicuro, quanto meno a >> livello software. >> >> Perché chiunque sviluppa software sa che l'errore non è una >> condizione occasionale che capita a persone che per il resto non sbagliano. >> L'errore è condizione normale della operatività umana. E questa è >> particolarmente evidente nel software, per la natura stessa >> dell'artefatto e per la scarsa evoluzione dell'informatica. >> >> >> Dunque, per gli automi, dovremo adottare un principio di colpevolezza >> dei costruttori fino a prova contraria. >> >> >> >> Giacomo >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa nexa -- Public list for news and information ... - polito.it<https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> server-nexa.polito.it nexa -- Public list for news and information sharing of the NEXA Center for Internet & Society (Politecnico di Torino) About nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- Prof.ssa Mariella Berra Dipartimento di Culture, Politica e Società Università di Torino tel.+390116702606 _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Roberto Dolci

Il filmato e' visionabile da due punti di vista: telecamera su strada e su guidatore (che mostra come questi stia guardando in basso su smartphone o tablet). E' chiaro che la vittima e' vestita di scuro/nero, attraversa una strada ad alta percorrenza ben fuori da strisce pedonali o semafori. Non si puo' pretendere che un algoritmo superi Darwin. -----Original Message----- From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Mariella Berra Sent: Thursday, March 22, 2018 8:09 AM To: nexa(a)server-nexa.polito.it Subject: Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber Cari tutti mi sembrerebbe un messaggio di responsabilità politica sociale e etica Mariella b Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: > estremizzo la posizione di Giacomo: nell'attesa di un ulteriore > progresso che renda i veicoli automatici più sicuri di quelli a guida > umana (che potrebbe arrivare in un paio di anni) vietiamo l'impiego di > veicoli automatici. > > Raf > > > Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: >>> Non so se quel che si legge è vero, perchè in questi giorni si è >>> sentito di tutto, ma sembra che in realtà l'autista umano sia stato >>> avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. >> A quanto avevo letto, l'auto non ha frenato. >> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia >> opposta fosse perfettamente libera. >> >> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo caso, >> ma anche fosse, un auto a guida autonoma non dovrebbe affidarsi ai >> riflessi di un essere umano, non credi? >> >>> D'altra parte se uno si >>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: una >>> frenata non può avvenire in tempo zero. >> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo di >> - suonare il clacson >> - effettuare segnalazioni luminose >> - rallentare >> - deviare >> >> Ricordiamoci che non stiamo parlando di un cervello umano, ma di >> processori: non mi sono mai interessato di questo tipo di >> simulazioni, sono abbastanza confidente che calcolare una traiettoria >> per evitare il pedone data la sua velocità e direzione sarebbe stato >> piuttosto rapido. >> >> Se poi hanno messo un simulatore scritto in JavaScript a guidare la >> macchina, allora bisogna arrestare ANCHE gli ingegneri! >> >>> Peraltro, se fosse accertata la responsabilità del pedone, il >>> problema penale non si porrebbe. >> Obbiezione interessante. Probabilmente hai ragione: bisogna >> aggiornare l'ordinamento. >> >> Se disponiamo di una tecnologia che può evitare una morte in caso di >> errore umano, non possiamo dire che il suo fallimento non costituisce >> reato solo perché l'errore umano più evidente è della vittima. >> >> L'errore umano principale infatti sta nella progettazione del veicolo. >> >> In particolare nella interfaccia utente destinata al passeggero, che >> appunto, ha smesso di sentirsi autista dell'auto (come evidente dalla >> parte finale del filmato). >> La stessa definizione di "auto a guida autonoma", o "self driving car" >> (o forse persino "intelligenza artificiale") ha causato questo enorme >> (e facilmente evitabile) errore di progettazione. >> >>> Però è evidente che deve nascere una forma nuova di diritto (non ho >>> ancora finito di leggere "the law of robots" del prof. >>> Pollicino). E spero che includa un principio di innocenza fino a >>> prova contraria anche per gli automi! >> Questo temo sia impossibile. >> Non sono MAI gli automi ad essere innocenti o colpevoli: la >> responsabilità va sempre ricondotta alle persone che li hanno messi >> in circolazione. >> >> I principio di innocenza fino a prova contraria, non si applica alle >> cose. >> >> >> Vi e poi un problema pratico: come dimostrare che la macchina ha >> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la >> responsabilità penale sussiste? >> >> Chi paga il lavoro degli esperti necessari ad analizzare ogni singolo >> componente e ogni riga di codice per verificare l'assenza di errori? >> Infatti, in via precauzionale, dovremmo interrompere la produzione ma >> al contempo non potremmo mettere Uber a verificare il proprio >> prodotto ne persone pagate da Uber. >> >> Avremmo bisogno di esperti indipendenti da queste multinazionali per >> valutare il loro lavoro (e ci potrebbero volere anni). >> >> Nella remota ipotesi che non trovassero errori nel sistema, chi >> facciamo pagare? la famiglia della vittima? lo stato? >> >> >> In realtà comunque gli errori ci sono di sicuro, quanto meno a >> livello software. >> >> Perché chiunque sviluppa software sa che l'errore non è una >> condizione occasionale che capita a persone che per il resto non sbagliano. >> L'errore è condizione normale della operatività umana. E questa è >> particolarmente evidente nel software, per la natura stessa >> dell'artefatto e per la scarsa evoluzione dell'informatica. >> >> >> Dunque, per gli automi, dovremo adottare un principio di colpevolezza >> dei costruttori fino a prova contraria. >> >> >> >> Giacomo >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- Prof.ssa Mariella Berra Dipartimento di Culture, Politica e Società Università di Torino tel.+390116702606 _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-22 12:24, Stefano Quintarelli wrote: > l'uomo che ha la reponsabilità di intervenire non serve da un punto id > vista operativo, in realta'. ma solo ad allocare la responsabilita' > (in particolare penale). ma questa è una conferma che la mia obiezione è sensata, no? Ripeto: con che faccia mi proponi di pagare di più per qualcosa che NON mi toglie nessuna responsabilità o stress, ma anzi me ne aggiunge altri? Ma a voi non vengono i crampi solo a pensare di stare ***passivi*** magari due ore ma senza poter dormire, usare lo smartphone, mangiarsi un panino...con molta MENO libertà di movimento di chi sta nel sedile del passeggero, senza sterzo e pedali a impedirgli i movimenti, ma è sempre colpa tua se qualcosa va male? Io sono uno che odia guidare, ma proprio per questo mi da' ancora più fastidio uno scenario del genere: "tranquillo, non devi più guidare, solo stare più scomodo di prima ma pronto quanto prima a prenderti ogni colpa". > se a qualcuno puo' interessare, questa e' una proposta di legge che ho > presentato, https://goo.gl/ZVUVe9 , che ho scritto assieme a > Weinberger, che tocca i temi della guida autonoma e della allocazione > di responsabilita'. Grazie, mi piace in particolare tutto lo sviluppo di questo concetto: "La responsabilità morale del fornitore di VA e della rete di VA sulle strade in un determinato momento non è salvare zia Ada ma raggiungere le ottimizzazioni che noi, come società, abbiamo assunto come decisione politica." Marco > Lungi da essere una opera definitiva, e' una base per una discussione. > (ovviamente non aveva alcuna pretesa di passare...) > > ciao, s. > > On 22/03/2018 12:02, M. Fioretti wrote: >> On 2018-03-22 10:05, Diego Giorio wrote: >>> Non so se quel che si legge è vero, perchè in questi giorni si è >>> sentito di tutto, ma sembra che in realtà l'autista umano sia stato >>> avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. >> >> sul lato penale non mi pronuncio, ma....quel video mi pare una prova >> perfetta di una cosa che ho sempre pensato, cioè un enorme problema >> DI BASE nell'intera proposta di "auto che guida da sola, ma col >> guidatore che interviene in caso di bisogno". Ovvero, a me una >> cosa del genere è da subito parsa come intrinsecamente cretina, >> che non poteva funzionare. Dal video pare evidente che il "guidatore" >> stesse smanettando sullo smartphone anzichè guardare la strada. >> Ma è naturale. >> >> Per potere effettivamente "intervenire in caso di bisogno" il >> guidatore DEVE >> >> 1) stare costantemente con mani sul volante, piedi sui pedali, >> occhi costantemente in giro a controllare... come se guidasse lui, >> ma senza MAI muoversi davvero, nè toccare niente. Avete un'idea >> di quanto sia palloso, prima ancora che difficile? Fatevi portare >> a spasso per mezz'ora nel sedile del guidatore in quelle >> condizioni. >> dopo dieci minuti o cascate addormentati o vi mettete a leggere >> o giocare con lo smartphone pure voi. Cioè, perché dovrei pagare >> qualcosa che richiede lo stesso identico stress e responsabilità >> di quando guido davvero io, solo più difficile e più noioso? >> E i colpi di sonno? Quelli già vengono quando uno è DAVVERO al >> controllo, quindi costretto a essere sveglio, figurati quando >> guida "qualcun altro" >> >> 2) essere IN GRADO di fare la cosa giusta. O quantomeno di fare >> meno danni di quanti ne farebbe il computer di guida se lasciato >> a se stesso. Ma se il 90% del tempo l'auto si guida da sola, >> perché altrimenti che l'hai pagata a fare, come @#@##%%% fai tu >> a essere all'altezza di un'emergenza? Magari prendi il volante >> di colpo e sbandi investendo tu altre 3 persone, perché l'ultima >> volta che hai guidato davvero tu (la SOLA, in futuro) era a >> scuola guida >> >> Boh. Qui stanno tutti a farsi ginnastiche mentali sul mitico problema >> del trolley, ma non di come tenere un umano nel loop lo >> peggiorerebbe... >> se non facesse passare proprio la voglia di starci, in auto a quelle >> condizioni. Io davvero non capisco come pensano di riuscire a venderne >> più di qualche migliaio ai primi gonzi, di fregature così. >> >> Marco >> >> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- http://mfioretti.com

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Mariella Berra

Cari tutti mi sembrerebbe un messaggio di responsabilità politica sociale e etica Mariella b Il 22/03/2018 11:36, armeo(a)mail.nexacenter.org ha scritto: > estremizzo la posizione di Giacomo: nell'attesa di un ulteriore > progresso che renda i veicoli automatici più sicuri di quelli a guida > umana (che potrebbe arrivare in un paio di anni) vietiamo l'impiego di > veicoli automatici. > > Raf > > > Il 22/03/2018 10:50, Giacomo Tesio ha scritto: >> Il 22 marzo 2018 10:05, Diego Giorio <dgiorio(a)hotmail.com> ha scritto: >>> Non so se quel che si legge è vero, perchè in questi giorni si è >>> sentito di >>> tutto, ma sembra che in realtà l'autista umano sia stato avvisato dai >>> sensori, e nemmeno lui abbia potuto agire in tempo. >> A quanto avevo letto, l'auto non ha frenato. >> A quanto vedo, l'auto non ha nemmeno deviato nonostante la corsia >> opposta fosse perfettamente libera. >> >> Definire il passeggero "autista" e' MOLTO DISCUTIBILE in questo caso, >> ma anche fosse, un auto a guida autonoma non dovrebbe affidarsi ai >> riflessi di un essere umano, non credi? >> >>> D'altra parte se uno si >>> butta sotto un mezzo in movimento non c'è tecnologia che tenga: una >>> frenata >>> non può avvenire in tempo zero. >> Il pedone aveva attraversato l'intera corsia opposta, c'era tempo di >> - suonare il clacson >> - effettuare segnalazioni luminose >> - rallentare >> - deviare >> >> Ricordiamoci che non stiamo parlando di un cervello umano, ma di >> processori: non mi sono mai interessato di questo tipo di simulazioni, >> sono abbastanza confidente che calcolare una traiettoria per evitare >> il pedone data la sua velocità e direzione sarebbe stato piuttosto >> rapido. >> >> Se poi hanno messo un simulatore scritto in JavaScript a guidare la >> macchina, allora bisogna arrestare ANCHE gli ingegneri! >> >>> Peraltro, se fosse accertata la responsabilità del pedone, il problema >>> penale non si porrebbe. >> Obbiezione interessante. Probabilmente hai ragione: bisogna aggiornare >> l'ordinamento. >> >> Se disponiamo di una tecnologia che può evitare una morte in caso di >> errore umano, non possiamo dire che il suo fallimento non costituisce >> reato solo perché l'errore umano più evidente è della vittima. >> >> L'errore umano principale infatti sta nella progettazione del veicolo. >> >> In particolare nella interfaccia utente destinata al passeggero, che >> appunto, ha smesso di sentirsi autista dell'auto (come evidente dalla >> parte finale del filmato). >> La stessa definizione di "auto a guida autonoma", o "self driving car" >> (o forse persino "intelligenza artificiale") ha causato questo enorme >> (e facilmente evitabile) errore di progettazione. >> >>> Però è evidente che deve nascere una forma nuova di >>> diritto (non ho ancora finito di leggere "the law of robots" del prof. >>> Pollicino). E spero che includa un principio di innocenza fino a prova >>> contraria anche per gli automi! >> Questo temo sia impossibile. >> Non sono MAI gli automi ad essere innocenti o colpevoli: la >> responsabilità va sempre ricondotta alle persone che li hanno messi in >> circolazione. >> >> I principio di innocenza fino a prova contraria, non si applica alle >> cose. >> >> >> Vi e poi un problema pratico: come dimostrare che la macchina ha >> sbagliato (in uno qualsiasi dei suoi componenti) e dunque che la >> responsabilità penale sussiste? >> >> Chi paga il lavoro degli esperti necessari ad analizzare ogni singolo >> componente e ogni riga di codice per verificare l'assenza di errori? >> Infatti, in via precauzionale, dovremmo interrompere la produzione ma >> al contempo non potremmo mettere Uber a verificare il proprio prodotto >> ne persone pagate da Uber. >> >> Avremmo bisogno di esperti indipendenti da queste multinazionali per >> valutare il loro lavoro (e ci potrebbero volere anni). >> >> Nella remota ipotesi che non trovassero errori nel sistema, chi >> facciamo pagare? la famiglia della vittima? lo stato? >> >> >> In realtà comunque gli errori ci sono di sicuro, quanto meno a >> livello software. >> >> Perché chiunque sviluppa software sa che l'errore non è una condizione >> occasionale che capita a persone che per il resto non sbagliano. >> L'errore è condizione normale della operatività umana. E questa è >> particolarmente evidente nel software, per la natura stessa >> dell'artefatto e per la scarsa evoluzione dell'informatica. >> >> >> Dunque, per gli automi, dovremo adottare un principio di colpevolezza >> dei costruttori fino a prova contraria. >> >> >> >> Giacomo >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- Prof.ssa Mariella Berra Dipartimento di Culture, Politica e Società Università di Torino tel.+390116702606

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-22 10:50, Giacomo Tesio wrote: > L'errore umano principale infatti sta nella progettazione del veicolo. > > In particolare nella interfaccia utente destinata al passeggero, che > appunto, ha smesso di sentirsi autista dell'auto (come evidente dalla > parte finale del filmato). secondo me, invece, l'errore umano principale sta proprio nel credere, a monte, che una cosa come "sta FERMO, ma sempre pronto e capace a salvare vite" potrebbe mai funzionare nel mondo reale, con qualsiasi inerfaccia. Ho già spiegato più in dettaglio questa mia perplessità nell'altra risposta che ho appena inviato. Marco -- http://mfioretti.com

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by Stefano Quintarelli

l'uomo che ha la reponsabilità di intervenire non serve da un punto id vista operativo, in realta'. ma solo ad allocare la responsabilita' (in particolare penale). se a qualcuno puo' interessare, questa e' una proposta di legge che ho presentato, https://goo.gl/ZVUVe9 , che ho scritto assieme a Weinberger, che tocca i temi della guida autonoma e della allocazione di responsabilita'. Lungi da essere una opera definitiva, e' una base per una discussione. (ovviamente non aveva alcuna pretesa di passare...) ciao, s. On 22/03/2018 12:02, M. Fioretti wrote: > On 2018-03-22 10:05, Diego Giorio wrote: >> Non so se quel che si legge è vero, perchè in questi giorni si è >> sentito di tutto, ma sembra che in realtà l'autista umano sia stato >> avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. > > sul lato penale non mi pronuncio, ma....quel video mi pare una prova > perfetta di una cosa che ho sempre pensato, cioè un enorme problema > DI BASE nell'intera proposta di "auto che guida da sola, ma col > guidatore che interviene in caso di bisogno". Ovvero, a me una > cosa del genere è da subito parsa come intrinsecamente cretina, > che non poteva funzionare. Dal video pare evidente che il "guidatore" > stesse smanettando sullo smartphone anzichè guardare la strada. > Ma è naturale. > > Per potere effettivamente "intervenire in caso di bisogno" il guidatore > DEVE > > 1) stare costantemente con mani sul volante, piedi sui pedali, > occhi costantemente in giro a controllare... come se guidasse lui, > ma senza MAI muoversi davvero, nè toccare niente. Avete un'idea > di quanto sia palloso, prima ancora che difficile? Fatevi portare > a spasso per mezz'ora nel sedile del guidatore in quelle condizioni. > dopo dieci minuti o cascate addormentati o vi mettete a leggere > o giocare con lo smartphone pure voi. Cioè, perché dovrei pagare > qualcosa che richiede lo stesso identico stress e responsabilità > di quando guido davvero io, solo più difficile e più noioso? > E i colpi di sonno? Quelli già vengono quando uno è DAVVERO al > controllo, quindi costretto a essere sveglio, figurati quando > guida "qualcun altro" > > 2) essere IN GRADO di fare la cosa giusta. O quantomeno di fare > meno danni di quanti ne farebbe il computer di guida se lasciato > a se stesso. Ma se il 90% del tempo l'auto si guida da sola, > perché altrimenti che l'hai pagata a fare, come @#@##%%% fai tu > a essere all'altezza di un'emergenza? Magari prendi il volante > di colpo e sbandi investendo tu altre 3 persone, perché l'ultima > volta che hai guidato davvero tu (la SOLA, in futuro) era a > scuola guida > > Boh. Qui stanno tutti a farsi ginnastiche mentali sul mitico problema > del trolley, ma non di come tenere un umano nel loop lo peggiorerebbe... > se non facesse passare proprio la voglia di starci, in auto a quelle > condizioni. Io davvero non capisco come pensano di riuscire a venderne > più di qualche migliaio ai primi gonzi, di fregature così. > > Marco > >

March 22, 2018

Re: [nexa] Video dell'incidente mortale causato dalla AI di Uber

by M. Fioretti

On 2018-03-22 10:05, Diego Giorio wrote: > Non so se quel che si legge è vero, perchè in questi giorni si è > sentito di tutto, ma sembra che in realtà l'autista umano sia stato > avvisato dai sensori, e nemmeno lui abbia potuto agire in tempo. sul lato penale non mi pronuncio, ma....quel video mi pare una prova perfetta di una cosa che ho sempre pensato, cioè un enorme problema DI BASE nell'intera proposta di "auto che guida da sola, ma col guidatore che interviene in caso di bisogno". Ovvero, a me una cosa del genere è da subito parsa come intrinsecamente cretina, che non poteva funzionare. Dal video pare evidente che il "guidatore" stesse smanettando sullo smartphone anzichè guardare la strada. Ma è naturale. Per potere effettivamente "intervenire in caso di bisogno" il guidatore DEVE 1) stare costantemente con mani sul volante, piedi sui pedali, occhi costantemente in giro a controllare... come se guidasse lui, ma senza MAI muoversi davvero, nè toccare niente. Avete un'idea di quanto sia palloso, prima ancora che difficile? Fatevi portare a spasso per mezz'ora nel sedile del guidatore in quelle condizioni. dopo dieci minuti o cascate addormentati o vi mettete a leggere o giocare con lo smartphone pure voi. Cioè, perché dovrei pagare qualcosa che richiede lo stesso identico stress e responsabilità di quando guido davvero io, solo più difficile e più noioso? E i colpi di sonno? Quelli già vengono quando uno è DAVVERO al controllo, quindi costretto a essere sveglio, figurati quando guida "qualcun altro" 2) essere IN GRADO di fare la cosa giusta. O quantomeno di fare meno danni di quanti ne farebbe il computer di guida se lasciato a se stesso. Ma se il 90% del tempo l'auto si guida da sola, perché altrimenti che l'hai pagata a fare, come @#@##%%% fai tu a essere all'altezza di un'emergenza? Magari prendi il volante di colpo e sbandi investendo tu altre 3 persone, perché l'ultima volta che hai guidato davvero tu (la SOLA, in futuro) era a scuola guida Boh. Qui stanno tutti a farsi ginnastiche mentali sul mitico problema del trolley, ma non di come tenere un umano nel loop lo peggiorerebbe... se non facesse passare proprio la voglia di starci, in auto a quelle condizioni. Io davvero non capisco come pensano di riuscire a venderne più di qualche migliaio ai primi gonzi, di fregature così. Marco -- http://mfioretti.com

March 22, 2018