Il giorno 23 marzo 2018 17:55, Stefano Quintarelli <stefano@quintarelli.it> ha scritto:
On 23/03/2018 11:01, Giacomo Tesio wrote:
A fronte di tale assenza, bisogna stabilire *a priori* chi risponde penalmente delle morti causate dagli inevitabili (per quanto rari) incidenti.
questo e' un punto chiave. il passare da ex post ad ex ante implica una definizione di categorie, difficili da immaginare esaustivamente, ed un processo di categorizzazione per ciascuna di esse, che e' difficile non abbia margini di incertezza.
Ma... lo sai o lo pensi? :-D Comunque no, se spazzi via tutto il fumo negli occhi e la propaganda la questione diventa estremamente semplice. Qualcuno realizza un artefatto. Quell'artefatto causa una morte. Quel qualcuno risponde di omicidio colposo. Tutto qui. Per "a priori" io intendevo semplicemente che deve essere chiaro che funziona così, *prima* di immettere nell'ambiente queste applicazioni robotiche. Ci deve essere sempre almeno una persona responsabile penalmente in caso di errori fatali di queste applicazioni. E se l'artefatto in questione è un software, possiamo ragionevolmente assumere la colpevolezza di chi ne ha assunto la responsabilità, perché i software senza bug non sono rari, sono fantasia.
i benefici attesi sono per l'insieme, per il totale delle flotte, le valutazioni di correttezza sono su singoli veicoli/situazioni. difficile uscirne. "muoiono meno persone in totale" - "ok, ma questa" ?
lo schema descritto nella proposta di legge (che e' una base di discussione) che abbiamo preparato con weinberger ha proprio questo tweak: dice "alcuni singoli casi possono essere non decidibili; valutiamo allora l'insieme complessivo rispetto ai dati di targa".
in tale modo, in buona misura, si riporta una valutazione anche nel campo ex post.
Senza offesa, leggendo la proposta mi pare evidente che *Weinberger ti ha proprio messo nel sacco*, approfittando della tua scarsa preparazione in materia. Cosa che purtroppo accade troppo spesso. E che trovo veramente disgustosa e disonesta, ma purtroppo viene considerata normale da certi "imprenditori". Sappi che sfruttare l'ignoranza altrui a proprio vantaggio è l'azione più terribile che una persona possa compiere secondo l'etica hacker. Molte delle premesse esplicite alla tua proposta di legge, sono semplicemente false. Inoltre alcuni ragionamenti sono basati su assunzioni implicite di cui forse non eri consapevole mentre la scrivevi, ma che se esplicitati appaiono non solo false ma ridicole. Se io ti dicessi che voglio immettere sul mercato una nuova sostanza chimica, chiamiamola NZT, che rende più intelligenti la maggioranza delle persone ma ne uccide altre. E se ti dicessi che non so esattamente come funziona, e non posso dire esattamente chi ucciderà. E se ti dicessi che non posso escludere che non uccida proprio tutte le persone che si chiamano Stefano. E se ti dicessi che non sono nemmeno capace di ricrearla sempre uguale, che la sua composizione è "probabilistica"... Tu mi risponderesti: MA SEI SCEMO? Sai perché non me lo dici se ti propongo un software che promette di fare esattamente la stessa cosa? Semplicemente perché la chimica ha almeno 3 secoli, l'informatica no. Per questo ho apprezzato *moltissimo* la tua proposta di un ministero dell'innovazione tecnologica: perché i politici hanno davvero bisogno di qualcuno che gli dica con franchezza "No guarda, stai dicendo cazzate". Il problema STRAORDINARIAMENTE COMPLESSO è selezionare tecnici *indipendenti* dalle multinazionali, *onesti* e *competenti*. Evidentemente David Weinberger non è adatto a ricoprire tale incarico. E francamente sei stato piuttosto ingenuo a farti intortare. Oggi parlavo con un amico statunitense del link che Alberto Camozzo ha condiviso sulla storia del jaywalking e lui mi ha proposto questo video https://www.youtube.com/watch?v=vxopfjXkArM La parola chiave è "propaganda", ma la chiusura è profetica: "the streets belong to the machines now". Ti cito le sue parole: Most people’s beliefs have been permanently shaped by that propaganda.
Questo è esattamente quello che sta succedendo ora. E quello che è successo a te. Analizzare nel dettaglio la tua proposta di legge, per evidenziarne uno per uno i problemi, richiederebbe molto spazio. Se ti fa piacere sono disponibilissimo a farlo. Ti chiederei però di avviare un altro thread, perché in questo risulterebbe offtopic. Sappi che non sarò breve, perché fra premesse esplicite e assunzioni implicite, di problemi ne ho visti moltissimi sin dalle prime righe. In alternativa, ti propongo queste letture su cui riflettere e su cui se vuoi possiamo discutere: https://medium.com/@giacomo_59737/the-delusions-of-neural-networks-f7085d47e... http://shamar.github.io/documents/2018_Milano_The-Delusions-of-Neural-Networ... https://medium.com/@giacomo_59737/yet-another-definition-of-intelligence-9bb... Giacomo