Molto interessante. Per il poco che vale la mia opinione, credo che l'argomento di gran lunga più solido sia quello della triplice black-box. Ma mentre l'algoritmo può essere spiegabile o meno, o potrebbe non essere spiegabile solo temporaneamente, in attesa di ideare tecniche di debug più serie, le altre due black-box che "racchiudono" l'algoritmo sono molto più solide ed impenetrabili: i segreti industriali (se tutelati per legge) e l'opacità politica ("organizzativa"? sei troppo diplomatico! :-D). Ti pongo tre obiezioni relative alla tecnocrazia: - se la Politica diventa un mestiere, la democrazia non si riduce comunque ad una tecnocrazia? Un professionista della gestione del consenso non è comunque un tecnico? Un tecnico che non sa "fare" nulla di produttivo, ma sa ottenere voti. (naturalmente non penso a tutti i politici, solo coloro che ne hanno fatto un mestiere). - se le competenze informatiche e fossero diffuse come la lettura e la scrittura, se tutti gli elettori e gli eletti avessero familiarità con la programmazione, un governo di persone in grado di comprendere a fondo queste tecnologie sarebbe comunque una tecnocrazia, se fosse eletto democraticamente? La terza obiezione è più complessa e più concreta. Il problema della interpretazione della legge non vale solo per le macchine: anche i cittadini, spesso, hanno difficoltà a comprendere la legge. L'idea che la legge sia una questione da tecnici specializzati (avvocati, notai, commercialisti...), tuttavia non è poi molto antica. Al contrario, la legge, scritta ed uguale per tutti, non ammette ignoranza perché è comprensibile ai cittadini. Ma lo è? E' comprensibile? E' veramente coerente, nella sua forma, ancor prima che nella sua applicazione? Io scommetto di no. L'esistenza della Corte Costituzionale è conferma della consapevolezza che i Costituenti avevano dei limiti del processo legislativo. E dunque la mia obbiezione (provocatoria) è: siamo sicuri che un algoritmo non possa aiutare il legislatore, piuttosto che sostituire il giudice? In questo caso le reti neurali/scatole nere non servirebbero affatto. "Basterebbe" tradurre in un linguaggio formalmente verificabile il corpus legislativo ed imporre al legislatore la scrittura delle nuove leggi in tale linguaggio (che verrebbe compilato/tradotto in italiano). Avremmo in tal modo una verifica matematica, perfettamente spiegabile, della coerenza di una nuova legge con le precedenti o una istantanea evidenza delle contraddizioni. Niente deep learning o altre alchimie, poco più di quanto fanno i compilatori tutti i giorni per milioni di programmatori. Sarebbe certamente un progetto ambizioso (e costoso) ma dai notevoli benefici. Incrementerebbe la qualità della azione legislativa (vi assicuro che quando un progetto complesso non compila, devi capire perché e risolvere il problema), e ridurrebbe la discrezionalità interpretativa (ma non la azzererebbe). So che sembra fantascienza e me ne scuso... ma in realtà a guardar bene, stiamo comunque parlando di fantascienza! ;-) Giacomo 2018-06-01 17:32 GMT+02:00 Guido Noto La Diega <noto.la.diega@gmail.com>:
Se siete interessat* a *algoritmi, GDPR, trade secrets e/o accesso*, mi permetto di segnalarvi questa mia intervista a Diritto Mercato Tecnologia http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono- gli-algoritmi-sostituire-gli-esseri-umani
Il *saggio* cui fa riferimento e' apparso nel nuovo numero di JIPITEC http://www.jipitec.eu/issues/jipitec-9-1-2018/4677
Sul tema discuteranno *Lilian Edwards e Gianclaudio Malgieri* qui alla Northumbria University Lunedi' 4 Giugno all'1 GMT (2 ora italiana), l'evento sara' trasmesso in diretta all'indirizzo https:// northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx? id=77af6ce4-2811-4fee-8b6a-a8f20093263d
-- Guido
Dr Guido Noto La Diega Senior Lecturer / European Research Partnerships Coordinator @ Northumbria Law School Director @italiot | Fellow @nexacenter | Co-convenor @NINSOrig | Founder @DPA2018
Northumbria Law School City Campus East, Newcastle upon Tyne NE1 8ST
noto.la.diega@gmail.com
+44(0)191 349 5562
You can access my papers on Academia.edu <http://northumbria.academia.edu/GuidoNotoLaDiega> and on the Social Science Research Network (SSRN <https://papers.ssrn.com/sol3/cf_dev/AbsByAuth.cfm?per_id=1794950>)
This e-mail and any attachment hereto are strictly confidential and are exclusively intended for the person above identified. Without intended recipient’s entitlement, use, copy and dissemination of this e-mail is prohibited. If you have received it in error, please advice us immediately by telephone and return the documents received to the above address, deleting the files. Thank you.
Unless necessary, please do not print this e-mail.
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa