algoritmi, GDPR, trade secrets e accesso
Se siete interessat* a *algoritmi, GDPR, trade secrets e/o accesso*, mi permetto di segnalarvi questa mia intervista a Diritto Mercato Tecnologia http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono-gl... Il *saggio* cui fa riferimento e' apparso nel nuovo numero di JIPITEC http://www.jipitec.eu/issues/jipitec-9-1-2018/4677 Sul tema discuteranno *Lilian Edwards e Gianclaudio Malgieri* qui alla Northumbria University Lunedi' 4 Giugno all'1 GMT (2 ora italiana), l'evento sara' trasmesso in diretta all'indirizzo https://northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx?id=77af6ce4... -- Guido Dr Guido Noto La Diega Senior Lecturer / European Research Partnerships Coordinator @ Northumbria Law School Director @italiot | Fellow @nexacenter | Co-convenor @NINSOrig | Founder @DPA2018 Northumbria Law School City Campus East, Newcastle upon Tyne NE1 8ST noto.la.diega@gmail.com +44(0)191 349 5562 You can access my papers on Academia.edu <http://northumbria.academia.edu/GuidoNotoLaDiega> and on the Social Science Research Network (SSRN <https://papers.ssrn.com/sol3/cf_dev/AbsByAuth.cfm?per_id=1794950>) This e-mail and any attachment hereto are strictly confidential and are exclusively intended for the person above identified. Without intended recipient’s entitlement, use, copy and dissemination of this e-mail is prohibited. If you have received it in error, please advice us immediately by telephone and return the documents received to the above address, deleting the files. Thank you. Unless necessary, please do not print this e-mail.
Grazie. Ho letto l'articolo e l'ho trovato molto interessante: mi ha fatto venir voglia di leggere anche l'articolo. :-) m.c. In data venerdì 1 giugno 2018 16:32:42 CEST, Guido Noto La Diega ha scritto:
Se siete interessat* a *algoritmi, GDPR, trade secrets e/o accesso*, mi permetto di segnalarvi questa mia intervista a Diritto Mercato Tecnologia http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono-gl i-algoritmi-sostituire-gli-esseri-umani
Il *saggio* cui fa riferimento e' apparso nel nuovo numero di JIPITEC http://www.jipitec.eu/issues/jipitec-9-1-2018/4677
Sul tema discuteranno *Lilian Edwards e Gianclaudio Malgieri* qui alla Northumbria University Lunedi' 4 Giugno all'1 GMT (2 ora italiana), l'evento sara' trasmesso in diretta all'indirizzo https://northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx?id=77af6ce4 -2811-4fee-8b6a-a8f20093263d
Molto interessante. Per il poco che vale la mia opinione, credo che l'argomento di gran lunga più solido sia quello della triplice black-box. Ma mentre l'algoritmo può essere spiegabile o meno, o potrebbe non essere spiegabile solo temporaneamente, in attesa di ideare tecniche di debug più serie, le altre due black-box che "racchiudono" l'algoritmo sono molto più solide ed impenetrabili: i segreti industriali (se tutelati per legge) e l'opacità politica ("organizzativa"? sei troppo diplomatico! :-D). Ti pongo tre obiezioni relative alla tecnocrazia: - se la Politica diventa un mestiere, la democrazia non si riduce comunque ad una tecnocrazia? Un professionista della gestione del consenso non è comunque un tecnico? Un tecnico che non sa "fare" nulla di produttivo, ma sa ottenere voti. (naturalmente non penso a tutti i politici, solo coloro che ne hanno fatto un mestiere). - se le competenze informatiche e fossero diffuse come la lettura e la scrittura, se tutti gli elettori e gli eletti avessero familiarità con la programmazione, un governo di persone in grado di comprendere a fondo queste tecnologie sarebbe comunque una tecnocrazia, se fosse eletto democraticamente? La terza obiezione è più complessa e più concreta. Il problema della interpretazione della legge non vale solo per le macchine: anche i cittadini, spesso, hanno difficoltà a comprendere la legge. L'idea che la legge sia una questione da tecnici specializzati (avvocati, notai, commercialisti...), tuttavia non è poi molto antica. Al contrario, la legge, scritta ed uguale per tutti, non ammette ignoranza perché è comprensibile ai cittadini. Ma lo è? E' comprensibile? E' veramente coerente, nella sua forma, ancor prima che nella sua applicazione? Io scommetto di no. L'esistenza della Corte Costituzionale è conferma della consapevolezza che i Costituenti avevano dei limiti del processo legislativo. E dunque la mia obbiezione (provocatoria) è: siamo sicuri che un algoritmo non possa aiutare il legislatore, piuttosto che sostituire il giudice? In questo caso le reti neurali/scatole nere non servirebbero affatto. "Basterebbe" tradurre in un linguaggio formalmente verificabile il corpus legislativo ed imporre al legislatore la scrittura delle nuove leggi in tale linguaggio (che verrebbe compilato/tradotto in italiano). Avremmo in tal modo una verifica matematica, perfettamente spiegabile, della coerenza di una nuova legge con le precedenti o una istantanea evidenza delle contraddizioni. Niente deep learning o altre alchimie, poco più di quanto fanno i compilatori tutti i giorni per milioni di programmatori. Sarebbe certamente un progetto ambizioso (e costoso) ma dai notevoli benefici. Incrementerebbe la qualità della azione legislativa (vi assicuro che quando un progetto complesso non compila, devi capire perché e risolvere il problema), e ridurrebbe la discrezionalità interpretativa (ma non la azzererebbe). So che sembra fantascienza e me ne scuso... ma in realtà a guardar bene, stiamo comunque parlando di fantascienza! ;-) Giacomo 2018-06-01 17:32 GMT+02:00 Guido Noto La Diega <noto.la.diega@gmail.com>:
Se siete interessat* a *algoritmi, GDPR, trade secrets e/o accesso*, mi permetto di segnalarvi questa mia intervista a Diritto Mercato Tecnologia http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono- gli-algoritmi-sostituire-gli-esseri-umani
Il *saggio* cui fa riferimento e' apparso nel nuovo numero di JIPITEC http://www.jipitec.eu/issues/jipitec-9-1-2018/4677
Sul tema discuteranno *Lilian Edwards e Gianclaudio Malgieri* qui alla Northumbria University Lunedi' 4 Giugno all'1 GMT (2 ora italiana), l'evento sara' trasmesso in diretta all'indirizzo https:// northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx? id=77af6ce4-2811-4fee-8b6a-a8f20093263d
-- Guido
Dr Guido Noto La Diega Senior Lecturer / European Research Partnerships Coordinator @ Northumbria Law School Director @italiot | Fellow @nexacenter | Co-convenor @NINSOrig | Founder @DPA2018
Northumbria Law School City Campus East, Newcastle upon Tyne NE1 8ST
noto.la.diega@gmail.com
+44(0)191 349 5562
You can access my papers on Academia.edu <http://northumbria.academia.edu/GuidoNotoLaDiega> and on the Social Science Research Network (SSRN <https://papers.ssrn.com/sol3/cf_dev/AbsByAuth.cfm?per_id=1794950>)
This e-mail and any attachment hereto are strictly confidential and are exclusively intended for the person above identified. Without intended recipient’s entitlement, use, copy and dissemination of this e-mail is prohibited. If you have received it in error, please advice us immediately by telephone and return the documents received to the above address, deleting the files. Thank you.
Unless necessary, please do not print this e-mail.
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
l'idea che i fatti siano sempre limpidi ed indiscutibili non e' concreta. che poi in alcuni casi e' anche un baco alla radice degli smart contracts. Il conflitto si sposta sull'oracolo (come avviene con gli arbitri) ciao, s. On 02/06/2018 23:20, Giacomo Tesio wrote:
Molto interessante.
Per il poco che vale la mia opinione, credo che l'argomento di gran lunga più solido sia quello della triplice black-box. Ma mentre l'algoritmo può essere spiegabile o meno, o potrebbe non essere spiegabile solo temporaneamente, in attesa di ideare tecniche di debug più serie, le altre due black-box che "racchiudono" l'algoritmo sono molto più solide ed impenetrabili: i segreti industriali (se tutelati per legge) e l'opacità politica ("organizzativa"? sei troppo diplomatico! :-D).
Ti pongo tre obiezioni relative alla tecnocrazia:
* se la Politica diventa un mestiere, la democrazia non si riduce comunque ad una tecnocrazia? Un professionista della gestione del consenso non è comunque un tecnico? Un tecnico che non sa "fare" nulla di produttivo, ma sa ottenere voti. (naturalmente non penso a tutti i politici, solo coloro che ne hanno fatto un mestiere). * se le competenze informatiche e fossero diffuse come la lettura e la scrittura, se tutti gli elettori e gli eletti avessero familiarità con la programmazione, un governo di persone in grado di comprendere a fondo queste tecnologie sarebbe comunque una tecnocrazia, se fosse eletto democraticamente?
La terza obiezione è più complessa e più concreta.
Il problema della interpretazione della legge non vale solo per le macchine: anche i cittadini, spesso, hanno difficoltà a comprendere la legge.
L'idea che la legge sia una questione da tecnici specializzati (avvocati, notai, commercialisti...), tuttavia non è poi molto antica. Al contrario, la legge, scritta ed uguale per tutti, non ammette ignoranza perché è comprensibile ai cittadini.
Ma lo è? E' comprensibile? E' veramente coerente, nella sua forma, ancor prima che nella sua applicazione?
Io scommetto di no. L'esistenza della Corte Costituzionale è conferma della consapevolezza che i Costituenti avevano dei limiti del processo legislativo.
E dunque la mia obbiezione (provocatoria) è: siamo sicuri che un algoritmo non possa aiutare il legislatore, piuttosto che sostituire il giudice?
In questo caso le reti neurali/scatole nere non servirebbero affatto.
"Basterebbe" tradurre in un linguaggio formalmente verificabile il corpus legislativo ed imporre al legislatore la scrittura delle nuove leggi in tale linguaggio (che verrebbe compilato/tradotto in italiano).
Avremmo in tal modo una verifica matematica, perfettamente spiegabile, della coerenza di una nuova legge con le precedenti o una istantanea evidenza delle contraddizioni. Niente deep learning o altre alchimie, poco più di quanto fanno i compilatori tutti i giorni per milioni di programmatori.
Sarebbe certamente un progetto ambizioso (e costoso) ma dai notevoli benefici.
Incrementerebbe la qualità della azione legislativa (vi assicuro che quando un progetto complesso non compila, devi capire perché e risolvere il problema), e ridurrebbe la discrezionalità interpretativa (ma non la azzererebbe).
So che sembra fantascienza e me ne scuso... ma in realtà a guardar bene, stiamo comunque parlando di fantascienza! ;-)
Giacomo
2018-06-01 17:32 GMT+02:00 Guido Noto La Diega <noto.la.diega@gmail.com <mailto:noto.la.diega@gmail.com>>:
Se siete interessat* a *algoritmi, GDPR, trade secrets e/o accesso*, mi permetto di segnalarvi questa mia intervista a Diritto Mercato Tecnologia http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono-gl... <http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono-gl...>
Il *saggio* cui fa riferimento e' apparso nel nuovo numero di JIPITEC http://www.jipitec.eu/issues/jipitec-9-1-2018/4677 <http://www.jipitec.eu/issues/jipitec-9-1-2018/4677>
Sul tema discuteranno *Lilian Edwards e Gianclaudio Malgieri* qui alla Northumbria University Lunedi' 4 Giugno all'1 GMT (2 ora italiana), l'evento sara' trasmesso in diretta all'indirizzo https://northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx?id=77af6ce4... <https://northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx?id=77af6ce4...>
-- Guido
Dr Guido Noto La Diega Senior Lecturer / European Research Partnerships Coordinator @ Northumbria Law School Director @italiot | Fellow @nexacenter | Co-convenor @NINSOrig | Founder @DPA2018
Northumbria Law School City Campus East, Newcastle upon Tyne NE1 8ST
noto.la.diega@gmail.com <mailto:noto.la.diega@gmail.com>
+44(0)191 349 5562
You can access my papers on Academia.edu <http://northumbria.academia.edu/GuidoNotoLaDiega> and on the Social Science Research Network (SSRN <https://papers.ssrn.com/sol3/cf_dev/AbsByAuth.cfm?per_id=1794950>)
This e-mail and any attachment hereto are strictly confidential and are exclusively intended for the person above identified. Without intended recipient’s entitlement, use, copy and dissemination of this e-mail is prohibited. If you have received it in error, please advice us immediately by telephone and return the documents received to the above address, deleting the files. Thank you.
Unless necessary, please do not print this e-mail.
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Il Dom 3 Giu 2018 13:07 Stefano Quintarelli <stefano@quintarelli.it> ha scritto:
l'idea che i fatti siano sempre limpidi ed indiscutibili non e' concreta.
Naturalmente. Infatti scrivevo che un sistema giuridico formalmente verificabile ridurrebbe l'arbitrio interpretativo dei giudici senza annullarlo. Perché, come scriveva Guido, l'empatia ha un ruolo fondamentale. Nell'implementazione più estrema di quanto proponevo, l'interpretazione del giudice consisterebbe nel tradurre il caso in un programma, la cui esecuzione darebbe il risultato del processo. Accusa e difesa, sostanzialmente concorrerebbero alla stesusa di questo programma e alla sua verifica/debug. Vi assicuro che avrebbero comunque un potere ed una importanza notevole, ma vi sarebbero maggiori strumenti di verifica semi automatica del loro operato. E per quanto sia effettivamente fantascienza (o fantapolitica?) stiamo parlando di qualcosa decine di ordini di grandezza più semplice di realizzare una intelligenza artificiale generale. I pezzi li avremmo già, linguaggi come Idris e un po' (tanto tanto tanto) di domain driven design sarebbero sufficiento. La tecnologia insomma esiste. Il costo sarebbe elevato, per la enorme dimensione della giurisprudenza da tradurre (e ancor prima per stabilire un "framework" sufficientemente astratto e flessibile per esprimere la varietà delle leggi che ci siamo dati), ma mentre parliamo di sostituire i giudici con dei programmi bisogna considerare che questi programmi dovranno comunque interpretare le leggi, e fargli leggere tali testi nel linguaggio pensato per gli avvocati (tipicamente umani) aggiungerebbe entropia and una elaborazione che è gia di per sé complessa. Dunque non credo si tratti di un costo evitabile, se non vogliamo giudici artificiali ignoranti delle leggi. Tuttavia dubito che i politici accetterebbero mai di sottostare alla logica in un modo così stringente, se hanno già problemi a gestire gli accordi internazionali che sottoscrivono. Per questo se anche una tecnologia del genere fosse auspicabile, dubito che verrà mai realizzata. Giacomo
che poi in alcuni casi e' anche un baco alla radice degli smart contracts. Il conflitto si sposta sull'oracolo (come avviene con gli arbitri)
ciao, s.
On 02/06/2018 23:20, Giacomo Tesio wrote:
Molto interessante.
Per il poco che vale la mia opinione, credo che l'argomento di gran lunga più solido sia quello della triplice black-box. Ma mentre l'algoritmo può essere spiegabile o meno, o potrebbe non essere spiegabile solo temporaneamente, in attesa di ideare tecniche di debug più serie, le altre due black-box che "racchiudono" l'algoritmo sono molto più solide ed impenetrabili: i segreti industriali (se tutelati per legge) e l'opacità politica ("organizzativa"? sei troppo diplomatico! :-D).
Ti pongo tre obiezioni relative alla tecnocrazia:
* se la Politica diventa un mestiere, la democrazia non si riduce comunque ad una tecnocrazia? Un professionista della gestione del consenso non è comunque un tecnico? Un tecnico che non sa "fare" nulla di produttivo, ma sa ottenere voti. (naturalmente non penso a tutti i politici, solo coloro che ne hanno fatto un mestiere). * se le competenze informatiche e fossero diffuse come la lettura e la scrittura, se tutti gli elettori e gli eletti avessero familiarità con la programmazione, un governo di persone in grado di comprendere a fondo queste tecnologie sarebbe comunque una tecnocrazia, se fosse eletto democraticamente?
La terza obiezione è più complessa e più concreta.
Il problema della interpretazione della legge non vale solo per le macchine: anche i cittadini, spesso, hanno difficoltà a comprendere la legge.
L'idea che la legge sia una questione da tecnici specializzati (avvocati, notai, commercialisti...), tuttavia non è poi molto antica. Al contrario, la legge, scritta ed uguale per tutti, non ammette ignoranza perché è comprensibile ai cittadini.
Ma lo è? E' comprensibile? E' veramente coerente, nella sua forma, ancor prima che nella sua applicazione?
Io scommetto di no. L'esistenza della Corte Costituzionale è conferma della consapevolezza che i Costituenti avevano dei limiti del processo legislativo.
E dunque la mia obbiezione (provocatoria) è: siamo sicuri che un algoritmo non possa aiutare il legislatore, piuttosto che sostituire il giudice?
In questo caso le reti neurali/scatole nere non servirebbero affatto.
"Basterebbe" tradurre in un linguaggio formalmente verificabile il corpus legislativo ed imporre al legislatore la scrittura delle nuove leggi in tale linguaggio (che verrebbe compilato/tradotto in italiano).
Avremmo in tal modo una verifica matematica, perfettamente spiegabile, della coerenza di una nuova legge con le precedenti o una istantanea evidenza delle contraddizioni. Niente deep learning o altre alchimie, poco più di quanto fanno i compilatori tutti i giorni per milioni di programmatori.
Sarebbe certamente un progetto ambizioso (e costoso) ma dai notevoli benefici.
Incrementerebbe la qualità della azione legislativa (vi assicuro che quando un progetto complesso non compila, devi capire perché e risolvere il problema), e ridurrebbe la discrezionalità interpretativa (ma non la azzererebbe).
So che sembra fantascienza e me ne scuso... ma in realtà a guardar bene, stiamo comunque parlando di fantascienza! ;-)
Giacomo
2018-06-01 17:32 GMT+02:00 Guido Noto La Diega <noto.la.diega@gmail.com <mailto:noto.la.diega@gmail.com>>:
Se siete interessat* a *algoritmi, GDPR, trade secrets e/o accesso*, mi permetto di segnalarvi questa mia intervista a Diritto Mercato Tecnologia
http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono-gl...
<
http://www.dimt.it/index.php/it/notizie/16903-guido-noto-la-diega-possono-gl...
Il *saggio* cui fa riferimento e' apparso nel nuovo numero di JIPITEC http://www.jipitec.eu/issues/jipitec-9-1-2018/4677 <http://www.jipitec.eu/issues/jipitec-9-1-2018/4677>
Sul tema discuteranno *Lilian Edwards e Gianclaudio Malgieri* qui alla Northumbria University Lunedi' 4 Giugno all'1 GMT (2 ora italiana), l'evento sara' trasmesso in diretta all'indirizzo
https://northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx?id=77af6ce4...
<
https://northumbria.hosted.panopto.com/Panopto/Pages/Viewer.aspx?id=77af6ce4...
-- Guido
Dr Guido Noto La Diega Senior Lecturer / European Research Partnerships Coordinator @ Northumbria Law School Director @italiot | Fellow @nexacenter | Co-convenor @NINSOrig | Founder @DPA2018
Northumbria Law School City Campus East, Newcastle upon Tyne NE1 8ST
noto.la.diega@gmail.com <mailto:noto.la.diega@gmail.com>
+44(0)191 349 5562
You can access my papers on Academia.edu <http://northumbria.academia.edu/GuidoNotoLaDiega> and on the Social Science Research Network (SSRN <https://papers.ssrn.com/sol3/cf_dev/AbsByAuth.cfm?per_id=1794950>)
This e-mail and any attachment hereto are strictly confidential and are exclusively intended for the person above identified. Without intended recipient’s entitlement, use, copy and dissemination of this e-mail is prohibited. If you have received it in error, please advice us immediately by telephone and return the documents received to the above address, deleting the files. Thank you.
Unless necessary, please do not print this e-mail.
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
participants (4)
-
Giacomo Tesio -
Guido Noto La Diega -
Marco Ciurcina -
Stefano Quintarelli