Ethics washing made in Europe On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing. Thomas Metzinger /Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./ /Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together? [...] continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur...
ciao, nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive. inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che 1.- nel gruppo sono rappresentate voci multistakholder 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata 5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should") 7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui) 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese ciao, s. On 10/04/2019 15:01, J.C. DE MARTIN wrote:
Ethics washing made in Europe
On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing.
Thomas Metzinger
/Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./
/Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./
It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together?
[...]
continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur...
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- reserve your meeting with me at http://cal.quintarelli.it
Grazie, Stefano, molto utile! jc On 10/04/2019 15:16, Stefano Quintarelli wrote:
ciao,
nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive.
inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che
1.- nel gruppo sono rappresentate voci multistakholder
2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo
3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI"
4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata
5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione
6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should")
7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui)
8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui)
9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese
ciao, s.
On 10/04/2019 15:01, J.C. DE MARTIN wrote:
Ethics washing made in Europe
On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing.
Thomas Metzinger
/Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./
/Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./
It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together?
[...]
continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur...
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri. il pulpito e' quello. il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire). non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome. ciao, s. On 10/04/2019 15:20, J.C. DE MARTIN wrote:
Grazie, Stefano, molto utile!
jc
On 10/04/2019 15:16, Stefano Quintarelli wrote:
ciao,
nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive.
inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che
1.- nel gruppo sono rappresentate voci multistakholder
2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo
3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI"
4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata
5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione
6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should")
7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui)
8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui)
9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese
ciao, s.
On 10/04/2019 15:01, J.C. DE MARTIN wrote:
Ethics washing made in Europe
On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing.
Thomas Metzinger
/Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./
/Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./
It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together?
[...]
continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur...
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- reserve your meeting with me at http://cal.quintarelli.it
Grazie Stefano la tua testimonianza "oculare" è preziosa. Anche a me il firmare un documento cui si sta contribuendo, senza verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come una stonatura ed una ricerca di visibilità. Anche se posso capire che qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è quello che avrei fatto io, comunque. Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è effettivamente successo nel corso dei lavori del gruppo. Grazie mille, Enrico Il 10/04/2019 17:40, Stefano Quintarelli ha scritto:
la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri.
il pulpito e' quello.
il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire).
non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome.
ciao, s.
On 10/04/2019 15:20, J.C. DE MARTIN wrote:
Grazie, Stefano, molto utile!
jc
On 10/04/2019 15:16, Stefano Quintarelli wrote:
ciao,
nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive.
inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che
1.- nel gruppo sono rappresentate voci multistakholder
2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo
3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI"
4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata
5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione
6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should")
7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui)
8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui)
9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese
ciao, s.
On 10/04/2019 15:01, J.C. DE MARTIN wrote:
Ethics washing made in Europe
On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing.
Thomas Metzinger
/Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./
/Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./
It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together?
[...]
continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur...
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --
A mia malattia, non è stato registrato alcun dissenso su quelle due frasi che sono state scelte (con consenso) tra diverse opzioni (anche altre) che sono state ipotizzate Quando sei in 50, uno propone una parola, un altro dice un'altra ed alla fine si considera su una parola. In un caso il tema diviene delicato e si passa molto tempo a discutere, come quando abbiamo passato due ore per modificare una frase, proponendo aggiunte, cancellazioni, modifiche, ed alla fine cambiare "must" in "should" A mia memoria la discussione sulle frasi citate è durata pochi minuti Ciao, s. In data 10 aprile 2019 8:08:30 PM Enrico Nardelli <nardelli@mat.uniroma2.it> ha scritto: Grazie Stefano la tua testimonianza "oculare" è preziosa. Anche a me il firmare un documento cui si sta contribuendo, senza verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come una stonatura ed una ricerca di visibilità. Anche se posso capire che qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è quello che avrei fatto io, comunque. Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è effettivamente successo nel corso dei lavori del gruppo. Grazie mille, Enrico Il 10/04/2019 17:40, Stefano Quintarelli ha scritto: la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri. il pulpito e' quello. il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire). non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome. ciao, s. On 10/04/2019 15:20, J.C. DE MARTIN wrote: Grazie, Stefano, molto utile! jc On 10/04/2019 15:16, Stefano Quintarelli wrote: ciao, nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive. inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che 1.- nel gruppo sono rappresentate voci multistakholder 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata 5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should") 7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui) 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese ciao, s. On 10/04/2019 15:01, J.C. DE MARTIN wrote: Ethics washing made in Europe On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing. Thomas Metzinger /Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./ /Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together? [...] continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur... _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --
Grazie di nuovo, Stefano. Ciao, Enrico Il 10/04/2019 20:24, Stefano Quintarelli ha scritto:
A mia malattia, non è stato registrato alcun dissenso su quelle due frasi che sono state scelte (con consenso) tra diverse opzioni (anche altre) che sono state ipotizzate
Quando sei in 50, uno propone una parola, un altro dice un'altra ed alla fine si considera su una parola.
In un caso il tema diviene delicato e si passa molto tempo a discutere, come quando abbiamo passato due ore per modificare una frase, proponendo aggiunte, cancellazioni, modifiche, ed alla fine cambiare "must" in "should"
A mia memoria la discussione sulle frasi citate è durata pochi minuti
Ciao, s.
In data 10 aprile 2019 8:08:30 PM Enrico Nardelli <nardelli@mat.uniroma2.it> ha scritto:
Grazie Stefano
la tua testimonianza "oculare" è preziosa.
Anche a me il firmare un documento cui si sta contribuendo, senza verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come una stonatura ed una ricerca di visibilità. Anche se posso capire che qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è quello che avrei fatto io, comunque.
Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è effettivamente successo nel corso dei lavori del gruppo.
Grazie mille, Enrico
Il 10/04/2019 17:40, Stefano Quintarelli ha scritto: la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri.
il pulpito e' quello.
il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire).
non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome.
ciao, s.
On 10/04/2019 15:20, J.C. DE MARTIN wrote: Grazie, Stefano, molto utile!
jc
On 10/04/2019 15:16, Stefano Quintarelli wrote: ciao,
nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive.
inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che
1.- nel gruppo sono rappresentate voci multistakholder
2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo
3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI"
4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata
5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione
6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should")
7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui)
8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui)
9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese
ciao, s.
On 10/04/2019 15:01, J.C. DE MARTIN wrote:
Ethics washing made in Europe
On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing.
Thomas Metzinger
/Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./
/Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./
It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together?
[...]
continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur...
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- EN
===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --
-- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --
Non malattia, memoria... Maledetto correttore In data 10 aprile 2019 10:53:22 PM Enrico Nardelli <nardelli@mat.uniroma2.it> ha scritto:
Grazie di nuovo, Stefano. Ciao, Enrico
Il 10/04/2019 20:24, Stefano Quintarelli ha scritto:
A mia malattia, non è stato registrato alcun dissenso su quelle due frasi che sono state scelte (con consenso) tra diverse opzioni (anche altre) che sono state ipotizzate
Quando sei in 50, uno propone una parola, un altro dice un'altra ed alla fine si considera su una parola.
In un caso il tema diviene delicato e si passa molto tempo a discutere, come quando abbiamo passato due ore per modificare una frase, proponendo aggiunte, cancellazioni, modifiche, ed alla fine cambiare "must" in "should"
A mia memoria la discussione sulle frasi citate è durata pochi minuti
Ciao, s.
In data 10 aprile 2019 8:08:30 PM Enrico Nardelli <nardelli@mat.uniroma2.it> ha scritto:
Grazie Stefano
la tua testimonianza "oculare" è preziosa.
Anche a me il firmare un documento cui si sta contribuendo, senza verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come una stonatura ed una ricerca di visibilità. Anche se posso capire che qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è quello che avrei fatto io, comunque.
Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è effettivamente successo nel corso dei lavori del gruppo.
Grazie mille, Enrico
Il 10/04/2019 17:40, Stefano Quintarelli ha scritto: la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri.
il pulpito e' quello.
il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire).
non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome.
ciao, s.
On 10/04/2019 15:20, J.C. DE MARTIN wrote: Grazie, Stefano, molto utile!
jc
On 10/04/2019 15:16, Stefano Quintarelli wrote: ciao,
nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive.
inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che
1.- nel gruppo sono rappresentate voci multistakholder
2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo
3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI"
4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata
5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione
6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should")
7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui)
8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui)
9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese
ciao, s.
On 10/04/2019 15:01, J.C. DE MARTIN wrote:
Ethics washing made in Europe
On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing.
Thomas Metzinger
/Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./
/Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./
It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together?
[...]
continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eur...
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- EN
===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --
-- EN
===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --
On 10/04/2019, Stefano Quintarelli <stefano@quintarelli.it> wrote:
ciao,
nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive.
In effetti sorvola su una frase a pagina 3 delle linee guida che secondo me invece va sottolineata:
This document is a starting point for the discussion about “Trustworthy AI for Europe”.
Come punto di partenza per una riflessione internazionale mi sembra ottimo. Ma se questo documento è definitivo o in qualche modo "authoritative", allora (nel merito) Metzinger pone obbiezioni importanti su cui è bene riflettere. A pagina 12 in "The principle of respect for human autonomy" viene detto:
AI systems should not unjustifiably subordinate, coerce, deceive, manipulate, condition or herd humans.
Chi decide quando manipolare o condizionare gli esseri umani è giustificabile? A pagina 13 in "The principle of explicability"
Explicability is crucial for building and maintaining users’ trust in AI systems. This means that processes need to be transparent, the capabilities and purpose of AI systems openly communicated, and decisions – to the extent possible – explainable
Perché "to the extent possible"? Quando non è possibile spiegarle, il principio suddetto è stato semplicemente violato... o sbaglio? Sulla responsabilità (largamente estesa dopo il draft) la frase fondamentale è un po' sommersa dal testo a fine pagina 19, ma almeno è chiara:
It necessitates that mechanisms be put in place to ensure responsibility and accountability for AI systems and their outcomes, both before and after their development, deployment and use.
La responsabilità umana DEVE essere sempre riconoscibile e attribuibile. Su questo Metzinger ha assolutamente ragione:
Machines are not trustworthy; only humans can be trustworthy (or untrustworthy).
E la preoccupazione che esprime è la stessa che ho avuto io subito dopo l'uscita del draft:
The Trustworthy AI story is a marketing narrative invented by industry, a bedtime story for tomorrow's customers. [...] Hence the Trustworthy AI narrative is, in reality, about developing future markets and using ethics debates as elegant public decorations for a large-scale investment strategy.
La vaghezza del testo può essere interpretata come un umile riconoscimento dei propri limiti. Ma se si pone come termine del discorso, come framework etico cui è sufficiente adattare le norme, allora posso condividere la preoccupazione di Metzinger. Ha infatti ragione su un punto: l'assenza di PRINCIPI NON NEGOZIABILI è una grave lacuna del testo, ragionevole solo se finalizzata ampliare il dibattito per la loro definizione. Cosa ne pensi? Giacomo
participants (4)
-
Enrico Nardelli -
Giacomo Tesio -
J.C. DE MARTIN -
Stefano Quintarelli