universal guidelines for artificial intelligence
"We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights..." https://thepublicvoice.org/ai-universal-guidelines/ https://thepublicvoice.org/ai-universal-guidelines/memo/ -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --
In data martedì 6 novembre 2018 16:56:24 CET, Enrico Nardelli ha scritto:
"We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights..."
https://thepublicvoice.org/ai-universal-guidelines/ Più di tutto, mi incuriosisce il punto 11: *Prohibition on Unitary Scoring. *No national government shall establish or maintain a general-purpose score on its citizens or residents. Perchè solo "national government" e "general purpose"? Se c'è un elenco di "purposes" determinati va bene? Se lo fa un'institution che non è un "national government" va bene? m.c.
https://thepublicvoice.org/ai-universal-guidelines/memo/
-- EN
======================================================= ==============
Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/
======================================================= ==============
Saresti un bravo programmatore. Giacomo Il giorno Mar 6 Nov 2018 22:05 Marco Ciurcina <ciurcina@studiolegale.it> ha scritto:
In data martedì 6 novembre 2018 16:56:24 CET, Enrico Nardelli ha scritto:
"We propose these Universal Guidelines to inform and improve the design and
use of AI. The Guidelines are intended to maximize the benefits of AI, to
minimize the risk, and to ensure the protection of human rights..."
Più di tutto, mi incuriosisce il punto 11:
Prohibition on Unitary Scoring. No national government shall establish or maintain a general-purpose score on its citizens or residents.
Perchè solo "national government" e "general purpose"?
Se c'è un elenco di "purposes" determinati va bene?
Se lo fa un'institution che non è un "national government" va bene?
m.c.
-- EN
=====================================================================
Prof. Enrico Nardelli
Dipartimento di Matematica - Universita' di Roma "Tor Vergata"
Via della Ricerca Scientifica snc - 00133 Roma
tel: +39 06 7259.4204 fax: +39 06 7259.4699
mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it
home page: http://www.mat.uniroma2.it/~nardelli
=====================================================================
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
On 2018-11-06 16:56, Enrico Nardelli wrote:
"We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights..."
https://thepublicvoice.org/ai-universal-guidelines/ https://thepublicvoice.org/ai-universal-guidelines/memo/
sapete cosa? A una prima, veloce e incompleta lettura, queste linee guida mi sembrano più inutili o controproducenti che altro, come un altro spreco di tempo ed energie correndo dietro alla specifica tecnologia invece che ai principi che contano. Esempio: "Right to Transparency. All individuals have the right to know the basis of an AI decision that concerns them." a che serve un pezzo di carta **separato** che dica specificamente "an AI"? Se togli quelle due parole rimane tutto il diritto alla trasparenza che conta, ANCHE vs AI, ma in un formato valido per tutti i casi. Idem per i punti 3 e 4. Rimpiazza "AI system" con "procedure" o qualcosa del genere, e ottieni la stessa identica linea guida, ma valida per AI e *qualunque* altro "sistema", umano, analogico, digitale, astrologico, fate voi. Boh. Spero di sbagliarmi. Marco -- http://mfioretti.com
Personalmente trovo questo testo abbastanza condivisibile. Se applicato in modo stringente, risulta molto migliore dei principi proposti da Google: https://ai.google/principles/ Ma credo tu abbia ragione sul punto di fondo: non tanto sulla "specifica tecnologia" (nel memo a https://thepublicvoice.org/ai-universal-guidelines/memo/ viene chiarito che si usa il termine AI in modo esteso per inglobare qualsiasi sistema che "requires some degree of automated decision-making."), ma sul fatto che manca ancora (o forse non viene chiarito a sufficienza) un principio fondamentale. La responsabilità di una persona (fisica o giuridica) o di un gruppo non viene modificata dalla introduzione di un software che opera autonomamente in sua/loro vece. Se Uber fa guidare ad un simulatore un camion, rimane civilmente responsabile per i danni che questo può causare, mentre i membri del consiglio di amministrazione ne rispondono penalmente. Un'altra perplessità è l'assenza di alcun riferimento al "paradosso dell'automazione". I punti 2 (Right to Human Determination) e 11 (Termination Obligation) possono essere vanificati nei fatti dall'abitudine. Detto questo, mi fa piacere vedere un po' di "buon senso informatico" venire da Brussels. Giacomo Il giorno mer 7 nov 2018 alle ore 09:03 M. Fioretti <mfioretti@nexaima.net> ha scritto:
On 2018-11-06 16:56, Enrico Nardelli wrote:
"We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights..."
https://thepublicvoice.org/ai-universal-guidelines/ https://thepublicvoice.org/ai-universal-guidelines/memo/
sapete cosa? A una prima, veloce e incompleta lettura, queste linee guida mi sembrano più inutili o controproducenti che altro, come un altro spreco di tempo ed energie correndo dietro alla specifica tecnologia invece che ai principi che contano.
Esempio:
"Right to Transparency. All individuals have the right to know the basis of an AI decision that concerns them."
a che serve un pezzo di carta **separato** che dica specificamente "an AI"? Se togli quelle due parole rimane tutto il diritto alla trasparenza che conta, ANCHE vs AI, ma in un formato valido per tutti i casi.
Idem per i punti 3 e 4. Rimpiazza "AI system" con "procedure" o qualcosa del genere, e ottieni la stessa identica linea guida, ma valida per AI e *qualunque* altro "sistema", umano, analogico, digitale, astrologico, fate voi.
Boh. Spero di sbagliarmi.
Marco
-- http://mfioretti.com _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
participants (4)
-
Enrico Nardelli -
Giacomo Tesio -
M. Fioretti -
Marco Ciurcina