Ciao Anna, lettura interessante.
Vi trovo alcune serie criticità.
And in some places, discussion on the ethics of AI were starting to take
a well-known turn — that AI ethics should be culturally dependent. This
opens the door for differing standards and different levels of
protection for people’s rights — and in the context of a digital
technology like AI that doesn’t care about borders — makes little sense.
Personalmente, anche se fosse possibile, non credo che configurare simulatori interattivi (impropriamente chiamati AI) in modo che appaiano conformi ad una etica sia una buona idea.
Quale etica? Perché simulare sistematicamente un'etica in agenti interattivi (in particolare agenti che vengono definiti intelligenti) è il modo migliore per imporre tale etica.
Le persone tendono naturalmente a conformarsi alle comunità con cui interagiscono.
Non sono i simulatori dover essere etici, ma coloro che le costruiscono, le distribuiscono, le autorizzano e le utilizzano.
Trovo poi piuttosto vago e blando il discorso sulla trasparenza e sulle responsabilità.
E' semplice:
- ci deve sempre essere un umano responsabile, civilmente e penalmente, quando una macchina sbaglia
- deve sempre essere possibile spiegare nella sua interezza ed in dettaglio il calcolo operato su dati di origine umana
Riserviamo le tecniche che non consentono la salvaguardia di questi principi a contesti non umani, come l'ottimizzazione della vendemmia, la metereologia, la nutrizione animale etc...
Dovremmo poi rimuovere la fantascienza utopica e distopica dal discorso.
Il problema non sono i simulatori, ma le persone.
La domanda che chi regola si deve fare è: se dietro il programma ci fosse un umano, cosa sarebbe lecito?
Perché ciò che permetti alla macchina, lo permetti agli umani che se la possono controllare.
Giacomo