On 21 Feb 2020, at 11:20, nexa-request@server-nexa.polito.it wrote:

From: Alberto Cammozzo <ac+nexa@zeromx.net>
To: Stefano Quintarelli <stefano@quintarelli.it>, Center Nexa
<nexa@server-nexa.polito.it>
Subject: Re: [nexa] Washington Passes Government Facial Recognition
Rules


On 21/02/2020 10:41, Stefano Quintarelli wrote:
interessante
sta imponendo limiti anche ai privati.

il problema con la persona che puo' cambiare decisione e' che non lo
fara' perche' i suoi incentivi sono a confermare la predizione del
sistema, anche se non e' d’accordo.
Questo avviene già adesso con i protocolli medici.
I medici si attengono strettamente ai protocolli, anche se li ritengono on adatti al caso, in quanto se venissero contestati, possono sempre ricorrere all'argomento di aver seguito il protocollo, quindi esimendosi dalla propria responsabilità.

sono sempre piu' convinto che servira' qualche forma di prediction
poisoning
https://5ta.it/cm/d5f6

Interessante la parte sugli incentivi e sono d'accordo: l'asimmetria
informativa genera selezione avversa (Akerlof, George A., 1970,. "The
Market for 'Lemons': Quality Uncertainty and the Market Mechanism".
/Quarterly Journal of Economics/. The MIT Press. *84*)

Sul poisoning sono perplesso: può funzionare, ma chi si prende la
responsabilità del poisoning, cioè di aver deliberatamente fatto
sbagliare la macchina per rendere l'umano attento?

Non mi è chiaro quale sia il beneficio del poisoning.
Alla fine ci si riduce sempre ad un unica alternativa, se le opinioni della macchina e quella del dottore siano discordanti o meno.
Il fatto che venga scambiato il segno di alcune delle decisioni della macchina, non cambia nulla, se non l’effetto psicologico di un dottore che tendesse a dare ragione alla macchina.
Ma questo si risolve, non facendo vedere la decisione della macchina al dottore prima che lui decida.

— Beppe


Imho, per via dell'automation paradox, "human-over-the-loop" non può
funzionare. O è dentro o è fuori.
Se è dentro decide, se è fuori non serve.
Se decide, i motivi per la decisione devono essere interni all'umano
perchè possa risponderne, con dispositivi di supporto alla decisione
esterni, al caso, del cui output risponde chi li produce.

ciao,
A.

ciao, s.