Certo, ormai il ML viene applicato indiscriminatamente in qualsiasi ambito con quasi nessuna competenza delle discipline e soprattutto con nessuna attenzione alle conseguenze. Nessuno sente il bisogno di capire *perché* le foto dei detenuti/pregiudicati e quelle degli incensurati liberi risultino diverse. Ma adottando il modello offerto dal ML si corre il rischio di rafforzare le cause (che restano ignote) per cui (forse) funziona. Certo il solo volto non porterà all'incriminazione di nessuno, ma le implicite previsioni fatte seguendo il modello contribuiranno ulteriormente alla costruzione del criminale prima che questo abbia mai commesso un crimine. E' la famosa profezia che si autoavvera di Robert K. Merton. Certo, si può dire che questi comportamenti discriminanti non sono una novità; ma non venivano chiamati scienza, ma pregiudizio. Il ML non richiede un modello che sia *esplicativo* di nessi causali, tuttavia produce un modello *descrittivo* (ma opaco), usabile come modello *predittivo* e una possibile pericolosa conseguenza è che finisca per diventare *prescrittivo*. Prima di adottare modelli ML in contesti socialmente rilevanti che posano avere conseguenze per i cittadini sarebbe ragionevole pretendere che i nessi causali dietro al modello vengano esplicitati e validati. Altrimenti qualsiasi scelta che si appoggi sul modello dovrebbe essere deprecata. Alberto On 11/26/2016 02:18 PM, Alessandro Mantelero wrote:
appunto e, come in altri casi, chi studia le nuove tecnologie dovrebbe prima studiare un po' le passate esperienza/dottrine nel settore di interesse.
AM
On Sat, 26 Nov 2016 12:12:12 +0100 Alberto Cammozzo <ac+nexa@zeromx.net> wrote:
La riscossa di Lombroso passa per la fisiognomica machine learned.
<https://arxiv.org/abs/1611.04135>
Automated Inference on Criminality using Face Images Xiaolin Wu, Xi Zhang (Submitted on 13 Nov 2016 (v1), last revised 21 Nov 2016 (this version, v2))
We study, for the first time, automated inference on criminality based solely on still face images. Via supervised machine learning, we build four classifiers (logistic regression, KNN, SVM, CNN) using facial images of 1856 real persons controlled for race, gender, age and facial expressions, nearly half of whom were convicted criminals, for discriminating between criminals and non-criminals. All four classifiers perform consistently well and produce evidence for the validity of automated face-induced inference on criminality, despite the historical controversy surrounding the topic. Also, we find some discriminating structural features for predicting criminality, such as lip curvature, eye inner corner distance, and the so-called nose-mouth angle. Above all, the most important discovery of this research is that criminal and non-criminal face images populate two quite distinctive manifolds. The variation among criminal faces is significantly greater than that of the non-criminal faces. The two manifolds consisting of criminal and non-criminal faces appear to be concentric, with the non-criminal manifold lying in the kernel with a smaller span, exhibiting a law of normality for faces of non-criminals. In other words, the faces of general law-biding public have a greater degree of resemblance compared with the faces of criminals, or criminals have a higher degree of dissimilarity in facial appearance than normal people. _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- Prof. Avv. Alessandro Mantelero Politecnico di Torino
Nexa Center for Internet and Society | Director of Privacy Politecnico di Torino–Tongji University| Coordinator, Double Degree program in Management and IP Law Nanjing University of Information Science and Technology | Part-time Expert, School of Public Administration European Data Protection Law Review | Associate Editor
http://staff.polito.it/alessandro.mantelero @mantelero
EMAIL POLICY: once a day (Mon-Fri)