On December 22, 2018 5:31:07 PM UTC, "J.C. DE MARTIN" <demartin@polito.it> wrote:

THE PARIS REVIEW * The Truth About AI: A Secular Ghost Story** * By Zachary Mason /Zachary Mason is a computer scientist specializing in artificial intelligence and a novelist. He lives in California.//

Lettura piacevole, ma un po' cerchiobottista. Nella prima parte espone alcuni dei limiti della AI, ma la conclusione riapre alle fantasie fantascientifiche che identifica come problemi all'inizio, quasi a non voler scontentare nessuno. Quanto alla regolamentazione non credo si possa ridurre il ragionamento ad una battuta. Non si tratta di regolamentare l'applicazione delle tecniche di AI, si tratta di regolamentare in henrrale il software applicato all'uomo, nel momento in cui un'innovazione promettente ma largamente fraintesa rischia di aprire a pericolose aberrazioni. Non si tratta di proteggere l'uomo dal software cattivo, ma di garantire la responsabilità umana e la _assoluta_ trasparenza algoritmica, per proteggere l'uomo dall'uomo. In tutti questi articoli divugativi manche sempre questo aspetto. La semplice considerazione che la complessità rilevante non è quella informatica, ma quella socio-politica, quella umana. Non è il software ad essere soggetto alla legge ma l'uomo. Non c'è ragione di limitare la ricerca di AI che ottimizzino la vendemmia o che prevedano lo scioglimento dei ghiacci polari o ancora la diffusione di un parassita in un territorio. Ma se un software tratta dati umani o se influenza seriamente la vita di persone e comunità, la trasparenza e la responsabilità diventano fondamentali. Bisogna essere in grado di riprodurre l'elaborazione in debug. E bisogna essere in grado di ricondurre le responsabilità di bug, errori e manomissioni, sia nei dati che nel codice. Ma questo indipendentemente dal fatto che vi sia una rete neurale in esecuzione. Le reti neurali semplicemente evidenziano un problema generale, la cui soluzione può essere quella di non utilizzarle in un determinato contesto. Non si tratta di vietare una tecnica ma di pretendere competenza, trasparenza e responsabilità. Giacomo