Il significato della lettera aperta, a mio avviso, non è solo nella pratica specifica, anche se è notevole anche lì. Si estende infatti all'esame di quelle che sono le leve sempre più complesse e sofisticate che vengono incorporate all'interno dei sistemi automatici con sui ci circondiamo.
Un altro esempio di una possibile escalation fuori controllo è nei sistemi di High Frequency Trading. Se costruissimo un sistema AI avanzato basato sugli istinti predatori di un programma HFT, le sue reazioni sarebbero altamente distruttive verso gli obiettivi più ampi dell'umanità.
Parlo di questi e altri temi nel libro "Singolarità" che verrà pubblicato da Hoepli in autunno e che potete leggere in bozza inglese già adesso:
http://singularitybook.net