Venti secondi
Come l’intelligenza artificiale cancella lo sguardo che trattiene la mano

Lavinia Marchetti

Venti secondi. Tanto durava, nell’inverno del 2023, il controllo umano su un nome destinato a morire. Un ufficiale dell’intelligence israeliana, indicato con la lettera B., lo ha raccontato ai giornalisti di +972 Magazine e di Local Call, che per primi hanno svelato l’esistenza del programma (Abraham 2024)1. Il suo compito si riduceva a una verifica sola, che il bersaglio scelto dalla macchina fosse un maschio.

«Investivo venti secondi per ogni bersaglio, e ne facevo decine al giorno. Come essere umano non avevo alcun valore aggiunto, ero solo un timbro di approvazione. Mi faceva risparmiare un sacco di tempo».

Il controllo del sesso era diventato l’unico filtro perché, secondo gli ufficiali, tra le file militari di Hamas non figurano donne, e dunque un bersaglio femminile segnalava soltanto un errore della macchina. «All’inizio facevamo dei controlli per assicurarci che la macchina non si confondesse», spiega B. «A un certo punto ci siamo affidati al sistema automatico, e ci limitavamo a controllare che il bersaglio fosse un uomo. Non ci vuole molto a capire se una voce è maschile o femminile» (Abraham 2024).

Il software si chiama Lavender. Analizza i dati raccolti, attraverso una sorveglianza di massa, sui due milioni e trecentomila abitanti di Gaza, e assegna a quasi ciascuno un punteggio da 1 a 100 che misura la probabilità di appartenere all’ala militare di Hamas. Ha imparato a riconoscere i tratti dei miliziani noti per cercarli nella popolazione, dal trovarsi in un gruppo WhatsApp con un militante al cambiare spesso telefono. Nelle prime settimane di guerra ha schedato circa trentasettemila persone come sospette, insieme alle loro case. La definizione di miliziano restava elastica, e uno degli analisti che addestrarono il sistema se ne dichiarò turbato, perché nei dati di addestramento erano finiti anche addetti alla protezione civile, cioè profili di comunicazione civili che la macchina avrebbe poi cercato, e colpito, nella popolazione.

Gli ufficiali sapevano che la macchina sbaglia in circa il dieci per cento dei casi, e la trattavano lo stesso, sono parole loro, come se fosse una decisione umana. L’errore più frequente, racconta B., nasceva quando un bersaglio cedeva il proprio telefono a un familiare. «Quella persona verrà bombardata in casa con la sua famiglia. È successo spesso» (Abraham 2024)1. Selezionare i nomi era una procedura che gli operatori chiamavano, con una metafora venatoria, Caccia Larga: «Metti centinaia di bersagli nel sistema e aspetti di vedere chi puoi uccidere. Copi e incolli dalle liste che il sistema produce».

La seconda macchina porta un nome che è la domanda di un bambino, Where’s Daddy?, dov’è papà. Seguiva le persone schedate e avvertiva l’esercito quando rientravano a casa, di notte, mentre le famiglie dormivano. Le abitazioni private erano il luogo preferito per colpirle, perché localizzarle là risultava più semplice. L’ufficiale A. lo ha messo a verbale con una franchezza assoluta:

«Non eravamo interessati a uccidere i miliziani solo quando si trovavano in un edificio militare. Al contrario, li bombardavamo nelle loro case senza esitazione, come prima opzione. È molto più facile colpire la casa di una famiglia».

Lo stesso A. tira la conclusione aritmetica di quella scelta.

«Diciamo che calcoli un miliziano di Hamas più dieci civili nella casa. Di solito quei dieci saranno donne e bambini. Così, per assurdo, viene fuori che la maggior parte delle persone che hai ucciso erano donne e bambini». [...] continua qui: https://www.ahidaonline.com/post/guerre-6