Provo, per puro spirito dialettico (e per una sorta di disagio che sento leggendo questo tread) a dare un diverso punto di vista, forse"eccessivo" e un po' grezzo: chiedo venia anticipatamente.
L'avversione per l'idea che degli algoritmi prendano decisioni capaci di influenzare più o meno profondamente la nostra vita è tenace e radicata in tutti noi, a dispetto della realtà che già viviamo.
Mi viene in mente la vicenda dei prezzi del vino Bordeaux e dell'algoritmo di Orley Ashenfelter: l'algoritmo messo a punto dall'economista di Princeton per calcolare i prezzi futuri delle varie annate di Boreaux era, ed è, efficace ed accurato ma la reazione nei circoli di viticoltori francesi (ovvero tra i sistemi umani esperti del settore) "oscillò tra la violenza e l'isteria". Per i sommelier francesi l'algoritmo era "ridicolo e assurdo" e nessuna "combinazione meccanica" di variabili poteva sostituire l'intuito umano ( e soprattutto il fatto di assaggiare il vino!) . La storia fu raccontata dal NYT qui:
https://www.nytimes.com/1990/03/04/us/wine-equation-puts-some-noses-out-of-joint.html ed interessante.
Siamo temo tutti un po' vittime di quella che Kahaneman chiama l'illusione di abilità.
E sebbene decisioni umane cagionino quotidianamente la morte di bambini innocenti, immagino lo sconcerto e l'orrore che ci coglierà quando un bambino morirà per un errore (o una scelta, magari assai logica e razionale) di un algoritmo (o di una AV). La differenza di intensità emozionale si tradurrà immediatamente in preferenza morale ed in elevate e tetragone valutazioni etiche o addirittura religiose.
Il problema del carrello applicato ai veicoli autonomi mi pare falsante, utile perlopiù a dotte disquisizioni filosofiche che lascio a chi ne sa, ma sono inquieto se le risposte saranno quelle,irrazionali ed emozionali di Marco (Marco, so che mi perdonerai!) che vorrebbe costituzionalizzare il pensiero di Weizenbaum citato da Norberto. Dio ce ne scampi.
Cosa ci fa dire che la scelta dell'algoritmo sarà meno efficace e rassicurante della fallacia del giudizio umano? Meehl ritiene immorale affidarsi a giudizi intuitivi (di un carrellista aggiungo io) per decisioni importanti quando è disponibile un algoritmo esperto che può elaborare molte più informazioni in ambienti a basa validità (ovvero con un notevole grado di incertezza e imprevedibilità).
Un'ultima osservazione per Maria Chiara: perchè usi il condizionale parlando dello "ius necessitatis"? Lo stato di necessità (art. 54 c.p.) esclude la punibilità, anche in caso di omicidio dell'innocente. L'alpinista che taglia la corda del fidato compagno condannandolo a morte certa per salvar se stesso, là dove non abbia dato causa alla situazione di necessità creatasi, non viene punito. Poi possiamo fare mille pregevoli considerazioni etiche e morali e fin anche teologiche, che leggo con piacere ma a cui però mi sottraggo non arrischiandomi a pattinare su di un ghiaccio per me assai sottile.
Buona domenica a tutti.
CB