Il giorno lun 12 nov 2018 alle ore 23:13 Marco Ciurcina <ciurcina@studiolegale.it> ha scritto:
Anzi: penso che discutere di questo sia molto utile per evitare che si finisca a pensare che, per il bene dell'economia, chi causa danni "algoritmici" debba essere trattato con benevolenza se l'algoritmo causa meno danni di un umano.
A maggior ragione perché un programma complesso può compiere errori: - difficilmente osservabili in isolamento - riprodotti massivamente in modo imprevedibile Certi bug si verificano in casi limite che risulta difficile isolare "in laboratorio", ma quanto tali casi si verificano l'errore si ripropone puntualmente. La cosa di solito passa inosservata fin tanto che il caso limite e' molto raro, ma piccole variazioni al contorno possono far diventare un piccolo problema enorme. Un piccolo aneddoto: un sistema HFT che avevo sviluppato qualche anno fa per gioco stava funzionando molto bene, sfruttando la volatilità del mercato italiano. Poi in due settimane abbiamo perso quanto guadagnato nei 6 mesi precedenti. Cosa era successo? Il Governo Renzi. La volatilità dei titoli su cui lavoravamo si ridusse bruscamente, per cui il programma (qualcuno direbbe impropriamente algoritmo) incappava nei propri limiti molto più frequentemente. Nel tempo consentito dal budget disponibile non fu possibile identificare e correggere il problema, per cui abbandonammo i nostri sogni di ricchezza. E dire che l'avevo votato! ah no... era un altro... :-D Purtroppo si tratta di uno scenario frequente: un bug rimane inosservato (o scientemente ignorato) fin quando le condizioni al contorno non lo riproducono in modo massivo. A quel punto pero', i danni diventano rapidamente devastanti. Dunque e' estremamente difficile dire se un programma causerà meno danni di un umano. O danni meno gravi. Nel punto giusto, al momento giusto, privo di adeguata supervisione, un programma apparentemente innocuo ed affidabile potrebbe causare una strage. E non sarebbe "colpa" sua, la sua elaborazione sarebbe la stessa di sempre. Razionale come prima, date le informazioni disponibili ed il suo codice. Riprodotta all'infinito, senza dubbio alcuno. Giacomo