[nexa] How the Boeing 737 Max Disaster Looks to a Software Developer

Giacomo Tesio giacomo at tesio.it
Fri Apr 19 11:05:47 CEST 2019


On 19/04/2019, Alberto Cammozzo <ac+nexa at zeromx.net> wrote:
> <https://spectrum.ieee.org/aerospace/aviation/how-the-boeing-737-max-disaster-looks-to-a-software-developer>

Fantastica prospettiva. :-)
Un must read dall'inizio alla fine per chiunque abbia a che fare con
software, hardware... o aziende che operano in un sistema Capitalista.

> Come accade che 346 persone muoiano di software.

Come accade che muoia una senza tetto investita da un'auto di 500 kg
lanciata sulla strada senza un autista:
https://www.ntsb.gov/investigations/AccidentReports/Reports/HWY18MH010-prelim.pdf

> According to Uber, emergency braking maneuvers are
> not enabled while the vehicle is under computer control,
> to reduce the potential for erratic vehicle behavior.

Per ridurre "erratic vehicle behavior".
Elaine Herzberg è stata uccisa per evitare il mal d'auto ai passeggeri di Uber.

Queste 346 persone sono state uccise per analoghe ragioni commerciali:

> “Everything about the design and manufacture of the Max
> was done to preserve the myth that ‘it’s just a 737.’
> Recertifying it as a new aircraft would have taken years
> and millions of dollars. In fact, the pilot licensed to fly the
> 737 in 1967 is still licensed to fly all subsequent versions
> of the 737.”

E così in molti altri casi.

Sempre però la responsabilità è riconducibile ad esseri umani.
E non SOLO o NON PRIMARIAMENTE ad ingegneri.

Il problema è a monte: se massimizzi il profitto, la vita umana è
irrilevante perché non partecipa all'equazione.
Ti preoccuperai di incidenti quel tanto che basta a non impattare
sostanzialmente i profitti.

> It is likely that MCAS, originally added in the spirit of increasing safety,
> has now killed more people than it could have ever saved. It doesn’t need to
> be “fixed” with more complexity, more software. It needs to be removed
> altogether.

Questo vale purtroppo per la stragrande maggioranza
dell'infrastruttura software contemporanea. Ma senza profonda
consapevolezza del problema non è possibile risolverlo.

Chi ha abilitato il Boing 737 Max al decollo e al trasporto di persone
ha applicato ciecamente le regole, come avrebbe fatto un computer.
Purtroppo non è abbastanza.

> That’s not a big strike. That’s a political, social, economic, and technical sin.

Il peccato originale, in questo caso, è l'Ignoranza.
Su così tanti livelli, istituzionali e non, che è impossibile elencarli.


L'ignoranza (ed ancor più la presunzione di conoscenza) è una
terribile debolezza.
Di conseguenza la Conoscenza diventa Potere.

Per questo la Propaganda 2 insisteva così tanto sull'indebolimento
della scuola pubblica.
Perché se non hai consapevolezza di un problema, sia esso software,
hardware, economico o sociale, non avrai MAI gli strumenti per
gestirlo in modo efficace.

E d'altro canto, se la vita umana non ha valore (e non esiste altro
valore che il prezzo)... può essere sacrificata facilmente e senza
rimpianti, sia essa su un volo di linea che sorvola Ustica, in una
stazione ferroviaria a Bologna in un ospedale durante un aborto o su
un 737 Max progettato male.


Non c'è risarcimento che compensi il morto.
Non c'è "redress" che compensi la società di cui faceva parte.

Causare la morte di un essere umano dovrebbe SEMPRE portare in
CARCERE, e MOLTO A LUNGO.


Giacomo


More information about the nexa mailing list