Condivido quanto dice Giuseppe evidenziando la criticità di sistemi non solo tecnici, ma socio-tecnici e tecnico-industriali.

Preciso che tuttavia mi pare che il CdA di Boeing non sia stato condannato, ma abbia patteggiato in (almeno) tre casi:

1- con gli azionisti, per l'accusa di averli danneggiati con "unsafe business practices". I 237 M$ vengono pagati dalle assicurazioni, non dalla Boeing.

NB: "Boeing's current and former directors do not admit wrongdoing and assert they were acting in the best interests of Boeing and its stockholders, according to the settlement."

2- deferred prosecution agreement (sostanzialmente un patteggiamento) con la FAA, per frode (2G$) per non averla informata delle modifiche software.

A meno che mi siano sfuggite altre cause, in nessuno di questi casi è stata emessa una sentenza.

Questo mette in luce l'aspetto tecno-politico: credo che la possibilità estremamente remota di essere condannati sia uno dei motivi che ha consentito ai membri del CdA di prendere le decisioni che hanno preso in merito al 737max.

Inoltre la posizione di Boeing è politicamente troppo forte per fallire come meriterebbe, come dimostrano anche le scelte fatte per il vettore SLS (missione Artemis per la Luna) e le difficoltà continue e scandali che hanno tormentato il percorso del KC-46 (in particolare per il software).

Non ho ancora visto un recente documentario sullo scandalo 737Max, ma lo segnalo:

On 20 Sep 2022, at 12:00, <nexa-request@server-nexa.polito.it> <nexa-request@server-nexa.polito.it> wrote:

Pilots struggled against the new system, which is designed to prevent a
stall by automatically pushing the nose down. Tragically, on Flight 610
it was apparently triggered by a sensor delivering a false
reading. There was no stall.

il nocciolo della questione è che il Boeing 737 MAX aerodinamicamente
non reggeva (era un 737 riadattato, anzi /disadattato/, per farla breve)
e il rischio di stallo era altissimo; piuttosto che rifarlo hanno
introdotto MCAS: c'è bisogno di aggiungere altro?

Aggiungo.

Il Boeing 737 Max era stato riadattato in fretta per recuperare quote di mercato che Airbus stava conquistando col modello A320neo

("the A321neo easily beats off all competition with its vast range and large passenger numbers”).

Ma siccome l’aereo era instabile, fu aggiunto un software per controllarlo, il quale però, in certe situazioni mandava l’aereo in stallo e in nose-dive.

I progettisti lo sapevano, e avevano aggiunto un bottone sulla plancia, che i piloti potevano utilizzare per disabilitare il software.

Ma per l’uso del bottone, occorreva che tutti i piloti si sottoponessero a un percorso di training che sarebbe durato mesi.

A quel punto il CdA di Boeing decise di mettere l’aereo in commercio, senza dire nulla alla FAA.

Dopo che accaddero due gravi incidenti mortali (346 persone) e si ricondusse la causa a questo software, i 737 Max vennero messi a terra per lungo tempo, causando ingenti danni economici alla Boeing.

Un lungo processo si concluse dio recente con la condanna del CdA di Boeing.

Il caso è molto illuminante su diversi aspetti che riguardano la tecnologia e il mercato:

1. Se l’Europa non avesse avuto il coraggio di creare il Consorzio Airbus, oggi avremmo un solo produttore di aerei, che da monopolista non avrebbe freni

2. La tecnologia europea può essere migliore di quella americana

3. La tecnologia non può essere mai perfetta, la responsabilità del suo uso rimane a chi sceglie di impiegarla

4. L’avidità economica è più foriera di danni della tecnologia stessa

5. La certificazione non è sufficiente a garantire l’affidabilità di un sistema: Boeing ha aggirato la FAA e comunque la FAA si sarebbe affidata a informazioni fornite da Boeing

6. Nessun software è verificabile, e non è solo una questione che riguarda l’AI, su cui si concentra la discussione attuale

7. Poiché nessun dispositivo complesso è affidabile, la prassi utilizzata è quella dei test più ampi possibili. Ma siccome nemmeno i test sono esaustivi, negli aerei si installano le scatole nere, che registrano tutto quanto avviene, in modo tale da poter analizzare le situazioni impreviste che hanno causato problemi. Dalle analisi si ricavano indicazioni su come modificare i sistemi. In informatica è comune e si chiama "error tracking and software update”.

8. Non è stato condannato né il software, né chi lo ha realizzato, ma l’azienda che lo ha impiegato.

Boeing's 737 Max: a Failure of Management, not Just Technology

https://cacm.acm.org/magazines/2021/1/249448-boeings-737-max/fulltext

— Beppe

_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa