September 2022 - nexa - server-nexa.polito.it

737Max e condanne (Was: Re: Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...)))

by Alberto Cammozzo

Condivido quanto dice Giuseppe evidenziando la criticità di sistemi non solo tecnici, ma socio-tecnici e tecnico-industriali. Preciso che tuttavia mi pare che il CdA di Boeing non sia stato condannato, ma abbia patteggiato in (almeno) tre casi: 1- con gli azionisti, per l'accusa di averli danneggiati con "unsafe business practices". I 237 M$ vengono pagati dalle assicurazioni, non dalla Boeing. <https://www.reuters.com/legal/transactional/boeing-directors-agree-2375-mil…> NB: "Boeing's current and former directors do not admit wrongdoing and assert they were acting in the best interests of Boeing and its stockholders, according to the settlement." <https://abcnews.go.com/Business/wireStory/judge-oks-boeing-settlement-inves…> Questa decisione è stata appellata, a quanto capisco con successo: <https://www.cnbc.com/2022/01/07/us-appeals-court-revives-boeing-737-max-sha…> 2- deferred prosecution agreement (sostanzialmente un patteggiamento) con la FAA, per frode (2G$) per non averla informata delle modifiche software. <https://www.nytimes.com/2021/01/07/business/boeing-settlement-justice-depar…> 3- con le famiglie delle vittime: <https://www.bbc.com/news/business-59236437> <https://www.reuters.com/article/us-boeing-737max-settlement-idUSKBN24838P> A meno che mi siano sfuggite altre cause, in nessuno di questi casi è stata emessa una sentenza. Questo mette in luce l'aspetto tecno-politico: credo che la possibilità estremamente remota di essere condannati sia uno dei motivi che ha consentito ai membri del CdA di prendere le decisioni che hanno preso in merito al 737max. Inoltre la posizione di Boeing è politicamente troppo forte per fallire come meriterebbe, come dimostrano anche le scelte fatte per il vettore SLS (missione Artemis per la Luna) e le difficoltà continue e scandali che hanno tormentato il percorso del KC-46 (in particolare per il software). Non ho ancora visto un recente documentario sullo scandalo 737Max, ma lo segnalo: <https://www.theguardian.com/film/2022/feb/22/downfall-the-case-against-boei…> Ciao, Alberto On 20/09/22 13:01, Giuseppe Attardi wrote: > > >> On 20 Sep 2022, at 12:00, <nexa-request(a)server-nexa.polito.it> >> <nexa-request(a)server-nexa.polito.it> wrote: >> >> Pilots struggled against the new system, which is designed to prevent a >> stall by automatically pushing the nose down. Tragically, on Flight 610 >> it was apparently triggered by a sensor delivering a false >> reading. There was no stall. >> >> il nocciolo della questione è che il Boeing 737 MAX aerodinamicamente >> non reggeva (era un 737 riadattato, anzi /disadattato/, per farla breve) >> e il rischio di stallo era altissimo; piuttosto che rifarlo hanno >> introdotto MCAS: c'è bisogno di aggiungere altro? > > Aggiungo. > Il Boeing 737 Max era stato riadattato in fretta per recuperare quote > di mercato che Airbus stava conquistando col modello A320neo > ("the A321neo easily beats off all competition with its vast range and > large passenger numbers”). > Ma siccome l’aereo era instabile, fu aggiunto un software per > controllarlo, il quale però, in certe situazioni mandava l’aereo in > stallo e in nose-dive. > I progettisti lo sapevano, e avevano aggiunto un bottone sulla > plancia, che i piloti potevano utilizzare per disabilitare il software. > Ma per l’uso del bottone, occorreva che tutti i piloti si > sottoponessero a un percorso di training che sarebbe durato mesi. > A quel punto il CdA di Boeing decise di mettere l’aereo in commercio, > senza dire nulla alla FAA. > Dopo che accaddero due gravi incidenti mortali (346 persone) e si > ricondusse la causa a questo software, i 737 Max vennero messi a terra > per lungo tempo, causando ingenti danni economici alla Boeing. > Un lungo processo si concluse dio recente con la condanna del CdA di > Boeing. > > Il caso è molto illuminante su diversi aspetti che riguardano la > tecnologia e il mercato: > > 1. Se l’Europa non avesse avuto il coraggio di creare il Consorzio > Airbus, oggi avremmo un solo produttore di aerei, che da monopolista > non avrebbe freni > 2. La tecnologia europea può essere migliore di quella americana > 3. La tecnologia non può essere mai perfetta, la responsabilità del > suo uso rimane a chi sceglie di impiegarla > 4. L’avidità economica è più foriera di danni della tecnologia stessa > 5. La certificazione non è sufficiente a garantire l’affidabilità di > un sistema: Boeing ha aggirato la FAA e comunque la FAA si sarebbe > affidata a informazioni fornite da Boeing > 6. Nessun software è verificabile, e non è solo una questione che > riguarda l’AI, su cui si concentra la discussione attuale > 7. Poiché nessun dispositivo complesso è affidabile, la prassi > utilizzata è quella dei test più ampi possibili. Ma siccome nemmeno i > test sono esaustivi, negli aerei si installano le scatole nere, che > registrano tutto quanto avviene, in modo tale da poter analizzare le > situazioni impreviste che hanno causato problemi. Dalle analisi si > ricavano indicazioni su come modificare i sistemi. In informatica è > comune e si chiama "error tracking and software update”. > 8. Non è stato condannato né il software, né chi lo ha realizzato, ma > l’azienda che lo ha impiegato. > > Boeing's 737 Max: a Failure of Management, not Just Technology > https://cacm.acm.org/magazines/2021/1/249448-boeings-737-max/fulltext > > — Beppe > > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Sept. 20, 2022

Re: [nexa] Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...))

by 380°

Ciao, siamo andati un pochino OT rispetto all'oggetto ma neanche troppo :-) "Marco A. Calamari" <marcoc_maillist(a)marcoc.it> writes: [...] > No, non sto scherzando. chiedo scusa, era ironico ma non l'ho saputo rendere > E' il nocciolo della questione. La catena di responsabilità DEVE > includere tutto l'operato di una IA, anche quello che non è > tracciato. sì sono d'accordo e non è solo una questione di individuare responsabilità ma anche (soprattutto?) di poter fare meta-scienza sull'IA > Se il chirurgo robot taglia in due il paziente e non c'è > tracciamento, la responsabilità deve comunque essere > di qualcuno, e deve essere assegnata "a priori" in maniera certa > non dopo un processo. sì, in maniera del tutto analoga a quanto avviene ora con la marcatura CE dei prodotti [1]: l'inversione dell'onere della prova sul rispetto dei requisiti essenziali stabiliti dalle Direttive nuovo approccio. ...che non si applica alle "macchine per uso professionale" (cito a memoria), ma nel caso di qualsiasi automatismo controllato da software - IA compresa ovviamente - io introdurrei una NOTEVOLE eccezione :-O [...] saluti, 380° [1] https://it.wikipedia.org/wiki/Marcatura_CE#Conseguenze_legali -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 20, 2022

Re: [nexa] Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...))

by Marco A. Calamari

On mar, 2022-09-20 at 10:14 +0200, 380° wrote: > > Ma ci deve essere una catena di comando/responsabilità reale, e la > tracciabilità > > delle decisioni dell'IA. > > stai scherzando vero? > > La "tracciabilità delle decisioni dell'IA" non esiste, una volta che > passi la fase 2 di https://nooscope.ai/ (Learning Algorithm) il > processo è IRREVERSIBILE > > detto in altro modo, dato il modello non è possibile ricavare > l'algoritmo, i criteri di valutazione, l'ambiente di testing, gli > iperparametri, i criteri di labeling... No, non sto scherzando. E' il nocciolo della questione. La catena di responsabilità DEVE includere tutto l'operato di una IA, anche quello che non è tracciato. Se il chirurgo robot taglia in due il paziente e non c'è tracciamento, la responsabilità deve comunque essere di qualcuno, e deve essere assegnata "a priori" in maniera certa non dopo un processo. Non è una mera questione tecnica di "intracciabilità" sulla quale, ovviamente, non posso non concordare. saluti. marco

Sept. 20, 2022

Re: [nexa] Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...))

by Giuseppe Attardi

> On 20 Sep 2022, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > Pilots struggled against the new system, which is designed to prevent a > stall by automatically pushing the nose down. Tragically, on Flight 610 > it was apparently triggered by a sensor delivering a false > reading. There was no stall. > > il nocciolo della questione è che il Boeing 737 MAX aerodinamicamente > non reggeva (era un 737 riadattato, anzi /disadattato/, per farla breve) > e il rischio di stallo era altissimo; piuttosto che rifarlo hanno > introdotto MCAS: c'è bisogno di aggiungere altro? Aggiungo. Il Boeing 737 Max era stato riadattato in fretta per recuperare quote di mercato che Airbus stava conquistando col modello A320neo ("the A321neo easily beats off all competition with its vast range and large passenger numbers”). Ma siccome l’aereo era instabile, fu aggiunto un software per controllarlo, il quale però, in certe situazioni mandava l’aereo in stallo e in nose-dive. I progettisti lo sapevano, e avevano aggiunto un bottone sulla plancia, che i piloti potevano utilizzare per disabilitare il software. Ma per l’uso del bottone, occorreva che tutti i piloti si sottoponessero a un percorso di training che sarebbe durato mesi. A quel punto il CdA di Boeing decise di mettere l’aereo in commercio, senza dire nulla alla FAA. Dopo che accaddero due gravi incidenti mortali (346 persone) e si ricondusse la causa a questo software, i 737 Max vennero messi a terra per lungo tempo, causando ingenti danni economici alla Boeing. Un lungo processo si concluse dio recente con la condanna del CdA di Boeing. Il caso è molto illuminante su diversi aspetti che riguardano la tecnologia e il mercato: 1. Se l’Europa non avesse avuto il coraggio di creare il Consorzio Airbus, oggi avremmo un solo produttore di aerei, che da monopolista non avrebbe freni 2. La tecnologia europea può essere migliore di quella americana 3. La tecnologia non può essere mai perfetta, la responsabilità del suo uso rimane a chi sceglie di impiegarla 4. L’avidità economica è più foriera di danni della tecnologia stessa 5. La certificazione non è sufficiente a garantire l’affidabilità di un sistema: Boeing ha aggirato la FAA e comunque la FAA si sarebbe affidata a informazioni fornite da Boeing 6. Nessun software è verificabile, e non è solo una questione che riguarda l’AI, su cui si concentra la discussione attuale 7. Poiché nessun dispositivo complesso è affidabile, la prassi utilizzata è quella dei test più ampi possibili. Ma siccome nemmeno i test sono esaustivi, negli aerei si installano le scatole nere, che registrano tutto quanto avviene, in modo tale da poter analizzare le situazioni impreviste che hanno causato problemi. Dalle analisi si ricavano indicazioni su come modificare i sistemi. In informatica è comune e si chiama "error tracking and software update”. 8. Non è stato condannato né il software, né chi lo ha realizzato, ma l’azienda che lo ha impiegato. Boeing's 737 Max: a Failure of Management, not Just Technology https://cacm.acm.org/magazines/2021/1/249448-boeings-737-max/fulltext — Beppe

Sept. 20, 2022

Re: [nexa] "8.254 domande... a Scuola" vs paese reale

by antonio＠piumarossa.it

> forse non si e' capito, lo ridico: io NON ho scritto e non penso che > quelle persone hanno ragione, o che dicano cose corrette. Sì, scusa, non sono stato chiaro io. Ho risposto a te ma la critica era ovviamente rivolta a loro. Che la maggioranza non abbia esperienza e interesse è normale, nessuno vuole biasimarla o trattarla con sufficienza. La "novità", positiva secondo me, è che una piccolissima minoranza di persone ha fatto una cosa del tutto lecita e legale per "incoraggiare un dibattito pubblico informato su temi di interesse collettivo" e non è poco. Le critiche, quando sono costruttive, aggiungono elementi al dibattito, ma quelle sono solo lamentele di chi è già sommerso di lavoro. Lamentele, aggiungo, sacrosante. Ne ho parlato in altri thread, la P.A., non tutta ma una buona parte, è al collasso, per mancanza di personale e per procedure informatiche pessime. A.

Sept. 20, 2022

Re: [nexa] "8.254 domande... a Scuola" vs paese reale

by M. Fioretti

On Tue, Sep 20, 2022 03:59:10 AM -0500, antonio(a)piumarossa.it wrote: > Quindi, chi asserisce che monitora-pa non ha diritto, evidentemente > ignora la legge. > > Sugli epiteti volgari sorvolo ... Ogni lavoratore, autonomo, > dipendente, pubblico, privato quando si trova a dovere eseguire > un'attività "extra" si lamenta. Sono sempre gli altri a "non fare > un c." forse non si e' capito, lo ridico: io NON ho scritto e non penso che quelle persone hanno ragione, o che dicano cose corrette. Sto dicendo che ignorare che il 95% almeno della gente e' a quello stesso livello di competenza e/o interesse, e/o pensare che sia solo colpa loro e quindi ignorarli o peggio trattarli con sufficienza ha lo STESSO , limitandomi volutamente a un esempio non informatico e nemmeno italiano visto che si vota fra 5 giorni, dell'atteggiamento della Clinton quando defini' e tratto' pubblicamente chi votava per Trump come "manica di casi umani" ("basket of deplorables"). Infatti ha perso. Marco -- Help me write my NEXT MILLION WORDS for digital awareness: https://stop.zona-m.net/2021/10/funding-2021-2022/

Sept. 20, 2022

Re: [nexa] "8.254 domande... a Scuola" vs paese reale

by antonio＠piumarossa.it

> Conosco diversi degli autori di quei commenti, e non sono certo > analfabeti funzionali ne' frustrati alla Napalm 51. Sono persone > normali, che in tanti altri campi sono meglio di noi, e sono loro la > maggioranza, non noi. "Il Freedom of Information Act (FOIA), diffuso in oltre 100 paesi al mondo, è la normativa che garantisce a chiunque il diritto di accesso alle informazioni detenute dalle pubbliche amministrazioni ... L’obiettivo del FOIA è dunque promuovere una maggiore trasparenza nel rapporto tra le istituzioni e la società civile e incoraggiare un dibattito pubblico informato su temi di interesse collettivo. Giornalisti, organizzazioni non governative, imprese, cittadini italiani e stranieri possono richiedere dati e documenti, così da svolgere un ruolo attivo di controllo sulle attività delle pubbliche amministrazioni." [1] Quindi, chi asserisce che monitora-pa non ha diritto, evidentemente ignora la legge. Sugli epiteti volgari sorvolo ... Ogni lavoratore, autonomo, dipendente, pubblico, privato quando si trova a dovere eseguire un'attività "extra" si lamenta. Sono sempre gli altri a "non fare un c." A. [1] https://foia.gov.it/normativa/cose-il-foia

Sept. 20, 2022

Re: [nexa] Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...))

by 380°

Buongiorno Marco, Marco Calamari <marcoc(a)marcoc.it> writes: > On lun, 2022-09-19 at 13:09 +0200, 380° wrote: >> >> l'AI propone, l'uomo dispone: la /decisione/ finale in merito al fatto >> che la determinazione (l'output) dell'AI sia sensato e debba essere >> seguito deve essere sempre dell'umano scusa ho usato male il termine decisione, intendevo /scelta/ alla Weizenbaum [1] [...] > Ammettiamo che funzioni, e quindi che ci sia un AI che prende una decisione > semplice, diciamo binaria, in modo che basti accendere una lampadina, > mettiamo rossa. sì grazie per averlo evidenziato: la decisione è binaria, la scelta no > Ci vuole poi l'uomo nella catena di comando no, forse mi sono spiegato male: non nella catena di comando, proprio al comando; non sto parlando di quelle povere persone chiamate "Ghost workers" [2] tra l'altro, chiunque voglia ridurre l'umano a un ingranaggio della "catena cibernetica" è un povero illuso; gli essere viventi trovano sempre modi molto creativi per /vendicarsi/, prima o poi :-D [...] > Ora, mettiamo che l'applicazione controlli una bussola per accedere > all'aeroporto, dotata di IA per identificare i terroristi e di inceneritore > incorporato per diminuirne il numero. non c'è bisogno di ipotizzare incidenti per comprendere quanto sostituire la razionalità umana con una AI (sottolineo di nuovo /narrow/) sia **mortifero**: https://incidentdatabase.ai per esempio, l'incident 3 https://incidentdatabase.ai/cite/3 relativo al famigerrimo MCAS (Maneuvering Characteristics Augmentation System) --8<---------------cut here---------------start------------->8--- Pilots struggled against the new system, which is designed to prevent a stall by automatically pushing the nose down. Tragically, on Flight 610 it was apparently triggered by a sensor delivering a false reading. There was no stall. --8<---------------cut here---------------end--------------->8--- (https://incidentdatabase.ai/cite/3#r375) il nocciolo della questione è che il Boeing 737 MAX aerodinamicamente non reggeva (era un 737 riadattato, anzi /disadattato/, per farla breve) e il rischio di stallo era altissimo; piuttosto che rifarlo hanno introdotto MCAS: c'è bisogno di aggiungere altro? ma sì vah, carichiamo: - https://incidentdatabase.ai/cite/11 «Northpointe Risk Models» --8<---------------cut here---------------start------------->8--- An algorithm developed by Northpointe and used in the penal system is two times more likely to incorrectly label a black person as a high-risk re-offender and is two times more likely to incorrectly label a white person as low-risk for reoffense according to a ProPublica review. --8<---------------cut here---------------end--------------->8--- - https://incidentdatabase.ai/cite/35 «Employee Automatically Terminated by Computer Program» --8<---------------cut here---------------start------------->8--- An employee was laid off and blocked from access to the building and computer systems at their employer without their knowledge. The employee, Ibrahim Diallo, attributes this error (the employee was brought back into the company once realized) to an artificially intelligent system deciding to fire him. It is also reported Diallo's manager had failed to renew Diallo's contract, which was terminated once a deadline to do so was missed. --8<---------------cut here---------------end--------------->8--- ...e come dimenticare il mitico Stanislov Petrov che il 26 Settembre 1983, senza bisogno di giocare a tik-tak-toe contro il supercomputer, riuscì a evitare un contrattacco nucleare: - https://incidentdatabase.ai/cite/27 «Nuclear False Alarm» --8<---------------cut here---------------start------------->8--- An alert of five incoming intercontinental ballistic missiles was properly identified as a false-positive by the Soviet Union operator Stanislov Petrov. --8<---------------cut here---------------end--------------->8--- Se all'epoca ci fosse stato direttamente un sistema di lancio direttamente controllato da AI cosa sarebbe successo? Sarebbe successo come a quei poveri piloti del Boeing 737 MAX con MCAS? In tutti i casi che ho citato sopra è facile notare come gli errori dipendono solo da una BANALE verità: la realtà artificiale è ESTREMAMENTE semplificata e **compressa** rispetto alla complessità della realtà naturale, QUINDI qualsiasi AI avrà sempre una visione parziale e /distorta/ di quello che /accade/ davvero. Anche gli umani, certo, sbagliano... ma l'errore umano è di diversi ordini di grandezza meno "abberrato" rispetto a quello di una AI, perché noi siamo naturalmente dotati di /intelligenza emotiva/ e libero arbitrio [...] > Nessuno è mai stato licenziato per aver dato retta alla luce rossa. Ho l'impressione di sì, invece ...comunque senza dubbio molti sono morti. > Morale: se un intelligenza artificiale deve essere usata per prendere > decisioni, deve poterlo fare in autonomia, senza quel "controllo umano" > che nella pratica, come tutti sanno o dovrebbero sapere, è un termine di > fantasia. non ho capito nulla > Ma ci deve essere una catena di comando/responsabilità reale, e la tracciabilità > delle decisioni dell'IA. stai scherzando vero? La "tracciabilità delle decisioni dell'IA" non esiste, una volta che passi la fase 2 di https://nooscope.ai/ (Learning Algorithm) il processo è IRREVERSIBILE detto in altro modo, dato il modello non è possibile ricavare l'algoritmo, i criteri di valutazione, l'ambiente di testing, gli iperparametri, i criteri di labeling... se per ciascun modello AI l'intero ambiente illustrato da nooscope.ai fosse pubblicato, si potrebbero analizzare e (ri)applicare - anche dopo ciascuna modifica in uno dei livelli - le consolidatissime tecniche ingegneristiche di analisi dei rischi (tipo FMEA) e informatiche di software testing ...ma non lo fosse > Lo so, è molto difficile da realizzare, ed ed è pure un pensiero eretico, ma > "l'uomo nella catena di comando" è una solo una pericolosa formula > autoassolutoria di marketing. ma infatti io sostengo: «l'AI propone, l'uomo dispone» (che poi intendo l'umano, neh!) potrei anche dire "solo l'uomo al comando" ma da lì a "solo un uomo al comando" il qui pro quo è un passo :-O Saluti, 380° [1] https://en.wikipedia.org/wiki/Computer_Power_and_Human_Reason [2] https://nooscope.ai/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 20, 2022

"8.254 domande... a Scuola" vs paese reale

by M. Fioretti

> vi segnalo il primo passo di una nuova iniziativa di Monitora PA che > si dipanerà nei prossimi mesi, accanto alle ormai consuete > segnalazioni degli illeciti individuati dal nostro osservatorio > automatizzato (e non sanati dai responsabili): > > https://monitora-pa.it/2022/09/19/8254_domande_a_Scuola.html > > In estrema sintesi, in queste ore stiamo inviando 8.254 richieste di > accesso civico generalizzato alle scuole che riceveranno i fondi del > PNRR... Salve a tutti, Ieri Giacomo Tesio ha annunciato questa iniziativa qui sulla lista, l'annuncio completo e' qui: https://server-nexa.polito.it/pipermail/nexa/2022-September/024104.html e poi S. Campus l'ha commentato cosi': https://server-nexa.polito.it/pipermail/nexa/2022-September/024108.html L'iniziativa di monitoraPA la condivido in pieno e ringrazio Giacomo e tutti gli altri che l'hanno messa in piedi. Pero' credo utile segnalare che le reazioni che finora ho visto su FB son quelle nelle due schermate allegate. Lo segnalo NON come critica all'idea, anzi! Quelle ottomila richieste dovevano essere fatte, e il problema vero e' proprio che in un paese davvero democratico non ci sarebbe stato alcun bisogno di farle. Ma dobbiamo sempre ricordarci tutti che possiamo avere ragione quanto vogliamo, ma se non si parla lo stesso linguaggio di tutti gli altri e partendo da temi e priorita' che LORO capiscono e approvano, non si va da nessuna parte, ci si consuma e basta. Conosco diversi degli autori di quei commenti, e non sono certo analfabeti funzionali ne' frustrati alla Napalm 51. Sono persone normali, che in tanti altri campi sono meglio di noi, e sono loro la maggioranza, non noi. Marco -- Help me write my NEXT MILLION WORDS for digital awareness: https://stop.zona-m.net/2021/10/funding-2021-2022/

Sept. 20, 2022

"Introducing the ‘Pandemic of Control’ series" (di Aprile 2022)

by J.C. DE MARTIN

Serie di articoli "Pandemic of Control"; l'articolo è dello scorso aprile. jc *Introducing the ‘Pandemic of Control’ series* Andrew Lowenthal 5 April 2022 https://engagemedia.org/2022/pandemic-control-intro/ COVID-19 has dramatically accelerated the authoritarian use of digital technologies. Digital surveillance has radically increased, with governments tightly tracking the movements and associations of their citizens. Physical spaces became digitally gated – from cafes and libraries to even whole countries – with ordinary citizens recruited to ensure compliance. In-sync, unsecured databases have become bloated with more and more personal health information. To manage the pandemic, governments and other vested stakeholders have unleashed their own pandemic of control. Officials, medical experts, the mainstream media, and Big Tech pushed the narrative that COVID-19 could be tightly controlled, and that citizens everywhere had a responsibility to abide, with no questions asked, to achieve that aim. The “approved” pandemic response was defended at all costs. News media ridiculed alternative viewpoints as fake news and misinformation <https://disinformationchronicle.substack.com/p/media-will-not-call-big-tech…>, and social media platforms took down contradictory views from their feeds, silencing voices that questioned vaccine passports, lockdowns, and other controls. And while restrictions continue to be eased in most countries, in others they are not. In addition, much of the infrastructure remains at the ready, and the population itself is now well-groomed for the new sets of demands, from digital IDs to central bank digital currencies and beyond. The pandemic is not yet over, but a new chapter has begun, one with more space for the digital rights community (which has been unusually quiet throughout), journalists, and the wider public to question this pandemic of control. Questions could include why governments released check-in apps prone to data breaches <https://www.smh.com.au/politics/federal/sensitive-business-addresses-among-…>, or how fact-checkers and content moderators reportedly worked with digital platforms to remove information that has since been confirmed or, at the very least, worthy of further investigation. For example, why was the hashtag #naturalimmunity considered so dangerous that it had to be censored by Instagram <https://metro.co.uk/2021/09/17/instagram-fueling-conspiracy-theorists-by-ba…>? The Centers for Disease Control and Prevention recently updated its guidelines <https://disinformationchronicle.substack.com/p/cdc-now-says-covid-19-prior-…> to acknowledge the protective value of prior infection. Why was discussion of this previously disallowed? Where were the progressive voices of opposition, the voices that question power? Most concerning is a general trend among citizens, including progressives, to sacrifice civil liberties and free speech and expression in favour of an authoritarian and top-down, “trust the experts” model. This has resulted in a lack of accountability for government and corporate leaders (for example, the former Australian Prime Minister appointing himself secretly to 5 ministries <https://www.abc.net.au/news/2022-08-24/scott-morrison-secret-ministries-wha…>), protecting the powerful from scrutiny that might have resulted in better solutions for society as a whole. To generate further public discourse, EngageMedia in partnership with CommonEdge <https://www.commonedge.com.au/> invited writers, researchers, and changemakers in the Asia-Pacific to respond to the growing digital authoritarianism accelerated by COVID-19 and the absence of critical questioning. The result is the Pandemic of Control <https://engagemedia.org/pandemic-control/> series, a modest contribution toward a more critical citizenry. In this collection, you will find pieces from Indonesia, Vietnam, India, Sri Lanka, Bangladesh, Nepal, and Australia. The authors question the how and the why of their respective countries’ pandemic response, and shed light on more rights-respecting paths moving forward. This digital reader includes 10 pieces that were published between April and August 2022. We felt it was important to create this compilation so the responses to the pandemic-driven digital authoritarianism be distributed more effectively as a collection. We plan to publish 6 more articles between October and December 2022, and these pieces will be added to a second edition of the Pandemic of Control digital reader. If you are interested to engage further with the authors, EngageMedia, or CommonEdge, please contact us <https://engagemedia.org/contact/> through our website. Thank you, Andrew Lowenthal, Co-founder and Senior Advisor, EngageMedia Sam de Silva, CEO, CommonEdge ------------------------------------------------------------------------ Read the Pandemic of Control <https://engagemedia.org/projects/pandemic-control/> series: * PeduliLindungi: To Care for and Protect? <https://engagemedia.org/2022/pandemic-control-pedulilindungi/> * In Sri Lanka, state-sponsored disinformation and suppression of dissent taint COVID-19 response <https://engagemedia.org/2022/pandemic-control-sri-lanka/> * Vietnam’s Zalo Connect: Digital authoritarianism in peer-to-peer aid platforms <https://engagemedia.org/2022/pandemic-control-vietnam-zalo/> * How the economically marginalised navigate digital adoption in India amid the pandemic <https://engagemedia.org/2022/pandemic-control-india-digital-adoption/> * Risking health for mobility? Limitations of Indonesia’s pandemic management tool <https://engagemedia.org/2022/pandemic-control-indonesia-health-tool/> * Policing the pandemic: Australia’s technology response to COVID-19 <https://engagemedia.org/2022/pandemic-control-australia/> * A COVID-19 power grab: Looming digital authoritarianism in Indonesia <https://engagemedia.org/2022/pandemic-control-indonesia/> * Digital authoritarianism in Bangladesh: Weaponising a draconian law to silence dissent in the pandemic era <https://engagemedia.org/2022/pandemic-control-bangladesh/> * Disruptive Technologies, Surveillance as Governance: Data (Un)Democracy in India during COVID-19 <https://engagemedia.org/2022/pandemic-control-india/> * Towards digital authoritarianism in Nepal: Surveillance, data collection, and online repression <https://engagemedia.org/2022/pandemic-control-nepal/> This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License. <https://creativecommons.org/licenses/by-nc-nd/4.0/>

Sept. 20, 2022