Ciao Cristina, grazie delle splendide domande. On 15/02/2020, Cristina Iuli <cristina.iuli@uniupo.it> wrote:
solo sistemi basati su algoritmi pubblici, consultabili (e quindi contestabili) forniscono adeguate garanzie costituzionali; solo il software libero garantisce che l'implementazione sia confrontabile con l'algoritmo :-)
ma non sono sicura di comprenderne fino in fondo le implicazioni. Per un non addetto ai lavori, per una persona che non ha le assai specifiche e costose competenze matematiche o informatiche necessarie a valutare il rapporto tra gli algoritmi e loro messa in opera in programmi di gestione delle popolazioni, che cosa significa, davvero, questa affermazione?
Immagina di non sapere leggere, scrivere e contare. Immagina che la stessa cosa valga per la maggioranza della popolazione. Immagina che valga anche per i politici, i giudici, gli avvocati. Un bel giorno una casta di persone che sanno leggere, scrivere e contare iniziano a vendere i loro servizi a tutti, dallo Stato al pescivendolo. Questa è la situazione attuale dell'Informatica. La barriera di ingresso a questa casta non è determinata da conoscenze segrete. La casta adotta RELIGIOSAMENTE strumenti assolutamente primitivi e inutilmente complicati per rendere enormemente frustrante la vita dei propri membri, così da far apparire la propria materia "specialistica e complicata" e ridurre automaticamente la diffusione della conoscenza stessa.
Significa che in un sistema di pubblicità degli algoritmi, il controllo incrociato (ma invisibile ai più) da parte di addetti ai lavori opera come effettivo organismo di controllo sul rapporto tra algoritmo,sua implementazione, e suo significato politico?
Assolutamente no. Nel 2016 https://www.businessinsider.com/npm-left-pad-controversy-explained-2016-3?IR... Nel 2018 https://www.theregister.co.uk/2018/11/26/npm_repo_bitcoin_stealer/ Non c'è alcun controllo incrociato da parte degli addetti ai lavori. La maggior parte dei membri della casta non legge nemmeno il codice che usa. E GUAI a leggerlo! Non sarai mica un hacker! ;-)
O significa che vanno creati organismi di addetti ai lavori che possano dare sufficienti garanzie sul modo in cui gli algoritmi vengono creati e utilizzati?
Non voglio sembrarti pedante, ma gli "algoritmi" esistono solo nella mente di chi li conosce. Sono "informazioni", idee comunicabili ad altri esseri umani attraverso un linguaggio. Un algoritmo non è diverso da un numero. E' astratto, intangibile e perfetto. E utile SOLO a comunicare e ragionare. Il _software_ invece esiste nella realtà e rappresenta una serie di algoritmi. Viene scritto da esseri umani FALLIBILI e ne riproduce sistematicamente gli errori. Visto lo stadio embrionale dell'informatica moderna, direi che nessuna organizzazione di addetti ai lavori potrebbe fornire alcuna garanzia socialmente UTILE su un software. Al massimo un organizzazione del genere, se fornita di budget superiori a quelli di coloro che realizzano un software, potrebbe verificare che questo corrisponde alle specifiche dichiarate dai programmatori in alcune condizioni (build riproducibili, sorgenti disponibili, etc...) e (con un po' di fortuna) evidenziarne alcuni errori in situazioni inaspettate.
Significa che nella società digitale e del controllo, il controllo critico che i cittadini (e le istituzioni che essi eleggono) dovrebbero poter esercitare sulle politiche pubbliche, sia a livello decisionale che amministrativo, deve essere delegato per default a chi ha le capacità tecniche di esercitarlo?
Questo è quello che di fatto sta avvenendo. Non te ne accorgi ancora perché è un processo invisibile a chi non ha le competenze per parteciparvi. L'alternativa sarebbe insegnare A TUTTI a leggere, scrivere e contare. ;-) Ma è impossibile! E se lo dice il Faraone, voglio dire... questione chiusa!
E se è così, quali sono le conseguenze di questa condizione sui sistemi democratici e sull'idea stessa di democrazia?
Democrazia? :-D In una democrazia la Scuola è più importante del Parlamento. Perché il popolo è più importante di coloro che elegge.
E in assenza della possibilità di conoscere, comprendere e valutare il significato degli algoritmi e del loro uso, cosa dovrebbe convincere i cittadini a fidarsi delle procedure, delle istituzioni, e del controllo degli esperti?
Niente. Assolutamente niente. E non sto esagerando, purtroppo. Giacomo