Ciao Alessandro, alessandro marzocchi <alemarzoc@gmail.com> writes: [...]

Domando: Giovanni, qui conosciuto come 380°, chiedendo < che il software … sia «free software by default»> pensa ad una caratteristica di “apertura” affinché il maggior numero di persone (non tutti, ahi noi) capisca come funziona, quali conseguenze ha ogni comando?

Non solo, che sia in grado di modificare il software, ecc. ecc; le quattro libertà del software libero insomma Nel caso di software utilizzato da enti/istituzioni che gestiscono "cosa pubblica" o "valutano" i cittadini, nel senso più ampio possibile, significa avere o no la possibilità di partecipare alla /vita politica/ dello stato attraverso il software che lo /governa/, quindi poter leggere il sofware come si legge qualsiasi altra norma e se del caso anche proponendo "emendamenti" in modo analogo a come si fa in parlamento

Se è questa l’intenzione di Giovanni, il software che auspica ha quasi tutte le caratteristiche essenziali dell’alfabeto

No, dei codici (pun intended) :-)

e dovrebbe evitare molti difetti dell’IA, ammesso che sia applicabile all’IA, cosa che ignoro totalmente.

Il problema specifico della IA è che il software prodotto attraverso machine learning non è mai in formato sorgente, non può essere mai compreso, è sempre /inesplicabile/... ma il software che implementa il machine learning sì, così come tutto il resto (dati, processo di selezione, ecc.) che serve per "generare l'AI"

Ma … Giovanni ha anche istillato un dubbio, oppure ha dato una certezza: < ah quante cose si possono fare potendo analizzare gli algoritmi! >.

É una certezza :-)... e te lo dimostro: la tua è una citazione da un mio messaggio nel thread «The 1960s Experiment Created Today’s Biased Police Surveillance» [1]; il frammento di algoritmo descritto nell'estratto di articolo che avevo riportato è «homicide, rape, burglary, larceny, and auto theft were weighted with a score of four»: da giurista mi puoi confermare che /tecnicamente/ si tratta di una enorme sciocchezza? Ecco cosa intendo quindi con la mia affermazione: avendo a disposizione l'algoritmo, le persone con adeguata competenza possono giudicarne l'adeguatezza del modello a rappresentare la (ristrettissima) realtà che /misurano/ attraverso i parametri che trattano, come la "classe di reato" in questo caso. Potendo conoscere tutto l'algoritmo, poi, si potrebbe analizzare l'adeguatezza dei parametri scelti, la loro valorizzazione ("score four" di cui sopra), i "dataset" pre-esistenti utilizzati e altre considerazioni metodologiche. Per esempio, leggendo l'articolo del "1960s Experiment" emerge anche un aspetto che a mio modesto avviso è alla base dei "pregiudizi raziali algoritmici": la sostituzione del censo con la "razza" (etnia), per cui molti "reati economici dei poveri" commessi dai poveri venivano (sono?) attribuiti a neri e ispanici... nelle metropoli USA: e a Rio de Janeiro [2]?!? Insomma, conoscendo tutto l'argoritmo sarebbe possibile analizzare se è stato commesso uno dei non rari abusi statistici [3]; su questo fermiamoci qui perché andremmo OT, ma il nocciolo è davvero /tutto/ qui.

Quanti possono analizzare gli algoritmi?

Tutti coloro che hanno sanno interpretare la lingua nella quale sono scritti gli algoritmi; /non/ sto parlando di linguaggi di programmazione: un algoritmo può essere (de)scritto in un linguaggio simbolico formale (flowchart [4]) o informale, per esempio una descrizione dettagliata, in italiano, di come svolgere un processo e quali input/output sono coinvolti. Un programma sorgente scritto in un linguaggio di programmazione è "solo" uno degli innumerevoli modi di /trascrivere/ un algoritmo in modo tale che poi, compilandolo, possa essere eseguito dal computer; già solo nel processo di trascrizione di un algoritmo in codice sorgente il programmatore può introdurre errori o male interpretare l'algoritmo; a volte i programmatori addirittura saltano la scrittura dell'algoritmo - che hanno in testa, non formalizzato - e passano a scrivere direttamente il codice.

Nel contesto alfabetico, alla sola condizione di essere alfabetizzata ogni persona si rende conto che “a” è a, che “b” è b e così via.

Il concetto di alfabetizzazione va ben oltre il suo significato etimologico, nell'interpretazione più basilare è il grado di sviluppo delle capacità personali di lettura e scrittura.

Il contesto digitale è post-alfabetico, ed è molto più problematica la verifica che “a” è a, che “b” è b e così via.

Sì ma /solo/ perché una volta compilato un programma tutto quello che ho a disposizione è in formato binario e da quello non si può leggere proprio un bel nulla, letteralmente stavolta.

Torniamo ad una condizione analoga a quella degli scriba dell'antico Egitto?

Nel caso del software binario, peggio: entriamo in un "buco nero", un mondo letteralmente inesplorabile e /inesplicabile/ per gli esseri umani, perfino per i più geni dei programmatori, il mondo del codice macchina; ecco perché serve il codice (sorgente) anche solo per comprendere il senso di un programma

Credo che i problemi nascano da qui: nel contesto alfabetico la persona (diventata “agente umano”) può verificare direttamente senza mediazioni, questo non accade nel contesto digitale nel quale ogni persona “NECESSARIAMENTE” deve accettare una delega di conoscibilità.

Non nel caso il codice sorgente sia disponibile, nel qual caso la persona deve "solo" conoscere il linguaggio di programmazione nel quale è scritto e così può trattare il codice in modo del tutto analogo a come noi possiamo trattare qualsiasi altro codice (codex). [...] Ciao, 380° [1] https://server-nexa.polito.it/pipermail/nexa/2022-November/024396.html [2] https://medium.com/analytics-vidhya/crime-analysis-in-rio-de-janeiro-b0d6f90... (ho preso il primo articolo a caso tra quelli che ho trovato rilevanti) [3] https://en.wikipedia.org/wiki/Misuse_of_statistics [4] https://en.wikipedia.org/wiki/Flowchart -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.