Posso rispondere per esperienza.
L'algoritmo supplenze "del MIM" (che poi è una leggera modifica di un algoritmo americano) ha stravolto il processo di reclutamento dei docenti delle scuole primarie, secondarie e di sostegno abolendo nei fatti:
- il criterio di merito (docenti MENO meritevoli ottengono supplenze al posto di docenti più meritevoli);
- il diritto alla continuità didattica dei discenti (con le convocazioni in presenza il docente tendeva a fare ogni sforzo per restare nella stessa sede, soprattutto se di sostegno)
L'esempio del processo penale telematico è ancora più agghiacciante, se possibile.
Quindi, come dice Lessig e qualcuno ha già ricordato prima, "code is law".
Per questo la politica dovrebbe intervenire nelle segrete stanze in cui il codice è scritto e in quelle più segrete ancora dove se ne detta il design. Interessante anche l'assonanza che non mi pare casuale tra "dettare il design" e "essere un dittatore". Giuro che l'ho scritto di getto, ma rileggendo il mio cervello ha richiamato automaticamente alla mente l'immagine del mascellone di Musk (ma Zuckerberg col suo ricciolo sbarazzino non è da meno, come faceva giustamente notare Juan Carlos nel suo articolo sul Manifesto).
Quanto all'osservazione che il problema non è la tecnologia, ma la burocrazia: credo si tratti di distorsioni dovute al sistema di riferimento da cui possiamo osservare il problema. Personalmente mi convince la visione di Lewis Mumford (richiamata con altre parole anche dal prof. McQuillan quando parla di intelligenza artificiale): il problema è la megamacchina, ossia l'apparato costituito da ideologia (tecnoentusiasmo, soluzionismo, culto del dato), burocrazia (intesa come amministrazione del potere) e tecnologia (intesa come la intende Giacomo, applicata nel mondo reale). Quando queste tre cose si allineano si manifesta quello che qualcuno ha chiamato giustamente "il mostro" (il Leviatano?).
Stefano
lunedì 13 gennaio 2025 16:06, alessandro marzocchi <alemarzoc@gmail.com> ha scritto:
Il programma informatico può imporre comportamenti non previsti da leggi?
Cordialmente.
Duccio (Alessandro Marzocchi)
Send nexa mailing list submissions to
nexa@server-nexa.polito.it
To subscribe or unsubscribe via the World Wide Web, visit
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
or, via email, send a message with subject or body 'help' to
nexa-request@server-nexa.polito.it
You can reach the person managing the list at
nexa-owner@server-nexa.polito.it
When replying, please edit your Subject line so it is more specific
than "Re: Contents of nexa digest..."
Today's Topics:
1. Re: Esistono "tecnologie" "politicamente neutrali"?
(Benedetto Ponti)
----------------------------------------------------------------------
Message: 1
Date: Mon, 13 Jan 2025 14:29:41 +0000
From: Benedetto Ponti <benedetto.ponti@unipg.it>
To: Michele Molè <michele.mole@protonmail.com>
Cc: "nexa@server-nexa.polito.it" <nexa@server-nexa.polito.it>
Subject: Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?
Message-ID: <194BB9F9-63EE-4E4E-BEE9-4F10FDDBFF41@unipg.it>
Content-Type: text/plain; charset="utf-8"
Gent.mo collega, caro Michele,
Grazie a te per la segnalazione: mi pare che osserviamo il medesimo fenomeno, e lo interpretiamo in modo analogo, sebbene in due casi diversi (ma accomunati da elementi molto significativi, a cominciare dall’esercizio del potere “giuridificato”, quello pubblico/amministrativo e quello datoriale, e l’applicazione dell’AI come ausilio all’esercizio di tale potere).
Non appena l’ultore pubblicazione sarà finalizzata, te ne girerò i riferimenti.
Un caro saluto
Benedetto Ponti
[firma nuova mail_3 2.png]
Il giorno 13 gen 2025, alle ore 15:21, Michele Molè <michele.mole@protonmail.com> ha scritto:
Molto interessante e idea su cui mi ritrovo appieno! Sono giunto alla stessa conclusione per quanto riguarda certe applicazioni di AI nei contesti di lavoro; i capi tendono a diventare "meno" capi quando usano sistemi di cui non capiscono nulla per gestire la forza lavoro (e di cui sono solo in grado di apprezzare i risultati). Non l'ho chiamata AI reale ma Commodified, Outsourced Authority: https://doi.org/10.6092/issn.1561-8048/20836
È un dibattito molto interessante e se la lista ulteriori consigli di lettura a riguardo (come pure de feedback) apprezzerei molto!
Un caro saluto
Michele
On Monday, 13 January 2025 at 12:26, Benedetto Ponti via nexa <nexa@server-nexa.polito.it> wrote:
Solo a titolo di notizia, e per contribuire al dibattito in questione,
Di recente ho cominciato a ragionare sull’idea che "l’AI reale” (cioè, quella effettivamente realizzata) sia intrinsecamente neoliberista.
L’ho fatto qui: https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/view/264
E a breve tornerò a farlo, in una collettanea di prossima uscita, ampliando un po’ il discorso ed i riferimenti (mi pare che la critica della scuola di Francoforte alla razionalità strumentale sia centrale, sotto questo profilo, ed in linea con alcune delle tesi già affacciate nelle mail precedenti).
Un caro saluto a tutti
Benedetto Ponti
<firma nuova mail_3 2.png>
Il giorno 13 gen 2025, alle ore 12:16, Marco Fasoli <mafasos@gmail.com> ha scritto:
Buongiorno,
credo che il tema della neutralità, o meglio della non neutralità delle nuove tecnologie, sia uno dei più attuali e rilevanti.
Mi permetto di allegare un mio articolo di qualche anno fa, sperando che possa essere utile a chi vuole
approfondire la questione.
Cari saluti
Marco Fasoli
On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo@tesio.it<mailto:giacomo@tesio.it>> wrote:
Ciao Giuseppe, Alfredo, Juan Carlos e tutti.
Colgo l'assis di Giuseppe per riportare in lista una discussione che
è proseguita in privato e che potrebbe essere di interesse perché
ricorrente in Nexa.
Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan
Carlos [1], dice esplicitamente:
> la tecnologia non è neutra, contiene dentro di sé un’anima politica
> anche al di là dell’uso che se ne può fare.
Una affermazione che io trovo al limite dell'ovvietà (forse perché creo
tecnologie per mestiere e partecipo alla definizione degli effetti
politici che queste avranno, fino al limite di dichiararmi incapace
di realizzare certi software, qualora li ritenga dannosi per la
società in cui vivranno i miei figli).
Per contro, Giuseppe ed Alfredo sostengono che quanto meno la
maggioranza delle tecnologie sono neutrali e gli effetti sociali e
politici che hanno dipendono esclusivamente dalle scelte di coloro
che le usano.
Si tratta di posizioni antitetiche, che credo possa essere interessante
discutere alla ricerca di una sintesi che le comprenda al proprio
interno e ci fornisca un modello migliore della realtà.
On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote:
> Temo che non siamo d’accordo sul significato di “neutrale” per una
> tecnologia.
Allora perché non provare a partire da definizioni rigorose?
Definiamo "tecnologia" un determinato insieme di artefatti concreti
costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di
"tangibile", non di un'idea astratta, sia essa platonica ("coltellini
svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze
artificiali" etc..).
Naturalmente molte idee (più precisamente, informazioni), e come
vengono descritte / diffuse, hanno profonde implicazioni politiche e
sociali, ma per quanto interessante, l'analisi degli effetti politici
di determinate idee ci porterebbe lontano dai temi della lista.
Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma
delle sue applicazioni concrete.
Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente
orientato politicamente, ovvero che
1. non presuppone alcuna specifica organizzazione sociale
2. non favorisce né sfavorisce alcun uso specifico, non favorendo o
sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo
Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non
sono neutrali per il secondo punto, lo sono anche per il primo, ma non
viceversa.
Una tecnologia che presuppone, ad esempio, un forte accentramento di
ricchezza e potere per essere creata, non è politicamente neutrale per
il primo punto.
Infatti, come minimo, l'esistenza di artefatti tecnologici con tale
caratteristica giustifica e rafforza quella specifica organizzazione
sociale, rendendo la società nel suo complesso dipendente dal
perpetuarsi di tale organizzazione.
Una tecnologia che favorisce certi usi socialmente rilevanti e ne
sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un
coltellino svizzero non è facile da utilizzare come arma, ma incentiva
una cultura del fai da te per piccole riparazioni.
La scheda ethernet o l'automobile sono altri esempi di tecnologie
politicamente orientate da entrambi i punti di vista:
- presuppongono una società industriale per essere prodotte e enormi
investimenti infrastrutturali (strade / cablaggi) per essere utili
- velocizzando le comunicazioni e i trasferimenti, riducono le
distanze, facilitando determinate evoluzioni della società e
ostacolandone altre.
Vi sembrano definizioni ragionevoli?
Se no, perché?
Una volta individuate definizioni esplicite, attinenti e condivise,
potremo ragionare se esistano davvero tecnologie politicamente
neutrali, ovvero che rispondano a tali definizioni, nonché valutare
in modo rigoroso la neutralità di nuove tecnologie.
Giacomo
[1]
https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html
PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo
libero) ti rispondero sul resto della mail nell'altro thread, ma credo
che trovare definizioni condivise e cercare una sintesi sulla questione
della "neutralità della tecnologia" può meritare un thread separato.
<7 Contro lo strumentalismo.pdf>
-------------- next part --------------
An HTML attachment was scrubbed...
URL: <http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/40de8410/attachment.htm>
-------------- next part --------------
A non-text attachment was scrubbed...
Name: firma nuova mail_3 2.png
Type: image/png
Size: 23936 bytes
Desc: firma nuova mail_3 2.png
URL: <http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/40de8410/attachment.png>
------------------------------
Subject: Digest Footer
_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
------------------------------
End of nexa Digest, Vol 189, Issue 36
*************************************