----- Original Message -----
Sent: Saturday, December 07, 2024 10:31
AM
Subject: Re: [nexa] Boston Review: "The
AI We Deserve"
È apprezzabile che qualcuno si esprima in termini positivi e non
soltanto critici sulle potenzialità dell’AI.
Morozov inizia raccontanto il suo stupore per la sua esperienza
con la Generative AI:
“Without
knowing a line of code, I recently pieced together an app that taps into three
different AI-powered services, creating custom short stories iwith
native-speaker audio. These stories are packed with tricky vocabulary and
idioms tailored to the gaps in my learning.”
Poi
inizia un lunghissimo discorso che riparte da prima delle origini dell’AI, per
dimostrare l’asserto che l’AI è nata per scopi militari e che si porta dietro
questo peccato originale per tutta la sua evoluzione fino ad oggi. Essa
avrebbe uno specifico “telos”, l’obiettivo di rendere efficiente la
burocrazia, eliminando il lavoro umano. Essa sarebbe lo strumento della
Efficiency Lobby, che la utilizza per i fini di efficienza e di dominio dei
mercati, diventando ai giorni nostri funzionale al neoliberismo.
Secondo
lui ci poteva essere un diverso percorso evolutivo e qui si dilunga in
elucubrazioni in cui mescola di tutto, da Herbert Simon a John McCarthy, Jean
Piaget (che lui crede sia un maschio), Seymour Papert, Terry Winograd,
Fernando Flores, Nicholad Negroponte, Thorstein
Veblen, legandoli
attraverso un oscuro articoletto di uno sconosciuto Hans Otto Storm, che
avrebbe proposto l’eolithism:
“Eolithism
posits no predefined problems to solve, no fixed goals to
pursue.”
Ossia
le attività umane e il progresso tecnologico avvengono per esplorazione
casuale della realtà.
È
vero che l’esplorazione e il serendipity hanno un ruolo importante, ma
ampiamente sottovalutato nel modo con cui oggi si impostano i finanziamenti
alla ricerca, finalizzati attraverso progetti con obiettivi predeterminati e
valutati a priori con i vituperabili KPI.
La
lunghezza e articolazione del testo di Morozov, oltre alla difficoltà di
riconoscere un chiaro filo conduttore, possono essere spiegati in due
modi:
a.
Si tratta di un tipico scritto erudito da filosofo, il cui scopo è soprattutto
dimostrare la propria erudizione infarcendolo di citazioni
b.
È stato scritto con ChatGPT.
Francamente
la tesi che l’AI si sia sviluppata per le finalità di efficienza e di dominio
militare ipotizzate la trovo completamente assurda.
Ho
lavorato per 4 decenni sull’AI partecipando a congressi e incontrando tutte le
generazioni di studiosi che ci hanno lavorato, conoscendo di persona John
McCarthy, Marvin Minsky, Seymour Papert, Terry Winograd, Nicholas Negroponte,
oltre ad Alan Kay, l’inventore del PC. Gli ultimi due furono i promotori del
citato progetto “One Laptop Per Child”, che Alan Kay presentò in anteprima a
Pisa quando gli conferimmo la laurea in Informatica Honoris Causa nel
2007.
Posso
garantire che nessuno ha mai pensato che l’AI avesse l’obiettivo primario
dell’efficienza. L’impegno era quello di capire come fare ad ottenere macchine
che svolgessero compiti intelligenti, affrontando questioni fondamentali di
logica, rappresentazione della conoscenza, ragionamento, pianificazione,
percezione, attuazione.
In
particolare proprio Alan Kay concepiva il PC come strumento per aumentare le
capacità umane, pensandolo proprio come strumento da fornire proprio ai
ragazzi per le loro esplorazioni e libera espressione, con precisi riferimenti
a Piaget e Papert.
Che
i finanziamenti alla ricerca su AI venissero dalla DARPA, era dovuto proprio
alla difficoltà di fare accettare la disciplina dagli altri settori che
dominavano le commissioni di finanziamento della NSF. Senza dimenticare che fu
proprio la pesante critica di Dreyfus che portò al primo AI Winter, col blocco
dei finanziamenti alla ricerca. In seguito subentrarono le aziende a
finanziare i progetti nel periodo degli Expert System, che erano sì visti da
loro come mezzi per risolvere problemi complessi in applicazioni commerciali.
Ma anche quella vena di finanziamento si esaurì provocando il secondo AI
Winter.
Ciononostante
le ricerche continuarono, anche seppur sottofinanziate e spesso mascherate
sotto altro nome: Knowledge Representation, Information Retrieval, Soft
Computing ecc.
Va
anche ricordato che Geoff Hinton, oggi onorato col Nobel come padre delle reti
neurali, dovette lasciare Carnegie Mellon perché non trovava finanziamenti per
le sue ricerche, rifugiandosi in Canada.
Di
recente, sono subentrati i massicci finanziamenti delle Big Tech prima alla
ricerca e poi alle infrastrutture per il training e il deployment dei
LLM.
Questa
è la vera anomalia e preoccupante deriva dell’attuale AI: la concentraziine in
pochi attori dominanti per potere tecnologico e
finanziario.
Non
ha alcun senso parlare di eolithism come possibile percorso
alternativo.
L’unica
strada è quella di democratizzare l’AI, ossia di mettere a disposizione di
tutti la possibilità di svilupparla ed utilizzarla per i propri fini, non solo
per quelli del mercato.
Che
le aziende si impadroniscano di ogni tecnologia per i loro propri fini che
sono il profitto tramite l’efficienza è normale, ma si ribaltano i termini se
si afferma che l’AI è stata orienata all’efficienza.
L’AI
è una disciplina scientifica che ha tra i suoi obiettivi quella di comprendere
e replicare i meccanismi che la mente umana utilizza per svolgere le sue
funzioni. Che sono funzioni disparate, che includono la percezione, il
ragionamento, la comprensione, l’astrazione, la pianificazione, l’attuazione,
ecc. ma anche compiti creativi come il racconto, la musica, il disegno, la
programmazione. L’uomo stesso usa queste capacità per svolgere in maniera più
efficiente i suoi compiti, ma non diremmo che il suo comportamento è guidato
dalla Efficiency Lobby.
Tra
l’altro, Fernando Flores e Terry Einograd, dopo la tragica conclusione del
governo Allende, collaborarono costituendo un’azienda di consulenza privata,
che proponeva una metodologia di analisi e di riorganizzazione dei processi
aziendali, basata sugli Speech Act, ossia sulla classificazione delle
interazioni tra i vari ambiti dell’attività aziendale, come espressioni
liguistiche di intenti. Anche in quel caso dunque il loro lavoro sarebbe stato
da catalogare come asservito alla Efficiency Lobby.
Comunque,
mi sono sforzato di arrivare in fondo all’articolo di Morozov per capire quale
sia la proposta di AI che lui vorrebbe.
Purtroppo
la conclusione è assolutamente deludente:
“The
real challenge lies in cultivating the right Weltanschauung—this
app does wonders!—grounded in ecological reason. On this score, the ability of
AI to run ideological interference for the prevailing order, whether
bureaucracy in its early days or the market today, poses the greatest
threat.”
Qui addirittura si attribuisce all’AI dei poteri sulla realtà che
non può avere nessuna tecnologia, ma al massimo chi la usa. Quale siano poi
queste minacce, non è dato sapere.
In tal caso bisogna additare chi sono i responsabili di tali
minacce e a quali eventuali pericoli esse possano condurre.
—
On 6 Dec 2024, at 10:37,
nexa-request@server-nexa.polito.it wrote:
https://www.bostonreview.net/forum/the-ai-we-deserve/
Critiques
of artificial intelligence abound. Where’s the utopian vision
for what it could
be?
Evgeny Morozov