From: "Marco A. Calamari" <
marcoc_maillist@marcoc.it>
To: Giuseppe Attardi <
attardi@di.unipi.it>
Cc: nexa <
nexa@server-nexa.polito.it>
Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria
sospesa se OpenAI adotterà le misure richieste.
Message-ID: <
30f3307e59e5f58b6be236672aeaa5258adae837.camel@marcoc.it>
Content-Type: text/plain; charset="utf-8"
On dom, 2023-04-16 at 20:01 +0200, Giuseppe Attardi wrote:
On 16 Apr 2023, at 11:58, Marco A. Calamari <marcoc_maillist@marcoc.it>
wrote:
On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote:
Questa risposta è talmente grossolana e offensiva che speravo qualcun
altro rispondesse.
Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la
condividano.
Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o
anche d'accordo, perché no?) rispondano.
Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca
dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di
tecnocontrollo e geopolitica.
Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei
sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione
fredda”
Ossia assimili l’AI alla “fusione fredda”, una tecnologia quella sì davvero
inesistente.
Caro Giuseppe, non credo che al mondo esista qualcuno che non abbia sentito che
la "Fusione Fredda" non esiste, ed
è stato un discorso parascientifico.
Nemmeno credo che ti sfugga che non potrei permettermi, professionalmente, di
non conoscere la questione nei dettagli.
Ma nella sostanza hai perfettamente ragione.
Affermo proprio, ormai da tempo, che l'"Intelligenza" nel campo
dell'"Intelligenza Artificiale", e la "fusione fredda"
condividono la categoria della "non esistenza"
Ed essendo il tempo prezioso, ritengo di essere stato chiaro, e di aver rubato
ai colleghi di lista anche troppo tempo.
Grazie. Marco
— Beppe
Il tempo è la risorsa più limitata al mondo.
JM2EC. Buona domenica a tutti. Marco
L’Artificial Intelligence esiste ed è una delle principali discipline
della Computer Science.
Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto
il mondo.
Il fatto che la Commissione Europea l’abbia ignorata nei suoi
finanziamenti, dimostra la sua miopia, non la sua furbizia.
Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il
fiorire di innovazioni che sta portando l’AI.
Occupandosi di uno dei problemi più complessi dell’informatica, ossia la
riproduzione delle capacità della mente umana, l’AI si è dovuta spesso
scontrare coi limiti della tecnologia.
Ma chi se ne occupava si è sempre ingegnato per superarli.
Infatti, gran parte delle tecnologie informatiche che oggi sono di uso
comune, sono nate in ambito AI.
Ad esempio:
- linguaggi funzionali
- garbage collection
- linguaggi a oggetti
- interfacce grafiche
- interfacce di sviluppo integrate (IDE)
- Map/reduce per elaborazione parallela
- animazione 3D
- sistemi operativi
Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per
il gioco degli scacchi.
Il movimento del Free Software fu lanciato da Richard Stallman, che
lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp
Machine.
Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere
il rammarico che le più significative innovazioni dell’AI venissero spesso
attribuite ad altri.
Many of AI's greatest innovations have been reduced to the status
of just another item in the tool chest of computer science. Nick Bostrom
explains "A lot of cutting edge AI has filtered into general applications,
often without being called AI because once something becomes useful enough
and common enough it's not labeled AI anymore.”
https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170744130138496&URLID=5&ESV=10.0.19.7431&IV=39E271DE6D007B61BCB65204548D32FB&TT=1681717454207&ESN=I0diZrOdT5qHx2LftlHWKa2tX%2Br4bcYcYOwsP73sVf8%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9lbi53aWtpcGVkaWEub3JnL3dpa2kvSGlzdG9yeV9vZl9hcnRpZmljaWFsX2ludGVsbGlnZW5jZSNBSV9iZWhpbmRfdGhlX3NjZW5lcw&HK=FC75E0B47534CB2596C341D9CE7EFBF1376742B74D10BE7A208AEC28B88DE90F
la ricerca di cui abbiamo bisogno
non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come
allucinazione collettiva) ma sulla programmazione statistica
L’AI copre aree più vaste della “programmazione statistica”.
Il confronto con la blockchain è offensivo: quella è una tecnologia in
cerca di applicazioni, basata su un singolo articolo.
Non può essere comparata con una disciplina scientifica con 50 anni di
ricerca alle spalle e migliaia di ricercatori coinvolti.
In Europa arranchiamo solo perché inseguiamo, invece di guidare.
Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui
abbiamo scarso controllo?
— Beppe
On 14 Apr 2023, at 17:33, nexa-request@server-nexa.polito.it wrote:
From: Giacomo Tesio <giacomo@tesio.it>
To: Giuseppe Attardi <attardi@di.unipi.it>
Cc: Stefano Maffulli <smaffulli@gmail.com>,
"nexa@server-nexa.polito.it" <nexa@server-nexa.polito.it>
Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria
sospesa se OpenAI adotterà le misure richieste.
Message-ID: <20230414165246.00001237@tesio.it>
Content-Type: text/plain; charset=utf-8
On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote:
On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo@tesio.it> wrote:
Beh, è facile concordare sui finanziamenti alla ricerca.
Talmente facile che non viene fatto.
La voce “Intelligenza Artificiale” non era nemmeno presente nei
progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati
stanziati 50 milioni per 5 progetti ICT-48.
Vuoi dire che l'hanno messa?
Bah... che posso dire, farà il paio con la blockchain!
Il fatto che la voce "Intelligenza Artificiale" non fosse presente
lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno
non riguarda l'"Intelligenza Artificiale" (che non esiste, se non
come allucinazione collettiva) ma sulla programmazione statistica
cui troppi, non comprendendone il funzionamento, attribuiscono
una qualche forma di "intelligenza".
Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di
programmazione statistica che producano risultati più affidabili!
Ma ben vengano anche finanziamenti alla ricerca di nuovi framework
interpretativi di queste tecnologie, un po' meno allucinati e
allucinogeni! :-D
Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha
presentato le tesi del suo libro "La rivoluzione informatica", Juan
Carlos ha detto una cosa importantissima:
"sicuramente non esiste indipendenza, non esiste sovranità, senza la
possibilità di controllare, produrre e sviluppare tutte le tecnologie
fondamentali che servono per una società moderna"
Condivido pienamente il concetto.
Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa
significa "società moderna"? chi decide quali siano le tecnologie
fondamentali che servono per realizzarla?
In Europa arranchiamo solo perché inseguiamo, invece di guidare.
I software della Silicon Valley sono progettati per realizzare una
specifica idea di società. Dobbiamo davvero competere con loro, solo
se vogliamo imporre all'Europa esattamente quella idea di società
(e vogliamo farlo meglio di loro).
Ma se decidessimo invece di provare a creare una società democratica,
libera ed equa, di quali strumenti avremmo bisogno?
PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni
a posteriori dei risultati degli attuali sistemi di ML, semplicemente
non funzionano, perché non scalano alle dimensiini di modelli
costituiti da miliardi di parametri. Del resto, se esistesse una
spiegazione semplice e comprensibile per un problema complesso e
difficile, il problema non sarebbe complesso e difficile.
Ecco un'evidenza concreta dei gravi danni che la narrazione della
"Intelligenza Artificiale" causa alla ricerca scientifica.
Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice
(ancorché estremamente costoso) di non aver selezionato scientemente il
dataset in modo da causare specifiche discriminazione.
Non ho mai detto che ciò garantisca l'assenza di discriminazioni.
Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo,
ma non rimuove la responsabilità per i danni causati dal software.
D’altra parte, con le tecniche di prompting cone il Chain of Thought,
si può chiedere agli stessi modelli come ChatGPT di fornire un filo
logico dei passaggi che hanno portato alla risposta.
Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione.
ChatGPT può sicuramente produrre una stringa di testo che la tua mente
interpreti come una valida GIUSTIFICAZIONE di un proprio output.
Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale
output sia stato calcolato.
Il calcolo effettuato potrebbe essere del tutto diverso: nessun
informatico (o scienziato) con un minimo di serietà potrebbe
accontentarsi di una tale giustificazione NON VERIFICABILE.
Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro
l'obiettivo: non ci interessa trovare un'argomentazione più o meno
soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli
si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato
preso in considerazione durante l'elaborazione E COSA NO, nonché capire
ESATTAMENTE come.
Giacomo
[1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304141533570286231&URLID=6&ESV=10.0.19.7431&IV=85A21F91AA19B8E6B5ADDD564190D4A8&TT=1681486437666&ESN=oJcAsb2UnF2YJrNzhy0Xrz3bzijySAnP5cmwB26XqoI%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9pbnYuYnAucHJvamVjdHNlZ2ZhdS5sdC93YXRjaD92PUU3U01aNFdiRzFj&HK=695CA8D99D8E0BA0FDC5E702A7ECB30DB353F20F9120CBBCC61428876DAD39E4