Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste
Faccio fatica a seguire il tuo ragionamento. Non era quindi un distinguo il tuo:
Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la condividano.
Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o anche d'accordo, perché no?) rispondano.
in quanto adesso ti dichiari d’accordo con Tesio. Se volevi evitare di farci perdere tempo, potevi semplicemente stare zitto. — Beppe
On 17 Apr 2023, at 09:44, nexa-request@server-nexa.polito.it wrote:
From: "Marco A. Calamari" <marcoc_maillist@marcoc.it <mailto:marcoc_maillist@marcoc.it>> To: Giuseppe Attardi <attardi@di.unipi.it <mailto:attardi@di.unipi.it>> Cc: nexa <nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. Message-ID: <30f3307e59e5f58b6be236672aeaa5258adae837.camel@marcoc.it <mailto:30f3307e59e5f58b6be236672aeaa5258adae837.camel@marcoc.it>> Content-Type: text/plain; charset="utf-8"
On dom, 2023-04-16 at 20:01 +0200, Giuseppe Attardi wrote:
On 16 Apr 2023, at 11:58, Marco A. Calamari <marcoc_maillist@marcoc.it <mailto:marcoc_maillist@marcoc.it>> wrote:
On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote:
Questa risposta è talmente grossolana e offensiva che speravo qualcun altro rispondesse.
Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la condividano.
Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o anche d'accordo, perché no?) rispondano.
Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di tecnocontrollo e geopolitica.
Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione fredda” Ossia assimili l’AI alla “fusione fredda”, una tecnologia quella sì davvero inesistente.
Caro Giuseppe, non credo che al mondo esista qualcuno che non abbia sentito che la "Fusione Fredda" non esiste, ed è stato un discorso parascientifico.
Nemmeno credo che ti sfugga che non potrei permettermi, professionalmente, di non conoscere la questione nei dettagli.
Ma nella sostanza hai perfettamente ragione.
Affermo proprio, ormai da tempo, che l'"Intelligenza" nel campo dell'"Intelligenza Artificiale", e la "fusione fredda" condividono la categoria della "non esistenza"
Ed essendo il tempo prezioso, ritengo di essere stato chiaro, e di aver rubato ai colleghi di lista anche troppo tempo.
Grazie. Marco
— Beppe
Il tempo è la risorsa più limitata al mondo.
JM2EC. Buona domenica a tutti. Marco
L’Artificial Intelligence esiste ed è una delle principali discipline della Computer Science. Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto il mondo. Il fatto che la Commissione Europea l’abbia ignorata nei suoi finanziamenti, dimostra la sua miopia, non la sua furbizia. Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il fiorire di innovazioni che sta portando l’AI.
Occupandosi di uno dei problemi più complessi dell’informatica, ossia la riproduzione delle capacità della mente umana, l’AI si è dovuta spesso scontrare coi limiti della tecnologia. Ma chi se ne occupava si è sempre ingegnato per superarli. Infatti, gran parte delle tecnologie informatiche che oggi sono di uso comune, sono nate in ambito AI. Ad esempio:
- linguaggi funzionali - garbage collection - linguaggi a oggetti - interfacce grafiche - interfacce di sviluppo integrate (IDE) - Map/reduce per elaborazione parallela - animazione 3D - sistemi operativi
Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il gioco degli scacchi. Il movimento del Free Software fu lanciato da Richard Stallman, che lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp Machine.
Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere il rammarico che le più significative innovazioni dell’AI venissero spesso attribuite ad altri.
Many of AI's greatest innovations have been reduced to the status of just another item in the tool chest of computer science. Nick Bostrom explains "A lot of cutting edge AI has filtered into general applications, often without being called AI because once something becomes useful enough and common enough it's not labeled AI anymore.”
https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170744130138496...
la ricerca di cui abbiamo bisogno non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come allucinazione collettiva) ma sulla programmazione statistica L’AI copre aree più vaste della “programmazione statistica”.
Il confronto con la blockchain è offensivo: quella è una tecnologia in cerca di applicazioni, basata su un singolo articolo. Non può essere comparata con una disciplina scientifica con 50 anni di ricerca alle spalle e migliaia di ricercatori coinvolti.
In Europa arranchiamo solo perché inseguiamo, invece di guidare.
Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui abbiamo scarso controllo?
— Beppe
On 14 Apr 2023, at 17:33, nexa-request@server-nexa.polito.it <mailto:nexa-request@server-nexa.polito.it> wrote:
From: Giacomo Tesio <giacomo@tesio.it <mailto:giacomo@tesio.it>> To: Giuseppe Attardi <attardi@di.unipi.it <mailto:attardi@di.unipi.it>> Cc: Stefano Maffulli <smaffulli@gmail.com <mailto:smaffulli@gmail.com>>, "nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste. Message-ID: <20230414165246.00001237@tesio.it <mailto:20230414165246.00001237@tesio.it>> Content-Type: text/plain; charset=utf-8
On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote:
> On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo@tesio.it <mailto:giacomo@tesio.it>> wrote: > > Beh, è facile concordare sui finanziamenti alla ricerca.
Talmente facile che non viene fatto.
La voce “Intelligenza Artificiale” non era nemmeno presente nei progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati stanziati 50 milioni per 5 progetti ICT-48.
Vuoi dire che l'hanno messa? Bah... che posso dire, farà il paio con la blockchain!
Il fatto che la voce "Intelligenza Artificiale" non fosse presente lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come allucinazione collettiva) ma sulla programmazione statistica cui troppi, non comprendendone il funzionamento, attribuiscono una qualche forma di "intelligenza".
Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di programmazione statistica che producano risultati più affidabili!
Ma ben vengano anche finanziamenti alla ricerca di nuovi framework interpretativi di queste tecnologie, un po' meno allucinati e allucinogeni! :-D
Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha presentato le tesi del suo libro "La rivoluzione informatica", Juan Carlos ha detto una cosa importantissima:
"sicuramente non esiste indipendenza, non esiste sovranità, senza la possibilità di controllare, produrre e sviluppare tutte le tecnologie fondamentali che servono per una società moderna"
Condivido pienamente il concetto.
Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa significa "società moderna"? chi decide quali siano le tecnologie fondamentali che servono per realizzarla?
In Europa arranchiamo solo perché inseguiamo, invece di guidare.
I software della Silicon Valley sono progettati per realizzare una specifica idea di società. Dobbiamo davvero competere con loro, solo se vogliamo imporre all'Europa esattamente quella idea di società (e vogliamo farlo meglio di loro).
Ma se decidessimo invece di provare a creare una società democratica, libera ed equa, di quali strumenti avremmo bisogno?
PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni a posteriori dei risultati degli attuali sistemi di ML, semplicemente non funzionano, perché non scalano alle dimensiini di modelli costituiti da miliardi di parametri. Del resto, se esistesse una spiegazione semplice e comprensibile per un problema complesso e difficile, il problema non sarebbe complesso e difficile.
Ecco un'evidenza concreta dei gravi danni che la narrazione della "Intelligenza Artificiale" causa alla ricerca scientifica.
Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice (ancorché estremamente costoso) di non aver selezionato scientemente il dataset in modo da causare specifiche discriminazione. Non ho mai detto che ciò garantisca l'assenza di discriminazioni.
Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, ma non rimuove la responsabilità per i danni causati dal software.
D’altra parte, con le tecniche di prompting cone il Chain of Thought, si può chiedere agli stessi modelli come ChatGPT di fornire un filo logico dei passaggi che hanno portato alla risposta.
Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione.
ChatGPT può sicuramente produrre una stringa di testo che la tua mente interpreti come una valida GIUSTIFICAZIONE di un proprio output.
Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale output sia stato calcolato.
Il calcolo effettuato potrebbe essere del tutto diverso: nessun informatico (o scienziato) con un minimo di serietà potrebbe accontentarsi di una tale giustificazione NON VERIFICABILE.
Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro l'obiettivo: non ci interessa trovare un'argomentazione più o meno soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato preso in considerazione durante l'elaborazione E COSA NO, nonché capire ESATTAMENTE come.
Giacomo
[1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304141533570286231...
participants (1)
-
Giuseppe Attardi