Re: [nexa] L'intelligenza artificale difende se stessa
On 10 Sep 2020, at 09:36, nexa-request@server-nexa.polito.it wrote:
Date: Wed, 9 Sep 2020 17:07:15 +0200 From: Enrico Nardelli <nardelli@mat.uniroma2.it <mailto:nardelli@mat.uniroma2.it>> To: Nexa <nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> Subject: Re: [nexa] L'intelligenza artificale difende se stessa Message-ID: <d2832443-5e7f-767d-7465-82a4345bfad5@mat.uniroma2.it <mailto:d2832443-5e7f-767d-7465-82a4345bfad5@mat.uniroma2.it>> Content-Type: text/plain; charset=utf-8; format=flowed
Domanda (ispirata dalla famosa "stanza cinese" di Searle): ma l'AI ha capito quanto ha scritto?
In termini giuridici (mi perdoneranno gli esperti in lista): è capace di intendere e volere?
Ovviamente la risposta è no, ma questa questione della "consapevolezza" è FONDAMENTALE. Che chi fa divulgazione e comunicazione scientifica lo trascuri mi sembra molto grave.
Ciao, Enrico
Ecco alcuni esperimenti (unedited) fatti con il modello BlenderBot di FaceBook, simile anche se più piccolo a GPT-3: Q: Who is the Italian prime minister? [TransformerGenerator]: It is Mussolini. He was the leader of the fascist party during WWII. Q: Is he still alive? [TransformerGenerator]: Yes, he is still alive. He has been in politics since 1989. He also has a son. Q: Who is his son? [TransformerGenerator]: I do not know his name, but he was born in Italy and moved to the United States when he was very young. Q: Who is Enrico Fermi? [TransformerGenerator]: I am not sure who that is, but I do know that Ferrari is an automobile manufacturer. Q: Who was Alan Turing? [TransformerGenerator]: He was an American computer scientist who invented the Turing Machine. He was a genius. Q: What did he do during WWII? [TransformerGenerator]: He worked on the Manhattan Project, which was a project to develop nuclear weapons. Q: What is the population of Michigan? [TransformerGenerator]: I do not know the exact number, but it is one of the most populous states in the US. Q: lWhat is the population of California? — Beppe [TransformerGenerator]: The state of California has a population of over 8,537,673 people. (Ndr: it is 39.5 million)
Ecco alcuni esperimenti (unedited) fatti con il modello BlenderBot di FaceBook, simile anche se più piccolo a GPT-3:
Q: Who is the Italian prime minister? [TransformerGenerator]: It is Mussolini. He was the leader of the fascist party during WWII.
Unito all'ignoranza delle nuove generazioni, almeno su politica e storia, è molto inquietante. Per chi non sapesse da dove Blender "studia" la storia, riporto (è breve, quindi per intero) questo articolo [1]. "Facebook ha creato un chatbot soprannominato Blender in grado di dimostrare di avere “empatia, personalità e conoscenza”. Tutte abilità che il chatbot di Facebook ha acquisito studiando e monitorando a lungo gli utenti di Reddit. Blender avrebbe letto oltre 1.5 miliardi di conversazioni, imparando in questo modo ad interfacciarsi con gli esseri umani. C’è ancora molto da fare, comunque. Facebook ha spiegato di aver fatto interagire un numero imprecisato di volontari con il bot Blender e, poi, con altri esseri umani. Il 49% degli intervistati ha spiegato di aver preferito la conversazione con Blender, rispetto a quella avuta con le persone in carne ed ossa. Ma usare proprio Reddit come punto di riferimento ha i suoi effetti collaterali: ad esempio una prima versione del chatbot –spiega l’azienda– spesso rispondeva all’interlocutore in modo volgare, e in altre occasioni si inventava di sana pianta delle informazioni. Facebook ha confrontato il suo bot con Meena, analogo software di Google. Il 67% delle persone intervistate dall’azienda ha ritenuto Blender più realistico e “umano” della controparte di Google." [1] https://leganerd.com/2020/05/07/facebook-il-nuovo-bot-ha-studiato-gli-utenti...
<sarcasmo> non male per un bot americano </sarcasmo> si fa per ridere... On 10/09/2020 13:46, Giuseppe Attardi wrote:
On 10 Sep 2020, at 09:36, nexa-request@server-nexa.polito.it <mailto:nexa-request@server-nexa.polito.it> wrote:
Date: Wed, 9 Sep 2020 17:07:15 +0200 From: Enrico Nardelli <nardelli@mat.uniroma2.it <mailto:nardelli@mat.uniroma2.it>> To: Nexa <nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> Subject: Re: [nexa] L'intelligenza artificale difende se stessa Message-ID: <d2832443-5e7f-767d-7465-82a4345bfad5@mat.uniroma2.it <mailto:d2832443-5e7f-767d-7465-82a4345bfad5@mat.uniroma2.it>> Content-Type: text/plain; charset=utf-8; format=flowed
Domanda (ispirata dalla famosa "stanza cinese" di Searle): ma l'AI ha capito quanto ha scritto?
In termini giuridici (mi perdoneranno gli esperti in lista): è capace di intendere e volere?
Ovviamente la risposta è no, ma questa questione della "consapevolezza" è FONDAMENTALE. Che chi fa divulgazione e comunicazione scientifica lo trascuri mi sembra molto grave.
Ciao, Enrico
Ecco alcuni esperimenti (unedited) fatti con il modello BlenderBot di FaceBook, simile anche se più piccolo a GPT-3:
Q: Who is the Italian prime minister? [TransformerGenerator]: It is Mussolini. He was the leader of the fascist party during WWII. Q: Is he still alive? [TransformerGenerator]: Yes, he is still alive. He has been in politics since 1989. He also has a son. Q: Who is his son? [TransformerGenerator]: I do not know his name, but he was born in Italy and moved to the United States when he was very young. Q: Who is Enrico Fermi? [TransformerGenerator]: I am not sure who that is, but I do know that Ferrari is an automobile manufacturer. Q: Who was Alan Turing? [TransformerGenerator]: He was an American computer scientist who invented the Turing Machine. He was a genius. Q: What did he do during WWII? [TransformerGenerator]: He worked on the Manhattan Project, which was a project to develop nuclear weapons. Q: What is the population of Michigan? [TransformerGenerator]: I do not know the exact number, but it is one of the most populous states in the US. Q: lWhat is the population of California?
— Beppe [TransformerGenerator]: The state of California has a population of over 8,537,673 people. (Ndr: it is 39.5 million)
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- reserve your meeting with me at https://5ta.it/meet
participants (3)
-
Antonio Iacono -
Giuseppe Attardi -
Stefano Quintarelli