Concordo. Un'analisi critica della seconda ipotesi di Bengio ("A computer with human-level learning abilities would generally surpass human intelligence because of additional technological advantages") si si trova qui: https://nitter.snopyta.org/MelMitchell1/status/1661476453068976130 Buona giornata, Daniela ________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di M. Fioretti <mfioretti@nexaima.net> Inviato: lunedì 29 maggio 2023 07:29 A: nexa@server-nexa.polito.it Oggetto: Re: [nexa] l'intelligenza artificiale è un rischio per la sopravvivenza dell’umanità’? On Sun, May 28, 2023 22:30:42 PM +0200, Filippo Barbera via nexa wrote:

Intelligenza artificiale e rischi.

Perché l'intelligenza artificiale è un rischio per la sopravvivenza dell’umanità’.

l'articolo di Yoshua Bengio

https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305290529431037899...

Grazie, interessante. A prima e PARZIALE lettura, potrei sbagliarmi, mi pare abbia lo stesso difetto di fondo di Harari e altri, cioe' di dare per scontato che l'AI "ci uccidera'" perche' "prendera' il controllo", o addirittura creera' autonomamente, bombe, virus, e via dicendo. Che e' ridicolo, ne ho parlato qui: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305290529431037899... Comunque, meno male che finalmente sempre piu' persone comincino a vedere i problemi veri, sia quell'autore: "Now imagine AI systems like corporations..." che quest'altro, 3 giorni fa: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305290529431037899... sarebbe stato ancor meglio se avessero scritto "imagine corporations like AI systems...", vedi: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305290529431037899... https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305290529431037899... Marco -- my newsletter: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305290529431037899... _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305290529431037899...

Buongiorno, Daniela Tafani <daniela.tafani@unipi.it> writes: [...]

Un'analisi critica della seconda ipotesi di Bengio

("A computer with human-level learning abilities would generally surpass human intelligence because of additional technological advantages")

si si trova qui:

https://nitter.snopyta.org/MelMitchell1/status/1661476453068976130

grazie Daniela per la segnalazione e siccome non vorrei che la sostanza dell'analisi critica vada persa nel null-verso, la riporto qui verbatim, /ricucita/ da quel tristissimo modo di esporre le idee che sono i cinguetti "a singhiozzo": --8<---------------cut here---------------start------------->8--- I'm reading Yoshua Bengio's new blog post, "How Rogue AIs may Arise". yoshuabengio.org/2023/05/22/… Mostly it's the same arguments as in earlier writings by Bostrom, Russell, etc. Lots to say about all this but there's one issue I want to point out. 🧵 (1/8) There's something that always strikes me as strange in these arguments. Bengio frames it as a kind of syllogism: (2/8) Hypothesis 1: Human-level intelligence is possible because brains are biological machines. Hypothesis 2: A computer with human-level learning abilities would generally surpass human intelligence because of additional technological advantages. Claim 1: Under hypotheses 1 and 2, an autonomous goal-directed superintelligent AI could be built. The "technological" advantages in Hypothesis 2 are things like speed of computers vs. brains, ability of programs to clone themselves and thus "benefit from and aggregate the acquired experience of all its clones", etc. (3/8) However, I find hypothesis 2 suspect. Indeed brains are biological machines, but a very specialized kind of machine, adapted to a specific evolutionary niche, with many cognitive features (biases) that are advantageous in that niche. (4/8) Hypothesis 2 (rather glibly) implies that "human-level learning abilities" could attained in machines, conveniently separated from all those human "limitations", and so "obviously" machines with these abilities would be superior to humans. (5/8) Doesn't seem at all obvious to me! Our learning abilities and intelligence are all wrapped up together with our embedding in a social / cultural / evolutionary niche. (6/8) Not clear at all that these abilities could be so easily "sifted off", so that machines could, in effect, have their cake and eat it -- that is, have human-level intelligence + all the advantages of computers. (7/8) I've written about all this before, but the argument keeps coming up again and again, and I find it a bit frustrating that Hypothesis 2 is always taken as a given, with no argument. That's it for now. (8/8) --8<---------------cut here---------------end--------------->8--- [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

On Mon, May 29, 2023 at 02:09:35PM +0200, 380° wrote:

Hypothesis 1: Human-level intelligence is possible because brains are biological machines.

[...] Indeed brains are biological machines, but a very specialized kind of machine, adapted to a specific evolutionary niche, with many cognitive features (biases) that are advantageous in that niche.

Perché a voi non sembra del tutto campata per aria anche la prima ipotesi? Anzitutto "macchina biologica" è un ossimoro. Le macchine sono artefatti costruiti dall'uomo e non sono vive. Ma al di là dei termini, non so voi, ma io so per esperienza diretta che la mia mente non riproduce meccanicamente un programma. Sfido chiunque a dimostrare il contrario. Definire una tale sciocchezza "ipotesi" è fondamentale per non doverla discutere pur costruendoci sopra allucinate narrazioni fantascientifiche. Trovo dunque estremamente pericoloso che a nessuno venga in mente di metterla in discussione (non foss'altro che sulla base della propria esperienza di sé). Avete già rinunciato ad essere qualcosa di più che ingranaggi? Giacomo