Buongiorno, OK, entriamo nella stalla del toro :-) Daniela Tafani <daniela.tafani@unipi.it> writes:
Il 19/06/2024 18:38, Enrico Nardelli ha scritto:
[....]
Daniel Dennet sul fatto che generare finzione attraverso l'IA
per la precisione: generare identità contraffatte (si veda sotto), non "finzione" in generale
è un atto immorale come produrre denaro falso.
innanzitutto, sapendo come e perché viene prodotto (e usato) il denaro /vero/ - mi sto riferendo /esattamente/ al combinato disposto del "military–coinage–slave complex" postulato da (l'antropologo) David Graeber [1] e la quantità impressionante di debito _creato_ dalla FED negli ultimi anni - devo confessare che ho sviluppato un discreto rispetto per i falsari di denaro, rispetto che cresce in modo inversamente proporzionale a quello che ho per i falsari della verità poi: è _immorale_ solo "generare finzione" (ovviamente senza dichiararlo) /attraverso l'AI/? quante "cose" che ora crediamo _vere_ (o _false_ [2]) sono finzioni ben congeniate da menti umane che un grande uomo definì "raffinatissime"? l'ho già detto: io sono _felice_ che l'uso dell'IA stia /facilitando/ la produzione di "denaro falso", così tocca imparare, faticosamente, a riconoscerlo :-D tipo riconoscere le debolezze del Turing Test quando si tratta di _discriminare_ se dall'altra parte c'è una persona o un _software_: https://en.wikipedia.org/wiki/Turing_test#Weaknesses --8<---------------cut here---------------start------------->8--- Numerous experts in the field, including cognitive scientist Gary Marcus, insist that the Turing test only shows how easy it is to fool humans and is not an indication of machine intelligence. [...] To successfully appear human, there is no need for the machine to have any intelligence whatsoever and only a superficial resemblance to human behaviour is required. [...] Since 2004, the Loebner Prize organisers have deployed philosophers, computer scientists, and journalists among the interrogators. Nonetheless, some of these experts have been deceived by the machines. [...] Since human behaviour and intelligent behaviour are not exactly the same thing, the test can fail [...] The Turing test is concerned strictly with how the subject acts – the external behaviour of the machine. In this regard, it takes a behaviourist or functionalist approach to the study of the mind. --8<---------------cut here---------------end--------------->8--- e mi fermo qui: "behaviourist or functionalist approach" bastano per evidenziare la puzza. eh sì, _queste_ cose dovrebbero insegnarle a partire dalle scuole elementari, altro che "nativi digitali" ...eh certo che però questo implicherebbe per forza di cose il miglioramento collettivo della capacità di distinguere le stronzate dai semplici errori, e questo per chi _amministra_ è un serio problema.
https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-p...
ecco cosa dice Dennet nel suo articolo: --8<---------------cut here---------------start------------->8--- The Problem With Counterfeit People Companies using AI to generate fake people are committing an immoral act of vandalism, and should be held liable. [...] Today, for the first time in history, thanks to artificial intelligence, it is possible for anybody to make counterfeit people who can pass for real in many of the new digital environments we have created. These counterfeit people are the most dangerous artifacts in human history, capable of destroying not just economies but human freedom itself. Before it’s too late (it may well be too late already) we must outlaw both the creation of counterfeit people and the “passing along” of counterfeit people. The penalties for either offense should be extremely severe, given that civilization itself is at risk. [...] The philosopher and historian Yuval Noah Harari, writing in The Economist in April, ended his timely warning about AI’s imminent threat to human civilization with these words: “This text has been generated by a human. Or has it?” [...] The key design innovation in the technology that makes losing control of these systems a real possibility is that, unlike nuclear bombs, these weapons can reproduce. Evolution is not restricted to living organisms, as Richard Dawkins demonstrated in 1976 in The Selfish Gene. [...] They [AI generated Counterfei people] will learn from one another, and those that are the smartest, the fittest, will not just survive; they will multiply. --8<---------------cut here---------------end--------------->8--- l'articolo quindi, da quello che capisco, si riferisce alla falsificazione di identità, non alle identità fittizie (pseudonime), corretto? Nemmeno al "generare finzione" in generale, giusto? cioè: io sono "tua madre", "il tuo capo ufficio", ecc.... da quello che so la falsificazione dell'identità è già reato in diversi ordinamenti: è il caso di farne una apposta se la falsificazione è ottenuta per mezzo di "IA"? e ancora: ogni volta che qualcuno cita Yuval Noah Harari ad-minchiam per avvalorare una tesi, la mia intelligenza /emotiva/ mi spinge a cestinare l'intero ragionamento e ancora: parlare di "AI" (quindi di software) in termini di "weapons" è già sufficientemente fuorviante da sé, ma se in più si /suggerisce/ la _congettura_ che l'evoluzione _darwiniana_ appartenga anche a "non living organisms" e che l'abbia _dimostrato_ (eh?!?!?) Richard Dawkins [3] e _quindi_ sistemi AI creeranno persone false che si /riprodurranno/ e diventeranno sempre più "smart and fit": ma che davero!??!? è davvero il caso di ingaggiare una simile dialettica per contrastare gli effetti negativi delle stronzate generate dall'IA? faccio mie le parole dell'ultimo paragrafo dell'articolo di Dennet: --8<---------------cut here---------------start------------->8--- [...] Another pandemic is coming, this time attacking the fragile control systems in our brains—namely, our capacity to reason with one another—that we have used so effectively to keep ourselves relatively safe in recent centuries. --8<---------------cut here---------------end--------------->8--- con una precisazione: _questo_ tipo di "pandemia", quella che inficia la nostra capacità di ragionare assieme, è _endemica_ da secoli, altro che visione nostalgico-romantica dei "bei tempi che furono"! (non c'è bisogno che sia io a ricordarvi l'obnubilazione della ragione a cui abbiamo /storicamente/ "assistito" in "recent centuries") [...] saluti, 380° [1] «Debt: The First 5000 Years» https://en.wikipedia.org/wiki/Debt:_The_First_5000_Years (n.d.r.: sull'abolizione della schiavitu ci sarebbe /qualcosa/ da dire, ma...) [2] tipo il terrapiattismo, che è talmente ovvio che è falso che puzza lontano anni luce di "false flag" [3] https://en.wikipedia.org/wiki/The_Selfish_Gene P.S.: poi, dopo il reato di falsificazione di identità umana _da parte_ di "una AI (di decima generazione)" introdurremo anche il reato di falsificazione di identità AI _da parte_ di una persona: https://en.wikipedia.org/wiki/Confederate_effect? :-D -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.