- nexa - server-nexa.polito.it

ChatGPT... dono degli dei? (was: ChatGPT disabled for users in Italy)

by Giacomo Tesio

Salve Anna, grazie della condivisione. Ho avuto modo di ascoltare Carlo con attenzione tramite Piped https://piped.garudalinux.org/watch?v=phcGTeIOwjY Sono un umile programmatore e sono certo che i filosofi in lista mi potranno correggere, ma non posso fare a meno di notare un difetto fondamentale nel parallelo proposto da Carlo fra il dono della scrittura agli egiziani e ChatGPT: Open AI non è un dio. Open AI è una società sostanzialmente di Microsoft. Ora, lungi da me voler mettere in discussione la fede religiosa di Carlo, quale che essa sia, ma come informatico non ho potuto non notare una profonda confusione (Carlo ad un certo punto la chiama "offuscamento") su ciò di cui stiamo parlando. """ la risposta di Chat GPT, che tra l'altro è una risposta uno a uno, cioé non è che Chat GPT pubblica sul web, cioé non è un motore di ricerca. Poi noi lo usiamo come un motore di ricerca, ma è una conversazione uno a uno di un umano con una macchina... """ Open AI pubblica Chat GPT sul Web. Il fatto che non sia un motore di ricerca è irrilevante: anche https://labtf.rime.inrim.it/webClock_utcit.html non è un motore di ricerca, ma INRiM pubblica su quella pagina web l'ora esatta calcolata dai propri orologi atomici. Non è Chat GPT è pubblicare qualcosa: è un software pubblicato sul Web, tant'é che è accessibile attraverso un browser. Anche le API di ChatGPT sono pubblicate via HTTP: https://platform.openai.com/docs/api-reference/authentication Open AI dunque pubblica Chat GPT sul Web. Carlo mostra poi una profonda confusione sulla natura di questo servizio, definendolo una "conversazione uno a uno di un umano con una macchina". Mi sento responsabile di questa confusione, per aver dato per scontato un aspetto fondamentale nello schema che proposi qualche giorno fa. Quando N persone, separatamente, scrivono sul sito di ChatGPT il proprio nome succede questo: Web + Open AI -----------+ | o < Carlo Blengino | | |____.\_ /|\ | o | / | / \ | /|\ | / | | / \ +-----------+ / | | | |---+ | | o | | | o < Brian Hood | /|\ | ChatGPT |--------|____.\_ /|\ | / \ | | | / \ | | |---+ | | o +-----------+ \ | | /|\ | \ | o < Stefano Quintarelli | / \ | \ |____.\_ /|\ | | | / \ +--------------------+ | | | Ciascuno invia al sito web di Open AI chiamato ChatGPT che risponde a ciascuno con una diversa storia statisticamente correlata (non "inventata") con ciò che hanno fatto nella vita. Ma sono le persone di Open AI ad aver deciso (statisticamente ovvero un po'... "alla carlona" :-D) cosa Chat GPT risponderà a ciascuno! Per comprendere che funzione svolge ChatGPT propongo un parallelo molto più terra terra rispetto al mito del dio Teuth. Quando video-chiamiamo qualcuno, non vediamo il nostro interlocutore ma una sua rappresentazione. Tale rappresentazione è mediata da innumerevoli automatismi e può essere alterata dai software che la veicolano: ad esempio lo sfondo che vediamo potrebbe essere fittizio o sfumato. Questa alterazione è introdotta da un software al servizio del nostro interlocutore. Con Chat GPT fa lo stesso. ChatGPT non permette di dialogare con GPT4, ma di dialogare con le persone che dirigono Open AI, che hanno creato GPT4 per poter dialogare con milioni di persone in contemporanea. Oltre agli innumerevoli aspetti tecnici, hanno letteralmente scelto i contenuti da utilizzare per la programmazione statistica (che non sono tutti quelli esistenti o disponibili) decidendo, in modo più o meno attento, ciò che quel software avrebbe detto PER LORO. Se gliene diamo il merito, dobbiamo anche attribuirgliene la responsabilità. Ne deriva che ciò che Carlo confonde con una "conversazione uno a uno di un umano con una macchina" è in realtà una conversazione pochi a molti, in cui pochi utilizzano un proxy automatizzato per fare meno fatica, ACCETTANDO CHE SCRIVA AL LORO POSTO. ChatGPT non è diverso dal filtro per lo sfondo, insomma. Carlo deriva da questa confusione sulla cardinalità della conversazione conclusioni giuridiche piuttosto bizzarre: """ tutti questi errori avvengono dove? non tanto sul fatto che questo ti dica delle stupidaggini su "se la terra è piatta o tonda" ma sul fatto che gli metti dentro "Carlo Blengino" e questo si inventa una biografia che, se va bene, non centra niente. MA LO DICE A ME, tra l'altro, e quindi se dice che io sono un pedofilo lo dice a me. Poi certo che se io prendo quella roba e dico "AH ChatGPT ha detto..." Ha detto a chi? Ha detto a me! """ Il problema di questa analisi è la prospettiva individuale utilizzata. Che succede se le stesse tre persone chiedono, separatamente, ma prima che venga in qualsivoglia modo alterato il modello di GPT4 la stessa cosa che avevano chiesto i concittadini di Brian Hood? Web + Open AI -----------+ | o < Brian Hood | | |____.\_ /|\ | o | / | / \ | /|\ | / | | / \ +-----------+ / | | | |---+ | | o | | | o < Brian Hood | /|\ | ChatGPT |--------|____.\_ /|\ | / \ | | | / \ | | |---+ | | o +-----------+ \ | | /|\ | \ | o < Brian Hood | / \ | \ |____.\_ /|\ | | | / \ +--------------------+ | | Tutti riceveranno pressappoco la stessa risposta. Dunque Open AI sta diffondendo informazioni false e diffamatorie su alcune persone in questo momento a N altre persone che ne fanno richiesta. E questa è diffamazione. Il fatto che alcune persone si limitino a chiedere informazioni su sé stesse e che le risposte risultino evidentemente false, ha reso il problema evidente, ma NON E' il problema. Ma attenzione: non è ChatGPT (o GPT4) a diffamare in modo subdolo e imprevedibile persone innocenti rispondendo ad allocchi! E' Open AI! Ovvero le persone che amministrano e governano tale software. Sta rispondendo per loro: se spegnessero ChatGPT e rispondessero di persona ci metterebbero più tempo, ed eviterebbero le stronzate statistiche, ma l'interfaccia Web non richiederebbe alcuna modifica. Io non riesco davvero a capacitarmi di come una persona intelligente e preparata come Carlo possa perdere di vista le persone che si nascondono dietro la macchina. E la cosa, ad essere onesti mi preoccupa. Non siamo di fronte ad un'invenzione che possa semplicemente mettere in crisi un sistema oscurantista come il copyright. Siamo di fronte ad uno strumento PROGETTATO per ingannare le persone, individualmente e su larga scala. E l'inganno non sta solo nel "gioco di imitazione" dell'intelligenza umana. L'inganno sta proprio nel nascondere alla coscienza di persone intelligenti e in buona fede, le responsabilità delle persone che realizzano e controllano questi strumenti, perseguendo il proprio interesse. Non abbiamo di fronte pericolose intelligenze artificiali generali o divinità benevole. Abbiamo di fronte criminali che sfruttano la straordinaria ignoranza informatica diffusa per cercare di dominare il mondo. Vi prego, adottate un minimo di spirito critico. Studiate informatica! E quando avrete compreso come funzionano questi sistemi, chiedetevi "cui prodest?" Giacomo

April 10, 2023

Re: [nexa] Statement from the listed authors of Stochastic Parrots on the “AI pause” letter (Enrico Nardelli)

by alessandro marzocchi

Regulatory efforts should focus on transparency, accountability and preventing exploitative labor practices./ : è quanto necessario e sufficiente, sulla trasparenza preciserei l'obbligo di programmi interamente aperti. Valutata dalla prospettiva marketing, ci stiamo appassonando per un'operazione da manuale. Cordialmente. Duccio (Alessandro Marzocchi) Date: Mon, 10 Apr 2023 20:00:14 +0200 > From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> > (mi pare non sia passato in lista) > Statement from the listed authors of Stochastic Parrots on the “AI pause” > letter > Timnit Gebru (DAIR), Emily M. Bender (University of Washington), Angelina > McMillan-Major (University of Washington), Margaret Mitchell (Hugging Face) > March 31, 2023 > /Tl;dr: The harms from so-called AI are real and present and follow from > the acts of people and corporations deploying automated systems. Regulatory > efforts should focus on transparency, accountability and preventing > exploitative labor practices./ > https://www.dair-institute.org/blog/letter-statement-March2023/ > >

April 10, 2023

Statement from the listed authors of Stochastic Parrots on the “AI pause” letter

by Enrico Nardelli

(mi pare non sia passato in lista) Statement from the listed authors of Stochastic Parrots on the “AI pause” letter Timnit Gebru (DAIR), Emily M. Bender (University of Washington), Angelina McMillan-Major (University of Washington), Margaret Mitchell (Hugging Face) March 31, 2023 /Tl;dr: The harms from so-called AI are real and present and follow from the acts of people and corporations deploying automated systems. Regulatory efforts should focus on transparency, accountability and preventing exploitative labor practices./ https://www.dair-institute.org/blog/letter-statement-March2023/ / -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 10, 2023

Re: [nexa] "Pausing AI Developments Isn't Enough. We Need to Shut it All Down"

by Daniela Tafani

Anch'io ritengo che gli interventi ispirati a animismo, fantascienza, effective altruism, long-termism &C non aiutino affatto a vedere la pubblicità ingannevole, le truffe e i danni presenti. L'etica è uno specchietto per le allodole. In alcuni casi, servirà forse il legislatore. Sempre più spesso, ormai, mi sembra che si debba chiamare la polizia e che anche la tesi della necessità di nuova regolazione faccia parte del pacchetto narrativo. Su questa linea, segnalo l'ottimo e disincantato “Early Thoughts on Generative AI” Prepared Remarks of Commissioner Alvaro M. Bedoya, Federal Trade Commission Before the International Association of Privacy Professionals April 5, 2023 [...] [grassetti in parte miei] Last, let’s turn to the idea that the creators of this technology are “a little bit scared” to quote the CEO of ChatGPT. Personally, and I say this with respect – I do not see the existential threats to our society that others do. Yet when you combine these statements with the unpredictability and inexplicability of these models, the sum total is something that we as consumer protection authorities have never reckoned with. Let me put it this way. When the iPhone was first released, it was many things: a phone, a camera, a web browser, an email client, a calendar, and more. Imagine launching the iPhone – having 100 million people using it – but not knowing what it can do or why it can do those things, all while claiming to be frightened of it. That is what we’re facing today. So we need to think quickly about how these new dynamics map onto consumer protection law. 3. The Adult (Human) in the Room And so, I’ll offer four observations that double as notes of caution. • First, generative AI is regulated. • Second, much of that law is focused on impacts to regular people. Not experts, regular people. • Third, some of that law demands explanations. “Unpredictability” is rarely a defense. • And fourth, looking ahead, regulators and society at large will need companies to do much more to be transparent and accountable. Let’s start with that first point. There is a powerful myth out there that “AI is unregulated.” You see it pop up in New York Times op-ed columns, in civil society advocacy, and in scholarship. It has a powerful intuitive appeal — it just sounds right. How could these mysterious new technologies be regulated under our dusty old laws? If you’ve heard this, or even said it, please take a step back and ask: Who does this idea help? It doesn’t help consumers, who feel increasingly helpless and lost. It doesn’t help most companies. It certainly doesn’t help privacy professionals like you, who now have to deal with investors and staff who think they’re operating in a law-free zone. I think that this idea that “AI is unregulated” helps that small subset of companies who are uninterested in compliance. And we’ve heard similar lines before. “We’re not a taxi company, we’re a tech company.” “We’re not a hotel company, we’re a tech company.” These statements were usually followed by claims that state or local regulations could not apply to said companies. The reality is, AI is regulated. Just a few examples: • Unfair and deceptive trade practices laws apply to AI. At the FTC our core section 5 jurisdiction extends to companies making, selling, or using AI. If a company makes a deceptive claim using (or about) AI, that company can be held accountable. If a company injures consumers in a way that satisfies our test for unfairness when using or releasing AI, that company can be held accountable. Civil rights laws apply to AI. If you're a creditor, look to the Equal Credit Opportunity Act. If you're an employer, look to Title VII of the Civil Rights Act. If you're a housing provider, look to the Fair Housing Act. • Tort and product liability laws apply to AI. There is no AI carve-out to product liability statutes, nor is there an AI carve-out to common law causes of action. AI is regulated. Do I support stronger statutory protections? Absolutely. But AI does not, today, exist in a law-free environment. Here’s the second thing. There’s a back-and-forth that’s playing out in the popular press. There will be a wave of breathless coverage – and then there will be a very dry response from technical experts, stressing that no, these machines are not sentient, they’re just mimicking stories and patterns they’ve been trained on. No, they are not emoting, they are just echoing the vast quantities of human speech that they have analyzed. I worry that this debate may obscure the point. Because the law doesn’t turn on how a trained expert reacts to a technology – it turns on how regular people understand it. At the FTC, for example, when we evaluate whether a statement is deceptive, we ask what a reasonable person would think of it. When analyzing unfairness, we ask whether a reasonable person could avoid the harms in question. In tort law, we have the “eggshell” plaintiff doctrine: If your victim is particularly susceptible to an injury you caused, that is on you. The American Academy of Pediatrics has declared a national emergency in child and adolescent mental health. The Surgeon General says that we are going through an epidemic of loneliness. I urge companies to think twice before they deploy a product that is designed in a way that may lead people to feel they have a trusted relationship with it or think that it is a real person. I urge companies to think hard about how their technology will affect people’s mental health – particularly kids and teenagers. Third, I want to note that the law sometimes demands explanation – and that the inexplicability or unpredictability of a product is rarely a legally cognizable defense. What do I mean by that? Looking solely on laws that the FTC enforces, both the Fair Credit Reporting Act and the Equal Credit Opportunity Act require explanations for certain kinds of adverse decisions. Under our section 5 authority, we have frequently brought actions against companies for the failure to take reasonable measures to prevent reasonably foreseeable risks. And the Commission has historically not responded well to the idea that a company is not responsible for their product because that product is a “black box” that was unintelligible or difficult to test. I urge companies who are creating or using AI products for important eligibility decisions to closely consider that the ability to explain your product and predict the risks that it will generate may be critical to your ability to comply with the law. Fourth and last, I want to end on a call for a maximum of transparency and accountability. I recently saw that the technical report accompanying the GPT-4 rejected the need to be transparent about the building blocks of the technology. It says: “Given both the competitive landscape and the safety implications of large-scale models like GPT-4, this report contains no further details about the architecture (including model size), hardware, training compute, dataset construction, training method, or similar.” This is a mistake. External researchers, civil society, and government need to be involved in analyzing and stress testing these models; it is difficult to see how that can be done with this kind of opacity. 4. Focusing on Threats Today I keep thinking about the now-infamous survey conducted by Oxford University last year that found that the median expert gave a 5% chance that the long-run effect of advanced AI on humanity would be, and I quote, “extremely bad (e.g. human extinction).” I also keep thinking about the GPT-4 white paper’s focus on “safety.” I’m worried that inchoate ideas of existential threats will make us – at least in the short and medium term – much less “safe.” I’m worried that these ideas are being used as a reason to provide less and less transparency. And I worry that they might distract us from all the ways that AI is already being used in our society today. Automated systems new and old are routinely used today to decide who to parole, who to fire, who to hire, who deserves housing, who deserves a loan, who to treat in a hospital – and who to send home. These are the decisions that concern me the most. And I think we should focus on them. <https://www.ftc.gov/system/files/ftc_gov/pdf/Early-Thoughts-on-Generative-A…> Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di M. Fioretti <mfioretti(a)nexaima.net> Inviato: lunedì 10 aprile 2023 19:13 A: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] "Pausing AI Developments Isn't Enough. We Need to Shut it All Down" On Mon, Apr 10, 2023 18:38:03 PM +0200, David Orban wrote: > Lo scetticismo sui rischi dell'intelligenza artificiale può avere diverse > origini. Ambartsoumean e Yampolskiy hanno condotto un'analisi di una serie di > questi argomenti. grazie per gli interessanti link e, giusto per chiarificare la mia posizione: io non escludo affatto che l'intelligenza artificiale possa risultare in "distruzione" della societa', ANZI. Sono e rimango profondamente scettico solo sul SINGOLO modo in cui Yudkowsky lo racconta, cioe' distruzione fisica con attacchi fisici diretti, alla skynet/terminator. Per coincidenza, ho appena trovato qui: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230410171317075892… chi risponde alla mia domanda "can’t we just unplug it?" dicendo che: "in case you are still wondering why we can’t just unplug it: by the time we discover it is a superintelligence it will have spread itself across many computers and built deep and hard defenses for these. That could happen for example by manipulating humans into thinking they are building defenses for a completely different reason." ma quello per me rimane lo scenario che ho gia' discusso: se NOI siamo tanto imbecilli da spargere ai quattro venti qualcosa DANDOGLI controllo diretto ai bottoni sbagliati, siamo noi a sterminarci, non quella cosa. A questo proposito, concludo segnalando un'altra grossa sorgente di confusione: > to take all necessary steps to ensure the responsible and ethical > development of AI technologies." il problema e' l'ADOZIONE INCONTROLLATA, non lo sviluppo. Cioe' il fatto che anche se smettessero stasera e per sempre di sviluppare AI piu' potenti di chatGPT3 o 4, la sola diffusione di plugin a tutti i settori e casi possibili fara' gia' danni enormi senza interventi adeguati nei modi e livelli giusti. Che poi e' una delle critiche principali, se non LA critica, alla famosa lettera di moratoria. Cioe', e' vero che, come con qualsiasi altro software, fra sviluppo e diffusione a macchia d'olio il confine e' ben labile, ma scordarsi che esista non fa che aumentare la confusione. Marco -- Please help me write my NEXT MILLION WORDS for digital awareness: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230410171317075892… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230410171317075892…

April 10, 2023

Re: [nexa] "Pausing AI Developments Isn't Enough. We Need to Shut it All Down"

by M. Fioretti

On Mon, Apr 10, 2023 18:38:03 PM +0200, David Orban wrote: > Lo scetticismo sui rischi dell'intelligenza artificiale può avere diverse > origini. Ambartsoumean e Yampolskiy hanno condotto un'analisi di una serie di > questi argomenti. grazie per gli interessanti link e, giusto per chiarificare la mia posizione: io non escludo affatto che l'intelligenza artificiale possa risultare in "distruzione" della societa', ANZI. Sono e rimango profondamente scettico solo sul SINGOLO modo in cui Yudkowsky lo racconta, cioe' distruzione fisica con attacchi fisici diretti, alla skynet/terminator. Per coincidenza, ho appena trovato qui: https://continuations.com/post/714045304583880704/thinking-about-ai-part-3-… chi risponde alla mia domanda "can’t we just unplug it?" dicendo che: "in case you are still wondering why we can’t just unplug it: by the time we discover it is a superintelligence it will have spread itself across many computers and built deep and hard defenses for these. That could happen for example by manipulating humans into thinking they are building defenses for a completely different reason." ma quello per me rimane lo scenario che ho gia' discusso: se NOI siamo tanto imbecilli da spargere ai quattro venti qualcosa DANDOGLI controllo diretto ai bottoni sbagliati, siamo noi a sterminarci, non quella cosa. A questo proposito, concludo segnalando un'altra grossa sorgente di confusione: > to take all necessary steps to ensure the responsible and ethical > development of AI technologies." il problema e' l'ADOZIONE INCONTROLLATA, non lo sviluppo. Cioe' il fatto che anche se smettessero stasera e per sempre di sviluppare AI piu' potenti di chatGPT3 o 4, la sola diffusione di plugin a tutti i settori e casi possibili fara' gia' danni enormi senza interventi adeguati nei modi e livelli giusti. Che poi e' una delle critiche principali, se non LA critica, alla famosa lettera di moratoria. Cioe', e' vero che, come con qualsiasi altro software, fra sviluppo e diffusione a macchia d'olio il confine e' ben labile, ma scordarsi che esista non fa che aumentare la confusione. Marco -- Please help me write my NEXT MILLION WORDS for digital awareness: https://mfioretti.substack.com

April 10, 2023

Re: [nexa] "Pausing AI Developments Isn't Enough. We Need to Shut it All Down"

by David Orban

Lo scetticismo sui rischi dell'intelligenza artificiale può avere diverse origini. Ambartsoumean e Yampolskiy hanno condotto un'analisi di una serie di questi argomenti. AI Risk Skepticism – A Comprehensive Survey https://arxiv.org/abs/2303.03885 Una cinquantina di pagine dopo concludono: "Unmitigated skepticism regarding the potential risks of AI systems has the potential to have a detrimental impact on the long-term flourishing of humanity. This skepticism questions the necessity of incorporating necessary safeguards into intelligent systems, and creates a misplaced doubt and reduction of attention with regards to the allocation of resources for ensuring the safety and security of such systems. It is, therefore, of the greatest importance that we take steps to explicitly call out instances of AI risk skepticism and address them head-on. Both the development and deployment of AI represent one of the most significant technological advancements of all-time. As such, it is imperative that we approach this development with the appropriate amount of caution, and that we take necessary steps to better ensure the safety and security of the intelligent systems that we are creating. This means allocating the necessary resources, developing appropriate safeguards, and engaging in open and honest discussions about the potential risks associated with AI. The unchecked skepticism of AI risk represents a threat to the long-term flourishing of humanity. It then becomes our duty to address this issue with the seriousness and weight that it carries, and to take all necessary steps to ensure the responsible and ethical development of AI technologies." Per chi vuole approfondire gli argomenti attorno ai rischi dell'intelligenza artificiale e se questi possono essere classificati eccessivi, l'articolo può essere una fonte utile. David Orban "What is the question that I should be asking?" davidorban.com On Mon, Apr 10, 2023 at 6:09 PM M. Fioretti <mfioretti(a)nexaima.net> wrote: > On Mon, Apr 10, 2023 15:45:44 PM +0200, J.C. DE MARTIN wrote: > > > Sì, capisco queste e altre obiezioni, e mi è anche chiaro che > > sull'autore e sul suo "centro di ricerca" si possono esprimere > > legittimi dubbi. > > > > Tuttavia credo che, nonostante l'enfasi e nonostante le iperboli, > > possa aiutare a cogliere un punto per me cruciale, ovvero, che > > qualunque tecnologia dovrebbe essere ben studiata prima di essere > > dato in pasto a milioni (se non miliardi) di persone. > > certo. Ma primo, c'e' niente in contrasto fra questa posizione e la > mia, che ho scritto esplicitamente di "UNREGULATED use of AI > software". > > E secondo, il problema principale e' proprio che se uno, chiunque sia, > spara enfasi e iperboli che sono oggettivamente impossibili non sta > aiutando chi dice quello che diciamo io e te. La butta in caciara e > basta. > Marco > -- > Please help me write my NEXT MILLION WORDS for digital awareness: > https://mfioretti.substack.com > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 10, 2023

Re: [nexa] "Pausing AI Developments Isn't Enough. We Need to Shut it All Down"

by M. Fioretti

On Mon, Apr 10, 2023 15:45:44 PM +0200, J.C. DE MARTIN wrote: > Sì, capisco queste e altre obiezioni, e mi è anche chiaro che > sull'autore e sul suo "centro di ricerca" si possono esprimere > legittimi dubbi. > > Tuttavia credo che, nonostante l'enfasi e nonostante le iperboli, > possa aiutare a cogliere un punto per me cruciale, ovvero, che > qualunque tecnologia dovrebbe essere ben studiata prima di essere > dato in pasto a milioni (se non miliardi) di persone. certo. Ma primo, c'e' niente in contrasto fra questa posizione e la mia, che ho scritto esplicitamente di "UNREGULATED use of AI software". E secondo, il problema principale e' proprio che se uno, chiunque sia, spara enfasi e iperboli che sono oggettivamente impossibili non sta aiutando chi dice quello che diciamo io e te. La butta in caciara e basta. Marco -- Please help me write my NEXT MILLION WORDS for digital awareness: https://mfioretti.substack.com

April 10, 2023

Re: [nexa] "Pausing AI Developments Isn't Enough. We Need to Shut it All Down"

by J.C. DE MARTIN

Sì, capisco queste e altre obiezioni, e mi è anche chiaro che sull'autore e sul suo "centro di ricerca" si possono esprimere legittimi dubbi. Tuttavia credo che, nonostante l'enfasi e nonostante le iperboli, possa aiutare a cogliere un punto per me cruciale, ovvero, che qualunque tecnologia dovrebbe essere ben studiata prima di essere dato in pasto a milioni (se non miliardi) di persone. jc On 10/04/23 11:30, Marco Fioretti wrote: > On Mon, Apr 10, 2023 at 09:46, J.C. DE MARTIN > <juancarlos.demartin(a)polito.it> wrote: > > *Pausing AI Developments Isn't Enough. We Need to Shut it All Down* > > ... https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/ > > questo perche', scrive Yudkowsky: > > "If somebody builds a too-powerful AI, under present conditions, I > expect that every single member of the human species and all > biological life on Earth dies shortly thereafter." > > cosa che a me pare un tantino incomprensibile: > > https://mfioretti.substack.com/p/you-are-all-getting-this-stop-ai > > Marco > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 10, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by 380°

Buongiorno Marco, "Marco A. Calamari" <marcoc_maillist(a)marcoc.it> writes: [...] > Salve a tutti, > > se è gradito (e ne sono lieto) citare qui DataKnightmare, allora, per chi fosse > interessato, anche Cassandra avrebbe da dire la sua ... > > https://medium.com/@calamarim/cassandra-crossing-ia-fabbriche-di-informazio… mi permetto di riportare quello che ritengo il nocciolo del contributo e fare alcuni commenti: --8<---------------cut here---------------start------------->8--- ChatGPT e tutti i suoi successori dello stesso tipo non conoscono, non conoscono per niente, non conoscono assolutamente, non conoscono neanche lontanamente, non conoscono per niente la risposta a qualsiasi domanda; non conoscono assolutamente nulla. La conoscenza con cui vengono “nutriti” viene “digerita” e svanisce, lasciando solo un credibile “Mentecatto Artificiale” privo di qualsiasi Intelligenza o Cultura. --8<---------------cut here---------------end--------------->8--- Come rilevi qualche paragrafo più avanti, il concetto di menzogna implica necessariamente l'ammissione del concetto di verità ma sistemi come questi non contemplano nulla che assomigli a verità, esiste solo /credibilità/ dell'output; per questo credo che sia più adeguato usare il paragone di "bulshitter" alla Frankfurt. --8<---------------cut here---------------start------------->8--- [...] Risposte credibili, non risposte vere. Questo concetto deve essere recitato come un mantra, ripetuto fino allo sfinimento, pubblicizzato in ogni occasione. --8<---------------cut here---------------end--------------->8--- Il /disclaimer/ che assolutamente adesso manca. --8<---------------cut here---------------start------------->8--- ChatGPT e tutti i suoi successori non hanno nessuna conoscenza sulla verità o falsità di una domanda, non hanno nessuna cultura, pur avendone digerito quantità enormi. Sono un vicolo cieco, utilizzabile solo come arma di propaganda di massa. E lo stanno facendo! Sono solo in grado di darvi risposte credibili, in cui voi individuerete il significato che volete o potete dargli. E qui sta il pericolo, questi oggetti vengono propagandati come risponditori di domande, non come affabulatori o generatori di prosa fantasiosa. --8<---------------cut here---------------end--------------->8--- Diventa arma di propaganda nel momento in cui quel /disclaimer/ viene omesso: deve essere trattata alla stessa stregua della pubblicità ingannevole [1] --8<---------------cut here---------------start------------->8--- E la loro attuale linea di sviluppo non è quella di renderli capaci di risposte esatte, cosa che non sarà mai possibile, ma solo incapaci di dare risposte così errate da essere evidenti o ridicole, risposte che siano espresse in termini razzisti, sessisti, in violazione di qualsiasi possibile concetto ”politically correct”. --8<---------------cut here---------------end--------------->8--- quindi sempre più ingannevoli? [...] --8<---------------cut here---------------start------------->8--- Speriamo che questa eqnnesima ripetizione, spero ben argomentata ripetizione, serva a qualcosa. Se vi affidate a ChatGPT, non tornerete mai dalla guerra. --8<---------------cut here---------------end--------------->8--- Sì ma allora come la mettiamo con i dati personali che trattano i sistemi come ChatGPT, sia quelli usati per il training che quelli sparati stocasticamente come output? [...] Grazie, 380° [1] https://it.wikipedia.org/wiki/Pubblicit%C3%A0_ingannevole -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 10, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by 380°

Buongiorno, Guido Vetere <vetere.guido(a)gmail.com> writes: > > Questo e altro sull'articolo di oggi di Walter Vannini apparso su: >> > https://www.agendadigitale.eu/sicurezza/privacy/stop-a-chatgpt-per-fortuna-… > <https://www.agendadigitale.eu/sicurezza/privacy/stop-a-chatgpt-per-fortuna-…> [...] > Tutto questo è corretto, tranne il riferimento alle "stronzate" (*bullshit*) > di Frankfurt: queste infatti sono affermazioni capziose pronunciate con > intento manipolatorio, https://en.wikipedia.org/wiki/On_Bullshit#Lying_and_bullshit --8<---------------cut here---------------start------------->8--- Both people who are lying and people who are telling the truth are focused on the truth. [...] The bullshitter differs from both liars and people presenting the truth with their disregard of the truth. Frankfurt explains how bullshitters or people who are bullshitting are distinct as they are not focused on the truth. A person who communicates bullshit is not interested in whether what (s)he says is true or false, only in its suitability for his or her purpose. [...] Frankfurt gives two reasons for the different levels of consequences between bullshit and lying. First, the liar is viewed as being purposefully deceitful or harmful because of the accompanying intent behind the act. Second, the person who bullshits lacks the kind of intention characteristic of the liar. Producing bullshit requires no knowledge of the truth. The liar is intentionally avoiding the truth and the bullshitter may potentially be telling the truth or providing elements of the truth without the intention of doing so. --8<---------------cut here---------------end--------------->8--- da quello che capisco io, quindi, il bulshitter non ha alcuna intenzione manipolatoria della verità, si disinteressa completamente della verità, il suo unico scopo è quello di /avere ragione/ ChatGPT in questo è /archetipico/, la sintesi cibernetica perfetta del bulshitter, la reificazione ultima del sofismo. > insomma dietro una "stronzata" c'è sempre uno "stronzo", cioè un > soggetto dotato di intenzionalità, cosa di cui ChatGPT dichiara > onestamente di essere privo. se quanto ho capito io di Frankfurt è vero, ovvero che l'unica intenzionalità del bulshitter è quella di /avere ragione/ ignorando completamente i concetto di verità (che il mentitore invece conosce benissimo), allora il fatto che il bulshitter sia un agente cibernetico è /secondario/... anzi a ben vedere è molto peggio perché l'agente cibernetico è in grado di sparare stronzate a un ritmo insostenibile per un soggetto umano tutto questo sarebbe innocuo /se/ fosse chiaramente specificato che /ogni/ cosa che dice ChatGPT è - frankfurtianamente parlando - una stronzata, perchè il rischio è l'ulteriore sdoganamento delle stronzate a raffica --8<---------------cut here---------------start------------->8--- [...] Frankfurt believes bullshitters and the growing acceptance of bullshit is more harmful to society than liars and lying. This is because liars actively consider the truth when they conceal it whereas bullshitters completely disregard the truth. "Bullshit is a greater enemy of the truth than lies are. --8<---------------cut here---------------end--------------->8--- non dobbiamo assuefarci /mai/ alle stronzate, nemmeno se sono a fini di ricerca, nemmeno se le spara ChatGPT e OpenAI se ne disinteressa [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 10, 2023