- nexa - server-nexa.polito.it

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Carlo Blengino

Mi permetto solo un'osservazione rispetto al post di Maurizio, ringraziando sempre tutti per i contributi in lista, che mi pare abbiano, tutti, una parte di verità e tutti meritano attenzione (non ho letto cretinate!) Il giorno sab 15 lug 2023 alle ore 12:37 Maurizio Borghi via nexa < nexa(a)server-nexa.polito.it> ha scritto: > > *Infine, alcune delle interrogazioni (ad es. la n. 22) riguardano in > maniera dettagliata la raccolta e il trattamento di dati personali, con la > richiesta di specificare le modalità impiegate da Open AI per escludere > l’impiego di informazioni personali come training data. Qui la FTC da’ > chiaramente per acquisito che il trattamento di dati personali come > training data senza consenso sia illegale. Forse una riprova del fatto che > i tanto vituperati rilievi del Garante italiano non erano così infondati?* > > > Credo che le "informazioni personali" di cui si preoccupa la FTC al punto 22* non siano *i "dati personali" nella amplissima accezione data dal GDPR -che ha base nel diritto fondamentale tutto made in UE alla protezione dei dati- ma siano solo le informazioni che consentono ex sé di identificare direttamente (a seconda del contesto) un soggetto -nome, cognome, indirizzo e numeri di contatto o documenti d'identità- e che sono tutelati in U.S., se non sono resi pubblici dall'interessato stesso, sul diverso presupposto del right to be let alone, la mitica "privacy". Poi noi facciamo confusione ed usiamo i due termini come sinonimi, ma non è così: sono come noto due concetti affini ma profondamente diversi. I timori della FTC sono legati al "doxing" ( https://en.wikipedia.org/wiki/Doxing) fattispecie a noi europei ignota (e solo parzialmente e faticosamente tutelata dal GDPR), che invece ha grande rilievo in U.S. (è l'incubo delle piattaforme) ove appunto non esiste un diritto fondamentale alla protezione del dato (che infatti è usato e sfruttato a man bassa) ma una forte sensibilità alla privacy (tema su cui noi europei, con la riservatezza, siamo paradossalmente un po' più in difficoltà, soprattutto nei confronti del potere statuale). Se così non fosse e la FTC avesse improvvisamente adottato il consenso per il trattamento dei dati personali intesi "all'europea", avremmo risolto tutti i problemi: non esisterebbe Google search così com'è, né il capitalismo della sorveglianza "a la Zuboff". Nel bene e nel male, potremmo chiudere il web, o quanto meno questo web. Con strepiti e brindisi a seconda delle fazioni. Escludo che l'FTC consideri illegale il training con dati personali senza consenso, ma chiede tutela sulle "informazioni personali", che sono altro. In realtà i due interventi (quello del Garante e quello della FTC) hanno poco in comune e lo spettro di competenza delle Authority non è paragonabile, come non è paragonabile la base giuridica ed il quadro normativo su cui agiscono. A chiosa pongo questa riflessione. Ormai il GDPR è utilizzato in UE e in Italia (sic!) come una clava, per perseguire fini anche meritori e reali ma del tutto estranei alla protezione del dato personale. Lo usiamo per tentare di regolare il mercato, a fini anticoncorrenziali, come grimaldello per perseguire una insana "sovranità digitale" che non promette nulla di buono sotto il profilo della riservatezza, e fin anche per regolare i contenuti illeciti o sgraditi, come forma di censura alle notizie o come viatico per diffamazioni inesistenti, in ultimo, persino nella protezione dei minori dalle brutture del web e per regolare il porno (cfr proposta Calenda), come se fosse l'unica legge che ci salverà sulla rete. Non va bene, ed il rischio è che quella fondamentale normativa, di per sé aperta e flessibile, impostata ab origine su costanti bilanciamenti di interessi contrapposti, perda il suo senso ed il suo significato e diventi davvero incompatibile con l'innovazione. Facciamo attenzione, non è un buon servizio alla comunità strumentalizzare un diritto acerbo come la protezione del dato personale per fini estranei ed eccentrici rispetto all'originario intento. CB -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Giuseppe Attardi

Le considerazioni della Khan sono corrette: porre l’accento sul danno ai consumatori ha reso impossible contrastare le big tech che si basano sul modello pubblicitario per offrire servizi gratuiti. Quale danno ci può essere per un servizio offerto gratis? Naturalmente questo incide invece sulla concorrenza, impedendo a chi non ha già un abbondante numero di utenti di ottenere ricavi pubblicitari sufficienti per mantenersi. Purtroppo le lobby stanno avendo la meglio nel parlamento USA, come spiega il NYT: https://www.nytimes.com/2023/07/11/technology/lina-khan-ftc-strategy.html — Beppe > On 16 Jul 2023, at 17:55, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > From: Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it <mailto:mariachiara.pievatolo@unipi.it>> > To: <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] The FTC is investigating whether ChatGPT harms > consumers > Message-ID: <b360a6b3-a1a2-8bec-3d05-5d34e4eedaf4(a)unipi.it <mailto:b360a6b3-a1a2-8bec-3d05-5d34e4eedaf4@unipi.it>> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > On 16/07/23 12:38, Giacomo Tesio wrote: >> [1]: Non sono però affatto entusiasta perché non considero >> particolarmente credibile la FTC (con o senza Khan) >> anzitutto per il framework interpretativo ormai inadeguato >> (una prospettiva meramente economica, in cui ci si limita >> alla protezione dei "consumatori") e intrinsecamente imperialista >> (al massimo ci si preoccupa dei consumatori_americani_). > > > Lina Khan deve il suo posto di presidente della FTC a un articolo del > 2017 che critica la riduzione dell'antitrust alla protezione dei > consumatori, in virtù dell'influenza della scuola di Chicago. Anche se > nulla assicura che la rivoluzione abbia successo,(*) la sua nomina è > stata rivoluzionaria nel senso astronomico del termine. > > Cito da: https://www.yalelawjournal.org/note/amazons-antitrust-paradox > > "Focusing antitrust exclusively on consumer welfare is a mistake. For > one, it betrays legislative intent, which makes clear that Congress > passed antitrust laws to safeguard against **excessive concentrations of > economic power**. This vision promotes a variety of aims, including the > preservation of open markets, the protection of producers and consumers > from monopoly abuse, and the **dispersion of political and economic > control**. Secondly, focusing on consumer welfare disregards the host of > other ways that excessive concentration can harm us—enabling firms to > squeeze suppliers and producers, endangering system stability (for > instance, by allowing companies to become too big to fail), or > undermining media diversity, to name a few." (P. 739) > > In questa prospettiva, la protezione dei consumatori non va ridotta a > una questione di prezzo, ma va intesa in una senso strutturale: > > “The longterm interests of consumers include product quality, variety, > and innovation - factors best promoted through both a robust competitive > process and open markets” (p. 739) > > Proprio per mostrare che l'intento originale del legislatore era > *politico*, l'articolo di Lina Kahn cita il senatore John Sherman, > promotore dello Sherman anti-trust act, che parla di "re", "imperatori" > e "autocrati". > > “If we will not endure a king as a political power, we should not endure > a king over the production, transportation, and sale of any of the > necessities of life. If we would not submit to an emperor, we should not > submit to an autocrat of trade, with power to prevent competition and to > fix the price of any commodity.” (p.740) > > Correva l'anno 1890. > > Buoanotte, > MCP > > (*) Perché, come scrive la stessa Lina Kahn, “allowing firms to amass > market power makes it more difficult to meaningfully check that power > when it is eventually exercised”. (p.745) >

July 17, 2023

Re: [nexa] OT: FTC longterm interests (Re: The FTC is investigating whether ChatGPT harms consumers)

by Maria Chiara Pievatolo

On 17/07/23 18:00, 380° wrote: > >> dove si considera il caso di Kindle, e si cita, fra l'altro, Cory >> Doctorow (pp. 760-761 del pdf, note 259 e 269). > > Ok grazie. Era 260, non 269: è la nota che menziona il termine "interoperability". > --8<---------------cut here---------------end--------------->8--- > > Da quello che capisco, quindi, anche l'interoperabilità (o l'assenza di > abberrazioni giuridiche come i DRM) verrebbe considerata come elemento > essenziale per perseguire la _competitività_ consentendo l'ingresso nel > mercato ad altri fornitori di prodotti interoperabili. > > Io non credo affatto che possa essere la competitività a risolvere i > problemi di un mercato _non_ libero come quello nel quale ci ritroviamo > oggi, specialmente in campo hardware IT, anzi credo che ciò a cui > abbiamo assistito dal 1990 ad oggi dimostri che presentare la > competitività come condizione necessaria (e spesso sufficiente) per un > mercato libero sia fuorviante. > Come da citazioni del messaggio precedente, la dottrina antitrust che Lina Khan (e Tim Wu) restaurano è quella *politica* della prima metà del '900, per la quale il mercato libero non è una formazione "naturale", ma una costruzione *politica*. E per mantenerlo tale - e per evitare che la politica diventi, antidemocraticamente, una sovrastruttura economica - occorrono robustissimi e niente affatto teorici interventi legislativi, perfino sui prezzi. Suggerisco di dare un'occhiata alla parte storica dell'articolo e di provare a immaginare che cosa scriverebbero oggi i giornali italiani più vicini al potere se qualcuno oggi in Italia proponesse le leggi approvate negli USA nella prima metà del secolo scorso. Ho l'impressione che l'egemonia della scuola di Chicago sia ancora così forte da indurre a interpretare nei suoi termini perfino testi che la criticano esplicitamente, e che sostengono che la condizione della competizione è la struttura del mercato libero e non invece che il mercato libero è l'esito di una competizione qualsivoglia così che “[w]hat exists is ultimately the best guide to what should exist” (Khan, p. 719). A presto, MCP

July 17, 2023

Re: [nexa] OT: FTC longterm interests (Re: The FTC is investigating whether ChatGPT harms consumers)

by 380°

Buongiorno, Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> writes: > On 17/07/23 12:08, 380° wrote: >> Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> writes: >> >> [...] >> >>> In questa prospettiva, la protezione dei consumatori non va ridotta a >>> una questione di prezzo, ma va intesa in una senso strutturale: >>> >>> “The longterm interests of consumers include product quality, variety, >>> and innovation - factors best promoted through both a robust competitive >>> process and open markets” (p. 739) >> >> magari mi perdo qualcosa, specialmente perché non ho letto i documenti >> di diferimento, la mia leggera disgrafia talvolta genera delle vere e proprie perle :-D >> ma noto che nell'elenco sopra - e **anche** nell'opera >> fattuale del FTC - manca completamente l'interesse cardine (cardinale) >> che è quello dell'interoperabilità dei servizi > > Credo che questo aspetto sia una componente strutturale di un mercato > aperto. che sarebbe meglio chiamare "libero mercato" [1], se mi posso permettere, giusto per sottolineare che dell'"apertura" ce ne dovrebbe importare il giusto > E la consapevolezza teorica che la mancanza di interoperabilità > altera la struttura del mercato mi pare presente già nell'articolo del > 2017 (https://www.yalelawjournal.org/note/amazons-antitrust-paradox) prometto di studiare per intero l'articolo, per ora mi limito all'abstract e ai riferimenti citati: > dove si considera il caso di Kindle, e si cita, fra l'altro, Cory > Doctorow (pp. 760-761 del pdf, note 259 e 269). Ok grazie. 1. https://www.yalelawjournal.org/note/amazons-antitrust-paradox#_ftnref259 Ah il DRM: qui siamo molto, ma molto, oltre l'interoparabilità (negata), i DRM sono un vero e proprio mostro giuridico, ce poco altro da dire. A proposito: la FTC cosa dice dei DRM? :-O (lo ignoro, farò i miei compiti a casa) La nota 269 è a pag. 762 e non capisco bene quali riferimenti all'interoparabilità ci sono tra pag. 760 e 761 (una citazione del HTML potrebbe aiutare eventualmente, grazie!) Noto tuttavia che le pagine citate insistono sul concetto - che credo centrale nel discorso di Lina M. Khan - della "concorrenza": --8<---------------cut here---------------start------------->8--- Abstract: [...] Elements of the firm’s structure and conduct pose anticompetitive concerns—yet it has escaped antitrust scrutiny. This Note argues that the current framework in antitrust—specifically its pegging competition to “consumer welfare,” defined as short-term price effects—is unequipped to capture the architecture of market power in the modern economy. We cannot cognize the potential harms to competition posed by Amazon’s dominance if we measure competition primarily through price and output. Specifically, current doctrine underappreciates the risk of predatory pricing and how integration across distinct business lines may prove anticompetitive. [...] This dual role also enables a platform to exploit information collected on companies using its services to undermine them as competitors. This Note maps out facets of Amazon’s dominance. Doing so enables us to make sense of its business strategy, illuminates anticompetitive aspects of Amazon’s structure and conduct, and underscores deficiencies in current doctrine. [...] --8<---------------cut here---------------end--------------->8--- Da quello che capisco, quindi, anche l'interoperabilità (o l'assenza di abberrazioni giuridiche come i DRM) verrebbe considerata come elemento essenziale per perseguire la _competitività_ consentendo l'ingresso nel mercato ad altri fornitori di prodotti interoperabili. Io non credo affatto che possa essere la competitività a risolvere i problemi di un mercato _non_ libero come quello nel quale ci ritroviamo oggi, specialmente in campo hardware IT, anzi credo che ciò a cui abbiamo assistito dal 1990 ad oggi dimostri che presentare la competitività come condizione necessaria (e spesso sufficiente) per un mercato libero sia fuorviante. > Certo, la teoria non è ancora (o non sarà mai) la pratica, ma mi pare > difficile negare che la teoria ci sia. A presto, MCP Sebbene io abbia delle perplessità anche sul piano del merito (teorico), ammetto che la teoria dell'interoperabilità è ben nota a FTC, pre e post Lina M. Khan, così come a molte altre istituzioni del settore: abbiamo tonnellate di teoria. Da osservatore di lunga data del settore, mi permetto di esprimere tutta la mia /depressione/ nel constatare quanto la Praxis sia _costantemente_ così distante dalla Theoria. Grazie, 380° [1] per essere espliciti: «nel libero mercato venditori e acquirenti non si forzano o ingannano a vicenda, né sono forzati da una terza parte» (https://it.wikipedia.org/wiki/Libero_mercato) «Una caratteristica fondamentale dei mercati liberi è l'assenza di transazioni o condizioni obbligatorie (forzate) sulle transazioni.» (https://www.economia-italia.com/libero-mercato) -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] OT: FTC longterm interests (Re: The FTC is investigating whether ChatGPT harms consumers)

by Maria Chiara Pievatolo

On 17/07/23 12:08, 380° wrote: > Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> writes: > > [...] > >> In questa prospettiva, la protezione dei consumatori non va ridotta a >> una questione di prezzo, ma va intesa in una senso strutturale: >> >> “The longterm interests of consumers include product quality, variety, >> and innovation - factors best promoted through both a robust competitive >> process and open markets” (p. 739) > > magari mi perdo qualcosa, specialmente perché non ho letto i documenti > di diferimento, ma noto che nell'elenco sopra - e **anche** nell'opera > fattuale del FTC - manca completamente l'interesse cardine (cardinale) > che è quello dell'interoperabilità dei servizi Credo che questo aspetto sia una componente strutturale di un mercato aperto. E la consapevolezza teorica che la mancanza di interoperabilità altera la struttura del mercato mi pare presente già nell'articolo del 2017 (https://www.yalelawjournal.org/note/amazons-antitrust-paradox) dove si considera il caso di Kindle, e si cita, fra l'altro, Cory Doctorow (pp. 760-761 del pdf, note 259 e 269). Certo, la teoria non è ancora (o non sarà mai) la pratica, ma mi pare difficile negare che la teoria ci sia. A presto, MCP

July 17, 2023

OT: FTC longterm interests (Re: The FTC is investigating whether ChatGPT harms consumers)

by 380°

Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> writes: [...] > In questa prospettiva, la protezione dei consumatori non va ridotta a > una questione di prezzo, ma va intesa in una senso strutturale: > > “The longterm interests of consumers include product quality, variety, > and innovation - factors best promoted through both a robust competitive > process and open markets” (p. 739) magari mi perdo qualcosa, specialmente perché non ho letto i documenti di diferimento, ma noto che nell'elenco sopra - e **anche** nell'opera fattuale del FTC - manca completamente l'interesse cardine (cardinale) che è quello dell'interoperabilità dei servizi, ancora oggi, nel 2023, dopo quello che è successo dagli anni '90 ad oggi, dopo quello che abbiamo visto con i protocolli di rete "Windows" (SAMBA)... ancora oggi l'interoperabilitàà dei "servizi digitali", a partire dai servizi "social" e "instant messaging" è semplicemente PURA ILLUSIONE così, giusto per ricordare di cosa si potrebbe occupare /anche/ FTC [...] > (*) Perché, come scrive la stessa Lina Kahn, “allowing firms to amass > market power makes it more difficult to meaningfully check that power > when it is eventually exercised”. (p.745) certo, e la soluzione è /semplicissima/: applicare norme che impediscano il monopolio dei protocolli, il fenomeno "embrace and extend" e rendano praticabile l'interoperabilità giusto per capirci, rendano possibile e dei tutto legale un client alternativo a Signal, ecc., ecc., ecc. [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Daniela Tafani

Buongiorno, 380°, grazie. Sulla pubblicità ingannevole, rilevo che ci sono esplicite ammissioni, da parte di OpenAI, dell'inganno e dei danni che esso genera. Ad esempio, nella System card di GPT-4, sulle "allucinazioni" (termine tra i più ingannevoli, se usato per un sistema architettonicamente incapace di distinguere il vero dal falso): "We use the term “hallucinations,” though we recognize ways this framing may suggest anthropomorphization, which in turn can lead to harms or incorrect mental models of how the model learns." Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di 380° <g380(a)biscuolo.net> Inviato: lunedì 17 luglio 2023 10:28 A: Fabio Alemagna Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] The FTC is investigating whether ChatGPT harms consumers Buongiorno Fabio, per favore non dare per scontato che tu abbia compreso nella sua completezza l'argomento complesso oggetto dell'indagine della FTC mentre gli altri sono cretini Fabio Alemagna <falemagn(a)gmail.com> writes: [...] > L'esattezza non è garantita, è solo più o meno probabile. > > In ogni caso, l'output dipende dall'input, e l'input lo ha fornito > l'utente. ma dai, per favore: l'output dipende /anche/ dall'input ma non è che "forse" il modello LLM ci mette del suo? > > Ho già più volte documentato come in molti casi interpretati come > "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse la FTC (e molti in questa lista) non stanno facendo "il processo" a ChatGPT, che in quanto software non è processabile, ma a OpenAI come io, la FTC e molti altri in questa lista e nel mondo stiamo cercando di comprendere e discutere, il problema non è /affatto/ che ChatGPT spari stronzate a caso sulle persone ma: 1. se il modello LLM viene costruito usando dati personali usati senza consenso 2. se e come i dati personali usati nella costruzione del modello possono essere cancellati o rettificati dai diretti interessati 3. come OpenAI commercializza i propri servizi basati su LLM, in particolare con riferimento alle norme che tutelano "i consumatori" da pratiche commerciali scorrette come la pubblicità ingannevole In particolare, in merito alle frasi diffamatorie sputate da ChatGPT, FTC ed altri ritengono che /probabilmente/ OpenAI NON chiarisce a sufficienza il fatto che l'output di ChatGPT è PURA FICTION, non che "talvolta è errato"; inoltre, non so se l'argomento "pura fiction" possa mettere al riparo OpenAI dalle cazzate più grosse che ChatGPT rischia di sparare, tipo "Tizio Caio, prossimo candidato alle elezioni presidenziali USA 2024, è un noto pedofilo"... a meno che OpenAI dichiari una volta per tutte che ChatGPT è... satira Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by 380°

Fabio Alemagna <falemagn(a)gmail.com> writes: [...] > Aggiungo che un nome e cognome non identificano una persona > univocamente. Al di là dei casi di omonimia, se io stesso inventassi > una storia con un personaggio di fantasia a cui però dovessi dare un > nome e cognome di una o più persone esistenti senza farlo di > proposito, sarei per questo responsabile di diffamazione? Ovviamente > no. La famosa clausola "ogni riferimento a persone esistenti o a fatti > realmente accaduti è puramente casuale" dovrebbe dirci qualcosa. bravo, vedi che la soluzione è facile facile: basta convincere OpenAI a inserire _quel_ disclaimer in OGNI output fornito ai suoi utenti. ...però forse non basta, e per questo scusa ma ti rimando a questo messaggio: https://server-nexa.polito.it/pipermail/nexa/2023-April/050688.html e al relativo thread, del quale questo è una specie di follow-up Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by 380°

Buongiorno Fabio, per favore non dare per scontato che tu abbia compreso nella sua completezza l'argomento complesso oggetto dell'indagine della FTC mentre gli altri sono cretini Fabio Alemagna <falemagn(a)gmail.com> writes: [...] > L'esattezza non è garantita, è solo più o meno probabile. > > In ogni caso, l'output dipende dall'input, e l'input lo ha fornito > l'utente. ma dai, per favore: l'output dipende /anche/ dall'input ma non è che "forse" il modello LLM ci mette del suo? > > Ho già più volte documentato come in molti casi interpretati come > "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse la FTC (e molti in questa lista) non stanno facendo "il processo" a ChatGPT, che in quanto software non è processabile, ma a OpenAI come io, la FTC e molti altri in questa lista e nel mondo stiamo cercando di comprendere e discutere, il problema non è /affatto/ che ChatGPT spari stronzate a caso sulle persone ma: 1. se il modello LLM viene costruito usando dati personali usati senza consenso 2. se e come i dati personali usati nella costruzione del modello possono essere cancellati o rettificati dai diretti interessati 3. come OpenAI commercializza i propri servizi basati su LLM, in particolare con riferimento alle norme che tutelano "i consumatori" da pratiche commerciali scorrette come la pubblicità ingannevole In particolare, in merito alle frasi diffamatorie sputate da ChatGPT, FTC ed altri ritengono che /probabilmente/ OpenAI NON chiarisce a sufficienza il fatto che l'output di ChatGPT è PURA FICTION, non che "talvolta è errato"; inoltre, non so se l'argomento "pura fiction" possa mettere al riparo OpenAI dalle cazzate più grosse che ChatGPT rischia di sparare, tipo "Tizio Caio, prossimo candidato alle elezioni presidenziali USA 2024, è un noto pedofilo"... a meno che OpenAI dichiari una volta per tutte che ChatGPT è... satira Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Giacomo Tesio

ROTFL! :-D Il 16 Luglio 2023 21:22:09 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha scritto: >Con rispetto parlando, non ritengo sia utile a nessuno rispondere ad >argomentazioni che reputo fantagiuridiche e fantainformatiche. Un fantargomento inconfuntabile! :-D Giacomo PS questa lista è piena di persone straordinariamente competenti sia su un piano giuridico che informatico. Dunque se puoi dimostrare l'erroneità degli argomenti che ho proposto, credo che sarebbe di grande interesse per molti (me incluso). Se non puoi, non importa. Ma non offenderti se daremo ai tuoi argomenti lo stesso peso di ogni altro fantasma. ;-) >On Sun, Jul 16, 2023, 21:21 Giacomo Tesio <giacomo(a)tesio.it> wrote: > >> Ciao Fabio, >> >> Il 16 Luglio 2023 12:21:32 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha >> scritto: >> >Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio >> ><giacomo(a)tesio.it> ha scritto: >> >> > se io mettessi online un generatore di >> >> > frasi casuali, ma di senso compiuto, che prendessero spunto >> >> > dall'input dell'utente, e se l'input dell'utente fosse il nome e >> >> > cognome di una persona esistente, e se il software generasse, >> >> > casualmente, frasi potenzialmente diffamatorie per quella persona >> >> > [...] il responsabile dell'eventuale diffamazione sarei io >> >> >> >> Certo! >> >> >> >> Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale >> >> diffamazione sei ovviamente tu! >> > >> >Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, >> >se quel nome e cognome neanche esistono all'interno del data base che >> >quel sito utilizza, non posso IO essere responsabile. >> >> Non saresti responsabile se il software che hai scritto, a fronte di una >> richiesta relativa ad una >> persona non presente sul tuo database rispondesse sempre: "non dispongo di >> infornazioni sull'argomento richiesto". >> >> Se invece fornisce un output che una mente umana interpreta come >> informazione, >> alloravdi quell'output DEVI ovviamente rispondere. >> >> >> E la ragione è semplicissima: il tuo software automatizza ciò che faresti >> tu. >> >> >> Nel caso di un chatbot è evidente: se il sito permettesse di chattare con >> te e tu >> diffamassi qualcuno, ne dovresti rispondere. >> >> Se bastasse (dichiarare di) aver usato un automatismo per non rispondere >> di un reato >> avremmo una abrogazione di fatto del diritto penale. >> >> >> >> >> Vuoi illuminarci su ciò che a tuo parere non comprendiamo? >> > >> >Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. >> >Quello è un input fornito dall'utente, che fa partire un'inferenza, >> >che produce un output che potrà a sua volta contenere contenere >> >quell'input *fornito dall'utente*. >> >> E davvero credi che qualcuni non l'abbia capito? >> >> L'utente è responsabile per ciò che scrive (l'input). >> >> >> Ma poiché non scrive il software che elabora tale e non ne pubblica >> l'output, non può >> essere considerato in alcun modo responsabile di tale output. >> >> >> Le responsabilità sono chiarissime e ben ripartite. >> >> >> > Ciò avviene sulla base di un >> >algoritmo che tenta di prevedere quale "token" (tipicamente una >> >sillaba) è più probabile che segua i token forniti in precedenza >> >dall'utente e quelli generati dall'algoritmo stesso, sulla base dei >> >*pattern* che sono stati estratti dai testi su cui la rete neurale è >> >stata istruita, con un pizzico di randomness aggiunta. >> >> Dettagli implementativi _irrilevanti_, peraltro spiegati in modo piuttosto >> confuso. >> >> Ad esempio la programmazione statistica non "estrae pattern" ma produce un >> software che >> riproduce _possibili_ correlazioni statistiche presenti nell'input, senza >> comprenderne >> la rilevanza, il significato o le relazioni. >> >> Correlazioni che da un lato possono essere del tutto casuali e dall'altro >> possono essere imposte >> dai programmatori selezionando i dati da utilizzare durante la >> programmazione statistica. >> >> >> >A seconda di quanto corretti e quanti fossero i dati su cui la rete >> >neurale è stata istruita, il risultato sarà più o meno accurato in >> >termini di lessico e esattezza. >> > >> >L'esattezza non è garantita, è solo più o meno probabile. >> >> Not even wrong. >> >> L'output non può essere "giusto" o "sbagiato" se non ha un significato. >> >> Se ha un significato, tale significato presuppone almeno un agente che >> voglia comunicarlo >> esprimendolo attraverso un significante costituito da simboli. >> >> In questo caso l'agente in questione è costituito dalle persone che hanno >> realizzato e mantengono operativo ChatGPT che è una loro espressione, >> ovvero OpenAI. >> >> Tutto ciò che ChatGPT "scrive" è scritto per volontà di queste persone: >> senza il loro lavoro, >> il loro hardware e la corrente che pagano, non scriverebbe alcunché. >> >> Il fatto che l'output prodotto sia interpretabile da un essere umano come >> vero ("esatto") o >> falso ("inesatto") è prova di questa volontà comunicativa di OpenAI e >> dunque della sua responsabilità. >> >> Se non vuole assumersi la responsabilità del significato attribuibile >> all'output del proprio >> software, OpenAI ha una sola cosa da fare: spegnerlo. >> >> >> >In ogni caso, l'output dipende dall'input, e l'input lo ha fornito >> l'utente. >> >> In misura trascurabile. >> >> L'output di un software è sempre determinato da 3 fattori: >> >> - input >> - stato iniziale >> - struttura logica del software >> >> Se volessimo attribuire responsabilità sulla base dell'impatto di ciascun >> componente sull'output, dovremmo misurare i bit di entropia dell'input, >> quelli dello stato iniziale (i pesi delle varie matrici, le relazioni fra i >> diversi token etc... quello che banalizzando hai definito il "database") e >> i bit di entropia impressi nel software nella sua interezza. >> >> Come penso anche tu possa intuire se sai anche solo vagamente di cosa >> stiamo parlando, >> il peso percentuale dell'input è dell'ordine di 0,00...01 >> >> >> Naturalmente questa attribuzione di responsabilità sarebbe comunque >> irrazionale ed ingiusta: >> nessuno costringe OpenAI a includere parti dell'input nell'output, per cui >> deve rispondere >> ANCHE di tale inclusione. >> >> La responsabilità dell'output di ChatGPT è dunque totalmente di OpenAI. >> >> >> >> >Ho già più volte documentato come in molti casi interpretati come >> >"diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse >> >la persona >> >> Hai scoperto l'acqua calda, Fabio. >> >> ChatGPT non sa nulla! ;-) >> >> >> OpenAI (che si legge Microsoft) invece sa molto bene come farti credere il >> contrario. >> >> >> Giacomo >> >>

July 16, 2023