July 2023 - nexa - server-nexa.polito.it

Re: [nexa] OT: FTC longterm interests (Re: The FTC is investigating whether ChatGPT harms consumers)

by Maria Chiara Pievatolo

On 17/07/23 12:08, 380° wrote: > Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> writes: > > [...] > >> In questa prospettiva, la protezione dei consumatori non va ridotta a >> una questione di prezzo, ma va intesa in una senso strutturale: >> >> “The longterm interests of consumers include product quality, variety, >> and innovation - factors best promoted through both a robust competitive >> process and open markets” (p. 739) > > magari mi perdo qualcosa, specialmente perché non ho letto i documenti > di diferimento, ma noto che nell'elenco sopra - e **anche** nell'opera > fattuale del FTC - manca completamente l'interesse cardine (cardinale) > che è quello dell'interoperabilità dei servizi Credo che questo aspetto sia una componente strutturale di un mercato aperto. E la consapevolezza teorica che la mancanza di interoperabilità altera la struttura del mercato mi pare presente già nell'articolo del 2017 (https://www.yalelawjournal.org/note/amazons-antitrust-paradox) dove si considera il caso di Kindle, e si cita, fra l'altro, Cory Doctorow (pp. 760-761 del pdf, note 259 e 269). Certo, la teoria non è ancora (o non sarà mai) la pratica, ma mi pare difficile negare che la teoria ci sia. A presto, MCP

July 17, 2023

OT: FTC longterm interests (Re: The FTC is investigating whether ChatGPT harms consumers)

by 380°

Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> writes: [...] > In questa prospettiva, la protezione dei consumatori non va ridotta a > una questione di prezzo, ma va intesa in una senso strutturale: > > “The longterm interests of consumers include product quality, variety, > and innovation - factors best promoted through both a robust competitive > process and open markets” (p. 739) magari mi perdo qualcosa, specialmente perché non ho letto i documenti di diferimento, ma noto che nell'elenco sopra - e **anche** nell'opera fattuale del FTC - manca completamente l'interesse cardine (cardinale) che è quello dell'interoperabilità dei servizi, ancora oggi, nel 2023, dopo quello che è successo dagli anni '90 ad oggi, dopo quello che abbiamo visto con i protocolli di rete "Windows" (SAMBA)... ancora oggi l'interoperabilitàà dei "servizi digitali", a partire dai servizi "social" e "instant messaging" è semplicemente PURA ILLUSIONE così, giusto per ricordare di cosa si potrebbe occupare /anche/ FTC [...] > (*) Perché, come scrive la stessa Lina Kahn, “allowing firms to amass > market power makes it more difficult to meaningfully check that power > when it is eventually exercised”. (p.745) certo, e la soluzione è /semplicissima/: applicare norme che impediscano il monopolio dei protocolli, il fenomeno "embrace and extend" e rendano praticabile l'interoperabilità giusto per capirci, rendano possibile e dei tutto legale un client alternativo a Signal, ecc., ecc., ecc. [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Daniela Tafani

Buongiorno, 380°, grazie. Sulla pubblicità ingannevole, rilevo che ci sono esplicite ammissioni, da parte di OpenAI, dell'inganno e dei danni che esso genera. Ad esempio, nella System card di GPT-4, sulle "allucinazioni" (termine tra i più ingannevoli, se usato per un sistema architettonicamente incapace di distinguere il vero dal falso): "We use the term “hallucinations,” though we recognize ways this framing may suggest anthropomorphization, which in turn can lead to harms or incorrect mental models of how the model learns." Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di 380° <g380(a)biscuolo.net> Inviato: lunedì 17 luglio 2023 10:28 A: Fabio Alemagna Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] The FTC is investigating whether ChatGPT harms consumers Buongiorno Fabio, per favore non dare per scontato che tu abbia compreso nella sua completezza l'argomento complesso oggetto dell'indagine della FTC mentre gli altri sono cretini Fabio Alemagna <falemagn(a)gmail.com> writes: [...] > L'esattezza non è garantita, è solo più o meno probabile. > > In ogni caso, l'output dipende dall'input, e l'input lo ha fornito > l'utente. ma dai, per favore: l'output dipende /anche/ dall'input ma non è che "forse" il modello LLM ci mette del suo? > > Ho già più volte documentato come in molti casi interpretati come > "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse la FTC (e molti in questa lista) non stanno facendo "il processo" a ChatGPT, che in quanto software non è processabile, ma a OpenAI come io, la FTC e molti altri in questa lista e nel mondo stiamo cercando di comprendere e discutere, il problema non è /affatto/ che ChatGPT spari stronzate a caso sulle persone ma: 1. se il modello LLM viene costruito usando dati personali usati senza consenso 2. se e come i dati personali usati nella costruzione del modello possono essere cancellati o rettificati dai diretti interessati 3. come OpenAI commercializza i propri servizi basati su LLM, in particolare con riferimento alle norme che tutelano "i consumatori" da pratiche commerciali scorrette come la pubblicità ingannevole In particolare, in merito alle frasi diffamatorie sputate da ChatGPT, FTC ed altri ritengono che /probabilmente/ OpenAI NON chiarisce a sufficienza il fatto che l'output di ChatGPT è PURA FICTION, non che "talvolta è errato"; inoltre, non so se l'argomento "pura fiction" possa mettere al riparo OpenAI dalle cazzate più grosse che ChatGPT rischia di sparare, tipo "Tizio Caio, prossimo candidato alle elezioni presidenziali USA 2024, è un noto pedofilo"... a meno che OpenAI dichiari una volta per tutte che ChatGPT è... satira Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by 380°

Fabio Alemagna <falemagn(a)gmail.com> writes: [...] > Aggiungo che un nome e cognome non identificano una persona > univocamente. Al di là dei casi di omonimia, se io stesso inventassi > una storia con un personaggio di fantasia a cui però dovessi dare un > nome e cognome di una o più persone esistenti senza farlo di > proposito, sarei per questo responsabile di diffamazione? Ovviamente > no. La famosa clausola "ogni riferimento a persone esistenti o a fatti > realmente accaduti è puramente casuale" dovrebbe dirci qualcosa. bravo, vedi che la soluzione è facile facile: basta convincere OpenAI a inserire _quel_ disclaimer in OGNI output fornito ai suoi utenti. ...però forse non basta, e per questo scusa ma ti rimando a questo messaggio: https://server-nexa.polito.it/pipermail/nexa/2023-April/050688.html e al relativo thread, del quale questo è una specie di follow-up Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by 380°

Buongiorno Fabio, per favore non dare per scontato che tu abbia compreso nella sua completezza l'argomento complesso oggetto dell'indagine della FTC mentre gli altri sono cretini Fabio Alemagna <falemagn(a)gmail.com> writes: [...] > L'esattezza non è garantita, è solo più o meno probabile. > > In ogni caso, l'output dipende dall'input, e l'input lo ha fornito > l'utente. ma dai, per favore: l'output dipende /anche/ dall'input ma non è che "forse" il modello LLM ci mette del suo? > > Ho già più volte documentato come in molti casi interpretati come > "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse la FTC (e molti in questa lista) non stanno facendo "il processo" a ChatGPT, che in quanto software non è processabile, ma a OpenAI come io, la FTC e molti altri in questa lista e nel mondo stiamo cercando di comprendere e discutere, il problema non è /affatto/ che ChatGPT spari stronzate a caso sulle persone ma: 1. se il modello LLM viene costruito usando dati personali usati senza consenso 2. se e come i dati personali usati nella costruzione del modello possono essere cancellati o rettificati dai diretti interessati 3. come OpenAI commercializza i propri servizi basati su LLM, in particolare con riferimento alle norme che tutelano "i consumatori" da pratiche commerciali scorrette come la pubblicità ingannevole In particolare, in merito alle frasi diffamatorie sputate da ChatGPT, FTC ed altri ritengono che /probabilmente/ OpenAI NON chiarisce a sufficienza il fatto che l'output di ChatGPT è PURA FICTION, non che "talvolta è errato"; inoltre, non so se l'argomento "pura fiction" possa mettere al riparo OpenAI dalle cazzate più grosse che ChatGPT rischia di sparare, tipo "Tizio Caio, prossimo candidato alle elezioni presidenziali USA 2024, è un noto pedofilo"... a meno che OpenAI dichiari una volta per tutte che ChatGPT è... satira Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 17, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Giacomo Tesio

ROTFL! :-D Il 16 Luglio 2023 21:22:09 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha scritto: >Con rispetto parlando, non ritengo sia utile a nessuno rispondere ad >argomentazioni che reputo fantagiuridiche e fantainformatiche. Un fantargomento inconfuntabile! :-D Giacomo PS questa lista è piena di persone straordinariamente competenti sia su un piano giuridico che informatico. Dunque se puoi dimostrare l'erroneità degli argomenti che ho proposto, credo che sarebbe di grande interesse per molti (me incluso). Se non puoi, non importa. Ma non offenderti se daremo ai tuoi argomenti lo stesso peso di ogni altro fantasma. ;-) >On Sun, Jul 16, 2023, 21:21 Giacomo Tesio <giacomo(a)tesio.it> wrote: > >> Ciao Fabio, >> >> Il 16 Luglio 2023 12:21:32 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha >> scritto: >> >Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio >> ><giacomo(a)tesio.it> ha scritto: >> >> > se io mettessi online un generatore di >> >> > frasi casuali, ma di senso compiuto, che prendessero spunto >> >> > dall'input dell'utente, e se l'input dell'utente fosse il nome e >> >> > cognome di una persona esistente, e se il software generasse, >> >> > casualmente, frasi potenzialmente diffamatorie per quella persona >> >> > [...] il responsabile dell'eventuale diffamazione sarei io >> >> >> >> Certo! >> >> >> >> Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale >> >> diffamazione sei ovviamente tu! >> > >> >Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, >> >se quel nome e cognome neanche esistono all'interno del data base che >> >quel sito utilizza, non posso IO essere responsabile. >> >> Non saresti responsabile se il software che hai scritto, a fronte di una >> richiesta relativa ad una >> persona non presente sul tuo database rispondesse sempre: "non dispongo di >> infornazioni sull'argomento richiesto". >> >> Se invece fornisce un output che una mente umana interpreta come >> informazione, >> alloravdi quell'output DEVI ovviamente rispondere. >> >> >> E la ragione è semplicissima: il tuo software automatizza ciò che faresti >> tu. >> >> >> Nel caso di un chatbot è evidente: se il sito permettesse di chattare con >> te e tu >> diffamassi qualcuno, ne dovresti rispondere. >> >> Se bastasse (dichiarare di) aver usato un automatismo per non rispondere >> di un reato >> avremmo una abrogazione di fatto del diritto penale. >> >> >> >> >> Vuoi illuminarci su ciò che a tuo parere non comprendiamo? >> > >> >Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. >> >Quello è un input fornito dall'utente, che fa partire un'inferenza, >> >che produce un output che potrà a sua volta contenere contenere >> >quell'input *fornito dall'utente*. >> >> E davvero credi che qualcuni non l'abbia capito? >> >> L'utente è responsabile per ciò che scrive (l'input). >> >> >> Ma poiché non scrive il software che elabora tale e non ne pubblica >> l'output, non può >> essere considerato in alcun modo responsabile di tale output. >> >> >> Le responsabilità sono chiarissime e ben ripartite. >> >> >> > Ciò avviene sulla base di un >> >algoritmo che tenta di prevedere quale "token" (tipicamente una >> >sillaba) è più probabile che segua i token forniti in precedenza >> >dall'utente e quelli generati dall'algoritmo stesso, sulla base dei >> >*pattern* che sono stati estratti dai testi su cui la rete neurale è >> >stata istruita, con un pizzico di randomness aggiunta. >> >> Dettagli implementativi _irrilevanti_, peraltro spiegati in modo piuttosto >> confuso. >> >> Ad esempio la programmazione statistica non "estrae pattern" ma produce un >> software che >> riproduce _possibili_ correlazioni statistiche presenti nell'input, senza >> comprenderne >> la rilevanza, il significato o le relazioni. >> >> Correlazioni che da un lato possono essere del tutto casuali e dall'altro >> possono essere imposte >> dai programmatori selezionando i dati da utilizzare durante la >> programmazione statistica. >> >> >> >A seconda di quanto corretti e quanti fossero i dati su cui la rete >> >neurale è stata istruita, il risultato sarà più o meno accurato in >> >termini di lessico e esattezza. >> > >> >L'esattezza non è garantita, è solo più o meno probabile. >> >> Not even wrong. >> >> L'output non può essere "giusto" o "sbagiato" se non ha un significato. >> >> Se ha un significato, tale significato presuppone almeno un agente che >> voglia comunicarlo >> esprimendolo attraverso un significante costituito da simboli. >> >> In questo caso l'agente in questione è costituito dalle persone che hanno >> realizzato e mantengono operativo ChatGPT che è una loro espressione, >> ovvero OpenAI. >> >> Tutto ciò che ChatGPT "scrive" è scritto per volontà di queste persone: >> senza il loro lavoro, >> il loro hardware e la corrente che pagano, non scriverebbe alcunché. >> >> Il fatto che l'output prodotto sia interpretabile da un essere umano come >> vero ("esatto") o >> falso ("inesatto") è prova di questa volontà comunicativa di OpenAI e >> dunque della sua responsabilità. >> >> Se non vuole assumersi la responsabilità del significato attribuibile >> all'output del proprio >> software, OpenAI ha una sola cosa da fare: spegnerlo. >> >> >> >In ogni caso, l'output dipende dall'input, e l'input lo ha fornito >> l'utente. >> >> In misura trascurabile. >> >> L'output di un software è sempre determinato da 3 fattori: >> >> - input >> - stato iniziale >> - struttura logica del software >> >> Se volessimo attribuire responsabilità sulla base dell'impatto di ciascun >> componente sull'output, dovremmo misurare i bit di entropia dell'input, >> quelli dello stato iniziale (i pesi delle varie matrici, le relazioni fra i >> diversi token etc... quello che banalizzando hai definito il "database") e >> i bit di entropia impressi nel software nella sua interezza. >> >> Come penso anche tu possa intuire se sai anche solo vagamente di cosa >> stiamo parlando, >> il peso percentuale dell'input è dell'ordine di 0,00...01 >> >> >> Naturalmente questa attribuzione di responsabilità sarebbe comunque >> irrazionale ed ingiusta: >> nessuno costringe OpenAI a includere parti dell'input nell'output, per cui >> deve rispondere >> ANCHE di tale inclusione. >> >> La responsabilità dell'output di ChatGPT è dunque totalmente di OpenAI. >> >> >> >> >Ho già più volte documentato come in molti casi interpretati come >> >"diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse >> >la persona >> >> Hai scoperto l'acqua calda, Fabio. >> >> ChatGPT non sa nulla! ;-) >> >> >> OpenAI (che si legge Microsoft) invece sa molto bene come farti credere il >> contrario. >> >> >> Giacomo >> >>

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Maria Chiara Pievatolo

On 16/07/23 12:38, Giacomo Tesio wrote: > [1]: Non sono però affatto entusiasta perché non considero > particolarmente credibile la FTC (con o senza Khan) > anzitutto per il framework interpretativo ormai inadeguato > (una prospettiva meramente economica, in cui ci si limita > alla protezione dei "consumatori") e intrinsecamente imperialista > (al massimo ci si preoccupa dei consumatori_americani_). Lina Khan deve il suo posto di presidente della FTC a un articolo del 2017 che critica la riduzione dell'antitrust alla protezione dei consumatori, in virtù dell'influenza della scuola di Chicago. Anche se nulla assicura che la rivoluzione abbia successo,(*) la sua nomina è stata rivoluzionaria nel senso astronomico del termine. Cito da: https://www.yalelawjournal.org/note/amazons-antitrust-paradox "Focusing antitrust exclusively on consumer welfare is a mistake. For one, it betrays legislative intent, which makes clear that Congress passed antitrust laws to safeguard against **excessive concentrations of economic power**. This vision promotes a variety of aims, including the preservation of open markets, the protection of producers and consumers from monopoly abuse, and the **dispersion of political and economic control**. Secondly, focusing on consumer welfare disregards the host of other ways that excessive concentration can harm us—enabling firms to squeeze suppliers and producers, endangering system stability (for instance, by allowing companies to become too big to fail), or undermining media diversity, to name a few." (P. 739) In questa prospettiva, la protezione dei consumatori non va ridotta a una questione di prezzo, ma va intesa in una senso strutturale: “The longterm interests of consumers include product quality, variety, and innovation - factors best promoted through both a robust competitive process and open markets” (p. 739) Proprio per mostrare che l'intento originale del legislatore era *politico*, l'articolo di Lina Kahn cita il senatore John Sherman, promotore dello Sherman anti-trust act, che parla di "re", "imperatori" e "autocrati". “If we will not endure a king as a political power, we should not endure a king over the production, transportation, and sale of any of the necessities of life. If we would not submit to an emperor, we should not submit to an autocrat of trade, with power to prevent competition and to fix the price of any commodity.” (p.740) Correva l'anno 1890. Buoanotte, MCP (*) Perché, come scrive la stessa Lina Kahn, “allowing firms to amass market power makes it more difficult to meaningfully check that power when it is eventually exercised”. (p.745)

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Fabio Alemagna

Con rispetto parlando, non ritengo sia utile a nessuno rispondere ad argomentazioni che reputo fantagiuridiche e fantainformatiche. Fabio On Sun, Jul 16, 2023, 21:21 Giacomo Tesio <giacomo(a)tesio.it> wrote: > Ciao Fabio, > > Il 16 Luglio 2023 12:21:32 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha > scritto: > >Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio > ><giacomo(a)tesio.it> ha scritto: > >> > se io mettessi online un generatore di > >> > frasi casuali, ma di senso compiuto, che prendessero spunto > >> > dall'input dell'utente, e se l'input dell'utente fosse il nome e > >> > cognome di una persona esistente, e se il software generasse, > >> > casualmente, frasi potenzialmente diffamatorie per quella persona > >> > [...] il responsabile dell'eventuale diffamazione sarei io > >> > >> Certo! > >> > >> Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale > >> diffamazione sei ovviamente tu! > > > >Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, > >se quel nome e cognome neanche esistono all'interno del data base che > >quel sito utilizza, non posso IO essere responsabile. > > Non saresti responsabile se il software che hai scritto, a fronte di una > richiesta relativa ad una > persona non presente sul tuo database rispondesse sempre: "non dispongo di > infornazioni sull'argomento richiesto". > > Se invece fornisce un output che una mente umana interpreta come > informazione, > alloravdi quell'output DEVI ovviamente rispondere. > > > E la ragione è semplicissima: il tuo software automatizza ciò che faresti > tu. > > > Nel caso di un chatbot è evidente: se il sito permettesse di chattare con > te e tu > diffamassi qualcuno, ne dovresti rispondere. > > Se bastasse (dichiarare di) aver usato un automatismo per non rispondere > di un reato > avremmo una abrogazione di fatto del diritto penale. > > > > >> Vuoi illuminarci su ciò che a tuo parere non comprendiamo? > > > >Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. > >Quello è un input fornito dall'utente, che fa partire un'inferenza, > >che produce un output che potrà a sua volta contenere contenere > >quell'input *fornito dall'utente*. > > E davvero credi che qualcuni non l'abbia capito? > > L'utente è responsabile per ciò che scrive (l'input). > > > Ma poiché non scrive il software che elabora tale e non ne pubblica > l'output, non può > essere considerato in alcun modo responsabile di tale output. > > > Le responsabilità sono chiarissime e ben ripartite. > > > > Ciò avviene sulla base di un > >algoritmo che tenta di prevedere quale "token" (tipicamente una > >sillaba) è più probabile che segua i token forniti in precedenza > >dall'utente e quelli generati dall'algoritmo stesso, sulla base dei > >*pattern* che sono stati estratti dai testi su cui la rete neurale è > >stata istruita, con un pizzico di randomness aggiunta. > > Dettagli implementativi _irrilevanti_, peraltro spiegati in modo piuttosto > confuso. > > Ad esempio la programmazione statistica non "estrae pattern" ma produce un > software che > riproduce _possibili_ correlazioni statistiche presenti nell'input, senza > comprenderne > la rilevanza, il significato o le relazioni. > > Correlazioni che da un lato possono essere del tutto casuali e dall'altro > possono essere imposte > dai programmatori selezionando i dati da utilizzare durante la > programmazione statistica. > > > >A seconda di quanto corretti e quanti fossero i dati su cui la rete > >neurale è stata istruita, il risultato sarà più o meno accurato in > >termini di lessico e esattezza. > > > >L'esattezza non è garantita, è solo più o meno probabile. > > Not even wrong. > > L'output non può essere "giusto" o "sbagiato" se non ha un significato. > > Se ha un significato, tale significato presuppone almeno un agente che > voglia comunicarlo > esprimendolo attraverso un significante costituito da simboli. > > In questo caso l'agente in questione è costituito dalle persone che hanno > realizzato e mantengono operativo ChatGPT che è una loro espressione, > ovvero OpenAI. > > Tutto ciò che ChatGPT "scrive" è scritto per volontà di queste persone: > senza il loro lavoro, > il loro hardware e la corrente che pagano, non scriverebbe alcunché. > > Il fatto che l'output prodotto sia interpretabile da un essere umano come > vero ("esatto") o > falso ("inesatto") è prova di questa volontà comunicativa di OpenAI e > dunque della sua responsabilità. > > Se non vuole assumersi la responsabilità del significato attribuibile > all'output del proprio > software, OpenAI ha una sola cosa da fare: spegnerlo. > > > >In ogni caso, l'output dipende dall'input, e l'input lo ha fornito > l'utente. > > In misura trascurabile. > > L'output di un software è sempre determinato da 3 fattori: > > - input > - stato iniziale > - struttura logica del software > > Se volessimo attribuire responsabilità sulla base dell'impatto di ciascun > componente sull'output, dovremmo misurare i bit di entropia dell'input, > quelli dello stato iniziale (i pesi delle varie matrici, le relazioni fra i > diversi token etc... quello che banalizzando hai definito il "database") e > i bit di entropia impressi nel software nella sua interezza. > > Come penso anche tu possa intuire se sai anche solo vagamente di cosa > stiamo parlando, > il peso percentuale dell'input è dell'ordine di 0,00...01 > > > Naturalmente questa attribuzione di responsabilità sarebbe comunque > irrazionale ed ingiusta: > nessuno costringe OpenAI a includere parti dell'input nell'output, per cui > deve rispondere > ANCHE di tale inclusione. > > La responsabilità dell'output di ChatGPT è dunque totalmente di OpenAI. > > > > >Ho già più volte documentato come in molti casi interpretati come > >"diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse > >la persona > > Hai scoperto l'acqua calda, Fabio. > > ChatGPT non sa nulla! ;-) > > > OpenAI (che si legge Microsoft) invece sa molto bene come farti credere il > contrario. > > > Giacomo > >

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Giacomo Tesio

Ciao Fabio, Il 16 Luglio 2023 12:21:32 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha scritto: >Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio ><giacomo(a)tesio.it> ha scritto: >> > se io mettessi online un generatore di >> > frasi casuali, ma di senso compiuto, che prendessero spunto >> > dall'input dell'utente, e se l'input dell'utente fosse il nome e >> > cognome di una persona esistente, e se il software generasse, >> > casualmente, frasi potenzialmente diffamatorie per quella persona >> > [...] il responsabile dell'eventuale diffamazione sarei io >> >> Certo! >> >> Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale >> diffamazione sei ovviamente tu! > >Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, >se quel nome e cognome neanche esistono all'interno del data base che >quel sito utilizza, non posso IO essere responsabile. Non saresti responsabile se il software che hai scritto, a fronte di una richiesta relativa ad una persona non presente sul tuo database rispondesse sempre: "non dispongo di infornazioni sull'argomento richiesto". Se invece fornisce un output che una mente umana interpreta come informazione, alloravdi quell'output DEVI ovviamente rispondere. E la ragione è semplicissima: il tuo software automatizza ciò che faresti tu. Nel caso di un chatbot è evidente: se il sito permettesse di chattare con te e tu diffamassi qualcuno, ne dovresti rispondere. Se bastasse (dichiarare di) aver usato un automatismo per non rispondere di un reato avremmo una abrogazione di fatto del diritto penale. >> Vuoi illuminarci su ciò che a tuo parere non comprendiamo? > >Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. >Quello è un input fornito dall'utente, che fa partire un'inferenza, >che produce un output che potrà a sua volta contenere contenere >quell'input *fornito dall'utente*. E davvero credi che qualcuni non l'abbia capito? L'utente è responsabile per ciò che scrive (l'input). Ma poiché non scrive il software che elabora tale e non ne pubblica l'output, non può essere considerato in alcun modo responsabile di tale output. Le responsabilità sono chiarissime e ben ripartite. > Ciò avviene sulla base di un >algoritmo che tenta di prevedere quale "token" (tipicamente una >sillaba) è più probabile che segua i token forniti in precedenza >dall'utente e quelli generati dall'algoritmo stesso, sulla base dei >*pattern* che sono stati estratti dai testi su cui la rete neurale è >stata istruita, con un pizzico di randomness aggiunta. Dettagli implementativi _irrilevanti_, peraltro spiegati in modo piuttosto confuso. Ad esempio la programmazione statistica non "estrae pattern" ma produce un software che riproduce _possibili_ correlazioni statistiche presenti nell'input, senza comprenderne la rilevanza, il significato o le relazioni. Correlazioni che da un lato possono essere del tutto casuali e dall'altro possono essere imposte dai programmatori selezionando i dati da utilizzare durante la programmazione statistica. >A seconda di quanto corretti e quanti fossero i dati su cui la rete >neurale è stata istruita, il risultato sarà più o meno accurato in >termini di lessico e esattezza. > >L'esattezza non è garantita, è solo più o meno probabile. Not even wrong. L'output non può essere "giusto" o "sbagiato" se non ha un significato. Se ha un significato, tale significato presuppone almeno un agente che voglia comunicarlo esprimendolo attraverso un significante costituito da simboli. In questo caso l'agente in questione è costituito dalle persone che hanno realizzato e mantengono operativo ChatGPT che è una loro espressione, ovvero OpenAI. Tutto ciò che ChatGPT "scrive" è scritto per volontà di queste persone: senza il loro lavoro, il loro hardware e la corrente che pagano, non scriverebbe alcunché. Il fatto che l'output prodotto sia interpretabile da un essere umano come vero ("esatto") o falso ("inesatto") è prova di questa volontà comunicativa di OpenAI e dunque della sua responsabilità. Se non vuole assumersi la responsabilità del significato attribuibile all'output del proprio software, OpenAI ha una sola cosa da fare: spegnerlo. >In ogni caso, l'output dipende dall'input, e l'input lo ha fornito l'utente. In misura trascurabile. L'output di un software è sempre determinato da 3 fattori: - input - stato iniziale - struttura logica del software Se volessimo attribuire responsabilità sulla base dell'impatto di ciascun componente sull'output, dovremmo misurare i bit di entropia dell'input, quelli dello stato iniziale (i pesi delle varie matrici, le relazioni fra i diversi token etc... quello che banalizzando hai definito il "database") e i bit di entropia impressi nel software nella sua interezza. Come penso anche tu possa intuire se sai anche solo vagamente di cosa stiamo parlando, il peso percentuale dell'input è dell'ordine di 0,00...01 Naturalmente questa attribuzione di responsabilità sarebbe comunque irrazionale ed ingiusta: nessuno costringe OpenAI a includere parti dell'input nell'output, per cui deve rispondere ANCHE di tale inclusione. La responsabilità dell'output di ChatGPT è dunque totalmente di OpenAI. >Ho già più volte documentato come in molti casi interpretati come >"diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse >la persona Hai scoperto l'acqua calda, Fabio. ChatGPT non sa nulla! ;-) OpenAI (che si legge Microsoft) invece sa molto bene come farti credere il contrario. Giacomo

July 16, 2023

Re: [nexa] cibernetica

by Guido Vetere

"Like cybernetics in its time, now the field of AI cannot avoid tackling the barrier of meaning" verissimo, per ora tuttavia siamo al 'denial' :-( G. Il Dom 16 Lug 2023, 17:30 Alberto Cammozzo via nexa < nexa(a)server-nexa.polito.it> ha scritto: > Grazie, > > tutti i contributi che ho letto finora sono molto interessanti. > > Di particolare rilevo per questa lista credo sia il saggio di Niccolò > Monti 'The Unmeaning Machine. Cybernetics from Semiotics to AI' che > affronta il tema della 'barrier of meaning'. > > Alberto > > > On 13/07/23 20:46, Giovanni Leghissa via nexa wrote: > > vi invio il link che vi permette di scaricare l'ultimo numero di > > Philosophy kitchen, rivista di filosofia online che dirigo - numero > > dedicato alla cibernetica. > > spero possa interessare alcuni di voi > > G > > > https://philosophykitchen.com/2023/06/pk18-cibernetica-prospettive-sul-pens… > > > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

July 16, 2023