- nexa - server-nexa.polito.it

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Maria Chiara Pievatolo

On 16/07/23 12:38, Giacomo Tesio wrote: > [1]: Non sono però affatto entusiasta perché non considero > particolarmente credibile la FTC (con o senza Khan) > anzitutto per il framework interpretativo ormai inadeguato > (una prospettiva meramente economica, in cui ci si limita > alla protezione dei "consumatori") e intrinsecamente imperialista > (al massimo ci si preoccupa dei consumatori_americani_). Lina Khan deve il suo posto di presidente della FTC a un articolo del 2017 che critica la riduzione dell'antitrust alla protezione dei consumatori, in virtù dell'influenza della scuola di Chicago. Anche se nulla assicura che la rivoluzione abbia successo,(*) la sua nomina è stata rivoluzionaria nel senso astronomico del termine. Cito da: https://www.yalelawjournal.org/note/amazons-antitrust-paradox "Focusing antitrust exclusively on consumer welfare is a mistake. For one, it betrays legislative intent, which makes clear that Congress passed antitrust laws to safeguard against **excessive concentrations of economic power**. This vision promotes a variety of aims, including the preservation of open markets, the protection of producers and consumers from monopoly abuse, and the **dispersion of political and economic control**. Secondly, focusing on consumer welfare disregards the host of other ways that excessive concentration can harm us—enabling firms to squeeze suppliers and producers, endangering system stability (for instance, by allowing companies to become too big to fail), or undermining media diversity, to name a few." (P. 739) In questa prospettiva, la protezione dei consumatori non va ridotta a una questione di prezzo, ma va intesa in una senso strutturale: “The longterm interests of consumers include product quality, variety, and innovation - factors best promoted through both a robust competitive process and open markets” (p. 739) Proprio per mostrare che l'intento originale del legislatore era *politico*, l'articolo di Lina Kahn cita il senatore John Sherman, promotore dello Sherman anti-trust act, che parla di "re", "imperatori" e "autocrati". “If we will not endure a king as a political power, we should not endure a king over the production, transportation, and sale of any of the necessities of life. If we would not submit to an emperor, we should not submit to an autocrat of trade, with power to prevent competition and to fix the price of any commodity.” (p.740) Correva l'anno 1890. Buoanotte, MCP (*) Perché, come scrive la stessa Lina Kahn, “allowing firms to amass market power makes it more difficult to meaningfully check that power when it is eventually exercised”. (p.745)

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Fabio Alemagna

Con rispetto parlando, non ritengo sia utile a nessuno rispondere ad argomentazioni che reputo fantagiuridiche e fantainformatiche. Fabio On Sun, Jul 16, 2023, 21:21 Giacomo Tesio <giacomo(a)tesio.it> wrote: > Ciao Fabio, > > Il 16 Luglio 2023 12:21:32 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha > scritto: > >Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio > ><giacomo(a)tesio.it> ha scritto: > >> > se io mettessi online un generatore di > >> > frasi casuali, ma di senso compiuto, che prendessero spunto > >> > dall'input dell'utente, e se l'input dell'utente fosse il nome e > >> > cognome di una persona esistente, e se il software generasse, > >> > casualmente, frasi potenzialmente diffamatorie per quella persona > >> > [...] il responsabile dell'eventuale diffamazione sarei io > >> > >> Certo! > >> > >> Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale > >> diffamazione sei ovviamente tu! > > > >Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, > >se quel nome e cognome neanche esistono all'interno del data base che > >quel sito utilizza, non posso IO essere responsabile. > > Non saresti responsabile se il software che hai scritto, a fronte di una > richiesta relativa ad una > persona non presente sul tuo database rispondesse sempre: "non dispongo di > infornazioni sull'argomento richiesto". > > Se invece fornisce un output che una mente umana interpreta come > informazione, > alloravdi quell'output DEVI ovviamente rispondere. > > > E la ragione è semplicissima: il tuo software automatizza ciò che faresti > tu. > > > Nel caso di un chatbot è evidente: se il sito permettesse di chattare con > te e tu > diffamassi qualcuno, ne dovresti rispondere. > > Se bastasse (dichiarare di) aver usato un automatismo per non rispondere > di un reato > avremmo una abrogazione di fatto del diritto penale. > > > > >> Vuoi illuminarci su ciò che a tuo parere non comprendiamo? > > > >Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. > >Quello è un input fornito dall'utente, che fa partire un'inferenza, > >che produce un output che potrà a sua volta contenere contenere > >quell'input *fornito dall'utente*. > > E davvero credi che qualcuni non l'abbia capito? > > L'utente è responsabile per ciò che scrive (l'input). > > > Ma poiché non scrive il software che elabora tale e non ne pubblica > l'output, non può > essere considerato in alcun modo responsabile di tale output. > > > Le responsabilità sono chiarissime e ben ripartite. > > > > Ciò avviene sulla base di un > >algoritmo che tenta di prevedere quale "token" (tipicamente una > >sillaba) è più probabile che segua i token forniti in precedenza > >dall'utente e quelli generati dall'algoritmo stesso, sulla base dei > >*pattern* che sono stati estratti dai testi su cui la rete neurale è > >stata istruita, con un pizzico di randomness aggiunta. > > Dettagli implementativi _irrilevanti_, peraltro spiegati in modo piuttosto > confuso. > > Ad esempio la programmazione statistica non "estrae pattern" ma produce un > software che > riproduce _possibili_ correlazioni statistiche presenti nell'input, senza > comprenderne > la rilevanza, il significato o le relazioni. > > Correlazioni che da un lato possono essere del tutto casuali e dall'altro > possono essere imposte > dai programmatori selezionando i dati da utilizzare durante la > programmazione statistica. > > > >A seconda di quanto corretti e quanti fossero i dati su cui la rete > >neurale è stata istruita, il risultato sarà più o meno accurato in > >termini di lessico e esattezza. > > > >L'esattezza non è garantita, è solo più o meno probabile. > > Not even wrong. > > L'output non può essere "giusto" o "sbagiato" se non ha un significato. > > Se ha un significato, tale significato presuppone almeno un agente che > voglia comunicarlo > esprimendolo attraverso un significante costituito da simboli. > > In questo caso l'agente in questione è costituito dalle persone che hanno > realizzato e mantengono operativo ChatGPT che è una loro espressione, > ovvero OpenAI. > > Tutto ciò che ChatGPT "scrive" è scritto per volontà di queste persone: > senza il loro lavoro, > il loro hardware e la corrente che pagano, non scriverebbe alcunché. > > Il fatto che l'output prodotto sia interpretabile da un essere umano come > vero ("esatto") o > falso ("inesatto") è prova di questa volontà comunicativa di OpenAI e > dunque della sua responsabilità. > > Se non vuole assumersi la responsabilità del significato attribuibile > all'output del proprio > software, OpenAI ha una sola cosa da fare: spegnerlo. > > > >In ogni caso, l'output dipende dall'input, e l'input lo ha fornito > l'utente. > > In misura trascurabile. > > L'output di un software è sempre determinato da 3 fattori: > > - input > - stato iniziale > - struttura logica del software > > Se volessimo attribuire responsabilità sulla base dell'impatto di ciascun > componente sull'output, dovremmo misurare i bit di entropia dell'input, > quelli dello stato iniziale (i pesi delle varie matrici, le relazioni fra i > diversi token etc... quello che banalizzando hai definito il "database") e > i bit di entropia impressi nel software nella sua interezza. > > Come penso anche tu possa intuire se sai anche solo vagamente di cosa > stiamo parlando, > il peso percentuale dell'input è dell'ordine di 0,00...01 > > > Naturalmente questa attribuzione di responsabilità sarebbe comunque > irrazionale ed ingiusta: > nessuno costringe OpenAI a includere parti dell'input nell'output, per cui > deve rispondere > ANCHE di tale inclusione. > > La responsabilità dell'output di ChatGPT è dunque totalmente di OpenAI. > > > > >Ho già più volte documentato come in molti casi interpretati come > >"diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse > >la persona > > Hai scoperto l'acqua calda, Fabio. > > ChatGPT non sa nulla! ;-) > > > OpenAI (che si legge Microsoft) invece sa molto bene come farti credere il > contrario. > > > Giacomo > >

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Giacomo Tesio

Ciao Fabio, Il 16 Luglio 2023 12:21:32 UTC, Fabio Alemagna <falemagn(a)gmail.com> ha scritto: >Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio ><giacomo(a)tesio.it> ha scritto: >> > se io mettessi online un generatore di >> > frasi casuali, ma di senso compiuto, che prendessero spunto >> > dall'input dell'utente, e se l'input dell'utente fosse il nome e >> > cognome di una persona esistente, e se il software generasse, >> > casualmente, frasi potenzialmente diffamatorie per quella persona >> > [...] il responsabile dell'eventuale diffamazione sarei io >> >> Certo! >> >> Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale >> diffamazione sei ovviamente tu! > >Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, >se quel nome e cognome neanche esistono all'interno del data base che >quel sito utilizza, non posso IO essere responsabile. Non saresti responsabile se il software che hai scritto, a fronte di una richiesta relativa ad una persona non presente sul tuo database rispondesse sempre: "non dispongo di infornazioni sull'argomento richiesto". Se invece fornisce un output che una mente umana interpreta come informazione, alloravdi quell'output DEVI ovviamente rispondere. E la ragione è semplicissima: il tuo software automatizza ciò che faresti tu. Nel caso di un chatbot è evidente: se il sito permettesse di chattare con te e tu diffamassi qualcuno, ne dovresti rispondere. Se bastasse (dichiarare di) aver usato un automatismo per non rispondere di un reato avremmo una abrogazione di fatto del diritto penale. >> Vuoi illuminarci su ciò che a tuo parere non comprendiamo? > >Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. >Quello è un input fornito dall'utente, che fa partire un'inferenza, >che produce un output che potrà a sua volta contenere contenere >quell'input *fornito dall'utente*. E davvero credi che qualcuni non l'abbia capito? L'utente è responsabile per ciò che scrive (l'input). Ma poiché non scrive il software che elabora tale e non ne pubblica l'output, non può essere considerato in alcun modo responsabile di tale output. Le responsabilità sono chiarissime e ben ripartite. > Ciò avviene sulla base di un >algoritmo che tenta di prevedere quale "token" (tipicamente una >sillaba) è più probabile che segua i token forniti in precedenza >dall'utente e quelli generati dall'algoritmo stesso, sulla base dei >*pattern* che sono stati estratti dai testi su cui la rete neurale è >stata istruita, con un pizzico di randomness aggiunta. Dettagli implementativi _irrilevanti_, peraltro spiegati in modo piuttosto confuso. Ad esempio la programmazione statistica non "estrae pattern" ma produce un software che riproduce _possibili_ correlazioni statistiche presenti nell'input, senza comprenderne la rilevanza, il significato o le relazioni. Correlazioni che da un lato possono essere del tutto casuali e dall'altro possono essere imposte dai programmatori selezionando i dati da utilizzare durante la programmazione statistica. >A seconda di quanto corretti e quanti fossero i dati su cui la rete >neurale è stata istruita, il risultato sarà più o meno accurato in >termini di lessico e esattezza. > >L'esattezza non è garantita, è solo più o meno probabile. Not even wrong. L'output non può essere "giusto" o "sbagiato" se non ha un significato. Se ha un significato, tale significato presuppone almeno un agente che voglia comunicarlo esprimendolo attraverso un significante costituito da simboli. In questo caso l'agente in questione è costituito dalle persone che hanno realizzato e mantengono operativo ChatGPT che è una loro espressione, ovvero OpenAI. Tutto ciò che ChatGPT "scrive" è scritto per volontà di queste persone: senza il loro lavoro, il loro hardware e la corrente che pagano, non scriverebbe alcunché. Il fatto che l'output prodotto sia interpretabile da un essere umano come vero ("esatto") o falso ("inesatto") è prova di questa volontà comunicativa di OpenAI e dunque della sua responsabilità. Se non vuole assumersi la responsabilità del significato attribuibile all'output del proprio software, OpenAI ha una sola cosa da fare: spegnerlo. >In ogni caso, l'output dipende dall'input, e l'input lo ha fornito l'utente. In misura trascurabile. L'output di un software è sempre determinato da 3 fattori: - input - stato iniziale - struttura logica del software Se volessimo attribuire responsabilità sulla base dell'impatto di ciascun componente sull'output, dovremmo misurare i bit di entropia dell'input, quelli dello stato iniziale (i pesi delle varie matrici, le relazioni fra i diversi token etc... quello che banalizzando hai definito il "database") e i bit di entropia impressi nel software nella sua interezza. Come penso anche tu possa intuire se sai anche solo vagamente di cosa stiamo parlando, il peso percentuale dell'input è dell'ordine di 0,00...01 Naturalmente questa attribuzione di responsabilità sarebbe comunque irrazionale ed ingiusta: nessuno costringe OpenAI a includere parti dell'input nell'output, per cui deve rispondere ANCHE di tale inclusione. La responsabilità dell'output di ChatGPT è dunque totalmente di OpenAI. >Ho già più volte documentato come in molti casi interpretati come >"diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse >la persona Hai scoperto l'acqua calda, Fabio. ChatGPT non sa nulla! ;-) OpenAI (che si legge Microsoft) invece sa molto bene come farti credere il contrario. Giacomo

July 16, 2023

Re: [nexa] cibernetica

by Guido Vetere

"Like cybernetics in its time, now the field of AI cannot avoid tackling the barrier of meaning" verissimo, per ora tuttavia siamo al 'denial' :-( G. Il Dom 16 Lug 2023, 17:30 Alberto Cammozzo via nexa < nexa(a)server-nexa.polito.it> ha scritto: > Grazie, > > tutti i contributi che ho letto finora sono molto interessanti. > > Di particolare rilevo per questa lista credo sia il saggio di Niccolò > Monti 'The Unmeaning Machine. Cybernetics from Semiotics to AI' che > affronta il tema della 'barrier of meaning'. > > Alberto > > > On 13/07/23 20:46, Giovanni Leghissa via nexa wrote: > > vi invio il link che vi permette di scaricare l'ultimo numero di > > Philosophy kitchen, rivista di filosofia online che dirigo - numero > > dedicato alla cibernetica. > > spero possa interessare alcuni di voi > > G > > > https://philosophykitchen.com/2023/06/pk18-cibernetica-prospettive-sul-pens… > > > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

July 16, 2023

Re: [nexa] cibernetica

by Alberto Cammozzo

Grazie, tutti i contributi che ho letto finora sono molto interessanti. Di particolare rilevo per questa lista credo sia il saggio di Niccolò Monti 'The Unmeaning Machine. Cybernetics from Semiotics to AI' che affronta il tema della 'barrier of meaning'. Alberto On 13/07/23 20:46, Giovanni Leghissa via nexa wrote: > vi invio il link che vi permette di scaricare l'ultimo numero di > Philosophy kitchen, rivista di filosofia online che dirigo - numero > dedicato alla cibernetica. > spero possa interessare alcuni di voi > G > https://philosophykitchen.com/2023/06/pk18-cibernetica-prospettive-sul-pens… > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Fabio Alemagna

Il giorno dom 16 lug 2023 alle ore 14:21 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: > Ho già più volte documentato come in molti casi interpretati come > "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse > la persona a cui si stava riferendo e aveva supposto fosse un > personaggio di fantasia su cui imbastire una storia, come gli era > apparso l'utente avesse richiesto. Un esempio su tutti: > https://www.facebook.com/angamela.oibaf/posts/pfbid0pdSKfezqqNvAjr6W1F8r92d… Aggiungo che un nome e cognome non identificano una persona univocamente. Al di là dei casi di omonimia, se io stesso inventassi una storia con un personaggio di fantasia a cui però dovessi dare un nome e cognome di una o più persone esistenti senza farlo di proposito, sarei per questo responsabile di diffamazione? Ovviamente no. La famosa clausola "ogni riferimento a persone esistenti o a fatti realmente accaduti è puramente casuale" dovrebbe dirci qualcosa. Fabio

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Fabio Alemagna

Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > > se io mettessi online un generatore di > > frasi casuali, ma di senso compiuto, che prendessero spunto > > dall'input dell'utente, e se l'input dell'utente fosse il nome e > > cognome di una persona esistente, e se il software generasse, > > casualmente, frasi potenzialmente diffamatorie per quella persona > > [...] il responsabile dell'eventuale diffamazione sarei io > > Certo! > > Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale > diffamazione sei ovviamente tu! Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, se quel nome e cognome neanche esistono all'interno del data base che quel sito utilizza, non posso IO essere responsabile. > Vuoi illuminarci su ciò che a tuo parere non comprendiamo? Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. Quello è un input fornito dall'utente, che fa partire un'inferenza, che produce un output che potrà a sua volta contenere contenere quell'input *fornito dall'utente*. Ciò avviene sulla base di un algoritmo che tenta di prevedere quale "token" (tipicamente una sillaba) è più probabile che segua i token forniti in precedenza dall'utente e quelli generati dall'algoritmo stesso, sulla base dei *pattern* che sono stati estratti dai testi su cui la rete neurale è stata istruita, con un pizzico di randomness aggiunta. A seconda di quanto corretti e quanti fossero i dati su cui la rete neurale è stata istruita, il risultato sarà più o meno accurato in termini di lessico e esattezza. L'esattezza non è garantita, è solo più o meno probabile. In ogni caso, l'output dipende dall'input, e l'input lo ha fornito l'utente. Ho già più volte documentato come in molti casi interpretati come "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse la persona a cui si stava riferendo e aveva supposto fosse un personaggio di fantasia su cui imbastire una storia, come gli era apparso l'utente avesse richiesto. Un esempio su tutti: https://www.facebook.com/angamela.oibaf/posts/pfbid0pdSKfezqqNvAjr6W1F8r92d… Fabio

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Giacomo Tesio

Salve Fabio, On Sat, Jul 15, 2023 at 12:58:40PM +0200, Fabio Alemagna wrote: > Colgo entusiasmo per queste ipotesi e interpretazioni che la FTC fa. > > Io ritengo che siano invece, al di là del fatto che si tratta appunto > di ipotesi e interpretazioni, non fatti conclamati, considerazioni > sostanzialmente frutto di bias cognitivi e background culturale che > poca conoscenza hanno del funzionamento degli LLM. Io ho abbastanza chiaro come funzionino i LLM e sono felice [1] che anche negli USA qualcuno inizi a comprenderne abbastanza il funzionamento da comprendere gli obiettivi di chi le sviluppa e distribuisce. Vuoi illuminarci su ciò che a tuo parere non comprendiamo? > se io mettessi online un generatore di > frasi casuali, ma di senso compiuto, che prendessero spunto > dall'input dell'utente, e se l'input dell'utente fosse il nome e > cognome di una persona esistente, e se il software generasse, > casualmente, frasi potenzialmente diffamatorie per quella persona > [...] il responsabile dell'eventuale diffamazione sarei io Certo! Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale diffamazione sei ovviamente tu! Che tu abbia usato notepad o un generatore stocastico di stronzate per realizzarle è un dettaglio implementativo irrilevante: se danneggi qualcuno, ne devi rispondere. In fondo sei tu ad aver deciso, assumendotene la responsabilità, di realizzare quel software e pubblicarne l'output! Giacomo [1]: Non sono però affatto entusiasta perché non considero particolarmente credibile la FTC (con o senza Khan) anzitutto per il framework interpretativo ormai inadeguato (una prospettiva meramente economica, in cui ci si limita alla protezione dei "consumatori") e intrinsecamente imperialista (al massimo ci si preoccupa dei consumatori _americani_).

July 16, 2023

Re: [nexa] The FTC is investigating whether ChatGPT harms consumers

by Fabio Alemagna

Il giorno dom 16 lug 2023 alle ore 09:37 Maurizio Borghi via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > Lina Khan sta facendo cose egregie alla FTC. È osteggiata non solo dalla lobby delle big tech, come è ovvio, ma anche dai molti giuristi antitrust americani fedeli all’impostazione neo-liberale. L'idea che semplicemente possa essere in errore non sovviene? https://www.wsj.com/articles/lina-khan-openai-chatgpt-letter-federal-trade-…

July 16, 2023

Re: [nexa] Undone Computer Science conference

by Roberto Resoli

Il 13 luglio 2023 15:06:55 CEST, "380°" <g380(a)biscuolo.net> ha scritto: >Buongiorno, > >grazie _infinite_ per la segnalazione, non conoscevo gli studi sulla >undone science [1], fantastico! Mi unisco ai ringraziamenti, veramente interessante! rob

July 16, 2023