Buonasera. Credo sia sufficiente ricordare che non sta fornendo informazioni e non commette alcun errore. Sta producendo la successione più probabile di stringhe di testo (probabile non rispetto a fatti reali, ma alla distribuzione delle stringhe di testo nei dati di preaddestramento e nella fase di reinforcement learning with human feedback) A fronte di un caso analogo, generato a partire dall'input di un mio studente, gli altri studenti trovarono la "risposta" di chatGPT (che copio di seguito) perfettamente spiegabile: il genere letterario "biografia" prevede che si cominci con la nascita e si concluda con la morte e quindi chatGPT faceva morire Pelé in una certa data (malgrado allora fosse ancora vivo). Detto altrimenti: statisticamente, una biografia può finire solo in un modo. [cid:76edb820-ebe5-497f-82cb-ddb5d2569436] Per l'analisi di un singolo output, che rende facilmente comprensibile il meccanismo: <https://nitter.snopyta.org/dsmerdon/status/1618817855470043137> Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Diego Giorio <dgiorio@hotmail.com> Inviato: giovedì 16 febbraio 2023 19:57 A: Ugo Pagallo; NEXA_lista Oggetto: Re: [nexa] Triste Annuncio (a proposito di Chat GPT) Beh, innanzitutto felicitazioni per essere ancora tra noi. Però, al di là dell'ironia e delle ovvie considerazioni sull'affidabilità di questi (perltro complessivamente notevoli) sistemi, una domanda sorge spontanea: com'è capitato? Anche la domanda sulla proprietà intellettuale dei testi prodotti è risultata sbagliata, ma in quel caso sembra essere stato appurato che la risposta era basata su informazioni non aggiorante. In questo caso l'AI è stata molto specifica, quindi sarebbe interessante capire com'è che l'errore è nato. Oltretutto le altre informazioni mi sembrano accurate. Un omonimo? Un qualche episodio capitato in quella data che possa essere stato scambiato per un decesso, magari complice qualche errore di traduzione? Comunque il punto più importante resta che si è trattato di un errore! Un caro saluto D. ________________________________ From: nexa <nexa-bounces@server-nexa.polito.it> on behalf of Ugo Pagallo <ugo.pagallo@unito.it> Sent: Thursday, February 16, 2023 6:32 PM To: NEXA_lista <nexa@server-nexa.polito.it> Subject: [nexa] Triste Annuncio (a proposito di Chat GPT) Nexiane/i, ho seguito con interesse l'ultima settimana di messaggi in lista sulla Chat GPT e ho appreso molto. Oggi apprendo però da un'allieva che secondo Chat GPT in realtà sono morto (per la precisione il 31 Agosto 2021). Ci tenevo a segnalare -- come possono confermare alcuni amici in lista questa mattina -- che "rumours of my death are greatly exaggerated." Cheers ;-) [cid:7926357d-fb3e-46ea-a8b5-50602c466972@namprd19.prod.outlook.com] _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202302161857540699249&URLID=2&ESV=10.0.19.7431&IV=995FFC2618963DFE3ED48C6C35C5C518&TT=1676573874748&ESN=iBbNBUzDy2g4KoFY4waX56cTeHGCQXvfU4E%2BkpO%2Fg78%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9zZXJ2ZXItbmV4YS5wb2xpdG8uaXQvY2dpLWJpbi9tYWlsbWFuL2xpc3RpbmZvL25leGE&HK=E887C5F58E8E753BF167FBD13FE9FE6BE5A0CC28A54C7E4DC2D97749A3F0E680>
