Il giorno dom 16 lug 2023 alle ore 12:39 Giacomo Tesio <giacomo@tesio.it> ha scritto:
se io mettessi online un generatore di frasi casuali, ma di senso compiuto, che prendessero spunto dall'input dell'utente, e se l'input dell'utente fosse il nome e cognome di una persona esistente, e se il software generasse, casualmente, frasi potenzialmente diffamatorie per quella persona [...] il responsabile dell'eventuale diffamazione sarei io
Certo!
Se sul tuo sito compaiono frasi diffamatorie il responsabile di tale diffamazione sei ovviamente tu!
Se sul "mio sito" *qualcun altro* mette il nome e cognome di qualcuno, se quel nome e cognome neanche esistono all'interno del data base che quel sito utilizza, non posso IO essere responsabile.
Vuoi illuminarci su ciò che a tuo parere non comprendiamo?
Da nessuna parte esiste "Giacomo Desio" nella rete neurale di un LLM. Quello è un input fornito dall'utente, che fa partire un'inferenza, che produce un output che potrà a sua volta contenere contenere quell'input *fornito dall'utente*. Ciò avviene sulla base di un algoritmo che tenta di prevedere quale "token" (tipicamente una sillaba) è più probabile che segua i token forniti in precedenza dall'utente e quelli generati dall'algoritmo stesso, sulla base dei *pattern* che sono stati estratti dai testi su cui la rete neurale è stata istruita, con un pizzico di randomness aggiunta. A seconda di quanto corretti e quanti fossero i dati su cui la rete neurale è stata istruita, il risultato sarà più o meno accurato in termini di lessico e esattezza. L'esattezza non è garantita, è solo più o meno probabile. In ogni caso, l'output dipende dall'input, e l'input lo ha fornito l'utente. Ho già più volte documentato come in molti casi interpretati come "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse la persona a cui si stava riferendo e aveva supposto fosse un personaggio di fantasia su cui imbastire una storia, come gli era apparso l'utente avesse richiesto. Un esempio su tutti: https://www.facebook.com/angamela.oibaf/posts/pfbid0pdSKfezqqNvAjr6W1F8r92dn... Fabio