D'altra parte, qualcuno ha mai smesso di fumare perché sul pacchetto di sigarette c'è scritto che il fumo uccide? La verità è che tutti finiremo per usare GPT e le tante cose del genere che stanno già venendo fuori. Vi sono moltissimi impieghi per i quali l'inconsapevolezza di questi sistemi non emerge, o non rileva. Nell'industria del software, ad esempio, GPT accelera moltissimo quello che gli sviluppatori fanno abitualmente quando sono alle prese con un puzzle (cioè sempre): ricerche su Google, che puntualmente conducono a siti specialistici dove tuttavia c'è da perder tempo. GPT, sulla base di informazione attinta da quelle stesse fonti, dà in pochi secondi la soluzione 'out of the box', quasi sempre soddisfacente. Nessuno sviluppatore ne farà a meno. L'effetto devastante per l'ecosistema dello sviluppo software è facilmente intuibile: verrà tutto risucchiato dentro i 'gazillion parameters' di GPT. Ma vi sono anche cose molto interessanti che riguardano le parole. La lessicografia classica, cioè basata fondamentalmente sull'introspezione, già da tempo incalzata dalle analisi quantitative (il lessico di frequenza di De Mauro risale agli anni '80) è finita. I Large Language Model non sono certamente un modello plausibile del linguaggio umano, tuttavia rendono possibile osservare, nei 'giochi linguistici', quelle 'somiglianze di famiglia' di cui parlava Wittgenstein, su una scala che non ha precedenti. Risolta la questione se useremo o meno questi oggetti, la domanda ora è: possiamo costruirli e gestirli in modo che non aumentino le disuguaglianze e i pericoli? Uno spunto può venire dal confronto tra i diversi ordini di grandezza che dividono GPT-3 da GPT-4 e le differenze non altrettanto grandi tra le prestazioni dei due sistemi, come se il rapporto tra dimensioni e prestazioni fosse logaritmico. Se così fosse, allora sapremmo qual è il limite del reale vantaggio dei GAFAM rispetto a 'the rest of us'. Viviamo in tempi interessanti. Guido On Wed, 15 Mar 2023 at 20:01, Daniela Tafani <daniela.tafani@unipi.it> wrote:
Già. O dei multimiliardari che chiedono di pagare più tasse.
Qui però c'è anche il convitato di pietra della responsabilità:
assomigliano perciò al quel personaggio di Pirandello che girava sempre con le mani avanti...
------------------------------ *Da:* Antonio Casilli <antonio.casilli@telecom-paris.fr> *Inviato:* mercoledì 15 marzo 2023 19:45 *A:* Daniela Tafani *Cc:* Nexa *Oggetto:* Re: [nexa] GPT-4
Possiamo chiamarlo "L'approccio dei Sam" (Altman e Bankman-Fried): non rispettare le regole e poi dire "ma com'è che non mi regolate?"
----- Original Message ----- From: "Daniela Tafani" <daniela.tafani@unipi.it> To: "Nexa" <nexa@server-nexa.polito.it> Sent: Wednesday, March 15, 2023 7:11:09 PM Subject: [nexa] GPT-4
- GPT-4 has the potential to be used to attempt to identify private individuals when augmented with outside data;
- GPT-4 is capable of generating discriminatory content favorable to autocratic governments across multiple languages
- it does continue the trend of potentially lowering the cost of certain steps of a successful cyberattack;
- GPT-4 has the tendency to “hallucinate,” i.e. “produce content that is nonsensical or untruthful in relation to certain sources.” This tendency can be particularly harmful as models become increasingly convincing and believable, leading to overreliance on them by users. Counterintuitively, hallucinations can become more dangerous as models become more truthful, as users build trust in the model when it provides truthful information in areas where they have some familiarity. Additionally, as these models are integrated into society and used to help automate various systems, this tendency to hallucinate is one of the factors that can lead to the degradation of overall information quality and further reduce veracity of and trust in freely available information;
Non lo scrive un luddista, lo scrive - in un lungo elenco di ulteriori effetti nefasti - OpenAI, nella System Card di un documento travestito da articolo arxiv, ma il cui autore è l'azienda stessa:
< [ https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303151845100105620... | https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303151845100105620... ] >
Nella consapevolezza della fragilità degli interventi mitigatori, OpenAI rileva "a need for effective regulation".
Buona serata,
Daniela
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it
https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303151845100105620... _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa