D'altra parte, qualcuno ha mai smesso di fumare perché sul pacchetto di sigarette c'è scritto che il fumo uccide?
La verità è che tutti finiremo per usare GPT e le tante cose del genere che stanno già venendo fuori.
Vi sono moltissimi impieghi per i quali l'inconsapevolezza di questi sistemi non emerge, o non rileva. 
Nell'industria del software, ad esempio, GPT accelera moltissimo quello che gli sviluppatori fanno abitualmente quando sono alle prese con un puzzle (cioè sempre): ricerche su Google, che puntualmente conducono a siti specialistici dove tuttavia c'è da perder tempo. GPT, sulla base di informazione attinta da quelle stesse fonti, dà in pochi secondi la soluzione 'out of the box', quasi sempre soddisfacente. Nessuno sviluppatore ne farà a meno. L'effetto devastante per l'ecosistema dello sviluppo software è facilmente intuibile: verrà tutto risucchiato dentro i 'gazillion parameters' di GPT.
Ma vi sono anche cose molto interessanti che riguardano le parole. La lessicografia classica, cioè basata fondamentalmente sull'introspezione, già da tempo incalzata dalle analisi quantitative (il lessico di frequenza di De Mauro risale agli anni '80) è finita. I Large Language Model non sono certamente un modello plausibile del linguaggio umano, tuttavia rendono possibile osservare, nei 'giochi linguistici', quelle 'somiglianze di famiglia' di cui parlava Wittgenstein, su una scala che non ha precedenti.
Risolta la questione se useremo o meno questi oggetti, la domanda ora è: possiamo costruirli e gestirli in modo che non aumentino le disuguaglianze e i pericoli? Uno spunto può venire dal confronto tra i diversi ordini di grandezza che dividono GPT-3 da GPT-4 e le differenze non altrettanto grandi tra le prestazioni dei due sistemi, come se il rapporto tra dimensioni e prestazioni fosse logaritmico. Se così fosse, allora sapremmo qual è il limite del reale vantaggio dei GAFAM rispetto a 'the rest of us'.
Viviamo in tempi interessanti.
Guido







On Wed, 15 Mar 2023 at 20:01, Daniela Tafani <daniela.tafani@unipi.it> wrote:

Già. O dei multimiliardari che chiedono di pagare più tasse.


Qui però c'è anche il convitato di pietra della responsabilità:

assomigliano perciò al quel personaggio di Pirandello che girava sempre con le mani avanti...



Da: Antonio Casilli <antonio.casilli@telecom-paris.fr>
Inviato: mercoledì 15 marzo 2023 19:45
A: Daniela Tafani
Cc: Nexa
Oggetto: Re: [nexa] GPT-4
 
Possiamo chiamarlo "L'approccio dei Sam" (Altman e Bankman-Fried): non rispettare le regole e poi dire "ma com'è che non mi regolate?"

----- Original Message -----
From: "Daniela Tafani" <daniela.tafani@unipi.it>
To: "Nexa" <nexa@server-nexa.polito.it>
Sent: Wednesday, March 15, 2023 7:11:09 PM
Subject: [nexa] GPT-4

- GPT-4 has the potential to be used to attempt to identify private individuals when augmented with outside data;

- GPT-4 is capable of generating discriminatory content favorable to autocratic governments across
multiple languages

- it does continue the trend of potentially lowering the cost of certain steps of a successful cyberattack;

- GPT-4 has the tendency to “hallucinate,” i.e. “produce content that is nonsensical or untruthful in
relation to certain sources.” This tendency can be particularly harmful as models become
increasingly convincing and believable, leading to overreliance on them by users.
Counterintuitively, hallucinations can become more dangerous as models
become more truthful, as users build trust in the model when it provides truthful information in
areas where they have some familiarity. Additionally, as these models are integrated into society
and used to help automate various systems, this tendency to hallucinate is one of the factors that
can lead to the degradation of overall information quality and further reduce veracity of and trust in
freely available information;

Non lo scrive un luddista, lo scrive - in un lungo elenco di ulteriori effetti nefasti - OpenAI, nella System Card
di un documento travestito da articolo arxiv, ma il cui autore è l'azienda stessa:



< [ https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303151845100105620&URLID=3&ESV=10.0.19.7431&IV=6872FDF68A8E814D467D7880C2CEA320&TT=1678905910761&ESN=MfIfpONZ9hyLO428RKgYVbzPQ8%2Fi3tgHgHtEXaPcVD4%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9jZG4ub3BlbmFpLmNvbS9wYXBlcnMvZ3B0LTQucGRm&HK=7B5C92F70DA027CE5635C7DC03FB6438ED6BA764AA68BC3676BAAB5282A2A4B5 | https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303151845100105620&URLID=2&ESV=10.0.19.7431&IV=39133EA0377EF3EEB96AB31B7E6C4199&TT=1678905910760&ESN=40Yv2sjWSmbSK7sv2ZUBAqSiMv6h5hU2PHYi9XiCuHg%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9jZG4ub3BlbmFpLmNvbS9wYXBlcnMvZ3B0LTQucGRm&HK=2B08FDF90312E03531E126ECD617D5AB80E5F4F3BFEF4E77CA3432643A1FD044 ] >




Nella consapevolezza della fragilità degli interventi mitigatori, OpenAI rileva "a need for effective regulation".



Buona serata,

Daniela

_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303151845100105620&URLID=1&ESV=10.0.19.7431&IV=385A13BF262BDD474D04503A204271D5&TT=1678905910760&ESN=IAqgzj4hpFWGu5j4cUQUv4aVHs3Qimmy6Aazh7zz2FE%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9zZXJ2ZXItbmV4YS5wb2xpdG8uaXQvY2dpLWJpbi9tYWlsbWFuL2xpc3RpbmZvL25leGE&HK=7649C67E1036707D7AB0888D1BEC9EC80C7F81A7357509ABFE72F73AC9AF5948
_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa