Certamente, mi sono espresso male, conosco gli LLM, faccio NLP 🙂 
Pensavo allo strato successivo a cui stanno lavorando OpenAI e altri, lo strato di correzione o filtro sull’output o sull’ input dell’utente.

D’accordo sul fatto che il testing e la segnalazione di errori sia lavorare gratis, una modalità di lavoro diffusa che non piace neanche a me.

Sull’importanza dei dataset sui quali si fa l’apprendimento automatico, credo ci sia un margine di approfondimento del tema.

Buona giornata !
AB



Il giorno dom 19 feb 2023 alle 22:59 Marco A. Calamari <marcoc_maillist@marcoc.it> ha scritto:
On dom, 2023-02-19 at 19:51 +0100, Andrea Bolioli via nexa wrote:
Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi segnalo: ha inventato riferimenti bibliografici a libri e articoli inesistenti, combinando autori, titolo, anno, rivista, editore a caso non corretti, a volte inesistenti.
Non riporto i dialoghi, che ho salvato. 
All'inizio mi hanno fatto ridere, sembravano le risposte di un simpatico cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e articoli scientifici che parlano del tema XX?" - "Certamente! Bla bla bla"). Ho scritto a GPT che si sbagliava, si è scusato più volte e mi ha proposto altri riferimenti a libri e articoli, alcuni corretti, alcuni inesistenti. Ho provato in italiano e inglese, stesso comportamento.
Ho lasciato perdere.
Questo tipo di errore non me l'aspettavo, perché non è molto difficile controllare la correttezza (o perlomeno l'esistenza) dei riferimenti bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non avranno ancora integrato banche dati bibliografiche?

C'è un problema di fondo. 

Quello di ritenere che, avendo fornito della conoscenza, dei fatti, ad una IA generativa, questa conoscenza esista ancora al suo interno.

Non è cosi.

E' stata digerita, bruciata, e sono rimaste delle nuvole di coefficienti statistici.

Non c'è nessun motivo per cui la risposta giusta debba riapparire se fai la domanda giusta.

GPT-3 non funziona così. Non immagazzina conoscenza, ma si perfeziona nell'abilità di mettere in fila le parole. Solo quello.

Ed invece, prima o poi, ce lo dimentichiamo.

JM2EC.   Marco



Buona serata,
AB






Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito <abrolpito@gmail.com> ha scritto:
Grazie Guido per la chiarezza del tuo messaggio che esprime in una estrema sintesi l'ardire dei LLM, ma anche i limiti umani che abbiamo e che ho in prima persona nel maneggiare informazioni e ragionamenti.
Certo, io posso fare pochi danni mentre un sistema LLM su Internet è tutta un'altra potenza di fuoco.

Ma è un dato di fatto che i "dati" e la loro indicizzazione saranno sempre di più, e sempre più sofisticate: le buone domande saranno sempre più importanti delle risposte o meglio saranno importanti per avere delle risposte ragionevoli a chiunque saranno indirizzate. 

Alla resistenza vorrei aggiungere l'importanza dello sviluppo del pensiero critico, da coltivare nel percorso educativo, sin dall'inizio, dal 0-6 in avanti.
Ed è qui che si deve agire e con alcuni amici in lista ci si stiamo riflettendo sopra sul come.

Alessandro



_______________________________________________
nexa mailing list




innovation.h-farm.com / Linkedin

Roncade, H-FARM Campus, Via Olivetti, 1 – 31056 (TV)
Milano, Corso di Porta Romana, 15 – 20122
Torino, Via San Quintino, 31 – 10121

Our privacy policy.Â