a mio modo di vedere una della questioni è proprio questa: le fonti.Il prossimo passaggio dopo la generazione di testi di fantasia è cercare di associare delle "fonti" ai testi generati (è in corso l'integrazione con i motori di ricerca), in modo che possiamo andare a vedere dei documenti che ci possono servire come referenze per le informazioni espresse nel testo generato. Per gli LLM non sono in realtà delle fonti, forse possiamo vederle come "prove a supporto".
noi qui dentro.
e tutte le persone che non hanno le competenze digitali, culturali, politiche, informatiche, ecc., per cogliere il senso della complessità (della velenosità?) della pappetta che il chatbot gli ammannisce, e se la berranno beate senza nemmeno buttare l'occhio su quei simulacri di obiettività informativa costituiti dalla citazione delle fonti usate dal chatbot?
MaurizioDate: Fri, 17 Feb 2023 11:13:37 +0100 From: Andrea Bolioli <andrea.bolioli@h-farm.com> To: "Marco A. Calamari" <marcoc_maillist@marcoc.it> Cc: nexa@server-nexa.polito.it Subject: Re: [nexa] Triste Annuncio (a proposito di Chat GPT) Buongiorno a tutti/e grazie per questo thread stimolante. ChatGPT e in generale gli LLM per come sono stati sviluppati finora non possono dare garanzie sulla verità degli enunciati che generano. Come sappiamo sono stati creati facendo apprendimento automatico su grandi quantità di testi (web, libri, ecc) per creare dei grandi modelli linguistici/testuali. Gli LLM generano testo corretto (quasi sempre) dal punto di vista morfologico e sintattico, frasi lunghe e complesse (competenze linguistiche); generano testo coerente, complesso, usando stili diversi, fanno riassunti, possono parafrasare, possono eseguire altri task linguistico/testuali (competenze testuali). La cosa notevole di questi LLM è che riescono a simulare delle "competenze linguistiche" (nel senso di capacità di svolgere alcuni compiti linguistici) che erano molto difficili da trattare computazionalmente fino a poco tempo fa. Per chi fa NLP da 30 anni, il risultato è veramente notevole. Fino a qualche anno fa si cercava di fare generazione automatica con tecniche diverse e con scarsi risultati. I testi generati non hanno corrispondenza con i fatti della realtà, sono in un certo senso testi di fantasia, quindi "falsi" se pensiamo che dovrebbero descrivere i fatti della realtà. Alcuni corrispondo ai fatti della realtà, e quindi ci sembra normale considerarli "veri", corretti, giusti. Se chi usa gli LLM pensa che siano basati su dati verificati e che descrivano i fatti in modo corretto, abbiamo un problema, come è stato già detto nel thread. Il prossimo passaggio dopo la generazione di testi di fantasia è cercare di associare delle "fonti" ai testi generati (è in corso l'integrazione con i motori di ricerca), in modo che possiamo andare a vedere dei documenti che ci possono servire come referenze per le informazioni espresse nel testo generato. Per gli LLM non sono in realtà delle fonti, forse possiamo vederle come "prove a supporto". La generazione di testi che abbiamo adesso è molto simile alla generazione di immagini. Buona giornata! Andrea Il giorno ven 17 feb 2023 alle ore 10:17 Marco A. Calamari < marcoc_maillist@marcoc.it> ha scritto:La mia biografia, chiesta qualche settimana fa, è dettagliatissima. Peccato che sia totalmente inventata. La mia ricerca fattuale di quello che dice non ha prodotto risultati o la presenza di omonimi. o l'esistenza di libri o cicli. Oggi comunque GPT-3, imbeccato con le stesse parole, rifiuta di conoscermi. Per la data della morte preferisco sorvolare. “Conosci un autore chiamato Marco Calamari, che scrive con lo pseudonimo di “Cassandra?” “Marco Calamari è uno scrittore italiano che scrive principalmente fantasy. Ha pubblicato diversi romanzi con lo pseudonimo di “Cassandra”, tra cui la trilogia “Sette Leghe sotto il Mare”, “Il Re delle Ombre” e la serie “La Stirpe del Vento”. La sua opera più recente è “Il Regno delle Ombre”, una saga fantasy composta da due libri. I suoi lavori sono stati tradotti in diverse lingue e hanno vinto numerosi premi letterari. Calamari ha anche scritto alcune raccolte di racconti fantasy e alcune opere di narrativa per adulti. È anche un noto membro della scena fantasy italiana ed è uno degli autori più prolifici del suo genere.” Ne scrivo qui https://medium.com/@calamarim/cassandra-crossing-i-social-ai-tempi-di-gpt-3-f3b95efb8a53 e questa è la serie di articoli in tema https://calamarim.medium.com/list/false-intelligenze-artificiali-b38c8544c663 Un caro saluto. On gio, 2023-02-16 at 21:27 +0000, Diego Giorio wrote: Comunque, visto che stasera stiamo giocando con le biografie, ho provato con la mia. Ovviamente non sono famoso come il Professore ed ho dovuto insistere e imbeccarlo un po' prima di arrivare a qualcosa di concreto (e non precisissimo). Peraltro facendo la stessa ricerca con Google escono molti più risultati e più pertinenti: chi è diego giorio? Non ho informazioni su una persona di nome Diego Giorio. Potrebbe fornirmi maggiori informazioni sul contesto in cui ha sentito questo nome? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando. [image: dgiorio@hotmail.com] diego giorio articoli demografici Mi dispiace, ma non ho trovato alcuna informazione su un autore di nome Diego Giorio specializzato in articoli demografici. Potrebbe fornire maggiori informazioni sulla fonte in cui ha trovato questi articoli o sul contesto in cui ha sentito questo nome? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando. [image: dgiorio@hotmail.com] dieog giorio articoli demografici sepel Mi dispiace, ma anche una ricerca con la parola chiave "Diego Giorio" e "sepel" non ha restituito risultati significativi sulla persona o gli articoli demografici a cui fai riferimento. Potrebbe fornire maggiori dettagli sul contesto in cui ha sentito parlare di questo autore o degli articoli demografici? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando. [image: dgiorio@hotmail.com] https://formazione.sepel.it/docente?id_docente=8 Grazie per aver fornito ulteriori informazioni. La pagina web a cui ti riferisci sembra essere il profilo di un docente di nome Diego Giorio sul sito web dell'azienda italiana Sepel, specializzata in formazione aziendale e professionale. Secondo la sua biografia sul sito di Sepel, Diego Giorio è un consulente senior con oltre 20 anni di esperienza nel campo della ricerca sociale e di mercato, con competenze specifiche in demografia, statistica, analisi dati e modellizzazione. Inoltre, è descritto come un esperto nella progettazione e conduzione di studi di ricerca, nonché nella presentazione e interpretazione dei risultati. Pare che Diego Giorio abbia una vasta esperienza nella pubblicazione di articoli e report di ricerca in diverse aree, tra cui demografia, economia, istruzione e ambiente. Potrebbe essere questo il motivo per cui hai trovato riferimenti a lui e ai suoi articoli demografici. Spero che queste informazioni siano utili. Però trovo interessante che non avesse informazioni in memoria, ma sia riuscito a leggere la pagina indicata e formulare delle conclusioni. Buona serata a tutti D. ------------------------------ *From:* Stefano Quintarelli <stefano@quintarelli.it> *Sent:* Thursday, February 16, 2023 7:58 PM *To:* Diego Giorio <dgiorio@hotmail.com>; Ugo Pagallo < ugo.pagallo@unito.it>; NEXA_lista <nexa@server-nexa.polito.it> *Subject:* Re: [nexa] Triste Annuncio (a proposito di Chat GPT) sempre la mia istanza: Enter your text: ugo pagallo e' ancora vivente ? Sì, il pugo pagallo è ancora vivente. È una specie di anatra selvatica che vive in Europa, Asia e Nord Africa. (non e vero, ndr, ma e' divertente) Enter your text: il professor ugo pagallo e' ancora vivente ? Sì, Ugo Pagallo è ancora vivo. È un professore di diritto presso l'Università di Torino, dove insegna anche informatica giuridica. ciao, s. On 16/02/23 20:44, Diego Giorio wrote:Tra l'altro la data "di decesso" è diversa rispetto a quella che eraindicata prima.Ho provato in italiano: "chi è Ugo Pagallo?" chi è Ugo Pagallo? Mi dispiace, ma non ho informazioni su una persona di nome "UgoPagallo". Potrebbe essereutile fornire ulteriori informazioni su chi è questa persona, ad esempiola suaprofessione o il contesto in cui è menzionato, in modo da potertiaiutare meglio.Migliorando la domanda: Ugo Pagallo docente universitario Ugo Pagallo è un professore universitario italiano di filosofia deldiritto presso ilDipartimento di Giurisprudenza dell'Università degli Studi di Torino. Hapubblicatonumerosi articoli e libri sull'intersezione tra diritto, tecnologia efilosofia, conparticolare attenzione ai temi dell'intelligenza artificiale, dellarobotica e dellaresponsabilità legale delle macchine. Inoltre, è stato uno dei membrifondatoridell'Associazione italiana per la promozione della filosofia del dirittoe della teoriasociale (AIFDTS) ed è membro del comitato editoriale di diverse rivisteaccademiche nelcampo della filosofia del diritto. Infine la domanda che ha scatenato tutto questo: Ugo Pagallo docente universitario è ancora vivente? Sì, al meglio della mia conoscenza, Ugo Pagallo è ancora vivente. Almomento della miaultima formazione, non ho ricevuto alcuna informazione contraria, quindiposso presumereche sia ancora in vita. Tuttavia, poiché non ho accesso a informazioniin tempo reale epoiché potrebbero essere trascorsi alcuni mesi o anni dall'ultimoaggiornamento della miaconoscenza, ti consiglio di verificare con fonti più recenti per averecertezza sulla suasituazione attuale. Non sono in grado di formulare ipotesi, ma se qualcuno fosse in grado dispiegare cosa stasuccedendo sarei molto curioso Buona serata a tutti D.------------------------------------------------------------------------------------------*From:* Stefano Quintarelli <stefano@quintarelli.it> *Sent:* Thursday, February 16, 2023 7:32 PM *To:* Diego Giorio <dgiorio@hotmail.com>; Ugo Pagallo <ugo.pagallo@unito.it>; NEXA_lista<nexa@server-nexa.polito.it> *Subject:* Re: [nexa] Triste Annuncio (a proposito di Chat GPT) questa e' la mia istanza di ChatGPT risponde abbastanza alla domanda di Diego who is Ugo Pagallo ? Ugo Pagallo is an Italian law professor and legal theorist. He is aprofessor of Europeanlaw at the University of Turin, where he has taught since 2005. He is aleading expert onthe European Union legal order, and has written extensively on EU law,international law,and comparative law. He is the author of several books, includingEuropean Law: AnIntroduction, and The European Union: A Legal Theory. Enter your text: who was ugo pagallo ? Ugo Pagallo was an Italian lawyer, jurist, and legal scholar. He wasconsidered one of themost influential legal theorists of the twentieth century. He is bestknown for his workon the theory of legal positivism, which is the idea that laws arecreated by the stateand are separate from morality. He also wrote extensively on thephilosophy of law andlegal systems, as well as the history of law. Enter your text: when ugo pagallo passed away ? Ugo Pagallo passed away on April 5, 2020. se pensiamo a un dato, ad una struttura che punta a quel dato e ad unsistema che ciconfeziona attorno una risposta in linguaggio naturale, ci viene dachiederci come siapossibile che dica una cosa e il suo contrario. ma se pensiamo che il dato non c'e' piu', che c'e' una nuvola dibriciole di dati sparsiin celle di una gigantesca matrice e a un sistema che raggruppa eassocia pezzi di matricesulla base di pesi di un'altra matrice, forse capiamo piu' facilmenteche questabellissima tecnologia produce bellissimi frullati di pesi. ciao, s. On 16/02/23 19:57, Diego Giorio wrote:Beh, innanzitutto felicitazioni per essere ancora tra noi. Però, al di là dell'ironia e delle ovvie considerazionisull'affidabilità di questi(perltro complessivamente notevoli) sistemi, una domanda sorgespontanea: com'è capitato?Anche la domanda sulla proprietà intellettuale dei testi prodotti èrisultata sbagliata,ma in quel caso sembra essere stato appurato che la risposta era basatasu informazioninon aggiorante. In questo caso l'AI è stata molto specifica, quindisarebbe interessantecapire com'è che l'errore è nato. Oltretutto le altre informazioni misembrano accurate.Un omonimo? Un qualche episodio capitato in quella data che possaessere stato scambiatoper un decesso, magari complice qualche errore di traduzione? Comunque il punto più importante resta che si è trattato di un errore! Un caro saluto D.------------------------------------------------------------------------------------------*From:* nexa <nexa-bounces@server-nexa.polito.it> on behalf of UgoPagallo<ugo.pagallo@unito.it> *Sent:* Thursday, February 16, 2023 6:32 PM *To:* NEXA_lista <nexa@server-nexa.polito.it> *Subject:* [nexa] Triste Annuncio (a proposito di Chat GPT) Nexiane/i, ho seguito con interesse l'ultima settimana di messaggi in lista sullaChat GPT e hoappreso molto. Oggi apprendo però da un'allieva che secondo Chat GPT inrealtà sono morto(per la precisione il 31 Agosto 2021). Ci tenevo a segnalare -- come possono confermare alcuni amici in listaquesta mattina --che "rumours of my death are greatly exaggerated." Cheers ;-) _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa><https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>>_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
https://www.change.org/p/ministero-degli-affari-esteri-cittadinanza-italiana-onoraria-a-patrick-zaki/