Il prossimo passaggio dopo la generazione di testi di fantasia è cercare di associare delle "fonti" ai testi generati (è in corso l'integrazione con i motori di ricerca), in modo che possiamo andare a vedere dei documenti che ci possono servire come referenze per le informazioni espresse nel testo generato. Per gli LLM non sono in realtà delle fonti, forse possiamo vederle come "prove a supporto". a mio modo di vedere una della questioni è proprio questa: le fonti. ognuno di noi qui dentro non sa che farsene di una pappetta di stringhe frullata da un chatbot che poi gli dice "ho fatto il frullato partendo dalle fonti A B e C", per tre motivi:
1. in generale sappiamo cercare e trovare da noi le fonti A B e C sul tema 2. sappiamo che costruzione di conoscenza a partire dall'informazione è un processo oneroso/faticoso individuale che implica non solo aspetti di valutazione delle fonti sia dal punto di vista formale (autenticità) sia dal punto di vista del contenuto (veridicità), ma anche aspetti di integrazione delle informazioni che nessuno compie allo stesso modo di un altro 3. se anche il chatobot informasse che ha usato le fonti A B e C per preparare il frullato, le 3 fonti usate non bastano da sole a spiegare perché ne è uscito quel frullato lì in quanto entrano in gioco i "parametri" con cui le fonti sono state elaborate noi qui dentro. e tutte le persone che non hanno le competenze digitali, culturali, politiche, informatiche, ecc., per cogliere il senso della complessità (della velenosità?) della pappetta che il chatbot gli ammannisce, e se la berranno beate senza nemmeno buttare l'occhio su quei simulacri di obiettività informativa costituiti dalla citazione delle fonti usate dal chatbot? Maurizio Il 17/02/23 11:13, Andrea Bolioli <andrea.bolioli@h-farm.com> ha scritto:
Date: Fri, 17 Feb 2023 11:13:37 +0100 From: Andrea Bolioli<andrea.bolioli@h-farm.com> To: "Marco A. Calamari"<marcoc_maillist@marcoc.it> Cc:nexa@server-nexa.polito.it Subject: Re: [nexa] Triste Annuncio (a proposito di Chat GPT)
Buongiorno a tutti/e
grazie per questo thread stimolante. ChatGPT e in generale gli LLM per come sono stati sviluppati finora non possono dare garanzie sulla verità degli enunciati che generano. Come sappiamo sono stati creati facendo apprendimento automatico su grandi quantità di testi (web, libri, ecc) per creare dei grandi modelli linguistici/testuali. Gli LLM generano testo corretto (quasi sempre) dal punto di vista morfologico e sintattico, frasi lunghe e complesse (competenze linguistiche); generano testo coerente, complesso, usando stili diversi, fanno riassunti, possono parafrasare, possono eseguire altri task linguistico/testuali (competenze testuali). La cosa notevole di questi LLM è che riescono a simulare delle "competenze linguistiche" (nel senso di capacità di svolgere alcuni compiti linguistici) che erano molto difficili da trattare computazionalmente fino a poco tempo fa. Per chi fa NLP da 30 anni, il risultato è veramente notevole. Fino a qualche anno fa si cercava di fare generazione automatica con tecniche diverse e con scarsi risultati.
I testi generati non hanno corrispondenza con i fatti della realtà, sono in un certo senso testi di fantasia, quindi "falsi" se pensiamo che dovrebbero descrivere i fatti della realtà. Alcuni corrispondo ai fatti della realtà, e quindi ci sembra normale considerarli "veri", corretti, giusti.
Se chi usa gli LLM pensa che siano basati su dati verificati e che descrivano i fatti in modo corretto, abbiamo un problema, come è stato già detto nel thread.
Il prossimo passaggio dopo la generazione di testi di fantasia è cercare di associare delle "fonti" ai testi generati (è in corso l'integrazione con i motori di ricerca), in modo che possiamo andare a vedere dei documenti che ci possono servire come referenze per le informazioni espresse nel testo generato. Per gli LLM non sono in realtà delle fonti, forse possiamo vederle come "prove a supporto".
La generazione di testi che abbiamo adesso è molto simile alla generazione di immagini.
Buona giornata! Andrea
Il giorno ven 17 feb 2023 alle ore 10:17 Marco A. Calamari < marcoc_maillist@marcoc.it> ha scritto:
La mia biografia, chiesta qualche settimana fa, è dettagliatissima.
Peccato che sia totalmente inventata.
La mia ricerca fattuale di quello che dice non ha prodotto risultati o la presenza di omonimi. o l'esistenza di libri o cicli.
Oggi comunque GPT-3, imbeccato con le stesse parole, rifiuta di conoscermi.
Per la data della morte preferisco sorvolare.
“Conosci un autore chiamato Marco Calamari, che scrive con lo pseudonimo di “Cassandra?”
“Marco Calamari è uno scrittore italiano che scrive principalmente fantasy. Ha pubblicato diversi romanzi con lo pseudonimo di “Cassandra”, tra cui la trilogia “Sette Leghe sotto il Mare”, “Il Re delle Ombre” e la serie “La Stirpe del Vento”. La sua opera più recente è “Il Regno delle Ombre”, una saga fantasy composta da due libri. I suoi lavori sono stati tradotti in diverse lingue e hanno vinto numerosi premi letterari. Calamari ha anche scritto alcune raccolte di racconti fantasy e alcune opere di narrativa per adulti. È anche un noto membro della scena fantasy italiana ed è uno degli autori più prolifici del suo genere.”
Ne scrivo qui
https://medium.com/@calamarim/cassandra-crossing-i-social-ai-tempi-di-gpt-3-...
e questa è la serie di articoli in tema
https://calamarim.medium.com/list/false-intelligenze-artificiali-b38c8544c66...
Un caro saluto.
On gio, 2023-02-16 at 21:27 +0000, Diego Giorio wrote:
Comunque, visto che stasera stiamo giocando con le biografie, ho provato con la mia. Ovviamente non sono famoso come il Professore ed ho dovuto insistere e imbeccarlo un po' prima di arrivare a qualcosa di concreto (e non precisissimo). Peraltro facendo la stessa ricerca con Google escono molti più risultati e più pertinenti:
chi è diego giorio?
Non ho informazioni su una persona di nome Diego Giorio. Potrebbe fornirmi maggiori informazioni sul contesto in cui ha sentito questo nome? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando. [image:dgiorio@hotmail.com] diego giorio articoli demografici
Mi dispiace, ma non ho trovato alcuna informazione su un autore di nome Diego Giorio specializzato in articoli demografici. Potrebbe fornire maggiori informazioni sulla fonte in cui ha trovato questi articoli o sul contesto in cui ha sentito questo nome? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando. [image:dgiorio@hotmail.com] dieog giorio articoli demografici sepel
Mi dispiace, ma anche una ricerca con la parola chiave "Diego Giorio" e "sepel" non ha restituito risultati significativi sulla persona o gli articoli demografici a cui fai riferimento. Potrebbe fornire maggiori dettagli sul contesto in cui ha sentito parlare di questo autore o degli articoli demografici? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando. [image:dgiorio@hotmail.com] https://formazione.sepel.it/docente?id_docente=8
Grazie per aver fornito ulteriori informazioni. La pagina web a cui ti riferisci sembra essere il profilo di un docente di nome Diego Giorio sul sito web dell'azienda italiana Sepel, specializzata in formazione aziendale e professionale.
Secondo la sua biografia sul sito di Sepel, Diego Giorio è un consulente senior con oltre 20 anni di esperienza nel campo della ricerca sociale e di mercato, con competenze specifiche in demografia, statistica, analisi dati e modellizzazione. Inoltre, è descritto come un esperto nella progettazione e conduzione di studi di ricerca, nonché nella presentazione e interpretazione dei risultati.
Pare che Diego Giorio abbia una vasta esperienza nella pubblicazione di articoli e report di ricerca in diverse aree, tra cui demografia, economia, istruzione e ambiente. Potrebbe essere questo il motivo per cui hai trovato riferimenti a lui e ai suoi articoli demografici.
Spero che queste informazioni siano utili.
Però trovo interessante che non avesse informazioni in memoria, ma sia riuscito a leggere la pagina indicata e formulare delle conclusioni.
Buona serata a tutti
D.
------------------------------ *From:* Stefano Quintarelli<stefano@quintarelli.it> *Sent:* Thursday, February 16, 2023 7:58 PM *To:* Diego Giorio<dgiorio@hotmail.com>; Ugo Pagallo < ugo.pagallo@unito.it>; NEXA_lista <nexa@server-nexa.polito.it> *Subject:* Re: [nexa] Triste Annuncio (a proposito di Chat GPT)
sempre la mia istanza: Enter your text: ugo pagallo e' ancora vivente ?
Sì, il pugo pagallo è ancora vivente. È una specie di anatra selvatica che vive in Europa, Asia e Nord Africa.
(non e vero, ndr, ma e' divertente)
Enter your text: il professor ugo pagallo e' ancora vivente ?
Sì, Ugo Pagallo è ancora vivo. È un professore di diritto presso l'Università di Torino, dove insegna anche informatica giuridica.
ciao, s.
On 16/02/23 20:44, Diego Giorio wrote:
Tra l'altro la data "di decesso" è diversa rispetto a quella che era indicata prima. Ho provato in italiano: "chi è Ugo Pagallo?"
chi è Ugo Pagallo?
Mi dispiace, ma non ho informazioni su una persona di nome "Ugo Pagallo". Potrebbe essere utile fornire ulteriori informazioni su chi è questa persona, ad esempio la sua professione o il contesto in cui è menzionato, in modo da poterti aiutare meglio. Migliorando la domanda:
Ugo Pagallo docente universitario
Ugo Pagallo è un professore universitario italiano di filosofia del diritto presso il Dipartimento di Giurisprudenza dell'Università degli Studi di Torino. Ha pubblicato numerosi articoli e libri sull'intersezione tra diritto, tecnologia e filosofia, con particolare attenzione ai temi dell'intelligenza artificiale, della robotica e della responsabilità legale delle macchine. Inoltre, è stato uno dei membri fondatori dell'Associazione italiana per la promozione della filosofia del diritto e della teoria sociale (AIFDTS) ed è membro del comitato editoriale di diverse riviste accademiche nel campo della filosofia del diritto.
Infine la domanda che ha scatenato tutto questo:
Ugo Pagallo docente universitario è ancora vivente?
Sì, al meglio della mia conoscenza, Ugo Pagallo è ancora vivente. Al momento della mia ultima formazione, non ho ricevuto alcuna informazione contraria, quindi posso presumere che sia ancora in vita. Tuttavia, poiché non ho accesso a informazioni in tempo reale e poiché potrebbero essere trascorsi alcuni mesi o anni dall'ultimo aggiornamento della mia conoscenza, ti consiglio di verificare con fonti più recenti per avere certezza sulla sua situazione attuale.
Non sono in grado di formulare ipotesi, ma se qualcuno fosse in grado di spiegare cosa sta succedendo sarei molto curioso
Buona serata a tutti
D.
------------------------------------------------------------------------------------------
*From:* Stefano Quintarelli<stefano@quintarelli.it> *Sent:* Thursday, February 16, 2023 7:32 PM *To:* Diego Giorio<dgiorio@hotmail.com>; Ugo Pagallo < ugo.pagallo@unito.it>; NEXA_lista <nexa@server-nexa.polito.it> *Subject:* Re: [nexa] Triste Annuncio (a proposito di Chat GPT) questa e' la mia istanza di ChatGPT risponde abbastanza alla domanda di Diego
who is Ugo Pagallo ?
Ugo Pagallo is an Italian law professor and legal theorist. He is a professor of European law at the University of Turin, where he has taught since 2005. He is a leading expert on the European Union legal order, and has written extensively on EU law, international law, and comparative law. He is the author of several books, including European Law: An Introduction, and The European Union: A Legal Theory.
Enter your text: who was ugo pagallo ?
Ugo Pagallo was an Italian lawyer, jurist, and legal scholar. He was considered one of the most influential legal theorists of the twentieth century. He is best known for his work on the theory of legal positivism, which is the idea that laws are created by the state and are separate from morality. He also wrote extensively on the philosophy of law and legal systems, as well as the history of law.
Enter your text: when ugo pagallo passed away ?
Ugo Pagallo passed away on April 5, 2020.
se pensiamo a un dato, ad una struttura che punta a quel dato e ad un sistema che ci confeziona attorno una risposta in linguaggio naturale, ci viene da chiederci come sia possibile che dica una cosa e il suo contrario.
ma se pensiamo che il dato non c'e' piu', che c'e' una nuvola di briciole di dati sparsi in celle di una gigantesca matrice e a un sistema che raggruppa e associa pezzi di matrice sulla base di pesi di un'altra matrice, forse capiamo piu' facilmente che questa bellissima tecnologia produce bellissimi frullati di pesi.
ciao, s.
On 16/02/23 19:57, Diego Giorio wrote:
Beh, innanzitutto felicitazioni per essere ancora tra noi.
Però, al di là dell'ironia e delle ovvie considerazioni sull'affidabilità di questi (perltro complessivamente notevoli) sistemi, una domanda sorge spontanea: com'è capitato? Anche la domanda sulla proprietà intellettuale dei testi prodotti è risultata sbagliata, ma in quel caso sembra essere stato appurato che la risposta era basata su informazioni non aggiorante. In questo caso l'AI è stata molto specifica, quindi sarebbe interessante capire com'è che l'errore è nato. Oltretutto le altre informazioni mi sembrano accurate. Un omonimo? Un qualche episodio capitato in quella data che possa essere stato scambiato per un decesso, magari complice qualche errore di traduzione?
Comunque il punto più importante resta che si è trattato di un errore!
Un caro saluto D.
*From:* nexa<nexa-bounces@server-nexa.polito.it> on behalf of Ugo Pagallo <ugo.pagallo@unito.it> *Sent:* Thursday, February 16, 2023 6:32 PM *To:* NEXA_lista<nexa@server-nexa.polito.it> *Subject:* [nexa] Triste Annuncio (a proposito di Chat GPT)
Nexiane/i,
ho seguito con interesse l'ultima settimana di messaggi in lista sulla Chat GPT e ho appreso molto. Oggi apprendo però da un'allieva che secondo Chat GPT in realtà sono morto (per la precisione il 31 Agosto 2021). Ci tenevo a segnalare -- come possono confermare alcuni amici in lista questa mattina -- che "rumours of my death are greatly exaggerated." Cheers ;-)
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>> _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>
nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
------------------------------------------------------------------------ https://www.change.org/p/ministero-degli-affari-esteri-cittadinanza-italiana... ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli