Buongiorno.


Credo che un'utile operazione preliminare, quando pensiamo a chatGPT,

sia formulare qualsiasi nostra domanda sul suo funzionamento tenendo presente, se quella dei pappagalli stocastici non basta, 

la metafora del polpo impiccione (anche questa di Emily Bender, di seguito).


Un saluto,
Daniela





Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Diego Giorio <dgiorio@hotmail.com>
Inviato: venerdì 17 febbraio 2023 12:00
A: Marco A. Calamari; Andrea Bolioli
Cc: nexa@server-nexa.polito.it
Oggetto: Re: [nexa] Triste Annuncio (a proposito di Chat GPT)
 
Molto interessante questo punto di vista.

Però, forse perchè ho già qualche anno sulle spalle e sono quindi legato ai vecchi linguaggi di programmazione strutturati, che non prevedevano la casualità se non con comando espresso (il vecchio RAN# del basic, se ricordo bene), mi piacerebbe capire come gli escono certe idee. Nel mio caso, ad esempio, prima ha ammesso di non avere informazioni (non ha quindi inventato nulla), poi ha ricostruito una storia sensata, anche se non precisissima, sulla base di ciò che ha letto sul sito che gli ho indicato. Dire che uno è morto, a una data precisa, secondo la mia formazione (probabilmente superata) dovrebbe arrivargli da qualche parte; analogamente mi sembra strano che in italiano lo consideri vivente, in inglese no. Ho anche provato a cercare decessi, in lingua inglese, di qualche Pagallo, ma non ho trovato nulla. Ecco perchè sono curioso di capire come "ragioni", dove trovi le fonti per costruire frasi, che molto spesso sono sensate. Se, ad esempio, gli si chiede qual è il primo articolo sulla privacy, genera una risposta assolutamente corretta (forse perchè piuttosto conosciuta in vari testi), a parte il fatto che mi sembra che uno dei due fosse giudice e non avvocato, quindi sarei molto curioso di capire com'è che a volte è preciso, a volte si inventa le cose, a volte ammette di non avere informazioni:

qual è il primo articolo sulla privacy?

Il concetto di privacy ha origini antiche, ma il primo articolo specifico sulla privacy nella forma moderna potrebbe essere stato "The Right to Privacy" (Il Diritto alla Privacy), un saggio scritto da Samuel Warren e Louis Brandeis, due avvocati americani, pubblicato sulle pagine del periodico Harvard Law Review nel 1890.

In questo saggio, Warren e Brandeis sostenevano che il diritto alla privacy era un diritto fondamentale dell'individuo e che la legge dovrebbe riconoscere e proteggere questo diritto. Nel loro saggio, i due avvocati hanno anche introdotto il concetto di "intrusione" nella vita privata, affermando che una persona ha il diritto di impedire che informazioni personali siano divulgate o utilizzate senza il suo consenso.

"The Right to Privacy" è considerato un testo fondamentale per la tutela della privacy nella cultura giuridica americana e internazionale.


Buona giornata e buon fine settimana a tutti
D.
From: nexa <nexa-bounces@server-nexa.polito.it> on behalf of Andrea Bolioli via nexa <nexa@server-nexa.polito.it>
Sent: Friday, February 17, 2023 10:13 AM
To: Marco A. Calamari <marcoc_maillist@marcoc.it>
Cc: nexa@server-nexa.polito.it <nexa@server-nexa.polito.it>
Subject: Re: [nexa] Triste Annuncio (a proposito di Chat GPT)
 
Buongiorno a tutti/e

grazie per questo thread stimolante.
ChatGPT e in generale gli LLM per come sono stati sviluppati finora non possono dare garanzie sulla verità degli enunciati che generano. 
Come sappiamo sono stati creati facendo apprendimento automatico su grandi quantità di testi (web, libri, ecc) per creare dei grandi modelli linguistici/testuali. Gli LLM generano testo corretto (quasi sempre) dal punto di vista morfologico e sintattico, frasi lunghe e complesse (competenze linguistiche); generano testo coerente, complesso, usando stili diversi, fanno riassunti, possono parafrasare, possono eseguire altri task linguistico/testuali (competenze testuali).
La cosa notevole di questi LLM è che riescono a simulare delle "competenze linguistiche" (nel senso di capacità di svolgere alcuni compiti linguistici) che  erano molto difficili da trattare computazionalmente fino a poco tempo fa. Per chi fa NLP da 30 anni, il risultato è veramente notevole. Fino a qualche anno fa si cercava di fare generazione automatica con tecniche diverse e con scarsi risultati.

I testi generati non hanno corrispondenza con i fatti della realtà, sono in un certo senso testi di fantasia, quindi "falsi" se pensiamo che dovrebbero descrivere i fatti della realtà. Alcuni corrispondo ai fatti della realtà, e quindi ci sembra normale considerarli "veri", corretti, giusti.

Se chi usa gli LLM pensa che siano basati su dati verificati e che descrivano i fatti in modo corretto, abbiamo un problema, come è stato già detto nel thread.

Il prossimo passaggio dopo la generazione di testi di fantasia è cercare di associare delle "fonti" ai testi generati (è in corso l'integrazione con i motori di ricerca), in modo che possiamo andare a vedere dei documenti che ci possono servire come referenze per le informazioni espresse nel testo generato. Per gli LLM non sono in realtà delle fonti, forse possiamo vederle come "prove a supporto".

La generazione di testi che abbiamo adesso è molto simile alla generazione di immagini.

Buona giornata!
Andrea


Il giorno ven 17 feb 2023 alle ore 10:17 Marco A. Calamari <marcoc_maillist@marcoc.it> ha scritto:
La mia biografia, chiesta qualche settimana fa, è dettagliatissima.

Peccato che sia totalmente inventata.

La mia ricerca fattuale di quello che dice non ha prodotto risultati o la presenza di omonimi. o l'esistenza di libri o cicli.

Oggi comunque GPT-3, imbeccato con le stesse parole, rifiuta di conoscermi.

Per la data della morte preferisco sorvolare.

“Conosci un autore chiamato Marco Calamari, che scrive con lo pseudonimo di “Cassandra?”

“Marco Calamari è uno scrittore italiano che scrive principalmente fantasy. Ha pubblicato diversi romanzi con lo pseudonimo di “Cassandra”, tra cui la trilogia “Sette Leghe sotto il Mare”, “Il Re delle Ombre” e la serie “La Stirpe del Vento”. 
La sua opera più recente è “Il Regno delle Ombre”, una saga fantasy composta da due libri. I suoi lavori sono stati tradotti in diverse lingue e hanno vinto numerosi premi letterari. 
Calamari ha anche scritto alcune raccolte di racconti fantasy e alcune opere di narrativa per adulti. 
È anche un noto membro della scena fantasy italiana ed è uno degli autori più prolifici del suo genere.”

Ne scrivo qui


e questa è la serie di articoli in tema


Un caro saluto.


On gio, 2023-02-16 at 21:27 +0000, Diego Giorio wrote:
Comunque, visto che stasera stiamo giocando con le biografie, ho provato con la mia. Ovviamente non sono famoso come il Professore ed ho dovuto insistere e imbeccarlo un po' prima di arrivare a qualcosa di concreto (e non precisissimo). Peraltro facendo la stessa ricerca con Google escono molti più risultati e più pertinenti:

chi è diego giorio?

Non ho informazioni su una persona di nome Diego Giorio. Potrebbe fornirmi maggiori informazioni sul contesto in cui ha sentito questo nome? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando.

dgiorio@hotmail.com
diego giorio articoli demografici

Mi dispiace, ma non ho trovato alcuna informazione su un autore di nome Diego Giorio specializzato in articoli demografici. Potrebbe fornire maggiori informazioni sulla fonte in cui ha trovato questi articoli o sul contesto in cui ha sentito questo nome? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando.

dgiorio@hotmail.com
dieog giorio articoli demografici sepel

Mi dispiace, ma anche una ricerca con la parola chiave "Diego Giorio" e "sepel" non ha restituito risultati significativi sulla persona o gli articoli demografici a cui fai riferimento. Potrebbe fornire maggiori dettagli sul contesto in cui ha sentito parlare di questo autore o degli articoli demografici? In questo modo, potrei cercare di aiutarti a trovare le informazioni che stai cercando.

Grazie per aver fornito ulteriori informazioni. La pagina web a cui ti riferisci sembra essere il profilo di un docente di nome Diego Giorio sul sito web dell'azienda italiana Sepel, specializzata in formazione aziendale e professionale.

Secondo la sua biografia sul sito di Sepel, Diego Giorio è un consulente senior con oltre 20 anni di esperienza nel campo della ricerca sociale e di mercato, con competenze specifiche in demografia, statistica, analisi dati e modellizzazione. Inoltre, è descritto come un esperto nella progettazione e conduzione di studi di ricerca, nonché nella presentazione e interpretazione dei risultati.

Pare che Diego Giorio abbia una vasta esperienza nella pubblicazione di articoli e report di ricerca in diverse aree, tra cui demografia, economia, istruzione e ambiente. Potrebbe essere questo il motivo per cui hai trovato riferimenti a lui e ai suoi articoli demografici.

Spero che queste informazioni siano utili.


Però trovo interessante che non avesse informazioni in memoria, ma sia riuscito a leggere la pagina indicata e formulare delle conclusioni.

Buona serata a tutti

D.

From: Stefano Quintarelli <stefano@quintarelli.it>
Sent: Thursday, February 16, 2023 7:58 PM
To: Diego Giorio <dgiorio@hotmail.com>; Ugo Pagallo <ugo.pagallo@unito.it>; NEXA_lista <nexa@server-nexa.polito.it>
Subject: Re: [nexa] Triste Annuncio (a proposito di Chat GPT)
 
sempre la mia istanza:
Enter your text:
ugo pagallo e' ancora vivente ?

Sì, il pugo pagallo è ancora vivente. È una specie di anatra selvatica che vive in Europa,
Asia e Nord Africa.

(non e vero, ndr, ma e' divertente)


Enter your text:
il professor ugo pagallo e' ancora vivente ?

Sì, Ugo Pagallo è ancora vivo. È un professore di diritto presso l'Università di Torino,
dove insegna anche informatica giuridica.


ciao, s.

On 16/02/23 20:44, Diego Giorio wrote:
> Tra l'altro la data "di decesso" è diversa rispetto a quella che era indicata prima.
>
> Ho provato in italiano: "chi è Ugo Pagallo?"
>
> chi è Ugo Pagallo?
>
> Mi dispiace, ma non ho informazioni su una persona di nome "Ugo Pagallo". Potrebbe essere
> utile fornire ulteriori informazioni su chi è questa persona, ad esempio la sua
> professione o il contesto in cui è menzionato, in modo da poterti aiutare meglio.
>
> Migliorando la domanda:
>
> Ugo Pagallo docente universitario
>
> Ugo Pagallo è un professore universitario italiano di filosofia del diritto presso il
> Dipartimento di Giurisprudenza dell'Università degli Studi di Torino. Ha pubblicato
> numerosi articoli e libri sull'intersezione tra diritto, tecnologia e filosofia, con
> particolare attenzione ai temi dell'intelligenza artificiale, della robotica e della
> responsabilità legale delle macchine. Inoltre, è stato uno dei membri fondatori
> dell'Associazione italiana per la promozione della filosofia del diritto e della teoria
> sociale (AIFDTS) ed è membro del comitato editoriale di diverse riviste accademiche nel
> campo della filosofia del diritto.
>
> Infine la domanda che ha scatenato tutto questo:
>
> Ugo Pagallo docente universitario è ancora vivente?
>
> Sì, al meglio della mia conoscenza, Ugo Pagallo è ancora vivente. Al momento della mia
> ultima formazione, non ho ricevuto alcuna informazione contraria, quindi posso presumere
> che sia ancora in vita. Tuttavia, poiché non ho accesso a informazioni in tempo reale e
> poiché potrebbero essere trascorsi alcuni mesi o anni dall'ultimo aggiornamento della mia
> conoscenza, ti consiglio di verificare con fonti più recenti per avere certezza sulla sua
> situazione attuale.
>
> Non sono in grado di formulare ipotesi, ma se qualcuno fosse in grado di spiegare cosa sta
> succedendo sarei molto curioso
>
> Buona serata a tutti
>
> D.
> ------------------------------------------------------------------------------------------
> *From:* Stefano Quintarelli <stefano@quintarelli.it>
> *Sent:* Thursday, February 16, 2023 7:32 PM
> *To:* Diego Giorio <dgiorio@hotmail.com>; Ugo Pagallo <ugo.pagallo@unito.it>; NEXA_lista
> <nexa@server-nexa.polito.it>
> *Subject:* Re: [nexa] Triste Annuncio (a proposito di Chat GPT)
> questa e' la mia istanza di ChatGPT
> risponde abbastanza alla domanda di Diego
>
> who is Ugo Pagallo ?
>
> Ugo Pagallo is an Italian law professor and legal theorist. He is a professor of European
> law at the University of Turin, where he has taught since 2005. He is a leading expert on
> the European Union legal order, and has written extensively on EU law, international law,
> and comparative law. He is the author of several books, including European Law: An
> Introduction, and The European Union: A Legal Theory.
>
> Enter your text:
> who was ugo pagallo ?
>
> Ugo Pagallo was an Italian lawyer, jurist, and legal scholar. He was considered one of the
> most influential legal theorists of the twentieth century. He is best known for his work
> on the theory of legal positivism, which is the idea that laws are created by the state
> and are separate from morality. He also wrote extensively on the philosophy of law and
> legal systems, as well as the history of law.
>
> Enter your text:
> when ugo pagallo passed away ?
>
> Ugo Pagallo passed away on April 5, 2020.
>
>
> se pensiamo a un dato, ad una struttura che punta a quel dato e ad un sistema che ci
> confeziona attorno una risposta in linguaggio naturale, ci viene da chiederci come sia
> possibile che dica una cosa e il suo contrario.
>
> ma se pensiamo che il dato non c'e' piu', che c'e' una nuvola di briciole di dati sparsi
> in celle di una gigantesca matrice e a un sistema che raggruppa e associa pezzi di matrice
> sulla base di pesi di un'altra matrice, forse capiamo piu' facilmente che questa
> bellissima tecnologia produce bellissimi frullati di pesi.
>
> ciao, s.
>
> On 16/02/23 19:57, Diego Giorio wrote:
>> Beh, innanzitutto felicitazioni per essere ancora tra noi.
>>
>> Però, al di là dell'ironia e delle ovvie considerazioni sull'affidabilità di questi
>> (perltro complessivamente notevoli) sistemi, una domanda sorge spontanea: com'è capitato?
>> Anche la domanda sulla proprietà intellettuale dei testi prodotti è risultata sbagliata,
>> ma in quel caso sembra essere stato appurato che la risposta era basata su informazioni
>> non aggiorante. In questo caso l'AI è stata molto specifica, quindi sarebbe interessante
>> capire com'è che l'errore è nato. Oltretutto le altre informazioni mi sembrano accurate.
>> Un omonimo? Un qualche episodio capitato in quella data che possa essere stato scambiato
>> per un decesso, magari complice qualche errore di traduzione?
>>
>> Comunque il punto più importante resta che si è trattato di un errore!
>>
>> Un caro saluto
>> D.
>> ------------------------------------------------------------------------------------------
>> *From:* nexa <nexa-bounces@server-nexa.polito.it> on behalf of Ugo Pagallo
>> <ugo.pagallo@unito.it>
>> *Sent:* Thursday, February 16, 2023 6:32 PM
>> *To:* NEXA_lista <nexa@server-nexa.polito.it>
>> *Subject:* [nexa] Triste Annuncio (a proposito di Chat GPT)
>>
>> Nexiane/i,
>>
>> ho seguito con interesse l'ultima settimana di messaggi in lista sulla Chat GPT e ho
>> appreso molto. Oggi apprendo però da un'allieva che secondo Chat GPT in realtà sono morto
>> (per la precisione il 31 Agosto 2021).
>> Ci tenevo a segnalare -- come possono confermare alcuni amici in lista questa mattina --
>> che "rumours of my death are greatly exaggerated."
>> Cheers ;-)
>>
>> _______________________________________________
>> nexa mailing list
>> nexa@server-nexa.polito.it
>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
> <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>
>> <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
> <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>>
>>
>> _______________________________________________
>> nexa mailing list
>> nexa@server-nexa.polito.it
>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
> <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>
_______________________________________________
nexa mailing list

_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa




Roncade, H-FARM Campus, Via Olivetti, 1 – 31056 (TV)
Milano, Corso di Porta Romana, 15 – 20122
Torino, Via San Quintino, 31 – 10121