ChatGPT non può proporsi come oracolo universale, questo è certo, e d'altronde mi sembra che sia ormai chiaro a tutti.

L'uso in un motore di ricerca di GPT o simili sistemi generativi basati su Large Language Models sarebbe però (ed è, nel caso di Bing) basato sulla riformulazione di una 'ground truth' attinta da sorgenti editabili, es. wikipedia, non direttamente dal modello linguistico general-generico (pre-trained). Sostanzialmente si tratta di nuovi sistemi di organizzazione e presentazione del materiale, non tutto eccelso, che già oggi otteniamo con le nostre query su Bing oggi e su Google domani. @Giuseppe Attardi ha fatto esperienze dirette e ne ha già parlato anche qui più volte.

ChatGPT avverte che le sue risposte potrebbero essere inaccurate. Dovrebbe fare di più e dire chiaramente che si tratta di invenzioni talvolta verosimili. Si vede bene, ad esempio, nel software che genera, dove può accadere che certe allucinazioni assumano forma computabile (nulla comunque a confronto dei disastri che potrebbe combinare in medicina).

Per quanto riguarda il problema delle notizie biografiche inventate di cui parla @Stefano Quintarelli, potremmo chiederci: un dato personale falso rivelato da qualcuno che avverte di essere occasionalmente mendace si può considerare come una violazione della privacy?  Gli esempi per discuterne possono far riferimento ai siti di satira.

Il problema insomma non è tanto quello della tecnica di estrazione \ conservazione \ presentazione del dato, ma è quello del contratto psicologico che ci lega a questi automi, soprattutto, beninteso, per colpa di chi ce li vuole vendere. La dismisura del provvedimento del Garante italiano è una conseguenza del fraintendimento non tanto della tecnica, quanto degli scopi.  

Buona domenica,

G.

On Sun, 2 Apr 2023 at 15:30, Daniela Tafani <daniela.tafani@unipi.it> wrote:

"Sometimes companies make money by doing bad things. Other times, companies merely allow bad things to happen, because it’s cheaper than preventing them. Either way, the basic premise of tort law is that when someone is responsible for a bad thing, they should have to pay, or at least make it stop. You can think of this as a form of justice: forcing wrongdoers to make their victims whole. Or you can think of it as a form of deterrence, in which the point is to prevent bad behavior. But civil liability, especially corporate liability, can also be understood in economic terms: a question of who should have to pay the costs that certain activities impose on everyone else".

https://www.wired.com/story/section-230-internet-sacred-law-false-idol/

---

Da: Roberto Dolci <rob.dolci@aizoon.us>
Inviato: domenica 2 aprile 2023 15:20
A: Daniela Tafani; Enrico Nardelli; nexa@server-nexa.polito.it
Oggetto: [SPAM]RE: [nexa] ChatGPT disabled for users in Italy

 

Ho testato ChatGPT su alcuni casi ipotetici di angina, ipertensione e quadro sistemico, ed il robot manderebbe al Creatore se lasciato solo. Segue le orme di Watson ed altri tentativi idioti di sostituirsi al medico (all’architetto, all’avvocato, al professionista di turno), che falliscono periodicamente.

 

Questi “CEO con la Felpa” devono raccontarci fuffa per indorare la pillola e tenerci utili idioti al loro servizio, come i 2 miliardi che ruminano su Facebook ed altri su altri social media.  Sta a noi capire la fregatura e non pagarli, prima ancora di portarli di fronte al giudice del caso.

Ciao

rob

 

From: Daniela Tafani <daniela.tafani@unipi.it>
Sent: Sunday, April 2, 2023 8:02 AM
To: Roberto Dolci <rob.dolci@aizoon.us>; Enrico Nardelli <nardelli@mat.uniroma2.it>; nexa@server-nexa.polito.it
Subject: Re: [nexa] ChatGPT disabled for users in Italy

 

ChatGPT no, in effetti, non ha pretese.

Il CEO di Openai sì, però, visto che suggerisce ai poveri di farsi curare da chatGPT.

 

Qualche ipotesi di reato dovrà pur essere pertinente,
per chi distribuisca diserbante spacciandolo per colluttorio.

E chi si prenda la briga di applicare quella che gli pare pertinente, non lo farà mai troppo presto.

 

https://twitter.com/sama/status/1627110889508978688

 

Buona domenica,
Daniela

 

 

---

Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Roberto Dolci <rob.dolci@aizoon.us>
Inviato: domenica 2 aprile 2023 14:11
A: Enrico Nardelli; nexa@server-nexa.polito.it
Oggetto: Re: [nexa] ChatGPT disabled for users in Italy

 

In tutto questo, forse serve ricordare che ChatGPT non ha alcuna pretesa di scrivere cose corrette, risolvere problemi o fare diagnosi sicure: e’ fatto per generare testi scorrevoli e di facile interpretazione, nulla di piu’.

 

From: nexa <nexa-bounces@server-nexa.polito.it> On Behalf Of Enrico Nardelli
Sent: Saturday, April 1, 2023 4:19 AM
To: nexa@server-nexa.polito.it
Subject: Re: [nexa] ChatGPT disabled for users in Italy

 

A me pare che la decisione del Garante sia formalmente ineccepibile: sarò lieto di leggere pareri difformi da parte degli avvocati esperti di privacy presenti in lista.

Per il momento è un atto urgente del Presidente che il collegio deve confermare entro 30 giorni (come immagino accadrà).

Però penso che quelli che ritengo siano i due punti principali contestati:
- la mancanza di un'informativa rispondente al GDPR sui dati raccolti
- la mancanza di un sistema di verifica dell'età

possano essere rimediati in un tempo sicuramente inferiore a 6 mesi (la moratoria richiesta dalla famosa lettera).

Personalmente proverei a fare qualcos'altro, basandomi sulla legislazione in materia di informazione al pubblico. Non sono un avvocato, quindi non posso dire se sia fattibile, ma in sostanza qui abbiamo un sistema che - a differenza dei motori di ricerca che rispondono agli utenti con qualcosa di realmente esistente sul web - fabbrica informazioni false.

Questo difetto può essere corretto con molta più difficoltà e quindi quest'approccio fornirebbe, se fattibile, una base legale per bloccare l'uso di ChatGPT per un tempo molto più lungo.

Sia chiaro: non ritengo abbia senso bloccare ricerca e sviluppo in questo settore, ma qui c'è qualcosa di equivalente (anzi, probabilmente superiore) ad una tecnologia per costruire a costo irrisorio reattori nucleari portatili. Possono essere un enorme vantaggio per tutti, ma possono essere anche assai pericolosi. Una qualche forma di regolamentazione va trovata.

Aggiungo che un reclamo presentato negli USA alla Federal Trade Commission da parte del Center for AI and Digital Policy (https://s899a9742c3d83292.jimcontent.com/download/version/1680174583/module/8450182663/name/PRESS-CAIDP-OpenAI-FTC-Complaint.pdf) cita, tra l'altro, la "consumer deception" come motivo per bloccare l'utilizzo di questi strumenti.

Concludo osservando che il paragone con regimi autoritari mi sembra un po' fuor di luogo: questo collegio non è espressione dell'attuale governo (che comunque è il risultato di elezioni democraticamente svolte) ma del governo Draghi.

Ciao, Enrico

--

-- EN

https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html

====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ======================================================

--

_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa