February 2023 - nexa - server-nexa.polito.it

R: l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by andrea＠surbone.it

Usi che sono spinti dalla bulimia capitalistica entrata nella fase allucinatoria. Ecco: secondo me la resistenza potrebbe essere una valida alternativa a questo mortifero adattamento. L’adozione di un nuovo modello è ciò che vado proponendo io, e che presenterò martedì 14 marzo all’Eticaffè ospitato da Caffè Vergnano di Corso Einaudi 31, a Torino. Andrea Surbone +39 335 7226007 <http://www.surbone.it/> www.surbone.it <http://www.jussemper.org/> www.jussemper.org <http://www.propostaneokeynesiana.it/> www.propostaneokeynesiana.it D. Astrologo, A. Surbone, P. Terna Il lavoro e il valore al tempo dei robot - Intelligenza artificiale e non-occupazione Meltemi, Milano 2019 – con prefazione di Adam Smith <http://www.meltemieditore.it/catalogo/lavoro-valore-allepoca-dei-robot/> www.meltemieditore.it/catalogo/lavoro-valore-allepoca-dei-robot/ Da: nexa <nexa-bounces(a)server-nexa.polito.it> Per conto di Guido Vetere Inviato: sabato 18 febbraio 2023 12:08 A: Giacomo Tesio <giacomo(a)tesio.it> Cc: Andrea Bolioli via nexa <nexa(a)server-nexa.polito.it> Oggetto: Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)] Assioma della conoscenza (logica epistemica): Kp -> p a parole: sai che 'p' (es. 'oggi c'è il sole') solo se 'p' è vero: se non hai modo di stabilirlo, allora la tua è solo credenza ChatGPT non sa nulla (ovviamente) ma su moltissime proposizioni noi non siamo messi molto meglio Il punto importante però è un altro: sta in quel 'modo di stabilirlo'. Va detto chiaramente: i LLM non devono essere accettati come modi di stabilire la verità di alcunché. Personaggi anche famosi oggi affermano che l'umanità debba 'adattarsi' a questi usi dei LLM. Usi che sono spinti dalla bulimia capitalistica entrata nella fase allucinatoria. Ecco: secondo me la resistenza potrebbe essere una valida alternativa a questo mortifero adattamento. G. On Fri, 17 Feb 2023 at 20:35, Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it> > wrote: Non 'in senso stretto": chatgpt non sa nulla. Per affermare che un LLM sappia qualcosa è necessario svuotare competamente il verbo "sapere" del proprio significato e sostituirlo con quello di "indicizzare". ChatGPT non sa. Giacomo Il 17 Febbraio 2023 18:20:44 UTC, Andrea Bolioli <andrea.bolioli(a)h-farm.com <mailto:andrea.bolioli@h-farm.com> > ha scritto: Ciao Giacomo, purtroppo sono d'accordo con molte delle cose che scrivi, non tutte, ma molte. Sicuramente è bene diffondere la consapevolezza che gli LLM non sanno tutto (in senso stretto non sanno nulla), scrivono cose false senza distinguere tra vero e falso, vengono creati/utilizzati da aziende che non hanno come primo scopo il bene comune (anche se dicono di averlo), ecc AB Il giorno ven 17 feb 2023 alle ore 16:16 Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it> > ha scritto: Salve Andrea, <https://h-farm-static.s3.eu-south-1.amazonaws.com/HFI_JAKALA_Logo_mail.png> innovation.h-farm.com <https://innovation.h-farm.com/> / Linkedin <https://www.linkedin.com/company/h-farm-innovation> Roncade, H-FARM Campus, Via Olivetti, 1 – 31056 (TV) Milano, Corso di Porta Romana, 15 – 20122 Torino, Via San Quintino, 31 – 10121 Our privacy policy <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-…> . _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Antonio

> Strano leggere sui social commenti del tipo: 'beh, in fondo anche > Socrate sapeva di non sapere'. Mettiamola così, per un informatico è abbastanza chiaro che GPT-3.5, è un /sistema/ nei cui "suoi 175miliardi di parametri sono rappresentate le connessioni, relazioni sintattiche e semantiche, tra le parole, che gli consentono di generare nuove frasi, alcune sensate, altre meno".Niente di più, niente di meno. E' onesto pure accettare la realtà, che a /sapere/ sono, e sono stati, i programmatori dell'ultimo decennio. Hanno saputo integrare algoritmi (alcuni ideati nel secolo scorso) con la potenza di calcolo e l'enorma quantità di dati /open/ attuale, disponibile /aggratis/. E l'hanno fatto talmente bene da /ingannare/ il pubblico non esperto tanto da indurlo a paragonare una macchina finanche a Socrate. Ma le nostre invettive non fermeranno certo la marea di /app/ a base GPT che sta per travolgerci. Non solo i GAFAM, non solo i monopolisti digitali. Ormai è sufficiente che un paio di data scientist escano da una Big Tech per mettere su una start-up AI-based (vedi SuSea Inc con you.com) E poi c'è Microsoft ... In difficoltà nel decennio scorso (Chrome che "cancella" Internet Explorer, batoste nel software per smartphone e nelle console giochi), negli ultimi anni si è ripresa alla grande. Ha tolto di mezzo Skype comprandoselo e con Teams e OneDrive spadroneggia nella P.A. (oltre all'atavica soggezione della P.A. a Windows e Office). E ora ha l'asso nella manica. Ve lo immaginate Word con integrato GPT-4 ? A.

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Giacomo Tesio

On Mon, 20 Feb 2023 16:15:37 +0100 Marco A. Calamari wrote: > On lun, 2023-02-20 at 15:09 +0100, Giacomo Tesio wrote: > > On Mon, 20 Feb 2023 12:59:06 +0100 Marco A. Calamari wrote: > > > > > Non hai nessun motivo per pensare o pretendere che il dato > > > esatto, se è stato fornito, torni fuori. > > > > Beh, non hai nemmeno alcun modo di escluderlo. > > Mi sembra una risposta cosiddetta "a pipa di cocco" - vedi Braccio di > Ferro. > > Mi spiegheresti il rovesciamento di argomento cosa c'entra? Te lo mostro: https://peertube.opencloud.lu/w/eW497u3UYXmQwcQu9LYEDR Qui vedi GitHub CopyALot distribure una copia esatta del codice di Quake III Arena (sotto GPLv3), ma con una licenza permissiva ed una attribuzione sbagliata. Il codice però era esattamente quello usato come sorgente della programmazione statistica. In altri termini affermare che "in una IA generativa, un sistema di Deep Learning, un modello linguistico, GPT-3 in particolare, una volta addestrato IL DATO NON ESISTE PIU'" è inesatto. Il dato può esistere o meno. Ciò che è sparito completamente è il significato di quel dato. > Anche nella Biblioteca di Babele potrei imbattermi nel catalogo > completo della Biblioteca di Babele, questo non rende il suo metodo > di archiviazione un esempio da seguire od un metodo affidabile. :-D La differenza sostanziale è che la Biblioteca di Babele non esiste. Né qualcuno si preoccupa di cantarne le lodi o difenderne l'output. Giacomo

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Guido Vetere

Interessante osservare quanto sia persistente la percezione che i sistemi basati sui Large Language Model "sappiano" qualcosa, e come ci si stupisca e ci si interroghi sugli strani errori che commettono, ad onta della razionale consapevolezza che essi non "sappiano" far altro che generare su basi raffinatamente statistiche la continuazione di una frase. Strano leggere sui social commenti del tipo: 'beh, in fondo anche Socrate sapeva di non sapere'. E' come se la potenza persuasiva dei monopolisti digitali fosse tale da scardinare le nozioni basilari del nostro senso comune. Il capitalismo monopolista è entrato in una fase allucinatoria, questo non l'aveva previsto neanche il filosofo di Treviri. G. On Mon, 20 Feb 2023 at 15:10, Giacomo Tesio <giacomo(a)tesio.it> wrote: > On Mon, 20 Feb 2023 12:59:06 +0100 Marco A. Calamari wrote: > > > Non hai nessun motivo per pensare o pretendere che il dato esatto, se > > è stato fornito, torni fuori. > > Beh, non hai nemmeno alcun modo di escluderlo. > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Marco A. Calamari

On lun, 2023-02-20 at 15:09 +0100, Giacomo Tesio wrote: > On Mon, 20 Feb 2023 12:59:06 +0100 Marco A. Calamari wrote: > > > Non hai nessun motivo per pensare o pretendere che il dato esatto, se > > è stato fornito, torni fuori. > > Beh, non hai nemmeno alcun modo di escluderlo. Mi sembra una risposta cosiddetta "a pipa di cocco" - vedi Braccio di Ferro. Mi spiegheresti il rovesciamento di argomento cosa c'entra? Anche nella Biblioteca di Babele potrei imbattermi nel catalogo completo della Biblioteca di Babele, questo non rende il suo metodo di archiviazione un esempio da seguire od un metodo affidabile. > > Giacomo

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Giacomo Tesio

On Mon, 20 Feb 2023 12:59:06 +0100 Marco A. Calamari wrote: > Non hai nessun motivo per pensare o pretendere che il dato esatto, se > è stato fornito, torni fuori. Beh, non hai nemmeno alcun modo di escluderlo. Giacomo

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Giacomo Tesio

Ciao Giuseppe, permettimi di chiarire On Mon, 20 Feb 2023 10:04:18 +0100 Giuseppe Attardi wrote: > In fondo mi pare sia sterile criticare uno strumento perché non sa > fare cose per cui non è stato previsto. Io non sto criticando ChatGPT, un esperimento sociale decisamente interessante realizzato attraverso un programma statistico solo poco meno interessante. Non avrebbe molto senso criticare una cosa: non può migliorare a fronte della mia critica, ragionando e comprendendo il suo significato. Ciò che critico è l'interpretazione alienante (ed alienata) che emerge persino dal linguaggio che utiliziamo qui nel riferirci a questo programma statistico. ChatGPT non sa in alcun significato attribuito finora al sapere. Per affermare che sa, dobbiamo ridurre il sapere ad indicizzazione senza archiviazione, il suo "modello" è del tutto analogo ad un archivio zip profondamente danneggiato (ma senza checksum che ci permetta di riconoscere o localizzare il danno). ChatGPT non sa. Sostenere il contrario non significa solo fraintendere la natura dell'oggetto (cosa che di per sé ne decreta il successo, nel gioco di imitazione per cui è progettato) ma svilire il sapere umano che non è fatto di simboli e relazioni fra simboli, ma di informazioni che simboli e relazioni servono ad esprimere. I computer sono meri specchi. Ma dobbiamo fare attenzione a non confondere l'immagine riflessa con un nostro simile o ci lasceremo imprigionare in un labirinto di specchi costruito da altri, come il Minotauro di Dürrenmat. Per questo ti prego di non difendere uno specchio. Non lo sto criticando. Sto criticando chi ci vede (o dice di vederci) altro oltre lo specchio. > PS. L’intelligenza è una qualità banale: tutti ce l’hanno, è solo una > questione di livelli. Tutti gli esseri umani, certo. Ma animali e artefatti non hanno intelligenza. Hanno istinto (i primi) e schemi di funzionamento (i secondi). Non intelligenza. L'intelligenza è negli occhi di chi guarda. Proiettiamo su di loro le nostre motivazioni, interpretando il loro comportamento sulla base dell'esperienza che lo giustificherebbe in noi. Giacomo PS: non parlerei nemmeno di "livelli": l'intelligenza è una qualità estremamente complessa della mente umana, cercare di quantificarla o ordinarla è il modo più rapido di dimostrare di non averne compreso la natura.

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Marco A. Calamari

Ciao Diego, non mi stancherò mai di ripetere, in ina IA generativa, un sistema di Deep Learning, un modello linguistico, GPT-3 in particolare, una volta addestrato IL DATO NON ESISTE PIU' c'è solo un pappagallo elettronico che sa mettere in fila parole, ma non sa nemmeno ripetere letteralmente quello con cui è stato addestrato. Non hai nessun motivo per pensare o pretendere che il dato esatto, se è stato fornito, torni fuori. Quindi vale meno di un pappagallo, che almeno i suoni li sa ripetere. On lun, 2023-02-20 at 09:19 +0000, Diego Giorio wrote: > Qui però il discorso è leggermente diverso: almeno per ciò che mi riguarda, la > perplessità non nasce dal fatto che non sia perfetto o che non faccia ciò che > non è progettato per fare, quanto il fatto che, a fronte di un'esordio tutto > sommato corretto, concluda con un decesso totalmente inventato. Se ci fosse un > Pagallo marmista a Sidney o giocatore di basket in USA deceduto in quella data > capirei la confusione, ma che, in mancanza di una fonte, si inventi > totalemente il dato, peraltro inutile ai fini della risposta mi sembra strano. > Poi magari la fonte c'è e sono io che non riesco a trovarla, ma sarei curioso > di capire come ""ragiona"" (virgolette doppie intenzionali) > > Buona settimana a tutti > D. > From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Giuseppe Attardi > <attardi(a)di.unipi.it> > Sent: Monday, February 20, 2023 9:04 AM > To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di > Chat GPT)] > Concordo che ChatGPT non “sappia”, quanto meno nel senso di saper trarre > conclusioni dalle sue conoscenze: ha solo accumulato e fatto una propria > sintesi di quanto ha accumulato. > Ma la sintesi non è un “indice” come quello dei motori di ricerca, altrimenti > sputerebbe fuori solo quello, una lista di riferimenti. > Nei suoi 175miliardi di parametri sono rappresentate le connessioni, relazioni > sintattiche e semantiche, tra le parole, che gli consentono di generare nuove > frasi, alcune sensate, altre meno. > ChatGPT, o meglio GPT-3.5, che è la sua fonte, non è nemmeno in grado di > riprodurre esattamente il testo di nessuno (o quasi) dei documenti su cui è > stato allenato. > > Non sa fare ragionamenti logici o matematici. E allora? > Anch’io ci sono migliaia di cose che non so fare, perché non me le hanno > insegnate. > > In fondo mi pare sia sterile criticare uno strumento perché non sa fare cose > per cui non è stato previsto. > > — Beppe > > PS. L’intelligenza è una qualità banale: tutti ce l’hanno, è solo una > questione di livelli. > > > On 18 Feb 2023, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa- > > request(a)server-nexa.polito.it> wrote: > > > > From: Giacomo Tesio <giacomo(a)tesio.it> > > To: Andrea Bolioli <andrea.bolioli(a)h-farm.com> > > Cc: Andrea Bolioli via nexa <nexa(a)server-nexa.polito.it>, "M. > > Fioretti" <mfioretti(a)nexaima.net> > > Subject: Re: [nexa] l'output e le fonti [era Triste Annuncio (a > > proposito di Chat GPT)] > > Message-ID: <2405E17E-6B1E-463D-84BF-3403D948D92C(a)tesio.it> > > Content-Type: text/plain; charset="utf-8" > > > > Non 'in senso stretto": chatgpt non sa nulla. > > > > Per affermare che un LLM sappia qualcosa è necessario svuotare competamente > > il verbo > > "sapere" del proprio significato e sostituirlo con quello di "indicizzare". > > > > ChatGPT non sa. > > > > > > Giacomo > > > > > > Il 17 Febbraio 2023 18:20:44 UTC, Andrea Bolioli <andrea.bolioli(a)h-farm.com> > > ha scritto: > > > Ciao Giacomo, > > > > > > purtroppo sono d'accordo con molte delle cose che scrivi, non tutte, ma > > > molte. > > > Sicuramente è bene diffondere la consapevolezza che gli LLM non sanno > > > tutto > > > (in senso stretto non sanno nulla), scrivono cose false senza distinguere > > > tra vero e falso, vengono creati/utilizzati da aziende che non hanno come > > > primo scopo il bene comune (anche se dicono di averlo), ecc > > > > > > AB > > > > > > > > > Il giorno ven 17 feb 2023 alle ore 16:16 Giacomo Tesio <giacomo(a)tesio.it> > > > ha scritto: > > > > > > > Salve Andrea, > > > > > > > > > > > > > > > > > > -- > > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 20, 2023

oltre GPTzero

by maurizio lana

oltre a GPTzero (di cui si è visto qui in lista che lavora solo sull'inglese; e di cui si è visto in rete che basta inserire un errore di battitura per far riconoscere come umano l'output di un bot) ci sono almeno altri tre tool che non ho ancora provato, per il riconoscimento dell'output dei chatbot: «AI Detector by C@S: Chat GPT Detector Checks for AI Content». https://contentatscale.ai/ai-content-detector/. «GPT-2 Output Detector». https://openai-openai-detector.hf.space/. «AI Content Detector». https://writer.com/ai-content-detector/. come GPTzero anche questi hanno dei limiti, ma sono appena agli inizi. per certi versi mi pare una situazione simile a quella dei tool per il riconoscimento dei deepfake: cioè ne abbiamo bisogno, ma sembra che distinguere correttamete umano/artificiale sia più difficile per il testo che per la voce. Maurizio ------------------------------------------------------------------------ apriti cielo sulla frontiera sulla rotta nera una vita intera mannarino, apriti cielo ------------------------------------------------------------------------ Maurizio Lana - 347 7370925

Feb. 20, 2023

MEMENTO | 103° Nexa Lunch Seminar | 22 febbraio 2023, ore 13.00

by Nexa Media

Gentilissime, gentilissimi, Vi ricordiamo che *mercoledì 22 febbraio*, dalle ore 13.00 alle ore 14.00, si terrà il *103° Nexa Lunch Seminar * con un incontro dal titolo /*"Riconoscimento facciale: come identificare le criticità e includere le casistiche trascurate?".*/ Ospite dell'incontro: *Fabiana Vinci* (Politecnico di Torino). _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA dell'incontro_: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono *Portineria *e di seguire le indicazioni segnalate dai cartelli apposti all'ingresso e lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE dell'incontro_: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-103 Grazie per l'attenzione, Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

Feb. 20, 2023