March 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT e la stanza cinese

by Stefano Quintarelli

semplicemente perfetto ti citero'. avevo scritto questo, molto meno espressivamente potente https://blog.quintarelli.it/2020/10/it-aint-no-horse-aka-meaning-is-the-eye… On 17/03/23 10:26, Enrico Nardelli wrote: > Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione pratica > dell'esperimento mentale della Stanza Cinese di John Searle > (https://it.wikipedia.org/wiki/Stanza_cinese > > Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello > sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna > reale comprensione del significato di ciò che sta facendo. > > Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò > che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il > significato che è in noi. > > Ciao, Enrico > > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > -- > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 17, 2023

Authors risk losing copyright if AI content is not disclosed, US guidance says | Ars Technica

by Enrico Nardelli

https://arstechnica.com/tech-policy/2023/03/us-issues-guidance-on-copyright… -- sent from mobile, please forgive typos and conciseness =================== Prof. Enrico Nardelli Univ. Roma Tor Vergata ===================

March 17, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Marco A. Calamari

Guarda, tanto sono d'accordo che avevo scritto lo stesso concetto nell'articolo di commento alla presentazione di GPT-4 che sto rifinendo. La tua argomentazione però è molto migliore. Posso copiarla come fair use? Citandoti, ovviamente. Marco P.S. come si cita una mail list??? On ven, 2023-03-17 at 10:26 +0100, Enrico Nardelli wrote: > Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione > pratica dell'esperimento mentale della Stanza Cinese di John Searle > (https://it.wikipedia.org/wiki/Stanza_cinese > > Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul > livello sintattico ma è lontana anni luce dalla nostra competenza semantica. > Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. > Purtroppo (e questo è un problema nostro di grande rilevanza sul piano > sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, > proiettiamo su di essa il significato che è in noi. > > Ciao, Enrico > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 17, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Daniela Tafani

Buongiorno. Concordo sull'analogia con la stanza cinese, anche se, in quell'esperimento mentale, le regole per l'output non erano probabilistiche (e quindi sarebbe già un passo avanti chilometrico, poter comunicare con la stanza cinese, anziché con chatgPT). L'aspetto ingannevole, credo sia opportuno ricordarlo, non è una conseguenza inattesa: si tratti di programmi ingannevoli by design. E' a partire dal test di Turing, che ci si è ripromessi di trarre in inganno gli umani, nell'"interlocuzione" con le macchine, sfruttando la tecnica e, al tempo stesso, la tendenza dei medesimi umani all'animismo (a quella forma di pensiero magico che, nella definizione di Freud, consiste nell'"animazione dell’inanimato" e che già Hume aveva definito come la tendenza universale degli uomini a "concepire gli altri esseri come simili a loro stessi e a trasferire in ogni oggetto le qualità più familiari, più intimamente presenti alla loro coscienza"). La conseguenza, come ha osservato Daniel Dennet, sarà il pullulare di persone contraffatte, mescolate a quelle reali in modo indistricabile. E, con una conclusione che condivido, poiché non sono meno pericolose del denaro contraffatto, la pena dovrebbe essere altrettanto severa. Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Enrico Nardelli <nardelli(a)mat.uniroma2.it> Inviato: venerdì 17 marzo 2023 10:26 A: Nexa Oggetto: [nexa] ChatGPT e la stanza cinese Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione pratica dell'esperimento mentale della Stanza Cinese di John Searle (https://it.wikipedia.org/wiki/Stanza_cinese<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230317092708106360…> Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi. Ciao, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230317092708106360…> [cid:part1.nzllyk57.rDYtu0MW@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230317092708106360…> blog: https://link-and-think.blogspot.it/<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230317092708106360…> tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230317092708106360…> ====================================================== --

March 17, 2023

semantizzazione/significazione (era: ChatGPT e la stanza cinese)

by maurizio lana

mi torna molto il richiamo alla stanza cinese di Searle. due righe sul punto chiave che è "ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi" ciò avviene perché tutta la nostra esistenza nel mondo (si) costruisce (su) semantizzazione e significazione cioè attribuzione di senso/significato ad elementi specifici: semantizzazione lavora su un elemento, significazione lavora su una sequenza di elementi. esempi: semantizzazione: una rosa è una rosa o è un messaggio d'amore? una rosa può essere un messaggio d'amore per effetto di un processo di semantizzazione. significazione: l'Infinito di Leopardi è una poesia grandiosa per effetto di un processo di significazione. 'non ce la facciamo' proprio a stare in mezzo alle cose senza costruire semantizzazione e/o significazione: pensiamo alle albe, ai tramonti, alla "furia degli elementi" che è energia presente in atmosfera che si scarica a terra, eccetera. siamo umani sia nel bene sia nel male, per questa capacità Maurizio Il 17/03/23 10:27, Enrico Nardelli <nardelli(a)mat.uniroma2.it> ha scritto: > Date: Fri, 17 Mar 2023 10:26:58 +0100 > From: Enrico Nardelli<nardelli(a)mat.uniroma2.it> > To: Nexa<nexa(a)server-nexa.polito.it> > Subject: [nexa] ChatGPT e la stanza cinese > > Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione pratica dell'esperimento mentale della Stanza Cinese di John Searle (https://it.wikipedia.org/wiki/Stanza_cinese > > Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. > > Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi. ------------------------------------------------------------------------ mentre percorreva il corridoio, chiedeva di poter parlare con un avvocato o con il consolato testimone Delta, atto di chiusura delle indagini della Procura di Roma sull'uccisione di Giulio Regeni ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

March 17, 2023

Re: [nexa] a proposito dell'articolo di Chomsky sul NYT

by Roberto Dolci

Ciao Enrico, hai perfettamente ragione, il test della teoria della mente e' un approssimazione per vedere - in modo standard e ripetibile - quale grado di formazione di coscienza abbiamo davanti, qui il pre-print https://arxiv.org/abs/2302.02083. Pero' mira a guardare la capacita' di capire il prossimo dal contesto, che e' una delle abilita' che acquisiamo da bimbi fino all'eta' adulta e che ci consente di sviluppare bias/stereotipi/pregiudizi che accelerano il nostro processo stimulo-analisi-reazione. Non butterei via il bimbo con l'acqua sporca, perche' specialmente il miglioramento da 3 a 9 anni in pochi mesi ci da misura della capacita' di inferenza che questi modelli sviluppano. Resta interessante 😎 A presto Rob ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Enrico Nardelli <nardelli(a)mat.uniroma2.it> Inviato: mercoledì 15 marzo 2023 14:10:45 A: Nexa Oggetto: Re: [nexa] a proposito dell'articolo di Chomsky sul NYT Grazie del commento Rob. Io non sono un cognitivista quindi mi esprimo un'opinione consapevole che possa essere estremamente ingenua. Trovo il confronto con una teoria della mente molto fuorviante, dal momento che le menti che conosco sono menti che posseggono una semantica mentre ChatGPT possiede solo capacità sintattiche approssimando quelle semantiche mediante la statistica. Per non parlare poi degli aspetti di consapevolezza... Ciao, Enrico Per non parlare poi Il 15/03/2023 14:26, Roberto Dolci ha scritto: Ciao Enrico, le principali differenze tra il fanciullo e ChatGPT, di cui notiamo comunque essere il primo robot a raggiungere la performance di un 9nne sulla scala di teoria della mente (era 3enne solo a novembre scorso): 1. il consumo energetico. Il nostro cervello non arriva ad una lampadina, mentre per ogni richiesta di ChatGP consumiamo una quantita' immonda di energia. 2. la creazione. Il bambino crea la spiegazione, e poi la testa immediatamente, validandola o creadone un altra. ChatGPT parte dallo scibile disponibile per inferire e quindi imparare, ovviamente non crea mai nulla di effettivamente nuovo. 3. la plasticita' degli organoidi cerebrali rispetto ai chip sotto ChatGPT e l'utilizzo della chimica nei processi cerebrali. La gestione della "potatura" delle memorie inutili nel nostro cervello e' ordini di grandezza piu' efficiente ed efficace di quanto disponibile con AI. Su Zafferano di sabato Un abbraccio Roberto ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it><mailto:nexa-bounces@server-nexa.polito.it> per conto di Enrico Nardelli <nardelli(a)mat.uniroma2.it><mailto:nardelli@mat.uniroma2.it> Inviato: martedì 14 marzo 2023 17:30:08 A: Nexa Oggetto: [nexa] a proposito dell'articolo di Chomsky sul NYT Si tratta di questo articolo: https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html (mi scuso qualora se ne fosse già discusso in lista) Ne stavo discutendo con colleghi di vari paesi in un'altra mailing list e in risposta ad alcune critiche fatte all'articolo ho scritto quanto riporto sotto (scusatemi se lo lascio in inglese ma siccome coinvolge l'uso di ChatGPT nell'analisi di un testo in inglese traducendolo diventava un'altra cosa) ... I find your viewpoint highly interesting, even if I somehow disagree on some of your criticism to Chomsky's article. I find an analogy between the way ChatGPT learned to master the language in comparison to human beings and how Alpha Zero learned to master board games in comparison to human beings. The deep-learning based approach exploited in both cases (almost) all available data, either through their availability on the Internet (in the case of the language) or through sophisticated systematic search through the strategy space (in the case of board games). Human beings become master (in both fields) leveraging a much smaller information space: the number of examples a child is exposed to while learning language is, just by considering time and space constraints, much smaller than what ChatGPT used. I do not know of any estimation of this (which would be an interesting thing to do) but I would say the size is inferior of some orders of magnitude (which to me implies the "language learning algorithm" inside human brain is exponentially more efficient then those used in DL - but that's a different story). Moreover human beings know the "meaning" of their action and are aware of the fact that they know such meaning. (See the note at the end supporting my statements.) This appears to me to be an important difference between the two approaches and I think is the reason why Chomsky wrote that ChatGTP is not going to teach us anything useful about how human beings learn and use language. One more interesting discussion of the Chomsky viewpoint, this time defending it, I suggest (in case you've not already read it) is the piece of Gary Marcus https://garymarcus.substack.com/p/caricaturing-noam-chomsky Best, Enrico NOTE: To test my statements I asked ChatGPT to analyse a paragraph of my mail. You can read the prompt and the answer further below. The answer is at best confusing. ChatGPT fails to identify the text has 2 sentences and not just 1. It does a wrong analysis of the first sentence, which contain two main clauses and not one main and one subordinate. That's particularly interesting since right after the wrong analysis it "explains" that "a main clause is an independent clause that stands alone as a complete sentence". So, it writes that it "knows" what a main clause is right after having shown it doesn't know. And the rest contains a number of additional errors. So, even if the examples ChatGPT has been exposed to surely contain many descriptions of grammar rules, it has not been able to get any understanding of them. A secondary high school student, having received much less data and much less training is able to do a much better job. CVD :-) PROMPT Please perform the analysis of clause and sentence structure of the text enclosed below between «»: «Human beings become master (in both fields) leveraging a much smaller information space: the number of examples a child is exposed to while learning language is, just by considering time and space constraints, much smaller than what ChatGPT used. I do not know of any estimation of this (which would be an interesting thing to do) but I would say the size is inferior of some orders of magnitude (which to me implies the "language learning algorithm" inside human brain is exponentially more efficient then those used in DL - but that's a different story).» ANSWER (ChatGPT release of Feb.13 - tested on Mar.14th) The text contains one sentence: "Human beings become master (in both fields) leveraging a much smaller information space: the number of examples a child is exposed to while learning language is, just by considering time and space constraints, much smaller than what ChatGPT used. I do not know of any estimation of this (which would be an interesting thing to do) but I would say the size is inferior of some orders of magnitude (which to me implies the "language learning algorithm" inside human brain is exponentially more efficient then those used in DL - but that's a different story)." The sentence contains two clauses: Main clause: "Human beings become master leveraging a much smaller information space" Subordinate clause: "the number of examples a child is exposed to while learning language is, just by considering time and space constraints, much smaller than what ChatGPT used" The main clause is an independent clause that stands alone as a complete sentence. It contains a subject ("human beings") and a predicate ("become master leveraging a much smaller information space"). The subordinate clause is a dependent clause that cannot stand alone as a complete sentence. It provides additional information to the main clause by describing the size of the information space that humans use to become masters in both fields. The subordinate clause contains a subject ("the number of examples a child is exposed to while learning language") and a predicate ("is much smaller than what ChatGPT used"). The phrase "just by considering time and space constraints" acts as an adverbial modifier that further clarifies the subordinate clause. The text also contains two embedded clauses: "which would be an interesting thing to do" is an embedded clause that acts as an object of the verb "know" in the main clause. "which to me implies the 'language learning algorithm' inside human brain is exponentially more efficient then those used in DL - but that's a different story" is an embedded clause that acts as the subject of the verb "is" in the subordinate clause. Additionally, the text contains a parenthetical remark: "but that's a different story," which is not syntactically connected to the rest of the sentence. END OF CHATGPT ANSWER -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:part1.N631ls4Z.ADzWC5so@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== -- -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:part1.N631ls4Z.ADzWC5so@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

March 17, 2023

Re: [nexa] The stupidity of AI | Artificial intelligence (AI) | The Guardian

by Enrico Nardelli

Grazie dell'articolo, Alberto. Questo passaggio che riporto sotto mi sembra quello assolutamente centrale. Le prime due frasi dovrebbe essere riportate come "disclaimer" di ogni articolo (soprattutto giornalistico) che parla di ChatGPT e sistemi simili. Ciao, Enrico Il 16/03/2023 08:42, Alberto Cammozzo via nexa ha scritto: > The belief in this kind of AI as actually knowledgeable or meaningful is actively dangerous. It risks poisoning the well of collective thought, and of our ability to think at all. If, as is being proposed by technology companies, the results of ChatGPT queries will be provided as answers to those seeking knowledge online, and if, as has been proposed by some commentators, ChatGPT is used in the classroom as a teaching aide, then its hallucinations will enter the permanent record, effectively coming between us and more legitimate, testable sources of information, until the line between the two is so blurred as to be invisible. Moreover, there has never been a time when our ability as individuals to research and critically evaluate knowledge on our own behalf has been more necessary, not least because of the damage that technology companies have already done to the ways in which information is disseminated. To place all of our trust in the dreams of badly programmed machines > would be to abandon such critical thinking altogether. -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

March 17, 2023

ChatGPT e la stanza cinese

by Enrico Nardelli

Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione pratica dell'esperimento mentale della Stanza Cinese di John Searle (https://it.wikipedia.org/wiki/Stanza_cinese Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi. Ciao, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

March 17, 2023

Parlamento: recepita la Direttiva UE sulle denuncie di irregolarità (whistleblowing) | Dottrina Per il Lavoro

by Mauro Alovisio

Ciao Segnalo finalmente dopo un grave ritardo rispetto agli altri paesi europei il decreto che tutela i segnalanti di violazione di legge all'interno dei contesti lavorativi. https://www.dottrinalavoro.it/notizie-c/parlamento-recepita-la-direttiva-ue… Un caro saluti Mauro

March 16, 2023

LLM in Intellectual Property Law at Queen's University Belfast

by GC F

Cari tutti, invio una breve email per informarvi che abbiamo aperto le iscrizioni per un nuovo LLM in Intellectual Property Law alla School of Law di Queen's University Belfast. Il nuovo LLM, che ho personalmente sviluppato, verra' offerto gia' dal prossimo anno accademico 2023/2024. Ulteriori informazioni sono disponibili al link sottostante: https://www.qub.ac.uk/courses/postgraduate-taught/intellectual-property-law… Vi prego di condividere quanto sopra e rimango a disposizione per fornire informazioni ulteriori. Con i saluti piu' cordiali. Giancarlo

March 16, 2023