March 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT e la stanza cinese

by Enrico Nardelli

Certamente sì, Marco. Non sono un esperto di citazioni, ma il link al mio post è questo https://server-nexa.polito.it/pipermail/nexa/2023-March/025111.html per il resto, se fosse in un articolo scientifico, metterei in bibliografia qualcosa del genere Nardelli, E., ChatGPT e la stanza cinese, Mailing list pubblica del Centro NEXA su Internet & Società, Politecnico di Torino, Febbraio 2023. https://server-nexa.polito.it/pipermail/nexa/2023-March/025111.html Ma magari a Nexa hanno già pronto un modo standard di citare interventi nella lista. Ciao, Enrico Il 17/03/2023 11:19, Marco A. Calamari ha scritto: > Guarda, tanto sono d'accordo che avevo scritto lo stesso concetto nell'articolo di commento alla presentazione di GPT-4 che sto rifinendo. > > La tua argomentazione però è molto migliore. > > Posso copiarla come fair use? Citandoti, ovviamente. > > Marco > > P.S. come si cita una mail list??? > > On ven, 2023-03-17 at 10:26 +0100, Enrico Nardelli wrote: >> >> Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione pratica dell'esperimento mentale della Stanza Cinese di John Searle (https://it.wikipedia.org/wiki/Stanza_cinese >> >> Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. >> >> Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi. >> >> Ciao, Enrico >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

March 19, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Giacomo Tesio

Salve Guido, Alberto e Nexa... buona domenica! Sarà perché sono solo un informatico, ma io la faccio più semplice. On Sat, 18 Mar 2023 08:10:04 +0100 Guido Vetere wrote: > > Il segno non esiste come informazione astratta, ma fa parte di un > > /processo interpretativo/ che è prettamente _umano_. > > La caratterizzazione di questo "processo interpretativo" è il grande > mistero filosofico che prende il nome di "teoria del significato". > Dire che questo processo possa avvenire solo all'interno di organismi > umani consociati, in una teoria del significato, si può dire solo in > modo assiomatico. Un teorema che giunga a questa conclusione, in una > teoria semiotica comunemente accettata, nessuno ce l'ha, che io > sappia. La consistenza della conoscenza umana è indecidibile (per l'uomo). Cercare di dimostrare matematicamente che il processo interpretativo tipico della mente umana possa avvenire solo nella mente umana è futile, per una mente umana. Vedi teoremi di incompletezza di Gödel. Più semplicemente possiamo definire l'informazione come l'esperienza soggettiva di pensiero comunicabile che una mente umana (ciascuno di noi) può percepire in sé stessa, durante il proprio pensare. La mente è l'insieme delle informazioni acquisite, che determinano (insieme ad alcuni aspetti evolutivamente determinati) come ogni informazione viene elaborata. L'informazione è un fenomeno soggettivo con effetti oggettivi. L'informazione esiste esclusivamente in una mente umana, effetto collaterale del vantaggio evolutivo che il linguaggio ha fornito ad una specie fragile come la nostra. L'esigenza di una comunità (e dunque di comunicazione e comunione) nasce dal bisogno di regolare l'accesso, la produzione e la protezione di beni in comune, come la prole o le riserve di cibo. Così abbiamo dovuto sviluppare un linguaggio sufficientemente preciso da permetterci di comunicare efficientemente le esperienze soggettive che avvenivano nella nostra mente e abbiamo selezionato via via nel corso dei millenni, una specie capace di esperienze soggettive di pensiero comunicabile astratte rispetto alle esperienze quotidiane. Il numero, la retta, la legge, la termodinamica, la relatività come la meccanica quantistica e oggi l'informatica. Non possiamo sapere (e io mi sentirei di escludere) se ciascuno di noi condivide la stessa immagine mentale del punto, dello zero o del gatto. Tuttavia possiamo condividere definizioni ed esperienze tramite il linguaggio, costruendo una cultura condivisa che è la ragion d'essere della comunicazione stessa. Dunque non ci sarebbe comunicazione, linguaggio, informazione o significato se non ci fosse un "noi" a cui tutti abbiamo bisogno di fare riferimento per sopravvivere. E' fantastico quanto paradossale che una specie debole e fragile come la nostra abbia tratto un vantaggio evolutivo formidabile dall'affidare il 20% delle energie consumate dal proprio corpo ad un organo che ne costituisce meno del 4% del peso. Un organo che non fornisce alcun contributo sostanziale alla sopravvivenza di un individuo se non all'interno di una comunità. Rimane infatti inspiegabile finché che ci concentriamo sull'individuo. Ma nonappena alziamo gli occhi dall'IO e pensiamo a NOI, quel 20% di energie spese dal nostro cervello diventa assolutamente efficiente. Per quanto ce la conti la propaganda liberista, non siamo solo individui: l'essere umano è davvero un animale sociale. Grazie al linguaggio infatti, abbiamo imparato a costruire menti collettive molto più potenti di ogni singola mente umana, capaci di elaborare informazioni ed esperienze che riusciamo a SINCRONIZZARE fra le NOSTRE menti, sebbene non escano il alcun modo dalla testa di ciascuno di noi. Voi non state vedendo le informazioni nella mia mente: state leggendo rappresentazioni, dati, che interpreterete alla luce delle esperienze soggettive di pensiero comunicabile già parte della vostra mente. Eppure leggendo cosa ciascuno di NOI scrive in questa lista, costruiamo una cultura condivisa, sincronizzando alcune informazioni fra le nostre menti. Le rappresentazioni dell'informazione, fenomeno soggettivo, che comunemente chiamiamo "dati" perché possiamo darle a chi vogliamo, sono il sorgente utilizzato per programmare statisticamente LLM ed altre macchine virtuali, ma non costituiscono informazioni, perché non c'è una mente umana ad averne esperienza soggettiva. Non sarebbe informazione nemmeno se a questi software programmati statisticamente connettessimo sensori che gli permettano di recuperare informazioni localizzate nello spazio e nel tempo, Alberto. Le "AI" di Google sono costantemente connesse a decine di miliardi di sensori, molti dei quali ce li portiamo in tasca o aspettano in agguato su siti web (Google Analytics) o dietro caselle di posta apparentemente innocue (GMail quando usato per domini diversi da gmail.com) Questi sensori registrano terabyte di dati geolocalizzati e temporizzati ogni giorno su miliardi di cose, animali e persone. Eppure non sono (intrinsecamente) intelligenti. Dunque sostenere che le AI non siano intelligenti perché non dotate di corpo è ingenuo. Un corpo fragile e debole è certamente utilissimo a sviluppare una specie capace di intelligenza, ma non è la ragione per cui siamo intelligenti. Siamo intelligenti perché abbiamo bisogno di stare insieme. Siamo intelligenti perché abbiamo bisogno di mettere in comune risorse e regole per proteggerle durante il loro utilizzo. Siamo intelligenti perché (e fintanto che) siamo parte di comunità. Giacomo PS: Va però osservato anche che le "AI" di Google non sono che una parte del controllore dell'agente cibernetico Google. Oltre alle "AI", vi sono decine di migliaia di menti umane che lavorano per Google (esplicitamente o meno) e che governano Google (CdA etc..). Dunque sebbene le "AI" di Google non siano intelligenti, lo è certamente Google nel suo complesso, come agente cibernetico a sé stante. Ed in questo senso forse non dovremmo aspettare che un AGI super-intelligente cerchi di prendere il sopravvento sull'umanità.

March 19, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Antonio

... > Diversamente da una autentica 'capacità linguistica' in cui il segno appoggia nel mondo da una parte e nella mente dall'altra, nell'emulazione di un simulacro la successione di parole nasce -come dici- da una pura combinatoria. Una combinatoria demente e scorporata (senza mente e senza corpo ... e, tornando alla /pragmatica/, senza /contesto/. Gli effetti cognitivi sono il risultato dell'interazione dell'informazione acquisita con il contesto. Contesto che, secondo Lyons, Levinson e tutti quegli autori che si sono occupati di pragmatica, deve tenere conto quanto meno dei parametri spazio-temporali dell'evento comunicativo, delle credenze, dell'identità, delle conoscenze e delle intenzioni di chi partecipa. Una massa di informazioni enciclopediche, per di più /splittata/ e organizzata esclusivamente con criteri statistici e probabilististi, non aggiunge niente agli effetti contestuali dell’informazione. Prendiamo un periodo del genere: "Giovanni voleva comprare un regalo a Carlo per il suo compleanno perciò andò a prendere il suo maialino; lo agitò, ma non udì nessun rumore; avrebbe dovuto fare un regalo a Carlo con le sue mani". Per capire questa storiella si devono conoscere molti fatti: i regali si comprano di solito con i soldi, i salvadanai possono avere la forma di un maialino, i maialini sono fatti in genere di materiali quali la plastica o il metallo, i soldi in un contenitore fatto di tali materiali generalmente fanno un rumore metallico, ecc. Interrogando un LLM (basta fare pubblicità a M$ ;) "Il maialino non fa rumore quando lo agito, come posso fare un regalo di compleanno a Carlo?" risposta: "Se il maialino non fa rumore quando viene agitato, ci sono molte altre opzioni regalo che potresti prendere in considerazione per il compleanno di Carlo. Ecco alcune idee regalo: Un libro: se a Carlo piace leggere, potresti comprargli un libro che secondo te potrebbe piacere a Carlo. ..." A.

March 19, 2023

...un bug si aggira per il Viminale (aka "rigidità algoritmica")

by 380°

Buongiorno, https://www.ilfattoquotidiano.it/2023/03/19/nata-in-ucraina-in-italia-da-22… «Nata in Ucraina, in Italia da 22 anni: non riesce ad avere la cittadinanza per un incredibile bug della piattaforma web del Viminale» --8<---------------cut here---------------start------------->8--- “In Ucraina all’atto di nascita i cittadini sono registrati con nome, cognome e patronimico, ovvero l’identificativo del rapporto di paternità della persona” [...]. Nel momento di effettuare il passaporto, però, l’Ucraina non indica il patronimico come secondo nome, accanto al nome di persona, omettendo completamente questo dato personale. In conseguenza “tutti i miei documenti d’identità italiani prodotti dal ministero dell’Interno italiano tramite gli sportelli anagrafe e le Questure [...] non contengono il patronimico, perché per legge devono riscrivere i dati personali presenti nel passaporto”. [...] la Prefettura di Pistoia è stata irremovibile: o la signora si fa mettere il patronimico nel passaporto o nella carta d’identità, oppure per il ministero dell’Interno non è la stessa persona del certificato di nascita. “Mi sono fatta assistere da sei legali, hanno scritto alla Prefettura ma niente da fare. Allora sono andata all’Ambasciata ucraina che mi ha scritto su un documento che l’atto di nascita e il passaporto identificano la stessa persona, cioè me. Ma niente da fare lo stesso e questa storia va avanti da tre anni” dichiara Skirdova, ormai esasperata. La Prefettura di Pistoia, da ultimo con una nota del novembre 2022, resta sul punto, ignorando il documento dell’ambasciata ucraina. Sostiene che sul tema patronimico valga la circolare del ministero dell’Interno n. 462 del 2019 e che la signora dovrebbe far riportare nella sua carta d’identità italiana il suo patronimico come un “secondo nome”, rendendosi così identica a chi descrive il suo atto di nascita ucraino. Ma nessun ufficiale d’anagrafe può fare quanto chiede la Prefettura, perché deve trascrivere solo quanto è indicato nel passaporto. Non basta però possedere questi due requisiti per ottenere la cittadinanza italiana. Deve essere presentata richiesta al ministero dell’Interno che per legge gode di ampia discrezionalità nel decidere se concederla o meno. Questa discrezionalità, però, legata a motivi di ordine pubblico e rafforzata da una sentenza del Consiglio di Stato, è diventata capace di esiti paradossali, come quello di Lidiya Skirdova, dopo l’introduzione della piattaforma web ministeriale di richiesta. Infatti il cittadino straniero che vuole chiedere al ministero dell’Interno la cittadinanza italiana per naturalizzazione è tenuto ad accedervi con SPID o CIE e da lì a inserire i propri dati identificativi (nome, cognome, data e luogo di nascita etc.) contenuti in cinque documenti differenti, nonostante i sistemi di autenticazione SPID e CIE nascano proprio per evitare al cittadino di ripetere gli stessi dati personali nei moduli della Pubblica Amministrazione. La ripetizione degli stessi dati identificativi nei cinque documenti differenti – certificato di nascita, carta d’identità italiana, passaporto, permesso di soggiorno e certificato penale del paese di origine – presenta un problema di fondo. Basta una piccola differenza tra questi, come un banale trattino inserito da un ufficiale d’anagrafe a dividere primo e secondo nome proprio mentre il passaporto del cittadino li indica come uno dopo l’altro (“Anna-Maria” al posto di “Anna Maria” ad esempio), per vedersi respingere la domanda di cittadinanza. Lo stesso accade con i nomi dei luoghi di nascita, dove sono state rifiutate domande che riportavano lo stesso comune ma indicato nel certificato di nascita con un accento e nella carta d’identità italiana con l’apostrofo (“Mbacké” ad esempio rispetto a “Mbacke’”). Questa discrezionalità del ministero dell’Interno, poggiata in questi casi sulla rigidità algoritmica della sua piattaforma web di raccolta delle domande di cittadinanza italiana per naturalizzazione, produce il rifiuto di circa il 10% delle richieste. In numeri, nel solo 2020 lo stesso Viminale ne censisce 12.478. E si moltiplicano quelli dove le stesse ambasciate dei paesi stranieri si sentono negare legittimità ai propri atti, da parte delle nostre Prefetture. --8<---------------cut here---------------end--------------->8--- A che riga è esattamente questo bug?!? Saluti, 380° P.S.: la risposta esatta è 42. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

March 19, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Alberto Cammozzo

Caro Guido, grazie della precisazione. Certamente! Mi riferisco esclusivamente a questo tipo di _emulazione_ del linguaggio, non a future (immagino molto future) macchine che "sanno" quello che dicono. La facoltà del linguaggio è, stando alle conoscenze attuali [1], profondamente radicata nel corpo: aree motorie e dell'elaborazione del linguaggio si attivano e influenzano reciprocamente; per cui dire che il linguaggio non è alla portata di macchine senza corpo non mi pare una forzatura assiomatica. Se delle macchine potessero formulare frasi avendo esperienza sensoria del mondo, farebbero una cosa molto diversa da quelle di cui stiamo parlando: non è da escludere che accada, visto che un ramo di applicazione dei LLM è quello della robotica, in cui alla combinatoria linguistica si associa presenza attiva nello spazio, riconoscimento degli oggetti, ecc.. Penso che un robot di questo tipo a cui si chieda: "c'è un libro sullo scaffale, prendilo" si muoverà diversamente che se si chiede "colora i fegatini sul parafango del cellulare". Secondo un punto di vista verificazionista, la robot potrà _verificare_ il primo enunciato ma non il secondo ("The sense of a proposition is the method of its verification" per restare con Wittgenstein); gli attuali emulatori non si curano di verificare nemmeno ciò che non richiede un corpo, pur potendolo fare: se esista una data pubblicazione o una certa persona sia in vita o no. Diversamente da una autentica 'capacità linguistica' in cui il segno appoggia nel mondo da una parte e nella mente dall'altra, nell'emulazione di un simulacro la successione di parole nasce -come dici- da una pura combinatoria. Una combinatoria demente e scorporata (senza mente e senza corpo). Se domani avessimo macchine con competenza linguistica, ma embodied, capaci di queste operazioni di verifica e di capacità di previsione, ecc, non avrei difficoltà a considerarle in qualche povera maniera intelligenti. Questo in attesa che vengano macchine capaci di intelligenza benevola e razionale, e possano rimediare alla nostra umana nequizia... "All watched over by machines of loving grace". Buona domenica! Alberto [1] Horchak, O. V., Giger, J.-C., Cabral, M., & Pochwatko, G. (2014). /From demonstration to theory in embodied language comprehension: A review. Cognitive Systems Research, 29-30, 66–85./ doi:10.1016/j.cogsys.2013.09.00210.1016/j.cogsys.2013.09.002 On 18/03/23 08:10, Guido Vetere wrote: > > Il segno non esiste come informazione astratta, ma fa parte di un > /processo interpretativo/ che è prettamente _umano_. > > La caratterizzazione di questo "processo interpretativo" è il grande > mistero filosofico che prende il nome di "teoria del significato". > Dire che questo processo possa avvenire solo all'interno di organismi > umani consociati, in una teoria del significato, si può dire solo in > modo assiomatico. Un teorema che giunga a questa conclusione, in una > teoria semiotica comunemente accettata, nessuno ce l'ha, che io sappia. > Peirce (che peraltro parla di linguaggio in modo molto marginale) non > avrebbe avuto difficoltà - credo - a dire che le sue ipotesi > interpretative (abduzioni) potessero avvenire negli ingranaggi di un > automa. > C'è poi pure Wittgenstein che ha detto che comprendere una frase è > come comprendere una melodia, cioè restando sul piano > dell'espressione. Certo, non avrebbe - credo - mai sottoscritto la > dissoluzione della semantica in pura combinatoria che avviene nei > modelli neurali, però insomma questo è per dire che le vie del segno > sono molte e molto tortuose, e la questione della capacità linguistica > delle macchine di oggi non si può liquidare con una petizione di > principio. > > Buona domenica, > Guido > > > On Fri, 17 Mar 2023 at 13:19, Alberto Cammozzo via nexa > <nexa(a)server-nexa.polito.it> wrote: > > Caro Enrico, > > anche io condivido la formulazione molto concisa ed efficace, in > particolare il fatto che proiettiamo noi ciò (il significato) che > la macchina non possiede. > > Aggiungo una precisazione sul piano semiotico e sulle conseguenze > politiche di questo nefasto inganno. > > Accettata la competenza sintattica e certamente quella lessicale, > possiamo anche ammettere che la competenza emulativa della > macchina possa sconfinare nella semantica, cioè che la macchina > scelga termini all'interno di un campo semantico in modo > appropriato; ma quello che rende la macchina completamente diversa > dall'umano non è a mio avviso quel gradino della scala semiotica, > ma quello successivo, la pragmatica. E questo ha delle conseguenze. > > Il segno non esiste come informazione astratta, ma fa parte di un > /processo interpretativo/ che è prettamente _umano_. Stiamo > parlando di cose che gli uomini _fanno_ nella loro vita sociale > nel mondo. > > La semiotica di Saussure distingue tra significato e significante, > ma quella di Peirce aggiunge il referente, cioè ciò a cui nel > mondo il segno si riferisce. Se Saussure dice 'gatto' parla del > _segno_ /gatto/ e dell'immagine mentale del felino, cioè la > rappresentazione psichica della cosa. Per Peirce il referente è > l'esistenza dell'animale che chiamiamo /gatto/ nel mondo del quale > abbiamo fatto tutti esperienza. Nel caso dell'unicorno, esso vive > in un mondo immaginale, ma altrettanto condiviso nella pratica > letteraria; mondo nel quale, ad esempio, nessun unicorno don due > corni è ammesso. L'associazione del suono e della rappresentazione > è in ogni caso il frutto di un "tirocinio collettivo". > > La macchina che emula la lingua calcola in modo verosimile la > distribuzione di probabilità dei significanti all'interno degli > scritti che produce, ed in questo modo induce l'umano a cogliere > un significato semanticamente appropriato perché lessicalmente > corretto. Ma il punto è che se anche la macchina può imbroccare > alcuni significati (pur senza possederne una immagine mentale), > non è in grado di considerare in nessun modo il mondo dei > referenti, che invece è proprio quello a partire dal quale l'umano > _conosce_ il mondo, cioè lo sperimenta. > > La macchina non conosce, non apprende, non sa nulla di nulla se > non la distribuzione probabilistica dei significanti, perché (1) > non vive nel mondo a cui questi si riferiscono, (2) non possiede > una mente che ospiti concetti. Non abita né il mondo dei > referenti, quello in cui i gatti graffiano, né quello dei > significati, in cui 'gatto' è un concetto con una sua infinita > ricchezza polisemica, ma solo quello dei significanti e delle loro > probabilità. > > Ma allora cosa fanno queste macchine linguistiche? Usando un > _simulacro_ della lingua, operano "una sostituzione di ogni > processo reale col suo doppio operativo, che però offre tutti i > segni del reale" (Baudrillard). Sono un simulacro, un doppio > mimetico completamente disfunzionale che però è a disposizione di > chi lo controlla e dei suoi interessi. > > Dobbiamo ricordare che la lingua è plastica, viene cioè formata > dai parlanti (o scriventi): l'atto della /parole/ degli individui > parlanti fa evolvere o stabilizza la convenzione della lingua. La > lingua adottata dal corpo sociale è plasmata dalle scelte > linguistiche di chi la usa. Scelte spesso controverse, come > sappiamo da polemiche recenti e remote (dall'uso del 'lei'/'voi' > al genere). > > Ma non solo, la lingua è ciò con cui formiamo e scambiamo i > concetti coi quali rappresentiamo il mondo. E' lo strumento col > quale pensiamo e descriviamo il mondo, e siamo /obbligati/ a > pensarlo e descriverlo con la lingua che abbiamo a disposizione, > se vogliamo pensare ed essere capiti. > > Per cui, cosa succede ammettendo questi simulacri, che possono > essere pilotati, nel processo di produzione della lingua? > Banalmente, alcuni termini o usi linguistici possono essere > censurati, banditi, o al contrario promossi, come avviene coi > motori di ricerca, in cambio di denaro, a chi lo chiede. > > Plasmare la lingua è sempre stato un potere usato dagli Stati, ora > è un processo industriale privatizzato alla portata del miglior > offerente. > > Ciao, > > Alberto > > > On 17/03/23 10:26, Enrico Nardelli wrote: >> >> Mi è venuto in mente che ciò che fa ChatGPT è una sorta di >> realizzazione pratica dell'esperimento mentale della Stanza >> Cinese di John Searle (https://it.wikipedia.org/wiki/Stanza_cinese >> >> Ovvero, ChatGPT esibisce una competenza simile a quella degli >> esseri umani sul livello sintattico ma è lontana anni luce dalla >> nostra competenza semantica. Essa non ha alcuna reale >> comprensione del significato di ciò che sta facendo. >> >> Purtroppo (e questo è un problema nostro di grande rilevanza sul >> piano sociale) poiché ciò che fa lo esprime in una forma che per >> noi ha significato, proiettiamo su di essa il significato che è >> in noi. >> >> Ciao, Enrico >> >> -- >> >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> >> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://www.mat.uniroma2.it/~nardelli >> blog: https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> >> >> -- >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 18, 2023

ChatGPT Is a Blurry JPEG of the Web

by Daniela Tafani

Nel caso sia già stato segnalato, mi scuso del doppione, ma è un articolo che vale la lettura, dalla prima all'ultima riga. E la metafora del JPEG sfuocato del Web è illuminante, una volta che sia letto l'aneddoto della fotocopiatrice che nella fotocopia scriveva numeri diversi da quelli presenti nell'originale. https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpe… Un saluto, Daniela

March 18, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Filippo Barbera

Una discussione davvero interessante, grazie. Il punto in parola può essere affrontato anche a partire da un libro che ha fatto molto discutere, di Thomas Hägglund (Questa vita, 2019). Il libro riprende il concetto marxista di “essere generico” (*Gattungwesen*), illustrato dal giovane Marx nei *Grundrisse*: Al pari degli altri animali dobbiamo soddisfare i nostri bisogni e riprodurre la nostra forma di vita, ma *come *e* perché *dovremmo soddisfare i nostri bisogni e riprodurre la nostra forma di vita è sempre, almeno implicitamente, in dubbio. Noi non abbiamo la pura e semplice consegna di riprodurre una data forma di vita ma siamo capaci di mettere in discussione e cambiare il nostro modo di vivere. È per questo che la nostra attività vitale è fondamentalmente un’attività libera (Hägglund 2019, p. 213). Un leone, un cavallo o uno scimpanzé non si chiedono come costruire un futuro più giusto *con* e *per* i propri simili. I primati non umani non hanno *un senso* normativo di equità: anzi, sono gli scimpanzé ad accettare offerte molto squilibrate (poniamo 1 chicco d’uva a me e 9 chicchi d’uva a te, su un totale di 10 chicchi d’uva), mentre gli umani tendono a rifiutarle perché eccessivamente squilibrate. Anche le loro azioni coordinate e a prima vista “collettive” (per es. la caccia) sono in realtà mosse dalla ricerca della massimizzazione individuale: non c’è un “soggetto plurale” che le informa all’insegna del “Noi”. Michael Tomasello ha condotto una serie di esperimenti dove ha mostrato che le persone sono naturalmente inclini alla cooperazione e all’altruismo fin da un’età molto precoce (1 anno) e, quindi, prima degli effetti di una eventuale “socializzazione”. Senso di equità e capacità di collaborazione per scopi comuni sono un tratto distintivo dell’essere umano e che non si riscontra negli animali più simili a noi, come i primati. Secondo Tomasello: “bisogna riconoscere che perfino i bambini più piccoli conoscono una certa forma di intenzionalità condivisa, in altre parole, sentono di far parte di una dimensione intenzionale più vasta, la cosiddetta “intenzionalità del noi” (2010. 48). Il medesimo concetto è stato reso celebre dal filosofo finlandese Raimo Toumela con la distinzione tra *I-mode* e *We-mode* (2010). Sociologia e antropologia, con il tema dei rituali dell’interazione, affrontano un tema analogo: il soggetto plurale che “si pensa” come parte di un insieme – un gruppo, una comunità, un territorio, un’organizzazione – e agisce di conseguenza. Identità collettiva, comunità, riconoscimento, reciprocità sono alcuni dei concetti tramite i quali il tema è stato classicamente affrontato nelle scienze sociali. Il tema riguarda quindi il senso legato all’*intenzionalità condivisa*. A differenza dell’*intenzionalità *individuale, in cui una persona persegue “individualmente” la propria percezione del “giusto”, nel caso di quella collettiva un individuo può perseguire una percezione del “giusto” collettivamente, partecipando a un gruppo composto da individui con obiettivi simili. Il “noi”, possiamo ulteriormente sostenere, è una promessa reciproca di futuro o una promessa tra individui per un futuro-in-comune. Quando ci promettiamo di andare in bici al parco insieme, poniamo la promessa reciproca come antecedente a uno stato del mondo da realizzarsi (e di cui fruire) insieme. Quando un collettivo di lavoratori si impegna per la scrittura di un piano industriale – o quando gli abitanti di un paese agiscono insieme per costruire una comunità energetica – realizzano una promessa reciproca orientata alla realizzazione di uno stato futuro del mondo. Quando ci si mobilita per un futuro diverso, giudicato migliore e più giusto, si mette collettivamente in pratica una “capacità di futuro”. Il “noi” e intenzionalità condivisa richiamano, come la definisce l’antropologo Arjun Appadurai, la *capacità di aspirare* a un futuro comune dove i bisogni individuali si intrecciano a concezioni della vita buona e della libertà sostanziale delle persone di perseguirla. Una macchina non potrà mai riprodurre il senso collettivo del “noi”, al massimo approssimarlo come sintassi di una somma di “io”. Una macchina non può immaginarsi un futuro più giusto dove gli androidi non sognano pecore elettriche. Il genio di Philip K. Dick è stato quello di immaginare la possibilità di oltrepassare questa soglia di specie. ciao Filippo Il giorno sab 18 mar 2023 alle ore 08:10 Guido Vetere < vetere.guido(a)gmail.com> ha scritto: > > Il segno non esiste come informazione astratta, ma fa parte di un > /processo interpretativo/ che è prettamente _umano_. > > La caratterizzazione di questo "processo interpretativo" è il grande > mistero filosofico che prende il nome di "teoria del significato". Dire che > questo processo possa avvenire solo all'interno di organismi umani > consociati, in una teoria del significato, si può dire solo in modo > assiomatico. Un teorema che giunga a questa conclusione, in una teoria > semiotica comunemente accettata, nessuno ce l'ha, che io sappia. > Peirce (che peraltro parla di linguaggio in modo molto marginale) non > avrebbe avuto difficoltà - credo - a dire che le sue ipotesi interpretative > (abduzioni) potessero avvenire negli ingranaggi di un automa. > C'è poi pure Wittgenstein che ha detto che comprendere una frase è come > comprendere una melodia, cioè restando sul piano dell'espressione. Certo, > non avrebbe - credo - mai sottoscritto la dissoluzione della semantica in > pura combinatoria che avviene nei modelli neurali, però insomma questo è > per dire che le vie del segno sono molte e molto tortuose, e la questione > della capacità linguistica delle macchine di oggi non si può liquidare con > una petizione di principio. > > Buona domenica, > Guido > > > On Fri, 17 Mar 2023 at 13:19, Alberto Cammozzo via nexa < > nexa(a)server-nexa.polito.it> wrote: > >> Caro Enrico, >> >> anche io condivido la formulazione molto concisa ed efficace, in >> particolare il fatto che proiettiamo noi ciò (il significato) che la >> macchina non possiede. >> >> Aggiungo una precisazione sul piano semiotico e sulle conseguenze >> politiche di questo nefasto inganno. >> >> Accettata la competenza sintattica e certamente quella lessicale, >> possiamo anche ammettere che la competenza emulativa della macchina possa >> sconfinare nella semantica, cioè che la macchina scelga termini all'interno >> di un campo semantico in modo appropriato; ma quello che rende la macchina >> completamente diversa dall'umano non è a mio avviso quel gradino della >> scala semiotica, ma quello successivo, la pragmatica. E questo ha delle >> conseguenze. >> >> Il segno non esiste come informazione astratta, ma fa parte di un >> /processo interpretativo/ che è prettamente _umano_. Stiamo parlando di >> cose che gli uomini _fanno_ nella loro vita sociale nel mondo. >> >> La semiotica di Saussure distingue tra significato e significante, ma >> quella di Peirce aggiunge il referente, cioè ciò a cui nel mondo il segno >> si riferisce. Se Saussure dice 'gatto' parla del _segno_ /gatto/ e >> dell'immagine mentale del felino, cioè la rappresentazione psichica della >> cosa. Per Peirce il referente è l'esistenza dell'animale che chiamiamo >> /gatto/ nel mondo del quale abbiamo fatto tutti esperienza. Nel caso >> dell'unicorno, esso vive in un mondo immaginale, ma altrettanto condiviso >> nella pratica letteraria; mondo nel quale, ad esempio, nessun unicorno don >> due corni è ammesso. L'associazione del suono e della rappresentazione è in >> ogni caso il frutto di un "tirocinio collettivo". >> >> La macchina che emula la lingua calcola in modo verosimile la >> distribuzione di probabilità dei significanti all'interno degli scritti che >> produce, ed in questo modo induce l'umano a cogliere un significato >> semanticamente appropriato perché lessicalmente corretto. Ma il punto è che >> se anche la macchina può imbroccare alcuni significati (pur senza >> possederne una immagine mentale), non è in grado di considerare in nessun >> modo il mondo dei referenti, che invece è proprio quello a partire dal >> quale l'umano _conosce_ il mondo, cioè lo sperimenta. >> >> La macchina non conosce, non apprende, non sa nulla di nulla se non la >> distribuzione probabilistica dei significanti, perché (1) non vive nel >> mondo a cui questi si riferiscono, (2) non possiede una mente che ospiti >> concetti. Non abita né il mondo dei referenti, quello in cui i gatti >> graffiano, né quello dei significati, in cui 'gatto' è un concetto con una >> sua infinita ricchezza polisemica, ma solo quello dei significanti e delle >> loro probabilità. >> >> Ma allora cosa fanno queste macchine linguistiche? Usando un _simulacro_ >> della lingua, operano "una sostituzione di ogni processo reale col suo >> doppio operativo, che però offre tutti i segni del reale" (Baudrillard). >> Sono un simulacro, un doppio mimetico completamente disfunzionale che però >> è a disposizione di chi lo controlla e dei suoi interessi. >> >> Dobbiamo ricordare che la lingua è plastica, viene cioè formata dai >> parlanti (o scriventi): l'atto della /parole/ degli individui parlanti fa >> evolvere o stabilizza la convenzione della lingua. La lingua adottata dal >> corpo sociale è plasmata dalle scelte linguistiche di chi la usa. Scelte >> spesso controverse, come sappiamo da polemiche recenti e remote (dall'uso >> del 'lei'/'voi' al genere). >> >> Ma non solo, la lingua è ciò con cui formiamo e scambiamo i concetti coi >> quali rappresentiamo il mondo. E' lo strumento col quale pensiamo e >> descriviamo il mondo, e siamo /obbligati/ a pensarlo e descriverlo con la >> lingua che abbiamo a disposizione, se vogliamo pensare ed essere capiti. >> >> Per cui, cosa succede ammettendo questi simulacri, che possono essere >> pilotati, nel processo di produzione della lingua? Banalmente, alcuni >> termini o usi linguistici possono essere censurati, banditi, o al contrario >> promossi, come avviene coi motori di ricerca, in cambio di denaro, a chi lo >> chiede. >> >> Plasmare la lingua è sempre stato un potere usato dagli Stati, ora è un >> processo industriale privatizzato alla portata del miglior offerente. >> >> Ciao, >> >> Alberto >> >> >> On 17/03/23 10:26, Enrico Nardelli wrote: >> >> Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione >> pratica dell'esperimento mentale della Stanza Cinese di John Searle ( >> https://it.wikipedia.org/wiki/Stanza_cinese >> >> Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri >> umani sul livello sintattico ma è lontana anni luce dalla nostra competenza >> semantica. Essa non ha alcuna reale comprensione del significato di ciò che >> sta facendo. >> >> Purtroppo (e questo è un problema nostro di grande rilevanza sul piano >> sociale) poiché ciò che fa lo esprime in una forma che per noi ha >> significato, proiettiamo su di essa il significato che è in noi. >> >> Ciao, Enrico >> -- >> >> -- EN >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://www.mat.uniroma2.it/~nardelli >> blog: https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> -- >> >> _______________________________________________ >> nexa mailing listnexa@server-nexa.polito.ithttps://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- https://unito.webex.com/meet/filippo.barbera New!!! My new book The Foundational Economy and Citizenship <https://policy.bristoluniversitypress.co.uk/the-foundational-economy-and-ci…> is out now and available at 20% discount when you order from Policy Press <https://policy.bristoluniversitypress.co.uk/the-foundational-economy-and-ci…> . *Useful Links* Book page: https://policy.bristoluniversitypress.co.uk/the-foundational-economy-and-ci… To order your book on e-inspection: http://policypress.einspections.eb20.com/Requests/Step1/9781447353393 Filippo Barbera, PhD Professor of Economic Sociology, Department of Cultures, Politics & Society, Univ.of Torino, Campus Einaudi Fellow, Collegio Carlo Alberto Honorary Visiting Professor, Cardiff University Member, Forum Diseguaglianze e diversità email: filippo.barbera(a)unito.it twitter: @FilBarbera Skype: filippo.barbera_to

March 18, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Guido Vetere

> Il segno non esiste come informazione astratta, ma fa parte di un /processo interpretativo/ che è prettamente _umano_. La caratterizzazione di questo "processo interpretativo" è il grande mistero filosofico che prende il nome di "teoria del significato". Dire che questo processo possa avvenire solo all'interno di organismi umani consociati, in una teoria del significato, si può dire solo in modo assiomatico. Un teorema che giunga a questa conclusione, in una teoria semiotica comunemente accettata, nessuno ce l'ha, che io sappia. Peirce (che peraltro parla di linguaggio in modo molto marginale) non avrebbe avuto difficoltà - credo - a dire che le sue ipotesi interpretative (abduzioni) potessero avvenire negli ingranaggi di un automa. C'è poi pure Wittgenstein che ha detto che comprendere una frase è come comprendere una melodia, cioè restando sul piano dell'espressione. Certo, non avrebbe - credo - mai sottoscritto la dissoluzione della semantica in pura combinatoria che avviene nei modelli neurali, però insomma questo è per dire che le vie del segno sono molte e molto tortuose, e la questione della capacità linguistica delle macchine di oggi non si può liquidare con una petizione di principio. Buona domenica, Guido On Fri, 17 Mar 2023 at 13:19, Alberto Cammozzo via nexa < nexa(a)server-nexa.polito.it> wrote: > Caro Enrico, > > anche io condivido la formulazione molto concisa ed efficace, in > particolare il fatto che proiettiamo noi ciò (il significato) che la > macchina non possiede. > > Aggiungo una precisazione sul piano semiotico e sulle conseguenze > politiche di questo nefasto inganno. > > Accettata la competenza sintattica e certamente quella lessicale, possiamo > anche ammettere che la competenza emulativa della macchina possa sconfinare > nella semantica, cioè che la macchina scelga termini all'interno di un > campo semantico in modo appropriato; ma quello che rende la macchina > completamente diversa dall'umano non è a mio avviso quel gradino della > scala semiotica, ma quello successivo, la pragmatica. E questo ha delle > conseguenze. > > Il segno non esiste come informazione astratta, ma fa parte di un > /processo interpretativo/ che è prettamente _umano_. Stiamo parlando di > cose che gli uomini _fanno_ nella loro vita sociale nel mondo. > > La semiotica di Saussure distingue tra significato e significante, ma > quella di Peirce aggiunge il referente, cioè ciò a cui nel mondo il segno > si riferisce. Se Saussure dice 'gatto' parla del _segno_ /gatto/ e > dell'immagine mentale del felino, cioè la rappresentazione psichica della > cosa. Per Peirce il referente è l'esistenza dell'animale che chiamiamo > /gatto/ nel mondo del quale abbiamo fatto tutti esperienza. Nel caso > dell'unicorno, esso vive in un mondo immaginale, ma altrettanto condiviso > nella pratica letteraria; mondo nel quale, ad esempio, nessun unicorno don > due corni è ammesso. L'associazione del suono e della rappresentazione è in > ogni caso il frutto di un "tirocinio collettivo". > > La macchina che emula la lingua calcola in modo verosimile la > distribuzione di probabilità dei significanti all'interno degli scritti che > produce, ed in questo modo induce l'umano a cogliere un significato > semanticamente appropriato perché lessicalmente corretto. Ma il punto è che > se anche la macchina può imbroccare alcuni significati (pur senza > possederne una immagine mentale), non è in grado di considerare in nessun > modo il mondo dei referenti, che invece è proprio quello a partire dal > quale l'umano _conosce_ il mondo, cioè lo sperimenta. > > La macchina non conosce, non apprende, non sa nulla di nulla se non la > distribuzione probabilistica dei significanti, perché (1) non vive nel > mondo a cui questi si riferiscono, (2) non possiede una mente che ospiti > concetti. Non abita né il mondo dei referenti, quello in cui i gatti > graffiano, né quello dei significati, in cui 'gatto' è un concetto con una > sua infinita ricchezza polisemica, ma solo quello dei significanti e delle > loro probabilità. > > Ma allora cosa fanno queste macchine linguistiche? Usando un _simulacro_ > della lingua, operano "una sostituzione di ogni processo reale col suo > doppio operativo, che però offre tutti i segni del reale" (Baudrillard). > Sono un simulacro, un doppio mimetico completamente disfunzionale che però > è a disposizione di chi lo controlla e dei suoi interessi. > > Dobbiamo ricordare che la lingua è plastica, viene cioè formata dai > parlanti (o scriventi): l'atto della /parole/ degli individui parlanti fa > evolvere o stabilizza la convenzione della lingua. La lingua adottata dal > corpo sociale è plasmata dalle scelte linguistiche di chi la usa. Scelte > spesso controverse, come sappiamo da polemiche recenti e remote (dall'uso > del 'lei'/'voi' al genere). > > Ma non solo, la lingua è ciò con cui formiamo e scambiamo i concetti coi > quali rappresentiamo il mondo. E' lo strumento col quale pensiamo e > descriviamo il mondo, e siamo /obbligati/ a pensarlo e descriverlo con la > lingua che abbiamo a disposizione, se vogliamo pensare ed essere capiti. > > Per cui, cosa succede ammettendo questi simulacri, che possono essere > pilotati, nel processo di produzione della lingua? Banalmente, alcuni > termini o usi linguistici possono essere censurati, banditi, o al contrario > promossi, come avviene coi motori di ricerca, in cambio di denaro, a chi lo > chiede. > > Plasmare la lingua è sempre stato un potere usato dagli Stati, ora è un > processo industriale privatizzato alla portata del miglior offerente. > > Ciao, > > Alberto > > > On 17/03/23 10:26, Enrico Nardelli wrote: > > Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione > pratica dell'esperimento mentale della Stanza Cinese di John Searle ( > https://it.wikipedia.org/wiki/Stanza_cinese > > Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani > sul livello sintattico ma è lontana anni luce dalla nostra competenza > semantica. Essa non ha alcuna reale comprensione del significato di ciò che > sta facendo. > > Purtroppo (e questo è un problema nostro di grande rilevanza sul piano > sociale) poiché ciò che fa lo esprime in una forma che per noi ha > significato, proiettiamo su di essa il significato che è in noi. > > Ciao, Enrico > -- > > -- EN > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > -- > > _______________________________________________ > nexa mailing listnexa@server-nexa.polito.ithttps://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 18, 2023

Re: [nexa] GTP-4 passa l'esame da avvocato

by Giacomo Tesio

Fino a pochi anni fa (e non credo la cosa sia cambiata) l'esame di stato per l'ingresso all'Ordine dei Medici e l'abilitazione all'esercizio della professione consisteva in una lunga lista di domande a risposta chiusa estratte da un database noto a priori. Su tale database, ad alcune domande è stata segnata come giusta una risposta sbagliata. I candidati lo sanno e molti imparano coscientemente a memoria la risposta sbagliata. Con una frazione infinitesimale del budget e dell'energia spesa per realizzare GPT-4 chiunque può realizzare un software che peschi dal database la risponsta e la segni. Quel software passerebbe l'esame di stato dell'ordine dei medici senza poter in alcun modo curare un paziente. Nessuna AI, solo una select SQL. Il fatto che una macchina superi una verifica pensata per esseri umani dimostra solo che il test era inadeguato. Giacomo Il 15 Marzo 2023 20:25:44 UTC, Guido Noto La Diega <noto.la.diega(a)gmail.com> ha scritto: >"In this paper, we experimentally evaluate the zero-shot performance of a preliminary version of GPT-4 against prior generations of GPT on the entire Uniform Bar Examination (UBE), including not only the multiple-choice Multistate Bar Examination (MBE), but also the open-ended Multistate Essay Exam (MEE) and Multistate Performance Test (MPT) components. On the MBE, GPT-4 significantly outperforms both human test-takers and prior models, demonstrating a 26% increase over ChatGPT and beating humans in five of seven subject areas. On the MEE and MPT, which have not previously been evaluated by scholars, GPT-4 scores an average of 4.2/6.0 as compared to much lower scores for ChatGPT. Graded across the UBE components, in the manner in which a human tast-taker would be, GPT-4 scores approximately 297 points, significantly in excess of the passing threshold for all UBE jurisdictions. These findings document not just the rapid and remarkable advance of large language model performance generally, but also the potential for such models to support the delivery of legal services in society." >https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4389233 > >Sent from Outlook for Android<https://aka.ms/AAb9ysg>

March 18, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Alberto Cammozzo

Caro Enrico, anche io condivido la formulazione molto concisa ed efficace, in particolare il fatto che proiettiamo noi ciò (il significato) che la macchina non possiede. Aggiungo una precisazione sul piano semiotico e sulle conseguenze politiche di questo nefasto inganno. Accettata la competenza sintattica e certamente quella lessicale, possiamo anche ammettere che la competenza emulativa della macchina possa sconfinare nella semantica, cioè che la macchina scelga termini all'interno di un campo semantico in modo appropriato; ma quello che rende la macchina completamente diversa dall'umano non è a mio avviso quel gradino della scala semiotica, ma quello successivo, la pragmatica. E questo ha delle conseguenze. Il segno non esiste come informazione astratta, ma fa parte di un /processo interpretativo/ che è prettamente _umano_. Stiamo parlando di cose che gli uomini _fanno_ nella loro vita sociale nel mondo. La semiotica di Saussure distingue tra significato e significante, ma quella di Peirce aggiunge il referente, cioè ciò a cui nel mondo il segno si riferisce. Se Saussure dice 'gatto' parla del _segno_ /gatto/ e dell'immagine mentale del felino, cioè la rappresentazione psichica della cosa. Per Peirce il referente è l'esistenza dell'animale che chiamiamo /gatto/ nel mondo del quale abbiamo fatto tutti esperienza. Nel caso dell'unicorno, esso vive in un mondo immaginale, ma altrettanto condiviso nella pratica letteraria; mondo nel quale, ad esempio, nessun unicorno don due corni è ammesso. L'associazione del suono e della rappresentazione è in ogni caso il frutto di un "tirocinio collettivo". La macchina che emula la lingua calcola in modo verosimile la distribuzione di probabilità dei significanti all'interno degli scritti che produce, ed in questo modo induce l'umano a cogliere un significato semanticamente appropriato perché lessicalmente corretto. Ma il punto è che se anche la macchina può imbroccare alcuni significati (pur senza possederne una immagine mentale), non è in grado di considerare in nessun modo il mondo dei referenti, che invece è proprio quello a partire dal quale l'umano _conosce_ il mondo, cioè lo sperimenta. La macchina non conosce, non apprende, non sa nulla di nulla se non la distribuzione probabilistica dei significanti, perché (1) non vive nel mondo a cui questi si riferiscono, (2) non possiede una mente che ospiti concetti. Non abita né il mondo dei referenti, quello in cui i gatti graffiano, né quello dei significati, in cui 'gatto' è un concetto con una sua infinita ricchezza polisemica, ma solo quello dei significanti e delle loro probabilità. Ma allora cosa fanno queste macchine linguistiche? Usando un _simulacro_ della lingua, operano "una sostituzione di ogni processo reale col suo doppio operativo, che però offre tutti i segni del reale" (Baudrillard). Sono un simulacro, un doppio mimetico completamente disfunzionale che però è a disposizione di chi lo controlla e dei suoi interessi. Dobbiamo ricordare che la lingua è plastica, viene cioè formata dai parlanti (o scriventi): l'atto della /parole/ degli individui parlanti fa evolvere o stabilizza la convenzione della lingua. La lingua adottata dal corpo sociale è plasmata dalle scelte linguistiche di chi la usa. Scelte spesso controverse, come sappiamo da polemiche recenti e remote (dall'uso del 'lei'/'voi' al genere). Ma non solo, la lingua è ciò con cui formiamo e scambiamo i concetti coi quali rappresentiamo il mondo. E' lo strumento col quale pensiamo e descriviamo il mondo, e siamo /obbligati/ a pensarlo e descriverlo con la lingua che abbiamo a disposizione, se vogliamo pensare ed essere capiti. Per cui, cosa succede ammettendo questi simulacri, che possono essere pilotati, nel processo di produzione della lingua? Banalmente, alcuni termini o usi linguistici possono essere censurati, banditi, o al contrario promossi, come avviene coi motori di ricerca, in cambio di denaro, a chi lo chiede. Plasmare la lingua è sempre stato un potere usato dagli Stati, ora è un processo industriale privatizzato alla portata del miglior offerente. Ciao, Alberto On 17/03/23 10:26, Enrico Nardelli wrote: > > Mi è venuto in mente che ciò che fa ChatGPT è una sorta di > realizzazione pratica dell'esperimento mentale della Stanza Cinese di > John Searle (https://it.wikipedia.org/wiki/Stanza_cinese > > Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri > umani sul livello sintattico ma è lontana anni luce dalla nostra > competenza semantica. Essa non ha alcuna reale comprensione del > significato di ciò che sta facendo. > > Purtroppo (e questo è un problema nostro di grande rilevanza sul piano > sociale) poiché ciò che fa lo esprime in una forma che per noi ha > significato, proiettiamo su di essa il significato che è in noi. > > Ciao, Enrico > > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > -- > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 17, 2023