March 2023 - nexa - server-nexa.polito.it

"GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models"

by J.C. DE MARTIN

[Submitted on 17 Mar 2023] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models Tyna Eloundou <https://arxiv.org/search/econ?searchtype=author&query=Eloundou%2C+T>, Sam Manning <https://arxiv.org/search/econ?searchtype=author&query=Manning%2C+S>, Pamela Mishkin <https://arxiv.org/search/econ?searchtype=author&query=Mishkin%2C+P>, Daniel Rock <https://arxiv.org/search/econ?searchtype=author&query=Rock%2C+D> We investigate the potential implications of Generative Pre-trained Transformer (GPT) models and related technologies on the U.S. labor market. Using a new rubric, we assess occupations based on their correspondence with GPT capabilities, incorporating both human expertise and classifications from GPT-4. Our findings indicate that approximately 80% of the U.S. workforce could have at least 10% of their work tasks affected by the introduction of GPTs, while around 19% of workers may see at least 50% of their tasks impacted. The influence spans all wage levels, with higher-income jobs potentially facing greater exposure. Notably, the impact is not limited to industries with higher recent productivity growth. We conclude that Generative Pre-trained Transformers exhibit characteristics of general-purpose technologies (GPTs), suggesting that as these models could have notable economic, social, and policy implications. Subjects: General Economics (econ.GN); Artificial Intelligence (cs.AI); Computers and Society (cs.CY) Cite as: arXiv:2303.10130 <https://arxiv.org/abs/2303.10130> [econ.GN] (or arXiv:2303.10130v1 <https://arxiv.org/abs/2303.10130v1> [econ.GN] for this version) https://doi.org/10.48550/arXiv.2303.10130

March 20, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Guido Vetere

Da quando è nata, nell'IA si confrontano due approcci profondamente diversi: quello connessionista, nato col 'percettrone' di Rosenblat, e quello rappresentazionale, legato alla logica (e oggi si dice) all'ontologia, che fece esordio coi 'frames' di Minsky. Mentre quest'ultimo si propone come ipotesi, cioè dispositivo puramente teoretico, il primo approccio ha in genere ambizioni realistiche, cioè si propone come mimesi effettiva della cognitività umana. Dovremmo a mio avviso prestare attenzione a questa distinzione. Oggi si mostra come i sistemi basati su LLM, derivanti dalla tradizione connessionista, sono sostanzialmente incapaci di ragionamento, e questo ripete, su una scala diversa, la classica dimostrazione di Minsky sulla incapacità dei percettroni di apprendere l'aritmetica. Ma non credo che i LLM, benché privi di corpo, emozioni e desideri, siano costituzionalmente incapaci di costruire al loro interno il corrispettivo di modelli concettuali del tipo di Cyc o Yago, o perfino qualcosa di molto più ampio e accurato, e di arrivare ad esempio a risolvere ragionamenti di senso comune come quelli del Winograd schema challenge. Basare la nostra riflessione, oggi, su questa presunta incapacità sarebbe fuorviante e pericoloso. Mettiamoci invece nell'ordine di idee che queste capacità siano alla portata degli automi del domani. Come rapportarci con questa 'specie aliena' che noi stessi stiamo popolando? L'approccio repressivo (regole, limiti, ecc) può avere successo? Non ci vengono idee migliori? G. On Mon, 20 Mar 2023 at 11:33, Alberto Cammozzo via nexa < nexa(a)server-nexa.polito.it> wrote: > Caro Giacomo, > > grazie per la tua articolata risposta. Per motivi di spazio e per restare > in tema rispondo solo alla tua osservazione che "sostenere che le AI non > siano intelligenti perché non dotate di corpo è ingenuo". > > Il corpo è _condizione necessaria_ ma non _sufficiente_ per una qualsiasi > interazione "intelligente" che non sia solo un simulacro: chiaramente serve > poi molto altro. > > Il fatto è ben chiaro a chi ci lavora: > > [...] a significant weakness of language models is that they lack > real-world experience, which makes it difficult to leverage them for > decision making within a given embodiment. > <https://arxiv.org/pdf/2204.01691.pdf> > > Tanto che il problema del 'grounding' dei modelli linguistici nel mondo > viene affrontato esplicitamente attraverso la *incorporazione*: > > However, a limitation of such models for inference in the real world is > the issue of grounding: while training LLMs on massive textual data may > lead to representations that relate to our physical world, connecting those > representations to real-world visual and physical sensor modalities is > essential to solving a wider range of grounded real-world problems in > computer vision and robotics > > [...] > > We propose embodied language models to directly incorporate real-world > continuous sensor modalities into language models and thereby establish > the link between words and percepts. > <https://palm-e.github.io/> <https://palm-e.github.io/> > > Attraverso l'approccio 'embodied' vengono realizzate macchine che > rispondono con una azione corporea a uno stimolo verbale e che cercano di > integrare informazioni linguistiche, sensoriali e motorie in modo che il > prodotto di queste informazioni fornisca un comportamento complesso non > ottenibile altrimenti. > > LLMs planning in embodied environments need to consider not just what > skills to do, but also how and when to do them - answers that change over > time in response to the agent’s own choices. In this work, we investigate > to what extent LLMs used in such embodied contexts can reason over sources > of feedback provided through natural language, without any additional > training. We propose that by leveraging environment feedback, LLMs are able > to form an inner monologue that allows them to more richly process and plan > in robotic control scenarios. We investigate a variety of sources of > feedback, such as success detection, object recognition, scene description, > and human interaction. > <https://innermonologue.github.io/> > > In questi esperimenti la macchina condivide uno stesso mondo spaziale e > percettivo con l'umano: "portami il giornale" farà si che la macchina (se > capisce e agisce correttamente) porti il giornale; se lo facesse un cane lo > definiremmo "intelligente". > > Non si tratta semplicemente di integrare algoritmi di visione e mobilità > con quelli linguistici, ma di cercare _caratteristiche emergenti_ che > nascano dalle interazioni di questi diversi elementi. > > Al di là di ciò che vogliamo definire come 'intelligente' o meno (per chi, > per quale contesto, poi?), non possiamo escludere che da queste interazioni > "incorporate" possano emergere comportamenti complessi ben diversi da > quelli puramente emulativi di un LLM che non ha alcuna esperienza del mondo. > > Se anche avessero successo, esperimenti di questo tipo aprono altri ordini > di problemi: la macchina potrebbe distinguere "portami il giornale" da > "portami la pistola"? Anche un cane molto intelligente non saprebbe farlo. > > Ciao, Alberto > > > > On 3/19/23 16:55, Giacomo Tesio wrote: > > Salve Guido, Alberto e Nexa... buona domenica! > > Sarà perché sono solo un informatico, ma io la faccio più semplice. > > > On Sat, 18 Mar 2023 08:10:04 +0100 Guido Vetere wrote: > > > Il segno non esiste come informazione astratta, ma fa parte di un > /processo interpretativo/ che è prettamente _umano_. > > La caratterizzazione di questo "processo interpretativo" è il grande > mistero filosofico che prende il nome di "teoria del significato". > Dire che questo processo possa avvenire solo all'interno di organismi > umani consociati, in una teoria del significato, si può dire solo in > modo assiomatico. Un teorema che giunga a questa conclusione, in una > teoria semiotica comunemente accettata, nessuno ce l'ha, che io > sappia. > > La consistenza della conoscenza umana è indecidibile (per l'uomo). > Cercare di dimostrare matematicamente che il processo interpretativo > tipico della mente umana possa avvenire solo nella mente umana è > futile, per una mente umana. > Vedi teoremi di incompletezza di Gödel. > > > Più semplicemente possiamo definire l'informazione come l'esperienza > soggettiva di pensiero comunicabile che una mente umana (ciascuno di > noi) può percepire in sé stessa, durante il proprio pensare. > La mente è l'insieme delle informazioni acquisite, che determinano > (insieme ad alcuni aspetti evolutivamente determinati) come ogni > informazione viene elaborata. > > > L'informazione è un fenomeno soggettivo con effetti oggettivi. > L'informazione esiste esclusivamente in una mente umana, effetto > collaterale del vantaggio evolutivo che il linguaggio ha fornito > ad una specie fragile come la nostra. > > L'esigenza di una comunità (e dunque di comunicazione e comunione) > nasce dal bisogno di regolare l'accesso, la produzione e la protezione > di beni in comune, come la prole o le riserve di cibo. > > Così abbiamo dovuto sviluppare un linguaggio sufficientemente > preciso da permetterci di comunicare efficientemente le esperienze > soggettive che avvenivano nella nostra mente e abbiamo selezionato via > via nel corso dei millenni, una specie capace di esperienze soggettive > di pensiero comunicabile astratte rispetto alle esperienze quotidiane. > > Il numero, la retta, la legge, la termodinamica, la relatività come la > meccanica quantistica e oggi l'informatica. > > Non possiamo sapere (e io mi sentirei di escludere) se ciascuno di noi > condivide la stessa immagine mentale del punto, dello zero o del gatto. > Tuttavia possiamo condividere definizioni ed esperienze tramite > il linguaggio, costruendo una cultura condivisa che è la ragion > d'essere della comunicazione stessa. > > > Dunque non ci sarebbe comunicazione, linguaggio, informazione o > significato se non ci fosse un "noi" a cui tutti abbiamo bisogno di > fare riferimento per sopravvivere. > > E' fantastico quanto paradossale che una specie debole e fragile come > la nostra abbia tratto un vantaggio evolutivo formidabile dall'affidare > il 20% delle energie consumate dal proprio corpo ad un organo che > ne costituisce meno del 4% del peso. > Un organo che non fornisce alcun contributo sostanziale alla > sopravvivenza di un individuo se non all'interno di una comunità. > > Rimane infatti inspiegabile finché che ci concentriamo sull'individuo. > > Ma nonappena alziamo gli occhi dall'IO e pensiamo a NOI, quel 20% > di energie spese dal nostro cervello diventa assolutamente efficiente. > > Per quanto ce la conti la propaganda liberista, non siamo solo > individui: l'essere umano è davvero un animale sociale. > > Grazie al linguaggio infatti, abbiamo imparato a costruire menti > collettive molto più potenti di ogni singola mente umana, capaci di > elaborare informazioni ed esperienze che riusciamo a SINCRONIZZARE fra > le NOSTRE menti, sebbene non escano il alcun modo dalla testa di > ciascuno di noi. > > > Voi non state vedendo le informazioni nella mia mente: state leggendo > rappresentazioni, dati, che interpreterete alla luce delle esperienze > soggettive di pensiero comunicabile già parte della vostra mente. > > Eppure leggendo cosa ciascuno di NOI scrive in questa lista, > costruiamo una cultura condivisa, sincronizzando alcune informazioni > fra le nostre menti. > > > > Le rappresentazioni dell'informazione, fenomeno soggettivo, che > comunemente chiamiamo "dati" perché possiamo darle a chi vogliamo, sono > il sorgente utilizzato per programmare statisticamente LLM ed altre > macchine virtuali, ma non costituiscono informazioni, perché non c'è > una mente umana ad averne esperienza soggettiva. > > > > Non sarebbe informazione nemmeno se a questi software programmati > statisticamente connettessimo sensori che gli permettano di recuperare > informazioni localizzate nello spazio e nel tempo, Alberto. > > Le "AI" di Google sono costantemente connesse a decine di miliardi di > sensori, molti dei quali ce li portiamo in tasca o aspettano in agguato > su siti web (Google Analytics) o dietro caselle di posta apparentemente > innocue (GMail quando usato per domini diversi da gmail.com) > Questi sensori registrano terabyte di dati geolocalizzati e > temporizzati ogni giorno su miliardi di cose, animali e persone. > > Eppure non sono (intrinsecamente) intelligenti. > > > Dunque sostenere che le AI non siano intelligenti perché non dotate > di corpo è ingenuo. > > Un corpo fragile e debole è certamente utilissimo a sviluppare una > specie capace di intelligenza, ma non è la ragione per cui siamo > intelligenti. > > Siamo intelligenti perché abbiamo bisogno di stare insieme. > Siamo intelligenti perché abbiamo bisogno di mettere in comune risorse > e regole per proteggerle durante il loro utilizzo. > Siamo intelligenti perché (e fintanto che) siamo parte di comunità. > > > Giacomo > > PS: Va però osservato anche che le "AI" di Google non sono che una parte > del controllore dell'agente cibernetico Google. > > Oltre alle "AI", vi sono decine di migliaia di menti umane che lavorano > per Google (esplicitamente o meno) e che governano Google (CdA etc..). > > Dunque sebbene le "AI" di Google non siano intelligenti, lo è certamente > Google nel suo complesso, come agente cibernetico a sé stante. > > Ed in questo senso forse non dovremmo aspettare che un AGI > super-intelligente cerchi di prendere il sopravvento sull'umanità. > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 20, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Alberto Cammozzo

Caro Giacomo, grazie per la tua articolata risposta. Per motivi di spazio e per restare in tema rispondo solo alla tua osservazione che "sostenere che le AI non siano intelligenti perché non dotate di corpo è ingenuo". Il corpo è _condizione necessaria_ ma non _sufficiente_ per una qualsiasi interazione "intelligente" che non sia solo un simulacro: chiaramente serve poi molto altro. Il fatto è ben chiaro a chi ci lavora: [...] a significant weakness of language models is that they lack real-world experience, which makes it difficult to leverage them for decision making within a given embodiment. <https://arxiv.org/pdf/2204.01691.pdf> Tanto che il problema del 'grounding' dei modelli linguistici nel mondo viene affrontato esplicitamente attraverso la *incorporazione*: However, a limitation of such models for inference in the real world is the issue of grounding: while training LLMs on massive textual data may lead to representations that relate to our physical world, connectingthose representationstoreal-world visual and physical sensor modalities is essential to solving a wider range ofgroundedreal-world problems in computer vision and robotics [...] We propose embodied language models to directly incorporate real-world continuous sensor modalities into language models and thereby establish the link between words and percepts. <https://palm-e.github.io/> Attraverso l'approccio 'embodied' vengono realizzate macchine che rispondono con una azione corporea a uno stimolo verbale e che cercano di integrare informazioni linguistiche, sensoriali e motorie in modo che il prodotto di queste informazioni fornisca un comportamento complesso non ottenibile altrimenti. LLMs planning in embodied environments need to consider not just what skills to do, but also how and when to do them - answers that change over time in response to the agent’s own choices. In this work, we investigate to what extent LLMs used in such embodied contexts can reason over sources of feedback provided through natural language, without any additional training. We propose that by leveraging environment feedback, LLMs are able to form an inner monologue that allows them to more richly process and plan in robotic control scenarios. We investigate a variety of sources of feedback, such as success detection, object recognition, scene description, and human interaction. <https://innermonologue.github.io/> In questi esperimenti la macchina condivide uno stesso mondo spaziale e percettivo con l'umano: "portami il giornale" farà si che la macchina (se capisce e agisce correttamente) porti il giornale; se lo facesse un cane lo definiremmo "intelligente". Non si tratta semplicemente di integrare algoritmi di visione e mobilità con quelli linguistici, ma di cercare _caratteristiche emergenti_ che nascano dalle interazioni di questi diversi elementi. Al di là di ciò che vogliamo definire come 'intelligente' o meno (per chi, per quale contesto, poi?), non possiamo escludere che da queste interazioni "incorporate" possano emergere comportamenti complessi ben diversi da quelli puramente emulativi di un LLM che non ha alcuna esperienza del mondo. Se anche avessero successo, esperimenti di questo tipo aprono altri ordini di problemi: la macchina potrebbe distinguere "portami il giornale" da "portami la pistola"? Anche un cane molto intelligente non saprebbe farlo. Ciao, Alberto On 3/19/23 16:55, Giacomo Tesio wrote: > Salve Guido, Alberto e Nexa... buona domenica! > > Sarà perché sono solo un informatico, ma io la faccio più semplice. > > > On Sat, 18 Mar 2023 08:10:04 +0100 Guido Vetere wrote: > >>> Il segno non esiste come informazione astratta, ma fa parte di un >>> /processo interpretativo/ che è prettamente _umano_. >> La caratterizzazione di questo "processo interpretativo" è il grande >> mistero filosofico che prende il nome di "teoria del significato". >> Dire che questo processo possa avvenire solo all'interno di organismi >> umani consociati, in una teoria del significato, si può dire solo in >> modo assiomatico. Un teorema che giunga a questa conclusione, in una >> teoria semiotica comunemente accettata, nessuno ce l'ha, che io >> sappia. > La consistenza della conoscenza umana è indecidibile (per l'uomo). > Cercare di dimostrare matematicamente che il processo interpretativo > tipico della mente umana possa avvenire solo nella mente umana è > futile, per una mente umana. > Vedi teoremi di incompletezza di Gödel. > > > Più semplicemente possiamo definire l'informazione come l'esperienza > soggettiva di pensiero comunicabile che una mente umana (ciascuno di > noi) può percepire in sé stessa, durante il proprio pensare. > La mente è l'insieme delle informazioni acquisite, che determinano > (insieme ad alcuni aspetti evolutivamente determinati) come ogni > informazione viene elaborata. > > > L'informazione è un fenomeno soggettivo con effetti oggettivi. > L'informazione esiste esclusivamente in una mente umana, effetto > collaterale del vantaggio evolutivo che il linguaggio ha fornito > ad una specie fragile come la nostra. > > L'esigenza di una comunità (e dunque di comunicazione e comunione) > nasce dal bisogno di regolare l'accesso, la produzione e la protezione > di beni in comune, come la prole o le riserve di cibo. > > Così abbiamo dovuto sviluppare un linguaggio sufficientemente > preciso da permetterci di comunicare efficientemente le esperienze > soggettive che avvenivano nella nostra mente e abbiamo selezionato via > via nel corso dei millenni, una specie capace di esperienze soggettive > di pensiero comunicabile astratte rispetto alle esperienze quotidiane. > > Il numero, la retta, la legge, la termodinamica, la relatività come la > meccanica quantistica e oggi l'informatica. > > Non possiamo sapere (e io mi sentirei di escludere) se ciascuno di noi > condivide la stessa immagine mentale del punto, dello zero o del gatto. > Tuttavia possiamo condividere definizioni ed esperienze tramite > il linguaggio, costruendo una cultura condivisa che è la ragion > d'essere della comunicazione stessa. > > > Dunque non ci sarebbe comunicazione, linguaggio, informazione o > significato se non ci fosse un "noi" a cui tutti abbiamo bisogno di > fare riferimento per sopravvivere. > > E' fantastico quanto paradossale che una specie debole e fragile come > la nostra abbia tratto un vantaggio evolutivo formidabile dall'affidare > il 20% delle energie consumate dal proprio corpo ad un organo che > ne costituisce meno del 4% del peso. > Un organo che non fornisce alcun contributo sostanziale alla > sopravvivenza di un individuo se non all'interno di una comunità. > > Rimane infatti inspiegabile finché che ci concentriamo sull'individuo. > > Ma nonappena alziamo gli occhi dall'IO e pensiamo a NOI, quel 20% > di energie spese dal nostro cervello diventa assolutamente efficiente. > > Per quanto ce la conti la propaganda liberista, non siamo solo > individui: l'essere umano è davvero un animale sociale. > > Grazie al linguaggio infatti, abbiamo imparato a costruire menti > collettive molto più potenti di ogni singola mente umana, capaci di > elaborare informazioni ed esperienze che riusciamo a SINCRONIZZARE fra > le NOSTRE menti, sebbene non escano il alcun modo dalla testa di > ciascuno di noi. > > > Voi non state vedendo le informazioni nella mia mente: state leggendo > rappresentazioni, dati, che interpreterete alla luce delle esperienze > soggettive di pensiero comunicabile già parte della vostra mente. > > Eppure leggendo cosa ciascuno di NOI scrive in questa lista, > costruiamo una cultura condivisa, sincronizzando alcune informazioni > fra le nostre menti. > > > > Le rappresentazioni dell'informazione, fenomeno soggettivo, che > comunemente chiamiamo "dati" perché possiamo darle a chi vogliamo, sono > il sorgente utilizzato per programmare statisticamente LLM ed altre > macchine virtuali, ma non costituiscono informazioni, perché non c'è > una mente umana ad averne esperienza soggettiva. > > > > Non sarebbe informazione nemmeno se a questi software programmati > statisticamente connettessimo sensori che gli permettano di recuperare > informazioni localizzate nello spazio e nel tempo, Alberto. > > Le "AI" di Google sono costantemente connesse a decine di miliardi di > sensori, molti dei quali ce li portiamo in tasca o aspettano in agguato > su siti web (Google Analytics) o dietro caselle di posta apparentemente > innocue (GMail quando usato per domini diversi da gmail.com) > Questi sensori registrano terabyte di dati geolocalizzati e > temporizzati ogni giorno su miliardi di cose, animali e persone. > > Eppure non sono (intrinsecamente) intelligenti. > > > Dunque sostenere che le AI non siano intelligenti perché non dotate > di corpo è ingenuo. > > Un corpo fragile e debole è certamente utilissimo a sviluppare una > specie capace di intelligenza, ma non è la ragione per cui siamo > intelligenti. > > Siamo intelligenti perché abbiamo bisogno di stare insieme. > Siamo intelligenti perché abbiamo bisogno di mettere in comune risorse > e regole per proteggerle durante il loro utilizzo. > Siamo intelligenti perché (e fintanto che) siamo parte di comunità. > > > Giacomo > > PS: Va però osservato anche che le "AI" di Google non sono che una parte > del controllore dell'agente cibernetico Google. > > Oltre alle "AI", vi sono decine di migliaia di menti umane che lavorano > per Google (esplicitamente o meno) e che governano Google (CdA etc..). > > Dunque sebbene le "AI" di Google non siano intelligenti, lo è certamente > Google nel suo complesso, come agente cibernetico a sé stante. > > Ed in questo senso forse non dovremmo aspettare che un AGI > super-intelligente cerchi di prendere il sopravvento sull'umanità.

March 20, 2023

Re: [nexa] riflessioni su SALAMI e dintorni (era: ChatGPT e la stanza cinese)

by Stefano Quintarelli

sto vedendo una startup che usa NLP in uno spreadsheet. "Dammi il prodotto dei due numeri maggior di questa lista" "prendi tutte le date in questa lista e convertile in anno mese giorno" è un esempio più in generale il nocode con nlp potrebbe essere una cosa significativa. questo per dire che IMHO possono esistere applicazioni meno evidenti di quelle a cui normalmente pensiamo oggi forse gli ambiti che preoccupano oggi non sono quelli più rilevanti. pensando al lavoro di ufficio faccio fatica a vedere così vaste aree applicative da così grande disruption https://blog.quintarelli.it/2023/01/a-somewhat-contrarian-view-on-the-promi… ciao, s. Il 20 marzo 2023 09:00:12 UTC, Antonio <antonio(a)piumarossa.it> ha scritto: >... >Trovate il resto qui https://www.startmag.it/innovazione/non-lasciamo-che-i-nostri-figli-diventi… > >Bell'articolo, che condivido totalmente, tuttavia c'è un aspetto che mi piacerebbe approfondire con te e gli altri. > >"i SALAMI possono essere di enorme aiuto per l’umanità" >Tutta? Una parte? Quale parte? >Citanto Guido, "possiamo costruirli e gestirli in modo che non aumentino le disuguaglianze e i pericoli?" > >Nell'articolo continui con: >"all’università [...] possano contribuire all’approfondimento nello studio di una disciplina" >E su questo nulla da dire, università e centri di ricerca (pubblici e privati), non possono che trovare giovamento da /strumenti/ innovativi. >E poi: >"nel mondo del lavoro vi sono molti modi in cui essi possono alleviare la nostra fatica mentale" >Ecco, qua sono spiazzato. >Cos'è la fatica mentale? >La traduzione da una lingua ad un altra, ok, ma quanti, nel lavoro di ogni giorno, ne hanno necessità? >La fatica di leggere, studiare, ricercare, confrontarsi con gli altri, ascoltare, sperimentare, testare, sbagliare e riprovare? >Il tempo risparmiato da queste attività per cosa verrà impiegato? >Da lavori "creativi, divertenti e stimolanti" dicono i fan, ma il mondo ha davvero bisogno di 8 miliardi di creativi? >Stamattina sentivo il commento di un giornalista importante che in radio diceva che nel futuro del giornalismo, invece, ad >esempio, di cinque giornalisti in redazione, ce n'è sarà solo uno che controllerà il /prodotto/ dei SALAMI. >Alla faccia della creatività. > >A. >_______________________________________________ >nexa mailing list >nexa(a)server-nexa.polito.it >https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 20, 2023

L'AI necessita di dormire

by Diego Giorio

Spero di non avere violato nessun copyright, ma ce l'ho solo in cartaceo e quindi ho solo potuto scansionarlo. Si tratta solamente di un breve accenno divulgativo sul numero 365 del 24 febbraio di Focus, ma credo che possa interessare la lista e che valga la pena di approfondire, se qualcuno ha del materiale da segnalare Buona settimana a tutti D.

March 20, 2023

Re: [nexa] riflessioni su SALAMI e dintorni (era: ChatGPT e la stanza cinese)

by Antonio

... Trovate il resto qui https://www.startmag.it/innovazione/non-lasciamo-che-i-nostri-figli-diventi… Bell'articolo, che condivido totalmente, tuttavia c'è un aspetto che mi piacerebbe approfondire con te e gli altri. "i SALAMI possono essere di enorme aiuto per l’umanità" Tutta? Una parte? Quale parte? Citanto Guido, "possiamo costruirli e gestirli in modo che non aumentino le disuguaglianze e i pericoli?" Nell'articolo continui con: "all’università [...] possano contribuire all’approfondimento nello studio di una disciplina" E su questo nulla da dire, università e centri di ricerca (pubblici e privati), non possono che trovare giovamento da /strumenti/ innovativi. E poi: "nel mondo del lavoro vi sono molti modi in cui essi possono alleviare la nostra fatica mentale" Ecco, qua sono spiazzato. Cos'è la fatica mentale? La traduzione da una lingua ad un altra, ok, ma quanti, nel lavoro di ogni giorno, ne hanno necessità? La fatica di leggere, studiare, ricercare, confrontarsi con gli altri, ascoltare, sperimentare, testare, sbagliare e riprovare? Il tempo risparmiato da queste attività per cosa verrà impiegato? Da lavori "creativi, divertenti e stimolanti" dicono i fan, ma il mondo ha davvero bisogno di 8 miliardi di creativi? Stamattina sentivo il commento di un giornalista importante che in radio diceva che nel futuro del giornalismo, invece, ad esempio, di cinque giornalisti in redazione, ce n'è sarà solo uno che controllerà il /prodotto/ dei SALAMI. Alla faccia della creatività. A.

March 20, 2023

MEMENTO | 104° Nexa Lunch Seminar | 22 marzo 2023, ore 13.00

by Nexa Media

Gentilissime, gentilissimi, Vi ricordiamo che *mercoledì 22 marzo, dalle ore 13.00 alle ore 14.00*, si terrà il *104° Nexa Lunch Seminar*, con un incontro dal titolo /*"Semiotica e intelligenza artificiale"*/. Ospite dell'incontro: *Antonio Santangelo* (Università di Torino e Centro Nexa su Internet e Società). _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA_ dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate dai cartelli lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE_ dell'incontro: https://didattica.polito.it/VClass/NexaEvent Per maggiori dettagli consulta la pagina: https://nexa.polito.it/lunch-104 Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

March 20, 2023

come citare l'email

by maurizio lana

a quanto so i messaggi email si citano così nello standard Chicago 17th edition: Rovira, James. «Re: [Humanist] 36.436: pubs: AI, agency and intelligence», 14 marzo 2023. https://www.dhhumanist.org/volume/36/440/. cioè: cognome, nome. «subject», data. URL in stile Vancouver invece: Rovira, J. Re: [Humanist] 36.436: pubs: AI, agency and intelligence. (2023). altri stili possono comporre in modo differente i metadati, ovviamente ciao Maurizio Il 19/03/23 20:09, Enrico Nardelli <nardelli(a)mat.uniroma2.it> ha scritto: > Date: Sun, 19 Mar 2023 20:09:33 +0100 > From: Enrico Nardelli<nardelli(a)mat.uniroma2.it> > To:nexa@server-nexa.polito.it > Subject: Re: [nexa] ChatGPT e la stanza cinese > > Certamente sì, Marco. > > Non sono un esperto di citazioni, ma il link al mio post è questo > https://server-nexa.polito.it/pipermail/nexa/2023-March/025111.html > > per il resto, se fosse in un articolo scientifico, metterei in bibliografia qualcosa del genere > > Nardelli, E., ChatGPT e la stanza cinese, Mailing list pubblica del Centro NEXA su Internet & Società, Politecnico di Torino, Febbraio 2023.https://server-nexa.polito.it/pipermail/nexa/2023-March/025111.html > > Ma magari a Nexa hanno già pronto un modo standard di citare interventi nella lista. > > Ciao, Enrico > > Il 17/03/2023 11:19, Marco A. Calamari ha scritto: >> Guarda, tanto sono d'accordo che avevo scritto lo stesso concetto nell'articolo di commento alla presentazione di GPT-4 che sto rifinendo. >> >> La tua argomentazione però è molto migliore. >> >> Posso copiarla come fair use? Citandoti, ovviamente. >> >> Marco >> >> P.S. come si cita una mail list??? >> >> On ven, 2023-03-17 at 10:26 +0100, Enrico Nardelli wrote: >>> Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione pratica dell'esperimento mentale della Stanza Cinese di John Searle (https://it.wikipedia.org/wiki/Stanza_cinese >>> >>> Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. >>> >>> Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi. >>> >>> Ciao, Enrico >>> >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa ------------------------------------------------------------------------ the knowledge gap between rich and poor is widening witten and bainbridge, how to build a digital library ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

March 19, 2023

riflessioni su SALAMI e dintorni (era: ChatGPT e la stanza cinese)

by Enrico Nardelli

Disclaimer: selfie ahead :-) Non voglio aprire una discussione sul termine "intelligenza", ma colgo l'occasione per riportare una mia recente riflessione « L’intelligenza nella mia visione è solo l’intelligenza incarnata delle persone. Usare il termine intelligenza per sistemi che sono solo delle incorporee macchine cognitive ... è pericolosamente fuorviante. Sono “macchine cognitive” tutti i sistemi informatici, che su un piano esclusivamente logico-razionale sono in grado di calcolare dati da altri dati, ma senza alcuna consapevolezza di ciò che fanno né comprensione di ciò che producono. Su questo piano tali macchine hanno superato le nostre capacità in molti domìni, come sul piano fisico lo hanno fatto le macchine industriali, ma parlare per tali sistemi di intelligenza è ingannevole. Farlo a proposito di quella particolare variante che sono i SALAMI rischia di essere estremamente deleterio sul piano sociale, come illustrato dall’esempio descritto in apertura. » Trovate il resto qui https://www.startmag.it/innovazione/non-lasciamo-che-i-nostri-figli-diventi… Ciao, Enrico Il 19/03/2023 16:55, Giacomo Tesio ha scritto: > Salve Guido, Alberto e Nexa... buona domenica! > > Sarà perché sono solo un informatico, ma io la faccio più semplice. > > > On Sat, 18 Mar 2023 08:10:04 +0100 Guido Vetere wrote: > >>> Il segno non esiste come informazione astratta, ma fa parte di un >>> /processo interpretativo/ che è prettamente _umano_. >> La caratterizzazione di questo "processo interpretativo" è il grande >> mistero filosofico che prende il nome di "teoria del significato". >> Dire che questo processo possa avvenire solo all'interno di organismi >> umani consociati, in una teoria del significato, si può dire solo in >> modo assiomatico. Un teorema che giunga a questa conclusione, in una >> teoria semiotica comunemente accettata, nessuno ce l'ha, che io >> sappia. > La consistenza della conoscenza umana è indecidibile (per l'uomo). > Cercare di dimostrare matematicamente che il processo interpretativo > tipico della mente umana possa avvenire solo nella mente umana è > futile, per una mente umana. > Vedi teoremi di incompletezza di Gödel. > > > Più semplicemente possiamo definire l'informazione come l'esperienza > soggettiva di pensiero comunicabile che una mente umana (ciascuno di > noi) può percepire in sé stessa, durante il proprio pensare. > La mente è l'insieme delle informazioni acquisite, che determinano > (insieme ad alcuni aspetti evolutivamente determinati) come ogni > informazione viene elaborata. > > > L'informazione è un fenomeno soggettivo con effetti oggettivi. > L'informazione esiste esclusivamente in una mente umana, effetto > collaterale del vantaggio evolutivo che il linguaggio ha fornito > ad una specie fragile come la nostra. > > L'esigenza di una comunità (e dunque di comunicazione e comunione) > nasce dal bisogno di regolare l'accesso, la produzione e la protezione > di beni in comune, come la prole o le riserve di cibo. > > Così abbiamo dovuto sviluppare un linguaggio sufficientemente > preciso da permetterci di comunicare efficientemente le esperienze > soggettive che avvenivano nella nostra mente e abbiamo selezionato via > via nel corso dei millenni, una specie capace di esperienze soggettive > di pensiero comunicabile astratte rispetto alle esperienze quotidiane. > > Il numero, la retta, la legge, la termodinamica, la relatività come la > meccanica quantistica e oggi l'informatica. > > Non possiamo sapere (e io mi sentirei di escludere) se ciascuno di noi > condivide la stessa immagine mentale del punto, dello zero o del gatto. > Tuttavia possiamo condividere definizioni ed esperienze tramite > il linguaggio, costruendo una cultura condivisa che è la ragion > d'essere della comunicazione stessa. > > > Dunque non ci sarebbe comunicazione, linguaggio, informazione o > significato se non ci fosse un "noi" a cui tutti abbiamo bisogno di > fare riferimento per sopravvivere. > > E' fantastico quanto paradossale che una specie debole e fragile come > la nostra abbia tratto un vantaggio evolutivo formidabile dall'affidare > il 20% delle energie consumate dal proprio corpo ad un organo che > ne costituisce meno del 4% del peso. > Un organo che non fornisce alcun contributo sostanziale alla > sopravvivenza di un individuo se non all'interno di una comunità. > > Rimane infatti inspiegabile finché che ci concentriamo sull'individuo. > > Ma nonappena alziamo gli occhi dall'IO e pensiamo a NOI, quel 20% > di energie spese dal nostro cervello diventa assolutamente efficiente. > > Per quanto ce la conti la propaganda liberista, non siamo solo > individui: l'essere umano è davvero un animale sociale. > > Grazie al linguaggio infatti, abbiamo imparato a costruire menti > collettive molto più potenti di ogni singola mente umana, capaci di > elaborare informazioni ed esperienze che riusciamo a SINCRONIZZARE fra > le NOSTRE menti, sebbene non escano il alcun modo dalla testa di > ciascuno di noi. > > > Voi non state vedendo le informazioni nella mia mente: state leggendo > rappresentazioni, dati, che interpreterete alla luce delle esperienze > soggettive di pensiero comunicabile già parte della vostra mente. > > Eppure leggendo cosa ciascuno di NOI scrive in questa lista, > costruiamo una cultura condivisa, sincronizzando alcune informazioni > fra le nostre menti. > > > > Le rappresentazioni dell'informazione, fenomeno soggettivo, che > comunemente chiamiamo "dati" perché possiamo darle a chi vogliamo, sono > il sorgente utilizzato per programmare statisticamente LLM ed altre > macchine virtuali, ma non costituiscono informazioni, perché non c'è > una mente umana ad averne esperienza soggettiva. > > > > Non sarebbe informazione nemmeno se a questi software programmati > statisticamente connettessimo sensori che gli permettano di recuperare > informazioni localizzate nello spazio e nel tempo, Alberto. > > Le "AI" di Google sono costantemente connesse a decine di miliardi di > sensori, molti dei quali ce li portiamo in tasca o aspettano in agguato > su siti web (Google Analytics) o dietro caselle di posta apparentemente > innocue (GMail quando usato per domini diversi da gmail.com) > Questi sensori registrano terabyte di dati geolocalizzati e > temporizzati ogni giorno su miliardi di cose, animali e persone. > > Eppure non sono (intrinsecamente) intelligenti. > > > Dunque sostenere che le AI non siano intelligenti perché non dotate > di corpo è ingenuo. > > Un corpo fragile e debole è certamente utilissimo a sviluppare una > specie capace di intelligenza, ma non è la ragione per cui siamo > intelligenti. > > Siamo intelligenti perché abbiamo bisogno di stare insieme. > Siamo intelligenti perché abbiamo bisogno di mettere in comune risorse > e regole per proteggerle durante il loro utilizzo. > Siamo intelligenti perché (e fintanto che) siamo parte di comunità. > > > Giacomo > > PS: Va però osservato anche che le "AI" di Google non sono che una parte > del controllore dell'agente cibernetico Google. > > Oltre alle "AI", vi sono decine di migliaia di menti umane che lavorano > per Google (esplicitamente o meno) e che governano Google (CdA etc..). > > Dunque sebbene le "AI" di Google non siano intelligenti, lo è certamente > Google nel suo complesso, come agente cibernetico a sé stante. > > Ed in questo senso forse non dovremmo aspettare che un AGI > super-intelligente cerchi di prendere il sopravvento sull'umanità. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

March 19, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Enrico Nardelli

Grazie Stefano, effettivamente il concetto è lo stesso. Il problema della regolamentazione diventa sempre più urgente. C'è un bella riflessione di Schneier in proposito https://www.schneier.com/blog/archives/2023/02/defending-against-ai-lobbyis… Ciao, Enrico Il 17/03/2023 12:41, Stefano Quintarelli ha scritto: > semplicemente perfetto > ti citero'. > > avevo scritto questo, molto meno espressivamente potente > > https://blog.quintarelli.it/2020/10/it-aint-no-horse-aka-meaning-is-the-eye… > > On 17/03/23 10:26, Enrico Nardelli wrote: >> Mi è venuto in mente che ciò che fa ChatGPT è una sorta di realizzazione pratica dell'esperimento mentale della Stanza Cinese di John Searle (https://it.wikipedia.org/wiki/Stanza_cinese >> >> Ovvero, ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. >> >> Purtroppo (e questo è un problema nostro di grande rilevanza sul piano sociale) poiché ciò che fa lo esprime in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi. >> >> Ciao, Enrico >> >> -- >> >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://www.mat.uniroma2.it/~nardelli >> blog: https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> >> >> -- >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

March 19, 2023