October 2023 - nexa - server-nexa.polito.it

Re: [nexa] Can Large Language Models reason?

by maurizio lana

solo a me i msg di Giuseppe Attardi compaiono /talvolta/ così? con il corpo del messaggio messo in attachment htm linkato Maurizio Il 13/10/23 09:21, nexa-request(a)server-nexa.polito.it ha scritto: > Message: 4 Date: Fri, 13 Oct 2023 09:21:12 +0200 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > To: Daniela Tafani <daniela.tafani(a)unipi.it> > Cc: nexa <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] Can Large Language Models reason? > Message-ID: <F38BCF6D-716C-423D-8A9D-5AB64995EFE8(a)di.unipi.it> > Content-Type: text/plain; charset="utf-8" > An HTML attachment was scrubbed... > URL: > <http://server-nexa.polito.it/pipermail/nexa/attachments/20231013/26c59651/a…> > > ------------------------------ > > Subject: Digest Footer > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > ------------------------------ ------------------------------------------------------------------------ roughneck and rudeness we should be using, on the ones who practice wicked charms for the sword and the stone, bad to the bone battle's not over even when it's won youssou n'dour & nene cherry, 7 seconds ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Oct. 13, 2023

[OT] cos'è il capitalismo? (was Re: IA, lavoro, immaginari)

by 380°

Buongiorno, tempo fa parlavamo di efficacia dei vaccini COVID-19 e mi era stato fatto _giustamente_ notare: --8<---------------cut here---------------start------------->8--- Scusate, è una conversazione di grande interesse, ma che ormai ha perso largamente contatto coi temi di questa lista. --8<---------------cut here---------------end--------------->8--- (https://server-nexa.polito.it/pipermail/nexa/2022-November/049685.html Message-id: a1b2673d-ec4f-ae32-a6b3-d4601b85de94(a)polito.it) Non credete sia anche questo il caso? Non avete idea di quanto io ritenga interessante questo argomento ma forse non è il caso di discuterne qui, no? Non esiste una lista analoga a quella del Centro Nexa dedicata a "Economia e società"? Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > - siamo ancora in un sistema capitalistico o le rendite hanno raggiunto dimensioni e proporzioni che giustificano l'uso del termine "tecnofeudalesimo"? (1) E se il sistema capitalistico non fosse altro che l'evoluzione del sistema aristocratico che lo ha preceduto? https://www.tandfonline.com/doi/full/10.1080/03086530601143388 «Capitalism, Aristocracy and Empire: Some ‘Classical’ Theories of Imperialism Revisited» Professor P. J. Cain, 02 Mar 2007 disponibile qui: https://sci-hub.st/https://doi.org/10.1080/03086530601143388 [...] > (1) Y. Varoufakis, Technofeudalism. What Killed Capitalism, Vintage Publishing, 2023 [...] Cordiali saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by Daniela Tafani

Grazie, 380°! Una prima risposta, ora, solo su Kant: quando Kant prende in considerazione le macchine, è in genere per contrapporne l’ambito a quello morale: là dove ci sia una macchina, non si danno moralità e libertà e, viceversa, là dove si trovino libertà e moralità non si è presenza di una macchina: per Kant l’uomo non è un «automaton spirituale» e la sua libertà non è «la libertà di un girarrosto» (1). La metafora della macchina è utilizzata da Kant in senso costantemente negativo, sia negli scritti politici che in quelli morali (2). La tesi che l’uomo non sia una macchina vale anche in senso assiologico (l’uomo è «più di una macchina») e, di conseguenza, morale e politico: né da altri uomini, né dallo Stato, l’uomo deve essere trattato come una macchina (la seconda formulazione dell'imperativo categorico, che impone di non trattare se stessi o gli altri solo come mezzi, dice la stessa cosa). Al re Federico II, che assimilava i cittadini a ingranaggi della macchina statale, mere macchine essi stessi, e presentava i propri «principes» come quelli in grado di “rendre bon & avantageux le gouvernement monarchique» (3), Kant contrapponeva la tesi secondo cui la libertà di pensiero - che per Kant equivale alla libertà di espressione - avrebbe reso i cittadini maggiormente capaci di agire e indotto il governo a ritenere «vantaggioso per sé» il rispettarne la dignità (ove la trasformazione di «buono & vantaggioso» in «vantaggioso per sé» suonava decisamente minacciosa): [il] libero pensiero […] agisce a sua volta gradualmente sul modo di sentire del popolo (attraverso la qual cosa questo diventerà più e più capace della libertà di agire), e alla fine addirittura sui princípi del governo, il quale trova vantaggioso per sé trattare l’uomo, che ormai è più che una macchina, in conformità alla sua dignità. (4) Di quest'ultima questione mi sono occupata qui: https://commentbfp.sp.unipi.it/daniela-tafani-il-palladio-dei-diritti-del-p… (1) http://kant.korpora.org/Band5/097.html (2) N. Hinske, Zwischen Begriff und Metapher zur Verwendung des Stichworts 'Maschine' bei Kant, in M. Veneziani (a cura di), Machina. XI Colloquio Internazionale del Lessico Intellettuale Europeo, (Roma, 8-10 gennaio 2004). Atti. Firenze, Olschki 2055, pp. 477-488. (3) Fréderic, Essai sur les formes des gouvernement, et sur les devoirs des Souverains, 1781, in Oeuvres posthumes de Frédéric II, Roi de Prusse, [Basel], 1789, p. 45. (4) https://archiviomarini.sp.unipi.it/362/1/kant_7/ar01s04.html ________________________________________ Da: 380° <g380(a)biscuolo.net> Inviato: venerdì 13 ottobre 2023 12:00 A: Daniela Tafani Cc: nexa(a)server-nexa.polito.it; Daniele Gambetta Oggetto: Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1] Buongiorno Daniela, Daniela Tafani <daniela.tafani(a)unipi.it> writes: > Per il taglio e la sede, varrebbe forse la pena di soffermarsi (nella > terza puntata?) su due o tre questioni di fondo: Grazie, trovo sempre estremamente interessanti le questioni che poni, credo che non sia un caso (che tu ponga questioni interessanti) essendo ricercatrice in filosofia, anche se poi alcune etichette che vengono assegnate ai dipartimenti universitari (/scienze/ politiche?) aiutano solo a fare confuZione :-) [...] > - l'IA è "un derivato della sorveglianza"? (2) (3) No, è un derivato del «capture model»; mi autocito: https://server-nexa.polito.it/pipermail/nexa/2021-August/022090.html «[nexa] Surveillance and capture: Two models of privacy (Philip E. Agre)» del 18 Agosto 2021 (rif: id:87r1erdn8u.fsf@xelera.eu) --8<---------------cut here---------------start------------->8--- «Surveillance and capture: Two models of privacy», 1994 by Philip E. Agre disponibile sia su Sci-Hub: https://sci-hub.st/10.1080/01972243.1994.9960162 che qui, ripubblicato in The New Media Reader nel 2003: https://blogs.commons.georgetown.edu/cctp-506-spring2018/files/2015/12/51-a… Venti anni prima che Vincent Mosco descrivesse la vendita delle informazioni ai pubblicitari come "surveillance capitalism" e 25 anni prima di Shoshana Zuboff col suo famosissimo libro, Agre descrive le questione della privacy come dialettica tra metafore visuali e (surveillance) metafore linguistiche (capture): Abstract: Two models of privacy issues are contrasted. The surveillance model employs visual metaphors (e.g., "Big Brother is watching") and derives from historical experiences of secret police surveillance. The less familiar capture model employs linguistic metaphors and has deep roots in the practices of applied computing through which human activities are systematically reorganized to allow computers to track them in real time. The capture model is discussed with reference to systems in numerous domains. --8<---------------cut here---------------end--------------->8--- ATTENZIONE: non è un caso che l'analisi di Agre adotti metafore _linguistiche_, che si adattano *splendidamente* anche alle pratiche di "applied computing" implementate attraverso i LLM. ATTENZIONE 2: Agre presenta il suo lavoro come analisi delle questioni relative alla privacy MA in realtà, studiandolo con attenzione, non è difficile comprendere quanto egli si riferisca in generale alla *agency* delle persone quando si _interfaciano_ a sistemi informatici. ATTENZIONE 3: che si tratti di intrattenimento, vita privata, vita pubblica, occupazione (posto di lavoro), spiritualità o _scienza_ il meccanismo di /capture/ funziona *esattamente* allo stesso modo; quindi ho un modesto suggerimento non richiesto: attaccare il meccanismo del "capture" è il modo più efficace di /smontare/ il dominio dei pochi sui molti. [...] > Quanto alla famiglia di ideologie TESCREAL, Per chi ignorava come me, (https://en.wikipedia.org/wiki/TESCREAL) è l'acronimo di: "transhumanism, extropianism, singularitarianism, cosmism, rationalism, Effective Altruism, and longtermism." cioè: 1. https://en.wikipedia.org/wiki/Transhumanism 2. https://en.wikipedia.org/wiki/Extropianism 3. https://en.wikipedia.org/wiki/Singularitarianism 4. cosmism: A religious philosophical position from the writings of Hugo de Garis [1] https://en.wikipedia.org/wiki/Hugo_de_Garis#The_Artilect_War (da non confondere con il movimento filosofico russo) 5. https://en.wikipedia.org/wiki/Rationalism 6. https://en.wikipedia.org/wiki/Effective_altruism 7. https://en.wikipedia.org/wiki/Effective_altruism una versione politically-correct e ethic-washing del filantropismo deciso da pochissimi per il bene non solo dell'intera umanità ma dell'intero *universo* 8. https://en.wikipedia.org/wiki/Longtermism una versione laica del «adesso soffrite in silenzio, in un lontanissimo futuro andrà tutto benissimo» Non vale la pena di commentare sulla validità filosofica (e quindi sul loro apporto decisamente negativo alla ricerca della verità) di tutti i punti... ...tranne uno: aver inserito la R come quinta lettera dell'acronimo, il razionalismo, mi da un colpo al cuore e scatena in me un moto di vibrata protesta! No, non incolpate Kant per tutto questo, ve ne prego!!! Perché Kant è tardo-razionalista, vero?!? O è già post-razionalista e rivoluziona la filosofia col suo idealismo trascendentale? Comunque sia, ovunque volessimo "inquadrare" Kant per inserirlo in un "movimento", io suggerirei di rivolgere il proprio sguardo critico non tanto al (superato?) razionalismo quanto al suo nipotino estremamente più insolente, _violento_ e /attuale/ [2]: il positivismo --8<---------------cut here---------------start------------->8--- Positivism is a philosophical school that holds that all genuine knowledge is either true by definition or positive—meaning a posteriori facts derived by reason and logic from sensory experience.[1][2] Other ways of knowing, such as intuition, introspection, or religious faith, are rejected or considered meaningless. --8<---------------cut here---------------end--------------->8--- Denigrare intuizione e introspezione come genuini modi di conoscenza è da analfabeti funzionali (con assoluta mancanza di capacità introspettive, tra l'altro). Non parliamo poi della totale ignoranza del ruolo del "Giudizio". Sostenere che la conoscenza, ottenuta attraverso il solo uso della ragione e della logica applicata all'esperienza sensoriale, è vera per definizione *equivale* (quasi) direttamente a dire che la verità può essere ottenuta attraverso una macchina che applichi ragione e logica alle tonnellate di dati (esperienza sensoriale?) che riceve in input, cioè _postulare_ la possibilità dell'esistenza della Intelligenza Artificiale Generale, il "Giudizio" è superfluo. L'acronimo corretto, quindi, sarebbe: TESC_P_EAL. :-D > a me paiono centrali gli elementi eugenetici e quelli religiosi. Mumble... trovare gli elementi TESCPEAL che sono più determinanti è davvero arduo, però non è questa a mio avviso la ricerca più interessante: trovo molto più interessante cercare di risalire all'origine del "misunderstanding". Il principale sospettato (come si potrà intuire) è _esattamente_ il positivismo perché omette di dire una cosa *fondamentale*, ovvero che, secondo la sua ancestrale concezione, la verità è *posta* dalla ragione, logica ed esperienza sensibile di POCHI (analfabeti funzionali) _contro_ il resto dell'umanità. Non ci sono modi simpatici per dirlo. Quindi transumanisti, eugenetisti tecnologici, singolaristi, cosmisti, filantropi altruisti e lungotermisti sono _sicuri_ di aver compreso la verità delle cose e vogliono, semplicemente, (im)porcela. Se non fosse tragica, la cosa sarebbe anche divertente perché tutto questo deriva da una cosa sola e soltanto: la loro fottutissima paura della morte, lo spiega bene Weizenbaum alla fine di «Plug & Pray» (2010) http://www.plugandpray-film.de/en/index.html ...solo che essendo positivisti incalliti non riescono proprio ad accettarlo che la loro è una forma di spiritualità alienata: sperano di guadagnarsi la vita eterna con l'acquisto 4.0 (neo-protestante) dell'indulgenza [3]; probabilmente Freud et al aiuterebbero. > Donde, tra gli altri, l'IA fisiognomica e il messianesimo d'accatto. > Se ne occupa Emile Torres (5). Grazie per i riferimenti! [...] > (2) M. Whittaker, A Message from Signal's New President, September 6, 2022, https://signal.org/blog/announcing-signal-president/ > (3) S. Zuboff, Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization, “Organization Theory”, 3 (2022), pp. 1-79, https://doi.org/10.1177/26317877221129290 [...] > (5) https://www.truthdig.com/articles/longtermism-and-eugenics-a-primer/ Saluti, 380° [1] sostanzialmente i "Cosmists" _sperano_ che un giorno non meglio precisato del 21mo secolo una versione molto più evoluta dei Borg (vedi Star Trek) colonizzi l'intero universo, ovviamente «resistance is futile». [2] https://en.wikipedia.org/wiki/Positivism#Positivism_today : il positivismo è talmente perverso da riuscire a nascondersi benissimo e apparire qualsiasi altra cosa, tipo "evidence based <qualcosa>" :-O «To complicate the issues further, few practising scholars explicitly state their epistemological commitments, and their epistemological position thus has to be guessed from other sources such as choice of methodology or theory.» [3] https://it.wikipedia.org/wiki/Indulgenza#Lo_scandalo_della_vendita_delle_in… ...solo che col protestantesimo "semplicemente" il "virtue signalling" religioso ha assunto altre forme. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by Maria Chiara Pievatolo

On 13/10/23 12:00, 380° wrote: > Buongiorno Daniela, > > Daniela Tafani <daniela.tafani(a)unipi.it> writes: > >> Per il taglio e la sede, varrebbe forse la pena di soffermarsi (nella >> terza puntata?) su due o tre questioni di fondo: > > Grazie, trovo sempre estremamente interessanti le questioni che poni, > credo che non sia un caso (che tu ponga questioni interessanti) essendo > ricercatrice in filosofia, anche se poi alcune etichette che vengono > assegnate ai dipartimenti universitari (/scienze/ politiche?) aiutano > solo a fare confuZione :-) Solo per ricordare che la facoltà di scienze politiche è una facoltà multidisciplinare, che ospita, fra l'altro, studiosi non di filosofia, ma di filosofia *politica*, cioè di filosofia applicata alle modalità in cui strutturiamo la convivenza umana in società. A scienze politiche ci sono sociologi, giuristi, economisti, storici, storici delle istituzioni e del pensiero politico, psicologi sociali, statistici e altro ancora. Non capita per caso che, nel mondo della cultura componibile nel senso in cui usa l'espressione Lucio Russo, proprio a scienze politiche si discuta anche di software libero e si cerchi di creare consapevolezza critica sulla cosiddetta intelligenza artificiale. Se non ci fossero ambienti in cui si è quasi costretti a costruire orizzonti transdisciplinari, avremmo solo - gli uni contro gli altri armati - esperti di martelli che pensano che tutto sia chiodo, o esperti di idraulica convinti che tutto sia tubo, o ancora esperti di informatica convinti che l'universo sia un grande computer, per comprendere il quale, distributivamente e collettivamente, sia sufficiente farne il reverse engineering, funzione per funzione, così da scrivere programmi in grado di riprodurle più o meno esattamente. A presto, MCP

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari

by Guido Vetere

Giuseppe, "i linguisti non sono venuti a capo del problema del significato" è un'affermazione temeraria, secondo me. Meglio dire che il problema del significato è un problema aperto, cioè non può sottrarsi alla riflessione filosofica. Il fatto che certi informatici dicano oggi di averlo "risolto" con i word embeddings sarebbe ridicolo se non fosse inquietante (sono d'accordo con Giacomo) By the way, l'ipotesi distribuzionale che sarebbe alla base di questa "soluzione" era una euristica dei linguisti americani (Bloomfield, Harris, Firth, ecc) per studiare le lingue dei nativi, non mi pare che nessuno dei suddetti l'abbia elaborata seriamente come "teoria del significato" G. On Fri, 13 Oct 2023 at 10:26, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > Sì, certo. Mi riferivo al fatto che le autrici, pubblicamente interrogate > da Quote Investigator, > lo hanno attribuito a Bender, che ha confermato: > > https://twitter.com/QuoteResearch/status/1578770263696871425 > https://twitter.com/emilymbender/status/1578829544303521797 > > Quote Investigator lo ha perciò riportato nella pagina > > https://quoteinvestigator.com/2022/10/07/word-parrot/ > > Solo per completezza, ricordo che Regina Rini aveva utilizzato, in > precedenza, un'espressione simile, che ha avuto meno fortuna: > "all-electronic statistical parrot" > > https://dailynous.com/2020/07/30/philosophers-gpt-3/#rini > > > ________________________________________ > Da: Giuseppe Attardi > Inviato: venerdì 13 ottobre 2023 10:15 > A: Daniela Tafani > Cc: nexa > Oggetto: Re: [nexa] IA, lavoro, immaginari > > Secondo Wikipedia, il termine “stochastic parrot” è stato coniato > nell’articolo citato da Gambetta e da me, di cui sono coautrici Bender e > Gebru, nel paragrafo che ho riportato. > > <https://en.wikipedia.org/wiki/Stochastic_parrot> > Stochastic parrot<https://en.wikipedia.org/wiki/Stochastic_parrot> > en.wikipedia.org<https://en.wikipedia.org/wiki/Stochastic_parrot> > [wikipedia.png] <https://en.wikipedia.org/wiki/Stochastic_parrot> > > > — Beppe > > On 13 Oct 2023, at 08:40, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > > Buongiorno. > > Solo una notazione a margine: > l'espressione "pappagalli stocastici" è stata coniata da Emily Bender, > linguista computazionale specializzata in natural language processing. > > La sua posizione, quanto al significato, è formulata distesamente, tra gli > altri, qui: > > E.M. Bender, A. Lascarides, Linguistic fundamentals for natural language > processing II. 100 essentials from semantics and pragmatics, 2020, > https://link.springer.com/book/10.1007/978-3-031-02172-5 > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by 380°

Buongiorno Daniela, Daniela Tafani <daniela.tafani(a)unipi.it> writes: > Per il taglio e la sede, varrebbe forse la pena di soffermarsi (nella > terza puntata?) su due o tre questioni di fondo: Grazie, trovo sempre estremamente interessanti le questioni che poni, credo che non sia un caso (che tu ponga questioni interessanti) essendo ricercatrice in filosofia, anche se poi alcune etichette che vengono assegnate ai dipartimenti universitari (/scienze/ politiche?) aiutano solo a fare confuZione :-) [...] > - l'IA è "un derivato della sorveglianza"? (2) (3) No, è un derivato del «capture model»; mi autocito: https://server-nexa.polito.it/pipermail/nexa/2021-August/022090.html «[nexa] Surveillance and capture: Two models of privacy (Philip E. Agre)» del 18 Agosto 2021 (rif: id:87r1erdn8u.fsf@xelera.eu) --8<---------------cut here---------------start------------->8--- «Surveillance and capture: Two models of privacy», 1994 by Philip E. Agre disponibile sia su Sci-Hub: https://sci-hub.st/10.1080/01972243.1994.9960162 che qui, ripubblicato in The New Media Reader nel 2003: https://blogs.commons.georgetown.edu/cctp-506-spring2018/files/2015/12/51-a… Venti anni prima che Vincent Mosco descrivesse la vendita delle informazioni ai pubblicitari come "surveillance capitalism" e 25 anni prima di Shoshana Zuboff col suo famosissimo libro, Agre descrive le questione della privacy come dialettica tra metafore visuali e (surveillance) metafore linguistiche (capture): Abstract: Two models of privacy issues are contrasted. The surveillance model employs visual metaphors (e.g., "Big Brother is watching") and derives from historical experiences of secret police surveillance. The less familiar capture model employs linguistic metaphors and has deep roots in the practices of applied computing through which human activities are systematically reorganized to allow computers to track them in real time. The capture model is discussed with reference to systems in numerous domains. --8<---------------cut here---------------end--------------->8--- ATTENZIONE: non è un caso che l'analisi di Agre adotti metafore _linguistiche_, che si adattano *splendidamente* anche alle pratiche di "applied computing" implementate attraverso i LLM. ATTENZIONE 2: Agre presenta il suo lavoro come analisi delle questioni relative alla privacy MA in realtà, studiandolo con attenzione, non è difficile comprendere quanto egli si riferisca in generale alla *agency* delle persone quando si _interfaciano_ a sistemi informatici. ATTENZIONE 3: che si tratti di intrattenimento, vita privata, vita pubblica, occupazione (posto di lavoro), spiritualità o _scienza_ il meccanismo di /capture/ funziona *esattamente* allo stesso modo; quindi ho un modesto suggerimento non richiesto: attaccare il meccanismo del "capture" è il modo più efficace di /smontare/ il dominio dei pochi sui molti. [...] > Quanto alla famiglia di ideologie TESCREAL, Per chi ignorava come me, (https://en.wikipedia.org/wiki/TESCREAL) è l'acronimo di: "transhumanism, extropianism, singularitarianism, cosmism, rationalism, Effective Altruism, and longtermism." cioè: 1. https://en.wikipedia.org/wiki/Transhumanism 2. https://en.wikipedia.org/wiki/Extropianism 3. https://en.wikipedia.org/wiki/Singularitarianism 4. cosmism: A religious philosophical position from the writings of Hugo de Garis [1] https://en.wikipedia.org/wiki/Hugo_de_Garis#The_Artilect_War (da non confondere con il movimento filosofico russo) 5. https://en.wikipedia.org/wiki/Rationalism 6. https://en.wikipedia.org/wiki/Effective_altruism 7. https://en.wikipedia.org/wiki/Effective_altruism una versione politically-correct e ethic-washing del filantropismo deciso da pochissimi per il bene non solo dell'intera umanità ma dell'intero *universo* 8. https://en.wikipedia.org/wiki/Longtermism una versione laica del «adesso soffrite in silenzio, in un lontanissimo futuro andrà tutto benissimo» Non vale la pena di commentare sulla validità filosofica (e quindi sul loro apporto decisamente negativo alla ricerca della verità) di tutti i punti... ...tranne uno: aver inserito la R come quinta lettera dell'acronimo, il razionalismo, mi da un colpo al cuore e scatena in me un moto di vibrata protesta! No, non incolpate Kant per tutto questo, ve ne prego!!! Perché Kant è tardo-razionalista, vero?!? O è già post-razionalista e rivoluziona la filosofia col suo idealismo trascendentale? Comunque sia, ovunque volessimo "inquadrare" Kant per inserirlo in un "movimento", io suggerirei di rivolgere il proprio sguardo critico non tanto al (superato?) razionalismo quanto al suo nipotino estremamente più insolente, _violento_ e /attuale/ [2]: il positivismo --8<---------------cut here---------------start------------->8--- Positivism is a philosophical school that holds that all genuine knowledge is either true by definition or positive—meaning a posteriori facts derived by reason and logic from sensory experience.[1][2] Other ways of knowing, such as intuition, introspection, or religious faith, are rejected or considered meaningless. --8<---------------cut here---------------end--------------->8--- Denigrare intuizione e introspezione come genuini modi di conoscenza è da analfabeti funzionali (con assoluta mancanza di capacità introspettive, tra l'altro). Non parliamo poi della totale ignoranza del ruolo del "Giudizio". Sostenere che la conoscenza, ottenuta attraverso il solo uso della ragione e della logica applicata all'esperienza sensoriale, è vera per definizione *equivale* (quasi) direttamente a dire che la verità può essere ottenuta attraverso una macchina che applichi ragione e logica alle tonnellate di dati (esperienza sensoriale?) che riceve in input, cioè _postulare_ la possibilità dell'esistenza della Intelligenza Artificiale Generale, il "Giudizio" è superfluo. L'acronimo corretto, quindi, sarebbe: TESC_P_EAL. :-D > a me paiono centrali gli elementi eugenetici e quelli religiosi. Mumble... trovare gli elementi TESCPEAL che sono più determinanti è davvero arduo, però non è questa a mio avviso la ricerca più interessante: trovo molto più interessante cercare di risalire all'origine del "misunderstanding". Il principale sospettato (come si potrà intuire) è _esattamente_ il positivismo perché omette di dire una cosa *fondamentale*, ovvero che, secondo la sua ancestrale concezione, la verità è *posta* dalla ragione, logica ed esperienza sensibile di POCHI (analfabeti funzionali) _contro_ il resto dell'umanità. Non ci sono modi simpatici per dirlo. Quindi transumanisti, eugenetisti tecnologici, singolaristi, cosmisti, filantropi altruisti e lungotermisti sono _sicuri_ di aver compreso la verità delle cose e vogliono, semplicemente, (im)porcela. Se non fosse tragica, la cosa sarebbe anche divertente perché tutto questo deriva da una cosa sola e soltanto: la loro fottutissima paura della morte, lo spiega bene Weizenbaum alla fine di «Plug & Pray» (2010) http://www.plugandpray-film.de/en/index.html ...solo che essendo positivisti incalliti non riescono proprio ad accettarlo che la loro è una forma di spiritualità alienata: sperano di guadagnarsi la vita eterna con l'acquisto 4.0 (neo-protestante) dell'indulgenza [3]; probabilmente Freud et al aiuterebbero. > Donde, tra gli altri, l'IA fisiognomica e il messianesimo d'accatto. > Se ne occupa Emile Torres (5). Grazie per i riferimenti! [...] > (2) M. Whittaker, A Message from Signal's New President, September 6, 2022, https://signal.org/blog/announcing-signal-president/ > (3) S. Zuboff, Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization, “Organization Theory”, 3 (2022), pp. 1-79, https://doi.org/10.1177/26317877221129290 [...] > (5) https://www.truthdig.com/articles/longtermism-and-eugenics-a-primer/ Saluti, 380° [1] sostanzialmente i "Cosmists" _sperano_ che un giorno non meglio precisato del 21mo secolo una versione molto più evoluta dei Borg (vedi Star Trek) colonizzi l'intero universo, ovviamente «resistance is futile». [2] https://en.wikipedia.org/wiki/Positivism#Positivism_today : il positivismo è talmente perverso da riuscire a nascondersi benissimo e apparire qualsiasi altra cosa, tipo "evidence based <qualcosa>" :-O «To complicate the issues further, few practising scholars explicitly state their epistemological commitments, and their epistemological position thus has to be guessed from other sources such as choice of methodology or theory.» [3] https://it.wikipedia.org/wiki/Indulgenza#Lo_scandalo_della_vendita_delle_in… ...solo che col protestantesimo "semplicemente" il "virtue signalling" religioso ha assunto altre forme. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari

by Daniela Tafani

Sì, certo. Mi riferivo al fatto che le autrici, pubblicamente interrogate da Quote Investigator, lo hanno attribuito a Bender, che ha confermato: https://twitter.com/QuoteResearch/status/1578770263696871425 https://twitter.com/emilymbender/status/1578829544303521797 Quote Investigator lo ha perciò riportato nella pagina https://quoteinvestigator.com/2022/10/07/word-parrot/ Solo per completezza, ricordo che Regina Rini aveva utilizzato, in precedenza, un'espressione simile, che ha avuto meno fortuna: "all-electronic statistical parrot" https://dailynous.com/2020/07/30/philosophers-gpt-3/#rini ________________________________________ Da: Giuseppe Attardi Inviato: venerdì 13 ottobre 2023 10:15 A: Daniela Tafani Cc: nexa Oggetto: Re: [nexa] IA, lavoro, immaginari Secondo Wikipedia, il termine “stochastic parrot” è stato coniato nell’articolo citato da Gambetta e da me, di cui sono coautrici Bender e Gebru, nel paragrafo che ho riportato. <https://en.wikipedia.org/wiki/Stochastic_parrot> Stochastic parrot<https://en.wikipedia.org/wiki/Stochastic_parrot> en.wikipedia.org<https://en.wikipedia.org/wiki/Stochastic_parrot> [wikipedia.png] <https://en.wikipedia.org/wiki/Stochastic_parrot> — Beppe On 13 Oct 2023, at 08:40, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: Buongiorno. Solo una notazione a margine: l'espressione "pappagalli stocastici" è stata coniata da Emily Bender, linguista computazionale specializzata in natural language processing. La sua posizione, quanto al significato, è formulata distesamente, tra gli altri, qui: E.M. Bender, A. Lascarides, Linguistic fundamentals for natural language processing II. 100 essentials from semantics and pragmatics, 2020, https://link.springer.com/book/10.1007/978-3-031-02172-5

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari

by Giuseppe Attardi

Secondo Wikipedia, il termine “stochastic parrot” è stato coniato nell’articolo citato da Gambetta e da me, di cui sono coautrici Bender e Gebru, nel paragrafo che ho riportato. https://en.wikipedia.org/wiki/Stochastic_parrot — Beppe > On 13 Oct 2023, at 08:40, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > > Buongiorno. > > Solo una notazione a margine: > l'espressione "pappagalli stocastici" è stata coniata da Emily Bender, linguista computazionale specializzata in natural language processing. > > La sua posizione, quanto al significato, è formulata distesamente, tra gli altri, qui: > > E.M. Bender, A. Lascarides, Linguistic fundamentals for natural language processing II. 100 essentials from semantics and pragmatics, 2020, > https://link.springer.com/book/10.1007/978-3-031-02172-5 >

Oct. 13, 2023

Re: [nexa] Can Large Language Models reason?

by Daniela Tafani

Norvig scrive: "Decades from now, they will be recognized as the first true examples of AGI" Mi pare una variante della fallacia del primo passo (forse con un contributo della fallacia degli esempi tratti dal futuro): se quello che siete in grado di realizzare oggi sarà interpretato, tra qualche decennio, per usare l'esempio di Dreyfus, come l'azione di una scimmia che si arrampica su un albero ed è convinta, con ciò, di essere in cammino verso la luna, oppure come un passo verso l'AGI, ossia su un sentiero che si trova in un continuum rispetto alla meta - che non richiede perciò che si cambi rotta o strategia o che si abbandoni il progetto e si ricominci dall'inizio - lo sapremo tra qualche decennio. Un saluto, Daniela ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giuseppe Attardi <attardi(a)di.unipi.it> Inviato: giovedì 12 ottobre 2023 21:50 A: nexa Oggetto: [nexa] Can Large Language Models reason? Secondo Peter Norvig stanno addirittura raggiungendo la AGI: https://www.noemamag.com/artificial-general-intelligence-is-already-here/ — Beppe On 12 Oct 2023, at 15:00, nexa-request(a)server-nexa.polito.it wrote: From: Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> To: "nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Subject: [nexa] Can Large Language Models reason? Message-ID: <c57ae4ebaa76494ea2f7ec1ef19b3646(a)unipi.it<mailto:c57ae4ebaa76494ea2f7ec1ef19b3646@unipi.it>> Content-Type: text/plain; charset="iso-8859-1" Melanie Mitchell, Can Large Language Models reason? https://aiguide.substack.com/p/can-large-language-models-reason (non lo copio di seguito perchè immagini e formattazione servono)

Oct. 13, 2023

Re: [nexa] Can Large Language Models reason?

by Daniela Tafani

Grazie della precisazione. Temo di non aver formulato la frase in modo chiaro, visto che l'hai intesa come la tesi sciocca che correttamente confuti. Mi riferivo solo e specificamente a ciò che ho elencato. Quello che ho scritto è attestato dagli stessi produttori: "allucinazioni", ad esempio, è un'antropomorfizzazione ed è pericolosamente fuorviante, perchè sappiamo (questo, intendevo) che il sistema non ha alcuna allucinazione, nel senso proprio del termine. Lo rileva esplicitamente OpenAI in GPT-4 technical report, https://arxiv.org/abs/2303.08774: "We use the term 'hallucinations,' though we recognize ways this framing may suggest anthropomorphization, which in turn can lead to harms or incorrect mental models of how the model learns"(1) Sul resto, sarei interessata a conoscere il tuo parere sulla tesi formulata in I. van Rooij, O. Guest, F.G. Adolfi, R. de Haan, A. Kolokolova, P. Rich, Reclaiming AI as a theoretical tool for cognitive science, August 1, 2023, https://doi.org/10.31234/osf.io/4cbuv: The contemporary field of AI, however, has taken the theoretical possibility of explaining human cognition as a form of computation to imply the practical feasibility of realising human(-like or -level) cognition in factual computational systems; and, the field frames this realisation as a short-term inevitability. Yet, as we formally prove herein, creating systems with human(-like or -level) cognition is intrinsically computationally intractable. This means that any factual AI systems created in the short-run are at best decoys. When we think these systems capture something deep about ourselves and our thinking, we induce distorted and impoverished images of ourselves and our cognition. In other words, AI in current practice is deteriorating our theoretical understanding of cognition rather than advancing and enhancing it. Grazie, buona giornata, Daniela ________________________________________ Da: Giuseppe Attardi <attardi(a)di.unipi.it> Inviato: venerdì 13 ottobre 2023 09:21 A: Daniela Tafani Cc: nexa Oggetto: Re: [nexa] Can Large Language Models reason? Non so quello che “sanno tutti”, e quanto a me sono più le cose che non so di quelle che so. Alcune cose le so perché ho evidenza diretta della loro verità (so che adesso è venerdì), altre perché qualcuno di cui mi fido, ha prodotto tale evidenza e altri non sono stati in grado di confutarla (conoscenza scientifica), altre non le so perché tale evidenza non l’ho ancora trovata, altre infine non le so perché non sono in grado di capirle. Quest’ultimo potrebbe essere il caso in questione. L’articolo di Norvig ha sollevato un dibattito tra gli esperti, cercando di interpretare questa affermazione dell’articolo: "Given example inputs and outputs of any function that can be computed by any computer, a neural net can learn to approximate that function. " L’affermazione fa riferimento a quest’altro articolo: <https://arxiv.org/pdf/2309.06979.pdf> arxiv.org<https://arxiv.org/pdf/2309.06979.pdf> [X] <https://arxiv.org/pdf/2309.06979.pdf> Che conclude: given suitable data, simple next-token predictors can be trained to effectively learn virtually any function of interest. Consequently, if there exists some computer program capable of realizing AGI, then it is theoretically plausible to attain AGI through training simple next token predictors, given the appropriate data. L’articolo non è facile da capire, ma questa è la mia interpretazione, approvata da altri partecipanti alla discussione. In the paper by Malach, he fine-tunes the LLM to produce the CoT prompt, which is then used to drive the model to perform an unlearnable task. In the example of multiplication, the task is split into several subtasks, which involve the learnable tasks of addition and subtraction. The number of examples to fine-tune the CoT generator is a limitation of the approach, which is acknowledged in the paper. In tutta onestà, non credo di sapere “cosa il sistema faccia ordinariamente” né tantomeno di cosa sia in grado di fare. Spero che gli altri, qui, lo sappiano. — Beppe On 12 Oct 2023, at 22:38, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: L'ho trovato sconcertante: sappiamo tutti, qui, credo, che errori o allucinazioni o bias non sono errori, sono solo i momenti in cui ci accorgiamo di cosa il sistema ordinariamente faccia ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giuseppe Attardi <attardi(a)di.unipi.it> Inviato: giovedì 12 ottobre 2023 21:50 A: nexa Oggetto: [nexa] Can Large Language Models reason? Secondo Peter Norvig stanno addirittura raggiungendo la AGI: https://www.noemamag.com/artificial-general-intelligence-is-already-here/ — Beppe On 12 Oct 2023, at 15:00, nexa-request(a)server-nexa.polito.it wrote: From: Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> To: "nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Subject: [nexa] Can Large Language Models reason? Message-ID: <c57ae4ebaa76494ea2f7ec1ef19b3646(a)unipi.it<mailto:c57ae4ebaa76494ea2f7ec1ef19b3646@unipi.it>> Content-Type: text/plain; charset="iso-8859-1" Melanie Mitchell, Can Large Language Models reason? https://aiguide.substack.com/p/can-large-language-models-reason (non lo copio di seguito perchè immagini e formattazione servono)

Oct. 13, 2023