- nexa - server-nexa.polito.it

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by 380°

Cara Daniela, Daniela Tafani <daniela.tafani(a)unipi.it> writes: > Buonasera, 380° > > Il 13/10/2023 17:59, 380° ha scritto: >>> la mia protesta con relativa domanda era un'altra: >> >> [...] >> >>>> ...tranne uno: aver inserito la R come quinta lettera dell'acronimo, il >>>> razionalismo, mi da un colpo al cuore e scatena in me un moto di vibrata >>>> protesta! No, non incolpate Kant per tutto questo, ve ne prego!!! >>>> Perché Kant è tardo-razionalista, vero?!? O è già post-razionalista e >>>> rivoluziona la filosofia col suo idealismo trascendentale? >> >> Daniela tu dove "metteresti" Kant: è un (tardo) razionalista come lo >> colloca Wikipedia [1] o non lo è già più e va "spostato" nell'idealismo? >> >> É solo per capire se la R dell'acronimo è azzeccata o no :-) > > Il "Razionalismo" che sta in TESCREAL lo metterei in 1984, come > esempio di bispensiero. OK chiarissimo: bipensiero espresso con la neolingua. > C'è un ristretto gruppo di multimiliardari bianchi che sforna, con la > velocità con cui si lanciano nuove campagne di marketing, dottrine e > teorie che hanno la consistenza filosofica di un borseggiatore che ti > dica "guarda lassù, il Bene scende dal cielo su un cavallo alato", [...] Che dire, non avresti potuto essere più chiara di così. "Inconsistenza filosofica a mitragliatrice" credo sia il segno di questi tempi. [...] > e il concentrarsi, pensosi, sul chiedersi se le auto a guida autonoma > dovrebbero investire e uccidere, in caso di incidente inevitabile, un > ricco o un povero, un uomo magro o uno grasso (1). (1) https://www.moralmachine.net/ Quanta ighiozia. > Uno si distrae un minuto e c'è già un nuovo culto: l'ultimo, se non mi > sono distratta, è l'e/acc (effective accelerationism). La macchina sparastronzate non si ferma mai, vedo. [...] > Su Kant, ha ragione Maria Chiara: l'etichetta "razionalista" non > aiuta. Sì grazie, in generale le etichette sono "very lossy compression" [...] > Anche la persona più semplice, perciò, sa benissimo cosa deve fare, > senza aspettare che arrivi il filosofo a spiegarglielo: > > "se si domanda in cosa consista propriamente quella moralità pura che > deve servire da pietra di paragone per stabilire il valore morale di > ogni azione, debbo confessare che soltanto i filosofi possono > considerare incerta la soluzione di questo problema; Solo un genio oltre ogni ragiovevole dubbio poteva esprimere così chiaramente "la soluzione di questo problema" :-D (note to self: rileggere le tre critiche.) [...] > Il lavoro del filosofo è di secondo livello (Kant è l'inventore della > metaetica): Ecco Daniela, grazie per la succinta quanto definitiva esplicazione di qual'è il lavoro del filosofo. Ho l'impressione che a molti, forse troppi, in questa lista questi scambi possano apparire "trolleggiamenti" sulla filosofia che nulla hanno a che fare con l'informatica e nello specifico con l'"Intelligenza Artificiale" (Generale, 'mo?)... ...invece credo che un briciolo di umiltà e di sano studio (o ripasso) di certi concetti *fondanti* della nostra cultura potrebbero evitarci di dover perdere un sacco di tempo prezioso per "smontare" ma "mitragliatrice sparatronzate". [...] > A partire da Cartesio, il passaggio dall’evidenza alla verità non è > autogarantito. Eh già, dovrebbe essere un "dato per scontato" ma ho l'impressione che questa epica "guerra" durerà ancora un pochino, almeno fino al prossimo "AI Winter" (arriva, sicuro come il trascorrere delle stagioni) [...] > Il criticismo è perciò un discorso sul metodo. L’idea della critica è > quella di una premessa necessaria al sistema filosofico. E, _siccome_ il sistema scientifico è un sottoinsieme del sistema filosofico, il "discorso sul metodo" dovrebbe essere una premessa necessaria di ogni praxis scientifica. > La filosofia per Kant non comincia da questo o quell’ente, e tantomeno > da Dio, ma dall’interrogarsi sulla capacità conoscitiva umana, senza > assumere che le strutture della conoscenza coincidano con la struttura > della realtà. Anche la scienza non dovrebbe mai assumere che le strutture della conoscenza coincidano con la struttura della realtà. [...] Grazie mille, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 14, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by 380°

Buongiorno MCP, Maria Chiara Pievatolo <mariachiara.pievatolo(a)unipi.it> writes: > On 13/10/23 17:59, 380° wrote: > >> >> Tuttavia, la mia protesta con relativa domanda era un'altra: >> >> [...] >> >>>> ...tranne uno: aver inserito la R come quinta lettera dell'acronimo, il >>>> razionalismo, mi da un colpo al cuore e scatena in me un moto di vibrata >>>> protesta! No, non incolpate Kant per tutto questo, ve ne prego!!! >>>> Perché Kant è tardo-razionalista, vero?!? O è già post-razionalista e >>>> rivoluziona la filosofia col suo idealismo trascendentale? > > Le tassonomie dei manuali sono talvolta letali per il pensiero > filosofico. Probabilmente le tassonomie sono letali per qualsiasi pensiero e dovrebbero essere sostituite da adeguate ontologie ben descritte (in RDF) e distribuite in AGPL... in effetti https://www.wikidata.org/wiki/Q9312 ...ma sto divagando! :-D > Qui mi pare decisivo non il sostantivo, bensì l'aggettivo: > > *critico*. Bellissimo! Effettivamente avrebbe potuto venirmi il sospetto visto che la sua trilogia è una Kritik. > Kant dice che la sua filosofia compie una rivoluzione copernicana Già. [...] > Per esempio, l'informatico che crede di aver compreso una porzione del > reale solo perché crede di essere riuscito a scrivere un programma che > ne imita, in modo più o meno allucinato, una funzione, sarebbe stato > trattato da Kant come un metafisico tolemaico, o pre-critico. > > Infatti questa straordinaria affermazione ha senso solo col presupposto > implicito che la rappresentazione dell'universo come un grande computer > non sia un modello fra i tanti possibili elaborato dal suo punto di > vista per aiutare se stesso e altri a darne un senso parziale e > prospettico, ma che l'universo stesso *sia* un grande computer perché > lui lo vede così. Non so come sia possibile ma a me questa analisi critica kantiana è /intuitivamente/ chiara, direi scontata: un po' come dovrebbe essere scontato a qualsiasi geografo/astrofisico che la mappa del pianeta terra NON è il pianeta terra [1], analogamente a un informatico dovrebbe essere chiaro che il modello usato nell'algoritmo implementato nel programma [2] non corrisponde all'"oggetto" studiato, a meno che non ci si /limiti/ a fare lo spelling di "sugar" o a calcolare "2 + 2" (numeri in base 10) [1]. In altre perole, non *deve* bastare il "giochino" di dire che un certo modello dell'universo è giusto e un'altro sbagliato con giustificazini "sensibili", occorre saper spiegare _perché_ e, di conseguenza, fare in modo che _altri_ possano liberamente /giudicare/ qual'è quello relativamente più sbagliato. [1] > Per il resto rimando al IV capitolo di Computer Power and Human Reason > di Joseph Weizenbaum. Ottimo rimando, grazie! Saluti, 380° [1] secondo me non è un caso che Isaac Asimov ha ampiamente usato l'esempio sulla "sfericità" della terra per illustrare «The Relativity of Wrong» https://hermiene.net/essays-trans/relativity_of_wrong.html «Having exact answers, and having absolute rights and wrongs, minimizes the necessity of thinking, and that pleases both students and teachers. For that reason, students and teachers alike prefer short-answer tests to essay tests; multiple-choice over blank short-answer tests; and true-false tests over multiple-choice.» [2] programma sorgente, con tutta la sua complessa catena di dipendenze, trasformato in codice binario, eseguito da una macchina attraverso un processo che è influenzato dall'"enviromment" oltre che dall'interazione con le persone. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 14, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by Daniela Tafani

Buonasera, 380° Il 13/10/2023 17:59, 380° ha scritto: >> la mia protesta con relativa domanda era un'altra: > > [...] > >>> ...tranne uno: aver inserito la R come quinta lettera dell'acronimo, il >>> razionalismo, mi da un colpo al cuore e scatena in me un moto di vibrata >>> protesta! No, non incolpate Kant per tutto questo, ve ne prego!!! >>> Perché Kant è tardo-razionalista, vero?!? O è già post-razionalista e >>> rivoluziona la filosofia col suo idealismo trascendentale? > > Daniela tu dove "metteresti" Kant: è un (tardo) razionalista come lo > colloca Wikipedia [1] o non lo è già più e va "spostato" nell'idealismo? > > É solo per capire se la R dell'acronimo è azzeccata o no :-) Il "Razionalismo" che sta in TESCREAL lo metterei in 1984, come esempio di bispensiero. C'è un ristretto gruppo di multimiliardari bianchi che sforna, con la velocità con cui si lanciano nuove campagne di marketing, dottrine e teorie che hanno la consistenza filosofica di un borseggiatore che ti dica "guarda lassù, il Bene scende dal cielo su un cavallo alato", mentre ti sfila il portafogli e le chiavi della macchina. Non credo abbia senso discutere col borseggiatore se il Bene vada a piedi o a cavallo o se scenda dal cielo o nasca dalla terra, né tantomeno se parla del Bene in modo equivoco rispetto a una qualsiasi dottrina morale seria. Al borseggiatore occorre resistere e mostrare che non ci siamo cascati. Se ha senso, chiamando la polizia. Basti pensare che chiamano "etica dell'IA" il non fare una piega davanti al furto dei dati, alla sorveglianza, alla profilazione algoritmica, ai danni generati dall'uso dei loro oracoli e ai costi ambientali (colonialmente distribuiti) del loro modello di business, e il concentrarsi, pensosi, sul chiedersi se le auto a guida autonoma dovrebbero investire e uccidere, in caso di incidente inevitabile, un ricco o un povero, un uomo magro o uno grasso (1). Uno si distrae un minuto e c'è già un nuovo culto: l'ultimo, se non mi sono distratta, è l'e/acc (effective accelerationism). In parole povere, lo stesso borseggiatore di prima che cerca di convincerti con un discorso in stile Amici miei: ""e/acc is about having faith in the dynamical adaptation process and aiming to accelerate the advent of its asymptotic limit; often reffered to as the technocapital singularity"(2) Su Kant, ha ragione Maria Chiara: l'etichetta "razionalista" non aiuta. In ambito morale, Kant può essere definito "razionalista", ma non nel senso che dobbiamo prendere carta e penna e dedurre ciò che dovremmo fare da chissà quali principi. Per Kant, la legge morale è una legge della ragione, è la ragione stessa che si impone immediatamente a ogni uomo. Anche la persona più semplice, perciò, sa benissimo cosa deve fare, senza aspettare che arrivi il filosofo a spiegarglielo: "se si domanda in cosa consista propriamente quella moralità pura che deve servire da pietra di paragone per stabilire il valore morale di ogni azione, debbo confessare che soltanto i filosofi possono considerare incerta la soluzione di questo problema; infatti la ragione umana comune l’ha risolto da lungo tempo, come quello della differenza fra la mano destra e la sinistra, cioè mediante l’uso abituale e senza far ricorso alla escogitazione di formule universali" (3) Questo non significa che conosciamo la legge morale con una sorta di intuizione mistica. La tesi di Kant è che gli uomini utilizzino abitualmente un criterio del giudizio morale di cui pur non hanno una chiara consapevolezza: Il lavoro del filosofo è di secondo livello (Kant è l'inventore della metaetica): il filosofo individua, attraverso l’analisi del giudizio morale comune, il principio morale che gli uomini in genere non conoscono «separato e in forma universale» e che tuttavia utilizzano come regola per i loro giudizi morali. Caratteristica dell’ambito morale è per Kant – con una doppia adesione a quelli che oggi chiameremmo intuizionismo e razionalismo – una conoscenza immediata che, nel giudizio morale comune, può non includere la consapevolezza del principio formale che si sta utilizzando, ma che resta tuttavia intrinsecamente razionale, ossia traducibile in concetti e esprimibile in termini meramente formali. Utilizziamo automaticamente una norma morale di cui è comunque sempre possibile fornire una formulazione razionale. Sull'ambito teoretico, ha già scritto l'essenziale Maria Chiara; in una sola parola, quello di Kant è criticismo. L'opposto del criticismo è il dogmatismo. Per il dogmatismo, non mi serve un criterio di verità, né un discorso sul metodo. A partire da Cartesio, il passaggio dall’evidenza alla verità non è autogarantito. Nella filosofia moderna, il problema della conoscenza diventa preliminare, perché si è perso un rapporto pacifico, ingenuo, diretto con l’essere. Il criticismo è perciò un discorso sul metodo. L’idea della critica è quella di una premessa necessaria al sistema filosofico. La filosofia per Kant non comincia da questo o quell’ente, e tantomeno da Dio, ma dall’interrogarsi sulla capacità conoscitiva umana, senza assumere che le strutture della conoscenza coincidano con la struttura della realtà. La rivoluzione copernicana consiste nell'occuparsi delle stesse nozioni di cui si occupava l'ontologia, senza più pensarle come determinazioni dell'essere. Per Kant, quelle stesse nozioni (ad esempio, quella di causalità) appartengono al soggetto, le mettiamo noi nell'esperienza, non le scopriamo nell'essere. La questione di che cosa sia la ragione, per Kant, la rimanderei a un'altra volta, per evitare due richiami per OT nello stesso giorno. Un saluto, Daniela (1) https://www.moralmachine.net/ (2) https://twitter.com/timnitGebru/status/1624551890284589056 (3) I. Kant, Critica della ragion pratica, in I. Kant, Scritti morali, a cura di P. Chiodi, Utet, Torino 1970, pp. 305 e ssgg.

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by Antonio

> 8. https://en.wikipedia.org/wiki/Longtermism > una versione laica del «adesso soffrite in silenzio, in un > lontanissimo futuro andrà tutto benissimo» A proposito di "lungotermismo", stasera è andato in onda su Radio 3, in diretta da Futuradio - La festa di Rai Radio 3 a Bolzano, il Teatrogiornale [1], un format di Radio3 secondo il quale un drammaturgo parte da una notizia del giorno ed elabora in poche ore un racconto scenico della durata di mezz'ora, ispirato a quel fatto e realizzato con un gruppo di attori in diretta. Il racconto è ambientato nel 2045 ed ha per protagonista l'intelligenza artificiale della sanità pubblica nell'atto di decidere a chi, tra due ragazzini, in attesa di trapianto di cuore, dovrà essere impiantato il cuore donato. Tra i "ragionamenti" della IA c'è pure quello che, sulla base dei dati, il ragazzino A, a "lungo termine" sarà una persona più "utile" alla società. La sua vita sarà più "degna". Il ragazzino B ... "Ausmerzen" [2] Antonio [1] https://www.raiplaysound.it/audio/2023/10/Futuradio---La-festa-di-Rai-Radio… [2] https://www.youtube.com/watch?v=1jXOmEdRjvQ

Oct. 13, 2023

The End of Hermeneutics [cont. IA, lavoro, immaginari]

by Guido Vetere

Vi ricordate Chris Anderson che parlava di 'End of Theory'? ( https://www.wired.com/2008/06/pb-theory/) Diceva che i 'big data' avrebbero reso obsoleto il metodo scientifico. Quindici anni dopo la scienza usa più e meglio i dati, ma ancora negli stessi paradigmi ipotetico-deduttivi Oggi però lo stesso genere di profezie tecno-empiristiche prendono di mira il linguaggio, e con ben altri mezzi, con ben altre voci. Il linguaggio - dicono - non è quella cosa su cui, da Socrate a Searle passando per Saussure e Wittgenstein, si sono interrogati linguisti e filosofi:è solo il "campo di forze" indotto dalla produzione di testi. L'interpretazione della parola non è quella abduzione soggettiva di cui parlava Peirce, è semplicemente la generazione di una distribuzione di probabilità sulle parole successive. A che serve allora l'ermeneutica? Essa sta già tutta nei miliardi di parametri di un LLM, basta tirarla fuori con qualche prompt Finirà la critica letteraria? O finirà la letteratura tout-court? Ne riparliamo tra quindici anni (spero) Buona serata, G.

Oct. 13, 2023

Re: [nexa] wholeheartedly agree - (era Re: IA, lavoro, immaginari), (maurizio lana)

by karlessi

> Message: 5 > Date: Fri, 13 Oct 2023 18:13:53 +0200 > From: maurizio lana <maurizio.lana(a)uniupo.it> > To: nexa(a)server-nexa.polito.it > Subject: [nexa] wholeheartedly agree - (era Re: IA, lavoro, > immaginari) > Message-ID: <7179350b-6c4d-4800-beff-7e0eb06dcc37(a)uniupo.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" [TAGLIO] >> concludo come sempre fa un mio amico in un'altra mailing list di area >> umanistica: >> comments? Buonasera, concordo, e aggiungo che la questione delle discipline (e delle culture: umanistica, scientifica..) maschera appena la questione a mio parere sottostante, cioè l'attitudine, esistono infatti persone esperte di filosofia che si pongono in maniera autoritaria e saccente. non sempre, ma a me senz'altro capita di pormi in modo saccente, anche se cerco di evitarlo. ciò è probabilmente accertabile in qualsiasi altra disciplina, passata, presente e ancora da inventare, dal momento che un ambito di ricerca e una competenza creano un sapere, il cui esercizio implica un poter parlare situato. A furia di ripetere concetti a noi noti, sotto forma di concatenazioni logiche o di espressioni poetiche poco importa, è facile diventare (o anche solo esser percepiti) bruschi, scostanti, ecc. Parlando/scrivendo gli umani inevitabilmente costruiscono la propria identità, percepita da altri parlanti/scriventi in maniera conforme alla loro percezione, oppure no. Certo, l'identità è ineliminabile, proprio come il potere, ed è una fortuna che sia così: è la condizione per la comunicazione, per l'evoluzione, per il cambiamento. L'identità va gestita, diffusa, moltiplicata, ricreata proprio come il potere. Comunicare è parlare-scrivere da un luogo, cioè assumere un'identità, ovvero costruire un potere-sapere. La scrittura è basata sul linguaggio, il linguaggio sull'identità, l'identità sul potere, e dunque in qualsiasi modo cerchiamo di comunicare siamo già coinvolti nella costruzione di identità, individuali e collettive. la sto buttando in... filosofia? discussione ovvia? incomprensibile? sciocchezze che qualsiasi pappagallo stocastico può scriver di gran lunga meglio e cmq più in fretta? Comunque sia, mi pare assodato che io posso percepire le mie parole come molto semplici anzi banali, altr* come astruse elucubrazioni di un esaltato... ho l'abitudine a vestire i panni del filosofo con gli scienziati, quelli del tecnico con i filosofi, e via dicendo; non per fare il bastian contrario, ma perché di fronte a posture identitarie trovo adeguato mettermi in una situazione non completamente agevole e non del tutto allineata, nemmeno con me stesso. Siccome in questa lista c'è una certa varietà (viva! grazie), tendo a portare l'attenzione su meta-questioni mi colpisce, nell'oggetto della discussione, l'IA, che ritorna. Alcun* ritengono che sia una truffa. Altr* che sia un'occasione (già persa?), insomma c'è da discutere. facendo un passo indietro, non posso evitare di notare che si tratta di un argomento inesistente o quasi fino a pochi anni fa. Prima tutto quello spazio da cos'era occupato? C'erano forse le criptovalute, la blockchain al posto dell'IA. e prima ancora, cosa? i social media? non ricordo, ma vi chiedo: non avete mai l'impressione che si giri in tondo a parlar di argomenti che in fondo NON sono poi così interessanti, ovvero di argomenti in qualche modo di moda e di cui non ci si può esimere di parlare? (au passage: ora si tende a finanziare i progetti con la parola "IA" come qualche tempo fa si finanziava qualsiasi progetto con la parola "blockchain") io sì, e me ne dispiaccio, mi sento in qualche modo eterodiretto (no gomplotto eh!) buona serata k. -- "tecnologie conviviali - https://tc.eleuthera.it" "tecnologie appropriate - https://alekos.net" "pedagogia hacker - https://circex.org"

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by Maria Chiara Pievatolo

On 13/10/23 17:59, 380° wrote: > > Tuttavia, la mia protesta con relativa domanda era un'altra: > > [...] > >>> ...tranne uno: aver inserito la R come quinta lettera dell'acronimo, il >>> razionalismo, mi da un colpo al cuore e scatena in me un moto di vibrata >>> protesta! No, non incolpate Kant per tutto questo, ve ne prego!!! >>> Perché Kant è tardo-razionalista, vero?!? O è già post-razionalista e >>> rivoluziona la filosofia col suo idealismo trascendentale? > Le tassonomie dei manuali sono talvolta letali per il pensiero filosofico. Molti classificano Kant come idealista critico, ma si potrebbe ugualmente affermare che è un razionalista critico, e perfino un empirista critico. Qui mi pare decisivo non il sostantivo, bensì l'aggettivo: *critico*. Kant dice che la sua filosofia compie una rivoluzione copernicana (qui lo spiego brevemente, ma parlando d'altro: https://btfp.sp.unipi.it/dida/kant_7/ar01s15.xhtml#esseriliberi) perché anziché dare per scontato che il reale sia così come lo vediamo, alla maniera di Tolomeo, pone il problema (auto)-critico della prospettiva dell'osservatore come a un tempo decisiva e limitante per la sua stessa conoscenza. Per esempio, l'informatico che crede di aver compreso una porzione del reale solo perché crede di essere riuscito a scrivere un programma che ne imita, in modo più o meno allucinato, una funzione, sarebbe stato trattato da Kant come un metafisico tolemaico, o pre-critico. Infatti questa straordinaria affermazione ha senso solo col presupposto implicito che la rappresentazione dell'universo come un grande computer non sia un modello fra i tanti possibili elaborato dal suo punto di vista per aiutare se stesso e altri a darne un senso parziale e prospettico, ma che l'universo stesso *sia* un grande computer perché lui lo vede così. Per il resto rimando al IV capitolo di Computer Power and Human Reason di Joseph Weizenbaum. Copernicanamente, MCP

Oct. 13, 2023

wholeheartedly agree - (era Re: IA, lavoro, immaginari)

by maurizio lana

riprendo una frase verso il fondo del messaggio di Giovanni (Biscuolo) e sviluppo un tema laterale: > Ed è per questo che gli umanisti, tra cui linguisti, filosofi, > semiologi, epistemologi (la specializzazione nel settore è letteralmente > esplosa) ci stanno lavorando da millenni, mi auguro che nessuno > scienziato pensi davvero di buttare letteralmente nel cesso il loro > lavoro. > Nel mentre sull'argomento se ne sentono davvero di cotte e di crude. :-D io faccio parte del gruppo descritto sinteticamente come "gli umanisti, tra cui linguisti, filosofi, semiologi, epistemologi" e mi ritrovo molto in quello che scrive Giovanni (B). nelle discussioni sui sistemi di IA, emergono una quantità di questioni che sono /oltre/ le conoscenze e competenze professionali e disciplinari di molti di coloro che ne scrivono qui. ma sembra che essendo questioni 'umanistiche' (linguistiche, filosofiche, ecc.) chiunque ne possa parlare come padrone del campo e come maestro di quei saperi - e non come uno straniero che con affetto ammirazione rispetto e voglia di sapere si affaccia ad una cultura diversa da quella in cui si è formato. saperi che come giustamente Giovanni (B) ricorda sono in elaborazione da millenni e non perché gli umanisti sono dei fessi, o dei perditempo o dei burloni che stanno ingannando tutto il resto del mondo, ma perché i problemi con cui si confrontano hanno delle caratteristiche di difficoltà e complessità del tutto specifiche. la sicumera (scusate la franchezza) con cui talora i temi umanistici sono qui delineati, cucinati e serviti da chi li conosce per averne letto, non per averci studiato per decine d'anni, scoraggia chi appartiene al campo umanistico dall'intervenire anche quando avrebbe qualcosa da dire. perché lì si è abituati ad un procedimento dialettico un po' più sottile anche se non meno tagliente, in cui si parla nei limiti dei saperi che si possiedono ed è più evidente che la costruzione del sapere è dialettica e non intellettualmente forzuta. il mondo funziona bene anche se qui un non informatico pensa 3 volte se parlare, e poi 2,7 volte decide di no, ma 1) questo tema del "come si discute" in questa mailing list è già emerso; e 2) può esservi utile avere un insight su come la scrittura dei messaggi di questa lista mostra una ben definita concezione del rapporto tra le due culture (o una concezione che le due sono in realtà una, perché una delle due pensa l'altra come a sua disposizione) concludo come sempre fa un mio amico in un'altra mailing list di area umanistica: comments? Maurizio Il 13/10/23 16:49, 380° <g380(a)biscuolo.net> ha scritto: > Date: Fri, 13 Oct 2023 16:32:15 +0200 > From: 380°<g380(a)biscuolo.net> > To: Giuseppe Attardi<attardi(a)di.unipi.it>,nexa(a)server-nexa.polito.it > Subject: Re: [nexa] IA, lavoro, immaginari [CDT:L-1] [CDT:L3] > Message-ID:<87r0lya900.fsf(a)xelera.eu> > Content-Type: text/plain; charset="utf-8" > > Buongiorno Giuseppe, > > [un appello generale: per favore quando si fanno citazioni a delle fonti > è possibile avere il riferimento?] > > Un modesto consiglio non richiesto: prego chiunque di non prendere mai > sul personale le critiche al proprio lavoro o alle proprie convinzioni > scientifiche, non mi riferisco a nessuno in particolare. > > Giuseppe Attardi<attardi(a)di.unipi.it> writes: > > [...] > >> Daniele Gambetta riporta il termine spregiativo di “stochastic parrot” > Capisco bene che quel termine faccia incazzare un numero incalcolabile > di persone ma bisogna ammettere che è una _genialata_ (che mai e poi mai > avrebbe potuto essere generata da un LLM, tra l'altro) > > A un brianzolo per descrivere in poche parole quello che producono gli > LLM è «fà e disfà l'è tücc un lavurà» > >> che è stato affibbiato ai LLM da Timnit Gebru e colleghi. > Daniela Tafani ha già spiegato chi ha "affibiato" il termine e perché. > > Nota a margine: credo che non pochi etologi avrebbero da ridire sul > fatto che gli LLM siano anche solo vagamente accostati ai pappagalli (o > qualsiasi altro animale), la cui intelligenza probabilmente è di diversi > ordini di grandezza superiore a qualsiasi AI: «Parrots have evolved a > primate-like telencephalic-midbrain-cerebellar circuit» > https://www.nature.com/articles/s41598-018-28301-4 > > Però è una nota a margine, spero non parta un sub-thread su questo. > >> L’articolo è molto controverso ed è costato a Gebru il posto a Google. > Perché in Google non c'è posto per la ricerca scientifica. Punto. > >> Nell’articolo si sostiene che: > Sì ma quale articolo, di grazia?!? > >> An LM is a system for haphazardly stitching together sequences of >> linguistic forms it has observed in its vast training data, according >> to probabilistic information about how they combine, but without any >> reference to meaning: a stochastic parrot. >> >> Questa affermazione è superficiale e inesatta, > Com'è che i superficiali ed inesatti sono sempre gli altri? > > Quella frase, decontestualizzata, può benissimo /apparire/ superficiale > e inesatta, ma magari nel giusto contesto anche no. > > «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?» > > https://dl.acm.org/doi/epdf/10.1145/3442188.3445922 > https://archive.org/details/stochastic-parrots-3442188.3445922 > https://web.archive.org/web/20210311003046/https://dl.acm.org/doi/pdf/10.11… > https://archive.is/z4LY8 > > Purtroppo, come tanti, TROPPI articoli pubblicati, lo studio è > disponibile solo in formato PDF quindi non posso produrre un link > diretto al capitolo dal quale è stata estratta la citazione, che è: «6.1 > Coherence in the Eye of the Beholder» > > Chiunque abbia intenzione di comprendere il senso della frase estratta > sopra, _deve_ prendersi almeno 10 minuti per leggere il capitolo 6.1 del > paper, che contiene diversi riferimenti bibliografici a supporto di > delle affermazioni che vengono fatte, sono la base (scientifica?!?) per > la _sintesi_ /polemica/ che viene fatta al termine del capitolo, quella > estratta sopra. > > Io cito solo questo (che però si può comprendere solo /contestualizzando/): > > --8<---------------cut here---------------start------------->8--- > > This can seem counter-intuitive given the increasingly fluent qualities > of automatically generated text, but we have to account for the fact > that our perception of natural language text, regardless of how it was > generated, is mediated by our own linguistic competence and our > predisposition to interpret communicative acts as conveying coherent > meaning and intent, whether or not they do [89, 140]. > > --8<---------------cut here---------------end--------------->8--- > > Questo, tra l'altro, la dice _molto_ lunga in merito all'efficacia del > c.d. "Touring Test", perché è ovvio che un ignorante in materia (già, ma > /quale/ materia?) può essere banalmente ingannato, perfino da un > programma. > >> perché non tiene conto di alcune cose: >> >> 1. Alla base dei LLMs ci sono i word embedding, > trattasi sempre di NLP, sempre più sofisticato ma quello è, > informaticamente parlando > >> un modo per assegnare un significato alle parole, > «Così come l'amore non esiste ed è per quello che lo /facciamo/, le > parole non hanno significato ed è per quello che noi glielo /diamo/.» > (elucubrazione mia) > > Il significato alle parole lo danno gli umani, punto. > > Tratto sempre dal paragrafo «6.1 Coherence in the Eye of the Beholder»: > > --8<---------------cut here---------------start------------->8--- > > human communication relies on the interpretation of implicit meaning > conveyed between individuals. The fact that human-human communication is > a jointly constructed activity [29, 128] is most clearly true in > co-situated spoken or signed communication, > > --8<---------------cut here---------------end--------------->8--- > > Riferimenti: > [29] Herbert H. Clark. 1996. Using Language. Cambridge University Press, Cambridge > > [128] Greg J. Stephens, Lauren J. Silbert, and Uri Hasson. 2010. Speaker–listener > neural coupling underlies successful communication. Proceedings of the National > Academy of Sciences 107, 32 (2010), 14425–14430.https://doi.org/10.1073/pnas. > 1008662107 arXiv:https://www.pnas.org/content/107/32/14425.full.pdf > https://web.archive.org/web/20220930172709/https://www.pnas.org/doi/pdf/10.… > https://archive.ph/6D2Gy > >> un problema che ha eluso la filosofia e la linguistica per due >> millenni > No dai, questa è davvero troppo grossa! > >> e che il Deep Learning ha risolto. > Anche questa è un filino esagerata... ma io chi sono per dirlo?!? > >> Questo è quanto afferma Hinton in proposito: "Many people who think >> it’s just statistics are thinking in terms of program models or >> counting the co-occurrence frequencies of words. We think this process >> of creating features of the embeddings and then interactions between >> features is actually understanding. > Sì credo che ormai il qui pro quo su cosa significhi "understanding" sia > chiarissimo > >> Once you’ve taken the raw data of symbol strings > Già solo far riferimento a "raw data" in un contesto scientifico > dovrebbe far scattare l'allarme rosso, no? > > --8<---------------cut here---------------start------------->8--- > > data is self-contained and context-independent, and that with sufficient > data, concerns about causation, bias, selection, and incompleteness can > be disregarded. It is a seductive vision: Raw data, uncorrupted by > theory or ideology, will lead us to the truth; complex problems will be > solved simply by throwing enough data at them. No experts will be > required, apart from those needed to produce the data and herald their > findings; no theory, values, or preferences will be relevant; nor will > it be necessary to scrutinize any assumptions. > > --8<---------------cut here---------------end--------------->8--- > (tratto da:https://www.thenewatlantis.com/publications/why-data-is-never-raw) > > [...] > >> I believe that is understanding. I believe that is what our brains are >> doing. But that’s an issue to be discussed by the research community >> and it would be great if we could convince people that they are not >> just stochastic parrots.” > Interessantissimo questo sillogismo: siccome il cervello delle persone > comprende come fa una macchina (LLM, deep learning, ecc.) sarebbe bello > che convincessimo le persone che non non sono solo pappagalli > stocastici. > > Ho letto bene? > > Siccome il cervello funziona così?!?!? > > Quindi grazie agli LLM non solo abbiamo risolto questioni filosofiche > aperte da millenni ma abbiamo pure capito come funziona il cervello > umano. > > Non è un po' esagerata come linea di dissertazione accademica? > >> 2. I LLM sono evoluti dai tempi dell’articolo, in particolare, ChatGPT >> e successivi sono stati allenati a interagire in conversazioni con il >> fine-tuning e quindi a tenere conto del contesto della discussione > La cosa non sposta di una virgola la questione, infatti: > > «With GPT-4, dangers of ‘Stochastic Parrots’ remain, say researchers. No > wonder OpenAI CEO is a ‘bit scared’ | The AI Beat», March 20, 2023 > > https://venturebeat.com/ai/with-gpt-4-dangers-of-stochastic-parrots-remain-… > > --8<---------------cut here---------------start------------->8--- > > Fast forward to now: There was no research paper attached to the GPT-4 > launch that shares details about its architecture (including model > size), hardware, training compute, dataset construction or training > method. > > --8<---------------cut here---------------end--------------->8--- > > In altre parole: non c'è proprio nessun consenso scientifico che > giustifichi l'affermazione che gli (extra)LLM siano in grado di > comprendere il linguaggio. > >> 3. La capacità di “comprendere” è difficile da definire, almeno in >> termini umani. > Ed è per questo che gli umanisti, tra cui linguisti, filosofi, > semiologi, epistemologi (la specializzazione nel settore è letteralmente > esplosa) ci stanno lavorando da millenni, mi auguro che nessuno > scienziato pensi davvero di buttare letteralmente nel cesso il loro > lavoro. > > Nel mentre sull'argomento se ne sentono davvero di cotte e di crude. :-D > > [...] > >> Ma in gran parte di tali test, GPT-4 supera il livello medio umano. > Questo la dice lunga sul valore dei test di valutazione. > > Sulla valutazione della comprensione umana ci sarebbe da fare un > convegno intero, no? > > https://journals.sagepub.com/doi/full/10.1177/1098214020920710 > «What Is Evaluation?: Perspectives of How Evaluation Differs (or Not) > From Research» > > https://link.springer.com/article/10.1007/s11251-020-09522-5 > «Promoting students’ use of epistemic understanding in the evaluation of > socioscientific issues through a practice-based approach» > > Ha tutto molto a che fare col "giudizio" kantiano. > >> Quindi, a tutti gli effetti pratici, capisce non solo una, ma molte >> materie. Lo “capisce” in una qualche forma diversa dalla nostra, ma >> pur sempre verificabile. > Ecco appunto: verificabile da chi?!? Da uno di noi, un umano. > > Tra l'altro, se è persino verificabile (da un umano) che lo "capisce" in > una qualche forma diversa significa che NON lo capisce come lo capiscono > gli umani... che è solo un giro di parole per dire che non lo capisce. > > [...] > >> Uno di questi si lega alla teoria dei sistemi complessi di Giorgio >> Parisi, che spiega il loro comportamento come dovuto all’applicazione >> su larga scala di semplici leggi probabilistiche. > E se lo dice Giorgio Parisi /allora/ è dimostrato: l'intero universo è > un _meccanismo_ che si spiega attraverso l'applicazione su larga scala > di leggi probabilistiche... più che la teoria del Big Bang siamo alla > teoria del Big Bingo. > > [...] > >> In sostanza, siamo di fronte a questioni scientifiche articolate e >> complesse, e suggerisco che vengano affrontate basandosi su studi >> scientifici, di cui c’è molto bisogno. > Studi scientifici multi-disciplinari che non scartino a priori lavori di > altri scienziati solo perché non si adattano bene al modello > dell'universo prescelto _e_ non ignorino un sano lavoro meta-scientifico > che non può non coinvolgere il lato /umanistico/ della scienza. > > In altre parole non dimenticarsi mai che la scienza fa parte della > filosofia e non viceversa. > > [...] > > Cordiali saluti, 380° > ------------------------------------------------------------------------ the knowledge gap between rich and poor is widening witten & bainbridge, how to build a digital library ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Oct. 13, 2023

Re: [nexa] IA, lavoro, immaginari [CDT:L3] [CDT:L5] [CDT:L-1]

by 380°

Ciao Daniela, Daniela Tafani <daniela.tafani(a)unipi.it> writes: > Una prima risposta, ora, solo su Kant: quando Kant prende in > considerazione le macchine, è in genere per contrapporne l’ambito a > quello morale: là dove ci sia una macchina, non si danno moralità e > libertà e, viceversa, là dove si trovino libertà e moralità non si è > presenza di una macchina: per Kant l’uomo non è un «automaton > spirituale» e la sua libertà non è «la libertà di un girarrosto» (1). Non conosco il tedesco ma credo che questo passo sia molto kantiano: «La libertà non è star sopra un albero non è neanche avere un'opinione la libertà non è uno spazio libero libertà è partecipazione.» (Giorgio Gaber - La Libertà) Grazie mille per i riferimenti e l'occasione che mi hai dato di ripassare cosa rappresenti "la macchina" per Kant: ricordavo qualcosa e sono felice di constatare che Kant... la pensasse come me :-D La questione di cosa sia "la macchina" NON è "tangenziale" all'informatica, anche se molti addetti ai lavori credo trovino questa indagine del tutto superflua: io credo invece sia *determinante* e _siccome_ implica una /precisa/ concezione di cosa sia la libertà, direi che è determinante anche per comprendere la filosofia del software libero. Tuttavia, la mia protesta con relativa domanda era un'altra: [...] >> ...tranne uno: aver inserito la R come quinta lettera dell'acronimo, il >> razionalismo, mi da un colpo al cuore e scatena in me un moto di vibrata >> protesta! No, non incolpate Kant per tutto questo, ve ne prego!!! >> Perché Kant è tardo-razionalista, vero?!? O è già post-razionalista e >> rivoluziona la filosofia col suo idealismo trascendentale? Daniela tu dove "metteresti" Kant: è un (tardo) razionalista come lo colloca Wikipedia [1] o non lo è già più e va "spostato" nell'idealismo? É solo per capire se la R dell'acronimo è azzeccata o no :-) [1] https://en.wikipedia.org/wiki/Rationalism#Immanuel_Kant_(1724%E2%80%931804) [...] Grazie, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 13, 2023

Re: [nexa] Can Large Language Models reason?

by 380°

Buongiorno Maurizio, maurizio lana <maurizio.lana(a)uniupo.it> writes: > solo a me i msg di Giuseppe Attardi compaiono /talvolta/ così? > con il corpo del messaggio messo in attachment htm linkato > Maurizio > > Il 13/10/23 09:21, nexa-request(a)server-nexa.polito.it ha scritto: >> Message: 4 Date: Fri, 13 Oct 2023 09:21:12 +0200 >> From: Giuseppe Attardi <attardi(a)di.unipi.it> >> To: Daniela Tafani <daniela.tafani(a)unipi.it> >> Cc: nexa <nexa(a)server-nexa.polito.it> >> Subject: Re: [nexa] Can Large Language Models reason? >> Message-ID: <F38BCF6D-716C-423D-8A9D-5AB64995EFE8(a)di.unipi.it> >> Content-Type: text/plain; charset="utf-8" >> An HTML attachment was scrubbed... >> URL: >> <http://server-nexa.polito.it/pipermail/nexa/attachments/20231013/26c59651/a…> >> >> ------------------------------ >> >> Subject: Digest Footer tu li vedi così perché sei iscritto in modalità "Digest" _e_ quel messaggio di Giuseppe Attardi è stato inviato solo in formato text/html, perché l'archiviatore di mailman (che è anche quello che invia i messaggi "Digest") fa (giustamente) lo "scrub" di tutti gli HTML, lo vedi anche da come il messaggio è archiviato: https://server-nexa.polito.it/pipermail/nexa/2023-October/051790.html Io qualche giorno fa ho proposto ai gestori della lista [1] di suggerire agli iscritti di applicare una forma di netiquette ma la mia proposta non ha avuto molto successo: https://server-nexa.polito.it/pipermail/nexa/2023-October/051741.html (Message-id: 87ttr5cbon.fsf(a)xelera.eu) Anche io ho discrete difficoltà a seguire il dibattito con i messaggi in HTML _e_ con il top-posting (che equivale a "parlarsi sopra") a manetta. [...] Ciao, 380° [1] nexa-owner(a)server-nexa.polito.it -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 13, 2023