Re: [nexa] In a mirror
Buongiorno, l'argomento di Pitt è sviluppato a partire da un'impostazione teleologica, oggetto di confutazioni da secoli. Quanto all'argomento cruciale, che invoca "la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare", mi pare coincida con l'argomento del lampione di cui scriveva Weizenbaum: "In una notte scura, un poliziotto si imbatte in un ubriaco. Questi sta inginocchiato, e ovviamente sta cercando qualcosa sotto un lampione. Alla domanda dell’agente, su che cosa stia facendo, risponde che sta cercando le chiavi di casa, che dice di aver perso «laggiù», indicando in direzione dell’oscurità. Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più luce, qui». " Un saluto, Daniela ________________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Giuseppe Attardi <attardi@di.unipi.it> Inviato: lunedì 13 gennaio 2025 12:58 A: Alfredo Bregni Cc: nexa@server-nexa.polito.it Oggetto: Re: [nexa] In a mirror La discussione sulla neutralità della tecnologia non è nuova e non finirà. La divisione è tra chi sostiene la Value-Neutrality-Thesis e chi la confuta. Joseph C. Pitt è molto citato e poco confutato sostenitore della tesi. <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...> Is Technology Morally Neutral? Joseph C. Pitt and the Value Neutrality Thesis<https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...> medium.com<https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...> [10fd5c419ac61637245384e7099e131627900034828f4f386bdaa47a74eae156.png] <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...> Il suo argomento cruciale è la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare. Non è una distinzione da poco, perché se chi sviluppa tecnologia o chi fa scienza si dovesse preoccupare di tutti i possibili effetti di violazioni di valori umani producibili con l’eventuale utilizzo dei suoi risultati, probabilmente si dovrebbe bloccare l’intera ricerca scientifica e tecnologica. — On 13 Jan 2025, at 10:05, Alfredo Bregni <abregni@iperv.it> wrote: Ciao, Giuseppe. Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" - Io insisto che: a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); c) tutto dipende da come si usano / applicano; d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. A presto, A ----- Original Message ----- From: Giuseppe Attardi<mailto:attardi@di.unipi.it> To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Cc: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Sent: Monday, January 13, 2025 9:27 AM Subject: Re: [nexa] In a mirror Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. —
On 9 Jan 2025, at 18:56, nexa-request@server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it> wrote:
From: Giacomo Tesio <giacomo@tesio.it<mailto:giacomo@tesio.it>> To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>, Giuseppe Attardi <attardi@di.unipi.it<mailto:attardi@di.unipi.it>> Subject: Re: [nexa] In a mirror Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it<mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it>> Content-Type: text/plain; charset=UTF-8
Ciao Giuseppe,
speravo davvero che intervenissi! :-)
Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto:
1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante possibili applicazioni.
Vero, ma il "riassunto" dalla cui critica è partito questo filone di discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto riferimento come un "chi". Non trovi allarmante tanta alienazione?
La distinzione fra chatbot e LLM rimane informaticamente valida in generale, ma non credo fosse rilevante per il dibattito perché né chatbot né LLM esprimono alcuna forma di intelligenza.
Gran parte delle critiche riguardano appunto i chatbot (allucinazioni, superficialità, ecc.).
Perché costituiscono la base della narrazione allucinata che domina il dibattito informatico attuale, determinando scelte politiche, economiche ed educative altrettanto allucinate.
I LM sono decisamente una tecnologia neutra
Solo nel mondo della fantasia, Giuseppe.
Nella realtà, i LLM sono prodotti a partire da testi che sono culturalmente e storicamente situati.
Già solo per questo semplice fatto, nessun LLM reale può essere "neutro". Ricorderai certamente le critiche pretestuose con cui fu accolto Minerva l'anno scorso. [1]
Poi c'è l'attività di programmazione statistica che parte dalla scelta, fra tutti i testi disponibili, di quelli da utilizzare e di quelli da scartare.
A valle di un'accurata attività di selezione e rinforzo, i "modelli" producono output "politicamente corretto", quale che siano gli obiettivi politici dei programmatori, dal legittimare il proprio software agli occhi dei moralisti statunitensi, difendere il proprio modello di business o cancellare piazza Tiananmen dalla storia [2]
E spero tu non creda davvero che i modelli di Google, Meta o Open AI siano in alcun modo "neutrali".
Dunque anche se l'idea di LLM non fosse intrinsecamente orientata politicamente (e lo è), lo sono tutti gli LLM reali.
Il 13/01/25 13:57, Daniela Tafani ha scritto:
Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più luce, qui». "
:-D -- Avv. Marco Ciurcina Via San Quintino, 32 10121 Torino TO tel +39 011 4546112 cell +39 335 6650910
Daniela, l'argomento di Pitt è molto meno 'teleologico' della sua negazione, perché chi lo nega sostiene che la finalità di chi produce una tecnica è irreversibile e ne determina qualunque possibile esito storico. Quello che mi pare un po' antico è l'essenzialismo di chi sostiene che la tecnica abbia appunto un *in sé*. Nel Novecento siamo stati abituati a pensare in termini di *esistenza *cioè di scelta umana sempre in questione, cioè problematica. L'essenzialismo non è un reato, ma occorre accettarne i rischi, tra cui la frana della dialettica nella fissità di un 'pensiero di riferimento', come mi sembra accada talvolta qui. G. On Mon, 13 Jan 2025 at 14:05, Daniela Tafani <daniela.tafani@unipi.it> wrote:
Buongiorno,
l'argomento di Pitt è sviluppato a partire da un'impostazione teleologica, oggetto di confutazioni da secoli.
Quanto all'argomento cruciale, che invoca "la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare", mi pare coincida con l'argomento del lampione di cui scriveva Weizenbaum:
"In una notte scura, un poliziotto si imbatte in un ubriaco. Questi sta inginocchiato, e ovviamente sta cercando qualcosa sotto un lampione. Alla domanda dell’agente, su che cosa stia facendo, risponde che sta cercando le chiavi di casa, che dice di aver perso «laggiù», indicando in direzione dell’oscurità. Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più luce, qui». "
Un saluto, Daniela
________________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Giuseppe Attardi <attardi@di.unipi.it> Inviato: lunedì 13 gennaio 2025 12:58 A: Alfredo Bregni Cc: nexa@server-nexa.polito.it Oggetto: Re: [nexa] In a mirror
La discussione sulla neutralità della tecnologia non è nuova e non finirà. La divisione è tra chi sostiene la Value-Neutrality-Thesis e chi la confuta.
Joseph C. Pitt è molto citato e poco confutato sostenitore della tesi.
< https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...
Is Technology Morally Neutral? Joseph C. Pitt and the Value Neutrality Thesis< https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...
medium.com< https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...
[10fd5c419ac61637245384e7099e131627900034828f4f386bdaa47a74eae156.png] < https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...
Il suo argomento cruciale è la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare.
Non è una distinzione da poco, perché se chi sviluppa tecnologia o chi fa scienza si dovesse preoccupare di tutti i possibili effetti di violazioni di valori umani producibili con l’eventuale utilizzo dei suoi risultati, probabilmente si dovrebbe bloccare l’intera ricerca scientifica e tecnologica.
—
On 13 Jan 2025, at 10:05, Alfredo Bregni <abregni@iperv.it> wrote:
Ciao, Giuseppe.
Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda:
- Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità"
- Io insisto che: a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); c) tutto dipende da come si usano / applicano; d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene.
A presto, A
----- Original Message ----- From: Giuseppe Attardi<mailto:attardi@di.unipi.it> To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Cc: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Sent: Monday, January 13, 2025 9:27 AM Subject: Re: [nexa] In a mirror
Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi.
Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è.
Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.).
Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali.
Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé.
I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio.
Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà.
—
On 9 Jan 2025, at 18:56, nexa-request@server-nexa.polito.it<mailto: nexa-request@server-nexa.polito.it> wrote:
From: Giacomo Tesio <giacomo@tesio.it<mailto:giacomo@tesio.it>> To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>, Giuseppe Attardi <attardi@di.unipi.it<mailto:attardi@di.unipi.it>> Subject: Re: [nexa] In a mirror Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it<mailto: FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it>> Content-Type: text/plain; charset=UTF-8
Ciao Giuseppe,
speravo davvero che intervenissi! :-)
Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto:
1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante possibili applicazioni.
Vero, ma il "riassunto" dalla cui critica è partito questo filone di discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto riferimento come un "chi". Non trovi allarmante tanta alienazione?
La distinzione fra chatbot e LLM rimane informaticamente valida in generale, ma non credo fosse rilevante per il dibattito perché né chatbot né LLM esprimono alcuna forma di intelligenza.
Gran parte delle critiche riguardano appunto i chatbot (allucinazioni, superficialità, ecc.).
Perché costituiscono la base della narrazione allucinata che domina il dibattito informatico attuale, determinando scelte politiche, economiche ed educative altrettanto allucinate.
I LM sono decisamente una tecnologia neutra
Solo nel mondo della fantasia, Giuseppe.
Nella realtà, i LLM sono prodotti a partire da testi che sono culturalmente e storicamente situati.
Già solo per questo semplice fatto, nessun LLM reale può essere "neutro". Ricorderai certamente le critiche pretestuose con cui fu accolto Minerva l'anno scorso. [1]
Poi c'è l'attività di programmazione statistica che parte dalla scelta, fra tutti i testi disponibili, di quelli da utilizzare e di quelli da scartare.
A valle di un'accurata attività di selezione e rinforzo, i "modelli" producono output "politicamente corretto", quale che siano gli obiettivi politici dei programmatori, dal legittimare il proprio software agli occhi dei moralisti statunitensi, difendere il proprio modello di business o cancellare piazza Tiananmen dalla storia [2]
E spero tu non creda davvero che i modelli di Google, Meta o Open AI siano in alcun modo "neutrali".
Dunque anche se l'idea di LLM non fosse intrinsecamente orientata politicamente (e lo è), lo sono tutti gli LLM reali.
Buongiorno, davo per scontato che teleologico fosse da intendersi in opposizione a deontologico e quindi non assumevo una virgola di quanto scrivi. Un saluto, Daniela ________________________________________ Da: Guido Vetere <vetere.guido@gmail.com> Inviato: lunedì 13 gennaio 2025 14:59 A: Daniela Tafani Cc: Giuseppe Attardi; Alfredo Bregni; nexa@server-nexa.polito.it Oggetto: Re: [nexa] In a mirror Daniela, l'argomento di Pitt è molto meno 'teleologico' della sua negazione, perché chi lo nega sostiene che la finalità di chi produce una tecnica è irreversibile e ne determina qualunque possibile esito storico. Quello che mi pare un po' antico è l'essenzialismo di chi sostiene che la tecnica abbia appunto un in sé. Nel Novecento siamo stati abituati a pensare in termini di esistenza cioè di scelta umana sempre in questione, cioè problematica. L'essenzialismo non è un reato, ma occorre accettarne i rischi, tra cui la frana della dialettica nella fissità di un 'pensiero di riferimento', come mi sembra accada talvolta qui. G. On Mon, 13 Jan 2025 at 14:05, Daniela Tafani <daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>> wrote: Buongiorno, l'argomento di Pitt è sviluppato a partire da un'impostazione teleologica, oggetto di confutazioni da secoli. Quanto all'argomento cruciale, che invoca "la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare", mi pare coincida con l'argomento del lampione di cui scriveva Weizenbaum: "In una notte scura, un poliziotto si imbatte in un ubriaco. Questi sta inginocchiato, e ovviamente sta cercando qualcosa sotto un lampione. Alla domanda dell’agente, su che cosa stia facendo, risponde che sta cercando le chiavi di casa, che dice di aver perso «laggiù», indicando in direzione dell’oscurità. Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più luce, qui». " Un saluto, Daniela ________________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di Giuseppe Attardi <attardi@di.unipi.it<mailto:attardi@di.unipi.it>> Inviato: lunedì 13 gennaio 2025 12:58 A: Alfredo Bregni Cc: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: Re: [nexa] In a mirror La discussione sulla neutralità della tecnologia non è nuova e non finirà. La divisione è tra chi sostiene la Value-Neutrality-Thesis e chi la confuta. Joseph C. Pitt è molto citato e poco confutato sostenitore della tesi. <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...> Is Technology Morally Neutral? Joseph C. Pitt and the Value Neutrality Thesis<https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...> medium.com<http://medium.com><https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-value-neutrality-thesis-3e23b225db1e> [10fd5c419ac61637245384e7099e131627900034828f4f386bdaa47a74eae156.png] <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-...> Il suo argomento cruciale è la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare. Non è una distinzione da poco, perché se chi sviluppa tecnologia o chi fa scienza si dovesse preoccupare di tutti i possibili effetti di violazioni di valori umani producibili con l’eventuale utilizzo dei suoi risultati, probabilmente si dovrebbe bloccare l’intera ricerca scientifica e tecnologica. — On 13 Jan 2025, at 10:05, Alfredo Bregni <abregni@iperv.it<mailto:abregni@iperv.it>> wrote: Ciao, Giuseppe. Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" - Io insisto che: a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); c) tutto dipende da come si usano / applicano; d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. A presto, A ----- Original Message ----- From: Giuseppe Attardi<mailto:attardi@di.unipi.it<mailto:attardi@di.unipi.it>> To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it><mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Cc: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it><mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Sent: Monday, January 13, 2025 9:27 AM Subject: Re: [nexa] In a mirror Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. —
On 9 Jan 2025, at 18:56, nexa-request@server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it><mailto:nexa-request@server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it>> wrote:
From: Giacomo Tesio <giacomo@tesio.it<mailto:giacomo@tesio.it><mailto:giacomo@tesio.it<mailto:giacomo@tesio.it>>> To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it><mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>>, Giuseppe Attardi <attardi@di.unipi.it<mailto:attardi@di.unipi.it><mailto:attardi@di.unipi.it<mailto:attardi@di.unipi.it>>> Subject: Re: [nexa] In a mirror Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it<mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it><mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it<mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it>>> Content-Type: text/plain; charset=UTF-8
Ciao Giuseppe,
speravo davvero che intervenissi! :-)
Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto:
1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante possibili applicazioni.
Vero, ma il "riassunto" dalla cui critica è partito questo filone di discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto riferimento come un "chi". Non trovi allarmante tanta alienazione?
La distinzione fra chatbot e LLM rimane informaticamente valida in generale, ma non credo fosse rilevante per il dibattito perché né chatbot né LLM esprimono alcuna forma di intelligenza.
Gran parte delle critiche riguardano appunto i chatbot (allucinazioni, superficialità, ecc.).
Perché costituiscono la base della narrazione allucinata che domina il dibattito informatico attuale, determinando scelte politiche, economiche ed educative altrettanto allucinate.
I LM sono decisamente una tecnologia neutra
Solo nel mondo della fantasia, Giuseppe.
Nella realtà, i LLM sono prodotti a partire da testi che sono culturalmente e storicamente situati.
Già solo per questo semplice fatto, nessun LLM reale può essere "neutro". Ricorderai certamente le critiche pretestuose con cui fu accolto Minerva l'anno scorso. [1]
Poi c'è l'attività di programmazione statistica che parte dalla scelta, fra tutti i testi disponibili, di quelli da utilizzare e di quelli da scartare.
A valle di un'accurata attività di selezione e rinforzo, i "modelli" producono output "politicamente corretto", quale che siano gli obiettivi politici dei programmatori, dal legittimare il proprio software agli occhi dei moralisti statunitensi, difendere il proprio modello di business o cancellare piazza Tiananmen dalla storia [2]
E spero tu non creda davvero che i modelli di Google, Meta o Open AI siano in alcun modo "neutrali".
Dunque anche se l'idea di LLM non fosse intrinsecamente orientata politicamente (e lo è), lo sono tutti gli LLM reali.
participants (4)
-
Daniela Tafani -
Giuseppe Attardi -
Guido Vetere -
Marco Ciurcina