January 2025 - nexa - server-nexa.polito.it

Re: [nexa] In a mirror

by Daniela Tafani

Buongiorno, l'argomento di Pitt è sviluppato a partire da un'impostazione teleologica, oggetto di confutazioni da secoli. Quanto all'argomento cruciale, che invoca "la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare", mi pare coincida con l'argomento del lampione di cui scriveva Weizenbaum: "In una notte scura, un poliziotto si imbatte in un ubriaco. Questi sta inginocchiato, e ovviamente sta cercando qualcosa sotto un lampione. Alla domanda dell’agente, su che cosa stia facendo, risponde che sta cercando le chiavi di casa, che dice di aver perso «laggiù», indicando in direzione dell’oscurità. Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più luce, qui». " Un saluto, Daniela ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giuseppe Attardi <attardi(a)di.unipi.it> Inviato: lunedì 13 gennaio 2025 12:58 A: Alfredo Bregni Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] In a mirror La discussione sulla neutralità della tecnologia non è nuova e non finirà. La divisione è tra chi sostiene la Value-Neutrality-Thesis e chi la confuta. Joseph C. Pitt è molto citato e poco confutato sostenitore della tesi. <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> Is Technology Morally Neutral? Joseph C. Pitt and the Value Neutrality Thesis<https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> medium.com<https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> [10fd5c419ac61637245384e7099e131627900034828f4f386bdaa47a74eae156.png] <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> Il suo argomento cruciale è la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare. Non è una distinzione da poco, perché se chi sviluppa tecnologia o chi fa scienza si dovesse preoccupare di tutti i possibili effetti di violazioni di valori umani producibili con l’eventuale utilizzo dei suoi risultati, probabilmente si dovrebbe bloccare l’intera ricerca scientifica e tecnologica. — On 13 Jan 2025, at 10:05, Alfredo Bregni <abregni(a)iperv.it> wrote: Ciao, Giuseppe. Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" - Io insisto che: a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); c) tutto dipende da come si usano / applicano; d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. A presto, A ----- Original Message ----- From: Giuseppe Attardi<mailto:attardi@di.unipi.it> To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Cc: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Sent: Monday, January 13, 2025 9:27 AM Subject: Re: [nexa] In a mirror Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. — > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it> wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> > To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>, Giuseppe Attardi <attardi(a)di.unipi.it<mailto:attardi@di.unipi.it>> > Subject: Re: [nexa] In a mirror > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it<mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it>> > Content-Type: text/plain; charset=UTF-8 > > Ciao Giuseppe, > > speravo davvero che intervenissi! :-) > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: >> >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante >> possibili applicazioni. > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > La distinzione fra chatbot e LLM rimane informaticamente valida in > generale, ma non credo fosse rilevante per il dibattito perché né > chatbot né LLM esprimono alcuna forma di intelligenza. > >> Gran parte delle critiche riguardano appunto i chatbot >> (allucinazioni, superficialità, ecc.). > > Perché costituiscono la base della narrazione allucinata che domina > il dibattito informatico attuale, determinando scelte politiche, > economiche ed educative altrettanto allucinate. > > >> I LM sono decisamente una tecnologia neutra > > Solo nel mondo della fantasia, Giuseppe. > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > culturalmente e storicamente situati. > > Già solo per questo semplice fatto, nessun LLM reale può essere > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > accolto Minerva l'anno scorso. [1] > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > scartare. > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > producono output "politicamente corretto", quale che siano gli > obiettivi politici dei programmatori, dal legittimare il proprio > software agli occhi dei moralisti statunitensi, difendere il proprio > modello di business o cancellare piazza Tiananmen dalla storia [2] > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > siano in alcun modo "neutrali". > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > politicamente (e lo è), lo sono tutti gli LLM reali. >

Jan. 13, 2025

Re: [nexa] In a mirror

by Giuseppe Attardi

Jan. 13, 2025

Re: [nexa] [Junk released by Allowed List] Re: Esistono "tecnologie" "politicamente neutrali"?

by Daniela Tafani

Buongiorno, io uso spesso questo suo articolo, insieme a quello di Langdon Winner*, come materiale didattico, quando devo trattare, a lezione, il tema delle proprietà politiche degli artefatti. Un saluto, Daniela * <https://www.jstor.org/stable/20024652> ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Marco Fasoli <mafasos(a)gmail.com> Inviato: lunedì 13 gennaio 2025 12:16 A: Giacomo Tesio Cc: nexa(a)server-nexa.polito.it Oggetto: [Junk released by Allowed List] Re: [nexa] Esistono "tecnologie" "politicamente neutrali"? Buongiorno, credo che il tema della neutralità, o meglio della non neutralità delle nuove tecnologie, sia uno dei più attuali e rilevanti. Mi permetto di allegare un mio articolo di qualche anno fa, sperando che possa essere utile a chi vuole approfondire la questione. Cari saluti Marco Fasoli On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> wrote: Ciao Giuseppe, Alfredo, Juan Carlos e tutti. Colgo l'assis di Giuseppe per riportare in lista una discussione che è proseguita in privato e che potrebbe essere di interesse perché ricorrente in Nexa. Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan Carlos [1], dice esplicitamente: > la tecnologia non è neutra, contiene dentro di sé un’anima politica > anche al di là dell’uso che se ne può fare. Una affermazione che io trovo al limite dell'ovvietà (forse perché creo tecnologie per mestiere e partecipo alla definizione degli effetti politici che queste avranno, fino al limite di dichiararmi incapace di realizzare certi software, qualora li ritenga dannosi per la società in cui vivranno i miei figli). Per contro, Giuseppe ed Alfredo sostengono che quanto meno la maggioranza delle tecnologie sono neutrali e gli effetti sociali e politici che hanno dipendono esclusivamente dalle scelte di coloro che le usano. Si tratta di posizioni antitetiche, che credo possa essere interessante discutere alla ricerca di una sintesi che le comprenda al proprio interno e ci fornisca un modello migliore della realtà. On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. Allora perché non provare a partire da definizioni rigorose? Definiamo "tecnologia" un determinato insieme di artefatti concreti costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di "tangibile", non di un'idea astratta, sia essa platonica ("coltellini svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze artificiali" etc..). Naturalmente molte idee (più precisamente, informazioni), e come vengono descritte / diffuse, hanno profonde implicazioni politiche e sociali, ma per quanto interessante, l'analisi degli effetti politici di determinate idee ci porterebbe lontano dai temi della lista. Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma delle sue applicazioni concrete. Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente orientato politicamente, ovvero che 1. non presuppone alcuna specifica organizzazione sociale 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non sono neutrali per il secondo punto, lo sono anche per il primo, ma non viceversa. Una tecnologia che presuppone, ad esempio, un forte accentramento di ricchezza e potere per essere creata, non è politicamente neutrale per il primo punto. Infatti, come minimo, l'esistenza di artefatti tecnologici con tale caratteristica giustifica e rafforza quella specifica organizzazione sociale, rendendo la società nel suo complesso dipendente dal perpetuarsi di tale organizzazione. Una tecnologia che favorisce certi usi socialmente rilevanti e ne sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un coltellino svizzero non è facile da utilizzare come arma, ma incentiva una cultura del fai da te per piccole riparazioni. La scheda ethernet o l'automobile sono altri esempi di tecnologie politicamente orientate da entrambi i punti di vista: - presuppongono una società industriale per essere prodotte e enormi investimenti infrastrutturali (strade / cablaggi) per essere utili - velocizzando le comunicazioni e i trasferimenti, riducono le distanze, facilitando determinate evoluzioni della società e ostacolandone altre. Vi sembrano definizioni ragionevoli? Se no, perché? Una volta individuate definizioni esplicite, attinenti e condivise, potremo ragionare se esistano davvero tecnologie politicamente neutrali, ovvero che rispondano a tali definizioni, nonché valutare in modo rigoroso la neutralità di nuove tecnologie. Giacomo [1] https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo libero) ti rispondero sul resto della mail nell'altro thread, ma credo che trovare definizioni condivise e cercare una sintesi sulla questione della "neutralità della tecnologia" può meritare un thread separato.

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Benedetto Ponti

Solo a titolo di notizia, e per contribuire al dibattito in questione, Di recente ho cominciato a ragionare sull’idea che "l’AI reale” (cioè, quella effettivamente realizzata) sia intrinsecamente neoliberista. L’ho fatto qui: https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/… E a breve tornerò a farlo, in una collettanea di prossima uscita, ampliando un po’ il discorso ed i riferimenti (mi pare che la critica della scuola di Francoforte alla razionalità strumentale sia centrale, sotto questo profilo, ed in linea con alcune delle tesi già affacciate nelle mail precedenti). Un caro saluto a tutti Benedetto Ponti [firma nuova mail_3 2.png] Il giorno 13 gen 2025, alle ore 12:16, Marco Fasoli <mafasos(a)gmail.com> ha scritto: Buongiorno, credo che il tema della neutralità, o meglio della non neutralità delle nuove tecnologie, sia uno dei più attuali e rilevanti. Mi permetto di allegare un mio articolo di qualche anno fa, sperando che possa essere utile a chi vuole approfondire la questione. Cari saluti Marco Fasoli On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> wrote: Ciao Giuseppe, Alfredo, Juan Carlos e tutti. Colgo l'assis di Giuseppe per riportare in lista una discussione che è proseguita in privato e che potrebbe essere di interesse perché ricorrente in Nexa. Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan Carlos [1], dice esplicitamente: > la tecnologia non è neutra, contiene dentro di sé un’anima politica > anche al di là dell’uso che se ne può fare. Una affermazione che io trovo al limite dell'ovvietà (forse perché creo tecnologie per mestiere e partecipo alla definizione degli effetti politici che queste avranno, fino al limite di dichiararmi incapace di realizzare certi software, qualora li ritenga dannosi per la società in cui vivranno i miei figli). Per contro, Giuseppe ed Alfredo sostengono che quanto meno la maggioranza delle tecnologie sono neutrali e gli effetti sociali e politici che hanno dipendono esclusivamente dalle scelte di coloro che le usano. Si tratta di posizioni antitetiche, che credo possa essere interessante discutere alla ricerca di una sintesi che le comprenda al proprio interno e ci fornisca un modello migliore della realtà. On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. Allora perché non provare a partire da definizioni rigorose? Definiamo "tecnologia" un determinato insieme di artefatti concreti costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di "tangibile", non di un'idea astratta, sia essa platonica ("coltellini svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze artificiali" etc..). Naturalmente molte idee (più precisamente, informazioni), e come vengono descritte / diffuse, hanno profonde implicazioni politiche e sociali, ma per quanto interessante, l'analisi degli effetti politici di determinate idee ci porterebbe lontano dai temi della lista. Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma delle sue applicazioni concrete. Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente orientato politicamente, ovvero che 1. non presuppone alcuna specifica organizzazione sociale 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non sono neutrali per il secondo punto, lo sono anche per il primo, ma non viceversa. Una tecnologia che presuppone, ad esempio, un forte accentramento di ricchezza e potere per essere creata, non è politicamente neutrale per il primo punto. Infatti, come minimo, l'esistenza di artefatti tecnologici con tale caratteristica giustifica e rafforza quella specifica organizzazione sociale, rendendo la società nel suo complesso dipendente dal perpetuarsi di tale organizzazione. Una tecnologia che favorisce certi usi socialmente rilevanti e ne sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un coltellino svizzero non è facile da utilizzare come arma, ma incentiva una cultura del fai da te per piccole riparazioni. La scheda ethernet o l'automobile sono altri esempi di tecnologie politicamente orientate da entrambi i punti di vista: - presuppongono una società industriale per essere prodotte e enormi investimenti infrastrutturali (strade / cablaggi) per essere utili - velocizzando le comunicazioni e i trasferimenti, riducono le distanze, facilitando determinate evoluzioni della società e ostacolandone altre. Vi sembrano definizioni ragionevoli? Se no, perché? Una volta individuate definizioni esplicite, attinenti e condivise, potremo ragionare se esistano davvero tecnologie politicamente neutrali, ovvero che rispondano a tali definizioni, nonché valutare in modo rigoroso la neutralità di nuove tecnologie. Giacomo [1] https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo libero) ti rispondero sul resto della mail nell'altro thread, ma credo che trovare definizioni condivise e cercare una sintesi sulla questione della "neutralità della tecnologia" può meritare un thread separato. <7 Contro lo strumentalismo.pdf>

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Marco Fasoli

Buongiorno, credo che il tema della neutralità, o meglio della non neutralità delle nuove tecnologie, sia uno dei più attuali e rilevanti. Mi permetto di allegare un mio articolo di qualche anno fa, sperando che possa essere utile a chi vuole approfondire la questione. Cari saluti Marco Fasoli On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Ciao Giuseppe, Alfredo, Juan Carlos e tutti. > > Colgo l'assis di Giuseppe per riportare in lista una discussione che > è proseguita in privato e che potrebbe essere di interesse perché > ricorrente in Nexa. > > Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan > Carlos [1], dice esplicitamente: > > > la tecnologia non è neutra, contiene dentro di sé un’anima politica > > anche al di là dell’uso che se ne può fare. > > Una affermazione che io trovo al limite dell'ovvietà (forse perché creo > tecnologie per mestiere e partecipo alla definizione degli effetti > politici che queste avranno, fino al limite di dichiararmi incapace > di realizzare certi software, qualora li ritenga dannosi per la > società in cui vivranno i miei figli). > > > Per contro, Giuseppe ed Alfredo sostengono che quanto meno la > maggioranza delle tecnologie sono neutrali e gli effetti sociali e > politici che hanno dipendono esclusivamente dalle scelte di coloro > che le usano. > > > Si tratta di posizioni antitetiche, che credo possa essere interessante > discutere alla ricerca di una sintesi che le comprenda al proprio > interno e ci fornisca un modello migliore della realtà. > > > On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > > > Temo che non siamo d’accordo sul significato di “neutrale” per una > > tecnologia. > > Allora perché non provare a partire da definizioni rigorose? > > > Definiamo "tecnologia" un determinato insieme di artefatti concreti > costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di > "tangibile", non di un'idea astratta, sia essa platonica ("coltellini > svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze > artificiali" etc..). > > Naturalmente molte idee (più precisamente, informazioni), e come > vengono descritte / diffuse, hanno profonde implicazioni politiche e > sociali, ma per quanto interessante, l'analisi degli effetti politici > di determinate idee ci porterebbe lontano dai temi della lista. > > Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma > delle sue applicazioni concrete. > > > Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente > orientato politicamente, ovvero che > > 1. non presuppone alcuna specifica organizzazione sociale > 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o > sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo > > Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non > sono neutrali per il secondo punto, lo sono anche per il primo, ma non > viceversa. > > > Una tecnologia che presuppone, ad esempio, un forte accentramento di > ricchezza e potere per essere creata, non è politicamente neutrale per > il primo punto. > Infatti, come minimo, l'esistenza di artefatti tecnologici con tale > caratteristica giustifica e rafforza quella specifica organizzazione > sociale, rendendo la società nel suo complesso dipendente dal > perpetuarsi di tale organizzazione. > > Una tecnologia che favorisce certi usi socialmente rilevanti e ne > sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un > coltellino svizzero non è facile da utilizzare come arma, ma incentiva > una cultura del fai da te per piccole riparazioni. > > > La scheda ethernet o l'automobile sono altri esempi di tecnologie > politicamente orientate da entrambi i punti di vista: > - presuppongono una società industriale per essere prodotte e enormi > investimenti infrastrutturali (strade / cablaggi) per essere utili > - velocizzando le comunicazioni e i trasferimenti, riducono le > distanze, facilitando determinate evoluzioni della società e > ostacolandone altre. > > > > Vi sembrano definizioni ragionevoli? > Se no, perché? > > > Una volta individuate definizioni esplicite, attinenti e condivise, > potremo ragionare se esistano davvero tecnologie politicamente > neutrali, ovvero che rispondano a tali definizioni, nonché valutare > in modo rigoroso la neutralità di nuove tecnologie. > > > Giacomo > > [1] > https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html > > PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo > libero) ti rispondero sul resto della mail nell'altro thread, ma credo > che trovare definizioni condivise e cercare una sintesi sulla questione > della "neutralità della tecnologia" può meritare un thread separato. >

Jan. 13, 2025

Esistono "tecnologie" "politicamente neutrali"?

by Giacomo Tesio

Ciao Giuseppe, Alfredo, Juan Carlos e tutti. Colgo l'assis di Giuseppe per riportare in lista una discussione che è proseguita in privato e che potrebbe essere di interesse perché ricorrente in Nexa. Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan Carlos [1], dice esplicitamente: > la tecnologia non è neutra, contiene dentro di sé un’anima politica > anche al di là dell’uso che se ne può fare. Una affermazione che io trovo al limite dell'ovvietà (forse perché creo tecnologie per mestiere e partecipo alla definizione degli effetti politici che queste avranno, fino al limite di dichiararmi incapace di realizzare certi software, qualora li ritenga dannosi per la società in cui vivranno i miei figli). Per contro, Giuseppe ed Alfredo sostengono che quanto meno la maggioranza delle tecnologie sono neutrali e gli effetti sociali e politici che hanno dipendono esclusivamente dalle scelte di coloro che le usano. Si tratta di posizioni antitetiche, che credo possa essere interessante discutere alla ricerca di una sintesi che le comprenda al proprio interno e ci fornisca un modello migliore della realtà. On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. Allora perché non provare a partire da definizioni rigorose? Definiamo "tecnologia" un determinato insieme di artefatti concreti costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di "tangibile", non di un'idea astratta, sia essa platonica ("coltellini svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze artificiali" etc..). Naturalmente molte idee (più precisamente, informazioni), e come vengono descritte / diffuse, hanno profonde implicazioni politiche e sociali, ma per quanto interessante, l'analisi degli effetti politici di determinate idee ci porterebbe lontano dai temi della lista. Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma delle sue applicazioni concrete. Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente orientato politicamente, ovvero che 1. non presuppone alcuna specifica organizzazione sociale 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non sono neutrali per il secondo punto, lo sono anche per il primo, ma non viceversa. Una tecnologia che presuppone, ad esempio, un forte accentramento di ricchezza e potere per essere creata, non è politicamente neutrale per il primo punto. Infatti, come minimo, l'esistenza di artefatti tecnologici con tale caratteristica giustifica e rafforza quella specifica organizzazione sociale, rendendo la società nel suo complesso dipendente dal perpetuarsi di tale organizzazione. Una tecnologia che favorisce certi usi socialmente rilevanti e ne sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un coltellino svizzero non è facile da utilizzare come arma, ma incentiva una cultura del fai da te per piccole riparazioni. La scheda ethernet o l'automobile sono altri esempi di tecnologie politicamente orientate da entrambi i punti di vista: - presuppongono una società industriale per essere prodotte e enormi investimenti infrastrutturali (strade / cablaggi) per essere utili - velocizzando le comunicazioni e i trasferimenti, riducono le distanze, facilitando determinate evoluzioni della società e ostacolandone altre. Vi sembrano definizioni ragionevoli? Se no, perché? Una volta individuate definizioni esplicite, attinenti e condivise, potremo ragionare se esistano davvero tecnologie politicamente neutrali, ovvero che rispondano a tali definizioni, nonché valutare in modo rigoroso la neutralità di nuove tecnologie. Giacomo [1] https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo libero) ti rispondero sul resto della mail nell'altro thread, ma credo che trovare definizioni condivise e cercare una sintesi sulla questione della "neutralità della tecnologia" può meritare un thread separato.

Jan. 13, 2025

Re: [nexa] In a mirror (Alfredo Bregni)

by karlessi

> Message: 2 > Date: Mon, 13 Jan 2025 10:04:38 +0100 > From: "Alfredo Bregni" <abregni(a)iperv.it> > To: "Giuseppe Attardi" <attardi(a)di.unipi.it> > Cc: <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] In a mirror > Message-ID: <66C5B22CA7AD43A9A87D9EA18F885D48@Bregnip2> > Content-Type: text/plain; charset="utf-8" > > Ciao, Giuseppe. > > > > Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: > > - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" > > > - Io insisto che: > > a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; > > b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); > > c) tutto dipende da come si usano / applicano; > > d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); > > e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. buongiorno convengo che ci sono intendimenti diversi dietro all'uso della parola "neutrale" personalmente ritengo disfunzionale l'insistenza sul "dipende dall'uso che se ne fa", e, anzi, colpevolizzante nei confronti delle persone. Se poi si arriva all'impersonale del "si usano", diventa impossibile distinguere chi fa cosa e perché: ammesso che sia possibile! Non dipende (solo) dall'uso che se ne fa perché le tecnologie incorporano ideologie, convinzioni, ecc. e questo è tanto più verificabile per prodotti come gli smartphone equipaggiati con software proprietario, costruiti secondo logiche di obsolescenza programmata, assurdo spreco di risorse, ecc ecc. Inoltre mettere insieme nella stessa categoria tabelle logaritmiche, funzioni statistiche, coltelli, tecnologie cibernetiche in rete e bombe (ma può esserci una bomba innescata per far saltare in aria il Furher e il suo stato maggiore: è questo un uso che prevede presunzione di colpevolezza, errore, sbaglio? si tratta di una provocazione per evidenziare che non si va lontano con la casistica, c'è sempre almeno un caso che eccede e a quel punto ci si perde in distinguo da legulei) mi sembra un'indebita semplificazione che fa di tutte le erbe un fascio. invece ogni cosa è diversa. per quanto si possano effettuare delle macro distinzioni. in particolare vorrei attirare l'attenzione sulla cruciale differenza fra utensile e "strumento cibernetico" (non dico "essere tecnico" sennò giacomo s'imbizzarrisce :D ) la differenza è bene illustrata da Gilbert Simondon. un utensile si può portare con sé, e ha senso (senso tecnico) in connessione a un corpo umano che lo porta con sé e lo utilizza per relazionarsi con il mondo. Il coltello, il martello, ecc. sono utensili in questo senso gli strumenti cibernetici, come lo smartphone, non hanno senso separati dalla rete di retroazioni che le alimenta, che comprende i corpi umani (in rete), altri smartphone, reti, ecc ecc ecc quindi lo smartphone non è un utensile. Da solo, non ha senso (senso tecnico). E non dipende solo dall'uso che se ne fa: perché è progettato con determinate finalità, benché in maniera molto più sofisticata rispetto alle affordance (inviti all'uso, cf. Gibson) tipiche es. di coltelli, martelli, sedie ecc. (utensili). Tuttavia lo smartphone ha una materialità (è fatto di cose materiali), e questa materia è "neutra" nel senso che non è orientata dall'uso che ne verrà fatto; al contrario, però, lo influenza, nel senso che se è di metallo robusto magari non si spacca alla prima caduta, cosa che invece accade se è fatto di plastichina: quindi anche qui, la materialità influenza l'uso, la plastichina invita alla protezione dell'oggetto più del metallo; ma la materialità non determina in toto l'uso, perché se mi va (in quanto es. artista "controcorrente", o comune umano esasperato) con lo smartphone pesto i chiodi nel muro, e vabbè, non avevo il martello, mi sento libero di scassare l'ennesimo smartphone. Questa "neutralità" per cui dipende da me e dall'uso che ne faccio è quindi più teorica che pratica. oltre a utensili e strumenti cibernetici, vi sono anche le macchine, come posizione "intermedia" fra i due precedenti. Es. un'automobile, o un telefono analogico, senza software, non ha senso senza l'infrastruttura (strade/autostrade; rete elettrica, rete telefonica), ma non ha quella caratteristica cibernetica spinta tipica del digitale di massa. G. Simondon, "Sulla Tecnica", Orthotes riporta in diversi articoli questa tripartizione, da prendere come categorizzazione lasca, come descrizione operativa https://www.orthotes.com/prodotto/gilbert-simondon-sulla-tecnica/ altra distinzione riguarda la tecnicità in quanto caratteristiche materiali degli oggetti tecnici (di cosa sono fatti) che non coincide con la "libera avventura" (sempre Simondon) degli oggetti tecnici nel mondo: sono quelli che sono stati descritti come effetti psicosociali nelle mail precedenti. Questo è l'aspetto evolutivo in senso relazionale, in relazione con il mondo umano, in cui è chiaro che la fitness tecnica non è legata (solo) alle caratteristiche materiali, ma a un complesso coacervo di interazioni socio-psico-economiche. E, quindi, tanto più ideologico-politiche per tecnologie di massa e cibernetiche. Non sono (solo) le caratteristiche materiali dirimenti per il "successo" di una tecnologia: VHS si è imposto su Betamax; Explorer su tutti gli altri browser per parecchio tempo, e non era certo "meglio"; Windows su altri OS aperti e liberi; i protocolli e le innovazioni che passano nell'uso sono relativamente indipendenti dalle caratteristiche tecniche materiali. Indipendente non significa neutrale. queste argomentazioni sono chiaramente non-antropologiche, nel senso che ricordano che l'uso umano delle tecnologie non dipende solo dall'umano, ma anche dalla complessa avventura sociotecnica. D'altra parte, sono argomentazioni non heideggeriane. Magari ai tecnici puri (esistono? beh, cmq hanno delle idee, delle convinzioni, dei desideri più o meno inconsci, quindi mi permetto di considerarli soggetti filosofici come tutti noialtri...) interessa poco, ma la fanfaluca di Heidegger su "l'essenza della tecnica non è tecnica" che ha tanto influenzato anche pensatori che si ritengono progressisti, per non dire di sinistra, riguarda anche loro tecnici puri, perché l'argomento "la tecnica è neutrale, dipende da come la si usa" è in effetti avversato da Heidegger per sostenere, come è suo tipico, una posizione apolitica, impolitica, in cui la Tecnica s'impone come Spirito dei tempi ineluttabile... quadro e inquadramento del mondo, senza possibilità di scampo, senza possibilità di articolare politiche personali e collettive. e invece la tecnica è politica, molto politica; se chiunque fosse i grado di maneggiare le tavole logaritmiche, se chiunque fosse capace di smontare uno smartphone perché lo strumento viene venduto con un cacciavite che consente di smontare ogni sua parte e sostituirla facilmente... se chiunque potesse gestire in maniera autonoma i propri dati e scegliere le tecnologie di cui si fida, decidendo in piena libertà cosa sì e cosa no... la situazione politica sarebbe diversa, perché l'alienazione tecnica sarebbe un lontano ricordo, e le persone sarebbe singolarmente più forti, potenti, autonome e quindi più libere, individualmente e collettivamente. invece oggi non si può scegliere. solo in teoria. in pratica, i genitori si devono piegare ai gruppi whatsapp dei genitori, o quantomeno al registro elettronico, come gli studenti e gli insegnanti a google classroom, gli accademici a microsoft suite, e tutti quanti allo SPID. tutte queste tecnologie non sono affatto neutrali, IMHO. di certo non si sono imposte perché migliori, frutto di un processo evolutivo di selezione delle tecnologie più adatte e regolate dal mutuo appoggio, il secondo fattore più importante dell'evoluzione naturale che potrebbe senz'altro essere posto come linea guida anche nell'evoluzione tecnica. peggio ancora, ci sono evidenti contraddizioni nel ricorso a tecnologie in situazioni limite. le navi che salvano le persone nel mediterraneo nonostante i governi sempre più autoritari in Europa e altrove, non possono scegliere: devono usare Starlink. perché grazie al fatto che il governo USA ha foraggiato Musk da anni, Starlink è l'unica opzione a "basso costo" per comunicazioni su satelliti LEO. vedremo se il governo italiano chiederà di togliere Starlink a queste navi, perché no... è logico, sta nella logica della tecnocrazia. no, non dipende da come le usi. Starlink è un problema comunque si voglia vedere: per la sua genesi, per come è gestito, manutenuto, e immagino che sia software proprietario, security by obscurity, nonché gestito da un miliardario bianco dispotico senza alcun controllo democratico, che viene considerato un genio, non si sa perché se non perché le persone desiderano essere come lui. mi spiace la divagazione, spero non vi abbia troppo annoiato, a mia parziale discolpa ho approfittato di quest'ora di ritardo per leggere e scrivere, perché i treni sono stranamente in ritardo di 60-120 minuti oggi per un guasto fra Napoli e Roma (se il ministro "competente" non darà nuovamente la colpa ai lavoratori inetti, forse riconoscerà di esser troppo impegnato a buttare risorse nel necessarissimo ponte fra Scilla e Cariddi, per entrare nella storia delle idiozie più nocive, per poter badare ai treni di linea) buona giornata k. PS: filosofia e tecnica nell'approfondimento a tecnologie conviviali: https://www.eleuthera.it/materiale.php?op=2585#FilosofiaETecnica > > > > A presto, > > A > > > > > > > ----- Original Message ----- > From: Giuseppe Attardi > To: nexa(a)server-nexa.polito.it > Cc: nexa(a)server-nexa.polito.it > Sent: Monday, January 13, 2025 9:27 AM > Subject: Re: [nexa] In a mirror > > > Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. > I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. > > Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. > > Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). > > Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. > > Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. > Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. > > I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. > > Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. > > — > > > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it wrote: > > > > From: Giacomo Tesio <giacomo(a)tesio.it> > > To: nexa(a)server-nexa.polito.it, Giuseppe Attardi <attardi(a)di.unipi.it> > > Subject: Re: [nexa] In a mirror > > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it> > > Content-Type: text/plain; charset=UTF-8 > > > > Ciao Giuseppe, > > > > speravo davvero che intervenissi! :-) > > > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: > >> > >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante > >> possibili applicazioni. > > > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > > > La distinzione fra chatbot e LLM rimane informaticamente valida in > > generale, ma non credo fosse rilevante per il dibattito perché né > > chatbot né LLM esprimono alcuna forma di intelligenza. > > > >> Gran parte delle critiche riguardano appunto i chatbot > >> (allucinazioni, superficialità, ecc.). > > > > Perché costituiscono la base della narrazione allucinata che domina > > il dibattito informatico attuale, determinando scelte politiche, > > economiche ed educative altrettanto allucinate. > > > > > >> I LM sono decisamente una tecnologia neutra > > > > Solo nel mondo della fantasia, Giuseppe. > > > > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > > culturalmente e storicamente situati. > > > > Già solo per questo semplice fatto, nessun LLM reale può essere > > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > > accolto Minerva l'anno scorso. [1] > > > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > > scartare. > > > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > > producono output "politicamente corretto", quale che siano gli > > obiettivi politici dei programmatori, dal legittimare il proprio > > software agli occhi dei moralisti statunitensi, difendere il proprio > > modello di business o cancellare piazza Tiananmen dalla storia [2] > > > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > > siano in alcun modo "neutrali". > > > > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > > politicamente (e lo è), lo sono tutti gli LLM reali. > > >

Jan. 13, 2025

Re: [nexa] Intervista ad Andrea Cerroni

by Norberto Patrignani

Grazie Juan Carlos, per molti motivi l'intervista al prof.Cerroni mi ha emozionato. Quando, come lavoratore-studente Olivetti, nel 1974 studiavo all'Universita' di Torino "Scienze dell'Informazione" (non si chiamava ancora "Informatica"), tra gli esami c'era ancora "Cibernetica", uno dei piu' interessanti. Una curiosita': qualcuno sa quando e perche' e' stato eliminato dal piano di studi di "informatica"? Interessante anche sentire la storia del mancato invito di Norbert Wiener a Dartmouth nel 1956. - Nilsson, H.J. (2009). The Quest for Artificial Intelligence, Stanford University - Bloomfield B.P. (1987). The question of artificial intelligence, Routledge. Forse perche' Wiener gia' nel 1947 aveva dichiarato di non voler collaborare con i militari https://www.theatlantic.com/magazine/archive/1947/01/a-scientist-rebels/656… o, come spiega bene il prof. Cerroni, aveva una visione diversa della tecnologia rispetto a Minsky, etc.? Saluti da Ivrea! Norberto ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of J.C. DE MARTIN <juancarlos.demartin(a)polito.it> Sent: Monday, January 13, 2025 7:21 AM To: Nexa <nexa(a)server-nexa.polito.it> Subject: [nexa] Intervista ad Andrea Cerroni Segnalo questa intervista al Prof. Andrea Cerroni, recentemente ospite del Centro Nexa: "CILE 1973: IL GOLPE DELL’ INTELLIGENZA ARTIFICIALE. INTERVISTA AL PROF. ANDREA CERRONI" https://giubberossenews.it/2025/01/07/cile-1973-il-golpe-dell-intelligenza-…. jc

Jan. 13, 2025

119° Nexa Lunch Seminar | 22 gennaio 2025, ore 13.00

by Nexa - Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 119° Nexa Lunch Seminar che si terrà mercoledì 22 gennaio, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: "Beyond the Machine: The Cultural Implications of Artificial Intelligence". Ospite dell'incontro: Octavio Kulesz (UNESCO Expert). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-119 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Jan. 13, 2025

Re: [nexa] In a mirror

by Alfredo Bregni

Ciao, Giuseppe. Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" - Io insisto che: a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); c) tutto dipende da come si usano / applicano; d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. A presto, A ----- Original Message ----- From: Giuseppe Attardi To: nexa(a)server-nexa.polito.it Cc: nexa(a)server-nexa.polito.it Sent: Monday, January 13, 2025 9:27 AM Subject: Re: [nexa] In a mirror Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. — > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it, Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: Re: [nexa] In a mirror > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it> > Content-Type: text/plain; charset=UTF-8 > > Ciao Giuseppe, > > speravo davvero che intervenissi! :-) > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: >> >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante >> possibili applicazioni. > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > La distinzione fra chatbot e LLM rimane informaticamente valida in > generale, ma non credo fosse rilevante per il dibattito perché né > chatbot né LLM esprimono alcuna forma di intelligenza. > >> Gran parte delle critiche riguardano appunto i chatbot >> (allucinazioni, superficialità, ecc.). > > Perché costituiscono la base della narrazione allucinata che domina > il dibattito informatico attuale, determinando scelte politiche, > economiche ed educative altrettanto allucinate. > > >> I LM sono decisamente una tecnologia neutra > > Solo nel mondo della fantasia, Giuseppe. > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > culturalmente e storicamente situati. > > Già solo per questo semplice fatto, nessun LLM reale può essere > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > accolto Minerva l'anno scorso. [1] > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > scartare. > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > producono output "politicamente corretto", quale che siano gli > obiettivi politici dei programmatori, dal legittimare il proprio > software agli occhi dei moralisti statunitensi, difendere il proprio > modello di business o cancellare piazza Tiananmen dalla storia [2] > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > siano in alcun modo "neutrali". > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > politicamente (e lo è), lo sono tutti gli LLM reali. >

Jan. 13, 2025