January 2025 - nexa - server-nexa.polito.it

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Benedetto Ponti

Il giorno 13 gen 2025, alle ore 16:06, alessandro marzocchi <alemarzoc(a)gmail.com> ha scritto: Il programma informatico può imporre comportamenti non previsti da leggi? Cordialmente. Duccio (Alessandro Marzocchi) Mi pare esperienza comune a tutti noi, no? BP Il giorno lun 13 gen 2025 alle ore 15:29 <nexa-request(a)server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it>> ha scritto: Send nexa mailing list submissions to nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> To subscribe or unsubscribe via the World Wide Web, visit https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa or, via email, send a message with subject or body 'help' to nexa-request(a)server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it> You can reach the person managing the list at nexa-owner(a)server-nexa.polito.it<mailto:nexa-owner@server-nexa.polito.it> When replying, please edit your Subject line so it is more specific than "Re: Contents of nexa digest..." Today's Topics: 1. Re: Esistono "tecnologie" "politicamente neutrali"? (Benedetto Ponti) ---------------------------------------------------------------------- Message: 1 Date: Mon, 13 Jan 2025 14:29:41 +0000 From: Benedetto Ponti <benedetto.ponti(a)unipg.it<mailto:benedetto.ponti@unipg.it>> To: Michele Molè <michele.mole(a)protonmail.com<mailto:michele.mole@protonmail.com>> Cc: "nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Subject: Re: [nexa] Esistono "tecnologie" "politicamente neutrali"? Message-ID: <194BB9F9-63EE-4E4E-BEE9-4F10FDDBFF41(a)unipg.it<mailto:194BB9F9-63EE-4E4E-BEE9-4F10FDDBFF41@unipg.it>> Content-Type: text/plain; charset="utf-8" Gent.mo collega, caro Michele, Grazie a te per la segnalazione: mi pare che osserviamo il medesimo fenomeno, e lo interpretiamo in modo analogo, sebbene in due casi diversi (ma accomunati da elementi molto significativi, a cominciare dall’esercizio del potere “giuridificato”, quello pubblico/amministrativo e quello datoriale, e l’applicazione dell’AI come ausilio all’esercizio di tale potere). Non appena l’ultore pubblicazione sarà finalizzata, te ne girerò i riferimenti. Un caro saluto Benedetto Ponti [firma nuova mail_3 2.png] Il giorno 13 gen 2025, alle ore 15:21, Michele Molè <michele.mole(a)protonmail.com<mailto:michele.mole@protonmail.com>> ha scritto: Molto interessante e idea su cui mi ritrovo appieno! Sono giunto alla stessa conclusione per quanto riguarda certe applicazioni di AI nei contesti di lavoro; i capi tendono a diventare "meno" capi quando usano sistemi di cui non capiscono nulla per gestire la forza lavoro (e di cui sono solo in grado di apprezzare i risultati). Non l'ho chiamata AI reale ma Commodified, Outsourced Authority: https://doi.org/10.6092/issn.1561-8048/20836 È un dibattito molto interessante e se la lista ulteriori consigli di lettura a riguardo (come pure de feedback) apprezzerei molto! Un caro saluto Michele On Monday, 13 January 2025 at 12:26, Benedetto Ponti via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> wrote: Solo a titolo di notizia, e per contribuire al dibattito in questione, Di recente ho cominciato a ragionare sull’idea che "l’AI reale” (cioè, quella effettivamente realizzata) sia intrinsecamente neoliberista. L’ho fatto qui: https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/… E a breve tornerò a farlo, in una collettanea di prossima uscita, ampliando un po’ il discorso ed i riferimenti (mi pare che la critica della scuola di Francoforte alla razionalità strumentale sia centrale, sotto questo profilo, ed in linea con alcune delle tesi già affacciate nelle mail precedenti). Un caro saluto a tutti Benedetto Ponti <firma nuova mail_3 2.png> Il giorno 13 gen 2025, alle ore 12:16, Marco Fasoli <mafasos(a)gmail.com<mailto:mafasos@gmail.com>> ha scritto: Buongiorno, credo che il tema della neutralità, o meglio della non neutralità delle nuove tecnologie, sia uno dei più attuali e rilevanti. Mi permetto di allegare un mio articolo di qualche anno fa, sperando che possa essere utile a chi vuole approfondire la questione. Cari saluti Marco Fasoli On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it><mailto:giacomo@tesio.it<mailto:giacomo@tesio.it>>> wrote: Ciao Giuseppe, Alfredo, Juan Carlos e tutti. Colgo l'assis di Giuseppe per riportare in lista una discussione che è proseguita in privato e che potrebbe essere di interesse perché ricorrente in Nexa. Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan Carlos [1], dice esplicitamente: > la tecnologia non è neutra, contiene dentro di sé un’anima politica > anche al di là dell’uso che se ne può fare. Una affermazione che io trovo al limite dell'ovvietà (forse perché creo tecnologie per mestiere e partecipo alla definizione degli effetti politici che queste avranno, fino al limite di dichiararmi incapace di realizzare certi software, qualora li ritenga dannosi per la società in cui vivranno i miei figli). Per contro, Giuseppe ed Alfredo sostengono che quanto meno la maggioranza delle tecnologie sono neutrali e gli effetti sociali e politici che hanno dipendono esclusivamente dalle scelte di coloro che le usano. Si tratta di posizioni antitetiche, che credo possa essere interessante discutere alla ricerca di una sintesi che le comprenda al proprio interno e ci fornisca un modello migliore della realtà. On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. Allora perché non provare a partire da definizioni rigorose? Definiamo "tecnologia" un determinato insieme di artefatti concreti costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di "tangibile", non di un'idea astratta, sia essa platonica ("coltellini svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze artificiali" etc..). Naturalmente molte idee (più precisamente, informazioni), e come vengono descritte / diffuse, hanno profonde implicazioni politiche e sociali, ma per quanto interessante, l'analisi degli effetti politici di determinate idee ci porterebbe lontano dai temi della lista. Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma delle sue applicazioni concrete. Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente orientato politicamente, ovvero che 1. non presuppone alcuna specifica organizzazione sociale 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non sono neutrali per il secondo punto, lo sono anche per il primo, ma non viceversa. Una tecnologia che presuppone, ad esempio, un forte accentramento di ricchezza e potere per essere creata, non è politicamente neutrale per il primo punto. Infatti, come minimo, l'esistenza di artefatti tecnologici con tale caratteristica giustifica e rafforza quella specifica organizzazione sociale, rendendo la società nel suo complesso dipendente dal perpetuarsi di tale organizzazione. Una tecnologia che favorisce certi usi socialmente rilevanti e ne sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un coltellino svizzero non è facile da utilizzare come arma, ma incentiva una cultura del fai da te per piccole riparazioni. La scheda ethernet o l'automobile sono altri esempi di tecnologie politicamente orientate da entrambi i punti di vista: - presuppongono una società industriale per essere prodotte e enormi investimenti infrastrutturali (strade / cablaggi) per essere utili - velocizzando le comunicazioni e i trasferimenti, riducono le distanze, facilitando determinate evoluzioni della società e ostacolandone altre. Vi sembrano definizioni ragionevoli? Se no, perché? Una volta individuate definizioni esplicite, attinenti e condivise, potremo ragionare se esistano davvero tecnologie politicamente neutrali, ovvero che rispondano a tali definizioni, nonché valutare in modo rigoroso la neutralità di nuove tecnologie. Giacomo [1] https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo libero) ti rispondero sul resto della mail nell'altro thread, ma credo che trovare definizioni condivise e cercare una sintesi sulla questione della "neutralità della tecnologia" può meritare un thread separato. <7 Contro lo strumentalismo.pdf> -------------- next part -------------- An HTML attachment was scrubbed... URL: <http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/40de8410/a…> -------------- next part -------------- A non-text attachment was scrubbed... Name: firma nuova mail_3 2.png Type: image/png Size: 23936 bytes Desc: firma nuova mail_3 2.png URL: <http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/40de8410/a…> ------------------------------ Subject: Digest Footer _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa ------------------------------ End of nexa Digest, Vol 189, Issue 36 *************************************

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Giuseppe Attardi

> On 13 Jan 2025, at 12:16, nexa-request(a)server-nexa.polito.it wrote: > > Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma > delle sue applicazioni concrete. Proprio questo è il punto cruciale. Quando sostengo che bisogna distinguere tra tecnologia e le sue applicazioni, intendo proprio questo. Per tecnologia intendo i principi di base, la conoscenza tecnico scientifica utilizzabile per scopi pratici. Ogni applicazione concreta ha le sue finalità e di conseguenza è orientata a scopi e interessi di chi la realizza. Chi le produce deve esserne cosciente e si assume la responsabilità delle conseguenze. Chi le utilizza accetta e condivide la responsabilità degli effetti di tale utilizzo. Questa condivisione di responsabilità è coerente con le affermazioni che strumenti e loro utilizzatori costituiscono a volte un’accoppiata inseparabile di responsabilità. Ho fatto come esempio di tecnologia separato dalle applicazioni le tabelle dei logaritmi, ma anche per le altre applicazioni citate da qualcuno come controesempi di tecnologie non neutre si può fare la stessa distinzione: - smartphones: la tecnologia è semplicemente la combinazione di personal computer con connettività internet (GSM o WiFi). BTW, Tablet e PC usano la stessa tecnologia, per cui è artificiosa la critica agli uni e non agli altri. - StarLink, la tecnologia è quella dei satelliti LEO e della connettività Internet via radio e tramite link dinamici. Anche qui la critica al monopolio di Musk riguarda questa particolare istanza di servizio. - whatsapp, la tecnologia è un semplice la combinazione di tre protocolli: Signal, WebRTC e XMPP. Tutte queste tecnologie sono disponibili e altre implementazioni sono possibili. Il fatto che alcune di queste si siano imposte rispetto ad altre è una questione ben poco tecnologica (come è stato fatto notare non sempre si afferma la tecnologia migliore), ma principalmente antropologica (winner takes all o rich gets richer, che dipende dai limiti cognitivi della nostra mente: possiamo ricordare al più 3-4 cose per settore) che viene sfruttato dai sistemi economici e finanziari per promuovere un vincente e stroncare i concorrenti. La tecnologia ha sempre dei limiti ed è perfettamente legittimo metterli in evidenza. Per le attuali tecnologia degli LLM ci sono limiti riguardo la stima a priori dell’accuratezza, la scalabilità dei modelli, la quantità di dati necessaria all’apprendimento, il catastrophic forgetting, ecc. Ma direi che nessuno di questi costituisca una violazione di valori morali tale da metterle al bano o di sottoporle alla generale esecrazione. Esistono tecnologie che incorporano violazioni di principi morali. Ad esempio le camere a gas, anche se usate per eseguire pene capitali irrogate da un tribunale, sono un esempio: molti paesi hanno abolito la pena capitale e questo rende tali tecnologie contrarie ai principi morali a cui le leggi di quei paesi fanno riferimento. Lo stesso vale per le armi nucleari. Legittimo quindi da parte degli scienziati di rifiutarsi di sviluppare tecnologie destinate a tali usi o di sviluppare applicazioni che violino principi morali. —

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by maurizio lana

per tutti noi che lavoriamo nella P.A. è ben noto che siamo oltre la questione se il programma informatico può imporre comportamenti non previsti da leggi: si fa quello che il programma informatico prevede e ciò che il programma informatico non permette non si fa. il programma è legge! e non si concepisce che il programma possa essere modificato per permettere ciò che non era stato previsto che permettesse - e che pure le norme o la legge permettono, o che non regolano. M Il 13/01/25 16:06, alessandro marzocchi ha scritto: > Il programma informatico può imporre comportamenti non previsti da leggi? > Cordialmente. > Duccio (Alessandro Marzocchi) > > > Il giorno lun 13 gen 2025 alle ore 15:29 > <nexa-request(a)server-nexa.polito.it> ha scritto: > > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: Esistono "tecnologie" "politicamente neutrali"? > (Benedetto Ponti) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 13 Jan 2025 14:29:41 +0000 > From: Benedetto Ponti <benedetto.ponti(a)unipg.it> > To: Michele Molè <michele.mole(a)protonmail.com> > Cc: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] Esistono "tecnologie" "politicamente neutrali"? > Message-ID: <194BB9F9-63EE-4E4E-BEE9-4F10FDDBFF41(a)unipg.it> > Content-Type: text/plain; charset="utf-8" > > Gent.mo collega, caro Michele, > Grazie a te per la segnalazione: mi pare che osserviamo il > medesimo fenomeno, e lo interpretiamo in modo analogo, sebbene in > due casi diversi (ma accomunati da elementi molto significativi, a > cominciare dall’esercizio del potere “giuridificato”, quello > pubblico/amministrativo e quello datoriale, e l’applicazione > dell’AI come ausilio all’esercizio di tale potere). > Non appena l’ultore pubblicazione sarà finalizzata, te ne girerò i > riferimenti. > > Un caro saluto > Benedetto Ponti > [firma nuova mail_3 2.png] > > Il giorno 13 gen 2025, alle ore 15:21, Michele Molè > <michele.mole(a)protonmail.com> ha scritto: > > Molto interessante e idea su cui mi ritrovo appieno! Sono giunto > alla stessa conclusione per quanto riguarda certe applicazioni di > AI nei contesti di lavoro; i capi tendono a diventare "meno" capi > quando usano sistemi di cui non capiscono nulla per gestire la > forza lavoro (e di cui sono solo in grado di apprezzare i > risultati). Non l'ho chiamata AI reale ma Commodified, Outsourced > Authority: https://doi.org/10.6092/issn.1561-8048/20836 > È un dibattito molto interessante e se la lista ulteriori consigli > di lettura a riguardo (come pure de feedback) apprezzerei molto! > > Un caro saluto > Michele > On Monday, 13 January 2025 at 12:26, Benedetto Ponti via nexa > <nexa(a)server-nexa.polito.it> wrote: > Solo a titolo di notizia, e per contribuire al dibattito in questione, > Di recente ho cominciato a ragionare sull’idea che "l’AI reale” > (cioè, quella effettivamente realizzata) sia intrinsecamente > neoliberista. > L’ho fatto qui: > https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/… > > E a breve tornerò a farlo, in una collettanea di prossima uscita, > ampliando un po’ il discorso ed i riferimenti (mi pare che la > critica della scuola di Francoforte alla razionalità strumentale > sia centrale, sotto questo profilo, ed in linea con alcune delle > tesi già affacciate nelle mail precedenti). > > Un caro saluto a tutti > > Benedetto Ponti > <firma nuova mail_3 2.png> > > Il giorno 13 gen 2025, alle ore 12:16, Marco Fasoli > <mafasos(a)gmail.com> ha scritto: > > Buongiorno, > credo che il tema della neutralità, o meglio della non neutralità > delle nuove tecnologie, sia uno dei più attuali e rilevanti. > Mi permetto di allegare un mio articolo di qualche anno fa, > sperando che possa essere utile a chi vuole > approfondire la questione. > > Cari saluti > > Marco Fasoli > > On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio > <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> wrote: > Ciao Giuseppe, Alfredo, Juan Carlos e tutti. > > Colgo l'assis di Giuseppe per riportare in lista una discussione che > è proseguita in privato e che potrebbe essere di interesse perché > ricorrente in Nexa. > > Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan > Carlos [1], dice esplicitamente: > > > la tecnologia non è neutra, contiene dentro di sé un’anima politica > > anche al di là dell’uso che se ne può fare. > > Una affermazione che io trovo al limite dell'ovvietà (forse perché > creo > tecnologie per mestiere e partecipo alla definizione degli effetti > politici che queste avranno, fino al limite di dichiararmi incapace > di realizzare certi software, qualora li ritenga dannosi per la > società in cui vivranno i miei figli). > > > Per contro, Giuseppe ed Alfredo sostengono che quanto meno la > maggioranza delle tecnologie sono neutrali e gli effetti sociali e > politici che hanno dipendono esclusivamente dalle scelte di coloro > che le usano. > > > Si tratta di posizioni antitetiche, che credo possa essere > interessante > discutere alla ricerca di una sintesi che le comprenda al proprio > interno e ci fornisca un modello migliore della realtà. > > > On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > > > Temo che non siamo d’accordo sul significato di “neutrale” per una > > tecnologia. > > Allora perché non provare a partire da definizioni rigorose? > > > Definiamo "tecnologia" un determinato insieme di artefatti concreti > costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di > "tangibile", non di un'idea astratta, sia essa platonica ("coltellini > svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze > artificiali" etc..). > > Naturalmente molte idee (più precisamente, informazioni), e come > vengono descritte / diffuse, hanno profonde implicazioni politiche e > sociali, ma per quanto interessante, l'analisi degli effetti politici > di determinate idee ci porterebbe lontano dai temi della lista. > > Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma > delle sue applicazioni concrete. > > > Definiamo poi "politicamente neutrale" un artefatto non > intrinsecamente > orientato politicamente, ovvero che > > 1. non presuppone alcuna specifica organizzazione sociale > 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o > sfavorendo, di conseguenza, alcuna evoluzione della società nel > tempo > > Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non > sono neutrali per il secondo punto, lo sono anche per il primo, ma non > viceversa. > > > Una tecnologia che presuppone, ad esempio, un forte accentramento di > ricchezza e potere per essere creata, non è politicamente neutrale per > il primo punto. > Infatti, come minimo, l'esistenza di artefatti tecnologici con tale > caratteristica giustifica e rafforza quella specifica organizzazione > sociale, rendendo la società nel suo complesso dipendente dal > perpetuarsi di tale organizzazione. > > Una tecnologia che favorisce certi usi socialmente rilevanti e ne > sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un > coltellino svizzero non è facile da utilizzare come arma, ma incentiva > una cultura del fai da te per piccole riparazioni. > > > La scheda ethernet o l'automobile sono altri esempi di tecnologie > politicamente orientate da entrambi i punti di vista: > - presuppongono una società industriale per essere prodotte e enormi > investimenti infrastrutturali (strade / cablaggi) per essere utili > - velocizzando le comunicazioni e i trasferimenti, riducono le > distanze, facilitando determinate evoluzioni della società e > ostacolandone altre. > > > > Vi sembrano definizioni ragionevoli? > Se no, perché? > > > Una volta individuate definizioni esplicite, attinenti e condivise, > potremo ragionare se esistano davvero tecnologie politicamente > neutrali, ovvero che rispondano a tali definizioni, nonché valutare > in modo rigoroso la neutralità di nuove tecnologie. > > > Giacomo > > [1] > https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html > > PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo > libero) ti rispondero sul resto della mail nell'altro thread, ma credo > che trovare definizioni condivise e cercare una sintesi sulla > questione > della "neutralità della tecnologia" può meritare un thread separato. > <7 Contro lo strumentalismo.pdf> > > > > -------------- next part -------------- > An HTML attachment was scrubbed... > URL: > <http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/40de8410/a…> > -------------- next part -------------- > A non-text attachment was scrubbed... > Name: firma nuova mail_3 2.png > Type: image/png > Size: 23936 bytes > Desc: firma nuova mail_3 2.png > URL: > <http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/40de8410/a…> > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 189, Issue 36 > ************************************* > ------------------------------------------------------------------------ tout est et n'est rien motto dei conti di Challant ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by alessandro marzocchi

Il programma informatico può imporre comportamenti non previsti da leggi? Cordialmente. Duccio (Alessandro Marzocchi) Il giorno lun 13 gen 2025 alle ore 15:29 <nexa-request(a)server-nexa.polito.it> ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: Esistono "tecnologie" "politicamente neutrali"? > (Benedetto Ponti) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 13 Jan 2025 14:29:41 +0000 > From: Benedetto Ponti <benedetto.ponti(a)unipg.it> > To: Michele Molè <michele.mole(a)protonmail.com> > Cc: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] Esistono "tecnologie" "politicamente neutrali"? > Message-ID: <194BB9F9-63EE-4E4E-BEE9-4F10FDDBFF41(a)unipg.it> > Content-Type: text/plain; charset="utf-8" > > Gent.mo collega, caro Michele, > Grazie a te per la segnalazione: mi pare che osserviamo il medesimo > fenomeno, e lo interpretiamo in modo analogo, sebbene in due casi diversi > (ma accomunati da elementi molto significativi, a cominciare dall’esercizio > del potere “giuridificato”, quello pubblico/amministrativo e quello > datoriale, e l’applicazione dell’AI come ausilio all’esercizio di tale > potere). > Non appena l’ultore pubblicazione sarà finalizzata, te ne girerò i > riferimenti. > > Un caro saluto > Benedetto Ponti > [firma nuova mail_3 2.png] > > Il giorno 13 gen 2025, alle ore 15:21, Michele Molè < > michele.mole(a)protonmail.com> ha scritto: > > Molto interessante e idea su cui mi ritrovo appieno! Sono giunto alla > stessa conclusione per quanto riguarda certe applicazioni di AI nei > contesti di lavoro; i capi tendono a diventare "meno" capi quando usano > sistemi di cui non capiscono nulla per gestire la forza lavoro (e di cui > sono solo in grado di apprezzare i risultati). Non l'ho chiamata AI reale > ma Commodified, Outsourced Authority: > https://doi.org/10.6092/issn.1561-8048/20836 > È un dibattito molto interessante e se la lista ulteriori consigli di > lettura a riguardo (come pure de feedback) apprezzerei molto! > > Un caro saluto > Michele > On Monday, 13 January 2025 at 12:26, Benedetto Ponti via nexa < > nexa(a)server-nexa.polito.it> wrote: > Solo a titolo di notizia, e per contribuire al dibattito in questione, > Di recente ho cominciato a ragionare sull’idea che "l’AI reale” (cioè, > quella effettivamente realizzata) sia intrinsecamente neoliberista. > L’ho fatto qui: > https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/… > > E a breve tornerò a farlo, in una collettanea di prossima uscita, > ampliando un po’ il discorso ed i riferimenti (mi pare che la critica della > scuola di Francoforte alla razionalità strumentale sia centrale, sotto > questo profilo, ed in linea con alcune delle tesi già affacciate nelle mail > precedenti). > > Un caro saluto a tutti > > Benedetto Ponti > <firma nuova mail_3 2.png> > > Il giorno 13 gen 2025, alle ore 12:16, Marco Fasoli <mafasos(a)gmail.com> > ha scritto: > > Buongiorno, > credo che il tema della neutralità, o meglio della non neutralità delle > nuove tecnologie, sia uno dei più attuali e rilevanti. > Mi permetto di allegare un mio articolo di qualche anno fa, sperando che > possa essere utile a chi vuole > approfondire la questione. > > Cari saluti > > Marco Fasoli > > On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo(a)tesio.it<mailto: > giacomo(a)tesio.it>> wrote: > Ciao Giuseppe, Alfredo, Juan Carlos e tutti. > > Colgo l'assis di Giuseppe per riportare in lista una discussione che > è proseguita in privato e che potrebbe essere di interesse perché > ricorrente in Nexa. > > Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan > Carlos [1], dice esplicitamente: > > > la tecnologia non è neutra, contiene dentro di sé un’anima politica > > anche al di là dell’uso che se ne può fare. > > Una affermazione che io trovo al limite dell'ovvietà (forse perché creo > tecnologie per mestiere e partecipo alla definizione degli effetti > politici che queste avranno, fino al limite di dichiararmi incapace > di realizzare certi software, qualora li ritenga dannosi per la > società in cui vivranno i miei figli). > > > Per contro, Giuseppe ed Alfredo sostengono che quanto meno la > maggioranza delle tecnologie sono neutrali e gli effetti sociali e > politici che hanno dipendono esclusivamente dalle scelte di coloro > che le usano. > > > Si tratta di posizioni antitetiche, che credo possa essere interessante > discutere alla ricerca di una sintesi che le comprenda al proprio > interno e ci fornisca un modello migliore della realtà. > > > On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > > > Temo che non siamo d’accordo sul significato di “neutrale” per una > > tecnologia. > > Allora perché non provare a partire da definizioni rigorose? > > > Definiamo "tecnologia" un determinato insieme di artefatti concreti > costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di > "tangibile", non di un'idea astratta, sia essa platonica ("coltellini > svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze > artificiali" etc..). > > Naturalmente molte idee (più precisamente, informazioni), e come > vengono descritte / diffuse, hanno profonde implicazioni politiche e > sociali, ma per quanto interessante, l'analisi degli effetti politici > di determinate idee ci porterebbe lontano dai temi della lista. > > Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma > delle sue applicazioni concrete. > > > Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente > orientato politicamente, ovvero che > > 1. non presuppone alcuna specifica organizzazione sociale > 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o > sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo > > Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non > sono neutrali per il secondo punto, lo sono anche per il primo, ma non > viceversa. > > > Una tecnologia che presuppone, ad esempio, un forte accentramento di > ricchezza e potere per essere creata, non è politicamente neutrale per > il primo punto. > Infatti, come minimo, l'esistenza di artefatti tecnologici con tale > caratteristica giustifica e rafforza quella specifica organizzazione > sociale, rendendo la società nel suo complesso dipendente dal > perpetuarsi di tale organizzazione. > > Una tecnologia che favorisce certi usi socialmente rilevanti e ne > sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un > coltellino svizzero non è facile da utilizzare come arma, ma incentiva > una cultura del fai da te per piccole riparazioni. > > > La scheda ethernet o l'automobile sono altri esempi di tecnologie > politicamente orientate da entrambi i punti di vista: > - presuppongono una società industriale per essere prodotte e enormi > investimenti infrastrutturali (strade / cablaggi) per essere utili > - velocizzando le comunicazioni e i trasferimenti, riducono le > distanze, facilitando determinate evoluzioni della società e > ostacolandone altre. > > > > Vi sembrano definizioni ragionevoli? > Se no, perché? > > > Una volta individuate definizioni esplicite, attinenti e condivise, > potremo ragionare se esistano davvero tecnologie politicamente > neutrali, ovvero che rispondano a tali definizioni, nonché valutare > in modo rigoroso la neutralità di nuove tecnologie. > > > Giacomo > > [1] > https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html > > PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo > libero) ti rispondero sul resto della mail nell'altro thread, ma credo > che trovare definizioni condivise e cercare una sintesi sulla questione > della "neutralità della tecnologia" può meritare un thread separato. > <7 Contro lo strumentalismo.pdf> > > > >

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Benedetto Ponti

Gent.mo collega, caro Michele, Grazie a te per la segnalazione: mi pare che osserviamo il medesimo fenomeno, e lo interpretiamo in modo analogo, sebbene in due casi diversi (ma accomunati da elementi molto significativi, a cominciare dall’esercizio del potere “giuridificato”, quello pubblico/amministrativo e quello datoriale, e l’applicazione dell’AI come ausilio all’esercizio di tale potere). Non appena l’ultore pubblicazione sarà finalizzata, te ne girerò i riferimenti. Un caro saluto Benedetto Ponti [firma nuova mail_3 2.png] Il giorno 13 gen 2025, alle ore 15:21, Michele Molè <michele.mole(a)protonmail.com> ha scritto: Molto interessante e idea su cui mi ritrovo appieno! Sono giunto alla stessa conclusione per quanto riguarda certe applicazioni di AI nei contesti di lavoro; i capi tendono a diventare "meno" capi quando usano sistemi di cui non capiscono nulla per gestire la forza lavoro (e di cui sono solo in grado di apprezzare i risultati). Non l'ho chiamata AI reale ma Commodified, Outsourced Authority: https://doi.org/10.6092/issn.1561-8048/20836 È un dibattito molto interessante e se la lista ulteriori consigli di lettura a riguardo (come pure de feedback) apprezzerei molto! Un caro saluto Michele On Monday, 13 January 2025 at 12:26, Benedetto Ponti via nexa <nexa(a)server-nexa.polito.it> wrote: Solo a titolo di notizia, e per contribuire al dibattito in questione, Di recente ho cominciato a ragionare sull’idea che "l’AI reale” (cioè, quella effettivamente realizzata) sia intrinsecamente neoliberista. L’ho fatto qui: https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/… E a breve tornerò a farlo, in una collettanea di prossima uscita, ampliando un po’ il discorso ed i riferimenti (mi pare che la critica della scuola di Francoforte alla razionalità strumentale sia centrale, sotto questo profilo, ed in linea con alcune delle tesi già affacciate nelle mail precedenti). Un caro saluto a tutti Benedetto Ponti <firma nuova mail_3 2.png> Il giorno 13 gen 2025, alle ore 12:16, Marco Fasoli <mafasos(a)gmail.com> ha scritto: Buongiorno, credo che il tema della neutralità, o meglio della non neutralità delle nuove tecnologie, sia uno dei più attuali e rilevanti. Mi permetto di allegare un mio articolo di qualche anno fa, sperando che possa essere utile a chi vuole approfondire la questione. Cari saluti Marco Fasoli On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> wrote: Ciao Giuseppe, Alfredo, Juan Carlos e tutti. Colgo l'assis di Giuseppe per riportare in lista una discussione che è proseguita in privato e che potrebbe essere di interesse perché ricorrente in Nexa. Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan Carlos [1], dice esplicitamente: > la tecnologia non è neutra, contiene dentro di sé un’anima politica > anche al di là dell’uso che se ne può fare. Una affermazione che io trovo al limite dell'ovvietà (forse perché creo tecnologie per mestiere e partecipo alla definizione degli effetti politici che queste avranno, fino al limite di dichiararmi incapace di realizzare certi software, qualora li ritenga dannosi per la società in cui vivranno i miei figli). Per contro, Giuseppe ed Alfredo sostengono che quanto meno la maggioranza delle tecnologie sono neutrali e gli effetti sociali e politici che hanno dipendono esclusivamente dalle scelte di coloro che le usano. Si tratta di posizioni antitetiche, che credo possa essere interessante discutere alla ricerca di una sintesi che le comprenda al proprio interno e ci fornisca un modello migliore della realtà. On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. Allora perché non provare a partire da definizioni rigorose? Definiamo "tecnologia" un determinato insieme di artefatti concreti costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di "tangibile", non di un'idea astratta, sia essa platonica ("coltellini svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze artificiali" etc..). Naturalmente molte idee (più precisamente, informazioni), e come vengono descritte / diffuse, hanno profonde implicazioni politiche e sociali, ma per quanto interessante, l'analisi degli effetti politici di determinate idee ci porterebbe lontano dai temi della lista. Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma delle sue applicazioni concrete. Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente orientato politicamente, ovvero che 1. non presuppone alcuna specifica organizzazione sociale 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non sono neutrali per il secondo punto, lo sono anche per il primo, ma non viceversa. Una tecnologia che presuppone, ad esempio, un forte accentramento di ricchezza e potere per essere creata, non è politicamente neutrale per il primo punto. Infatti, come minimo, l'esistenza di artefatti tecnologici con tale caratteristica giustifica e rafforza quella specifica organizzazione sociale, rendendo la società nel suo complesso dipendente dal perpetuarsi di tale organizzazione. Una tecnologia che favorisce certi usi socialmente rilevanti e ne sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un coltellino svizzero non è facile da utilizzare come arma, ma incentiva una cultura del fai da te per piccole riparazioni. La scheda ethernet o l'automobile sono altri esempi di tecnologie politicamente orientate da entrambi i punti di vista: - presuppongono una società industriale per essere prodotte e enormi investimenti infrastrutturali (strade / cablaggi) per essere utili - velocizzando le comunicazioni e i trasferimenti, riducono le distanze, facilitando determinate evoluzioni della società e ostacolandone altre. Vi sembrano definizioni ragionevoli? Se no, perché? Una volta individuate definizioni esplicite, attinenti e condivise, potremo ragionare se esistano davvero tecnologie politicamente neutrali, ovvero che rispondano a tali definizioni, nonché valutare in modo rigoroso la neutralità di nuove tecnologie. Giacomo [1] https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo libero) ti rispondero sul resto della mail nell'altro thread, ma credo che trovare definizioni condivise e cercare una sintesi sulla questione della "neutralità della tecnologia" può meritare un thread separato. <7 Contro lo strumentalismo.pdf>

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Michele Molè

Molto interessante e idea su cui mi ritrovo appieno! Sono giunto alla stessa conclusione per quanto riguarda certe applicazioni di AI nei contesti di lavoro; i capi tendono a diventare "meno" capi quando usano sistemi di cui non capiscono nulla per gestire la forza lavoro (e di cui sono solo in grado di apprezzare i risultati). Non l'ho chiamata AI reale ma Commodified, Outsourced Authority: https://doi.org/10.6092/issn.1561-8048/20836 È un dibattito molto interessante e se la lista ulteriori consigli di lettura a riguardo (come pure de feedback) apprezzerei molto! Un caro saluto Michele On Monday, 13 January 2025 at 12:26, Benedetto Ponti via nexa <nexa(a)server-nexa.polito.it> wrote: > Solo a titolo di notizia, e per contribuire al dibattito in questione, > Di recente ho cominciato a ragionare sull’idea che "l’AI reale” (cioè, quella effettivamente realizzata) sia intrinsecamente neoliberista. > L’ho fatto qui: https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/… > > E a breve tornerò a farlo, in una collettanea di prossima uscita, ampliando un po’ il discorso ed i riferimenti (mi pare che la critica della scuola di Francoforte alla razionalità strumentale sia centrale, sotto questo profilo, ed in linea con alcune delle tesi già affacciate nelle mail precedenti). > > Un caro saluto a tutti > > Benedetto Ponti > > [firma nuova mail_3 2.png] > >> Il giorno 13 gen 2025, alle ore 12:16, Marco Fasoli <mafasos(a)gmail.com> ha scritto: >> >> Buongiorno, >> credo che il tema della neutralità, o meglio della non neutralità delle nuove tecnologie, sia uno dei più attuali e rilevanti. >> Mi permetto di allegare un mio articolo di qualche anno fa, sperando che possa essere utile a chi vuole >> approfondire la questione. >> >> Cari saluti >> >> Marco Fasoli >> >> On Mon, 13 Jan 2025 at 12:09, Giacomo Tesio <giacomo(a)tesio.it> wrote: >> >>> Ciao Giuseppe, Alfredo, Juan Carlos e tutti. >>> >>> Colgo l'assis di Giuseppe per riportare in lista una discussione che >>> è proseguita in privato e che potrebbe essere di interesse perché >>> ricorrente in Nexa. >>> >>> Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan >>> Carlos [1], dice esplicitamente: >>> >>>> la tecnologia non è neutra, contiene dentro di sé un’anima politica >>>> anche al di là dell’uso che se ne può fare. >>> >>> Una affermazione che io trovo al limite dell'ovvietà (forse perché creo >>> tecnologie per mestiere e partecipo alla definizione degli effetti >>> politici che queste avranno, fino al limite di dichiararmi incapace >>> di realizzare certi software, qualora li ritenga dannosi per la >>> società in cui vivranno i miei figli). >>> >>> Per contro, Giuseppe ed Alfredo sostengono che quanto meno la >>> maggioranza delle tecnologie sono neutrali e gli effetti sociali e >>> politici che hanno dipendono esclusivamente dalle scelte di coloro >>> che le usano. >>> >>> Si tratta di posizioni antitetiche, che credo possa essere interessante >>> discutere alla ricerca di una sintesi che le comprenda al proprio >>> interno e ci fornisca un modello migliore della realtà. >>> >>> On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: >>> >>>> Temo che non siamo d’accordo sul significato di “neutrale” per una >>>> tecnologia. >>> >>> Allora perché non provare a partire da definizioni rigorose? >>> >>> Definiamo "tecnologia" un determinato insieme di artefatti concreti >>> costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di >>> "tangibile", non di un'idea astratta, sia essa platonica ("coltellini >>> svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze >>> artificiali" etc..). >>> >>> Naturalmente molte idee (più precisamente, informazioni), e come >>> vengono descritte / diffuse, hanno profonde implicazioni politiche e >>> sociali, ma per quanto interessante, l'analisi degli effetti politici >>> di determinate idee ci porterebbe lontano dai temi della lista. >>> >>> Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma >>> delle sue applicazioni concrete. >>> >>> Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente >>> orientato politicamente, ovvero che >>> >>> 1. non presuppone alcuna specifica organizzazione sociale >>> 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o >>> sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo >>> >>> Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non >>> sono neutrali per il secondo punto, lo sono anche per il primo, ma non >>> viceversa. >>> >>> Una tecnologia che presuppone, ad esempio, un forte accentramento di >>> ricchezza e potere per essere creata, non è politicamente neutrale per >>> il primo punto. >>> Infatti, come minimo, l'esistenza di artefatti tecnologici con tale >>> caratteristica giustifica e rafforza quella specifica organizzazione >>> sociale, rendendo la società nel suo complesso dipendente dal >>> perpetuarsi di tale organizzazione. >>> >>> Una tecnologia che favorisce certi usi socialmente rilevanti e ne >>> sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un >>> coltellino svizzero non è facile da utilizzare come arma, ma incentiva >>> una cultura del fai da te per piccole riparazioni. >>> >>> La scheda ethernet o l'automobile sono altri esempi di tecnologie >>> politicamente orientate da entrambi i punti di vista: >>> - presuppongono una società industriale per essere prodotte e enormi >>> investimenti infrastrutturali (strade / cablaggi) per essere utili >>> - velocizzando le comunicazioni e i trasferimenti, riducono le >>> distanze, facilitando determinate evoluzioni della società e >>> ostacolandone altre. >>> >>> Vi sembrano definizioni ragionevoli? >>> Se no, perché? >>> >>> Una volta individuate definizioni esplicite, attinenti e condivise, >>> potremo ragionare se esistano davvero tecnologie politicamente >>> neutrali, ovvero che rispondano a tali definizioni, nonché valutare >>> in modo rigoroso la neutralità di nuove tecnologie. >>> >>> Giacomo >>> >>> [1] >>> https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html >>> >>> PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo >>> libero) ti rispondero sul resto della mail nell'altro thread, ma credo >>> che trovare definizioni condivise e cercare una sintesi sulla questione >>> della "neutralità della tecnologia" può meritare un thread separato. >> >> <7 Contro lo strumentalismo.pdf>

Jan. 13, 2025

Re: [nexa] In a mirror

by Daniela Tafani

Buongiorno, davo per scontato che teleologico fosse da intendersi in opposizione a deontologico e quindi non assumevo una virgola di quanto scrivi. Un saluto, Daniela ________________________________________ Da: Guido Vetere <vetere.guido(a)gmail.com> Inviato: lunedì 13 gennaio 2025 14:59 A: Daniela Tafani Cc: Giuseppe Attardi; Alfredo Bregni; nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] In a mirror Daniela, l'argomento di Pitt è molto meno 'teleologico' della sua negazione, perché chi lo nega sostiene che la finalità di chi produce una tecnica è irreversibile e ne determina qualunque possibile esito storico. Quello che mi pare un po' antico è l'essenzialismo di chi sostiene che la tecnica abbia appunto un in sé. Nel Novecento siamo stati abituati a pensare in termini di esistenza cioè di scelta umana sempre in questione, cioè problematica. L'essenzialismo non è un reato, ma occorre accettarne i rischi, tra cui la frana della dialettica nella fissità di un 'pensiero di riferimento', come mi sembra accada talvolta qui. G. On Mon, 13 Jan 2025 at 14:05, Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> wrote: Buongiorno, l'argomento di Pitt è sviluppato a partire da un'impostazione teleologica, oggetto di confutazioni da secoli. Quanto all'argomento cruciale, che invoca "la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare", mi pare coincida con l'argomento del lampione di cui scriveva Weizenbaum: "In una notte scura, un poliziotto si imbatte in un ubriaco. Questi sta inginocchiato, e ovviamente sta cercando qualcosa sotto un lampione. Alla domanda dell’agente, su che cosa stia facendo, risponde che sta cercando le chiavi di casa, che dice di aver perso «laggiù», indicando in direzione dell’oscurità. Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più luce, qui». " Un saluto, Daniela ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di Giuseppe Attardi <attardi(a)di.unipi.it<mailto:attardi@di.unipi.it>> Inviato: lunedì 13 gennaio 2025 12:58 A: Alfredo Bregni Cc: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: Re: [nexa] In a mirror La discussione sulla neutralità della tecnologia non è nuova e non finirà. La divisione è tra chi sostiene la Value-Neutrality-Thesis e chi la confuta. Joseph C. Pitt è molto citato e poco confutato sostenitore della tesi. <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> Is Technology Morally Neutral? Joseph C. Pitt and the Value Neutrality Thesis<https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> medium.com<http://medium.com><https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> [10fd5c419ac61637245384e7099e131627900034828f4f386bdaa47a74eae156.png] <https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the…> Il suo argomento cruciale è la difficoltà di individuare dei valori morali precisi incorporati in una determinata tecnologia, mentre è più agevole individuare quali usi di una tecnologia violino determinati valori da salvaguardare. Non è una distinzione da poco, perché se chi sviluppa tecnologia o chi fa scienza si dovesse preoccupare di tutti i possibili effetti di violazioni di valori umani producibili con l’eventuale utilizzo dei suoi risultati, probabilmente si dovrebbe bloccare l’intera ricerca scientifica e tecnologica. — On 13 Jan 2025, at 10:05, Alfredo Bregni <abregni(a)iperv.it<mailto:abregni@iperv.it>> wrote: Ciao, Giuseppe. Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" - Io insisto che: a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); c) tutto dipende da come si usano / applicano; d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. A presto, A ----- Original Message ----- From: Giuseppe Attardi<mailto:attardi@di.unipi.it<mailto:attardi@di.unipi.it>> To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it><mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Cc: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it><mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> Sent: Monday, January 13, 2025 9:27 AM Subject: Re: [nexa] In a mirror Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. — > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it><mailto:nexa-request@server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it>> wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it><mailto:giacomo@tesio.it<mailto:giacomo@tesio.it>>> > To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it><mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>>, Giuseppe Attardi <attardi(a)di.unipi.it<mailto:attardi@di.unipi.it><mailto:attardi@di.unipi.it<mailto:attardi@di.unipi.it>>> > Subject: Re: [nexa] In a mirror > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it<mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it><mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it<mailto:FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4@tesio.it>>> > Content-Type: text/plain; charset=UTF-8 > > Ciao Giuseppe, > > speravo davvero che intervenissi! :-) > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: >> >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante >> possibili applicazioni. > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > La distinzione fra chatbot e LLM rimane informaticamente valida in > generale, ma non credo fosse rilevante per il dibattito perché né > chatbot né LLM esprimono alcuna forma di intelligenza. > >> Gran parte delle critiche riguardano appunto i chatbot >> (allucinazioni, superficialità, ecc.). > > Perché costituiscono la base della narrazione allucinata che domina > il dibattito informatico attuale, determinando scelte politiche, > economiche ed educative altrettanto allucinate. > > >> I LM sono decisamente una tecnologia neutra > > Solo nel mondo della fantasia, Giuseppe. > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > culturalmente e storicamente situati. > > Già solo per questo semplice fatto, nessun LLM reale può essere > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > accolto Minerva l'anno scorso. [1] > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > scartare. > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > producono output "politicamente corretto", quale che siano gli > obiettivi politici dei programmatori, dal legittimare il proprio > software agli occhi dei moralisti statunitensi, difendere il proprio > modello di business o cancellare piazza Tiananmen dalla storia [2] > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > siano in alcun modo "neutrali". > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > politicamente (e lo è), lo sono tutti gli LLM reali. >

Jan. 13, 2025

Re: [nexa] In a mirror

by Guido Vetere

Daniela, l'argomento di Pitt è molto meno 'teleologico' della sua negazione, perché chi lo nega sostiene che la finalità di chi produce una tecnica è irreversibile e ne determina qualunque possibile esito storico. Quello che mi pare un po' antico è l'essenzialismo di chi sostiene che la tecnica abbia appunto un *in sé*. Nel Novecento siamo stati abituati a pensare in termini di *esistenza *cioè di scelta umana sempre in questione, cioè problematica. L'essenzialismo non è un reato, ma occorre accettarne i rischi, tra cui la frana della dialettica nella fissità di un 'pensiero di riferimento', come mi sembra accada talvolta qui. G. On Mon, 13 Jan 2025 at 14:05, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > Buongiorno, > > l'argomento di Pitt è sviluppato a partire da un'impostazione teleologica, > oggetto di confutazioni da secoli. > > Quanto all'argomento cruciale, che invoca "la difficoltà di individuare > dei valori morali precisi incorporati in una determinata tecnologia, mentre > è più agevole individuare quali usi di una tecnologia violino determinati > valori da salvaguardare", mi pare coincida con l'argomento del lampione di > cui scriveva Weizenbaum: > > "In una notte scura, un poliziotto si imbatte in un ubriaco. Questi sta > inginocchiato, e ovviamente sta cercando qualcosa sotto un lampione. Alla > domanda dell’agente, su che cosa stia facendo, risponde che sta cercando le > chiavi di casa, che dice di aver perso «laggiù», indicando in direzione > dell’oscurità. Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, > le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più > luce, qui». " > > Un saluto, > Daniela > > > ________________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giuseppe > Attardi <attardi(a)di.unipi.it> > Inviato: lunedì 13 gennaio 2025 12:58 > A: Alfredo Bregni > Cc: nexa(a)server-nexa.polito.it > Oggetto: Re: [nexa] In a mirror > > > La discussione sulla neutralità della tecnologia non è nuova e non finirà. > La divisione è tra chi sostiene la Value-Neutrality-Thesis e chi la > confuta. > > Joseph C. Pitt è molto citato e poco confutato sostenitore della tesi. > > < > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the… > > > Is Technology Morally Neutral? Joseph C. Pitt and the Value Neutrality > Thesis< > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the… > > > medium.com< > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the… > > > > [10fd5c419ac61637245384e7099e131627900034828f4f386bdaa47a74eae156.png] < > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the… > > > > > Il suo argomento cruciale è la difficoltà di individuare dei valori morali > precisi incorporati in una determinata tecnologia, mentre è più agevole > individuare quali usi di una tecnologia violino determinati valori da > salvaguardare. > > Non è una distinzione da poco, perché se chi sviluppa tecnologia o chi fa > scienza si dovesse preoccupare di tutti i possibili effetti di violazioni > di valori umani producibili con l’eventuale utilizzo dei suoi risultati, > probabilmente si dovrebbe bloccare l’intera ricerca scientifica e > tecnologica. > > — > > On 13 Jan 2025, at 10:05, Alfredo Bregni <abregni(a)iperv.it> wrote: > > > Ciao, Giuseppe. > > Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla > faccenda: > > - Lui insiste ad es. che Ethernet aumenta la velocità delle > telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia > ha certe "capacità" > > - Io insisto che: > a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che > scientifica / tecnica / tecnologica -- ha impatti sulla società; > b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte > apposta per dare un qualche potere (altrimenti, a che servono?); > c) tutto dipende da come si usano / applicano; > d) solo quando uso e applicazione sono predeterminati (es. bombe), > allora lo sviluppo della tecnologia è orientato a monte (se vado in giro > con C4 e detonatori, mi auguro che per una volta ci sia presunzione di > colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il > tutto mi serve per stanare delle talpe); > e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, > economicamente, ..., per determinare cosa davvero poi avviene. > > A presto, > A > > > ----- Original Message ----- > From: Giuseppe Attardi<mailto:attardi@di.unipi.it> > To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> > Cc: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> > Sent: Monday, January 13, 2025 9:27 AM > Subject: Re: [nexa] In a mirror > > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. > I LLM calcolano una funzione (la distribuzione di probabilità della > prossima parola), pertanto sono altrettanto neutrali di una tabella di > logaritmi. > > Non è neutrale l’uso che se ne fa, esattamente come una tabella dei > logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. > > Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi > utilizzi (chatbot, Predictive AI, ecc.). > > Tutta la discussione su come vengono allenati e prodotti i vari LLM non > inficia la neutralità della tecnologia. Se le tabelle dei logaritmi > venissero fatte calcolare da degli schiavi sottopagati o se usano per base > 10, incorporando un bias tradizionale sulla scelta della numerazione, le > tabelle stesse rimarrebbero neutrali. > > Tornando all’analogia di Alfredo, un coltello è neutrale e può essere > usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di > coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i > gusti di qualcuno. > Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si > critichi come il coltello è stato progettato e realizzato, ancora non > riguarda la tecnologia dei coltelli in sé. > > I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad > esempio allenati sul corpus delle opere di Shakespeare: serviva a > dimostrare come fossero in grado di acquisire la lingua e lo stile di > Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che > imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto > al linguaggio. > > Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in > cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in > particolare a un singolo aspetto della nostra realtà. > > — > > > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it<mailto: > nexa-request(a)server-nexa.polito.it> wrote: > > > > From: Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> > > To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>, > Giuseppe Attardi <attardi(a)di.unipi.it<mailto:attardi@di.unipi.it>> > > Subject: Re: [nexa] In a mirror > > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it<mailto: > FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it>> > > Content-Type: text/plain; charset=UTF-8 > > > > Ciao Giuseppe, > > > > speravo davvero che intervenissi! :-) > > > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: > >> > >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante > >> possibili applicazioni. > > > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > > > La distinzione fra chatbot e LLM rimane informaticamente valida in > > generale, ma non credo fosse rilevante per il dibattito perché né > > chatbot né LLM esprimono alcuna forma di intelligenza. > > > >> Gran parte delle critiche riguardano appunto i chatbot > >> (allucinazioni, superficialità, ecc.). > > > > Perché costituiscono la base della narrazione allucinata che domina > > il dibattito informatico attuale, determinando scelte politiche, > > economiche ed educative altrettanto allucinate. > > > > > >> I LM sono decisamente una tecnologia neutra > > > > Solo nel mondo della fantasia, Giuseppe. > > > > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > > culturalmente e storicamente situati. > > > > Già solo per questo semplice fatto, nessun LLM reale può essere > > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > > accolto Minerva l'anno scorso. [1] > > > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > > scartare. > > > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > > producono output "politicamente corretto", quale che siano gli > > obiettivi politici dei programmatori, dal legittimare il proprio > > software agli occhi dei moralisti statunitensi, difendere il proprio > > modello di business o cancellare piazza Tiananmen dalla storia [2] > > > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > > siano in alcun modo "neutrali". > > > > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > > politicamente (e lo è), lo sono tutti gli LLM reali. > > >

Jan. 13, 2025

Alcune considerazioni sulle sfide normative di Agentic AI

by Andrea Basso

Cari, sperando di fare cosa utile, condivido un white paper che esplora le sfide normative legate all'Agentic AI, un trend emergente nel campo dell'intelligenza artificiale. Agentic AI si riferisce a sistemi di intelligenza artificiale progettati per operare in maniera sempre più autonoma, prendendo decisioni e intraprendendo azioni senza la necessità di un controllo umano diretto e costante. Questo paradigma rappresenta una svolta sostanziale rispetto ai tradizionali sistemi AI, poiché introduce questioni complesse legate alla responsabilità, all'etica e alla governance. Il white paper analizza le sfide normative poste dall’Agentic AI , evidenziando la necessità di un quadro regolatorio adeguato. Andrea Basso

Jan. 13, 2025

Re: [nexa] In a mirror

by Marco Ciurcina

Il 13/01/25 13:57, Daniela Tafani ha scritto: > Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più luce, qui». " :-D -- Avv. Marco Ciurcina Via San Quintino, 32 10121 Torino TO tel +39 011 4546112 cell +39 335 6650910

Jan. 13, 2025