- nexa - server-nexa.polito.it

Esistono "tecnologie" "politicamente neutrali"?
by Giacomo Tesio Jan. 14, 2025

Jan. 14, 2025

Ciao Giuseppe, Alfredo, Juan Carlos e tutti. Colgo l'assis di Giuseppe per riportare in lista una discussione che è proseguita in privato e che potrebbe essere di interesse perché ricorrente in Nexa. Ad esempio, il Professor Cerroni, nell'intervista condivida da Juan Carlos [1], dice esplicitamente: > la tecnologia non è neutra, contiene dentro di sé un’anima politica > anche al di là dell’uso che se ne può fare. Una affermazione che io trovo al limite dell'ovvietà (forse perché creo tecnologie per mestiere e partecipo alla definizione degli effetti politici che queste avranno, fino al limite di dichiararmi incapace di realizzare certi software, qualora li ritenga dannosi per la società in cui vivranno i miei figli). Per contro, Giuseppe ed Alfredo sostengono che quanto meno la maggioranza delle tecnologie sono neutrali e gli effetti sociali e politici che hanno dipendono esclusivamente dalle scelte di coloro che le usano. Si tratta di posizioni antitetiche, che credo possa essere interessante discutere alla ricerca di una sintesi che le comprenda al proprio interno e ci fornisca un modello migliore della realtà. On Mon, 13 Jan 2025 09:27:51 +0100 Giuseppe Attardi wrote: > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. Allora perché non provare a partire da definizioni rigorose? Definiamo "tecnologia" un determinato insieme di artefatti concreti costruiti dall'uomo. In questo modo possiamo ragionare su qualcosa di "tangibile", non di un'idea astratta, sia essa platonica ("coltellini svizzeri", "LLM"), o pura fantasia ("morte nera", "intelligenze artificiali" etc..). Naturalmente molte idee (più precisamente, informazioni), e come vengono descritte / diffuse, hanno profonde implicazioni politiche e sociali, ma per quanto interessante, l'analisi degli effetti politici di determinate idee ci porterebbe lontano dai temi della lista. Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma delle sue applicazioni concrete. Definiamo poi "politicamente neutrale" un artefatto non intrinsecamente orientato politicamente, ovvero che 1. non presuppone alcuna specifica organizzazione sociale 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo Molte tecnologie (insiemi di artefatti costruiti dall'uomo) che non sono neutrali per il secondo punto, lo sono anche per il primo, ma non viceversa. Una tecnologia che presuppone, ad esempio, un forte accentramento di ricchezza e potere per essere creata, non è politicamente neutrale per il primo punto. Infatti, come minimo, l'esistenza di artefatti tecnologici con tale caratteristica giustifica e rafforza quella specifica organizzazione sociale, rendendo la società nel suo complesso dipendente dal perpetuarsi di tale organizzazione. Una tecnologia che favorisce certi usi socialmente rilevanti e ne sfavorisce altri, non è neutrale per il secondo punto. Ad esempio un coltellino svizzero non è facile da utilizzare come arma, ma incentiva una cultura del fai da te per piccole riparazioni. La scheda ethernet o l'automobile sono altri esempi di tecnologie politicamente orientate da entrambi i punti di vista: - presuppongono una società industriale per essere prodotte e enormi investimenti infrastrutturali (strade / cablaggi) per essere utili - velocizzando le comunicazioni e i trasferimenti, riducono le distanze, facilitando determinate evoluzioni della società e ostacolandone altre. Vi sembrano definizioni ragionevoli? Se no, perché? Una volta individuate definizioni esplicite, attinenti e condivise, potremo ragionare se esistano davvero tecnologie politicamente neutrali, ovvero che rispondano a tali definizioni, nonché valutare in modo rigoroso la neutralità di nuove tecnologie. Giacomo [1] https://server-nexa.polito.it/pipermail/nexa/2025-January/053820.html PS x Giuseppe: per quanto possibile (sono un po' a corto di tempo libero) ti rispondero sul resto della mail nell'altro thread, ma credo che trovare definizioni condivise e cercare una sintesi sulla questione della "neutralità della tecnologia" può meritare un thread separato.

7 8

Dagmar Monet su IA e istruzione (da LinkedIn)
by J.C. DE MARTIN Jan. 14, 2025

Jan. 14, 2025

*Dagmar Monet* /Director of Computer Science Dept., Prof. Dr. Computer Science (Artificial Intelligence, Software Engineering)/ https://www.linkedin.com/posts/monettdiaz_ai-activity-7284433996137046016-T… Sometimes the evidence is there, before our eyes, in the form of *papers*. The only thing we need is to go out of our bubbles and *read them*! There is mounting evidence against the use of AI in education. This is why I agree with Chollet and celebrate his being open about it. It could mean he is at least aware of part of the issues! These are three examples *among many*: (1) "Exploring the Impact of ChatGPT on Business School Education: Prospects, Boundaries, and Paradoxes" (Valcea et al., 2024) https://lnkd.in/dPR5UXdj <https://lnkd.in/dPR5UXdj> "AI is likely to have a net-negative effect on learning. This stance is based on our trials with ChatGPT on various cognitive tasks organized around the revised Bloom’s Taxonomy of learning. We identify areas ... where [students] exhibit significant limitations, such as logical reasoning and critical thinking. We caution against the potential deskilling in critical thinking due to students’ overreliance on AI for basic tasks." (2) "Cognitive ease at a cost: LLMs reduce mental effort but compromise depth in student scientific inquiry" (Stadler et al., 2024) https://lnkd.in/dJ4kETS7 <https://lnkd.in/dJ4kETS7> "The study aimed to investigate potential differences in cognitive load, as well as the quality and homogeneity of the students' recommendations and justifications. Results indicated that students using LLMs experienced significantly lower cognitive load. However, despite this reduction, these students demonstrated lower-quality reasoning and argumentation in their final recommendations compared to those who used traditional search engines. Further, the homogeneity of the recommendations and justifications did not differ significantly between the two groups, suggesting that LLMs did not restrict the diversity of students’ perspectives. These findings highlight the nuanced implications of digital tools on learning, suggesting that while LLMs can decrease the cognitive burden associated with information gathering during a learning task, they may not promote deeper engagement with content necessary for high-quality learning per se." (3) "AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking" (Gerlich, 2025) https://lnkd.in/dthFBNwT <https://lnkd.in/dthFBNwT> "The findings revealed a significant negative correlation between frequent AI tool usage and critical thinking abilities, mediated by increased cognitive offloading. Younger participants exhibited higher dependence on AI tools and lower critical thinking scores compared to older participants." Among others! [[Added: We cite other examples in our preprint "The commodification of education and the (generative) AI-induced scam-like culture" Cc<https://www.linkedin.com/in/ACoAAAPiUt8BhbVRSOXbKYFTfZnIEOrHQZVysMI>Gilbert Paquet, M.A. <https://www.linkedin.com/in/gilbertpaquet/> https://lnkd.in/dV--9MXB <https://lnkd.in/dV--9MXB> and there are many other reasons, e.g. related to unethical practices: https://lnkd.in/eF9K-sSK <https://lnkd.in/eF9K-sSK> ]]

3 2

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

> On 13 Jan 2025, at 12:16, nexa-request(a)server-nexa.polito.it wrote: > > Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma > delle sue applicazioni concrete. Proprio questo è il punto cruciale. Quando sostengo che bisogna distinguere tra tecnologia e le sue applicazioni, intendo proprio questo. Per tecnologia intendo i principi di base, la conoscenza tecnico scientifica utilizzabile per scopi pratici. Ogni applicazione concreta ha le sue finalità e di conseguenza è orientata a scopi e interessi di chi la realizza. Chi le produce deve esserne cosciente e si assume la responsabilità delle conseguenze. Chi le utilizza accetta e condivide la responsabilità degli effetti di tale utilizzo. Questa condivisione di responsabilità è coerente con le affermazioni che strumenti e loro utilizzatori costituiscono a volte un’accoppiata inseparabile di responsabilità. Ho fatto come esempio di tecnologia separato dalle applicazioni le tabelle dei logaritmi, ma anche per le altre applicazioni citate da qualcuno come controesempi di tecnologie non neutre si può fare la stessa distinzione: - smartphones: la tecnologia è semplicemente la combinazione di personal computer con connettività internet (GSM o WiFi). BTW, Tablet e PC usano la stessa tecnologia, per cui è artificiosa la critica agli uni e non agli altri. - StarLink, la tecnologia è quella dei satelliti LEO e della connettività Internet via radio e tramite link dinamici. Anche qui la critica al monopolio di Musk riguarda questa particolare istanza di servizio. - whatsapp, la tecnologia è un semplice la combinazione di tre protocolli: Signal, WebRTC e XMPP. Tutte queste tecnologie sono disponibili e altre implementazioni sono possibili. Il fatto che alcune di queste si siano imposte rispetto ad altre è una questione ben poco tecnologica (come è stato fatto notare non sempre si afferma la tecnologia migliore), ma principalmente antropologica (winner takes all o rich gets richer, che dipende dai limiti cognitivi della nostra mente: possiamo ricordare al più 3-4 cose per settore) che viene sfruttato dai sistemi economici e finanziari per promuovere un vincente e stroncare i concorrenti. La tecnologia ha sempre dei limiti ed è perfettamente legittimo metterli in evidenza. Per le attuali tecnologia degli LLM ci sono limiti riguardo la stima a priori dell’accuratezza, la scalabilità dei modelli, la quantità di dati necessaria all’apprendimento, il catastrophic forgetting, ecc. Ma direi che nessuno di questi costituisca una violazione di valori morali tale da metterle al bano o di sottoporle alla generale esecrazione. Esistono tecnologie che incorporano violazioni di principi morali. Ad esempio le camere a gas, anche se usate per eseguire pene capitali irrogate da un tribunale, sono un esempio: molti paesi hanno abolito la pena capitale e questo rende tali tecnologie contrarie ai principi morali a cui le leggi di quei paesi fanno riferimento. Lo stesso vale per le armi nucleari. Legittimo quindi da parte degli scienziati di rifiutarsi di sviluppare tecnologie destinate a tali usi o di sviluppare applicazioni che violino principi morali. —

3 2

Assistant/Associate Professor Position in Computational Sociology of Work - Institut Polytechnique de Paris
by Antonio Casilli Jan. 13, 2025

Jan. 13, 2025

Dear all, The Institut Polytechnique de Paris (more precisely its telecommunication "Grande École", Télécom Paris) is recruiting a Maître de conférences (a position equivalent to Assistant/Associate Professor) working at the intersection of computational sociology and sociology of work. The successful candidate will join the Department of Economic and Social Sciences and become a member of the Interdisciplinary Institute on Innovation (i3), a joint research unit of the CNRS (National Centre for Scientific Research). This is also where my own research team, DiPLab (Digital Platform Labor), is based. The Institut Polytechnique de Paris stands among France's most prestigious public research universities. Its remarkable legacy includes five Nobel Prize winners and two Fields medalists. Within it, Télécom Paris ranks among the top 5 engineering schools in France. Its place in history was secured when the term 'telecommunications' was first coined at the school in 1904. Télécom Paris's mission is to design, innovate, and develop digital technologies and solutions that benefit society and the environment. Located on the Palaiseau campus alongside other Grandes Écoles, its human-scale and inclusive environment maintains a strong international presence while fostering close ties with industry through an incubator in Paris at the heart of the French ecosystem. The Department of Economic and Social Sciences has been at the heart of Télécom Paris for forty years, championing the integration of social sciences into engineering education. Within the department, sociology has contributed to building the school's national and international reputation in social sciences. We are now looking to align the department's sociological work with emerging themes in the educational and scientific community. The position we are offering combines expertise in sociology of work with computational social sciences, with a particular focus on artificial intelligence. The successful candidate will contribute to both research and teaching missions. Teaching responsibilities will include courses in digital sociology, sociology of work, AI sociology, and computational social sciences within both Télécom Paris and Institut Polytechnique de Paris engineering programs. We expect candidates to hold a doctorate in sociology or computer science. We also welcome applications from candidates with doctorates in related disciplines (economics, philosophy, mathematics, information & communication, media studies, law, or anthropology) or relevant specializations (human-computer interaction, computational social sciences, statistical learning, or data science). Please read the presentation attached and before applying, be sure to contact me (Antonio Casilli) and my colleague Dr. Tiphaine Viard (<firstname.lastname>@telecom-paris.fr). Final applications must be submitted before 02/17/2025 at: https://institutminestelecom.recruitee.com/l/en/o/assistantassociate-profes… Best regards, Antonio -- Antonio A. Casilli Professor, Institut Polytechnique de Paris My new book: Waiting for Robots. The Hired Hands of Automation, University of Chicago Press, 2025. My new documentary: In the Belly of AI, Federation Studios, 2025. *We respect your right to disconnect. My workflow efficiency accounts for the timing of this email. Taking action or responding outside of office hours is not required.*

1 0

Papa Francesco al corpo diplomatico
by don Luca Peyron Jan. 13, 2025

Jan. 13, 2025

Alcuni passaggi mi paiono parecchio interessanti, ad esempio in tema di educazione. https://www.vatican.va/content/francesco/it/speeches/2025/january/documents… Buona lettura dl _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

1 0

Re: [nexa] Intervista ad Andrea Cerroni
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

Non ho capito cosa c’entri l’AI col progetto Cybersyn del governo Allende. È vero che ormai se non si cita l’AI non si è à la page, ma forse si esagera. Oltretutto mi pare che le ricostruzioni sociologiche a posteriori lascino il tempo che trovano e cadono in inesattezze. Per esempio la Operation Room di cui si mostra una foto, non è mai stata realizzata, era solo un progetto futuro. Ho conosciuto di persona Fernando Flores e l’ho invitato a Pisa negli anni ‘90 a raccontare il suo modello di organizzazione aziendale, basato sulla teoria degli Speech Act. Flores aveva collaborato con Terry Winograd, uno dei pionieri dell’AI linguistica. Dopo la caduta di Allende si era trasferito in California dove aveva fondato una società che forniva consulenze aziendali sfruttando il suo modello. Ma non esisteva al tempo una tecnologia di AI che potesse essere usata in pratica. Cybersyn era infatti sostanzialmente un sistema distribuito (o meglio centralmente interconnesso) di controllo e gestione della produzione, basato su tecniche di Ricerca Operativa. Straordinario ed entusiasmante a quel tempo, specialmente perché fatto tutto in casa con l’obiettivo di mantenere un controllo pubblico della produzione. — > On 13 Jan 2025, at 09:28, nexa-request(a)server-nexa.polito.it wrote: > > Subject: [nexa] Intervista ad Andrea Cerroni > Message-ID: <9c60f2d5-f175-4227-be9e-3f95fcc5610b(a)polito.it> > Content-Type: text/plain; charset=UTF-8; format=flowed > > Segnalo questa intervista al Prof. Andrea Cerroni, recentemente ospite > del Centro Nexa: > > "CILE 1973: IL GOLPE DELL’ INTELLIGENZA ARTIFICIALE. INTERVISTA AL PROF. > ANDREA CERRONI" > https://giubberossenews.it/2025/01/07/cile-1973-il-golpe-dell-intelligenza-…. > > jc >

1 0

Re: [nexa] In a mirror
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

4 4

119° Nexa Lunch Seminar | 22 gennaio 2025, ore 13.00
by Nexa - Media Jan. 13, 2025

Jan. 13, 2025

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 119° Nexa Lunch Seminar che si terrà mercoledì 22 gennaio, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: "Beyond the Machine: The Cultural Implications of Artificial Intelligence". Ospite dell'incontro: Octavio Kulesz (UNESCO Expert). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-119 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

1 0

Re: [nexa] In a mirror
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. — > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it, Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: Re: [nexa] In a mirror > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it> > Content-Type: text/plain; charset=UTF-8 > > Ciao Giuseppe, > > speravo davvero che intervenissi! :-) > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: >> >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante >> possibili applicazioni. > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > La distinzione fra chatbot e LLM rimane informaticamente valida in > generale, ma non credo fosse rilevante per il dibattito perché né > chatbot né LLM esprimono alcuna forma di intelligenza. > >> Gran parte delle critiche riguardano appunto i chatbot >> (allucinazioni, superficialità, ecc.). > > Perché costituiscono la base della narrazione allucinata che domina > il dibattito informatico attuale, determinando scelte politiche, > economiche ed educative altrettanto allucinate. > > >> I LM sono decisamente una tecnologia neutra > > Solo nel mondo della fantasia, Giuseppe. > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > culturalmente e storicamente situati. > > Già solo per questo semplice fatto, nessun LLM reale può essere > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > accolto Minerva l'anno scorso. [1] > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > scartare. > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > producono output "politicamente corretto", quale che siano gli > obiettivi politici dei programmatori, dal legittimare il proprio > software agli occhi dei moralisti statunitensi, difendere il proprio > modello di business o cancellare piazza Tiananmen dalla storia [2] > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > siano in alcun modo "neutrali". > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > politicamente (e lo è), lo sono tutti gli LLM reali. >

2 1

computerizzazione, cooperazione internazionale, alfabetizzazione
by alessandro marzocchi Jan. 12, 2025

Jan. 12, 2025

Molti ritengono che la cd IA non è paragonabile a noi, soprattutto perché si basa sulla "statistica". L’opinione è diffusa e probabilmente prevalente per cui, almeno “ statisticamente”, sto dalla parte sbagliata ma credo che sia la mancanza di corporeità, non la statistica, a rendere difficile il paragone fra macchine e noi, credo che anche la nostra intelligenza si sia formata e si formi grazie ad esperienza “statistica”. Taccio sull’energia richiesta dalle macchine, argomento qui fuori tema anche se rimane un difetto enorme. Di massima condivido le opinioni di Juan Carlos, al quale segnalo che è la parola, non il digitale, la prima “macchina” - intesa come artefatto / codice verbale / non in natura – che noi genere umano abbiamo usato per potenziare le nostre società ed anche per “denominare” la realtà, raccontarla, memorizzarla, tramandarla, in queste ultime funzioni ricordo Fedro, Platone, le cui considerazioni sono attualissime e che Guido ha ultimamente riproposto. Siamo tutti colonie digitali, anche gli oltre 340 milioni di statunitensi che non appartengono alla cerchia dei nuovi conquistadores, non basta favorire sviluppo ed autonomia digitale di ogni stato ma è ugualmente necessario dedicarsi ad alfabetizzazione, educazione digitali da diffondere analogamente a come si fa con la parola e le lingue naturali, l’analfabetismo digitale è la precondizione necessaria per renderci merce, i nuovi schiavi. Cordialmente. Duccio (Alessandro Marzocchi)

2 1