- nexa - server-nexa.polito.it

Re: [nexa] In a mirror (Alfredo Bregni)

by Alfredo Bregni

Ciao. Ritengo che in genere -- e soprattutto qui: "Non dipende (solo) dall'uso che se ne fa perché le tecnologie incorporano ideologie, convinzioni, ecc. e questo è tanto più verificabile per prodotti come gli smartphone equipaggiati con software proprietario, costruiti secondo logiche di obsolescenza programmata, assurdo spreco di risorse, ecc ecc." -- tu tenda a confondere l'aspetto banalmente "di vendita" con quello di "impatto sociale". Se io (generico) vendo una tecnologia, e un altro la utilizza: - Io cercherò -- con mezzi leciti e illeciti -- di massimizzare il mio guadagno, indipendentemente dall'uso che ne verrà fatto (magari costruirò un fucile che piacerà tanto ai suprematisti bianchi, ma di loro come ideologia me ne frego, basta che comprino); - L'altro ne farà un uso benigno, maligno, idiota, perverso, benefico, ..., in funzione degli obiettivi e della fantasia (delicata o predatrice) che si ritrova ad avere. Voglio dire: 1. La scienza / tecnologia / tecnica / anche ingegneria direi -- intese come conoscenza / know-how, e relativa possibilità di farne qualcosa in pratica -- IN SE' ritengo siano sempre cosa buona; 2. La progettazione concreta, produzione e vendita di artefatti ha due componenti DIVERSE: a. L'aspetto economico, con le relative pratiche commerciali; b. L'EVENTUALE contenuto EX ANTE di intenzione d'uso / applicazione (es. bomba). 3. L'utilizzo è quello che ha un contenuto "morale" / "non neutrale" (e con esso l'eventuale contenuto ex ante di intenzione d'uso di cui al punto precedente). Ne consegue che: - Quanto indicato al punto 1 dovrebbe essere "totalmente libero"; es. nella ricerca scientifica i cc.dd. "comitati etici" non dovrebbero mettere becco (e invece lo fanno: troppo difficile mettere becco in 3 e 2a, ma questo dovrebbero fare) - Il punto 2a ha già i suoi presìdi (inefficaci); - Il punto 2b e 3 sono quelli che -- appunto rivenienti dall'uso / applicazione -- dovrebbero essere più monitorati. INVECE si insiste a colpevolizzare a monte. E io INSISTO a non comprenderne il motivo (magari perché insisto anche a distinguere pere e patate...). Saluti. ----- Original Message ----- From: karlessi To: nexa(a)server-nexa.polito.it Sent: Monday, January 13, 2025 11:52 AM Subject: Re: [nexa] In a mirror (Alfredo Bregni) > Message: 2 > Date: Mon, 13 Jan 2025 10:04:38 +0100 > From: "Alfredo Bregni" <abregni(a)iperv.it> > To: "Giuseppe Attardi" <attardi(a)di.unipi.it> > Cc: <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] In a mirror > Message-ID: <66C5B22CA7AD43A9A87D9EA18F885D48@Bregnip2> > Content-Type: text/plain; charset="utf-8" > > Ciao, Giuseppe. > > > > Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: > > - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" > > > - Io insisto che: > > a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; > > b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); > > c) tutto dipende da come si usano / applicano; > > d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); > > e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. buongiorno convengo che ci sono intendimenti diversi dietro all'uso della parola "neutrale" personalmente ritengo disfunzionale l'insistenza sul "dipende dall'uso che se ne fa", e, anzi, colpevolizzante nei confronti delle persone. Se poi si arriva all'impersonale del "si usano", diventa impossibile distinguere chi fa cosa e perché: ammesso che sia possibile! Non dipende (solo) dall'uso che se ne fa perché le tecnologie incorporano ideologie, convinzioni, ecc. e questo è tanto più verificabile per prodotti come gli smartphone equipaggiati con software proprietario, costruiti secondo logiche di obsolescenza programmata, assurdo spreco di risorse, ecc ecc. Inoltre mettere insieme nella stessa categoria tabelle logaritmiche, funzioni statistiche, coltelli, tecnologie cibernetiche in rete e bombe (ma può esserci una bomba innescata per far saltare in aria il Furher e il suo stato maggiore: è questo un uso che prevede presunzione di colpevolezza, errore, sbaglio? si tratta di una provocazione per evidenziare che non si va lontano con la casistica, c'è sempre almeno un caso che eccede e a quel punto ci si perde in distinguo da legulei) mi sembra un'indebita semplificazione che fa di tutte le erbe un fascio. invece ogni cosa è diversa. per quanto si possano effettuare delle macro distinzioni. in particolare vorrei attirare l'attenzione sulla cruciale differenza fra utensile e "strumento cibernetico" (non dico "essere tecnico" sennò giacomo s'imbizzarrisce :D ) la differenza è bene illustrata da Gilbert Simondon. un utensile si può portare con sé, e ha senso (senso tecnico) in connessione a un corpo umano che lo porta con sé e lo utilizza per relazionarsi con il mondo. Il coltello, il martello, ecc. sono utensili in questo senso gli strumenti cibernetici, come lo smartphone, non hanno senso separati dalla rete di retroazioni che le alimenta, che comprende i corpi umani (in rete), altri smartphone, reti, ecc ecc ecc quindi lo smartphone non è un utensile. Da solo, non ha senso (senso tecnico). E non dipende solo dall'uso che se ne fa: perché è progettato con determinate finalità, benché in maniera molto più sofisticata rispetto alle affordance (inviti all'uso, cf. Gibson) tipiche es. di coltelli, martelli, sedie ecc. (utensili). Tuttavia lo smartphone ha una materialità (è fatto di cose materiali), e questa materia è "neutra" nel senso che non è orientata dall'uso che ne verrà fatto; al contrario, però, lo influenza, nel senso che se è di metallo robusto magari non si spacca alla prima caduta, cosa che invece accade se è fatto di plastichina: quindi anche qui, la materialità influenza l'uso, la plastichina invita alla protezione dell'oggetto più del metallo; ma la materialità non determina in toto l'uso, perché se mi va (in quanto es. artista "controcorrente", o comune umano esasperato) con lo smartphone pesto i chiodi nel muro, e vabbè, non avevo il martello, mi sento libero di scassare l'ennesimo smartphone. Questa "neutralità" per cui dipende da me e dall'uso che ne faccio è quindi più teorica che pratica. oltre a utensili e strumenti cibernetici, vi sono anche le macchine, come posizione "intermedia" fra i due precedenti. Es. un'automobile, o un telefono analogico, senza software, non ha senso senza l'infrastruttura (strade/autostrade; rete elettrica, rete telefonica), ma non ha quella caratteristica cibernetica spinta tipica del digitale di massa. G. Simondon, "Sulla Tecnica", Orthotes riporta in diversi articoli questa tripartizione, da prendere come categorizzazione lasca, come descrizione operativa https://www.orthotes.com/prodotto/gilbert-simondon-sulla-tecnica/ altra distinzione riguarda la tecnicità in quanto caratteristiche materiali degli oggetti tecnici (di cosa sono fatti) che non coincide con la "libera avventura" (sempre Simondon) degli oggetti tecnici nel mondo: sono quelli che sono stati descritti come effetti psicosociali nelle mail precedenti. Questo è l'aspetto evolutivo in senso relazionale, in relazione con il mondo umano, in cui è chiaro che la fitness tecnica non è legata (solo) alle caratteristiche materiali, ma a un complesso coacervo di interazioni socio-psico-economiche. E, quindi, tanto più ideologico-politiche per tecnologie di massa e cibernetiche. Non sono (solo) le caratteristiche materiali dirimenti per il "successo" di una tecnologia: VHS si è imposto su Betamax; Explorer su tutti gli altri browser per parecchio tempo, e non era certo "meglio"; Windows su altri OS aperti e liberi; i protocolli e le innovazioni che passano nell'uso sono relativamente indipendenti dalle caratteristiche tecniche materiali. Indipendente non significa neutrale. queste argomentazioni sono chiaramente non-antropologiche, nel senso che ricordano che l'uso umano delle tecnologie non dipende solo dall'umano, ma anche dalla complessa avventura sociotecnica. D'altra parte, sono argomentazioni non heideggeriane. Magari ai tecnici puri (esistono? beh, cmq hanno delle idee, delle convinzioni, dei desideri più o meno inconsci, quindi mi permetto di considerarli soggetti filosofici come tutti noialtri...) interessa poco, ma la fanfaluca di Heidegger su "l'essenza della tecnica non è tecnica" che ha tanto influenzato anche pensatori che si ritengono progressisti, per non dire di sinistra, riguarda anche loro tecnici puri, perché l'argomento "la tecnica è neutrale, dipende da come la si usa" è in effetti avversato da Heidegger per sostenere, come è suo tipico, una posizione apolitica, impolitica, in cui la Tecnica s'impone come Spirito dei tempi ineluttabile... quadro e inquadramento del mondo, senza possibilità di scampo, senza possibilità di articolare politiche personali e collettive. e invece la tecnica è politica, molto politica; se chiunque fosse i grado di maneggiare le tavole logaritmiche, se chiunque fosse capace di smontare uno smartphone perché lo strumento viene venduto con un cacciavite che consente di smontare ogni sua parte e sostituirla facilmente... se chiunque potesse gestire in maniera autonoma i propri dati e scegliere le tecnologie di cui si fida, decidendo in piena libertà cosa sì e cosa no... la situazione politica sarebbe diversa, perché l'alienazione tecnica sarebbe un lontano ricordo, e le persone sarebbe singolarmente più forti, potenti, autonome e quindi più libere, individualmente e collettivamente. invece oggi non si può scegliere. solo in teoria. in pratica, i genitori si devono piegare ai gruppi whatsapp dei genitori, o quantomeno al registro elettronico, come gli studenti e gli insegnanti a google classroom, gli accademici a microsoft suite, e tutti quanti allo SPID. tutte queste tecnologie non sono affatto neutrali, IMHO. di certo non si sono imposte perché migliori, frutto di un processo evolutivo di selezione delle tecnologie più adatte e regolate dal mutuo appoggio, il secondo fattore più importante dell'evoluzione naturale che potrebbe senz'altro essere posto come linea guida anche nell'evoluzione tecnica. peggio ancora, ci sono evidenti contraddizioni nel ricorso a tecnologie in situazioni limite. le navi che salvano le persone nel mediterraneo nonostante i governi sempre più autoritari in Europa e altrove, non possono scegliere: devono usare Starlink. perché grazie al fatto che il governo USA ha foraggiato Musk da anni, Starlink è l'unica opzione a "basso costo" per comunicazioni su satelliti LEO. vedremo se il governo italiano chiederà di togliere Starlink a queste navi, perché no... è logico, sta nella logica della tecnocrazia. no, non dipende da come le usi. Starlink è un problema comunque si voglia vedere: per la sua genesi, per come è gestito, manutenuto, e immagino che sia software proprietario, security by obscurity, nonché gestito da un miliardario bianco dispotico senza alcun controllo democratico, che viene considerato un genio, non si sa perché se non perché le persone desiderano essere come lui. mi spiace la divagazione, spero non vi abbia troppo annoiato, a mia parziale discolpa ho approfittato di quest'ora di ritardo per leggere e scrivere, perché i treni sono stranamente in ritardo di 60-120 minuti oggi per un guasto fra Napoli e Roma (se il ministro "competente" non darà nuovamente la colpa ai lavoratori inetti, forse riconoscerà di esser troppo impegnato a buttare risorse nel necessarissimo ponte fra Scilla e Cariddi, per entrare nella storia delle idiozie più nocive, per poter badare ai treni di linea) buona giornata k. PS: filosofia e tecnica nell'approfondimento a tecnologie conviviali: https://www.eleuthera.it/materiale.php?op=2585#FilosofiaETecnica > > > > A presto, > > A > > > > > > > ----- Original Message ----- > From: Giuseppe Attardi > To: nexa(a)server-nexa.polito.it > Cc: nexa(a)server-nexa.polito.it > Sent: Monday, January 13, 2025 9:27 AM > Subject: Re: [nexa] In a mirror > > > Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. > I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. > > Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. > > Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). > > Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. > > Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. > Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. > > I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. > > Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. > > — > > > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it wrote: > > > > From: Giacomo Tesio <giacomo(a)tesio.it> > > To: nexa(a)server-nexa.polito.it, Giuseppe Attardi <attardi(a)di.unipi.it> > > Subject: Re: [nexa] In a mirror > > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it> > > Content-Type: text/plain; charset=UTF-8 > > > > Ciao Giuseppe, > > > > speravo davvero che intervenissi! :-) > > > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: > >> > >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante > >> possibili applicazioni. > > > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > > > La distinzione fra chatbot e LLM rimane informaticamente valida in > > generale, ma non credo fosse rilevante per il dibattito perché né > > chatbot né LLM esprimono alcuna forma di intelligenza. > > > >> Gran parte delle critiche riguardano appunto i chatbot > >> (allucinazioni, superficialità, ecc.). > > > > Perché costituiscono la base della narrazione allucinata che domina > > il dibattito informatico attuale, determinando scelte politiche, > > economiche ed educative altrettanto allucinate. > > > > > >> I LM sono decisamente una tecnologia neutra > > > > Solo nel mondo della fantasia, Giuseppe. > > > > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > > culturalmente e storicamente situati. > > > > Già solo per questo semplice fatto, nessun LLM reale può essere > > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > > accolto Minerva l'anno scorso. [1] > > > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > > scartare. > > > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > > producono output "politicamente corretto", quale che siano gli > > obiettivi politici dei programmatori, dal legittimare il proprio > > software agli occhi dei moralisti statunitensi, difendere il proprio > > modello di business o cancellare piazza Tiananmen dalla storia [2] > > > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > > siano in alcun modo "neutrali". > > > > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > > politicamente (e lo è), lo sono tutti gli LLM reali. > > >

Jan. 14, 2025

Re: [nexa] Dagmar Monet su IA e istruzione (da LinkedIn)

by Enrico Nardelli

Grazie Juan Carlos, dà piacere vedere arrivare le conferme alle proprie intuizioni... Invocando la vostra indulgenza per l'autocelebrazione, scrivevo già nel marzo 2023 «Consentire ai nostri figli l’uso dei SALAMI prima del loro completo sviluppo vuol dire menomare le loro possibilità di crescita sul piano cognitivo» https://www.startmag.it/innovazione/non-lasciamo-che-i-nostri-figli-diventi… Ciao, Enrico Il 13/01/2025 16:52, J.C. DE MARTIN ha scritto: > *Dagmar Monet* > /Director of Computer Science Dept., Prof. Dr. Computer Science > (Artificial Intelligence, Software Engineering)/ > > https://www.linkedin.com/posts/monettdiaz_ai-activity-7284433996137046016-T… > > Sometimes the evidence is there, before our eyes, in the form of > *papers*. The only thing we need is to go out of our bubbles and *read > them*! > > There is mounting evidence against the use of AI in education. This is > why I agree with Chollet and celebrate his being open about it. It > could mean he is at least aware of part of the issues! > > These are three examples *among many*: > > (1) > "Exploring the Impact of ChatGPT on Business School Education: > Prospects, Boundaries, and Paradoxes" > (Valcea et al., 2024) > https://lnkd.in/dPR5UXdj <https://lnkd.in/dPR5UXdj> > > "AI is likely to have a net-negative effect on learning. This stance > is based on our trials with ChatGPT on various cognitive tasks > organized around the revised Bloom’s Taxonomy of learning. We identify > areas ... where [students] exhibit significant limitations, such as > logical reasoning and critical thinking. We caution against the > potential deskilling in critical thinking due to students’ > overreliance on AI for basic tasks." > > (2) > "Cognitive ease at a cost: LLMs reduce mental effort but compromise > depth in student scientific inquiry" > (Stadler et al., 2024) > https://lnkd.in/dJ4kETS7 <https://lnkd.in/dJ4kETS7> > > "The study aimed to investigate potential differences in cognitive > load, as well as the quality and homogeneity of the students' > recommendations and justifications. Results indicated that students > using LLMs experienced significantly lower cognitive load. However, > despite this reduction, these students demonstrated lower-quality > reasoning and argumentation in their final recommendations compared to > those who used traditional search engines. Further, the homogeneity of > the recommendations and justifications did not differ significantly > between the two groups, suggesting that LLMs did not restrict the > diversity of students’ perspectives. These findings highlight the > nuanced implications of digital tools on learning, suggesting that > while LLMs can decrease the cognitive burden associated with > information gathering during a learning task, they may not promote > deeper engagement with content necessary for high-quality learning per > se." > > (3) > "AI Tools in Society: Impacts on Cognitive Offloading and the Future > of Critical Thinking" > (Gerlich, 2025) > https://lnkd.in/dthFBNwT <https://lnkd.in/dthFBNwT> > > "The findings revealed a significant negative correlation between > frequent AI tool usage and critical thinking abilities, mediated by > increased cognitive offloading. Younger participants exhibited higher > dependence on AI tools and lower critical thinking scores compared to > older participants." > > Among others! > > [[Added: > We cite other examples in our preprint > "The commodification of education and the (generative) AI-induced > scam-like culture" > Cc<https://www.linkedin.com/in/ACoAAAPiUt8BhbVRSOXbKYFTfZnIEOrHQZVysMI>Gilbert > Paquet, M.A. <https://www.linkedin.com/in/gilbertpaquet/> > https://lnkd.in/dV--9MXB <https://lnkd.in/dV--9MXB> > > and there are many other reasons, e.g. related to unethical practices: > https://lnkd.in/eF9K-sSK <https://lnkd.in/eF9K-sSK> > ]] > > -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Jan. 14, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Giacomo Tesio

Ciao Giuseppe, forse ci avviciniamo ad una sintesi. Se ho capito, concordiamo nel definire "politicamente neutrale" un artefatto non intrinsecamente orientato politicamente, ovvero che 1. non presuppone alcuna specifica organizzazione sociale 2. non favorisce né sfavorisce alcun uso specifico, non favorendo o sfavorendo, di conseguenza, alcuna evoluzione della società nel tempo Sembrerebbe dunque che la nostra storica diatriba derivi da una diversa definizione di "tecnologia": On Mon, 13 Jan 2025 16:22:45 +0100 Giuseppe Attardi wrote: > Per tecnologia intendo i principi di base, la conoscenza > tecnico scientifica utilizzabile per scopi pratici. > > Ogni applicazione concreta ha le sue finalità e di conseguenza è > orientata a scopi e interessi di chi la realizza. Tu definisci "tecnologie" come conoscenze tecnico scientifiche applicabili nella creazione di artefatti. Le "tecnologie" di cui parli sono astratte ed "intangibili", talvolta persino ipotetiche. E fintanto che rimangono astratte, fintanto che rimangono informazione nella mente di chi vi fa ricerca, non possono avere effetti politici. Quando parli di "uso non neutrale" tu fai riferimento all'uso che di tale conoscenza fanno coloro che progettano e realizzano artefatti specifici, come un industria che realizza un'automobile, un programmatore che scrive un software o uno studente che realizza un LLM a partire dai testi di Shakespeare. Io invece definisco "tecnologie" insiemi di artefatti concreti, come possono essere gli LLM, gli orologi, gli smartphone, che esistono nella realtà e come tali sono inevitabilmente orientati politicamente, ovvero assumono (stabilizzando) o favoriscono determinate evoluzioni della società a scapito di altre. Quando parlo di "uso non neutrale" io faccio riferimento all'uso che degli artefatti di un dato insieme fanno le persone, coloro che guidano o parcheggiano l'automobile, che usano il software o che eseguono il LLM shakespeariano nella speranza di incantare una ragazza grazie alle "proprie" doti poetiche [1]. Treccani [2] (nonché l'etimologia :-D) avvalora la tua definizione, mentre Merriam-Webster [3] (nonché l'uso comune [4]) avvalora la mia. Per superare l'empasse potremmo concordare che (finché rimane) in teoria, la tecnologia è politicamente neutrale, ma (se viene applicata) in pratica non lo è mai. Ti pare una sintesi condivisibile? > I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad > esempio allenati sul corpus delle opere di Shakespeare: serviva a > dimostrare come fossero in grado di acquisire la lingua e lo stile di > Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che > imparavano un altro linguaggio. Era quindi una tecnologia neutra > rispetto al linguaggio. Non "imparavano" alcunché, ma riproducevano i pattern presenti nel testo sorgente. Chissà come avrebbero valutato studentesse femministe l'output dello pseudo-shakespeare che gli hai fatto creare. La figura della donna nelle opere di Shakespeare è espressione dei suoi tempi e l'output di un LLM programmato statisticamente a partire da tali opere non potrebbe che riprodurne gli stereotipi. E questo, ricorderai [5], è una delle ragioni per cui nessun LLM reale potrà mai essere politicamente neutrale, essendo ottimizzato per riprodurre in output pattern presenti in testi che non sono neutrali. Giacomo [1] https://invidious.nerdvpn.de/watch?v=hwWKJ0uhiDo :-D [2] https://www.treccani.it/vocabolario/tecnologia/ [3] https://www.merriam-webster.com/dictionary/technology [4] e non pensare che mi sfugga l'amara ironia di essere vittima, io stesso, dell'egemonia culturale statunitense! :-D purtuttavia, di esempi analoghi a quelli riportati dal Merriam-Webster sono pieni anche i giornali italiani ed europei. [5] vedi riferimento a Minerva qui https://server-nexa.polito.it/pipermail/nexa/2025-January/053806.html

Jan. 13, 2025

Assistant/Associate Professor Position in Computational Sociology of Work - Institut Polytechnique de Paris

by Antonio Casilli

Dear all, The Institut Polytechnique de Paris (more precisely its telecommunication "Grande École", Télécom Paris) is recruiting a Maître de conférences (a position equivalent to Assistant/Associate Professor) working at the intersection of computational sociology and sociology of work. The successful candidate will join the Department of Economic and Social Sciences and become a member of the Interdisciplinary Institute on Innovation (i3), a joint research unit of the CNRS (National Centre for Scientific Research). This is also where my own research team, DiPLab (Digital Platform Labor), is based. The Institut Polytechnique de Paris stands among France's most prestigious public research universities. Its remarkable legacy includes five Nobel Prize winners and two Fields medalists. Within it, Télécom Paris ranks among the top 5 engineering schools in France. Its place in history was secured when the term 'telecommunications' was first coined at the school in 1904. Télécom Paris's mission is to design, innovate, and develop digital technologies and solutions that benefit society and the environment. Located on the Palaiseau campus alongside other Grandes Écoles, its human-scale and inclusive environment maintains a strong international presence while fostering close ties with industry through an incubator in Paris at the heart of the French ecosystem. The Department of Economic and Social Sciences has been at the heart of Télécom Paris for forty years, championing the integration of social sciences into engineering education. Within the department, sociology has contributed to building the school's national and international reputation in social sciences. We are now looking to align the department's sociological work with emerging themes in the educational and scientific community. The position we are offering combines expertise in sociology of work with computational social sciences, with a particular focus on artificial intelligence. The successful candidate will contribute to both research and teaching missions. Teaching responsibilities will include courses in digital sociology, sociology of work, AI sociology, and computational social sciences within both Télécom Paris and Institut Polytechnique de Paris engineering programs. We expect candidates to hold a doctorate in sociology or computer science. We also welcome applications from candidates with doctorates in related disciplines (economics, philosophy, mathematics, information & communication, media studies, law, or anthropology) or relevant specializations (human-computer interaction, computational social sciences, statistical learning, or data science). Please read the presentation attached and before applying, be sure to contact me (Antonio Casilli) and my colleague Dr. Tiphaine Viard (<firstname.lastname>@telecom-paris.fr). Final applications must be submitted before 02/17/2025 at: https://institutminestelecom.recruitee.com/l/en/o/assistantassociate-profes… Best regards, Antonio -- Antonio A. Casilli Professor, Institut Polytechnique de Paris My new book: Waiting for Robots. The Hired Hands of Automation, University of Chicago Press, 2025. My new documentary: In the Belly of AI, Federation Studios, 2025. *We respect your right to disconnect. My workflow efficiency accounts for the timing of this email. Taking action or responding outside of office hours is not required.*

Jan. 13, 2025

Sulla "Rigidità algoritmica" [Era: <Esistono "tecnologie" "politicamente neutrali"?>]

by Damiano Verzulli

Il 13/01/25 5:55 PM, Carlo Blengino ha scritto: > [...] > La rigidità degli algoritmi e del digitale sta generando nella PA > mostri a cui è davvero arduo opporsi [...] > [...] Sono in significativo DISACCORDO. Il problema *NON* sono "gli algoritmi". Il problema --specie nella P.A.-- è la quantità di "controllo" che, su tali algoritmi, si riesce ad esercitare, in tutte le fasi del relativo ciclo di vita. Il "mostro" citato nel messaggio --ed ampiamente ripreso dai quotidiani recenti-- è potuto crescere e maturare indisturbato perché ormai la P.A.: * ha perso le competenze "interne" di analisi dei processi e, quindi, di pianificazione dei cicli di digitalizzazione.... [...che quindi vengono "scritti" dal lato dell'offerta, e non piu' della domanda]; * ha perso le competenze "interne" di sviluppo di soluzioni, anche solo mimamente tecnologiche... [...che quindi vengono "comprate" all'esterno]; * ha perso le competenze "di controllo", della fase di realizzazione... [...e quindi si accorge della asimmetria fra cio' che si "immaginava" venisse fornito, rispetto a cio' che realmente viene fornito... solo dopo la consegna]; * a livello apicale, ha totalmente perso la capacità di distinguere fra chi è capace di installare una APP su uno smartphone, prelevandola da un store ufficiale... rispetto a chi è in grado di stimare il carico computazionale di un intero sistema informativo ed e' in grado di dimensionare correttamente la sottostanta infrastruttura di calcolo, storage e networking (tra l'altro, ad una frazione dell'altro costo). ...ed ecco quindi che: * del "mostro" ci si accorge soltanto quando ormai è "maturo" e si "palesa" platealmente per quello che è... e finalmente viene "visto" (...ma è ormai troppo tardi). La "tecnica", insomma... è morta e sepolta (da tempo...), nella P.A. Ed è questo che produce il mostro. Non l'applicativo, in sé. L'algoritmo, dal canto suo, è totalmente trasparente: se lo "vedi", vuol dire che quasi certamente è libero/open-source. Ed in tal caso --se hai le competenze-- hai tuttissimi i margini di manovra per adattarlo alle tue esigenze. Se non lo sai fare, puoi sempre chiedere a chi sa farlo (...ma "capire" questo passaggio, richiede comunque una competenza che è ormai persa). Paradossalmente, anche la macchina burocratica è ben ingranata (*NON* sono sarcastico). Esistono procedure chiare. Esiste una legislazione "decente". Le politiche di gestione del personale, degli uffici e delle aree, sono "sane" (ad esempio, in tema di formazione, di sicurezza e di "performance"). Ma il disaccoppiamento fra quello che sulla carta è possibile... e quello che, nella realtà, è veramente effettuato... è decisamente significativo. Da "tecnico" (io), che guida un settore IT di un medio Ateneo, ormai ho quasi maturato la convinzione che il mio mandato sia quello di accompagnare il mio ufficio verso una "morte" che sia la piu' semplice ed indolore possibile (in favore di un outsourcing totale al mercato): grazie a Dio, l'età anagrafica dei miei collaboratori + le politiche di pensionamento + le dinamiche di recruiting ed il contesto generale... mi rendono il compito decisamente agevole. Sono troppo pessimista? ...parliamone :-) Un caro saluto, DV -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "Technical people tend to fall into two categories: Specialists and Generalists. The Specialist learns more and more about a narrower and narrower field, until he eventually, in the limit, knows everything about nothing. The Generalist learns less and less about a wider and wider field, until eventually he knows nothing about everything." - William Stucke - AfrISPA http://elists.isoc.org/mailman/private/pubsoft/2007-December/001935.html

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by alessandro marzocchi

Il cittadino è vittima, il funzionario della PA non sta meglio. A volte si oppone il giudice. Soprattutto dovrebbero opporsi avvocati, commercialisti, notai accompagnando i clienti in azioni ed opposizioni. La tendenza della regolamentazione giuridica è chiara, poche aziende svuotano i parlamenti del compito di legiferare, la responsabilità verso il futuro è nostra, di questa generazione, fra i più vecchi sono pronto a contribuire per un fondo rimborso spese, chi raccoglie la proposta? Con cordialità e tristezza :'‑( Duccio (Alessandro Marzocchi) Il giorno lun 13 gen 2025 alle ore 18:08 Carlo Blengino < blengino(a)penalistiassociati.it> ha scritto: > Il problema dell'uso/non uso si pone là dove non previsto ma pure là dove > previsto! > La rigidità degli algoritmi e del digitale sta generando nella PA mostri a > cui è davvero arduo opporsi, tanto per l'utente cittadino quanto per il > funzionario addetto. > Vi allego il provvedimento del Presidente del Tribunale di Torino della > scorsa settimana che merita lettura nell'elenco delle disfunzioni generate > dall'applicativo APP II che viene sospeso disattendendo l'obbligo di legge. > Badate, è applicativo del DGSIA -ovvero "inhouse" sebbene credo interagisca > con Microsoft- ed è un sistema ignoto a noi avvocati (non abbiamo accesso) > ma che incide profondamente sulla redazione dei provvedimenti (quelli che > mandano in galera eh!) e sulla gestione delle cause penali, ovvero il > settore forse meno compatibile con principi standard, statitistici e > predittivi e, se posso aggiungere, il settore che ontologicamente meno si > adatta ad un principio di "efficienza" propria di un certo soluzionismo > digitale. > CB > > Il giorno lun 13 gen 2025 alle ore 17:30 alessandro marzocchi < > alemarzoc(a)gmail.com> ha scritto: > >> Grazie per le risposte. >> Code is law, la sintesi è perfetta, ma ... >> O accettiamo un salto indietro di due millenni e mezzo, tornando alla >> situazione per la quale a Roma la plebe si ribellò contro comandi non >> scritti e dette origine alle cd XII tavole, avviando la cd civiltà del >> diritto romano. >> Oppure reagiamo azionando i principi giuridici e qui vedo fondate due >> azioni: opporsi all'obbligo di adeguarsi a prescrizioni (in questo caso >> informatiche) *senza che nessuna legge le abbia previste e contro il >> principio zero del diritto*. >> L'altra azione è chiedere il rispetto di norme Ue a favore della >> comprensibilità (tale per noi umani, ovvio), e qui domando: un programma >> informatico chiuso può ritenersi comprensibile? >> Accanto al diritto, c'è la civiltà di educare, francamente non capisco >> perchè più d'uno si oppone o la trascura. >> Cordialmente, Duccio (Alessandro Marzocchi) >> > > > -- > *Avv. Carlo Blengino* > *Via Duchessa Jolanda n. 19,* > *10138 Torino (TO) - Italy* > *tel. +39 011 4474035* > Penalistiassociati.it >

Jan. 13, 2025

Papa Francesco al corpo diplomatico

by don Luca Peyron

Alcuni passaggi mi paiono parecchio interessanti, ad esempio in tema di educazione. https://www.vatican.va/content/francesco/it/speeches/2025/january/documents… Buona lettura dl _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Alberto Cammozzo

Caro Beppe, passiamo il paragone anche se mi pare zoppichi un po'. I logaritmi non sono nemmeno tecnologia, sono matematica, come l'addizione. E chi pubblica tavole di logaritmi (purché corretti) non esercita alcun potere a distanza su chi le usa, cosa che accade in tutti gli altri esempi che fai. Nessuno dice (credo) che gli LLM siano /di per se/ una violazione di valori o principi morali, ma forniscono un grande potere. La loro diffusione e monetizzazione con i chatbot, senza prima aver fatto alcuna valutazione di impatto, è l'ennesima mossa irresponsabile ed immorale di un capitalismo industriale senza controllo, che tale potere usa senza scrupolo. Come accaduto in passato quando una nuova industria esplode senza una previa regolazione, ne seguono irreversibili danni ambientali: appropriazione di risorse comuni, degrado, inquinamento. Il termine evocativo usato per il territorio investito di questi danni è 'sacrifice zone'. Abbiamo visto cosa è successo con i social network e lo smartphone che hanno predato attenzione, consenso e relazioni. Assistiamo impotenti al potenziamento dello stesso capitalismo della sorveglianza che ora dispone della facoltà di produrre industrialmente testi e immagini con l'appropriazione del patrimonio linguistico comune, riversando masse di testi nell'ecosistema linguistico. L'ambiente minacciato non è solo quello energetico, in questi casi la 'sacrifice zone' è l'ambiente sociale e politico, e parlando di LLM, della lingua e del linguaggio. Questo pone la questione, certamente morale, a chi sviluppa tali tecnologie: se lasciare incondizionatamente tali strumenti e il potere che ne deriva nelle mani di chi ha già dimostrato di volerne abusare. Oppure porre delle condizioni, come sollecitarne la regolazione prima di consentirne il rilascio. Come ho già fatto notare, alcuni ambiti disciplinari si sono posti il problema dell'uso delle proprie scoperte prima che queste venissero buttate sul mercato, e ottenuto una regolazione. In altri contesti, è richiesta una approvazione prima di poter rilasciare prodotti sul mercato, che sia una caldaia o un farmaco. Non credo che la ragione per cui ciò non è avvenuto nell'industria ICT stia in una particolare immoralità degli informatici rispetto a fisici e biologi. Congetturo che sia dovuto da una parte nella irresponsabilità storica di una industria immatura, a cui è garantita l'impunità in virtù di un immotivato /tech exceptionalism/, e dall'altra nella distanza tra progettazione e impiego. Oppenheimer disse, descrivendo cosa lo spinse a creare la bomba A: «when you see something that is technically sweet, you go ahead and do it and you argue about what to do about it only after you have had your technical success». Ma lui sapeva bene che impiego avrebbe avuto la bomba. Oggi un informatico spesso non lo sa. Metti che uno sviluppa una tecnica di /recommendation/ pensando al marketing, poi se la trova utilizzata nella industrializzazione della kill chain di qualche servizio segreto. [1] Ammesso che non vi siano algoritmi immorali, dato il contesto non vi sono nemmeno più applicazioni innocenti. Sia chiaro che non voglio esprimere un giudizio su nessuno: è un problema che mi pongo anche io nella mia modestissima attività di ricerca. Morali o immorali, come ne usciamo? Un saluto, A. [1] <https://www.qmul.ac.uk/media/news/2024/hss/gaza-war-israel-using-ai-to-iden…> On 13/01/25 16:22, Giuseppe Attardi wrote: > >> On 13 Jan 2025, at 12:16,nexa-request@server-nexa.polito.it wrote: >> >> Non parliamo però dell'idea astratta di una tecnologia (i "LLM") ma >> delle sue applicazioni concrete. > Proprio questo è il punto cruciale. Quando sostengo che bisogna distinguere tra tecnologia e le sue applicazioni, intendo proprio questo. > Per tecnologia intendo i principi di base, la conoscenza tecnico scientifica utilizzabile per scopi pratici. > > Ogni applicazione concreta ha le sue finalità e di conseguenza è orientata a scopi e interessi di chi la realizza. Chi le produce deve esserne cosciente e si assume la responsabilità delle conseguenze. Chi le utilizza accetta e condivide la responsabilità degli effetti di tale utilizzo. Questa condivisione di responsabilità è coerente con le affermazioni che strumenti e loro utilizzatori costituiscono a volte un’accoppiata inseparabile di responsabilità. > > Ho fatto come esempio di tecnologia separato dalle applicazioni le tabelle dei logaritmi, ma anche per le altre applicazioni citate da qualcuno come controesempi di tecnologie non neutre si può fare la stessa distinzione: > > - smartphones: la tecnologia è semplicemente la combinazione di personal computer con connettività internet (GSM o WiFi). BTW, Tablet e PC usano la stessa tecnologia, per cui è artificiosa la critica agli uni e non agli altri. > - StarLink, la tecnologia è quella dei satelliti LEO e della connettività Internet via radio e tramite link dinamici. Anche qui la critica al monopolio di Musk riguarda questa particolare istanza di servizio. > - whatsapp, la tecnologia è un semplice la combinazione di tre protocolli: Signal, WebRTC e XMPP. > > Tutte queste tecnologie sono disponibili e altre implementazioni sono possibili. > Il fatto che alcune di queste si siano imposte rispetto ad altre è una questione ben poco tecnologica (come è stato fatto notare non sempre si afferma la tecnologia migliore), ma principalmente antropologica (winner takes all o rich gets richer, che dipende dai limiti cognitivi della nostra mente: possiamo ricordare al più 3-4 cose per settore) che viene sfruttato dai sistemi economici e finanziari per promuovere un vincente e stroncare i concorrenti. > > La tecnologia ha sempre dei limiti ed è perfettamente legittimo metterli in evidenza. > Per le attuali tecnologia degli LLM ci sono limiti riguardo la stima a priori dell’accuratezza, la scalabilità dei modelli, la quantità di dati necessaria all’apprendimento, il catastrophic forgetting, ecc. > Ma direi che nessuno di questi costituisca una violazione di valori morali tale da metterle al bano o di sottoporle alla generale esecrazione. > > Esistono tecnologie che incorporano violazioni di principi morali. Ad esempio le camere a gas, anche se usate per eseguire pene capitali irrogate da un tribunale, sono un esempio: molti paesi hanno abolito la pena capitale e questo rende tali tecnologie contrarie ai principi morali a cui le leggi di quei paesi fanno riferimento. > > Lo stesso vale per le armi nucleari. Legittimo quindi da parte degli scienziati di rifiutarsi di sviluppare tecnologie destinate a tali usi o di sviluppare applicazioni che violino principi morali. > > — >

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Carlo Blengino

Il problema dell'uso/non uso si pone là dove non previsto ma pure là dove previsto! La rigidità degli algoritmi e del digitale sta generando nella PA mostri a cui è davvero arduo opporsi, tanto per l'utente cittadino quanto per il funzionario addetto. Vi allego il provvedimento del Presidente del Tribunale di Torino della scorsa settimana che merita lettura nell'elenco delle disfunzioni generate dall'applicativo APP II che viene sospeso disattendendo l'obbligo di legge. Badate, è applicativo del DGSIA -ovvero "inhouse" sebbene credo interagisca con Microsoft- ed è un sistema ignoto a noi avvocati (non abbiamo accesso) ma che incide profondamente sulla redazione dei provvedimenti (quelli che mandano in galera eh!) e sulla gestione delle cause penali, ovvero il settore forse meno compatibile con principi standard, statitistici e predittivi e, se posso aggiungere, il settore che ontologicamente meno si adatta ad un principio di "efficienza" propria di un certo soluzionismo digitale. CB Il giorno lun 13 gen 2025 alle ore 17:30 alessandro marzocchi < alemarzoc(a)gmail.com> ha scritto: > Grazie per le risposte. > Code is law, la sintesi è perfetta, ma ... > O accettiamo un salto indietro di due millenni e mezzo, tornando alla > situazione per la quale a Roma la plebe si ribellò contro comandi non > scritti e dette origine alle cd XII tavole, avviando la cd civiltà del > diritto romano. > Oppure reagiamo azionando i principi giuridici e qui vedo fondate due > azioni: opporsi all'obbligo di adeguarsi a prescrizioni (in questo caso > informatiche) *senza che nessuna legge le abbia previste e contro il > principio zero del diritto*. > L'altra azione è chiedere il rispetto di norme Ue a favore della > comprensibilità (tale per noi umani, ovvio), e qui domando: un programma > informatico chiuso può ritenersi comprensibile? > Accanto al diritto, c'è la civiltà di educare, francamente non capisco > perchè più d'uno si oppone o la trascura. > Cordialmente, Duccio (Alessandro Marzocchi) > > -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

Jan. 13, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by alessandro marzocchi

Grazie per le risposte. Code is law, la sintesi è perfetta, ma ... O accettiamo un salto indietro di due millenni e mezzo, tornando alla situazione per la quale a Roma la plebe si ribellò contro comandi non scritti e dette origine alle cd XII tavole, avviando la cd civiltà del diritto romano. Oppure reagiamo azionando i principi giuridici e qui vedo fondate due azioni: opporsi all'obbligo di adeguarsi a prescrizioni (in questo caso informatiche) *senza che nessuna legge le abbia previste e contro il principio zero del diritto*. L'altra azione è chiedere il rispetto di norme Ue a favore della comprensibilità (tale per noi umani, ovvio), e qui domando: un programma informatico chiuso può ritenersi comprensibile? Accanto al diritto, c'è la civiltà di educare, francamente non capisco perchè più d'uno si oppone o la trascura. Cordialmente, Duccio (Alessandro Marzocchi)

Jan. 13, 2025