- nexa - server-nexa.polito.it

Re: [nexa] Meta: more (free) speech and fewer mistakes (it's time to get back to our roots around free expression).

by Stefano Zacchiroli

On Wed, Jan 08, 2025 at 12:42:04PM +0100, 380° via nexa wrote: > https://about.fb.com/news/2025/01/meta-more-speech-fewer-mistakes/ Osservo che i quotidiani nazionali italiani (almeno quelli che leggo io) hanno dato parecchia rilevanza al fatto che John Elkann sia entrato nel CdA di Meta, ma molta meno a quello che Dana White abbia fatto lo stesso: https://en.wikipedia.org/wiki/Dana_White#Politics . Unite voi i puntini numerati per passare da questo cambiamento nel CdA al cambiamento di policy riportato da 380 (o viceversa). Ciao -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CSO Software Heritage o o o o /\|^|/\ Mastodon: https://mastodon.xyz/@zacchiro '" V "'

Jan. 8, 2025

Re: [nexa] In a mirror

by Giacomo Tesio

Certo Guido, Il 8 Gennaio 2025 14:04:12 UTC, Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > > > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi > > dell'intervento". Ingannato sulla natura di quell'output, non prodotto > > da una mente intelligente che abbia compreso l'intervento, ha > > perpetuato l'inganno a sua volta sulla lista. > > preferisco essere considerato un bieco agente delle multinazionali > piuttosto che un cretino che non ha capito con cosa ha a che fare :-) come preferisci! :-D L'autoironia purtroppo non rende meno tragica la profondità dell'inganno che subisci, tanto da riferirti a ChatGPT come "chi-sai-tu" o "chi-sapete-voi". E sì, sono d'accordo che sia Voldemort che l'intelligenza artificiale appartengono al regno della fantasia! Ma Voldemort era una persona. ChatGPT è solo un software programmato statisticamente per ingannarti. Non un "chi", dunque, ma un "cosa". Checché ne dica, ormai, il tuo subconscio. Giacomo

Jan. 8, 2025

Nuovo articolo "The computerization of the world and international cooperation"

by Nexa - Media

Gentilissime, gentilissimi, Vi segnaliamo la pubblicazione di un nuovo articolo dal titolo "The computerization of the world and international cooperation", a cura del co-direttore del Centro Nexa Juan Carlos De Martin. L'articolo è consultabile al seguente link: https://nexa.polito.it/the-computerization-of-the-world-and-international-c… Vi ringraziamo per l'attenzione, Un saluto cordiale, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Jan. 8, 2025

Re: [nexa] In a mirror

by Federico Leva (Nemo)

Il 05/01/25 21:11, Stefano Zacchiroli ha scritto: > Giustissimo, ma mi permetto di osservare che questo è un argomento > "jolly" che potremmo, e dovremmo, applicare a tutte le tecnologie > informatiche. Ci facciamo le stesse domande per YouTube Personalmente sì! Per esempio, nelle discussioni sulla sostenibilità dei progetti Wikimedia ho proposto di considerare che ogni ora spesa dalle persone sulle pagine di Wikipedia o altri progetti altamente testuali, se sottratta ad alternative come il consumo di video in streaming ad alta risoluzione, è a tutti gli effetti una misura di risparmio energetico. Allo stesso modo, la società civile (EDRi ecc.) ha evidenziato a suo tempo che l'articolo 17 della direttiva 790/2019, facilitando di fatto i monopolisti dello streaming come Spotify e YouTube, ne causa inevitabilmente l'espansione (con conseguente amplificazione dei rispettivi danni climatici). Purtroppo però non si può chiedere al settore privato di mettere in pratica simili considerazioni da "scacchi in 4D" nelle proprie decisioni quotidiane. Le soluzioni sistemiche tendono a essere prerogativa delle decisioni di tassazione sopranazionale. Ai singoli resta solo la possibilità di effettuare scelte settore per settore. Federico

Jan. 8, 2025

Re: [nexa] In a mirror

by Guido Vetere

> > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi > dell'intervento". Ingannato sulla natura di quell'output, non prodotto > da una mente intelligente che abbia compreso l'intervento, ha > perpetuato l'inganno a sua volta sulla lista. > preferisco essere considerato un bieco agente delle multinazionali piuttosto che un cretino che non ha capito con cosa ha a che fare :-) cheers, G. On Wed, 8 Jan 2025 at 12:26, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Mi spiace Alfredo per averti dato l'impressione di volerla buttare in > caciara, ti assicuro che credevo le mie parole fossero chiare e persino > autoevidenti, ovvie... tanto da temere di annoiare la lista. > > Riproviamo. > > > A quanto ho capito del tuo ragionamento, tu fai due affermazioni > distinte, che ritieni entrambe vere: > > 1. La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. > 2. Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. > > Io ritengo entrambe le affermazioni false, ovvero non rispondenti alla > realtà. Permettimi di (ri)spiegarti il perché. > > > # La tecnologia nel suo complesso non è MAI neutrale > > La prima affermazione è facile da falsificare per costruzione: è > sufficiente elencare le diverse tecnologie progettate esplicitamente > per nuocere, dalla mina antiuomo alla bomba atomica. > > > Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", > dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate > (e tanto più quelle più complesse) sono politicamente orientate. > > > Internet è sin dalla sua ideazione un'arma, progettata per garantire > l'esecuzione di un controattacco nucleare durante la guerra fredda. > Si è poi evoluta in un diverso tipo di arma, molto più offensiva [1]. > > > Anche un coltello può essere progettato per essere usato esclusivamente > a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. > Può ad esempio essere progettato per spezzarsi se sottoposto ad una > minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile > per accoltellare chicchessia pur essendo ottimo per tagliare la carne > lungo la lama. > > Per contro, un coltello militare può essere progettato per lacerare i > tessuti, producendo codette interne per un più rapido dissanguamento > del nemico. > > Dunque, anche se possiamo usare la nostra fantasia per immaginare un > coltello veramente neutrale [2], ogni coltello _reale_ facilita o > impedisce determinati usi, avendo effetti politici concreti. > > > # I LLM NON sono neutrali. > > Per tornare alla questione sollevata dalla Professoressa Vallor, > sebbene esistano molti usi potenzialmente utili per le tecniche di > programmazione statistica adottate anche per realizzare le "AI > generative" (di cui gli LLM di cui parliamo sono un esempio), > queste tecnologie sono intrinsecamente e fondativamente > politicamente orientate. > > Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti > hanno come obiettivo minimo superare il test di Turing. > > Il test di Turing consiste, temo urga ricordarlo anche qui, > nell'ingannare uno o più esseri umani sulla natura della sorgente > dei dati sottoposti, spingendo le vittime ad attribuirli _erroneamente_ > ad un essere umano. > > I creatori di un LLM conversazionale vincono questo "imitation game" se > persone ignare attribuiscono intelligenza al loro software, e questi > software sono progettati e continuamente ottimizzati esattamente per > questo obiettivo. > > > Obiettivo che è estremamente specifico: ingannare esseri umani affinché > confondano la macchina con un altro essere umano. > > > Per questa semplice ragione, le "AI generative" (e gli LLM di cui > parliamo in particolare) possono essere usate SOLO per ingannare > esseri umani. > > Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate > a costo di miliardi di dollari ed enormi quantità di energia. > > > > Prendiamo, di nuovo (mi scuserà Guido, ma è veramente un fantastico > esempio di pessimo uso di un LLM che può apparire ragionevole all'utente > ignorante ormai succube della propaganda), il "riassuntino" che un LLM > ha fatto del discorso della Professoressa Vallor. [3] > > Omette completamente aspetti fondamentali della metafora che propone su > cui la Professoressa si era giustamente soffermata a lungo, riducendola > ad affermazione ovvia, quanto trita e ritrita, sulle AI che amplificano > e distorcono i dati umani da cui derivano. > > La Professoressa ha detto altro! > > Ha usato una metafora abbastanza attinente da un punto di vista tecnico > per spiegare _come_ e _perché_ i software programmati statisticamente > elaborano i dati in input e quelli sorgente compressi al proprio > interno. > > E questa è solo una delle omissioni e banalizzazioni che l'output del > LLM ha effettuato. Non ultima (guarda caso) l'omessa esclusione delle > "AI generative" dalle tecnologie che potrebbero essere impiegate > in modo socialmente utile. > > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi > dell'intervento". Ingannato sulla natura di quell'output, non prodotto > da una mente intelligente che abbia compreso l'intervento, ha > perpetuato l'inganno a sua volta sulla lista. > > Se fossimo su twitter, la chiameresti misinformazione. > Se Guido fosse russo, la chiameresti disinformazione. :-D > > Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad > ingannare sé stesso sul tempo necessario a partecipare al dibattito in > cui si inserisce il libro / intervento della Professoressa Vallor [4]. > > Ma tutti ricondurrebbero la responsabilità a Guido (vittima > inconsapevole che arriva a difendere i propri carnefici [5]) o, al > massimo, al software che ha "sfortunatamente" prodotto l'output > "errato". > Dovremmo invece ricondurla a coloro che hanno programmato quel software > per ingannare Guido sulla sua abilità di comprendere un testo e > produrne una "sintesi". > > Sia che ciò avvenga per ragioni economiche o politiche. > (che poi... anche l'economia è politica...) > > > > Più in generale, una tecnologia progettata e realizzate per ingannare > le persone può essere utilizzata _solo_ per ingannare persone. > > E' letteralmente un'arma. > > > Il fatto che persone lontanissime dall'idea di rivolgere un'arma > controllata da terzi contro sé stessi, la puntino quotidianamente > alla propria testa, dovrebbe rendere evidente la sua potenza e > pericolosità. > > > Inoltre, paragonare tecnologie semplici come un coltello o un > martello ad un LLM è sbagliato anche per il semplice fatto che costo e > complessità realizzativa determinano una barriera all'ingresso tale > da determinare intrinsecamente un orientamento politico: solo un élite > molto ricca può permettersi di provare a costruirli, e lo farà solo > se vi intravede un'utilità per sé nettamente superiore ai rischi. > > > > Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. > > > Sono d'accordo che gli intenti "predatori" di molti esseri umani sono > socialmente dannosi e vadano contenuti. > > E sono anche d'accordo che tali intenti siano alla base di molti > dei problemi di cui discutiamo speso in questa lista. > > > Tanto d'accordo che ho provato a spiegarti COME tali intenti siano > fondativi e costituenti degli LLM, così come di molte altre armi. > > > La tecnologia, spero di averti mostrato, è _sempre_ una espressione > umana politicamente orientata, intrinsecamente, ancora prima > che venga effettivamente utilizzata. > > > Gli LLM conversazionali esistono per ingannare le menti, esattamente > come le mine antiuomo esistono per uccidere e mutilare i corpi. > > Non possono essere usate per niente altro. > > > E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che > molte persone (anche colte e intelligenti) finiscono per credersi > e dichiararsi poco diverse da questi software. > > > > Allo stesso modo possiamo creare software emancipatori e socialmente > utili. Io ci provo da tempo [6] sebbene sia una lotta impari. > > > Spero vivamente di essere stato finalmente più chiaro (di certo > Maurizio, non sono stato conciso :-D), ma nel caso aveste ulteriori > dubbi, forse potremmo continuare in privato per non tediare la lista. > > > Giacomo > > [1] > https://encrypted.tesio.it/2018/07/31/the-web-is-still-a-darpa-weapon.html > i sono stati (e vi sono) diversi tentativi di rimuoverne (o > mitigarne) gli aspetti offensivi e militari, ma sono troppo deboli. > > Si potrebbe dire che, di fatto, è come se stessimo conversando > amabilmente in una piazza cosparsa di mine antiuomo, sforzandoci di > non guardarle, di ignorare chi le indica e persino di arrestare chi > prova a rimuoverle. > > [2] Ah se esistessero coltelli da cucina VERAMENTE NEUTRALI! > Coltelli da cucina automaticamente impegnati a mantenere > l'equilibrio fra bene e male! Quanti miliardari in meno! :-D > https://assortedmeeples.com/true-neutral-dnd-alignment-guide > > [3] Per chi volesse rileggerlo: > https://server-nexa.polito.it/pipermail/nexa/2025-January/053758.html > > [4] come, in fondo, ha delicatamente provato a fargli notare Alberto > https://server-nexa.polito.it/pipermail/nexa/2025-January/053759.html > > [5] "Ebbene: un riassunto-traduzione come quello che ChatGPT ha fatto > del transcript della Prof. Vallor qualche anno fa ce lo sognavamo, > credimi." > https://server-nexa.polito.it/pipermail/nexa/2025-January/053770.html > > NOTE to SELF: "approfondire cosa bevessero/mangiassero prima di > andare a dormire, che nemmeno l'impepata di cozze..." :-D > > [6] https://jehanne.h--k.it/ > https://monitora-pa.it/ > > https://code.tesio.it/p/self-hosting/doh.cgi/file?name=POLITICS.txt&ci=tip > https://monitora-pa.it/LICENSE.txt >

Jan. 8, 2025

Meta: more (free) speech and fewer mistakes (it's time to get back to our roots around free expression).

by 380°

Buongiorno, la notizia epocale non sarà sfuggita a nessuno iscritto a questa lista, ma non si sa mai (e comunque merita di essere archiviata per benino). Già l'oggetto di questa email (titolo comunicato Meta e frase di apertura di è Zuckerberg) è TANTA ROBA™ e potrebbe bastare, tuttavia suggerisco di prendersi il giusto tempo per leggere /attentamente/ quanto DICHIARATO da Meta, oltre ad ascoltare /attentamente/ (o leggere i sottotitoli) quanto DICHIARATO da Zuckerberg. In 5+5 minuti c'è la sintesi della storia degli ultimi 20 anni di censura via social network; è un po' confessione, un po' whistleblowing (eravamo costretti) e un po' chiedere umilmente scusa. https://about.fb.com/news/2025/01/meta-more-speech-fewer-mistakes/ «More Speech and Fewer Mistakes» January 7, 2025 Joel Kaplan, Chief Global Affairs Officer --8<---------------cut here---------------start------------->8--- [Mark Zuckerberg video message] <box> Takeaways ───────── • Starting in the US, we are ending our third party fact-checking program and moving to a Community Notes model. • We will allow more speech by lifting restrictions on some topics that are part of mainstream discourse and focusing our enforcement on illegal and high-severity violations. • We will take a more personalized approach to political content, so that people who want to see more of it in their feeds can. </box> Meta's platforms are built to be places where people can express themselves freely. That can be messy. On platforms where billions of people can have a voice, all the good, bad and ugly is on display. But that's free expression. In his 2019 speech at Georgetown University, Mark Zuckerberg argued that free expression has been the driving force behind progress in American society and around the world and that inhibiting speech, however well-intentioned the reasons for doing so, often reinforces existing institutions and power structures instead of empowering people. He said: “Some people believe giving more people a voice is driving division rather than bringing us together. More people across the spectrum believe that achieving the political outcomes they think matter is more important than every person having a voice. I think that's dangerous.” In recent years we've developed increasingly complex systems to manage content across our platforms, partly in response to societal and political pressure to moderate content. This approach has gone too far. As well-intentioned as many of these efforts have been, they have expanded over time to the point where we are making too many mistakes, frustrating our users and too often getting in the way of the free expression we set out to enable. Too much harmless content gets censored, too many people find themselves wrongly locked up in “Facebook jail,” and we are often too slow to respond when they do. We want to fix that and return to that fundamental commitment to free expression. Today, we're making some changes to stay true to that ideal. Ending Third Party Fact Checking Program, Moving to Community Notes ──────────────────────────────────────────────────────────────────── When we launched our independent fact checking program in 2016, we were very clear that we didn't want to be the arbiters of truth. We made what we thought was the best and most reasonable choice at the time, which was to hand that responsibility over to independent fact checking organizations. The intention of the program was to have these independent experts give people more information about the things they see online, particularly viral hoaxes, so they were able to judge for themselves what they saw and read. That's not the way things played out, especially in the United States. Experts, like everyone else, have their own biases and perspectives. This showed up in the choices some made about what to fact check and how. Over time we ended up with too much content being fact checked that people would understand to be legitimate political speech and debate. Our system then attached real consequences in the form of intrusive labels and reduced distribution. A program intended to inform too often became a tool to censor. We are now changing this approach. We will end the current third party fact checking program in the United States and instead begin moving to a Community Notes program. We've seen this approach work on X – where they empower their community to decide when posts are potentially misleading and need more context, and people across a diverse range of perspectives decide what sort of context is helpful for other users to see. We think this could be a better way of achieving our original intention of providing people with information about what they're seeing – and one that's less prone to bias. • Once the program is up and running, Meta won't write Community Notes or decide which ones show up. They are written and rated by contributing users. • Just like they do on X, Community Notes will require agreement between people with a range of perspectives to help prevent biased ratings. • We intend to be transparent about how different viewpoints inform the Notes displayed in our apps, and are working on the right way to share this information. • People can sign up today ( [Facebook] , [Instagram] , [Threads] ) for the opportunity to be among the first contributors to this program as it becomes available. We plan to phase in Community Notes in the US first over the next couple of months, and will continue to improve it over the course of the year. As we make the transition, we will get rid of our fact-checking control, stop demoting fact checked content and, instead of overlaying full screen interstitial warnings you have to click through before you can even see the post, we will use a much less obtrusive label indicating that there is additional information for those who want to see it. Allowing More Speech ───────────────────── Over time, we have developed complex systems to manage content on our platforms, which are increasingly complicated for us to enforce. As a result, we have been over-enforcing our rules, limiting legitimate political debate and censoring too much trivial content and subjecting too many people to frustrating enforcement actions. For example, in December 2024, we removed millions of pieces of content every day. While these actions account for less than 1% of content produced every day, we think one to two out of every 10 of these actions may have been mistakes (i.e., the content may not have actually violated our policies). This does not account for actions we take to tackle large-scale adversarial spam attacks. We plan to expand our transparency reporting to share numbers on our mistakes on a regular basis so that people can track our progress. As part of that we'll also include more details on the mistakes we make when enforcing our spam policies. We want to undo the mission creep that has made our rules too restrictive and too prone to over-enforcement. We're getting rid of a number of restrictions on topics like immigration, gender identity and gender that are the subject of frequent political discourse and debate. It's not right that things can be said on TV or the floor of Congress, but not on our platforms. These policy changes may take a few weeks to be fully implemented. We're also going to change how we enforce our policies to reduce the kind of mistakes that account for the vast majority of the censorship on our platforms. Up until now, we have been using automated systems to scan for all policy violations, but this has resulted in too many mistakes and too much content being censored that shouldn't have been. So, we're going to continue to focus these systems on tackling illegal and high-severity violations, like terrorism, child sexual exploitation, drugs, fraud and scams. For less severe policy violations, we're going to rely on someone reporting an issue before we take any action. We also demote too much content that our systems predict might violate our standards. We are in the process of getting rid of most of these demotions and requiring greater confidence that the content violates for the rest. And we're going to tune our systems to require a much higher degree of confidence before a piece of content is taken down. As part of these changes, we will be moving the trust and safety teams that write our content policies and review content out of California to Texas and other US locations. People are often given the chance to appeal our enforcement decisions and ask us to take another look, but the process can be frustratingly slow and doesn't always get to the right outcome. We've added extra staff to this work and in more cases, we are also now requiring multiple reviewers to reach a determination in order to take something down. We are working on ways to make recovering accounts more straightforward and testing facial recognition technology, and we've started using AI large language models (LLMs) to provide a second opinion on some content before we take enforcement actions. A Personalized Approach to Political Content ───────────────────────────────────────────── Since 2021, we've made changes to reduce the amount of civic content people see – posts about elections, politics or social issues – based on the feedback our users gave us that they wanted to see less of this content. But this was a pretty blunt approach. We are going to start phasing this back into Facebook, Instagram and Threads with a more personalized approach so that people who want to see more political content in their feeds can. We're continually testing how we deliver personalized experiences and have recently conducted testing around civic content. As a result, we're going to start treating civic content from people and Pages you follow on Facebook more like any other content in your feed, and we will start ranking and showing you that content based on explicit signals (for example, liking a piece of content) and implicit signals (like viewing posts) that help us predict what's meaningful to people. We are also going to recommend more political content based on these personalized signals and are expanding the options people have to control how much of this content they see. These changes are an attempt to return to the commitment to free expression that Mark Zuckerberg set out in his Georgetown speech. That means being vigilant about the impact our policies and systems are having on people's ability to make their voices heard, and having the humility to change our approach when we know we're getting things wrong. [Mark Zuckerberg video message] <https://about.fb.com/wp-content/uploads/2025/01/V2.Single-Take-CS25_MZ_JanA…> [Facebook] <https://www.facebook.com/help/contact/1914298425761977> [Instagram] <https://help.instagram.com/contact/1223551615403090> [Threads] <https://help.instagram.com/contact/1638078013752611> --8<---------------cut here---------------end--------------->8--- ...mumble mumble. E adesso Diamogli Addosso™ anche al miliardario Mark Zuckerberg che non ha perso nemmeno un minuto ed è saltato subito sul carro del vincitore, trasformandosi in una brutta copia di Elon Musk, pur di non perdere i suoi privilegi... Saluti, 380° P.S.: tra tutto quello che hanno dichiarato, la cosa che personalmente trovo gustosamente curiosa è il trasloco della sede dei "trust and safety teams" dalla California al Texas... perbacco sta /copiando/ Musk proprio in tutto, non solo sulle "community notes" :-O -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Jan. 8, 2025

Re: [nexa] In a mirror

by Giacomo Tesio

Mi spiace Alfredo per averti dato l'impressione di volerla buttare in caciara, ti assicuro che credevo le mie parole fossero chiare e persino autoevidenti, ovvie... tanto da temere di annoiare la lista. Riproviamo. A quanto ho capito del tuo ragionamento, tu fai due affermazioni distinte, che ritieni entrambe vere: 1. La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. 2. Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. Io ritengo entrambe le affermazioni false, ovvero non rispondenti alla realtà. Permettimi di (ri)spiegarti il perché. # La tecnologia nel suo complesso non è MAI neutrale La prima affermazione è facile da falsificare per costruzione: è sufficiente elencare le diverse tecnologie progettate esplicitamente per nuocere, dalla mina antiuomo alla bomba atomica. Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate (e tanto più quelle più complesse) sono politicamente orientate. Internet è sin dalla sua ideazione un'arma, progettata per garantire l'esecuzione di un controattacco nucleare durante la guerra fredda. Si è poi evoluta in un diverso tipo di arma, molto più offensiva [1]. Anche un coltello può essere progettato per essere usato esclusivamente a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. Può ad esempio essere progettato per spezzarsi se sottoposto ad una minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile per accoltellare chicchessia pur essendo ottimo per tagliare la carne lungo la lama. Per contro, un coltello militare può essere progettato per lacerare i tessuti, producendo codette interne per un più rapido dissanguamento del nemico. Dunque, anche se possiamo usare la nostra fantasia per immaginare un coltello veramente neutrale [2], ogni coltello _reale_ facilita o impedisce determinati usi, avendo effetti politici concreti. # I LLM NON sono neutrali. Per tornare alla questione sollevata dalla Professoressa Vallor, sebbene esistano molti usi potenzialmente utili per le tecniche di programmazione statistica adottate anche per realizzare le "AI generative" (di cui gli LLM di cui parliamo sono un esempio), queste tecnologie sono intrinsecamente e fondativamente politicamente orientate. Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti hanno come obiettivo minimo superare il test di Turing. Il test di Turing consiste, temo urga ricordarlo anche qui, nell'ingannare uno o più esseri umani sulla natura della sorgente dei dati sottoposti, spingendo le vittime ad attribuirli _erroneamente_ ad un essere umano. I creatori di un LLM conversazionale vincono questo "imitation game" se persone ignare attribuiscono intelligenza al loro software, e questi software sono progettati e continuamente ottimizzati esattamente per questo obiettivo. Obiettivo che è estremamente specifico: ingannare esseri umani affinché confondano la macchina con un altro essere umano. Per questa semplice ragione, le "AI generative" (e gli LLM di cui parliamo in particolare) possono essere usate SOLO per ingannare esseri umani. Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate a costo di miliardi di dollari ed enormi quantità di energia. Prendiamo, di nuovo (mi scuserà Guido, ma è veramente un fantastico esempio di pessimo uso di un LLM che può apparire ragionevole all'utente ignorante ormai succube della propaganda), il "riassuntino" che un LLM ha fatto del discorso della Professoressa Vallor. [3] Omette completamente aspetti fondamentali della metafora che propone su cui la Professoressa si era giustamente soffermata a lungo, riducendola ad affermazione ovvia, quanto trita e ritrita, sulle AI che amplificano e distorcono i dati umani da cui derivano. La Professoressa ha detto altro! Ha usato una metafora abbastanza attinente da un punto di vista tecnico per spiegare _come_ e _perché_ i software programmati statisticamente elaborano i dati in input e quelli sorgente compressi al proprio interno. E questa è solo una delle omissioni e banalizzazioni che l'output del LLM ha effettuato. Non ultima (guarda caso) l'omessa esclusione delle "AI generative" dalle tecnologie che potrebbero essere impiegate in modo socialmente utile. Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi dell'intervento". Ingannato sulla natura di quell'output, non prodotto da una mente intelligente che abbia compreso l'intervento, ha perpetuato l'inganno a sua volta sulla lista. Se fossimo su twitter, la chiameresti misinformazione. Se Guido fosse russo, la chiameresti disinformazione. :-D Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad ingannare sé stesso sul tempo necessario a partecipare al dibattito in cui si inserisce il libro / intervento della Professoressa Vallor [4]. Ma tutti ricondurrebbero la responsabilità a Guido (vittima inconsapevole che arriva a difendere i propri carnefici [5]) o, al massimo, al software che ha "sfortunatamente" prodotto l'output "errato". Dovremmo invece ricondurla a coloro che hanno programmato quel software per ingannare Guido sulla sua abilità di comprendere un testo e produrne una "sintesi". Sia che ciò avvenga per ragioni economiche o politiche. (che poi... anche l'economia è politica...) Più in generale, una tecnologia progettata e realizzate per ingannare le persone può essere utilizzata _solo_ per ingannare persone. E' letteralmente un'arma. Il fatto che persone lontanissime dall'idea di rivolgere un'arma controllata da terzi contro sé stessi, la puntino quotidianamente alla propria testa, dovrebbe rendere evidente la sua potenza e pericolosità. Inoltre, paragonare tecnologie semplici come un coltello o un martello ad un LLM è sbagliato anche per il semplice fatto che costo e complessità realizzativa determinano una barriera all'ingresso tale da determinare intrinsecamente un orientamento politico: solo un élite molto ricca può permettersi di provare a costruirli, e lo farà solo se vi intravede un'utilità per sé nettamente superiore ai rischi. Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. Sono d'accordo che gli intenti "predatori" di molti esseri umani sono socialmente dannosi e vadano contenuti. E sono anche d'accordo che tali intenti siano alla base di molti dei problemi di cui discutiamo speso in questa lista. Tanto d'accordo che ho provato a spiegarti COME tali intenti siano fondativi e costituenti degli LLM, così come di molte altre armi. La tecnologia, spero di averti mostrato, è _sempre_ una espressione umana politicamente orientata, intrinsecamente, ancora prima che venga effettivamente utilizzata. Gli LLM conversazionali esistono per ingannare le menti, esattamente come le mine antiuomo esistono per uccidere e mutilare i corpi. Non possono essere usate per niente altro. E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che molte persone (anche colte e intelligenti) finiscono per credersi e dichiararsi poco diverse da questi software. Allo stesso modo possiamo creare software emancipatori e socialmente utili. Io ci provo da tempo [6] sebbene sia una lotta impari. Spero vivamente di essere stato finalmente più chiaro (di certo Maurizio, non sono stato conciso :-D), ma nel caso aveste ulteriori dubbi, forse potremmo continuare in privato per non tediare la lista. Giacomo [1] https://encrypted.tesio.it/2018/07/31/the-web-is-still-a-darpa-weapon.html i sono stati (e vi sono) diversi tentativi di rimuoverne (o mitigarne) gli aspetti offensivi e militari, ma sono troppo deboli. Si potrebbe dire che, di fatto, è come se stessimo conversando amabilmente in una piazza cosparsa di mine antiuomo, sforzandoci di non guardarle, di ignorare chi le indica e persino di arrestare chi prova a rimuoverle. [2] Ah se esistessero coltelli da cucina VERAMENTE NEUTRALI! Coltelli da cucina automaticamente impegnati a mantenere l'equilibrio fra bene e male! Quanti miliardari in meno! :-D https://assortedmeeples.com/true-neutral-dnd-alignment-guide [3] Per chi volesse rileggerlo: https://server-nexa.polito.it/pipermail/nexa/2025-January/053758.html [4] come, in fondo, ha delicatamente provato a fargli notare Alberto https://server-nexa.polito.it/pipermail/nexa/2025-January/053759.html [5] "Ebbene: un riassunto-traduzione come quello che ChatGPT ha fatto del transcript della Prof. Vallor qualche anno fa ce lo sognavamo, credimi." https://server-nexa.polito.it/pipermail/nexa/2025-January/053770.html NOTE to SELF: "approfondire cosa bevessero/mangiassero prima di andare a dormire, che nemmeno l'impepata di cozze..." :-D [6] https://jehanne.h--k.it/ https://monitora-pa.it/ https://code.tesio.it/p/self-hosting/doh.cgi/file?name=POLITICS.txt&ci=tip https://monitora-pa.it/LICENSE.txt

Jan. 8, 2025

Re: [nexa] In a mirror

by Alfredo Bregni

Ciao Giacomo. >>Spero di essere stato più chiaro. Non sei stato più chiaro. Hai buttato la cosa in caciara, ...per di più con affermazioni apodittiche (non nel significato originale, ma nel senso traslato di buttate là / fatte cadere dall'alto come se fossero vere, quando non lo sono). >>L'argomento degli "strumenti neutrali" che possono essere utili per fare del bene o del male si scontra con la realtà di innumerevoli strumenti progettati esclusivamente per nuocere. Fra coltello e pistola il discorso cambia. E tu metti tutto insieme. >>La distinzione fra questione "tecnica" e questione "politica" è infondata: la tecnologia è un proseguimento della politica con altri mezzi. Sorry. Un coltello è fatto per tagliare (tecnica). Cosa poi ci tagli è una scelta (politica, nel discorso che si stava facendo). Se costruisci un coltello da caccia, oppure da guerra, o come si diceva una pistola, solo allora il tema diventa congiunto. Ma è quando ti raccontano una balla, il vero problema. Non quando vedi una mannaia (o una pistola), che sei sicuro che ti conviene tagliare la corda. >>E questo è vero per la ruota, per la vela, per la radio, per la tv, per internet etc. Tanto per prenderne una, Internet doveva diventare uno strumento di libertà, e sta diventando ben altro, in certi ambiti. E, dal punto di vista tecnico, non ha nulla dentro di "intrinsecamente costruito" per fottere la gente. >>Gli LLM non sono paragonabili ad un coltello o un martello, ma ad una bomba atomica. Affermazione che mi lascia freddo. Un LLM è una tecnologia che si vede da lontano quanto è scolastica, ma in questo (ovvero a livello informativo) può essere utile. Se poi qualcuno ti manipola, io sinceramente non ci vedo un pregresso tecnico a tale scopo, se non la legittima, anche se un po' troppo pressante, intenzione del venditore ti piazzarti in casa il prodotto (cosa che vale anche per le zucchine al mercato). >>[Gli LLM] sono utili ad alienare le persone. Ad abbassarne i salari. A diffondere disinformazione senza risponderne. (...) Questo è L'USO (politico) del coltello per sbudellare. Appunto. Però ci puoi fare altro. E i limiti (tecnici) sono di tutt'altro genere. >>Sono insomma utilissimi a chi li programma. Questo è il legittimo desiderio del produttore di vendere (che può diventare invasivo anche rimanendo legittimo). >>Ma essendo ottimizzati per superare il test di Turing (ovvero per ingannare esseri umani) possono solo essere usati da chi voglia ingannare esseri umani. Beh, chi fa ricerca in AI può anche essere desideroso di utilizzarla in ambiti predatori... MA ANCHE NO. E il problema rimangono le intenzioni, non il contenuto tecnico. Sei stato confusionario (forse volutamente), non "chiaro". Hai provato a manipolare il discorso... (sembrava un proclama). Se volevi dimostrare che si può fare, ci sei riuscito. Ma non devi incrociare qualcuno che ti sgami da subito. Saluti. ----- Original Message ----- From: Giacomo Tesio To: Alfredo Bregni ; nexa(a)server-nexa.polito.it ; maurizio lana Sent: Tuesday, January 07, 2025 6:15 PM Subject: Re: [nexa] In a mirror Ciao Maurizio e Alfredo. Scusatemi, non era mia intenzione essere in alcun modo laconico, ma credevo che le domande fossero chiare abbastanza. L'argomento degli "strumenti neutrali" che possono essere utili per fare del bene o del male si scontra con la realtà di innumerevoli strumenti progettati esclusivamente per nuocere. La distinzione fra questione "tecnica" e questione "politica" è infondata: la tecnologia è un proseguimento della politica con altri mezzi. E questo è vero per la ruota, per la vela, per la radio, per la tv, per internet etc.. Gli LLM non sono paragonabili ad un coltello o un martello, ma ad una bomba atomica. In un altro thread, Alberto citava un articolo (che devo ancora leggere) in cui si chiedeva ai critici dei LLM di proporre utilizzi costruttivi. La richiesta stessa presuppone una critica miope e superficiale. Certo che gli LLM sono utili! Per esempio sono utilissimi a Microsoft, Google e Amazon per vendere servizi cloud. Sono utili ad alienare le persone. Ad abbassarne i salari. A diffondere disinformazione senza risponderne. Sono utili a esfiltrare segreti industriali dalle aziende che ne permettono l'uso ai dipendenti. Sono utili a violare i diritti altrui, siano commerciali (copyright) o fondamentali (protezione dei dati personali, onorabilità etc...) Sono insomma utilissimi a chi li programma. Ma essendo ottimizzati per superare il test di Turing (ovvero per ingannare esseri umani) possono solo essere usati da chi voglia ingannare esseri umani. E in quest'ambito sono utilissimi! :-D Come una bomba in un ufficio bancario, insomma. È utilissima, per chi vuole liberarsi dei sopravvissuti a una rapina. Eccetto che per i sopravvissuti. Spero di essere stato più chiaro. Giacomo Il 7 Gennaio 2025 16:34:15 UTC, Alfredo Bregni <abregni(a)iperv.it> ha scritto: > Ciao Maurizio. > > Scusa, ma sono di parere diverso. > > Ci sono temi tecnici e politici, che stanno su piani diversi: > - E' "tecnico" il tema se uno strumento va bene per qualche cosa; > - E' "politico" il tema di usare per un certo scopo strumenti nati per uno scopo diverso. > > Nel tuo testo, i due piani (a me) appaiono ...confusi. > > A presto, > A > > > ----- Original Message ----- > From: maurizio lana > To: nexa(a)server-nexa.polito.it > Sent: Tuesday, January 07, 2025 4:57 PM > Subject: Re: [nexa] In a mirror > > > a me pare che la questione in gioco sia leggermente diversa: quali strumenti si usano per quali scopi. > cioè non solo il fatto che i sistemi di IA siano sempre strumenti che qualcuno usa per uno scopo (di qui la responsabilità di chi usa lo strumento); > ma che per ogni scopo c'è uno strumento adatto/appropriato. > e per molti scopi ai quali li si vorrebbe destinare i sistemi di IA comunque non sono adatti: come usare un kalashnikov per macellare un manzo. > > (Giacomo a volte tendi ad uno stile di scrittura conciso/oscuro :-))) > Maurizio > > > > > Il 07/01/25 16:46, Alfredo Bregni ha scritto: > > Ti sei perso per strada il contesto: > - Si parlava di AI, con le solite critiche e timori (NON tecnici); > - Io l'ho paragonata a un coltello (e ho detto che il problema sta in chi tiene il manico). > > SE avessimo parlato di virus (informatici), magari allora avresti correttamente introdotto il tema Kalašnikov... > > E' diverso il caso di prodotti il cui intendimento è nuocere, da quelli "virati" al nuocere da parte di qualcuno (che poi è lo stesso che cerca i prodotti fatti per nuocere fin dall'inizio). > E QUESTO io lo considero il problema fondamentale: la presenza di predatori / sfruttatori / manipolatori, ...che sono in grado di manipolarti anche con una caramella (NON esplosiva). > > Aloha. > > > ----- Original Message ----- > From: Giacomo Tesio > To: Alfredo Bregni ; nexa(a)server-nexa.polito.it > Sent: Tuesday, January 07, 2025 12:18 PM > Subject: Re: [nexa] In a mirror > > > Ciao Alfredo, > > grazie per la tua riflessione, che mi ha suggerito alcune domande > > Il 6 Gennaio 2025 21:38:21 UTC, Alfredo Bregni <abregni(a)iperv.it> ha scritto: > > > > Se con un coltello Tizio taglia la carne di manzo e Caio sbudella qualcuno, > > il problema sta dalla parte di chi tiene il manico e non dalla parte della lama. > > Ma Tizio ha mai provato a macellare il manzo con un Kalašnikov? > E con una bomba atomica? > > Tu ci hai mai provato? > > > Se sì, come è andata? > Se no, perché? > > > Giacomo > > > > > > ------------------------------------------------------------------------------ > > lo straniero non parla e non capisce la nostra lingua, > che non è più nostra, perché la nostra vera lingua > diventa la traduzione, lo scambio > luca ferrieri, dalla public library all’open library > ------------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli

Jan. 8, 2025

Re: [nexa] In a mirror

by Giacomo Tesio

Ciao Maurizio e Alfredo. Scusatemi, non era mia intenzione essere in alcun modo laconico, ma credevo che le domande fossero chiare abbastanza. L'argomento degli "strumenti neutrali" che possono essere utili per fare del bene o del male si scontra con la realtà di innumerevoli strumenti progettati esclusivamente per nuocere. La distinzione fra questione "tecnica" e questione "politica" è infondata: la tecnologia è un proseguimento della politica con altri mezzi. E questo è vero per la ruota, per la vela, per la radio, per la tv, per internet etc.. Gli LLM non sono paragonabili ad un coltello o un martello, ma ad una bomba atomica. In un altro thread, Alberto citava un articolo (che devo ancora leggere) in cui si chiedeva ai critici dei LLM di proporre utilizzi costruttivi. La richiesta stessa presuppone una critica miope e superficiale. Certo che gli LLM sono utili! Per esempio sono utilissimi a Microsoft, Google e Amazon per vendere servizi cloud. Sono utili ad alienare le persone. Ad abbassarne i salari. A diffondere disinformazione senza risponderne. Sono utili a esfiltrare segreti industriali dalle aziende che ne permettono l'uso ai dipendenti. Sono utili a violare i diritti altrui, siano commerciali (copyright) o fondamentali (protezione dei dati personali, onorabilità etc...) Sono insomma utilissimi a chi li programma. Ma essendo ottimizzati per superare il test di Turing (ovvero per ingannare esseri umani) possono solo essere usati da chi voglia ingannare esseri umani. E in quest'ambito sono utilissimi! :-D Come una bomba in un ufficio bancario, insomma. È utilissima, per chi vuole liberarsi dei sopravvissuti a una rapina. Eccetto che per i sopravvissuti. Spero di essere stato più chiaro. Giacomo Il 7 Gennaio 2025 16:34:15 UTC, Alfredo Bregni <abregni(a)iperv.it> ha scritto: > Ciao Maurizio. > > Scusa, ma sono di parere diverso. > > Ci sono temi tecnici e politici, che stanno su piani diversi: > - E' "tecnico" il tema se uno strumento va bene per qualche cosa; > - E' "politico" il tema di usare per un certo scopo strumenti nati per uno scopo diverso. > > Nel tuo testo, i due piani (a me) appaiono ...confusi. > > A presto, > A > > > ----- Original Message ----- > From: maurizio lana > To: nexa(a)server-nexa.polito.it > Sent: Tuesday, January 07, 2025 4:57 PM > Subject: Re: [nexa] In a mirror > > > a me pare che la questione in gioco sia leggermente diversa: quali strumenti si usano per quali scopi. > cioè non solo il fatto che i sistemi di IA siano sempre strumenti che qualcuno usa per uno scopo (di qui la responsabilità di chi usa lo strumento); > ma che per ogni scopo c'è uno strumento adatto/appropriato. > e per molti scopi ai quali li si vorrebbe destinare i sistemi di IA comunque non sono adatti: come usare un kalashnikov per macellare un manzo. > > (Giacomo a volte tendi ad uno stile di scrittura conciso/oscuro :-))) > Maurizio > > > > > Il 07/01/25 16:46, Alfredo Bregni ha scritto: > > Ti sei perso per strada il contesto: > - Si parlava di AI, con le solite critiche e timori (NON tecnici); > - Io l'ho paragonata a un coltello (e ho detto che il problema sta in chi tiene il manico). > > SE avessimo parlato di virus (informatici), magari allora avresti correttamente introdotto il tema Kalašnikov... > > E' diverso il caso di prodotti il cui intendimento è nuocere, da quelli "virati" al nuocere da parte di qualcuno (che poi è lo stesso che cerca i prodotti fatti per nuocere fin dall'inizio). > E QUESTO io lo considero il problema fondamentale: la presenza di predatori / sfruttatori / manipolatori, ...che sono in grado di manipolarti anche con una caramella (NON esplosiva). > > Aloha. > > > ----- Original Message ----- > From: Giacomo Tesio > To: Alfredo Bregni ; nexa(a)server-nexa.polito.it > Sent: Tuesday, January 07, 2025 12:18 PM > Subject: Re: [nexa] In a mirror > > > Ciao Alfredo, > > grazie per la tua riflessione, che mi ha suggerito alcune domande > > Il 6 Gennaio 2025 21:38:21 UTC, Alfredo Bregni <abregni(a)iperv.it> ha scritto: > > > > Se con un coltello Tizio taglia la carne di manzo e Caio sbudella qualcuno, > > il problema sta dalla parte di chi tiene il manico e non dalla parte della lama. > > Ma Tizio ha mai provato a macellare il manzo con un Kalašnikov? > E con una bomba atomica? > > Tu ci hai mai provato? > > > Se sì, come è andata? > Se no, perché? > > > Giacomo > > > > > > ------------------------------------------------------------------------------ > > lo straniero non parla e non capisce la nostra lingua, > che non è più nostra, perché la nostra vera lingua > diventa la traduzione, lo scambio > luca ferrieri, dalla public library all’open library > ------------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli

Jan. 7, 2025

Re: [nexa] In a mirror

by Alfredo Bregni

Ciao Maurizio. Scusa, ma sono di parere diverso. Ci sono temi tecnici e politici, che stanno su piani diversi: - E' "tecnico" il tema se uno strumento va bene per qualche cosa; - E' "politico" il tema di usare per un certo scopo strumenti nati per uno scopo diverso. Nel tuo testo, i due piani (a me) appaiono ...confusi. A presto, A ----- Original Message ----- From: maurizio lana To: nexa(a)server-nexa.polito.it Sent: Tuesday, January 07, 2025 4:57 PM Subject: Re: [nexa] In a mirror a me pare che la questione in gioco sia leggermente diversa: quali strumenti si usano per quali scopi. cioè non solo il fatto che i sistemi di IA siano sempre strumenti che qualcuno usa per uno scopo (di qui la responsabilità di chi usa lo strumento); ma che per ogni scopo c'è uno strumento adatto/appropriato. e per molti scopi ai quali li si vorrebbe destinare i sistemi di IA comunque non sono adatti: come usare un kalashnikov per macellare un manzo. (Giacomo a volte tendi ad uno stile di scrittura conciso/oscuro :-))) Maurizio Il 07/01/25 16:46, Alfredo Bregni ha scritto: Ti sei perso per strada il contesto: - Si parlava di AI, con le solite critiche e timori (NON tecnici); - Io l'ho paragonata a un coltello (e ho detto che il problema sta in chi tiene il manico). SE avessimo parlato di virus (informatici), magari allora avresti correttamente introdotto il tema Kalašnikov... E' diverso il caso di prodotti il cui intendimento è nuocere, da quelli "virati" al nuocere da parte di qualcuno (che poi è lo stesso che cerca i prodotti fatti per nuocere fin dall'inizio). E QUESTO io lo considero il problema fondamentale: la presenza di predatori / sfruttatori / manipolatori, ...che sono in grado di manipolarti anche con una caramella (NON esplosiva). Aloha. ----- Original Message ----- From: Giacomo Tesio To: Alfredo Bregni ; nexa(a)server-nexa.polito.it Sent: Tuesday, January 07, 2025 12:18 PM Subject: Re: [nexa] In a mirror Ciao Alfredo, grazie per la tua riflessione, che mi ha suggerito alcune domande Il 6 Gennaio 2025 21:38:21 UTC, Alfredo Bregni <abregni(a)iperv.it> ha scritto: > > Se con un coltello Tizio taglia la carne di manzo e Caio sbudella qualcuno, > il problema sta dalla parte di chi tiene il manico e non dalla parte della lama. Ma Tizio ha mai provato a macellare il manzo con un Kalašnikov? E con una bomba atomica? Tu ci hai mai provato? Se sì, come è andata? Se no, perché? Giacomo ------------------------------------------------------------------------------ lo straniero non parla e non capisce la nostra lingua, che non è più nostra, perché la nostra vera lingua diventa la traduzione, lo scambio luca ferrieri, dalla public library all’open library ------------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Jan. 7, 2025