- nexa - server-nexa.polito.it

119° Nexa Lunch Seminar | 22 gennaio 2025, ore 13.00
by Nexa - Media Jan. 13, 2025

Jan. 13, 2025

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 119° Nexa Lunch Seminar che si terrà mercoledì 22 gennaio, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: "Beyond the Machine: The Cultural Implications of Artificial Intelligence". Ospite dell'incontro: Octavio Kulesz (UNESCO Expert). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-119 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

1 0

Re: [nexa] In a mirror
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. — > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it, Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: Re: [nexa] In a mirror > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it> > Content-Type: text/plain; charset=UTF-8 > > Ciao Giuseppe, > > speravo davvero che intervenissi! :-) > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: >> >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante >> possibili applicazioni. > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > La distinzione fra chatbot e LLM rimane informaticamente valida in > generale, ma non credo fosse rilevante per il dibattito perché né > chatbot né LLM esprimono alcuna forma di intelligenza. > >> Gran parte delle critiche riguardano appunto i chatbot >> (allucinazioni, superficialità, ecc.). > > Perché costituiscono la base della narrazione allucinata che domina > il dibattito informatico attuale, determinando scelte politiche, > economiche ed educative altrettanto allucinate. > > >> I LM sono decisamente una tecnologia neutra > > Solo nel mondo della fantasia, Giuseppe. > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > culturalmente e storicamente situati. > > Già solo per questo semplice fatto, nessun LLM reale può essere > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > accolto Minerva l'anno scorso. [1] > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > scartare. > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > producono output "politicamente corretto", quale che siano gli > obiettivi politici dei programmatori, dal legittimare il proprio > software agli occhi dei moralisti statunitensi, difendere il proprio > modello di business o cancellare piazza Tiananmen dalla storia [2] > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > siano in alcun modo "neutrali". > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > politicamente (e lo è), lo sono tutti gli LLM reali. >

2 1

computerizzazione, cooperazione internazionale, alfabetizzazione
by alessandro marzocchi Jan. 12, 2025

Jan. 12, 2025

Molti ritengono che la cd IA non è paragonabile a noi, soprattutto perché si basa sulla "statistica". L’opinione è diffusa e probabilmente prevalente per cui, almeno “ statisticamente”, sto dalla parte sbagliata ma credo che sia la mancanza di corporeità, non la statistica, a rendere difficile il paragone fra macchine e noi, credo che anche la nostra intelligenza si sia formata e si formi grazie ad esperienza “statistica”. Taccio sull’energia richiesta dalle macchine, argomento qui fuori tema anche se rimane un difetto enorme. Di massima condivido le opinioni di Juan Carlos, al quale segnalo che è la parola, non il digitale, la prima “macchina” - intesa come artefatto / codice verbale / non in natura – che noi genere umano abbiamo usato per potenziare le nostre società ed anche per “denominare” la realtà, raccontarla, memorizzarla, tramandarla, in queste ultime funzioni ricordo Fedro, Platone, le cui considerazioni sono attualissime e che Guido ha ultimamente riproposto. Siamo tutti colonie digitali, anche gli oltre 340 milioni di statunitensi che non appartengono alla cerchia dei nuovi conquistadores, non basta favorire sviluppo ed autonomia digitale di ogni stato ma è ugualmente necessario dedicarsi ad alfabetizzazione, educazione digitali da diffondere analogamente a come si fa con la parola e le lingue naturali, l’analfabetismo digitale è la precondizione necessaria per renderci merce, i nuovi schiavi. Cordialmente. Duccio (Alessandro Marzocchi)

2 1

Re: [nexa] nexa] Arun, "Transnational AI and Corporate Imperialism"
by Giuseppe Attardi Jan. 12, 2025

Jan. 12, 2025

Sono d’accordo sulle premesse sull’imperialismo e sul capitalismo digitale. Non capisco molto invece altre affermazioni e le conclusioni. Non mi pare il caso di assimilare l’attività di annotazione di dati degli africani ad altre pratiche dannose come l’esportazione di pesticidi: "The exploitation of cognitive labor is characteristic of informational capitalism but derives from, and is co-extensive with, industrial capitalism’s systems for labor exploitation…. Consider product liability laws in the United States, which emerged from mass torts or from regulators: products like banned pesticides that cannot be sold or used in the United States are exported to other markets… Informational capitalism is currently governed by a similarly permissive legal order—if the United States and EU regulate to protect their populations, harmful AI products will continue to be developed and inflicted on the people of other states.” Quali siano questi cosiddetti “harmful AI products” non mi è chiaro. La digitalizzazione offre invece delle opportunità ai paesi emergenti: un recente incontro di ISOC Society sul tema A Billion More People will Transform the the Internet” (https://youtu.be/_Cog9HRBZlY) illustrava gli esempi di nuovi lavori che vengono svolti in Nigeria, da persone con buone competenze informatiche, che lavorano per aziende occidentali. L’esperienza porta costoro a imparare come impiantare nuove aziende locali, con diversi esempi di giovani che costruiscono servizi di connettività locale e di una start-up che offre la gestione dele cartelle sanitarie ad ospedali che curano oltre 300 mila pazienti. Poi si aggiungono critiche su dati obsoleti, che è una questione a sua volta obsoleta. Conclusioni: To avoid future problems, the discourse about AI regulation needs to expand its currently myopic view of risk and who is at risk to cover the labor harms as well as data and algorithmic injustices that will certainly result from global AI systems. Mah, “certainly result” mi pare un’affermazione eccessiva. Nessuno sa come sarà il futuro. — Beppe > On 26 Nov 2024, at 20:05, nexa-request(a)server-nexa.polito.it wrote: > > From: "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it <mailto:juancarlos.demartin@polito.it>> > To: Nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: [nexa] Arun, "Transnational AI and Corporate Imperialism" > Message-ID: <8f87f003-c928-4709-bab6-cfd14af1c01c(a)polito.it <mailto:8f87f003-c928-4709-bab6-cfd14af1c01c@polito.it>> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > *Transnational AI and Corporate Imperialism* > > // > > /Chinmayi Arun/ > > *Introduction* > > ** > > When I first had coffee with Facebook’s head of public policy in India, > she was using a shared workspace. Before joining Facebook, she had led > the policy practice of one of India’s most powerful law firms and was on > friendly terms with judges, ministers, and other influential people. It > was surprising to find her in a small office in a shared workspace, with > just one administrative assistant for support. In a couple of years, she > moved to a suite with a beautiful view in one of Delhi’s finest luxury > hotels, acquired an expanding team of seasoned lawyers and policy > professionals. Within five years, the public policy team had grown to be > so large that it had its own plush office in the heart of Delhi. This > expansion of influence within Delhi mirrored the expansion of Meta’s > (previously Facebook) influence in India. If it was difficult to be in > an Indian city without relying heavily on Big Tech’s products, it was > impossible to work on technology policy in Delhi without being swept > into currents of change created by Big Tech.^1 > > People across the world are grappling with a few global technology > companies ’ domination of their public spheres and increasingly of other > spheres of social, economic, and political engagement. In her essay on > the “algorithmic colonization of Africa,” Abeba Birhane pointed out that > most of Africa’s digital infrastructure is owned and controlled by major > Western technology companies, and she further questioned how relevant > artificial intelligence (AI) tools from the West are in other contexts.^2 > > > [...] > > continua qui: > https://carnegieendowment.org/research/2024/10/transnational-ai-and-corpora… > <https://carnegieendowment.org/research/2024/10/transnational-ai-and-corpora…>

2 2

Zuckerberg ha approvato l'uso di libri "piratati" per addestrare l'LLM
by Antonio Jan. 11, 2025

Jan. 11, 2025

Mark Zuckerberg, approved Meta's use of the LibGen dataset notwithstanding concerns within Meta's AI executive team (and others at Meta) that LibGen is "a dataset we know to be pirated" Documento n.377 nella causa 3:23-cv-03417-VC Kadrey v. Meta Platforms https://regmedia.co.uk/2025/01/10/pacer_kadrey_vs_meta_1.pdf A.

1 0

GDPR: Tracciamenti (2024).
by 380° Jan. 11, 2025

Jan. 11, 2025

Buongiorno, leggo solo oggi, non mi pare sia stata già segnalata in lista: https://www.premiorobertomorrione.it/inchieste/tracciamenti-2024/ di Edoardo Anziano, Francesca Cicculli, Roberta Lancellotti tutor Goffredo De Pascale --8<---------------cut here---------------start------------->8--- Inchiesta finalista del Premio Morrione 2024 Trascorriamo sempre più tempo online e ci affidiamo al web anche per la cura della salute mentale. Oggi le piattaforme di telepsicologia contano centinaia di migliaia di utenti e fatturano milioni di euro. Ma qual è il segreto del loro successo? Tracciamenti s vela l’uso spregiudicato che le aziende di psicologia online fanno del marketing digitale, monitorando le attività dei pazienti perfino durante la seduta di terapia. --8<---------------cut here---------------end--------------->8--- Video inchiesta disponibile su Raiplay: https://www.raiplay.it/video/2024/11/Premio-Morrione---Tracciamenti-8ccfa66… Così ne parla oggi "Il Fatto Quotidiano": «“Le piattaforme di psicologia online spiano i propri utenti”: l’inchiesta “Tracciamenti” finalista al premio Morrione» https://www.ilfattoquotidiano.it/2025/01/11/le-piattaforme-di-psicologia-on… --8<---------------cut here---------------start------------->8--- L'inchiesta ha dimostrato che le aziende di telepsicologia monitorano le attività dei pazienti, raccogliendo dati per scopi pubblicitari Le piattaforme di psicologia online spiano i propri utenti mentre fanno le sedute di terapia. Questa scoperta emerge dall’inchiesta “Tracciamenti”, una delle quattro finaliste del Premio di giornalismo investigativo Roberto Morrione 2024, realizzata da Francesca Cicculli, Edoardo Anziano e Roberta Lancellotti. I giornalisti, tramite l’uso di strumenti di analisi, hanno dimostrato che le aziende di telepsicologia monitorano continuamente le attività dei pazienti, raccogliendo dati sensibili per scopi pubblicitari. L’inchiesta ha fatto emergere che piattaforme come Serenis e Unobravo non solo tracciano le informazioni dei pazienti durante la compilazione dei questionari iniziali, ma continuano a raccogliere dati durante le sessioni di terapia. Il tutto avviene attraverso l’uso di cookie di terze parti, strumenti che, come spiega Claudio Agosti di Hermes Centre, assegnano un codice identificatore unico agli utenti, rendendo possibile la creazione di profili dettagliati. Ma cosa accade con questi dati? Stefano Rossetti, avvocato del gruppo NYOB, descrive nella videoinchiesta un sistema in cui le informazioni raccolte vengono processate da data broker, che le rivendono agli inserzionisti. Questo crea un rischio tangibile: “Un datore di lavoro che acquista questi dati potrebbe decidere di escludere candidati che frequentano siti di assistenza psicologica”, avverte Rossetti, sollevando delle preoccupazioni su una potenziale discriminazione basata su dati raccolti. Gli utenti, spesso ignari, accettano i termini di servizio senza leggere le lunghe informative sulla privacy. Il consenso, sottolinea Rossetti, è quindi di fatto “non informato”. Il problema, secondo Rossetti, non è il trattamento dei dati in sé, ma il loro utilizzo per fini commerciali non dichiarati. Danila De Stefano, CEO di Unobravo, ha difeso la propria azienda sostenendo che i dati raccolti sono anonimi. Ma Agosti, hacker etico di Hermes Centre, avverte che questi identificatori unici possono acquisire valore poiché utilizzati continuamente. Durante le sessioni di terapia le piattaforme trasmettono anche informazioni a colossi tecnologici come Facebook, Google, Microsoft, LinkedIn e TikTok. Edoardo Anziano, uno dei giornalisti dell’inchiesta, ha spiegato a Scomodo che la necessità di maggiore trasparenza e regolamentazione emerge come tema cruciale. L’auspicio è che anche gli stessi utenti oppure associazioni che si occupano di tutela della privacy dei consumatori “in massa possano iniziare delle proprie campagne per chiedere formalmente che questo tipo di tracciamento non venga effettuato nel caso in cui non sia strettamente necessario”, dice Anziano. --8<---------------cut here---------------end--------------->8--- Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

2 2

Re: [nexa] In a mirror
by Giuseppe Attardi Jan. 10, 2025

Jan. 10, 2025

Ho trovato interessante questo scambio dialettico. Devo dire che mi trovo d’accordo sulle risposte di Alfredo ed anche sulle critiche all’impostazione di alcuni dei ragionamenti di Giacomo, quando sembrano violare principi logici per trarre determinate conclusioni. Ci terrei solo a puntualizzare due cose: 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante possibili applicazioni. Gran parte delle critiche riguardano appunto i chatbot (allucinazioni, superficialità, ecc.). I LM sono decisamente una tecnologia neutra, non sono progettati per applicazioni specifiche e di per sé non hanno mai fatto male a nessuno, né possono farlo: la loro capacità si limita a predire la prossima parola di un testo. 2. Non è vero che i LLM sono stati concepiti per ingannare, in particolare per superare il Turing test, che si basa su ingannare quacuno di essere un umano. Il test di Turing è solo uno dei tanti disponibili per valutarne le prestazioni dei chatbot, in mancanza di meglio. È un test indiretto, assumendo che un chatbot sia migliore se usa un LLM migliore: il vero test dei LM sarebbe la perplexity, che però non è molto efficace. Anche se la confusione nel pubblico tra LLM e chatbot è diffusa, inviterei a usare il termine chatbot in una lista di persone più esperte come questa. — Beppe PS. Mentre per allenare gli LLM si usano miliardi di testi e risorse di calcolo cospicue, un chatbot si ottiene tipicamente con tecniche di Reinforcement Learning a partire da un LLM usando un dataset molto più ridotto. Il RL cerca di massimizzare la soddisfazione dell’interlocutore, piuttosto che l’accuratezza delle risposte. Questo ne spiega anche tecnicamente i limiti. Comunque la tecnologia dei chatbot sta facendo progressi continui rispetto al 2022, e questi limiti variano nel tempo. > On 8 Jan 2025, at 23:03, nexa-request(a)server-nexa.polito.it wrote: > > Subject: [nexa] ***SPAM*** Re: In a mirror > Message-ID: <292EB2C497454975AC47C9108A0C6626@Bregnip2> > Content-Type: text/plain; charset="utf-8" > > Ciao, Giacomo. > > > > Riproviamo: > > > > 1. > >>> La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. > > > > La tecnologia non è "una": > > - La tecnologia neutrale è neutrale, ecc., quindi sì; > > - La tecnologia "di guerra", ...ha già l'uso definito fin dal'inizio (e non c'è inganno). > > > > 2. > >>> Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. > > > > Non ritengo che siano "di guerra" (o, almeno, non concepiti come tali; correggimi se sbaglio), quindi sì. > > [Dal seguito, vedo che li consideri veramente pericolosi, ma ritengo che sia una percezione ...gonfiata.] > > > > 3. > >>> La tecnologia nel suo complesso non è MAI neutrale > > > > NON puoi dire che NON sia neutrale la tecnologia del bastone per il vecchietto, che può essere usato anche per malmenare il medesimo... > > Se fai l'esempio della mina antiuomo e della bomba atomica, parti da premessa di parte, e quindi sbagliata (si chiama ragionamento "circolare"; lo fanno ad es. i credenti). > > > > 4. > >>> La prima affermazione è facile da falsificare per costruzione: è sufficiente elencare le diverse tecnologie progettate esplicitamente per nuocere, dalla mina antiuomo alla bomba atomica. > > > > La tecnologia "di guerra" sappiamo che esiste; ma non puoi estendere l'affermazione a tutta la tecnologia. > > La locuzione "tecnologia nel suo complesso" è volutamente ingannevole (a cominciare da te stesso...), perché ti permette di fare l'esempio che conviene a te, deviando / deragliando dal discorso che si faceva. > > > > 5. > >>> Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate (e tanto più quelle più complesse) sono politicamente orientate. > > > > Posso essere d'accordo che le tecnologie più complesse non nascano nel giardino di casa (anche se ci sono esempi di garage...), ovvero che ci siano di frequente grossi interessi in ballo fin dall'inizio, ma -- di nuovo -- c'è l'interesse del venditore e quello del predatore, e non sono la medesima cosa. > > E tutto il mio discorso verteva sul fatto che il progresso tecnologico (sottinteso "positivo") può essere girato a vantaggio (predatorio) di qualcuno, e anzi che la cosa avviene praticamente sempre, anche quando la tecnologia nasce neutrale (cfr. l'esempio del bastone del vecchietto). > > > > 6. > >>> Io affermo soltanto: > > Internet è sin dalla sua ideazione un'arma, progettata per garantire l'esecuzione di un contrattacco nucleare durante la guerra fredda. > > Si è poi evoluta in un diverso tipo di arma, molto più offensiva. > > > > Internet è nata (in ambito militare perché lì ci sono i soldi) per costruire una rete "resiliente" (che serve anche per i disastri naturali, oltre che per aspetti militari). E il web è nato con fini non militari (ed è il web che viene usato "male"; la rete di base è veramente neutra, ...salvo quando il venditore se ne approfitta). > > > > 7. > >>> Anche un coltello può essere progettato per essere usato esclusivamente a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. > > Può ad esempio essere progettato per spezzarsi se sottoposto ad una minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile per accoltellare chicchessia pur essendo ottimo per tagliare la carne lungo la lama. > > > > Se fai così, a parte il costo, poi non lo puoi usare per svitare una vite... Il coltello è uno strumento multiuso. > > > > 8. > >>> Per contro, un coltello militare può essere progettato per lacerare i tessuti, producendo codette interne per un più rapido dissanguamento del nemico. > > > > Qui niente da dire. MA SI VEDE: non c'è l'inganno predatorio di farti vedere il coltello da pasto, e poi tagliarti la gola. > > Sai perché i mancini erano così odiati, in passato? Perché ti salutavano con la destra, a mostrare che erano disarmati, e ti infilavano un pugnale in pancia usando la sinistra. > > Il punto non era portare il pugnale, era l'inganno di tenerlo con l'altra mano rispetto a quella che porgeva il saluto. > > > > 9. > >>> Dunque, anche se possiamo usare la nostra fantasia per immaginare un coltello veramente neutrale, ogni coltello reale facilita o impedisce determinati usi, avendo effetti politici concreti. > > > > Un coltello reale "permette" altri usi (e la cosa è positiva); e la malvagità non sta mai nel coltello, quando l'uso è malvagio. > > > > 10. > >>> I LLM NON sono neutrali. > > Per tornare alla questione sollevata dalla Professoressa Vallor, sebbene esistano molti usi potenzialmente utili per le tecniche di programmazione statistica adottate anche per realizzare le "AI generative" (di cui gli LLM di cui parliamo sono un esempio), queste tecnologie sono intrinsecamente e fondativamente politicamente orientate. > > Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti hanno come obiettivo minimo superare il test di Turing. > > > > Superare il test di Turing è un legittimo obiettivo scientifico. Però inganni più il sempliciotto che non altri (e, se al posto del termine "ingannare", usi "sembrare a", sappi che c'è un intero libro che spiega in dettaglio come costruire una macchina che "appaia" come cosciente, ...come se apparirlo fosse un valido risultato, il che ritengo non sia). > > > > 11. > >>> Il test di Turing consiste, temo urga ricordarlo anche qui, nell'ingannare uno o più esseri umani sulla natura della sorgente dei dati sottoposti, spingendo le vittime ad attribuirli erroneamente ad un essere umano. > > > > V. sopra. > > > > 12. > >>> I creatori di un LLM conversazionale vincono questo "imitation game" se persone ignare attribuiscono intelligenza al loro software, e questi software sono progettati e continuamente ottimizzati esattamente per questo obiettivo. > > > > I creatori di un LLM adottano per "l'intelligenza" una "scorciatoia statistica", ingannando per primi se stessi (parlo di scienza / tecnologia); POI, qualcuno trova interessante ingannare NON in termini scientifici, ma di altro genere. E si torna al punto di partenza. > > > > La scienza -- come conoscenza -- è sempre buona in sé (sapere di più è meglio di sapere di meno); peccato che sapere di più da parte di certa gente possa diventare un serio pericolo per altri. > > Si tratta di una problematica di fondo molto seria, ...ma non diamone la colpa al coltello. Se anche fosse un problema generale, ovvero se tutta la scienza / tecnologia nascondesse un pericolo (che di fatto nasconde, in presenza di predatori), di certo non potremmo spegnere i cervelli di quei pochi che ancora lo usano... > > > > 13. > >>> Obiettivo che è estremamente specifico: ingannare esseri umani affinché confondano la macchina con un altro essere umano. > > > > Tu ci vedi una malignità che io non ci vedo. DI CERTO, mi serve che forniscano un prodotto simile a quello di un umano (e per i sempliciotti è così), perché altrimenti funzionerebbe come le vecchie traduzioni automatiche, che dovevi rieditare perché grossolane. > > > > 14. > >>> Per questa semplice ragione, le "AI generative" (e gli LLM di cui parliamo in particolare) possono essere usate SOLO per ingannare esseri umani. > > > > Se scrivi "sembrare a" gli togli quell'aura di malignità che fa solo gioco al tuo discorso, senza essere vera in origine. > > > > 15. > >>> Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate a costo di miliardi di dollari ed enormi quantità di energia. > > > > C'è un grosso valore economico nell'ottenere risultati automatici (pensa a uno spreadsheet); in questo caso "l'inganno originario" sta nella natura del prodotto, ma se l'inganno sia benigno o maligno non viene da come è fatto il prodotto, ma per che cosa e come lo usi. > > > > 16. > >>> Prendiamo, di nuovo (...) il "riassuntino" che un LLM ha fatto del discorso della Professoressa Vallor. > > Omette completamente aspetti fondamentali della metafora che propone su cui la Professoressa si era giustamente soffermata a lungo (omissis). > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi dell'intervento". Ingannato sulla natura di quell'output, non prodotto da una mente intelligente che abbia compreso l'intervento, ha perpetuato l'inganno a sua volta sulla lista. > > > > Qui c'è da dire innanzitutto che l'inganno NON era affatto voluto. Ovvero che non stiamo parlando del problema "politico". Qui stiamo parlando ancora della "tecnica imperfetta" che non ha ingannato chi conosce il problema, e ha ingannato qualcun altro. ACCADE sempre, nel mondo del commercio. E qui, non è neanche un inganno per far male o danni, ma semplicemente un'imperfezione tecnica che qualcuno nota e qualcuno no. > > Ovvero,stai tirando il ragionamento per la giacchetta dove non c'entra ("inconferente", direbbero i legulei). > > Devi stare attento, con il linguaggio... (pensa che una tonnellata di filosofi ebeti hanno discusso per millenni di nulla / non-essere, dimenticando che la negazione appartiene solo ai linguaggi, e non all'ontologia -- "non gatto" ha senso insiemistica e tassonomia biologica, non nella realtà -- quando l'ambito del discorso era proprio ...l'ontologia). C'è ingannare e ingannare; da "sembrare a" a "fottere". E NON sono la stessa cosa... > > > > 17. > >>> Se fossimo su twitter, la chiameresti misinformazione. > > Se Guido fosse russo, la chiameresti disinformazione. > > Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad ingannare sé stesso sul tempo necessario a partecipare al dibattito in cui si inserisce il libro / intervento della Professoressa Vallor. > > > > A me sembra solo overlooking (e magari aveva ragione Guido -- de minimis non curat praetor -- se "l'inganno" era della Vallor che dimenticava il tema socio-predatorio per fare un bel discorsino tecnico; qui sono io che la butto in caciara, perché non ho guardato il video). > > Ci sono discorsi importantissimi in letteratura, o in seghine mentali scientifiche, che poi all'atto pratico contano ben poco. > > > > 18. > >>> Ma tutti ricondurrebbero la responsabilità a Guido (vittima inconsapevole che arriva a difendere i propri carnefici) o, al massimo, al software che ha "sfortunatamente" prodotto l'output "errato". > > Dovremmo invece ricondurla a coloro che hanno programmato quel software per ingannare Guido sulla sua abilità di comprendere un testo e produrne una "sintesi". > > > > V. sopra. Stai facendo di un termitaio una piramide egizia. > > > > 19. > >>> Sia che ciò avvenga per ragioni economiche o politiche (che poi... anche l'economia è politica...). > > > > Economia e politica, nel discorso che facevo io (predazione / sfruttamento / manipolazione) sono la stessa faccia della stessa medaglia (l'altra faccia essendo la scienza / tecnologia). > > La distinzione fondamentale fra "strumento" e "uso" (che solo in casi specifici -- bomba atomica -- coincidono; poi, anche per la bomba c'è stato l'utilizzo "deterrente" per evitare di usarla, che è un po' l'esempio duale di quanto sostengo). > > > > 20. > >>> Più in generale, una tecnologia progettata e realizzate per ingannare le persone può essere utilizzata solo per ingannare persone. > > > > V. il discorso sulla parola "ingannare". Non fare sillogismi sul "non-essere", senza pensare alle alternative semantiche in campo (alcune e diverse per "ingannare", solo semantica nulla per il il non-essere). > > > > 21. > >>> E' letteralmente un'arma. > > > > Fai gli stessi sillogismi di certa gente sui social: o sbagliano le premesse, o sbagliano le inferenze, o trascurano le semantiche. Tutto hai fatto (in modo veniale); tutti e tre gli errori; ma c'è gente (cfr. i filosofi ebeti di cui sopra) che gli errori li fa ...monumentali. > > Qualche volta c'è solo un "errore" (V. Guido), non un "inganno". E magari è stato meglio il suo errore che non l'inzuccarsi tanto sul discorso della Vallor. > > > > 22. > >>> Il fatto che persone lontanissime dall'idea di rivolgere un'arma controllata da terzi contro sé stessi, la puntino quotidianamente alla propria testa, dovrebbe rendere evidente la sua potenza e pericolosità. > > > > Out of the blue ...cosa? > > Che ci sono imbecilli che credono alla generatività statistica? > > C'è gente che ha creduto alle .com, ai subprime, prima ancora ai tulipani, ancor oggi ai bitcoin. > > Gente che ha votato Trump o Meloni (per altri, gente che ha votato Conte e Di Maio). Ha sempre e soltanto ragione Cipolla: è lo stupido il principale problema... > > > > 23. > >>> Inoltre, paragonare tecnologie semplici come un coltello o un martello ad un LLM è sbagliato anche per il semplice fatto che costo e complessità realizzativa determinano una barriera all'ingresso tale da determinare intrinsecamente un orientamento politico: solo un élite molto ricca può permettersi di provare a costruirli, e lo farà solo se vi intravede un'utilità per sé nettamente superiore ai rischi. > > > > Qui entriamo nel discorso -- socio-economico-politico prima ancora di cominciare -- della ricchezza usata per incrementare ricchezza. Io, nel merito, distingui i ricchi onesti dai ricchi ladri. E mi preoccupo più della distinzione fra onesto e ladro, che non di quella fra ricco e povero. > > L'occasione (ricchezza) fa l'uomo ladro, ma non si tratta di un'identità (ovvero, finiscila con i proclami vetero-socialisti). > > > > 24. > >>> Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. > > > > E, per le mie risposte, ritengo che tu abbia distorto in vari modi i termini del tema "inganno" (che ha semantica, e anche origine, varia), quando poi in realtà il discorso verteva su predazione / sfruttamento / manipolazione, dove alla fin fine al predatore va bene qualunque strumento, per perseguire i suoi scopi (zucchine, denaro, coltelli, bombe, ...). > > > > 25. > >>> Sono d'accordo che gli intenti "predatori" di molti esseri umani sono socialmente dannosi e vadano contenuti. > > > > Ma va...? > > > > 26. > >>> E sono anche d'accordo che tali intenti siano alla base di molti dei problemi di cui discutiamo speso in questa lista. > > > > Nulla da eccepire. > > > > 27. > >>> Tanto d'accordo che ho provato a spiegarti COME tali intenti siano fondativi e costituenti degli LLM, così come di molte altre armi. > > > > E qui si torna a sopra. > > > > 28. > >>> La tecnologia, spero di averti mostrato, è sempre una espressione umana politicamente orientata, intrinsecamente, ancora prima che venga effettivamente utilizzata. > > > > Prova a spiegarlo a chi (Edward Jenner) ha inventato il vaccino, ...quanto deve essersi rivoltato nella tomba, con il Covid!! > > > > 29. > >>> Gli LLM conversazionali esistono per ingannare le menti, esattamente come le mine antiuomo esistono per uccidere e mutilare i corpi. > > > > V. sopra, again. > > > > 30. > >>> Non possono essere usate per niente altro. > > > > Io ho trovato utilissimo chatGPT per contestare un'affermazione demente, tanto quanto l'ho trovato ondivago su altri temi, scolastico in altri, ...creativo mai. > > E' uno strumento, e lo usi come più conviene (io mi sono rifiutato di progettare mine antiuomo, dove l'obiettivo era chiaro e senza alternative); se poi sei uno stronzo (tu generico, ovviamente), ecco che le cose girano al male. > > > > 31. > >>> E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che molte persone (anche colte e intelligenti) finiscono per credersi e dichiararsi poco diverse da questi software. > > > > Non solo la madre dei fessi è sempre incinta, ma anche quella dei superficiali, dei troppo semplici (anche se di essi è il regno dei cieli), dei disattenti (io ho il problema opposto: troppa gente parla come se fosse un ripetitore statistico...). > > > > 32. > >>> Allo stesso modo possiamo creare software emancipatori e socialmente utili. Io ci provo da tempo sebbene sia una lotta impari. > > > > Il problema è sempre il vecchio "panem et circenses" (oppure la miopia manageriale): io ho provato a liberare la democrazia soffocata da mille interferenze di questi tempi, tramite uno strumento tecnico, ma la gente non ama alzare il deretano dalla sedia e rimboccarsi le maniche per diventare libera (e lo scriveva Tocqueville già parecchi decenni fa); preferisce godere del poco che ha; non ha la "fame" di chi non ha nulla, e lotta. > > > > 33. > >>> Spero vivamente di essere stato finalmente più chiaro (omissis) > > > > Non ti incazzare: ...sei stato solo verboso; se ti fossi messo in concreto di fronte a uno specchio :-) avresti visto che sai girare bene i discorsi (anche troppo), ma ti lasci ingannare dalle parole. > > > > Abbracci, > > A > > > > > > ----- Original Message ----- > From: Giacomo Tesio > To: nexa(a)server-nexa.polito.it > Sent: Wednesday, January 08, 2025 12:26 PM > Subject: Re: [nexa] In a mirror > > > Mi spiace Alfredo per averti dato l'impressione di volerla buttare in > caciara, ti assicuro che credevo le mie parole fossero chiare e persino > autoevidenti, ovvie... tanto da temere di annoiare la lista. > > Riproviamo. > > > A quanto ho capito del tuo ragionamento, tu fai due affermazioni > distinte, che ritieni entrambe vere: > > 1. La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. > 2. Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. > > Io ritengo entrambe le affermazioni false, ovvero non rispondenti alla > realtà. Permettimi di (ri)spiegarti il perché. > > > # La tecnologia nel suo complesso non è MAI neutrale > > La prima affermazione è facile da falsificare per costruzione: è > sufficiente elencare le diverse tecnologie progettate esplicitamente > per nuocere, dalla mina antiuomo alla bomba atomica. > > > Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", > dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate > (e tanto più quelle più complesse) sono politicamente orientate. > > > Internet è sin dalla sua ideazione un'arma, progettata per garantire > l'esecuzione di un controattacco nucleare durante la guerra fredda. > Si è poi evoluta in un diverso tipo di arma, molto più offensiva [1]. > > > Anche un coltello può essere progettato per essere usato esclusivamente > a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. > Può ad esempio essere progettato per spezzarsi se sottoposto ad una > minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile > per accoltellare chicchessia pur essendo ottimo per tagliare la carne > lungo la lama. > > Per contro, un coltello militare può essere progettato per lacerare i > tessuti, producendo codette interne per un più rapido dissanguamento > del nemico. > > Dunque, anche se possiamo usare la nostra fantasia per immaginare un > coltello veramente neutrale [2], ogni coltello _reale_ facilita o > impedisce determinati usi, avendo effetti politici concreti. > > > # I LLM NON sono neutrali. > > Per tornare alla questione sollevata dalla Professoressa Vallor, > sebbene esistano molti usi potenzialmente utili per le tecniche di > programmazione statistica adottate anche per realizzare le "AI > generative" (di cui gli LLM di cui parliamo sono un esempio), > queste tecnologie sono intrinsecamente e fondativamente > politicamente orientate. > > Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti > hanno come obiettivo minimo superare il test di Turing. > > Il test di Turing consiste, temo urga ricordarlo anche qui, > nell'ingannare uno o più esseri umani sulla natura della sorgente > dei dati sottoposti, spingendo le vittime ad attribuirli _erroneamente_ > ad un essere umano. > > I creatori di un LLM conversazionale vincono questo "imitation game" se > persone ignare attribuiscono intelligenza al loro software, e questi > software sono progettati e continuamente ottimizzati esattamente per > questo obiettivo. > > > Obiettivo che è estremamente specifico: ingannare esseri umani affinché > confondano la macchina con un altro essere umano. > > > Per questa semplice ragione, le "AI generative" (e gli LLM di cui > parliamo in particolare) possono essere usate SOLO per ingannare > esseri umani. > > Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate > a costo di miliardi di dollari ed enormi quantità di energia. > > > > Prendiamo, di nuovo (mi scuserà Guido, ma è veramente un fantastico > esempio di pessimo uso di un LLM che può apparire ragionevole all'utente > ignorante ormai succube della propaganda), il "riassuntino" che un LLM > ha fatto del discorso della Professoressa Vallor. [3] > > Omette completamente aspetti fondamentali della metafora che propone su > cui la Professoressa si era giustamente soffermata a lungo, riducendola > ad affermazione ovvia, quanto trita e ritrita, sulle AI che amplificano > e distorcono i dati umani da cui derivano. > > La Professoressa ha detto altro! > > Ha usato una metafora abbastanza attinente da un punto di vista tecnico > per spiegare _come_ e _perché_ i software programmati statisticamente > elaborano i dati in input e quelli sorgente compressi al proprio > interno. > > E questa è solo una delle omissioni e banalizzazioni che l'output del > LLM ha effettuato. Non ultima (guarda caso) l'omessa esclusione delle > "AI generative" dalle tecnologie che potrebbero essere impiegate > in modo socialmente utile. > > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi > dell'intervento". Ingannato sulla natura di quell'output, non prodotto > da una mente intelligente che abbia compreso l'intervento, ha > perpetuato l'inganno a sua volta sulla lista. > > Se fossimo su twitter, la chiameresti misinformazione. > Se Guido fosse russo, la chiameresti disinformazione. :-D > > Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad > ingannare sé stesso sul tempo necessario a partecipare al dibattito in > cui si inserisce il libro / intervento della Professoressa Vallor [4]. > > Ma tutti ricondurrebbero la responsabilità a Guido (vittima > inconsapevole che arriva a difendere i propri carnefici [5]) o, al > massimo, al software che ha "sfortunatamente" prodotto l'output > "errato". > Dovremmo invece ricondurla a coloro che hanno programmato quel software > per ingannare Guido sulla sua abilità di comprendere un testo e > produrne una "sintesi". > > Sia che ciò avvenga per ragioni economiche o politiche. > (che poi... anche l'economia è politica...) > > > > Più in generale, una tecnologia progettata e realizzate per ingannare > le persone può essere utilizzata _solo_ per ingannare persone. > > E' letteralmente un'arma. > > > Il fatto che persone lontanissime dall'idea di rivolgere un'arma > controllata da terzi contro sé stessi, la puntino quotidianamente > alla propria testa, dovrebbe rendere evidente la sua potenza e > pericolosità. > > > Inoltre, paragonare tecnologie semplici come un coltello o un > martello ad un LLM è sbagliato anche per il semplice fatto che costo e > complessità realizzativa determinano una barriera all'ingresso tale > da determinare intrinsecamente un orientamento politico: solo un élite > molto ricca può permettersi di provare a costruirli, e lo farà solo > se vi intravede un'utilità per sé nettamente superiore ai rischi. > > > > Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. > > > Sono d'accordo che gli intenti "predatori" di molti esseri umani sono > socialmente dannosi e vadano contenuti. > > E sono anche d'accordo che tali intenti siano alla base di molti > dei problemi di cui discutiamo speso in questa lista. > > > Tanto d'accordo che ho provato a spiegarti COME tali intenti siano > fondativi e costituenti degli LLM, così come di molte altre armi. > > > La tecnologia, spero di averti mostrato, è _sempre_ una espressione > umana politicamente orientata, intrinsecamente, ancora prima > che venga effettivamente utilizzata. > > > Gli LLM conversazionali esistono per ingannare le menti, esattamente > come le mine antiuomo esistono per uccidere e mutilare i corpi. > > Non possono essere usate per niente altro. > > > E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che > molte persone (anche colte e intelligenti) finiscono per credersi > e dichiararsi poco diverse da questi software. > > > > Allo stesso modo possiamo creare software emancipatori e socialmente > utili. Io ci provo da tempo [6] sebbene sia una lotta impari. > > > Spero vivamente di essere stato finalmente più chiaro (di certo > Maurizio, non sono stato conciso :-D), ma nel caso aveste ulteriori > dubbi, forse potremmo continuare in privato per non tediare la lista. > > > Giacomo > > [1] > https://encrypted.tesio.it/2018/07/31/the-web-is-still-a-darpa-weapon.html > i sono stati (e vi sono) diversi tentativi di rimuoverne (o > mitigarne) gli aspetti offensivi e militari, ma sono troppo deboli. > > Si potrebbe dire che, di fatto, è come se stessimo conversando > amabilmente in una piazza cosparsa di mine antiuomo, sforzandoci di > non guardarle, di ignorare chi le indica e persino di arrestare chi > prova a rimuoverle. > > [2] Ah se esistessero coltelli da cucina VERAMENTE NEUTRALI! > Coltelli da cucina automaticamente impegnati a mantenere > l'equilibrio fra bene e male! Quanti miliardari in meno! :-D > https://assortedmeeples.com/true-neutral-dnd-alignment-guide > > [3] Per chi volesse rileggerlo: > https://server-nexa.polito.it/pipermail/nexa/2025-January/053758.html > > [4] come, in fondo, ha delicatamente provato a fargli notare Alberto > https://server-nexa.polito.it/pipermail/nexa/2025-January/053759.html > > [5] "Ebbene: un riassunto-traduzione come quello che ChatGPT ha fatto > del transcript della Prof. Vallor qualche anno fa ce lo sognavamo, > credimi." > https://server-nexa.polito.it/pipermail/nexa/2025-January/053770.html > > NOTE to SELF: "approfondire cosa bevessero/mangiassero prima di > andare a dormire, che nemmeno l'impepata di cozze..." :-D > > [6] https://jehanne.h--k.it/ > https://monitora-pa.it/ > https://code.tesio.it/p/self-hosting/doh.cgi/file?name=POLITICS.txt&ci=tip > https://monitora-pa.it/LICENSE.txt

3 3

Nuovo articolo "The computerization of the world and international cooperation"
by Nexa - Media Jan. 10, 2025

Jan. 10, 2025

Gentilissime, gentilissimi, Vi segnaliamo la pubblicazione di un nuovo articolo dal titolo "The computerization of the world and international cooperation", a cura del co-direttore del Centro Nexa Juan Carlos De Martin. L'articolo è consultabile al seguente link: https://nexa.polito.it/the-computerization-of-the-world-and-international-c… Vi ringraziamo per l'attenzione, Un saluto cordiale, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

2 1

Meta: more (free) speech and fewer mistakes (it's time to get back to our roots around free expression).
by 380° Jan. 9, 2025

Jan. 9, 2025

Buongiorno, la notizia epocale non sarà sfuggita a nessuno iscritto a questa lista, ma non si sa mai (e comunque merita di essere archiviata per benino). Già l'oggetto di questa email (titolo comunicato Meta e frase di apertura di è Zuckerberg) è TANTA ROBA™ e potrebbe bastare, tuttavia suggerisco di prendersi il giusto tempo per leggere /attentamente/ quanto DICHIARATO da Meta, oltre ad ascoltare /attentamente/ (o leggere i sottotitoli) quanto DICHIARATO da Zuckerberg. In 5+5 minuti c'è la sintesi della storia degli ultimi 20 anni di censura via social network; è un po' confessione, un po' whistleblowing (eravamo costretti) e un po' chiedere umilmente scusa. https://about.fb.com/news/2025/01/meta-more-speech-fewer-mistakes/ «More Speech and Fewer Mistakes» January 7, 2025 Joel Kaplan, Chief Global Affairs Officer --8<---------------cut here---------------start------------->8--- [Mark Zuckerberg video message] <box> Takeaways ───────── • Starting in the US, we are ending our third party fact-checking program and moving to a Community Notes model. • We will allow more speech by lifting restrictions on some topics that are part of mainstream discourse and focusing our enforcement on illegal and high-severity violations. • We will take a more personalized approach to political content, so that people who want to see more of it in their feeds can. </box> Meta's platforms are built to be places where people can express themselves freely. That can be messy. On platforms where billions of people can have a voice, all the good, bad and ugly is on display. But that's free expression. In his 2019 speech at Georgetown University, Mark Zuckerberg argued that free expression has been the driving force behind progress in American society and around the world and that inhibiting speech, however well-intentioned the reasons for doing so, often reinforces existing institutions and power structures instead of empowering people. He said: “Some people believe giving more people a voice is driving division rather than bringing us together. More people across the spectrum believe that achieving the political outcomes they think matter is more important than every person having a voice. I think that's dangerous.” In recent years we've developed increasingly complex systems to manage content across our platforms, partly in response to societal and political pressure to moderate content. This approach has gone too far. As well-intentioned as many of these efforts have been, they have expanded over time to the point where we are making too many mistakes, frustrating our users and too often getting in the way of the free expression we set out to enable. Too much harmless content gets censored, too many people find themselves wrongly locked up in “Facebook jail,” and we are often too slow to respond when they do. We want to fix that and return to that fundamental commitment to free expression. Today, we're making some changes to stay true to that ideal. Ending Third Party Fact Checking Program, Moving to Community Notes ──────────────────────────────────────────────────────────────────── When we launched our independent fact checking program in 2016, we were very clear that we didn't want to be the arbiters of truth. We made what we thought was the best and most reasonable choice at the time, which was to hand that responsibility over to independent fact checking organizations. The intention of the program was to have these independent experts give people more information about the things they see online, particularly viral hoaxes, so they were able to judge for themselves what they saw and read. That's not the way things played out, especially in the United States. Experts, like everyone else, have their own biases and perspectives. This showed up in the choices some made about what to fact check and how. Over time we ended up with too much content being fact checked that people would understand to be legitimate political speech and debate. Our system then attached real consequences in the form of intrusive labels and reduced distribution. A program intended to inform too often became a tool to censor. We are now changing this approach. We will end the current third party fact checking program in the United States and instead begin moving to a Community Notes program. We've seen this approach work on X – where they empower their community to decide when posts are potentially misleading and need more context, and people across a diverse range of perspectives decide what sort of context is helpful for other users to see. We think this could be a better way of achieving our original intention of providing people with information about what they're seeing – and one that's less prone to bias. • Once the program is up and running, Meta won't write Community Notes or decide which ones show up. They are written and rated by contributing users. • Just like they do on X, Community Notes will require agreement between people with a range of perspectives to help prevent biased ratings. • We intend to be transparent about how different viewpoints inform the Notes displayed in our apps, and are working on the right way to share this information. • People can sign up today ( [Facebook] , [Instagram] , [Threads] ) for the opportunity to be among the first contributors to this program as it becomes available. We plan to phase in Community Notes in the US first over the next couple of months, and will continue to improve it over the course of the year. As we make the transition, we will get rid of our fact-checking control, stop demoting fact checked content and, instead of overlaying full screen interstitial warnings you have to click through before you can even see the post, we will use a much less obtrusive label indicating that there is additional information for those who want to see it. Allowing More Speech ───────────────────── Over time, we have developed complex systems to manage content on our platforms, which are increasingly complicated for us to enforce. As a result, we have been over-enforcing our rules, limiting legitimate political debate and censoring too much trivial content and subjecting too many people to frustrating enforcement actions. For example, in December 2024, we removed millions of pieces of content every day. While these actions account for less than 1% of content produced every day, we think one to two out of every 10 of these actions may have been mistakes (i.e., the content may not have actually violated our policies). This does not account for actions we take to tackle large-scale adversarial spam attacks. We plan to expand our transparency reporting to share numbers on our mistakes on a regular basis so that people can track our progress. As part of that we'll also include more details on the mistakes we make when enforcing our spam policies. We want to undo the mission creep that has made our rules too restrictive and too prone to over-enforcement. We're getting rid of a number of restrictions on topics like immigration, gender identity and gender that are the subject of frequent political discourse and debate. It's not right that things can be said on TV or the floor of Congress, but not on our platforms. These policy changes may take a few weeks to be fully implemented. We're also going to change how we enforce our policies to reduce the kind of mistakes that account for the vast majority of the censorship on our platforms. Up until now, we have been using automated systems to scan for all policy violations, but this has resulted in too many mistakes and too much content being censored that shouldn't have been. So, we're going to continue to focus these systems on tackling illegal and high-severity violations, like terrorism, child sexual exploitation, drugs, fraud and scams. For less severe policy violations, we're going to rely on someone reporting an issue before we take any action. We also demote too much content that our systems predict might violate our standards. We are in the process of getting rid of most of these demotions and requiring greater confidence that the content violates for the rest. And we're going to tune our systems to require a much higher degree of confidence before a piece of content is taken down. As part of these changes, we will be moving the trust and safety teams that write our content policies and review content out of California to Texas and other US locations. People are often given the chance to appeal our enforcement decisions and ask us to take another look, but the process can be frustratingly slow and doesn't always get to the right outcome. We've added extra staff to this work and in more cases, we are also now requiring multiple reviewers to reach a determination in order to take something down. We are working on ways to make recovering accounts more straightforward and testing facial recognition technology, and we've started using AI large language models (LLMs) to provide a second opinion on some content before we take enforcement actions. A Personalized Approach to Political Content ───────────────────────────────────────────── Since 2021, we've made changes to reduce the amount of civic content people see – posts about elections, politics or social issues – based on the feedback our users gave us that they wanted to see less of this content. But this was a pretty blunt approach. We are going to start phasing this back into Facebook, Instagram and Threads with a more personalized approach so that people who want to see more political content in their feeds can. We're continually testing how we deliver personalized experiences and have recently conducted testing around civic content. As a result, we're going to start treating civic content from people and Pages you follow on Facebook more like any other content in your feed, and we will start ranking and showing you that content based on explicit signals (for example, liking a piece of content) and implicit signals (like viewing posts) that help us predict what's meaningful to people. We are also going to recommend more political content based on these personalized signals and are expanding the options people have to control how much of this content they see. These changes are an attempt to return to the commitment to free expression that Mark Zuckerberg set out in his Georgetown speech. That means being vigilant about the impact our policies and systems are having on people's ability to make their voices heard, and having the humility to change our approach when we know we're getting things wrong. [Mark Zuckerberg video message] <https://about.fb.com/wp-content/uploads/2025/01/V2.Single-Take-CS25_MZ_JanA…> [Facebook] <https://www.facebook.com/help/contact/1914298425761977> [Instagram] <https://help.instagram.com/contact/1223551615403090> [Threads] <https://help.instagram.com/contact/1638078013752611> --8<---------------cut here---------------end--------------->8--- ...mumble mumble. E adesso Diamogli Addosso™ anche al miliardario Mark Zuckerberg che non ha perso nemmeno un minuto ed è saltato subito sul carro del vincitore, trasformandosi in una brutta copia di Elon Musk, pur di non perdere i suoi privilegi... Saluti, 380° P.S.: tra tutto quello che hanno dichiarato, la cosa che personalmente trovo gustosamente curiosa è il trasloco della sede dei "trust and safety teams" dalla California al Texas... perbacco sta /copiando/ Musk proprio in tutto, non solo sulle "community notes" :-O -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

4 6

da Timnit Gebru
by J.C. DE MARTIN Jan. 9, 2025

Jan. 9, 2025

*Timnit Gebru* (da LinkedIn): We're hoping to organize a hopeful virtual event to get us to think about our possible technological futures, and have a creative workshop. Maybe in the spring. Stay tuned. In the mean time, read our Possible Futures Series. If you have thoughts on what you'd like to see from the event, comment below. 1. Nobody Owns Our Techno-Future: https://lnkd.in/eM62Gknh 2. A Bus Model For Global, Human-Centered Education: https://lnkd.in/epXMiuNB 3. An Internet for Our Elders: https://lnkd.in/eK2Z__eC 4. Closure for Families of the Missing: https://lnkd.in/e_GErxQZ 5. Decentralized, Locally-Tailored Technology: https://lnkd.in/eDdef9ts

1 0