- nexa - server-nexa.polito.it

Papa Francesco al corpo diplomatico
by don Luca Peyron Jan. 13, 2025

Jan. 13, 2025

Alcuni passaggi mi paiono parecchio interessanti, ad esempio in tema di educazione. https://www.vatican.va/content/francesco/it/speeches/2025/january/documents… Buona lettura dl _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

1 0

Re: [nexa] Intervista ad Andrea Cerroni
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

Non ho capito cosa c’entri l’AI col progetto Cybersyn del governo Allende. È vero che ormai se non si cita l’AI non si è à la page, ma forse si esagera. Oltretutto mi pare che le ricostruzioni sociologiche a posteriori lascino il tempo che trovano e cadono in inesattezze. Per esempio la Operation Room di cui si mostra una foto, non è mai stata realizzata, era solo un progetto futuro. Ho conosciuto di persona Fernando Flores e l’ho invitato a Pisa negli anni ‘90 a raccontare il suo modello di organizzazione aziendale, basato sulla teoria degli Speech Act. Flores aveva collaborato con Terry Winograd, uno dei pionieri dell’AI linguistica. Dopo la caduta di Allende si era trasferito in California dove aveva fondato una società che forniva consulenze aziendali sfruttando il suo modello. Ma non esisteva al tempo una tecnologia di AI che potesse essere usata in pratica. Cybersyn era infatti sostanzialmente un sistema distribuito (o meglio centralmente interconnesso) di controllo e gestione della produzione, basato su tecniche di Ricerca Operativa. Straordinario ed entusiasmante a quel tempo, specialmente perché fatto tutto in casa con l’obiettivo di mantenere un controllo pubblico della produzione. — > On 13 Jan 2025, at 09:28, nexa-request(a)server-nexa.polito.it wrote: > > Subject: [nexa] Intervista ad Andrea Cerroni > Message-ID: <9c60f2d5-f175-4227-be9e-3f95fcc5610b(a)polito.it> > Content-Type: text/plain; charset=UTF-8; format=flowed > > Segnalo questa intervista al Prof. Andrea Cerroni, recentemente ospite > del Centro Nexa: > > "CILE 1973: IL GOLPE DELL’ INTELLIGENZA ARTIFICIALE. INTERVISTA AL PROF. > ANDREA CERRONI" > https://giubberossenews.it/2025/01/07/cile-1973-il-golpe-dell-intelligenza-…. > > jc >

1 0

Re: [nexa] In a mirror
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

4 4

119° Nexa Lunch Seminar | 22 gennaio 2025, ore 13.00
by Nexa - Media Jan. 13, 2025

Jan. 13, 2025

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 119° Nexa Lunch Seminar che si terrà mercoledì 22 gennaio, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: "Beyond the Machine: The Cultural Implications of Artificial Intelligence". Ospite dell'incontro: Octavio Kulesz (UNESCO Expert). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-119 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

1 0

Re: [nexa] In a mirror
by Giuseppe Attardi Jan. 13, 2025

Jan. 13, 2025

Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. — > On 9 Jan 2025, at 18:56, nexa-request(a)server-nexa.polito.it wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it, Giuseppe Attardi <attardi(a)di.unipi.it> > Subject: Re: [nexa] In a mirror > Message-ID: <FDED4EB6-B488-4E8E-8AF7-2B0FEB9ADFE4(a)tesio.it> > Content-Type: text/plain; charset=UTF-8 > > Ciao Giuseppe, > > speravo davvero che intervenissi! :-) > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: >> >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante >> possibili applicazioni. > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > La distinzione fra chatbot e LLM rimane informaticamente valida in > generale, ma non credo fosse rilevante per il dibattito perché né > chatbot né LLM esprimono alcuna forma di intelligenza. > >> Gran parte delle critiche riguardano appunto i chatbot >> (allucinazioni, superficialità, ecc.). > > Perché costituiscono la base della narrazione allucinata che domina > il dibattito informatico attuale, determinando scelte politiche, > economiche ed educative altrettanto allucinate. > > >> I LM sono decisamente una tecnologia neutra > > Solo nel mondo della fantasia, Giuseppe. > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > culturalmente e storicamente situati. > > Già solo per questo semplice fatto, nessun LLM reale può essere > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > accolto Minerva l'anno scorso. [1] > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > scartare. > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > producono output "politicamente corretto", quale che siano gli > obiettivi politici dei programmatori, dal legittimare il proprio > software agli occhi dei moralisti statunitensi, difendere il proprio > modello di business o cancellare piazza Tiananmen dalla storia [2] > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > siano in alcun modo "neutrali". > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > politicamente (e lo è), lo sono tutti gli LLM reali. >

2 1

computerizzazione, cooperazione internazionale, alfabetizzazione
by alessandro marzocchi Jan. 12, 2025

Jan. 12, 2025

Molti ritengono che la cd IA non è paragonabile a noi, soprattutto perché si basa sulla "statistica". L’opinione è diffusa e probabilmente prevalente per cui, almeno “ statisticamente”, sto dalla parte sbagliata ma credo che sia la mancanza di corporeità, non la statistica, a rendere difficile il paragone fra macchine e noi, credo che anche la nostra intelligenza si sia formata e si formi grazie ad esperienza “statistica”. Taccio sull’energia richiesta dalle macchine, argomento qui fuori tema anche se rimane un difetto enorme. Di massima condivido le opinioni di Juan Carlos, al quale segnalo che è la parola, non il digitale, la prima “macchina” - intesa come artefatto / codice verbale / non in natura – che noi genere umano abbiamo usato per potenziare le nostre società ed anche per “denominare” la realtà, raccontarla, memorizzarla, tramandarla, in queste ultime funzioni ricordo Fedro, Platone, le cui considerazioni sono attualissime e che Guido ha ultimamente riproposto. Siamo tutti colonie digitali, anche gli oltre 340 milioni di statunitensi che non appartengono alla cerchia dei nuovi conquistadores, non basta favorire sviluppo ed autonomia digitale di ogni stato ma è ugualmente necessario dedicarsi ad alfabetizzazione, educazione digitali da diffondere analogamente a come si fa con la parola e le lingue naturali, l’analfabetismo digitale è la precondizione necessaria per renderci merce, i nuovi schiavi. Cordialmente. Duccio (Alessandro Marzocchi)

2 1

Re: [nexa] nexa] Arun, "Transnational AI and Corporate Imperialism"
by Giuseppe Attardi Jan. 12, 2025

Jan. 12, 2025

Sono d’accordo sulle premesse sull’imperialismo e sul capitalismo digitale. Non capisco molto invece altre affermazioni e le conclusioni. Non mi pare il caso di assimilare l’attività di annotazione di dati degli africani ad altre pratiche dannose come l’esportazione di pesticidi: "The exploitation of cognitive labor is characteristic of informational capitalism but derives from, and is co-extensive with, industrial capitalism’s systems for labor exploitation…. Consider product liability laws in the United States, which emerged from mass torts or from regulators: products like banned pesticides that cannot be sold or used in the United States are exported to other markets… Informational capitalism is currently governed by a similarly permissive legal order—if the United States and EU regulate to protect their populations, harmful AI products will continue to be developed and inflicted on the people of other states.” Quali siano questi cosiddetti “harmful AI products” non mi è chiaro. La digitalizzazione offre invece delle opportunità ai paesi emergenti: un recente incontro di ISOC Society sul tema A Billion More People will Transform the the Internet” (https://youtu.be/_Cog9HRBZlY) illustrava gli esempi di nuovi lavori che vengono svolti in Nigeria, da persone con buone competenze informatiche, che lavorano per aziende occidentali. L’esperienza porta costoro a imparare come impiantare nuove aziende locali, con diversi esempi di giovani che costruiscono servizi di connettività locale e di una start-up che offre la gestione dele cartelle sanitarie ad ospedali che curano oltre 300 mila pazienti. Poi si aggiungono critiche su dati obsoleti, che è una questione a sua volta obsoleta. Conclusioni: To avoid future problems, the discourse about AI regulation needs to expand its currently myopic view of risk and who is at risk to cover the labor harms as well as data and algorithmic injustices that will certainly result from global AI systems. Mah, “certainly result” mi pare un’affermazione eccessiva. Nessuno sa come sarà il futuro. — Beppe > On 26 Nov 2024, at 20:05, nexa-request(a)server-nexa.polito.it wrote: > > From: "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it <mailto:juancarlos.demartin@polito.it>> > To: Nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: [nexa] Arun, "Transnational AI and Corporate Imperialism" > Message-ID: <8f87f003-c928-4709-bab6-cfd14af1c01c(a)polito.it <mailto:8f87f003-c928-4709-bab6-cfd14af1c01c@polito.it>> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > *Transnational AI and Corporate Imperialism* > > // > > /Chinmayi Arun/ > > *Introduction* > > ** > > When I first had coffee with Facebook’s head of public policy in India, > she was using a shared workspace. Before joining Facebook, she had led > the policy practice of one of India’s most powerful law firms and was on > friendly terms with judges, ministers, and other influential people. It > was surprising to find her in a small office in a shared workspace, with > just one administrative assistant for support. In a couple of years, she > moved to a suite with a beautiful view in one of Delhi’s finest luxury > hotels, acquired an expanding team of seasoned lawyers and policy > professionals. Within five years, the public policy team had grown to be > so large that it had its own plush office in the heart of Delhi. This > expansion of influence within Delhi mirrored the expansion of Meta’s > (previously Facebook) influence in India. If it was difficult to be in > an Indian city without relying heavily on Big Tech’s products, it was > impossible to work on technology policy in Delhi without being swept > into currents of change created by Big Tech.^1 > > People across the world are grappling with a few global technology > companies ’ domination of their public spheres and increasingly of other > spheres of social, economic, and political engagement. In her essay on > the “algorithmic colonization of Africa,” Abeba Birhane pointed out that > most of Africa’s digital infrastructure is owned and controlled by major > Western technology companies, and she further questioned how relevant > artificial intelligence (AI) tools from the West are in other contexts.^2 > > > [...] > > continua qui: > https://carnegieendowment.org/research/2024/10/transnational-ai-and-corpora… > <https://carnegieendowment.org/research/2024/10/transnational-ai-and-corpora…>

2 2

Zuckerberg ha approvato l'uso di libri "piratati" per addestrare l'LLM
by Antonio Jan. 11, 2025

Jan. 11, 2025

Mark Zuckerberg, approved Meta's use of the LibGen dataset notwithstanding concerns within Meta's AI executive team (and others at Meta) that LibGen is "a dataset we know to be pirated" Documento n.377 nella causa 3:23-cv-03417-VC Kadrey v. Meta Platforms https://regmedia.co.uk/2025/01/10/pacer_kadrey_vs_meta_1.pdf A.

1 0

GDPR: Tracciamenti (2024).
by 380° Jan. 11, 2025

Jan. 11, 2025

Buongiorno, leggo solo oggi, non mi pare sia stata già segnalata in lista: https://www.premiorobertomorrione.it/inchieste/tracciamenti-2024/ di Edoardo Anziano, Francesca Cicculli, Roberta Lancellotti tutor Goffredo De Pascale --8<---------------cut here---------------start------------->8--- Inchiesta finalista del Premio Morrione 2024 Trascorriamo sempre più tempo online e ci affidiamo al web anche per la cura della salute mentale. Oggi le piattaforme di telepsicologia contano centinaia di migliaia di utenti e fatturano milioni di euro. Ma qual è il segreto del loro successo? Tracciamenti s vela l’uso spregiudicato che le aziende di psicologia online fanno del marketing digitale, monitorando le attività dei pazienti perfino durante la seduta di terapia. --8<---------------cut here---------------end--------------->8--- Video inchiesta disponibile su Raiplay: https://www.raiplay.it/video/2024/11/Premio-Morrione---Tracciamenti-8ccfa66… Così ne parla oggi "Il Fatto Quotidiano": «“Le piattaforme di psicologia online spiano i propri utenti”: l’inchiesta “Tracciamenti” finalista al premio Morrione» https://www.ilfattoquotidiano.it/2025/01/11/le-piattaforme-di-psicologia-on… --8<---------------cut here---------------start------------->8--- L'inchiesta ha dimostrato che le aziende di telepsicologia monitorano le attività dei pazienti, raccogliendo dati per scopi pubblicitari Le piattaforme di psicologia online spiano i propri utenti mentre fanno le sedute di terapia. Questa scoperta emerge dall’inchiesta “Tracciamenti”, una delle quattro finaliste del Premio di giornalismo investigativo Roberto Morrione 2024, realizzata da Francesca Cicculli, Edoardo Anziano e Roberta Lancellotti. I giornalisti, tramite l’uso di strumenti di analisi, hanno dimostrato che le aziende di telepsicologia monitorano continuamente le attività dei pazienti, raccogliendo dati sensibili per scopi pubblicitari. L’inchiesta ha fatto emergere che piattaforme come Serenis e Unobravo non solo tracciano le informazioni dei pazienti durante la compilazione dei questionari iniziali, ma continuano a raccogliere dati durante le sessioni di terapia. Il tutto avviene attraverso l’uso di cookie di terze parti, strumenti che, come spiega Claudio Agosti di Hermes Centre, assegnano un codice identificatore unico agli utenti, rendendo possibile la creazione di profili dettagliati. Ma cosa accade con questi dati? Stefano Rossetti, avvocato del gruppo NYOB, descrive nella videoinchiesta un sistema in cui le informazioni raccolte vengono processate da data broker, che le rivendono agli inserzionisti. Questo crea un rischio tangibile: “Un datore di lavoro che acquista questi dati potrebbe decidere di escludere candidati che frequentano siti di assistenza psicologica”, avverte Rossetti, sollevando delle preoccupazioni su una potenziale discriminazione basata su dati raccolti. Gli utenti, spesso ignari, accettano i termini di servizio senza leggere le lunghe informative sulla privacy. Il consenso, sottolinea Rossetti, è quindi di fatto “non informato”. Il problema, secondo Rossetti, non è il trattamento dei dati in sé, ma il loro utilizzo per fini commerciali non dichiarati. Danila De Stefano, CEO di Unobravo, ha difeso la propria azienda sostenendo che i dati raccolti sono anonimi. Ma Agosti, hacker etico di Hermes Centre, avverte che questi identificatori unici possono acquisire valore poiché utilizzati continuamente. Durante le sessioni di terapia le piattaforme trasmettono anche informazioni a colossi tecnologici come Facebook, Google, Microsoft, LinkedIn e TikTok. Edoardo Anziano, uno dei giornalisti dell’inchiesta, ha spiegato a Scomodo che la necessità di maggiore trasparenza e regolamentazione emerge come tema cruciale. L’auspicio è che anche gli stessi utenti oppure associazioni che si occupano di tutela della privacy dei consumatori “in massa possano iniziare delle proprie campagne per chiedere formalmente che questo tipo di tracciamento non venga effettuato nel caso in cui non sia strettamente necessario”, dice Anziano. --8<---------------cut here---------------end--------------->8--- Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

2 2

Re: [nexa] In a mirror
by Giuseppe Attardi Jan. 10, 2025

Jan. 10, 2025

Ho trovato interessante questo scambio dialettico. Devo dire che mi trovo d’accordo sulle risposte di Alfredo ed anche sulle critiche all’impostazione di alcuni dei ragionamenti di Giacomo, quando sembrano violare principi logici per trarre determinate conclusioni. Ci terrei solo a puntualizzare due cose: 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante possibili applicazioni. Gran parte delle critiche riguardano appunto i chatbot (allucinazioni, superficialità, ecc.). I LM sono decisamente una tecnologia neutra, non sono progettati per applicazioni specifiche e di per sé non hanno mai fatto male a nessuno, né possono farlo: la loro capacità si limita a predire la prossima parola di un testo. 2. Non è vero che i LLM sono stati concepiti per ingannare, in particolare per superare il Turing test, che si basa su ingannare quacuno di essere un umano. Il test di Turing è solo uno dei tanti disponibili per valutarne le prestazioni dei chatbot, in mancanza di meglio. È un test indiretto, assumendo che un chatbot sia migliore se usa un LLM migliore: il vero test dei LM sarebbe la perplexity, che però non è molto efficace. Anche se la confusione nel pubblico tra LLM e chatbot è diffusa, inviterei a usare il termine chatbot in una lista di persone più esperte come questa. — Beppe PS. Mentre per allenare gli LLM si usano miliardi di testi e risorse di calcolo cospicue, un chatbot si ottiene tipicamente con tecniche di Reinforcement Learning a partire da un LLM usando un dataset molto più ridotto. Il RL cerca di massimizzare la soddisfazione dell’interlocutore, piuttosto che l’accuratezza delle risposte. Questo ne spiega anche tecnicamente i limiti. Comunque la tecnologia dei chatbot sta facendo progressi continui rispetto al 2022, e questi limiti variano nel tempo. > On 8 Jan 2025, at 23:03, nexa-request(a)server-nexa.polito.it wrote: > > Subject: [nexa] ***SPAM*** Re: In a mirror > Message-ID: <292EB2C497454975AC47C9108A0C6626@Bregnip2> > Content-Type: text/plain; charset="utf-8" > > Ciao, Giacomo. > > > > Riproviamo: > > > > 1. > >>> La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. > > > > La tecnologia non è "una": > > - La tecnologia neutrale è neutrale, ecc., quindi sì; > > - La tecnologia "di guerra", ...ha già l'uso definito fin dal'inizio (e non c'è inganno). > > > > 2. > >>> Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. > > > > Non ritengo che siano "di guerra" (o, almeno, non concepiti come tali; correggimi se sbaglio), quindi sì. > > [Dal seguito, vedo che li consideri veramente pericolosi, ma ritengo che sia una percezione ...gonfiata.] > > > > 3. > >>> La tecnologia nel suo complesso non è MAI neutrale > > > > NON puoi dire che NON sia neutrale la tecnologia del bastone per il vecchietto, che può essere usato anche per malmenare il medesimo... > > Se fai l'esempio della mina antiuomo e della bomba atomica, parti da premessa di parte, e quindi sbagliata (si chiama ragionamento "circolare"; lo fanno ad es. i credenti). > > > > 4. > >>> La prima affermazione è facile da falsificare per costruzione: è sufficiente elencare le diverse tecnologie progettate esplicitamente per nuocere, dalla mina antiuomo alla bomba atomica. > > > > La tecnologia "di guerra" sappiamo che esiste; ma non puoi estendere l'affermazione a tutta la tecnologia. > > La locuzione "tecnologia nel suo complesso" è volutamente ingannevole (a cominciare da te stesso...), perché ti permette di fare l'esempio che conviene a te, deviando / deragliando dal discorso che si faceva. > > > > 5. > >>> Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate (e tanto più quelle più complesse) sono politicamente orientate. > > > > Posso essere d'accordo che le tecnologie più complesse non nascano nel giardino di casa (anche se ci sono esempi di garage...), ovvero che ci siano di frequente grossi interessi in ballo fin dall'inizio, ma -- di nuovo -- c'è l'interesse del venditore e quello del predatore, e non sono la medesima cosa. > > E tutto il mio discorso verteva sul fatto che il progresso tecnologico (sottinteso "positivo") può essere girato a vantaggio (predatorio) di qualcuno, e anzi che la cosa avviene praticamente sempre, anche quando la tecnologia nasce neutrale (cfr. l'esempio del bastone del vecchietto). > > > > 6. > >>> Io affermo soltanto: > > Internet è sin dalla sua ideazione un'arma, progettata per garantire l'esecuzione di un contrattacco nucleare durante la guerra fredda. > > Si è poi evoluta in un diverso tipo di arma, molto più offensiva. > > > > Internet è nata (in ambito militare perché lì ci sono i soldi) per costruire una rete "resiliente" (che serve anche per i disastri naturali, oltre che per aspetti militari). E il web è nato con fini non militari (ed è il web che viene usato "male"; la rete di base è veramente neutra, ...salvo quando il venditore se ne approfitta). > > > > 7. > >>> Anche un coltello può essere progettato per essere usato esclusivamente a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. > > Può ad esempio essere progettato per spezzarsi se sottoposto ad una minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile per accoltellare chicchessia pur essendo ottimo per tagliare la carne lungo la lama. > > > > Se fai così, a parte il costo, poi non lo puoi usare per svitare una vite... Il coltello è uno strumento multiuso. > > > > 8. > >>> Per contro, un coltello militare può essere progettato per lacerare i tessuti, producendo codette interne per un più rapido dissanguamento del nemico. > > > > Qui niente da dire. MA SI VEDE: non c'è l'inganno predatorio di farti vedere il coltello da pasto, e poi tagliarti la gola. > > Sai perché i mancini erano così odiati, in passato? Perché ti salutavano con la destra, a mostrare che erano disarmati, e ti infilavano un pugnale in pancia usando la sinistra. > > Il punto non era portare il pugnale, era l'inganno di tenerlo con l'altra mano rispetto a quella che porgeva il saluto. > > > > 9. > >>> Dunque, anche se possiamo usare la nostra fantasia per immaginare un coltello veramente neutrale, ogni coltello reale facilita o impedisce determinati usi, avendo effetti politici concreti. > > > > Un coltello reale "permette" altri usi (e la cosa è positiva); e la malvagità non sta mai nel coltello, quando l'uso è malvagio. > > > > 10. > >>> I LLM NON sono neutrali. > > Per tornare alla questione sollevata dalla Professoressa Vallor, sebbene esistano molti usi potenzialmente utili per le tecniche di programmazione statistica adottate anche per realizzare le "AI generative" (di cui gli LLM di cui parliamo sono un esempio), queste tecnologie sono intrinsecamente e fondativamente politicamente orientate. > > Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti hanno come obiettivo minimo superare il test di Turing. > > > > Superare il test di Turing è un legittimo obiettivo scientifico. Però inganni più il sempliciotto che non altri (e, se al posto del termine "ingannare", usi "sembrare a", sappi che c'è un intero libro che spiega in dettaglio come costruire una macchina che "appaia" come cosciente, ...come se apparirlo fosse un valido risultato, il che ritengo non sia). > > > > 11. > >>> Il test di Turing consiste, temo urga ricordarlo anche qui, nell'ingannare uno o più esseri umani sulla natura della sorgente dei dati sottoposti, spingendo le vittime ad attribuirli erroneamente ad un essere umano. > > > > V. sopra. > > > > 12. > >>> I creatori di un LLM conversazionale vincono questo "imitation game" se persone ignare attribuiscono intelligenza al loro software, e questi software sono progettati e continuamente ottimizzati esattamente per questo obiettivo. > > > > I creatori di un LLM adottano per "l'intelligenza" una "scorciatoia statistica", ingannando per primi se stessi (parlo di scienza / tecnologia); POI, qualcuno trova interessante ingannare NON in termini scientifici, ma di altro genere. E si torna al punto di partenza. > > > > La scienza -- come conoscenza -- è sempre buona in sé (sapere di più è meglio di sapere di meno); peccato che sapere di più da parte di certa gente possa diventare un serio pericolo per altri. > > Si tratta di una problematica di fondo molto seria, ...ma non diamone la colpa al coltello. Se anche fosse un problema generale, ovvero se tutta la scienza / tecnologia nascondesse un pericolo (che di fatto nasconde, in presenza di predatori), di certo non potremmo spegnere i cervelli di quei pochi che ancora lo usano... > > > > 13. > >>> Obiettivo che è estremamente specifico: ingannare esseri umani affinché confondano la macchina con un altro essere umano. > > > > Tu ci vedi una malignità che io non ci vedo. DI CERTO, mi serve che forniscano un prodotto simile a quello di un umano (e per i sempliciotti è così), perché altrimenti funzionerebbe come le vecchie traduzioni automatiche, che dovevi rieditare perché grossolane. > > > > 14. > >>> Per questa semplice ragione, le "AI generative" (e gli LLM di cui parliamo in particolare) possono essere usate SOLO per ingannare esseri umani. > > > > Se scrivi "sembrare a" gli togli quell'aura di malignità che fa solo gioco al tuo discorso, senza essere vera in origine. > > > > 15. > >>> Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate a costo di miliardi di dollari ed enormi quantità di energia. > > > > C'è un grosso valore economico nell'ottenere risultati automatici (pensa a uno spreadsheet); in questo caso "l'inganno originario" sta nella natura del prodotto, ma se l'inganno sia benigno o maligno non viene da come è fatto il prodotto, ma per che cosa e come lo usi. > > > > 16. > >>> Prendiamo, di nuovo (...) il "riassuntino" che un LLM ha fatto del discorso della Professoressa Vallor. > > Omette completamente aspetti fondamentali della metafora che propone su cui la Professoressa si era giustamente soffermata a lungo (omissis). > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi dell'intervento". Ingannato sulla natura di quell'output, non prodotto da una mente intelligente che abbia compreso l'intervento, ha perpetuato l'inganno a sua volta sulla lista. > > > > Qui c'è da dire innanzitutto che l'inganno NON era affatto voluto. Ovvero che non stiamo parlando del problema "politico". Qui stiamo parlando ancora della "tecnica imperfetta" che non ha ingannato chi conosce il problema, e ha ingannato qualcun altro. ACCADE sempre, nel mondo del commercio. E qui, non è neanche un inganno per far male o danni, ma semplicemente un'imperfezione tecnica che qualcuno nota e qualcuno no. > > Ovvero,stai tirando il ragionamento per la giacchetta dove non c'entra ("inconferente", direbbero i legulei). > > Devi stare attento, con il linguaggio... (pensa che una tonnellata di filosofi ebeti hanno discusso per millenni di nulla / non-essere, dimenticando che la negazione appartiene solo ai linguaggi, e non all'ontologia -- "non gatto" ha senso insiemistica e tassonomia biologica, non nella realtà -- quando l'ambito del discorso era proprio ...l'ontologia). C'è ingannare e ingannare; da "sembrare a" a "fottere". E NON sono la stessa cosa... > > > > 17. > >>> Se fossimo su twitter, la chiameresti misinformazione. > > Se Guido fosse russo, la chiameresti disinformazione. > > Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad ingannare sé stesso sul tempo necessario a partecipare al dibattito in cui si inserisce il libro / intervento della Professoressa Vallor. > > > > A me sembra solo overlooking (e magari aveva ragione Guido -- de minimis non curat praetor -- se "l'inganno" era della Vallor che dimenticava il tema socio-predatorio per fare un bel discorsino tecnico; qui sono io che la butto in caciara, perché non ho guardato il video). > > Ci sono discorsi importantissimi in letteratura, o in seghine mentali scientifiche, che poi all'atto pratico contano ben poco. > > > > 18. > >>> Ma tutti ricondurrebbero la responsabilità a Guido (vittima inconsapevole che arriva a difendere i propri carnefici) o, al massimo, al software che ha "sfortunatamente" prodotto l'output "errato". > > Dovremmo invece ricondurla a coloro che hanno programmato quel software per ingannare Guido sulla sua abilità di comprendere un testo e produrne una "sintesi". > > > > V. sopra. Stai facendo di un termitaio una piramide egizia. > > > > 19. > >>> Sia che ciò avvenga per ragioni economiche o politiche (che poi... anche l'economia è politica...). > > > > Economia e politica, nel discorso che facevo io (predazione / sfruttamento / manipolazione) sono la stessa faccia della stessa medaglia (l'altra faccia essendo la scienza / tecnologia). > > La distinzione fondamentale fra "strumento" e "uso" (che solo in casi specifici -- bomba atomica -- coincidono; poi, anche per la bomba c'è stato l'utilizzo "deterrente" per evitare di usarla, che è un po' l'esempio duale di quanto sostengo). > > > > 20. > >>> Più in generale, una tecnologia progettata e realizzate per ingannare le persone può essere utilizzata solo per ingannare persone. > > > > V. il discorso sulla parola "ingannare". Non fare sillogismi sul "non-essere", senza pensare alle alternative semantiche in campo (alcune e diverse per "ingannare", solo semantica nulla per il il non-essere). > > > > 21. > >>> E' letteralmente un'arma. > > > > Fai gli stessi sillogismi di certa gente sui social: o sbagliano le premesse, o sbagliano le inferenze, o trascurano le semantiche. Tutto hai fatto (in modo veniale); tutti e tre gli errori; ma c'è gente (cfr. i filosofi ebeti di cui sopra) che gli errori li fa ...monumentali. > > Qualche volta c'è solo un "errore" (V. Guido), non un "inganno". E magari è stato meglio il suo errore che non l'inzuccarsi tanto sul discorso della Vallor. > > > > 22. > >>> Il fatto che persone lontanissime dall'idea di rivolgere un'arma controllata da terzi contro sé stessi, la puntino quotidianamente alla propria testa, dovrebbe rendere evidente la sua potenza e pericolosità. > > > > Out of the blue ...cosa? > > Che ci sono imbecilli che credono alla generatività statistica? > > C'è gente che ha creduto alle .com, ai subprime, prima ancora ai tulipani, ancor oggi ai bitcoin. > > Gente che ha votato Trump o Meloni (per altri, gente che ha votato Conte e Di Maio). Ha sempre e soltanto ragione Cipolla: è lo stupido il principale problema... > > > > 23. > >>> Inoltre, paragonare tecnologie semplici come un coltello o un martello ad un LLM è sbagliato anche per il semplice fatto che costo e complessità realizzativa determinano una barriera all'ingresso tale da determinare intrinsecamente un orientamento politico: solo un élite molto ricca può permettersi di provare a costruirli, e lo farà solo se vi intravede un'utilità per sé nettamente superiore ai rischi. > > > > Qui entriamo nel discorso -- socio-economico-politico prima ancora di cominciare -- della ricchezza usata per incrementare ricchezza. Io, nel merito, distingui i ricchi onesti dai ricchi ladri. E mi preoccupo più della distinzione fra onesto e ladro, che non di quella fra ricco e povero. > > L'occasione (ricchezza) fa l'uomo ladro, ma non si tratta di un'identità (ovvero, finiscila con i proclami vetero-socialisti). > > > > 24. > >>> Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. > > > > E, per le mie risposte, ritengo che tu abbia distorto in vari modi i termini del tema "inganno" (che ha semantica, e anche origine, varia), quando poi in realtà il discorso verteva su predazione / sfruttamento / manipolazione, dove alla fin fine al predatore va bene qualunque strumento, per perseguire i suoi scopi (zucchine, denaro, coltelli, bombe, ...). > > > > 25. > >>> Sono d'accordo che gli intenti "predatori" di molti esseri umani sono socialmente dannosi e vadano contenuti. > > > > Ma va...? > > > > 26. > >>> E sono anche d'accordo che tali intenti siano alla base di molti dei problemi di cui discutiamo speso in questa lista. > > > > Nulla da eccepire. > > > > 27. > >>> Tanto d'accordo che ho provato a spiegarti COME tali intenti siano fondativi e costituenti degli LLM, così come di molte altre armi. > > > > E qui si torna a sopra. > > > > 28. > >>> La tecnologia, spero di averti mostrato, è sempre una espressione umana politicamente orientata, intrinsecamente, ancora prima che venga effettivamente utilizzata. > > > > Prova a spiegarlo a chi (Edward Jenner) ha inventato il vaccino, ...quanto deve essersi rivoltato nella tomba, con il Covid!! > > > > 29. > >>> Gli LLM conversazionali esistono per ingannare le menti, esattamente come le mine antiuomo esistono per uccidere e mutilare i corpi. > > > > V. sopra, again. > > > > 30. > >>> Non possono essere usate per niente altro. > > > > Io ho trovato utilissimo chatGPT per contestare un'affermazione demente, tanto quanto l'ho trovato ondivago su altri temi, scolastico in altri, ...creativo mai. > > E' uno strumento, e lo usi come più conviene (io mi sono rifiutato di progettare mine antiuomo, dove l'obiettivo era chiaro e senza alternative); se poi sei uno stronzo (tu generico, ovviamente), ecco che le cose girano al male. > > > > 31. > >>> E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che molte persone (anche colte e intelligenti) finiscono per credersi e dichiararsi poco diverse da questi software. > > > > Non solo la madre dei fessi è sempre incinta, ma anche quella dei superficiali, dei troppo semplici (anche se di essi è il regno dei cieli), dei disattenti (io ho il problema opposto: troppa gente parla come se fosse un ripetitore statistico...). > > > > 32. > >>> Allo stesso modo possiamo creare software emancipatori e socialmente utili. Io ci provo da tempo sebbene sia una lotta impari. > > > > Il problema è sempre il vecchio "panem et circenses" (oppure la miopia manageriale): io ho provato a liberare la democrazia soffocata da mille interferenze di questi tempi, tramite uno strumento tecnico, ma la gente non ama alzare il deretano dalla sedia e rimboccarsi le maniche per diventare libera (e lo scriveva Tocqueville già parecchi decenni fa); preferisce godere del poco che ha; non ha la "fame" di chi non ha nulla, e lotta. > > > > 33. > >>> Spero vivamente di essere stato finalmente più chiaro (omissis) > > > > Non ti incazzare: ...sei stato solo verboso; se ti fossi messo in concreto di fronte a uno specchio :-) avresti visto che sai girare bene i discorsi (anche troppo), ma ti lasci ingannare dalle parole. > > > > Abbracci, > > A > > > > > > ----- Original Message ----- > From: Giacomo Tesio > To: nexa(a)server-nexa.polito.it > Sent: Wednesday, January 08, 2025 12:26 PM > Subject: Re: [nexa] In a mirror > > > Mi spiace Alfredo per averti dato l'impressione di volerla buttare in > caciara, ti assicuro che credevo le mie parole fossero chiare e persino > autoevidenti, ovvie... tanto da temere di annoiare la lista. > > Riproviamo. > > > A quanto ho capito del tuo ragionamento, tu fai due affermazioni > distinte, che ritieni entrambe vere: > > 1. La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. > 2. Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. > > Io ritengo entrambe le affermazioni false, ovvero non rispondenti alla > realtà. Permettimi di (ri)spiegarti il perché. > > > # La tecnologia nel suo complesso non è MAI neutrale > > La prima affermazione è facile da falsificare per costruzione: è > sufficiente elencare le diverse tecnologie progettate esplicitamente > per nuocere, dalla mina antiuomo alla bomba atomica. > > > Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", > dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate > (e tanto più quelle più complesse) sono politicamente orientate. > > > Internet è sin dalla sua ideazione un'arma, progettata per garantire > l'esecuzione di un controattacco nucleare durante la guerra fredda. > Si è poi evoluta in un diverso tipo di arma, molto più offensiva [1]. > > > Anche un coltello può essere progettato per essere usato esclusivamente > a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. > Può ad esempio essere progettato per spezzarsi se sottoposto ad una > minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile > per accoltellare chicchessia pur essendo ottimo per tagliare la carne > lungo la lama. > > Per contro, un coltello militare può essere progettato per lacerare i > tessuti, producendo codette interne per un più rapido dissanguamento > del nemico. > > Dunque, anche se possiamo usare la nostra fantasia per immaginare un > coltello veramente neutrale [2], ogni coltello _reale_ facilita o > impedisce determinati usi, avendo effetti politici concreti. > > > # I LLM NON sono neutrali. > > Per tornare alla questione sollevata dalla Professoressa Vallor, > sebbene esistano molti usi potenzialmente utili per le tecniche di > programmazione statistica adottate anche per realizzare le "AI > generative" (di cui gli LLM di cui parliamo sono un esempio), > queste tecnologie sono intrinsecamente e fondativamente > politicamente orientate. > > Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti > hanno come obiettivo minimo superare il test di Turing. > > Il test di Turing consiste, temo urga ricordarlo anche qui, > nell'ingannare uno o più esseri umani sulla natura della sorgente > dei dati sottoposti, spingendo le vittime ad attribuirli _erroneamente_ > ad un essere umano. > > I creatori di un LLM conversazionale vincono questo "imitation game" se > persone ignare attribuiscono intelligenza al loro software, e questi > software sono progettati e continuamente ottimizzati esattamente per > questo obiettivo. > > > Obiettivo che è estremamente specifico: ingannare esseri umani affinché > confondano la macchina con un altro essere umano. > > > Per questa semplice ragione, le "AI generative" (e gli LLM di cui > parliamo in particolare) possono essere usate SOLO per ingannare > esseri umani. > > Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate > a costo di miliardi di dollari ed enormi quantità di energia. > > > > Prendiamo, di nuovo (mi scuserà Guido, ma è veramente un fantastico > esempio di pessimo uso di un LLM che può apparire ragionevole all'utente > ignorante ormai succube della propaganda), il "riassuntino" che un LLM > ha fatto del discorso della Professoressa Vallor. [3] > > Omette completamente aspetti fondamentali della metafora che propone su > cui la Professoressa si era giustamente soffermata a lungo, riducendola > ad affermazione ovvia, quanto trita e ritrita, sulle AI che amplificano > e distorcono i dati umani da cui derivano. > > La Professoressa ha detto altro! > > Ha usato una metafora abbastanza attinente da un punto di vista tecnico > per spiegare _come_ e _perché_ i software programmati statisticamente > elaborano i dati in input e quelli sorgente compressi al proprio > interno. > > E questa è solo una delle omissioni e banalizzazioni che l'output del > LLM ha effettuato. Non ultima (guarda caso) l'omessa esclusione delle > "AI generative" dalle tecnologie che potrebbero essere impiegate > in modo socialmente utile. > > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi > dell'intervento". Ingannato sulla natura di quell'output, non prodotto > da una mente intelligente che abbia compreso l'intervento, ha > perpetuato l'inganno a sua volta sulla lista. > > Se fossimo su twitter, la chiameresti misinformazione. > Se Guido fosse russo, la chiameresti disinformazione. :-D > > Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad > ingannare sé stesso sul tempo necessario a partecipare al dibattito in > cui si inserisce il libro / intervento della Professoressa Vallor [4]. > > Ma tutti ricondurrebbero la responsabilità a Guido (vittima > inconsapevole che arriva a difendere i propri carnefici [5]) o, al > massimo, al software che ha "sfortunatamente" prodotto l'output > "errato". > Dovremmo invece ricondurla a coloro che hanno programmato quel software > per ingannare Guido sulla sua abilità di comprendere un testo e > produrne una "sintesi". > > Sia che ciò avvenga per ragioni economiche o politiche. > (che poi... anche l'economia è politica...) > > > > Più in generale, una tecnologia progettata e realizzate per ingannare > le persone può essere utilizzata _solo_ per ingannare persone. > > E' letteralmente un'arma. > > > Il fatto che persone lontanissime dall'idea di rivolgere un'arma > controllata da terzi contro sé stessi, la puntino quotidianamente > alla propria testa, dovrebbe rendere evidente la sua potenza e > pericolosità. > > > Inoltre, paragonare tecnologie semplici come un coltello o un > martello ad un LLM è sbagliato anche per il semplice fatto che costo e > complessità realizzativa determinano una barriera all'ingresso tale > da determinare intrinsecamente un orientamento politico: solo un élite > molto ricca può permettersi di provare a costruirli, e lo farà solo > se vi intravede un'utilità per sé nettamente superiore ai rischi. > > > > Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. > > > Sono d'accordo che gli intenti "predatori" di molti esseri umani sono > socialmente dannosi e vadano contenuti. > > E sono anche d'accordo che tali intenti siano alla base di molti > dei problemi di cui discutiamo speso in questa lista. > > > Tanto d'accordo che ho provato a spiegarti COME tali intenti siano > fondativi e costituenti degli LLM, così come di molte altre armi. > > > La tecnologia, spero di averti mostrato, è _sempre_ una espressione > umana politicamente orientata, intrinsecamente, ancora prima > che venga effettivamente utilizzata. > > > Gli LLM conversazionali esistono per ingannare le menti, esattamente > come le mine antiuomo esistono per uccidere e mutilare i corpi. > > Non possono essere usate per niente altro. > > > E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che > molte persone (anche colte e intelligenti) finiscono per credersi > e dichiararsi poco diverse da questi software. > > > > Allo stesso modo possiamo creare software emancipatori e socialmente > utili. Io ci provo da tempo [6] sebbene sia una lotta impari. > > > Spero vivamente di essere stato finalmente più chiaro (di certo > Maurizio, non sono stato conciso :-D), ma nel caso aveste ulteriori > dubbi, forse potremmo continuare in privato per non tediare la lista. > > > Giacomo > > [1] > https://encrypted.tesio.it/2018/07/31/the-web-is-still-a-darpa-weapon.html > i sono stati (e vi sono) diversi tentativi di rimuoverne (o > mitigarne) gli aspetti offensivi e militari, ma sono troppo deboli. > > Si potrebbe dire che, di fatto, è come se stessimo conversando > amabilmente in una piazza cosparsa di mine antiuomo, sforzandoci di > non guardarle, di ignorare chi le indica e persino di arrestare chi > prova a rimuoverle. > > [2] Ah se esistessero coltelli da cucina VERAMENTE NEUTRALI! > Coltelli da cucina automaticamente impegnati a mantenere > l'equilibrio fra bene e male! Quanti miliardari in meno! :-D > https://assortedmeeples.com/true-neutral-dnd-alignment-guide > > [3] Per chi volesse rileggerlo: > https://server-nexa.polito.it/pipermail/nexa/2025-January/053758.html > > [4] come, in fondo, ha delicatamente provato a fargli notare Alberto > https://server-nexa.polito.it/pipermail/nexa/2025-January/053759.html > > [5] "Ebbene: un riassunto-traduzione come quello che ChatGPT ha fatto > del transcript della Prof. Vallor qualche anno fa ce lo sognavamo, > credimi." > https://server-nexa.polito.it/pipermail/nexa/2025-January/053770.html > > NOTE to SELF: "approfondire cosa bevessero/mangiassero prima di > andare a dormire, che nemmeno l'impepata di cozze..." :-D > > [6] https://jehanne.h--k.it/ > https://monitora-pa.it/ > https://code.tesio.it/p/self-hosting/doh.cgi/file?name=POLITICS.txt&ci=tip > https://monitora-pa.it/LICENSE.txt

3 3