January 2025 - nexa - server-nexa.polito.it

Re: [nexa] sulla neutralità del software (was Re: In a mirror)

by Giacomo Tesio

Ciao 380° On Fri, 10 Jan 2025 14:14:44 +0100 380° <g380(a)biscuolo.net> wrote: > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > > politicamente (e lo è), lo sono tutti gli LLM reali. > > Così come tutto il resto del software sulla faccia della terra > programmato a partire dal 1960 ad oggi > > Quindi, ricapitolando: quale sarebbe il problema INFORMATICO con gli > LM e/o gli LLM?!? Siamo assolutamente d'accordo, da un punto di vista informatico, questi software sono perfettamente analoghi a quelli che li hanno preceduti! Non sono mica io che gli attribuisco esperienze umane, come allucinazioni, perplessità o apprendimento! :-D E, di tutti i software, non mi sognerei mai di attribuirgli "neutralità", vista l'opacità che li caratterizza. Più in generale, tutte le cosiddette "intelligenze artificiali" sono software come gli altri, programmati da esseri umani per perseguire propri scopi. Software programmati a partire da _sorgenti_ sottoposti a diritti di esseri umani (dal diritto d'autore alla protezione dei dati personali) che non vengono meno durante il processo di compilazione. Processo di compilazione che, come per ogni altro software, è anche un processo di compressione con perdita (lossy). Compressione che viene invertita (con errori, non allucinazioni) durante l'esecuzione di tali software, ottenendo in output dati derivati dai testi sorgente (e che dunque sono oggetto degli stessi diritti). Diritti che persistono nonostante l'output prodotto non abbia più alcun significato, proprio perché è l'espressione ad esserne oggetto, indipendentemente dall'informazione che l'autore intendeva esprimere, perché quella informazione non è passata da alcuna mente che l'abbia compresa e riealaborata. Non c'è davvero alcuna differenza, che ci piaccia o meno. L'eccezionalità della "intelligenza artificiale" è una favola tanto fantasiosa quanto la "intelligenza artificiale" stessa. O la sua neutralità. Giacomo

Jan. 10, 2025

sulla neutralità del software (was Re: In a mirror)

by 380°

Ciao Giacomo, la farò breve perché il discorso sulla "AI" è talmente iperinflazionato e ripetitivo da risultarmi quasi noioso (perdonatemi!) tra l'altro dico cose banali e credo ampiamente condivise e condivisibili da molti, se non addirittura già espresse, credo anche da te Giacomo Giacomo Tesio <giacomo(a)tesio.it> writes: [...] >> Gran parte delle critiche riguardano appunto i chatbot >> (allucinazioni, superficialità, ecc.). > > Perché costituiscono la base della narrazione allucinata che domina > il dibattito informatico attuale, determinando scelte politiche, > economiche ed educative altrettanto allucinate. suvvia: il dibattito informatico è allucinato (e allucinante) da almeno 40 anni, anche per il software "normale", non sto scherzando per esempio, è allucinante che pochi che dibattono di informatica abbiano realmente compreso "Reflections on Trusting Trust" [1]... o /almeno/ abbiano compreso la natura del software sorgente e di quello binario e della relazione "a senso unico" tra i due (che significa anche comprendere la complessità di un "grafo di dipendenze" di qualsiasi software) [...] > Nella realtà, i LLM sono prodotti a partire da testi che sono > culturalmente e storicamente situati. anche il software "normale" è prodotto a partire dagli stessi testi, compresi ovviamente quelli scientifici, solo che in quel caso il "bias" introdotto è anche maggiore :-D (maggiore bias sulla selezione dei testi, minore filtro dei risultati ottenuti) inontre, anche il software "normale" è prodotto in un /regime/ legislativo ed economico che de-facto che ne DETERMINANO il funzionamento, tanto che una percentuale importante del software (binario) circolante è /potential malware/ [2] > Già solo per questo semplice fatto, nessun LLM reale può essere > "neutro". esattamente come nessun software "normale" o qualsiasi altro /sistema/ moderatamente complesso può essere neutro, nella realtà [...] > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > scartare. così come nella programmazione "normale": quali testi/tesi scelgo (studio, adotto, adatto) e quali /scarto/ per progettare l'algoritmo? > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > producono output "politicamente corretto", > quale che siano gli obiettivi politici dei programmatori, dal > legittimare il proprio software agli occhi dei moralisti statunitensi, > difendere il proprio modello di business o cancellare piazza Tiananmen > dalla storia [2] così come qualsiasi dato /cucinato/; intendiamoci sono TUTTI cucinati ma molti sono adulterati al punto che ci vorrebbero i NAS dei dati lascio al lettore l'esercizio di elencarsi mentalmente due argomenti a caso per i quali i risultati ottenuti con sofisticatissimo modelli software sono in realtà /farlocchissimi/ a causa dei dati taroccati ad arte, con /tecniche/ sofisticatissima in alcuni casi > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > siano in alcun modo "neutrali". E spero che tu non creda davvero che i modelli di BEEEP siano in alcun modo "neutrali" :-O > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > politicamente (e lo è), lo sono tutti gli LLM reali. Così come tutto il resto del software sulla faccia della terra programmato a partire dal 1960 ad oggi [...] Quindi, ricapitolando: quale sarebbe il problema INFORMATICO con gli LM e/o gli LLM?!? Io la butto lì: per avere fiducia del sofware che uso so che deve essere libero, riproducibile e bootstrappable ....non è possibile con i LM o gli LLM?!? Beh allora io sono SICURO che i risultati di tali software DEVONO essere attentamente analizzati da una persona con adeguate competenze prima di essere usati per qualsiasi decisione. Sarò banale, ma io non capisco proprio perché continua ad esserci tutta 'sta SOPRAVVALUTAZIONE, sia in positivo che in negativo, delle funzioni dei LM, LLM, "sistemi generativi", SALAMI o qualsiasi altra etichetta si voglia dare alla "narrow AI" Ciao e grazie, Giovanni. [1] https://www.cs.cmu.edu/~rdriley/487/papers/Thompson_1984_ReflectionsonTrust… [2] https://www.gnu.org/proprietary/potential-malware.html -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Jan. 10, 2025

Re: [nexa] Nuovo articolo "The computerization of the world and international cooperation"

by Giacomo Tesio

Grazie a Valeria per la segnalazione e grazie a Juan Carlos per l'ottimo articolo [0], di cui condivido auspici, premesse e (credo) molti valori. "Computerizzazione del mondo" [1] è certamente un'ottima alternativa a "rivoluzione digitale", decisamente più descrittiva dei cambiamenti cibernetici (socio-tecnici? tecno-politici?) che stiamo attraversando. Credo però che tale locuzione abbia anche dei limiti che potrebbe essere utile analizzare, sia per comprendere meglio i cambiamenti che prova a descrivere sia, forse, per ideare un'alternativa migliore. Anzitutto, "computerization of the world" presuppone una comprensione ingegneristica del concetto di computer. Comprensione ahimé molto rara, se è vero che molte persone affermano tranquillamente di non avere alcun computer con uno smartphone in mano. D'altro canto, il termine "computer" è caratterizzato dalle unità di calcolo e persino l'unità di controllo rimane sottintesa nel termine, per non parlare di sensori (touchpad, mouse, tastiera, gps, video camera, microfono, giroscopio...) e attuatori (schermo, led vari...) o dei componenti che svolgono entrambe le funzioni (RAM, disco fisso, ethernet, usb, wifi...). Tutto questo è sottinteso e sempre ben chiaro nella mente di un informatico, ma per la maggioranza delle persone è facile dimenticarne la presenza: quanti si portano in giro tutto il giorno il cellulare con la rete dati o il wifi costantemente abilitati? La locuzione poi è (fortunatamente) sovra estesa: non è il mondo intero a venire computerizzato [1] bensì gli esseri umani (e loro simbionti). Attraverso quotidianamente le Langhe in cui combattevano molti partigiani ed in cui sono ambientate molte opere di Fenoglio. Di fronte alle telecamere o ai segnali "comune videosorvegliato" provo sgomento e profondo sconforto: l'avvio della prossima lotta resistenza dovrà fronteggiare una repressione feroce. Ma poi guardo le colline, i (pochi) boschi... e mi rendo conto che ci sono innumerevoli modi di aggirare la sorveglianza (seppur lenti e faticosi, con un notevole svantaggio tattico). A patto di non portarsi dietro un cellulare. Anche gli animali selvatici e le piante fanno parte del mondo e per il momento non li stiamo computerizzando. Non lo facciamo perché (al momento) non ci interessano, contrariamente agli animali domestici o alle coltivazioni agricole. Non ci interessano perché non sono (individualmente) oggetto di potere. In altri termini viene computerizzato solo ciò che chi opera la computerizzazione [1, che sofferenza! :-D] intende controllare. Dovremmo dunque forse restringere la locuzione all'umanità o quanto meno alla società umana (cui prendono parte anche animali e coltivazioni). Infatti non credo che ci preoccuperemmo più di tanto per la computerizzazione di un campo di mais o di un vigneto: il fenomeno emergente, rispetto alla precedente industrializzazione, è proprio l'applicazione sistematica dei computer all'uomo, che si intende controllare individualmente e su larga scala. Smartcity, smartphone, smartwatch, SmartTV... tutti oggetti controllati da terze parti che si presentano come "intelligenti", a cui le persone sono portate evolutivamente ad adattarsi, delegando progressivamente la propria attività mentale (che come sappiamo richiede un quantitativo spropositato di energie, il 20-25% di quelle consumate ogni giorno [2]) Un terzo limite di "computerization of the world" è la sua apparente natura prettamente (o almeno primariamente) fisica: la maggioranza degli ingegneri, ancora oggi, sentendo il termine "computer" pensa ad un oggetto fisico, che sia un dispositivo IoT, una playstation, uno smartphone o un server. La stragrande maggioranza dei computer esistenti però sono macchine emulate da altre macchine via software. Non penso solo alle macchine virtuali (jvm, clr, nodejs, python...), ai fumosi VPS "nel cloud" o a QEMU e VirtualBox, ma a qualsiasi software in grado di eseguire codice espresso in un qualche formato, dal browser web al compositore di documenti (eg. Libre Writer) o di trasparenze (eg. Libre Impress), fino ai complessi inference engine che eseguono matrici numeriche di dimensioni predefinite (impropriamente chiamati "modelli" o "reti neurali artificiali"). Ad esempio, all'acquisto un cellulare android configurato in modo predefinito, esegue circa 300 di questi computer virtuali, molti dei quali si connettono periodicamente ad altri computer remoti. Cosa ne pensi Juan Carlos? Sono considerazioni che è utile prendere in considerazione alla ricerca di una locuzione che possa descrivere sinteticamente i cambiamenti tipici della nostra epoca? Proporre un'alternativa ulteriore per descrivere questo processo, senza perdere i vantaggi di "computerization of the world" ma evitandone i limiti, non è facile. "Robotization of people"? "Mechanized mass slavery"? "Alienazione cibernetica" sarebbe forse più preciso ed applicabile sia agli individui che alle organizzazioni (nonché alla società nel suo complesso), ma presuppone cultura informatica E storica maggiore di quella necessaria a comprendere il concetto di computer. Altre proposte? Giacomo [0] https://nexa.polito.it/the-computerization-of-the-world-and-international-c… [1] x Juan Carlos: l'inglesismo è dolorosamente cacofonico, ma non saprei come tradurlo in modo fedele. Hai qualche proposta? [2] https://pmc.ncbi.nlm.nih.gov/articles/PMC8291083/

Jan. 10, 2025

Re: [nexa] Meta: more (free) speech and fewer mistakes (it's time to get back to our roots around free expression).

by 380°

Buonasera, Stefano Zacchiroli <zack(a)upsilon.cc> writes: [...] > rilevanza al fatto che John Elkann sia entrato nel > CdA di Meta, ma molta meno a quello che Dana White abbia fatto lo > stesso: https://en.wikipedia.org/wiki/Dana_White#Politics . Unite voi i > puntini numerati per passare da questo cambiamento nel CdA al > cambiamento di policy riportato da 380 (o viceversa). grazie per la segnalazione di Dana White che mi era sfuggita, ammetto che i Board of Directors di Meta non è la mia passione :-) Wikipedia [1] dice che Dana White è nel Board of Directors (almeno) dal Giugno 2024, non ho sotto mano un diff per verificare la data di ingresso di quell'uomo ma non sono sicurissimo che lui sia uno dei puntini numerati che portano al cambiamento di politica sui contenuti (et al) a me piuttosto salta subito all'occhio che Sir Nicholas William Peter Clegg, ovvero un importissimo leader politico britannico del partito liberaldemocratico (leggetevi il curriculum): https://en.wikipedia.org/wiki/Nick_Clegg fosse "president, global affairs" [2] fino al 2 Gennaio scorso, giorno in cui Sir Clegg è /stato/ dimesso [3] (bla, bla, bla) per essere sostituito da Joel Kaplan, ovvero un repubblicano statunitense con una discreta esperienza alla Casa Bianca a partire dal 2001 e ben introdotto nel partito oggi: https://en.wikipedia.org/wiki/Joel_Kaplan egli era «vice president of U.S. public policy» dal 2011 [4] e pare sia stato sempre contrario a molte politiche sui contenuti applicate da Facebook/Meta. ora, molti commentatori sostengono l'ovvia tesi che la sostituzione di Sir Clegg con Kaplan sia un modo per ingraziarsi Trump e i Repubblicani che lo sostengono (cioè NON i neocon) ma... ...siccome io sono complottista, sospetto ci sia sotto qualcosa di più complesso: e se /invece/ certe figure aziendali fossero imposte dal governo come /garanti/ affinché l'azienda implementi le politiche (para)governative [5] decise _nonostante_ il zuckerberg-pensiero? questo ovviamente varrebbe per ogni azienda sufficientemente potente da poter pesantemente influenzare la vita non solo dei propri cittadini ma dell'intera popolazione terrestre. mah, sarà l'aria del nuovo anno che mi fa delirare :-D Saluti, 380° [1] https://en.wikipedia.org/wiki/Meta_Platforms#Board_of_directors [2] https://en.wikipedia.org/wiki/Meta_Platforms#Management [3] https://www.facebook.com/nickclegg/posts/pfbid02pYw3yki4jXbjns4ofN8XHnHL3t4… [4] https://en.wikipedia.org/wiki/Joel_Kaplan#Meta_(Facebook) [5] cioè di chi davvero controlla i governi -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Jan. 9, 2025

Meta: i Fat Checkers non l'hanno presa benissimo, parte seconda.

by 380°

e proseguono... «Full Fact responds to Meta ending support for US fact checkers» https://fullfact.org/blog/2025/jan/meta-ending-support-for-us-fact-checkers/ --8<---------------cut here---------------start------------->8--- Meta, the owners of Facebook, Instagram and Threads [has announced] an end to support for third-party fact checking in the United States. Chris Morris, Chief Executive of Full Fact, responds: Meta's decision to end its partnership with fact checkers in the US is disappointing and a backwards step that risks a chilling effect around the world. From safeguarding elections to protecting public health to dissipating potential unrest on the streets, fact checkers are first responders in the information environment. Our specialists are trained to work in a way that promotes credible evidence and prioritises tackling harmful information - we believe the public has a right to access our expertise. We absolutely refute Meta's charge of bias - we are strictly impartial, fact check claims from all political stripes with equal rigour, and hold those in power to account through our commitment to truth. Like Meta, fact checkers are committed to promoting free speech based on good information without resorting to censorship. But locking fact checkers out of the conversation won't help society to turn the tide on rapidly rising misinformation. Misinformation doesn't respect borders, so European fact checkers will be closely examining this development to understand what it means for our shared information environment. Chris Morris – 7 January 2025 Full Fact campaigns to ensure a better information environment for everyone. We scrutinise all sides in any political debate impartially, and hold everyone in public office to high standards. Full Fact has participated in Meta's Third Party Fact Checking Programme since January 2019 in which we check images, videos and articles on Meta platforms and receive income depending on the amount of fact checking done under the programme. We have published independent reports on the programme with recommendations for improvements. We disclose all funding we receive over £5,000—you can [see these figures here]. We are editorially independent and our funders have no editorial control over our content. [has announced] <https://about.fb.com/news/2025/01/meta-more-speech-fewer-mistakes> [see these figures here] </about/funding/> --8<---------------cut here---------------end--------------->8--- «From safeguarding elections to protecting public health to dissipating potential unrest on the streets»: certe affermazioni meriterebbero un bel meta-fat-checking (ricorsivo), altrimenti rischiano in alternativa di apparire a. come smargiassate da palloni gonfiati b. come confessioni di complicità in eversione para-militare. Fate voi. Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Jan. 9, 2025

Meta: i Fat Checkers non l'hanno presa benissimo.

by 380°

Buonasera, ...anzi si sono proprio offesissimi! 380° <g380(a)biscuolo.net> writes: [...] > https://about.fb.com/news/2025/01/meta-more-speech-fewer-mistakes/ [...] > That's not the way things played out, especially in the United > States. Experts, like everyone else, have their own biases and > perspectives. This showed up in the choices some made about what to > fact check and how. [...] «Meta's Fact-Checking Exit Prompts Urgent IFCN Meeting» Pranav Dixit Jan 7, 2025, 8:29 PM CET https://web.archive.org/web/20250108003607/https://www.businessinsider.com/… --8<---------------cut here---------------start------------->8--- • [Meta] is ending US fact-checking partnerships and shifting to crowdsourced moderation tools. • The International Fact-Checking Network called an emergency meeting after the announcement. • Meta's decision affects the financial sustainability of fact-checking organizations. The International Fact-Checking Network has convened an emergency meeting of its members following [Meta's announcement] on Tuesday that it will end its third-party fact-checking partnerships in the US and replace them with a crowdsourced moderation tool similar to X's [community notes]. In an exclusive interview with Business Insider, the IFCN's director, Angie Holan, confirmed that the meeting, scheduled for Wednesday, was organized in direct response to Meta's decision. [...] The IFCN has long played a crucial role in Meta's fact-checking ecosystem by accrediting organizations for Meta's third-party program, which began in 2016 after the US presidential election that year. [Certification] from the IFCN signaled that a fact-checking organization met rigorous editorial and transparency standards. Meta's partnerships with these certified organizations became a cornerstone of its efforts to combat misinformation, focusing on flagging false claims, contextualizing misinformation, and curbing its spread. [Meta] <https://web.archive.org/web/20250108003607/https://www.businessinsider.com/…> [Meta's announcement] <https://web.archive.org/web/20250108003607/https://www.businessinsider.com/…> [community notes] <https://web.archive.org/web/20250108003607/https://www.businessinsider.com/…> [Certification] <https://web.archive.org/web/20250108003607/https://ifcncodeofprinciples.poy…> People are upset ───────────────── Holan described the mood among fact-checkers as somber and frustrated. "This program has been a major part of the global fact-checking community's work for years," she said. "People are upset because they saw themselves as partners in good standing with Meta, doing important work to make the platform more accurate and reliable." She noted that fact-checkers were not responsible for removing posts, only for labeling misleading content and limiting its virality. "It was never about censorship but about adding context to prevent false claims from going viral," Holan said. A last-minute heads-up ══════════════════════ An employee at PolitiFact, one of the first news organizations to partner with Meta on its Third-Party Fact-Checking Program in December 2016, said the company received virtually no warning from Meta before the program was killed. "The PolitiFact team found out this morning at the same time as everyone else," the employee told BI. An IFCN employee who was granted anonymity told BI that the organization itself got a heads-up only "late yesterday" via email that something was coming. It asked for a 6 a.m. call — about an hour before Meta's [blog post] written by its [new Republican policy head, Joel Kaplan,] went live. "I had a feeling it was bad news," this employee said. Meta did not respond to a request for comment. [blog post] <https://web.archive.org/web/20250108003607/https://about.fb.com/news/2025/0…> [new Republican policy head, Joel Kaplan,] <https://web.archive.org/web/20250108003607/https://www.businessinsider.com/…> Financial fallout for fact-checkers ═══════════════════════════════════ Meta's decision could have serious financial consequences for fact-checking organizations, especially those that relied heavily on funding from the platform. According to a [2023 report] published by the IFCN, income from Meta's Third-Party Fact-Checking Program and grants remain fact-checkers' predominant revenue streams. "Fact-checking isn't going away, and many robust organizations existed before Meta's program and will continue after it," Holan said. "But some fact-checking initiatives were created because of Meta's support, and those will be vulnerable." She also underscored the broader challenges facing the industry, saying that fact-checking organizations share the same financial pressures as newsrooms. "This is bad news for the financial sustainability of fact-checking journalism," she said. [2023 report] <https://web.archive.org/web/20250108003607/https://www.poynter.org/wp-conte…> Skepticism toward community notes ───────────────────────────────── Meta plans to replace its partnerships with community notes, a crowd-based system modeled after X's approach. Holan expressed doubt that this model could serve as an effective substitute for expert-led fact-checking. "Community notes on X have only worked in cases where there's bipartisan agreement — and how often does that happen?" she said. "When two political sides disagree, there's no independent way to flag something as false." It's not yet clear how Meta's implementation of community notes will work. --8<---------------cut here---------------end--------------->8--- Porelli. Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Jan. 9, 2025

Re: [nexa] In a mirror

by Giacomo Tesio

Ciao Giuseppe, speravo davvero che intervenissi! :-) Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: > > 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante > possibili applicazioni. Vero, ma il "riassunto" dalla cui critica è partito questo filone di discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto riferimento come un "chi". Non trovi allarmante tanta alienazione? La distinzione fra chatbot e LLM rimane informaticamente valida in generale, ma non credo fosse rilevante per il dibattito perché né chatbot né LLM esprimono alcuna forma di intelligenza. > Gran parte delle critiche riguardano appunto i chatbot > (allucinazioni, superficialità, ecc.). Perché costituiscono la base della narrazione allucinata che domina il dibattito informatico attuale, determinando scelte politiche, economiche ed educative altrettanto allucinate. > I LM sono decisamente una tecnologia neutra Solo nel mondo della fantasia, Giuseppe. Nella realtà, i LLM sono prodotti a partire da testi che sono culturalmente e storicamente situati. Già solo per questo semplice fatto, nessun LLM reale può essere "neutro". Ricorderai certamente le critiche pretestuose con cui fu accolto Minerva l'anno scorso. [1] Poi c'è l'attività di programmazione statistica che parte dalla scelta, fra tutti i testi disponibili, di quelli da utilizzare e di quelli da scartare. A valle di un'accurata attività di selezione e rinforzo, i "modelli" producono output "politicamente corretto", quale che siano gli obiettivi politici dei programmatori, dal legittimare il proprio software agli occhi dei moralisti statunitensi, difendere il proprio modello di business o cancellare piazza Tiananmen dalla storia [2] E spero tu non creda davvero che i modelli di Google, Meta o Open AI siano in alcun modo "neutrali". Dunque anche se l'idea di LLM non fosse intrinsecamente orientata politicamente (e lo è), lo sono tutti gli LLM reali. > , non sono progettati > per applicazioni specifiche e di per sé non hanno mai fatto male a > nessuno, né possono farlo: la loro capacità si limita a predire la > prossima parola di un testo. "predire" è già un termine ingannevole (allucinato? allucinatorio?) Affinché si possa parlare di predizione, l'evento predetto deve avvenire in modo indipendente da colui che effettua la predizione. Poiché la scrittura non è un fenomeno naturale e non c'è alcuna persona che sta scrivendo il messaggio che l'LM sta producendo in output, definire tale output "predizione" è semanticamente sbagliato. Anche quando forniamo in input ad un LLM parte di un testo già scritto per ottenere in output la parola successiva scritta dall'autore, anche quando l'output corrisponde non possiamo parlare di "pre-dizione" perché il testo è già stato scritto, ma solo di ri-produzione. [3] > 2. Non è vero che i LLM sono stati concepiti per ingannare Una premessa (forse non necessaria): non intendevo fare un processo alle intenzioni di chi fa ricerca sui LLM in astratto. Parlavo invece dei LLM reali, programmati statisticamente dalle stesse persone che parlano di "machine learning", "artificial intelligence", "allucinazioni" etc... > in particolare per superare il Turing test, che si basa su ingannare > quacuno di essere un umano. Il mio riferimento al superamento del test di Turing non era focalizzato all'ambito accademico: superare il test di Turing, ingannare il maggior numero possibile di persone sulla natura del software con cui interagiscono, serve a chi questi software li produce per ottenere finanziamenti, eludere le normative (copyright, data protection etc...) e alimentare la favola dell'eccezionalismo tecnologico, influenzare politici e imprenditori etc etc etc... Che poi il test di Turing non abbia alcun valore scientifico, sono d'accordo, ma d'altro canto anche gli Alchimisti usavano teorie bislacche. > Il test di Turing è solo uno dei tanti disponibili per valutarne le > prestazioni dei chatbot, in mancanza di meglio. È un test indiretto, > assumendo che un chatbot sia migliore se usa un LLM migliore: il vero > test dei LM sarebbe la perplexity, che però non è molto efficace. Perché poi la chiamate "perplexity"? Non c'è nessuno "perplesso", solo un insieme più o meno ampio di output pressappoco equivalenti. Forse non è efficace perché non misura davvero ciò che vorreste? ;-) > Anche se la confusione nel pubblico tra LLM e chatbot è diffusa, > inviterei a usare il termine chatbot in una lista di persone più > esperte come questa. Ripeto: tecnicamente hai ragione, ma in questo thread la distinzione rilevante (accennata dalla Vallor stessa durante il talk) separava le "AI generative" (cui gli LLM appartengono) dagli altri software "AI". Giacomo [1] https://web.archive.org/web/20240523162900/https://ilmanifesto.it/minerva-l… [2] ricorderete, recentemente passato in lista https://techcrunch.com/2024/12/26/deepseeks-new-ai-model-appears-to-be-one-… [3] E di ri-produzione automatica in effetti si tratta. Sebbene la riproduzione sia soggetta a notevoli errori in quanto composizione di un input fornito dall'utente, di numeri casuali estratti durante la produzione e dei contenuti compressi con perdita all'interno del "modello". La presenza di entropia nel processo di programmazione del "modello" e nella sua esecuzione privano l'output di qualsiasi significato che gli autori dell'input o dei testi sorgente intendessero imprimere al proprio testo, per cui chiamare l'output di un LLM "sintesi" è, di nuovo errato, e dunque ingannevole. L'output di un LLM non ha alcun significato, sebbene sia ottimizzato per far credere alle menti umane che provano ad leggervi un significato, di averne uno.

Jan. 9, 2025

da Timnit Gebru

by J.C. DE MARTIN

*Timnit Gebru* (da LinkedIn): We're hoping to organize a hopeful virtual event to get us to think about our possible technological futures, and have a creative workshop. Maybe in the spring. Stay tuned. In the mean time, read our Possible Futures Series. If you have thoughts on what you'd like to see from the event, comment below. 1. Nobody Owns Our Techno-Future: https://lnkd.in/eM62Gknh 2. A Bus Model For Global, Human-Centered Education: https://lnkd.in/epXMiuNB 3. An Internet for Our Elders: https://lnkd.in/eK2Z__eC 4. Closure for Families of the Missing: https://lnkd.in/e_GErxQZ 5. Decentralized, Locally-Tailored Technology: https://lnkd.in/eDdef9ts

Jan. 9, 2025

Re: [nexa] In a mirror

by Giuseppe Attardi

Ho trovato interessante questo scambio dialettico. Devo dire che mi trovo d’accordo sulle risposte di Alfredo ed anche sulle critiche all’impostazione di alcuni dei ragionamenti di Giacomo, quando sembrano violare principi logici per trarre determinate conclusioni. Ci terrei solo a puntualizzare due cose: 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante possibili applicazioni. Gran parte delle critiche riguardano appunto i chatbot (allucinazioni, superficialità, ecc.). I LM sono decisamente una tecnologia neutra, non sono progettati per applicazioni specifiche e di per sé non hanno mai fatto male a nessuno, né possono farlo: la loro capacità si limita a predire la prossima parola di un testo. 2. Non è vero che i LLM sono stati concepiti per ingannare, in particolare per superare il Turing test, che si basa su ingannare quacuno di essere un umano. Il test di Turing è solo uno dei tanti disponibili per valutarne le prestazioni dei chatbot, in mancanza di meglio. È un test indiretto, assumendo che un chatbot sia migliore se usa un LLM migliore: il vero test dei LM sarebbe la perplexity, che però non è molto efficace. Anche se la confusione nel pubblico tra LLM e chatbot è diffusa, inviterei a usare il termine chatbot in una lista di persone più esperte come questa. — Beppe PS. Mentre per allenare gli LLM si usano miliardi di testi e risorse di calcolo cospicue, un chatbot si ottiene tipicamente con tecniche di Reinforcement Learning a partire da un LLM usando un dataset molto più ridotto. Il RL cerca di massimizzare la soddisfazione dell’interlocutore, piuttosto che l’accuratezza delle risposte. Questo ne spiega anche tecnicamente i limiti. Comunque la tecnologia dei chatbot sta facendo progressi continui rispetto al 2022, e questi limiti variano nel tempo. > On 8 Jan 2025, at 23:03, nexa-request(a)server-nexa.polito.it wrote: > > Subject: [nexa] ***SPAM*** Re: In a mirror > Message-ID: <292EB2C497454975AC47C9108A0C6626@Bregnip2> > Content-Type: text/plain; charset="utf-8" > > Ciao, Giacomo. > > > > Riproviamo: > > > > 1. > >>> La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. > > > > La tecnologia non è "una": > > - La tecnologia neutrale è neutrale, ecc., quindi sì; > > - La tecnologia "di guerra", ...ha già l'uso definito fin dal'inizio (e non c'è inganno). > > > > 2. > >>> Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. > > > > Non ritengo che siano "di guerra" (o, almeno, non concepiti come tali; correggimi se sbaglio), quindi sì. > > [Dal seguito, vedo che li consideri veramente pericolosi, ma ritengo che sia una percezione ...gonfiata.] > > > > 3. > >>> La tecnologia nel suo complesso non è MAI neutrale > > > > NON puoi dire che NON sia neutrale la tecnologia del bastone per il vecchietto, che può essere usato anche per malmenare il medesimo... > > Se fai l'esempio della mina antiuomo e della bomba atomica, parti da premessa di parte, e quindi sbagliata (si chiama ragionamento "circolare"; lo fanno ad es. i credenti). > > > > 4. > >>> La prima affermazione è facile da falsificare per costruzione: è sufficiente elencare le diverse tecnologie progettate esplicitamente per nuocere, dalla mina antiuomo alla bomba atomica. > > > > La tecnologia "di guerra" sappiamo che esiste; ma non puoi estendere l'affermazione a tutta la tecnologia. > > La locuzione "tecnologia nel suo complesso" è volutamente ingannevole (a cominciare da te stesso...), perché ti permette di fare l'esempio che conviene a te, deviando / deragliando dal discorso che si faceva. > > > > 5. > >>> Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate (e tanto più quelle più complesse) sono politicamente orientate. > > > > Posso essere d'accordo che le tecnologie più complesse non nascano nel giardino di casa (anche se ci sono esempi di garage...), ovvero che ci siano di frequente grossi interessi in ballo fin dall'inizio, ma -- di nuovo -- c'è l'interesse del venditore e quello del predatore, e non sono la medesima cosa. > > E tutto il mio discorso verteva sul fatto che il progresso tecnologico (sottinteso "positivo") può essere girato a vantaggio (predatorio) di qualcuno, e anzi che la cosa avviene praticamente sempre, anche quando la tecnologia nasce neutrale (cfr. l'esempio del bastone del vecchietto). > > > > 6. > >>> Io affermo soltanto: > > Internet è sin dalla sua ideazione un'arma, progettata per garantire l'esecuzione di un contrattacco nucleare durante la guerra fredda. > > Si è poi evoluta in un diverso tipo di arma, molto più offensiva. > > > > Internet è nata (in ambito militare perché lì ci sono i soldi) per costruire una rete "resiliente" (che serve anche per i disastri naturali, oltre che per aspetti militari). E il web è nato con fini non militari (ed è il web che viene usato "male"; la rete di base è veramente neutra, ...salvo quando il venditore se ne approfitta). > > > > 7. > >>> Anche un coltello può essere progettato per essere usato esclusivamente a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. > > Può ad esempio essere progettato per spezzarsi se sottoposto ad una minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile per accoltellare chicchessia pur essendo ottimo per tagliare la carne lungo la lama. > > > > Se fai così, a parte il costo, poi non lo puoi usare per svitare una vite... Il coltello è uno strumento multiuso. > > > > 8. > >>> Per contro, un coltello militare può essere progettato per lacerare i tessuti, producendo codette interne per un più rapido dissanguamento del nemico. > > > > Qui niente da dire. MA SI VEDE: non c'è l'inganno predatorio di farti vedere il coltello da pasto, e poi tagliarti la gola. > > Sai perché i mancini erano così odiati, in passato? Perché ti salutavano con la destra, a mostrare che erano disarmati, e ti infilavano un pugnale in pancia usando la sinistra. > > Il punto non era portare il pugnale, era l'inganno di tenerlo con l'altra mano rispetto a quella che porgeva il saluto. > > > > 9. > >>> Dunque, anche se possiamo usare la nostra fantasia per immaginare un coltello veramente neutrale, ogni coltello reale facilita o impedisce determinati usi, avendo effetti politici concreti. > > > > Un coltello reale "permette" altri usi (e la cosa è positiva); e la malvagità non sta mai nel coltello, quando l'uso è malvagio. > > > > 10. > >>> I LLM NON sono neutrali. > > Per tornare alla questione sollevata dalla Professoressa Vallor, sebbene esistano molti usi potenzialmente utili per le tecniche di programmazione statistica adottate anche per realizzare le "AI generative" (di cui gli LLM di cui parliamo sono un esempio), queste tecnologie sono intrinsecamente e fondativamente politicamente orientate. > > Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti hanno come obiettivo minimo superare il test di Turing. > > > > Superare il test di Turing è un legittimo obiettivo scientifico. Però inganni più il sempliciotto che non altri (e, se al posto del termine "ingannare", usi "sembrare a", sappi che c'è un intero libro che spiega in dettaglio come costruire una macchina che "appaia" come cosciente, ...come se apparirlo fosse un valido risultato, il che ritengo non sia). > > > > 11. > >>> Il test di Turing consiste, temo urga ricordarlo anche qui, nell'ingannare uno o più esseri umani sulla natura della sorgente dei dati sottoposti, spingendo le vittime ad attribuirli erroneamente ad un essere umano. > > > > V. sopra. > > > > 12. > >>> I creatori di un LLM conversazionale vincono questo "imitation game" se persone ignare attribuiscono intelligenza al loro software, e questi software sono progettati e continuamente ottimizzati esattamente per questo obiettivo. > > > > I creatori di un LLM adottano per "l'intelligenza" una "scorciatoia statistica", ingannando per primi se stessi (parlo di scienza / tecnologia); POI, qualcuno trova interessante ingannare NON in termini scientifici, ma di altro genere. E si torna al punto di partenza. > > > > La scienza -- come conoscenza -- è sempre buona in sé (sapere di più è meglio di sapere di meno); peccato che sapere di più da parte di certa gente possa diventare un serio pericolo per altri. > > Si tratta di una problematica di fondo molto seria, ...ma non diamone la colpa al coltello. Se anche fosse un problema generale, ovvero se tutta la scienza / tecnologia nascondesse un pericolo (che di fatto nasconde, in presenza di predatori), di certo non potremmo spegnere i cervelli di quei pochi che ancora lo usano... > > > > 13. > >>> Obiettivo che è estremamente specifico: ingannare esseri umani affinché confondano la macchina con un altro essere umano. > > > > Tu ci vedi una malignità che io non ci vedo. DI CERTO, mi serve che forniscano un prodotto simile a quello di un umano (e per i sempliciotti è così), perché altrimenti funzionerebbe come le vecchie traduzioni automatiche, che dovevi rieditare perché grossolane. > > > > 14. > >>> Per questa semplice ragione, le "AI generative" (e gli LLM di cui parliamo in particolare) possono essere usate SOLO per ingannare esseri umani. > > > > Se scrivi "sembrare a" gli togli quell'aura di malignità che fa solo gioco al tuo discorso, senza essere vera in origine. > > > > 15. > >>> Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate a costo di miliardi di dollari ed enormi quantità di energia. > > > > C'è un grosso valore economico nell'ottenere risultati automatici (pensa a uno spreadsheet); in questo caso "l'inganno originario" sta nella natura del prodotto, ma se l'inganno sia benigno o maligno non viene da come è fatto il prodotto, ma per che cosa e come lo usi. > > > > 16. > >>> Prendiamo, di nuovo (...) il "riassuntino" che un LLM ha fatto del discorso della Professoressa Vallor. > > Omette completamente aspetti fondamentali della metafora che propone su cui la Professoressa si era giustamente soffermata a lungo (omissis). > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi dell'intervento". Ingannato sulla natura di quell'output, non prodotto da una mente intelligente che abbia compreso l'intervento, ha perpetuato l'inganno a sua volta sulla lista. > > > > Qui c'è da dire innanzitutto che l'inganno NON era affatto voluto. Ovvero che non stiamo parlando del problema "politico". Qui stiamo parlando ancora della "tecnica imperfetta" che non ha ingannato chi conosce il problema, e ha ingannato qualcun altro. ACCADE sempre, nel mondo del commercio. E qui, non è neanche un inganno per far male o danni, ma semplicemente un'imperfezione tecnica che qualcuno nota e qualcuno no. > > Ovvero,stai tirando il ragionamento per la giacchetta dove non c'entra ("inconferente", direbbero i legulei). > > Devi stare attento, con il linguaggio... (pensa che una tonnellata di filosofi ebeti hanno discusso per millenni di nulla / non-essere, dimenticando che la negazione appartiene solo ai linguaggi, e non all'ontologia -- "non gatto" ha senso insiemistica e tassonomia biologica, non nella realtà -- quando l'ambito del discorso era proprio ...l'ontologia). C'è ingannare e ingannare; da "sembrare a" a "fottere". E NON sono la stessa cosa... > > > > 17. > >>> Se fossimo su twitter, la chiameresti misinformazione. > > Se Guido fosse russo, la chiameresti disinformazione. > > Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad ingannare sé stesso sul tempo necessario a partecipare al dibattito in cui si inserisce il libro / intervento della Professoressa Vallor. > > > > A me sembra solo overlooking (e magari aveva ragione Guido -- de minimis non curat praetor -- se "l'inganno" era della Vallor che dimenticava il tema socio-predatorio per fare un bel discorsino tecnico; qui sono io che la butto in caciara, perché non ho guardato il video). > > Ci sono discorsi importantissimi in letteratura, o in seghine mentali scientifiche, che poi all'atto pratico contano ben poco. > > > > 18. > >>> Ma tutti ricondurrebbero la responsabilità a Guido (vittima inconsapevole che arriva a difendere i propri carnefici) o, al massimo, al software che ha "sfortunatamente" prodotto l'output "errato". > > Dovremmo invece ricondurla a coloro che hanno programmato quel software per ingannare Guido sulla sua abilità di comprendere un testo e produrne una "sintesi". > > > > V. sopra. Stai facendo di un termitaio una piramide egizia. > > > > 19. > >>> Sia che ciò avvenga per ragioni economiche o politiche (che poi... anche l'economia è politica...). > > > > Economia e politica, nel discorso che facevo io (predazione / sfruttamento / manipolazione) sono la stessa faccia della stessa medaglia (l'altra faccia essendo la scienza / tecnologia). > > La distinzione fondamentale fra "strumento" e "uso" (che solo in casi specifici -- bomba atomica -- coincidono; poi, anche per la bomba c'è stato l'utilizzo "deterrente" per evitare di usarla, che è un po' l'esempio duale di quanto sostengo). > > > > 20. > >>> Più in generale, una tecnologia progettata e realizzate per ingannare le persone può essere utilizzata solo per ingannare persone. > > > > V. il discorso sulla parola "ingannare". Non fare sillogismi sul "non-essere", senza pensare alle alternative semantiche in campo (alcune e diverse per "ingannare", solo semantica nulla per il il non-essere). > > > > 21. > >>> E' letteralmente un'arma. > > > > Fai gli stessi sillogismi di certa gente sui social: o sbagliano le premesse, o sbagliano le inferenze, o trascurano le semantiche. Tutto hai fatto (in modo veniale); tutti e tre gli errori; ma c'è gente (cfr. i filosofi ebeti di cui sopra) che gli errori li fa ...monumentali. > > Qualche volta c'è solo un "errore" (V. Guido), non un "inganno". E magari è stato meglio il suo errore che non l'inzuccarsi tanto sul discorso della Vallor. > > > > 22. > >>> Il fatto che persone lontanissime dall'idea di rivolgere un'arma controllata da terzi contro sé stessi, la puntino quotidianamente alla propria testa, dovrebbe rendere evidente la sua potenza e pericolosità. > > > > Out of the blue ...cosa? > > Che ci sono imbecilli che credono alla generatività statistica? > > C'è gente che ha creduto alle .com, ai subprime, prima ancora ai tulipani, ancor oggi ai bitcoin. > > Gente che ha votato Trump o Meloni (per altri, gente che ha votato Conte e Di Maio). Ha sempre e soltanto ragione Cipolla: è lo stupido il principale problema... > > > > 23. > >>> Inoltre, paragonare tecnologie semplici come un coltello o un martello ad un LLM è sbagliato anche per il semplice fatto che costo e complessità realizzativa determinano una barriera all'ingresso tale da determinare intrinsecamente un orientamento politico: solo un élite molto ricca può permettersi di provare a costruirli, e lo farà solo se vi intravede un'utilità per sé nettamente superiore ai rischi. > > > > Qui entriamo nel discorso -- socio-economico-politico prima ancora di cominciare -- della ricchezza usata per incrementare ricchezza. Io, nel merito, distingui i ricchi onesti dai ricchi ladri. E mi preoccupo più della distinzione fra onesto e ladro, che non di quella fra ricco e povero. > > L'occasione (ricchezza) fa l'uomo ladro, ma non si tratta di un'identità (ovvero, finiscila con i proclami vetero-socialisti). > > > > 24. > >>> Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. > > > > E, per le mie risposte, ritengo che tu abbia distorto in vari modi i termini del tema "inganno" (che ha semantica, e anche origine, varia), quando poi in realtà il discorso verteva su predazione / sfruttamento / manipolazione, dove alla fin fine al predatore va bene qualunque strumento, per perseguire i suoi scopi (zucchine, denaro, coltelli, bombe, ...). > > > > 25. > >>> Sono d'accordo che gli intenti "predatori" di molti esseri umani sono socialmente dannosi e vadano contenuti. > > > > Ma va...? > > > > 26. > >>> E sono anche d'accordo che tali intenti siano alla base di molti dei problemi di cui discutiamo speso in questa lista. > > > > Nulla da eccepire. > > > > 27. > >>> Tanto d'accordo che ho provato a spiegarti COME tali intenti siano fondativi e costituenti degli LLM, così come di molte altre armi. > > > > E qui si torna a sopra. > > > > 28. > >>> La tecnologia, spero di averti mostrato, è sempre una espressione umana politicamente orientata, intrinsecamente, ancora prima che venga effettivamente utilizzata. > > > > Prova a spiegarlo a chi (Edward Jenner) ha inventato il vaccino, ...quanto deve essersi rivoltato nella tomba, con il Covid!! > > > > 29. > >>> Gli LLM conversazionali esistono per ingannare le menti, esattamente come le mine antiuomo esistono per uccidere e mutilare i corpi. > > > > V. sopra, again. > > > > 30. > >>> Non possono essere usate per niente altro. > > > > Io ho trovato utilissimo chatGPT per contestare un'affermazione demente, tanto quanto l'ho trovato ondivago su altri temi, scolastico in altri, ...creativo mai. > > E' uno strumento, e lo usi come più conviene (io mi sono rifiutato di progettare mine antiuomo, dove l'obiettivo era chiaro e senza alternative); se poi sei uno stronzo (tu generico, ovviamente), ecco che le cose girano al male. > > > > 31. > >>> E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che molte persone (anche colte e intelligenti) finiscono per credersi e dichiararsi poco diverse da questi software. > > > > Non solo la madre dei fessi è sempre incinta, ma anche quella dei superficiali, dei troppo semplici (anche se di essi è il regno dei cieli), dei disattenti (io ho il problema opposto: troppa gente parla come se fosse un ripetitore statistico...). > > > > 32. > >>> Allo stesso modo possiamo creare software emancipatori e socialmente utili. Io ci provo da tempo sebbene sia una lotta impari. > > > > Il problema è sempre il vecchio "panem et circenses" (oppure la miopia manageriale): io ho provato a liberare la democrazia soffocata da mille interferenze di questi tempi, tramite uno strumento tecnico, ma la gente non ama alzare il deretano dalla sedia e rimboccarsi le maniche per diventare libera (e lo scriveva Tocqueville già parecchi decenni fa); preferisce godere del poco che ha; non ha la "fame" di chi non ha nulla, e lotta. > > > > 33. > >>> Spero vivamente di essere stato finalmente più chiaro (omissis) > > > > Non ti incazzare: ...sei stato solo verboso; se ti fossi messo in concreto di fronte a uno specchio :-) avresti visto che sai girare bene i discorsi (anche troppo), ma ti lasci ingannare dalle parole. > > > > Abbracci, > > A > > > > > > ----- Original Message ----- > From: Giacomo Tesio > To: nexa(a)server-nexa.polito.it > Sent: Wednesday, January 08, 2025 12:26 PM > Subject: Re: [nexa] In a mirror > > > Mi spiace Alfredo per averti dato l'impressione di volerla buttare in > caciara, ti assicuro che credevo le mie parole fossero chiare e persino > autoevidenti, ovvie... tanto da temere di annoiare la lista. > > Riproviamo. > > > A quanto ho capito del tuo ragionamento, tu fai due affermazioni > distinte, che ritieni entrambe vere: > > 1. La tecnologia è neutrale, tutto dipende dall'uso che se ne fa. > 2. Gli LLM sono neutrali, dunque tutto dipende dall'uso che se ne fa. > > Io ritengo entrambe le affermazioni false, ovvero non rispondenti alla > realtà. Permettimi di (ri)spiegarti il perché. > > > # La tecnologia nel suo complesso non è MAI neutrale > > La prima affermazione è facile da falsificare per costruzione: è > sufficiente elencare le diverse tecnologie progettate esplicitamente > per nuocere, dalla mina antiuomo alla bomba atomica. > > > Se riduciamo l'affermazione a "esistono anche tecnologie neutrali", > dimostrarlo diventa davvero difficile: tutte le tecnologie menzionate > (e tanto più quelle più complesse) sono politicamente orientate. > > > Internet è sin dalla sua ideazione un'arma, progettata per garantire > l'esecuzione di un controattacco nucleare durante la guerra fredda. > Si è poi evoluta in un diverso tipo di arma, molto più offensiva [1]. > > > Anche un coltello può essere progettato per essere usato esclusivamente > a tavola per tagliare la cotoletta di pollo o per tagliare un tiramisù. > Può ad esempio essere progettato per spezzarsi se sottoposto ad una > minima pressione lungo l'asse di impugnatura, rendendolo inutilizzabile > per accoltellare chicchessia pur essendo ottimo per tagliare la carne > lungo la lama. > > Per contro, un coltello militare può essere progettato per lacerare i > tessuti, producendo codette interne per un più rapido dissanguamento > del nemico. > > Dunque, anche se possiamo usare la nostra fantasia per immaginare un > coltello veramente neutrale [2], ogni coltello _reale_ facilita o > impedisce determinati usi, avendo effetti politici concreti. > > > # I LLM NON sono neutrali. > > Per tornare alla questione sollevata dalla Professoressa Vallor, > sebbene esistano molti usi potenzialmente utili per le tecniche di > programmazione statistica adottate anche per realizzare le "AI > generative" (di cui gli LLM di cui parliamo sono un esempio), > queste tecnologie sono intrinsecamente e fondativamente > politicamente orientate. > > Lo sono sin dalla loro ideazione e progettazione, laddove i progettisti > hanno come obiettivo minimo superare il test di Turing. > > Il test di Turing consiste, temo urga ricordarlo anche qui, > nell'ingannare uno o più esseri umani sulla natura della sorgente > dei dati sottoposti, spingendo le vittime ad attribuirli _erroneamente_ > ad un essere umano. > > I creatori di un LLM conversazionale vincono questo "imitation game" se > persone ignare attribuiscono intelligenza al loro software, e questi > software sono progettati e continuamente ottimizzati esattamente per > questo obiettivo. > > > Obiettivo che è estremamente specifico: ingannare esseri umani affinché > confondano la macchina con un altro essere umano. > > > Per questa semplice ragione, le "AI generative" (e gli LLM di cui > parliamo in particolare) possono essere usate SOLO per ingannare > esseri umani. > > Perché è la loro ragion d'essere, l'obiettivo per cui sono ottimizzate > a costo di miliardi di dollari ed enormi quantità di energia. > > > > Prendiamo, di nuovo (mi scuserà Guido, ma è veramente un fantastico > esempio di pessimo uso di un LLM che può apparire ragionevole all'utente > ignorante ormai succube della propaganda), il "riassuntino" che un LLM > ha fatto del discorso della Professoressa Vallor. [3] > > Omette completamente aspetti fondamentali della metafora che propone su > cui la Professoressa si era giustamente soffermata a lungo, riducendola > ad affermazione ovvia, quanto trita e ritrita, sulle AI che amplificano > e distorcono i dati umani da cui derivano. > > La Professoressa ha detto altro! > > Ha usato una metafora abbastanza attinente da un punto di vista tecnico > per spiegare _come_ e _perché_ i software programmati statisticamente > elaborano i dati in input e quelli sorgente compressi al proprio > interno. > > E questa è solo una delle omissioni e banalizzazioni che l'output del > LLM ha effettuato. Non ultima (guarda caso) l'omessa esclusione delle > "AI generative" dalle tecnologie che potrebbero essere impiegate > in modo socialmente utile. > > > Eppure Guido, in assoluta buona fede, l'ha proposto come "sintesi > dell'intervento". Ingannato sulla natura di quell'output, non prodotto > da una mente intelligente che abbia compreso l'intervento, ha > perpetuato l'inganno a sua volta sulla lista. > > Se fossimo su twitter, la chiameresti misinformazione. > Se Guido fosse russo, la chiameresti disinformazione. :-D > > Guido stesso, in retrospettiva, potrebbe riconoscere di aver provato ad > ingannare sé stesso sul tempo necessario a partecipare al dibattito in > cui si inserisce il libro / intervento della Professoressa Vallor [4]. > > Ma tutti ricondurrebbero la responsabilità a Guido (vittima > inconsapevole che arriva a difendere i propri carnefici [5]) o, al > massimo, al software che ha "sfortunatamente" prodotto l'output > "errato". > Dovremmo invece ricondurla a coloro che hanno programmato quel software > per ingannare Guido sulla sua abilità di comprendere un testo e > produrne una "sintesi". > > Sia che ciò avvenga per ragioni economiche o politiche. > (che poi... anche l'economia è politica...) > > > > Più in generale, una tecnologia progettata e realizzate per ingannare > le persone può essere utilizzata _solo_ per ingannare persone. > > E' letteralmente un'arma. > > > Il fatto che persone lontanissime dall'idea di rivolgere un'arma > controllata da terzi contro sé stessi, la puntino quotidianamente > alla propria testa, dovrebbe rendere evidente la sua potenza e > pericolosità. > > > Inoltre, paragonare tecnologie semplici come un coltello o un > martello ad un LLM è sbagliato anche per il semplice fatto che costo e > complessità realizzativa determinano una barriera all'ingresso tale > da determinare intrinsecamente un orientamento politico: solo un élite > molto ricca può permettersi di provare a costruirli, e lo farà solo > se vi intravede un'utilità per sé nettamente superiore ai rischi. > > > > Per queste ragioni, ritengo che le affermazioni 1 e 2 siano false. > > > Sono d'accordo che gli intenti "predatori" di molti esseri umani sono > socialmente dannosi e vadano contenuti. > > E sono anche d'accordo che tali intenti siano alla base di molti > dei problemi di cui discutiamo speso in questa lista. > > > Tanto d'accordo che ho provato a spiegarti COME tali intenti siano > fondativi e costituenti degli LLM, così come di molte altre armi. > > > La tecnologia, spero di averti mostrato, è _sempre_ una espressione > umana politicamente orientata, intrinsecamente, ancora prima > che venga effettivamente utilizzata. > > > Gli LLM conversazionali esistono per ingannare le menti, esattamente > come le mine antiuomo esistono per uccidere e mutilare i corpi. > > Non possono essere usate per niente altro. > > > E sono talmente efficaci nell'ingannare e nell'alienare l'uomo, che > molte persone (anche colte e intelligenti) finiscono per credersi > e dichiararsi poco diverse da questi software. > > > > Allo stesso modo possiamo creare software emancipatori e socialmente > utili. Io ci provo da tempo [6] sebbene sia una lotta impari. > > > Spero vivamente di essere stato finalmente più chiaro (di certo > Maurizio, non sono stato conciso :-D), ma nel caso aveste ulteriori > dubbi, forse potremmo continuare in privato per non tediare la lista. > > > Giacomo > > [1] > https://encrypted.tesio.it/2018/07/31/the-web-is-still-a-darpa-weapon.html > i sono stati (e vi sono) diversi tentativi di rimuoverne (o > mitigarne) gli aspetti offensivi e militari, ma sono troppo deboli. > > Si potrebbe dire che, di fatto, è come se stessimo conversando > amabilmente in una piazza cosparsa di mine antiuomo, sforzandoci di > non guardarle, di ignorare chi le indica e persino di arrestare chi > prova a rimuoverle. > > [2] Ah se esistessero coltelli da cucina VERAMENTE NEUTRALI! > Coltelli da cucina automaticamente impegnati a mantenere > l'equilibrio fra bene e male! Quanti miliardari in meno! :-D > https://assortedmeeples.com/true-neutral-dnd-alignment-guide > > [3] Per chi volesse rileggerlo: > https://server-nexa.polito.it/pipermail/nexa/2025-January/053758.html > > [4] come, in fondo, ha delicatamente provato a fargli notare Alberto > https://server-nexa.polito.it/pipermail/nexa/2025-January/053759.html > > [5] "Ebbene: un riassunto-traduzione come quello che ChatGPT ha fatto > del transcript della Prof. Vallor qualche anno fa ce lo sognavamo, > credimi." > https://server-nexa.polito.it/pipermail/nexa/2025-January/053770.html > > NOTE to SELF: "approfondire cosa bevessero/mangiassero prima di > andare a dormire, che nemmeno l'impepata di cozze..." :-D > > [6] https://jehanne.h--k.it/ > https://monitora-pa.it/ > https://code.tesio.it/p/self-hosting/doh.cgi/file?name=POLITICS.txt&ci=tip > https://monitora-pa.it/LICENSE.txt

Jan. 9, 2025

Back to Fedro

by Guido Vetere

> Caro ingegnosissimo (technikòtate) Theuth, una cosa è la capacità di > generare ciò che riguarda l'arte (techne), un'altra giudicare se coloro che > la useranno ne avranno utilità oppure danno. E così ora tu, per ben volere > nei confronti delle lettere di cui sei il padre, hai detto il contrario di > quello che può provocare. Perché essa produrrà oblio nelle anime di coloro > che imparano: essi fidandosi della scrittura senza cura della memoria, > richiameranno alla memoria dall'esterno, attraverso segni estranei, e non > più dall'interno, da se stessi: tu non hai scoperto un farmaco per la > memoria ma per far ricordare. A coloro che imparano dai una apparenza di > sapienza e non la verità; grazie a te essi, avendo udito molto senza > insegnamento, crederanno di essere molto dotti senza per lo più esserlo; > sarà difficile stare con loro, presuntuosi di sapienza (doxòsophoi) > piuttosto che sapienti. > (Platone, Fedro) Nonostante questo monito rivolto da Thamus (a.k.a. Ammon, Re d'Egitto) al tecnocrate Theuth, inventore della scrittura, sono stati vergati e poi stampati centinaia di milioni di libri, e ancora oggi se ne pubblicano più di due milioni all'anno. Ammon sbagliava? Il punto non è questo. Il punto è che il Re avrebbe fatto comunque bene a finanziare il progetto di una biblioteca a prova di incendio, visto che oggi ci piacerebbe molto avere ancora quella di Alessandria. Un po' di senso pratico, insomma ... Cordialità G.

Jan. 9, 2025