- nexa - server-nexa.polito.it

63rd ISODARCO Course
by Alessandro Pascolini Feb. 17, 2025

Feb. 17, 2025

Dear Friend, Please find enclosed information relative to the 63rd Course of the International School on Disarmament and Research on Conflicts (ISODARCO) (www.isodarco.it) I would deeply appreciate your passing this information to your friends and colleagues and forwarding it to your mailing lists. Thank you for your collaboration and best personal regards. Carlo Schaerf (Director of the School) 63rd Course of the International School on Disarmament and Research on Conflicts (ISODARCO) First announcement Subject: Peace and Stability in the Age of Militarized AI and Cyber-conflicts: New Challenges and Risks The increasing militarization of advanced computing technologies raises new risks for peace, stability, and international security. The 63rd ISODARCO Course will examine these problems, focusing on AI decision-support systems for battlefield operations, autonomous weapons systems, AI for nuclear early warning, cyber vulnerabilities and security, the spillover of cyber conflicts to other warfare domains, the accelerating pace of AI-powered armed hostilities and the related problem of preserving human control on warfare. Venue: Volterra (Pisa, Italy) Dates: 6-13 August 2025 Information on the school and application forms: www.isodarco.it Course Directors: Diego Latella (ISODARCO & Senior Researcher (ret.) CNR-ISTI, Pisa), Gian Piero Siroli (Università di Bologna, INFN & CERN), Guglielmo Tamburrini (ISODARCO & Università di Napoli Federico II) Lecturers: Daniele Amoroso, Dept. of Law, University of Cagliari, Italy; Peter Asaro, The New School, New York; Marco Gori, Dept. of Information Engineering and Mathematics, University of Siena; Francesca Giovannini, Managing the Atom, HKS, Harvard University; Dario Guarascio, Dept. of Economics and Law, Sapienza University of Rome; Bart Jacobs, Radboud University, Nijmegen, The Netherlands; Jingdong Yuan, Stockholm International Peace Research Institute, SIPRI, Sweden; Pavel Karasev, National Assoc. for Inter. Information Security NAIIS – ?????, Moscow;vJonathan Kwik, Asser Institute, The Hague, The Netherlands; Herb Lin, Center for Int’l Security & Cooperation, Hoover Institution, Stanford University; vMaria Vanina Martinez, Artificial Intelligence Res. Institute (IIIA-CSIC), Barcelona; Alice Saltini, James Martin Center for Nonproliferation Studies, Monterey, USA; Danielle Yeow, Lead Cyber Law & Governance, Centre for Int. Law, Singapore Nat. Univ. This information is sent out twice a year. If you wish to be cancelled from our mailing list, please send a message, with "cancel" in the subject line, to info(a)isodarco.it from the same e-mail address at which you received this message.

1 0

Elon Musk’s Team Now Has Full Access to Treasury’s Payments System
by Daniela Tafani Feb. 17, 2025

Feb. 17, 2025

Treasury Secretary Scott Bessent gave Mr. Musk’s representatives at the so-called Department of Government Efficiency a powerful tool to monitor and potentially limit government spending. By Andrew Duehren, Maggie Haberman, Theodore Schleifer and Alan Rappeport Feb. 1, 2025 Treasury Secretary Scott Bessent gave representatives of the so-called Department of Government Efficiency full access to the federal payment system late on Friday, according to three people familiar with the change, handing Elon Musk and the team he is leading a powerful tool to monitor and potentially limit government spending. The new authority follows a standoff this week with a top Treasury official who had resisted allowing Mr. Musk’s lieutenants into the department’s payment system, which sends out money on behalf of the entire federal government. The official, a career civil servant named David Lebryk, was put on leave and then suddenly retired on Friday after the dispute, according to people familiar with his exit. [...] The Department of Government Efficiency, or DOGE, is not a government department, but a team within the administration. It was put together at Mr. Trump’s direction by Mr. Musk to fan out across federal agencies seeking ways to cut spending, reduce the size of the federal work force and bring more efficiency to the bureaucracy. Most of those working on the initiative were recruited by Mr. Musk and his aides. Similar DOGE teams have begun demanding access to data and systems at other federal agencies, but none of those agencies control the flow of money in the way the Treasury Department does. Mr. Bessent granted access to the payments system to a handful of staff members affiliated with DOGE, including Tom Krause, the chief executive of a Silicon Valley company, Cloud Software Group, according to one of the people familiar with the change. Access to the system has historically been closely held because it includes sensitive personal information about the millions of Americans who receive Social Security checks, tax refunds and other payments from the federal government. A Treasury Department spokesman, a spokeswoman for DOGE and the White House did not immediately respond to requests for comment. In a process typically run by civil servants, the Treasury Department carries out payments submitted by agencies across the government, disbursing more than $5 trillion in fiscal year 2023. Former officials said the onus was on individual agencies to ensure their payments are proper, not the relatively small staff at the Treasury Department, which is responsible for making more than one billion payments per year. Mr. Lebryk, the career Treasury official who retired on Friday, had resisted requests from members of Mr. Trump’s transition team for access to the data last month. After Mr. Trump took office, the White House indicated that he should be removed from the job and, according to a person familiar with the matter, Mr. Bessent suggested putting him on leave. [continua qui: <https://www.nytimes.com/2025/02/01/us/politics/elon-musk-doge-federal-payme…>]

5 5

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale
by Giuseppe Attardi Feb. 17, 2025

Feb. 17, 2025

2 1

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale
by Guido Vetere Feb. 17, 2025

Feb. 17, 2025

molto interessante, grazie, ma secondo me è un esempio che depone contro la tua tesi :-) se conosci la semantica dei numeri e degli operatori, non ti serve alcun tipo di apprendimento da esempi: L uguale o più grande di F, ed F è uguale o più grande di V, quindi L è uguale o più grande di V. i bambini delle elementari lo intuiscono geometricamente a prima vista il motivo per cui devi ricorrere a esempi e rinforzi è proprio il fatto che la rete neurale non ragiona con la semantica del problema, come invece facciamo noi, anche intuitivamente non ti far ingannare dal fatto che la macchina dice cose del tipo: > F is at least as much as V (F ≥ V), so the relation between F and V is F > is greater than or equal to V. perché quelle sono frasi prodotte non su base semantica, ma per imitazione di frasi analoghe a quelle osservate nel training ora non ripetere che 'con la semantica non si sono risolti i problemi, smucinando coi dati invece sì' perché questo può anche essere contingentemente vero, ma non prova nulla buona serata, G. On Fri, 14 Feb 2025 at 18:26, Giuseppe Attardi <attardi(a)di.unipi.it> wrote: > Il modello DeepSeek R1 è stato addestrato a “svolgere ragionamenti" con un > SFT+RL su esempi di ragionamenti logico matematici: è quindi qualcosa di > diverso da un semplice LLM. > Quando si insegna la matematica, un insegnante presenta la teoria (1), poi > mostra la soluzione di alcuni esercizi (2) e poi sottopone gli studenti a > degli esercizi (3) per vedere se hanno capito. > Nel training di modelli con STF+RL si fa qualcosa di simile: > 1 è il training del LLM, acquisizione della conoscenza di base > 2 è il SFT+RL > 3 sono i benchmark di valutazione > > Provo ad illustrarlo con un esempio, per uscire dalla disquisizione > astratta di cosa sia “ragionare”, “comprendere”, ecc. termini antropomorfi > che non sono necessariamente applicabili al caso. > > Prompt: “In the following question assuming the given statements to be > true, find which of the conclusion among the given conclusions is/are > definitely true." > > Statements: > H > F ≤ O ≤ L; F ≥ V < D > > Conclusions: > I. L ≥ V > II. O > D > > The options are: > > A. Only I is true > B. Only II is true > C. Both I and II are true > D. Either I or II is true > E. Neither I nor II is true.” > > Response by o3: > > To solve this problem, let's first clarify the given statements and their > implications: > 1. H > F≤ O≤L > 2. F≥V< D > We need to evaluate the given conclusions: > I. L≥ V > II. O > D > Let's analyze each conclusion: > > Conclusion I: L ≥ V > From the statements: > • F is at least as much as V (F ≥ V), so the relation between F and V is > F is greater than or equal to V. > • L is at least as much as O (O ≤ L), and since F <= 0 <= L, we can say F > <= L. > • So we have F ≥ V and L ≥ O. > Combining all, F ≥ V and L ≥ F leads to L ≥ V. > > Therefore, Conclusion I: L ≥ V is definitely true. > > Conclusion II: 0 > D > From the statements: > • F ≤ O, so O is greater or equal to F. > • D is greater then V (V< D), and we know from the statements F is > greater than or equal to V (F ≥ V) > > However, without definite numerical value or direct inequality comparisons > between O and D, we cannot ascertain that O is greater than D. > Conclusion II: O > D is not definitely true based on the given information. > > Thus, the answer is: > A. Only l is true > ----- > > Ecco un altro esempio dai miei esperimenti sulla generazione di codice per > interrogare tabelle. > > Question: Does the author with the longest name post mainly original > content? > <think> > To determine if the author with the longest name posts mainly original > content, we need to: > > 1. Identify the author with the longest author_name. > 2. Check if this author's type is 'original'. > 3. Verify if the majority of their posts are original. > > Here's the Python function using pandas to perform these steps: > ... > Wait, maybe the problem is that when you group by 'author_name' and then > use 'agg('max')', it's trying to compute the max for each group, but if > 'author_name' is a Categorical, it's not ordered, so the max function > doesn't know which one is the maximum. > So, converting 'author_name' to a string type before grouping would solve > the issue. > So, the function would be: > ... > But again, the problem is that after grouping, the index is reset, so when > you try to filter `original_posts`, it might not have the same index as > `max_author`. > > Wait, no. The `max_author` is the name of the author with the longest > name, and `original_posts` is a DataFrame filtered to only include > 'original' type posts. Then, `max_author_original` is a subset of > `original_posts` where the 'author_name' is equal to `max_author`. > This should work because `max_author` is a string, and it's looking for > that string in the 'author_name' column of `original_posts`. > So, the function should correctly return whether the author with the > longest name posts mainly original content. > > … > Wait, that's a problem. > So, the function needs to handle the case where there are no original > posts. > In that case, the function should return False, because the author with > the longest name does not post original content. > But in the current code, if `original_posts` is empty, > `max_author_original` would also be empty, and accessing > `max_author_original['type']` would throw an error. > So, to fix this, we need to check if `max_author_original` is not empty > before accessing its 'type' column. > So, the function should be modified to: > … > > > > On 14 Feb 2025, at 07:47, Guido Vetere <vetere.guido(a)gmail.com> wrote: > > Beppe, > ma la "spiegazione" della c.d. chain-of-thought si trova sullo stesso > piano epistemico di ciò che intende spiegare, cioè quello della > correlazione, non quello delle causalità. > La differenza è 'striking' e la spiega bene Judea Pearl nel suo "The Book > of Why" (https://en.wikipedia.org/wiki/The_Book_of_Why) > > G. > > On Thu, 13 Feb 2025 at 12:36, Giuseppe Attardi <attardi(a)di.unipi.it> > wrote: > >> Non solo lui, ma gran parte degli studiosi di linguistica della vecchia >> generazione, a partire da Noam Chomsky, sono rimasti indietro di 8 anni. >> Non solo, ma non comprendono la differenza tra i LLM e i chatbot, che >> sono delle applicazioni dei primi, nate inizialmente per gioco: ricorderete >> la storia degli unicorni, prodotta da GPT-2. >> Era un esercizio classico di uso dei LM per generare testo a >> completamento di un prompt. >> >> Ma I chatbot sono un’applicazione specializzata dei LLM, allenata con una >> fase di post-training, con varie tecniche, in primis il RLHF introdotto in >> ChatGPT, per addestrarlo a partecipare a dialoghi, ossia ad accontentare >> gli interlocutori. >> Ma oltre ai chatbot, ci sono mille altre applicazioni dei LLM che non >> sono solo per chiacchierare. >> >> Da allora, la tecnica si è poi ulteriormente evoluta con tre sostanziali >> progressi: >> >> 1. Con l’aumentare della scala dei modelli, sono apparse capacità >> emergenti (emergent abilities), che vanno oltre la banale capacità di >> predire la prossima parola: un fenomeno che si spiega con la teoria dei >> sitemi complessi di Giorgio Parisi: l’applicazione su larga scala di >> semplici funzioni di probabilità dà origine a comportamenti complessi, non >> riducibili alla funzione di partenza >> 2. Si sono raffinate le tecniche di post-processing: SFT e RL basato su >> DPO (Direct Preference Optimizazion) o GRPO (quella usata da DeepSeek R1 >> ecc.) Quest’ultima tecnica accelera l’apprendimento con RL e viene usata >> per insegnare direttamente a effettuare ragionamenti matematici e logici ai >> modelli, senza bisogno di un secondo modello di critica delle risposte come >> in ChatGPT. >> 3. Le capacità apprese dai modelli di grandissime dimensioni possono >> essere “distillate” in modelli più piccoli, mantenendone le capacità >> acquisite. >> >> Quindi i modelli attuali, come GPT-4 o3, DeepSeek R1, Gemini 2.0, ecc., >> fanno cose ben diverse dalla semplice generazione a caso di risposte. >> DeepSeek è particolarmente interessante da osservare, perché riporta >> nella risposta tutte le fasi del suo ragionamento, racchiuse tra i tag >> <think></think>, mentre gli altri modelli li tengono nascosti. >> Si vede chiaramente come svolge il suo ragionamento: propone una prima >> risposta, poi la valuta criticamente, dicendo: “Ah wait. …” e spiegando >> come quella risposta funziona e se ci sono criticità, poi ne genera una >> seconda che risolve quelle criticità e poi ci ragiona sopra di nuovo. >> >> Questo purtroppo in Italia ci è vietato dalla decisione del Garante della >> Privacy che ci ha impedito l’accesso a DeepSeek. >> >> Ma è un passo avanti importante, anche perché rintuzza un’altra critica >> ai modelli ML, la mancanza di trasparenza. >> In questo caso, l’intero processo di ragionamento viene esposto, compresa >> una spiegazione in termini perfettamente comprensibili della ragione della >> risposta. >> >> — Beppe >> >> >> On 13 Feb 2025, at 12:00, nexa-request(a)server-nexa.polito.it wrote: >> >> From: Diego Giorio <dgiorio(a)hotmail.com> >> To: Nexa <nexa(a)server-nexa.polito.it> >> Subject: [nexa] Perché Richard Stallman sbaglia in tema di >> intelligenza artificiale >> Message-ID: >> < >> BN6PR17MB3139F372CA9F7422D383438FBEFF2(a)BN6PR17MB3139.namprd17.prod.outlook.com >> > >> >> Content-Type: text/plain; charset="iso-8859-1" >> >> Ieri è stata una bellissima esperienza. >> >> A titolo personale mi pongo un po' a metà tra l'opinione di Stallman e >> quella di questo articolo, che comunque ritengo giusto segnalare >> >> Buona giornata a tutti >> >> >> >

1 0

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale
by Giuseppe Attardi Feb. 14, 2025

Feb. 14, 2025

2 1

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale
by Guido Vetere Feb. 14, 2025

Feb. 14, 2025

Beppe, il medico che fa una diagnosi per analogia rispetto ai casi che ha osservato, è comunque in grado di spiegare il suo ragionamento sulla base di una teoria. E anche se riproduce 'a orecchio' migliaia di dimostrazioni osservate, è (o dovrebbe essere) in grado di fornire la spiegazione sulla base di assiomi e regole di inferenza. Questo è il patto sociale quando andiamo a farci curare da un laureato in medicina piuttosto che da uno sciamano. La fisica del cervello del medico, e la sua analogia con un LLM, non c'entra nulla: la teoria medica vale in quanto 'oggetto sociale', non come 'campo di forze'. G. On Fri, 14 Feb 2025 at 09:13, Giuseppe Attardi <giuseppe.attardi(a)unipi.it> wrote: > > > On 14 Feb 2025, at 07:47, Guido Vetere <vetere.guido(a)gmail.com> wrote: > > > Beppe, > ma la "spiegazione" della c.d. chain-of-thought si trova sullo stesso > piano epistemico di ciò che intende spiegare, cioè quello della > correlazione, non quello delle causalità. > La differenza è 'striking' e la spiega bene Judea Pearl nel suo "The Book > of Why" (https://en.wikipedia.org/wiki/The_Book_of_Why) > > Certo, perché tu pensi che quando un medico ti spiega la ragione della sua > diagnosi non faccia lo stesso? O un matematico ti presenta una > dimostrazione senza accennare all’intuizione che l’ha portato a concepirla? > Ricordi Ramanujan? > Sono tutte ricostruzioni razionali a posteriori di un processo largamente > inconscio. > > Se pensiamo che l’intelligenza sia solo seguire pedissequamente un > procedimento algoritmico, o l’applicazione meccanica di regole logiche, > abbiamo una scarsa concezione dell’intelligenza. > Del resto sbbiamo provato per 50 a riprodurla pensando che fosse così e > abbiamo fallito. > > — > > G. > > On Thu, 13 Feb 2025 at 12:36, Giuseppe Attardi <attardi(a)di.unipi.it> > wrote: > >> Non solo lui, ma gran parte degli studiosi di linguistica della vecchia >> generazione, a partire da Noam Chomsky, sono rimasti indietro di 8 anni. >> Non solo, ma non comprendono la differenza tra i LLM e i chatbot, che >> sono delle applicazioni dei primi, nate inizialmente per gioco: ricorderete >> la storia degli unicorni, prodotta da GPT-2. >> Era un esercizio classico di uso dei LM per generare testo a >> completamento di un prompt. >> >> Ma I chatbot sono un’applicazione specializzata dei LLM, allenata con una >> fase di post-training, con varie tecniche, in primis il RLHF introdotto in >> ChatGPT, per addestrarlo a partecipare a dialoghi, ossia ad accontentare >> gli interlocutori. >> Ma oltre ai chatbot, ci sono mille altre applicazioni dei LLM che non >> sono solo per chiacchierare. >> >> Da allora, la tecnica si è poi ulteriormente evoluta con tre sostanziali >> progressi: >> >> 1. Con l’aumentare della scala dei modelli, sono apparse capacità >> emergenti (emergent abilities), che vanno oltre la banale capacità di >> predire la prossima parola: un fenomeno che si spiega con la teoria dei >> sitemi complessi di Giorgio Parisi: l’applicazione su larga scala di >> semplici funzioni di probabilità dà origine a comportamenti complessi, non >> riducibili alla funzione di partenza >> 2. Si sono raffinate le tecniche di post-processing: SFT e RL basato su >> DPO (Direct Preference Optimizazion) o GRPO (quella usata da DeepSeek R1 >> ecc.) Quest’ultima tecnica accelera l’apprendimento con RL e viene usata >> per insegnare direttamente a effettuare ragionamenti matematici e logici ai >> modelli, senza bisogno di un secondo modello di critica delle risposte come >> in ChatGPT. >> 3. Le capacità apprese dai modelli di grandissime dimensioni possono >> essere “distillate” in modelli più piccoli, mantenendone le capacità >> acquisite. >> >> Quindi i modelli attuali, come GPT-4 o3, DeepSeek R1, Gemini 2.0, ecc., >> fanno cose ben diverse dalla semplice generazione a caso di risposte. >> DeepSeek è particolarmente interessante da osservare, perché riporta >> nella risposta tutte le fasi del suo ragionamento, racchiuse tra i tag >> <think></think>, mentre gli altri modelli li tengono nascosti. >> Si vede chiaramente come svolge il suo ragionamento: propone una prima >> risposta, poi la valuta criticamente, dicendo: “Ah wait. …” e spiegando >> come quella risposta funziona e se ci sono criticità, poi ne genera una >> seconda che risolve quelle criticità e poi ci ragiona sopra di nuovo. >> >> Questo purtroppo in Italia ci è vietato dalla decisione del Garante della >> Privacy che ci ha impedito l’accesso a DeepSeek. >> >> Ma è un passo avanti importante, anche perché rintuzza un’altra critica >> ai modelli ML, la mancanza di trasparenza. >> In questo caso, l’intero processo di ragionamento viene esposto, compresa >> una spiegazione in termini perfettamente comprensibili della ragione della >> risposta. >> >> — Beppe >> >> >> On 13 Feb 2025, at 12:00, nexa-request(a)server-nexa.polito.it wrote: >> >> From: Diego Giorio <dgiorio(a)hotmail.com> >> To: Nexa <nexa(a)server-nexa.polito.it> >> Subject: [nexa] Perché Richard Stallman sbaglia in tema di >> intelligenza artificiale >> Message-ID: >> < >> BN6PR17MB3139F372CA9F7422D383438FBEFF2(a)BN6PR17MB3139.namprd17.prod.outlook.com >> > >> >> Content-Type: text/plain; charset="iso-8859-1" >> >> Ieri è stata una bellissima esperienza. >> >> A titolo personale mi pongo un po' a metà tra l'opinione di Stallman e >> quella di questo articolo, che comunque ritengo giusto segnalare >> >> Buona giornata a tutti >> >> >>

3 2

DeepSeek fa sballare l’AI Act
by Giuseppe Attardi Feb. 14, 2025

Feb. 14, 2025

DeepSeek infligge un duro colpo anche all'European AI Act, che stabilisce una soglia per l'applicazione delle sue regole in base a un numero fisso di FLOPS utilizzati nell'addestramento di un modello: 10^25. Quando questa soglia viene raggiunta, si presumerà che un modello sia un modello GPAI che presenta rischi sistemici. Una costante universale scolpita nella pietra dalla legge (anche se ammettono che potrebbero doverla rivedere): come fissare per legge la velocità della luce. DeepSeek V3 è effettivamente al di sotto di quella soglia: 3.29e24 FLOP nell'addestramento —

1 0

Evidence For (and Against) Emergent World Models in LLM
by Daniela Tafani Feb. 14, 2025

Feb. 14, 2025

Melanie Mitchell, LLMs and World Models, Part 2 Evidence For (and Against) Emergent World Models in LLM Feb 13, 2025 [...] Conclusion The claims of emergent abstract world models in LLMs are not yet supported by strong evidence. There is some evidence of such world models arising in transformers trained on narrow domains (Othello, chess, mazes, etc.) but also evidence that their abilities arise not from human-like internal models but from large “bags of heuristics”. Moreover, the notion of “world model” itself is not rigorously defined; when considering whether an agent has a particular kind of world model, we should ask what kinds of questions such a model should be able to answer, how easy or hard it should be for the agent to get answers from the model, and to what extent we would expect that the model would allow the agent to adapt to novel situations. <https://aiguide.substack.com/p/llms-and-world-models-part-2> Qui la prima parte <https://aiguide.substack.com/p/llms-and-world-models-part-1>

1 0

Cory Doctorow, Premature Internet Activists
by Daniela Tafani Feb. 14, 2025

Feb. 14, 2025

Cory Doctorow, Premature Internet Activists Posted on February 13, 2025 "Premature antifacist" was a sarcastic term used by leftists caught up in the Red Scare to describe themselves, as they came under ideological suspicion for having traveled to Spain to fight against Franco's fascists before the US entered WWII and declared war against the business-friendly, anticommunist fascist Axis powers of Italy, Spain, Greece, and, of course, Germany: https://www.google.com/books/edition/In_Denial/fBSbKS1FlegC?hl=en&gbpv=… The joke was that opposing fascism made you an enemy of America – unless you did so after the rest of America had woken up to the existential threat of a global fascist takeover. What's more, if you were a "premature antifascist," you got no credit for fighting fascism early on. Quite the contrary: fighting fascism before the rest of the US caught up with you didn't make you prescient – it made you a pariah. I've been thinking a lot about premature antifascism these days, as literal fascists use the internet to coordinate a global authoritarian takeover that represents an existential threat to a habitable planet and human thriving. In light of that, it's hard to argue that the internet is politically irrelevant, and that fights over the regulation, governance, and structure of the internet are somehow unserious. And yet, it wasn't very long ago that tech policy was widely derided as a frivolous pursuit, and that tech organizing was dismissed as "slacktivism": https://www.newyorker.com/magazine/2010/10/04/small-change-malcolm-gladwell Elevating concerns about the internet's destiny to the level of human rights struggle was delusional, a glorified argument about the rules for forums where sad nerds argued about Star Trek. If you worried that Napster-era copyright battles would make it easy to remove online content by claiming that it infringed copyright, you were just carrying water for music pirates. If you thought that legalizing and universalizing encryption technology would safeguard human rights, you were a fool who had no idea that real human rights battles involved confronting Bull Connor in the streets, not suing the NSA in a federal courtroom. And now here we are. Congress has failed to update consumer privacy law since 1988 (when they banned video store clerks from blabbing about your VHS rentals). Mass surveillance enables everything from ransomware, pig butchering and identity theft to state surveillance of "domestic enemies," from trans people to immigrants. What's more, the commercial and state surveillance apparatus are, in fact, as single institution: states protect corporations from privacy law so that corporations can create and maintain population-scale nonconsensual dossiers on all the intimate facts of our lives, which governments raid at will, treating them as an off-the-books surveillance dragnet: https://pluralistic.net/2023/08/16/the-second-best-time-is-now/#the-point-o… Our speech forums have been captured by billionaires who censor anti-oligarchic political speech, and who spy on dissident users in order to aid in political repression. Bogus copyright claims are used to remove or suppress disfavorable news reports of elite rapists, thieves, war criminals and murderers: https://pluralistic.net/2024/06/27/nuke-first/#ask-questions-never You'd be hard pressed to find someone who'd describe the fights over tech governance in 2025 as frivolous or disconnected from "real politics" This is where the premature antifascist stuff comes in. An emerging revisionist history of internet activism would have you believe that the first generation of tech liberation activists weren't fighting for a free, open internet – we were just shilling for tech companies. The P2P wars weren't about speech, privacy and decentralization – they were just a way to help the tech sector fight the entertainment industry. DRM fights weren't about preserving your right to repair, to privacy, and to accessibility – they were just about making it easy to upload movies to Kazaa. Fighting for universal access to encryption wasn't about defending everyday people from corporate and state surveillance – it was just a way to help terrorists and child abusers stay out of sight of cops. Of course, now these fights are all about real things. Now we need to worry about centralization, interoperability, lock-in, surveillance, speech, and repair. But the people – like me – who've been fighting over this stuff for a quarter-century? We've gone from "unserious fools who mistook tech battles for human rights fights" to "useful idiots for tech companies" in an eyeblink. "Premature Internet Activists," in other words. This isn't merely ironic or frustrating – it's dangerous. Approaching tech activism without a historical foundation can lead people badly astray. For example, many modern tech critics think that Section 230 of the Communications Decency Act (which makes internet users liable for illegal speech acts, while immunizing entities that host that speech) is a "giveaway to Big Tech" and want to see it abolished. Boy is this dangerous. CDA 230 is necessary for anyone who wants to offer a place for people to meet and discuss anything. Without CDA 230, no one could safely host a Mastodon server, or set up the long-elusive federated Bluesky servers. Hell, you couldn't even host a group-chat or message board: https://www.techdirt.com/2020/06/23/hello-youve-been-referred-here-because-… Getting rid of CDA 230 won't get rid of Facebook or make it clean up its act. It will just make it impossible for anyone to offer an alternative to Facebook, permanently enshrining Zuck's dominance over our digital future. That's why Mark Zuckerberg wants to kill Section 230: https://www.nbcnews.com/tech/tech-news/zuckerberg-calls-changes-techs-secti… Defending policies that make it easier to host speech isn't the same thing as defending tech companies' profits, though these do sometimes overlap. When tech platforms have their users' back – even for self-serving reasons – they create legal precedents and strong norms that protect everyone. Like when Apple stood up to the FBI on refusing to break its encryption: https://en.wikipedia.org/wiki/Apple%E2%80%93FBI_encryption_dispute If Apple had caved on that one, it would be far harder for, say, Signal to stand up to demands that it weaken its privacy guarantees. I'm no fan of Apple, and I would never mistake Tim Cook – who owes his CEOhood to his role in moving Apple production to Chinese sweatshops that are so brutal they had to install suicide nets – for a human rights defender. But I cheered on Apple in its fight against the FBI, and I will cheer them again, if they stand up to the UK government's demand to break their encryption: https://www.bbc.com/news/articles/c20g288yldko This doesn't make me a shill for Apple. I don't care if Apple makes or loses another dime. I care about Apple's users and their privacy. That's why I criticize Apple when they compromise their users' privacy for profit: https://pluralistic.net/2024/01/12/youre-holding-it-wrong/#if-dishwashers-w… The same goes for fights over scraping. I hate AI companies as much as anyone, but boy is it a mistake to support calls to ban scraping in the name of fighting AI: https://pluralistic.net/2023/09/17/how-to-think-about-scraping/ It's scraping that lets us track paid political disinformation on Facebook (Facebook isn't going to tell us about it): https://pluralistic.net/2021/08/05/comprehensive-sex-ed/#quis-custodiet-ips… And it's scraping that let us rescue all the CDC and NIH data that Musk's broccoli-hair brownshirts deleted on behalf of DOGE: https://www.cnet.com/tech/services-and-software/how-to-access-important-hea… It's such a huge mistake to assume that anything corporations want is bad for the internet. There are many times when commercial interests dovetail with online human rights. That's not a defense of capitalism, it's a critique of capitalism that acknowledges that profits do sometimes coincide with the public interest, an argument that Marx and Engels devote Chapter One of The Communist Manifesto to: https://www.nytimes.com/2022/10/31/books/review/a-spectre-haunting-china-mi… In the early 1990s, Al Gore led the "National Information Infrastructure" hearings, better known as the "Information Superhighway" hearings. Gore's objective was to transfer control over the internet from the military to civilian institutions. It's true that these institutions were largely (but not exclusively) commercial entities seeking to make a buck on the internet. It's also true that much of that transfer could have been to public institutions rather than private hands. But I've lately – and repeatedly – heard this moment described (by my fellow leftists) as the "privatization" of the internet. This is strictly true, but it's even more true to say that it was the demilitarization of the internet. In other words, corporations didn't take over functions performed by, say, the FCC – they took over from the Pentagon. Leftists have no business pining for the days when the internet was controlled by the Department of Defense. Caring about the technological dimension of human rights 30 years ago – or hell, 40 years ago – doesn't make you a corporate stooge who wanted to launch a thousand investment bubbles. It makes you someone who understood, from the start, that digital rights are human rights, that cyberspace would inevitably evert into meatspace, and that the rules, norms and infrastructure we built for the net would someday be as consequential as any other political decision. I'm proud to be a Premature Internet Activist. I just celebrated my 23rd year with the Electronic Frontier Foundation, and yesterday, we sued Elon Musk and DOGE: https://www.eff.org/press/releases/eff-sues-opm-doge-and-musk-endangering-p… <https://pluralistic.net/2025/02/13/digital-rights/#are-human-rights>

2 1

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale
by Giuseppe Attardi Feb. 14, 2025

Feb. 14, 2025

Non solo lui, ma gran parte degli studiosi di linguistica della vecchia generazione, a partire da Noam Chomsky, sono rimasti indietro di 8 anni. Non solo, ma non comprendono la differenza tra i LLM e i chatbot, che sono delle applicazioni dei primi, nate inizialmente per gioco: ricorderete la storia degli unicorni, prodotta da GPT-2. Era un esercizio classico di uso dei LM per generare testo a completamento di un prompt. Ma I chatbot sono un’applicazione specializzata dei LLM, allenata con una fase di post-training, con varie tecniche, in primis il RLHF introdotto in ChatGPT, per addestrarlo a partecipare a dialoghi, ossia ad accontentare gli interlocutori. Ma oltre ai chatbot, ci sono mille altre applicazioni dei LLM che non sono solo per chiacchierare. Da allora, la tecnica si è poi ulteriormente evoluta con tre sostanziali progressi: 1. Con l’aumentare della scala dei modelli, sono apparse capacità emergenti (emergent abilities), che vanno oltre la banale capacità di predire la prossima parola: un fenomeno che si spiega con la teoria dei sitemi complessi di Giorgio Parisi: l’applicazione su larga scala di semplici funzioni di probabilità dà origine a comportamenti complessi, non riducibili alla funzione di partenza 2. Si sono raffinate le tecniche di post-processing: SFT e RL basato su DPO (Direct Preference Optimizazion) o GRPO (quella usata da DeepSeek R1 ecc.) Quest’ultima tecnica accelera l’apprendimento con RL e viene usata per insegnare direttamente a effettuare ragionamenti matematici e logici ai modelli, senza bisogno di un secondo modello di critica delle risposte come in ChatGPT. 3. Le capacità apprese dai modelli di grandissime dimensioni possono essere “distillate” in modelli più piccoli, mantenendone le capacità acquisite. Quindi i modelli attuali, come GPT-4 o3, DeepSeek R1, Gemini 2.0, ecc., fanno cose ben diverse dalla semplice generazione a caso di risposte. DeepSeek è particolarmente interessante da osservare, perché riporta nella risposta tutte le fasi del suo ragionamento, racchiuse tra i tag <think></think>, mentre gli altri modelli li tengono nascosti. Si vede chiaramente come svolge il suo ragionamento: propone una prima risposta, poi la valuta criticamente, dicendo: “Ah wait. …” e spiegando come quella risposta funziona e se ci sono criticità, poi ne genera una seconda che risolve quelle criticità e poi ci ragiona sopra di nuovo. Questo purtroppo in Italia ci è vietato dalla decisione del Garante della Privacy che ci ha impedito l’accesso a DeepSeek. Ma è un passo avanti importante, anche perché rintuzza un’altra critica ai modelli ML, la mancanza di trasparenza. In questo caso, l’intero processo di ragionamento viene esposto, compresa una spiegazione in termini perfettamente comprensibili della ragione della risposta. — Beppe > On 13 Feb 2025, at 12:00, nexa-request(a)server-nexa.polito.it wrote: > > From: Diego Giorio <dgiorio(a)hotmail.com <mailto:dgiorio@hotmail.com>> > To: Nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: [nexa] Perché Richard Stallman sbaglia in tema di > intelligenza artificiale > Message-ID: > <BN6PR17MB3139F372CA9F7422D383438FBEFF2(a)BN6PR17MB3139.namprd17.prod.outlook.com <mailto:BN6PR17MB3139F372CA9F7422D383438FBEFF2@BN6PR17MB3139.namprd17.prod.outlook.com>> > > Content-Type: text/plain; charset="iso-8859-1" > > Ieri è stata una bellissima esperienza. > > A titolo personale mi pongo un po' a metà tra l'opinione di Stallman e quella di questo articolo, che comunque ritengo giusto segnalare > > Buona giornata a tutti

7 7