- nexa - server-nexa.polito.it

Re: [nexa] Decalogo per un utilizzo etico, legittimo e consapevole di strumenti d’Intelligenza Artificiale (AI) in tutte le attività dell’Ateneo

by Vincenzo Cangemi

Caro Don Luca, anche l'ateneo di Bologna si è dotato di una policy sull'IA generativa: https://www.unibo.it/it/ateneo/chi-siamo/intelligenza-artificiale/intellige… Un caro saluto. Vincenzo Cangemi ---------------------------------------------------------------------- Message: 1 Date: Mon, 17 Feb 2025 17:19:10 +0100 From: don Luca Peyron <dluca.universitari(a)gmail.com> To: Nexa <nexa(a)server-nexa.polito.it> Subject: [nexa] Decalogo per un utilizzo etico, legittimo e consapevole di strumenti d’Intelligenza Artificiale (AI) in tutte le attività dell’Ateneo Message-ID: <CAGS_u7idwHDVH1uDZ10Q_7rg1HXxpB=2zd7=zD-Rm2SnOzd19g(a)mail.gmail.com> Content-Type: text/plain; charset="utf-8" All'università di Milano Buona lettura dl https://www.unimi.it/it/ateneo/normative/linee-guida/decalogo-un-utilizzo-e… _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239 -- Vincenzo Cangemi, PhD Ricercatore a tempo determinato di Diritto del lavoro Università degli Studi di Torino Dipartimento di Giurisprudenza Campus Luigi Einaudi Lungo Dora Siena 100 10153 - Torino https://iris.unito.it/browse?type=author&authority=rp173307&authority_lang=…

Feb. 18, 2025

Decalogo per un utilizzo etico, legittimo e consapevole di strumenti d’Intelligenza Artificiale (AI) in tutte le attività dell’Ateneo

by don Luca Peyron

All'università di Milano Buona lettura dl https://www.unimi.it/it/ateneo/normative/linee-guida/decalogo-un-utilizzo-e… _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

Feb. 17, 2025

ANNOUNCEMENT - 63rd ISODARCO Course - Aug. 6-13, 2025 - Volterra (IT)

by Diego Latella

Dear Friend, Please find enclosed information concerning the 63rd Course of the International School on Disarmament and Research on Conflicts (ISODARCO) (http://www.isodarco.it) I would deeply appreciate your passing this information to your friends and colleagues and forwarding it to your mailing lists. Thank you for your collaboration and best personal regards. Carlo Schaerf (Director of the School) ------------------------ 63rd Course of the International School on Disarmament and Research on Conflicts (ISODARCO) First announcement Subject: Peace and Stability in the Age of Militarized AI and Cyber-conflicts: New Challenges and Risks The increasing militarization of advanced computing technologies raises new risks for peace, stability, and international security. The 63rd ISODARCO Course will examine these problems, focusing on AI decision-support systems for battlefield operations, autonomous weapons systems, AI for nuclear early warning, cyber vulnerabilities and security, the spillover of cyber conflicts to other warfare domains, the accelerating pace of AI-powered armed hostilities and the related problem of preserving human control on warfare. Venue: Volterra (Pisa, Italy)Dates: 6-13 August 2025 Information on the school and application forms:http://www.isodarco.it Course Directors: Diego Latella (ISODARCO & Senior Researcher (ret.) CNR-ISTI, Pisa), Gian Piero Siroli (Università di Bologna, INFN & CERN), Guglielmo Tamburrini (ISODARCO & Università di Napoli Federico II) Lecturers: Daniele Amoroso, Dept. of Law, University of Cagliari, Italy; Peter Asaro, The New School, New York; Marco Gori, Dept. of Information Engineering and Mathematics, University of Siena; Francesca Giovannini, Managing the Atom, HKS, Harvard University; Dario Guarascio, Dept. of Economics and Law, Sapienza University of Rome; Bart Jacobs, Radboud University, Nijmegen, The Netherlands; Jingdong Yuan, Stockholm International Peace Research Institute, SIPRI, Sweden; Pavel Karasev, National Assoc. for Inter. Information Security NAIIS, Moscow; Jonathan Kwik, Asser Institute, The Hague, The Netherlands; Herb Lin, Center for Int’l Security & Cooperation, Hoover Institution, Stanford University; Maria Vanina Martinez, Artificial Intelligence Res. Institute (IIIA-CSIC), Barcelona; Alice Saltini, James Martin Center for Nonproliferation Studies, Monterey, USA; Danielle Yeow, Lead Cyber Law & Governance, Centre for Int. Law, Singapore Nat. Univ. This information is sent out twice a year. If you wish to be cancelled from our mailing list, please send a message, with "cancel" in the subject line, to info(a)isodarco.it mailto:info@isodarco.it from the same e-mail address at which you received this message.

Feb. 17, 2025

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale

by Giovanna Sissa

Guido e Giuseppe, vi ringrazio di questo scambio di idee che è davvero interessante e prezioso, utile e di facile lettura E' difficile trovare qualcosa di così chiaro e rigoroso, almeno secondo la mia percezione dello stato del dibattito sul tema. Peccato solo che la sua disponibilità resti confinata a questa mlist: varrebbe davvero la pena di renderlo pubblico. Giovanna Il giorno lun 17 feb 2025 alle ore 12:09 Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > > secondo me invece è proprio sul ragionamento analogico (piuttosto che logico) che l'AI generativa incontrerà il suo più serio limite, ma vedremo > per il resto sono d'accordo: questi language model ci faranno capire (anche negativamente) molte cose interessanti > per esempio ci diranno cose sul linguaggio che la grammatica e la lessicografia non ci hanno ancora detto, ne parlo nel mio libro > G. > > > On Sat, 15 Feb 2025 at 08:47, Giuseppe Attardi <attardi(a)di.unipi.it> wrote: >> >> Il punto è proprio quello: il modello impara da sè la teoria e lo fa in un modo che non è necessariamente lo stesso di come lo facciamo noi. >> >> Un caso eclatante è la Mossa 37 di AlphaGo contro Sedol. È stato ciò che viene chiamato un Aha moment, ossia AlphaGo ha fatto una mossa che nessun umano si sarebbe aspettato. >> Come dice Andrei Karpathy, il RL consente slla macchina di apprendere cose che noi non sappiamo e che quindi non potremmo insegnarle. È questa la novità. >> È per questo che non sono solo pappagalli stocastici. >> Nel futuro ne vedremo sempre di più e forse saremo noi a dover imparare da loro. >> >> Sono queste evoluzioni che a RMS sembrano essere sfuggite. >> >> Per illustrare il processo, meglio dei miei due esempi, eccovi un riassunto visuale del funzionamento dei modelli che ragionano: >> >> https://newsletter.maartengrootendorst.com/p/a-visual-guide-to-reasoning-ll… >> >> — >> >> On 14 Feb 2025, at 19:07, Guido Vetere <vetere.guido(a)gmail.com> wrote: >> >> >> molto interessante, grazie, ma secondo me è un esempio che depone contro la tua tesi :-) >> se conosci la semantica dei numeri e degli operatori, non ti serve alcun tipo di apprendimento da esempi: L uguale o più grande di F, ed F è uguale o più grande di V, quindi L è uguale o più grande di V. i bambini delle elementari lo intuiscono geometricamente a prima vista >> il motivo per cui devi ricorrere a esempi e rinforzi è proprio il fatto che la rete neurale non ragiona con la semantica del problema, come invece facciamo noi, anche intuitivamente >> non ti far ingannare dal fatto che la macchina dice cose del tipo: >>> >>> F is at least as much as V (F ≥ V), so the relation between F and V is F is greater than or equal to V. >> >> perché quelle sono frasi prodotte non su base semantica, ma per imitazione di frasi analoghe a quelle osservate nel training >> ora non ripetere che 'con la semantica non si sono risolti i problemi, smucinando coi dati invece sì' perché questo può anche essere contingentemente vero, ma non prova nulla >> >> buona serata, >> G. >> >> >> >> On Fri, 14 Feb 2025 at 18:26, Giuseppe Attardi <attardi(a)di.unipi.it> wrote: >>> >>> Il modello DeepSeek R1 è stato addestrato a “svolgere ragionamenti" con un SFT+RL su esempi di ragionamenti logico matematici: è quindi qualcosa di diverso da un semplice LLM. >>> Quando si insegna la matematica, un insegnante presenta la teoria (1), poi mostra la soluzione di alcuni esercizi (2) e poi sottopone gli studenti a degli esercizi (3) per vedere se hanno capito. >>> Nel training di modelli con STF+RL si fa qualcosa di simile: >>> 1 è il training del LLM, acquisizione della conoscenza di base >>> 2 è il SFT+RL >>> 3 sono i benchmark di valutazione >>> >>> Provo ad illustrarlo con un esempio, per uscire dalla disquisizione astratta di cosa sia “ragionare”, “comprendere”, ecc. termini antropomorfi che non sono necessariamente applicabili al caso. >>> >>> Prompt: “In the following question assuming the given statements to be true, find which of the conclusion among the given conclusions is/are definitely true." >>> >>> Statements: >>> H > F ≤ O ≤ L; F ≥ V < D >>> >>> Conclusions: >>> I. L ≥ V >>> II. O > D >>> >>> The options are: >>> >>> A. Only I is true >>> B. Only II is true >>> C. Both I and II are true >>> D. Either I or II is true >>> E. Neither I nor II is true.” >>> >>> Response by o3: >>> >>> To solve this problem, let's first clarify the given statements and their implications: >>> 1. H > F≤ O≤L >>> 2. F≥V< D >>> We need to evaluate the given conclusions: >>> I. L≥ V >>> II. O > D >>> Let's analyze each conclusion: >>> >>> Conclusion I: L ≥ V >>> From the statements: >>> • F is at least as much as V (F ≥ V), so the relation between F and V is F is greater than or equal to V. >>> • L is at least as much as O (O ≤ L), and since F <= 0 <= L, we can say F <= L. >>> • So we have F ≥ V and L ≥ O. >>> Combining all, F ≥ V and L ≥ F leads to L ≥ V. >>> >>> Therefore, Conclusion I: L ≥ V is definitely true. >>> >>> Conclusion II: 0 > D >>> From the statements: >>> • F ≤ O, so O is greater or equal to F. >>> • D is greater then V (V< D), and we know from the statements F is greater than or equal to V (F ≥ V) >>> >>> However, without definite numerical value or direct inequality comparisons between O and D, we cannot ascertain that O is greater than D. >>> Conclusion II: O > D is not definitely true based on the given information. >>> >>> Thus, the answer is: >>> A. Only l is true >>> ----- >>> >>> Ecco un altro esempio dai miei esperimenti sulla generazione di codice per interrogare tabelle. >>> >>> Question: Does the author with the longest name post mainly original content? >>> <think> >>> To determine if the author with the longest name posts mainly original content, we need to: >>> >>> 1. Identify the author with the longest author_name. >>> 2. Check if this author's type is 'original'. >>> 3. Verify if the majority of their posts are original. >>> >>> Here's the Python function using pandas to perform these steps: >>> ... >>> Wait, maybe the problem is that when you group by 'author_name' and then use 'agg('max')', it's trying to compute the max for each group, but if 'author_name' is a Categorical, it's not ordered, so the max function doesn't know which one is the maximum. >>> So, converting 'author_name' to a string type before grouping would solve the issue. >>> So, the function would be: >>> ... >>> But again, the problem is that after grouping, the index is reset, so when you try to filter `original_posts`, it might not have the same index as `max_author`. >>> >>> Wait, no. The `max_author` is the name of the author with the longest name, and `original_posts` is a DataFrame filtered to only include 'original' type posts. Then, `max_author_original` is a subset of `original_posts` where the 'author_name' is equal to `max_author`. >>> This should work because `max_author` is a string, and it's looking for that string in the 'author_name' column of `original_posts`. >>> So, the function should correctly return whether the author with the longest name posts mainly original content. >>> >>> … >>> Wait, that's a problem. >>> So, the function needs to handle the case where there are no original posts. >>> In that case, the function should return False, because the author with the longest name does not post original content. >>> But in the current code, if `original_posts` is empty, `max_author_original` would also be empty, and accessing `max_author_original['type']` would throw an error. >>> So, to fix this, we need to check if `max_author_original` is not empty before accessing its 'type' column. >>> So, the function should be modified to: >>> … >>> >>> >>> >>> On 14 Feb 2025, at 07:47, Guido Vetere <vetere.guido(a)gmail.com> wrote: >>> >>> Beppe, >>> ma la "spiegazione" della c.d. chain-of-thought si trova sullo stesso piano epistemico di ciò che intende spiegare, cioè quello della correlazione, non quello delle causalità. >>> La differenza è 'striking' e la spiega bene Judea Pearl nel suo "The Book of Why" (https://en.wikipedia.org/wiki/The_Book_of_Why) >>> >>> G. >>> >>> On Thu, 13 Feb 2025 at 12:36, Giuseppe Attardi <attardi(a)di.unipi.it> wrote: >>>> >>>> Non solo lui, ma gran parte degli studiosi di linguistica della vecchia generazione, a partire da Noam Chomsky, sono rimasti indietro di 8 anni. >>>> Non solo, ma non comprendono la differenza tra i LLM e i chatbot, che sono delle applicazioni dei primi, nate inizialmente per gioco: ricorderete la storia degli unicorni, prodotta da GPT-2. >>>> Era un esercizio classico di uso dei LM per generare testo a completamento di un prompt. >>>> >>>> Ma I chatbot sono un’applicazione specializzata dei LLM, allenata con una fase di post-training, con varie tecniche, in primis il RLHF introdotto in ChatGPT, per addestrarlo a partecipare a dialoghi, ossia ad accontentare gli interlocutori. >>>> Ma oltre ai chatbot, ci sono mille altre applicazioni dei LLM che non sono solo per chiacchierare. >>>> >>>> Da allora, la tecnica si è poi ulteriormente evoluta con tre sostanziali progressi: >>>> >>>> 1. Con l’aumentare della scala dei modelli, sono apparse capacità emergenti (emergent abilities), che vanno oltre la banale capacità di predire la prossima parola: un fenomeno che si spiega con la teoria dei sitemi complessi di Giorgio Parisi: l’applicazione su larga scala di semplici funzioni di probabilità dà origine a comportamenti complessi, non riducibili alla funzione di partenza >>>> 2. Si sono raffinate le tecniche di post-processing: SFT e RL basato su DPO (Direct Preference Optimizazion) o GRPO (quella usata da DeepSeek R1 ecc.) Quest’ultima tecnica accelera l’apprendimento con RL e viene usata per insegnare direttamente a effettuare ragionamenti matematici e logici ai modelli, senza bisogno di un secondo modello di critica delle risposte come in ChatGPT. >>>> 3. Le capacità apprese dai modelli di grandissime dimensioni possono essere “distillate” in modelli più piccoli, mantenendone le capacità acquisite. >>>> >>>> Quindi i modelli attuali, come GPT-4 o3, DeepSeek R1, Gemini 2.0, ecc., fanno cose ben diverse dalla semplice generazione a caso di risposte. >>>> DeepSeek è particolarmente interessante da osservare, perché riporta nella risposta tutte le fasi del suo ragionamento, racchiuse tra i tag <think></think>, mentre gli altri modelli li tengono nascosti. >>>> Si vede chiaramente come svolge il suo ragionamento: propone una prima risposta, poi la valuta criticamente, dicendo: “Ah wait. …” e spiegando come quella risposta funziona e se ci sono criticità, poi ne genera una seconda che risolve quelle criticità e poi ci ragiona sopra di nuovo. >>>> >>>> Questo purtroppo in Italia ci è vietato dalla decisione del Garante della Privacy che ci ha impedito l’accesso a DeepSeek. >>>> >>>> Ma è un passo avanti importante, anche perché rintuzza un’altra critica ai modelli ML, la mancanza di trasparenza. >>>> In questo caso, l’intero processo di ragionamento viene esposto, compresa una spiegazione in termini perfettamente comprensibili della ragione della risposta. >>>> >>>> — Beppe >>>> >>>> >>>> On 13 Feb 2025, at 12:00, nexa-request(a)server-nexa.polito.it wrote: >>>> >>>> From: Diego Giorio <dgiorio(a)hotmail.com> >>>> To: Nexa <nexa(a)server-nexa.polito.it> >>>> Subject: [nexa] Perché Richard Stallman sbaglia in tema di >>>> intelligenza artificiale >>>> Message-ID: >>>> <BN6PR17MB3139F372CA9F7422D383438FBEFF2(a)BN6PR17MB3139.namprd17.prod.outlook.com> >>>> >>>> Content-Type: text/plain; charset="iso-8859-1" >>>> >>>> Ieri è stata una bellissima esperienza. >>>> >>>> A titolo personale mi pongo un po' a metà tra l'opinione di Stallman e quella di questo articolo, che comunque ritengo giusto segnalare >>>> >>>> Buona giornata a tutti >>>> >>>> >>>

Feb. 17, 2025

La digitalizzazione della guerra

by de petra giulio

Questo articolo è stato scritto dopo e grazie alla conferenza annuale di Nexa. *La digitalizzazione della guerra* *Infrastrutture, armi autonome e sistemi predittivi basati sull’AI sono gli ambiti della sempre più stretta relazione tra uso civile e uso militare delle tecnologie digitali. Ma anche la narrazione della AI è uno strumento di guerra.* *Continua qui: * https://search.app/auescYFHXaBuSa117 Uno dei libri citati nell'articolo è "Connessi a morte. Guerra, media e democrazia nella società della cybersecurity" di Michele Mezza, che sarà presentato lunedì 24 alle 17,30 a Roma, alla Fondazione Basso. Qui la locandina https://search.app/J9kZBnBzKH1VkNT68

Feb. 17, 2025

Re: [nexa] Are we all wrong about AI? When academics challenge silicon valley dreams

by Enrico Nardelli

Ciao Maurizio, per i non esperti io - dopo aver scritto il libro di cui in fondo alla mail - mi sono avviato, con la gentile ospitalità dell'IRPA (Istituto di Ricerche sulla Pubblica Amministrazione) in un percorso divugativo a puntate settimanali sull'informatica https://www.irpa.eu/tag/a-passeggio-con-linformatica/ che proprio in queste settimane sta toccando il tema dell'intelligenza artificiale https://www.irpa.eu/a-passeggio-con-linformatica-18-macchine-cognitive/ https://www.irpa.eu/intelligenza-macchine-vera-intelligenza/ Per avere impatto sui tantissimi inesperti servirebbero però gli influencer social, quale io non sono. Magari prima o poi qualcuno arriverà? Ciao, Enrico Il 17/02/2025 10:15, maurizio lana ha scritto: > Il 17/02/25 08:24, Enrico Nardelli ha scritto: >> >> Mi sembra non sia passato in lista... >> >> https://www.hec.edu/en/overview/news/are-we-all-wrong-about-ai-when-academi… >> > grazie, > molti temi sono comparsi qui in mailing list ma quelli e e altri il > documento linkato li mette bene in ordine facendone una sorta di sommario. > > e ogni volta mi sorprendo a vedere come gli inesperti siano entusiasti > e come gli esperti siano critici e cauti. > il problema è che il rapporto inesperti:esperti è tantissimi:pochi > > cosa si fa (cosa si può fare)? proprio in termini di comunicazione, > con l'idea che se gli spieghi le cose, molti le capiscono > > Maurizio > > ------------------------------------------------------------------------ > dobbiamo provarci, anche noi. è questo il progresso. > a forza di tentare, forse alla fine avremo gli organi necessari, > per esempio l'organo della dignità, o quello della fraternità... > romain gary, le radici del cielo > ------------------------------------------------------------------------ > Maurizio Lana -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Feb. 17, 2025

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale

by Giuseppe Attardi

Feb. 17, 2025

Re: [nexa] DeepSeek: una analisi... dall'India

by Andrea Barontini

Allargando un po' lo scope... sei atterrato su restofworld per caso seguendo qualche link o e' una testata che segui gia' da tempo? In caso sia la seconda, che idea ti sei fatto di loro? Consiglieresti di sottoscriverne il feed? Thanks Il 15/02/25 11:41, Damiano Verzulli ha scritto: > Ho trovato interessante questo articolo: > > https://restofworld.org/2025/deepseek-ai-model-openai-dominance-challenge > > perché l'autrice (e il sito ospitante) non è ne Europea, ne USA: è di > Mumbai. > > E chiaramente vede diverse cose... da un punto di vista diverso dal mio. > > Un saluto, > DV >

Feb. 17, 2025

120° Nexa Lunch Seminar | 26 febbraio 2025, ore 13.00

by Nexa - Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 120° Nexa Lunch Seminar che si terrà mercoledì 26 febbraio, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: "Imagining war with AI: Teenagers, Generative AI, Social Media and the Representation of War". Ospiti dell'incontro: Ilaria Ingrao (Università di Torino), Maede Mirsonbol (Università di Torino), Antonio Santangelo (Senior Research Fellow del Centro Nexa, Università di Torino) L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-120 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Feb. 17, 2025

Re: [nexa] Perché Richard Stallman sbaglia in tema di intelligenza artificiale

by Guido Vetere

secondo me invece è proprio sul ragionamento analogico (piuttosto che logico) che l'AI generativa incontrerà il suo più serio limite, ma vedremo per il resto sono d'accordo: questi language model ci faranno capire (anche negativamente) molte cose interessanti per esempio ci diranno cose sul linguaggio che la grammatica e la lessicografia non ci hanno ancora detto, ne parlo nel mio libro G. On Sat, 15 Feb 2025 at 08:47, Giuseppe Attardi <attardi(a)di.unipi.it> wrote: > Il punto è proprio quello: il modello impara da sè la teoria e lo fa in un > modo che non è necessariamente lo stesso di come lo facciamo noi. > > Un caso eclatante è la Mossa 37 di AlphaGo contro Sedol. È stato ciò che > viene chiamato un Aha moment, ossia AlphaGo ha fatto una mossa che nessun > umano si sarebbe aspettato. > Come dice Andrei Karpathy, il RL consente slla macchina di apprendere cose > che noi non sappiamo e che quindi non potremmo insegnarle. È questa la > novità. > È per questo che non sono solo pappagalli stocastici. > Nel futuro ne vedremo sempre di più e forse saremo noi a dover imparare da > loro. > > Sono queste evoluzioni che a RMS sembrano essere sfuggite. > > Per illustrare il processo, meglio dei miei due esempi, eccovi un > riassunto visuale del funzionamento dei modelli che ragionano: > > > https://newsletter.maartengrootendorst.com/p/a-visual-guide-to-reasoning-ll… > > — > > On 14 Feb 2025, at 19:07, Guido Vetere <vetere.guido(a)gmail.com> wrote: > > > molto interessante, grazie, ma secondo me è un esempio che depone contro > la tua tesi :-) > se conosci la semantica dei numeri e degli operatori, non ti serve alcun > tipo di apprendimento da esempi: L uguale o più grande di F, ed F è uguale > o più grande di V, quindi L è uguale o più grande di V. i bambini delle > elementari lo intuiscono geometricamente a prima vista > il motivo per cui devi ricorrere a esempi e rinforzi è proprio il fatto > che la rete neurale non ragiona con la semantica del problema, come invece > facciamo noi, anche intuitivamente > non ti far ingannare dal fatto che la macchina dice cose del tipo: > >> F is at least as much as V (F ≥ V), so the relation between F and V is F >> is greater than or equal to V. > > perché quelle sono frasi prodotte non su base semantica, ma per imitazione > di frasi analoghe a quelle osservate nel training > ora non ripetere che 'con la semantica non si sono risolti i problemi, > smucinando coi dati invece sì' perché questo può anche essere > contingentemente vero, ma non prova nulla > > buona serata, > G. > > > > On Fri, 14 Feb 2025 at 18:26, Giuseppe Attardi <attardi(a)di.unipi.it> > wrote: > >> Il modello DeepSeek R1 è stato addestrato a “svolgere ragionamenti" con >> un SFT+RL su esempi di ragionamenti logico matematici: è quindi qualcosa di >> diverso da un semplice LLM. >> Quando si insegna la matematica, un insegnante presenta la teoria (1), >> poi mostra la soluzione di alcuni esercizi (2) e poi sottopone gli studenti >> a degli esercizi (3) per vedere se hanno capito. >> Nel training di modelli con STF+RL si fa qualcosa di simile: >> 1 è il training del LLM, acquisizione della conoscenza di base >> 2 è il SFT+RL >> 3 sono i benchmark di valutazione >> >> Provo ad illustrarlo con un esempio, per uscire dalla disquisizione >> astratta di cosa sia “ragionare”, “comprendere”, ecc. termini antropomorfi >> che non sono necessariamente applicabili al caso. >> >> Prompt: “In the following question assuming the given statements to be >> true, find which of the conclusion among the given conclusions is/are >> definitely true." >> >> Statements: >> H > F ≤ O ≤ L; F ≥ V < D >> >> Conclusions: >> I. L ≥ V >> II. O > D >> >> The options are: >> >> A. Only I is true >> B. Only II is true >> C. Both I and II are true >> D. Either I or II is true >> E. Neither I nor II is true.” >> >> Response by o3: >> >> To solve this problem, let's first clarify the given statements and their >> implications: >> 1. H > F≤ O≤L >> 2. F≥V< D >> We need to evaluate the given conclusions: >> I. L≥ V >> II. O > D >> Let's analyze each conclusion: >> >> Conclusion I: L ≥ V >> From the statements: >> • F is at least as much as V (F ≥ V), so the relation between F and V is >> F is greater than or equal to V. >> • L is at least as much as O (O ≤ L), and since F <= 0 <= L, we can say >> F <= L. >> • So we have F ≥ V and L ≥ O. >> Combining all, F ≥ V and L ≥ F leads to L ≥ V. >> >> Therefore, Conclusion I: L ≥ V is definitely true. >> >> Conclusion II: 0 > D >> From the statements: >> • F ≤ O, so O is greater or equal to F. >> • D is greater then V (V< D), and we know from the statements F is >> greater than or equal to V (F ≥ V) >> >> However, without definite numerical value or direct inequality >> comparisons between O and D, we cannot ascertain that O is greater than D. >> Conclusion II: O > D is not definitely true based on the given >> information. >> >> Thus, the answer is: >> A. Only l is true >> ----- >> >> Ecco un altro esempio dai miei esperimenti sulla generazione di codice >> per interrogare tabelle. >> >> Question: Does the author with the longest name post mainly original >> content? >> <think> >> To determine if the author with the longest name posts mainly original >> content, we need to: >> >> 1. Identify the author with the longest author_name. >> 2. Check if this author's type is 'original'. >> 3. Verify if the majority of their posts are original. >> >> Here's the Python function using pandas to perform these steps: >> ... >> Wait, maybe the problem is that when you group by 'author_name' and then >> use 'agg('max')', it's trying to compute the max for each group, but if >> 'author_name' is a Categorical, it's not ordered, so the max function >> doesn't know which one is the maximum. >> So, converting 'author_name' to a string type before grouping would solve >> the issue. >> So, the function would be: >> ... >> But again, the problem is that after grouping, the index is reset, so >> when you try to filter `original_posts`, it might not have the same index >> as `max_author`. >> >> Wait, no. The `max_author` is the name of the author with the longest >> name, and `original_posts` is a DataFrame filtered to only include >> 'original' type posts. Then, `max_author_original` is a subset of >> `original_posts` where the 'author_name' is equal to `max_author`. >> This should work because `max_author` is a string, and it's looking for >> that string in the 'author_name' column of `original_posts`. >> So, the function should correctly return whether the author with the >> longest name posts mainly original content. >> >> … >> Wait, that's a problem. >> So, the function needs to handle the case where there are no original >> posts. >> In that case, the function should return False, because the author with >> the longest name does not post original content. >> But in the current code, if `original_posts` is empty, >> `max_author_original` would also be empty, and accessing >> `max_author_original['type']` would throw an error. >> So, to fix this, we need to check if `max_author_original` is not empty >> before accessing its 'type' column. >> So, the function should be modified to: >> … >> >> >> >> On 14 Feb 2025, at 07:47, Guido Vetere <vetere.guido(a)gmail.com> wrote: >> >> Beppe, >> ma la "spiegazione" della c.d. chain-of-thought si trova sullo stesso >> piano epistemico di ciò che intende spiegare, cioè quello della >> correlazione, non quello delle causalità. >> La differenza è 'striking' e la spiega bene Judea Pearl nel suo "The Book >> of Why" (https://en.wikipedia.org/wiki/The_Book_of_Why) >> >> G. >> >> On Thu, 13 Feb 2025 at 12:36, Giuseppe Attardi <attardi(a)di.unipi.it> >> wrote: >> >>> Non solo lui, ma gran parte degli studiosi di linguistica della vecchia >>> generazione, a partire da Noam Chomsky, sono rimasti indietro di 8 anni. >>> Non solo, ma non comprendono la differenza tra i LLM e i chatbot, che >>> sono delle applicazioni dei primi, nate inizialmente per gioco: ricorderete >>> la storia degli unicorni, prodotta da GPT-2. >>> Era un esercizio classico di uso dei LM per generare testo a >>> completamento di un prompt. >>> >>> Ma I chatbot sono un’applicazione specializzata dei LLM, allenata con >>> una fase di post-training, con varie tecniche, in primis il RLHF introdotto >>> in ChatGPT, per addestrarlo a partecipare a dialoghi, ossia ad accontentare >>> gli interlocutori. >>> Ma oltre ai chatbot, ci sono mille altre applicazioni dei LLM che non >>> sono solo per chiacchierare. >>> >>> Da allora, la tecnica si è poi ulteriormente evoluta con tre sostanziali >>> progressi: >>> >>> 1. Con l’aumentare della scala dei modelli, sono apparse capacità >>> emergenti (emergent abilities), che vanno oltre la banale capacità di >>> predire la prossima parola: un fenomeno che si spiega con la teoria dei >>> sitemi complessi di Giorgio Parisi: l’applicazione su larga scala di >>> semplici funzioni di probabilità dà origine a comportamenti complessi, non >>> riducibili alla funzione di partenza >>> 2. Si sono raffinate le tecniche di post-processing: SFT e RL basato su >>> DPO (Direct Preference Optimizazion) o GRPO (quella usata da DeepSeek R1 >>> ecc.) Quest’ultima tecnica accelera l’apprendimento con RL e viene usata >>> per insegnare direttamente a effettuare ragionamenti matematici e logici ai >>> modelli, senza bisogno di un secondo modello di critica delle risposte come >>> in ChatGPT. >>> 3. Le capacità apprese dai modelli di grandissime dimensioni possono >>> essere “distillate” in modelli più piccoli, mantenendone le capacità >>> acquisite. >>> >>> Quindi i modelli attuali, come GPT-4 o3, DeepSeek R1, Gemini 2.0, ecc., >>> fanno cose ben diverse dalla semplice generazione a caso di risposte. >>> DeepSeek è particolarmente interessante da osservare, perché riporta >>> nella risposta tutte le fasi del suo ragionamento, racchiuse tra i tag >>> <think></think>, mentre gli altri modelli li tengono nascosti. >>> Si vede chiaramente come svolge il suo ragionamento: propone una prima >>> risposta, poi la valuta criticamente, dicendo: “Ah wait. …” e spiegando >>> come quella risposta funziona e se ci sono criticità, poi ne genera una >>> seconda che risolve quelle criticità e poi ci ragiona sopra di nuovo. >>> >>> Questo purtroppo in Italia ci è vietato dalla decisione del Garante >>> della Privacy che ci ha impedito l’accesso a DeepSeek. >>> >>> Ma è un passo avanti importante, anche perché rintuzza un’altra critica >>> ai modelli ML, la mancanza di trasparenza. >>> In questo caso, l’intero processo di ragionamento viene esposto, >>> compresa una spiegazione in termini perfettamente comprensibili della >>> ragione della risposta. >>> >>> — Beppe >>> >>> >>> On 13 Feb 2025, at 12:00, nexa-request(a)server-nexa.polito.it wrote: >>> >>> From: Diego Giorio <dgiorio(a)hotmail.com> >>> To: Nexa <nexa(a)server-nexa.polito.it> >>> Subject: [nexa] Perché Richard Stallman sbaglia in tema di >>> intelligenza artificiale >>> Message-ID: >>> < >>> BN6PR17MB3139F372CA9F7422D383438FBEFF2(a)BN6PR17MB3139.namprd17.prod.outlook.com >>> > >>> >>> Content-Type: text/plain; charset="iso-8859-1" >>> >>> Ieri è stata una bellissima esperienza. >>> >>> A titolo personale mi pongo un po' a metà tra l'opinione di Stallman e >>> quella di questo articolo, che comunque ritengo giusto segnalare >>> >>> Buona giornata a tutti >>> >>> >>> >>

Feb. 17, 2025