March 2025 - nexa - server-nexa.polito.it

[Responsible AI Talk] Understanding Student Perceptions, Faidra Monachou, Yale School of Management

by Daniele Quercia

Join the meeting here<https://teams.microsoft.com/l/meetup-join/19%3ameeting_OTkzYzAyOTctOWY1My00…> Title: Understanding Student Perceptions of Human vs. Algorithmic Recommendations in College Applications Faidra Monachou , Yale School of Management Abstract: This study examines student preferences for human versus algorithmic recommendations in college applications across 14 public high schools. We find that students exhibit aversion to algorithmic recommendations when the basis is more objective but not when it is most subjective. Aversion is strongly driven by perceptions of the recommender’s intent, alongside alignment with personal goals, ability, and comprehension. Free-text responses suggest that students seek guidance on study options from human counselors but rely on algorithms for grade-based recommendations. Using an optimization approach, we show how a policymaker can navigate heterogeneity in recommendation adoption and optimally assign human versus algorithmic recommenders under capacity constraints. A targeting policy based on readily available student and school features can closely approximate a first-best, personalized approach. These findings underscore the importance of understanding student preferences for effective, equitable recommendation systems and highlight the potential of hybrid approaches integrating human guidance with algorithms. <https://arxiv.org/abs/2407.02191>Bio: Faidra Monachou is an Assistant Professor of Operations Management at the Yale School of Management. She is interested in market design and operations for social impact, with a particular focus on education. She uses mathematical tools from operations research, economics, and data science to design operational interventions that optimally balance efficiency and equity. Her research has received the Best Paper with a Student Presenter Award at the ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization (EAAMO) and the first place in the inaugural INFORMS DEI Best Student Paper competition. Faidra completed her PhD in Operations Research at the Management Science and Engineering department at Stanford University and her undergraduate studies in Electrical and Computer Engineering at the National Technical University of Athens in Greece. Prior to joining Yale, she was a Postdoctoral Fellow at Harvard University. Subscribe to future talk announcements: Anyone outside Bell Labs can receive talk announcements by subscribing to the mailing list. To subscribe, send an empty email with the subject line "Subscribe RAI" to daniele.quercia(a)nokia-bell-labs.com<mailto:daniele.quercia@nokia-bell-labs.com>.

March 8, 2025

Re: [nexa] [Nexa] Critica di ChatGpt

by Antonio Dante Maria Santangelo

Grazie per la segnalazione. Non potevo non citare la lista nexa: fin dal mio primo anno al Centro, ho sempre pensato che da questa lista potessero nascere libri. Così, alla prima occasione buona... Un caro saluto e a presto, Antonio Il ven 7 mar 2025, 17:47 Antonio <antonio(a)piumarossa.it> ha scritto: > > ... vi segnalo questo libro nexiano, scritto da me, Alberto Sissa e > > Maurizio Borghi, con prefazione e postfazione di Juan Carlos De Martin e > > Marco Ricolfi. > > Oggi a Radio 3 la presentazione del libro da parte di Antonio e, sul > finire, un ampio e caloroso ringraziamento a questa lista (con l'invito ad > iscriversi :) . > > > https://www.raiplaysound.it/audio/2025/03/Fahrenheit-del-07032025-3b2cdb24-… > (min. 37:00). > > A. >

March 7, 2025

Re: [nexa] [Nexa] Critica di ChatGpt

by Antonio

> ... vi segnalo questo libro nexiano, scritto da me, Alberto Sissa e > Maurizio Borghi, con prefazione e postfazione di Juan Carlos De Martin e > Marco Ricolfi. Oggi a Radio 3 la presentazione del libro da parte di Antonio e, sul finire, un ampio e caloroso ringraziamento a questa lista (con l'invito ad iscriversi :) . https://www.raiplaysound.it/audio/2025/03/Fahrenheit-del-07032025-3b2cdb24-… (min. 37:00). A.

March 7, 2025

Re: [nexa] Turing Award

by Stefano Zacchiroli

On Fri, Mar 07, 2025 at 12:00:15PM +0100, maurizio lana wrote: > reinforcement learning è quella cosa per cui decine di migliaia di persone > in India, Filippine, Colombia, e da un po' anche in Europa, e in chissà > quanti altri paesi, lavorano sottopagate e stressate per 'insegnare' a > intelligentissimi sistemi artificiali cose che qualsiasi umano sa senza > bisogno di apprendimento formale? In realtà quello è il Reinforcement Learning from Human Feedback (RLHF). Il reinforcement learning (RL) in se non ha alcun bisogno di feedback *umano*. Il feedback in RL storicamente viene da funzioni obiettivo misurabili. Un esempio classico è quello dell'allenamento di un IA per partecipare ad un qualche gioco: non c'è bisogno di un umano che dica se l'apprendimento sta andando nella direzione giusta o meno, basta una implementazione delle regole del gioco. Non ho verificato chi storicamente abbia inventato RLHF, ma il suo uso più notorio è abbastanza recente: nel training di ChatGPT da parte di Open AI, che non ha nulla a che vedere con i lavori di Barto e Sutton. Possiamo eventualmente deplorare il fatto che RLHF sia *citato* nella motivazione del premio come lavoro basato su RL, vedi qua https://amturing.acm.org/ , ma il premio non è per quello. Saluti -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CSO Software Heritage o o o o /\|^|/\ Mastodon: https://mastodon.xyz/@zacchiro '" V "'

March 7, 2025

Re: [nexa] Turing Award

by Paolo Caressa

Mi perdoni professore, ma mi pare un po' semplicistico, come attribuire a Gutenberg e all'invenzione del libro la divulgazione e l'attuazione dei contenuti del "Mein Kampf". Ogni premio Turing, Nobel o anche medaglie Fields e premi Abel potrebbe essere oggetto, prima o poi, della stessa critica. Per non parlare di grammatici, poeti, linguisti etc. che hanno fornito gli strumenti espressivi e intellettuali usati da despoti di ogni epoca per la loro propaganda, repressione e oppressione. In ogni caso, l'invenzione del reinforcement learning può farsi risalire alle idee di Turing scritte intorno al 1950 e alla teoria della programmazione dinamica di Richard Bellman, ma volendo possiamo risalire, nella teoria dei controlli, fino a Maxwell per esempio (che possiamo più facilmente censurare per il suo contributo alla sedia elettrica). Se ci facciamo travolgere da questo effetto domino di attribuzioni di colpe, l'unica conclusione è che sarebbe stato meglio restare cacciatori-raccoglitori ;-) --- Paolo Caressa <paolo(a)caressa.it> Da "nexa" nexa-bounces(a)server-nexa.polito.it A "NEXA ML" nexa(a)server-nexa.polito.it Cc Data Fri, 7 Mar 2025 12:00:15 +0100 Oggetto [nexa] Turing Award leggo nel sito del Turing Award: ACM, the Association for Computing Machinery, today named Andrew Barto and Richard Sutton as the recipients of the 2024 ACM A.M. Turing Award for developing the conceptual and algorithmic foundations of reinforcement learning. reinforcement learning è quella cosa per cui decine di migliaia di persone in India, Filippine, Colombia, e da un po' anche in Europa, e in chissà quanti altri paesi, lavorano sottopagate e stressate per 'insegnare' a intelligentissimi sistemi artificiali cose che qualsiasi umano sa senza bisogno di apprendimento formale? sarebbe errato dire che sono stati premiati gli inventori di un nuovo sistema di sfruttamento del lavoro intellettuale? Maurizio ___________________________________ tout est et n'est rien motto dei conti di Challant _____________________ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

March 7, 2025

Turing Award

by maurizio lana

leggo nel sito del Turing Award: > ACM, the Association for Computing Machinery, today named Andrew Barto > and Richard Sutton as the recipients of the 2024 ACM A.M. Turing Award > for developing the conceptual and algorithmic foundations of > reinforcement learning. reinforcement learning è quella cosa per cui decine di migliaia di persone in India, Filippine, Colombia, e da un po' anche in Europa, e in chissà quanti altri paesi, lavorano sottopagate e stressate per 'insegnare' a intelligentissimi sistemi artificiali cose che qualsiasi umano sa senza bisogno di apprendimento formale? sarebbe errato dire che sono stati premiati gli inventori di un nuovo sistema di sfruttamento del lavoro intellettuale? Maurizio ------------------------------------------------------------------------ tout est et n'est rien motto dei conti di Challant ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

March 7, 2025

La Stampa: "Giochi online, pubblicità, denaro in prestito: il registro scolastico elettronico diventa un mercato"

by J.C. DE MARTIN

*Giochi online, pubblicità, denaro in prestito: il registro scolastico elettronico diventa un mercato* /Scoppia la polemica per alcuni contenuti della piattaforma “ClasseViva” accessibili a genitori e studenti. Le associazioni: «Gravissimo sfruttare questo strumento per scopi commerciali, intervenga Valditara». La replica del Gruppo Spaggiari: «Sono giochi educativi»/ ELISA FORTE 05 Marzo 2025 Giochi elettronici e offerte commerciali: li trovi dove non te l’aspetti. Persino sul registro elettronico scolastico, lo strumento di comunicazione per eccellenza che mette in relazione la scuola italiana con le famiglie degli studenti. Ogni giorno il servizio “ClasseViva” viene utilizzato da 300 mila insegnanti in 2800 scuole: sulla piattaforma vengono riportati ritardi, assenze, voti, materiali didattici, compiti da fare a casa e lezioni svolte in classe. Il registro elettronico è fornito dal Gruppo Spaggiari, colosso dell’education in Italia. Nato nel 1926 come casa editrice man mano l’azienda di Parma si è trasformata in una società di software che genera un fatturato di 33 milioni di euro (dati 2022). *Minigames e contenuti commerciali* All’interno del registro elettronico – strumento imprescindibile che ha snellito le comunicazioni con le famiglie e che permette alla scuola di risparmiare ogni anno centinaia di tonnellate di carta – finiscono sotto accusa varie sezioni, accessibili sia dall’area genitori che da quella in uso dagli studenti. La sezione dei Minigames (ma ce n’era davvero bisogno?) si trova nei “Contenuti Extra”. E poi c’è la parte dei Servizi agli Studenti, piena zeppa di link che portano a siti commerciali o a servizi a pagamento ben profilati e costruiti a misura dei veri o presunti bisogni di famiglie e studenti. [...] continua qui (probabile paywall): https://www.lastampa.it/cronaca/2025/03/05/news/scuola_registro_elettronico…

March 6, 2025

Re: [nexa] il senso della vita?!?

by maurizio lana

quando con gli LLM si parla di cose serie: LA Times ‘bias meter’ goes live, pushes AI slop without editorial review (https://pivot-to-ai.com/2025/03/04/la-times-bias-meter-goes-live-pushes-ai-…) le opinioni non allineate vengono messe a tacere. sissì deliziarci a discutere del senso della vita ma il lavoro vero è questo, e la fine è ovvia Maurizio > > Los Angeles Times proprietor Patrick Soon-Shiong is convinced his > paper is a hotbed of Bolshevik agitators. He blocked the paper making > a presidential endorsement in October 2024. > > But Soon-Shiong had a plan: fight back the red menace with the power > of AI > <https://pivot-to-ai.com/2024/12/05/patrick-soon-shiong-adding-ai-bias-meter…>. > And his robot bias meter has just gone live! > > LA Times Insights will analyze newspaper content with an LLM from > Perplexity and Particle News. It claims to rate an article’s political > position, sourcing, framing, and argumentation. Insights will also be > used on news content — “if a piece takes a stance or is written from a > personal perspective, it may be labeled Voices.” [/LA Times/ > <https://www.latimes.com/insights/>/; //LA Times/ > <https://www.latimes.com/california/story/2025-03-03/a-letter-to-readers>/; > //Medium/ > <https://particlenews.medium.com/political-spectrum-ratings-on-individual-ar…>] > > Insights “operates independently” from the newsroom and its output “is > not reviewed by journalists before it is published.” Soon-Shiong warns > that the output may be nonsense — “artificial intelligence can be > imperfect and incomplete.” If only there was some sort of job function > that did editorial review. > > The main use case for Insights is to water down articles about > whatever stupid and damaging performative cruelty the Trump > administration has thrown out today. Insights supplies an AI-generated > list of pro-Trump talking points. [/Guardian/ > <https://www.theguardian.com/us-news/2025/mar/03/la-times-ai-opinion-rating>] > > On one recent opinion piece on the dangers of AI in propagating fake > history, Insights rated its viewpoint “center-left.” It added an > AI-generated response explaining how AI “democratizes historical > storytelling” and warned that “regulation risks stifling innovation.” > [/LA Times/ > <https://www.latimes.com/opinion/story/2025-03-01/documentary-film-artificia…>] > > The last remaining LA Times opinion staffer, Carla Hall, resigned in > February after 32 years at the paper. [/CJR/ > <https://www.cjr.org/business_of_news/last-member-la-times-editorial-board-t…>] > Il 04/03/25 12:27, David Orban ha scritto: > Ci sentiamo ispirati da libri di filosofia accademici o divulgativi e > veniamo arricchiti nella nostra capacità di interrogarci attorno a > grandi domande sull'esistenza. Questo può avvenire anche dalle > conversazioni con l'AI. Non perché le risposte che ci dà siano prese > per definitive, ma perché ci possano spronare a farci domande migliori.[1] > > A prescindere da questa possibilità, l'AI presa come strumento di > esplorazione scientifica, alla stessa stregua del telescopio di > Galileo, rimane l'opportunità più concreta e immediata. Una delle > promesse dell'AI è quella di addirittura accelerare la ricerca > scientifica. Questa accelerazione è stata illustrata in maniera > straordinaria dalla pubblicazione della struttura 3D di 200 milioni di > proteine, ottenuta con l'utilizzo di tecniche AI moderne.[2] > > Capire l'universo attraverso il miglioramento delle conoscenze > scientifiche è sufficiente a dare un significato alla nostra vita? > Questo è qualcosa che ognuno può decidere per sé, indipendentemente > dagli strumenti utilizzati. > > [1] Un esempio di qualche giorno fa è questa serie di opinioni AI con > affermazioni molto forti sulla natura della realtà > https://x.com/IterIntellectus/status/1895435087946391589 > > [2] https://alphafold.ebi.ac.uk/ > > David Orban > "What is the question that I should be asking?" > davidorban.com <http://davidorban.com> > > > On Tue, Mar 4, 2025 at 11:34 AM maurizio lana > <maurizio.lana(a)uniupo.it> wrote: > > devo confessare che tutte le volte che vedo riportati [dialoghi | > chiacchierate] con LLM sento un disagio. > davanti a questo post di Musk quel disagio si condensa e prende > forma : >> Elon Musk “The mission of xAI and Grok is to understand the >> universe. We want to answer the biggest questions: Where are the >> aliens? What’s the meaning of life? How does the universe end? To >> do that, we must rigorously pursue truth” > (https://x.com/elonmusk/status/1891737457013481818) > cioè si chiede ad un database compresso "what’s the meaning of life" ? > > è il riassunto di tutte quelle sessioni in cui ci si delizia di > [parlare con un database] facendo domande su questioni > filosofiche, etiche, relazionali, politiche. > > e 'noi che non crediamo più in nulla' siamo diventati adepti del > culto dell'IA e ci deliziamo delle conversazioni con i suoi oracoli. > > Maurizio > > ------------------------------------------------------------------------ > > if we spent on prosecuting the rich > just one-tenth of the effort we spend prosecuting the poor > it would be a very different world > bruce schneier > > ------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli > ------------------------------------------------------------------------ if we spent on prosecuting the rich just one-tenth of the effort we spend prosecuting the poor it would be a very different world bruce schneier ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

March 4, 2025

Re: [nexa] [Junk released by Allowed List] nexa Digest, Vol 191, Issue 12

by Giuseppe Attardi

March 4, 2025

Re: [nexa] il senso della vita?!?

by David Orban

Ci sentiamo ispirati da libri di filosofia accademici o divulgativi e veniamo arricchiti nella nostra capacità di interrogarci attorno a grandi domande sull'esistenza. Questo può avvenire anche dalle conversazioni con l'AI. Non perché le risposte che ci dà siano prese per definitive, ma perché ci possano spronare a farci domande migliori. [1] A prescindere da questa possibilità, l'AI presa come strumento di esplorazione scientifica, alla stessa stregua del telescopio di Galileo, rimane l'opportunità più concreta e immediata. Una delle promesse dell'AI è quella di addirittura accelerare la ricerca scientifica. Questa accelerazione è stata illustrata in maniera straordinaria dalla pubblicazione della struttura 3D di 200 milioni di proteine, ottenuta con l'utilizzo di tecniche AI moderne. [2] Capire l'universo attraverso il miglioramento delle conoscenze scientifiche è sufficiente a dare un significato alla nostra vita? Questo è qualcosa che ognuno può decidere per sé, indipendentemente dagli strumenti utilizzati. [1] Un esempio di qualche giorno fa è questa serie di opinioni AI con affermazioni molto forti sulla natura della realtà https://x.com/IterIntellectus/status/1895435087946391589 [2] https://alphafold.ebi.ac.uk/ David Orban "What is the question that I should be asking?" davidorban.com On Tue, Mar 4, 2025 at 11:34 AM maurizio lana <maurizio.lana(a)uniupo.it> wrote: > devo confessare che tutte le volte che vedo riportati [dialoghi | > chiacchierate] con LLM sento un disagio. > davanti a questo post di Musk quel disagio si condensa e prende forma : > > Elon Musk “The mission of xAI and Grok is to understand the universe. We > want to answer the biggest questions: Where are the aliens? What’s the > meaning of life? How does the universe end? To do that, we must rigorously > pursue truth” > > (https://x.com/elonmusk/status/1891737457013481818) > cioè si chiede ad un database compresso "what’s the meaning of life" ? > > è il riassunto di tutte quelle sessioni in cui ci si delizia di [parlare > con un database] facendo domande su questioni filosofiche, etiche, > relazionali, politiche. > > e 'noi che non crediamo più in nulla' siamo diventati adepti del culto > dell'IA e ci deliziamo delle conversazioni con i suoi oracoli. > > Maurizio > > ------------------------------ > > if we spent on prosecuting the rich > just one-tenth of the effort we spend prosecuting the poor > it would be a very different world > bruce schneier > > ------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli >

March 4, 2025