- nexa - server-nexa.polito.it

The Curious Case of David Mayer, the man ChatGPT cannot name
by Daniela Tafani Dec. 7, 2024

Dec. 7, 2024

Dec 01, 2024 - Georg Zoeller (AILTI) The Curious Case of David Mayer, the man ChatGPT cannot name. ChatGPT users have noticed a curious behavior: It refuses to talk about a 'David Mayer'. We have the explanation and point out less obvious implications. TL;DR: While not a juicy conspiracy, OpenAI cut some corners on regulatory compliance and the implications are less benign than they seem. In fact, they can be weaponized with unexpected consequences. ChatGPT is well known for not knowing when to stop talking - the underlying transformer architecture lends itself to hallucinations in situations when the model is asked to generate text beyond the context it was trained on. Even more curious, sometimes it starts giving a response, only to change its mind mid sentence, and terminating the conversation. So naturally, when the software stops and refuses to answer, users take notice. In this case, ChatGPT users found that mention of the name “David Mayer”, whenever included in a message, would consistently cause the model to terminate the conversation. It’s a conspiracy! Creating even more mystery, chatGPT rejection messages quickly move from unhelpful to ominously threatening when the user starts investigating the phenomenon. Continua qui: <https://centreforaileadership.org/resources/analysis_the_curious_case_of_on…>

9 17

avvocature e tecnologie
by karlessi Dec. 7, 2024

Dec. 7, 2024

buongiorno scorrendo i recenti thread della ml mi è sovvenuto di Feyerabend, intendo il filosofo della scienza. appena editata questa breve raccolta di saggi https://www.eleuthera.it/scheda_libro.php?idlib=603 non nascondo la mia ammirazione per Feyerabend. trovo magnifico il fatto che... fa ridere, è molto divertente. una delle argomentazioni, da cui l'oggetto della mail, riguarda la capacità della pratica dell'avvocatura (quando esercitata nel senso anarco-dadaista propugnato da Feyerabend) di smontare il "sapere degli esperti". Non solo il re è nudo, ma l'esperto è nudo, come diceva un vecchio amico australiano; e chiunque può vederlo. personalmente avverso gli esperti: non le persone di grande esperienza (ci sono ancora, ma non si presentano come esperti), ma le persone che fanno calare dall'alto il loro (presunto) sapere, e che per rimanere esperti devono essere riconosciuti dai loro pari, ovvero da un qualche sistema dominante che anche grazie a loro si auto-legittima. E chi non si conforma viene come minimo dileggiato (si può anche finire sul rogo, o lapidati, perché no, è già successo e succede tuttora). Poi ci sono le idiosincrasie comportamentali, certo: e non mi piacciono gli atteggiamenti di chi viene a spiegarmi come funziona il mondo, per quanta "ragione" possa avere. le scienze, auspica Feyerabend, devono essere sottoposte al controllo delle persone, del popolo, della democrazia. altrimenti sono come le religioni. Ma così non è. Nemmeno per le tecnologie è così: vengono spesso imposte, come ineluttabili e ovvie, tanto più quelle attuali che non sono utensili ma trascinano con sé cambiamenti psico-sociali a catena (solita argomentazione, diciamo simondoniana per far presto: non sono utensili perché non si possono portare con sé: ogni paragone con il sempiterno martello è fuori luogo: lo smartphone con annessa "IA" richiede concatenazioni di macchine in rete per "funzionare"). Eppure persone abili nell'avvocatura possono smontare tutte le argomentazioni degli esperti. Queste persone potrebbero insegnarci a vedere le cose da altre prospettive, senza farsi portatrici degli interessi del più forte. Esempio a cui ricorro spesso: energia nucleare. Sì o no? O forse? Vogliamo lasciare la questione in mano agli esperti di nucleare? O peggio ai politici che si basano su tali esperti? Spero di no, ma purtroppo così avviene. Perché un fisico teorico dovrebbe avere un'opinione migliore della mia su come gestire dei fondi per la ricerca accademica, se non per il principio d'autorità in un settore esteso ad altri campi? Oggi sulla fantomatica IA sta avvenendo lo stesso. Si ammantano di spiegazioni "scientifiche" interessi altri, ricorrendo a tutto l'armamentario tipico della tradizione magico-alchemica, es. l'esperienza. Che F. ricorda è tipica della caccia alle streghe (si dimostra che una strega confessa di essere strega in seguito a specifiche torture. come volevasi dimostrare: è l'esperienza che lo dice!). Nella comunicazione "scientifica" odierna è assai peggiorata in senso autoritario: F. mette a confronto il Malleus maleficarum e una lettera di famosi e certificati scienziati contro l'astrologia, e gli scienziati ne escono molto male: protervi, ignoranti dell'argomento, saccenti, prevenuti, forti con i deboli e deboli con i forti... A chi tocca decidere come procedere con la ricerca spaziale? antibiotici? biotecnologie? armi automatiche "chirurgiche"? sostanze per "potenziare" gli umani, ormoni per trasformarli? ecc ecc ecc disgraziatamente si moltiplicano i panel di esperti Non sono gli esperti che mancano, tanto meno quelli prezzolati che concorrono per nuove linee di finanziamento. sono i dilettanti, i buoni dilettanti. Gli esempi di F. sono chiaramente Galileo e Copernico (Contro il metodo), ma anche Einstein ecc. La mia convinzione (indimostrabile) è che ogni persona può diventare un buon dilettante di un argomento qualsiasi, non importa quanto complesso. Se è volutamente complicato (il caso della "IA" è lampante), ci sono in ballo altre questioni. E non ci vuole certo un titolo accademico, o un'istruzione "superiore", bensì persone attorno accoglienti e disposte a condividere ciò che sanno. Gli umani "primitivi" erano in grado di sopravvivere in ambienti nei quali qualunque "moderno armato di razionalità scientifica" soccomberebbe rapidamente; e di tramandare le loro culture! Non mi pare che le nostre culture che si spacciano per superiori ed evolute stiano messe così bene: l'infrastruttura di Internet è ridicolmente fragile, il cemento armato dura pochissimo, e tutto il resto va di conseguenza. Non si tratta di semplificare i messaggi, ma di non perdersi nelle dispute secondarie. meno sicumera, più scetticismo; meno fede nella tecnoscienza, più fiducia nelle capacità delle persone più le persone intorno a noi saranno forti, capaci di non farsi abbindolare, disposte a mettersi in gioco contro ogni supposta evidenza scientifica tipo "le leggi del mercato" (scienza economica?), "il diritto degli Stati" (scienza giuridica?), "la tecnologia migliore" (mito del progresso che è regresso sociale), più avremo qualche possibilità di limitare le catastrofi che ci attendono. servono tutte le capacità, e mescolarle fra loro, con la letizia del dilettantismo, senza rigidità identitaria. e che ciascuno smetta di fare come se nessun altro fosse in grado di capire e agire in maniera informata. buona giornata k. -- "tecnologie conviviali - https://tc.eleuthera.it" "pedagogia hacker - https://circex.org" "tecnologie appropriate - https://alekos.net"

2 1

Opportunità di ricerca in un progetto di Scienza Aperta e infrastrutture dati
by Antonio Vetro' Dec. 6, 2024

Dec. 6, 2024

Segnalo questa opportunità di ricerca nell’intersezione tra Scienza Aperta e infrastrutture dati. Si tratta di un assegno di ricerca “professionalizzante” categoria A presso il Dipartimento di Elettronica e Telecomunicazioni del Politecnico di Torino: https://careers.polito.it/default.aspx?id=410/2024-AR Content and finality of the research program Universities have a lot of data about their own research processes, which should be used to measure performance and to devise strategies to progress towards university’s goals. In this respect, institutional data sovereignty is instrumental. The Research Program aims at building a proof-of-concept institutional data lake consistent with the FAIR principles (Findability, Accessibility, Interoperability, Reusability) fed by the multiple university’s databases which store information on several research dimensions (projects, proposals, contracts, patents, publications and data, staff registry, etc.) to enable the creation of indicators and tools for research assessment and self-assessment which, in line with the COARA commitments, shall be multi-dimensional, inclusive, transparent and reproducible. Required activity The research fellow will be responsible for the technical activities of developing and validating a proof-of-concept institutional FAIR data lake built upon the integration of internal interoperable databases mapping all the relevant research activities and personnel information. The data lake will collect those type of data that today feed the univerty's data warehouse, with ad-hoc standardized metadata for the different types of information. It will implement preservation of historical data, controlled and secure protocols as well as anonymization levels tailored on the different stakeholders (e.g. governance, individual researcher), interoperability with internal and external databases and accessibility according to the “as open as possible as closed as necessary” philosophy; data will be equipped with appropriate licenses for reuse. The activity will be carried out in collaboration with three University's centres of study dedicated to open science, gender, and strategies and with the development area of the information system department. The detailed workplan of the overall project includes: [M1-M4] Analysis of the architecture of the current data warehouse and data lake design. MilestoneT1: Technical spec for data lake [M4]. [M5-M9] Implementation and testing phase on a subset of data to validate the functionality and usability. The subset of data will be identified in two parallel tasks devoted to 1) develop tools to monitor open science practices; 2) study gender bias issues of internal research assessment exercises the internal . Deliverable-T1.1: Proof-of-concept FAIR data lake available [M9]. [M11-M12] Design the complete FAIR data lake with a full set of research information data as identified by the other project tasks. Deliverable-T1.2: Design report and implementation plan [M12]. Qualifications and publications topics - Handling and modelling contexts (ETL/ELT, Data Lakehouse, DWH, Semantic Model). - Data lake and data warehouse technologies. - Programming languages such as SQL and Python. - Data visualisation and analysis tools such as Tableau. - Data security practices and regulatory compliance. Interview topics - Data lake and data warehouse solutions consistent with FAIR principles (findable, accessible, interoperable, reusable). - Creation and management of FAIR data and research data infrastructure. - Programming languages such as SQL and Python. - Data analytics and data visualization. - Data security and basic knowledge of relevant legislation Per maggiori informazioni: Prof.ssa Federica Cappelluti https://www.polito.it/personale?p=federica.cappelluti

1 0

Re: [nexa] The Curious Case of David Mayer, the man ChatGPT cannot name
by alessandro marzocchi Dec. 6, 2024

Dec. 6, 2024

Gli ultimi scambi centrano il tema centrale del digitale, inclusa AI e sue declinazioni. Il digitale è un linguaggio, funziona come tale e questa caratteristica emerge più volte, basta pensare ai "linguaggi" di programmazione. Lo ricorda Guido Vetere - Vol 188, Issue 6 - scrivendo "i LLM acquisiscono competenze linguistiche generali". Penso di non sbagliare affermando che ne è "drammaticamente" consapevole Giacomo Tesio che, più sotto, scrive "Le mie figlie vivranno nella società che contribuiamo a creare, anche con questi dibattiti." Sono queste convinzioni - è chiaro che possono essere sbagliate e dalle quali ognuno può dissentire - che ogni tanto ed anche ora mi spingono a chiedere l'impegno di Nexa per proporre una alfabetizzazione, educazione al digitale e col digitale. Come si impara la lingua madre - nessuno "nasce imparato" - man mano che la si impara è bene cominciare ad imparare anche il digitale, con juicio avrebbe scritto Manzoni. Poi, come pochi diventano grandi nelle arti e nelle scienze, anche nel digitale pochi saliranno oltre il minimo, ma Giacomo ha ben spiegato - vol 188, Issue 9 - che c'è una difficoltà a trattare argomenti ma spesso (penso a me stesso ed alla quasi totalità dei destinatari del digitale) c'è la difficoltà di nemmeno intuire quanto c'è sotto la superficie. L'educazione è lenta e difficile ma è l'unica soluzione, senza escludere tutte le altre azioni ben note a lista Nexa. Cordialmente. Duccio (Alessandro Marzocchi) ***** Il giorno ven 6 dic 2024 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > > Message: 1 > Date: Fri, 6 Dec 2024 10:38:57 +0100 > From: Carlo Blengino <blengino(a)penalistiassociati.it> > To: Giacomo Tesio <giacomo(a)tesio.it> > Cc: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] The Curious Case of David Mayer, the man ChatGPT > cannot name > Il giorno ven 6 dic 2024 alle ore 10:37 Giacomo Tesio <giacomo(a)tesio.it> > ha > scritto: > > > Caro Carlo, > > ... > > Ecco, questa è la condizione di qualsiasi informatico competente che ti > > ascolta: può decidere (come abbiamo fatto Stefano Quintarelli, Stefano > > Borroni Barale e Stefano Zacchiroli ed io) di metterti in discussione, > > può approfittare della tua ignoranza, usandoti per diffondere propaganda > > sul tema, o può ignorarti per scoramento. > > > > Personalmente oscillo fra la prima e la terza opzione perché a parlare > > a vanvera di informatica siete davvero in tanti. > > > > > Giacomo, Ti prego, opta per la terza opzione: ignorami, e lasciami nella > mia consapevole ignoranza. > Un abbraccio > CB > ------------------------------ > > Message: 2 > Date: Fri, 6 Dec 2024 10:57:34 +0100 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] The Curious Case of David Mayer, the man ChatGPT > > On Fri, 6 Dec 2024 10:38:57 +0100 Carlo Blengino wrote: > > > Giacomo, Ti prego, opta per la terza opzione: ignorami, e lasciami > > nella mia consapevole ignoranza. > > Lo faccio più spesso di quanto immagini (non solo con te, ovviamente). > > Talvolta però leggere certe sciocchezze mi risulta moralmente > intollerabile. Le mie figlie vivranno nella società che contribuiamo > a creare, anche con questi dibattiti. > > In tali occasioni, mi sento moralmente obbligato a rispondere. > > Se preferisci, però, posso tornare al consueto sarcasmo. ;-) > > Giacomo > >

1 0

CoARA: evento formativo organizzato da GARR per il prossimo 12.12.2024
by Damiano Verzulli Dec. 5, 2024

Dec. 5, 2024

Carissimi, immagino che in diversi, qui in lista, possano essere interessati a questo evento on-line, gratuito, organizzato da GARR: ========================================= => "CoARA: a che punto siamo - 12 dicembre 2024" https://learning.garr.it/enrol/index.php?id=331 [...] Il webinar vuole essere un’occasione per illustrare i risultati, fino a questo momento, del Capitolo Nazionale italiano di CoARA (Coalition for Advancing Research Assessment) e le principali sfide poste dalla riforma a livello nazionale. Lo scopo del Capitolo Nazionale è sensibilizzare la comunità nazionale sulla riforma di CoARA e più in generale su una valutazione responsabile delle attività di ricerca a tutto tondo; favorire l’apprendimento reciproco e la condivisione di buone pratiche; promuovere la discussione sulla revisione e lo sviluppo di criteri, strumenti e processi di valutazione a livello di istituzioni, singoli ricercatori e progetti. [...] ========================================= Bye, DV -- Damiano Verzulli e-mail: damiano(a)verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

1 0

Boston Review: "The AI We Deserve"
by J.C. DE MARTIN Dec. 5, 2024

Dec. 5, 2024

https://www.bostonreview.net/forum/the-ai-we-deserve/ Critiques of artificial intelligence abound. Where’s the utopian vision for what it could be? Evgeny Morozov <https://bostonreview.us12.list-manage.com/track/click?u=aea7c9cffc2113645a6…> leads a forum with Brian Eno, Audrey Tang, Terry Winograd, Bruce Schneier & Nathan Sanders, Sarah Myers West & Amba Kak, Wendy Liu, Edward Ongweso Jr., and Brian Merchant <https://bostonreview.us12.list-manage.com/track/click?u=aea7c9cffc2113645a6…>

1 0

"New report highlights the scientific impact of open source software"
by J.C. DE MARTIN Dec. 4, 2024

Dec. 4, 2024

*New report highlights the scientific impact of open source software* Two of the scientists who won this year’s Nobel Prize <https://www.nobelprize.org/prizes/chemistry/2024/press-release/> for cracking the code of proteins’ intricate structures relied, in part, on a series of computing models that anyone with a computer and the right understanding can access and run. Their creation, collectively called AlphaFold, quickly and accurately predicts the three-dimensional structure of each of the millions of proteins in the human body, a key to understanding their unique functions. In designing this model, Demis Hassabis and John Jumper relied on the shared work of tens of thousands of scientists and publicly available open source software, underscoring how open science is powering scientific discovery. Open source software refers to blocks of code that are developed and maintained online for anyone to use, improve, or share as they see fit — all for free. Biomedical scientists depend on these public tools to analyze large, complex data sets, paving the way for the development of new drugs and treatments. [...] continua qui: https://www.statnews.com/sponsor/2024/11/26/new-report-highlights-the-scien…

1 0

"Why ‘open’ AI systems are actually closed, and why this matters"
by J.C. DE MARTIN Dec. 4, 2024

Dec. 4, 2024

Published: 27 November 2024 *Why ‘open’ AI systems are actually closed, and why this matters * David Gray Widder, Meredith Whittaker & Sarah Myers West / Nature/ *635*, 827–833 (2024). https://doi.org/10.1038/s41586-024-08141-1 Abstract This paper examines ‘open’ artificial intelligence (AI). Claims about ‘open’ AI often lack precision, frequently eliding scrutiny of substantial industry concentration in large-scale AI development and deployment, and often incorrectly applying understandings of ‘open’ imported from free and open-source software to AI systems. At present, powerful actors are seeking to shape policy using claims that ‘open’ AI is either beneficial to innovation and democracy, on the one hand, or detrimental to safety, on the other. When policy is being shaped, definitions matter. To add clarity to this debate, we examine the basis for claims of openness in AI, and offer a material analysis of what AI is and what ‘openness’ in AI can and cannot provide: examining models, data, labour, frameworks, and computational power. We highlight three main affordances of ‘open’ AI, namely transparency, reusability, and extensibility, and we observe that maximally ‘open’ AI allows some forms of oversight and experimentation on top of existing models. However, we find that openness alone does not perturb the concentration of power in AI. Just as many traditional open-source software projects were co-opted in various ways by large technology companies, we show how rhetoric around ‘open’ AI is frequently wielded in ways that exacerbate rather than reduce concentration of power in the AI sector. https://www.nature.com/articles/s41586-024-08141-1

1 0

Articolo per il Manifesto
by J.C. DE MARTIN Dec. 3, 2024

Dec. 3, 2024

Mie riflessioni oggi sul Manifesto: https://ilmanifesto.it/smartphone-cambiare-prima-di-vietare Per leggere, basta registrarsi. Se qualcuno avesse comunque problemi, mi scriva. juan carlos

1 0

Nuovo rapporto: "Reclaiming Digital Sovereignty"
by J.C. DE MARTIN Dec. 3, 2024

Dec. 3, 2024

Oggi alle 16 è stato pubblicato questo rapporto dal titolo "Reclaiming Digital Sovereignty" https://www.ucl.ac.uk/bartlett/public-purpose/publications/2024/dec/reclaim… Penso che meriti una lettura :-) juan carlos

1 0