September 2023 - nexa - server-nexa.polito.it

webinar
by Filippo Barbera Sept. 27, 2023

Sept. 27, 2023

ciao vi condivido le info di questo webinar. ciao. fb The Institute for Analytical Sociology Seminar Venue: KO301 & Online on Zoom (see Zoom link in the end of the email) *Monday, October 2 @ 14:30CET* __________________________________________________ *Accelerating (social) science with human-aware artificial intelligence* *James Evans* *University of Chicago* Abstract: Artificial intelligence (AI) models trained on published scientific findings have been used to invent valuable materials and targeted therapies, but they typically ignore the human scientists who continually alter the landscape of discovery. Here we show that incorporating the distribution of human expertise by training unsupervised models on simulated inferences cognitively available to experts dramatically improves (up to 400%) AI prediction of future discoveries beyond those focused on research content alone, especially when relevant literature is sparse. These models succeed by predicting human predictions and the scientists who will make them. By tuning human-aware AI to avoid the crowd, we can generate scientifically promising “alien” hypotheses unlikely to be imagined or pursued without intervention until the distant future, which hold promise to punctuate scientific advance beyond questions currently pursued. I also explore the creation of other kinds of data-driven, machine learned "digital doubles" (e.g., LLM-based social agents) that facilitate cycles of semi-automated virtual and staged experiments tuned to reveal social and scientific insights and generate social and material technologies. Accelerating human discovery or probing its blind spots, I show how human-aware and complementary AI enables us to move toward and beyond the contemporary (social) scientific frontier. Join Zoom Meeting https://liu-se.zoom.us/j/65535789369 Meeting ID: 655 3578 9369 *James Evans* is the Max Palevsky Professor of History and Civilization, Sociology, Director of Knowledge Lab, and Founding Faculty Director of Computational Social Science at the University of Chicago and the Santa Fe Institute. Evans' research uses large-scale data, machine learning and generative models to understand how collectives think and what they know. This involves inquiry into the emergence of ideas, shared patterns of reasoning, and processes of attention, communication, agreement, and certainty. Thinking and knowing collectives like science, Wikipedia or the Web involve complex networks of diverse human and machine intelligences, collaborating and competing to achieve overlapping aims. Evans' work connects the interaction of these agents with the knowledge they produce and its value for themselves and the system. Evans designs observatories for understanding that fuse data from text, images and other sensors with results from interactive crowd sourcing and online experiments. Much of Evans' work has investigated modern science and technology to identify collective biases, generate new leads taking these into account, and imagine alternative discovery regimes. He has identified R&D institutions that generate more and less novelty, precision, density and robustness. Evans also explores thinking and knowing in other domains ranging from political ideology to popular culture. His work has been published in Nature, Science, PNAS, American Sociological Review, American Journal of Sociology and many other outlets. -- https://unito.webex.com/meet/filippo.barbera New!!! My new book The Foundational Economy and Citizenship <https://policy.bristoluniversitypress.co.uk/the-foundational-economy-and-ci…> is out now and available at 20% discount when you order from Policy Press <https://policy.bristoluniversitypress.co.uk/the-foundational-economy-and-ci…> . *Useful Links* Book page: https://policy.bristoluniversitypress.co.uk/the-foundational-economy-and-ci… To order your book on e-inspection: http://policypress.einspections.eb20.com/Requests/Step1/9781447353393 Filippo Barbera, PhD Professor of Economic Sociology, Department of Cultures, Politics & Society, Univ.of Torino, Campus Einaudi Fellow, Collegio Carlo Alberto Honorary Visiting Professor, Cardiff University Member, Forum Diseguaglianze e diversità email: filippo.barbera(a)unito.it twitter: @FilBarbera Skype: filippo.barbera_to

1 0

seminario sabato 30 settembre 2023 ore 9 -13 ad oggetto" Il valore dei dati e la transizione digitale
by Mauro Alovisio Sept. 26, 2023

Sept. 26, 2023

Gent.mi segnalo all'interno della quinta edizione del corso di perfezionamento in materia di GDPR il seminario: "Il* valore dei dati e la transizione digitale: le nuove sfide"* che si svolgerà in presenza sabato 30 settembre 2023 dalle ore 9 alle ore 13, presso l'aula B2 del campus Luigi Einaudi dell'l'Università degli Studi di Torino in Lungo Dora Siena 100/a con le relazioni del prof. Pierluigi Perri dell'Università Statale di Milano e gli interventi di Agostino Ghiglia e del prof. Francesco Pizzetti. Durante il seminario sarà presentato il volume di Agostino Ghiglia: *Educazione Civica digitale. Abbecedario essenziale,* edizione Maggioli, 2023 Vi riporto il link: https://www.giurisprudenza.unito.it/do/avvisi.pl/Show?_id=d5d8 Per iscrizioni: corsoprivacydpo(a)unito.it Per gli avvocati sono stati riconosciuti 4 crediti per la formazione obbligatoria attraverso l'iscrizione con la piattaforma Ticonosco, Grazie per l'attenzione Un caro saluto Mauro Alovisio <http://www.avg.com/email-signature?utm_medium=email&utm_source=link&utm_cam…> Privo di virus.www.avg.com <http://www.avg.com/email-signature?utm_medium=email&utm_source=link&utm_cam…> <#DAB4FAD8-2DD7-40BB-A1B8-4E2AA1F9FDF2>

1 0

Signal’s Meredith Whittaker: AI is fundamentally ‘a surveillance technology’
by J.C. DE MARTIN Sept. 26, 2023

Sept. 26, 2023

Signal’s Meredith Whittaker: AI is fundamentally ‘a surveillance technology’ Devin Coldewey <https://techcrunch.com/author/devin-coldewey/>@techcrunch <https://twitter.com/techcrunch>/ 1:01 AM GMT+2•September 26, 2023 Why is it that so many companies that rely on monetizing the data of their users seem to be extremely hot on AI? If you ask Signal president Meredith Whittaker (and I did), she’ll tell you it’s simply because “AI is a surveillance technology.” Onstage at TechCrunch Disrupt 2023 <https://youtu.be/amNriUZNP8w>, Whittaker explained her perspective that AI is largely inseparable from the big data and targeting industry perpetuated by the likes of Google and Meta, as well as less consumer-focused but equally prominent enterprise and defense companies. (Her remarks lightly edited for clarity.) “It requires the surveillance business model; it’s an exacerbation of what we’ve seen since the late ’90s and the development of surveillance advertising. AI is a way, I think, to entrench and expand the surveillance business model,” she said. “The Venn diagram is a circle.” continua qui: https://techcrunch.com/2023/09/25/signals-meredith-whittaker-ai-is-fundamen…

1 0

invitation Event in Bruxelles October 25
by Oreste Pollicino Sept. 26, 2023

Sept. 26, 2023

Cari Amici della Lista, mi permetto di invitarvi a questo seminario che si terrà il prossimo 25 ottobre a Bruxelles. ci sono ancora dei posti disponibili Spero di vedervi presto e vi ringrazio di sotto trovate tutte le indicazioni ed anche le modalità di iscrizioni Un caro saluto Alcune persone che hanno ricevuto questo messaggio non ricevono spesso messaggi di posta elettronica da andrea.parola(a)skynet.be. Scopri perché è importante<https://aka.ms/LearnAboutSenderIdentification> Dear friends, We are delighted to invite you to join the policy debate “Fighting Disinformation and Regulatory Conundrums: European and Global Perspectives”, which will take place on Wednesday 25 October 2023 at the Press Club (Rue Froissart 95, 1040 Bruxelles) in Brussels from 3:30 PM to 7:00 PM. This event will provide an opportunity to bring together thought leaders, policymakers, and experts from various sectors to discuss critical policy issues regarding disinformation and the protection of fundamental rights in an increasingly challenging digital environment, with a focus on the code of practice on disinformation. We are especially honored to announce that the keynote speaker for the event will be the esteemed Vice-President of the European Commission, Věra Jourová. Her presence will undoubtedly enrich the discussions and provide valuable insights into the challenges and opportunities that lie ahead. The programme will include the presentation of a new book on disinformation edited by Prof. Pollicino, here attcehd, collecting various contributions aimed at enhancing a global comparative analysis on freedom of expression and the challenges raised by disinformation. This event will also be the occasion to launch the new project “Digital Constitutionalism and Policy” (DICOPO) which aims to create a platform for policy debates and exchange among interested stakeholders. At the heart of this group lies a deep commitment to examine how rights and powers are changing in the digital age and how policy should approach to this transformation. The group brings together diverse perspectives and expertise with a view to providing meaningful insights and actionable recommendations to different stakeholders on the multifaceted challenges posed by the digital revolution, such as privacy, freedom of expression, algorithmic accountability, cybersecurity, and equitable access to technology. You will find attached the latest version of the programme Please let us know if you can join the event by confirming your participation here<https://forms.gle/PGcWXkW4jTE3K3gv8> We look forward to meeting at our event. Best wishes oreste pollicino Full Professor of Constitutional Law Bocconi University https://faculty.unibocconi.it/orestepollicino/ Via Roentgen 1, 20136, Milan +393395962212 Fulbright Scholar and Senior Emile Noël Global Fellow, New York University https://jeanmonnetprogram.org/fellow/oreste-pollicino/ 40 Washington Square S, New York, NY 10012 +1 212-992-6167 Italian Member of the Managing Board, EU Agency for Fundamental Rights, Vienna

1 0

I soldi di Google a GNUnet, Mozilla, Nexa etc... (era: necessaria alfabetizzazione digitale)
by Giacomo Tesio Sept. 26, 2023

Sept. 26, 2023

Il 23 Settembre 2023 20:02:17 UTC, Federico Morando ha scritto: >Buonasera Giacomo, Buona sera Federico, >sono curioso di capire fin dove si estende il ragionamento sulla >collaborazione con Google Il ragionamento che ho esposto si applica ovviamente a qualunque ente, organizzazione o sviluppatore che accetti soldi da Google & friends. Inclusa ovviamente Nexa e le diverse Università italiane. D'altro canto, la validità di un ragionamento non si misura dall'autorevolezza delle persone o delle organizzazioni che vi rientrano. Chiunque prenda soldi dal Governo Russo ne legittima l'operato. Chiunque prenda soldi da un organizzazione mafiosa, ne legittima l'operato. Per quale stramba ragione, accettare soldi da Google non dovrebbe implicare una legittimazione della sorveglianza e della manipolazione di massa che permette a Google di sottrarre alla società quelle risorse? >In pratica, questi fondi sono stati perlopiù spesi (così mi pare di >ricordare, ma si può approfondire, credo, incrociando tra Annual Reports, >e.g. https://nexa.polito.it/2016-annual-report , e qui >https://github.com/nexacenter/funding) per il progetto Neubot, a mio parere >il più interessante progetto open source portato avanti da Nexa, ma anche >un progetto adatto all'ethic-washing... Ahimé confesso di non conoscere Neubot. Al di là dell'ethic-washing, ad una rapidissima occhiata noto diverse ottime ragioni per cui Google può aver deciso di finanziarlo. Ad esempio, stando alla breve presentazione sul sito di Nexa [1] i dati raccolti dai volontari che installano Neubot vengono trasferiti a Measurement Lab [2], una delle tante filiali di Google sotto altro nome. Infatti "In 2022, we also began incoporating virtual servers in cloud networks into the platform, starting with Google Cloud." [3] Inoltre "For most tests, M-Lab collects and stores raw test data and makes the data publicly available using Google Cloud Storage. " [4] Dunque nel 2022, Neubot ha trasferito i dati personali dei cittadini europei che lo hanno installato a Google. Su che base di legittimazione, in assenza di una decisione di adeguatezza, questi trasferimenti sono avvenuti fra il 16/07/2020 e il 10/07/2023? Temo nessuna, poiché persino il consenso dell'utente non è sufficiente per trasferimenti sistematici come questi. Da un punto di vista cibernetico poi la net neutrality è un po' come il libero mercato: una splendida teoria per legittimare una pratica che favorisce SEMPRE gli agenti più forti. Il fatto che la banda consumata da Google costi come quella consumata dal mio piccolo ISP è ridicolo: i pacchetti ricevuti ed inviati da Google (o da Microsoft o Amazon etc...) consumano la stragrande maggioranza della banda disponibile, rallentando di fatto i pacchetti di tutti gli altri. Il sistema di costo dovrebbe tenerne conto: se per Legge la banda costasse MOLTO di più all'aumentare della sua percentuale di utilizzo da parte di un'organizzazione, i piccoli cloud provider avrebbero un vantaggio competitivo sulle BigTech che potrebbe ridure la concentrazione del mercato (anche a vantaggio della tanto invocata, ma sempre ostacolata nei fatti, concorrenza). È poi interessante notare come Google si sia assicurata accesso legale ai dati raccolti [5]: ``` Can I use M-Lab’s services without measurements being added to the public dataset? No. Using M-Lab’s test infrastructure and services requires the the resulting data to be shared. All data collected by M-Lab tests are available to the public without restriction under a No Rights Reserved Creative Commons Zero Waiver. ``` Dati che anche solo tramite l'IP, Google può quasi sempre correlare con gli l'identità degli utenti stessi se questi commettono l'errore di autenticarsi ai suoi servizi dallo stesso IP. Dunque purtroppo anche Neubot conferma la mia analisi: Google spende bene i propri soldi quando finanzia Università e Centri di Ricerca come Nexa, così come quando sconta del 100% Google Classroom a scuole elementari, medie o superiori. Non c'è alcun modo di collaborare con Google senza diventarne strumenti. Una considerazione peraltro ovvia da un punto di vista cibernetico. Per questo una alfabetizzazione digitale non ci serve a molto. Per questo la cittadinanza cibernetica non presuppone solo il saper programmare (pur fondamentale) ma anche un solida conoscenza della Storia. D'altronde non sto dicendo nulla di nuovo. O forse... farò la fine di Laocoonte anche io? ;-) Giacomo [1] https://nexacenter.org/neubot [2] https://www.measurementlab.net/who/ Consiglio di contare le occorrenze della parola Google in quella pagina per farsi un idea. [3] https://www.measurementlab.net/status/ [4] https://www.measurementlab.net/frequently-asked-questions/#who-is-collectin… [5] https://www.measurementlab.net/develop/#can-i-use-m-labs-services-without-m… >Il sab 23 set 2023, 20:16 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > >> Caro 380, >> [cut] >> >Se a te basta un GSoC per etichettare qualsiasi progetto come: >> > >> >1. strumento del business model di Google >> > >> >2. strumento degli obiettivi politici di Google >> >> Esattamente. Basta un GSoC (Google Summer of Code). >> >> >> Nel momento in cui collabori con un nemico enormemente più potente di te, >> puoi contartela finché vuoi, ma hai tradito coloro che si battono al tuo >> fianco. >> >> Non c'è alcun modo di lavorare con Google senza diventarne uno strumento. >> >> [...] >> >> Ma il GSoC nella home di GNUnet ha ənche un altra funzione, molto più >> ovvia ed immediata: >> il consueto Open-Washing e Ethic-Washing di Google che, pensa un po'? >> Si preoccupa della privacy! >> >>

3 5

Open Source Week 2023
by D. Davide Lamanna Sept. 26, 2023

Sept. 26, 2023

Martedì prossimo incomincia la Open Source Week. Quest'anno a Roma, presso Eataly (stazione Ostiense). <https://opensourceweek.it/>. E proprio martedì sera, alle 18:30, facciamo lo Speciale Community. <https://www.eventbrite.it/e/biglietti-open-source-week-2023-speciale-commun…>. Chi è a Roma ne approfitti. E per tutte le altre/altri... diffondete! ;-) D. (null)

1 0

Mozilla: "It’s Official: Cars Are the Worst Product Category We Have Ever Reviewed for Privacy" (Marco A. Calamari)
by alessandro marzocchi Sept. 26, 2023

Sept. 26, 2023

Non arrendersi è stato utile? Nella scuola si educa al SW libero? In argomento, quali progressi? Da utente inesperto non mi sono arreso, neppure ho visto progressi, tutt'altro. Non mi arrendo ma ... sarà utile? Lancio una proposta: *DIVIETO - CON SANZIONI ANCHE PENALI - DI USARE SW APERTO, LIBERO*. E' una provocazione, non prendetela sul serio, ma sono molto dispiaciuto di non trovare di meglio. Auguri cordiali. Duccio (Alessandro Marzocchi) ************************************* Date: Wed, 13 Sep 2023 11:51:05 +0200 > > From: "Marco A. Calamari" <marcoc_maillist(a)marcoc.it> > To: Damiano Verzulli <damiano(a)verzulli.it>, nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Mozilla: "It’s Official: Cars Are the Worst > Product Category We Have Ever Reviewed for Privacy" > Message-ID: <fc7a7da58ccabf33145431e690f49f3ed10f3d07.camel(a)marcoc.it> > Content-Type: text/plain; charset="UTF-8" > > On mer, 2023-09-13 at 09:31 +0200, Damiano Verzulli wrote: > > Il 12/09/23 17:00, alessandro marzocchi ha scritto: > > > [....] > > > Non è questione di date ma di metodo, una volta deciso / accettato / > imposto > > > che l'uomo deve adattarsi alla tecnologia, è giunto il momento di > > > domandarsi: quale genere umano nell'era digitale? > > > Ink *** non basta, non basta ribellarsi, a me non piace, manco a te, > manco a > > > tanti altri e neppure a Beppe Attardi ma dobbiamo prendere atto che il > > > dominio tecnologico comanda il mondo. > > ... > > > Perché dico questo? > > Perché quando leggo --da persone nei cui confronti nutro uno stima > > elevatissima-- cose come il passaggio che ho quotato: > > > [...] > > > non basta, non basta ribellarsi, a me non piace, manco a te, manco a > > > tanti altri e neppure a Beppe Attardi ma dobbiamo prendere atto che > il > > > dominio tecnologico comanda il mondo. > > Mi chiedo: "Possibile che questo status-quo venga accettato passivamente? > > Cos'altro potrei fare, _IO_?". > > La risposta che mi do (da alcuni anni) è semplice: "Io non posso fare > piu' > > nulla. Il 100% dei tentativi effettuati, ha dato esito NEGATIVO. > Esattamente > > come accadde ~15 anni or-sono [1]" > > Probabilmente l'unica cosa che resta da fare (ma che è "fuori" dal mio > dominio > > di possibilita') è iniziare a martellare gli studenti facendo capire > loro che > > quello attuale non è "l'unico scenario possibile", ma, piuttosto, che ne > > esistono altri, tanti altri... E poi lasciando loro la possibilita' di > > scegliere. > > I miei figli, un po', l'hanno capito. Ma se rifletto sullo sforzo che è > stato > > necessario --da parte mia-- mi rendo istantaneamente conto che non è un > > risultato "scalabile". Anzi: senza ulteriori e consistenti miei sforzi... > > tutto verra' spazzato via nel giro di pochissimo tempo (la pressione di > > "scuola", "colleghi studenti di classe", "cerchia degli amici [fisici]", > > "zii", "cugini"... "tutti") è tale per cui... soccomberanno. Non hanno > ancora > > metabolizzato --e tantomeno non riescono a trasmettere all'esterno-- che > > questa piccola luce che si portano dentro (della possibilita' di > "scegliere" > > l'approccio tecnologico e, soprattutto, di poterlo "controllare") *NON* > è "un > > bug" (che tutti gli altri vorrebbero che loro due "eliminassero"), ma è > "una > > feature" (che gli altri dovrebbero far proprio). > > Ormai ho quasi perso le speranze.... ma l'idea che un Ateneo, in un > qualche > > Corso di Studi, possa avere una materia dedicata alla > "de-googlizzazione" o > > alla "de-proprietarizzazione" della tecnologia continua ad apparirmi non > solo > > "possibile", ma anche decisamente auspicabile... Sarebbe un sistema > banale, > > economicissimo ed efficacissimo, per produrre quella "sensibilita'" in > > centinaia di giovani adulti, nei confronti dei quali una qualche > lampadina > > potrebbe accendersi... e trasformarsi in luce nei successivi 30 anni. > > Eppure tale possibilita' non si vede all'orizzonte... > > Se non si riesce a discutere di questo, di come il mondo UNIV possa > > contribuire attivamente a questo genere di sviluppo, nonostante goda dei > piu' > > alti margini di manovra (mi riferisco all'Art. 33 della Costituzione), > in una > > lista come questa... come possiamo pensare che venga fatto altrove? > > Mi fermo qua. > > Provo a proseguire io, con l'ingenua pretesa che qualcuno segua uno di > questi > due link > https://www.punto-informatico.it/cassandra-crossing-il-noioso-profeta/ > > https://calamarim.medium.com/cassandra-crossing-il-noioso-profeta-15a97e197… > ed abbia voglia di leggere questo pezzo del 2011 (spero divertente) dove > tentavo di descrivere esattamente la stessa sindrome che stai provando, > applicata al "mancato" uso dell crittografia. > La risposta che contiene è semplicemente il non arrendersi. > Mi autocito, parlando di un noto personaggio di "Watchmen"; sostituite > ai puntini il problema di oggi > "Qualunque altra posizione non può che giovare alla ............... > che come un cancro rischia di divorare la cultura moderna. > Nessun alibi possibile, nessuna trattativa, nessuna possibilità di > mediazione. Rorschach , non abituato alle mezze misure, capirebbe > perfettamente questa necessità." > In sintesi: resistere, essere di esempio, oggi, per il domani che non > vedremo. > Scusate il sentimentalismo. > Marco > > [1] CTRL-F "conclusioni" > > suhttp:// > linuxdidattica.org/docs/documenti/tribolazioni_software_libero.html >

9 17

Initial policy considerations for generative artificial intelligence | OECD Artificial Intelligence Papers | OECD iLibrary (oecd-ilibrary.org)
by Alessandro Brolpito Sept. 25, 2023

Sept. 25, 2023

Buonasera, Condivido un rapporto appena pubblicato da OECD, Initial policy considerations for generative artificial intelligence | OECD Artificial Intelligence Papers | OECD iLibrary (oecd-ilibrary.org) <https://www.oecd-ilibrary.org/science-and-technology/initial-policy-conside…> Fornisce una rubrica dei rischi a breve e a lungo termine legati all'uso dei sistemi di intelligenza artificiale, con un focus su quella generativa. Impressionante sono i rischi a lungo termine, soprattutto quelli "subdoli", a lungo termine, legati, ad esempio alle proprietà emergenti. Alessandro

1 0

Re: [nexa] L' "Intelligenza Artificiale" nel discorso di Giorgia Meloni, alle Nazioni Unite (Damiano Verzulli) nexa Digest, Vol 173, Issue 45
by Diego.Latella Sept. 25, 2023

Sept. 25, 2023

Beh ... le belle parole, specie su queste cose (ethical washing) e' abbastanza facile farsele scrivere, soprattutto al giorno d'oggi ... A me, invece, hanno colpito soprattutto queste (sue) parole: > [..] assicurare che queste tecnologie rispettino barriere etiche, > che l'evoluzione della tecnologia rimanga al servizio dell'uomo > e non viceversa. Serve dare applicazione pratica al concetto di > "algoretica", ovvero dare un'etica > agli algoritmi. Mi pare che venga scaricata tutta la "responsabilita'" solo sulle *tecnologie*, che devono rispettare le "barriere etiche". Si fa poi direttamente riferimento alla necessita' di "dare un'etica agli algoritmi". Cioe': chi li produce, vende e usa non ha alcuna responsabilita', ne' accountability (non che prima dell'IA ce l'avessero ...). Mah ...

2 1

AI-focused tech firms locked in ‘race to the bottom’, warns MIT professor
by Alberto Cammozzo Sept. 25, 2023

Sept. 25, 2023

<https://www.theguardian.com/technology/2023/sep/21/ai-focused-tech-firms-lo…> The scientist behind a landmark letter calling for a pause in developing powerful artificial intelligence systems has said tech executives did not halt their work because they are locked in a “race to the bottom”. Max Tegmark, a co-founder of the Future of Life Institute, organised an open letter in March calling for a six-month pause in developing giant AI systems. Despite support from more than 30,000 signatories, including Elon Musk and the Apple co-founder Steve Wozniak, the document failed to secure a hiatus in developing the most ambitious systems. Speaking to the Guardian six months on, Tegmark said he had not expected the letter to stop tech companies working towards AI models more powerful than GPT-4, the large language model that powers ChatGPT, because competition has become so intense. “I felt that privately a lot of corporate leaders I talked to wanted [a pause] but they were trapped in this race to the bottom against each other. So no company can pause alone,” he said. The letter warned of an “out-of-control race” to develop minds that no one could “understand, predict, or reliably control”, and urged governments to intervene if a moratorium on developing systems more powerful than GPT-4 could not be agreed between leading AI companies such as Google, ChatGPT owner OpenAI and Microsoft. It asked: “Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilisation?” Tegmark, a professor of physics at the Massachusetts Institute of Technology, said he viewed the letter as a success. “The letter has had more impact than I thought it would,” he said, pointing to a political awakening on AI that has included US Senate hearings with tech executives and the UK government convening a global summit on AI safety in November. Expressing alarm about AI had gone from being taboo to becoming a mainstream view since the letter’s publication, Tegmark said. The letter from his thinktank was followed in May by a statement from the Center for AI Safety, backed by hundreds of tech executives and academics, declaring that AI should be considered a societal risk on a par with pandemics and nuclear war. “I felt there was a lot of pent-up anxiety around going full steam ahead with AI, that people around the world were afraid of expressing for fear of coming across as scare-mongering luddites. The letter legitimised talking about it; the letter made it socially acceptable. “So you’re getting people like [letter signatory] Yuval Noah Harari saying it, you’ve started to get politicians asking tough questions,” said Tegmark, whose thinktank researches existential threats and potential benefits from cutting-edge technology. Fears around AI development range from the immediate, such as the ability to generate deepfake videos and mass-produce disinformation, to the existential risk posed by super-intelligent AIs that evade human control or make irreversible and highly consequential decisions. Tegmark warned against describing the development of digital “god-like general intelligence” as a long-term threat, citing some AI practitioners who believe it could happen within a few years. The Swedish-American scientist said November’s UK AI safety summit, to be held at Bletchley Park, was a “wonderful thing”. His thinktank has said the summit should target three achievements: establishing a common understanding of the severity of risks posed by AI; recognising that a unified global response is needed; and embracing the need for urgent government intervention. He added that a hiatus in development was still needed until global agreed safety standards were met. “Making models more powerful than what we have now, that has to be put on pause until they can meet agreed-upon safety standards.” He added: “Agreeing on what the safety standards are will naturally cause the pause.” Tegmark also urged governments to take action on open-source AI models that can be accessed and adapted by members of the public. Mark Zuckerberg’s Meta recently released an open-source large language model, called Llama 2, and was warned by one UK expert that such a move was akin to “giving people a template to build a nuclear bomb”. “Dangerous technology should not be open source, regardless of whether it is bio-weapons or software,” Tegmark said.

2 1