March 2023 - nexa - server-nexa.polito.it

Re: [nexa] Criti-hype di Harari

by Maria Chiara Pievatolo

On 27/03/23 10:48, Giuseppe Attardi wrote: > "the new A.I. capacities will again be used to gain profit and power, > even if it inadvertently destroys the foundations of our society.” > > Corretto, ma quali siano le situazioni in cui verranno impiegati > dipenderà dai fini di coloro che le usano, che NON sono l'AI stessa, ma > sono banalissime aziende tecnologiche votate al profitto, guidate da > banalissime persone umane. > Il problem siamo NOI umani e non la tecnologia. > > La tecnologia viene antropizzata, affidandole capacità di volere ("AI is > seizing the master key”), penoso per un filosofo fare questo tipo di > confusione: > > “[AI] can now hack and manipulate the operating system of civilization. ." > Credo che Harari, disciplinarmente, si presenti come storico e non come studioso di filosofia, per quel che conta. Sul rapporto fra le tecnologia e gli esseri umani forse vale però ancora la pena citare qualcuno che conosceva ciò di cui parlava, Joseph Weizenbaum, che in "Computer Power and Human Reason", ch. I pp. 37-38 (1976) scriveva: "Similarly, a highway permits people to travel between the geographical centers it connects, but, because of the side effects that it and other factors synergistically engender, it imprisons poor people in inner cities as effectively as if the cities were walled in. The mass-communication media are sometimes said to have reduced the earth to a global village and to have enabled national and even global town meetings. But, in contrast to the traditional New England town meeting which was—and remains so in my home town—an exercise in participatory politics, the mass media permit essentially no talking back. Like highways and automobiles, ***they enable the society to articulate entirely new forms of social action, but at the same time they irreversibly disable formerly available modes of social behavior***." Come le autostrade i computer, proseguiva Weizenbaum, fanno qualcosa di simile. Introducono nuove possibilità, e allo stesso tempo ne escludono altre: "a computing system that permits the asking of only certain kinds of questions, that accepts only certain kinds of "data," and that cannot even in principle be understood by those who rely on it, such a computing system has effectively closed many doors that were open before it was installed." Questo, naturalmente, non implica che la tecnologia prenda decisioni e le si possa imputare una responsabilità morale. Implica, però, che esseri finiti che fanno scelte tecnologiche o subiscono quelle altrui, in un mondo finito, producono ambienti che incorporano in sé delle decisioni e delle linee di condotta, creando e distruggendo possibilità d'azione. Idealmente, il problema siamo noi umani e le nostre scelte. Pragmaticamente, però, in quanto le scelte passate determinano strutture e infrastrutture, per chi viene dopo il problema è anche la tecnologia "vigente" con cui si trova ad avere a che fare: una tecnologia che incorpora una sua politica, talvolta perfino contro la volontà consapevole di chi l'ha progettata e messa in atto - come ebbe a rendersi conto lo stesso Weizenbaum con la sua ELIZA. Stando così le cose, forse non è ozioso chiedersi: - quali possibilità d'azione offrono in più i SALAMI? - a chi lo offrono? - quali possibilità invece precludono? - a chi le precludono? - chi e perché è interessato a usarle e a farle usare? - le conseguenze che la loro adozione produce sono (facilmente) reversibili o no? ...e così via. Daniela Tafani ha tenuto, su questo tema, un seminario per "Etica digitale" del quale non so se sia già accessibile la registrazione, in cui ha preso le mosse da un articolo solo di poco posteriore al libro di Weizenbaum: https://cedi.umd.edu/inst-466-do-artifacts-have-politics/ che discute una serie di esempi di tecnologie con politiche incorporate. Alcuni sono ovvi - quali la bomba atomica -, altri meno. Buona lettura, MCP

March 28, 2023

Re: [nexa] ChatGPT e la stanza cinese

by Daniela Tafani

Buon pomeriggio. Il 28/03/2023 17:07, 380° ha scritto: qualcuno sostiene che ChatGPT è intelligenza artificiale generale (akaforte)? :-) Temo di sì: Sparks of Artificial General Intelligence: Early experiments with GPT-4 <https://arxiv.org/abs/2303.12712> Esperimenti da scienza culto del cargo, considerata la segretezza di tutte le specifiche di GPT-4. E, per restare in tema di animismo, un senatore degli USA ha scritto ieri che chatGPT "ha deciso": <https://www.vice.com/en/article/ak3zbp/for-the-love-of-god-ai-chatbots-cant…> OpenAI, del resto, presenta ChatGPT in questi termini: "By learning from billions of sentences, our models learn grammar, many facts about the world, and some reasoning abilities" <https://openai.com/blog/how-should-ai-systems-behave> L'elemento dell'inganno era già presente nel "gioco dell'imitazione" di Turing. Nel lessico di oggi, potremmo constatare che è una scelta di design, quella di diffondere un sistema di autocompletamento che dice "io". Un saluto, Daniela

March 28, 2023

Dialoghi sul reddito di base con un’intelligenza artificiale

by Antonio

Dialogano con l’AI: Giuseppe Allegri, Giuseppe Bronzini, Andrea Fumagalli, Sandro Gobetti, Rachele Serino. Inoltre, un breve dialogo tra Giacomo, un adolescente di 14 anni, ed una AI sul reddito di base. https://www.bin-italia.org/quaderni-per-il-reddito-n12-dialoghi-sul-reddito… link diretto al PDF (140 pagine) https://www.bin-italia.org/wp-content/uploads/2023/02/QR-12_-Dialoghi-sul-r… A.

March 28, 2023

[OT] Re: riflessioni su SALAMI e dintorni (era: ChatGPT e la stanza cinese)

by 380°

Buongiorno, Stefano Quintarelli <stefano(a)quintarelli.it> writes: > sto vedendo una startup che usa NLP in uno spreadsheet. oh mamma mi vengono i brividi: già i fogli di calcolo sono **pericolosi** da soli, messi assieme a NLP diventano /automaticamente/ "Weapons of Math Destruction"! :-O > "Dammi il prodotto dei due numeri maggior di questa lista" > "prendi tutte le date in questa lista e convertile in anno mese > giorno" ma non si fa prima a scrivere una funzioncina in un linguaggio di programmazione (ad alto livello) /a caso/ (usando qualche libreria, magari)? > è un esempio > > più in generale il nocode con nlp potrebbe essere una cosa > significativa. anche il nodebug del nocode via NLP potrebbe essere significativo... un incubo significativo :-) [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

March 28, 2023

Re: [nexa] ChatGPT e la stanza cinese

by 380°

Buongiorno Enrico, Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > Mi è venuto in mente che ciò che fa ChatGPT è una sorta di > realizzazione pratica dell'esperimento mentale della Stanza Cinese di > John Searle (https://it.wikipedia.org/wiki/Stanza_cinese qualcuno sostiene che ChatGPT è intelligenza artificiale generale (aka forte)? :-) [...] Citando Searle: --8<---------------cut here---------------start------------->8--- it is not about machines but about programs, and no program by itself is sufficient for thinking --8<---------------cut here---------------end--------------->8--- tratto da «Minds, brains, and programs» del 1980 https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/artic… [1] saluti, 380° [1] per fortuna il paper /piratato/ è qui: https://sci-hub.ru/10.1017/S0140525X00005756 -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

March 28, 2023

Articolo scientifico: "Angry Posts Mobilize: Emotional Communication and Online Mobilization in the Facebook Pages of Western European Right-Wing Populist Leaders"

by J.C. DE MARTIN

*Angry Posts Mobilize: Emotional Communication and Online Mobilization in the Facebook Pages of Western European Right-Wing Populist Leaders** * Paolo Gerbaudo Ciro Clemente De Falco Giulia Giorgi Silvia Keeling Antonia Murolo Federica Nunziata https://doi.org/10.1177/20563051231163 *Abstract** * The rise of right-wing populists in Western Europe has often been linked to their ability to exploit social media affordances to fuel anger. While scholarship has already examined the emotional dimension of the populist right’s online communication, with some researchers studying specifically the fuelling of anger among social media users, we still lack empirical proof of the mobilizational effectiveness of what we describe as “anger-triggering communication.” To explore this question, in this article, we develop a statistical and topic analysis of right-wing populists’ Facebook pages in Italy, France, Spain, and Germany during the 2019 European Union (EU) election campaign. We find that (a) right-wing populists on Facebook have a significantly higher number of “Angry” Facebook reactions per post compared to their political adversaries; (b) there is a positive and significant effect of the number of Angry reactions on the number of times a post is shared; (c) Angry reactions and Shares are overrepresented in posts on immigration and security, but anger-fuelled mobilization is not limited to these topics. These findings contribute to the scholarship on social media, emotional communication, and populism, adding insights on the mobilizational effectiveness of negative campaigning. The article highlights that stoking public anger, especially around controversial issues such as immigration and security, is a rewarding tactic because it increases motivational strength, and contributes to triggering high-threshold interactions such as sharing, which, in turn, are key for achieving virality in the diffusion of political messages. https://journals.sagepub.com/doi/10.1177/20563051231163327

March 28, 2023

161° Mercoledì di Nexa | 12 aprile 2023, ore 17.00

by Nexa Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al *161° Mercoledì di Nexa*, che si terrà *mercoledì 12 aprile, alle ore 17.00*, con ospite *Enrico Nardelli* (Università di Roma "Tor Vergata") che presenterà il suo ultimo libro: /*"La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale"*/, Themis, 2022. _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA_ dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono *Portineria* e di seguire le indicazioni segnalate dai cartelli apposti all'ingresso e lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE_ dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: Nexa Center for Internet and Society Newsletter Se non visualizzi correttamente questo messaggio clicca qui <https://nexa.polito.it/mercoledi-161> NEXA 161° Mercoledì di Nexa Mercoledì 12 aprile 2023, ore 17.00 - 19.00 Politecnico di Torino https://nexa.polito.it/mercoledi-161 /La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale/ *ENRICO NARDELLI (Università di Roma "Tor Vergata")* *L'INCONTRO SI TERRÀ IN PRESENZA E ONLINE* *SEDE FISICA*: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Suonare al citofono *Portineria* - Seguire le indicazioni segnalate dai cartelli apposti all'ingresso e lungo il percorso. (Per maggiori informazioni su come raggiungerci clicca QUI <https://nexa.polito.it/contatti>) *STANZA VIRTUALE*: https://didattica.polito.it/VClass/NexaEvent Con l'avvento, a metà del secolo scorso, dei calcolatori elettronici, che apparivano in grado di svolgere quei compiti intellettuali tipici delle persone, l'umanità aveva iniziato a pensare di poter alleviare le sue fatiche mentali. La storia successiva ha mostrato che eravamo ottimisti e anche un po' superficiali. *L'automazione realizzata attraverso la tecnologia digitale ha ancora forti limiti e spesso vincola il nostro spazio di libertà invece di aiutarci*. Le "macchine cognitive" che la realizzano sono prive di ogni consapevolezza di ciò che fanno, di qualunque comprensione di ciò che producono e ignorano tutte le dimensioni che caratterizzano la società umana a parte quella esclusivamente razionale. In parallelo, la riservatezza sulle nostre azioni e la nostra esistenza si sta assottigliando sempre di più, mentre *piattaforme inizialmente pensate per facilitare le relazioni sociali e l'utilizzo dei servizi sono usate per influenzarci in modi nascosti e subdoli e per aumentare le disuguaglianze sociali, impoverendo le masse a scapito dei pochissimi che le controllano*. Adesso è iniziata la diffusione di sistemi basati su tecniche di intelligenza artificiale, che hanno la potenzialità di esasperare ancora di più questa situazione. È quindi *in atto una vera e propria rivoluzione, la "rivoluzione informatica"*, che - come precedenti analoghe rivoluzioni, quella della stampa a caratteri mobili e quella industriale - cambierà radicalmente la nostra società. Dobbiamo però sviluppare un'*automazione rispettosa e fidata*, che ci aiuta facendoci risparmiare tempo, ci protegge da intromissioni indebite e supporta la crescita di comunità solidali. La sua realizzazione passa attraverso un'*istruzione di massa sull'informatica*, la disciplina scientifica e tecnologica che la rende possibile, obiettivo verso il quale molti paesi avanzati, in tutto il mondo, si sono già mossi. BIOGRAFIA e informazioni supplementari: [mercoledì161] *Enrico NARDELLI* è professore ordinario di Informatica all'Università di Roma "Tor Vergata", direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI (Consorzio Interuniversitario Nazionale per l'Informatica) e presidente di "Informatics Europe" <https://www.informatics-europe.org/>, associazione europea dei dipartimenti universitari di Informatica. Fa parte del Comitato Direttivo della coalizione europea "Informatics for All" <https://informaticsforall.org/> ed è il coordinatore del progetto nazionale “Programma il Futuro” <https://programmailfuturo.it/>, patrocinato dal Ministero dell'Istruzione e del Merito, per l’introduzione nelle scuole italiane di una formazione di base agli aspetti culturali fondamentali dell’informatica. La sua attuale attività di ricerca è nel settore della didattica dell'informatica e nello studio interdisciplinare dei sistemi informatici in relazione al loro impatto sociale. *Letture consigliate:* * Glenn Greenwald, /Sotto controllo/ <https://rizzoli.rizzolilibri.it/libri/no-place-to-hide-sotto-controllo/>, Rizzoli, 2014 * Evgeny Morozov, /Silicon Valley: i signori del silicio/ <https://www.codiceedizioni.it/libri/silicon-valley-i-signori-del-silicio/>, Codice Edizioni, 2017 * Antonio Casilli, /Schiavi del clic/ <https://www.feltrinellieditore.it/opera/opera/schiavi-del-clic/>, Feltrinelli, 2020 * Cory Doctorow, /Chokepoint capitalism/ <https://scribepublications.co.uk/books-authors/books/chokepoint-capitalism-…>, Scribe UK, 2022 * Enrico Nardelli, /La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale/ <https://themiscrime.com/it/edizioni-themis/digitale-societa/item/547-la-riv…>, Themis, 2022 Che cosa sono il Centro Nexa e i cicli di incontri “Mercoledì di Nexa” e “Nexa Lunch Seminar” <https://www.facebook.com/nexa.center/> <https://twitter.com/nexacenter> <https://www.youtube.com/user/NexaCenter> <https://www.instagram.com/nexa_center/> <https://www.linkedin.com/company/3054864/admin/> #nexawednesday <https://twitter.com/search?q=%23nexawednesday&src=typd> #EnricoNardelli <https://twitter.com/enriconardelli> #UniversitàdiRomaTorVergata <https://twitter.com/unitorvergata> Il Centro Nexa su Internet & Società del Politecnico di Torino (Dipartimento di Automatica e Informatica), fondato nel 2006, è un centro di ricerca interdisciplinare che, in collaborazione con l’Università di Torino (in particolare il Dipartimento di Giurisprudenza), studia le tecnologie digitali e il loro rapporto con la società. Maggiori informazioni all'indirizzo: http://nexa.polito.it/about. Durante i “Mercoledì di Nexa”, che si tengono *ogni 2° mercoledì del mese alle ore 17 in punto*, il Centro Nexa su Internet e Società apre le sue porte non solo agli esperti e a tutti coloro i quali lavorano con Internet, ma anche a semplici appassionati e cittadini. Il ciclo di incontri intende approfondire, con un linguaggio preciso ma accessibile, i temi legati alla Rete: “intelligenza artificiale”, reti sociali, software libero, capitalismo della sorveglianza, neutralità della rete, libertà di espressione, privacy, condivisione di file, "big data" e "open data", “smart cities”, e molto altro. Al centro della maggior parte degli incontri un ospite pronto a dialogare con i direttori del Centro Nexa, il Prof. Juan Carlos De Martin del Politecnico di Torino, i Proff. Marco Ricolfi e Maurizio Borghi dell'Università di Torino, lo staff, i Fellows del Centro Nexa e tutti i presenti. Maggiori informazioni sui Mercoledì di Nexa, incluso un elenco di tutti i “Mercoledì” passati, sono disponibili all'indirizzo: http://nexa.polito.it/mercoledi. Le registrazioni degli incontri sono disponibili qui: https://nexa.polito.it/audio-video. Si segnala inoltre che dal maggio 2012 *ogni 4° mercoledì* del mese *dalle ore 13 alle ore 14* il Centro Nexa organizza anche i "*Nexa Lunch Seminar*". Una lista di tutti i “Lunch Seminar” passati è disponibile all'indirizzo: http://nexa.polito.it/lunch-seminars. See our events calendar <http://nexa.polito.it/events> if you're curious about future luncheons, discussions, lectures, and conferences not listed in this email. Our events are free and open to the public, unless otherwise noted. Responsabile Comunicazione Centro Nexa su Internet & Società: *Anita Botta*, tel: +39 011 090 7219, Mob: +39 347 131 3903, anita.botta(a)polito.it. Maggiori informazioni sui Mercoledì di Nexa e i Nexa Lunch Seminar, sono disponibili all'indirizzo: http://nexa.polito.it/events. Weekly Events Newsletter. Sign up <http://nexa.polito.it/mailing-lists> to receive this newsletter if this email was forwarded to you. To manage your subscription preferences, please click here <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>. Connect & get involved: Jobs, internships, and more <http://nexa.polito.it/get-involved>. Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

March 27, 2023

Re: [nexa] Criti-hype di Harari

by Damiano Verzulli

Il 27/03/23 10:48, Giuseppe Attardi ha scritto: > [...] > Il problem siamo NOI umani e non la tecnologia. Concordo particolarmente sull'asserzione precedente. Ora, assodato che non è possibile premere RESET, che si fa? Come si puo' fare un passettino in avanti? Idee? suggerimenti? Bye, DV -- Damiano Verzulli e-mail: damiano(a)verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

March 27, 2023

Re: [nexa] Criti-hype di Harari

by Giuseppe Attardi

Purtroppo sono in troppi a parlare di tecnologie senza saper distinguere e questo crea spesso confusione. Harari non è da meno. "Social media was the first contact between A.I. and humanity, and humanity lost. “ No, i social media usano tecniche di Recommender System, che nessuno classificherebbe come AI: rientrano nel settore dell’Information Retrieval e utilizzano principalmente tecniche statistiche e di calcolo algebrico (Principal Component Analysis). "Large language models are our second contact with A.I.” Questi sono AI, ma sono solo strumenti, non applicazioni, come i Social Media. Le due situazioni non sono paragonabili. Difatti Harari stesso dice che "the new A.I. capacities will again be used to gain profit and power, even if it inadvertently destroys the foundations of our society.” Corretto, ma quali siano le situazioni in cui verranno impiegati dipenderà dai fini di coloro che le usano, che NON sono l'AI stessa, ma sono banalissime aziende tecnologiche votate al profitto, guidate da banalissime persone umane. Il problem siamo NOI umani e non la tecnologia. La tecnologia viene antropizzata, affidandole capacità di volere ("AI is seizing the master key”), penoso per un filosofo fare questo tipo di confusione: “[AI] can now hack and manipulate the operating system of civilization. ." — Beppe PS. L’esempio iniziale dell’affidabilità della tecnologia aerea è calzante, ma nel senso opposto. Il celebre Boing 737 Max era stato progettato con un software di controllo dell’instabilità, necessario per aggiustare un progetto affrettato e mal riuscito, per contrastare il successo di Airbus. L’azienda e il CdA lo sapeva e mandarono l’aereo in esercizio nonostante violasse le norme relative all’addestramento dei piloti. A coloro che salivano sull’aereo avrebbero dovuto chiedere esattamente questo: "you are boarding an airplane, half the engineers who built it tell you there is a 10 percent chance the plane will crash, killing you and everyone else on it.” Ma non lo fecero per non perdere quote di mercato e guadagni. Anche in quel caso l’errore era nelle persone, che scelsero il guadagno rispetto alla salvaguardia dell’incolumità. Nessuno direbbe che la colpa era del software di controllo, come quando ora si addossano colpe eventuali alla tecnologia, in questo caso all’AI, "before it masters us”. > On 25 Mar 2023, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > Date: Sat, 25 Mar 2023 07:11:58 +0000 > From: Daniela Tafani <daniela.tafani(a)unipi.it <mailto:daniela.tafani@unipi.it>> > To: "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: [nexa] Criti-hype di Harari > Message-ID: <57d538ca2d104d2b83d75c39e28b9f5f(a)unipi.it <mailto:57d538ca2d104d2b83d75c39e28b9f5f@unipi.it>> > Content-Type: text/plain; charset="windows-1252" > > Buongiorno. > > > Ieri il New York Times ha pubblicato un articolo di Yuval Harari e altri: > > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230325110003069872…> > > > Non lo segnalo per invitare a leggerlo, ma solo per constatare che anche al New York Times devono essersi vergognati > del consueto miscuglio di toni profetici e contenuti hype travestiti da pensiero critico*. > > > Il titolo iniziale, infatti, era > > If We Don’t Master A.I., It Will Master Us > > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230325110003069872…> > > > e dopo qualche ora è diventato > > You Can Have the Blue Pill or the Red Pill, and We’re Out of Blue Pills. > > > Buon fine settimana, > > Daniela > > > *Cfr. Lee Vinsel, <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230325110003069872…> > > Meredith Whittaker, <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230325110003069872…>

March 27, 2023

The professor trying to protect our private thoughts from technology

by Alberto Cammozzo

Prof Nita Farahany argues in her new book, The Battle for Your Brain, that intrusions into the mind are so close that lawmakers should enact protections <https://www.theguardian.com/science/2023/mar/26/nita-farahany-the-battle-fo…> rivate thoughts may not be private for much longer, heralding a nightmarish world where political views, thoughts, stray obsessions and feelings could be interrogated and punished all thanks to advances in neurotechnology. Or at least that is what one of the world’s leading legal ethicists of neuroscience believes. In a new book, The Battle for Your Brain, Duke University bioscience professor Nita Farahany argues that such intrusions into the human mind by technology are so close that a public discussion is long overdue and lawmakers should immediately establish brain protections as it would for any other area of personal liberty. Advances in hacking and tracking thoughts, with Orwellian fears of mind control running just below the surface, is the subject of Farahany’s scholarship alongside urgent calls for legislative guarantees to thought privacy, including freedoms from “cognitive fingerprinting”, that lie within an area of ethics broadly termed “cognitive liberty”. Certainly the field is advancing rapidly. The recent launch of ChatGPT and other AI tech innovations showed that some aspects of simulation of thought, termed machine learning, are already here. It’s been widely noted also that Elon Musk’s Neuralink and Mark Zuckerberg’s Meta are working on brain interfaces that can read thoughts directly <https://www.vox.com/future-perfect/2019/8/5/20750259/facebook-ai-mind-readi…>. A new field of cognitive-enhancing drugs – called Nootropics – are being developed. Technology that allows people experiencing paralysis <https://www.nature.com/articles/d41586-022-01047-w> to control an artificial limb or write text on a screen just by thinking it are in the works. But aside from the many benefits, there are clear threats around political indoctrination and interference, workplace or police surveillance, brain fingerprinting, the right to have thoughts, good or bad, the implications for the role of “intent” in the justice system, and so on. Farahany, who served on Barack Obama’s commission for the study of bioethical issues, believes that advances in neurotechnology mean that intrusions through the door of brain privacy, whether by way of military programs or by way of well-funded research labs at big tech companies, are at hand via brain-to-computer innovations like wearable tech. “All of the major tech companies have massive investments in multifunctional devices that have brain sensors in them,” Farahany said. “Neural sensors will become part of our everyday technology and a part of how we interact with that technology.” Coupled with advances in science aimed at decoding and rewriting of brain functions are widespread and pose a discernible risk, Farahany argues, and one that requires urgent action to bring under agreed controls. “We have a moment to get this right before that happens, both by becoming aware of what’s happening and by making critical choices we need to make now to decide how we use the technology in ways that are good and not misused or oppressive.” The brain, Farahany warns, is the one space we still have for reprieve and privacy, and where people can cultivate a true sense of self and where they can keep how they’re feeling and their reactions to themselves. “In the very near future that won’t be possible,” she said. In a sense, we already use technology to translate our thoughts and help our minds. Social media’s ability to read minds is already offered, free of charge, through participation with like and dislike functions, predictive algorithms, predictive text and so on. But advances in neurotechnologies – exploiting a direct connection to the brain – would offer more precise and therefore potential dangerous forays into a hitherto private realm. “I wrote this book with neurotechnology at the forefront as a wake-up call, but not just neurotechnology but all the ways out brains can be hacked and tracked and already are being hacked and tracked,” Farahany said. Concerns about military-focused neuroscience, called the sixth dimension of warfare, are not in themselves new. The Defense Advanced Research Projects Agency (Darpa) has been funding brain research since the 1970s. In 2001, the military umbrella launched a program to “develop technologies to augment warfighters”. François du Cluzel, a project manager at Nato Act Innovation Hub, issued a report in November 2020 entitled Cognitive Warfare <https://www.innovationhub-act.org/sites/default/files/2021-01/20210113_CW%2…> that, it said, “is not limited to the military or institutional world. Since the early 1990s, this capability has tended to be applied to the political, economic, cultural and societal fields.” The US government has blacklisted Chinese institutes and firms it believes to be working on dangerous “biotechnology processes to support Chinese military end uses”, including “purported brain-control weaponry”. In late 2021, the commerce department added <https://www.federalregister.gov/documents/2021/12/17/2021-27406/addition-of…> 34 China-based entities to a blacklist, citing some for involvement in the creation of biotechnology that includes “purported brain-control weaponry” and of “acting contrary to the foreign policy or national security interests” of the US. Nathan Beauchamp-Mustafaga, a policy analyst at the Rand Corporation and author the China Brief, has warned <https://jamestown.org/program/cognitive-domain-operations-the-plas-new-holi…>of an “evolution in warfare, moving from the natural and material domains – land, maritime, air and electromagnetic – into the realm of the human mind”. Farahany argues that societies need to go further than addressing cognitive warfare or banning TikTok <https://www.theguardian.com/technology/2023/mar/23/key-takeaways-tiktok-hea…>. Legislation to establish brain rights or cognitive liberties are needed alongside raising awareness of risks of intrusion posed by digital platforms integrated with advances in neuroscience. “Neuro rights” laws, which include protections on the use of biometric data in health and legal settings, are already being drawn up. Two years ago, Chile became the first nation to add articles into its constitution to explicitly address the challenges of emerging neurotechnologies. The US state of Wisconsin has also passed laws <https://docs.legis.wisconsin.gov/statutes/statutes/943/iii/201> on the collection of biometric data regarding the brain. Most legal protections are around the disclosure of the collection of brain data, not around neuro rights themselves. “There’s no comprehensive right to cognitive liberty, as I define it, that applies to far more than neurotechnologies but applies to self-determination over our brains and mental experiences, which applies to so many of the digital technologies we’re approaching today,” Farahany said. Or, as Farahany writes in her book: “Will George Orwell’s dystopian vision of thoughtcrime become a modern-day reality?” The answer could be yes, no or maybe, but none of it precludes an urgent need for formal brain protections that legislators or commercial interests may not be inclined to establish, Farahany believes. She said: “Cognitive liberty is part of a much broader conversation that I believe is incredibly urgent given everything that is already happening, and the increasingly precision with which it’s going to happen, within neurotechnology.”

March 27, 2023