- nexa - server-nexa.polito.it

GARRLab @ UniMI: un ringraziamento al Prof. Trentini
by Damiano Verzulli May 24, 2023

May 24, 2023

In passato, su questa lista, si è parlato del rapporto fra i temi ICT a noi cari ed il coinvolgimento dei giovani studenti. Ieri --grazie ad un invito del Prof. Trentini, di UniMi-- ho presentato GARRLab agli studenti del CdS in Informatica. Due ore di chiacchierata su molte di quelle tecnologie che, progressivamente, si stanno spostando dal nostro Paese/Continente verso i Cloud-Provider blasonati (infrastrutture cloud, automazione, sviluppo collaborativo, networking, sicurezza, con anche cenni sull'analisi e la visualizzazione dei dati raccolti). Gli studenti erano una ventina. In molti erano evidentemente interessati... al punto tale che hanno voluto "saltare" la pausa e tirare dritti per tutte e due le ore. A fine chiacchierata, poco meno di meta' sono rimasti in aula, ad ascoltare commenti, chiarimenti e followup fra noi "organizzatori". È stato un momento molto piacevole. Ringrazio pubblicamente il Prof. Trentini per la fiducia riservatami e per aver consentito lo svolgimento dell'evento. Ribadisco qui, in lista, la mia totale disponibilita' a ripetere eventi di questo genere, anche verso studenti di altri Atenei. Un saluto, DV -- Damiano Verzulli e-mail: damiano(a)verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

1 0

L’industria dell’auto italiana non ha nessuna idea di futuro
by Luigi Scorca May 24, 2023

May 24, 2023

https://espresso.repubblica.it/economia/2023/05/24/news/industria_auto_elet… Luigi

1 0

Seminario A. Drassinower "The Public Domain in Copyright Law as Shared Thinking" - 29 maggio
by Maurizio Borghi May 23, 2023

May 23, 2023

Segnalo a tutti gli interessati ai temi di diritto d'autore e pubblico dominio il seminario che si terra' lunedi' prossimo all'Universita' di Torino: *Abraham Drassinower* (University of Toronto): "The Public Domain in Copyright Law as Shared Thinking " *29 maggio 2023*, 16:00-18:00 Aula F5, Campus Luigi Einaudi (Lungo Dora Siena 100, Torino) Modera: Maurizio Borghi (Università di Torino) Abstract: *The research seeks to describe the public domain in copyright law not as consumption of value for which payment has been waived but as a positing of the activity of thinking as necessarily shared. The research develops that seemingly novel proposition through analyses of copyright doctrine and case law from several jurisdictions involving originality, independent creation, idea/expression dichotomy, transformative use, merely technical use, and personal use. Rather than a device in calculations pertinent to wealth-maximization, the public domain is an affirmation, constitutive of copyright law as a juridical order, of thinking as radically free.* Abraham Drassinower <https://www.law.utoronto.ca/faculty-staff/full-time-faculty/abraham-drassin…> è Professor alla Faculty of Law dell'Università di Toronto e Visiting Scientist al Dipartimento di Giurisprudenza dell'Università di Torino. E*' *l'autore di* What's Wrong with Copying? *(Harvard University Press, 2015), un testo di riferimento della teoria del diritto d'autore a cui sono stati dedicati convegni e numeri speciali di riviste. -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/>

1 0

Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto
by Daniela Tafani May 23, 2023

May 23, 2023

Buonasera. Ho appena pubblicato un articolo che potrebbe essere di interesse per questa lista: <https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor…> Vi sarei grata di qualsiasi commento o osservazione. Qui <https://btfp.sp.unipi.it/it/front-page/> il riassunto: I sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani. Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno consentito questi genuini progressi, le grandi aziende tecnologiche hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti». Hanno diffuso e messo in commercio, con la formula di marketing «intelligenza artificiale», sistemi di apprendimento automatico, per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale. Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme profitto, i giganti della tecnologia hanno diffuso una famiglia di narrazioni che danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di qualsiasi discorso pubblico. Sono così entrati a far parte del senso comune, tra gli altri, il principio di inevitabilità tecnologica, il mito dell’eccezionalismo tecnologico, il principio di innovazione e il mito del vuoto giuridico. Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria. Un saluto, Daniela <https://btfp.sp.unipi.it/it/front-page/>

6 10

piccolo off-topic, tracking.exposed ha completato il suo viaggio
by Claudio Agosti May 22, 2023

May 22, 2023

Ciao Nexa, Negli anni potreste aver sentito parlare del progetto https://tracking.exposed che si prefiggeva l'obiettivo di analizzare e raccontare il potere degli algoritmi di personalizzazione. Il progetto ha avuto tre fasi, dal 2016 al 2018 è stato un esperimento vissuto tra le diverse comunità hacker italiane. un po' di interesse da parte del giornalismo, quantomeno da quelli che non credevano che l'influenza di facebook potesse essere gestita dal solo "political ad transparency". Poi una fase accademica sviluppata insieme all'università di amsterdam, grazie ad un grant chiamato Proof of Concept dell'ERC datactive, che mi ha permesso di espandere le piattaforme supportate, dopo Facebook Youtube, Amazon, e di lavorare con 250 studenti negli anni La terza fase (2021-2022) è stata quella più vicina al mondo NGO. Cercare di usare i findings per realizzare litigation, campagne informative e strumenti che dessero più controllo agli utenti. Gli obiettivi di questo progetto erano molti di più, e mi piaceva vederli in diverse fasi. La prima era quella di rendere noto il potere degli algoritmi di personalizzazione e l'impatto che le piattaforme possono avere sulla percezione del discorso pubblico. Il secondo, quello di dare strumenti in mano alla cittadinanza connessa perché prendessero controllo di questi algoritmi. Poi una terza volta ad affrontare il problema dei monopoli digitali. Con l'arrivo del DSA e dell'AIAct, con la necessità di specializzare lo sforzo di questo gruppo, e con l'insorgere di complicazioni proporzionali alla crescita del progetto, nei mesi del 2023 abbiamo lavorato a completare una transizione verso una nuova NGO, https://aiforensics.org che si specializza sulla parte di algorithm accountability. TRex aveva molte decisioni incastonate nel suo comportamento che hanno pregiudicato i suoi successi ed anche causato i suoi problemi. Per menzionare uno per categoria: pro) fare scrapers passivi ha permesso alla realizzazione di tre metodologie diverse di algorithm analyisis con la stessa tecnologia. Mentre altre organizzazioni venivano bloccare e frustrate dalla mancata collaborazione delle piattaforme, mentre una pletora di esperti mi dicevano che lo scraping era solo un rischio, noi è solo grazie a quello se noi siamo andati avanti per anni a fare analisi indipendenti (lol: https://www.reddit.com/r/webscraping/comments/w1ve97/virgin_api_consumer_vs… ) contro) fare analisi pensate per produrre report per me non era sufficiente. Volevo che ogni persona affetta dagli algoritmi potesse fare le proprie analisi. E quindi vai di API, anonimizzazione, compromessi, disegnare interfacce, avere tre differenti target audience. Questa non specializzazione ha compromesso di molto l'usabilità e l'accessibilità finale dei tool, e la difficoltà di ogni sforzo comunicativo. Altri progetti corollari che seguivo come parte di TRex ora confluiscono in Hermes Center, altra NGO nota in italia di cui sono parte. Sul sito https://tracking.exposed trovate un 20 minuti di racconto/riassunto conclusivo. Dovrà avere ancora un paio di aggiornamenti perchè vanno aggiornati anche i siti specifici per le piattaforme supportate, tipo https://pornhub.tracking.exposed https://amazon.tracking.exposed https://youtube.tracking.exposed https://tiktok.tracking.exposed e https://facebook.tracking.exposed Con questo messaggio volevo ringraziare chi della lista ha contribuito alla discussione, è sempre utile avere un gruppo variegato in cui raccontare dei progressi. grazie dell'attenzione ed un caro saluto, C

1 0

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto
by alessandro marzocchi May 22, 2023

May 22, 2023

Buongiorno, mi riferisco agli ultimi contributi di Michele Pinassi e Giacomo Tesio ed a quello iniziale di Daniela Tafani con oggetto "" Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto "" . Darebbe un aiuto significativo una norma semplice: "" OGNI PROGRAMMA DEVE ESSERE TOTALMENTE TRASPARENTE "" ? I tecnici sono certamente più bravi a scrivere meglio la prescrizione che però dovrebbe restare FACILE DA VERIFICARE, semplice e comprensibile per il maggior numero possibile degli otto miliardi di umani sul pianeta. Mi rendo conto della difficoltà di superare convinzioni e principi a tutela di proprietà intellettuale ed investimenti ma potrebbe cominciare l'Ue che è ancora un mercato importante. Grazie e cordialità. Duccio (Alessandro Marzocchi) Il giorno lun 22 mag 2023 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: Sistemi fuori controllo o prodotti fuorilegge? La > cosiddetta «intelligenza artificiale» e il risveglio del > diritto (Giacomo Tesio) > 2. MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, ore > 13.00 (Nexa Media) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 22 May 2023 07:23:44 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: Michele Pinassi <michele.pinassi(a)unisi.it>, Michele Pinassi via > nexa <nexa(a)server-nexa.polito.it>, Norberto Patrignani > <norberto.patrignani(a)polito.it> > Subject: Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La > cosiddetta «intelligenza artificiale» e il risveglio del diritto > Message-ID: <9FDC63A3-248D-4CF9-B12C-4B44A77F1830(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > Michele, pur conoscendo e apprezzando la tua storia, ciò che hai scritto > nella mail cui ho > risposto è gravissimo: "le normative nazionali dovranno, a mio > modestissimo parere, piegarsi." > > Quale che sia la tua storia, quel "dovranno" rivela una resa. > > Che sia consapevole o meno, sempre resa rimane. > > > Le mie parole sono state dure nella speranza di riscuoterti. > > > > La posta in gioco è altissima. > Aspettare che una popolazione manipolata 24 ore al giorno, 7 giorni su 7 > possa comprendere > il problema in tempi utili è arrendersi. > > Chiediti cosa puoi intanto fare tu, nella PA in cui lavori, per dare una > speranza di libertà ai tuoi figli. > > > Fai reclamo al Garante come interessato, causa alla PA come dipendente per > violazione dello Statuto dei Lavoratori, organizza scioperi bianchi etc... > etc... > > Fai TUTTO CIÒ CHE PUOI per rendere evidenti queste catene e distruggerle. > > > Oppure accetta la tua resa e inizia a pensare una scusa convincente per > ciò che non avrai fatto > quando i tuoi figli te ne chiederanno conto. > > > La Legge non si deve piegare al potere. > Quando lo fa, elimina ogni speranza di Giustizia. > E con essa, ogni possibilità di confronto politico civile e nonviolento. > > > Giacomo > > > Il 21 Maggio 2023 18:25:05 UTC, Michele Pinassi <michele.pinassi(a)unisi.it> > ha scritto: > >Mi sorprende, Giacomo, che tu possa imputarmi certe posizioni, > soprattutto conoscendo la mia storia sia personale che professionale. > > > >In ogni caso, temo che non sia passato il messaggio che intendevo > inviare, ovvero che quando questi soggetti privati diventano economicamente > troppo grandi ("too big to..."), purtroppo la politica tende a piegarsi > alle loro esigenze e non viceversa. > > > >Questo non significa né che lo debba accettare né, tantomeno, che lo > condivida. > > > >La coraggiosa emanazione del GDPR da parte dell'Unione Europea si è > scontrata con gli interessi dei GAFAM più volte ma la sensazione, > quantomeno quella mia squisitamente personale, è che a nessuna delle parti > in causa interessa arrivare a decisioni drastiche, che impatterebbero in > modo enorme sulla società. > > > >Del resto, l'esperienza di MonitoraPA mi pare che lo stia dimostrando. O > sbaglio? > > > >A questo punto sta a noi cittadini fare pressione politica per invertire > la tendenza. Se un manipolo di coraggiosi può innescare la scintilla, temo > serva però la consapevolezza di almeno un decina di punti percentuale della > popolazione per ricevere l'attenzione della classe politica. Un po' come > sta avvenendo per l'attacco ransomware della ASL 1 Aquila, dove per la > prima volta in Italia i cittadini si stanno rendendo conto del problema e > si sono attivati, politicamente e legalmente, a tutela dei loro diritti. > > > >Penso che la direzione sia quella giusta, ma la strada è ancora > terribilmente accidentata e impervia. > > > >MP > > > >Il 21/05/23 10:48, Giacomo Tesio ha scritto: > >> Il 21 Maggio 2023 06:47:18 UTC, Michele Pinassi via nexa < > nexa(a)server-nexa.polito.it> ha scritto: > >>> ChatGPT e l'AI arrivano in un contesto già profondamente polarizzato da > >>> questi grandi attori (GAFAM) ed è quindi praticamente inevitabile che > possa > >>> esserci una concentrazione di queste tecnologie nelle mani di pochi. > >>> > >>> A cui, obtorto collo o no, le normative nazionali dovranno, a mio > >>> modestissimo parere, piegarsi. > >> Quindi Michele, a tuo modesto parere, dobbiamo > >> piegarci e rinunciare alla democrazia. > >> > >> > >> Immagino che tu l'abbia già fatto, giusto? > >> Come sanno bene i tuoi burattinai, c'è un solo modo per vincere una > guerra: > >> convincere gli avversari di aver perso, che non valga più la pena > continuare a lottare. > >> > >> > >> Io resisto. > >> > >> Non posso fare diversamente, perché ho figlie che vivranno nel mondo > che state costruendo. > >> > >> > >> Giacomo > >> > >> PS: le alternative esistono e di fronte a chi sostiene il contrario mi > chiedo sempre > >> se sia incompetente o colluso > >> https://fuss.bz.it/post/2023-03-28_incontro-dirigenti-emilia-romagna/ > >> > >> Ma quandanche non esistessero alternative democratiche, si potrebbero > costruire. > >> E nel frattempo FARNE A MENO. > >> > >> Come si è fatto fino a solo 3 anni fa. > > > > > ------------------------------ > > Message: 2 > Date: Mon, 22 May 2023 10:23:09 +0200 > From: Nexa Media <media(a)nexa.polito.it> > To: nexa <nexa(a)server-nexa.polito.it> > Subject: [nexa] MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, > ore 13.00 > Message-ID: <7737e03c-e1a3-6ee3-ed53-365b3e7c5da3(a)nexa.polito.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > Gentilissime, gentilissimi, > > > Vi ricordiamo che *mercoledì 24 maggio*, dalle ore 13.00 alle ore 14.00, > si terrà il *106° Nexa Lunch Seminar* > con un incontro dal titolo: /*"L'"etica" come specchietto per le > allodole. Sistemi di intelligenza artificiale e violazioni dei diritti"*/. > > Ospite dell'incontro: *Daniela Tafani *(Università di Pisa). > > _L'incontro si terrà IN PRESENZA e ONLINE._ > > _SEDE FISICA dell'incontro_: Centro Nexa su Internet e Società, > Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). > Per accedere alla sala si raccomanda di suonare al citofono Portineria e > di seguire le indicazioni segnalate dai cartelli lungo il percorso. > QUI <https://nexa.polito.it/contatti> maggiori informazioni su come > raggiungerci. > > _STANZA VIRTUALE dell'incontro_: > https://didattica.polito.it/VClass/NexaEvent > > Maggiori informazioni alla pagina web: https://nexa.polito.it/lunch-106 > > > Cordiali saluti, > > -- > > Anita Botta > Communication Manager > > Nexa Center for Internet & Society > Politecnico di Torino – DAUIN > Corso Duca degli Abruzzi, 24 - 10129 Torino > > web: https://nexa.polito.it/ > mail: anita.botta(a)polito.it > tel: 011 090 7219 >

3 2

MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, ore 13.00
by Nexa Media May 22, 2023

May 22, 2023

Gentilissime, gentilissimi, Vi ricordiamo che *mercoledì 24 maggio*, dalle ore 13.00 alle ore 14.00, si terrà il *106° Nexa Lunch Seminar* con un incontro dal titolo: /*"L'"etica" come specchietto per le allodole. Sistemi di intelligenza artificiale e violazioni dei diritti"*/. Ospite dell'incontro: *Daniela Tafani *(Università di Pisa). _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA dell'incontro_: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate dai cartelli lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE dell'incontro_: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina web: https://nexa.polito.it/lunch-106 Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

1 0

‘There was all sorts of toxic behaviour’: Timnit Gebru on her sacking by Google, AI’s dangers and big tech’s biases | Artificial intelligence (AI) | The Guardian
by Alberto Cammozzo May 22, 2023

May 22, 2023

<https://www.theguardian.com/lifeandstyle/2023/may/22/there-was-all-sorts-of…> ‘It feels like a gold rush,” says Timnit Gebru. “In fact, it is a gold rush. And a lot of the people who are making money are not the people actually in the midst of it. But it’s humans who decide whether all this should be done or not. We should remember that we have the agency to do that.” Gebru is talking about her specialised field: artificial intelligence. On the day we speak via a video call, she is in Kigali, Rwanda, preparing to host a workshop and chair a panel at an international conference on AI. It will address the huge growth in AI’s capabilities, as well as something that the frenzied conversation about AI misses out: the fact that many of its systems may well be built on a huge mess of biases, inequalities and imbalances of power. This gathering, the clunkily titled International Conference on Learning Representations, marks the first time people in the field have come together in an African country – which makes a powerful point about big tech’s neglect of the global south. When Gebru talks about the way that AI “impacts people all over the world and they don’t get to have a say on how they should shape it”, the issue is thrown into even sharper relief by her backstory. We need regulation, and we need something better than just a profit motive In her teens, Gebru was a refugee from the war between Ethiopia, where she grew up, and Eritrea, where her parents were born. After a year in Ireland, she made it to the outskirts of Boston, Massachusetts, and from there to Stanford University in northern California, which opened the way to a career at the cutting edge of the computing industry: Apple, then Microsoft, followed by Google. But in late 2020, her work at Google came to a sudden end. As the co-leader of Google’s small ethical AI team, Gebru was one of the authors of an academic paper that warned about the kind of AI that is increasingly built into our lives, taking internet searches and user recommendations to apparently new levels of sophistication and threatening to master such human talents as writing, composing music and analysing images. The clear danger, the paper said, is that such supposed “intelligence” is based on huge data sets that “overrepresent hegemonic viewpoints and encode biases potentially damaging to marginalised populations”. Put more bluntly, AI threatens to deepen the dominance of a way of thinking that is white, male, comparatively affluent and focused on the US and Europe. In response, senior managers at Google demanded that Gebru either withdraw the paper, or take her name and those of her colleagues off it. This triggered a run of events that led to her departure. Google says she resigned; Gebru insists that she was fired. What all this told her, she says, is that big tech is consumed by a drive to develop AI and “you don’t want someone like me who’s going to get in your way. I think it made it really clear that unless there is external pressure to do something different, companies are not just going to self-regulate. We need regulation and we need something better than just a profit motive.” Gebru, who is 40, sometimes speaks dizzyingly quickly, as if the rich details of her life might outrun the hour or so we have to talk. She tends to use the precise, measured vocabulary of a tech insider, leavened with a sense of the absurd that is focused on one particularly howling irony: the fact that an industry brimming with people who espouse liberal, self-consciously progressive opinions so often seems to push the world in the opposite direction. One of the subjects she returns to repeatedly is racism, including experiences of prejudice in the US education system and Silicon Valley. While she was at high school in Massachusetts, she says, her gift for science was treated bluntly (one teacher said: “I’ve met so many people like you who think that they can just come here from other countries and take the hardest classes”) and passive-aggressively: despite high grades in physics, her request to study the subject further was met with concerns that she might find it too difficult. “The thing that was very confusing to me as an immigrant was that liberal type of racism,” she says. “People who sound like they really care about you, but they’d be like: ‘Don’t you think it’s going to be hard for you?’ It took me a while to really figure out what was going on.” I was being attacked by a bunch of guys, and nobody helped me at all. That was the scariest thing Later on came a watershed experience of even more brazen prejudice, when she and a friend – a black woman – were attacked in a bar. “That was the scariest encounter I’ve ever had in the US,” she says. “It was in San Francisco – again, another liberal place. I was being attacked by a bunch of guys and nobody helped me at all. That was the scariest thing to see: being strangled and people just walking by and looking at you.” She called the police. “And that was worse than not calling them, because first they accused me of lying a number of times, and kept on telling me to calm down. And then they put handcuffs on my friend, who had just been attacked.” Her friend was also detained in a police cell. At Stanford, although she was often condescendingly asked by some of her white peers if she had got in thanks to an affirmative action programme, her undergraduate years were spent in an environment where senior people at least “talked about diversity a lot, and they had different people from different places”. But after working as an audio engineer for Apple between 2005 and 2007, she went back to Stanford to study for a PhD and had very different experiences. Her life, she says, became all about “going to an office every day with the same bunch of people – it’s kind of like work. And there was nobody who looked like me at all. It was just shocking.” Gebru began to specialise in cutting-edge AI, pioneering a system that showed how data about particular neighbourhoods’ patterns of car ownership highlighted differences bound up with ethnicity, crime figures, voting behaviour and income levels. In retrospect, this kind of work might look like the bedrock of techniques that could blur into automated surveillance and law enforcement, but Gebru admits that “none of those bells went off in my head … that connection of issues of technology with diversity and oppression came later”. Soon enough, though, she began to think deeply about how big tech’s innovations often embodied the same inequalities evident in its offices, labs and social activities. In 2015, Google had to apologise when the AI systems that served its Photos app mistakenly identified a black couple as gorillas. The year after, the thinktank ProPublica found that software used across the US to assess prison convicts’ chances of reoffending was heavily biased against black people. Meanwhile, Gebru was becoming even more aware of aspects of the tech industry’s culture that lay behind such stories. Around this time, she attended a big AI conference in Montreal where, at a Google party, a group of white men openly harassed her. “One of them kissed me, one of them took a picture. And I was kind of frozen: I didn’t really do anything. They were having a party at an academic conference with limitless drinks at a bar and they weren’t even making it clear that this was a professional event. Obviously, you should never harass women – or anybody – like that. But that was rampant at these conferences.” The organisers of the conference say that their code of conduct has since been “elaborated”; they now have “a new one-stop contact point for concerns and complaints, which is monitored closely”. The next year, Gebru made a point of counting other black attenders at the same event. She found that, among 8,500 delegates, there were only six people of colour. In response, she put up a Facebook post that now seems prescient: “I’m not worried about machines taking over the world; I’m worried about groupthink, insularity and arrogance in the AI community.” In that context, it might seem surprising that, after a year spent working in Microsoft’s fairness, accountability, transparency and ethics in AI lab, Gebru took a job at Google. In 2018, thanks to Margaret Mitchell, a recently hired specialist in algorithmic bias, she was recruited to co-lead a team dedicated to the ethics of AI. “I was full of trepidation,” she says. “But I thought: ‘Well, Margaret Mitchell is here – we can work together. Who else can I work with?’ But that was how I went into it: I was like: ‘I wonder how long I can last here.’” “It was a difficult decision,” she says. “Because, by the time I was going to Google, I had heard from several women about sexual harassment, and other kinds of harassment, and they had actually said: ‘Don’t do it.’” When Gebru arrived, Google employees were loudly opposing the company’s role in Project Maven, which used AI to analyse surveillance footage captured by military drones (Google ended its involvement in 2018). Two months later, staff took part in a huge walkout over claims of systemic racism, sexual harassment and gender inequality. Gebru says she was aware of “a lot of tolerance of harassment and all sorts of toxic behaviour”. In its quest to highlight some of the moral and political questions surrounding AI, her team hired Google’s first social scientist. She and her colleagues prided themselves on how diverse their small operation was, as well as the things they brought to the company’s attention, which included issues to do with Google’s ownership of YouTube. A colleague from Morocco raised the alarm about a popular YouTube channel in that country called Chouf TV, “which was basically operated by the government’s intelligence arm and they were using it to harass journalists and dissidents. YouTube had done nothing about it.” (Google says that it “would need to review the content to understand whether it violates our policies. But, in general, our harassment policies strictly prohibit content that threatens individuals, targets someone with prolonged or malicious insults based on intrinsic attributes, or reveals someone’s personally identifiable information.”) Then, in 2020, Gebru, Mitchell and two colleagues wrote the paper that would lead to Gebru’s departure. It was titled On the Dangers of Stochastic Parrots. Its key contention was about AI centred on so-called large language models: the kind of systems – such as OpenAI’s ChatGPT and Google’s newly launched PaLM 2 – that, crudely speaking, feast on vast amounts of data to perform sophisticated tasks and generate content. These sources are usually scraped from the world wide web and inevitably include material usually subject to copyright (if an AI system can produce prose in the style of a particular writer, for example, that is because it has absorbed much of the writer’s work). But Gebru and her co-authors had an even graver concern: that trawling the online world risks reproducing its worst aspects, from hate speech to points of view that exclude marginalised people and places. “In accepting large amounts of web text as ‘representative’ of ‘all’ of humanity, we risk perpetuating dominant viewpoints, increasing power imbalances and further reifying inequality,” they wrote. When the paper was submitted for internal review, Gebru was quickly contacted by one of Google’s vice-presidents. At first, she says, non-specific objections were expressed, such as that she and her colleagues had been too “negative” about AI. Then, Google asked Gebru either to withdraw the paper, or remove her and her colleagues’ names from it. She says she told the company that she would not retract it and would remove the authors’ names only if Google specified its objections. If this didn’t happen, she said, she would resign. She also sent a number of emails to women working in Google’s AI division, saying that the company was “silencing marginalised voices”. Then, in December 2020, while she was on holiday, one of her closest colleagues texted her to ask if an email they had seen saying she had left the company was correct. Subsequent accounts said that Google had cited “behaviour that is inconsistent with the expectations of a Google manager”. How, I wonder, did she feel? “I was not in thinking mode. I was just in action mode, like: ‘I need a lawyer and I need to get my story out; I wonder what they’re planning; I wonder what they’re going to say about me.’” She pauses. “But I was fired. In the middle of my vacation, on a road trip to visit my mom, in the middle of a pandemic.” In response to what Gebru says about workplace harassment and toxic behaviour at Google, her experiences at the party in Montreal and the nature of her departure, the company’s press office emails me a set of “background points”. “We are committed to building a safe, inclusive and respectful workplace – and we take misconduct very seriously,” it says. “We have strict policies against harassment and discrimination, thoroughly investigate all concerns reported and take firm actions against substantiated allegations. We also have several ways for our workforce to report concerns, including anonymously.” Five years ago, it goes on, the company overhauled “the way we handle and investigate employee concerns, introducing new care programs for employees who report concerns and making arbitration optional for Google employees”. On questions about AI systems using copyrighted material, a spokesperson says that Google will “innovate in this space responsibly, ethically, and legally”, and plans to “continue our collaboration and discussions with publishers and the ecosystem to find ways for this new technology to help enhance their work and benefit the entire web ecosystem”. After her departure, Gebru founded Dair, the Distributed AI Research Institute, to which she now devotes her working time. “We have people in the US and the EU, and in Africa,” she says. “We have social scientists, computer scientists, engineers, refugee advocates, labour organisers, activists … it’s a mix of people.” The institute’s fellows, she tells me, include a former Amazon delivery driver, plus people with experience of the monotonous and sometimes traumatic job of manually labelling online content – including illegal and toxic material – to train AI systems. Much of this work happens in developing countries. “There’s a lot of exploitation in the field of AI, and we want to make that visible so that people know what’s wrong,” she says. “But also, AI is not magic. There are a lot of people involved – humans.” Running alongside this is a quest to push beyond the tendency of the tech industry and the media to focus attention on worries about AI taking over the planet and wiping out humanity while questions about what the technology does, and who it benefits and damages, remain unheard. “That conversation ascribes agency to a tool rather than the humans building the tool,” she says. “That means you can aggregate responsibility: ‘It’s not me that’s the problem. It’s the tool. It’s super-powerful. We don’t know what it’s going to do.’ Well, no – it’s you that’s the problem. You’re building something with certain characteristics for your profit. That’s extremely distracting, and it takes the attention away from real harms and things that we need to do. Right now.” How does she feel squaring up to her old employers in Silicon Valley? “I don’t know if we’ll change them or not,” she says. “We’re never going to get, like, a quadrillion dollars to do what we’re doing. I just feel like we have to do what we can. Maybe, if enough people do small things and get organised, things will change. That’s my hope.”

1 0

Dennett, "The Problem With Counterfeit People"
by J.C. DE MARTIN May 21, 2023

May 21, 2023

*The Problem With Counterfeit People** */Companies using AI to generate fake people are committing an immoral act of vandalism, and should be held liable.// / By Daniel C. Dennett May 16, 2023 https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-…

1 0

CfP Rivista di Digital Politics: Open Access
by Mauro SANTANIELLO May 20, 2023

May 20, 2023

Gentili colleghi, segnalo un call for paper della Rivista di Digital Politics (Il Mulino) sui temi dell'open access. Il nuovo numero della rivista si propone di esplorare, tra gli altri, i seguenti aspetti: *Open source e tecnologie emergenti*, con un focus su Generative AI (e.g., OpenAi ChatGPT, etc.) e blockchain sia dal punto di vista dell’open access dei codici che dei training dataset. *Open source intelligence (Osint)*: strumenti, tecniche e applicazioni nell’analisi delle informazioni open access, con particolare attenzione alle pratiche e alle sfide dell’OSINT nel mondo accademico e nella ricerca scientifica. *Open access nella pubblica amministrazione*, comprese le normative sulla protezione dei dati, l’utilizzo delle informazioni del settore pubblico,l’equilibrio tra trasparenza e privacy, ecc. *Open access e giornalismo*, il citizen journalism,giornalismo immersivo ecc., anche dal punto di vista Osint e come i giornalisti possono affrontare le sfide della gestione dei bias informativi. *Open access e publishing*: politiche, modelli, esperienze/successi, sostenibilità, proprietà intellettuale e diritto d’autore, prospettive regionali. *Open education*, politiche educative aperte, piattaforme open source, metodi e tecnologie emergenti educative aperte (Vr, Ar, Ai), Massive open online courses (Moocs), repository Open educational resources (Oer), biblioteche digitali, impatto sulla scalabilità, inclusività e sostenibilità dell’istruzione. La nuova deadline per l'invio degli abstract è il *28/05/2023*. Ulteriori informazioni sono disponibili qui: https://www.digitalpolitics.it/call-for-paper-n7/ Cordiali saluti, Mauro Santaniello (PhD) *Assistant Professor, Internet Governance and Digital PolicyDirector, Internet & Communication Policy Centre (ICPC)* *Scientific Coordinator, Salerno Winter School on Internet Governance (SWING)* *Associate Research Fellow, The United Nations University Institute on Comparative Regional Integration Studies (UNU-CRIS)**Visiting Professor of Internet Governance, Sciences Po Grenoble* *Department of Business, Management and Information Systems (DISA-MIS)* *Università degli Studi di Salerno * *Via Giovanni Paolo II, 132 84084 Fisciano (SA) - Italy * *E. msantaniello(a)unisa.it <msantaniello(a)unisa.it> * *W. http://docenti.unisa.it/mauro.santaniello <http://docenti.unisa.it/mauro.santaniello>* *Skype: internetpolicy * *T. twitter.com/webvoodoo <http://twitter.com/webvoodoo>*

1 0