- nexa - server-nexa.polito.it

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Marco Fioretti

On Mon, May 22, 2023 at 12:20, alessandro marzocchi wrote: Darebbe un aiuto significativo una norma semplice: "OGNI PROGRAMMA DEVE ESSERE TOTALMENTE TRASPARENTE "" ? Credo che lo darebbe in quei casi in cui anche gli INPUT del programma sono/possono essere totalmente trasparenti IN TEMPO UTILE. E' il problema "Algorithms and policies are nothing without data. COMPLETE data" di cui parlavo anni fa a proposito di Facebook: https://stop.zona-m.net/2018/01/er..-no-sorry-facebook-cannot-provide-trans… (https://stop.zona-m.net/2018/01/er..-no-sorry-facebook-cannot-provide-trans…) ma non credo che quello sia l'unica eccezione. Marco -- "I was using SOCIAL MEDIA to shut up my monkey mind" https://mfioretti.substack.com/p/i-was-using-social-media-to-shut (https://mfioretti.substack.com/p/i-was-using-social-media-to-shut)

May 22, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by alessandro marzocchi

Buongiorno, mi riferisco agli ultimi contributi di Michele Pinassi e Giacomo Tesio ed a quello iniziale di Daniela Tafani con oggetto "" Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto "" . Darebbe un aiuto significativo una norma semplice: "" OGNI PROGRAMMA DEVE ESSERE TOTALMENTE TRASPARENTE "" ? I tecnici sono certamente più bravi a scrivere meglio la prescrizione che però dovrebbe restare FACILE DA VERIFICARE, semplice e comprensibile per il maggior numero possibile degli otto miliardi di umani sul pianeta. Mi rendo conto della difficoltà di superare convinzioni e principi a tutela di proprietà intellettuale ed investimenti ma potrebbe cominciare l'Ue che è ancora un mercato importante. Grazie e cordialità. Duccio (Alessandro Marzocchi) Il giorno lun 22 mag 2023 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: Sistemi fuori controllo o prodotti fuorilegge? La > cosiddetta «intelligenza artificiale» e il risveglio del > diritto (Giacomo Tesio) > 2. MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, ore > 13.00 (Nexa Media) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 22 May 2023 07:23:44 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: Michele Pinassi <michele.pinassi(a)unisi.it>, Michele Pinassi via > nexa <nexa(a)server-nexa.polito.it>, Norberto Patrignani > <norberto.patrignani(a)polito.it> > Subject: Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La > cosiddetta «intelligenza artificiale» e il risveglio del diritto > Message-ID: <9FDC63A3-248D-4CF9-B12C-4B44A77F1830(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > Michele, pur conoscendo e apprezzando la tua storia, ciò che hai scritto > nella mail cui ho > risposto è gravissimo: "le normative nazionali dovranno, a mio > modestissimo parere, piegarsi." > > Quale che sia la tua storia, quel "dovranno" rivela una resa. > > Che sia consapevole o meno, sempre resa rimane. > > > Le mie parole sono state dure nella speranza di riscuoterti. > > > > La posta in gioco è altissima. > Aspettare che una popolazione manipolata 24 ore al giorno, 7 giorni su 7 > possa comprendere > il problema in tempi utili è arrendersi. > > Chiediti cosa puoi intanto fare tu, nella PA in cui lavori, per dare una > speranza di libertà ai tuoi figli. > > > Fai reclamo al Garante come interessato, causa alla PA come dipendente per > violazione dello Statuto dei Lavoratori, organizza scioperi bianchi etc... > etc... > > Fai TUTTO CIÒ CHE PUOI per rendere evidenti queste catene e distruggerle. > > > Oppure accetta la tua resa e inizia a pensare una scusa convincente per > ciò che non avrai fatto > quando i tuoi figli te ne chiederanno conto. > > > La Legge non si deve piegare al potere. > Quando lo fa, elimina ogni speranza di Giustizia. > E con essa, ogni possibilità di confronto politico civile e nonviolento. > > > Giacomo > > > Il 21 Maggio 2023 18:25:05 UTC, Michele Pinassi <michele.pinassi(a)unisi.it> > ha scritto: > >Mi sorprende, Giacomo, che tu possa imputarmi certe posizioni, > soprattutto conoscendo la mia storia sia personale che professionale. > > > >In ogni caso, temo che non sia passato il messaggio che intendevo > inviare, ovvero che quando questi soggetti privati diventano economicamente > troppo grandi ("too big to..."), purtroppo la politica tende a piegarsi > alle loro esigenze e non viceversa. > > > >Questo non significa né che lo debba accettare né, tantomeno, che lo > condivida. > > > >La coraggiosa emanazione del GDPR da parte dell'Unione Europea si è > scontrata con gli interessi dei GAFAM più volte ma la sensazione, > quantomeno quella mia squisitamente personale, è che a nessuna delle parti > in causa interessa arrivare a decisioni drastiche, che impatterebbero in > modo enorme sulla società. > > > >Del resto, l'esperienza di MonitoraPA mi pare che lo stia dimostrando. O > sbaglio? > > > >A questo punto sta a noi cittadini fare pressione politica per invertire > la tendenza. Se un manipolo di coraggiosi può innescare la scintilla, temo > serva però la consapevolezza di almeno un decina di punti percentuale della > popolazione per ricevere l'attenzione della classe politica. Un po' come > sta avvenendo per l'attacco ransomware della ASL 1 Aquila, dove per la > prima volta in Italia i cittadini si stanno rendendo conto del problema e > si sono attivati, politicamente e legalmente, a tutela dei loro diritti. > > > >Penso che la direzione sia quella giusta, ma la strada è ancora > terribilmente accidentata e impervia. > > > >MP > > > >Il 21/05/23 10:48, Giacomo Tesio ha scritto: > >> Il 21 Maggio 2023 06:47:18 UTC, Michele Pinassi via nexa < > nexa(a)server-nexa.polito.it> ha scritto: > >>> ChatGPT e l'AI arrivano in un contesto già profondamente polarizzato da > >>> questi grandi attori (GAFAM) ed è quindi praticamente inevitabile che > possa > >>> esserci una concentrazione di queste tecnologie nelle mani di pochi. > >>> > >>> A cui, obtorto collo o no, le normative nazionali dovranno, a mio > >>> modestissimo parere, piegarsi. > >> Quindi Michele, a tuo modesto parere, dobbiamo > >> piegarci e rinunciare alla democrazia. > >> > >> > >> Immagino che tu l'abbia già fatto, giusto? > >> Come sanno bene i tuoi burattinai, c'è un solo modo per vincere una > guerra: > >> convincere gli avversari di aver perso, che non valga più la pena > continuare a lottare. > >> > >> > >> Io resisto. > >> > >> Non posso fare diversamente, perché ho figlie che vivranno nel mondo > che state costruendo. > >> > >> > >> Giacomo > >> > >> PS: le alternative esistono e di fronte a chi sostiene il contrario mi > chiedo sempre > >> se sia incompetente o colluso > >> https://fuss.bz.it/post/2023-03-28_incontro-dirigenti-emilia-romagna/ > >> > >> Ma quandanche non esistessero alternative democratiche, si potrebbero > costruire. > >> E nel frattempo FARNE A MENO. > >> > >> Come si è fatto fino a solo 3 anni fa. > > > > > ------------------------------ > > Message: 2 > Date: Mon, 22 May 2023 10:23:09 +0200 > From: Nexa Media <media(a)nexa.polito.it> > To: nexa <nexa(a)server-nexa.polito.it> > Subject: [nexa] MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, > ore 13.00 > Message-ID: <7737e03c-e1a3-6ee3-ed53-365b3e7c5da3(a)nexa.polito.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > Gentilissime, gentilissimi, > > > Vi ricordiamo che *mercoledì 24 maggio*, dalle ore 13.00 alle ore 14.00, > si terrà il *106° Nexa Lunch Seminar* > con un incontro dal titolo: /*"L'"etica" come specchietto per le > allodole. Sistemi di intelligenza artificiale e violazioni dei diritti"*/. > > Ospite dell'incontro: *Daniela Tafani *(Università di Pisa). > > _L'incontro si terrà IN PRESENZA e ONLINE._ > > _SEDE FISICA dell'incontro_: Centro Nexa su Internet e Società, > Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). > Per accedere alla sala si raccomanda di suonare al citofono Portineria e > di seguire le indicazioni segnalate dai cartelli lungo il percorso. > QUI <https://nexa.polito.it/contatti> maggiori informazioni su come > raggiungerci. > > _STANZA VIRTUALE dell'incontro_: > https://didattica.polito.it/VClass/NexaEvent > > Maggiori informazioni alla pagina web: https://nexa.polito.it/lunch-106 > > > Cordiali saluti, > > -- > > Anita Botta > Communication Manager > > Nexa Center for Internet & Society > Politecnico di Torino – DAUIN > Corso Duca degli Abruzzi, 24 - 10129 Torino > > web: https://nexa.polito.it/ > mail: anita.botta(a)polito.it > tel: 011 090 7219 >

May 22, 2023

MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, ore 13.00

by Nexa Media

Gentilissime, gentilissimi, Vi ricordiamo che *mercoledì 24 maggio*, dalle ore 13.00 alle ore 14.00, si terrà il *106° Nexa Lunch Seminar* con un incontro dal titolo: /*"L'"etica" come specchietto per le allodole. Sistemi di intelligenza artificiale e violazioni dei diritti"*/. Ospite dell'incontro: *Daniela Tafani *(Università di Pisa). _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA dell'incontro_: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate dai cartelli lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE dell'incontro_: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina web: https://nexa.polito.it/lunch-106 Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

May 22, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Giacomo Tesio

Michele, pur conoscendo e apprezzando la tua storia, ciò che hai scritto nella mail cui ho risposto è gravissimo: "le normative nazionali dovranno, a mio modestissimo parere, piegarsi." Quale che sia la tua storia, quel "dovranno" rivela una resa. Che sia consapevole o meno, sempre resa rimane. Le mie parole sono state dure nella speranza di riscuoterti. La posta in gioco è altissima. Aspettare che una popolazione manipolata 24 ore al giorno, 7 giorni su 7 possa comprendere il problema in tempi utili è arrendersi. Chiediti cosa puoi intanto fare tu, nella PA in cui lavori, per dare una speranza di libertà ai tuoi figli. Fai reclamo al Garante come interessato, causa alla PA come dipendente per violazione dello Statuto dei Lavoratori, organizza scioperi bianchi etc... etc... Fai TUTTO CIÒ CHE PUOI per rendere evidenti queste catene e distruggerle. Oppure accetta la tua resa e inizia a pensare una scusa convincente per ciò che non avrai fatto quando i tuoi figli te ne chiederanno conto. La Legge non si deve piegare al potere. Quando lo fa, elimina ogni speranza di Giustizia. E con essa, ogni possibilità di confronto politico civile e nonviolento. Giacomo Il 21 Maggio 2023 18:25:05 UTC, Michele Pinassi <michele.pinassi(a)unisi.it> ha scritto: >Mi sorprende, Giacomo, che tu possa imputarmi certe posizioni, soprattutto conoscendo la mia storia sia personale che professionale. > >In ogni caso, temo che non sia passato il messaggio che intendevo inviare, ovvero che quando questi soggetti privati diventano economicamente troppo grandi ("too big to..."), purtroppo la politica tende a piegarsi alle loro esigenze e non viceversa. > >Questo non significa né che lo debba accettare né, tantomeno, che lo condivida. > >La coraggiosa emanazione del GDPR da parte dell'Unione Europea si è scontrata con gli interessi dei GAFAM più volte ma la sensazione, quantomeno quella mia squisitamente personale, è che a nessuna delle parti in causa interessa arrivare a decisioni drastiche, che impatterebbero in modo enorme sulla società. > >Del resto, l'esperienza di MonitoraPA mi pare che lo stia dimostrando. O sbaglio? > >A questo punto sta a noi cittadini fare pressione politica per invertire la tendenza. Se un manipolo di coraggiosi può innescare la scintilla, temo serva però la consapevolezza di almeno un decina di punti percentuale della popolazione per ricevere l'attenzione della classe politica. Un po' come sta avvenendo per l'attacco ransomware della ASL 1 Aquila, dove per la prima volta in Italia i cittadini si stanno rendendo conto del problema e si sono attivati, politicamente e legalmente, a tutela dei loro diritti. > >Penso che la direzione sia quella giusta, ma la strada è ancora terribilmente accidentata e impervia. > >MP > >Il 21/05/23 10:48, Giacomo Tesio ha scritto: >> Il 21 Maggio 2023 06:47:18 UTC, Michele Pinassi via nexa <nexa(a)server-nexa.polito.it> ha scritto: >>> ChatGPT e l'AI arrivano in un contesto già profondamente polarizzato da >>> questi grandi attori (GAFAM) ed è quindi praticamente inevitabile che possa >>> esserci una concentrazione di queste tecnologie nelle mani di pochi. >>> >>> A cui, obtorto collo o no, le normative nazionali dovranno, a mio >>> modestissimo parere, piegarsi. >> Quindi Michele, a tuo modesto parere, dobbiamo >> piegarci e rinunciare alla democrazia. >> >> >> Immagino che tu l'abbia già fatto, giusto? >> Come sanno bene i tuoi burattinai, c'è un solo modo per vincere una guerra: >> convincere gli avversari di aver perso, che non valga più la pena continuare a lottare. >> >> >> Io resisto. >> >> Non posso fare diversamente, perché ho figlie che vivranno nel mondo che state costruendo. >> >> >> Giacomo >> >> PS: le alternative esistono e di fronte a chi sostiene il contrario mi chiedo sempre >> se sia incompetente o colluso >> https://fuss.bz.it/post/2023-03-28_incontro-dirigenti-emilia-romagna/ >> >> Ma quandanche non esistessero alternative democratiche, si potrebbero costruire. >> E nel frattempo FARNE A MENO. >> >> Come si è fatto fino a solo 3 anni fa. >

May 22, 2023

‘There was all sorts of toxic behaviour’: Timnit Gebru on her sacking by Google, AI’s dangers and big tech’s biases | Artificial intelligence (AI) | The Guardian

by Alberto Cammozzo

<https://www.theguardian.com/lifeandstyle/2023/may/22/there-was-all-sorts-of…> ‘It feels like a gold rush,” says Timnit Gebru. “In fact, it is a gold rush. And a lot of the people who are making money are not the people actually in the midst of it. But it’s humans who decide whether all this should be done or not. We should remember that we have the agency to do that.” Gebru is talking about her specialised field: artificial intelligence. On the day we speak via a video call, she is in Kigali, Rwanda, preparing to host a workshop and chair a panel at an international conference on AI. It will address the huge growth in AI’s capabilities, as well as something that the frenzied conversation about AI misses out: the fact that many of its systems may well be built on a huge mess of biases, inequalities and imbalances of power. This gathering, the clunkily titled International Conference on Learning Representations, marks the first time people in the field have come together in an African country – which makes a powerful point about big tech’s neglect of the global south. When Gebru talks about the way that AI “impacts people all over the world and they don’t get to have a say on how they should shape it”, the issue is thrown into even sharper relief by her backstory. We need regulation, and we need something better than just a profit motive In her teens, Gebru was a refugee from the war between Ethiopia, where she grew up, and Eritrea, where her parents were born. After a year in Ireland, she made it to the outskirts of Boston, Massachusetts, and from there to Stanford University in northern California, which opened the way to a career at the cutting edge of the computing industry: Apple, then Microsoft, followed by Google. But in late 2020, her work at Google came to a sudden end. As the co-leader of Google’s small ethical AI team, Gebru was one of the authors of an academic paper that warned about the kind of AI that is increasingly built into our lives, taking internet searches and user recommendations to apparently new levels of sophistication and threatening to master such human talents as writing, composing music and analysing images. The clear danger, the paper said, is that such supposed “intelligence” is based on huge data sets that “overrepresent hegemonic viewpoints and encode biases potentially damaging to marginalised populations”. Put more bluntly, AI threatens to deepen the dominance of a way of thinking that is white, male, comparatively affluent and focused on the US and Europe. In response, senior managers at Google demanded that Gebru either withdraw the paper, or take her name and those of her colleagues off it. This triggered a run of events that led to her departure. Google says she resigned; Gebru insists that she was fired. What all this told her, she says, is that big tech is consumed by a drive to develop AI and “you don’t want someone like me who’s going to get in your way. I think it made it really clear that unless there is external pressure to do something different, companies are not just going to self-regulate. We need regulation and we need something better than just a profit motive.” Gebru, who is 40, sometimes speaks dizzyingly quickly, as if the rich details of her life might outrun the hour or so we have to talk. She tends to use the precise, measured vocabulary of a tech insider, leavened with a sense of the absurd that is focused on one particularly howling irony: the fact that an industry brimming with people who espouse liberal, self-consciously progressive opinions so often seems to push the world in the opposite direction. One of the subjects she returns to repeatedly is racism, including experiences of prejudice in the US education system and Silicon Valley. While she was at high school in Massachusetts, she says, her gift for science was treated bluntly (one teacher said: “I’ve met so many people like you who think that they can just come here from other countries and take the hardest classes”) and passive-aggressively: despite high grades in physics, her request to study the subject further was met with concerns that she might find it too difficult. “The thing that was very confusing to me as an immigrant was that liberal type of racism,” she says. “People who sound like they really care about you, but they’d be like: ‘Don’t you think it’s going to be hard for you?’ It took me a while to really figure out what was going on.” I was being attacked by a bunch of guys, and nobody helped me at all. That was the scariest thing Later on came a watershed experience of even more brazen prejudice, when she and a friend – a black woman – were attacked in a bar. “That was the scariest encounter I’ve ever had in the US,” she says. “It was in San Francisco – again, another liberal place. I was being attacked by a bunch of guys and nobody helped me at all. That was the scariest thing to see: being strangled and people just walking by and looking at you.” She called the police. “And that was worse than not calling them, because first they accused me of lying a number of times, and kept on telling me to calm down. And then they put handcuffs on my friend, who had just been attacked.” Her friend was also detained in a police cell. At Stanford, although she was often condescendingly asked by some of her white peers if she had got in thanks to an affirmative action programme, her undergraduate years were spent in an environment where senior people at least “talked about diversity a lot, and they had different people from different places”. But after working as an audio engineer for Apple between 2005 and 2007, she went back to Stanford to study for a PhD and had very different experiences. Her life, she says, became all about “going to an office every day with the same bunch of people – it’s kind of like work. And there was nobody who looked like me at all. It was just shocking.” Gebru began to specialise in cutting-edge AI, pioneering a system that showed how data about particular neighbourhoods’ patterns of car ownership highlighted differences bound up with ethnicity, crime figures, voting behaviour and income levels. In retrospect, this kind of work might look like the bedrock of techniques that could blur into automated surveillance and law enforcement, but Gebru admits that “none of those bells went off in my head … that connection of issues of technology with diversity and oppression came later”. Soon enough, though, she began to think deeply about how big tech’s innovations often embodied the same inequalities evident in its offices, labs and social activities. In 2015, Google had to apologise when the AI systems that served its Photos app mistakenly identified a black couple as gorillas. The year after, the thinktank ProPublica found that software used across the US to assess prison convicts’ chances of reoffending was heavily biased against black people. Meanwhile, Gebru was becoming even more aware of aspects of the tech industry’s culture that lay behind such stories. Around this time, she attended a big AI conference in Montreal where, at a Google party, a group of white men openly harassed her. “One of them kissed me, one of them took a picture. And I was kind of frozen: I didn’t really do anything. They were having a party at an academic conference with limitless drinks at a bar and they weren’t even making it clear that this was a professional event. Obviously, you should never harass women – or anybody – like that. But that was rampant at these conferences.” The organisers of the conference say that their code of conduct has since been “elaborated”; they now have “a new one-stop contact point for concerns and complaints, which is monitored closely”. The next year, Gebru made a point of counting other black attenders at the same event. She found that, among 8,500 delegates, there were only six people of colour. In response, she put up a Facebook post that now seems prescient: “I’m not worried about machines taking over the world; I’m worried about groupthink, insularity and arrogance in the AI community.” In that context, it might seem surprising that, after a year spent working in Microsoft’s fairness, accountability, transparency and ethics in AI lab, Gebru took a job at Google. In 2018, thanks to Margaret Mitchell, a recently hired specialist in algorithmic bias, she was recruited to co-lead a team dedicated to the ethics of AI. “I was full of trepidation,” she says. “But I thought: ‘Well, Margaret Mitchell is here – we can work together. Who else can I work with?’ But that was how I went into it: I was like: ‘I wonder how long I can last here.’” “It was a difficult decision,” she says. “Because, by the time I was going to Google, I had heard from several women about sexual harassment, and other kinds of harassment, and they had actually said: ‘Don’t do it.’” When Gebru arrived, Google employees were loudly opposing the company’s role in Project Maven, which used AI to analyse surveillance footage captured by military drones (Google ended its involvement in 2018). Two months later, staff took part in a huge walkout over claims of systemic racism, sexual harassment and gender inequality. Gebru says she was aware of “a lot of tolerance of harassment and all sorts of toxic behaviour”. In its quest to highlight some of the moral and political questions surrounding AI, her team hired Google’s first social scientist. She and her colleagues prided themselves on how diverse their small operation was, as well as the things they brought to the company’s attention, which included issues to do with Google’s ownership of YouTube. A colleague from Morocco raised the alarm about a popular YouTube channel in that country called Chouf TV, “which was basically operated by the government’s intelligence arm and they were using it to harass journalists and dissidents. YouTube had done nothing about it.” (Google says that it “would need to review the content to understand whether it violates our policies. But, in general, our harassment policies strictly prohibit content that threatens individuals, targets someone with prolonged or malicious insults based on intrinsic attributes, or reveals someone’s personally identifiable information.”) Then, in 2020, Gebru, Mitchell and two colleagues wrote the paper that would lead to Gebru’s departure. It was titled On the Dangers of Stochastic Parrots. Its key contention was about AI centred on so-called large language models: the kind of systems – such as OpenAI’s ChatGPT and Google’s newly launched PaLM 2 – that, crudely speaking, feast on vast amounts of data to perform sophisticated tasks and generate content. These sources are usually scraped from the world wide web and inevitably include material usually subject to copyright (if an AI system can produce prose in the style of a particular writer, for example, that is because it has absorbed much of the writer’s work). But Gebru and her co-authors had an even graver concern: that trawling the online world risks reproducing its worst aspects, from hate speech to points of view that exclude marginalised people and places. “In accepting large amounts of web text as ‘representative’ of ‘all’ of humanity, we risk perpetuating dominant viewpoints, increasing power imbalances and further reifying inequality,” they wrote. When the paper was submitted for internal review, Gebru was quickly contacted by one of Google’s vice-presidents. At first, she says, non-specific objections were expressed, such as that she and her colleagues had been too “negative” about AI. Then, Google asked Gebru either to withdraw the paper, or remove her and her colleagues’ names from it. She says she told the company that she would not retract it and would remove the authors’ names only if Google specified its objections. If this didn’t happen, she said, she would resign. She also sent a number of emails to women working in Google’s AI division, saying that the company was “silencing marginalised voices”. Then, in December 2020, while she was on holiday, one of her closest colleagues texted her to ask if an email they had seen saying she had left the company was correct. Subsequent accounts said that Google had cited “behaviour that is inconsistent with the expectations of a Google manager”. How, I wonder, did she feel? “I was not in thinking mode. I was just in action mode, like: ‘I need a lawyer and I need to get my story out; I wonder what they’re planning; I wonder what they’re going to say about me.’” She pauses. “But I was fired. In the middle of my vacation, on a road trip to visit my mom, in the middle of a pandemic.” In response to what Gebru says about workplace harassment and toxic behaviour at Google, her experiences at the party in Montreal and the nature of her departure, the company’s press office emails me a set of “background points”. “We are committed to building a safe, inclusive and respectful workplace – and we take misconduct very seriously,” it says. “We have strict policies against harassment and discrimination, thoroughly investigate all concerns reported and take firm actions against substantiated allegations. We also have several ways for our workforce to report concerns, including anonymously.” Five years ago, it goes on, the company overhauled “the way we handle and investigate employee concerns, introducing new care programs for employees who report concerns and making arbitration optional for Google employees”. On questions about AI systems using copyrighted material, a spokesperson says that Google will “innovate in this space responsibly, ethically, and legally”, and plans to “continue our collaboration and discussions with publishers and the ecosystem to find ways for this new technology to help enhance their work and benefit the entire web ecosystem”. After her departure, Gebru founded Dair, the Distributed AI Research Institute, to which she now devotes her working time. “We have people in the US and the EU, and in Africa,” she says. “We have social scientists, computer scientists, engineers, refugee advocates, labour organisers, activists … it’s a mix of people.” The institute’s fellows, she tells me, include a former Amazon delivery driver, plus people with experience of the monotonous and sometimes traumatic job of manually labelling online content – including illegal and toxic material – to train AI systems. Much of this work happens in developing countries. “There’s a lot of exploitation in the field of AI, and we want to make that visible so that people know what’s wrong,” she says. “But also, AI is not magic. There are a lot of people involved – humans.” Running alongside this is a quest to push beyond the tendency of the tech industry and the media to focus attention on worries about AI taking over the planet and wiping out humanity while questions about what the technology does, and who it benefits and damages, remain unheard. “That conversation ascribes agency to a tool rather than the humans building the tool,” she says. “That means you can aggregate responsibility: ‘It’s not me that’s the problem. It’s the tool. It’s super-powerful. We don’t know what it’s going to do.’ Well, no – it’s you that’s the problem. You’re building something with certain characteristics for your profit. That’s extremely distracting, and it takes the attention away from real harms and things that we need to do. Right now.” How does she feel squaring up to her old employers in Silicon Valley? “I don’t know if we’ll change them or not,” she says. “We’re never going to get, like, a quadrillion dollars to do what we’re doing. I just feel like we have to do what we can. Maybe, if enough people do small things and get organised, things will change. That’s my hope.”

May 22, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Michele Pinassi

Mi sorprende, Giacomo, che tu possa imputarmi certe posizioni, soprattutto conoscendo la mia storia sia personale che professionale. In ogni caso, temo che non sia passato il messaggio che intendevo inviare, ovvero che quando questi soggetti privati diventano economicamente troppo grandi ("too big to..."), purtroppo la politica tende a piegarsi alle loro esigenze e non viceversa. Questo non significa né che lo debba accettare né, tantomeno, che lo condivida. La coraggiosa emanazione del GDPR da parte dell'Unione Europea si è scontrata con gli interessi dei GAFAM più volte ma la sensazione, quantomeno quella mia squisitamente personale, è che a nessuna delle parti in causa interessa arrivare a decisioni drastiche, che impatterebbero in modo enorme sulla società. Del resto, l'esperienza di MonitoraPA mi pare che lo stia dimostrando. O sbaglio? A questo punto sta a noi cittadini fare pressione politica per invertire la tendenza. Se un manipolo di coraggiosi può innescare la scintilla, temo serva però la consapevolezza di almeno un decina di punti percentuale della popolazione per ricevere l'attenzione della classe politica. Un po' come sta avvenendo per l'attacco ransomware della ASL 1 Aquila, dove per la prima volta in Italia i cittadini si stanno rendendo conto del problema e si sono attivati, politicamente e legalmente, a tutela dei loro diritti. Penso che la direzione sia quella giusta, ma la strada è ancora terribilmente accidentata e impervia. MP Il 21/05/23 10:48, Giacomo Tesio ha scritto: > Il 21 Maggio 2023 06:47:18 UTC, Michele Pinassi via nexa <nexa(a)server-nexa.polito.it> ha scritto: >> ChatGPT e l'AI arrivano in un contesto già profondamente polarizzato da >> questi grandi attori (GAFAM) ed è quindi praticamente inevitabile che possa >> esserci una concentrazione di queste tecnologie nelle mani di pochi. >> >> A cui, obtorto collo o no, le normative nazionali dovranno, a mio >> modestissimo parere, piegarsi. > Quindi Michele, a tuo modesto parere, dobbiamo > piegarci e rinunciare alla democrazia. > > > Immagino che tu l'abbia già fatto, giusto? > Come sanno bene i tuoi burattinai, c'è un solo modo per vincere una guerra: > convincere gli avversari di aver perso, che non valga più la pena continuare a lottare. > > > Io resisto. > > Non posso fare diversamente, perché ho figlie che vivranno nel mondo che state costruendo. > > > Giacomo > > PS: le alternative esistono e di fronte a chi sostiene il contrario mi chiedo sempre > se sia incompetente o colluso > https://fuss.bz.it/post/2023-03-28_incontro-dirigenti-emilia-romagna/ > > Ma quandanche non esistessero alternative democratiche, si potrebbero costruire. > E nel frattempo FARNE A MENO. > > Come si è fatto fino a solo 3 anni fa. -- Michele Pinassi Responsabile Sicurezza Informatica - Telefonia di Ateneo Ufficio Esercizio e tecnologie - Università degli Studi di Siena tel: 0577.(23)5000 - helpdesk(a)unisi.it PGP/GPG key fingerprint 6EC4 9905 84F5 1537 9AB6 33E7 14FC 37E5 3C24 B98E

May 21, 2023

Dennett, "The Problem With Counterfeit People"

by J.C. DE MARTIN

*The Problem With Counterfeit People** */Companies using AI to generate fake people are committing an immoral act of vandalism, and should be held liable.// / By Daniel C. Dennett May 16, 2023 https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-…

May 21, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Giacomo Tesio

Il 21 Maggio 2023 06:47:18 UTC, Michele Pinassi via nexa <nexa(a)server-nexa.polito.it> ha scritto: > >ChatGPT e l'AI arrivano in un contesto già profondamente polarizzato da >questi grandi attori (GAFAM) ed è quindi praticamente inevitabile che possa >esserci una concentrazione di queste tecnologie nelle mani di pochi. > >A cui, obtorto collo o no, le normative nazionali dovranno, a mio >modestissimo parere, piegarsi. Quindi Michele, a tuo modesto parere, dobbiamo piegarci e rinunciare alla democrazia. Immagino che tu l'abbia già fatto, giusto? Come sanno bene i tuoi burattinai, c'è un solo modo per vincere una guerra: convincere gli avversari di aver perso, che non valga più la pena continuare a lottare. Io resisto. Non posso fare diversamente, perché ho figlie che vivranno nel mondo che state costruendo. Giacomo PS: le alternative esistono e di fronte a chi sostiene il contrario mi chiedo sempre se sia incompetente o colluso https://fuss.bz.it/post/2023-03-28_incontro-dirigenti-emilia-romagna/ Ma quandanche non esistessero alternative democratiche, si potrebbero costruire. E nel frattempo FARNE A MENO. Come si è fatto fino a solo 3 anni fa.

May 21, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Michele Pinassi

Non ho la presunzione di avere competenze per valutare nel dettaglio l'interessante articolo condiviso, di cui ringrazio l'autrice. Tuttavia credo che parliamo di realtà che hanno saputo sfruttare, nei decenni precedenti, contesti deregolamentati per espandere la propria influenza su scala planetaria, usando gli ingenti proventi economici derivanti dalle loro attività per instaurare meccanismi di lobbying e consolidare ancora di più la propria posizione dominante. Posizione che, lo abbiamo visto e lo stiamo vedendo con alcuni contesti come l'annoso Privacy Shield e tutto ciò che ne è conseguito, porta a piegare la normativa alla luce dello stato di fatto: realtà troppo grandi da non poterne fare a meno, soprattutto e in particolare quando sono gli stessi sistemi istituzionali ad usufruirne per i propri scopi. ChatGPT e l'AI arrivano in un contesto già profondamente polarizzato da questi grandi attori (GAFAM) ed è quindi praticamente inevitabile che possa esserci una concentrazione di queste tecnologie nelle mani di pochi. A cui, obtorto collo o no, le normative nazionali dovranno, a mio modestissimo parere, piegarsi. Del resto, se Google fosse stata cinese e non USA, probabilmente la storia sarebbe stata diversa. Buona domenica, MP Il Dom 21 Mag 2023, 08:40 Norberto Patrignani <norberto.patrignani(a)polito.it> ha scritto: > Gent.ma Daniela Tafani, complimenti per il lucidissimo articolo, > una chiara risposta alla narrazione che vuole lasciare tutto in mano a > mercato e tecnologia, oscurando educazione e norma (Lessig). > Grazie davvero per la condivisione > Norberto > > ------------------------------ > *From:* nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Daniela > Tafani <daniela.tafani(a)unipi.it> > *Sent:* Saturday, May 20, 2023 11:01 PM > *To:* nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> > *Subject:* [nexa] Sistemi fuori controllo o prodotti fuorilegge? La > cosiddetta «intelligenza artificiale» e il risveglio del diritto > > > Buonasera. > > > Ho appena pubblicato un articolo che potrebbe essere di interesse per > questa lista: > > < > https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor… > > > > > Vi sarei grata di qualsiasi commento o osservazione. > > > Qui <https://btfp.sp.unipi.it/it/front-page/>il riassunto: > > > I sistemi di intelligenza artificiale sono oggi in grado di svolgere > alcuni specifici compiti, che erano stati, finora, prerogativa dei soli > esseri umani. > Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno > consentito questi genuini progressi, le grandi aziende tecnologiche hanno > colto l’opportunità per un’espansione illimitata di prodotti e servizi > «intelligenti». Hanno diffuso e messo in commercio, con la formula di > marketing «intelligenza artificiale», sistemi di apprendimento automatico, > per lo svolgimento di attività che tali sistemi non sono in grado di > svolgere o che semplicemente non sono possibili. Tra i prodotti di questo > genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a > guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di > linguaggio naturale. > > Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse > sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per > sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme > profitto, i giganti della tecnologia hanno diffuso una famiglia di > narrazioni che danno forma alla percezione pubblica del rapporto tra etica, > politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di > qualsiasi discorso pubblico. Sono così entrati a far parte del senso > comune, tra gli altri, il principio di inevitabilità tecnologica, il mito > dell’eccezionalismo tecnologico, il principio di innovazione e il mito del > vuoto giuridico. > > Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe > inapplicabili i sistemi normativi vigenti e gli ordinari criteri di > attribuzione della responsabilità, si oppone oggi una crescente > consapevolezza del fatto che i sistemi informatici sono artefatti, ossia > prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la > commercializzazione alla legislazione ordinaria. > > Un saluto, > Daniela > > > <https://btfp.sp.unipi.it/it/front-page/> > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

May 21, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Norberto Patrignani

Gent.ma Daniela Tafani, complimenti per il lucidissimo articolo, una chiara risposta alla narrazione che vuole lasciare tutto in mano a mercato e tecnologia, oscurando educazione e norma (Lessig). Grazie davvero per la condivisione Norberto ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Daniela Tafani <daniela.tafani(a)unipi.it> Sent: Saturday, May 20, 2023 11:01 PM To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> Subject: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto Buonasera. Ho appena pubblicato un articolo che potrebbe essere di interesse per questa lista: <https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor…> Vi sarei grata di qualsiasi commento o osservazione. Qui <https://btfp.sp.unipi.it/it/front-page/> il riassunto: I sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani. Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno consentito questi genuini progressi, le grandi aziende tecnologiche hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti». Hanno diffuso e messo in commercio, con la formula di marketing «intelligenza artificiale», sistemi di apprendimento automatico, per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale. Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme profitto, i giganti della tecnologia hanno diffuso una famiglia di narrazioni che danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di qualsiasi discorso pubblico. Sono così entrati a far parte del senso comune, tra gli altri, il principio di inevitabilità tecnologica, il mito dell’eccezionalismo tecnologico, il principio di innovazione e il mito del vuoto giuridico. Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria. Un saluto, Daniela <https://btfp.sp.unipi.it/it/front-page/>

May 21, 2023