- nexa - server-nexa.polito.it

How zero-knowledge technology can enhance digital public infrastructure
by Enrico Nardelli Nov. 5, 2023

Nov. 5, 2023

https://www.weforum.org/agenda/2023/09/zero-knowledge-technology-digital-pu… ... What is digital public infrastructure? ... The growing consensus is that it is a shared set of digital systems, based on open source technology standards that enable governance and innovative players across both the public and private spheres. Importantly, it helps deliver innovations at scale. Thao Hong, a programme officer for the Bill & Melinda Gates Foundation, adds that “strong digital public infrastructure” typically includes digital infrastructure in three crucial areas: identity, payments and data exchange. ... Ah, ovviamente il tutto viene fatto nell'interesse dei bambini... https://www.weforum.org/agenda/2023/09/how-digital-public-infrastructure-ca… Ciao, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

4 4

Turco meccanico a guida autonoma
by Daniela Tafani Nov. 5, 2023

Nov. 5, 2023

Il NYT riporta che i presunti veicoli a guida autonoma Cruise richiedono costanti controlli a distanza (3 lavoratori impiegati ogni 2 auto): "Half of Cruise’s 400 cars were in San Francisco when the driverless operations were stopped. Those vehicles were supported by a vast operations staff, with 1.5 workers per vehicle. The workers intervened to assist the company’s vehicles every 2.5 to five miles, according to two people familiar with is operations. In other words, they frequently had to do something to remotely control a car after receiving a cellular signal that it was having problems." https://www.nytimes.com/2023/11/03/technology/cruise-general-motors-self-dr…

1 0

Soskice, "The second digital revolution and the contested transformations of advanced democratic capitalism"
by J.C. DE MARTIN Nov. 4, 2023

Nov. 4, 2023

*The second digital revolution and the contested transformations of advanced democratic capitalism * David Soskice, Ciampi Visiting Scholar, London School of Economics Chair Donatella Della Porta - Scuola Normale Superiore Discussants Mario Pianta - Scuola Normale Superiore Hans-Jörg Trenz - Scuola Normale Superiore Video (1 ora e 45'): https://www.youtube.com/watch?v=UKPV88Wv2LM https://www.sns.it/it/evento/second-digital-revolution-and-contested-transf…

1 0

Researchers and NGOs are up in arms against a European law that would make it possible to “monitor the Internet traffic of any European citizen”
by Stefano Traverso Nov. 3, 2023

Nov. 3, 2023

CONFIDENTIAL CONFIDENTIAL Carissimi, non mi sembra che questo tema sia atterrato sulla lista: https://www.gearrice.com/update/researchers-and-ngos-are-up-in-arms-against… Buona lettura, Stefano CONFIDENTIAL [cid:d2114052-e01c-4017-b868-6c24a4cf2bfa.jpg] Stefano Traverso Head of Research RES | Ermes - Browser Security [orange line.png] [phone icon.png] +39 011 1980 3711<tel:+39%20011%201980%203711> | M: +39 331 455 9794<tel:+39%20331%20455%209794> [mail icon.png] s.traverso(a)ermes.company<mailto:s.traverso@ermes.company> | ermes.company<https://www.ermes.company/> [addess icon.png] Corso Telesio 29, 10146, Torino [ERMES_E Orange.png] Here at Ermes Cyber Security S.p.A. we care for your privacy. That is why we have taken appropriate measures to ensure that the data you have provided to us is always secure. If you have any questions related to GDPR compliance or data protection, please contact us CONFIDENTIAL

1 0

Conversazione con Jane C. Ginsburg webinar 31 ottobre - h. 18.00-19.00
by deborah de angelis Oct. 31, 2023

Oct. 31, 2023

Ciao a tutti, per chi fosse interessato alla conversazione, condivido il link. A presto Deborah > > ALAI ITALIA ti sta invitando a una riunione pianificata in Zoom. > > https://us06web.zoom.us/j/82161109680?pwd=krjQH8uUeas14ANVPYvMnMfBii40cg.1 > >

1 0

Intelligenza artificiale: ordine esecutivo degli Stati Uniti
by Mauro Alovisio Oct. 31, 2023

Oct. 31, 2023

Gent.mi segnalo interessante provvedimento su Intelligenza artificiale da parte del Governo americano https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fac… Una prima analisi https://www.notizie.ai/ordine-esecutivo-della-casa-bianca-per-regolamentare… Cordiali saluti Mauro

3 2

Re: [nexa] opinioni corrette Vs. scienza Vs. fogli di calcolo (was Re: IA, lavoro, immaginari)
by Giuseppe Attardi Oct. 30, 2023

Oct. 30, 2023

> On 26 Oct 2023, at 17:12, nexa-request(a)server-nexa.polito.it wrote: > > Aneddoto: lo sapete che la politica di "austerity" implementata dalla EU > fu frutto di un errore in un foglio di calcolo [3], vero? :-O > > ...già, i fogli di calcolo fanno già abbastanza danni, Non sono i fogli di calcolo a fare danni, ma chi li usa malamente e a sostegno di tesi preconcette: la celebre frase “lo dicono i dati” è quanto di più sbagliato si possa immaginare. I dati non /dicono/ nulla, i dati vanno /interpretati/ e ciascuno li interpreta a modo suo, visto che, con una quantità sufficiente di dati si può dimostrare qualunque tesi. Il caso Reinhart-Rogoff è stato ampiamente dibattuto (https://en.wikipedia.org/wiki/Growth_in_a_Time_of_Debt) ma, anche dopo che fu svelato l’errore nell'uso del foglio di calcolo a sostegno dell’asserto che l’austerity fa bene, i due autori hanno ribadito il loro convincimento: After reviewing their own work, they now say that countries that pass the 90 percent mark see 2.3 percent growth, down from 3.5 percent if they stay under that threshold. In other words, not negative growth, but still a significant drop. Peggio ancora, dopo decenni di politiche di austerity che hanno dimostrato coi fatti, non con le formule, che l’austerità non migliora l'economia, una scuola di economisti continua a non volerlo ammettere, per la frustrazione di Paul Krugman. Quest’ultimo conclude che i politici preferiscono ascoltare coloro che suffragano le loro intenzioni politiche, piuttosto che la realtà dei fatti. Si tratta, come sempre, di difetti degli umani, non degli strumenti che usano. — Beppe > non è il caso di > peggiorare la situazione con la c.d. AI (alimentata con dati gestiti su > fogli di calcolo "on steroids", *aiuto*!): > > https://eusprig.org/research-info/horror-stories/ > > (è evidente che sono riportati solo lo 0.1% degli incidenti causati da > "sphreadsheet errors") >

5 8

166° Mercoledì di Nexa | 8 novembre 2023, ore 17.00
by Valeria Bergantino Oct. 30, 2023

Oct. 30, 2023

Gentilissime, gentilissimi, Vi invitiamo a partecipare al *166° Mercoledì di Nexa*, che si terrà *mercoledì 8 novembre*, alle ore 17.00, con un incontro dal titolo /*"Etica del digitale ed euristiche mentali"*/. Ospite dell'incontro: *Guglielmo Tamburrini* (Università di Napoli Federico II)/*.*/ _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA_ dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono *Portineria* e di seguire le indicazioni segnalate lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE_ dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: Se non visualizzi correttamente questo messaggio clicca qui <https://nexa.polito.it/mercoledi-166> NEXA 166° Mercoledì di Nexa Mercoledì 8 novembre 2023, ore 17.00 - 19.00 Politecnico di Torino https://nexa.polito.it/mercoledi-166 /Etica del digitale ed euristiche mentali/ *GUGLIELMO TAMBURRINI (Università di Napoli Federico II)* *L'INCONTRO SI TERRÀ IN PRESENZA E ONLINE* *SEDE FISICA*: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Suonare al citofono *Portineria* - Seguire le indicazioni segnalate dai cartelli lungo il percorso. (Per maggiori informazioni su come raggiungerci clicca QUI <https://nexa.polito.it/contatti>) *STANZA VIRTUALE*: https://didattica.polito.it/VClass/NexaEvent Per mettere in pratica le *raccomandazioni etiche sulla progettazione e l’uso dei sistemi digitali* è fondamentale affidarsi a *processi decisionali analitici e ponderati*. Ma i modelli psicologici del doppio processo decisionale affermano che spesso affidiamo le nostre scelte e azioni a valutazioni intuitive, più rapide ed emotivamente cariche. Da qui emergono difficoltà significative per la messa in pratica di linee di condotta analiticamente ponderate ed eticamente motivate per la progettazione e l’uso dei sistemi digitali. Nel corso dell’incontro si discuteranno, in particolare: la *difficoltà di perseguire*, in assenza di esperienze vissute e reazioni viscerali al riscaldamento climatico, il *contenimento dell’impronta di carbonio del settore digitale*; la *difficoltà di esercitare la prudenza e la frugalità nella sfera digitale*, differendo la fruizione immediata di stati emotivi positivi; la *difficoltà di attuare un controllo umano veramente significativo sui sistemi dell’IA nel settore militare* – soprattutto nel campo delle armi autonome e della difesa nucleare – allorché si opacizzano i processi deliberativi e si accelerano le decisioni, ostacolando così il dispiegamento di ragionamenti analitici e ponderati da parte dei decisori militari e politici. Si prenderanno anche in considerazione alcune strategie per attenuare queste difficoltà, e per *conferire all’etica del digitale un ruolo più incisivo nell’ambito della ragione pratica*. BIOGRAFIA e informazioni supplementari: [mercoledì166] *Guglielmo TAMBURRINI* è professore ordinario di filosofia della scienza e della tecnologia all’Università di Napoli Federico II. Coordinatore del primo progetto europeo sull’etica della robotica (Ethicbots, 2005-08), vincitore del Premio Internazionale Giulio Preti nel 2014 per il suo lavoro didattico e di ricerca sull’etica della robotica e dell’intelligenza artificiale, è membro dell’ICRAC (International Committee for Robot Arms Control) e del Consiglio scientifico dell’USPID (Unione degli Scienziati per il Disarmo). Tra le sue pubblicazioni recenti in lingua italiana, il volume /Etica delle macchine. Dilemmi morali per la robotica e l’intelligenza artificiale/ (Roma, 2020), vari capitoli sia del volume /Automi e persone. Introduzione all’etica dell’intelligenza artificiale e della robotica/ (Roma, 2021), che ha curato insieme a F. Fossa e V. Schiaffonati, sia del volume /open access Dai droni alle armi autonome/ (a cura di F. Farruggia, Roma 2023). *Letture consigliate:* * P. Slovic, H. S. Lin (2020), /The caveman and the bomb in the digital age/, disponibile al LINK <https://www.hoover.org/sites/default/files/research/docs/trinkunas_threetwe…> * F. Farruggia (a cura di) (2023), /Dai droni alle armi autonome/, in particolare i capp. 4, 5 e 9. Roma, Franco Angeli, disponibile in open access al LINK <https://series.francoangeli.it/index.php/oa/catalog/book/948> * G. Tamburrini (2022), The AI carbon footprint and responsibilities of AI scientists, Philosophies, 7(1), 4 (open access) al LINK <https://doi.org/10.3390/philosophies7010004> * D. Kahneman (2011), /Thinking, Fast and Slow/, trad. It. Pensieri lenti e veloci, Milano, Mondadori, 2012 Che cosa sono il Centro Nexa e i cicli di incontri “Mercoledì di Nexa” e “Nexa Lunch Seminar” <https://www.facebook.com/nexa.center/> <https://twitter.com/nexacenter> <https://www.youtube.com/user/NexaCenter> <https://www.instagram.com/nexa_center/> <https://www.linkedin.com/company/3054864/admin/> #nexawednesday <https://twitter.com/search?q=%23nexawednesday&src=typd> #UniversitàdiNapoliFedericoII <https://twitter.com/UninaIT> Il Centro Nexa su Internet & Società del Politecnico di Torino (Dipartimento di Automatica e Informatica), fondato nel 2006, è un centro di ricerca interdisciplinare che, in collaborazione con l’Università di Torino (in particolare il Dipartimento di Giurisprudenza), studia le tecnologie digitali e il loro rapporto con la società. Maggiori informazioni all'indirizzo: http://nexa.polito.it/about. Durante i “Mercoledì di Nexa”, che si tengono *ogni 2° mercoledì del mese alle ore 17 in punto*, il Centro Nexa su Internet e Società apre le sue porte non solo agli esperti e a tutti coloro i quali lavorano con Internet, ma anche a semplici appassionati e cittadini. Il ciclo di incontri intende approfondire, con un linguaggio preciso ma accessibile, i temi legati alla Rete: “intelligenza artificiale”, reti sociali, software libero, capitalismo della sorveglianza, neutralità della rete, libertà di espressione, privacy, condivisione di file, "big data" e "open data", “smart cities”, e molto altro. Al centro della maggior parte degli incontri un ospite pronto a dialogare con i direttori del Centro Nexa, il Prof. Juan Carlos De Martin del Politecnico di Torino, i Proff. Marco Ricolfi e Maurizio Borghi dell'Università di Torino, lo staff, i Fellows del Centro Nexa e tutti i presenti. Maggiori informazioni sui Mercoledì di Nexa, incluso un elenco di tutti i “Mercoledì” passati, sono disponibili all'indirizzo: http://nexa.polito.it/mercoledi. Le registrazioni degli incontri sono disponibili qui: https://nexa.polito.it/audio-video. Si segnala inoltre che dal maggio 2012 *ogni 4° mercoledì* del mese *dalle ore 13 alle ore 14* il Centro Nexa organizza anche i "*Nexa Lunch Seminar*". Una lista di tutti i “Lunch Seminar” passati è disponibile all'indirizzo: http://nexa.polito.it/lunch-seminars. See our events calendar <http://nexa.polito.it/events> if you're curious about future luncheons, discussions, lectures, and conferences not listed in this email. Our events are free and open to the public, unless otherwise noted. Responsabile Comunicazione Centro Nexa su Internet & Società: *Valeria Bergantino*, tel: +39 011 090 7219, Mob: +39 347 344 3585, valeria.bergantino(a)polito.it. Maggiori informazioni sui Mercoledì di Nexa e i Nexa Lunch Seminar, sono disponibili all'indirizzo: http://nexa.polito.it/events. Weekly Events Newsletter. Sign up <http://nexa.polito.it/mailing-lists> to receive this newsletter if this email was forwarded to you. To manage your subscription preferences, please click here <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>. Connect & get involved: Jobs, internships, and more <http://nexa.polito.it/get-involved>. Nexa Center for Internet and Society Newsletter Cordiali saluti, -- Valeria Bergantino Communication Officer Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ <https://nexa.polito.it/> mail: valeria.bergantino(a)polito.it <mailto:valeria.bergantino@polito.it> tel: 3473443585

1 0

Sweeping new Biden order aims to alter the AI landscape
by Luigi Scorca Oct. 30, 2023

Oct. 30, 2023

https://www.politico.com/news/2023/10/27/white-house-ai-executive-order-001…

1 0

This new data poisoning tool lets artists fight back against generative AI | MIT Technology Review
by Alberto Cammozzo Oct. 29, 2023

Oct. 29, 2023

<https://www.technologyreview.com/2023/10/23/1082189/data-poisoning-artists-…> A new tool lets artists add invisible changes to the pixels in their art before they upload it online so that if it’s scraped into an AI training set, it can cause the resulting model to break in chaotic and unpredictable ways. The tool, called Nightshade, is intended as a way to fight back against AI companies that use artists’ work to train their models without the creator’s permission. Using it to “poison” this training data could damage future iterations of image-generating AI models, such as DALL-E, Midjourney, and Stable Diffusion, by rendering some of their outputs useless—dogs become cats, cars become cows, and so forth. MIT Technology Review got an exclusive preview of the research, which has been submitted for peer review at computer security conference Usenix. AI companies such as OpenAI, Meta, Google, and Stability AI are facing a slew of lawsuits from artists who claim that their copyrighted material and personal information was scraped without consent or compensation. Ben Zhao, a professor at the University of Chicago, who led the team that created Nightshade, says the hope is that it will help tip the power balance back from AI companies towards artists, by creating a powerful deterrent against disrespecting artists’ copyright and intellectual property. Meta, Google, Stability AI, and OpenAI did not respond to MIT Technology Review’s request for comment on how they might respond. Zhao’s team also developed Glaze, a tool that allows artists to “mask” their own personal style to prevent it from being scraped by AI companies. It works in a similar way to Nightshade: by changing the pixels of images in subtle ways that are invisible to the human eye but manipulate machine-learning models to interpret the image as something different from what it actually shows. The team intends to integrate Nightshade into Glaze, and artists can choose whether they want to use the data-poisoning tool or not. The team is also making Nightshade open source, which would allow others to tinker with it and make their own versions. The more people use it and make their own versions of it, the more powerful the tool becomes, Zhao says. The data sets for large AI models can consist of billions of images, so the more poisoned images can be scraped into the model, the more damage the technique will cause. A targeted attack Nightshade exploits a security vulnerability in generative AI models, one arising from the fact that they are trained on vast amounts of data—in this case, images that have been hoovered from the internet. Nightshade messes with those images. Related Story This artist is dominating AI-generated art. And he’s not happy about it. Greg Rutkowski is a more popular prompt than Picasso. Artists who want to upload their work online but don’t want their images to be scraped by AI companies can upload them to Glaze and choose to mask it with an art style different from theirs. They can then also opt to use Nightshade. Once AI developers scrape the internet to get more data to tweak an existing AI model or build a new one, these poisoned samples make their way into the model’s data set and cause it to malfunction. Poisoned data samples can manipulate models into learning, for example, that images of hats are cakes, and images of handbags are toasters. The poisoned data is very difficult to remove, as it requires tech companies to painstakingly find and delete each corrupted sample. The researchers tested the attack on Stable Diffusion’s latest models and on an AI model they trained themselves from scratch. When they fed Stable Diffusion just 50 poisoned images of dogs and then prompted it to create images of dogs itself, the output started looking weird—creatures with too many limbs and cartoonish faces. With 300 poisoned samples, an attacker can manipulate Stable Diffusion to generate images of dogs to look like cats. Generative AI models are excellent at making connections between words, which helps the poison spread. Nightshade infects not only the word “dog” but all similar concepts, such as “puppy,” “husky,” and “wolf.” The poison attack also works on tangentially related images. For example, if the model scraped a poisoned image for the prompt “fantasy art,” the prompts “dragon” and “a castle in The Lord of the Rings” would similarly be manipulated into something else. Zhao admits there is a risk that people might abuse the data poisoning technique for malicious uses. However, he says attackers would need thousands of poisoned samples to inflict real damage on larger, more powerful models, as they are trained on billions of data samples. “We don’t yet know of robust defenses against these attacks. We haven’t yet seen poisoning attacks on modern [machine learning] models in the wild, but it could be just a matter of time,” says Vitaly Shmatikov, a professor at Cornell University who studies AI model security and was not involved in the research. “The time to work on defenses is now,” Shmatikov adds. Gautam Kamath, an assistant professor at the University of Waterloo who researches data privacy and robustness in AI models and wasn’t involved in the study, says the work is “fantastic.” The research shows that vulnerabilities “don’t magically go away for these new models, and in fact only become more serious,” Kamath says. “This is especially true as these models become more powerful and people place more trust in them, since the stakes only rise over time.” A powerful deterrent Junfeng Yang, a computer science professor at Columbia University, who has studied the security of deep-learning systems and wasn’t involved in the work, says Nightshade could have a big impact if it makes AI companies respect artists’ rights more—for example, by being more willing to pay out royalties. AI companies that have developed generative text-to-image models, such as Stability AI and OpenAI, have offered to let artists opt out of having their images used to train future versions of the models. But artists say this is not enough. Eva Toorenent, an illustrator and artist who has used Glaze, says opt-out policies require artists to jump through hoops and still leave tech companies with all the power. Toorenent hopes Nightshade will change the status quo. “It is going to make [AI companies] think twice, because they have the possibility of destroying their entire model by taking our work without our consent,” she says. Autumn Beverly, another artist, says tools like Nightshade and Glaze have given her the confidence to post her work online again. She previously removed it from the internet after discovering it had been scraped without her consent into the popular LAION image database. “I’m just really grateful that we have a tool that can help return the power back to the artists for their own work,” she says.

1 0