- nexa - server-nexa.polito.it

Malgieri e Pasquale, "Licensing high-risk artificial intelligence: Toward ex ante justification for a disruptive technology"

by J.C. DE MARTIN

*Licensing high-risk artificial intelligence: Toward ex ante justification for a disruptive technology * Gianclaudio Malgieri, Frank Pasquale https://doi.org/10.1016/j.clsr.2023.105899 /Under a Creative Commons license/ The regulation of artificial intelligence (AI) has heavily relied on ex post, reactive tools. This approach has proven inadequate, as numerous foreseeable problems arising out of commercial development and applications of AI have harmed vulnerable persons and communities, with few (and sometimes no) opportunities for recourse. Worse problems are highly likely in the future. By requiring quality control measures before AI is deployed, an ex ante approach would often mitigate and sometimes entirely prevent injuries that AI causes or contributes to. Licensing is an important tool of ex ante regulation, and should be applied in many high-risk domains of AI. Indeed, policymakers and even some leading AI developers and vendors are calling for licensure in the area. To substantiate licensing proposals, this article specifies optimal terms of licensure for AI necessary to justify its use. Given both documented and potential harms arising out of high-risk AI systems, licensing agencies should require firms to demonstrate that their AI meets clear requirements for security, non-discrimination, accuracy, appropriateness, and correctability before being deployed. Under this ex ante model of regulation, AI developers would bear the burden of proof to demonstrate that their technology is not discriminatory, not manipulative, not unfair, not inaccurate, and not illegitimate in its lawful bases and purposes. While the European Union's General Data Protection Regulation (GDPR) can provide key benchmarks here for ex post regulation, the proposed AI Act (AIA) offers a first regulatory attempt towards an ex ante licensure regime in high-risk areas, but it should be strengthened through an expansion of its scope and substantive content and through greater transparency of the ex ante justification process. https://www.sciencedirect.com/science/article/pii/S0267364923001097

Nov. 7, 2023

Re: [nexa] Quei robocani che si chiamano "lodicevoio..."

by Marco A. Calamari

On mar, 2023-11-07 at 07:32 +0100, M. Fioretti wrote: > On Mon, Nov 06, 2023 13:32:13 PM +0100, Marco A. Calamari wrote: > > On gio, 2022-02-03 at 06:51 +0100, M. Fioretti wrote: > > > > Sviluppi robotici assolutamente ovvi, forse il solo problema e' non > > averne > > parlato abbastanza allora: > > > > https://stop.zona-m.net/2022/02/police-robodogs-are-all-called-toldya/ > > > > > > Beh, proprio mai non direi , forse non nelle sedi istituzionali, che non > > saprei > > raggiungere, ma in pubblico ... > > Grazie! Non so perche' mi fossero sfuggiti all'epoca, ma ovviamente e' > bello vedere di non essere i soli a segnalare problemi. > > (ora pero'... non e' affatto importante, ma sono curioso di sapere > come mai la segnalazione e' arrivata solo adesso) Ciao Marco, intendersi sulle questioni è necessario; a quale segnalazione ti riferisci in particolare? L'articolo che hai citato è solo uno dei tanti usciti quando Boston Dynamics https://bostondynamics.com/ presentò il robocane general purpose Spot, subito prima di essere acquisita (vedi caso) da Hyundai https://bostondynamics.com/news/hyundai-motor-group-completes-acquisition-o… Gli articoli originali sono stati pochi; riportarli quasi integralmente senza commenti significativi è sempre stata la gran moda su questo tema. Forse intendi che pochi roboticisti frequentano questa lista? O che pochi in questa lista si rendono contro che un normale oggetto computerizzato, come un sistema d'arma, può essere trasformato in un robot assassino semplicemente (in sostanza) aggiornandogli il software? O che ci sono talmente tanti problemi di cui discutere che questo è passato in cavalleria? Ti chiedo queste cose nel più assoluto spirito collaborativo, per magari far partire un thread utile qui in lista. Ciao e grazie. Marco

Nov. 7, 2023

Re: [nexa] Quei robocani che si chiamano "lodicevoio..."

by M. Fioretti

On Mon, Nov 06, 2023 13:32:13 PM +0100, Marco A. Calamari wrote: > On gio, 2022-02-03 at 06:51 +0100, M. Fioretti wrote: > > Sviluppi robotici assolutamente ovvi, forse il solo problema e' non > averne > parlato abbastanza allora: > > https://stop.zona-m.net/2022/02/police-robodogs-are-all-called-toldya/ > > > Beh, proprio mai non direi , forse non nelle sedi istituzionali, che non saprei > raggiungere, ma in pubblico ... Grazie! Non so perche' mi fossero sfuggiti all'epoca, ma ovviamente e' bello vedere di non essere i soli a segnalare problemi. (ora pero'... non e' affatto importante, ma sono curioso di sapere come mai la segnalazione e' arrivata solo adesso) Marco -- https://mfioretti.substack.com

Nov. 7, 2023

Fwd: seminario Paolo Ciuccarelli @ OGR

by J.C. DE MARTIN

Ricevo e volentieri diffondo. jc DATE/VENUE ========== Wednesday *8th November*, *12.00 p.m.* OGR Tech,***Sala Mezzanino *Corso Castelfidardo 22, 10128 Torino SPEAKER ======== *Prof. Paolo Ciuccarelli*, Northeastern University (Boston, USA) and Politecnico di Milano TITLE ====== *Designing with Data, Data for Design * ABSTRACT ========= For an architect, and a designer, data could be seen as a new (!), very peculiar, material; one that opens up to new form-giving processes and outcomes, driven by its set of underlying technologies. A material that the design process itself may use to work (better) and produce through its operations, thus leading to a potential (needed?) reframing of design as a practice and as a discipline. The talk will delve into this reciprocal relationship: how can design optimize data-intensive processes to enhance their effectiveness and significance? In what ways can data and algorithms be leveraged to improve (?) the design process? Potential impact and consequences of this two-folded relationship will be discussed. SPEAKER ======== Architect and Communication Designer, Paolo Ciuccarelli joined Northeastern University in 2019 as founding director of the Center for Design and Professor of Design. At Politecnico he coordinated the Communication Design program (BSc and MSc), has been a member of the board at the PhD in Design and co-directs the DensityDesign Research Lab: an award-winning laboratory doing research on data visualization and information design he founded in 2010. Paolo’s research focuses on the design transformations that help make sense of data and information to improve decision making processes, especially with non-expert stakeholders and for controversial complex social issues. He also works in developing tools and methods to understand and orient the evolution of design as a discipline and a practice, in the frame of a meta-design approach and with a focus on emerging technologies, including AI. Paolo Ciuccarelli is author of best-paper awarded publications, lectured at Royal College of Arts, ENSCI Les Ateliers, Glasgow School of Arts, king’s College and Stanford Humanities Centre and has been invited to talk at conferences such as Eyeo, TEDx, Visualized, NetSci, Congreso Futuro. He's partner at The Visual Agency, Senior Affiliate at Harvard metaLAB and co-editor at Big Data & Society – SAGE Journals.

Nov. 6, 2023

Fidarsi o non fidarsi della IA che parla il linguaggio degli umani?

by de petra giulio

Scusandomi per le parole antropoformizzanti del titolo, segnalo tuttavia, in particolare per i nexiani di passaggio a Roma, un nuovo incontro organizzato dalla Scuola critica del digitale del CRS dal titolo * "Fidarsi o non fidarsi della IA generativa che parla il linguaggio degli umani?" * A parlarne sarà *Carlo Batini*. A questo indirizzo si può trovare la descrizione dei contenuti dell'incontro. https://centroriformastato.it/iniziativa/fidarsi-o-non-fidarsi-della-ia-gen… L'incontro si svolgerà a *Roma mercoledì 15 novembre in via della Dogana Vecchia 5 a partire dalle 17,30* Sarà possibile partecipare sia di persona che a distanza, collegandosi tramite il link: https://us02web.zoom.us/j/85468061334 A presto Giulio

Nov. 6, 2023

Re: [nexa] Quei robocani che si chiamano "lodicevoio..."

by Marco A. Calamari

On gio, 2022-02-03 at 06:51 +0100, M. Fioretti wrote: > Sviluppi robotici assolutamente ovvi, forse il solo problema e' non > averne > parlato abbastanza allora: > > https://stop.zona-m.net/2022/02/police-robodogs-are-all-called-toldya/ Beh, proprio mai non direi , forse non nelle sedi istituzionali, che non saprei raggiungere, ma in pubblico ... https://calamarim.medium.com/list/robot-assassini-bbf806c69639 e più precisamente https://medium.com/@calamarim/cassandra-crossing-e-spot-prese-il-fucile-f97… https://medium.com/@calamarim/cassandra-crossing-hanno-arruolato-metalhead-… riferendomi ovviamente al personaggio di Metalhead https://www.youtube.com/watch?v=ESygzqK-7CY Buona giornata a tutti. Marco

Nov. 6, 2023

MEMENTO | 166° Mercoledì di Nexa | 8 novembre 2023, ore 17.00

by Valeria Bergantino

Gentilissime, gentilissimi, Vi ricordiamo che *mercoledì 8 novembre*, alle ore 17.00, si terrà il *166° Mercoledì di Nexa* con un incontro dal titolo /*"Etica del digitale ed euristiche mentali"*/. Ospite dell'incontro: *Guglielmo Tamburrini* (Università di Napoli Federico II)/*.*/ _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA_ dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono *Portineria* e di seguire le indicazioni segnalate lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE_ dell'incontro: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina: https://nexa.polito.it/mercoledi-166 Cordiali saluti, -- Valeria Bergantino Communication Officer Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ <https://nexa.polito.it/> mail: valeria.bergantino(a)polito.it <mailto:valeria.bergantino@polito.it> tel: 3473443585

Nov. 6, 2023

Re: [nexa] How zero-knowledge technology can enhance digital public infrastructure

by Andrea Barontini

Si conosco Algorand, pero' non ho capito quale parte del consenso usa ZK... forse la leader election? Perche' il meccanismo di raggiungimento del quorum (che pero' ammetto di avere solo intravvisto) mi ricorda molto il processo a due stadi di Tendermint, quindi non particolarmente legato alle zero knowledge proofs. Il 05/11/23 22:34, Roberto Dolci ha scritto: > Qui a Boston abbiamo Silvio Micali (https://www.researchgate.net/scientific-contributions/Silvio-Micali-6905130) che sul zero proof ci ha investito molto e pure fatto un azienda rispettabile, Algorand. > > La sua idea e' di usare un meccanismo Pure Proof of Stake, che significa una firma con proprietà non interattive a conoscenza zero. Il comitato di proposta del blocco è composto da detentori di gettoni Algo selezionati casualmente, la cui probabilità di selezione è ponderata dai loro saldi del portafoglio. > > Questo https://algorand.com/technology/faq/ definisce nel merito. Algorand ovviamente ha aperto anche in Italia, Roma e Milano credo. > > Ciao > Rob > > > -----Original Message----- > From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Andrea Barontini via nexa > Sent: Sunday, November 5, 2023 3:12 PM > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] How zero-knowledge technology can enhance digital public infrastructure > > Caution! This message was sent from outside your organization. > > Confesso di essere sempre un po' in imbarazzo a parlare di Zero Knowledge Proofs "in generale", e ancor di piu' quando se ne pontificano le ricadute negli ambiti piu' disparati senza entrare nel merito. > Ovviamente c'e' sede e sede per parlare della cosa a vari livelli, ma quello che voglio dire e' che o ci si va a guardare dentro nello specifico o certe affermazioni che buttano nel discorso senza circostanziare le parole "Zero-Knowledge" (che per altro mi potrebbero anche trovare d'accordo in linea di principio) imho hanno lo stesso valore di una campagna di marketing. Anche perche' la terminologia e' > parecchio abusata. > > Non mi e' chiaro se e' appropriato nel contesto di questo thread, cmq se puo' essere utile per dirla brutalmente le ZKP sono protocolli di interazione tra parti, in cui una parte dimostra all'altra qualcosa evitando di rilevare qualsiasi altra informazione che non sia la verita' > dello statement dimostrato. Si possono vedere come una generalizzazione di una dimostrazione matematica "classica" (quelle che dimostrano i teoremi tanto per fare un esempio) in cui: > 1) non c'e' una parte che dimostra attivamente (il libro) e una parte che recepisce passivamente (il lettore) ma un'interazione delle parti che sono entrambe soggetti "attivi" (pur conservando i due ruoli distinti di chi dimostra e di chi recepisce) > 2) sono dimostrazioni probabilistiche, nel senso che conservano una probabilita' non nulla -seppur tipicamente riducibile a piacere- di convincere il recettore di qualcosa di falso. > > Un testo fondamentale per le basi di questi argomenti e' Foundations of Cryptography - Volume 1 di Oded Goldreich [1]. Da allora le ZKP si sono evolute molto, e anzi quello a cui tipicamente si pensa oggi quando si parla di ZK e' qualcosa di molto piu' evoluto. Una risorsa estremamente attuale (anche se il settore e' in continuo fermento spinto dagli usi nelle blockchain) e' lo Zero-Knowledge-Proof MOOC [2]. > Non ha invece nessun merito (se non il fatto di essere molto compatta) l'infografica che ho fatto un po' di tempo fa, che introduce un po' di questioni e include diverse fonti bibliografiche di indubbia utilita' > per studiare l'argomento [3]. > > Invece mi interesserebbe sapere qual e' l'azienda biometrica di cui si parlava, e se fa qualcosa tipo Worldcoin in termini di meccanismo anti-sybil (Worldcoin e' piuttosto discussa, ma da quel punto di vista ha ricevuto da Matthew Green parole molto piu' positive di quello che ci si sarebbe potuto aspettare [4]) > > > [1] https://eu-west-1.protection.sophos.com?d=weizmann.ac.il&u=aHR0cHM6Ly93d3cu… > [2] https://eu-west-1.protection.sophos.com?d=zk-learning.org&u=aHR0cHM6Ly96ay1… > [3] https://eu-west-1.protection.sophos.com?d=github.com&u=aHR0cHM6Ly9naXRodWIu… > [4] > https://eu-west-1.protection.sophos.com?d=cryptographyengineering.com&u=aHR… > > > Il 05/11/23 21:24, Stefano Quintarelli ha scritto: >> ZKP sono molto importanti nell'evoluzione della gestione delle identita' digitali. >> >> c'e' una azienda fondata da crittografi italiani che e' leader nell'autenticazione >> biometrica senza trattamento di dati personali grazie a zkp. >> >> ciao, s. >> >> On 05/11/23 20:16, Enrico Nardelli wrote: >>> https://eu-west-1.protection.sophos.com?d=weforum.org&u=aHR0cHM6Ly93d3cud2V… >>> >>> ... >>> >>> What is digital public infrastructure? >>> ... >>> The growing consensus is that it is a shared set of digital systems, based on open source >>> technology standards that enable governance and innovative players across both the public >>> and private spheres. Importantly, it helps deliver innovations at scale. Thao Hong, a >>> programme officer for the Bill & Melinda Gates Foundation, adds that “strong digital >>> public infrastructure” typically includes digital infrastructure in three crucial areas: >>> identity, payments and data exchange. >>> >>> ... >>> >>> Ah, ovviamente il tutto viene fatto nell'interesse dei bambini... >>> >>> https://eu-west-1.protection.sophos.com?d=weforum.org&u=aHR0cHM6Ly93d3cud2V… >>> >>> Ciao, Enrico >>> >>> -- >>> >>> -- EN >>> >>> https://eu-west-1.protection.sophos.com?d=hoepli.it&u=aHR0cHM6Ly93d3cuaG9lc… >>> ====================================================== >>> Prof. Enrico Nardelli >>> Presidente di "Informatics Europe" >>> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >>> Dipartimento di Matematica - Università di Roma "Tor Vergata" >>> Via della Ricerca Scientifica snc - 00133 Roma >>> home page: https://eu-west-1.protection.sophos.com?d=uniroma2.it&u=aHR0cHM6Ly93d3cubWF… >>> blog: https://eu-west-1.protection.sophos.com?d=link-and-think.blogspot.it&u=aHR0… >>> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >>> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >>> online meeting: https://eu-west-1.protection.sophos.com?d=garr.it&u=aHR0cHM6Ly9ibHVlLm1lZXQ… >>> ====================================================== >>> >>> >>> -- >>> >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://eu-west-1.protection.sophos.com?d=polito.it&u=aHR0cHM6Ly9zZXJ2ZXItb… >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://eu-west-1.protection.sophos.com?d=polito.it&u=aHR0cHM6Ly9zZXJ2ZXItb… > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://eu-west-1.protection.sophos.com?d=polito.it&u=aHR0cHM6Ly9zZXJ2ZXItb…

Nov. 5, 2023

Re: [nexa] How zero-knowledge technology can enhance digital public infrastructure

by Roberto Dolci

Qui a Boston abbiamo Silvio Micali (https://www.researchgate.net/scientific-contributions/Silvio-Micali-6905130) che sul zero proof ci ha investito molto e pure fatto un azienda rispettabile, Algorand. La sua idea e' di usare un meccanismo Pure Proof of Stake, che significa una firma con proprietà non interattive a conoscenza zero. Il comitato di proposta del blocco è composto da detentori di gettoni Algo selezionati casualmente, la cui probabilità di selezione è ponderata dai loro saldi del portafoglio. Questo https://algorand.com/technology/faq/ definisce nel merito. Algorand ovviamente ha aperto anche in Italia, Roma e Milano credo. Ciao Rob -----Original Message----- From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Andrea Barontini via nexa Sent: Sunday, November 5, 2023 3:12 PM To: nexa(a)server-nexa.polito.it Subject: Re: [nexa] How zero-knowledge technology can enhance digital public infrastructure Caution! This message was sent from outside your organization. Confesso di essere sempre un po' in imbarazzo a parlare di Zero Knowledge Proofs "in generale", e ancor di piu' quando se ne pontificano le ricadute negli ambiti piu' disparati senza entrare nel merito. Ovviamente c'e' sede e sede per parlare della cosa a vari livelli, ma quello che voglio dire e' che o ci si va a guardare dentro nello specifico o certe affermazioni che buttano nel discorso senza circostanziare le parole "Zero-Knowledge" (che per altro mi potrebbero anche trovare d'accordo in linea di principio) imho hanno lo stesso valore di una campagna di marketing. Anche perche' la terminologia e' parecchio abusata. Non mi e' chiaro se e' appropriato nel contesto di questo thread, cmq se puo' essere utile per dirla brutalmente le ZKP sono protocolli di interazione tra parti, in cui una parte dimostra all'altra qualcosa evitando di rilevare qualsiasi altra informazione che non sia la verita' dello statement dimostrato. Si possono vedere come una generalizzazione di una dimostrazione matematica "classica" (quelle che dimostrano i teoremi tanto per fare un esempio) in cui: 1) non c'e' una parte che dimostra attivamente (il libro) e una parte che recepisce passivamente (il lettore) ma un'interazione delle parti che sono entrambe soggetti "attivi" (pur conservando i due ruoli distinti di chi dimostra e di chi recepisce) 2) sono dimostrazioni probabilistiche, nel senso che conservano una probabilita' non nulla -seppur tipicamente riducibile a piacere- di convincere il recettore di qualcosa di falso. Un testo fondamentale per le basi di questi argomenti e' Foundations of Cryptography - Volume 1 di Oded Goldreich [1]. Da allora le ZKP si sono evolute molto, e anzi quello a cui tipicamente si pensa oggi quando si parla di ZK e' qualcosa di molto piu' evoluto. Una risorsa estremamente attuale (anche se il settore e' in continuo fermento spinto dagli usi nelle blockchain) e' lo Zero-Knowledge-Proof MOOC [2]. Non ha invece nessun merito (se non il fatto di essere molto compatta) l'infografica che ho fatto un po' di tempo fa, che introduce un po' di questioni e include diverse fonti bibliografiche di indubbia utilita' per studiare l'argomento [3]. Invece mi interesserebbe sapere qual e' l'azienda biometrica di cui si parlava, e se fa qualcosa tipo Worldcoin in termini di meccanismo anti-sybil (Worldcoin e' piuttosto discussa, ma da quel punto di vista ha ricevuto da Matthew Green parole molto piu' positive di quello che ci si sarebbe potuto aspettare [4]) [1] https://eu-west-1.protection.sophos.com?d=weizmann.ac.il&u=aHR0cHM6Ly93d3cu… [2] https://eu-west-1.protection.sophos.com?d=zk-learning.org&u=aHR0cHM6Ly96ay1… [3] https://eu-west-1.protection.sophos.com?d=github.com&u=aHR0cHM6Ly9naXRodWIu… [4] https://eu-west-1.protection.sophos.com?d=cryptographyengineering.com&u=aHR… Il 05/11/23 21:24, Stefano Quintarelli ha scritto: > ZKP sono molto importanti nell'evoluzione della gestione delle identita' digitali. > > c'e' una azienda fondata da crittografi italiani che e' leader nell'autenticazione > biometrica senza trattamento di dati personali grazie a zkp. > > ciao, s. > > On 05/11/23 20:16, Enrico Nardelli wrote: >> https://eu-west-1.protection.sophos.com?d=weforum.org&u=aHR0cHM6Ly93d3cud2V… >> >> ... >> >> What is digital public infrastructure? >> ... >> The growing consensus is that it is a shared set of digital systems, based on open source >> technology standards that enable governance and innovative players across both the public >> and private spheres. Importantly, it helps deliver innovations at scale. Thao Hong, a >> programme officer for the Bill & Melinda Gates Foundation, adds that “strong digital >> public infrastructure” typically includes digital infrastructure in three crucial areas: >> identity, payments and data exchange. >> >> ... >> >> Ah, ovviamente il tutto viene fatto nell'interesse dei bambini... >> >> https://eu-west-1.protection.sophos.com?d=weforum.org&u=aHR0cHM6Ly93d3cud2V… >> >> Ciao, Enrico >> >> -- >> >> -- EN >> >> https://eu-west-1.protection.sophos.com?d=hoepli.it&u=aHR0cHM6Ly93d3cuaG9lc… >> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://eu-west-1.protection.sophos.com?d=uniroma2.it&u=aHR0cHM6Ly93d3cubWF… >> blog: https://eu-west-1.protection.sophos.com?d=link-and-think.blogspot.it&u=aHR0… >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >> online meeting: https://eu-west-1.protection.sophos.com?d=garr.it&u=aHR0cHM6Ly9ibHVlLm1lZXQ… >> ====================================================== >> >> >> -- >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://eu-west-1.protection.sophos.com?d=polito.it&u=aHR0cHM6Ly9zZXJ2ZXItb… > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://eu-west-1.protection.sophos.com?d=polito.it&u=aHR0cHM6Ly9zZXJ2ZXItb… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://eu-west-1.protection.sophos.com?d=polito.it&u=aHR0cHM6Ly9zZXJ2ZXItb…

Nov. 5, 2023

Re: [nexa] How zero-knowledge technology can enhance digital public infrastructure

by Andrea Barontini

Confesso di essere sempre un po' in imbarazzo a parlare di Zero Knowledge Proofs "in generale", e ancor di piu' quando se ne pontificano le ricadute negli ambiti piu' disparati senza entrare nel merito. Ovviamente c'e' sede e sede per parlare della cosa a vari livelli, ma quello che voglio dire e' che o ci si va a guardare dentro nello specifico o certe affermazioni che buttano nel discorso senza circostanziare le parole "Zero-Knowledge" (che per altro mi potrebbero anche trovare d'accordo in linea di principio) imho hanno lo stesso valore di una campagna di marketing. Anche perche' la terminologia e' parecchio abusata. Non mi e' chiaro se e' appropriato nel contesto di questo thread, cmq se puo' essere utile per dirla brutalmente le ZKP sono protocolli di interazione tra parti, in cui una parte dimostra all'altra qualcosa evitando di rilevare qualsiasi altra informazione che non sia la verita' dello statement dimostrato. Si possono vedere come una generalizzazione di una dimostrazione matematica "classica" (quelle che dimostrano i teoremi tanto per fare un esempio) in cui: 1) non c'e' una parte che dimostra attivamente (il libro) e una parte che recepisce passivamente (il lettore) ma un'interazione delle parti che sono entrambe soggetti "attivi" (pur conservando i due ruoli distinti di chi dimostra e di chi recepisce) 2) sono dimostrazioni probabilistiche, nel senso che conservano una probabilita' non nulla -seppur tipicamente riducibile a piacere- di convincere il recettore di qualcosa di falso. Un testo fondamentale per le basi di questi argomenti e' Foundations of Cryptography - Volume 1 di Oded Goldreich [1]. Da allora le ZKP si sono evolute molto, e anzi quello a cui tipicamente si pensa oggi quando si parla di ZK e' qualcosa di molto piu' evoluto. Una risorsa estremamente attuale (anche se il settore e' in continuo fermento spinto dagli usi nelle blockchain) e' lo Zero-Knowledge-Proof MOOC [2]. Non ha invece nessun merito (se non il fatto di essere molto compatta) l'infografica che ho fatto un po' di tempo fa, che introduce un po' di questioni e include diverse fonti bibliografiche di indubbia utilita' per studiare l'argomento [3]. Invece mi interesserebbe sapere qual e' l'azienda biometrica di cui si parlava, e se fa qualcosa tipo Worldcoin in termini di meccanismo anti-sybil (Worldcoin e' piuttosto discussa, ma da quel punto di vista ha ricevuto da Matthew Green parole molto piu' positive di quello che ci si sarebbe potuto aspettare [4]) [1] https://www.wisdom.weizmann.ac.il/~oded/foc.html [2] https://zk-learning.org [3] https://github.com/baro77/ZKbasicsCS [4] https://blog.cryptographyengineering.com/2023/08/21/some-rough-impressions-… Il 05/11/23 21:24, Stefano Quintarelli ha scritto: > ZKP sono molto importanti nell'evoluzione della gestione delle identita' digitali. > > c'e' una azienda fondata da crittografi italiani che e' leader nell'autenticazione > biometrica senza trattamento di dati personali grazie a zkp. > > ciao, s. > > On 05/11/23 20:16, Enrico Nardelli wrote: >> https://www.weforum.org/agenda/2023/09/zero-knowledge-technology-digital-pu… >> >> ... >> >> What is digital public infrastructure? >> ... >> The growing consensus is that it is a shared set of digital systems, based on open source >> technology standards that enable governance and innovative players across both the public >> and private spheres. Importantly, it helps deliver innovations at scale. Thao Hong, a >> programme officer for the Bill & Melinda Gates Foundation, adds that “strong digital >> public infrastructure” typically includes digital infrastructure in three crucial areas: >> identity, payments and data exchange. >> >> ... >> >> Ah, ovviamente il tutto viene fatto nell'interesse dei bambini... >> >> https://www.weforum.org/agenda/2023/09/how-digital-public-infrastructure-ca… >> >> Ciao, Enrico >> >> -- >> >> -- EN >> >> https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html >> ====================================================== >> Prof. Enrico Nardelli >> Presidente di "Informatics Europe" >> Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI >> Dipartimento di Matematica - Università di Roma "Tor Vergata" >> Via della Ricerca Scientifica snc - 00133 Roma >> home page: https://www.mat.uniroma2.it/~nardelli >> blog: https://link-and-think.blogspot.it/ >> tel: +39 06 7259.4204 fax: +39 06 7259.4699 >> mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it >> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont >> ====================================================== >> >> >> -- >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Nov. 5, 2023