April 2020 - nexa - server-nexa.polito.it

Israel suspends cellphone-tracking for coronavirus quarantine enforcement - Reuters

by Alberto Cammozzo

<https://www.reuters.com/article/us-health-coronavirus-israel-police-idUSKCN…> JERUSALEM (Reuters) - An Israeli parliamentary oversight committee on Wednesday suspended police use of cellphone data to enforce coronavirus quarantines, with one lawmaker citing privacy concerns. Prime Minister Benjamin Netanyahu’s government last month empowered the police to requisition cellphone roaming data on those ordered to self-isolate as suspected or confirmed coronavirus carriers, to confirm that they were not straying. The measure, and a parallel decision to use counter-terrorist technology developed by the Shin Bet security agency to map out carriers’ movements and infection patterns, prompted Supreme Court challenges by civil liberties groups. Having invoked emergency coronavirus regulations to expand police access to cellphone data for a month, the government pledged that any extension would require parliamentary approval. But, with the initial month due to expire on Wednesday, the Knesset Foreign Affairs and Defence Committee voted to block an extension bill filed by the government. “The utility offered by this (cellphone tracking) is outweighed by the great harm inflicted to privacy,” committee member Ayelet Shaked said on Twitter, arguing that police could make do with visits to quarantine homes. []

April 25, 2020

Re: [nexa] Come la Corea ha appiattito la curva

by Enrico Nardelli

Grazie Diego. Il punto è che si tratta di una cultura diversa in cui è considerato normale farsi sorvegliare dallo Stato, per cui l'app di tracciamento digitale è superflua. Usano (sulla base di una normativa introdotta nel 2015) tutte le tracce digitali disponibili (carte di credito, telecamere di sorveglianza, dati delle celle, ...) per verificare gli spostamenti delle persone e assicurarsi che coloro che sono infetti rispettino la quarante. Con le conseguenze sociali di cui qualche giorno fa ha scritto anche il Wall Street Journal (ne ho parlato qua https://link-and-think.blogspot.com/2020/04/la-lotta-per-la-privacy-e-lotta…) Basta leggere, per esempio, a p.30 del rapporto che hai linkati la descrizione dell'approccio "spintaneo" per chi entra nel Paese. Devi installare l'app di autodiagnosi all'ingresso nel paese (il governo ha tutti i dati dalle compagnie aeree e dalla dogana), ma se poi non l'usi per riportare giornalmente il tuo stato di salute, il primo e secondo giorno ti mandano un SMS, il terzo giorno ti chiamano, il quarto ti vengono a prendere... :-) Ciao, Enrico Il 24/04/2020 13:06, Diego Giorio ha scritto: > Segnalo questo report, prodotto da una Nazione che è stata additata come esempio per la gestione dell'emergenza anche grazie a strumenti tecnologici. Non ho ancora finito i leggerlo, ma, così a occhio, lo spazio dedicato alla app di tracciamento, peraltro molto invasiva in quel Paese, mi sembra molto prossimo allo zero, se non mi è sfuggito qualcosa. > > https://www.mss.go.kr/openEvent/Flattening_the_curve_on_COVID-19.jsp > > Con l'occasione, buon we a tutti > > D. > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

April 25, 2020

Fwd: Re: Editoriale su Le Monde

by Roberto Resoli

-------- Messaggio originale -------- Da: Roberto Resoli <roberto(a)resolutions.it> Inviato il: 25 aprile 2020 12:12:36 CEST A: Antonio Casilli <antonio.casilli(a)telecom-paris.fr> Oggetto: Re: [nexa] Editoriale su Le Monde Il 25 aprile 2020 11:54:47 CEST, Antonio Casilli <antonio.casilli(a)telecom-paris.fr> ha scritto: >grazie, non ho avuto modo di rileggerla: è fatta in automatico? La base è deepl, riveduta da me. Se dai un controllo tu, è meglio ;-) >Traduzione: > >https://pad.riseup.net/p/q2LZxo1DNNWNM30x2diG rob

April 25, 2020

Re: [nexa] Editoriale su Le Monde

by Antonio Casilli

grazie, non ho avuto modo di rileggerla: è fatta in automatico? ----- Mail original ----- De: "Roberto Resoli" <roberto(a)resolutions.it> À: "nexa" <nexa(a)server-nexa.polito.it> Envoyé: Samedi 25 Avril 2020 11:47:16 Objet: Re: [nexa] Editoriale su Le Monde Il 25 aprile 2020 10:49:59 CEST, Enrico Nardelli <nardelli(a)mat.uniroma2.it> ha scritto: ... >Vi ho chiesto su Twitter di fornire almeno una sintesi dell'articolo >non "paywalled". Sarebbe davvero importante Traduzione: https://pad.riseup.net/p/q2LZxo1DNNWNM30x2diG rob _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 25, 2020

Re: [nexa] Editoriale su Le Monde

by Roberto Resoli

Il 25 aprile 2020 10:49:59 CEST, Enrico Nardelli <nardelli(a)mat.uniroma2.it> ha scritto: ... >Vi ho chiesto su Twitter di fornire almeno una sintesi dell'articolo >non "paywalled". Sarebbe davvero importante Traduzione: https://pad.riseup.net/p/q2LZxo1DNNWNM30x2diG rob

April 25, 2020

Re: [nexa] Editoriale su Le Monde

by Antonio Casilli

qui c'è una persona che l'ha live-tweettato https://twitter.com/RomDewaele/status/1253897604632641538 ----- Mail original ----- De: "Enrico Nardelli" <nardelli(a)mat.uniroma2.it> À: "Antonio Casilli" <antonio.casilli(a)telecom-paris.fr>, "nexa" <nexa(a)server-nexa.polito.it> Envoyé: Samedi 25 Avril 2020 10:49:59 Objet: Re: [nexa] Editoriale su Le Monde Ottimo! Il concetto di apprendisti stregoni è centratissimo. Il non rendersi conto degli impatti sociali delle soluzioni digitale è sempre più diffuso di quanto uno possa pensare. Vi ho chiesto su Twitter di fornire almeno una sintesi dell'articolo non "paywalled". Sarebbe davvero importante. Ciao, Enrico Il 25/04/2020 10:17, Antonio Casilli ha scritto: > Oggi su Le Monde co-firmo un editoriale con Jean-Baptiste Soufron, ex-segretario del Consiglio Nazionale del Digitale francese, e Paul-Olivier Dehaye, il matematico alla base dello scandalo Cambridge Analytica. Il tema, ve lo immaginate, è StopCovid, versione francese di Immuni. > Il titolo che avevamo proposto era semplicemente "Stop Covid Analytica". > Ma anche quello aggiunto dal giornale è bello tosto. > > > > « StopCovid est un projet désastreux piloté par des apprentis sorciers » > https://www.lemonde.fr/idees/article/2020/04/25/stopcovid-est-un-projet-des… > > Antonio Casilli, Paul-Olivier Dehaye et Jean-Baptiste Soufron > > --- Il faut renoncer à la mise en place d’un outil de surveillance enregistrant toutes nos interactions humaines et sur lequel pèse l’ombre d’intérêts privés et politiques, à l’instar du scandale Cambridge Analytica, plaide un collectif de spécialistes du numérique dans une tribune au « Monde ». > > Tribune. Le mardi 28 avril, les parlementaires français seront amenés à voter sur StopCovid, l’application mobile de traçage des individus imposée par l’exécutif. Nous souhaitons que, par leur vote, ils convainquent ce dernier de renoncer à cette idée tant qu’il est encore temps. Non pas de l’améliorer, mais d’y renoncer tout court. En fait, même si toutes les garanties légales et techniques étaient mises en place (anonymisation des données, open source, technologies Bluetooth, consentement des utilisateurs, protocole décentralisé, etc.), StopCovid serait exposée au plus grand des dangers : celui de se transformer sous peu en « StopCovid Analytica », une nouvelle version du scandale Cambridge Analytica [siphonnage des données privées de dizaines de millions de comptes Facebook]. > > L’application StopCovid a été imaginée comme un outil pour permettre de sortir la population française de la situation de restriction des libertés publiques provoquée par le Covid-19. En réalité, cette « solution » technologique ne serait qu’une continuation du confinement par d’autres moyens. Si, avec ce dernier, nous avons fait l’expérience d’une assignation à résidence collective, les applications mobiles de surveillance risquent de banaliser le port du bracelet électronique. > > Tous les citoyens, malades ou non > > Le terme n’est pas exagéré : c’est déjà le cas à Hong-Kong, qui impose un capteur au poignet des personnes en quarantaine, et c’est l’objet de tests en Corée du Sud et au Liechtenstein pour certaines catégories de citoyens à risque. StopCovid, elle, a vocation à être installée dans les smartphones, mais elle concerne tous les citoyens, malades ou non. Malgré le fait que son installation soit présentée comme facultative dans d’autres pays, tels l’Italie, on assiste à la transformation de cette démarche volontaire en obligation. > > L’affaire Cambridge Analytica, révélée au grand jour en 2018, avait comme point de départ les travaux de chercheurs de l’université anglaise. Une application appelée « Thisisyourdigitallife », présentée comme un simple quiz psychologique, avait d’abord été proposée à des utilisateurs de la plate-forme de microtravail Amazon Mechanical Turk. Ensuite, ces derniers avaient été amenés à donner accès au profil Facebook de tous leurs contacts. C’était, en quelque sorte, du traçage numérique des contacts avant la lettre. > > A aucun moment ces sujets n’avaient consenti à la réutilisation de leurs informations dans le cadre de la campagne du Brexit ou dans l’élection présidentielle de Donald Trump. Cela est arrivé ensuite, lorsque les chercheurs ont voulu monétiser les données, initialement collectées dans un but théoriquement désintéressé, par le biais de l’entreprise Cambridge Analytica. En principe, cette démarche respectait les lois des différents pays et les règles de ces grandes plates-formes. Néanmoins, de puissants algorithmes ont été mis au service des intérêts personnels et de la soif de pouvoir d’hommes politiques sans scrupule. > > Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données > > Les mêmes ingrédients sont réunis ici : des scientifiques « de bonne volonté », des géants de la « tech », des intérêts politiques. Dans le cas de StopCovid, c’est le consortium universitaire européen Pan-European Privacy Preserving Proximity Tracing (PEPP-PT), qui a vu le jour à la suite de la pandémie. Ces scientifiques se sont attelés à la tâche de concevoir dans l’urgence le capteur de contacts le plus puissant, dans le respect des lois. Cela s’articule avec les intérêts économiques d’acteurs privés, tels les grands groupes industriels nationaux, le secteur automobile et les banques en Italie, les télécoms et les professionnels de l’hébergement informatique en France. Mais surtout les GAFA, les géants américains du numérique, se sont emparés du sujet. > > Cette fois, ce ne sont pas Facebook et Amazon, mais Google et Apple, qui ont tout de suite proposé de fournir une nouvelle structure pour diffuser les applications de suivi de contacts sur leurs plates-formes. La menace qui plane au-delà de tous ces acteurs vient des ambitions de certains milieux politiques européens d’afficher leur détermination dans la lutte contre le Covid19, en se targuant d’une solution technique à grande échelle, utilisant les données personnelles pour la « campagne du déconfinement ». > > Une myopie sur les dimensions sociales des données > > Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données. L’exécutif français ne s’autorise pas à réfléchir à la phase qui suit la collecte, c’est-à-dire au traitement qui sera fait de ces informations sensibles. Quels algorithmes les analyseront ? Avec quelles autres données seront-elles croisées sur le moyen et le court terme ? Son court-termisme s’accompagne d’une myopie sur les dimensions sociales des données. > > Que se passerait-il si, comme plusieurs scientifiques de l’Inria, du CNRS et d’Informatics Europe s’époumonent à nous le dire, malgré une collecte initiale de données réduite au minimum, des entreprises ou des puissances étrangères décidaient de créer des « applications parasites » qui, comme Cambridge Analytica, croiseraient les données anonymisées de StopCovid avec d’autres bases de données nominatives ? Que se passerait-il, par exemple, si une plate-forme de livraison à domicile décidait (cela s’est passé récemment en Chine) de donner des informations en temps réel sur la santé de ses coursiers ? Comment pourrait-on empêcher un employeur ou un donneur d’ordres de profiter dans le futur des données sur l’état de santé et les habitudes sociales des travailleurs ? > > L’affaire Cambridge Analytica nous a permis de comprendre que les jeux de pouvoir violents et partisans autour de la maîtrise de nos données personnelles ont des conséquences directes sur l’ensemble de la vie réelle. Il ne s’agit pas d’une lubie abstraite. Le cas de StopCovid est tout aussi marquant. En focalisant des ressources, l’attention du public et celle des parlementaires sur une solution technique probablement inefficace, le gouvernement nous détourne des urgences les plus criantes : la pénurie de masques, de tests et de médicaments, ou les inégalités d’exposition au risque d’infection. > > Une malheureuse diversion > > Cette malheureuse diversion n’aurait pas lieu si le gouvernement n’imposait pas ses stratégies numériques, verticalement, n’étant plus guidé que par l’urgence de faire semblant d’agir. Face à ces enjeux, il faudrait au contraire impliquer activement et à parts égales les citoyens, les institutions, les organisations et les territoires pour repenser notre rapport à la technologie. Le modèle de gouvernance qui accompagnera StopCovid sera manifestement centré dans les mains d’une poignée d’acteurs étatiques et marchands. Une telle verticalité n’offre aucune garantie contre l’évolution rapide de l’application en un outil coercitif, imposé à tout le monde. > > Ce dispositif entraînerait un recul fondamental en matière de libertés, à la fois symbolique et concret : tant sur la liberté de déplacement, notamment entre les pays qui refuseraient d’avoir des systèmes de traçage ou qui prendront ce prétexte pour renforcer leur forteresse, que sur la liberté de travailler, de se réunir ou sur la vie privée. Les pouvoirs publics, les entreprises et les chercheurs qui dans le courant des dernières semaines sont allés de l’avant avec cette proposition désastreuse, ressemblent à des apprentis sorciers qui manient des outils dont la puissance destructrice leur échappe. Et, comme dans le poème de Goethe, quand l’apprenti sorcier n’arrive plus à retenir les forces qu’il a invoquées, il finit par implorer une figure d’autorité, une puissance supérieure qui remette de l’ordre. Sauf que, comme le poète nous l’apprend, ce « maître habile » ne reprend ces outils « que pour les faire servir à ses desseins ». > > Antonio Casilli, sociologue. > > Paul-Olivier Dehaye, mathématicien. > > Jean-Baptiste Soufron, avocat. > > Cosignataires : Sophie Binet et Marie-José Kotlicki cosecrétaires généraux de l’UGICT-CGT ; Raquel Radaut, membre de La Quadrature du Net. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

April 25, 2020

Re: [nexa] Editoriale su Le Monde

by Enrico Nardelli

Ottimo! Il concetto di apprendisti stregoni è centratissimo. Il non rendersi conto degli impatti sociali delle soluzioni digitale è sempre più diffuso di quanto uno possa pensare. Vi ho chiesto su Twitter di fornire almeno una sintesi dell'articolo non "paywalled". Sarebbe davvero importante. Ciao, Enrico Il 25/04/2020 10:17, Antonio Casilli ha scritto: > Oggi su Le Monde co-firmo un editoriale con Jean-Baptiste Soufron, ex-segretario del Consiglio Nazionale del Digitale francese, e Paul-Olivier Dehaye, il matematico alla base dello scandalo Cambridge Analytica. Il tema, ve lo immaginate, è StopCovid, versione francese di Immuni. > Il titolo che avevamo proposto era semplicemente "Stop Covid Analytica". > Ma anche quello aggiunto dal giornale è bello tosto. > > > > « StopCovid est un projet désastreux piloté par des apprentis sorciers » > https://www.lemonde.fr/idees/article/2020/04/25/stopcovid-est-un-projet-des… > > Antonio Casilli, Paul-Olivier Dehaye et Jean-Baptiste Soufron > > --- Il faut renoncer à la mise en place d’un outil de surveillance enregistrant toutes nos interactions humaines et sur lequel pèse l’ombre d’intérêts privés et politiques, à l’instar du scandale Cambridge Analytica, plaide un collectif de spécialistes du numérique dans une tribune au « Monde ». > > Tribune. Le mardi 28 avril, les parlementaires français seront amenés à voter sur StopCovid, l’application mobile de traçage des individus imposée par l’exécutif. Nous souhaitons que, par leur vote, ils convainquent ce dernier de renoncer à cette idée tant qu’il est encore temps. Non pas de l’améliorer, mais d’y renoncer tout court. En fait, même si toutes les garanties légales et techniques étaient mises en place (anonymisation des données, open source, technologies Bluetooth, consentement des utilisateurs, protocole décentralisé, etc.), StopCovid serait exposée au plus grand des dangers : celui de se transformer sous peu en « StopCovid Analytica », une nouvelle version du scandale Cambridge Analytica [siphonnage des données privées de dizaines de millions de comptes Facebook]. > > L’application StopCovid a été imaginée comme un outil pour permettre de sortir la population française de la situation de restriction des libertés publiques provoquée par le Covid-19. En réalité, cette « solution » technologique ne serait qu’une continuation du confinement par d’autres moyens. Si, avec ce dernier, nous avons fait l’expérience d’une assignation à résidence collective, les applications mobiles de surveillance risquent de banaliser le port du bracelet électronique. > > Tous les citoyens, malades ou non > > Le terme n’est pas exagéré : c’est déjà le cas à Hong-Kong, qui impose un capteur au poignet des personnes en quarantaine, et c’est l’objet de tests en Corée du Sud et au Liechtenstein pour certaines catégories de citoyens à risque. StopCovid, elle, a vocation à être installée dans les smartphones, mais elle concerne tous les citoyens, malades ou non. Malgré le fait que son installation soit présentée comme facultative dans d’autres pays, tels l’Italie, on assiste à la transformation de cette démarche volontaire en obligation. > > L’affaire Cambridge Analytica, révélée au grand jour en 2018, avait comme point de départ les travaux de chercheurs de l’université anglaise. Une application appelée « Thisisyourdigitallife », présentée comme un simple quiz psychologique, avait d’abord été proposée à des utilisateurs de la plate-forme de microtravail Amazon Mechanical Turk. Ensuite, ces derniers avaient été amenés à donner accès au profil Facebook de tous leurs contacts. C’était, en quelque sorte, du traçage numérique des contacts avant la lettre. > > A aucun moment ces sujets n’avaient consenti à la réutilisation de leurs informations dans le cadre de la campagne du Brexit ou dans l’élection présidentielle de Donald Trump. Cela est arrivé ensuite, lorsque les chercheurs ont voulu monétiser les données, initialement collectées dans un but théoriquement désintéressé, par le biais de l’entreprise Cambridge Analytica. En principe, cette démarche respectait les lois des différents pays et les règles de ces grandes plates-formes. Néanmoins, de puissants algorithmes ont été mis au service des intérêts personnels et de la soif de pouvoir d’hommes politiques sans scrupule. > > Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données > > Les mêmes ingrédients sont réunis ici : des scientifiques « de bonne volonté », des géants de la « tech », des intérêts politiques. Dans le cas de StopCovid, c’est le consortium universitaire européen Pan-European Privacy Preserving Proximity Tracing (PEPP-PT), qui a vu le jour à la suite de la pandémie. Ces scientifiques se sont attelés à la tâche de concevoir dans l’urgence le capteur de contacts le plus puissant, dans le respect des lois. Cela s’articule avec les intérêts économiques d’acteurs privés, tels les grands groupes industriels nationaux, le secteur automobile et les banques en Italie, les télécoms et les professionnels de l’hébergement informatique en France. Mais surtout les GAFA, les géants américains du numérique, se sont emparés du sujet. > > Cette fois, ce ne sont pas Facebook et Amazon, mais Google et Apple, qui ont tout de suite proposé de fournir une nouvelle structure pour diffuser les applications de suivi de contacts sur leurs plates-formes. La menace qui plane au-delà de tous ces acteurs vient des ambitions de certains milieux politiques européens d’afficher leur détermination dans la lutte contre le Covid19, en se targuant d’une solution technique à grande échelle, utilisant les données personnelles pour la « campagne du déconfinement ». > > Une myopie sur les dimensions sociales des données > > Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données. L’exécutif français ne s’autorise pas à réfléchir à la phase qui suit la collecte, c’est-à-dire au traitement qui sera fait de ces informations sensibles. Quels algorithmes les analyseront ? Avec quelles autres données seront-elles croisées sur le moyen et le court terme ? Son court-termisme s’accompagne d’une myopie sur les dimensions sociales des données. > > Que se passerait-il si, comme plusieurs scientifiques de l’Inria, du CNRS et d’Informatics Europe s’époumonent à nous le dire, malgré une collecte initiale de données réduite au minimum, des entreprises ou des puissances étrangères décidaient de créer des « applications parasites » qui, comme Cambridge Analytica, croiseraient les données anonymisées de StopCovid avec d’autres bases de données nominatives ? Que se passerait-il, par exemple, si une plate-forme de livraison à domicile décidait (cela s’est passé récemment en Chine) de donner des informations en temps réel sur la santé de ses coursiers ? Comment pourrait-on empêcher un employeur ou un donneur d’ordres de profiter dans le futur des données sur l’état de santé et les habitudes sociales des travailleurs ? > > L’affaire Cambridge Analytica nous a permis de comprendre que les jeux de pouvoir violents et partisans autour de la maîtrise de nos données personnelles ont des conséquences directes sur l’ensemble de la vie réelle. Il ne s’agit pas d’une lubie abstraite. Le cas de StopCovid est tout aussi marquant. En focalisant des ressources, l’attention du public et celle des parlementaires sur une solution technique probablement inefficace, le gouvernement nous détourne des urgences les plus criantes : la pénurie de masques, de tests et de médicaments, ou les inégalités d’exposition au risque d’infection. > > Une malheureuse diversion > > Cette malheureuse diversion n’aurait pas lieu si le gouvernement n’imposait pas ses stratégies numériques, verticalement, n’étant plus guidé que par l’urgence de faire semblant d’agir. Face à ces enjeux, il faudrait au contraire impliquer activement et à parts égales les citoyens, les institutions, les organisations et les territoires pour repenser notre rapport à la technologie. Le modèle de gouvernance qui accompagnera StopCovid sera manifestement centré dans les mains d’une poignée d’acteurs étatiques et marchands. Une telle verticalité n’offre aucune garantie contre l’évolution rapide de l’application en un outil coercitif, imposé à tout le monde. > > Ce dispositif entraînerait un recul fondamental en matière de libertés, à la fois symbolique et concret : tant sur la liberté de déplacement, notamment entre les pays qui refuseraient d’avoir des systèmes de traçage ou qui prendront ce prétexte pour renforcer leur forteresse, que sur la liberté de travailler, de se réunir ou sur la vie privée. Les pouvoirs publics, les entreprises et les chercheurs qui dans le courant des dernières semaines sont allés de l’avant avec cette proposition désastreuse, ressemblent à des apprentis sorciers qui manient des outils dont la puissance destructrice leur échappe. Et, comme dans le poème de Goethe, quand l’apprenti sorcier n’arrive plus à retenir les forces qu’il a invoquées, il finit par implorer une figure d’autorité, une puissance supérieure qui remette de l’ordre. Sauf que, comme le poète nous l’apprend, ce « maître habile » ne reprend ces outils « que pour les faire servir à ses desseins ». > > Antonio Casilli, sociologue. > > Paul-Olivier Dehaye, mathématicien. > > Jean-Baptiste Soufron, avocat. > > Cosignataires : Sophie Binet et Marie-José Kotlicki cosecrétaires généraux de l’UGICT-CGT ; Raquel Radaut, membre de La Quadrature du Net. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

April 25, 2020

Editoriale su Le Monde

by Antonio Casilli

Oggi su Le Monde co-firmo un editoriale con Jean-Baptiste Soufron, ex-segretario del Consiglio Nazionale del Digitale francese, e Paul-Olivier Dehaye, il matematico alla base dello scandalo Cambridge Analytica. Il tema, ve lo immaginate, è StopCovid, versione francese di Immuni. Il titolo che avevamo proposto era semplicemente "Stop Covid Analytica". Ma anche quello aggiunto dal giornale è bello tosto. « StopCovid est un projet désastreux piloté par des apprentis sorciers » https://www.lemonde.fr/idees/article/2020/04/25/stopcovid-est-un-projet-des… Antonio Casilli, Paul-Olivier Dehaye et Jean-Baptiste Soufron --- Il faut renoncer à la mise en place d’un outil de surveillance enregistrant toutes nos interactions humaines et sur lequel pèse l’ombre d’intérêts privés et politiques, à l’instar du scandale Cambridge Analytica, plaide un collectif de spécialistes du numérique dans une tribune au « Monde ». Tribune. Le mardi 28 avril, les parlementaires français seront amenés à voter sur StopCovid, l’application mobile de traçage des individus imposée par l’exécutif. Nous souhaitons que, par leur vote, ils convainquent ce dernier de renoncer à cette idée tant qu’il est encore temps. Non pas de l’améliorer, mais d’y renoncer tout court. En fait, même si toutes les garanties légales et techniques étaient mises en place (anonymisation des données, open source, technologies Bluetooth, consentement des utilisateurs, protocole décentralisé, etc.), StopCovid serait exposée au plus grand des dangers : celui de se transformer sous peu en « StopCovid Analytica », une nouvelle version du scandale Cambridge Analytica [siphonnage des données privées de dizaines de millions de comptes Facebook]. L’application StopCovid a été imaginée comme un outil pour permettre de sortir la population française de la situation de restriction des libertés publiques provoquée par le Covid-19. En réalité, cette « solution » technologique ne serait qu’une continuation du confinement par d’autres moyens. Si, avec ce dernier, nous avons fait l’expérience d’une assignation à résidence collective, les applications mobiles de surveillance risquent de banaliser le port du bracelet électronique. Tous les citoyens, malades ou non Le terme n’est pas exagéré : c’est déjà le cas à Hong-Kong, qui impose un capteur au poignet des personnes en quarantaine, et c’est l’objet de tests en Corée du Sud et au Liechtenstein pour certaines catégories de citoyens à risque. StopCovid, elle, a vocation à être installée dans les smartphones, mais elle concerne tous les citoyens, malades ou non. Malgré le fait que son installation soit présentée comme facultative dans d’autres pays, tels l’Italie, on assiste à la transformation de cette démarche volontaire en obligation. L’affaire Cambridge Analytica, révélée au grand jour en 2018, avait comme point de départ les travaux de chercheurs de l’université anglaise. Une application appelée « Thisisyourdigitallife », présentée comme un simple quiz psychologique, avait d’abord été proposée à des utilisateurs de la plate-forme de microtravail Amazon Mechanical Turk. Ensuite, ces derniers avaient été amenés à donner accès au profil Facebook de tous leurs contacts. C’était, en quelque sorte, du traçage numérique des contacts avant la lettre. A aucun moment ces sujets n’avaient consenti à la réutilisation de leurs informations dans le cadre de la campagne du Brexit ou dans l’élection présidentielle de Donald Trump. Cela est arrivé ensuite, lorsque les chercheurs ont voulu monétiser les données, initialement collectées dans un but théoriquement désintéressé, par le biais de l’entreprise Cambridge Analytica. En principe, cette démarche respectait les lois des différents pays et les règles de ces grandes plates-formes. Néanmoins, de puissants algorithmes ont été mis au service des intérêts personnels et de la soif de pouvoir d’hommes politiques sans scrupule. Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données Les mêmes ingrédients sont réunis ici : des scientifiques « de bonne volonté », des géants de la « tech », des intérêts politiques. Dans le cas de StopCovid, c’est le consortium universitaire européen Pan-European Privacy Preserving Proximity Tracing (PEPP-PT), qui a vu le jour à la suite de la pandémie. Ces scientifiques se sont attelés à la tâche de concevoir dans l’urgence le capteur de contacts le plus puissant, dans le respect des lois. Cela s’articule avec les intérêts économiques d’acteurs privés, tels les grands groupes industriels nationaux, le secteur automobile et les banques en Italie, les télécoms et les professionnels de l’hébergement informatique en France. Mais surtout les GAFA, les géants américains du numérique, se sont emparés du sujet. Cette fois, ce ne sont pas Facebook et Amazon, mais Google et Apple, qui ont tout de suite proposé de fournir une nouvelle structure pour diffuser les applications de suivi de contacts sur leurs plates-formes. La menace qui plane au-delà de tous ces acteurs vient des ambitions de certains milieux politiques européens d’afficher leur détermination dans la lutte contre le Covid19, en se targuant d’une solution technique à grande échelle, utilisant les données personnelles pour la « campagne du déconfinement ». Une myopie sur les dimensions sociales des données Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données. L’exécutif français ne s’autorise pas à réfléchir à la phase qui suit la collecte, c’est-à-dire au traitement qui sera fait de ces informations sensibles. Quels algorithmes les analyseront ? Avec quelles autres données seront-elles croisées sur le moyen et le court terme ? Son court-termisme s’accompagne d’une myopie sur les dimensions sociales des données. Que se passerait-il si, comme plusieurs scientifiques de l’Inria, du CNRS et d’Informatics Europe s’époumonent à nous le dire, malgré une collecte initiale de données réduite au minimum, des entreprises ou des puissances étrangères décidaient de créer des « applications parasites » qui, comme Cambridge Analytica, croiseraient les données anonymisées de StopCovid avec d’autres bases de données nominatives ? Que se passerait-il, par exemple, si une plate-forme de livraison à domicile décidait (cela s’est passé récemment en Chine) de donner des informations en temps réel sur la santé de ses coursiers ? Comment pourrait-on empêcher un employeur ou un donneur d’ordres de profiter dans le futur des données sur l’état de santé et les habitudes sociales des travailleurs ? L’affaire Cambridge Analytica nous a permis de comprendre que les jeux de pouvoir violents et partisans autour de la maîtrise de nos données personnelles ont des conséquences directes sur l’ensemble de la vie réelle. Il ne s’agit pas d’une lubie abstraite. Le cas de StopCovid est tout aussi marquant. En focalisant des ressources, l’attention du public et celle des parlementaires sur une solution technique probablement inefficace, le gouvernement nous détourne des urgences les plus criantes : la pénurie de masques, de tests et de médicaments, ou les inégalités d’exposition au risque d’infection. Une malheureuse diversion Cette malheureuse diversion n’aurait pas lieu si le gouvernement n’imposait pas ses stratégies numériques, verticalement, n’étant plus guidé que par l’urgence de faire semblant d’agir. Face à ces enjeux, il faudrait au contraire impliquer activement et à parts égales les citoyens, les institutions, les organisations et les territoires pour repenser notre rapport à la technologie. Le modèle de gouvernance qui accompagnera StopCovid sera manifestement centré dans les mains d’une poignée d’acteurs étatiques et marchands. Une telle verticalité n’offre aucune garantie contre l’évolution rapide de l’application en un outil coercitif, imposé à tout le monde. Ce dispositif entraînerait un recul fondamental en matière de libertés, à la fois symbolique et concret : tant sur la liberté de déplacement, notamment entre les pays qui refuseraient d’avoir des systèmes de traçage ou qui prendront ce prétexte pour renforcer leur forteresse, que sur la liberté de travailler, de se réunir ou sur la vie privée. Les pouvoirs publics, les entreprises et les chercheurs qui dans le courant des dernières semaines sont allés de l’avant avec cette proposition désastreuse, ressemblent à des apprentis sorciers qui manient des outils dont la puissance destructrice leur échappe. Et, comme dans le poème de Goethe, quand l’apprenti sorcier n’arrive plus à retenir les forces qu’il a invoquées, il finit par implorer une figure d’autorité, une puissance supérieure qui remette de l’ordre. Sauf que, comme le poète nous l’apprend, ce « maître habile » ne reprend ces outils « que pour les faire servir à ses desseins ». Antonio Casilli, sociologue. Paul-Olivier Dehaye, mathématicien. Jean-Baptiste Soufron, avocat. Cosignataires : Sophie Binet et Marie-José Kotlicki cosecrétaires généraux de l’UGICT-CGT ; Raquel Radaut, membre de La Quadrature du Net.

April 25, 2020

Re: [nexa] The Flawed World of Contact Tracing: Where’s Carol The Tester?

by Giovanni Biscuolo

Buongiorno, mi permetto di evidenziare due passaggi essenziali del ragionamento del Prof. Bauchanan per guardare al problema del digital contact tracing da una prospettiva diversa, più ampia. Mi scuso con chi troverà evidenti ripetizioni di cose che ho già scritto. Alberto Cammozzo <ac+nexa(a)zeromx.net> writes: > Mi scuso se questo commento è già passato in lista, non me ne sono > accorto. Se lo è nemmeno io me ne ero accorto, quindi grazie! > <https://medium.com/asecuritysite-when-bob-met-alice/the-flawed-world-of-con…> > > [...] > The Flawed World of Contact Tracing: Where’s Carol The Tester? > Governments love quick fixes … “We have an app, and we are working with > Google, so everything will be okay!” > Prof Bill Buchanan OBE Questo Bauchanan: https://en.wikipedia.org/wiki/Bill_Buchanan_(computer_scientist) --8<---------------cut here---------------start------------->8--- He currently leads the Centre for Distributed Computing and Security at Edinburgh Napier University. [...] was appointed Officer of the Order of the British Empire (OBE) in the 2017 Birthday Honours for services to cyber security --8<---------------cut here---------------end--------------->8--- [...] Premessa: > the most fundamental of these (questions, n.d.r.) is that we don’t > actually have any real infrastructure to implement privacy-preserving > methods. [...] Our core problem is that we have built data > infrastructures that mirror those from the 1980s [...] Conclusione: > In our world, we would setup a trusted permissioned ledger — such as > with Hyperledger - with the identities of those involved carefully > defined with signing keys. Then the permissions of all the transactions > would be controlled by roles and identities. Il altre parole una nuova infrastruttura (che adesso non c'è) ci consentirebbe di gestire l'immagazzinamento dei dati, le identità e i permessi di accesso ai dati (anche anonimizzati) per mezzo di ruoli assegnati dagli utenti ai propri peers (familiari, amici, medico curante); in modo decentralizzato, che è l'unico a garantire veramente la privacy (e l'anonimato). Bauchanan propone una infrastruttura decentralizzata basata sull'ambiente Hyperledger https://en.wikipedia.org/wiki/Hyperledger, altri come secushare https://secushare.org/ propongono di andare più a fondo rimpiazzando tutto quello che non funziona su Internet con https://gnunet.org/en/ [1] In un contesto del genere applicazioni per il contact tracing epidemiologico *potrebbero* cominciare ad avere senso, con o senza BLE Rimane il fatto che l'infrastruttura che abbiamo adesso fa acqua da tutte le parti, nonostante i crittografi siano riusciti a inventare algoritmi egregi dal '80 a oggi. [...] Saluti, Giovanni [1] per esempio Hyperledger Fabric usa X.509 per identificare certi nodi, ma X.509 ha serissimi problemi di trust. -- Giovanni Biscuolo

April 25, 2020

Contact Tracing in the Real World | Light Blue Touchpaper

by Alberto Cammozzo

Ross Anderson. <https://www.lightbluetouchpaper.org/2020/04/12/contact-tracing-in-the-real-…> [...] Personally I feel conflicted. I recognise the overwhelming force of the public-health arguments for a centralised system, but I also have 25 years’ experience of the NHS being incompetent at developing systems and repeatedly breaking their privacy promises when they do manage to collect some data of value to somebody else. The Google Deepmind scandal was just the latest of many and by no means the worst. This is why I’m really uneasy about collecting lots of lightly-anonymised data in a system that becomes integrated into a whole-of-government response to the pandemic. We might never get rid of it. But the real killer is likely to be the interaction between privacy and economics. If the app’s voluntary, nobody has an incentive to use it, except tinkerers and people who religiously comply with whatever the government asks. If uptake remains at 10-15%, as in Singapore, it won’t be much use and we’ll need to hire more contact tracers instead. Apps that involve compulsion, such as those for quarantine geofencing, will face a more adversarial threat model; and the same will be true in spades for any electronic immunity certificate. There the incentive to cheat will be extreme, and we might be better off with paper serology test certificates, like the yellow fever vaccination certificates you needed for the tropics, back in the good old days when you could actually go there.[...]

April 25, 2020