August 2020 - nexa - server-nexa.polito.it

Re: [nexa] Fawkes - Image poisoning contro Facial recognition.

by Alberto Cammozzo

On 09/08/2020 17:51, Giacomo Tesio wrote: > > Il August 9, 2020 3:11:21 PM UTC, Giovanni Biscuolo <giovanni(a)biscuolo.net> ha scritto: >> But Clearview’s chief executive, Hoan Ton-That, ran a version of my >> Facebook experiment on the Clearview app and said the technology did >> not >> interfere with his system. In fact, he said, his company could use >> images cloaked by Fawkes to improve its ability to make sense of >> altered >> images. >> >> “There are billions of unmodified photos on the internet, all on >> different domain names,” Mr. Ton-That said. “In practice, it’s almost >> certainly too late to perfect a technology like Fawkes and deploy it at >> scale.” >> >> Other experts were also skeptical that Fawkes would work. Joseph Atick, >> a facial recognition pioneer who has come to regret the surveillance >> society he helped to create, said the volume of images of ourselves >> that >> we had already made available would be too hard to overcome. >> > Personalmente credo che vendere questo programma come protezione per la privacy sia molto discutibili. > > In pratica, chi lo usa, produce gratuitamente dati per calibrare una adversarial neural network in grado di migliorare gli algoritmi di facial recognition. > > > Quanto al fatto che sia troppo tardi, non sono d'accordo: possiamo insegnare ai ragazzi a NON diffondere proprie immagini su internet. > > > La nostra generazione è stata ingenua ed ignorante, ma la prossima non è ancora del tutto perduta. > > > Giacomo Gli utenti delle piattaforme social non hanno consapevolezza dell'uso delle loro foto o meglio non vogliono averne. Chi sa a cosa servono i dati che fornisce si guarda bene dall'entrarci. Pensandoci bene Fawkes è un sistema di protezione delle piattaforme contro l'appropriazione da parte di altri soggetti (come Clearview) e non un sistema di protezione per gli utenti (almeno al momento). Serve soprattutto a Facebook (che ha pagato la ricerca), ma molto meno ai suoi utenti. Le piattaforme devono proteggere le immagini degli utenti da sistemi come Clearview che se ne appropriano, perché possono inibire la propensione degli utenti a condividere immagini. In mancanza di un quadro giuridico chiaro le piattaforme installeranno sistemi tecnici di protezione dal riconoscimento facciale come Fawkes solo sulle immagini offerte in rete, lasciando pulite quelle "per uso interno". Il riconoscimento facciale degli utenti di FB funzionerà all'interno di FB ma non per Clearview. Clearview può minimizzare l'impatto sul proprio già traballante business, ma ha bisogno di dati aggiornati: se non acquisisce dati nuovi tra 3 anni è fuori mercato. Le agenze governative (molte sono clienti di Clearview) sono interessate ai dati non inquinati, per cui dove possono faranno vietare il cloacking o si garantiranno comunque accesso diretto ai dati puliti. Questo in teoria. In pratica ogni tecnologia ha conseguenze inattese. Ne vedo una che riguarda i passaporti biometrici: se il cloaking funziona anche attraverso l'analog bridge stampa-scansione, questo comporterà che le foto dei passaporti biometrici andranno scattate in questura, e non acquisite dalle stampe fornite all'utente. Ho chiesto a Ben Zhao: proverà a vedere se il cloacking resiste alla stampa: <https://twitter.com/ravenben/status/1292229125969780737> ciao! Alberto

Aug. 10, 2020

A cosa serve la Blockchain? [was: No to Blockchain Credentials of COVID-19 Test Results for Entry to Public Spaces]

by Giacomo Tesio

La blockchain trasforma l'ignoranza informatica diffusa in denaro vero attraverso lo spreco di grandi quantità di energia elettrica. La trasformazione avviene attraverso tre metodologie principali: - schemi Ponzi math-washed su larga scala (anche noti come criptovalute) - distrazione di finanziamenti (pubblici e/o privati) da attività di ricerca più serie ed utili alla società - contratti di consulenza (e simili) come esperti di blockchain (sviluppatori, ma anche avvocati, economisti etc...) L'unico uso efficace ed efficiente della blockchain ad oggi noto all'uomo consiste nella realizzazione di filtri automatici per scartare i curricula sulla base delle parole chiave associate (smart contract etc..) On Sun, 08 Aug 2020 14:32:01 +0000 Davide Carboni <dcarboni(a)gmail.com> wrote: > la blockchain (poi vediamo cos'è) non ha > nessun senso quando esiste un'autorità che può certificare un dato con > un banale PKI. In generale, la blockchain non ha alcun senso quando esiste una entità esterna che garantisce la funzione off-chain per cui è adottata. Un esempio? Come moneta. La blockchain non ha senso come moneta perché è sempre uno Stato a garantire (o NON garantire) la validità dei trasferimenti di proprietà (e la proprietà stessa ;-). Ed è sempre uno Stato a battere la moneta che viene usata come riferimento stabile per i prezzi. > La blockchain è uno scomodo artifact che risulta dall'esecuzione di un > protocollo di consenso basato su proof of work ovvero un consumo di corrente e banda crescente al crescere dell'utenza ovvero tanto meno sostenibile quanto più è diffusa ovvero l'esatto contrario della scalabilità ovvero un enorme incentivo a centralizzare di fatto il mining (eliminando la necessità di un consenso DISTRIBUITO! :-D) > ed incentivo economico > e che serve a risolvere un problema abbastanza ben formulato, ovvero > come ottenere il consenso eh già... il famoso consenso distribuito della blockchain. Quello che la rende immutabile! Tanto immutabile che a Luglio 2016 i miner di Ethereum per non perdere faccia e soldi... l'hanno modificata. Così. Come se non fosse immutabile. Come avranno fatto? Ah già... è immutabile per chi CREDE che lo sia! ;-) > sullo stato di un sistema distribuito in > cui i partecipanti sono non autenticati... e le "permissione blockchain"? (ricorda, lo schema Ponzi è solo una delle metodologie della blockchain) > dove nessuno ha un ruolo di master e Libra? (ricorda, lo schema Ponzi è solo una delle metodologie della blockchain) > e dove potenzialmente tutti i partecipanti sono malevoli potenzialmente sì, ma fior di statistiche nonché recenti esperimenti effettuati su uno dei maggiori social network mondiali evidenziano che per la stragrande maggioanza... ...sono fessi. ;-) > ma non coordinati fra loro. ..fin quando non aderiscono ad uno dei pochi mining pool esistenti. Ora, senza voler entrare in truffe più elaborate come Tether, tutte le criptovalute basate sulla blockchain sono allucinazioni collettive: i token rappresentano la promessa che sarà ancora possibile trovare un fesso a cui cederle in cambio di una contropartita (in denaro o altro). Il "valore" di quei byte dipende dal numero di allucinati e dalla fiducia cieca che questi hanno nella loro allucinazione. A breve sociologi e psicologi inizieranno a studiarle applicando categorie analoghe a quelle usate per il Tempio del Popolo a Jonestown. > Con questi requisiti estremi il Nakamoto consensus fornisce una > soluzione che sta su da 10 anni. E personalmente sono ancora convinto che non vedrà il 2021. Naturalmente potrei sbagliarmi di qualche mese, ma sono in tanti ad aver notato come i ratti stiano abbandonando la nave: da Telegram a Facebook, per non parlare delle vendite milionarie fatte per sottrarre il poco denaro rimasto nel sistema. > Ora che questo non sia un problema pratico > ma solo teorico è opinabile Veramente quello che descrivi non è nemmeno un problema teorico. "P = NP?" è un problema teorico. Quello che descrivi è marketing: un problema immaginario progettato per giustificare la proposta di una soluzione. > forse non è un problema per lei La blockchain? Per me non è un problema, ma il sintomo fastidioso di un problema grave. Il suo successo deriva dall'ignoranza informatica diffusa: un problema enorme per chiunque se ne occupi professionalmente. > ma per alcuni può esserlo. Diciamo piuttosto che tanti possono essere convinti di avere questo problema (o quanto meno di essere circondati di fessi che compreranno quei byte a più di quanto li hanno pagati loro). D'altronde anche l'omeopatia ha i propri adepti. > In fondo che bisogno c'era di inventare l'aereo quando potevamo > prendere il treno. Aereo e treno svolgono in modo diverso una funzione utile: viaggiare. Che funzione svolge la blockchain? (propriamente detta, con Merkle tree, PoW etc..) Qualche tempo fa ho proposto ad un esperto di blockchain di descrivermi che funzione svolgeva quest'ultima nel suo business affinché gli proponessi (gratuitamente) una soluzione alternativa più semplice ed efficace: https://twitter.com/giacomotesio/status/1282308279255937026 Come puoi leggere, non è stato difficile. Di nuovo l'altro giorno per Stefano ho abbozzato un protocollo molto semplice in grado di fornire le stesse garanzie della blockchain (e altre, con qualche piccola estensione). Ora, fare il BlockShame Buster è divertente, ma se deve diventare un mestiere a tempo pieno voglio essere pagato! :-D Tuttavia, qualunque sia l'uso non Ponziano (definirle "speculative" sarebbe nobilitare le criptovalute) della blockchain, esiste SEMPRE una soluzione tecnica migliore che fornisce tutte le garanzie necessarie senza sprecare corrente. Chiunque non è interessato ad una o più delle tre metodologie di truffa indicate all'inizio, farebbe bene a tenersi ben lontano da questa fanta-tecnologia. Giacomo

Aug. 9, 2020

Lo sviluppo gentile

by don Luca Peyron

Il cambio d’epoca che stiamo attraversando è prodotto dalla tecnologia e dal suo impatto sul nostro modo di comprendere noi e la realtà. Tuttavia il mondo della tecnologia è oggi descritto dalla categoria dell’innovazione. Se continueremo a guardare la tecnologia solamente come innovazione rischiamo però di non riuscirne a percepire la portata di trasformazione sociale né di orientarne verso il bene gli effetti. Buona lettura dl https://www.osservatoreromano.va/it/news/2020-08/lo-sviluppo-gentile.html _________________________ don Luca Peyron Direttore Ufficio per la Pastorale Universitaria Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

Aug. 9, 2020

Re: [nexa] Fawkes - Image poisoning contro Facial recognition.

by Giacomo Tesio

Il August 9, 2020 3:11:21 PM UTC, Giovanni Biscuolo <giovanni(a)biscuolo.net> ha scritto: > >But Clearview’s chief executive, Hoan Ton-That, ran a version of my >Facebook experiment on the Clearview app and said the technology did >not >interfere with his system. In fact, he said, his company could use >images cloaked by Fawkes to improve its ability to make sense of >altered >images. > >“There are billions of unmodified photos on the internet, all on >different domain names,” Mr. Ton-That said. “In practice, it’s almost >certainly too late to perfect a technology like Fawkes and deploy it at >scale.” > >Other experts were also skeptical that Fawkes would work. Joseph Atick, >a facial recognition pioneer who has come to regret the surveillance >society he helped to create, said the volume of images of ourselves >that >we had already made available would be too hard to overcome. > Personalmente credo che vendere questo programma come protezione per la privacy sia molto discutibili. In pratica, chi lo usa, produce gratuitamente dati per calibrare una adversarial neural network in grado di migliorare gli algoritmi di facial recognition. Quanto al fatto che sia troppo tardi, non sono d'accordo: possiamo insegnare ai ragazzi a NON diffondere proprie immagini su internet. La nostra generazione è stata ingenua ed ignorante, ma la prossima non è ancora del tutto perduta. Giacomo

Aug. 9, 2020

Re: [nexa] Fawkes - Image poisoning contro Facial recognition.

by Giovanni Biscuolo

Buongiorno Alberto, grazie mille per la segnalazione! Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> writes: > Questo mi pare il primo vero punto di svolta nella realizzazione di una > protezione preventiva della privacy visuale online da quando il > riconoscimento facciale è entrato nell'ecosistema digitale. Sì potrebbe essere una svolta, interessante progetto: https://github.com/Shawn-Shan/fawkes --8<---------------cut here---------------start------------->8--- Copyright This code is intended only for personal privacy protection or academic research. We are currently exploring the filing of a provisional patent on the Fawkes algorithm. --8<---------------cut here---------------end--------------->8--- In realtà è software libero (in python) con licenza BSD "3-clause" Mi auguro vivamente che decidano di NON brevettare l'algoritmo. > Mi vengono queste domande: > - questa alterazione è rilevabile e reversibile? E' l'inizio di una arms > race? > - La perturbazione regge anche al passaggio analogico? Che succede se > stampo la foto alterata per introdurla ad es. nel passaporto elettronico? Questa giornalista ha riscontrato un problema con le immagini alterate, che erano alterate anche "a occhio nudo": https://www.nytimes.com/2020/08/03/technology/fawkes-tool-protects-photos-f… --8<---------------cut here---------------start------------->8--- I then uploaded the originals and the cloaked images to Facebook to see if they fooled the social network’s facial recognition system. It worked: Facebook tagged me in the original photo but did not recognize me in the cloaked version. However, the changes to the photos were noticeable to the naked eye. In the altered images, I looked ghoulish, my 3-year-old daughter sprouted what looked like facial hair, and my husband appeared to have a black eye. The researchers had a few explanations for this. One is that the software is designed to match you with the face template of someone who looks as much unlike you as possible, pulling from a database of celebrity faces. That usually ends up being a person of the opposite sex, which leads to obvious problems. --8<---------------cut here---------------end--------------->8--- Inoltre, PARE che a questo punto a Clearview &C. non gliene importa più nulla perché hanno tonnellate di immagini a disposizione: --8<---------------cut here---------------start------------->8--- But Clearview’s chief executive, Hoan Ton-That, ran a version of my Facebook experiment on the Clearview app and said the technology did not interfere with his system. In fact, he said, his company could use images cloaked by Fawkes to improve its ability to make sense of altered images. “There are billions of unmodified photos on the internet, all on different domain names,” Mr. Ton-That said. “In practice, it’s almost certainly too late to perfect a technology like Fawkes and deploy it at scale.” Other experts were also skeptical that Fawkes would work. Joseph Atick, a facial recognition pioneer who has come to regret the surveillance society he helped to create, said the volume of images of ourselves that we had already made available would be too hard to overcome. --8<---------------cut here---------------end--------------->8--- > - Chi realizzerà per primo il plugin per browser che altera i volti > prima dell'upload? > - Quali piattaforme offriranno questa feature a chi carica le proprie foto? Cigliegina sulla torta: --8<---------------cut here---------------start------------->8--- “I’m actually interning on that exact team at Facebook right now,” said the Fawkes co-creator Mr. Shan. --8<---------------cut here---------------end--------------->8--- - Chi comprerà per primo la startup/spinoff di Fawkes per usarla come vantaggio competitivo contro gli altri? (del tipo Facebook che pubblica le versioni inquinate delle foto ma al suo interno indicizza quelle originali per creare un grafo sociale più efficace) ...soprattutto SE l'algoritmo verrà brevettato. [...] Ciao, Giovanni. -- Giovanni Biscuolo

Aug. 9, 2020

You Don’t Need College Anymore

by Giovanni Biscuolo

Nota tecnica: se aprendo l'articolo con un browser vi appare "Error 500", semplicemente ricaricatelo e interrompete il caricamento della pagina appena compare il titolo (Medium è un sito PATETICO); in alternativa usate un browser con Javascript disabilitato (io uso eww di Emacs) Nota redazionale: nell'oggetto ho modificato il titolo dell'articolo, perché non è Google a dirlo. Buongiorno lista, sebbene possa sembrare leggermente OT rispetto al cuore del discorso di questa lista, voglio condividere con voi questa chicca segnalata da un amico: mi piacerebbe un commento, anche solo due righe, da parte di coloro di questa lista (sono molti mi pare) che si dedicano all'insegnamento, universitario o meno che sia. Interessanti anche gli aspetti sociologici dell'universo di discorso sottostante a questo articolo... che oserei definire FUTURISTA :-D Segue l'articolo integrale, così potere commentare inline volendo :-) https://web.archive.org/web/20200802062705/https://medium.com/discourse/you… «You Don’t Need College Anymore, Says Google» di David Leibowitz, 29 Luglio 2020 --8<---------------cut here---------------start------------->8--- If you can earn $93k after taking a $300 course, then what’s the future of higher education? This week, Google announced new professional career certificates that can be completed in six months to help Americans obtain high growth job opportunities. They also signaled to jobseekers that they would treat these certificates, which require no prior experience of undergraduate credentials, as the equivalent of four-year degrees by their hiring managers. For the beleaguered education sector which was already experiencing dwindling enrollment, a sluggish pace in curriculum development, lack of distance learning adoption, and high costs, the move by Google and employers may be the harbinger of digital disruption that is long overdue. Google‘s new certification programs On July 14th, Google launched new professional certification programs in data analysis, project management, and UX design, to be hosted on Coursera. Though the platform charges a monthly $49 fee, Google will provide 100,000 needs-based scholarships to cover costs and will be awarding over $10 million in grants to certain non-profits that partner with workforce development to women, veterans, and underrepresented Americans. “In our own hiring, we will now treat these new career certificates as the equivalent of a four-year degree for related roles.” — Google Google lists the median annual wage of each career track with a high of $93,000 for the project management program. According to Google, 80% of learners that complete the IT Support Specialist certification either landed a new job or earned a raise. Prior experience and higher education are not required as a prerequisite for the courses. And, once completed, typically in three-to-six months, participants may have a crack at a job with the tech giant. Kent Walker, Google senior vice president of corporate affairs announced via Twitter, that “in our own hiring, we will now treat these new career certificates as the equivalent of a four-year degree for related roles.” [...] Two weeks before the Google announcement, Microsoft launched a global initiative to uplift the professional skills of 25 million people per a blog post on June 30th. The target ambitions in light of the pandemic are strikingly similar to Google in supporting “genuinely inclusive recovery [with] programs to provide easier access to digital skills for people hardest hit by job losses, including those with lower incomes, women, and underrepresented minorities.” The company will combine resources from LinkedIn, GitHub, and Microsoft to provide Microsoft Certifications along with $20 million in cash grants to help non-profit organizations. Twenty-five percent of that will be provided in cash grants to community-based non-profit organizations that are led by and serve communities of color in the United States. LinkedIn learning paths will be available for multiple roles through March 2021 (Software Developer, Sales Representative, IT Administrator, Data Analyst, Financial Analyst, Graphic Designer, and Project Manager). Online delivery isn’t the only answer, it’s the content too Coursera raised another $130 million in funding this week and is now valued at $2.5 billion, as reported in Forbes. The Coursera service offers 4,500 MOOC courses with 160 university partners. The Harvard Business Review, in a piece co-authored by the CEO of Coursera, signals that Higher Ed Needs a Long-Term Plan for Virtual Learning. Undoubtedly, hardware, software, connectivity, and digital course catalog production are required by advanced institutions to succeed in education delivery for the new age. To be blunt, university degrees are only as valuable as the weight applied by company hiring managers, and Google has just signaled that a $300 certificate has parity with a diploma. But technology alone is not the salve. By focusing on the tools or pedagogy, the authors miss the workforce relevance of the course content. Higher education has had a challenge adapting curriculum with speed and agility to meet the needs of students and employers. According to Microsoft’s calculations, global unemployment in 2020 may reach a quarter of a billion people due to automation and pandemic-related disruption. However, they further estimate 149 million new technology-related jobs within the next five years with a majority in software development, data analysis, cybersecurity, and privacy protection. Coursera’s own growth metrics appear to be evidence that employers can wait no longer for skilled labor. Indeed, Coursera’s enterprise business accounts for twenty-five percent of their revenue with continuing education courses for 2,500 companies and has grown 70% year over year. College admissions have been on a downward spiral Though college enrollment was projected to be down as much as 20% for colleges this fall, they had been on the downward trend pre-pandemic. Harvard is facing a $415 million revenue drop this year and anticipates another $715 million for the next academic year, as reported in Bloomberg. At the end of last year, total US enrollments were already below 18 million, representing a decline of over 2 million from its peak in 2011, according to the Fall 2019 Current Term Enrollment Estimates report by the National Student Clearinghouse Research Center. Over the past eight years, nationwide enrollment has fallen about 11% across every sector: public state schools, community colleges, and private schools. A survey in April by high-ed research firm SimpsonScarborough, as reported by Business Insider, found that 10% of high school seniors would not be attending a four-year institution. Peeling back the detail revealed an additional disparity: 41% of minority high school students said they likely wouldn’t attend college in the fall, or it’s “too soon to tell,” as compared to 24% of white high school seniors who responded similarly. Google hopes that low-cost certification programs that can be completed at a cost of $300 may be a solution to unequal access to education in certain fields. “While college degrees have tons of value, they are not accessible to everyone,” said Google vice president, Lisa Gevelber. According to a CNBC report, Google says that 58% of those who take its IT certificate identify as Black, Latino, female, or as a veteran and that 45% of enrollees make less than $30,000 per year. Microsoft sees the problem as two-fold: a lack of training equity and opportunity for underrepresented populations, and the decline in employer investments in training over the past 20 years. According to Microsoft, on-the-job training is more than two times as prevalent among workers who are already in higher-skilled roles, leaving those in more automatable positions even more vulnerable to displacement. Disrupt higher education — if not now, when? Microsoft’s initiative goes a step beyond academic courseware. Their program includes free, real-time labor market data and skills insights to help governments, policymakers, and business leaders understand what’s happening in their local labor markets: what companies are hiring, the top jobs companies are hiring for, and the trending skills for those jobs. It’s time for Hi-Ed to address the imperative to digitally transform and better prepare students for workforce readiness and the future labor market One of the issues with traditional institutional curriculum is that by the time the degree has been granted, the market may have already changed. A sluggish pace to develop a curriculum may not be appropriately preparing students for the needs of employers. Do students still need to spend four years in class (either physically or virtually) only to find that the technology and market have changed once their degree has been earned? The challenge is that “academics are notoriously slow to change,” as argued by Dawn Lerman of Fordham University’s Gabelli School of Business in Times Higher Education. In her piece “Could the coronavirus force positive change in higher education? “she notes the imperative for universities to institutionalize the culture to respond swiftly to the demands of the digital era and asks if not now, then when? Indeed, without disruption, higher education is under existential threat, and many may begin to question if a four-year degree is required. In the tech industry, there are several high-profile examples of leaders who dropped out and still achieved notable success: Steve Jobs, Bill Gates, Michael Dell, and Mark Zuckerberg. Beyond tech, there’s Oprah, Whole Foods CEO John Mackey, Ralph Lauren, and Wolfgang Puck. Puck quit school at the age of fourteen to become a cooking apprentice at a hotel. Though these are extreme examples of extraordinarily successful leaders across industries, the lack of a university degree may no longer be the hurdle to skilled positions with economic opportunity. In Google’s report of their IT certification course, 61% did not have a four-year degree, typically complete the program in under six months, and earn a median annual wage of $54,760. To be blunt, university degrees are only as valuable as the weight applied by company hiring managers, and Google has just signaled that a $300 certificate has parity with a diploma. Non-technical industries are getting the message too. The National Retail Federation (NRF) just launched a virtual education program with denim companies American Eagle Outfitters, Gap, and Levi Strauss aimed at young retail industry hopefuls. The eight-week program, called RISE, allows attendees to learn directly from the retail giants via recorded sessions, which will provide “professional development opportunities.” As all other industries are undergoing digital disruption and reinvention, from retail to healthcare — perhaps it’s time for higher education to address the imperative to digitally transform and better prepare students for workforce readiness and the future labor market. Perhaps it is time to rethink the notion of a four-year degree and how higher education can partner with industry associations and the tech giants to digitally disrupt while providing expanded access to communities — at the same time ensuring their own survival. --8<---------------cut here---------------end--------------->8--- -- Giovanni Biscuolo

Aug. 9, 2020

How Amazon puts misinformation at the top of your reading list | Amazon | The Guardian

by Alberto Cammozzo

<https://www.theguardian.com/commentisfree/2020/aug/08/amazon-algorithm-cura…> [...] Over in Amazon’s oncology category, DiResta found a book with a bestseller label touting juice as an alternative to chemotherapy. For the term “cancer” overall, she noted that The Truth About Cancer, “a hodgepodge of claims about, among other things, government conspiracies”, had 1,684 reviews (96% of them five-star ones) and was given front-page placement. Just out of interest, this week I tried a search in the books section on Amazon.co.uk for “cancer cure”. Of the first 11 available titles that came up, only one looked like a conventional scientific treatment of the topic. The others focused on herbs, oils and “natural cures they don’t want you to know about”. This is not because Amazon has a grudge against scientific medicine, but because there is something about unconventional books in this area that its machine-learning algorithm is detecting – perhaps from reviews posted by evangelists for non-scientific approaches. (DiResta thought that this may indeed be the explanation: Amazon did not confirm this.) But it’s conceivable that in really controversial – and currently topical – areas such as vaccination, coordinated user reviews by anti-vaxxers might successfully game the algorithm. And in the past Amazon has been accused of being “a giant purveyor of medical quackery”. What it really means, I guess, is that, in the online world, information warfare is now ubiquitous. And since books are really just containers for information and ideas, it was predictable that marketplaces such as Amazon would become targets for manipulation. Truth is always the first casualty in war. [...]

Aug. 9, 2020

Fawkes - Image poisoning contro Facial recognition.

by Alberto Cammozzo

Questo mi pare il primo vero punto di svolta nella realizzazione di una protezione preventiva della privacy visuale online da quando il riconoscimento facciale è entrato nell'ecosistema digitale. Mi vengono queste domande: - questa alterazione è rilevabile e reversibile? E' l'inizio di una arms race? - La perturbazione regge anche al passaggio analogico? Che succede se stampo la foto alterata per introdurla ad es. nel passaporto elettronico? - Chi realizzerà per primo il plugin per browser che altera i volti prima dell'upload? - Quali piattaforme offriranno questa feature a chi carica le proprie foto? Ciao, Alberto Articolo: <http://sandlab.cs.uchicago.edu/fawkes/> Paper: <https://arxiv.org/pdf/2002.08327.pdf> [...] The SAND Lab at University of Chicago has developed Fawkes, an algorithm and software tool (running locally on your computer) that gives individuals the ability to limit how their own images can be used to track them. At a high level, Fawkes takes your personal images and makes tiny, pixel-level changes that are invisible to the human eye, in a process we call image cloaking. You can then use these "cloaked" photos as you normally would, sharing them on social media, sending them to friends, printing them or displaying them on digital devices, the same way you would any other photo. The difference, however, is that if and when someone tries to use these photos to build a facial recognition model, "cloaked" images will teach the model an highly distorted version of what makes you look like you. The cloak effect is not easily detectable by humans or machines and will not cause errors in model training. However, when someone tries to identify you by presenting an unaltered, "uncloaked" image of you (e.g. a photo taken in public) to the model, the model will fail to recognize you. Fawkes has been tested extensively and proven effective in a variety of environments and is 100% effective against state-of-the-art facial recognition models (Microsoft Azure Face API, Amazon Rekognition, and Face++). We are in the process of adding more material here to explain how and why Fawkes works. For now, please see the link below to our technical paper, which will be presented at the upcoming USENIX Security Symposium, to be held on August 12 to 14. The Fawkes project is led by two PhD students at SAND Lab, Emily Wenger and Shawn Shan, with important contributions from Jiayun Zhang (SAND Lab visitor and current PhD student at UC San Diego) and Huiying Li, also a SAND Lab PhD student. The faculty advisors are SAND Lab co-directors and Neubauer Professors Ben Zhao and Heather Zheng. [...]

Aug. 8, 2020

Re: [nexa] Schrems II e sovranità digitale

by Marco Ciurcina

Altro articolo che sta bene nel thread https://www.key4biz.it/le-big-tech-dopo-la-sentenza-schrems-ii-non-possono-… Dice piu' o meno le cose dell'altro. Mi ha colpito questa frase: "[UK], senza accordo, come è sempre più verosimile, finirebbe fuori dalla EEA senza una Decisione di Adeguatezza, e sarebbe quindi Paese terzo ai sensi del GDPR. Quindi, per conservare in UK dati personali dovrei assicurarmi che la legislazione UK garantisca lo stesso livello di protezione dei dati della UE. Ciò non sarà però possibile, per via di alcune leggi sulla sicurezza nazionale che UK ha potuto varare senza conseguenza solo in quanto già membro della UE, ma che non consentirebbero a Paesi terzi di essere considerati adeguati dal punto di vista della protezione dei dati personali.". La frase mi fa pensare che, se volessero fare il bene dei GAFAM, gli USA dovrebbero aderire all'UE. :-D m.c.Inviato da dispositivo mobile. -------- Messaggio originale --------Da: Roberto Resoli <roberto(a)resolutions.it> Data: 07/08/20 19:32 (GMT+01:00) A: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] Schrems II e sovranità digitale Il 07/08/20 17:56, Giacomo Tesio ha scritto:> Comunque Paolo pensa di fare una traduzione a breve> > https://twitter.com/Vecchi_Paolo/status/1291728615990792193> > GiacomoStavo giusto pensando ci chiederglielo :-)Grazie,rob_______________________________________________nexa mailing listnexa@server-nexa.polito.ithttps://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Aug. 8, 2020

Re: [nexa] No to Blockchain Credentials of COVID-19 Test Results for Entry to Public Spaces

by Davide Carboni

On Fri, Aug 7, 2020 at 5:25 PM Giacomo Tesio <giacomo(a)tesio.it> wrote: > On 07/08/2020, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > > non conosco i dettagli > > > > per andare in certi luoghi occorre la vaccinazione contro la febbre > > gialla attestata da un libretto di vaccinazione. (cartaceo) > > Anzitutto bisogna vedere cosa viene certificato, indipendentemente dal > mezzo di trasmissione della certificazione. > > Ha senso certificare una vaccinazione perché è un evento osservabile che > lascia tracce ed ha effetti verificabili di lungo periodo: il titolo > anticorpale nel sangue del soggetto vaccinato. > > Certificare invece lo stato di buona salute è ridicolo. > Ancor di più, certificare un tampone negativo. > > Ed è quello che sostiene EFF: > > > A person’s COVID-19 status may change from day to day, > > and tests are often hard to come by. This system could > > unfairly punish those who can’t afford to be tested nearly > > constantly. Second, while verifiable credentials might make > > sense for reporting a binary fact (such as whether or > > not a person is 21), medical tests come with strong caveats > > and significant margins of error. > > For example, some COVID-19 diagnostic tests have a false > > negative rate as high as 20 or 30%. The science behind testing > > for COVID-19 immunity is even less settled. According to the > > CDC, “we do not know how much protection [COVID-19] > > antibodies may provide or how long this protection may > > last.” This nuance is lost when a test result is turned > > into a credential. > > Il punto comunque è che nell'introdurre un qualsiasi componente in un > sistema cibernetico, bisogna sempre considerare gli effetti su tutto il > sistema, inclusi i diversi singoli nodi (umani o meno), la loro cardinalità > e le loro relazioni. > > > > perche' non digitalizzarlo, se digitalizzato bene ? > > Purtroppo una delle tragiche ironie del nostro tempo è che nonostante il > continuo ricorso alla tecnocrazia, i tecnocrati sono profondamente > incompetenti. > > Dunque è estremamente improbabile che venga "digitalizzato bene". > > Naturalmente non sono contrario alla digitalizzazione di un certificato. > Tuttavia la digitalizzazione (mamma che parola lunga!) non è sempre > vantaggiosa rispetto alla carta. E' probabile che in tutta una serie di > casi sia saggio accostare ad una rappresentazione elettrica del > certificato, una rappresentazione più tangibile e duratura. > > > Detto questo, è importante osservare che la presenza della blockchain > garantisce oltre ogni ragionevole dubbio che tale digitalizzazione NON sia > "fatta bene". > > > > questo mi sembra un buon use case di SSI > > https://www.covidcreds.com/ > > > Anzitutto la SSI non richiede la blockchain ed anzi, si tratterebbe di una > implementazione inefficiente ed subottimale da un punto di vista di > sicurezza contro diversi attaccanti. > > E poi la certificazione non necessita di SSI. > > Questa è già una mail lunga e non vorrei annoiare nessuno con i dettagli > di come implementare un sistema di certificazione digitale sicura più > distribuito e resiliente di una blockchain. > > Ma non è difficile da immaginare: basta una chiave pubblica per il > vaccinatore, una chiave pubblica dedicata allo specifico vaccino per il > Ministero della Salute e una per il vaccinato. > Il vaccinatore firma la chiave pubblica del vaccinato e la invia (con la > firma) al ministero, che la firma a sua volta e la restituisce al > vaccinatore che la consegna al vaccinato. > > Bonus point: potenzialmente, nessuno sa CHI sia il vaccinato, ma il > vaccinato può dimostrare di essere stato vaccinato. > > Vi sono, naturalmente, dei possibili attacchi a questo sistema, ma sono > del tutto analoghi a quelli che è possibile effettuare contro una > blockchain e che questa non risolve. > > Sono d'accordo su ogni aspetto, la blockchain (poi vediamo cos'è) non ha nessun senso quando esiste un'autorità che può certificare un dato con un banale PKI. Ma da qui in poi ... > D'altronde la blockchain non risolve alcun problema noto all'uomo. > (eccetto forse l'identificazione di alcuni creduloni, di alcuni truffatori > ed alcuni incompetenti, ma purtroppo non tutti) > > In compenso ne crea a bizzeffe. > > La blockchain è uno scomodo artifact che risulta dall'esecuzione di un protocollo di consenso basato su proof of work ed incentivo economico e che serve a risolvere un problema abbastanza ben formulato, ovvero come ottenere il consenso sullo stato di un sistema distribuito in cui i partecipanti sono non autenticati, dove nessuno ha un ruolo di master e dove potenzialmente tutti i partecipanti sono malevoli ma non coordinati fra loro. Con questi requisiti estremi il Nakamoto consensus fornisce una soluzione che sta su da 10 anni. Ora che questo non sia un problema pratico ma solo teorico è opinabile, forse non è un problema per lei ma per alcuni può esserlo. In fondo che bisogno c'era di inventare l'aereo quando potevamo prendere il treno. > > A presto! > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- *Ing. Davide Carboni, PhD Partita IVA 03800580924 -- **Albo sez. A (CA) n. 7236* *Via Stresa 5 - 09045 - Quartu Sant'Elena (CA)Tel: +39 3293547783 * Book call on Calendly <https://calendly.com/dcarboni-1/30min> Blog -- http://digitaldavide.me Dagli Smart Contract alle ICO https://bit.ly/2NI3174

Aug. 8, 2020