April 2019 - nexa - server-nexa.polito.it

the-coming-ai-autumn

by J.C. DE MARTIN

http://jeffreybigham.com/blog/2019/the-coming-ai-autumnn.html (Sent from my wireless device; please excuse brevity and typos (if any))

April 10, 2019

A Year Later, Cybercrime Groups Still Rampant on Facebook

by Alberto Cammozzo

<https://krebsonsecurity.com/2019/04/a-year-later-cybercrime-groups-still-ra…> Almost exactly one year ago, KrebsOnSecurity reported that a mere two hours of searching revealed more than 100 Facebook groups with some 300,000 members openly advertising services to support all types of cybercrime, including spam, credit card fraud and identity theft. Facebook responded by deleting those groups. Last week, a similar analysis led to the takedown of 74 cybercrime groups operating openly on Facebook with more than 385,000 members. Researchers at Cisco Talos discovered the groups using the same sophisticated methods I employed last year — running a search on Facebook.com for terms unambiguously tied to fraud, such as “spam” and “phishing.” Talos said most of the groups were less than a year old, and that Facebook deleted the groups after being notified by Cisco. Talos also re-confirmed my findings that Facebook still generally ignores individual abuse reports about groups that supposedly violate its ‘community standards,’ which specifically forbid the types of activity espoused by the groups that Talos flagged. “Talos initially attempted to take down these groups individually through Facebook’s abuse reporting functionality,” the researchers found. “While some groups were removed immediately, other groups only had specific posts removed.” But Facebook deleted all offending groups after researchers told Facebook’s security team they were going to publish their findings. This is precisely what I experienced a year ago. Not long after Facebook deleted most of the 120 cybercrime groups I reported to it back in April 2018, many of the groups began reemerging elsewhere on the social network under similar names with the same members. Instead of reporting those emergent groups directly to people at Facebook’s public relations arm — something most mere mortals aren’t able to do — KrebsOnSecurity decided to report the re-offenders via Facebook’s regular abuse reporting procedures. What did we find? KrebsOnSecurity received a series of replies saying that Facebook had reviewed my reports but that none of the groups were found to have violated its standards. KrebsOnSecurity later found that reporting the abusive Facebook groups to a quarter-million followers on Twitter was the fastest way to get them disabled. How else have Facebook’s public statements about its supposed commitment to security and privacy been undermined by pesky facts over the past few weeks? KrebsOnSecurity broke the news that Facebook developers wrote apps which stored somewhere between 200 million and 600 million Facebook user passwords in plain text. These plaintext passwords were indexed by Facebook’s data centers and searchable for years by more than 20,000 Facebook employees. It emerged that Facebook’s new account signup page urges users to supply the password to their email account so Facebook can harvest contact details and who knows what else. Yes, that’s right: Facebook has been asking new users to share their email password, despite decades of consumer advice warning that is exactly what phishers do. Cybersecurity firm UpGuard discovered two troves of unprotected Facebook user data sitting on Amazon’s servers, exposing hundreds of millions of records about users, including their names, passwords, comments, interests, and likes. Facebook is making users searchable by marketers and others via phone number, even when that phone number was only provided solely for the purposes of multi-factor authentication. [...]

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Stefano Quintarelli

la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri. il pulpito e' quello. il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire). non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome. ciao, s. On 10/04/2019 15:20, J.C. DE MARTIN wrote: > Grazie, Stefano, molto utile! > > jc > > On 10/04/2019 15:16, Stefano Quintarelli wrote: >> ciao, >> >> nel merito, molte (non poche) delle affermazioni fatte nel testo sono >> banalmente false ed offensive. >> >> inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la >> comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che >> si sappia che >> >> 1.- nel gruppo sono rappresentate voci multistakholder >> >> 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' >> stato scritto cosi'. solo una volta abbiamo votato, su una cosa non >> centrale, per questioni di tempo >> >> 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche >> cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" >> >> 4.- nelle regole di funzionamento (rules of procedure) c'e' il >> classico segreto (tipo chtaham house, per tutelare gli esperti) cosa >> che in altri suoi articoli ed interviste non e' stata rispettata >> >> 5.- queste critiche non sono mai state sollevate all'interno del >> gruppo durante i lavori, solo pubblicate sulla stampa il giorno >> dell'emanazione >> >> 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte >> (una volta 2 ore per cambiare "must" in "should") >> >> 7.- ogni membro puo' registrare la propria dissenting opinion sul >> documento, cosa che nessuno ha chiesto di fare (nemmeno lui) >> >> 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, >> continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno >> lui) >> >> 9.- l'autore si e' presentato ai lavori una volta con una troupe per >> fare delle riprese >> >> ciao, s. >> >> >> On 10/04/2019 15:01, J.C. DE MARTIN wrote: >>> >>> Ethics washing made in Europe >>> >>> On Tuesday, the EU has published ethics guidelines for artificial >>> intelligence. A member of the expert group that drew up the paper >>> says: This is a case of ethical white-washing. >>> >>> Thomas Metzinger >>> >>> /Thomas Metzinger is Professor of Theoretical Philosophy at the >>> University of Mainz and was a member of the commission's expert group >>> that has worked on the guidelines published on Tuesday./ >>> >>> /Read his op-ed in German here >>> <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ >>> >>> >>> It's really good news: Europe has just taken the lead in the hotly >>> contested global debate on the ethics of artificial intelligence >>> (AI). On Monday in Brussels, the EU Commission presented its Ethics >>> Guidelines for Trustworthy AI. The 52-member High-Level Expert Group >>> on Artificial Intelligence (HLEG AI), of which I am a member, worked >>> on the text for nine months. The result is a compromise of which I am >>> not proud, but which is nevertheless the best in the world on the >>> subject. The United States and China have nothing comparable. How >>> does it fit together? >>> >>> >>> [...] >>> >>> continua qui: >>> https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… >>> >>> >>> >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> >> > -- reserve your meeting with me at http://cal.quintarelli.it

April 10, 2019

Codecademy vs. The BBC Micro

by Giacomo Tesio

https://twobithistory.org/2019/03/31/bbc-micro.html In an audacious move, the BBC, a public service broadcaster funded by the government, decided that it would solve Britain’s national competitiveness problems by helping Britons everywhere overcome their aversion to computers. It launched the Computer Literacy Project, a multi-pronged educational effort that involved several TV series, a few books, a network of support groups, and a specially built microcomputer known as the BBC Micro. The project was so successful that, by 1983, an editor for BYTE Magazine wrote, “compared to the US, proportionally more of Britain’s population is interested in microcomputers.” The editor marveled that there were more people at the Fifth Personal Computer World Show in the UK than had been to that year’s West Coast Computer Faire. Over a sixth of Great Britain watched an episode in the first series produced for the Computer Literacy Project and 1.5 million BBC Micros were ultimately sold. [...] If you google “learn to code,” the first result you see is a link to Codecademy’s website. If there is a modern equivalent to the Computer Literacy Project, something with the same reach and similar aims, then it is Codecademy. “Learn to code” is Codecademy’s tagline. I don’t think I’m the first person to point this out—in fact, I probably read this somewhere and I’m now ripping it off—but there’s something revealing about using the word “code” instead of “program.”

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Giacomo Tesio

On 10/04/2019, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > ciao, > > nel merito, molte (non poche) delle affermazioni fatte nel testo sono > banalmente false ed offensive. In effetti sorvola su una frase a pagina 3 delle linee guida che secondo me invece va sottolineata: > This document is a starting point for the discussion > about “Trustworthy AI for Europe”. Come punto di partenza per una riflessione internazionale mi sembra ottimo. Ma se questo documento è definitivo o in qualche modo "authoritative", allora (nel merito) Metzinger pone obbiezioni importanti su cui è bene riflettere. A pagina 12 in "The principle of respect for human autonomy" viene detto: > AI systems should not unjustifiably subordinate, coerce, deceive, > manipulate, condition or herd humans. Chi decide quando manipolare o condizionare gli esseri umani è giustificabile? A pagina 13 in "The principle of explicability" > Explicability is crucial for building and maintaining users’ trust in AI systems. > This means that processes need to be transparent, the capabilities > and purpose of AI systems openly communicated, and decisions > – to the extent possible – explainable Perché "to the extent possible"? Quando non è possibile spiegarle, il principio suddetto è stato semplicemente violato... o sbaglio? Sulla responsabilità (largamente estesa dopo il draft) la frase fondamentale è un po' sommersa dal testo a fine pagina 19, ma almeno è chiara: > It necessitates that mechanisms be put in place to ensure > responsibility and accountability for AI systems and their > outcomes, both before and after their development, > deployment and use. La responsabilità umana DEVE essere sempre riconoscibile e attribuibile. Su questo Metzinger ha assolutamente ragione: > Machines are not trustworthy; only humans can be trustworthy (or untrustworthy). E la preoccupazione che esprime è la stessa che ho avuto io subito dopo l'uscita del draft: > The Trustworthy AI story is a marketing narrative invented > by industry, a bedtime story for tomorrow's customers. [...] > Hence the Trustworthy AI narrative is, in reality, about > developing future markets and using ethics debates > as elegant public decorations for a large-scale > investment strategy. La vaghezza del testo può essere interpretata come un umile riconoscimento dei propri limiti. Ma se si pone come termine del discorso, come framework etico cui è sufficiente adattare le norme, allora posso condividere la preoccupazione di Metzinger. Ha infatti ragione su un punto: l'assenza di PRINCIPI NON NEGOZIABILI è una grave lacuna del testo, ragionevole solo se finalizzata ampliare il dibattito per la loro definizione. Cosa ne pensi? Giacomo

April 10, 2019

"Does Google meet its users’ expectations around consumer privacy? This news industry research says no"

by J.C. DE MARTIN

Does Google meet its users’ expectations around consumer privacy? This news industry research says no /A significant majority of consumers do not expect Google to track their activities across their lives, their locations, on other sites, and on other platforms./ By Jason Kint <https://www.niemanlab.org/author/jkint/> @jason_kint <https://twitter.com/jason_kint> April 3, 2019, 9:52 a.m. https://www.niemanlab.org/2019/04/does-google-meet-its-users-expectations-a…

April 10, 2019

Special Issue IEEE: "Machine Ethics: The Design and Governance of Ethical AI and Autonomous Systems"

by J.C. DE MARTIN

PROCEEDINGS OF THE IEEE Machine Ethics: The Design and Governance of Ethical AI and Autonomous Systems Volume 107, Issue 3 | March 2019 Guest Editors Special Issue Papers Point of View: The Trolley, the Bull Bar, and Why Engineers Should Care About the Ethics of Autonomous Cars Point of View: Toward the Agile and Comprehensive International Governance of AI and Robotics Scanning Our Past: Computer Graphic Re-Visited: The Virtual Reconstruction of One of the First Computer Art Exhibitions http://proceedingsoftheieee.ieee.org/view-recent-issues/march-2019/ Special Issue Papers Scanning the Issue By A. F. Winfield, K. Michael, J. Pitt, and V. Evers Designing a Value-Driven Future for Ethical Autonomous and Intelligent Systems By G. Adamson, J. C. Havens, and R. Chatila This paper provides an overview of IEEE’s current activities related to ethics and argues that human values must drive our future autonomous systems in a way that both protects and benefits humanity. A Value-Driven Eldercare Robot: Virtual and Physical Instantiations of a Case-Supported Principle-Based Behavior Paradigm By M. Anderson, S. L. Anderson, and V. Berenz This paper describes both simulated and real-robot implementations of an eldercare robot in which ethical principles are learned, via inductive logical programming, from a set of training examples provided by a project ethicist. On Proactive, Transparent, and Verifiable Ethical Reasoning for Robots By P. Bremner, L. A. Dennis, M. Fisher, and A. F. Winfield In this paper, the authors review and update an approach to the design of ethical robots based on a simulation-based internal model, in which the ethical robot’s reasoning is both transparent and verifiable. Motivations and Risks of Machine Ethics By S. Cave, R. Nyrup, K. Vold, and A. Weller In this paper, the authors clarify various philosophical issues surrounding the concept of an ethical machine and the aims of machine ethics, outlining the potential risks that must be considered and managed. Clarifying Privacy, Property, and Power: Case Study on Value Conflict Between Communities By A. Ema, H. Osawa, R. Saijo, A. Kubo, T. Otani, H. Hattori, N. Akiya, N. Kanzaki, M. Kukita, K. Komatani, and R. Ichise Based around a case study on the “flaming” of fan fiction, this paper aims to clarify notions of privacy and draw lessons for the ethical governance of AI in the presence of value conflicts. Engineering-Based Design Methodology for Embedding Ethics in Autonomous Robots By L. J. Robertson, R. Abbas, G. Alici, A. Munoz, and K. Michael This paper explores a method for embedding ethics into the design and use of an endoscopic capsule for diagnosis and drug delivery, using a codesign approach to reduce end-user risk. Inside the Organization: Why Privacy and Security Engineering Is a Challenge for Engineers By S. Spiekermann, J. Korunovska, and M. Langheinrich This paper reports on the findings from a survey of 124 engineers in order to understand the drivers and impediments facing ethical systems development with respect to privacy and security engineering. Point of View The Trolley, the Bull Bar, and Why Engineers Should Care About the Ethics of Autonomous Cars By J. Bonnefon, A. Shariff, and I. Rahwan Point of View Toward the Agile and Comprehensive International Governance of AI and Robotics By W. Wallach and G. Marchant Scanning Our Past Computer Graphic Re-Visited: The Virtual Reconstruction of One of the First Computer Art Exhibitions By J. Horáková and J. Mucha

April 10, 2019

Re: [nexa] Cloud europeo per maggiore competitività

by Giacomo Tesio

On 10/04/2019, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > > On 10/04/2019 14:23, Giacomo Tesio wrote: >> Ma delegheresti ad un azienda che opera secondo criteri >> di mercato la gestione del tuo sistema nervoso? > > secondo te e' un paragone appropriato ? Assolutamente sì! Ma non è del tutto farina del mio sacco... è una metafora ispirata al Leviatano di Hobbes. > non mi risultano assessori e stradini che producono il proprio silicio. Sono confuso, cosa c'entra? Ogni comune ha un "Ufficio Tecnico". Aggiungere una server farm ed un "Ufficio Informatico" non dovrebbe essere troppo complicato. > btw, se uno e' in grado di fare, e' anche in grado di controllare che > sia ben fatto. Ehm... no. Io so fare molte cose, ma non potrei mai dimostrare che la tua privacy non è stata violata da Google. Nemmeno se avessi un mandato illimitato, una plotone di hacker, accesso contemporaneo a tutte le loro server farm ed interrompendo il servizio su tutto il pianeta. A Larry Page basta poco più di un `mv /cloud/europe/profiles/it/quintarelli/secret.txt /mnt/usb/` per rimuovere qualsiasi prova prima che io possa avere il tempo di trovarla. (ok... forse con un plotone di hacker, qualcosa potrei trovare... ma anche Page non è scemo) > la risposta alla domanda comunque e' si. > lo delego spessissimo. e non solo il mio sistema nervoso, ma anche tutto > il resto, anche tra 3 ore quando prendero' un aereo per tornare in italia. Allora potresti chiedere all'hostess se hanno un DVD del primo Matrix. :-D Chi controlla il tuo sistema nervoso, controlla te. D'altro canto, ce ne fossero di persone disposte a cedere così facilmente la propria libertà: se non ti importa di chi controlla il tuo cervello, sei perfetto per il NOPA; Nuovo Ordine Politico Autoritario! :-D Ora, se mi obbietti che tanto l'Europa non ha UN cervello perché si ostina a rimanere una federazione di stati invece di riconoscere la propria unità, posso essere d'accordo. Ma se è vero che delegare ad un'azienda è facile, è anche troppo facile. Immagina quanto lavoro dovremmo fare per stabilire protocolli condivisi e sviluppare software adeguati al fine di mettere in rete le biblioteche, le scuole, o i comuni europei. Tutto quel lavoro, tutta quella fatica, potrebbe costituire il fondamento di un Unione Europea più solida, più fraterna. Perché diciamolo: costruire una Nazione a partire dalla moneta si è rivelata una pessima idea. Giacomo

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by J.C. DE MARTIN

Grazie, Stefano, molto utile! jc On 10/04/2019 15:16, Stefano Quintarelli wrote: > ciao, > > nel merito, molte (non poche) delle affermazioni fatte nel testo sono > banalmente false ed offensive. > > inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la > comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che > si sappia che > > 1.- nel gruppo sono rappresentate voci multistakholder > > 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' > stato scritto cosi'. solo una volta abbiamo votato, su una cosa non > centrale, per questioni di tempo > > 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche > cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" > > 4.- nelle regole di funzionamento (rules of procedure) c'e' il > classico segreto (tipo chtaham house, per tutelare gli esperti) cosa > che in altri suoi articoli ed interviste non e' stata rispettata > > 5.- queste critiche non sono mai state sollevate all'interno del > gruppo durante i lavori, solo pubblicate sulla stampa il giorno > dell'emanazione > > 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte > (una volta 2 ore per cambiare "must" in "should") > > 7.- ogni membro puo' registrare la propria dissenting opinion sul > documento, cosa che nessuno ha chiesto di fare (nemmeno lui) > > 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, > continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno > lui) > > 9.- l'autore si e' presentato ai lavori una volta con una troupe per > fare delle riprese > > ciao, s. > > > On 10/04/2019 15:01, J.C. DE MARTIN wrote: >> >> Ethics washing made in Europe >> >> On Tuesday, the EU has published ethics guidelines for artificial >> intelligence. A member of the expert group that drew up the paper >> says: This is a case of ethical white-washing. >> >> Thomas Metzinger >> >> /Thomas Metzinger is Professor of Theoretical Philosophy at the >> University of Mainz and was a member of the commission's expert group >> that has worked on the guidelines published on Tuesday./ >> >> /Read his op-ed in German here >> <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ >> >> It's really good news: Europe has just taken the lead in the hotly >> contested global debate on the ethics of artificial intelligence >> (AI). On Monday in Brussels, the EU Commission presented its Ethics >> Guidelines for Trustworthy AI. The 52-member High-Level Expert Group >> on Artificial Intelligence (HLEG AI), of which I am a member, worked >> on the text for nine months. The result is a compromise of which I am >> not proud, but which is nevertheless the best in the world on the >> subject. The United States and China have nothing comparable. How >> does it fit together? >> >> >> [...] >> >> continua qui: >> https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… >> >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> >

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Stefano Quintarelli

ciao, nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive. inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che 1.- nel gruppo sono rappresentate voci multistakholder 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata 5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should") 7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui) 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese ciao, s. On 10/04/2019 15:01, J.C. DE MARTIN wrote: > > Ethics washing made in Europe > > On Tuesday, the EU has published ethics guidelines for artificial > intelligence. A member of the expert group that drew up the paper says: > This is a case of ethical white-washing. > > Thomas Metzinger > > /Thomas Metzinger is Professor of Theoretical Philosophy at the > University of Mainz and was a member of the commission's expert group > that has worked on the guidelines published on Tuesday./ > > /Read his op-ed in German here > <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ > > It's really good news: Europe has just taken the lead in the hotly > contested global debate on the ethics of artificial intelligence (AI). > On Monday in Brussels, the EU Commission presented its Ethics Guidelines > for Trustworthy AI. The 52-member High-Level Expert Group on Artificial > Intelligence (HLEG AI), of which I am a member, worked on the text for > nine months. The result is a compromise of which I am not proud, but > which is nevertheless the best in the world on the subject. The United > States and China have nothing comparable. How does it fit together? > > > [...] > > continua qui: > https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- reserve your meeting with me at http://cal.quintarelli.it

April 10, 2019