April 2019 - nexa - server-nexa.polito.it

Official EU Agencies Falsely Report More Than 550 Archive.org URLs as Terrorist Content

by Giacomo

http://blog.archive.org/2019/04/10/official-eu-agencies-falsely-report-more… The European Parliament is set to vote on legislation that would require websites that host user-generated content to take down material reported as terrorist content within one hour. We have some examples of current notices sent to the Internet Archive that we think illustrate very well why this requirement would be harmful to the free sharing of information and freedom of speech that the European Union pledges to safeguard. In the past week, the Internet Archive has received a series of email notices from Europol’s European Union Internet Referral Unit (EU IRU) falsely identifying hundreds of URLs on archive.org as “terrorist propaganda”. At least one of these mistaken URLs was also identified as terrorist content in a separate take down notice from the French government’s L’Office Central de Lutte contre la Criminalité liée aux Technologies de l’Information et de la Communication

April 11, 2019

Security Flaws in WPA3 Protocol Let Attackers Hack WiFi Password

by Giacomo

https://thehackernews.com/2019/04/wpa3-hack-wifi-password.html The Wi-Fi Protected Access III (WPA3) protocol was launched in an attempt to address technical shortcomings of the WPA2 protocol from the ground, which has long been considered to be insecure and found vulnerable to KRACK (Key Reinstallation Attack). Though WPA3 relies on a more secure handshake, known as Dragonfly, that aims to protect Wi-Fi networks against offline dictionary attacks, security researchers Mathy Vanhoef and Eyal Ronen found weaknesses in the early implementation of WPA3-Personal, allowing an attacker to recover WiFi passwords by abusing timing or cache-based side-channel leaks. "Concretely, attackers can then read information that WPA3 was assumed to safely encrypt. This can be abused to steal sensitive transmitted information such as credit card numbers, passwords, chat messages, emails, and so on," the researchers say.

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Stefano Quintarelli

Non malattia, memoria... Maledetto correttore In data 10 aprile 2019 10:53:22 PM Enrico Nardelli <nardelli(a)mat.uniroma2.it> ha scritto: > Grazie di nuovo, Stefano. > Ciao, Enrico > > Il 10/04/2019 20:24, Stefano Quintarelli ha scritto: > > A mia malattia, non è stato registrato alcun dissenso su quelle due > frasi che sono state scelte (con consenso) tra diverse opzioni (anche > altre) che sono state ipotizzate > > > > Quando sei in 50, uno propone una parola, un altro dice un'altra ed alla > fine si considera su una parola. > > > > In un caso il tema diviene delicato e si passa molto tempo a discutere, > come quando abbiamo passato due ore per modificare una frase, proponendo > aggiunte, cancellazioni, modifiche, ed alla fine cambiare "must" in "should" > > > > A mia memoria la discussione sulle frasi citate è durata pochi minuti > > > > > > Ciao, s. > > > > > > In data 10 aprile 2019 8:08:30 PM Enrico Nardelli > <nardelli(a)mat.uniroma2.it> ha scritto: > > > > Grazie Stefano > > > > la tua testimonianza "oculare" è preziosa. > > > > Anche a me il firmare un documento cui si sta contribuendo, senza > verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come > una stonatura ed una ricerca di visibilità. Anche se posso capire che > qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è > quello che avrei fatto io, comunque. > > > > Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione > che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione > "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è > effettivamente successo nel corso dei lavori del gruppo. > > > > Grazie mille, Enrico > > > > > > Il 10/04/2019 17:40, Stefano Quintarelli ha scritto: > > la mia opinione, conoscendo direttamente i fatti, e' che lui ha > scientemente violato degli impegni formali (ed etici) nei confronti degli > altri. > > > > il pulpito e' quello. > > > > il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su > come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un > gruppo, con persone indipendenti che non seguono il dettato di alcuno. > > (come lo fu per la dichiarazione dei diritti in internet, per capire). > > > > non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito > anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non > sia un argomento di competenza dell'unione europea, e quindi vada aldila' > del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi > autonome. > > > > ciao, s. > > > > > > On 10/04/2019 15:20, J.C. DE MARTIN wrote: > > Grazie, Stefano, molto utile! > > > > jc > > > > On 10/04/2019 15:16, Stefano Quintarelli wrote: > > ciao, > > > > nel merito, molte (non poche) delle affermazioni fatte nel testo sono > banalmente false ed offensive. > > > > inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la > comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si > sappia che > > > > 1.- nel gruppo sono rappresentate voci multistakholder > > > > 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' > stato scritto cosi'. solo una volta abbiamo votato, su una cosa non > centrale, per questioni di tempo > > > > 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato > l'obiettivo da policy per "trusted AI" a "trustworthy AI" > > > > 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico > segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri > suoi articoli ed interviste non e' stata rispettata > > > > 5.- queste critiche non sono mai state sollevate all'interno del gruppo > durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione > > > > 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una > volta 2 ore per cambiare "must" in "should") > > > > 7.- ogni membro puo' registrare la propria dissenting opinion sul > documento, cosa che nessuno ha chiesto di fare (nemmeno lui) > > > > 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, > continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) > > > > 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare > delle riprese > > > > ciao, s. > > > > > > On 10/04/2019 15:01, J.C. DE MARTIN wrote: > > > > Ethics washing made in Europe > > > > On Tuesday, the EU has published ethics guidelines for artificial > intelligence. A member of the expert group that drew up the paper says: > This is a case of ethical white-washing. > > > > Thomas Metzinger > > > > /Thomas Metzinger is Professor of Theoretical Philosophy at the > University of Mainz and was a member of the commission's expert group that > has worked on the guidelines published on Tuesday./ > > > > /Read his op-ed in German here > <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ > > > > It's really good news: Europe has just taken the lead in the hotly > contested global debate on the ethics of artificial intelligence (AI). On > Monday in Brussels, the EU Commission presented its Ethics Guidelines for > Trustworthy AI. The 52-member High-Level Expert Group on Artificial > Intelligence (HLEG AI), of which I am a member, worked on the text for nine > months. The result is a compromise of which I am not proud, but which is > nevertheless the best in the world on the subject. The United States and > China have nothing comparable. How does it fit together? > > > > > > [...] > > > > continua qui: > https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… > > > > > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > > -- EN > > > > ===================================================================== > > Prof. Enrico Nardelli > > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > > Via della Ricerca Scientifica snc - 00133 Roma > > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > > home page: http://www.mat.uniroma2.it/~nardelli > > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > > http://link-and-think.blogspot.it/ > > ===================================================================== > > -- > > > > > > > > -- EN > > ===================================================================== > Prof. Enrico Nardelli > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > home page: http://www.mat.uniroma2.it/~nardelli > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > http://link-and-think.blogspot.it/ > ===================================================================== > --

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Enrico Nardelli

Grazie di nuovo, Stefano. Ciao, Enrico Il 10/04/2019 20:24, Stefano Quintarelli ha scritto: > A mia malattia, non è stato registrato alcun dissenso su quelle due frasi che sono state scelte (con consenso) tra diverse opzioni (anche altre) che sono state ipotizzate > > Quando sei in 50, uno propone una parola, un altro dice un'altra ed alla fine si considera su una parola. > > In un caso il tema diviene delicato e si passa molto tempo a discutere, come quando abbiamo passato due ore per modificare una frase, proponendo aggiunte, cancellazioni, modifiche, ed alla fine cambiare "must" in "should" > > A mia memoria la discussione sulle frasi citate è durata pochi minuti > > > Ciao, s. > > > In data 10 aprile 2019 8:08:30 PM Enrico Nardelli <nardelli(a)mat.uniroma2.it> ha scritto: > > Grazie Stefano > > la tua testimonianza "oculare" è preziosa. > > Anche a me il firmare un documento cui si sta contribuendo, senza verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come una stonatura ed una ricerca di visibilità. Anche se posso capire che qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è quello che avrei fatto io, comunque. > > Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è effettivamente successo nel corso dei lavori del gruppo. > > Grazie mille, Enrico > > > Il 10/04/2019 17:40, Stefano Quintarelli ha scritto: > la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri. > > il pulpito e' quello. > > il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. > (come lo fu per la dichiarazione dei diritti in internet, per capire). > > non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome. > > ciao, s. > > > On 10/04/2019 15:20, J.C. DE MARTIN wrote: > Grazie, Stefano, molto utile! > > jc > > On 10/04/2019 15:16, Stefano Quintarelli wrote: > ciao, > > nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive. > > inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che > > 1.- nel gruppo sono rappresentate voci multistakholder > > 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo > > 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" > > 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata > > 5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione > > 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should") > > 7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui) > > 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) > > 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese > > ciao, s. > > > On 10/04/2019 15:01, J.C. DE MARTIN wrote: > > Ethics washing made in Europe > > On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing. > > Thomas Metzinger > > /Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./ > > /Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ > > It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together? > > > [...] > > continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > -- EN > > ===================================================================== > Prof. Enrico Nardelli > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > home page: http://www.mat.uniroma2.it/~nardelli > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > http://link-and-think.blogspot.it/ > ===================================================================== > -- > > > -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

April 10, 2019

Re: [nexa] the-coming-ai-autumn

by Giacomo

On April 10, 2019 4:36:39 PM UTC, "J.C. DE MARTIN" <demartin(a)polito.it> wrote: > >http://jeffreybigham.com/blog/2019/the-coming-ai-autumnn.html > A few days ago, I mused on Twitter whether the > hype would go away if we stopped calling the > field “AI” and instead used the much more > specific and correct term, “statistical pattern > recognition.” Non male. "Statistical function guess" o "Statistical procedure guess" (per includere anche le RNN) sarebbero più precisi per la branca della AI di cui parla l'autore. Vado a proporglielo. Giacomo

April 10, 2019

Landlord 2.0: Tech’s New Rentier Capitalism – OneZero

by J.C. DE MARTIN

https://onezero.medium.com/landlord-2-0-techs-new-rentier-capitalism-a0bfe4… (Sent from my wireless device; please excuse brevity and typos (if any))

April 10, 2019

Election meddling by foreign powers already underway, says Canadian spy agency

by Alberto Cammozzo

I servizi in Canada e Israele sono preoccupati per gli interventi (russi e cinesi) nei social che mirerebbero ad accentuare la frammentazione politica e la polarizzazione sociale. *Election meddling by foreign powers already underway, says Canadian spy agency* <https://intelnews.org/2019/04/09/01-2527/> CSE CanadaThe manipulation of social media by foreign governments aiming to sow division in Canada ahead of the country’s federal election in October is growing, according to the country’s signals intelligence agency. In a report published Monday, the Communications Security Establishment (CSE), Canada’s national communications interception agency, warns that election meddling by foreign powers is already taking place. The report, titled “2019 Update: Cyber Threats to Canada’s Democratic Process”, says that voters, as well as specific political figures, have been targeted by foreign powers since 2015 in the North American country. The foreign intelligence agencies behind the efforts to manipulate Canada’s electoral process have systematically attempted to “polarize Canadians or undermine Canada’s foreign policy goals”, says the report. These efforts will continue and intensify in the run-up to October, claims the report, and concludes by warning that Canadians should expect to “encounter some form of foreign cyber interference ahead of, and during, the 2019 federal election”. However, foreign cyber interference on the scale that was experienced in the months leading up to the 2016 presidential election in the United States is improbable, according to the CSE. Meanwhile, in an unrelated development, the former director of the Canadian Security Intelligence Service (CSIS), Canada’s primary national intelligence service, said in an interview last week that Ottawa would have to be patient in dealing with Russia and —especially— China. Speaking at a public forum hosted by the Canadian International Council in Vancouver, Richard Fadden noted that neither China nor Russia wish to go to war with the West. What they want instead is to “fragment the West” and thus increase their own influence on the international scene, said Fadden, who directed the CSIS from 2009 to 2013. It would be fair for Canada to “poke back”, he said, but would have to be “careful how [to] do it”, he added. “We need to be realistic. We’re dealing with an emergent superpower and […] we’re going to have to be patient”, Fadden concluded. Anche qui: <https://www.theguardian.com/world/2019/apr/08/canada-election-meddling-soci…> *Why Are Israeli Elections Extremely Sensitive to Fake News?* <https://www.cfr.org/blog/why-are-israeli-elections-extremely-sensitive-fake…> [...] Political, economic, and social splits are the most important elements in the creation and distribution of fake news. Malicious actors tend to use fake news in order to heighten existing tensions between political, social, or religious groups. This weakened social cohesion makes societies more vulnerable to foreign influence campaigns. Many of the Russian trolls messages on social networks during the 2016 U.S. presidential elections did not focus on the presidential candidates, but rather were aimed at increasing tensions between American voters in the various issues of American society, especially between black and white Americans. By strengthening the conflicts, the Russian trolls sought to weaken the societal unity in the United States and public confidence in the U.S. democratic structure thereby influencing voting patterns. Israel’s inherent political instability, along with the great fragmentation of Israeli society, makes the country particularly vulnerable to foreign influence activities. Those who want to influence Israeli politics and foreign policy by disseminating fake news on social networks will be able to invest relatively limited and short-term efforts to exploit the existing divisions within the country. At the end of January, the technology firm Vocativ unveiled Iranian influence efforts, mainly on Twitter, which reached an estimated target audience of half a million Israeli users a month. The bots often rephrased authentic news headlines in a controversial manner to incite divisive responses from the electorate, focusing on issues such as wealth inequality, sexual harassment, poverty in Israel, and undermining of the Supreme Court. If successful, these efforts could lead to a shift of three or four seats on the electoral map, which may be very significant for determining the winning candidate of the upcoming elections. The Israeli answer to disinformation activities Despite the fateful potential of foreign influence campaigns, Israel - the "startup nation" - is lagging behind other countries in dealing with these campaigns. While some countries have developed coherent strategies for dealing with fake news, such as Denmark’s establishment of an inter-ministerial task force to counter influence operations in 2017, the current Israeli steps against online disinformation campaigns rely only on ad-hoc measures. For example, since the beginning of the election campaign, the Ministry of Foreign Affairs has worked with Twitter to identify and block more than 400 accounts that spread fake news. But what will happen after April 9? It can be assumed that regardless of the level of the foreign involvement in the upcoming elections, proposals to establish a permanent and long-term policy for dealing with foreign disinformation campaigns will be discussed. Based on worldwide experience and taking into account the Israeli reality, there are two steps that can be considered for effective Israeli policy. In 2017, the Central Elections Committee formulated recommendations to update the Propaganda Methods Law, which had not been updated since 1959. The recommendations included creating a duty of transparency for political publications on social networks (a step now being implemented by the Chairman of the Central Elections Committee, Judge Hanan Melcer), the prohibition of advertising of sponsored ads on networks on election day, the explicit prohibition to publish racist content during the elections, and improving the transparency of published election surveys. The legislative process for approving the recommendations was stalled, so its completion is vital. The second measure should be educational. In countries such as Canada, Belgium, and Croatia, there are varied media literacy campaigns and the Luxembourgian government implemented a national digital education strategy within its education system. Online influence operations for political needs are not limited to election campaigns and are becoming increasingly sophisticated. Therefore, it is important that the Israeli government formulate and implement relevant policies as soon as possible.

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Stefano Quintarelli

A mia malattia, non è stato registrato alcun dissenso su quelle due frasi che sono state scelte (con consenso) tra diverse opzioni (anche altre) che sono state ipotizzate Quando sei in 50, uno propone una parola, un altro dice un'altra ed alla fine si considera su una parola. In un caso il tema diviene delicato e si passa molto tempo a discutere, come quando abbiamo passato due ore per modificare una frase, proponendo aggiunte, cancellazioni, modifiche, ed alla fine cambiare "must" in "should" A mia memoria la discussione sulle frasi citate è durata pochi minuti Ciao, s. In data 10 aprile 2019 8:08:30 PM Enrico Nardelli <nardelli(a)mat.uniroma2.it> ha scritto: Grazie Stefano la tua testimonianza "oculare" è preziosa. Anche a me il firmare un documento cui si sta contribuendo, senza verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come una stonatura ed una ricerca di visibilità. Anche se posso capire che qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è quello che avrei fatto io, comunque. Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è effettivamente successo nel corso dei lavori del gruppo. Grazie mille, Enrico Il 10/04/2019 17:40, Stefano Quintarelli ha scritto: la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri. il pulpito e' quello. il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire). non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome. ciao, s. On 10/04/2019 15:20, J.C. DE MARTIN wrote: Grazie, Stefano, molto utile! jc On 10/04/2019 15:16, Stefano Quintarelli wrote: ciao, nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive. inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che 1.- nel gruppo sono rappresentate voci multistakholder 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata 5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should") 7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui) 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese ciao, s. On 10/04/2019 15:01, J.C. DE MARTIN wrote: Ethics washing made in Europe On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing. Thomas Metzinger /Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./ /Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together? [...] continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Enrico Nardelli

Grazie Stefano la tua testimonianza "oculare" è preziosa. Anche a me il firmare un documento cui si sta contribuendo, senza verbalizzare il dissenso, e il criticarlo a posteriori suona un po' come una stonatura ed una ricerca di visibilità. Anche se posso capire che qualcuno può ritenerlo un modo più incisivo di lottare per una causa. Non è quello che avrei fatto io, comunque. Volevo però chiederti, se ne hai testimonianza diretta, se l'evoluzione che Metzinger racconta nel suo articolo, del rimuovere prima l'espressione "non negotiable" e poi l'espressione "Red Lines" corrisponde a ciò che è effettivamente successo nel corso dei lavori del gruppo. Grazie mille, Enrico Il 10/04/2019 17:40, Stefano Quintarelli ha scritto: > la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri. > > il pulpito e' quello. > > il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. > (come lo fu per la dichiarazione dei diritti in internet, per capire). > > non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome. > > ciao, s. > > > On 10/04/2019 15:20, J.C. DE MARTIN wrote: >> Grazie, Stefano, molto utile! >> >> jc >> >> On 10/04/2019 15:16, Stefano Quintarelli wrote: >>> ciao, >>> >>> nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive. >>> >>> inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che >>> >>> 1.- nel gruppo sono rappresentate voci multistakholder >>> >>> 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo >>> >>> 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" >>> >>> 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata >>> >>> 5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione >>> >>> 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should") >>> >>> 7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui) >>> >>> 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) >>> >>> 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese >>> >>> ciao, s. >>> >>> >>> On 10/04/2019 15:01, J.C. DE MARTIN wrote: >>>> >>>> Ethics washing made in Europe >>>> >>>> On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing. >>>> >>>> Thomas Metzinger >>>> >>>> /Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./ >>>> >>>> /Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ >>>> >>>> It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together? >>>> >>>> >>>> [...] >>>> >>>> continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… >>>> >>>> >>>> _______________________________________________ >>>> nexa mailing list >>>> nexa(a)server-nexa.polito.it >>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>>> >>> >> > -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

April 10, 2019

Police Body Cameras Aren't Having the Effects Many Expected

by J.C. DE MARTIN

https://www.governing.com/topics/public-justice-safety/gov-body-camera-effe… (Sent from my wireless device; please excuse brevity and typos (if any))

April 10, 2019

the-coming-ai-autumn

by J.C. DE MARTIN

http://jeffreybigham.com/blog/2019/the-coming-ai-autumnn.html (Sent from my wireless device; please excuse brevity and typos (if any))

April 10, 2019

A Year Later, Cybercrime Groups Still Rampant on Facebook

by Alberto Cammozzo

<https://krebsonsecurity.com/2019/04/a-year-later-cybercrime-groups-still-ra…> Almost exactly one year ago, KrebsOnSecurity reported that a mere two hours of searching revealed more than 100 Facebook groups with some 300,000 members openly advertising services to support all types of cybercrime, including spam, credit card fraud and identity theft. Facebook responded by deleting those groups. Last week, a similar analysis led to the takedown of 74 cybercrime groups operating openly on Facebook with more than 385,000 members. Researchers at Cisco Talos discovered the groups using the same sophisticated methods I employed last year — running a search on Facebook.com for terms unambiguously tied to fraud, such as “spam” and “phishing.” Talos said most of the groups were less than a year old, and that Facebook deleted the groups after being notified by Cisco. Talos also re-confirmed my findings that Facebook still generally ignores individual abuse reports about groups that supposedly violate its ‘community standards,’ which specifically forbid the types of activity espoused by the groups that Talos flagged. “Talos initially attempted to take down these groups individually through Facebook’s abuse reporting functionality,” the researchers found. “While some groups were removed immediately, other groups only had specific posts removed.” But Facebook deleted all offending groups after researchers told Facebook’s security team they were going to publish their findings. This is precisely what I experienced a year ago. Not long after Facebook deleted most of the 120 cybercrime groups I reported to it back in April 2018, many of the groups began reemerging elsewhere on the social network under similar names with the same members. Instead of reporting those emergent groups directly to people at Facebook’s public relations arm — something most mere mortals aren’t able to do — KrebsOnSecurity decided to report the re-offenders via Facebook’s regular abuse reporting procedures. What did we find? KrebsOnSecurity received a series of replies saying that Facebook had reviewed my reports but that none of the groups were found to have violated its standards. KrebsOnSecurity later found that reporting the abusive Facebook groups to a quarter-million followers on Twitter was the fastest way to get them disabled. How else have Facebook’s public statements about its supposed commitment to security and privacy been undermined by pesky facts over the past few weeks? KrebsOnSecurity broke the news that Facebook developers wrote apps which stored somewhere between 200 million and 600 million Facebook user passwords in plain text. These plaintext passwords were indexed by Facebook’s data centers and searchable for years by more than 20,000 Facebook employees. It emerged that Facebook’s new account signup page urges users to supply the password to their email account so Facebook can harvest contact details and who knows what else. Yes, that’s right: Facebook has been asking new users to share their email password, despite decades of consumer advice warning that is exactly what phishers do. Cybersecurity firm UpGuard discovered two troves of unprotected Facebook user data sitting on Amazon’s servers, exposing hundreds of millions of records about users, including their names, passwords, comments, interests, and likes. Facebook is making users searchable by marketers and others via phone number, even when that phone number was only provided solely for the purposes of multi-factor authentication. [...]

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Stefano Quintarelli

la mia opinione, conoscendo direttamente i fatti, e' che lui ha scientemente violato degli impegni formali (ed etici) nei confronti degli altri. il pulpito e' quello. il documento e' migliorabile ? certamente. esistono almeno 52 opinioni su come si potrebbe migliorare. ma questa e' l'essenza di lavorare in un gruppo, con persone indipendenti che non seguono il dettato di alcuno. (come lo fu per la dichiarazione dei diritti in internet, per capire). non ho detto una cosa, che pero' e' stata divulgata e che ho ribadito anche ieri sera a testimonianza dell'indipendenza: sebbene la difesa non sia un argomento di competenza dell'unione europea, e quindi vada aldila' del mandato del gruppo, abbiamo deciso di inserire un paragrafo sulle armi autonome. ciao, s. On 10/04/2019 15:20, J.C. DE MARTIN wrote: > Grazie, Stefano, molto utile! > > jc > > On 10/04/2019 15:16, Stefano Quintarelli wrote: >> ciao, >> >> nel merito, molte (non poche) delle affermazioni fatte nel testo sono >> banalmente false ed offensive. >> >> inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la >> comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che >> si sappia che >> >> 1.- nel gruppo sono rappresentate voci multistakholder >> >> 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' >> stato scritto cosi'. solo una volta abbiamo votato, su una cosa non >> centrale, per questioni di tempo >> >> 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche >> cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" >> >> 4.- nelle regole di funzionamento (rules of procedure) c'e' il >> classico segreto (tipo chtaham house, per tutelare gli esperti) cosa >> che in altri suoi articoli ed interviste non e' stata rispettata >> >> 5.- queste critiche non sono mai state sollevate all'interno del >> gruppo durante i lavori, solo pubblicate sulla stampa il giorno >> dell'emanazione >> >> 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte >> (una volta 2 ore per cambiare "must" in "should") >> >> 7.- ogni membro puo' registrare la propria dissenting opinion sul >> documento, cosa che nessuno ha chiesto di fare (nemmeno lui) >> >> 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, >> continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno >> lui) >> >> 9.- l'autore si e' presentato ai lavori una volta con una troupe per >> fare delle riprese >> >> ciao, s. >> >> >> On 10/04/2019 15:01, J.C. DE MARTIN wrote: >>> >>> Ethics washing made in Europe >>> >>> On Tuesday, the EU has published ethics guidelines for artificial >>> intelligence. A member of the expert group that drew up the paper >>> says: This is a case of ethical white-washing. >>> >>> Thomas Metzinger >>> >>> /Thomas Metzinger is Professor of Theoretical Philosophy at the >>> University of Mainz and was a member of the commission's expert group >>> that has worked on the guidelines published on Tuesday./ >>> >>> /Read his op-ed in German here >>> <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ >>> >>> >>> It's really good news: Europe has just taken the lead in the hotly >>> contested global debate on the ethics of artificial intelligence >>> (AI). On Monday in Brussels, the EU Commission presented its Ethics >>> Guidelines for Trustworthy AI. The 52-member High-Level Expert Group >>> on Artificial Intelligence (HLEG AI), of which I am a member, worked >>> on the text for nine months. The result is a compromise of which I am >>> not proud, but which is nevertheless the best in the world on the >>> subject. The United States and China have nothing comparable. How >>> does it fit together? >>> >>> >>> [...] >>> >>> continua qui: >>> https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… >>> >>> >>> >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> >> > -- reserve your meeting with me at http://cal.quintarelli.it

April 10, 2019

Codecademy vs. The BBC Micro

by Giacomo Tesio

https://twobithistory.org/2019/03/31/bbc-micro.html In an audacious move, the BBC, a public service broadcaster funded by the government, decided that it would solve Britain’s national competitiveness problems by helping Britons everywhere overcome their aversion to computers. It launched the Computer Literacy Project, a multi-pronged educational effort that involved several TV series, a few books, a network of support groups, and a specially built microcomputer known as the BBC Micro. The project was so successful that, by 1983, an editor for BYTE Magazine wrote, “compared to the US, proportionally more of Britain’s population is interested in microcomputers.” The editor marveled that there were more people at the Fifth Personal Computer World Show in the UK than had been to that year’s West Coast Computer Faire. Over a sixth of Great Britain watched an episode in the first series produced for the Computer Literacy Project and 1.5 million BBC Micros were ultimately sold. [...] If you google “learn to code,” the first result you see is a link to Codecademy’s website. If there is a modern equivalent to the Computer Literacy Project, something with the same reach and similar aims, then it is Codecademy. “Learn to code” is Codecademy’s tagline. I don’t think I’m the first person to point this out—in fact, I probably read this somewhere and I’m now ripping it off—but there’s something revealing about using the word “code” instead of “program.”

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Giacomo Tesio

On 10/04/2019, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > ciao, > > nel merito, molte (non poche) delle affermazioni fatte nel testo sono > banalmente false ed offensive. In effetti sorvola su una frase a pagina 3 delle linee guida che secondo me invece va sottolineata: > This document is a starting point for the discussion > about “Trustworthy AI for Europe”. Come punto di partenza per una riflessione internazionale mi sembra ottimo. Ma se questo documento è definitivo o in qualche modo "authoritative", allora (nel merito) Metzinger pone obbiezioni importanti su cui è bene riflettere. A pagina 12 in "The principle of respect for human autonomy" viene detto: > AI systems should not unjustifiably subordinate, coerce, deceive, > manipulate, condition or herd humans. Chi decide quando manipolare o condizionare gli esseri umani è giustificabile? A pagina 13 in "The principle of explicability" > Explicability is crucial for building and maintaining users’ trust in AI systems. > This means that processes need to be transparent, the capabilities > and purpose of AI systems openly communicated, and decisions > – to the extent possible – explainable Perché "to the extent possible"? Quando non è possibile spiegarle, il principio suddetto è stato semplicemente violato... o sbaglio? Sulla responsabilità (largamente estesa dopo il draft) la frase fondamentale è un po' sommersa dal testo a fine pagina 19, ma almeno è chiara: > It necessitates that mechanisms be put in place to ensure > responsibility and accountability for AI systems and their > outcomes, both before and after their development, > deployment and use. La responsabilità umana DEVE essere sempre riconoscibile e attribuibile. Su questo Metzinger ha assolutamente ragione: > Machines are not trustworthy; only humans can be trustworthy (or untrustworthy). E la preoccupazione che esprime è la stessa che ho avuto io subito dopo l'uscita del draft: > The Trustworthy AI story is a marketing narrative invented > by industry, a bedtime story for tomorrow's customers. [...] > Hence the Trustworthy AI narrative is, in reality, about > developing future markets and using ethics debates > as elegant public decorations for a large-scale > investment strategy. La vaghezza del testo può essere interpretata come un umile riconoscimento dei propri limiti. Ma se si pone come termine del discorso, come framework etico cui è sufficiente adattare le norme, allora posso condividere la preoccupazione di Metzinger. Ha infatti ragione su un punto: l'assenza di PRINCIPI NON NEGOZIABILI è una grave lacuna del testo, ragionevole solo se finalizzata ampliare il dibattito per la loro definizione. Cosa ne pensi? Giacomo

April 10, 2019

"Does Google meet its users’ expectations around consumer privacy? This news industry research says no"

by J.C. DE MARTIN

Does Google meet its users’ expectations around consumer privacy? This news industry research says no /A significant majority of consumers do not expect Google to track their activities across their lives, their locations, on other sites, and on other platforms./ By Jason Kint <https://www.niemanlab.org/author/jkint/> @jason_kint <https://twitter.com/jason_kint> April 3, 2019, 9:52 a.m. https://www.niemanlab.org/2019/04/does-google-meet-its-users-expectations-a…

April 10, 2019

Special Issue IEEE: "Machine Ethics: The Design and Governance of Ethical AI and Autonomous Systems"

by J.C. DE MARTIN

PROCEEDINGS OF THE IEEE Machine Ethics: The Design and Governance of Ethical AI and Autonomous Systems Volume 107, Issue 3 | March 2019 Guest Editors Special Issue Papers Point of View: The Trolley, the Bull Bar, and Why Engineers Should Care About the Ethics of Autonomous Cars Point of View: Toward the Agile and Comprehensive International Governance of AI and Robotics Scanning Our Past: Computer Graphic Re-Visited: The Virtual Reconstruction of One of the First Computer Art Exhibitions http://proceedingsoftheieee.ieee.org/view-recent-issues/march-2019/ Special Issue Papers Scanning the Issue By A. F. Winfield, K. Michael, J. Pitt, and V. Evers Designing a Value-Driven Future for Ethical Autonomous and Intelligent Systems By G. Adamson, J. C. Havens, and R. Chatila This paper provides an overview of IEEE’s current activities related to ethics and argues that human values must drive our future autonomous systems in a way that both protects and benefits humanity. A Value-Driven Eldercare Robot: Virtual and Physical Instantiations of a Case-Supported Principle-Based Behavior Paradigm By M. Anderson, S. L. Anderson, and V. Berenz This paper describes both simulated and real-robot implementations of an eldercare robot in which ethical principles are learned, via inductive logical programming, from a set of training examples provided by a project ethicist. On Proactive, Transparent, and Verifiable Ethical Reasoning for Robots By P. Bremner, L. A. Dennis, M. Fisher, and A. F. Winfield In this paper, the authors review and update an approach to the design of ethical robots based on a simulation-based internal model, in which the ethical robot’s reasoning is both transparent and verifiable. Motivations and Risks of Machine Ethics By S. Cave, R. Nyrup, K. Vold, and A. Weller In this paper, the authors clarify various philosophical issues surrounding the concept of an ethical machine and the aims of machine ethics, outlining the potential risks that must be considered and managed. Clarifying Privacy, Property, and Power: Case Study on Value Conflict Between Communities By A. Ema, H. Osawa, R. Saijo, A. Kubo, T. Otani, H. Hattori, N. Akiya, N. Kanzaki, M. Kukita, K. Komatani, and R. Ichise Based around a case study on the “flaming” of fan fiction, this paper aims to clarify notions of privacy and draw lessons for the ethical governance of AI in the presence of value conflicts. Engineering-Based Design Methodology for Embedding Ethics in Autonomous Robots By L. J. Robertson, R. Abbas, G. Alici, A. Munoz, and K. Michael This paper explores a method for embedding ethics into the design and use of an endoscopic capsule for diagnosis and drug delivery, using a codesign approach to reduce end-user risk. Inside the Organization: Why Privacy and Security Engineering Is a Challenge for Engineers By S. Spiekermann, J. Korunovska, and M. Langheinrich This paper reports on the findings from a survey of 124 engineers in order to understand the drivers and impediments facing ethical systems development with respect to privacy and security engineering. Point of View The Trolley, the Bull Bar, and Why Engineers Should Care About the Ethics of Autonomous Cars By J. Bonnefon, A. Shariff, and I. Rahwan Point of View Toward the Agile and Comprehensive International Governance of AI and Robotics By W. Wallach and G. Marchant Scanning Our Past Computer Graphic Re-Visited: The Virtual Reconstruction of One of the First Computer Art Exhibitions By J. Horáková and J. Mucha

April 10, 2019

Re: [nexa] Cloud europeo per maggiore competitività

by Giacomo Tesio

On 10/04/2019, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > > On 10/04/2019 14:23, Giacomo Tesio wrote: >> Ma delegheresti ad un azienda che opera secondo criteri >> di mercato la gestione del tuo sistema nervoso? > > secondo te e' un paragone appropriato ? Assolutamente sì! Ma non è del tutto farina del mio sacco... è una metafora ispirata al Leviatano di Hobbes. > non mi risultano assessori e stradini che producono il proprio silicio. Sono confuso, cosa c'entra? Ogni comune ha un "Ufficio Tecnico". Aggiungere una server farm ed un "Ufficio Informatico" non dovrebbe essere troppo complicato. > btw, se uno e' in grado di fare, e' anche in grado di controllare che > sia ben fatto. Ehm... no. Io so fare molte cose, ma non potrei mai dimostrare che la tua privacy non è stata violata da Google. Nemmeno se avessi un mandato illimitato, una plotone di hacker, accesso contemporaneo a tutte le loro server farm ed interrompendo il servizio su tutto il pianeta. A Larry Page basta poco più di un `mv /cloud/europe/profiles/it/quintarelli/secret.txt /mnt/usb/` per rimuovere qualsiasi prova prima che io possa avere il tempo di trovarla. (ok... forse con un plotone di hacker, qualcosa potrei trovare... ma anche Page non è scemo) > la risposta alla domanda comunque e' si. > lo delego spessissimo. e non solo il mio sistema nervoso, ma anche tutto > il resto, anche tra 3 ore quando prendero' un aereo per tornare in italia. Allora potresti chiedere all'hostess se hanno un DVD del primo Matrix. :-D Chi controlla il tuo sistema nervoso, controlla te. D'altro canto, ce ne fossero di persone disposte a cedere così facilmente la propria libertà: se non ti importa di chi controlla il tuo cervello, sei perfetto per il NOPA; Nuovo Ordine Politico Autoritario! :-D Ora, se mi obbietti che tanto l'Europa non ha UN cervello perché si ostina a rimanere una federazione di stati invece di riconoscere la propria unità, posso essere d'accordo. Ma se è vero che delegare ad un'azienda è facile, è anche troppo facile. Immagina quanto lavoro dovremmo fare per stabilire protocolli condivisi e sviluppare software adeguati al fine di mettere in rete le biblioteche, le scuole, o i comuni europei. Tutto quel lavoro, tutta quella fatica, potrebbe costituire il fondamento di un Unione Europea più solida, più fraterna. Perché diciamolo: costruire una Nazione a partire dalla moneta si è rivelata una pessima idea. Giacomo

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by J.C. DE MARTIN

Grazie, Stefano, molto utile! jc On 10/04/2019 15:16, Stefano Quintarelli wrote: > ciao, > > nel merito, molte (non poche) delle affermazioni fatte nel testo sono > banalmente false ed offensive. > > inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la > comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che > si sappia che > > 1.- nel gruppo sono rappresentate voci multistakholder > > 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' > stato scritto cosi'. solo una volta abbiamo votato, su una cosa non > centrale, per questioni di tempo > > 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche > cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" > > 4.- nelle regole di funzionamento (rules of procedure) c'e' il > classico segreto (tipo chtaham house, per tutelare gli esperti) cosa > che in altri suoi articoli ed interviste non e' stata rispettata > > 5.- queste critiche non sono mai state sollevate all'interno del > gruppo durante i lavori, solo pubblicate sulla stampa il giorno > dell'emanazione > > 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte > (una volta 2 ore per cambiare "must" in "should") > > 7.- ogni membro puo' registrare la propria dissenting opinion sul > documento, cosa che nessuno ha chiesto di fare (nemmeno lui) > > 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, > continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno > lui) > > 9.- l'autore si e' presentato ai lavori una volta con una troupe per > fare delle riprese > > ciao, s. > > > On 10/04/2019 15:01, J.C. DE MARTIN wrote: >> >> Ethics washing made in Europe >> >> On Tuesday, the EU has published ethics guidelines for artificial >> intelligence. A member of the expert group that drew up the paper >> says: This is a case of ethical white-washing. >> >> Thomas Metzinger >> >> /Thomas Metzinger is Professor of Theoretical Philosophy at the >> University of Mainz and was a member of the commission's expert group >> that has worked on the guidelines published on Tuesday./ >> >> /Read his op-ed in German here >> <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ >> >> It's really good news: Europe has just taken the lead in the hotly >> contested global debate on the ethics of artificial intelligence >> (AI). On Monday in Brussels, the EU Commission presented its Ethics >> Guidelines for Trustworthy AI. The 52-member High-Level Expert Group >> on Artificial Intelligence (HLEG AI), of which I am a member, worked >> on the text for nine months. The result is a compromise of which I am >> not proud, but which is nevertheless the best in the world on the >> subject. The United States and China have nothing comparable. How >> does it fit together? >> >> >> [...] >> >> continua qui: >> https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… >> >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> >

April 10, 2019

Re: [nexa] "Ethics washing made in Europe"

by Stefano Quintarelli

ciao, nel merito, molte (non poche) delle affermazioni fatte nel testo sono banalmente false ed offensive. inoltre, come ho raccontato ieri sera in un incontro sul HLEG con la comunita' italiana di BXL, per quanto riguarda il metodo, e' bene che si sappia che 1.- nel gruppo sono rappresentate voci multistakholder 2.- il metodo di lavoro e' basato sul consent. tutto il documento e' stato scritto cosi'. solo una volta abbiamo votato, su una cosa non centrale, per questioni di tempo 3.- nel gruppo abbiamo totale liberta', tanto che abbiamo anche cambiato l'obiettivo da policy per "trusted AI" a "trustworthy AI" 4.- nelle regole di funzionamento (rules of procedure) c'e' il classico segreto (tipo chtaham house, per tutelare gli esperti) cosa che in altri suoi articoli ed interviste non e' stata rispettata 5.- queste critiche non sono mai state sollevate all'interno del gruppo durante i lavori, solo pubblicate sulla stampa il giorno dell'emanazione 6.- abbiamo avuto ampissimo spazio per contestare le frasi scritte (una volta 2 ore per cambiare "must" in "should") 7.- ogni membro puo' registrare la propria dissenting opinion sul documento, cosa che nessuno ha chiesto di fare (nemmeno lui) 8.- ogni membro aveva l'opzione di non sottoscrivere il documento, continuando a lavorare nel gruppo, cosa che nessuno ha fatto (nemmeno lui) 9.- l'autore si e' presentato ai lavori una volta con una troupe per fare delle riprese ciao, s. On 10/04/2019 15:01, J.C. DE MARTIN wrote: > > Ethics washing made in Europe > > On Tuesday, the EU has published ethics guidelines for artificial > intelligence. A member of the expert group that drew up the paper says: > This is a case of ethical white-washing. > > Thomas Metzinger > > /Thomas Metzinger is Professor of Theoretical Philosophy at the > University of Mainz and was a member of the commission's expert group > that has worked on the guidelines published on Tuesday./ > > /Read his op-ed in German here > <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ > > It's really good news: Europe has just taken the lead in the hotly > contested global debate on the ethics of artificial intelligence (AI). > On Monday in Brussels, the EU Commission presented its Ethics Guidelines > for Trustworthy AI. The 52-member High-Level Expert Group on Artificial > Intelligence (HLEG AI), of which I am a member, worked on the text for > nine months. The result is a compromise of which I am not proud, but > which is nevertheless the best in the world on the subject. The United > States and China have nothing comparable. How does it fit together? > > > [...] > > continua qui: > https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu… > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- reserve your meeting with me at http://cal.quintarelli.it

April 10, 2019

"Ethics washing made in Europe"

by J.C. DE MARTIN

Ethics washing made in Europe On Tuesday, the EU has published ethics guidelines for artificial intelligence. A member of the expert group that drew up the paper says: This is a case of ethical white-washing. Thomas Metzinger /Thomas Metzinger is Professor of Theoretical Philosophy at the University of Mainz and was a member of the commission's expert group that has worked on the guidelines published on Tuesday./ /Read his op-ed in German here <https://background.tagesspiegel.de/ethik-waschmaschinen-made-in-europe>./ It's really good news: Europe has just taken the lead in the hotly contested global debate on the ethics of artificial intelligence (AI). On Monday in Brussels, the EU Commission presented its Ethics Guidelines for Trustworthy AI. The 52-member High-Level Expert Group on Artificial Intelligence (HLEG AI), of which I am a member, worked on the text for nine months. The result is a compromise of which I am not proud, but which is nevertheless the best in the world on the subject. The United States and China have nothing comparable. How does it fit together? [...] continua qui: https://www.tagesspiegel.de/politik/eu-guidelines-ethics-washing-made-in-eu…

April 10, 2019

Re: [nexa] Cloud europeo per maggiore competitività

by Stefano Quintarelli

re. cloud: On 10/04/2019 14:23, Giacomo Tesio wrote: > Ma delegheresti ad un azienda che opera secondo criteri > di mercato la gestione del tuo sistema nervoso? secondo te e' un paragone appropriato ? non mi risultano assessori e stradini che producono il proprio silicio. btw, se uno e' in grado di fare, e' anche in grado di controllare che sia ben fatto. la risposta alla domanda comunque e' si. lo delego spessissimo. e non solo il mio sistema nervoso, ma anche tutto il resto, anche tra 3 ore quando prendero' un aereo per tornare in italia. ciao, s. -- reserve your meeting with me at http://cal.quintarelli.it

April 10, 2019

Re: [nexa] In Finlandia detenuti classificano i dati per addestrare le intelligenze artificiali

by Giacomo Tesio

Al ristorante però i problemi di sicurezza hanno un impatto minore. Se io fossi detenuto lì, starei già studiando con i miei compari come manipolare le classificazioni in modo impercettibile ma utile. Dubito che gli facciano classificare gattini... e nel momento giusto ci si può fare dei gran soldi ad introdurre il bug (aka bias) giusto nell'applicativo giusto. Basta un po' di fantasia! ;-) Giacomo On 10/04/2019, Enrico Nardelli <nardelli(a)mat.uniroma2.it> wrote: > > In questo tipo di attività, che chiamo genericamente "a fin di bene", se non > si vedono i flussi economici non si può capire la reale natura. > > Il lavoro di un detenuto può essere una possibilità di riscatto sociale per > lui o una fonte di guadagno per chi gli dà il lavoro o, in misura variabile, > entrambe le cose. > > Se non si ha contezza di questi aspetti ogni punto di vista può essere > giustificato. > > Ciao, Enrico > > > Il 10/04/2019 13:31, Stefano Quintarelli ha scritto: >> In Italia fanno un ristorante... >> http://www.ingalera.it/ >> >> On 09/04/2019 09:59, Matteo G.P. Flora wrote: >>> In Finlandia pare che un programma pilota stia utilizzando i detenuti per >>> classificare i dati per addestrare le intelligenze artificiali. >>> >>> <https://go.thefool.it/2WXa0vY> >>> >>> Lo fanno per conto di Vainu, una startup finlandese. La questione è >>> controversa, perché da una parte la compagnia sostiene che così possono >>> acquisire competenze preziose, dall’altra, secondo diversi detrattori, si >>> tratta di vero e proprio sfruttamento... >>> >>> M. >>> >>> >>> photo >>> *Matteo G.P. Flora* >>> Founder and CEO, TF Group srl >>> >>> +39.347.9676430 <tel:+39.347.9676430> | mf(a)thefool.it >>> <mailto:mf@thefool.it> >>> >>> http://thefool.it >>> >>> Via Vitruvio, 1, Milano (MI), Italy >>> >>> <http://us.linkedin.com/in/matteoflora> >>> <http://facebook.com/lastknight> >>> <http://youtube.com/user/mgpfvideo> <http://twitter.com/lastknight> >>> >>> >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> >> > > -- EN > > ===================================================================== > Prof. Enrico Nardelli > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > home page: http://www.mat.uniroma2.it/~nardelli > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > http://link-and-think.blogspot.it/ > ===================================================================== > -- > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 10, 2019

UK White Paper: "Online Harms"

by J.C. DE MARTIN

* **The Online Harms White Paper sets out the government’s plans for a world-leading package of measures to keep UK users safe online.** * *This consultation closes at** **11:59pm on 1 July 2019* https://www.gov.uk/government/consultations/online-harms-white-paper Consultation description The Online Harms White Paper sets out the government’s plans for a world-leading package of online safety measures that also supports innovation and a thriving digital economy. This package comprises legislative and non-legislative measures and will make companies more responsible for their users’ safety online, especially children and other vulnerable groups. The White Paper proposes establishing in law a new duty of care towards users, which will be overseen by an independent regulator. Companies will be held to account for tackling a comprehensive set of online harms, ranging from illegal activity and content to behaviours which are harmful but not necessarily illegal. This consultation aims to gather views on various aspects of the government’s plans for regulation and tackling online harms, including: * the online services in scope of the regulatory framework; * options for appointing an independent regulatory body to implement, oversee and enforce the new regulatory framework; * the enforcement powers of an independent regulatory body; * potential redress mechanisms for online users; and * measures to ensure regulation is targeted and proportionate for industry. This is an open public consultation. We particularly encourage responses from organisations, companies and others with relevant views, insights or evidence. This consultation closes at 23:59, 1 July 2019.

April 10, 2019

Re: [nexa] Cloud europeo per maggiore competitività

by Giacomo Tesio

Ciao Stefano! On 10/04/2019, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > considerando che ci sono >10mila punti di erogazione di servizi fatti > direttamente dalla PA, l'opzione diretta PA si puo' dire che sia il > default. alcuni di questi hanno cloud (e.g. virtualizzazione, > orghestrtaizone, ecc.) > come service provider ci sono delle opzioni pubbliche, se una > amministrazione vuole (a partire dalle inhouse regionali) Infatti un approccio interessante ed innovativo potrebbe consistere nel valorizzare l'infrastruttura esistente, aumentandone la qualità, l'affidabilità e la sicurezza. Non è certamente facile. Anzitutto, bisogna conoscere profondamente le diverse tecnologie disponibili (per non farsi prendere per il naso da chi le vende o dagli entusiasmi per le novità) Ma bisogna anche conoscere ed analizzare i sistemi umani in cui la tecnologia deve integrarsi, per pianificare processi che non rendano inutile o addirittura controproducente lo sforzo. Per contro centralizzare è sempre facile. Delegare ad una (o poche) grosse aziende l'intera elaborazione della PA è facile. Si scrive su qualche pezzo di carta un po' di promesse e via! Tranquilli fino al prossimo scandalo. Ma delegheresti ad un azienda che opera secondo criteri di mercato la gestione del tuo sistema nervoso? Pensaci: cosa potrebbe andare storto? > in genere il pubblico e' meno efficiente (per rigidita' strutturali) Efficiente in termini energetici? Probabile. In termini economici? No. Anche se non ci piace ricordarlo, è il monopolista a fare le regole e i prezzi. Si può intervenire per minimizzare quelle rigidità strutturali? Stabilire protocolli di scambio dati fra diverse Nazioni, istruire plotoni di sistemisti per renderli garantire (e rispondere) della sicurezza dei sistemi della PA, distribuire razionalmente i dati sul territorio... richiede intelligenza e competenza. Ma se aumenti le competenze sul territorio, incrementi la sicurezza aumentando il costo medio di ogni singolo attacco. E se distribuisci accortamente i dati e le elaborazioni sul territorio, riduci il valore dei dati acquisibili con un singolo attacco ad un nodo della rete. Dunque aumenti il costo e riduci il ritorno di ogni singolo attacco. Invece accentrando ti fidi di una società che opera per massimizzare profitti e costituisce un single point of failure (sia economico che tecnologico). Giacomo

April 10, 2019