January 2018 - nexa - server-nexa.polito.it

Next steps against fake news: High-Level Expert Group to tackle disinformation meets for the first time

by Daria Santucci

Cari tutti, segnalo: As announced in November 2017<http://europa.eu/rapid/press-release_IP-17-4481_en.htm>, the High-Level Expert Group<https://ec.europa.eu/digital-single-market/news-redirect/606593> appointed to advise the European Commission on how to tackle the spread of online disinformation will meet for the first time next Monday 15 January at 10:00. The High-Level Expert Group will contribute to the development of an EU-level strategy on how to tackle this phenomenon, to be presented in spring 2018. Following the Commission's call for application last November, the Commission received over 300 applications for the group. The experts will advise the Commission on scoping the phenomenon, defining the roles and responsibilities of relevant stakeholders, grasping the international dimension, taking stock of the positions at stake, and formulating recommendations. The selection of members ensures a wide participation of expertise, a balanced geographical representation, gender balance, and a balanced view of both social media platforms and media organisations, civil society organisation and experts such as journalists and academia. The procedure has followed the usual rules for selection of expert groups of the Commission. The final list of participants can be found here<https://ec.europa.eu/digital-single-market/news-redirect/612128>. Mandated by President Juncker, Commissioner Mariya Gabriel launched the initiative in November 2017 together with a public consultation<https://ec.europa.eu/digital-single-market/en/news/public-consultation-fake…>open until 23 February. On Monday 15 January, she will hold a press point at 11:00 which can be followed live on EbS<http://ec.europa.eu/avservices/ebs/schedule.cfm>. In establishing the group, the Commission has worked closely with the EEAS East Stratcom Task Force<https://eeas.europa.eu/headquarters/headquarters-homepage_en/32408/Don%27t%…>, which was set up by the High Representative/Vice-President Federica Mogherini in 2015 to address disinformation activities by external actors. You can find more information about the High-Level Expert Group's work here<https://ec.europa.eu/digital-single-market/news-redirect/612148>, as well as in a press release<http://europa.eu/rapid/press-release_IP-17-4481_en.htm> and in Commissioner Gabriel's speech<http://europa.eu/rapid/press-release_SPEECH-17-4609_fr.htm>. Lista degli esperti qui<https://ec.europa.eu/digital-single-market/en/news/experts-appointed-high-l…>. Cordialmente, Daria Daria Santucci Communication Officer Communication Department [http://www.etf.europa.eu/etflogo.jpg] ADDRESS Villa Gualino, Viale Settimio Severo 65, I - 10133 Torino TELEPHONE +390116302260 FAX +39 0116302200 E-MAIL info(a)etf.europa.eu<mailto:info@etf.europa.eu> WEB http://www.etf.europa.eu<http://www.etf.europa.eu/> [http://www.etf.europa.eu/web.nsf/0/C7079AE04DBE4548C12577740035D391/$file/0…]<http://twitter.com/etfeuropa> [http://www.etf.europa.eu/web.nsf/0/C7079AE04DBE4548C12577740035D391/$file/0…] <http://www.facebook.com/etfeuropa?v=wall> To view our email disclaimer, please click here<http://www.etf.europa.eu/disclaimer.htm>

Jan. 12, 2018

Re: [nexa] Come consentire all'uomo di mantenere la supremazia

by Giuseppe Attardi

> On 12 Jan 2018, at 12:00, nexa-request(a)server-nexa.polito.it wrote: > > > In data giovedì 11 gennaio 2018 08:20:06 CET, Stefano Quintarelli ha scritto: >> Certo, si potrebbe dire "vietato usare ciò che non è spiegabile", ma non è >> realistico. > Forse una norma c'è già: l'art. 13, comma 2, lett. f e l'art. 14, comma 2, > lett. g del GDPR obbligano il titolare che mette in atto processi decisionali > automatizzati a fornire agli interessati "informazioni significative sulla > logica utilizzata". > IMHO presto i giudici dovranno valutare cosa implica questa norma se il > titolare utilizza sistemi ad apprendimento automatico. > m.c. > Questa è la strada che qualcuno pensa di precorrere per bloccare i sistemi di ML. Ma è una strada che non porta da nessuna parte, per diverse ragioni: - non si sono difficoltà a spiegare come funziona un sistema di ML - è abbastanza agevole produrre una spiegazione “comprensibile” del suo comportamento (citazione da Yan LeCun, uno dei pionieri del Deep Learning). C’è stato un panel a proposito all’ultima conferenza NIPS 2017. - i sistemi di ML forniscono soluzioni ottimali, nel senso che utilizzano una funzione di utilità per determinare la soluzione ottima, né più né meno dei sistemi che usiamo tutti i giorni: per esempio per calcolare il percorso stradale ottimale, per gestire la logistica, per ottimizzare un ciclo di produzione. - nessuno dei sistemi informatici che usiamo oggi può essere “spiegato” in modo convincente. È di questi giorni a vicenda della vulnerabilità Meltdown, che ha influenzato tutti i processori in uso dal oltre 10 anni. Qualcuno aveva chiesto e ottenuto spiegazioni? I sistemi informatici sono ormai troppo complessi per potere essere “spiegati”. - i sistemi di ML sono in grado di indicare il livello di accuratezza che riescono ad ottenere, spesso avvicinandosi al 98-99%. Altri sistemi, cosiddetti basati sulla conoscenza, non raggiungono nemmeno lontanamente questi livelli di accuratezza, né sono in grado di specificare la loro copertura dei problemi. - preferite usare uno strumento che vanta un'accuratezza del 98% e dice quali casi sa trattare, piuttosto che uno strumento che vanta un’accuratezza del 60% e non si sa quali casi tratta? — Beppe

Jan. 12, 2018

Algoritmi e servizi ai cittadini: perché la trasparenza è importante

by Enrico Bergamini

Buongiorno, Mi chiamo Enrico Bergamini, sono uno studente di Economia Politica all'Università di Utrecht, e mi occupo anche di data science e open data insieme ad OnData <https://twitter.com/ondatait>. Vi mando una riflessione su policymaking e trasparenza, che ho scritto su Valigia Blu, e che nasce da molti spunti che vengono da questa lista. https://www.valigiablu.it/algoritmi-politica-trasparenza/ Fatemi sapere cosa ne pensate! Grazie e buona giornata, E -- Enrico Bergamini http://enricobergamini.it "All that we are is the result of what we have thought"

Jan. 12, 2018

Re: [nexa] Come consentire all'uomo di mantenere la supremazia

by Giacomo Tesio

Il 11 gennaio 2018 18:43, Marco Ciurcina <ciurcina(a)studiolegale.it> ha scritto: > In data giovedì 11 gennaio 2018 17:02:09 CET, Giacomo Tesio ha scritto: >> Qualche link, per chi come me, non sapeva cosa fosse il GDPR: >> >> http://www.privacy-regulation.eu/it/13.htm >> http://www.privacy-regulation.eu/it/14.htm >> >> >> La parola chiave, qui, è "significative". > Da esperto di dominio, come qualificheresti la parola "significative"? Bella domanda. :-) Quali informazioni sulla logica utilizzata da un processo decisionale automatizzato sono "significative" per i soggetti oggetto della decisione? Fino alla interpretazione della norma in un tribunale, vi sarà un largo spazio di ricerca congiunta fra informatici e giuristi su questo tema. La risposta e' necessariamente variegata, sia da un punto di vista informatico (vi sono diversi algoritmi) sia da un punto di vista giuridico (vi sono contesti decisionali che possono essere supportati da tali algoritmi, e non tutti gli algoritmi sono utili in tutti i contesti). La mia risposta qui non può che essere estremamente parziale. Per essere significative le informazioni che descrivono un processo decisionale (autonomo o no) devono essere quanto meno - pertinenti - comprensibili - ai soggetti interessati - ai terzi, fra cui il giudice Per poter dimostrare di essere pertinenti, devono essere anche esaustive. Ma possiamo dimostrare che le informazioni su un processo decisionale sono esaustive, pertinenti e comprensibili solo se il processo decisionale e' riproducibile. Quindi, concretamente, le informazioni significative per un processo decisionale sono tutte quelle informazioni pertinenti e comprensibili necessarie a riprodurre tale processo, e dunque a verificare che date le informazioni fornite dai soggetti interessati, le decisioni assunte derivino da tale processo. Purtroppo pero' la realtà e' molto variegata. Una compagnia assicurativa che utilizzasse un K-means clustering per assegnare la classe di rischio ai propri assicurati dovrebbe indicare quali variabili siano state utilizzate per determinare i cluster, e definire in modo comprensibile i diversi cluster. In questo modo un assicurato potrebbe comprendere perche' si trova in una determinata categoria di rischio. Se un assicurato ritenesse di essere stato collocato in una categoria sbagliata, l'assicurazione potrebbe dimostrare in tribunale di aver semplicemente trovato il cluster "più vicino" alle caratteristiche descritte dalle informazioni fornite dall'assicurato. Se l'assicurato fosse un esperto di machine learning pero' potrebbe obbiettare che la scelta del numero di cluster e' arbitraria e accusare la compagnia di aver scelto quello specifico numero di cluster invece di un altro per ragioni discriminatorie (mai sottovalutare la fantasia di un informatico! :-D). A questo punto la compagnia assicurativa potrebbe dimostrare che in realtà la selezione del numero di cluster e' stata fatta per ragioni economiche. Ma per farlo dovrebbe fornire l'intera base dati su cui la K-means e' stata applicata e le K medie iniziali e il numero di iterazioni utilizzate (oltre a una valanga di informazioni statistiche ed economiche necessarie dimostrare che quel numero di cluster effettivamente garantisce la sostenibilità economica dell'impresa) e riprodurre in tribunale l'analisi. Si noti come, trattandosi di strumenti deterministici, la compagnia assicurativa non necessita di un team di esperti pronti a giurare che quello che l'assicurazione ha fatto non e' discriminatorio. Puo' semplicemente riprodurre il processo decisionale a partire dai dati iniziali. E naturalmente, se non puo' farlo, ha un problema. Paradossalmente, e' molto più semplice definire quali sono le informazioni significative per una rete neurale! Se una rete neurale non e' altro che un algoritmo capace di approssimare statisticamente una funzione, potrebbe essere sufficiente dichiarare la funzione approssimata. :-) Prendiamo l'esempio della classificazione botanica delle immagini di fiori. La funzione per cui calibriamo la rete neurale può essere descritta molto chiaramente dal botanico che partecipa alla calibrazione "taggando" le immagini, e magari in effetti la insegna ai propri studenti ("osservate petalo e setalo... etc...") Se la funzione per cui calibriamo la rete neurale consiste nel riconoscimento di un melanoma a partire dalle foto scattate periodicamente dei nei di una popolazione, di nuovo i dermatologi e gli oncologi che parteciperanno alla calibrazione per "taggare" le immagini saranno molto bravi a descrivere quali aspetti dell'immagine considerano. Se configuriamo e calibriamo una rete per giocare a Go, le regole del gioco sono la funzione approssimata dalla rete. Se tale funzione e' nota (per quanto complessa), la sua dichiarazione e' pertinente e comprensibile. Purtroppo in un processo, rimane il problema della riproducibilità del processo decisionale. Se l'oggetto del contendere e' proprio l'aderenza alla funzione dichiarata, l'unico modo per dimostrarlo rimane la ripetizione del processo di configurazione della rete neurale, a partire dalla sua topologia, dai pesi iniziali, dalla base di dati utilizzata durante la calibrazione. E se l'oggetto del contendere e' la scelta di quella particolare topologia o di quei particolari pesi iniziali, anche dalla base di dati utilizzata durante la cross validation. Vi e' poi un altro aspetto, molto più interessante: le reti neurali possono anche approssimare statisticamente funzioni ignote! Supponiamo di applicarle nella selezione del personale. Vogliamo configurare una rete neurale in grado di effettuare una preselezione dei candidati da chiamare per un colloquio, sulla base delle informazioni contenute nel cv. Fra le informazioni in input alla rete neurale forniamo un immagine del candidato. L'immagine del candidato contiene una quantità impressionante di informazioni. Sesso, etnia, eta', stato di salute, stato sociale, persino le convinzioni religiose e politiche possono rivelarsi da una foto ad un osservatore attento. Anche se, immaginiamo per ragioni legislative, queste siano state rimosse dalla base dati fornita alla rete neurale. La potenziale presenza di tutte queste informazioni nella foto, rende di per se' la funzione approssimata ignota. Anche se il lavoro di annotazione dei cv effettuato dal team di esperti nelle risorse umane durante la calibrazione della rete non tiene conto di queste informazioni, anche se sono estremamente professionali e razionali nella loro attività ed in perfetta buona fede, la semplice presenza della foto rende ignota la funzione approssimata. Se vogliamo parlare, poeticamente, della rete neurale come una intelligenza autonoma, potremmo dire che non sappiamo quali informazioni la rete neurale sarà in grado di dedurre e dunque quali prenderà in considerazione. Ma più correttamente dovremmo dire che non sappiamo, di tutte le funzioni che mappano i cv della base dati di calibrazione ai risultati annotati dal team di esperti, quale funzione la rete neurale stia approssimando. Dunque, quale logica utilizza questa rete neurale per effettuare il processo decisionale? Non lo sappiamo. Abbiamo una funzione che possiamo replicare, ma non possiamo spiegare. Non possiamo garantire, in questo caso, che il processo decisionale non sia discriminatorio, nonostante la professionalità del team che ha calibrato la rete. E non possiamo dichiarare, a priori, informazioni significative sulla logica utilizzata, semplicemente perché non le conosciamo. E naturalmente, stiamo assumendo il caso migliore, di una rete neurale configurata da esperti con enormi quantità di dati. Ma la base di dati potrebbe essere viziata da un bias di selezione, oppure potremmo aver preso in considerazione troppe variabili o variabili correlate fra loro, causando overfitting o underfitting nella rete... La funzione che la rete neurale approssima potrebbe comunque non essere quella che ci aspettiamo. E determinare quale sia la quantità di dati sufficiente per calibrare una determinata topologia affinché approssimi una certa funzione e' a sua volta un tema estremamente complesso e interessante, di cui pero' francamente so poco. Per concludere: e' probabile che non sia proprio possibile, concretamente e teoricamente, fornire informazioni "significative" sulle logiche applicate da una rete neurale, perché non e' detto che stia approssimando proprio la funzione che interessa a noi. Mentre e' possibile per altri tipi di processo decisionale automatizzato. Spero di essere stato chiaro senza essere troppo superficiale, ma tieni presente che io sono solo un programmatore! A presto. Giacomo

Jan. 12, 2018

Re: [nexa] Come consentire all'uomo di mantenere la supremazia

by Marco Ciurcina

In data giovedì 11 gennaio 2018 17:02:09 CET, Giacomo Tesio ha scritto: > Qualche link, per chi come me, non sapeva cosa fosse il GDPR: > > http://www.privacy-regulation.eu/it/13.htm > http://www.privacy-regulation.eu/it/14.htm > > > La parola chiave, qui, è "significative". Da esperto di dominio, come qualificheresti la parola "significative"? m.c.

Jan. 11, 2018

Re: [nexa] Come consentire all'uomo di mantenere la supremazia

by Giacomo Tesio

Il 11 gennaio 2018 16:41, Marco Ciurcina <ciurcina(a)studiolegale.it> ha scritto: > In data giovedì 11 gennaio 2018 08:20:06 CET, Stefano Quintarelli ha scritto: >> Certo, si potrebbe dire "vietato usare ciò che non è spiegabile", ma non è >> realistico. > Forse una norma c'è già: l'art. 13, comma 2, lett. f e l'art. 14, comma 2, > lett. g del GDPR obbligano il titolare che mette in atto processi decisionali > automatizzati a fornire agli interessati "informazioni significative sulla > logica utilizzata". > IMHO presto i giudici dovranno valutare cosa implica questa norma se il > titolare utilizza sistemi ad apprendimento automatico. > m.c. Estremamente interessante! Grazie Marco! Qualche link, per chi come me, non sapeva cosa fosse il GDPR: http://www.privacy-regulation.eu/it/13.htm http://www.privacy-regulation.eu/it/14.htm La parola chiave, qui, è "significative". Giacomo

Jan. 11, 2018

Re: [nexa] Come consentire all'uomo di mantenere la supremazia

by Marco Ciurcina

In data giovedì 11 gennaio 2018 08:20:06 CET, Stefano Quintarelli ha scritto: > Certo, si potrebbe dire "vietato usare ciò che non è spiegabile", ma non è > realistico. Forse una norma c'è già: l'art. 13, comma 2, lett. f e l'art. 14, comma 2, lett. g del GDPR obbligano il titolare che mette in atto processi decisionali automatizzati a fornire agli interessati "informazioni significative sulla logica utilizzata". IMHO presto i giudici dovranno valutare cosa implica questa norma se il titolare utilizza sistemi ad apprendimento automatico. m.c.

Jan. 11, 2018

Re: [nexa] Come consentire all'uomo di mantenere la supremazia

by Giuseppe Attardi

> On 11 Jan 2018, at 10:12, nexa-request(a)server-nexa.polito.it wrote: > >> In particolare il ML utilizza dati di apprendimento annotati da umani, da >> cui cerca di apprendere la capacita di svolgere un compito che richiede >> intelligenza. >> Si tratta di una differenza fondamentale, che richiede la presenza di >> ?human-in-the-loop? nella raccolta di dati collegati a comportamenti in >> umani nello svolgimento di un task e di annotazioni umane sul loro >> significato e sullo scopo che il task si prefigge. > > Mi permetto di osservare che, a mia conoscenza, nessuna ricerca > statistica e' mai stata effettuata da esseri non qualificabili come > umani. Appunto, non è la statistica a fare previsioni, ma sono gli umani che se ne servono per farne. E si danno due casi: - scoprono qualcosa di interessante - sbagliano Il primo caso viene spesso sbandierato come un successo della statistica: invece è stata l’interpretazione umana che ha individuato qualcosa di interessante, l’ago nel pagliaio. La qualifica di “interessante” viene assegnata dall’umano, non dalla statistica. Il secondo è molto frequente, perché la nostra mente è cablata per individuare causalità anche quando non ce ne sono, e le leggi sulla probabilità sono poco intuitive per una mente non allenata. > Lo human-in-the-loop non caratterizza dunque l'intelligenza artificiale. Assolutamente sì. Nell’AI il comportamento umano è incorporato nell’algoritmo, non è esterno alla tecnica usata. — Beppe

Jan. 11, 2018

Re: [nexa] Russia says DIY drones that attacked its base in Syria came from a rebel village - The Washington Post

by Stefano Quintarelli

The Defense Ministry posted photographs of one of the drones on its Facebook page, showing what looked like a homemade model aircraft that did not seem particularly sophisticated. sono questi https://www.facebook.com/mod.mil.rus/posts/2031218563787556 On 11/01/2018 08:39, Alberto Cammozzo wrote: > Prepariamoci a vedere questi arnesi anche fuori da teatri bellici. > > > > <https://www.washingtonpost.com/world/russia-says-diy-drones-that-attacked-i…> > > [...] > The fixed-wing drone resembled an oversize toy aircraft and appeared to > have been cheaply assembled from a type of plywood, said Aaron Stein of > the Washington-based Atlantic Council. The craft was attached to the > kind of engines used to power lawn mowers and strapped with at least > nine small rockets that could have been dropped from the drone or used > to turn the craft into a bomb. > > It was unclear from the photographs how the drones were guided, but > simple GPS devices could conceivably have been programmed to fly the > planes over a long distance to reach the air base, using GPS coordinates > available on the Internet, Stein said. > > “The drones look to me like a DIY project, and decidedly low-tech,” he said. > > The drones nonetheless represent the first time such a weapon has been > used in Syria in this way. > [...] > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Jan. 11, 2018

Re: [nexa] Come consentire all'uomo di mantenere la supremazia

by Giacomo Tesio

La bellezza sta negli occhi di chi guarda. Un aneddoto. Una volta per aiutare la mia bimba ad allenarsi con le addizioni, in prima elementare, la presi sulle gambe e scrissi un brevissimo script python che le proponeva due numeri e le chiedeva la somma. Lei osservava attenta il papà, cercando di capire cosa scrivessi. Potete immaginare che ci vollero pochi minuti. Finito, la feci provare il nuovo giochino. Dopo 3 addizioni, scappò via piangendo dalla mamma! Dopo una buona dose di coccole, emerse che "per colpa mia" aveva capito di essere stupida. Il computer, in pochi minuti, aveva imparato a fare le addizioni. E io dico sempre che i computer sono stupidi. Quindi cos'era lei, che faceva tanta fatica? Torniamo a noi. Abbiamo inventato un algoritmo in grado di approssimare statisticamente una qualsiasi funzione. Poi prendiamo una funzione complessa, ben definita, per la quale disponiamo di grandi quantità di dati, e configuriamo questo algoritmo per approssimare l'output che un botanico fornirebbe. Poi guardiamo il nostro algoritmo, tutto bello configurato per la demo, e diciamo "oh, come è intelligente!" :-D La bellezza sta negli occhi di chi guarda! La nostra capacità di "pattern matching" ci sta fuorviando. E il marketing non aiuta. ;-) Siamo abituati a classificare come intelligente l'attività del botanico che classifica il fiore. Lo vediamo fare al computer e questo "ci sembra" intelligente. Più intelligenti di noi, se non lo sappiamo fare. E proprio come la mia bimba, ci spaventiamo. Fino a quando non capiamo come funziona. Il 11 gennaio 2018 08:20, Stefano Quintarelli <Stefano(a)quintarelli.it> ha scritto: > Certo, si potrebbe dire "vietato usare ciò che non è spiegabile", ma non è > realistico. Ve lo immaginate se lo sapessero le aziende? "Ueh ragazzi, fatemi un freno con una rete neurale. Così se non frena possiamo dire che non si può spiegare..." Ma stiamo scherzando? :-D Una rete neurale è un programma. Sostenere che è pericoloso rischia di deviare l'attenzione dalla pericolosità di chi lo usa! > Valga per tutti l'esempio della mia mozione in materia di armi letali > autonome, respinta. > http://webtv.camera.it/archivio?legislatura=17&seduta=898&intervento=457662 > In estrema sintesi, credo che ogni servizio AI dovrebbe dichiarare per cosa > è ottimizzato e che debbano esserci conseguenze civili (E al limite penali) > in caso di scostamenti che producano danni. > Si può obiettare che il numero di casi trattati potrebbe essere > insufficiente a decidere se lo scostamento esiste. Esatto. > È improbabile Affermazione molto divertente in un contesto statistico. :-D Comunque non solo è probabile, è scontato. Le numerosità di cui stiamo parlando sono tali da richiedere numeri enormi per verificare se una minoranza e discriminata. Non le chiamiamo mica "minoranze" per niente! E' perché sono pochi! ;-) > comunque in questo caso eventuali esternalità negative sarebbero ridotte Vallo a dire al ingegnere 50enne scartato per l'età, o alla lavoratrice che percepisce lo stipendio inferiore. Sì, magari è solo UNA persona. Ma è una PERSONA! > Anche qui, nessuna pretesa di certezza algoritmica (come non esiste in > nessun ambito umano, tantomeno giudiziario). Perdonami, ma trattandosi del mio mestiere, non sopporto questo tipo di vaghi ed evocativi riferimenti all'informatica. Se un programma è troppo complicato da debuggare, lo si riscrive. Se costa troppo, lo si sostituisce. E' piuttosto semplice approcciare il problema legislativo: basta chiedere a chi sviluppa, configura o usa il programma di esserne responsabili. Responsum Abilem: capace di rispondere, di spiegare. Si tratta SEMPRE di macchine a stati. Allo stesso stato di partenza e allo stesso input corrisponde SEMPRE lo stesso output. Quindi, per quanto costoso possa essere, è sempre possibile. E' un rischio di impresa come un'altro. Giacomo

Jan. 11, 2018