February 2020 - nexa - server-nexa.polito.it

Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian

by Cristina Iuli

Buongiorno. Leggo con grande interesse da non addetta ai lavori i messaggi di questa lista, e vi sono molto grata delle importantissime questioni che sollevate. Vorrei chiedere un chiarimento. Condivido - nella misura in cui la comprendo - questa affermazione di Giovanni Biscuolo: solo sistemi basati su algoritmi pubblici, consultabili (e quindi contestabili) forniscono adeguate garanzie costituzionali; solo il software libero garantisce che l'implementazione sia confrontabile con l'algoritmo :-) ma non sono sicura di comprenderne fino in fondo le implicazioni. Per un non addetto ai lavori, per una persona che non ha le assai specifiche e costose competenze matematiche o informatiche necessarie a valutare il rapporto tra gli algoritmi e loro messa in opera in programmi di gestione delle popolazioni, che cosa significa, davvero, questa affermazione? Significa che in un sistema di pubblicità degli algoritmi, il controllo incrociato (ma invisibile ai più) da parte di addetti ai lavori opera come effettivo organismo di controllo sul rapporto tra algoritmo,sua implementazione, e suo significato politico? O significa che vanno creati organismi di addetti ai lavori che possano dare sufficienti garanzie sul modo in cui gli algoritmi vengono creati e utilizzati? Significa che nella società digitale e del controllo, il controllo critico che i cittadini (e le istituzioni che essi eleggono) dovrebbero poter esercitare sulle politiche pubbliche, sia a livello decisionale che amministrativo, deve essere delegato per default a chi ha le capacità tecniche di esercitarlo? E se è così, quali sono le conseguenze di questa condizione sui sistemi democratici e sull'idea stessa di democrazia? E in assenza della possibilità di conoscere, comprendere e valutare il significato degli algoritmi e del loro uso, cosa dovrebbe convincere i cittadini a fidarsi delle procedure, delle istituzioni, e del controllo degli esperti? Grazie molte a chi risponde. Cristina Iuli *Maria Cristina Iuli, Ph.D.* *Associate Professor, Lingua e Letteratura Nordamericana * *Presidente Corso di Studio in Lingue Straniere Moderne* Dipartimento Studi Umanistici - Università del Piemonte Orientale Piazza S. Eusebio, 3 13100 Vercelli ITALY *2018-19 Fulbright Distinguished Lecturer - Northwestern University* *Executive Board - AISNA (Associazione Italiana Studi Nord Americani)* *Executive Board - SLSA- EU( European Society for the Study of Science, Literature, and the Arts)* Tel 0039 0161 222 8304 Fax 0039 0161 269959 *…………………………………….* *Transatlantic Transfers* The italian presence in post war America 1949-1972 PRIN2017 polimi_uniroma3_upo_usg *…………………………………….* Il giorno sab 15 feb 2020 alle ore 16:12 Giovanni Biscuolo <g(a)xelera.eu> ha scritto: > [chiedo scusa per il lungo post, le cose da dire sarebbero > tantissime...] > > Buongiorno, > > non voglio certo rispondere per conto di Maria Luisa, ma aggiungo alcuni > commenti che in parte forse rispondono alle domande di Andrea > > dal punto di vista giuridico faccio solo notare (a voi può apparire > scontato ma a molti no) che SyRI segnalava i profili a rischio ma è poi > l'agenzia delle entrate competente che avrebbe dovuto ulteriormente > investigare; non stiamo parlando di sistemi autonomi di espulsione dai > benefici fiscali... ed è cosa buona e giusta > > in generale la mia sensazione, da tecnico e cittadino, è che quando si > tratta di avere a che fare con "la digitalizzazione dei servizi" e il > trattamento automatico delle informazioni, certe volte (spesso?) al > legislatore gli si chiude la vena e non si ricorda più cose fondamentali > che dava per scontato quando si usavano macchina da scrivere e altre > robe simili analogiche... oppura fa finta e ci prova? :-O > > Andrea Glorioso <andrea(a)digitalpolicy.it> writes: > > > Forse non ho capito il suo intervento, ma perché l’utilizzo di sistemi > > come SyRI (o sistemi comparabili) per evitare frodi, assumendo > > l’esistenza e la corretta applicazione di “sufficienti garanzie” (che > > per altro nella sentenza non mi pare si riferiscano solo al diritto > > alla privacy) sarebbe da osteggiare? > > permettetemi la provocazione: quindi la differenza tra i sistemi di > profilazione cinesi (generalemnte additati come totalitaristi, da noi) e > quelli occidentali sta nelle "sufficienti garanzie"? :-) > > il problemone nel caso specifico di SyRI, così come di tutti i sistemi > basati su algoritmi *segreti* di profilazione (pubblici e privati), è > che **non possono essere fornite sufficienti garanzie**: punto. > > solo sistemi basati su algoritmi pubblici, consultabili (e quindi > contestabili) forniscono adeguate garanzie costituzionali; solo il > software libero garantisce che l'implementazione sia confrontabile con > l'algoritmo :-) > > in altre parole la politica _incorporata_ negli algoritmi *deve* essere > pubblica ogni qual volta regola uno o più aspetti della vita dei > cittadini: no? > > io ho il vaghissimo sospetto che non si voglia far conoscere l'algoritmo > perché svelerebbe la politica discriminatoria che lo determina :-O > > detto terra terra: le chiacchiere stanno a zero, fuori l'algoritmo (e il > software)! > > 1. SyRI: > https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands > : > > --8<---------------cut here---------------start------------->8--- > Because SyRI is shrouded in secrecy, welfare beneficiaries have no > meaningful way of knowing when or how the system’s calculations are > factored into decisions to cut them off from lifesaving benefits. > --8<---------------cut here---------------end--------------->8--- > > è una cosa seria che queste indagini automatizzate vengano effettuate in > segreto? (AFAIU non stiamo parlando di indagini supervisionate da parte > della magistratura) > > 2. SyRI: > https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands > > --8<---------------cut here---------------start------------->8--- > The government has refused to disclose how SyRI works, for fear that > explaining its risk calculation algorithms will enable fraudsters to > game the system. But it has disclosed that the system generates “false > positives” – cases in which the system erroneously flags individuals as > a fraud risk. > --8<---------------cut here---------------end--------------->8--- > > > https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-sys… > : > > --8<---------------cut here---------------start------------->8--- > it gathers government data previously held in separate silos, such as > employment, personal debt and benefit records, and education and housing > histories, then analyses it using a secret algorithm to identify which > individuals might be at higher risk of committing benefit fraud. > --8<---------------cut here---------------end--------------->8--- > > algoritmi segreti: state scherzando vero? :-) > > 3. in generale: https://undocs.org/A/74/493 > > Report of the Special Rapporteur on extreme poverty and > human rights > > --8<---------------cut here---------------start------------->8--- > The digital welfare state is either already a reality or emerging in > many countries across the globe. In these states, systems of social > protection and assistance are increasingly driven by digital data and > technologies that are used to automate, predict, identify, surveil, > detect, target and punish. In the present report, the irresistible > attractions for Governments to move in this direction are acknowledged, > but the grave risk of stumbling, zombie-like, into a digital welfare > dystopia is highlighted. It is argued that big technology companies > (frequently referred to as “big tech”) operate in an almost human > rights-free zone, and that this is especially problematic when the > private sector is taking a leading role in designing, constructing and > even operatin g significant parts of the digital welfare state. It is > recommended in the report that, instead of obsessing about fraud, cost > savings, sanctions, and market-driven definitions of efficiency, the > starting point should be on how welfare budgets could be transformed > through technology to ensure a higher standard of living for the > vulnerable and disadvantaged. > --8<---------------cut here---------------end--------------->8--- > (non ho letto tutto il rapporto, ce l'ho in coda) > > quindi anche l'OHCHR ritiene che l'applicazione di questa classe di > sistemi sia problematica, sostanzialmente per via della *privatizzazione* > del "digital welfare state" ad opera delle "big tech" > > la raccomandazione "It is recommended" credo sia abbastanza chiara :-O > > il capitolo "Introduction" del rapporto spiega più che chiaramente > qual'è l'universo di discorso nel quale ci stiamo muovendo e illustra in > modo cristallino quali sono i temi dei quali società civili devono > occuparsi; mi permetto di evidenziare questo: > > --8<---------------cut here---------------start------------->8--- > Often, however, the digitization of welfare systems has been accompanied > by deep reductions in the overall welfare budget, a narrowing of the > beneficiary pool, the elimination of some services, the introduction of > demanding and intrusive forms of conditionality, the pursuit of > behavioural modification goals, the imposition of stronger sanctions > regimes and a complete reversal of the traditional notion that the State > should be accountable to the individual. > --8<---------------cut here---------------end--------------->8--- > > quindi gli obiettivi di questa classe di sistemi *paiono* (non a me, a > chi ha scritto quanto sopra) essere anche altri, assieme alla riduzione > delle frodi; in particolare mi preme sottolineare "demanding and > intrusive forms of conditionality" > > io trovo una certa analogia con il sistema di sorveglianza globale e > censura attuato via Internet, che *ovviamente* include anche criteri > anti-terrorismo, anti-pedofilia, anti-crimine, anti-hate > speech... https://www.article19.org/ (non sono ovviamente i soli) ha > molto da dire a questo proposito e credo anche che le considerazioni di > Maria Luisa siano da persona molto informata sui fatti :-) > > trovo interessante anche il paragrafo "Why we challenge aspects of > social benefits systems that surveil, control, and punish" di questo > articolo: https://privacyinternational.org/researching-social-benefits > > sia il rapporto citato all'inizio di questo punto che l'articolo qui > sopra hanno citazioni (o link) a paper _estremamente_ interessanti > > insomma, il succo del discorso è che la tecnologia non è **mai**, mai, > mai, mai, mai neutrale ma _incorpora_ una determinata politica > > 4. https://it.wikipedia.org/wiki/Studio_di_settore > > un caso analogo italiano c'è, sebbene non si tratti di benefici fiscali > per i poveri: gli studi di settore > > AFAIU in questo caso almeno il processo di definizione dei criteri è > trasparente, anche se ammetto di non aver cercato se l'algoritmo è > pubblicato e mi pare che il sorgente di Gerico non sia disponibile :-S > > [...] > > Saluti, Giovanni > > > -- > Giovanni Biscuolo > > Xelera IT Infrastructures > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Feb. 15, 2020

Re: [nexa] Intervista ad Antoni Casilli sul doc "Invisibles - les travailleurs du clic"

by Antonio Casilli

Grazie Federico, e per quelli che non hanno accesso alla serie in Italia e non vogliono utilizzare un VPN, il primo episodio è già online su: Youtube: https://www.youtube.com/watch?v=ST_KVB6bEdw Peertube: https://peertube.datagueule.tv/videos/watch/ddf3e2a5-04cb-4398-a5c5-95a1fb4… Il secondo arriva la settimana prossima. Cheers, ---a ----- Mail original ----- De: "Federico Bo" <federico.bo67(a)gmail.com> À: "nexa" <nexa(a)server-nexa.polito.it> Envoyé: Samedi 15 Février 2020 16:27:57 Objet: [nexa] Intervista ad Antoni Casilli sul doc "Invisibles - les travailleurs du clic" Su Méta-Media [ https://www.meta-media.fr/2020/02/14/la-revolte-des-travailleurs-de-linvisi… | https://www.meta-media.fr/2020/02/14/la-revolte-des-travailleurs-de-linvisi… ] -- Ing. Federico Bo [ https://www.federicobo.eu/ | federicobo.eu ] _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 15, 2020

Intervista ad Antoni Casilli sul doc "Invisibles - les travailleurs du clic"

by Federico Bo

/Su Méta-Media https://www.meta-media.fr/2020/02/14/la-revolte-des-travailleurs-de-linvisi… / -- Ing. Federico Bo /federicobo.eu <https://www.federicobo.eu/>/

Feb. 15, 2020

Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian

by Giovanni Biscuolo

[chiedo scusa per il lungo post, le cose da dire sarebbero tantissime...] Buongiorno, non voglio certo rispondere per conto di Maria Luisa, ma aggiungo alcuni commenti che in parte forse rispondono alle domande di Andrea dal punto di vista giuridico faccio solo notare (a voi può apparire scontato ma a molti no) che SyRI segnalava i profili a rischio ma è poi l'agenzia delle entrate competente che avrebbe dovuto ulteriormente investigare; non stiamo parlando di sistemi autonomi di espulsione dai benefici fiscali... ed è cosa buona e giusta in generale la mia sensazione, da tecnico e cittadino, è che quando si tratta di avere a che fare con "la digitalizzazione dei servizi" e il trattamento automatico delle informazioni, certe volte (spesso?) al legislatore gli si chiude la vena e non si ricorda più cose fondamentali che dava per scontato quando si usavano macchina da scrivere e altre robe simili analogiche... oppura fa finta e ci prova? :-O Andrea Glorioso <andrea(a)digitalpolicy.it> writes: > Forse non ho capito il suo intervento, ma perché l’utilizzo di sistemi > come SyRI (o sistemi comparabili) per evitare frodi, assumendo > l’esistenza e la corretta applicazione di “sufficienti garanzie” (che > per altro nella sentenza non mi pare si riferiscano solo al diritto > alla privacy) sarebbe da osteggiare? permettetemi la provocazione: quindi la differenza tra i sistemi di profilazione cinesi (generalemnte additati come totalitaristi, da noi) e quelli occidentali sta nelle "sufficienti garanzie"? :-) il problemone nel caso specifico di SyRI, così come di tutti i sistemi basati su algoritmi *segreti* di profilazione (pubblici e privati), è che **non possono essere fornite sufficienti garanzie**: punto. solo sistemi basati su algoritmi pubblici, consultabili (e quindi contestabili) forniscono adeguate garanzie costituzionali; solo il software libero garantisce che l'implementazione sia confrontabile con l'algoritmo :-) in altre parole la politica _incorporata_ negli algoritmi *deve* essere pubblica ogni qual volta regola uno o più aspetti della vita dei cittadini: no? io ho il vaghissimo sospetto che non si voglia far conoscere l'algoritmo perché svelerebbe la politica discriminatoria che lo determina :-O detto terra terra: le chiacchiere stanno a zero, fuori l'algoritmo (e il software)! 1. SyRI: https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands: --8<---------------cut here---------------start------------->8--- Because SyRI is shrouded in secrecy, welfare beneficiaries have no meaningful way of knowing when or how the system’s calculations are factored into decisions to cut them off from lifesaving benefits. --8<---------------cut here---------------end--------------->8--- è una cosa seria che queste indagini automatizzate vengano effettuate in segreto? (AFAIU non stiamo parlando di indagini supervisionate da parte della magistratura) 2. SyRI: https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands --8<---------------cut here---------------start------------->8--- The government has refused to disclose how SyRI works, for fear that explaining its risk calculation algorithms will enable fraudsters to game the system. But it has disclosed that the system generates “false positives” – cases in which the system erroneously flags individuals as a fraud risk. --8<---------------cut here---------------end--------------->8--- https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-sys…: --8<---------------cut here---------------start------------->8--- it gathers government data previously held in separate silos, such as employment, personal debt and benefit records, and education and housing histories, then analyses it using a secret algorithm to identify which individuals might be at higher risk of committing benefit fraud. --8<---------------cut here---------------end--------------->8--- algoritmi segreti: state scherzando vero? :-) 3. in generale: https://undocs.org/A/74/493 Report of the Special Rapporteur on extreme poverty and human rights --8<---------------cut here---------------start------------->8--- The digital welfare state is either already a reality or emerging in many countries across the globe. In these states, systems of social protection and assistance are increasingly driven by digital data and technologies that are used to automate, predict, identify, surveil, detect, target and punish. In the present report, the irresistible attractions for Governments to move in this direction are acknowledged, but the grave risk of stumbling, zombie-like, into a digital welfare dystopia is highlighted. It is argued that big technology companies (frequently referred to as “big tech”) operate in an almost human rights-free zone, and that this is especially problematic when the private sector is taking a leading role in designing, constructing and even operatin g significant parts of the digital welfare state. It is recommended in the report that, instead of obsessing about fraud, cost savings, sanctions, and market-driven definitions of efficiency, the starting point should be on how welfare budgets could be transformed through technology to ensure a higher standard of living for the vulnerable and disadvantaged. --8<---------------cut here---------------end--------------->8--- (non ho letto tutto il rapporto, ce l'ho in coda) quindi anche l'OHCHR ritiene che l'applicazione di questa classe di sistemi sia problematica, sostanzialmente per via della *privatizzazione* del "digital welfare state" ad opera delle "big tech" la raccomandazione "It is recommended" credo sia abbastanza chiara :-O il capitolo "Introduction" del rapporto spiega più che chiaramente qual'è l'universo di discorso nel quale ci stiamo muovendo e illustra in modo cristallino quali sono i temi dei quali società civili devono occuparsi; mi permetto di evidenziare questo: --8<---------------cut here---------------start------------->8--- Often, however, the digitization of welfare systems has been accompanied by deep reductions in the overall welfare budget, a narrowing of the beneficiary pool, the elimination of some services, the introduction of demanding and intrusive forms of conditionality, the pursuit of behavioural modification goals, the imposition of stronger sanctions regimes and a complete reversal of the traditional notion that the State should be accountable to the individual. --8<---------------cut here---------------end--------------->8--- quindi gli obiettivi di questa classe di sistemi *paiono* (non a me, a chi ha scritto quanto sopra) essere anche altri, assieme alla riduzione delle frodi; in particolare mi preme sottolineare "demanding and intrusive forms of conditionality" io trovo una certa analogia con il sistema di sorveglianza globale e censura attuato via Internet, che *ovviamente* include anche criteri anti-terrorismo, anti-pedofilia, anti-crimine, anti-hate speech... https://www.article19.org/ (non sono ovviamente i soli) ha molto da dire a questo proposito e credo anche che le considerazioni di Maria Luisa siano da persona molto informata sui fatti :-) trovo interessante anche il paragrafo "Why we challenge aspects of social benefits systems that surveil, control, and punish" di questo articolo: https://privacyinternational.org/researching-social-benefits sia il rapporto citato all'inizio di questo punto che l'articolo qui sopra hanno citazioni (o link) a paper _estremamente_ interessanti insomma, il succo del discorso è che la tecnologia non è **mai**, mai, mai, mai, mai neutrale ma _incorpora_ una determinata politica 4. https://it.wikipedia.org/wiki/Studio_di_settore un caso analogo italiano c'è, sebbene non si tratti di benefici fiscali per i poveri: gli studi di settore AFAIU in questo caso almeno il processo di definizione dei criteri è trasparente, anche se ammetto di non aver cercato se l'algoritmo è pubblicato e mi pare che il sorgente di Gerico non sia disponibile :-S [...] Saluti, Giovanni -- Giovanni Biscuolo Xelera IT Infrastructures

Feb. 15, 2020

Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian

by Andrea Glorioso

Salve, Forse non ho capito il suo intervento, ma perché l’utilizzo di sistemi come SyRI (o sistemi comparabili) per evitare frodi, assumendo l’esistenza e la corretta applicazione di “sufficienti garanzie” (che per altro nella sentenza non mi pare si riferiscano solo al diritto alla privacy) sarebbe da osteggiare? Grazie, Andrea On Mon, Feb 10, 2020 at 12:38 PM Maria Luisa Stasi <maria(a)article19.org> wrote: > Salve a tutti, > qui la versione in inglese del press release e della sentenza, per chi > fosse interessato: > > > https://translate.google.com/translate?hl=en&sl=nl&tl=en&u=https%3A%2F%2Fww… > (press release) > > > https://translate.google.com/translate?hl=en&sl=nl&tl=en&u=https%3A%2F%2Fui… > (sentenza) > > > Ho scorso la sentenza e vi ho trovato vari punti interessanti, ma mi sono > fatta un'idea abbastanza diversa da quella iniziale basata su quanto > riportato dai giornali. Condivido di seguito e brevemente alcuni pensieri. > > > Purtroppo, la corte non si pone in maniera particolarmente negativa nei > confronti di un sistema come SyRI. Al contrario. La corte considera che > 'avoiding social fraud' sia un 'pressing social need' e che un sistema come > SyRI non e' '...unsuitable or priori disproportionate instrument in light > of the goals it serves' (p. 6.77 della traduzione). In altre parole, la > corte riconosce la possibilita', per lo Stati, di utilizzare SyRI o sistemi > comparabili al fine di evitare frodi. > > > Quello che alla corte non appare giustificato ne' conforme al diritto EU e > della ECHR e' il quadro normativo per l'utilizzo di SyRI, il quale non > prevede, secondo la corte, sufficienti garanzie con riferimento alla > protezione della privacy degli individui. > > > Quindi non e' lo strumento di per se', ma il modo in cui viene utilizzato > nella pratica ad essere problematico. Non una totale vittoria, come invece > mi pare sia stata presentata da alcuni. > > > Un'altra nota positiva della sentenza e' il rilievo dato a una serie di > principi contentuti nella GDPR (trasparency, purpose limitation, data > minimisation, correctness etc.): finalmente siamo di fronte a una corretta > applicazione della norma. > > > Sarei contenta di leggere altre opinioni al riguardo. > > > Saluti, > > > > Maria Luisa Stasi > Senior Legal Officer > > *ARTICLE 19* > > Defending freedom of expression and information > > Free Word Centre > > 60 Farringdon Rd > <https://www.google.com/maps/search/60+Farringdon+Rd+London+EC1R+3GA?entry=g…> > > London EC1R 3GA > <https://www.google.com/maps/search/60+Farringdon+Rd+London+EC1R+3GA?entry=g…> > > W www.article19.org > Tw @article19law > > ------------------------------ > *From: *"Alberto Cammozzo" <ac+nexa(a)zeromx.net> > *To: *"NEXA List" <nexa(a)server-nexa.polito.it> > *Sent: *Thursday, 6 February, 2020 07:59:19 > *Subject: *[nexa] Welfare surveillance system violates human > rights, Dutch court rules | Technology | The Guardian > > < > https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-sys… > > > > A Dutch court has ordered the immediate halt of an automated surveillance > system for detecting welfare fraud because it violates human rights, in a > judgment likely to resonate well beyond the Netherlands. > > The case was seen as an important legal challenge to the controversial but > growing use by governments around the world of artificial intelligence (AI) > and risk modelling in administering welfare benefits and other core > services. > > Campaigners say such “digital welfare states” – developed often without > consultation, and operated secretively and without adequate oversight – > amount to spying on the poor, breaching privacy and human rights norms and > unfairly penalising the most vulnerable. > > In the UK, where the government is accelerating the development of robots > in the benefits system, the chairman of the House of Commons work and > pensions select committee, Stephen Timms, said: “This ruling by the Dutch > courts demonstrates that parliaments ought to look very closely at the ways > in which governments use technology in the social security system, to > protect the rights of their citizens.” > > The UN special rapporteur on extreme poverty and human rights, Philip > Alston, applauded the verdict and said it was “a clear victory for all > those who are justifiably concerned about the serious threats digital > welfare systems pose for human rights”. > > The decision “sets a strong legal precedent for other courts to follow”, > he added. “This is one of the first times a court anywhere has stopped the > use of digital technologies and abundant digital information by welfare > authorities on human rights grounds.” > > The verdict will be watched closely by welfare rights campaigners in the > UK, where the Department for Work and Pensions is engaged in a digitisation > drive that vulnerable claimants fear could plunge them further into hunger > and debt. > [...] > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- -- Andrea Glorioso Twitter: @andreaglorioso Facebook: https://www.facebook.com/andrea.glorioso LinkedIn: http://www.linkedin.com/profile/view?id=1749288&trk=tab_pro

Feb. 15, 2020

Focus on Human Control - International Panel on the Regulation of Autonomous Weapons (iPraw) August 8, 2019 [notsp]

by Diego.Latella

FYI (sorry for late announcement ...) Focus on Human Control [1] International Panel on the Regulation of Autonomous Weapons (iPraw) [2] August 8, 2019 Diego PS: link available also at the Computers: National Security, War, and Civil Rights [3] page of the USPID web site (www.uspid.org [4]) -- Dott. Diego Latella - Senior Researcher - CNR/ISTI, Via Moruzzi 1, 56124 Pisa, IT (http:www.isti.cnr.it [5]); FM&&T Laboratory (http://fmt.isti.cnr.it) http://www.isti.cnr.it/People/D.Latella - phone: +39 0503152982 - mob: +39 348 8283101 - fax +39 0503152040 Links: ------ [1] https://www.ipraw.org/human-control/ [2] https://www.ipraw.org/ [3] http://www.uspid.org/compwa.html [4] http://www.uspid.org [5] http://www.isti.cnr.it

Feb. 14, 2020

Ajunwa to Congress: Help stop employers’ AI-fueled bias - Mary Catt - Cornell Chronicle - February 11, 2020 [notsp]

by Diego Latella

http://news.cornell.edu/stories/2020/02/ajunwa-congress-help-stop-employers… <http://news.cornell.edu/stories/2020/02/ajunwa-congress-help-stop-employers…> D Dott. Diego Latella - Senior Researcher CNR-ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it) FM&&T Lab. (http://fmt.isti.cnr.it) http://www.isti.cnr.it/People/D.Latella - ph: +390506212982, mob: +39 348 8283101, fax: +390506212040 =================== The quest for a war-free world has a basic purpose: survival. But if in the process we learn how to achieve it by love rather than by fear, by kindness rather than compulsion; if in the process we learn how to combine the essential with the enjoyable, the expedient with the benevolent, the practical with the beautiful, this will be an extra incentive to embark on this great task. Above all, remember your humanity. -- Sir Joseph Rotblat

Feb. 14, 2020

Re: [nexa] Big Data: pubblicata indagine Agcom, Agcm e Garante privacy - Garante Privacy

by Giuseppe Attardi

> On 11 Feb 2020, at 13:57, nexa-request(a)server-nexa.polito.it wrote: > > Questo è un URL più tradizionale su cui consultare il rapporto > https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9264204 Il documento mi pare ampio e approfondito e condivisibili le raccomandazioni. Riporto alcune considerazioni varie. Mi sembra che Big Data venga usato principalmente con l’accezione di dati raccolti tramite Internet: "la fase di raccolta dei Big Data ha inizio con la generazione che si realizza nell’ambito di attività svolte dagli utenti in un contesto informatizzato ovvero nell’ambito della cosiddetta Internet of things." Andrebbero ricordati tutti i dati ottenuti con la ricerca scientifica (fisica, medica, biologica, genomica, astronomia, s …) o da sistemi di monitoraggio (traffico aereo, satelliti, terremoti), o da sistemi di transazioni (finanza, commercio), che non sono generati da Internet né si trovano spesso in Internet. Anche in questo documento secondo me si fa confusione tra ML e Artificial Intelligence. Inutile che lo ripeta: i dati di sensori, IoT e simili non sono utilizzabili per Artificial Intelligence in quanto non contengono le indicazioni di un comportamento umano intelligente. Si riporta: “i programmi di intelligenza artificiale [...] apprendono grazie alla disponibilità di un elevatissimo numero di esempi” tralasciando che gli esempi devono essere annotati con le decisioni umane sull’esito ricavato o sull’intento che li ha generati. Strano che non venga citato il libro della Zuboff su Surveillance Capitalism, che è un importante contributo sull’uso distorto dei dati raccolti dagli utenti. Trovo invece fondamentali le questioni poste nella sezione 5.2, tra cui: Dati come barriera all’entrata barriere all’entrata Portabilità dei dati e riduzione switching costs L’emergere di posizioni dominanti Dominio su nuovi mercati Potere di mercato e operazioni di concentrazione Significativa la questione dell'asimmetria informativa tra consumatore e impresa, che secondo me si risolve stabilendo che i dati raccolti dagli utenti sono un bene comune, non una proprietà privata di chi li ha raccolti, che andrebbe citata nella sez. 5.3.6 (Diritti di proprietà e architetture alternative di gestione dei dati). Le alternative considerate: portabilità dei dati, possesso dei dati, interoperabilità, decentralizzazione (cit. progetto Solid di MIT), sono difficilmente percorribili. Non sono d’accordo che "i dati personali acquisiti dal fornitore di un servizio sono spesso visti […] come il prezzo che un utente paga per la fruizione di quest’ultimo”. Il fenomeno del "free effect”, per cui gli utenti sono disposti a fornire dati o contenuti in cambio della gratuità di un servizio andrebbe approfondito, non solo negli aspetti di privacy, ma anche di distorsione della concorrenza o di barriere all’ingresso di altri. Concordo che "l’intreccio tra le competenze del Garante dei dati personali e dell’Autorità antitrust può rivelarsi inevitabile e particolarmente complesso”, anzi la questione va posta a livello europeo. — Beppe PS. Riguardo alle piattaforme cloud, non ci sono solo AWS e OpenStack, ma anche Microsoft Azure, Google Cloud oltre a Kubernetes, AWS ECS, Google Containers.

Feb. 13, 2020

Re: [nexa] From ethics washing to ethics bashing: a view on tech ethics from within moral philosophy

by Roberto Resoli

Il 13/02/20 09:44, Giacomo Tesio ha scritto: > Continua suhttps://dl.acm.org/doi/abs/10.1145/3351095.3372860 > PDF:https://dl.acm.org/doi/pdf/10.1145/3351095.3372860?download=true > > > Che ne pensate? Intanto leggo (grazie della segnalazione), la premessa è estremamente centrata e interessante, come tutto il lavoro di Elettra Bietti: https://hls.harvard.edu/dept/graduate-program/elettra-bietti/ rob > Giacomo

Feb. 13, 2020

Re: [nexa] Il documentario "Invisibles - Les travailleurs du clic" è online

by Roberto Resoli

Il 12/02/20 22:06, Antonio Casilli ha scritto: > Cari tutti, > > la serie di documentari "Invisibles - Les travailleurs du clic", è ormai disponibile gratuitamente sulla piattaforma della televisione pubblica francese, France Télévisions: https://www.france.tv/slash/invisibles/. > > I 4 episodi saranno disponibili dal 14 febbraio anche su Youtube e Peertube (a cadenza settimanale). > > Presentazione: > > I social, le app di consegna a domicilio, i motori di ricerca... Come possiamo fare a meno di queste applicazioni che riempiono le nostre giornate e ci rendono la vita più facile? Facebook, Google, Amazon, Deliveroo, Uber Eats, Airbnb, Booking, Tinder... Tutte queste piattaforme, come per magia, rispondono quasi istantaneamente ai nostri bisogni, desideri e aspirazioni. Tanto che ci si dimentica che dietro le loro interfacce ci sono migliaia di uomini e donne che lavorano ogni giorno per farle funzionare. > > Ep. 1 - "Gioventù in movimento" (produzione dati e gestione algoritmica del personale, da Uber ai ciclofattorini) > > Ep. 2 - "Microlavorare di più per il microguadagnare di meno" (i lavoratori che addestrano l'IA, tra l'Europa e l'Africa) > > Ep. 3 - "Traumi senza moderazione" (i rischi legati all'attività dei moderatori dei contenuti dei social, e le loro strategie di resistenza) > > Ep. 4 - "Oltre il clic" (quando i lavoratori del clic si organizzano, creano piattaforme alternative e diventano whistleblowers) > > Buon binge-watching, > Antonio Grazie, inoltro anche su altra lista potenzialmente interessata. rob

Feb. 13, 2020