February 2020 - nexa - server-nexa.polito.it

Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian

by Giovanni Biscuolo

Buongiorno Cristina, Cristina Iuli <cristina.iuli(a)uniupo.it> writes: [...] > Condivido - nella misura in cui > la comprendo - questa affermazione di Giovanni Biscuolo: > > solo sistemi basati su algoritmi pubblici, consultabili (e quindi > contestabili) forniscono adeguate garanzie costituzionali; solo il > software libero garantisce che l'implementazione sia confrontabile con > l'algoritmo :-) qualsiasi cosa posso fare per rendere il più comprensibile possibile questa affermazione (niente farina del mio sacco) la farò, sono a disposizione senza sapere bene cosa non è chiaro, mi viene solo da sottolineare la fondamentale differenza tra algoritmo e implementazione (programma *sorgente* software); mi scuso se ripeto cose che potrebbero suonare ovvie https://it.wikipedia.org/wiki/Algoritmo#Definizione: --8<---------------cut here---------------start------------->8--- [...] una definizione del concetto di algoritmo che sia formale e non tecnica manca tuttora e si è pertanto costretti ad accontentarsi dell'idea intuitiva di algoritmo come: "una sequenza ordinata e finita di passi (operazioni o istruzioni) elementari che conduce a un ben determinato risultato in un tempo finito". --8<---------------cut here---------------end--------------->8--- io mi accontenterei di questa idea intuitiva di algoritmo: ci basta che le operazioni che conducono al risultato siano pubblicate; avendo quello è quantomeno _possibile_ poter verificare i criteri, anche se per farlo occorre saper interpretare la sequenza ordinata che potrebbe essere espressa in un linguaggio formale un po' criptico (quindi chiederemmo a chi la pubblica di scriverla in un linguaggio più chiaro) sottolineo anche che (sempre dalla pagina Wikipedia ditata sopra) --8<---------------cut here---------------start------------->8--- L'algoritmo è un concetto fondamentale dell'informatica, anzitutto perché è alla base della nozione teorica di calcolabilità: un problema è calcolabile quando è risolvibile mediante un algoritmo. --8<---------------cut here---------------end--------------->8--- e questo apre una questione piuttosto rilevante in merito alla *possibilità* di applicare algoritmi per decidere un po' su "laqualunque" come se fosse ovvio; questo implica la _non_banale_ possibilità che analizzato l'algoritmo possa evidenziarsi (a volte in modo sfacciatamente palese) che non è il caso di prendere quelle decisioni sulla base di una serie di calcoli, in una sorta di eccesso di zelo di grezzo determinismo socio-economico infine, in merito al software che implementa l'algoritmo (stessa pagina Wikipedia): --8<---------------cut here---------------start------------->8--- la programmazione costituisce essenzialmente la traduzione o codifica di un algoritmo per tale problema in programma, scritto in un certo linguaggio, che può essere quindi effettivamente eseguito da un calcolatore rappresentandone la logica di elaborazione --8<---------------cut here---------------end--------------->8--- nella definizione sopra c'è un errore: il 99.9% [1] dei programmi *non* sono direttamente eseguibili da un calcolatore, devono a loro volta essere tradotti in un linguaggio macchina [2], per questo ci sono i c.d. compilatori e interpreti di linguaggi; es. di linguaggi di programmazione sono il C, Python, Lisp (uno degli enne dialetti)... in ogni caso essendo il lavoro dei calcolatori frutto di una **doppia** traduzione, ovvero da algoritmo a codice sorgente (in un linguaggio di programmazione) e da questo a codice macchina, c'è un certo margine di errore che queste operazioni possono inserire tra il risultato atteso (secondo la definizione algoritmica) e quello effettivo quindi lo schema è algoritmo -> codice sorgente -> codice macchina il senso della "mia" frase iniziale è che sarebbe opportuno che algoritmo e "codice sorgente" fossero scrutinabili da tutti > ma non sono sicura di comprenderne fino in fondo le implicazioni. Per un > non addetto ai lavori, per una persona che non ha le assai specifiche e > costose competenze matematiche o informatiche necessarie a valutare il > rapporto tra gli algoritmi e loro messa in opera in programmi di gestione > delle popolazioni, che cosa significa, davvero, questa affermazione? è vero: per poter verificare che il codice sorgente implementi in modo corretto l'algoritmo ci vogliono specifiche competenze informatiche, ovvero occorre conoscere il linguaggio di programmazione usato per scrivere il codice sorgente da cittadino io mi ritetterrei comunque già notevolmente rispettato se almeno l'algoritmo mi fosse messo a disposizione per essere studiato e comprenderne gli elementi, per poi poter eventualmente contestarne gli aspetti che non condivido e se del caso determinarne la modifica: si tratta del primo passo, fondamentale, per una adeguata implementazione del processo democratico anche nella sfera della cittadinanza digilale: il diritto a conoscere l'algoritmo paragonato al diritto di conoscere le leggi che regolano la convivenza civile > Significa che in un sistema di pubblicità degli algoritmi, il controllo > incrociato (ma invisibile ai più) da parte di addetti ai lavori opera come > effettivo organismo di controllo sul rapporto tra algoritmo,sua > implementazione, e suo significato politico? sì; ciascun cittadino, in funzione delle proprie competenze, può decidere in che misura e a che livello di verifica, nella "catena di traduzione", vuole partecipare è vero che per controllare il codice sorgente ci vogliono adeguate competenze, ma l'accesso a tali competenze è quantomeno possibile ai cittadini che desiderassero acquisirle (e non stiamo parlando di competenze di analisi matematica o simili) > O significa che vanno creati organismi di addetti ai lavori che > possano dare sufficienti garanzie sul modo in cui gli algoritmi > vengono creati e utilizzati? grazie infinitamente per *la* domanda :-) questo è esattamente quello che succede quando l'implementazione dell'algoritmo (codice sorgente) è in forma di software proprietario: i cittadini, e spesso le istituzioni stesse, devono fidarsi di un ristretto gruppo di addetti ai lavori (in genere di grandi aziende private) per la verifica che tale implementazione sia adeguata in altre parole: quando le regole di convinenza civile sono inglobate nel software proprietario il diritto alla partecipazione alla propria cittadinanza digitale è negato in partenza, ovvero rimarrebbe solo la possibilità di verificare l'algoritmo fidandosi ciecamente dell'implementazione > Significa che nella società digitale e del controllo, il controllo critico > che i cittadini (e le istituzioni che essi eleggono) dovrebbero poter > esercitare sulle politiche pubbliche, sia a livello decisionale che > amministrativo, deve essere delegato per default a chi ha le capacità > tecniche di esercitarlo? io (e molti altri prima e più in alto di me) ritengo che questo sia un grave pericolo per la democrazia prossima ventura: questo controllo non deve essere *esclusivo* ma aperto, a tutti deve essere data la possibilità di partecipare in funzione delle proprie competenze non è automatico che chiunque sia in grado di partecipare a questo processo di verifica quando il software è libero, solo il software libero, però, lo rende possibile > E se è così, quali sono le conseguenze di questa > condizione sui sistemi democratici e sull'idea stessa di democrazia? E in > assenza della possibilità di conoscere, comprendere e valutare il > significato degli algoritmi e del loro uso, cosa dovrebbe convincere i > cittadini a fidarsi delle procedure, delle istituzioni, e del controllo > degli esperti? Nulla: la fiducia sulla base dell'autorità è morta e sepolta ormai, dobbiamo _ricostruire_ la fiducia su nuove basi > Grazie molte a chi risponde. > Cristina Iuli Grazie per gli interessanti spunti di riflessione Saluti, Giovanni [1] alcuni rarissimi programmi sono scritti in un lingiaggio direttamente traducibile in codice macchina, con margini di errore vicini allo zero assoluto [2] ogni architettura di calcolatore (es. i386, ARM7, Arduino) ha un proprio linguaggio macchina specifico [...] -- Giovanni Biscuolo Xelera IT Infrastructures

Feb. 17, 2020

Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian

by Maria Luisa Stasi

Salve, grazie a tutti per le risposte e i commenti, che ho trovato utilissimi e molto interessanti. Rispondo su un paio di elementi dove mi pare di avere qualcosa da aggiungere. Qualcuno ha sollevato il sospetto che non si voglia far conoscere l'algoritmo perché svelerebbe la politica discriminatoria che lo determina. In effetti, dalla lettura della sentenza questa circostanza non si puo' escludere, ma credo che la corte abbia trovato una buona soluzione (che, per inciso, a mio parere costituisce una - finalmente! - concreta applicazione dei principi di trasparenza contenuti nella GDPR): in sostanza la corte dice che, dato che non sono stati forniti - dallo Stato - elementi sufficienti per provare che non c'e' effetto discriminatorio, quest'ultimo non si puo' escludere. Mi pare quindi che ci sia una sorta di inversione dell'onere della prova: a meno che non si dimostri che non c'e' discriminazione, la corte la da per esistente. Piu' in generale sull'utilizzo di sistemi come SyRI: da un punto di vista degli standard internazionali sui diritti umani e tecnologia, il ragionamento dovrebbe essere che le tecnologie invasive dei diritti fondamentali (privacy e protezione dati, ma anche non-discriminazione etc.) dovrebbero essere utilizzate solo come ultima risorsa, ovvero quando non esiste altro modo, meno invasivo dei suddetti diritti, per raggiungere l'obiettivo (un obiettivo legittimo, ovviamente). Quindi se SyRI è un mezzo efficace, ma ne esistono altri ugualmente efficaci e meno invasivi della privacy di un cittadino, SyRI non dovrebbe essere utilizzata. Saluti, Maria Luisa From: "Diego Giorio" <dgiorio(a)hotmail.com> To: "NEXA List" <nexa(a)server-nexa.polito.it> Sent: Monday, 17 February, 2020 08:28:06 Subject: Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian Osservazione interessante, ma a mio parere lo stesso discorso vale per la trasparenza nella PA: l'Ente deve pubblicare delibere e determine e consentire il controllo democratico. Deve anche impegnarsi per scriverle in modo comprensibile e non intenzionalmente nebuloso. Se però una persona non è in grado di leggere e scrivere, o comunque non è in grado di comprendere quanto ha letto perchè troppo lontano dalla propria formazione, dovrà fidarsi di qualche esperto che esegua il controllo in sua vece. Oppure pensiamo agli esami clinici: io ho fatto un esame un po' particolare ed il mio medico di famiglia ha detto che la data del prelievo era chiarissima, affidando l'interpretazione ad uno specialista. Se non l'ha capito un medico, anche bravo, figuriamoci il resto della popolazione. In un'epca di alta specializzazione non è insolito che un'informazione non sia comprensibile da tutti. Ma il fatto che sia disponibile consente comunque un controllo, affidato a esperti di fiducia. Buona giornata D. From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Cristina Iuli <cristina.iuli(a)uniupo.it> Sent: Saturday, February 15, 2020 6:10 PM To: Giovanni Biscuolo <g(a)xelera.eu> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian Buongiorno. Leggo con grande interesse da non addetta ai lavori i messaggi di questa lista, e vi sono molto grata delle importantissime questioni che sollevate. Vorrei chiedere un chiarimento. Condivido - nella misura in cui la comprendo - questa affermazione di Giovanni Biscuolo: solo sistemi basati su algoritmi pubblici, consultabili (e quindi contestabili) forniscono adeguate garanzie costituzionali; solo il software libero garantisce che l'implementazione sia confrontabile con l'algoritmo :-) ma non sono sicura di comprenderne fino in fondo le implicazioni. Per un non addetto ai lavori, per una persona che non ha le assai specifiche e costose competenze matematiche o informatiche necessarie a valutare il rapporto tra gli algoritmi e loro messa in opera in programmi di gestione delle popolazioni, che cosa significa, davvero, questa affermazione? Significa che in un sistema di pubblicità degli algoritmi, il controllo incrociato (ma invisibile ai più) da parte di addetti ai lavori opera come effettivo organismo di controllo sul rapporto tra algoritmo,sua implementazione, e suo significato politico? O significa che vanno creati organismi di addetti ai lavori che possano dare sufficienti garanzie sul modo in cui gli algoritmi vengono creati e utilizzati? Significa che nella società digitale e del controllo, il controllo critico che i cittadini (e le istituzioni che essi eleggono) dovrebbero poter esercitare sulle politiche pubbliche, sia a livello decisionale che amministrativo, deve essere delegato per default a chi ha le capacità tecniche di esercitarlo? E se è così, quali sono le conseguenze di questa condizione sui sistemi democratici e sull'idea stessa di democrazia? E in assenza della possibilità di conoscere, comprendere e valutare il significato degli algoritmi e del loro uso, cosa dovrebbe convincere i cittadini a fidarsi delle procedure, delle istituzioni, e del controllo degli esperti? Grazie molte a chi risponde. Cristina Iuli Maria Cristina Iuli, Ph.D. Associate Professor, Lingua e Letteratura Nordamericana Presidente Corso di Studio in Lingue Straniere Moderne Dipartimento Studi Umanistici - Università del Piemonte Orientale Piazza S. Eusebio, 3 13100 Vercelli ITALY 2018-19 Fulbright Distinguished Lecturer - Northwestern University Executive Board - AISNA (Associazione Italiana Studi Nord Americani) Executive Board - SLSA- EU( European Society for the Study of Science, Literature, and the Arts) Tel 0039 0161 222 8304 Fax 0039 0161 269959 ……………………………………. Transatlantic Transfers The italian presence in post war America 1949-1972 PRIN2017 polimi_uniroma3_upo_usg ……………………………………. Il giorno sab 15 feb 2020 alle ore 16:12 Giovanni Biscuolo < [ mailto:g@xelera.eu | g(a)xelera.eu ] > ha scritto: [chiedo scusa per il lungo post, le cose da dire sarebbero tantissime...] Buongiorno, non voglio certo rispondere per conto di Maria Luisa, ma aggiungo alcuni commenti che in parte forse rispondono alle domande di Andrea dal punto di vista giuridico faccio solo notare (a voi può apparire scontato ma a molti no) che SyRI segnalava i profili a rischio ma è poi l'agenzia delle entrate competente che avrebbe dovuto ulteriormente investigare; non stiamo parlando di sistemi autonomi di espulsione dai benefici fiscali... ed è cosa buona e giusta in generale la mia sensazione, da tecnico e cittadino, è che quando si tratta di avere a che fare con "la digitalizzazione dei servizi" e il trattamento automatico delle informazioni, certe volte (spesso?) al legislatore gli si chiude la vena e non si ricorda più cose fondamentali che dava per scontato quando si usavano macchina da scrivere e altre robe simili analogiche... oppura fa finta e ci prova? :-O Andrea Glorioso < [ mailto:andrea@digitalpolicy.it | andrea(a)digitalpolicy.it ] > writes: > Forse non ho capito il suo intervento, ma perché l’utilizzo di sistemi > come SyRI (o sistemi comparabili) per evitare frodi, assumendo > l’esistenza e la corretta applicazione di “sufficienti garanzie” (che > per altro nella sentenza non mi pare si riferiscano solo al diritto > alla privacy) sarebbe da osteggiare? permettetemi la provocazione: quindi la differenza tra i sistemi di profilazione cinesi (generalemnte additati come totalitaristi, da noi) e quelli occidentali sta nelle "sufficienti garanzie"? :-) il problemone nel caso specifico di SyRI, così come di tutti i sistemi basati su algoritmi *segreti* di profilazione (pubblici e privati), è che **non possono essere fornite sufficienti garanzie**: punto. solo sistemi basati su algoritmi pubblici, consultabili (e quindi contestabili) forniscono adeguate garanzie costituzionali; solo il software libero garantisce che l'implementazione sia confrontabile con l'algoritmo :-) in altre parole la politica _incorporata_ negli algoritmi *deve* essere pubblica ogni qual volta regola uno o più aspetti della vita dei cittadini: no? io ho il vaghissimo sospetto che non si voglia far conoscere l'algoritmo perché svelerebbe la politica discriminatoria che lo determina :-O detto terra terra: le chiacchiere stanno a zero, fuori l'algoritmo (e il software)! 1. SyRI: [ https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands | https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands ] : --8<---------------cut here---------------start------------->8--- Because SyRI is shrouded in secrecy, welfare beneficiaries have no meaningful way of knowing when or how the system’s calculations are factored into decisions to cut them off from lifesaving benefits. --8<---------------cut here---------------end--------------->8--- è una cosa seria che queste indagini automatizzate vengano effettuate in segreto? (AFAIU non stiamo parlando di indagini supervisionate da parte della magistratura) 2. SyRI: [ https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands | https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands ] --8<---------------cut here---------------start------------->8--- The government has refused to disclose how SyRI works, for fear that explaining its risk calculation algorithms will enable fraudsters to game the system. But it has disclosed that the system generates “false positives” – cases in which the system erroneously flags individuals as a fraud risk. --8<---------------cut here---------------end--------------->8--- [ https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-sys… | https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-sys… ] : --8<---------------cut here---------------start------------->8--- it gathers government data previously held in separate silos, such as employment, personal debt and benefit records, and education and housing histories, then analyses it using a secret algorithm to identify which individuals might be at higher risk of committing benefit fraud. --8<---------------cut here---------------end--------------->8--- algoritmi segreti: state scherzando vero? :-) 3. in generale: [ https://undocs.org/A/74/493 | https://undocs.org/A/74/493 ] Report of the Special Rapporteur on extreme poverty and human rights --8<---------------cut here---------------start------------->8--- The digital welfare state is either already a reality or emerging in many countries across the globe. In these states, systems of social protection and assistance are increasingly driven by digital data and technologies that are used to automate, predict, identify, surveil, detect, target and punish. In the present report, the irresistible attractions for Governments to move in this direction are acknowledged, but the grave risk of stumbling, zombie-like, into a digital welfare dystopia is highlighted. It is argued that big technology companies (frequently referred to as “big tech”) operate in an almost human rights-free zone, and that this is especially problematic when the private sector is taking a leading role in designing, constructing and even operatin g significant parts of the digital welfare state. It is recommended in the report that, instead of obsessing about fraud, cost savings, sanctions, and market-driven definitions of efficiency, the starting point should be on how welfare budgets could be transformed through technology to ensure a higher standard of living for the vulnerable and disadvantaged. --8<---------------cut here---------------end--------------->8--- (non ho letto tutto il rapporto, ce l'ho in coda) quindi anche l'OHCHR ritiene che l'applicazione di questa classe di sistemi sia problematica, sostanzialmente per via della *privatizzazione* del "digital welfare state" ad opera delle "big tech" la raccomandazione "It is recommended" credo sia abbastanza chiara :-O il capitolo "Introduction" del rapporto spiega più che chiaramente qual'è l'universo di discorso nel quale ci stiamo muovendo e illustra in modo cristallino quali sono i temi dei quali società civili devono occuparsi; mi permetto di evidenziare questo: --8<---------------cut here---------------start------------->8--- Often, however, the digitization of welfare systems has been accompanied by deep reductions in the overall welfare budget, a narrowing of the beneficiary pool, the elimination of some services, the introduction of demanding and intrusive forms of conditionality, the pursuit of behavioural modification goals, the imposition of stronger sanctions regimes and a complete reversal of the traditional notion that the State should be accountable to the individual. --8<---------------cut here---------------end--------------->8--- quindi gli obiettivi di questa classe di sistemi *paiono* (non a me, a chi ha scritto quanto sopra) essere anche altri, assieme alla riduzione delle frodi; in particolare mi preme sottolineare "demanding and intrusive forms of conditionality" io trovo una certa analogia con il sistema di sorveglianza globale e censura attuato via Internet, che *ovviamente* include anche criteri anti-terrorismo, anti-pedofilia, anti-crimine, anti-hate speech... [ https://www.article19.org/ | https://www.article19.org/ ] (non sono ovviamente i soli) ha molto da dire a questo proposito e credo anche che le considerazioni di Maria Luisa siano da persona molto informata sui fatti :-) trovo interessante anche il paragrafo "Why we challenge aspects of social benefits systems that surveil, control, and punish" di questo articolo: [ https://privacyinternational.org/researching-social-benefits | https://privacyinternational.org/researching-social-benefits ] sia il rapporto citato all'inizio di questo punto che l'articolo qui sopra hanno citazioni (o link) a paper _estremamente_ interessanti insomma, il succo del discorso è che la tecnologia non è **mai**, mai, mai, mai, mai neutrale ma _incorpora_ una determinata politica 4. [ https://it.wikipedia.org/wiki/Studio_di_settore | https://it.wikipedia.org/wiki/Studio_di_settore ] un caso analogo italiano c'è, sebbene non si tratti di benefici fiscali per i poveri: gli studi di settore AFAIU in questo caso almeno il processo di definizione dei criteri è trasparente, anche se ammetto di non aver cercato se l'algoritmo è pubblicato e mi pare che il sorgente di Gerico non sia disponibile :-S [...] Saluti, Giovanni -- Giovanni Biscuolo Xelera IT Infrastructures _______________________________________________ nexa mailing list [ mailto:nexa@server-nexa.polito.it | nexa(a)server-nexa.polito.it ] [ https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa | https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa ] _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 17, 2020

Re: [nexa] Never Mind the Internet. Here’s What’s Killing Malls. - The New York Times

by Stefano Quintarelli

la tesi e' cioe' che non e' stato l'eccomerce, ma e' stata per 2/3 internet indirettamente ? non mi pare un articolo del livello cui ci ha abituato il NYT,francamente.. On 17/02/2020 08:19, J.C. DE MARTIN wrote: > > Never Mind the Internet. Here’s What’s Killing Malls. > > Yes, the internet has changed the way we shop. But taken together, other > factors have caused greater harm to traditional retail stores, an > economist says. > > > https://www.nytimes.com/2020/02/13/business/not-internet-really-killing-mal… > > > (Sent from my wireless device; please excuse brevity and typos (if any)) > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- reserve your meeting with me at https://cal.quintarelli.it

Feb. 17, 2020

76° Nexa Lunch Seminar | 26 Febbraio 2020

by Nexa Media

Nexa Center for Internet and Society Newsletter Se non visualizzi correttamente questo messaggio clicca qui <https://nexa.polito.it/lunch-76> NEXA 76° Nexa Lunch Seminar Mercoledi 26 febbraio 2020, ore 13.00 - 14.00 Politecnico di Torino http://nexa.polito.it/lunch-76 <https://nexa.polito.it/lunch-76> Intelligenza artificiale e radiologia: dalla progettazione alla pratica clinica Speaker Lia Morra (PhD in Ingegneria Informatica) This event will be webcast live: https://nexa.polito.it/nexa-hangout-on-air Con l’avvento dell’*intelligenza artificiale* ed in particolare della tecnologia nota come *deep learning* si prospetta una vera e propria *rivoluzione in medicina*. Storicamente, dagli anni ‘80 ad oggi la *radiologia* si è sempre dimostrata *all’avanguardia nell’applicare le tecnologie informatiche* per coadiuvare il lavoro del clinico, ed è oggi una disciplina molto aperta *nell’accogliere i potenziali benefici dell’intelligenza artificiale*. Tra applicazioni che sono da tempo consolidate nella pratica medica, ed altre che si sono rivelate meno efficaci di quanto inizialmente promesso, è tuttavia importante delineare un *quadro complessivo dell’effettivo stato dell’arte e delle sfide aperte*, senza alcuna pretesa di esaustività. E’ opportuno rammentare che il trasferimento dei risultati dalla ricerca scientifico-tecnologica alla pratica clinica richiede una validazione clinica estesa sia per soddisfare i vincoli regolatori che per quantificare il beneficio clinico. Da questo punto di vista, la radiologia, e la medicina in generale, si differenzia in maniera significativa da altri campi di applicazione dell’IA. In un’epoca in cui lo sviluppo tecnologico è sempre più veloce, diventa sempre più importante *bilanciare attentamente le opportunità e i rischi del trasferimento tecnologico*. In questa direzione operano numerose *iniziative* sia da parte di *organizzazioni scientifiche* che da parte di *enti regolatori come la Food & Drug Administration*. /Ingresso libero - Sarà disponibile un leggero rinfresco per coloro che si saranno registrati su http://nexa.eventbrite.com/ <https://nexa.eventbrite.com > entro il 24 febbraio./ BIOGRAFIE - e informazioni supplementari [Morra] *Lia MORRA*, PhD in Ingegneria Informatica, fa parte del Dipartimento di Automatica e Informatica del Politecnico di Torino. Ha 10+ anni di esperienza in ambito healthcare maturata in ambito industriale come ricercatore e successivamente Direttore della Ricerca per l’azienda torinese im3D. Letture consigliate e link utili: * Lia Morra, Silvia Delsanto, and Loredana Correale. "Artificial Intelligence in Medical Imaging: From Theory to Clinical Practice." (2019). https://www.crcpress.com/Artificial-Intelligence-in-Medical-Imaging-From-Th… * Eric Topol, "Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again." https://www.amazon.com/Deep-Medicine-Artificial-Intelligence-Healthcare/dp/… * US Food & Drug Administration. "Artificial Intelligence and Machine Learning in Software as a Medical Device." https://www.fda.gov/medical-devices/software-medical-device-samd/artificial… * Litjens, Geert, et al. "A survey on deep learning in medical image analysis." /Medical image analysis/ 42 (2017): 60-88. https://arxiv.org/abs/1702.05747 * Petrick, N.,et al. “Evaluation of computer‐aided detection and diagnosis systems.” /Medical physics,/ 40.8 (2013). https://aapm.onlinelibrary.wiley.com/doi/full/10.1118/1.4816310 * Huo, Zhimin, et al. "Quality assurance and training procedures for computer‐aided detection and diagnosis systems in clinical use." /Medical physics/ 40.7 (2013). https://aapm.onlinelibrary.wiley.com/doi/full/10.1118/1.4807642 Che cosa sono il Centro Nexa e i cicli di incontri “Mercoledì di Nexa” e “Nexa Lunch Seminar” <https://www.facebook.com/nexa.center/> <https://twitter.com/nexacenter> <https://www.youtube.com/user/NexaCenter> #nexalunchseminar <https://twitter.com/search?q=%23nexalunchseminar&src=typd> Il Centro Nexa su Internet & Società del Politecnico di Torino (Dipartimento di Automatica e Informatica) dal 2006 è un centro di ricerca indipendente e interdisciplinare che, in collaborazione con l'Università di Torino, studia Internet (e più in generale le Tecnologie digitali) e i suoi rapporti con la società. Maggiori informazioni all'indirizzo: http://nexa.polito.it/about. Durante i “*Mercoledì di Nexa*”, che si tengono *ogni 2° mercoledì del mese* alle *ore 18 in punto*, il Centro Nexa su Internet e Società apre le sue porte non solo agli esperti e a tutti coloro i quali lavorano con Internet, ma anche a semplici appassionati e cittadini. Il ciclo di incontri intende approfondire, con un linguaggio preciso ma accessibile, i temi legati alla Rete: motori di ricerca, Creative Commons, social networks, open source/software libero, neutralità della rete, libertà di espressione, privacy, file sharing, big e open data, smart cities e molto altro. Al centro di quasi tutti gli incontri un ospite pronto a dialogare con i direttori del Centro Nexa, il Prof. Juan Carlos De Martin del Politecnico di Torino e il Prof. Marco Ricolfi dell'Università di Torino, nonché lo staff e i Fellows del Centro Nexa. Maggiori informazioni sui Mercoledì di Nexa, incluso un elenco di tutti i “Mercoledì” passati, sono disponibili all'indirizzo: http://nexa.polito.it/mercoledi. Si segnala inoltre che dal maggio 2012 *ogni 4° mercoledì* del mese *dalle ore 13 alle ore 14* il Centro Nexa organizza anche i "*Nexa Lunch Seminar*". Una lista di tutti i “Lunch Seminar” passati è disponibile all'indirizzo: http://nexa.polito.it/lunch-seminars. See our events calendar <http://nexa.polito.it/events> if you're curious about future luncheons, discussions, lectures, and conferences not listed in this email. Our events are free and open to the public, unless otherwise noted. Responsabile Comunicazione Centro Nexa su Internet & Società: *Anita Botta*, tel: +39 011 090 7219, Mob: +39 347 131 3903, anita.botta(a)polito.it <mailto:anita.botta@polito.it>. Maggiori informazioni sui Mercoledì di Nexa e i Nexa Lunch Seminar, sono disponibili all'indirizzo: http://nexa.polito.it/events. Weekly Events Newsletter. Sign up <http://nexa.polito.it/mailing-lists> to receive this newsletter if this email was forwarded to you. To manage your subscription preferences, please click here <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>. Connect & get involved: Jobs, internships, and more <http://nexa.polito.it/get-involved>.

Feb. 17, 2020

Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian

by Diego Giorio

Osservazione interessante, ma a mio parere lo stesso discorso vale per la trasparenza nella PA: l'Ente deve pubblicare delibere e determine e consentire il controllo democratico. Deve anche impegnarsi per scriverle in modo comprensibile e non intenzionalmente nebuloso. Se però una persona non è in grado di leggere e scrivere, o comunque non è in grado di comprendere quanto ha letto perchè troppo lontano dalla propria formazione, dovrà fidarsi di qualche esperto che esegua il controllo in sua vece. Oppure pensiamo agli esami clinici: io ho fatto un esame un po' particolare ed il mio medico di famiglia ha detto che la data del prelievo era chiarissima, affidando l'interpretazione ad uno specialista. Se non l'ha capito un medico, anche bravo, figuriamoci il resto della popolazione. In un'epca di alta specializzazione non è insolito che un'informazione non sia comprensibile da tutti. Ma il fatto che sia disponibile consente comunque un controllo, affidato a esperti di fiducia. Buona giornata D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Cristina Iuli <cristina.iuli(a)uniupo.it> Sent: Saturday, February 15, 2020 6:10 PM To: Giovanni Biscuolo <g(a)xelera.eu> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian Buongiorno. Leggo con grande interesse da non addetta ai lavori i messaggi di questa lista, e vi sono molto grata delle importantissime questioni che sollevate. Vorrei chiedere un chiarimento. Condivido - nella misura in cui la comprendo - questa affermazione di Giovanni Biscuolo: solo sistemi basati su algoritmi pubblici, consultabili (e quindi contestabili) forniscono adeguate garanzie costituzionali; solo il software libero garantisce che l'implementazione sia confrontabile con l'algoritmo :-) ma non sono sicura di comprenderne fino in fondo le implicazioni. Per un non addetto ai lavori, per una persona che non ha le assai specifiche e costose competenze matematiche o informatiche necessarie a valutare il rapporto tra gli algoritmi e loro messa in opera in programmi di gestione delle popolazioni, che cosa significa, davvero, questa affermazione? Significa che in un sistema di pubblicità degli algoritmi, il controllo incrociato (ma invisibile ai più) da parte di addetti ai lavori opera come effettivo organismo di controllo sul rapporto tra algoritmo,sua implementazione, e suo significato politico? O significa che vanno creati organismi di addetti ai lavori che possano dare sufficienti garanzie sul modo in cui gli algoritmi vengono creati e utilizzati? Significa che nella società digitale e del controllo, il controllo critico che i cittadini (e le istituzioni che essi eleggono) dovrebbero poter esercitare sulle politiche pubbliche, sia a livello decisionale che amministrativo, deve essere delegato per default a chi ha le capacità tecniche di esercitarlo? E se è così, quali sono le conseguenze di questa condizione sui sistemi democratici e sull'idea stessa di democrazia? E in assenza della possibilità di conoscere, comprendere e valutare il significato degli algoritmi e del loro uso, cosa dovrebbe convincere i cittadini a fidarsi delle procedure, delle istituzioni, e del controllo degli esperti? Grazie molte a chi risponde. Cristina Iuli [https://docs.google.com/uc?export=download&id=0Bx8amq3mAnWsNmRNdXZYamFycjQ&…] Maria Cristina Iuli, Ph.D. Associate Professor, Lingua e Letteratura Nordamericana Presidente Corso di Studio in Lingue Straniere Moderne Dipartimento Studi Umanistici - Università del Piemonte Orientale Piazza S. Eusebio, 3 13100 Vercelli ITALY 2018-19 Fulbright Distinguished Lecturer - Northwestern University Executive Board - AISNA (Associazione Italiana Studi Nord Americani) Executive Board - SLSA- EU( European Society for the Study of Science, Literature, and the Arts) Tel 0039 0161 222 8304 Fax 0039 0161 269959 ……………………………………. Transatlantic Transfers The italian presence in post war America 1949-1972 PRIN2017 polimi_uniroma3_upo_usg ……………………………………. Il giorno sab 15 feb 2020 alle ore 16:12 Giovanni Biscuolo <g(a)xelera.eu<mailto:g@xelera.eu>> ha scritto: [chiedo scusa per il lungo post, le cose da dire sarebbero tantissime...] Buongiorno, non voglio certo rispondere per conto di Maria Luisa, ma aggiungo alcuni commenti che in parte forse rispondono alle domande di Andrea dal punto di vista giuridico faccio solo notare (a voi può apparire scontato ma a molti no) che SyRI segnalava i profili a rischio ma è poi l'agenzia delle entrate competente che avrebbe dovuto ulteriormente investigare; non stiamo parlando di sistemi autonomi di espulsione dai benefici fiscali... ed è cosa buona e giusta in generale la mia sensazione, da tecnico e cittadino, è che quando si tratta di avere a che fare con "la digitalizzazione dei servizi" e il trattamento automatico delle informazioni, certe volte (spesso?) al legislatore gli si chiude la vena e non si ricorda più cose fondamentali che dava per scontato quando si usavano macchina da scrivere e altre robe simili analogiche... oppura fa finta e ci prova? :-O Andrea Glorioso <andrea(a)digitalpolicy.it<mailto:andrea@digitalpolicy.it>> writes: > Forse non ho capito il suo intervento, ma perché l’utilizzo di sistemi > come SyRI (o sistemi comparabili) per evitare frodi, assumendo > l’esistenza e la corretta applicazione di “sufficienti garanzie” (che > per altro nella sentenza non mi pare si riferiscano solo al diritto > alla privacy) sarebbe da osteggiare? permettetemi la provocazione: quindi la differenza tra i sistemi di profilazione cinesi (generalemnte additati come totalitaristi, da noi) e quelli occidentali sta nelle "sufficienti garanzie"? :-) il problemone nel caso specifico di SyRI, così come di tutti i sistemi basati su algoritmi *segreti* di profilazione (pubblici e privati), è che **non possono essere fornite sufficienti garanzie**: punto. solo sistemi basati su algoritmi pubblici, consultabili (e quindi contestabili) forniscono adeguate garanzie costituzionali; solo il software libero garantisce che l'implementazione sia confrontabile con l'algoritmo :-) in altre parole la politica _incorporata_ negli algoritmi *deve* essere pubblica ogni qual volta regola uno o più aspetti della vita dei cittadini: no? io ho il vaghissimo sospetto che non si voglia far conoscere l'algoritmo perché svelerebbe la politica discriminatoria che lo determina :-O detto terra terra: le chiacchiere stanno a zero, fuori l'algoritmo (e il software)! 1. SyRI: https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands: --8<---------------cut here---------------start------------->8--- Because SyRI is shrouded in secrecy, welfare beneficiaries have no meaningful way of knowing when or how the system’s calculations are factored into decisions to cut them off from lifesaving benefits. --8<---------------cut here---------------end--------------->8--- è una cosa seria che queste indagini automatizzate vengano effettuate in segreto? (AFAIU non stiamo parlando di indagini supervisionate da parte della magistratura) 2. SyRI: https://www.hrw.org/news/2019/11/08/welfare-surveillance-trial-netherlands --8<---------------cut here---------------start------------->8--- The government has refused to disclose how SyRI works, for fear that explaining its risk calculation algorithms will enable fraudsters to game the system. But it has disclosed that the system generates “false positives” – cases in which the system erroneously flags individuals as a fraud risk. --8<---------------cut here---------------end--------------->8--- https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-sys…: --8<---------------cut here---------------start------------->8--- it gathers government data previously held in separate silos, such as employment, personal debt and benefit records, and education and housing histories, then analyses it using a secret algorithm to identify which individuals might be at higher risk of committing benefit fraud. --8<---------------cut here---------------end--------------->8--- algoritmi segreti: state scherzando vero? :-) 3. in generale: https://undocs.org/A/74/493 Report of the Special Rapporteur on extreme poverty and human rights --8<---------------cut here---------------start------------->8--- The digital welfare state is either already a reality or emerging in many countries across the globe. In these states, systems of social protection and assistance are increasingly driven by digital data and technologies that are used to automate, predict, identify, surveil, detect, target and punish. In the present report, the irresistible attractions for Governments to move in this direction are acknowledged, but the grave risk of stumbling, zombie-like, into a digital welfare dystopia is highlighted. It is argued that big technology companies (frequently referred to as “big tech”) operate in an almost human rights-free zone, and that this is especially problematic when the private sector is taking a leading role in designing, constructing and even operatin g significant parts of the digital welfare state. It is recommended in the report that, instead of obsessing about fraud, cost savings, sanctions, and market-driven definitions of efficiency, the starting point should be on how welfare budgets could be transformed through technology to ensure a higher standard of living for the vulnerable and disadvantaged. --8<---------------cut here---------------end--------------->8--- (non ho letto tutto il rapporto, ce l'ho in coda) quindi anche l'OHCHR ritiene che l'applicazione di questa classe di sistemi sia problematica, sostanzialmente per via della *privatizzazione* del "digital welfare state" ad opera delle "big tech" la raccomandazione "It is recommended" credo sia abbastanza chiara :-O il capitolo "Introduction" del rapporto spiega più che chiaramente qual'è l'universo di discorso nel quale ci stiamo muovendo e illustra in modo cristallino quali sono i temi dei quali società civili devono occuparsi; mi permetto di evidenziare questo: --8<---------------cut here---------------start------------->8--- Often, however, the digitization of welfare systems has been accompanied by deep reductions in the overall welfare budget, a narrowing of the beneficiary pool, the elimination of some services, the introduction of demanding and intrusive forms of conditionality, the pursuit of behavioural modification goals, the imposition of stronger sanctions regimes and a complete reversal of the traditional notion that the State should be accountable to the individual. --8<---------------cut here---------------end--------------->8--- quindi gli obiettivi di questa classe di sistemi *paiono* (non a me, a chi ha scritto quanto sopra) essere anche altri, assieme alla riduzione delle frodi; in particolare mi preme sottolineare "demanding and intrusive forms of conditionality" io trovo una certa analogia con il sistema di sorveglianza globale e censura attuato via Internet, che *ovviamente* include anche criteri anti-terrorismo, anti-pedofilia, anti-crimine, anti-hate speech... https://www.article19.org/ (non sono ovviamente i soli) ha molto da dire a questo proposito e credo anche che le considerazioni di Maria Luisa siano da persona molto informata sui fatti :-) trovo interessante anche il paragrafo "Why we challenge aspects of social benefits systems that surveil, control, and punish" di questo articolo: https://privacyinternational.org/researching-social-benefits sia il rapporto citato all'inizio di questo punto che l'articolo qui sopra hanno citazioni (o link) a paper _estremamente_ interessanti insomma, il succo del discorso è che la tecnologia non è **mai**, mai, mai, mai, mai neutrale ma _incorpora_ una determinata politica 4. https://it.wikipedia.org/wiki/Studio_di_settore un caso analogo italiano c'è, sebbene non si tratti di benefici fiscali per i poveri: gli studi di settore AFAIU in questo caso almeno il processo di definizione dei criteri è trasparente, anche se ammetto di non aver cercato se l'algoritmo è pubblicato e mi pare che il sorgente di Gerico non sia disponibile :-S [...] Saluti, Giovanni -- Giovanni Biscuolo Xelera IT Infrastructures _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 17, 2020

Re: [nexa] Never Mind the Internet. Here’s What’s Killing Malls. - The New York Times

by Luigi Scorca

Diego, li calcolano su base ricavi. Devo ammettere che il titolo mi lasciava perplesso, ed invece tutto sommato qualche spunto di riflessione c'è. Per una analisi completa servirebbero molti dati, in primis il numero di nuove aperture commerciali. Luigi Il lun 17 feb 2020, 08:30 Diego Giorio <dgiorio(a)hotmail.com> ha scritto: > Molto interessante. > > Bisognerebbe, come sempre, approfondire i dati; ad esempio capire cosa > hanno calcolato come acquisto (se un'auto o una casa entrano nel conteggio, > è chiaro che la bassa percentuale degli acquisti on-line è influenzata da > beni di alto valore, il cui acquisto raramente viene finalizzato on-line) > oppure occorrerebbe divedere per categorie: un libro o un oggetto > elettronico si comprano più facilmente on-line, altri oggetti, come le > scarpe, si ha piacere di vederli e provarli, per cui l'impatto > dell'e-commerce è sicuramente diverso a seconda della classe merceologica. > Però è importante rendersi conto, anche per scelte di carattere politico, > che liquidare una crisi con la crescita di Internet è decisamente > superficiale. > > Buona ettimana a tutti. > > D. > > ------------------------------ > *From:* nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of J.C. DE > MARTIN <demartin(a)polito.it> > *Sent:* Monday, February 17, 2020 7:19 AM > *To:* Center Nexa <nexa(a)server-nexa.polito.it> > *Subject:* [nexa] Never Mind the Internet. Here’s What’s Killing Malls. - > The New York Times > > > Never Mind the Internet. Here’s What’s Killing Malls. > > Yes, the internet has changed the way we shop. But taken together, other > factors have caused greater harm to traditional retail stores, an economist > says. > > > https://www.nytimes.com/2020/02/13/business/not-internet-really-killing-mal… > > > (Sent from my wireless device; please excuse brevity and typos (if any)) > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Feb. 17, 2020

Re: [nexa] Never Mind the Internet. Here’s What’s Killing Malls. - The New York Times

by Diego Giorio

Molto interessante. Bisognerebbe, come sempre, approfondire i dati; ad esempio capire cosa hanno calcolato come acquisto (se un'auto o una casa entrano nel conteggio, è chiaro che la bassa percentuale degli acquisti on-line è influenzata da beni di alto valore, il cui acquisto raramente viene finalizzato on-line) oppure occorrerebbe divedere per categorie: un libro o un oggetto elettronico si comprano più facilmente on-line, altri oggetti, come le scarpe, si ha piacere di vederli e provarli, per cui l'impatto dell'e-commerce è sicuramente diverso a seconda della classe merceologica. Però è importante rendersi conto, anche per scelte di carattere politico, che liquidare una crisi con la crescita di Internet è decisamente superficiale. Buona ettimana a tutti. D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of J.C. DE MARTIN <demartin(a)polito.it> Sent: Monday, February 17, 2020 7:19 AM To: Center Nexa <nexa(a)server-nexa.polito.it> Subject: [nexa] Never Mind the Internet. Here’s What’s Killing Malls. - The New York Times Never Mind the Internet. Here’s What’s Killing Malls. Yes, the internet has changed the way we shop. But taken together, other factors have caused greater harm to traditional retail stores, an economist says. https://www.nytimes.com/2020/02/13/business/not-internet-really-killing-mal… (Sent from my wireless device; please excuse brevity and typos (if any))

Feb. 17, 2020

Never Mind the Internet. Here’s What’s Killing Malls. - The New York Times

by J.C. DE MARTIN

Never Mind the Internet. Here’s What’s Killing Malls. Yes, the internet has changed the way we shop. But taken together, other factors have caused greater harm to traditional retail stores, an economist says. https://www.nytimes.com/2020/02/13/business/not-internet-really-killing-mal… (Sent from my wireless device; please excuse brevity and typos (if any))

Feb. 17, 2020

AGI - Agenzia Italia: In Finlandia il grande utilizzo di carte di credito ha indebitato i cittadini

by don Luca Peyron

Il passo più lungo della gamba digital edition. Educazione digitale significa anche questo evidentemente! Buona lettura Dl https://www.agi.it/estero/news/2020-02-16/carte-credito-debito-finlandia-70…

Feb. 16, 2020

Re: [nexa] Welfare surveillance system violates human rights, Dutch court rules | Technology | The Guardian

by Giacomo Tesio

Ciao, grazie a tutti per il thread veramente interessante. Rispetto alle considerazioni di Giovanni (che condivido) ho solo una piccola obiezione: On Saturday, 15 February 2020, Giovanni Biscuolo <g(a)xelera.eu> wrote: > il problemone nel caso specifico di SyRI, così come di tutti i sistemi > basati su algoritmi *segreti* di profilazione (pubblici e privati), è > che **non possono essere fornite sufficienti garanzie**: punto. > Il problema è che questa affermazione non viene mai considerata in tutta la sua serietà. > solo sistemi basati su algoritmi pubblici, consultabili (e quindi > contestabili) forniscono adeguate garanzie costituzionali; solo il > software libero garantisce che l'implementazione sia confrontabile con > l'algoritmo :-) E come? :-) Quale versione? Su quale sistema operativo? Su quale hardware? Con quali dati in input? Quali valori pseudocasuali sono stati inclusi? Con quali bug? Disporre dei sorgenti di un software è condizione necessaria per spiegarne l'output, ma non è lontanamente sufficiente. Di conseguenza, l'introduzione di automatismi non interpretati da menti umane (e dunque non responsabili e irresponsabili) altera in modo inevitabilmente opaco il sistema in cui avviene. Non si tratta di una cessione di potere "alle macchine" ma certamente si tratta di una sottrazione di tale potere alla comunità umana (a vantaggio di colori che controllano tali automatismi). Tuttavia, una volta insediati, tali automatismi sono quasi impossibili da estirpare (prova ne siano gli AS400 che ancora gestiscono nodi cruciali ed insospettabili della vita di moltissime grandi aziende bancarie, assicurative etc...). Perché una volta posti in essere, questi impongono ineluttabilmente se stessi e gli esseri umani ne interiorizzano e talvolta persino razionalizzano il funzionamento. Giacomo

Feb. 15, 2020