February 2020 - nexa - server-nexa.polito.it

Re: [nexa] Ricerca del MIT boccia una delle prime app per il voto digitale USA

by Federico Bo

Ing. Federico Bo /federicobo.eu <https://www.federicobo.eu/>/ Il 21/02/2020 15:17, Giovanni Biscuolo ha scritto: > Buongiorno, > > grazie per la segnalazione! > > Federico Bo <federico.bo67(a)gmail.com> writes: > >> Con il reverse engineering i ricercatori hanno demolito l'app Voatz, >> usata in varie elezioni, municipali, statali e federali USA: >> in sintesi, non è affidabile e sicura. > io sono oltre che scandalizzato dal fatto che per verificare > l'affidabilità di un sistema di voto, anche solo di un suo componente, > si debba essere *costretti* a fare reverse engineering > >> Tra le tante criticità del voto digitalec'è la mancanza di trasparenza >> delle aziende che producono sistemi e app, con o senza blockchain. >> Oltre naturalmente al fatto che sono estremamente vulnerabili, figlie di >> uno sciatto (o furbo) approccio "idealistico". >> >> https://internetpolicy.mit.edu/wp-content/uploads/2020/02/SecurityAnalysisO… > Richard Stallman ha raccolto una sorta di galleria degli errori > (orrori?) in merito al c.d. evoting https://www.stallman.org/evoting.html > tra cui segnalo: > > - "The magic word "Blockchain" does not make computerized voting > secure." https://freedom-to-tinker.com/2017/09/12/blockchains-and-voting/ > > - The general reasons why computerized voting machines cannot be > trustworthy. > http://www1.cs.columbia.edu/~unger/articles/e-voting3.html > > Io ho ancora il dubbio che una soluzione per evitare frodi nel voto > elettronico sia possibile [1], ma senza dubbio **prima** occorre > risolvere _un_sacco_ di altri problemi tecnologici, a partire dalla > comunicazione in rete giù giù giù fino all'hardware. Concordo con te. > > Tra i problemi c'è quello strano caso "Cosmic rays can alter the vote > count inside a vote-counting computer. It has already happened." [2] > [3], tutto da verificare [4] (se qualcuno ha altri link in merito da > condividere gliene sarei grato) > > BTW, per essere molto chiaro: il potenziale bit-flip dei raggi cosmici è > proprio l'ultimo dei problemi con il voto elettronico :-D (e forse ci > potrebbe essere una soluzione anche per quello, in un sistema di voto > ben progettato) I raggi cosmici mi mancavano...Però sì, al momento non sono in cima alla lista dei problemi (a meno che non vi siano server in orbita alta (space clouds?)) > > > cordiali saluti, Giovanni > > [...] > > [1] sostanzialmente ruota attorno ad una implementazione delle blind > signature in modo analogo a quanto fatto nel progetto https://taler.net > (Fraud eliminated by design, dei pagamenti in questo caso) > > [2] https://science.slashdot.org/story/17/02/19/2330251/serious-computer-glitch… > > [3] > https://news.vanderbilt.edu/2017/02/17/alien-particles-from-outer-space-are… > > [4] https://blog.paco.to/2017/cosmic-rays-did-not-change-election-results >

Feb. 21, 2020

Re: [nexa] Intervista ad Antoni Casilli sul doc "Invisibles - les travailleurs du clic"

by Roberto Resoli

Il 21 febbraio 2020 13:46:15 CET, Roberto Resoli <roberto(a)resolutions.it> ha scritto: >Il 15/02/20 17:52, Antonio Casilli ha scritto: >> e per quelli che non hanno accesso alla serie in Italia e non >vogliono utilizzare un VPN, il primo episodio è già online su: >> Youtube:https://www.youtube.com/watch?v=ST_KVB6bEdw >> >Peertube:https://peertube.datagueule.tv/videos/watch/ddf3e2a5-04cb-4398-a5c5-95a1fb47c35f > >Appena visto, un lavoro formidabile, complimenti. E i "Bullshit ad" >introduttivi una vera chicca. > >> Il secondo arriva la settimana prossima. >> Cheers, >> ---a > >Voilà: > >https://peertube.datagueule.tv/videos/watch/7224328c-efd5-425d-8734-fb27021… > >https://www.youtube.com/watch?v=5H00EVNGAZk (solo sottotitoli >automatici, per il momento) Versione ufficiale, con sottotitoli francesi (a parte l'host, il link è identico quello youtube, se qualcuno preferisse). https://yewtu.be/watch?v=EI2FJJR9dhk rob

Feb. 21, 2020

J'accuse!

by Roberto Resoli

Nils Melzer, relatore ONU sulla tortura, ancora sul caso Assange: https://schweizermonat.ch/assange/ (Tradotto automaticamente con DeepL) «schweizermonat.ch "J'accuse...!" 7-8 minuti Ci sono momenti nella vita da cui ci si vuole solo svegliare, come da un incubo. Questo è quello che mi è successo quando mi sono immerso nel caso di Julian Assange, strato dopo strato, sempre più in un mondo oscuro che prima pensavo impossibile. In qualità di relatore speciale dell'ONU sulla tortura, il mio compito è quello di indagare sui sospetti di tortura e di esigere la responsabilità dagli Stati interessati. Nel caso di Julian Assange, invece, ho reagito solo al secondo tentativo. Ho pensato: un sospetto stupratore, hacker e spia russa, che si sottrae alla giustizia nell'ambasciata ecuadoriana, dovrebbe essere vittima di tortura? Dopo un iniziale scetticismo, però, sono stato disilluso. Da combattente per la trasparenza a lebbroso Se il credo di Julian Assange dovesse essere riassunto in uno slogan, probabilmente si potrebbe riassumere con le parole: "Privacy per i cittadini - ma trasparenza per i governi! Attraverso la sua piattaforma Wikileaks ha pubblicato centinaia di migliaia di documenti segreti sulla cattiva condotta di stati e aziende, che sono stati portati alla sua attenzione da altri. Le rivelazioni hanno fatto il giro del mondo: riguardavano la tortura a Guantanamo, le vittime civili in Afghanistan e i crimini di guerra in Iraq. Il macabro climax è stato un video intitolato "Collateral Murder", in cui si può vedere in modo originale come i soldati americani massacrano più di una dozzina di persone da un elicottero a Baghdad, tra cui due giornalisti della Reuters. Quando un minibus si ferma accanto ai feriti per soccorrerli, anche il soccorritore viene colpito a bruciapelo. I suoi due figli sopravvivono gravemente feriti. I soldati si acclamano l'un l'altro, facendo dei commenti volubili come se l'intera faccenda fosse un videogioco. Il crimine di guerra è perfettamente documentato, compresa la sua premeditazione, ma nessuno dei responsabili è mai stato consegnato alla giustizia. L'esercito statunitense sostiene di non aver trovato alcun illecito. Inizia un'odissea per Julian Assange. Più pezzi del puzzle vengono messi insieme nel caso Assange, meno si può sfuggire all'impressione di una cospirazione gangsteristica. Con la sua diffusione senza compromessi di verità spiacevoli, Assange aveva presto corrotto praticamente tutte le élite dell'establishment globale e, a quanto pare, doveva essere messo a tacere. Nel 2012, Wikileaks ha pubblicato uno scambio di posta interna di Stratfor, una società di sicurezza privata statunitense nota anche come "CIA ombra". Oggi questi messaggi si leggono come il copione di ciò che accade sotto i nostri occhi da allora. In particolare, all'epoca si raccomandava di portare Assange da un paese all'altro con ogni tipo di indagine penale per i prossimi 25 anni e quindi di rinnegarlo completamente in pubblico. Gli Stati coinvolti ci sono riusciti, e anch'io inizialmente ho ceduto a questa propaganda. Julian Assange era ancora candidato al titolo di "Uomo dell'anno" nel 2010...»

Feb. 21, 2020

UN/CCW/GGE documents on Autonomous Weapon Systems [notsp]

by Diego Latella

The links to the following UN/CCW/GGE documents Report of the 2019 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems <https://undocs.org/en/CCW/GGE.1/2019/3> CCW/GGE.1/2019/3 - Sept. 25, 2019 Chair's Summary - Report of the 2019 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems <https://www.unog.ch/80256EDD006B8954/%28httpAssets%29/931FC63728F1B052C1258…> CCW/GGE.1/2019/3/Add.1 - November 8, 2019 are now available at the page on Computers: National Security, War, and Civil Rights (http://www.uspid.org/compwa.html <http://www.uspid.org/compwa.html>) of the USPID (www.uspid.org <http://www.uspid.org/>) web site. All the Best (& sorry for late announcement) Diego Dott. Diego Latella - Senior Researcher CNR-ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it) FM&&T Lab. (http://fmt.isti.cnr.it) http://www.isti.cnr.it/People/D.Latella - ph: +390506212982, mob: +39 348 8283101, fax: +390506212040 =================== The quest for a war-free world has a basic purpose: survival. But if in the process we learn how to achieve it by love rather than by fear, by kindness rather than compulsion; if in the process we learn how to combine the essential with the enjoyable, the expedient with the benevolent, the practical with the beautiful, this will be an extra incentive to embark on this great task. Above all, remember your humanity. -- Sir Joseph Rotblat

Feb. 21, 2020

Re: [nexa] Ricerca del MIT boccia una delle prime app per il voto digitale USA

by Giovanni Biscuolo

Buongiorno, grazie per la segnalazione! Federico Bo <federico.bo67(a)gmail.com> writes: > Con il reverse engineering i ricercatori hanno demolito l'app Voatz, > usata in varie elezioni, municipali, statali e federali USA: > in sintesi, non è affidabile e sicura. io sono oltre che scandalizzato dal fatto che per verificare l'affidabilità di un sistema di voto, anche solo di un suo componente, si debba essere *costretti* a fare reverse engineering > Tra le tante criticità del voto digitalec'è la mancanza di trasparenza > delle aziende che producono sistemi e app, con o senza blockchain. > Oltre naturalmente al fatto che sono estremamente vulnerabili, figlie di > uno sciatto (o furbo) approccio "idealistico". > > https://internetpolicy.mit.edu/wp-content/uploads/2020/02/SecurityAnalysisO… Richard Stallman ha raccolto una sorta di galleria degli errori (orrori?) in merito al c.d. evoting https://www.stallman.org/evoting.html tra cui segnalo: - "The magic word "Blockchain" does not make computerized voting secure." https://freedom-to-tinker.com/2017/09/12/blockchains-and-voting/ - The general reasons why computerized voting machines cannot be trustworthy. http://www1.cs.columbia.edu/~unger/articles/e-voting3.html Io ho ancora il dubbio che una soluzione per evitare frodi nel voto elettronico sia possibile [1], ma senza dubbio **prima** occorre risolvere _un_sacco_ di altri problemi tecnologici, a partire dalla comunicazione in rete giù giù giù fino all'hardware. Tra i problemi c'è quello strano caso "Cosmic rays can alter the vote count inside a vote-counting computer. It has already happened." [2] [3], tutto da verificare [4] (se qualcuno ha altri link in merito da condividere gliene sarei grato) BTW, per essere molto chiaro: il potenziale bit-flip dei raggi cosmici è proprio l'ultimo dei problemi con il voto elettronico :-D (e forse ci potrebbe essere una soluzione anche per quello, in un sistema di voto ben progettato) cordiali saluti, Giovanni [...] [1] sostanzialmente ruota attorno ad una implementazione delle blind signature in modo analogo a quanto fatto nel progetto https://taler.net (Fraud eliminated by design, dei pagamenti in questo caso) [2] https://science.slashdot.org/story/17/02/19/2330251/serious-computer-glitch… [3] https://news.vanderbilt.edu/2017/02/17/alien-particles-from-outer-space-are… [4] https://blog.paco.to/2017/cosmic-rays-did-not-change-election-results -- Giovanni Biscuolo Xelera IT Infrastructures

Feb. 21, 2020

Re: [nexa] Washington Passes Government Facial Recognition Rules

by Giuseppe Attardi

> On 21 Feb 2020, at 11:20, nexa-request(a)server-nexa.polito.it wrote: > > From: Alberto Cammozzo <ac+nexa(a)zeromx.net <mailto:ac+nexa@zeromx.net>> > To: Stefano Quintarelli <stefano(a)quintarelli.it <mailto:stefano@quintarelli.it>>, Center Nexa > <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] Washington Passes Government Facial Recognition > Rules > > > On 21/02/2020 10:41, Stefano Quintarelli wrote: >> interessante >> sta imponendo limiti anche ai privati. >> >> il problema con la persona che puo' cambiare decisione e' che non lo >> fara' perche' i suoi incentivi sono a confermare la predizione del >> sistema, anche se non e' d’accordo. Questo avviene già adesso con i protocolli medici. I medici si attengono strettamente ai protocolli, anche se li ritengono on adatti al caso, in quanto se venissero contestati, possono sempre ricorrere all'argomento di aver seguito il protocollo, quindi esimendosi dalla propria responsabilità. >> >> sono sempre piu' convinto che servira' qualche forma di prediction >> poisoning >> https://5ta.it/cm/d5f6 <https://5ta.it/cm/d5f6> >> > Interessante la parte sugli incentivi e sono d'accordo: l'asimmetria > informativa genera selezione avversa (Akerlof, George A., 1970,. "The > Market for 'Lemons': Quality Uncertainty and the Market Mechanism". > /Quarterly Journal of Economics/. The MIT Press. *84*) > > Sul poisoning sono perplesso: può funzionare, ma chi si prende la > responsabilità del poisoning, cioè di aver deliberatamente fatto > sbagliare la macchina per rendere l'umano attento? Non mi è chiaro quale sia il beneficio del poisoning. Alla fine ci si riduce sempre ad un unica alternativa, se le opinioni della macchina e quella del dottore siano discordanti o meno. Il fatto che venga scambiato il segno di alcune delle decisioni della macchina, non cambia nulla, se non l’effetto psicologico di un dottore che tendesse a dare ragione alla macchina. Ma questo si risolve, non facendo vedere la decisione della macchina al dottore prima che lui decida. — Beppe > > Imho, per via dell'automation paradox, "human-over-the-loop" non può > funzionare. O è dentro o è fuori. > Se è dentro decide, se è fuori non serve. > Se decide, i motivi per la decisione devono essere interni all'umano > perchè possa risponderne, con dispositivi di supporto alla decisione > esterni, al caso, del cui output risponde chi li produce. > > ciao, > A. > >> ciao, s. >>

Feb. 21, 2020

Re: [nexa] Intervista ad Antoni Casilli sul doc "Invisibles - les travailleurs du clic"

by Roberto Resoli

Il 15/02/20 17:52, Antonio Casilli ha scritto: > e per quelli che non hanno accesso alla serie in Italia e non vogliono utilizzare un VPN, il primo episodio è già online su: > Youtube:https://www.youtube.com/watch?v=ST_KVB6bEdw > Peertube:https://peertube.datagueule.tv/videos/watch/ddf3e2a5-04cb-4398-a5c5-95a1fb47c35f Appena visto, un lavoro formidabile, complimenti. E i "Bullshit ad" introduttivi una vera chicca. > Il secondo arriva la settimana prossima. > Cheers, > ---a Voilà: https://peertube.datagueule.tv/videos/watch/7224328c-efd5-425d-8734-fb27021… https://www.youtube.com/watch?v=5H00EVNGAZk (solo sottotitoli automatici, per il momento) rob

Feb. 21, 2020

Something {funny?, interesting?, bad?, concerning?, terrible? , booh?} with self-driving cars [notsp]

by Diego Latella

From Dumpsterfire mailing list [Inverse] Spooky Video shows self-driving cars being tricked by holograms https://www.inverse.com/innovation/us-regulators-greenlight-nuros-r2-autono… <https://www.inverse.com/innovation/us-regulators-greenlight-nuros-r2-autono…> [MIT Tech. Rev.] Hackers can trick a Tesla into accelerating by 50 miles per hour https://www.technologyreview.com/s/615244/hackers-can-trick-a-tesla-into-ac… <https://www.technologyreview.com/s/615244/hackers-can-trick-a-tesla-into-ac…> Have a nice weekend Diego Dott. Diego Latella - Senior Researcher CNR-ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it) FM&&T Lab. (http://fmt.isti.cnr.it) http://www.isti.cnr.it/People/D.Latella - ph: +390506212982, mob: +39 348 8283101, fax: +390506212040 =================== The quest for a war-free world has a basic purpose: survival. But if in the process we learn how to achieve it by love rather than by fear, by kindness rather than compulsion; if in the process we learn how to combine the essential with the enjoyable, the expedient with the benevolent, the practical with the beautiful, this will be an extra incentive to embark on this great task. Above all, remember your humanity. -- Sir Joseph Rotblat

Feb. 21, 2020

Re: [nexa] Washington Passes Government Facial Recognition Rules

by Stefano Quintarelli

>> e' un modo per invocare un third opinion. > > > Bisogna che ci sia il tempo per farlo. il rinvio alla third opinion e' realtime. la third opinion in casi rilevanti non puo' essere considerata un ritardo... > E se c'è tutto il tempo per chiedere un altro parere su un caso dubbio, > perché non farlo comunque? perche' gli incentivi vanno in direzione opposta. > > Altra proposta: il medico può consultare il sistema automatico o > scegliere di non farlo, e non è tenuto a dichiarare questa scelta in > qualsiasi caso, perché comunque risponde del suo operato. l'incentivo e' consultarlo sempre e confermare la predizione,. e' cio' che accade con i tecnici di laboratorio. > > Ciao, > > A > >> >>> >>> Imho, per via dell'automation paradox, "human-over-the-loop" non può >>> funzionare. O è dentro o è fuori. >>> Se è dentro decide, se è fuori non serve. >> >> se e' dentro, in alcuni use case decide come la macchina, perche' i >> suoi incentivi vanno in quella direzione >> >>> Se decide, i motivi per la decisione devono essere interni all'umano >>> perchè possa risponderne, con dispositivi di supporto alla decisione >>> esterni, al caso, del cui output risponde chi li produce. >> >> sarebbe bello, ma temo che sia idealistico... >> >> ciao, s. >> >> >>> >>> ciao, >>> A. >>> >>>> ciao, s. >>>> >>>> >>>> >>>> On 21/02/2020 10:27, Alberto Cammozzo wrote: >>>>> <https://www.govtech.com/policy/Washington-Passes-Government-Facial-Recognit…> >>>>> >>>>> >>>>> >>>>> >>>>> (TNS) — Washington state senators Wednesday approved a bill that would >>>>> begin regulating the use of facial-recognition programs by local and >>>>> state governments. >>>>> >>>>> Sponsored by Sen. Joe Nguyen, D-White Center, Senate Bill 6280 is >>>>> one of >>>>> a series of legislative proposals this year to counter technology that >>>>> is evolving fast, regulated little and all but opaque to most >>>>> residents. >>>>> >>>>> Facial recognition has been a particular concern, with worries that >>>>> its >>>>> use by law enforcement comes before the programs even can accurately >>>>> >>>>> A landmark federal study released in December found that >>>>> facial-recognition programs were misidentifying people of color more >>>>> often than white people; women more often than men; and children and >>>>> elderly people more often than people in other age ranges. >>>>> >>>>> The bill now goes to the House for consideration. >>>>> >>>>> Among other things, SB 6280 prohibits state and local government >>>>> agencies from using facial recognition for ongoing surveillance in >>>>> most >>>>> instances. >>>>> >>>>> That surveillance would be allowed in support of law enforcement >>>>> with a >>>>> search warrant or an agency director’s determination under some >>>>> conditions, such as an emergency that involves risk of death. >>>>> >>>>> The legislation requires that any decisions made based on >>>>> facial-recognition programs that have a legal impact be reviewed by an >>>>> agency worker with training on facial recognition who has authority to >>>>> change the decision, according to a legislative analysis. Examples of >>>>> such decisions include the granting or denying of financial loans, >>>>> housing, health care or employment opportunities. >>>>> >>>>> SB 6280 requires programs that have a legal impact to be tested by >>>>> governments before being deployed. It sets training standards for >>>>> government employees handling personal data gleaned from facial >>>>> recognition. >>>>> >>>>> The bill also requires governments to issue annual reports disclosing >>>>> how they use facial recognition and to hold community meetings on the >>>>> reports. >>>>> >>>>> But Nguyen’s proposal — like another bill championed by Senate >>>>> lawmakers >>>>> to regulate how companies use personal data and facial recognition — >>>>> could face resistance in the House. >>>>> >>>>> There, some lawmakers have instead wanted to temporarily stop >>>>> governments from using facial recognition. >>>>> >>>>> Rep. Debra Entenman, D-Kent, sponsored one such proposal. House Bill >>>>> 2856 would prohibit facial-recognition programs by local and state >>>>> government until July 1, 2023. >>>>> >>>>> The bill passed a committee vote earlier this month but did not get a >>>>> vote of the full House by a key deadline Wednesday. >>>>> >>>>> Entenman described the debate over facial recognition as a question of >>>>> fundamental privacy rights, and “about having a technology that is not >>>>> ready to be used in the public sphere.” >>>>> >>>>> Additionally, “As an African American woman, I am of course concerned >>>>> about the fact that law enforcement and others believe that this >>>>> technology will make people safer,” she said. >>>>> >>>>> Rep. Matt Boehnke, R-Kennewick said he would like to see something >>>>> between Nguyen’s proposal and Entenman’s bill. >>>>> >>>>> Boehnke — who worked on digital-data issues while in the U.S. Army — >>>>> suggested a shorter moratorium of about a year so lawmakers to assess >>>>> how facial recognition is being used by governments. >>>>> >>>>> “These are critical issues,” said Boehnke, assistant ranking >>>>> Republican >>>>> on the House Innovation, Technology & Economic Development Committee. >>>>> “And we need to start seeing what’s going on.” >>>>> >>>>> In a speech before the Senate passed his bill 30 to 18, Nguyen >>>>> called it >>>>> necessary to “implement strong moral guardrails” for >>>>> facial-recognition >>>>> programs. >>>>> >>>>> “Right now, facial-recognition technology is being used unchecked and >>>>> with little recourse,” Nguyen said. “And tech companies generally >>>>> don’t >>>>> care about the moral values of the products they are creating.” >>>>> _______________________________________________ >>>>> nexa mailing list >>>>> nexa(a)server-nexa.polito.it >>>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>>>> >>>> >>> >> > -- reserve your meeting with me at https://cal.quintarelli.it

Feb. 21, 2020

Re: [nexa] Washington Passes Government Facial Recognition Rules

by Alberto Cammozzo

On 21/02/2020 11:20, Stefano Quintarelli wrote: > > > On 21/02/2020 11:08, Alberto Cammozzo wrote: >> >> >> On 21/02/2020 10:41, Stefano Quintarelli wrote: >>> interessante >>> sta imponendo limiti anche ai privati. >>> >>> il problema con la persona che puo' cambiare decisione e' che non lo >>> fara' perche' i suoi incentivi sono a confermare la predizione del >>> sistema, anche se non e' d'accordo. >>> >>> sono sempre piu' convinto che servira' qualche forma di prediction >>> poisoning >>> https://5ta.it/cm/d5f6 >>> >> Interessante la parte sugli incentivi e sono d'accordo: l'asimmetria >> informativa genera selezione avversa (Akerlof, George A., 1970,. "The >> Market for 'Lemons': Quality Uncertainty and the Market Mechanism". >> /Quarterly Journal of Economics/. The MIT Press. *84*) >> >> Sul poisoning sono perplesso: può funzionare, ma chi si prende la >> responsabilità del poisoning, cioè di aver deliberatamente fatto >> sbagliare la macchina per rendere l'umano attento? > > se leggi bene la mia proposta, non ci sono effetti collaterali > negativi che possono emergere dal processo che delineo. > > e' un modo per invocare un third opinion. Bisogna che ci sia il tempo per farlo. La famiglia denuncia l'ospedale perché nel tempo perso per prendere la prima decisione (poisoned e discorde) e poi la seconda si poteva salvare il paziente che nel frattempo è morto o ha subito danni(ricordo che la patologia è acuta). Il medico si difende e protesta dicendo che lui aveva preso la scelta corretta ma il sistema gli ha impedito si metterla in atto, il produttore del sistema si difende dicendo che la macchina ha tenuto il comportamento nominale, ma l'ospedale rischia comunque di dover pagare: ha ostacolato il comportamento altrimenti corretto del medico. Per cui la prossima volta non compra la macchina. E' il problema degli automatismi che sostituiscono i piloti aerei, che sono allenati per rispondere all'emergenza determinata dal fallimento dei sistemi automatici e prendere il controllo, ma che però non riescono a farlo in tempo perché fino a un attimo prima erano off-the-loop. E se c'è tutto il tempo per chiedere un altro parere su un caso dubbio, perché non farlo comunque? Altra proposta: il medico può consultare il sistema automatico o scegliere di non farlo, e non è tenuto a dichiarare questa scelta in qualsiasi caso, perché comunque risponde del suo operato. Ciao, A > >> >> Imho, per via dell'automation paradox, "human-over-the-loop" non può >> funzionare. O è dentro o è fuori. >> Se è dentro decide, se è fuori non serve. > > se e' dentro, in alcuni use case decide come la macchina, perche' i > suoi incentivi vanno in quella direzione > >> Se decide, i motivi per la decisione devono essere interni all'umano >> perchè possa risponderne, con dispositivi di supporto alla decisione >> esterni, al caso, del cui output risponde chi li produce. > > sarebbe bello, ma temo che sia idealistico... > > ciao, s. > > >> >> ciao, >> A. >> >>> ciao, s. >>> >>> >>> >>> On 21/02/2020 10:27, Alberto Cammozzo wrote: >>>> <https://www.govtech.com/policy/Washington-Passes-Government-Facial-Recognit…> >>>> >>>> >>>> >>>> >>>> (TNS) — Washington state senators Wednesday approved a bill that would >>>> begin regulating the use of facial-recognition programs by local and >>>> state governments. >>>> >>>> Sponsored by Sen. Joe Nguyen, D-White Center, Senate Bill 6280 is >>>> one of >>>> a series of legislative proposals this year to counter technology that >>>> is evolving fast, regulated little and all but opaque to most >>>> residents. >>>> >>>> Facial recognition has been a particular concern, with worries that >>>> its >>>> use by law enforcement comes before the programs even can accurately >>>> >>>> A landmark federal study released in December found that >>>> facial-recognition programs were misidentifying people of color more >>>> often than white people; women more often than men; and children and >>>> elderly people more often than people in other age ranges. >>>> >>>> The bill now goes to the House for consideration. >>>> >>>> Among other things, SB 6280 prohibits state and local government >>>> agencies from using facial recognition for ongoing surveillance in >>>> most >>>> instances. >>>> >>>> That surveillance would be allowed in support of law enforcement >>>> with a >>>> search warrant or an agency director’s determination under some >>>> conditions, such as an emergency that involves risk of death. >>>> >>>> The legislation requires that any decisions made based on >>>> facial-recognition programs that have a legal impact be reviewed by an >>>> agency worker with training on facial recognition who has authority to >>>> change the decision, according to a legislative analysis. Examples of >>>> such decisions include the granting or denying of financial loans, >>>> housing, health care or employment opportunities. >>>> >>>> SB 6280 requires programs that have a legal impact to be tested by >>>> governments before being deployed. It sets training standards for >>>> government employees handling personal data gleaned from facial >>>> recognition. >>>> >>>> The bill also requires governments to issue annual reports disclosing >>>> how they use facial recognition and to hold community meetings on the >>>> reports. >>>> >>>> But Nguyen’s proposal — like another bill championed by Senate >>>> lawmakers >>>> to regulate how companies use personal data and facial recognition — >>>> could face resistance in the House. >>>> >>>> There, some lawmakers have instead wanted to temporarily stop >>>> governments from using facial recognition. >>>> >>>> Rep. Debra Entenman, D-Kent, sponsored one such proposal. House Bill >>>> 2856 would prohibit facial-recognition programs by local and state >>>> government until July 1, 2023. >>>> >>>> The bill passed a committee vote earlier this month but did not get a >>>> vote of the full House by a key deadline Wednesday. >>>> >>>> Entenman described the debate over facial recognition as a question of >>>> fundamental privacy rights, and “about having a technology that is not >>>> ready to be used in the public sphere.” >>>> >>>> Additionally, “As an African American woman, I am of course concerned >>>> about the fact that law enforcement and others believe that this >>>> technology will make people safer,” she said. >>>> >>>> Rep. Matt Boehnke, R-Kennewick said he would like to see something >>>> between Nguyen’s proposal and Entenman’s bill. >>>> >>>> Boehnke — who worked on digital-data issues while in the U.S. Army — >>>> suggested a shorter moratorium of about a year so lawmakers to assess >>>> how facial recognition is being used by governments. >>>> >>>> “These are critical issues,” said Boehnke, assistant ranking >>>> Republican >>>> on the House Innovation, Technology & Economic Development Committee. >>>> “And we need to start seeing what’s going on.” >>>> >>>> In a speech before the Senate passed his bill 30 to 18, Nguyen >>>> called it >>>> necessary to “implement strong moral guardrails” for >>>> facial-recognition >>>> programs. >>>> >>>> “Right now, facial-recognition technology is being used unchecked and >>>> with little recourse,” Nguyen said. “And tech companies generally >>>> don’t >>>> care about the moral values of the products they are creating.” >>>> _______________________________________________ >>>> nexa mailing list >>>> nexa(a)server-nexa.polito.it >>>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>>> >>> >> >

Feb. 21, 2020