September 2020 - nexa - server-nexa.polito.it

Re: [nexa] Secondo voi è solo una coincidenza?

by Giacomo Tesio

On September 18, 2020 7:20:08 PM UTC, Diego Giorio <dgiorio(a)hotmail.com> wrote: > Però ero troppo preso con l'elettorale per dare > un'occhiata, è rimasto un pensiero. E sottolineo un pensiero, perchè > ero solo in ufficio e non ne ho parlato con nessuno, né ho labitudine > di parlare da solo. > Ora FB mi propone decine di stampanti, della tipologia che avevo in > mente. Vi risulta che sia telepatico? E' solo una (molto curiosa) > coincidenza? Se non lo è com'è possibile? Domanda interessante. Sei solo in ufficio? Se no, altri colleghi nei giorni precedenti potrebbero aver cercato su google alternative o lamentato su facebook il problema, informando così i sorveglianti del problema presente in quel luogo. Per correlarti ai loro browser basta l'ip (se condividete un router con assegnazione stabile) o la localizzazione. Se lasci il cellulare connesso ad intermet quando non lo usi e non hai ridotto i permessi delle applicazioni in modo che non possano captare i suoni esterni (o per esempio usi i controlli vocali come "ok google" o lo speech to text), l'interpretazione del rumore prodotto dalla stampante come un guasto non dovrebbe affatto sorprenderti (qualche giorno fa, Enrico Nardelli, se non erro, ha condiviso in lista un paper che spiegava come il suono di una chiave che entra in una serratura può essere sufficiente a copiare la chiave). Un guasto rumoroso in un ufficio ha un elevata probabilità di essere localizzato in una stampante, ed è probabile che un ufficio con un certo numero di dipendenti (la cui attività può essere dedotta dai profili delle persone che vi lavorano) necessiti di stampanti di una certa fascia di prezzo e funzionalità. Se poi il problema è avvenuto stampando dal browser, è possibile che sia stato in qualche modo identificato dal browser stesso e condiviso. Insomma, le spiegazioni possibili sono molte. La più probabile rimane la prima: la privacy di chi ti sta intorno è la TUA privacy. Giacomo

Sept. 19, 2020

Secondo voi è solo una coincidenza?

by Diego Giorio

Oggi mi è successo un episodio curioso, che mi fa piacere condividere, magari ricevendo un parere dagli esperti: la gloriosa HP comprata 12 anni fa al supermercato a 60 euro ed usata in ufficio per stampare a colori e digitalizzare tutto l'archivio storico ha cominciato a dare qualche segno di cedimento. E' durata oltre ogni più rosea aspettativa, quindi non è un dramma, ma è meglio cominciare a pensare a un ricambio. Però ero troppo preso con l'elettorale per dare un'occhiata, è rimasto un pensiero. E sottolineo un pensiero, perchè ero solo in ufficio e non ne ho parlato con nessuno, né ho labitudine di parlare da solo. Ora FB mi propone decine di stampanti, della tipologia che avevo in mente. Vi risulta che sia telepatico? E' solo una (molto curiosa) coincidenza? Se non lo è com'è possibile? Nemmeno in Star Trek immaginano che il suono anomalo che ha fatto oggi possa essere stato captato dal cellulare, diagnosticato come guasto, associato alla tipologia corretta di stampante per generare delle proposte mirate. Saluti e buon WE a tutti (e pensate a chi se lo passa nell'ufficio elettorale!) D.

Sept. 18, 2020

Il manifesto del pensiero di Giovanni Buttarelli pubblicato dal Garante italiano insieme a IAPP

by J.C. DE MARTIN

*"Privacy 2030": un manifesto per il nostro futuro* /Il manifesto del pensiero di Giovanni Buttarelli pubblicato dal Garante italiano insieme a IAPP/ /https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/9456977/ // "Privacy 2030. Una nuova visione per l'Europa" raccoglie le riflessioni e gli appunti di Giovanni Buttarelli, già segretario generale dell'autorità italiana, poi Garante europeo della protezione dei dati, prematuramente scomparso poco più di un anno fa. Edito in formato elettronico <https://www.garanteprivacy.it/garante/document?ID=9457003> dal Garante e dalla International Association of Privacy Professionals <https://iapp.org/>, IAPP, "Privacy 2030" rappresenta allo stesso tempo il testamento spirituale di uno dei pionieri della protezione dei dati personali e un forte richiamo a trasformare un diritto della persona in un diritto delle persone, in grado di fare la differenza nelle sfide sociali, culturali, politiche e ambientali che ci attendono o che si vanno configurando. Buttarelli si chiede, e ci chiede, come rendere possibile un nuovo umanesimo tecnologico e combattere il culto della massimizzazione dei dati. Con queste sue riflessioni, Buttarelli intendeva soprattutto stimolare un ampio dibattito pubblico che non fosse limitato ai giuristi e alle autorità di protezione dati. Per questo la pubblicazione, che si apre con la prefazione del Garante italiano, si compone di due sezioni distinte: una prima, basata sugli scritti e le riflessioni di Buttarelli, che si conclude con una sorta di "decalogo" per la privacy del nuovo decennio. Una seconda, basata su contributi di studiosi di fama ed esperti internazionali (fra cui Marc Rotenberg, il fondatore dell'Electronic Privacy Information Center, e Shoshana Zuboff, studiosa e autrice di un recente saggio sul "Capitalismo della sorveglianza") i quali partono dal pensiero e dalle proposte di Buttarelli per elaborare un'analisi più ampia sui rischi per libertà e diritti nell'epoca del digitale e sulle soluzioni possibili o auspicabili. La pubblicazione di "Privacy 2030" sul sito del Garante, in traduzione italiana, testimonia l'attenzione che il Garante ha da sempre dedicato al tema dei diritti e delle nuove tecnologie, qui declinato nell'ottica europea e globale da Buttarelli e secondo una prospettiva di lungo periodo. È in questa prospettiva che l'Autorità intende lavorare affinché dal "manifesto" di Buttarelli nasca una riflessione approfondita e non episodica, di ampio respiro, che possa servire al nostro Paese per affrontare il futuro che verrà o che probabilmente è già fra noi. /Roma, 18 settembre 2020/

Sept. 18, 2020

Re: [nexa] Big bad data: We don't trust AI to make good decisions

by Giacomo Tesio

On Fri, 18 Sep 2020 15:35:24 +0200 Giovanni Biscuolo <giovanni(a)biscuolo.net> wrote: > Per poterci essere davvero trasparenza, anche e soprattutto > all'interno della comunità scientifica, ogni sistema AI dovrebbe > essere fornito con le 4 libertà definite per il software libero *e* > con i dati utilizzati per addestrarlo. Una nota su questo: Se parliamo di "reti neurali artificiali" o sistemi statistici affini, il codice ed i dati di calibrazione non sono sufficienti a garantire trasparenza. Per avere una _minima_ trasparenza servono: - il codice - la documentazione - i dati di calibrazione (malamente detta "training") - anche per tutti i modelli alternativi provati - i valori iniziali delle reti prima della calibrazione - anche per tutti i modelli alternativi provati - i dati di cross validation [1] - i dati di test Questo per: - evidenziare bias nei dati di calibrazione - evidenziare bias nei dati di cross-validation - evidenziare bias nei dati di test (che oltre a poter smentire i successi vantati dal marketing, potrebbero evidenziare scelte consapevoli nella determinazione dei bias suddetti) - evidenziare anomalie (volontarie o meno) nei valori iniziali delle reti testate Parliamo comunque di una trasparenza minima perché: - queste informazioni permettono AL MASSIMO di verificare le affermazioni degli sviluppatori sulla metodologia di realizzazione del sistema replicandone il processo di creazione (una sorta di build replicabile per l'AI) - il costo energetico e l'hardware necessario per questa verifica è comparabile a quello usato durante la sua realizzazione, ma non può essere messo a disposizione dal "fornitore" perché potrebbe alterarlo. Dunque in questo caso, le 4 libertà non bastano. Giacomo 1) https://en.wikipedia.org/wiki/Cross-validation_(statistics)

Sept. 18, 2020

Re: [nexa] Big bad data: We don't trust AI to make good decisions

by Giacomo Tesio

On September 18, 2020 9:04:24 AM UTC, Giuseppe Attardi <attardi(a)di.unipi.it> wrote: > Sembra sia di moda oggi quando un algoritmo non funziona bene, dire > che è colpa dell’AI. Direi che è normale, dopo anni a vendere qualsiasi software come AI. :-) > Ho cercato dove fosse coinvolta la AI in questo caso, ma ho trovato > solo citate tecniche di analisi statistica. > Anche se l’AI usa tecniche statistiche durante l’apprendimento, Calibrazione, non apprendimento. Ricondurre un processo di calibrazione ad una esperienza soggettiva dell'uomo confonde sia chi legge... che chi scrive. ;-) Potremmo al limite definire questo processo di calibrazione "programmazione incosciente", in quanto le matrici prodotte vengono interpretate dal software "AI" esattamente come un bytecode python viene interpretato dall'interprete "Python", e costituiscono dunque un programma. "Incosciente" non solo perché i programmatori non sono (tutti) coscienti di star programmando, come invece sono mentre scrivono codice python, non solo perché non sono in grado di decompilare quelle matrici ottenendo codice human readable, ma perché non hanno coscienza né dell'algoritmo che quelle matrici devono rappresentare, né di quello che effettivamente rappresentano e dunque non possono individuarne i bachi. Ma ci sono sempre umani che programmano (pur statisticamente) una macchina. NON una macchina che apprende. (tanto meno un'algoritmo, che è un'astrazione presente solo nelle menti umane, come un numero o un insieme) > AI e statistica non sono la stessa cosa. Infatti! Se è scritta in Power Point è AI. Se è scritta in Python è Machine Learning. Se è scritta su un giornale, è statistica. Non è affatto la stessa cosa! :-D > L’AI richiede dati annotati da umani secondo il principio di > Human-in-the-loop, che contribuiscono un’interpretazione umana dei > fenomeni. > Se un sistema di diagnostica radiologica fa una segnalazione, è perché > ha imparato da migliaia di immagini annotate da radiologi come si > interpretano quelle immagini. Non ha imparato nulla. Semplicemente, attraverso un processo statistico i programmatori hanno sintetizzato un software in grado di processare quelle immagini fornendo un output che un essere umano interpreta come una segnalazione. > Seconda considerazione. L’articolo riporta che: > > the UK's Information Commissioner's Office (ICO)'s draft AI auditing > framework fairness requires personal data to be handled "in ways that > people would reasonably expect and not use it in ways that have > unjustified adverse effects on them.” > > La chiave sta nell’aggettivo “unjustified”. > Perché è evidente che ogni sistema che prende decisioni, ne prenderà > alcune a favore di alcuni ed altre a sfavore di altri. > Un sistema che non faccia distinzioni sarebbe inutile. Solo gli esseri umani prendono decisioni. Perché solo gli esseri umani possono risponderne ad altri esseri umani. Chiunque interpreti l'output di un software come una decisione, non dovrebbe essere in condizione di ricevere o essere influenzato da quell'output. > La domanda quindi è: [...] chi decide se una scelta è unjustified? Quando si tratta di una scelta, lo decidono gli esseri umani. Quando si tratta di un output... anche: si chiama debugging. ;-) > Siamo sicuri di essere in grado di deciderlo? Se non lo siamo (o quando non lo siamo), è sufficiente evitare di applicare queste tecnologie agli esseri umani. Con tutte le applicazioni possibili! > [...] come si definisce unjustified [...] > > Se la macchina avesse capacità decisionali superiori alle nostre, > perché ad esempio tiene conto di molti più fattori di quanti noi umani > siamo in grado di comprendere, sarebbe unjustified? Splendida domanda! L'uso di un software come supporto ad una decisione umana può essere "giustificato" e "giustificabile" se e solo se: - la selezione dei dati in input è perfettamente comprensibile e condivisa da tutte le persone coinvolte - l'interpretazione dell'output è perfettamente comprensibile e condivisa da tutte le persone coinvolte - l'intera elaborazione è perfettamente comprensibile e repricabile "manualmente" da ciascuna delle persone coinvolte Un alieno (molto più probabile di un AGI [1]) che tenga conto di molti più fattori di quanti noi umani siamo in grado di comprendere... dovrà insegnarci a comprenderli come lui, prima che possiamo fidarci di lui. Perché? Semplicemente perché esistono sempre infinite soluzioni sbagiate ad un qualsiasi problema che rendono la probabilità di azzeccarne una giusta prossima a zero. D'altro canto, questa è la funzione della statistica. Permetterci di modellare e comprendere sistemi sempre più complessi. Ed è questo l'uso migliore che possiamo fare di queste tecnologie. Non come comodi "decisori irresponsabili" dietro cui nasconderci, ma come strumenti di indagine della complessità. E non c'è nemmeno bisogno di "amplificare l'intelligenza" dell'uomo. Basta applicare quella che abbiamo nell'uso degli strumenti. Giacomo 1) Più probabilmente se un alieno avesse capacità intellettive superiori alle nostre, ci sterminerebbe. O ci lascerebbe fare da soli. E senza aver bisogno di capacità decisionali superiori alle nostre, potrebbe giustificare facilmente questa decisione. Soprattutto a sé stesso. Esattamente come noi.

Sept. 18, 2020

Re: [nexa] PAdES, la P.A. nel caos

by Antonio Iacono

... > Tieni conto che di questa cosa parlavamo già nel 2008 nella ConfSL a > Trento. Ma già, adesso c'è la "firma con SPID" ... Visto che abbiamo aperto il libro dei ricordi, l'altro ieri il prof. Nardelli ha ricordato la "nascita" della CIE, tu la ConfSL del 2008, io scelgo una data in mezzo, il 2004. Con altri due "visionari", quali Bud Bruegger e Matteo Artuso ragionavamo (e nel contempo sviluppavamo) su soluzioni di "webfirma" o, come la chiamavamo allora, UPIServer [1] e [2]. E' inutile dire che la gente ci prendeva per matti. Non lo eravamo, solo in anticipo di quindici anni sui tempi. Una soluzione molto simile, adesso, la usano Actalis e altre importanti società del settore e si chiama Fortify [3]. Antonio [1] https://master.dl.sourceforge.net/project/opensignature/webfirma/0.0.4/upi-… [2] https://sourceforge.net/projects/opensignature/files/webfirma/ [3] https://fortifyapp.com/

Sept. 18, 2020

Re: [nexa] AI Myths

by Giovanni Biscuolo

Antonio Vetro' <antonio.vetro(a)polito.it> writes: > Segnalo lista ragionata -con approfondimenti- di miti su AI: https://www.aimyths.org/ Le "Hedlines rephrased" sono delle efficacissime "query by example" del fumo che circonda l'AI: https://www.aimyths.org/ai-has-agency#headline-rephraser [...] Grazie. Giovanni. -- Giovanni Biscuolo

Sept. 18, 2020

Re: [nexa] Big bad data: We don't trust AI to make good decisions

by Giovanni Biscuolo

Buongiorno Giuseppe, Giuseppe Attardi <attardi(a)di.unipi.it> writes: [...] > Se un sistema di diagnostica radiologica fa una segnalazione, è perché > ha imparato da migliaia di immagini annotate da radiologi come si > interpretano quelle immagini. Bellissimo l'esempio di radiologia, grazie! 1. "Fa una segnalazione" è la discriminante: chi prende la decisione di accettare come buona tale segnalazione DEVE essere il radiologo, in scienza e coscienza. 2. Sta poi allo specialista proporre al paziente un trattamento sulla base di tale diagnosi. 3. Sta poi al paziente decidere se sottoporsi al trattamento proposto, eventualmente riservandosi di sentire altri pareri medici a riguardo. Per limitarci all'aspetto 1., direi che da cittadino auspico che i radiologi che intepretano i dati diagnostici siano adeguatamente formati - magari anche mettendo loro a disposizione le migliaia di immagini annotate messe a disposizione del sistema AI - per potersi permettere di mettere in discussione una segnalazione errata del sistema di diagnostica automatizzato… anzi ADDIRITTURA permettersi di mettere in discussione le annotazioni di cui sopra dei colleghi, così da migliorare le capacità di segnalazione diagnostica del sistema basato su AI. Quello che succede pare essere il contrario: --8<---------------cut here---------------start------------->8--- The prevalence of hidden AI systems in delivering critical public services was signaled by the UK's committee on standards in public life last February, in a report that stressed the lack of openness and transparency from the government in its use of the technology. --8<---------------cut here---------------end--------------->8--- ed è esattamente questo il serio problema che alcune istituzioni e studiosi stanno cercando di affrontare, perché dentro la macchina di Turing "code il law" e "garbage in, garbage out". Per poterci essere davvero trasparenza, anche e soprattutto all'interno della comunità scientifica, ogni sistema AI dovrebbe essere fornito con le 4 libertà definite per il software libero *e* con i dati utilizzati per addestrarlo. [...] > La chiave sta nell’aggettivo “unjustified”. > Perché è evidente che ogni sistema che prende decisioni, ne prenderà > alcune a favore di alcuni ed altre a sfavore di altri. Anche se un determinato sistema AI fosse trasparente e verificabile, quello che occorre mettere in discussione è SE è giustificato che sia un sistema del genere a prendere decisioni in autonomia, indipendentemente da quale sia il livello di complessità ed efficacia computazionale del sistema *e* il livello di corrispondenza alla "realtà delle cose" [1] dei dati annotati forniti al sistema di machine learning… o dei sensori, sulla base dei quali il sistema automatizzato fornisce un output *sintetico*, non analitico. Detto diversamente: non è opportuno che le decisioni importanti che riguardano la vita delle persone siano prese autonomamente da una macchina di Turing sofisticatissima; chi decide, per semplificare, ci deve "mettere la testa" - anche analizzando il contesto - *e* deve rispondere della sua decisione alla collettività. L'automazione, anche quella che utilizza l'AI, deve essere utilizzata **dalle persone** come ausilio delle proprie facoltà cognitive per implementare e possibilmente migliorare i processi decisionali, non per sostituirli; per poter svolgere questo ruolo, l'AI _deve_ essere "contestabile". L'incidente dei due Boeing 737 Max è un esempio tragico di come un sistema automatico abbia preso la decisone sbagliata - basandosi su una "percezione" particolarmente limitata e molto errata della reatà - senza che i piloti abbiano avuto la possibilità di correggere l'errore. Nel caso da cui parte l'articolo, quello della classifica di ingresso in università, il governo britannico ha riconosciuto i limiti del sistema e posto rimedio ritirando la decisione; avrebbe potuto fermarsi prima perché i problemi erano già stati evidenziati. [...] > Se la macchina avesse capacità decisionali superiori alle nostre, > perché ad esempio tiene conto di molti più fattori di quanti noi umani > siamo in grado di comprendere Immagino comprendere nel senso quantitativo, non qualitativo: giusto? Perché se fosse qualitativo allora la cosa non è possibile: le macchine non possono tenere conto di fattori che gli umani non sono in grado di comprendere: quegli stessi fattori, non essendo compresi dagli umani, non sono nemmeno previsti come input per gli algoritmi di machine leraning. Le macchine imparano solo quello che gli umani hanno già compreso, misurato e classificato (annotazioni) secondo determinati criteri; capita che talvolta quei criteri, ove analizzati, si rivelano piuttosto imprecisi. Se invece fosse quantitativo, allora direi che non è il caso di basare giudizi *solo* su criteri quantitativi "datificati", che è un po' limitante per via di [1]. Saluti, Giovanni. [1] per le macchine la realtà delle cose è solo quella che noi siamo in grado di misurare e tradurre in modelli… e per forza di cose questo tipo di "realtà" è molto ma molto limitata, se non altro perchè *selezionata* da chi decide cosa è umanamente possibile dare in input ad un software di machine learning. -- Giovanni Biscuolo

Sept. 18, 2020

Tesla driver found asleep at wheel of self-driving car doing 150km/h | Canada | The Guardian

by Alberto Cammozzo

Farei causa a Tesla. La macchina non dovrebbe superare autonomamente i limiti di velocità mentre dormo! <https://www.theguardian.com/world/2020/sep/17/canada-tesla-driver-alberta-h…> Police in Canada have charged a man with speeding and dangerous driving after he was found asleep at the wheel of his self-driving car as it travelled at 150km/h down a highway in the province of Alberta. Elon Musk becomes world's fourth richest man on Tesla boom Read more Announcing the charges on Thursday, the Royal Canadian Mounted police said that on 9 July they received a complaint that a Model S Tesla vehicle was speeding on the highway near the town of Ponoka. “The car appeared to be self-driving, traveling over 140km/h, with both front seats completely reclined and both occupants appearing to be asleep,” the RCMP said in a statement. After the police flashed their lights, however, the Tesla electric vehicle reportedly sped up to “exactly” 150km/h, according to police. The speed limit on most of Canada’s highway network is 110km/h. The driver, a 20-year-old man from neighbouring British Columbia, was charged with speeding and given a 24-hour license suspension for driving while fatigued. The province has also decided to charge the driver with dangerous driving, and he is due to appear in court in December. The proliferation of self-driving vehicles, pioneered by the electric car company Tesla, has posed a challenge for regulators trying to determine the safety and effectiveness of the on-board systems. In January, an Ontario driver was charged with reckless driving after officers spotted him using both hands to floss his teeth as his vehicle sped along the highway at 135 km/h. Two months earlier a Tesla vehicle was spotted driving on the wrong side of the road – without a driver. And in the United States, officials are investigating a number of fatal crashes involving the “autopilot” function, including one in which the driver was using the feature to play on his phone. “Although manufacturers of new vehicles have built-in safeguards to prevent drivers from taking advantage of the new safety systems in vehicles, those systems are just that – supplemental safety systems,” RCMP superintendent Gary Graham said in the statement. “They are not self-driving systems. They still come with the responsibility of driving.”

Sept. 18, 2020

Re: [nexa] Big bad data: We don't trust AI to make good decisions

by Giuseppe Attardi

Sembra sia di moda oggi quando un algoritmo non funziona bene, dire che è colpa dell’AI. Ho cercato dove fosse coinvolta la AI in questo caso, ma ho trovato solo citate tecniche di analisi statistica. Anche se l’AI usa tecniche statistiche durante l’apprendimento, AI e statistica non sono la stessa cosa. L’AI richiede dati annotati da umani secondo il principio di Human-in-the-loop, che contribuiscono un’interpretazione umana dei fenomeni. Se un sistema di diagnostica radiologica fa una segnalazione, è perché ha imparato da migliaia di immagini annotate da radiologi come si interpretano quelle immagini. Seconda considerazione. L’articolo riporta che: the UK's Information Commissioner's Office (ICO)'s draft AI auditing framework fairness requires personal data to be handled "in ways that people would reasonably expect and not use it in ways that have unjustified adverse effects on them.” La chiave sta nell’aggettivo “unjustified”. Perché è evidente che ogni sistema che prende decisioni, ne prenderà alcune a favore di alcuni ed altre a sfavore di altri. Un sistema che non faccia distinzioni sarebbe inutile. La domanda quindi è: come si definisce unjustified e chi decide se una scelta è unjustified? Siamo sicuri di essere in grado di deciderlo? Se la macchina avesse capacità decisionali superiori alle nostre, perché ad esempio tiene conto di molti più fattori di quanti noi umani siamo in grado di comprendere, sarebbe unjustified? — Beppe > On 17 Sep 2020, at 19:17, nexa-request(a)server-nexa.polito.it wrote: > > Date: Thu, 17 Sep 2020 19:10:48 +0200 > From: don Luca Peyron <dluca.universitari(a)gmail.com <mailto:dluca.universitari@gmail.com>> > To: Nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: [nexa] Big bad data: We don't trust AI to make good decisions > Message-ID: > <CAGS_u7jiyV9yTBVxcNPz9KpsNYH5RHOBvPx-f8SG9d7xH6kE1A(a)mail.gmail.com <mailto:CAGS_u7jiyV9yTBVxcNPz9KpsNYH5RHOBvPx-f8SG9d7xH6kE1A@mail.gmail.com>> > Content-Type: text/plain; charset="utf-8" > > A new report from the British Computer Society (BCS), the Chartered > Institute for IT, has now revealed that more than half of UK adults (53%) > don't trust organisations that use algorithms to make decisions about them. > > https://www.zdnet.com/article/big-bad-data-we-dont-trust-ai-to-make-good-de… <https://www.zdnet.com/article/big-bad-data-we-dont-trust-ai-to-make-good-de…> > > Buona lettura > > dl > _________________________ > don Luca Peyron > Direttore Ufficio per la Pastorale Universitaria > Arcidiocesi di Torino > www.universitari.to.it <http://www.universitari.to.it/> > via XX settembre 83, Torino > tel. 011 5156239

Sept. 18, 2020