May 2023 - nexa - server-nexa.polito.it

Re: [nexa] Dati della PA nei cloud [era Re: Is AI just 'Capital's Willing Executioner'?]

by Giacomo Tesio

Il 9 Maggio 2023 17:56:06 UTC, Antonio <antonio(a)piumarossa.it> ha scritto: . >Prendiamo il caso, invece, di una amministrazione/ente/azienda di medie/grandi dimensioni che usa il "cloud" di una bigtech. >Alla bigtech, come "dato personale" contenuto nell'header HTTP(S), non arriva nulla, solo l'IP e la porta TCP del proxy/gateway/firewall. >Quindi la bigtech si ritrova miliardi di pacchettini, a tutte le ore, provenienti da un unico indirizzo IP. >Ora, un conto è che dentro quei pacchettini ci sia l'anamnesi di un paziente, scritta in italiano o qualsiasi altra lingua traducibile, un conto è che ci sia: "SJdKJDg7E-MK2..." che solo l'autore possa decifrare. Certo, ma se la tua ipotetica PA usa il cloud solo come storage cifrato, le offerte delle BigTech diventano estremamente costose. Tanto da essere ingiustificabili. Infatti le PA non si limitano a caricare dati cifrati ma utilizzano innumerevoli servizi che trasferiscono molti più dati personali identificabili anche quando sono usati esclusivamente dalla rete interna alla PA (cosa piuttosto rara, pensa alle scuole). Però sì: se usati solo come storage cifrato esclusivamente da rete aziendale e tramite utenze pseudonimiche, i servizi cloud dei GAFAM sono solo cari, ma non violano il GDPR. (forse però la PA che li adotta continua a violare il CAD) Giacomo

May 9, 2023

Re: [nexa] Dati della PA nei cloud [era Re: Is AI just 'Capital's Willing Executioner'?]

by Antonio

> Purtroppo rimangono innumerevoli dati personali contenuti in quelli > impropriamente detti "metadati". L'ottimo è nemico del bene. E' vero, gli indirizzi IP devono essere in "chiaro", così come i destinatari delle mail, ma questo riguarda solo uno dei tanti "servizi" internet. Prendiamo il caso, invece, di una amministrazione/ente/azienda di medie/grandi dimensioni che usa il "cloud" di una bigtech. Alla bigtech, come "dato personale" contenuto nell'header HTTP(S), non arriva nulla, solo l'IP e la porta TCP del proxy/gateway/firewall. Quindi la bigtech si ritrova miliardi di pacchettini, a tutte le ore, provenienti da un unico indirizzo IP. Ora, un conto è che dentro quei pacchettini ci sia l'anamnesi di un paziente, scritta in italiano o qualsiasi altra lingua traducibile, un conto è che ci sia: "SJdKJDg7E-MK2..." che solo l'autore possa decifrare. A.

May 9, 2023

Re: [nexa] Dati della PA nei cloud [era Re: Is AI just 'Capital's Willing Executioner'?]

by D. Davide Lamanna

On 5/9/23 14:55, 380° wrote: > Ciao Davide, Ciao 380°, > > "D. Davide Lamanna" <davide.lamanna(a)binarioetico.it> writes: > >> On 5/9/23 10:12, Giacomo Tesio wrote: > [...] > >>> Purtroppo rimangono innumerevoli dati personali contenuti in quelli >>> impropriamente detti "metadati". >>> >>> Pensa ad esempio agli header SMTP delle email, agli header HTTP inviati >>> dalle richieste web etc... > Agli IP senza i quali Internet non funziona > >>> Non è possibile criptare i destinatari di una email. >>> O l'ora in cui è inviata. >>> >> Negli ultimi anni si sono fatti passi avanti importanti nel campo >> dell'Homomorphic Encryption [1]. > AFAIU quella fa la crittazione dei dati, non dei metadati, sbaglio? Puoi cifrare quel che vuoi, dati, metadati, non ci sono limiti. Perché dovrebbero esserci del resto? Il problema semmai è far funzionare gli handshake protocollari con questo tipo di cifratura. Negli esempi che ho riportato, il routing, ad esempio, tratta decisamente dati nel dominio dei "cosiddetti" metadati (per dirla con Giacomo :-)). > > BTW: > > --8<---------------cut here---------------start------------->8--- > > Homomorphic encryption is a form of encryption that allows computations > to be performed on encrypted data without first having to decrypt it. > > --8<---------------cut here---------------end--------------->8--- > > Domanda: ma è proprio necessario consentire che i dati siano oggetto di > computazione "nel cloud" (cioè sul computer di qualcun altro)? No, non è necessario. E' solo una possibilità in più che la HE potrebbe rendere possibile: usare Public Cloud senza essere visti dai proprietari. Io mi sono appassionato alla materia nell'ambito del mio dottorato di ricerca. Posto che sono comunque un promotore di Private Cloud. > > Io in alternativa ho una modesta proposta: crittografia dei dati nello > storage (remoto o locale), computazione dei dati nella CPU > locale... intanto che aspettiamo la Homomorphic Encryption :-D Questa è sempre la strada maestra. :-) > >> Si possono implementare Mail Server che offrono persino funzioni di >> ricerca con HE [2], > Che non riusciranno _mai_ a battere le performance di ricerca locale, ad > esempio usando xapian [1] per le email via notmuch [2] o per i documenti > via Recoll [3] Poco ma sicuro. Senza contare che la cifratura omomorfica dà luogo a overhead prestazionali mastodontici rispetto alla cifratura standard. > > In merito allo storage crittografato sul mail server, segnalo Technology > for Resting Email Encrypted Storage (TREES) [4] > > ...nel frattempo, però, i contenuti delle email, se non crittografati, > viaggiano "in chiaro", per non parlare dei metadati. > >> filtri anti-spam omomorfici [3] > già, lo SPAM... quello meriterebbe un capitolo a parte, mi viene una > tristezza infinita quando penso ai cicli macchina sprecati per calcolare > i punteggi di "spammosità" di un messaggio > > ...e comunque perché funzionino servono i metadati in chiaro, o no? Dipende da come implementi i protocolli. La HE ti dà la possibilità di fare operazioni su dati cifrati il cui risultato è il cifrato del risultato che avresti avuto eseguendo quelle stesse operazioni sul dato in chiaro. Teoricamente ci puoi fare quello che vuoi. > >> e sono stati studiati sistemi HE per il routing anonimo [4] > non conoscevo, grazie! (studierò con calma) > > stando al paragrafo "5.5.3 State of Progress" nel 2013 non esisteva > ancora un'implementazione: sbaglio? Penso di no. Quando me ne occupavo io (2011/2012) non mi risulta ci fosse. > Ad oggi ci sono implementazioni del > protocollo APART (Anonymous Proactive Ad hoc RouTing)? Non saprei. Penso che si tratti comunque ancora di sperimentazione. > > nel frattempo, GNUnet (compreso il routing anonimo) è un'implementazione > di questo paper del 2014 [5] > >> (l'applicazione Signal ne usa uno per impedire la disclosure del >> mittente a livello di router). > Non sapevo di questa cosa: hai dettagli per favore? > > Ti riferisci forse alla funzione "sealed sender" introdotta nel 2018? > Perché se così fosse, faccio umilmente notare che: > > --8<---------------cut here---------------start------------->8--- > > Even under the sealed sender, observers said, Signal will continue to > map senders' IP addresses. That information, combined with recipient IDs > and message times, means that Signal continues to leave a wake of > potentially sensitive metadata. > > --8<---------------cut here---------------end--------------->8--- > (via > https://urlsand.esvalabs.com/?u=https%3A%2F%2Farstechnica.com%2Finformation… ) > > e > > --8<---------------cut here---------------start------------->8--- > > A contemporaneous wiretap of the user's device and/or the Signal servers > may still reveal that the device's IP address accessed a Signal server > to send or receive messages at certain times. > > --8<---------------cut here---------------end--------------->8--- > (via https://urlsand.esvalabs.com/?u=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FSig… ) Sì, mi riferisco a quella e sì, conosco i passaggi che hai riportato. Rimane interessante, a mio avviso, che Signal abbia introdotto la tecnologia in produzione, nei suoi sforzi di essere Privacy preserving. Nota che non sono un grandissimo fan di Signal. Anzi, nutro una certa antipatia per Moxie Marlinspike, fondatore di Signal, dopo che nel 2016 è uscita fuori questa cosa [1] a seguito di un suo intervento al Chaos Computer Club in cui difendeva i sistemi centralizzati contro quelli federati. > > immagina chi fa wiretapping, puoi :-) > > mi spiace ma non c'è proprio nessuno scampo a quanto faccia tecnicamente > schifo Internet Mi sa che hai ragione. Ogni tentativo di spingere all'estremo l'anonimato in rete va comunque apprezzato, secondo me. > >> Io me ne sono occupato ormai più di 10 anni fa [6], quando il tema era >> fantascientifico, ma stando a [5], l'adozione commerciale potrebbe non >> essere troppo lontana. > OK, ma anche una volta che la Homomorphic Encryption sarà > commercialmente adottata, i metadati che fine fanno? Eh... In teoria dovrebbero morire gonfi tutti quelli che hanno lucrato sul Capitalismo della Sorveglianza. In pratica non lo so. D. [1] https://signal.org/blog/the-ecosystem-is-moving/ (null)

May 9, 2023

Re: [nexa] Il feticcio della privacy e le polemiche sul riconoscimento facciale

by 380°

Buongiorno, (chiedo scusa, il messaggio precedente è stato inviato per errore) alcune cose che mi hanno particolarmente colpito 380° <g380(a)biscuolo.net> writes: [...] > https://www.repubblica.it/tecnologia/blog/strategikon/2023/05/06/news/il_fe… > > (consultare con JS disabilitato) > > «Il feticcio della privacy e le polemiche sul riconoscimento facciale» > 06 MAGGIO 2023, di Andrea Monti > > --8<---------------cut here---------------start------------->8--- [...] > In altri termini, garantire l’ordinato svolgimento delle attività > quotidiane è il prerequisito per il mantenimento dell’ordine pubblico e quindi il riconoscimento facciale, effettuato per esigenze di ordine pubblico, serve a garantire (amministrare?) l'ordinato (il corretto?) svolgimento delle attività quotidiane [...] > Regio Decreto 18 giugno 1931, noto anche come “Testo unico delle leggi > di pubblica sicurezza” https://it.wikipedia.org/wiki/Testo_unico_delle_leggi_di_pubblica_sicurezza > (al quale si affianca, ma è un altra questione, > il “Testo unico delle leggi sanitarie”) molto modificato, mai > abrogato. https://www.normattiva.it/uri-res/N2Ls?urn:nir:stato:regio.decreto:1934-07-… Non sono del tutto convinto sia "altra questione", io credo piuttosto che i due testi unici siano /simbiotici/, si tratta di questioni /di sicurezza pubblica/, così come intesa in epoca fascista > In quanto afferente alla tutela dello Stato e —oggi, alla protezione > dell’ordine costituzionale— la pubblica sicurezza è materia sottratta > sia all’intervento della UE, sia a quello delle autorità indipendenti, e > di quella per la protezione dei dati personali, in particolare. Ah, se è per quello un sacco di cose sono DE FACTO sottratte all'intervento del garante per la protezione dei dati personali [...] > ma è fuori discussione che il superiore interesse dello Stato e > la tutela della collettività non possano essere globalmente limitati “in > nome della privacy” è esattamente per questo "fuori discussione" che hanno ampliamente applicato un regime di sorveglianza globale [...] > Nel caso specifico del riconoscimento facciale biometrico, poi, il suo > impiego per finalità di pubblica sicurezza e indagini penali è già > consentito dalla normativa vigente (nello specifico, dalla conversione > del decreto legge 139/21) da quasi due anni. https://www.normattiva.it/uri-res/N2Ls?urn:nir:stato:decreto.legge:2021;139 «Disposizioni urgenti per l'accesso alle attivita' culturali, sportive e ricreative, nonche' per l'organizzazione di pubbliche amministrazioni e in materia di protezione dei dati personali. (21G00153)» Decreto urgente figlio del COVID-19, per /ribadire/ il concetto che ho espresso sopra: /oggi/ sicurezza sanitaria e ordine pubblico _coincidono_ COMUNQUE, in merito al riconoscimento facciale quella norma, Art. 9, dice: --8<---------------cut here---------------start------------->8--- 9. In considerazione di quanto disposto dal regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, nonche' dalla direttiva (UE) 2016/680 del Parlamento europeo e del Consiglio, del 27 aprile 2016, e dell'esigenza di disciplinare conformemente i requisiti di ammissibilita', le condizioni e le garanzie relativi all'impiego di sistemi di riconoscimento facciale, nel rispetto del principio di proporzionalita' previsto dall'articolo 52 della Carta dei diritti fondamentali dell'Unione europea, l'installazione e l'utilizzazione di impianti di videosorveglianza con sistemi di riconoscimento facciale operanti attraverso l'uso dei dati biometrici di cui all'articolo 4, numero 14), del citato regolamento (UE) 2016/679 in luoghi pubblici o aperti al pubblico, da parte delle autorita' pubbliche o di soggetti privati, sono sospese fino all'entrata in vigore di una disciplina legislativa della materia e comunque non oltre il 31 dicembre 2023. [...] 12. I commi 9, 10 e 11 non si applicano ai trattamenti effettuati dalle autorita' competenti a fini di prevenzione e repressione dei reati o di esecuzione di sanzioni penali di cui al decreto legislativo 18 maggio 2018, n. 51, in presenza, salvo che si tratti di trattamenti effettuati dall'autorita' giudiziaria nell'esercizio delle funzioni giurisdizionali nonche' di quelle giudiziarie del pubblico ministero, di parere favorevole del Garante reso ai sensi dell'articolo 24, comma 1, lettera b), del medesimo decreto legislativo n. 51 del 2018. [...] --8<---------------cut here---------------end--------------->8--- Tradotto in italiano sarebbe? [...] > i poteri di controllo anche preventivo delle autorità sono > estremamente estesi e diffusi e se venissero esercitati in malafede, > le uniche differenze con Paesi a democrazia variabile sarebbero il > clima e l’architettura. L'ha scritto lui, mica io: solo la buona fede ci differenzia dai paesi a "democrazia variabile" (a parte clima e architettura), possiamo stare tranquilli allora. > Quest’ultima considerazione ci porta al cuore del problema che non è > giuridico ma politico: da un lato, la sicurezza si può garantire solo > con la prevenzione e la prevenzione implica controllo diffuso, pervasivo > ed efficiente. DIFFUSO e PERVASIVO tipo quello di uno stato di polizia insomma, che grazie alla tecnologia (riconoscimento facciale, intelligenza artificiale, ecc.) finalmente trova la sua EFFICIENZA OK, mi fermo qui, mi arrendo per manifesta inferiorità mia. [...] Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 9, 2023

Re: [nexa] Il feticcio della privacy e le polemiche sul riconoscimento facciale

by 380°

Buongiorno, alcune cose che mi hanno particolarmente coplito 380° <g380(a)biscuolo.net> writes: [...] > https://www.repubblica.it/tecnologia/blog/strategikon/2023/05/06/news/il_fe… > > (consultare con JS disabilitato) > > «Il feticcio della privacy e le polemiche sul riconoscimento facciale» > 06 MAGGIO 2023, di Andrea Monti > > --8<---------------cut here---------------start------------->8--- [...] > In altri termini, garantire l’ordinato svolgimento delle attività > quotidiane è il prerequisito per il mantenimento dell’ordine pubblico e quindi il riconoscimento facciale, effettuato per esigenze di ordine pubblico, serve a garantire (amministrare?) l'ordinato (il corretto?) svolgimento delle attività quotidiane [...] > Regio Decreto 18 giugno 1931, noto anche come “Testo unico delle leggi > di pubblica sicurezza” https://it.wikipedia.org/wiki/Testo_unico_delle_leggi_di_pubblica_sicurezza > (al quale si affianca, ma è un altra questione, > il “Testo unico delle leggi sanitarie”) molto modificato, mai > abrogato. https://www.normattiva.it/uri-res/N2Ls?urn:nir:stato:regio.decreto:1934-07-… Non sono del tutto convinto sia "altra questione", io credo piuttosto che i due testi unici siano /simbiotici/, si tratta di questioni /di sicurezza pubblica/, così come intesa in epoca fascista > In quanto afferente alla tutela dello Stato e —oggi, alla protezione > dell’ordine costituzionale— la pubblica sicurezza è materia sottratta > sia all’intervento della UE, sia a quello delle autorità indipendenti, e > di quella per la protezione dei dati personali, in particolare. Ah, se è per quello un sacco di cose sono sottratte all'intervento del garante per la protezione dei dati personali [...] > ma è fuori discussione che il superiore interesse dello Stato e > la tutela della collettività non possano essere globalmente limitati “in > nome della privacy” è esattamente per questo "fuori discussione" che hanno ampliamente applicato un regime di sorveglianza globale > perché esistono già dei meccanismi di tutela del cittadino in base ai > quali le attività di pubblica sicurezza sono sottoposte al controllo > giurisdizionale —alla magistratura, in altri termini— tutte le volte > che si traducono in una potenziale limitazione dei diritti. mi permetta una > > Nel caso specifico del riconoscimento facciale biometrico, poi, il suo > impiego per finalità di pubblica sicurezza e indagini penali è già > consentito dalla normativa vigente (nello specifico, dalla conversione > del decreto legge 139/21) da quasi due anni. A questo andrebbe aggiunto > anche il fatto che la Corte di cassazione è granitica nel rilevare che > nei luoghi pubblici non sussiste una ragionevole aspettativa di privacy > per cui non si configura il reato di interferenze illecite nella vita > privata. Infine, come sa chiunque abbia un minimo di dimestichezza con > la pratica del diritto penale, i poteri di controllo anche preventivo > delle autorità sono estremamente estesi e diffusi e se venissero > esercitati in malafede, le uniche differenze con Paesi a democrazia > variabile sarebbero il clima e l’architettura. > > Quest’ultima considerazione ci porta al cuore del problema che non è > giuridico ma politico: da un lato, la sicurezza si può garantire solo > con la prevenzione e la prevenzione implica controllo diffuso, pervasivo > ed efficiente. Dall’altro, la disponibilità di forme di controllo più > estese ed efficaci generano nelle persone una reazione di istintivo > rifiuto. Da qui le posizioni catastrofistiche in nome delle quali chissà > cosa accadrebbe se lo Stato avesse la disponibilità di tutte le > informazioni che ci riguardano, se potesse tracciare i nostri > spostamenti, sapere cosa facciamo e con chi passiamo il tempo. > > Il problema è, evidentemente, reale, ma gestirlo invocando un principio > di precauzione in nome del quale determinate attività devono essere > vietate a priori perché qualcuno potrebbe abusarne è una scelta > semplicemente sbagliata. Con tutti i suoi problemi, il nostro sistema > politico (e di riflesso quello giuridico) è sufficientemente robusto da > non cedere a derive autoritarie e nel corso degli anni le forze di > polizia hanno maturato una profonda consapevolezza democratica. Se non > fosse così, avremmo già cambiato regime da tempo, senza bisogno di > aspettare il riconoscimento facciale biometrico. > > In altri termini, e su questo sfido apertamente gli zelanti “difensori > della privacy”, opporsi all’impiego di tecnologia per garantire la > sicurezza perché qualcuno potrebbe abusarne equivale ad affermare di non > avere fiducia nelle istituzioni. Se così fosse, allora la inevitabile > conseguenza logica di questa posizione sarebbe il dover entrare in > clandestinità per rovesciare uno Stato che ha tradito gli ideali > democratici. Chi ha il coraggio di fare un’affermazione del genere lanci > il primo tweet. > > Certamente, come detto, l’estensione del controllo diffuso resa > possibile dalle tecnologie dell’informazione va gestita, ma più che > proclami ideologici e alquanto passati —quantomeno dalla prospettiva di > chi si occupa di questi argomenti da un po’— servirebbe potenziare gli > strumenti a disposizione dei cittadini per rilevare e reagire ad > eventuali errori nell’uso delle informazioni o per le deliberate > violazioni dei diritti delle persone. Tradotto: serve potenziare il > diritto di accesso ai dati detenuti per finalità di pubblica sicurezza e > stabilire procedure veramente celeri per ottenere le risposte dalle > autorità competenti. > > La direttiva 680/16 recepita anche dall’Italia si occupa della questione > e fornisce già degli strumenti per controllare, caso per caso, se una > specifica attività di polizia connessa alla raccolta di dati e > informazioni abbia superato o meno i confini fissati per legge. Non è > perfetta e ci sono sicuramente margini di miglioramento, ma la norma che > protegge le persone esiste e può essere già applicata. > > Invece di lamentarsi di ipotetici abusi, dunque, si potrebbe contare il > numero dei procedimenti attivati in nome della direttiva 680 che si sono > conclusi con la prova di abusi da parte del potere esecutivo. Sarebbe un > elemento empirico quanto si vuole, ma pur sempre concreto, per capire se > e quanto saremmo in balìa di uno Stato spione e > autoritario. Curiosamente, tuttavia, di questi provvedimenti non c’è > traccia. > > Può essere vero che, in nome del principio di precauzione, “assenza di > prova non equivale a prova dell’assenza” e che dunque, da qualche parte, > siano stati commessi abusi che non sono stati scoperti. Ma quando si > parla di diritto, negativa non sunt probanda (la prova negativa non si > può dare) e quindi, ad oggi, dobbiamo escludere che siano state commesse > violazioni e prendere atto che il sistema, nel suo complesso, “tiene”. > > Al contrario, applicare il principio di precauzione agli strumenti di > regolazione dei rapporti sociali è un atto irrazionale che serve solo a > provocare la paralisi di qualsiasi componente dello Stato e pregiudicare > i diritti dei cittadini. La prova che sia possibile coniugare tecnologie > di sorveglianza e tutele democratiche è stata fornita, durante la > pandemia, dalle scelte della Corea del Sud. Il contact tracing è stato > possibile grazie a un massiccio ricorso ai dati accumulati sui > cittadini, ma non per questo il Paese ha subito arretramenti > democratici. Questo non è certo accaduto per via del luogo comune che > vuole gli “orientali” più “rispettosi delle regole”, ma per l’attitudine > del governo alla trasparenza nelle scelte e nella loro applicazione. > > La realtà, ma questo gli zelanti difensori della privacy rifiutano di > ammetterlo, non è fatta di zeri e di uno ma di una serie infinita di > valori intermedi, e il diritto non è deterministico né tantomeno > scientifico. Come la politica è un fatto umano e come tale > intrinsecamente fallibile e fallace. Ma nella sua debolezza è certamente > preferibile alle certezze binarie di chi venera feticci e nuovi dei, in > nome di convinzioni che hanno molto più a che fare con la fede che con > la ragione. > > --8<---------------cut here---------------end--------------->8--- > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 9, 2023

Il feticcio della privacy e le polemiche sul riconoscimento facciale

by 380°

Buongiorno, se qualche zelante difensore della privacy avesse qualcosa da dire, magari anche sul piano costituzionale e giuridico, sarebbe il momento di parlare. Temo che il discorso stia rapidamente degenerando. https://www.repubblica.it/tecnologia/blog/strategikon/2023/05/06/news/il_fe… (consultare con JS disabilitato) «Il feticcio della privacy e le polemiche sul riconoscimento facciale» 06 MAGGIO 2023, di Andrea Monti --8<---------------cut here---------------start------------->8--- Le polemiche innescate dalla recente dichiarazione del ministro dell’interno sull’estensione dell’impiego del riconoscimento facciale risentono, ancora una volta, della confusione fra il livello normativo e quello politico, della narrativa distorta che si è stratificata nel corso degli anni attorno al feticcio della “privacy” e della scoperta, da parte dei non addetti ai lavori, di come è fatto —non da oggi— l’apparato di pubblica sicurezza italiano. I poteri di pubblica sicurezza attengono innanzi tutto alla tutela della convivenza civile e dunque, indirettamente, alla sopravvivenza stessa dello Stato. In altri termini, garantire l’ordinato svolgimento delle attività quotidiane è il prerequisito per il mantenimento dell’ordine pubblico e dunque di quella che già nel Medio Evo i giuristi anglosassoni chiamavano peace of the land. Se queste parole suonano, eufemisticamente, alquanto retrò è perché in effetti lo sono: fanno riferimento, infatti, a un apparato di norme ancora basato sul Regio Decreto 18 giugno 1931, noto anche come “Testo unico delle leggi di pubblica sicurezza” (al quale si affianca, ma è un altra questione, il “Testo unico delle leggi sanitarie”) molto modificato, mai abrogato. In quanto afferente alla tutela dello Stato e —oggi, alla protezione dell’ordine costituzionale— la pubblica sicurezza è materia sottratta sia all’intervento della UE, sia a quello delle autorità indipendenti, e di quella per la protezione dei dati personali, in particolare. Ci sono delle norme che stabiliscono una qualche forma di coinvolgimento di quest’ultima negli aspetti più tecnico-informatici delle attività di polizia, ma è fuori discussione che il superiore interesse dello Stato e la tutela della collettività non possano essere globalmente limitati “in nome della privacy” perché esistono già dei meccanismi di tutela del cittadino in base ai quali le attività di pubblica sicurezza sono sottoposte al controllo giurisdizionale —alla magistratura, in altri termini— tutte le volte che si traducono in una potenziale limitazione dei diritti. Nel caso specifico del riconoscimento facciale biometrico, poi, il suo impiego per finalità di pubblica sicurezza e indagini penali è già consentito dalla normativa vigente (nello specifico, dalla conversione del decreto legge 139/21) da quasi due anni. A questo andrebbe aggiunto anche il fatto che la Corte di cassazione è granitica nel rilevare che nei luoghi pubblici non sussiste una ragionevole aspettativa di privacy per cui non si configura il reato di interferenze illecite nella vita privata. Infine, come sa chiunque abbia un minimo di dimestichezza con la pratica del diritto penale, i poteri di controllo anche preventivo delle autorità sono estremamente estesi e diffusi e se venissero esercitati in malafede, le uniche differenze con Paesi a democrazia variabile sarebbero il clima e l’architettura. Quest’ultima considerazione ci porta al cuore del problema che non è giuridico ma politico: da un lato, la sicurezza si può garantire solo con la prevenzione e la prevenzione implica controllo diffuso, pervasivo ed efficiente. Dall’altro, la disponibilità di forme di controllo più estese ed efficaci generano nelle persone una reazione di istintivo rifiuto. Da qui le posizioni catastrofistiche in nome delle quali chissà cosa accadrebbe se lo Stato avesse la disponibilità di tutte le informazioni che ci riguardano, se potesse tracciare i nostri spostamenti, sapere cosa facciamo e con chi passiamo il tempo. Il problema è, evidentemente, reale, ma gestirlo invocando un principio di precauzione in nome del quale determinate attività devono essere vietate a priori perché qualcuno potrebbe abusarne è una scelta semplicemente sbagliata. Con tutti i suoi problemi, il nostro sistema politico (e di riflesso quello giuridico) è sufficientemente robusto da non cedere a derive autoritarie e nel corso degli anni le forze di polizia hanno maturato una profonda consapevolezza democratica. Se non fosse così, avremmo già cambiato regime da tempo, senza bisogno di aspettare il riconoscimento facciale biometrico. In altri termini, e su questo sfido apertamente gli zelanti “difensori della privacy”, opporsi all’impiego di tecnologia per garantire la sicurezza perché qualcuno potrebbe abusarne equivale ad affermare di non avere fiducia nelle istituzioni. Se così fosse, allora la inevitabile conseguenza logica di questa posizione sarebbe il dover entrare in clandestinità per rovesciare uno Stato che ha tradito gli ideali democratici. Chi ha il coraggio di fare un’affermazione del genere lanci il primo tweet. Certamente, come detto, l’estensione del controllo diffuso resa possibile dalle tecnologie dell’informazione va gestita, ma più che proclami ideologici e alquanto passati —quantomeno dalla prospettiva di chi si occupa di questi argomenti da un po’— servirebbe potenziare gli strumenti a disposizione dei cittadini per rilevare e reagire ad eventuali errori nell’uso delle informazioni o per le deliberate violazioni dei diritti delle persone. Tradotto: serve potenziare il diritto di accesso ai dati detenuti per finalità di pubblica sicurezza e stabilire procedure veramente celeri per ottenere le risposte dalle autorità competenti. La direttiva 680/16 recepita anche dall’Italia si occupa della questione e fornisce già degli strumenti per controllare, caso per caso, se una specifica attività di polizia connessa alla raccolta di dati e informazioni abbia superato o meno i confini fissati per legge. Non è perfetta e ci sono sicuramente margini di miglioramento, ma la norma che protegge le persone esiste e può essere già applicata. Invece di lamentarsi di ipotetici abusi, dunque, si potrebbe contare il numero dei procedimenti attivati in nome della direttiva 680 che si sono conclusi con la prova di abusi da parte del potere esecutivo. Sarebbe un elemento empirico quanto si vuole, ma pur sempre concreto, per capire se e quanto saremmo in balìa di uno Stato spione e autoritario. Curiosamente, tuttavia, di questi provvedimenti non c’è traccia. Può essere vero che, in nome del principio di precauzione, “assenza di prova non equivale a prova dell’assenza” e che dunque, da qualche parte, siano stati commessi abusi che non sono stati scoperti. Ma quando si parla di diritto, negativa non sunt probanda (la prova negativa non si può dare) e quindi, ad oggi, dobbiamo escludere che siano state commesse violazioni e prendere atto che il sistema, nel suo complesso, “tiene”. Al contrario, applicare il principio di precauzione agli strumenti di regolazione dei rapporti sociali è un atto irrazionale che serve solo a provocare la paralisi di qualsiasi componente dello Stato e pregiudicare i diritti dei cittadini. La prova che sia possibile coniugare tecnologie di sorveglianza e tutele democratiche è stata fornita, durante la pandemia, dalle scelte della Corea del Sud. Il contact tracing è stato possibile grazie a un massiccio ricorso ai dati accumulati sui cittadini, ma non per questo il Paese ha subito arretramenti democratici. Questo non è certo accaduto per via del luogo comune che vuole gli “orientali” più “rispettosi delle regole”, ma per l’attitudine del governo alla trasparenza nelle scelte e nella loro applicazione. La realtà, ma questo gli zelanti difensori della privacy rifiutano di ammetterlo, non è fatta di zeri e di uno ma di una serie infinita di valori intermedi, e il diritto non è deterministico né tantomeno scientifico. Come la politica è un fatto umano e come tale intrinsecamente fallibile e fallace. Ma nella sua debolezza è certamente preferibile alle certezze binarie di chi venera feticci e nuovi dei, in nome di convinzioni che hanno molto più a che fare con la fede che con la ragione. --8<---------------cut here---------------end--------------->8--- -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 9, 2023

Re: [nexa] Dati della PA nei cloud [era Re: Is AI just 'Capital's Willing Executioner'?]

by 380°

Ciao Davide, "D. Davide Lamanna" <davide.lamanna(a)binarioetico.it> writes: > On 5/9/23 10:12, Giacomo Tesio wrote: [...] >> Purtroppo rimangono innumerevoli dati personali contenuti in quelli >> impropriamente detti "metadati". >> >> Pensa ad esempio agli header SMTP delle email, agli header HTTP inviati >> dalle richieste web etc... Agli IP senza i quali Internet non funziona >> Non è possibile criptare i destinatari di una email. >> O l'ora in cui è inviata. >> > Negli ultimi anni si sono fatti passi avanti importanti nel campo > dell'Homomorphic Encryption [1]. AFAIU quella fa la crittazione dei dati, non dei metadati, sbaglio? BTW: --8<---------------cut here---------------start------------->8--- Homomorphic encryption is a form of encryption that allows computations to be performed on encrypted data without first having to decrypt it. --8<---------------cut here---------------end--------------->8--- Domanda: ma è proprio necessario consentire che i dati siano oggetto di computazione "nel cloud" (cioè sul computer di qualcun altro)? Io in alternativa ho una modesta proposta: crittografia dei dati nello storage (remoto o locale), computazione dei dati nella CPU locale... intanto che aspettiamo la Homomorphic Encryption :-D > Si possono implementare Mail Server che offrono persino funzioni di > ricerca con HE [2], Che non riusciranno _mai_ a battere le performance di ricerca locale, ad esempio usando xapian [1] per le email via notmuch [2] o per i documenti via Recoll [3] In merito allo storage crittografato sul mail server, segnalo Technology for Resting Email Encrypted Storage (TREES) [4] ...nel frattempo, però, i contenuti delle email, se non crittografati, viaggiano "in chiaro", per non parlare dei metadati. > filtri anti-spam omomorfici [3] già, lo SPAM... quello meriterebbe un capitolo a parte, mi viene una tristezza infinita quando penso ai cicli macchina sprecati per calcolare i punteggi di "spammosità" di un messaggio ...e comunque perché funzionino servono i metadati in chiaro, o no? > e sono stati studiati sistemi HE per il routing anonimo [4] non conoscevo, grazie! (studierò con calma) stando al paragrafo "5.5.3 State of Progress" nel 2013 non esisteva ancora un'implementazione: sbaglio? Ad oggi ci sono implementazioni del protocollo APART (Anonymous Proactive Ad hoc RouTing)? nel frattempo, GNUnet (compreso il routing anonimo) è un'implementazione di questo paper del 2014 [5] > (l'applicazione Signal ne usa uno per impedire la disclosure del > mittente a livello di router). Non sapevo di questa cosa: hai dettagli per favore? Ti riferisci forse alla funzione "sealed sender" introdotta nel 2018? Perché se così fosse, faccio umilmente notare che: --8<---------------cut here---------------start------------->8--- Even under the sealed sender, observers said, Signal will continue to map senders' IP addresses. That information, combined with recipient IDs and message times, means that Signal continues to leave a wake of potentially sensitive metadata. --8<---------------cut here---------------end--------------->8--- (via https://arstechnica.com/information-technology/2018/10/new-signal-privacy-f…) e --8<---------------cut here---------------start------------->8--- A contemporaneous wiretap of the user's device and/or the Signal servers may still reveal that the device's IP address accessed a Signal server to send or receive messages at certain times. --8<---------------cut here---------------end--------------->8--- (via https://en.wikipedia.org/wiki/Signal_Protocol#Metadata) immagina chi fa wiretapping, puoi :-) mi spiace ma non c'è proprio nessuno scampo a quanto faccia tecnicamente schifo Internet > Io me ne sono occupato ormai più di 10 anni fa [6], quando il tema era > fantascientifico, ma stando a [5], l'adozione commerciale potrebbe non > essere troppo lontana. OK, ma anche una volta che la Homomorphic Encryption sarà commercialmente adottata, i metadati che fine fanno? Grazie! 380° > [1] = https://en.wikipedia.org/wiki/Homomorphic_encryption > > [2] = > https://thesai.org/Downloads/Volume9No3/Paper_16-Secure_and_Privacy_Preserv… > > [3] = https://www.sciencedirect.com/science/article/pii/S0140366422004261 > > [4] = https://dumas.ccsd.cnrs.fr/dumas-00854815/document > > [5] = https://queue.acm.org/detail.cfm?id=3561800 > > [6] = https://link.springer.com/chapter/10.1007/978-3-642-33615-7_ [1] https://xapian.org/ [2] https://notmuchmail.org/ [3] https://www.lesbonscomptes.com/recoll/pages/index-recoll.html [4] https://0xacab.org/liberate/trees [5] https://www.w3.org/2014/strint/papers/65.pdf The Internet is Broken: Idealistic Ideas for Building a GNU Network -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 9, 2023

Re: [nexa] Fwd: The role of FOSS in preventing a recurrence of vehicle emissions scandals

by 380°

Buongiorno Stefano, Stefano Zacchiroli <zack(a)upsilon.cc> writes: > È (purtroppo) un argomento fallace che vedo spesso circolare in ambiti > FOSS. > > Se qualcuno (VW/Audi in questo esempio) sta commettendo qualcosa di > illegale, non si capisce perché ci si dovrebbe fidare degli stessi > quando dicono "tutto il software dell'auto è software libero; abbiamo > pubblicato i sorgenti qua: <URL>". Se sono disposti a barare, possono > benissimo farlo anche quando dichiarano che il codice sorgente > pubblicato corrispondo a quello installato nei veicoli (quando ciò non è > vero). Questo dovrebbe essere chiarissimo a tutti coloro che hanno compreso la natura duale del software: sorgente in questo universo, binario nel "cyberspazio" Non capisco però cosa ci sia di fallace nel breve messaggio di Lars Noodén riportato da Andrea Trentini (una risposta con commenti inline forse aiuterebbe) [...] > Quindi serve un modo di permettere agli utenti delle auto di > verificare che il codice sorgente pubblicato corrisponda ai binari > installati nell'auto. Immagino tu abbia in mente possibili modi: sarebbero? ...si torna alla _profonda_ spaccatura evidenziata nel thread citato da Andrea Trentini, come ad esempio in questo messaggio: https://server-nexa.polito.it/pipermail/nexa/2022-December/049959.html [...] > Ricapitolando, una soluzione tecnologica lungo questo asse richiede: > (a) 100% open source, 100% significa anche i driver necessari per "comandare" l'hardware, vero? :-) > (b) reproducible builds, Reproducible builds non basta, il software deve essere anche bootstrappable per _risolvere_ il problema del "Trusting Trust" https://bootstrappable.org/ > (c) accesso completo ai binari installati nell'auto. Siccome l'esecuzione dei processi dipende anche dall'ambiente (environment) nel quale il binario viene eseguito /e/ alla configurazione di sistema, direi che l'accesso ai binari non basta, occorre l'accesso a tutto il sistema operativo (accesso root, per intenderci... sempre che non ci sia un ring-3 anche lì, ma non divaghiamo) Counque per brevità di esposizione, limitiamoci ai binari: giustissimo. Lo dico per i non addetti ai lavori: potendo analizzare i binari è possibile (anche) calcolare i loro "checksum", che possiamo considerare come le "impronte digitali" del binario: se cambia anche un bit nel codice binario, il "checksum" cambia. In questo modo, applicando i principi del "reproducible build", chiunque può verificare che il binario compilato sul proprio computer (in questo caso deve essere la stessa architettura del/dei computer embedded usato nella centralina dell'auto) corrisponda al binario distribuito dal "vendor" Processo _per nulla_ facile, considerando che _deve_ essere il "vendor" a distribuire la "ricetta" di build che _deve_ essere riproducibile (cosa non facile, tecnicamente) ma SOPRATTUTTO che occorre avere accesso /completo/ a un computer con la stessa achitettura di quello embedde nella centralina dell'auto. ...e /quindi/ torniamo alla (im)possibilità di accedere /completamente/ all'hardware della centralina al fine di ripetere il build (e magari anche il bootrap software) Siamo lontani da queste cose, siamo decisamente in un altro... UNIVERSO di discorso. Se continuiamo a girarci intorno non ci arriveremo mai. [...] > Ma da un punto di vista di policy pubbliche, se dobbiamo imporlo per > legge, allora è molto più facile imporre il libero accesso per audit a > tutto il software in esecuzione in un'auto da parte del regolatore. Sì ma mi spiegheresti /come/ "il regolatore" può essere in grado di fare un audit di tutto il software se manca anche solo una delle condizioni che tu hai elencato e che "io" (le idee non sono mie, eventualmente io le ho solo espresse male) ho integrato? É /ovvio/ che per fare un lavoro serio il regolatore dovrebbe verificare tutto il software delle centraline dei veicoli (cosa che non avviene ancora oggi, nonostante i trucchi che probabilmente si ripetono dal 1999), ma per poterlo fare "lui" dovremmo poterlo fare tutti... ...a meno che qualcuno è convinto che agli "utenti" (cioè i cittadini) può essere precluso partecipare alla vita sociale e politica, della quale l'applicazione di automatismi cibernetici è /una/ delle espressioni. [...] Grazie, 380° [1] https://en.wikipedia.org/wiki/Checksum, tipo https://en.wikipedia.org/wiki/Sha1sum -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 9, 2023

Re: [nexa] Dati della PA nei cloud [era Re: Is AI just 'Capital's Willing Executioner'?]

by D. Davide Lamanna

On 5/9/23 10:12, Giacomo Tesio wrote: [...] > >> Beh, si potrebbe, tornando all'analogia con le cassette di sicurezza, >> mettere una cassettina con il lucchetto dentro. >> Quindi criptare i dati in partenza ... > Purtroppo rimangono innumerevoli dati personali contenuti in quelli > impropriamente detti "metadati". > > Pensa ad esempio agli header SMTP delle email, agli header HTTP inviati > dalle richieste web etc... > > Non è possibile criptare i destinatari di una email. > O l'ora in cui è inviata. > Negli ultimi anni si sono fatti passi avanti importanti nel campo dell'Homomorphic Encryption [1]. Si possono implementare Mail Server che offrono persino funzioni di ricerca con HE [2], filtri anti-spam omomorfici [3] e sono stati studiati sistemi HE per il routing anonimo [4] (l'applicazione Signal ne usa uno per impedire la disclosure del mittente a livello di router). Io me ne sono occupato ormai più di 10 anni fa [6], quando il tema era fantascientifico, ma stando a [5], l'adozione commerciale potrebbe non essere troppo lontana. D. [1] = https://en.wikipedia.org/wiki/Homomorphic_encryption [2] = https://thesai.org/Downloads/Volume9No3/Paper_16-Secure_and_Privacy_Preserv… [3] = https://www.sciencedirect.com/science/article/pii/S0140366422004261 [4] = https://dumas.ccsd.cnrs.fr/dumas-00854815/document [5] = https://queue.acm.org/detail.cfm?id=3561800 [6] = https://link.springer.com/chapter/10.1007/978-3-642-33615-7_ (null)

May 9, 2023

L’AI act giovedì in commissione del PE

by de petra giulio

Giovedi l’AI act sarà in commissione del Parlamento Europeo per una prima lettura. L’arrivo in plenaria è previsto per giugno. Ci sono più di 1000 emendamenti. Il relatore è l’italiano Brando Benifei, capogruppo del PD. Qui i riferimenti https://www.europarl.europa.eu/doceo/document/CJ40-OJ-2023-05-11-1_EN.html

May 9, 2023