- nexa - server-nexa.polito.it

Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by Antonio Casilli

Ciao Giacomo, anche se in Francia il potere giudiziario è considerato indipendente, esistono delle limitazioni significative. Nella Costituzione della Quinta Repubblica, promulgata 65 anni fa, il potere giudiziario è definito non come un "potere", ma come un'"autorità". Questo aspetto è rilevante per comprendere il contesto in cui opera la magistratura. La Quinta Repubblica è caratterizzata da un forte potere esecutivo, con il presidente della repubblica a capo. Il presidente non svolge un ruolo meramente rappresentativo, come accade in altri paesi come l'Italia, Israele, la Polonia o l'Irlanda, solo per citarne alcuni a caso. Il politologo Pierre Rosanvallon ha descritto la Quinta Repubblica come un regime in cui "il potere esecutivo tende costantemente ad agire senza contropoteri, presentandosi come l'unica autorità legittima". Di fatto, gli altri due poteri sono subordinati all'esecutivo. In particolare, il potere legislativo viene utilizzato come un'estensione delle politiche presidenziali. Un'espressione ormai idiomatica è quella secondo cui le leggi in parlamento "passano come lettere alla posta", ovvero vengono approvate senza incontrare ostacoli. Oppure scavalcandoli con facilità. Se hai seguito un po' gli avvenimenti degli ultimi mesi relativi alla riforma delle pensioni, sai di che parlo. La riforma è stata approvata senza votazione parlamentare grazie all'uso di un "joker" ("l'articolo 49.3"), uno strumento che permette al governo di bypassare i parlamentari. Inoltre, adesso che è stata presentata una contro-proposta di legge per abrogare la riforma, l'esecutivo ha deciso che questa proposta non sarà nemmeno sottoposta a voto. Per quanto riguarda il potere giudiziario, non è un caso che la misura liberticida dell'attivazione a distanza di microfoni e video sia presentata nella legge di programmazione della giustizia. Da tempo, esponenti della magistratura hanno espresso preoccupazioni riguardo alle interferenze da parte del potere esecutivo. Tre magistrati hanno pubblicato un articolo su Le Monde il 20 novembre scorso, evidenziando l'urgenza di separare il potere esecutivo da quello giudiziario e di riconquistare una reale indipendenza per i magistrati (https://www.lemonde.fr/idees/article/2022/11/04/il-est-urgent-de-deconnecte…) Ci sono due elementi che aggravano questa situazione. Il primo risale al 2020, quando Eric Dupont-Moretti, una figura controversa con una chiara ostilità verso i giudici, è stato nominato Ministro della Giustizia. Questo fatto ha sollevato preoccupazioni all'interno della magistratura riguardo alla sua indipendenza e neutralità nel processo decisionale. Il secondo elemento di preoccupazione riguarda la riforma delle forze di polizia, che dovrebbe entrare in vigore quest'anno. Si tratta di un progetto che mira alla centralizzazione di tutte le istanze, inclusa la polizia giudiziaria. La possibile scomparsa di quest'ultima solleva serie preoccupazioni poiché le indagini preliminari potrebbero essere affidate ai commissariati di polizia sotto la direzione dei prefetti. Questa situazione apre la possibilità di comunicazione tra il governo e i prefetti, mettendo a rischio la riservatezza delle indagini, che non sarebbe più garantita come avviene attualmente. Spero di aver risposto in maniera chiara. Cheers, ---a ----- Original Message ----- From: "Giacomo Tesio" <giacomo(a)tesio.it> To: "Carlo Blengino" <blengino(a)penalistiassociati.it> Cc: "Antonio Casilli" <antonio.casilli(a)telecom-paris.fr>, "nexa" <nexa(a)server-nexa.polito.it> Sent: Sunday, June 11, 2023 12:25:55 AM Subject: Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone Salve Antonio, Carlo e Nexa. @Antonio: la notizia è certamente aberrante, evidenzia che (come dice Carlo) la democrazia in Europa gode di pessima salute. Aberrante perché legittima di fatto la sorveglianza di massa attuata da poche società private, che avranno il compito di accendere video camera e microfono per conto dei giudici... COME fanno per conto proprio ogni volta che gli va. Ho però una domanda: nella tua sintesi hai scritto che la nuova legge "permette _ai giudici_ di decidere l'attivazione a distanza dei dispositivi elettronici per registrare video e audio senza il consenso del proprietario". In Francia la Magistratura dipende dal Governo o è autonoma come in Italia? Perché se dipende dal Governo, allora la nuova legge è straordinariamente pericolosa, permettendo al primo Governo interessato a farlo (il prossimo) di distruggere qualsiasi opposizione. Mi sorprenderebbe che un popolo con una lunga tradizione democratica come la Francia accettasse una così ovvia rinuncia alla democrazia. Se però la Magistratura è indipendente, la nuova legge è solo pericolosa: tanto più pericolosa quanto più la Magistratura francese è corrotta o succube del potere politico. >On Fri, Jun 09, 2023 at 12:09:54PM +0200, Carlo Blengino wrote: > Ciò che, con la ditificazione delle nostre vite, ha salvato e permesso di > mantenere un barlume di efficacia all'art. 8 CEDU in europa è stata solo in > questi anni la deprecata e deminizzata dominanza delle BigTech Usa, degli > over the top, che grazie a Dio erano Americane [...] > Non c'è nulla da fare, la privacy è anche una questione di prossimità, e di > prossimità al potere. E a quanti millisecondi di distanza credi di essere dal potere, Carlo? > [le BigTech Usa...] nei confronti degli altri, la privacy > degli utenti la difendono (come difendono il loro patrimonio informativo). Vedi Carlo, ciò che le BigTech difendono è il monopolio dell'uso del tuo cervello (e di quello di tutte le persone come te o intorno a te). Rimanendo ancorati ad una prospettiva novecentesca fortemente influenzata dalla retorica pseudo-liberale del capitalismo statunitense [1] non puoi comprendere la natura del potere cibernetico delle salvifiche BigTech che credi io demonizzi. Nemmeno ti sfiora l'idea che tale potere abbia orientato tale visione. Eppure quel potere è a pochi millesimi di secondo da te. Eppure quel potere ti osserva costantemente, raccogliendo come MINIMO 1 megabyte di dati sul tuo conto ogni 12 ore, anche se con il tuo smartphone non fai nient'altro che portartelo dietro. [2] Eppure quel potere influenza le tue letture da anni, le letture di coloro che interagiscono con te, etc... decine di volte al giorno. Al momento le BigTech non dispongono dell'uso legittimo della forza, ma non gli serve perché possono violare tranquillamente la legge italiana ed europea, mettendo a budget senza vergogna sanzioni ridicole. [3] In compenso, svuotano di significato la libertà individuale e collettiva: chiunque possa decidere cosa vuoi fare e cosa no, non ha bisogno della forza per comprimere la tua libertà. E non ne ha bisogno perché la tua libertà è un'illusione. Un'illusione cui posso ben comprendere i liberali siano molto attaccati. Così come all'immagine di uno Stato cattivo e di una Legge destinata agli uomini che esprima un potere maggiore di quello impresso nel codice eseguito dalle centinaia di agenti cibernetici eseguiti da un qualsiasi cellulare, da una smarttv o da un computer. Nemmeno l'assoluta inferiorità numerica degli esseri umani rispetto agli automatismi del sistema (inferiorità numerica di cui in effetti non hanno alcuna percezione) o il fatto che le migliaia di agenti cibernetici automatici che li circondano riproducano fedelmente la volontà dei propri creatori, può mettere in crisi la loro fede nelle magnifiche sorti e progressive delle salvifiche BigTech! Ah! se il mondo fosse ancora così semplice! Eppure mi accontenterei di un mondo dove Giudici ed Avvocati credessero ancora nella Giustizia e nell'uguaglianza degli uomini di fronte alla Legge. Giacomo [1] https://www.thenation.com/article/economy/artificial-intelligence-silicon-v… [2] https://www.scss.tcd.ie/doug.leith/apple_google.pdf [3] https://www.iccl.ie/digital-data/iccl-2023-gdpr-report/

June 11, 2023

Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by Giacomo Tesio

Salve Antonio, Carlo e Nexa. @Antonio: la notizia è certamente aberrante, evidenzia che (come dice Carlo) la democrazia in Europa gode di pessima salute. Aberrante perché legittima di fatto la sorveglianza di massa attuata da poche società private, che avranno il compito di accendere video camera e microfono per conto dei giudici... COME fanno per conto proprio ogni volta che gli va. Ho però una domanda: nella tua sintesi hai scritto che la nuova legge "permette _ai giudici_ di decidere l'attivazione a distanza dei dispositivi elettronici per registrare video e audio senza il consenso del proprietario". In Francia la Magistratura dipende dal Governo o è autonoma come in Italia? Perché se dipende dal Governo, allora la nuova legge è straordinariamente pericolosa, permettendo al primo Governo interessato a farlo (il prossimo) di distruggere qualsiasi opposizione. Mi sorprenderebbe che un popolo con una lunga tradizione democratica come la Francia accettasse una così ovvia rinuncia alla democrazia. Se però la Magistratura è indipendente, la nuova legge è solo pericolosa: tanto più pericolosa quanto più la Magistratura francese è corrotta o succube del potere politico. >On Fri, Jun 09, 2023 at 12:09:54PM +0200, Carlo Blengino wrote: > Ciò che, con la ditificazione delle nostre vite, ha salvato e permesso di > mantenere un barlume di efficacia all'art. 8 CEDU in europa è stata solo in > questi anni la deprecata e deminizzata dominanza delle BigTech Usa, degli > over the top, che grazie a Dio erano Americane [...] > Non c'è nulla da fare, la privacy è anche una questione di prossimità, e di > prossimità al potere. E a quanti millisecondi di distanza credi di essere dal potere, Carlo? > [le BigTech Usa...] nei confronti degli altri, la privacy > degli utenti la difendono (come difendono il loro patrimonio informativo). Vedi Carlo, ciò che le BigTech difendono è il monopolio dell'uso del tuo cervello (e di quello di tutte le persone come te o intorno a te). Rimanendo ancorati ad una prospettiva novecentesca fortemente influenzata dalla retorica pseudo-liberale del capitalismo statunitense [1] non puoi comprendere la natura del potere cibernetico delle salvifiche BigTech che credi io demonizzi. Nemmeno ti sfiora l'idea che tale potere abbia orientato tale visione. Eppure quel potere è a pochi millesimi di secondo da te. Eppure quel potere ti osserva costantemente, raccogliendo come MINIMO 1 megabyte di dati sul tuo conto ogni 12 ore, anche se con il tuo smartphone non fai nient'altro che portartelo dietro. [2] Eppure quel potere influenza le tue letture da anni, le letture di coloro che interagiscono con te, etc... decine di volte al giorno. Al momento le BigTech non dispongono dell'uso legittimo della forza, ma non gli serve perché possono violare tranquillamente la legge italiana ed europea, mettendo a budget senza vergogna sanzioni ridicole. [3] In compenso, svuotano di significato la libertà individuale e collettiva: chiunque possa decidere cosa vuoi fare e cosa no, non ha bisogno della forza per comprimere la tua libertà. E non ne ha bisogno perché la tua libertà è un'illusione. Un'illusione cui posso ben comprendere i liberali siano molto attaccati. Così come all'immagine di uno Stato cattivo e di una Legge destinata agli uomini che esprima un potere maggiore di quello impresso nel codice eseguito dalle centinaia di agenti cibernetici eseguiti da un qualsiasi cellulare, da una smarttv o da un computer. Nemmeno l'assoluta inferiorità numerica degli esseri umani rispetto agli automatismi del sistema (inferiorità numerica di cui in effetti non hanno alcuna percezione) o il fatto che le migliaia di agenti cibernetici automatici che li circondano riproducano fedelmente la volontà dei propri creatori, può mettere in crisi la loro fede nelle magnifiche sorti e progressive delle salvifiche BigTech! Ah! se il mondo fosse ancora così semplice! Eppure mi accontenterei di un mondo dove Giudici ed Avvocati credessero ancora nella Giustizia e nell'uguaglianza degli uomini di fronte alla Legge. Giacomo [1] https://www.thenation.com/article/economy/artificial-intelligence-silicon-v… [2] https://www.scss.tcd.ie/doug.leith/apple_google.pdf [3] https://www.iccl.ie/digital-data/iccl-2023-gdpr-report/

June 10, 2023

Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by Antonio Casilli

Buongiorno Marco, con la semplicità che mi contraddistingue (poca) c'è un Twitter thread che avevo scritto prima ancora di presentare questa versione in italiano. Lo trovi qui: https://twitter.com/AntonioCasilli/status/1666890892639100934?s=20 Cheers, --a ----- Original Message ----- From: "M. Fioretti" <mfioretti(a)nexaima.net> To: "nexa" <nexa(a)server-nexa.polito.it> Sent: Saturday, June 10, 2023 6:45:17 AM Subject: Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone On Fri, Jun 09, 2023 09:51:12 AM +0200, Antonio Casilli wrote: > Dear all, > > La sera del 7 giugno 2023, il Senato francese ha approvato in prima > lettura l'articolo numero 3 del nuovo progetto di legge [che] > permette ai giudici di decidere l'attivazione a distanza dei > dispositivi elettronici per registrare video e audio senza il > consenso del proprietario di smartphone, tablet > ecc. > > Come spesso accade quando vengono proposte nuove leggi liberticide, > nelle "democrazie" occidentali le giustificazioni di base sono la > protezione dell'infanzia... Buongiorno Antonio e NEXA, e grazie per questa interessantissima discussione, con la richiesta di qualcosa che mi sarebbe particolarmente utile in questo momento: esiste gia' da qualche parte un RIASSUNTO in inglese di questa storia, ma piu' semplice possibile? Specificamente, qualcosa adatto da mostrare ad associazioni di GENITORI che chiedono a sproposito a governi e piattaforme di "proteggere i nostri bambini" perche' non si rendono assolutamente conto di tutte le implicazioni? Grazie, Marco -- My last Substack: The problem with children online is...: https://mfioretti.substack.com/p/honestly-the-problem-with-children _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

June 10, 2023

Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by Antonio Casilli

Ottimo commento Carlo, che mi fa riflettere a tutta una serie di questioni sull'implementazione tecnica di questa misura. A presto un update, che (spero) spiegherà la differenza vs. il trojan di stato e se davvero la tua visione della GAFAM come protettrici "de facto" della privacy degli utenti europei si applica in questo caso. > interi dataset di passaggi telepass, acquisiti senza alcun ordine giudiziale: li aveva la polizia by default <facepalm postumo> Ciao, ---a ----- Original Message ----- From: "Carlo Blengino" <blengino(a)penalistiassociati.it> To: "Antonio Casilli" <antonio.casilli(a)telecom-paris.fr> Cc: "nexa" <nexa(a)server-nexa.polito.it> Sent: Friday, June 9, 2023 12:09:54 PM Subject: Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone Beh, risolverebbe molti problemi legati all'utilizzo "legale" dei Trojan (in primis il mercato delle vulnerabilità ed il sottobosco delle imprese di "difesa attiva" che minano la sicurezza della rete): di fatto legalizziamo l'uso dei Trojan di Stato utilizzando quelli già installati by default negli applicativi e negli oggetti connessi, imponendo, così mi pare di capire dal tuo messaggio, la collaborazione dei fornitori dei servizi.. E' orrendo, sia chiaro, ma non è affatto inedito: le Telco, che agiscono in concessione e sono stabilite ex lege nei vari paesi e spesso sono controllate dagli Stati stessi, da sempre "collaborano" con ogni sorta di agenzia statuale dando accesso a comunicazioni e dati e fin anche prestando le loro reti e i loro servizi per infettare (via sms/mms).Tutto legalmente eh, seppure opacamente, in UE!. E non è solo questione di "comunicazioni" in cui il limite costituzionale della riservatezza è, almeno formalmente, ancora forte (in IT art.15 Cost), ma di qualsivoglia dato. Telepass, che consente un tracciamento da sempre molto invasivo (e che non a caso si sta arricchendo di mille servizi "traccianti") una volta aveva i suoi server presso la Polizia di Stato in Toscana! (Seguii personalmente una delirante causa in cui sanzionarono amministrativamente per milioni di euro le agenzie di trasporto per violazione degli orari di giuda -vedi la visione double face, lì tutelavano i lavoratori ;)- grazie all'acquisizione ed elaborazione di interi dataset di passaggi telepass, acquisiti senza alcun ordine giudiziale: li aveva la polizia by default! Oggi dopo quella vicenda e il Codice Privacy, non è più così, ma....). Ciò che, con la ditificazione delle nostre vite, ha salvato e permesso di mantenere un barlume di efficacia all'art. 8 CEDU in europa è stata solo in questi anni la deprecata e deminizzata dominanza delle BigTech Usa, degli over the top, che grazie a Dio erano Americane e se ne sono sempre fregate delle richieste di collaborazione degli stati esteri, delle varie procure e dell'intelligence (salve ovviamente le collaborazioni con la "loro" NSA), un pò per necessità essendo servizi globali e un pò perchè comunque, al di là della deminizzazione a la Tesio, nei confronti degli altri, la privacy degli utenti la difendono (come difendono il loro patrimonio informativo). Dunque, non so se ho capito correttamente dal tuo messaggio la novità dell'art.3 approvato, ma se è quello di ottenere legalmente la collaborazione dei fornitori di servizi e device fruendo dell'invasività delle loro applicazioni, per ora e per fortuna, la vedo dura con i servizi extra Ue e soprattutto con quelli americani, che hanno geneticamente una bassissima protezione del dato personale (e faticano a rispettare la legislazione UE a protezione del dato), ma una fortissima tutela della riservatezza e della privacy, assai più tutelante nei confronti delle ingerenze del potere statuale di quanto accada in UE. Non ho mai sentito di cause di imprese UE per resistere a ordini di collaborazione dei loro Stati, ne abbiamo viste in U.S. Se gli scandali degli anni passati sono tutti nati in US non è perchè qui le varie agenzie statuali sono più buone e rispettose della vita privata dei loro cittadini, ma solo perchè qui le agenzie non riescono a fare ciò che vorrebbero perchè non hanno potere sulle BigTech. Almeno fino ad ora. Le massacriamo con sanzioni (tutte meritate, non fraintendete!) le obblighiamo a trasparenza (evviva! davvero!) ma per ora, ciò che più irrita il potere profondo degli Stati nella democratica UE è che non riescono a saziare la bulimia informativa e di controllo che li affligge (sempre per ottime e spesso inesistenti ragioni di sicurezza nazionale!) Non c'è nulla da fare, la privacy è anche una questione di prossimità, e di prossimità al potere. Sono tutte riflessioni che mi sorgono quando sento parlare di "sovranità digitale": per ora (e il futuro delle nostre democrazie non è roseo), Dio ce ne scampi. Ad Majora CB Il giorno ven 9 giu 2023 alle ore 09:51 Antonio Casilli < antonio.casilli(a)telecom-paris.fr> ha scritto: > Dear all, > > La sera del 7 giugno 2023, il Senato francese ha approvato in prima > lettura l'articolo numero 3 del nuovo progetto di legge di programmazione > sulla "giustizia" (le virgolette sono di rigore). Questa misura, fortemente > voluta dal ministro dell'interno Gérald Darmanin, permette ai giudici di > decidere l'attivazione a distanza dei dispositivi elettronici per > registrare video e audio senza il consenso del proprietario di smartphone, > tablet ecc. > https://www.publicsenat.fr/actualites/politique/justice-le-senat-autorise-l… > > Come spesso accade quando vengono proposte nuove leggi liberticide, nelle > "democrazie" occidentali le giustificazioni di base sono la protezione > dell'infanzia o la lotta contro il terrorismo. In questo caso, si applica > la seconda scusa. Quello che preoccupa è la probabile estensione di questa > misura ad altri ambiti al di fuori del terrorismo. > > È importante sottolineare che questa legge non nasce in un vuoto > tecnologico. Al contrario, si inserisce in un contesto segnato da una serie > di scandali e abusi legati alla monitoraggio abusivo degli utilizzatori da > parte delle aziende della tech nel contesto del loro modello di business. > Prima delle rivelazioni del 2023 dei dipendenti di Tesla che hanno spiato i > loro clienti attraverso le telecamere delle auto, e prima delle violazioni > di sicurezza della videocitofono connesso Amazon Ring, diversi scandali > hanno rivelato la propensione delle grandi aziende tecnologiche a invadere > l'intimità dei loro utenti. > > Queste rivelazioni sono strettamente legate alla Francia e al lavoro dei > nostri ricercatori del DiPLab (diplab.eu). Con l'aiuto di diverse ONG > come La Quadrature du Net e la Maison des Lanceurs d'Alerte, abbiamo > aiutato dei whistleblower a raccontare la loro esperienza come "ascoltatori > a distanza" per le grandi aziende tecnologiche. Ad esempio, Julie, che già > nel 2018 aveva raccontato di aver trascritto conversazioni nell'ambito > dell'attività di una piattaforma di micro-lavoro chiamata Pactera, dove > Cortana (Microsoft) esternalizzava questo tipo di lavoro. La sua > testimonianza è presentata qui > https://www.laquadrature.net/2018/05/18/temoin_cortana/ ed è state > analizzata e discussa nel nostro rapporto DiPLab 'Il micro-lavoro in > Francia' (2019): https://hal-sciencespo.archives-ouvertes.fr/hal-03579349. > > > Altri casi sono discussi nel nostro saggio "Human Listeners", pubblicato > da MIT Press nel 2022 e disponibile in open access: > https://direct.mit.edu/books/oa-edited-volume/5319/chapter/3800161/Human-Li… > . L'attivazione dei microfoni per spiare gli utenti non è un bug, ma una > feature dei prodotti digitali contemporanei. È "necessaria per migliorare > la qualità" delle soluzioni di intelligenza artificiale ed è strettamente > legata al funzionamento e ai modelli di business delle grandi piattaforme. > Ogni volta che un'azienda sviluppa un assistente vocale o un'altra > tecnologia basata sulla voce (o sull'immagine), deve assicurarsi che l'IA > interpreti correttamente ciò che gli utilizzatori dicono (o fanno). Chi > verifica le prestazioni dell'IA confrontando le registrazioni audio reali > delle conversazioni degli utenti (o i video e le immagini)? Dei > micro-lavoratori umani, mal retribuiti e precari, che ascoltano e osservano > conversazioni private senza che gli utenti ne siano consapevoli (siccome il > microfono e le telecamere "hanno tendenza ad accendersi", a volte per > errore, a volte in modo *molto* intenzionale). Naturalmente, nell'articolo > spieghiamo che questo tipo di lavoro viene svolto da persone mal pagate, > con scarso potere decisionale e poche alternative, ad eccezione della > scelta di abbandonare il sistema e diventare whistleblower, cosa sempre più > difficile. > > Un caso particolare è rappresentato appunto da un whistleblower che > abbiamo intervistato nel nostro documentario "Invisibles" (2020) (la sua > intervista, doppiata in inglese, è disponibile qui: > https://youtu.be/sFCI3s4tNL8?t=1769) Il whistleblower in questione si > chiama Thomas Le Bonniec, e successivamente ha lanciato una campagna contro > Apple ed è stato presentato su diversi media internazionali, dal Guardian a > Bloomberg. > > Di fronte a queste rivelazioni, che hanno colpito specificamente i > cittadini francesi, cosa ha fatto il governo di Macron? Ha istituito una > commissione speciale come per il Congresso americano? Ha avviato audizioni > parlamentari come nel Regno Unito? No, non hanno fatto nulla. Peggio > ancora, ora vogliono sfruttare questa funzionalità, non per migliorare > l'IA, ma con l'obiettivo dichiarato di mettere in atto un piano distopico > di sorveglianza. > > Il punto chiave di questo (lunghissimo) messaggio è il fatto che le > piattaforme creano l'infrastruttura tecnologica che i governi sfruttano in > seguito per la sorveglianza di massa a nome della legge. Questo era vero > nel 2013, quando Edward Snowden ha rivelato come la NSA utilizza i dati > raccolti da Apple, Microsoft, Meta, ecc., ed è ancora vero dieci anni dopo, > come dimostra il nostro lavoro con i whistleblowers francesi. Senza la > necessità per le piattaforme di utilizzare costantemente microfoni e > telecamere per raccogliere dati per l'IA, non ci sarebbe la necessità di > una registrazione continua, una possibilità che il governo di Macron vuole > attualmente sfruttare. Se questa proposta di legge venisse adottata senza > eliminare o emendare l'articolo 3, la nostra privacy sarebbe ancora più > malmenata. L'eredità del governo Macron, malgrado la sua immagine di > presidente moderato, è fatta di repressione dei migranti, di violazione dei > diritti umani, di decine di persone mutilate o gravemente ferite dalla > polizia durante le manifestazioni, la degradazione del sistema di > protezione sociale, l'indebolimento del sistema parlamentare. Non possiamo > permettere che compia un ennesimo passo pericoloso verso l'autoritarismo. > > Antonio > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

June 10, 2023

Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by M. Fioretti

On Fri, Jun 09, 2023 09:51:12 AM +0200, Antonio Casilli wrote: > Dear all, > > La sera del 7 giugno 2023, il Senato francese ha approvato in prima > lettura l'articolo numero 3 del nuovo progetto di legge [che] > permette ai giudici di decidere l'attivazione a distanza dei > dispositivi elettronici per registrare video e audio senza il > consenso del proprietario di smartphone, tablet > ecc. > > Come spesso accade quando vengono proposte nuove leggi liberticide, > nelle "democrazie" occidentali le giustificazioni di base sono la > protezione dell'infanzia... Buongiorno Antonio e NEXA, e grazie per questa interessantissima discussione, con la richiesta di qualcosa che mi sarebbe particolarmente utile in questo momento: esiste gia' da qualche parte un RIASSUNTO in inglese di questa storia, ma piu' semplice possibile? Specificamente, qualcosa adatto da mostrare ad associazioni di GENITORI che chiedono a sproposito a governi e piattaforme di "proteggere i nostri bambini" perche' non si rendono assolutamente conto di tutte le implicazioni? Grazie, Marco -- My last Substack: The problem with children online is...: https://mfioretti.substack.com/p/honestly-the-problem-with-children

June 10, 2023

Fwd: [LaQuadratureduNet] Que se passe-t-il au Garage ? #288 — Le chiffrement des communications est désormais suspect

by Andrea Trentini

(molti di voi saranno iscritti anche al newsfeed della Quadrature eh) Eccoci arrivati alla "criminalizzazaione degli strumenti"! -------- Forwarded Message -------- Subject: [LaQuadratureduNet] Que se passe-t-il au Garage ? #288 — Le chiffrement des communications est désormais suspect Date: Fri, 09 Jun 2023 18:07:49 +0200 From: Mathieu Labonde <ml(a)laquadrature.net> Organisation: La Quadrature du Net To: actu(a)laquadrature.net Au Garage cette semaine on milite et on chiffre nos échanges : on risque donc de passer pour un groupuscule terroriste. Alex, Bastien, Julie, Juliette, Marne, Mathieu, Myriam, Noémie et Nono Chiffrer ses communications, c'est désormais suspectL'affaire antiterroriste « du 8 décembre », beaucoup moins médiatisée que l'affaire « de Tarnac » en 2008, lui ressemble beaucoup : dans un cas vertigineux d'auto-intoxication policière, les agents et le parquet, à force de surinterpréter des signes, finissent par se convaincre de l'existence d'un complot terroriste. Les faits sont racontés par exemple dans cet entretien avec l'un des 7 personnes inculpées qui seront jugées en octobre 2023 : https://lundi.am/Affaire-du-8-decembre-recit-d-une-mise-en-examen-pour-asso… . Mais ce qui a plus spécialement attiré notre attention dans le dossier d'instruction, c'est l’insistance avec laquelle les enquêteurs reviennent sur le fait que les inculpé·es chiffrent leurs communications numériques. Utiliser sur un smartphone un système d'exploitation libéré de Google (/e/OS), utiliser sur un PC un système d'exploitation chiffré (Tails), naviguer sur le Web avec un navigateur chiffré et anonyme (Tor), et même utiliser une messagerie instantanée chiffrée (Signal), sont pour les policiers de l'antiterrorisme des signes certains que vous avez la « volonté de vivre dans la clandestinité » et que vous avez forcément quelque chose de très grave à cacher... L'histoire donnerait envie de rire si elle n'était pas dramatique : depuis trois ans déjà, 7 personnes vivent au quotidien sous la pression de la police antiterroriste, avec la suspicion et la surveillance constante que cela entraîne, le harcèlement des proches, l'épuisement mental et les convocations incessantes. Par ailleurs, le chiffrement des communications est un droit et un besoin. Dans une société qui transforme en crime le désir de protéger son intimité, plus personne n'est en sécurité. Tout le monde a déjà entendu (ou même prononcé) la célèbre formule des personnes que la surveillance (des autres) ne dérange pas : « Je n'ai rien à cacher ». Cette banalité a surtout un envers très inquiétant : si vous voulez cacher quelque chose, alors on peut vous le reprocher. Ce cauchemar kafkaïen, la police française le fait vivre aujourd'hui à 7 personnes, n'attendons pas d'être 68 millions. Lire l'article : https://www.laquadrature.net/2023/06/05/affaire-du-8-decembre-le-chiffremen… La Quadrature dans les médiasLoi Justice et mouchards * Des téléphones bientôt transformés en mouchard avec la loi justice ? La Quadrature du Net donne l’alerte — https://www.liberation.fr/economie/economie-numerique/des- telephones-bientot-transformes-en-mouchard-avec-la-loi-justice-la- quadrature-du-net-donne-lalerte- 20230531_DYFRSZX4MFGMJHDZPJEO2HJGWU/ [Libération] * Les téléphones mouchards de la police ? La Quadrature du Net s’inquiète — https://www.sudouest.fr/les-telephones-mouchards-de-la- police-la-quadrature-du-net-s-inquiete-15395640.php [Sud-Ouest] * La Loi Justice va transformer nos smartphones en appareils espion d’après la Quadrature du net — https://www.phonandroid.com/la-loi- justice-va-transformer-nos-smartphones-en-appareils-espion-dapres- la-quadrature-du-net.html[Phonandroid.com] * Budget en « hausse », recrutements « massifs »... La réforme pour une justice « plus rapide » arrive au Sénat — https://www.lefigaro.fr/actualite-france/budget-en-hausse- recrutements-massifs-la-reforme-pour-une-justice-plus-rapide-arrive- au-senat-20230606 [Le Figaro] Divers * JO 2024 et Coupe du monde de rugby : vidéosurveillance généralisée dans 129 gares d'Auvergne Rhône Alpes — https://france3- regions.francetvinfo.fr/auvergne-rhone-alpes/rhone/lyon/jo-2024-et- coupe-du-monde-de-rugby-videosurveillance-generalisee-dans-129- gares-d-auvergne-rhone-alpes-2786342.html [France 3 Auvergne Rhône- Alpes] Agenda * 16 juin : « Covid-19 et libertés numériques : quel bilan après 3 ans de pandémie ? » - conférence de la Quadrature à Pas Sage En Seine - plus d'infos sur : https://passageenseine.fr/. * 22 juin : Apéro public dans nos locaux (115 rue de Ménilmontant, 75020 Paris) à partir de 19h. * 15 au 19 août :La Quadrature sera au Chaos Computer Camp, au Ziegeleipark Mildenberg à Berlin (Allemagne). * 24 au 27 août : La Quadrature du Net sera au Hadra Trance Festival, aux côtés de Framasoft, Picasoft, Exarius et Linux07 - Plan d'eau de Vieure, Allier (France). plus d'infos sur : https://hadratrancefestival.net/fr/. Retrouvez les archives : https://wiki.laquadrature.net/QSPTAG Datalove <3

June 9, 2023

"...bulimia informativa e di controllo..." made in UE [Was: La Francia, sempre all'avanguardia...]

by Damiano Verzulli

Il 09/06/23 12:09, Carlo Blengino ha scritto: > [...] > per ora, ciò che più irrita il potere profondo degli Stati nella > democratica UE è che non riescono a saziare la bulimia informativa e > di controllo che li affligge [...] Lo scenario sotteso da affermazioni di questo genere, mi lascia sempre molto perplesso: - da un lato, se gli Stati EU fossero realmente "bulimici" *E*, contemporaneamente, volessero realmente saziare la propria info-bulimia... non capisco perché non solo non lo facciano.... ma non mostrano neanche il minimo segno di tale volonta' [*]. Anzi. Sono molteplici i segnali che vanno in direzione contraria (aumentare il potere tecnologico delle big-tech, affidando loro fette costantemente crescenti di infrastrutture di gestione dei dati); - dall'altro, se la mancanza di azione di cui al punto precedente fosse da ricondurre ad una incapacita' di inquadrare il problema dal versante tecnologico, allora vorrebbe dire che siamo in mano (politicamente) a degli "assolutamente incapaci" (in termini di "strategia evolutiva digitale") e, quindi, "pericolosi" (per la sopravvivenza di un comparto IT Europeo). Tendo a credere piu' alla prima opzione, che alla seconda. Ossia gli Stati "inquadrano" il problema, ma, _SCIENTEMENTE_, decidono di continuare nell'azione pro-Big-tech (sul piano tecnologico), limitandosi a (far finta di...) contrastarla sul piano amministrativo. È per questo che, in generale, sono in disaccordo con la posizione sottolineata da Blengino, nel tratto che ho quotato. Bye, DV [*] da "tecnico", mi vengono in mente *DECINE* di iniziative che, concretamente, mostrerebbero un cambio di rotta.... La prima delle quali sarebbe quella di "finanziare" la creazione di una versione di Android "Europea", da attivare su terminali fatti creare a Shenzen, ma con un rilevante controllo "hardware" da parte del committente (es.: no bootloader cifrato e specifiche hardware "note" e, quindi, possibilita' concreta e reale di gestirne un buon 99% della pila software). -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

June 9, 2023

Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by Carlo Blengino

Beh, risolverebbe molti problemi legati all'utilizzo "legale" dei Trojan (in primis il mercato delle vulnerabilità ed il sottobosco delle imprese di "difesa attiva" che minano la sicurezza della rete): di fatto legalizziamo l'uso dei Trojan di Stato utilizzando quelli già installati by default negli applicativi e negli oggetti connessi, imponendo, così mi pare di capire dal tuo messaggio, la collaborazione dei fornitori dei servizi.. E' orrendo, sia chiaro, ma non è affatto inedito: le Telco, che agiscono in concessione e sono stabilite ex lege nei vari paesi e spesso sono controllate dagli Stati stessi, da sempre "collaborano" con ogni sorta di agenzia statuale dando accesso a comunicazioni e dati e fin anche prestando le loro reti e i loro servizi per infettare (via sms/mms).Tutto legalmente eh, seppure opacamente, in UE!. E non è solo questione di "comunicazioni" in cui il limite costituzionale della riservatezza è, almeno formalmente, ancora forte (in IT art.15 Cost), ma di qualsivoglia dato. Telepass, che consente un tracciamento da sempre molto invasivo (e che non a caso si sta arricchendo di mille servizi "traccianti") una volta aveva i suoi server presso la Polizia di Stato in Toscana! (Seguii personalmente una delirante causa in cui sanzionarono amministrativamente per milioni di euro le agenzie di trasporto per violazione degli orari di giuda -vedi la visione double face, lì tutelavano i lavoratori ;)- grazie all'acquisizione ed elaborazione di interi dataset di passaggi telepass, acquisiti senza alcun ordine giudiziale: li aveva la polizia by default! Oggi dopo quella vicenda e il Codice Privacy, non è più così, ma....). Ciò che, con la ditificazione delle nostre vite, ha salvato e permesso di mantenere un barlume di efficacia all'art. 8 CEDU in europa è stata solo in questi anni la deprecata e deminizzata dominanza delle BigTech Usa, degli over the top, che grazie a Dio erano Americane e se ne sono sempre fregate delle richieste di collaborazione degli stati esteri, delle varie procure e dell'intelligence (salve ovviamente le collaborazioni con la "loro" NSA), un pò per necessità essendo servizi globali e un pò perchè comunque, al di là della deminizzazione a la Tesio, nei confronti degli altri, la privacy degli utenti la difendono (come difendono il loro patrimonio informativo). Dunque, non so se ho capito correttamente dal tuo messaggio la novità dell'art.3 approvato, ma se è quello di ottenere legalmente la collaborazione dei fornitori di servizi e device fruendo dell'invasività delle loro applicazioni, per ora e per fortuna, la vedo dura con i servizi extra Ue e soprattutto con quelli americani, che hanno geneticamente una bassissima protezione del dato personale (e faticano a rispettare la legislazione UE a protezione del dato), ma una fortissima tutela della riservatezza e della privacy, assai più tutelante nei confronti delle ingerenze del potere statuale di quanto accada in UE. Non ho mai sentito di cause di imprese UE per resistere a ordini di collaborazione dei loro Stati, ne abbiamo viste in U.S. Se gli scandali degli anni passati sono tutti nati in US non è perchè qui le varie agenzie statuali sono più buone e rispettose della vita privata dei loro cittadini, ma solo perchè qui le agenzie non riescono a fare ciò che vorrebbero perchè non hanno potere sulle BigTech. Almeno fino ad ora. Le massacriamo con sanzioni (tutte meritate, non fraintendete!) le obblighiamo a trasparenza (evviva! davvero!) ma per ora, ciò che più irrita il potere profondo degli Stati nella democratica UE è che non riescono a saziare la bulimia informativa e di controllo che li affligge (sempre per ottime e spesso inesistenti ragioni di sicurezza nazionale!) Non c'è nulla da fare, la privacy è anche una questione di prossimità, e di prossimità al potere. Sono tutte riflessioni che mi sorgono quando sento parlare di "sovranità digitale": per ora (e il futuro delle nostre democrazie non è roseo), Dio ce ne scampi. Ad Majora CB Il giorno ven 9 giu 2023 alle ore 09:51 Antonio Casilli < antonio.casilli(a)telecom-paris.fr> ha scritto: > Dear all, > > La sera del 7 giugno 2023, il Senato francese ha approvato in prima > lettura l'articolo numero 3 del nuovo progetto di legge di programmazione > sulla "giustizia" (le virgolette sono di rigore). Questa misura, fortemente > voluta dal ministro dell'interno Gérald Darmanin, permette ai giudici di > decidere l'attivazione a distanza dei dispositivi elettronici per > registrare video e audio senza il consenso del proprietario di smartphone, > tablet ecc. > https://www.publicsenat.fr/actualites/politique/justice-le-senat-autorise-l… > > Come spesso accade quando vengono proposte nuove leggi liberticide, nelle > "democrazie" occidentali le giustificazioni di base sono la protezione > dell'infanzia o la lotta contro il terrorismo. In questo caso, si applica > la seconda scusa. Quello che preoccupa è la probabile estensione di questa > misura ad altri ambiti al di fuori del terrorismo. > > È importante sottolineare che questa legge non nasce in un vuoto > tecnologico. Al contrario, si inserisce in un contesto segnato da una serie > di scandali e abusi legati alla monitoraggio abusivo degli utilizzatori da > parte delle aziende della tech nel contesto del loro modello di business. > Prima delle rivelazioni del 2023 dei dipendenti di Tesla che hanno spiato i > loro clienti attraverso le telecamere delle auto, e prima delle violazioni > di sicurezza della videocitofono connesso Amazon Ring, diversi scandali > hanno rivelato la propensione delle grandi aziende tecnologiche a invadere > l'intimità dei loro utenti. > > Queste rivelazioni sono strettamente legate alla Francia e al lavoro dei > nostri ricercatori del DiPLab (diplab.eu). Con l'aiuto di diverse ONG > come La Quadrature du Net e la Maison des Lanceurs d'Alerte, abbiamo > aiutato dei whistleblower a raccontare la loro esperienza come "ascoltatori > a distanza" per le grandi aziende tecnologiche. Ad esempio, Julie, che già > nel 2018 aveva raccontato di aver trascritto conversazioni nell'ambito > dell'attività di una piattaforma di micro-lavoro chiamata Pactera, dove > Cortana (Microsoft) esternalizzava questo tipo di lavoro. La sua > testimonianza è presentata qui > https://www.laquadrature.net/2018/05/18/temoin_cortana/ ed è state > analizzata e discussa nel nostro rapporto DiPLab 'Il micro-lavoro in > Francia' (2019): https://hal-sciencespo.archives-ouvertes.fr/hal-03579349. > > > Altri casi sono discussi nel nostro saggio "Human Listeners", pubblicato > da MIT Press nel 2022 e disponibile in open access: > https://direct.mit.edu/books/oa-edited-volume/5319/chapter/3800161/Human-Li… > . L'attivazione dei microfoni per spiare gli utenti non è un bug, ma una > feature dei prodotti digitali contemporanei. È "necessaria per migliorare > la qualità" delle soluzioni di intelligenza artificiale ed è strettamente > legata al funzionamento e ai modelli di business delle grandi piattaforme. > Ogni volta che un'azienda sviluppa un assistente vocale o un'altra > tecnologia basata sulla voce (o sull'immagine), deve assicurarsi che l'IA > interpreti correttamente ciò che gli utilizzatori dicono (o fanno). Chi > verifica le prestazioni dell'IA confrontando le registrazioni audio reali > delle conversazioni degli utenti (o i video e le immagini)? Dei > micro-lavoratori umani, mal retribuiti e precari, che ascoltano e osservano > conversazioni private senza che gli utenti ne siano consapevoli (siccome il > microfono e le telecamere "hanno tendenza ad accendersi", a volte per > errore, a volte in modo *molto* intenzionale). Naturalmente, nell'articolo > spieghiamo che questo tipo di lavoro viene svolto da persone mal pagate, > con scarso potere decisionale e poche alternative, ad eccezione della > scelta di abbandonare il sistema e diventare whistleblower, cosa sempre più > difficile. > > Un caso particolare è rappresentato appunto da un whistleblower che > abbiamo intervistato nel nostro documentario "Invisibles" (2020) (la sua > intervista, doppiata in inglese, è disponibile qui: > https://youtu.be/sFCI3s4tNL8?t=1769) Il whistleblower in questione si > chiama Thomas Le Bonniec, e successivamente ha lanciato una campagna contro > Apple ed è stato presentato su diversi media internazionali, dal Guardian a > Bloomberg. > > Di fronte a queste rivelazioni, che hanno colpito specificamente i > cittadini francesi, cosa ha fatto il governo di Macron? Ha istituito una > commissione speciale come per il Congresso americano? Ha avviato audizioni > parlamentari come nel Regno Unito? No, non hanno fatto nulla. Peggio > ancora, ora vogliono sfruttare questa funzionalità, non per migliorare > l'IA, ma con l'obiettivo dichiarato di mettere in atto un piano distopico > di sorveglianza. > > Il punto chiave di questo (lunghissimo) messaggio è il fatto che le > piattaforme creano l'infrastruttura tecnologica che i governi sfruttano in > seguito per la sorveglianza di massa a nome della legge. Questo era vero > nel 2013, quando Edward Snowden ha rivelato come la NSA utilizza i dati > raccolti da Apple, Microsoft, Meta, ecc., ed è ancora vero dieci anni dopo, > come dimostra il nostro lavoro con i whistleblowers francesi. Senza la > necessità per le piattaforme di utilizzare costantemente microfoni e > telecamere per raccogliere dati per l'IA, non ci sarebbe la necessità di > una registrazione continua, una possibilità che il governo di Macron vuole > attualmente sfruttare. Se questa proposta di legge venisse adottata senza > eliminare o emendare l'articolo 3, la nostra privacy sarebbe ancora più > malmenata. L'eredità del governo Macron, malgrado la sua immagine di > presidente moderato, è fatta di repressione dei migranti, di violazione dei > diritti umani, di decine di persone mutilate o gravemente ferite dalla > polizia durante le manifestazioni, la degradazione del sistema di > protezione sociale, l'indebolimento del sistema parlamentare. Non possiamo > permettere che compia un ennesimo passo pericoloso verso l'autoritarismo. > > Antonio > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

June 9, 2023

Re: [nexa] La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by Marco A. Calamari

On ven, 2023-06-09 at 09:51 +0200, Antonio Casilli wrote: > Dear all, > > La sera del 7 giugno 2023, il Senato francese ha approvato in prima lettura > l'articolo numero 3 del nuovo progetto di legge di programmazione sulla > "giustizia" (le virgolette sono di rigore). Questa misura, fortemente voluta > dal ministro dell'interno Gérald Darmanin, permette ai giudici di decidere > l'attivazione a distanza dei dispositivi elettronici per registrare video e > audio senza il consenso del proprietario di smartphone, tablet ecc. > https://www.publicsenat.fr/actualites/politique/justice-le-senat-autorise-l… > > Come spesso accade quando vengono proposte nuove leggi liberticide, nelle > "democrazie" occidentali le giustificazioni di base sono la protezione > dell'infanzia o la lotta contro il terrorismo. In questo caso, si applica la > seconda scusa. Quello che preoccupa è la probabile estensione di questa misura > ad altri ambiti al di fuori del terrorismo. Se a qualcuno interessa, un recap d'antan ... https://www.punto-informatico.it/il-dizionario-di-cassandra-pedoterrosatani… > > È importante sottolineare che questa legge non nasce in un vuoto tecnologico. > Al contrario, si inserisce in un contesto segnato da una serie di scandali e > abusi legati alla monitoraggio abusivo degli utilizzatori da parte delle > aziende della tech nel contesto del loro modello di business. Prima delle > rivelazioni del 2023 dei dipendenti di Tesla che hanno spiato i loro clienti > attraverso le telecamere delle auto, e prima delle violazioni di sicurezza > della videocitofono connesso Amazon Ring, diversi scandali hanno rivelato la > propensione delle grandi aziende tecnologiche a invadere l'intimità dei loro > utenti. > > Queste rivelazioni sono strettamente legate alla Francia e al lavoro dei > nostri ricercatori del DiPLab (diplab.eu). Con l'aiuto di diverse ONG come La > Quadrature du Net e la Maison des Lanceurs d'Alerte, abbiamo aiutato dei > whistleblower a raccontare la loro esperienza come "ascoltatori a distanza" > per le grandi aziende tecnologiche. Ad esempio, Julie, che già nel 2018 aveva > raccontato di aver trascritto conversazioni nell'ambito dell'attività di una > piattaforma di micro-lavoro chiamata Pactera, dove Cortana (Microsoft) > esternalizzava questo tipo di lavoro. La sua testimonianza è presentata qui > https://www.laquadrature.net/2018/05/18/temoin_cortana/ ed è state analizzata > e discussa nel nostro rapporto DiPLab 'Il micro-lavoro in Francia' (2019): > https://hal-sciencespo.archives-ouvertes.fr/hal-03579349. > > Altri casi sono discussi nel nostro saggio "Human Listeners", pubblicato da > MIT Press nel 2022 e disponibile in open access: > https://direct.mit.edu/books/oa-edited-volume/5319/chapter/3800161/Human-Li… > . L'attivazione dei microfoni per spiare gli utenti non è un bug, ma una > feature dei prodotti digitali contemporanei. È "necessaria per migliorare la > qualità" delle soluzioni di intelligenza artificiale ed è strettamente legata > al funzionamento e ai modelli di business delle grandi piattaforme. Ogni volta > che un'azienda sviluppa un assistente vocale o un'altra tecnologia basata > sulla voce (o sull'immagine), deve assicurarsi che l'IA interpreti > correttamente ciò che gli utilizzatori dicono (o fanno). Chi verifica le > prestazioni dell'IA confrontando le registrazioni audio reali delle > conversazioni degli utenti (o i video e le immagini)? Dei micro-lavoratori > umani, mal retribuiti e precari, che ascoltano e osservano conversazioni > private senza che gli utenti ne siano consapevoli (siccome il microfono e le > telecamere "hanno tendenza ad accendersi", a volte per errore, a volte in modo > *molto* intenzionale). Naturalmente, nell'articolo spieghiamo che questo tipo > di lavoro viene svolto da persone mal pagate, con scarso potere decisionale e > poche alternative, ad eccezione della scelta di abbandonare il sistema e > diventare whistleblower, cosa sempre più difficile. > > Un caso particolare è rappresentato appunto da un whistleblower che abbiamo > intervistato nel nostro documentario "Invisibles" (2020) (la sua intervista, > doppiata in inglese, è disponibile qui: https://youtu.be/sFCI3s4tNL8?t=1769) > Il whistleblower in questione si chiama Thomas Le Bonniec, e successivamente > ha lanciato una campagna contro Apple ed è stato presentato su diversi media > internazionali, dal Guardian a Bloomberg. > > Di fronte a queste rivelazioni, che hanno colpito specificamente i cittadini > francesi, cosa ha fatto il governo di Macron? Ha istituito una commissione > speciale come per il Congresso americano? Ha avviato audizioni parlamentari > come nel Regno Unito? No, non hanno fatto nulla. Peggio ancora, ora vogliono > sfruttare questa funzionalità, non per migliorare l'IA, ma con l'obiettivo > dichiarato di mettere in atto un piano distopico di sorveglianza. > > Il punto chiave di questo (lunghissimo) messaggio è il fatto che le > piattaforme creano l'infrastruttura tecnologica che i governi sfruttano in > seguito per la sorveglianza di massa a nome della legge. Questo era vero nel > 2013, quando Edward Snowden ha rivelato come la NSA utilizza i dati raccolti > da Apple, Microsoft, Meta, ecc., ed è ancora vero dieci anni dopo, come > dimostra il nostro lavoro con i whistleblowers francesi. Senza la necessità > per le piattaforme di utilizzare costantemente microfoni e telecamere per > raccogliere dati per l'IA, non ci sarebbe la necessità di una registrazione > continua, una possibilità che il governo di Macron vuole attualmente > sfruttare. Se questa proposta di legge venisse adottata senza eliminare o > emendare l'articolo 3, la nostra privacy sarebbe ancora più malmenata. > L'eredità del governo Macron, malgrado la sua immagine di presidente moderato, > è fatta di repressione dei migranti, di violazione dei diritti umani, di > decine di persone mutilate o gravemente ferite dalla polizia durante le > manifestazioni, la degradazione del sistema di protezione sociale, > l'indebolimento del sistema parlamentare. Non possiamo permettere che compia > un ennesimo passo pericoloso verso l'autoritarismo. > > Antonio > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

June 9, 2023

La Francia, sempre all'avanguardia nella distopia, legalizza l'attivazione a distanza dei microfoni degli smartphone

by Antonio Casilli

Dear all, La sera del 7 giugno 2023, il Senato francese ha approvato in prima lettura l'articolo numero 3 del nuovo progetto di legge di programmazione sulla "giustizia" (le virgolette sono di rigore). Questa misura, fortemente voluta dal ministro dell'interno Gérald Darmanin, permette ai giudici di decidere l'attivazione a distanza dei dispositivi elettronici per registrare video e audio senza il consenso del proprietario di smartphone, tablet ecc. https://www.publicsenat.fr/actualites/politique/justice-le-senat-autorise-l… Come spesso accade quando vengono proposte nuove leggi liberticide, nelle "democrazie" occidentali le giustificazioni di base sono la protezione dell'infanzia o la lotta contro il terrorismo. In questo caso, si applica la seconda scusa. Quello che preoccupa è la probabile estensione di questa misura ad altri ambiti al di fuori del terrorismo. È importante sottolineare che questa legge non nasce in un vuoto tecnologico. Al contrario, si inserisce in un contesto segnato da una serie di scandali e abusi legati alla monitoraggio abusivo degli utilizzatori da parte delle aziende della tech nel contesto del loro modello di business. Prima delle rivelazioni del 2023 dei dipendenti di Tesla che hanno spiato i loro clienti attraverso le telecamere delle auto, e prima delle violazioni di sicurezza della videocitofono connesso Amazon Ring, diversi scandali hanno rivelato la propensione delle grandi aziende tecnologiche a invadere l'intimità dei loro utenti. Queste rivelazioni sono strettamente legate alla Francia e al lavoro dei nostri ricercatori del DiPLab (diplab.eu). Con l'aiuto di diverse ONG come La Quadrature du Net e la Maison des Lanceurs d'Alerte, abbiamo aiutato dei whistleblower a raccontare la loro esperienza come "ascoltatori a distanza" per le grandi aziende tecnologiche. Ad esempio, Julie, che già nel 2018 aveva raccontato di aver trascritto conversazioni nell'ambito dell'attività di una piattaforma di micro-lavoro chiamata Pactera, dove Cortana (Microsoft) esternalizzava questo tipo di lavoro. La sua testimonianza è presentata qui https://www.laquadrature.net/2018/05/18/temoin_cortana/ ed è state analizzata e discussa nel nostro rapporto DiPLab 'Il micro-lavoro in Francia' (2019): https://hal-sciencespo.archives-ouvertes.fr/hal-03579349. Altri casi sono discussi nel nostro saggio "Human Listeners", pubblicato da MIT Press nel 2022 e disponibile in open access: https://direct.mit.edu/books/oa-edited-volume/5319/chapter/3800161/Human-Li… . L'attivazione dei microfoni per spiare gli utenti non è un bug, ma una feature dei prodotti digitali contemporanei. È "necessaria per migliorare la qualità" delle soluzioni di intelligenza artificiale ed è strettamente legata al funzionamento e ai modelli di business delle grandi piattaforme. Ogni volta che un'azienda sviluppa un assistente vocale o un'altra tecnologia basata sulla voce (o sull'immagine), deve assicurarsi che l'IA interpreti correttamente ciò che gli utilizzatori dicono (o fanno). Chi verifica le prestazioni dell'IA confrontando le registrazioni audio reali delle conversazioni degli utenti (o i video e le immagini)? Dei micro-lavoratori umani, mal retribuiti e precari, che ascoltano e osservano conversazioni private senza che gli utenti ne siano consapevoli (siccome il microfono e le telecamere "hanno tendenza ad accendersi", a volte per errore, a volte in modo *molto* intenzionale). Naturalmente, nell'articolo spieghiamo che questo tipo di lavoro viene svolto da persone mal pagate, con scarso potere decisionale e poche alternative, ad eccezione della scelta di abbandonare il sistema e diventare whistleblower, cosa sempre più difficile. Un caso particolare è rappresentato appunto da un whistleblower che abbiamo intervistato nel nostro documentario "Invisibles" (2020) (la sua intervista, doppiata in inglese, è disponibile qui: https://youtu.be/sFCI3s4tNL8?t=1769) Il whistleblower in questione si chiama Thomas Le Bonniec, e successivamente ha lanciato una campagna contro Apple ed è stato presentato su diversi media internazionali, dal Guardian a Bloomberg. Di fronte a queste rivelazioni, che hanno colpito specificamente i cittadini francesi, cosa ha fatto il governo di Macron? Ha istituito una commissione speciale come per il Congresso americano? Ha avviato audizioni parlamentari come nel Regno Unito? No, non hanno fatto nulla. Peggio ancora, ora vogliono sfruttare questa funzionalità, non per migliorare l'IA, ma con l'obiettivo dichiarato di mettere in atto un piano distopico di sorveglianza. Il punto chiave di questo (lunghissimo) messaggio è il fatto che le piattaforme creano l'infrastruttura tecnologica che i governi sfruttano in seguito per la sorveglianza di massa a nome della legge. Questo era vero nel 2013, quando Edward Snowden ha rivelato come la NSA utilizza i dati raccolti da Apple, Microsoft, Meta, ecc., ed è ancora vero dieci anni dopo, come dimostra il nostro lavoro con i whistleblowers francesi. Senza la necessità per le piattaforme di utilizzare costantemente microfoni e telecamere per raccogliere dati per l'IA, non ci sarebbe la necessità di una registrazione continua, una possibilità che il governo di Macron vuole attualmente sfruttare. Se questa proposta di legge venisse adottata senza eliminare o emendare l'articolo 3, la nostra privacy sarebbe ancora più malmenata. L'eredità del governo Macron, malgrado la sua immagine di presidente moderato, è fatta di repressione dei migranti, di violazione dei diritti umani, di decine di persone mutilate o gravemente ferite dalla polizia durante le manifestazioni, la degradazione del sistema di protezione sociale, l'indebolimento del sistema parlamentare. Non possiamo permettere che compia un ennesimo passo pericoloso verso l'autoritarismo. Antonio

June 9, 2023