- nexa - server-nexa.polito.it

Communication in a world of pervasive surveillance
by Giacomo Tesio Sept. 25, 2022

Sept. 25, 2022

This thesis is the culmination of more than a decade of research into the topic of surveil- lance and the uses of data collected through surveillance. The research that follows in- cludes discussions with insiders and analysis of both previously published and unpub- lished information. We still lack full information on many topics, notably the names of perpetrators. This has several causes: the nature of the topics covered, the legally threat- ening markings on many documents, and the political power of those who would suppress publication. There can be considerable personal consequences for following this direc- tion of research. Several colleagues face serious legal, political, social, and health issues resulting from their participation in, and contributions to, this research topic. Many aspects of this research started as investigative journalism rather than science. Documents first published by news organizations under the byline of the author of this thesis are reproduced here in full and credited appropriately. Sensitive, classified, or otherwise secret internal documents are provided to ensure that their content is witnessed firsthand, to make them freely accessible on the Internet and in libraries, and to ensure that they are not erased from history. The perspective in this thesis is necessarily dominated by the United States of America, whose activities impact nearly every person on planet Earth. The focus on America is deeply political: it is the moral duty of every citizen of the United States to address serious faults in policy and to assist in the process of accountability. Democratic discussion covering technical and non-technical topics of various government or corporate activities is important and necessary. The evidence and findings discussed in this thesis touch on myriad controversial issues ranging from political spying on world leaders to drone assassination of human beings who faced no legal charges and are afforded no day in court. The sheer number of the surveillance systems that we document in subsequent chap- ters reflects the industrial scale of data collection in the twenty-first century. We hope that future researchers will take up the challenge of addressing each covert program as a research subject to fully and completely explore, and to freely share their findings with the wider world in the spirit of open academic discussion. This kind of basic research is crucial to anti-surveillance software and hardware development. One example is the gen- eral idea of the mixnet, an anonymity mechanism designed to withstand very powerful adversaries who possess a long memory. How might the evolution of mixnets be shaped by understanding the concrete systems that attack privacy and anonymity infrastructure? Researchers may even feel inspired to build their own countermeasures, and perhaps full solutions, that encompass more than the purely technical. We offer several examples of such solutions in the chapters that follow. By applying mathematics and computer science to build countermeasures to surveillance systems, we can protect people individually and at scale, reducing these systems to historical footnotes. Mass surveillance programs present a temptation so great that even very intelligent people imagine the trade-offs to be worthwhile. Many people cannot imagine a future in which their government is blatantly corrupt, or has indeed collapsed. Yet history teaches unambiguously that such changes may come quickly, unexpectedly, and those who seek to exploit the entropic nature of the situation will use all technical, social, economic, and political levers to accomplish their goals. This knowledge should, but often does not, temper support for mass surveillance; this is a blind spot that is not to be dismissed lightly. The machinery of mass surveillance is simply too dangerous to be allowed to exist. We must work to ensure that no one will be able to say that they did not know, or that they were not warned. We must use all of the tools in our toolbox – economic, social, cultural, political, and of course, cryptographic – to blind targeted and mass surveillance adversaries. The goal is justice [Pon11, "The method is transparency, the goal is justice."] and this thesis encourages a method of designing, building, deploying, and using crypto- graphic protocols centered around human liberty to ensure it Continua su https://pure.tue.nl/ws/portalfiles/portal/197416841/20220325_Appelbaum_hf.p… Giacomo

1 0

GAO Report - Nuclear Weapons Cybersecurity: NNSA Should Fully Implement Foundational Cybersecurity Risk Management Practices
by Diego.Latella Sept. 25, 2022

Sept. 25, 2022

GAO Report - Nuclear Weapons Cybersecurity: NNSA Should Fully Implement Foundational Cybersecurity Risk Management Practices _"The National Nuclear Security Administration (NNSA) is increasingly relying on advanced computers and integrating digital systems into weapons and manufacturing equipment. But, these systems could be hacked._ _Federal laws and policies suggest 6 key practices to set up a cybersecurity management program, such as assigning risk management responsibilities. However, NNSA and its contractors haven't fully implemented these practices._ _Additionally, NNSA and its contractors rely on subcontractors for services and equipment, but we found that oversight of subcontractors' cybersecurity was inconsistent. Our recommendations [1] address these issues."_ https://www.gao.gov/products/gao-22-104195?utm_campaign=usgao_email&utm_con… Diego -- Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it [2]) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: +390506212040 =================== The quest for a war-free world has a basic purpose: survival. But if in the process we learn how to achieve it by love rather than by fear, by kindness rather than compulsion; if in the process we learn how to combine the essential with the enjoyable, the expedient with the benevolent, the practical with the beautiful, this will be an extra incentive to embark on this great task. Above all, remember your humanity. -- Sir Joseph Rotblat I don't quite know whether it is especially computer science or its subdiscipline Artificial Intelligence that has such an enormous affection for euphemism. We speak so spectacularly and so readily of computer systems that understand, that see, decide, make judgments, and so on, without ourselves recognizing our own superficiality and immeasurable naivete with respect to these concepts. And, in the process of so speaking, we anesthetise our ability to evaluate the quality of our work and, what is more important, to identify and become conscious of its end use. […] One can't escape this state without asking, again and again: "What do I actually do? What is the final application and use of the products of my work?" and ultimately, "am I content or ashamed to have contributed to this use?" -- Prof. Joseph Weizenbaum ["Not without us", ACM SIGCAS 16(2-3) 2--7 - Aug. 1986] Links: ------ [1] https://www.gao.gov/product_recommendations/GAO-22-104195 [2] http://www.isti.cnr.it

1 0

Paper: "Surveillance agriculture and peasant autonomy"
by J.C. DE MARTIN Sept. 24, 2022

Sept. 24, 2022

*Surveillance agriculture and peasant autonomy** * Glenn Davis Stone First published: 05 January 2022 https://doi.org/10.1111/joac.12470 Abstract ‘Big Data’ digital technologies are beginning to make inroads into peasant agriculture in the Global South. Of particular importance is the subset of technologies that appropriate agricultural decision-making, here theorized as surveillance agriculture. These technological regimes aspire to not only remove decision-making from the farmer, but eventually to replace the farmer with, for instance, ‘autonomous’ tractors. This paper looks ahead to ask what a technological trajectory that aspires to autonomy for the tractor may portend for autonomy for the peasant farmer. It compares surveillance agriculture to other forms of surveillance capitalism, noting that it shares a will to not only sell products and services but to manipulate behaviour but differs in that the behaviour being manipulated is professional productive behaviour. The paper surveys the vested interests of the entities behind surveillance agriculture and asks how informational relations of production may be changed between farmers and these entities. It then examines the informational relations of production among peasant farmers that may be interdicted by surveillance agriculture, especially the group-level decision-making dynamics that make ‘individual autonomy’ a misnomer. But surveillance agriculture is resolutely individualized, which raises concerns for peasant decision-making autonomy.

2 1

20 anni di Creative COmmons
by Stefano Quintarelli Sept. 24, 2022

Sept. 24, 2022

Stasera alle 21 sui social dei Copernicani, Larry Lessig e JC De Martin dialogano in occasione del compleanno di Creative Commons (20 anni) ciao, s.

3 3

Nick Clegg to decide on Trump’s 2023 return to Instagram and Facebook | Donald Trump | The Guardian
by Alberto Cammozzo Sept. 24, 2022

Sept. 24, 2022

<https://www.theguardian.com/us-news/2022/sep/23/nick-clegg-trump-return-fac…> Nick Clegg, Meta’s president of global affairs, is charged with deciding whether Donald Trump will be allowed to return to Facebook and Instagram in 2023, Clegg said on Thursday. Speaking at an event held in Washington by news organization Semafor, Clegg said the company was seriously debating whether Trump’s accounts should be reinstated and said it was a decision that “I oversee and I drive”. Clegg added that while he will be making the final call, he will consult the CEO, Mark Zuckerberg, the Facebook board of directors and outside experts. “It’s not a capricious decision,” he said. “We will look at the signals related to real-world harm to make a decision whether at the two-year point – which is early January next year – whether Trump gets reinstated to the platform.” The former president was suspended from a number of online platforms, including those owned by Meta, following the 6 January 2021 Capitol riot during which Trump used his social media accounts to praise and perpetuate the violence. While Twitter banned Trump permanently, Meta suspended Trump’s accounts for two years, to be later re-evaluated. In May 2021, a temporary ban was upheld by Facebook’s oversight board – a group of appointed academics and former politicians meant to operate independently of Facebook’s corporate leadership. However, the board returned the final decision on Trump’s accounts to Meta, suggesting the company decide in six months whether to make the ban permanent. Clegg said that decision will be made by 7 January 2023. Clegg previously served as Britain’s deputy prime minister and joined Facebook as vice‑president for global affairs and communications in 2018. In February, he was promoted to the top company policy executive role. In the years since he began at Meta, Clegg has seen the company through a number of scandals, including scrutiny of its policies during the 2016 US presidential election, Facebook’s role in the persecution of the Rohingya in Myanmar, and the revelations made by whistleblower Frances Haugen.

1 0

OT - biopolitica: il prossimo sistema sanitario basato sul credito sociale?
by 380° Sept. 23, 2022

Sept. 23, 2022

Buongiorno, OT ma non troppo, forse. (è già passato in lista?) Sinceramente non sono andato a studiare la **brochure** del marketing politico di tutti i partiti, ma quello che secondo gli ultimi sondaggi è destinato ad avere la maggiornanza relativa alle imminenti elezioni, Fratelli d'Italia, scrive questo nella sua, punto 11 a pagina 19: https://www.fratelli-italia.it/wp-content/uploads/2022/08/Brochure_programm… --8<---------------cut here---------------start------------->8--- rafforzamento della medicina predittiva con un meccanismo di premialità nell’accesso al sistema sanitario per chi segue un regolare e concordato percorso di monitoraggio dello stato di salute. --8<---------------cut here---------------end--------------->8--- Per le persone distratte, evidenzio che si parla specificamente di medicina **predittiva**, che ha un significato /molto/ preciso: https://en.wikipedia.org/wiki/Predictive_medicine --8<---------------cut here---------------start------------->8--- Predictive medicine is a field of medicine that entails predicting the probability of disease and instituting preventive measures [...] allows for the estimation of disease risk years to decades before any disease even exists, or even whether a healthy fetus is at higher risk for developing a disease in adolescence or adulthood. Individuals who are more susceptible to disease in the future can be offered lifestyle advice or medication with the aim of preventing the predicted illness. --8<---------------cut here---------------end--------------->8--- La nostra salute fisica (la mente può anche andare in pappa, sono inevitabili "effetti collaterali") è quindi un prodotto /determinato/ da DNA, stile di vita e cure, il tutto basato su /modelli statistici/: per questo presto sarà un software AI (sintetizzato da atri, mica da noi) a /calcolare/ come comportarci per stare in salute... e /già oggi/ in questo campo siamo nel bel mezzo del https://nooscope.ai/ Quindi per essere sani dobbiamo far /amministrare/ ("regolare e concordato percorso") la nostra salute dal **governo**, che oltre che /monitorarci/ presumibilmente ci dirà anche come /dobbiamo/ curarci, altrimenti niente... **premialità**, perché i diritti sono vecchie cianfrusaglie del '900, inclusa l'autonomia dei medici e la libertà di cura delle persone. Ovviamente tutto sarà scientificamente e giuridicamente ineccepibile, come con il COVID-19; sono sicuro che un governo guidato da FdI saprà fare anche di meglio... e voglio vedere quale opposizione (in quale parlamento?!?) avrà il coraggio di contestare tali misure, dopo quello che abbiamo visto. Tecnologicamente è tutto pronto per supportare la biopolitica applicata. Maramao perché sei morto, pane e vin non ti mancava, l'insalata era nell'orto e una casa avevi tu... Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

2 1

IGM rilascia il database di sintesi nazionale in opendata
by Maurizio Napolitano Sept. 22, 2022

Sept. 22, 2022

Si tratta di una banca dati geografica composta da questi 9 temi Viabilità, mobilità e trasporti Immobili ed antropizzazioni Idrografia Orografia Vegetazione Reti di sottoservizi Località significative e scritte cartografiche Ambiti amministrativi Aree di pertinenza divisa per regioni e province e rilasciata in opendata in scala 1:25.000 Di fatto questo adempie alla richiesta del rilascio di dataset nazionali ad alto valore voluta dalla Commissione Europea con l'evoluzione della direttiva PSI. Si scarica qui https://www.igmi.org/it/dbsn-database-di-sintesi-nazionale (registrandosi) Dal mio punto di vista quello che colpisce maggiormente è questo testo presente nell'introduzione: ---- Per realizzare il DBSN, con l’obiettivo di elaborare dati sempre più completi ed aggiornati, si è fatto riferimento principalmente ai dati geotopografici regionali come fonte primaria di informazione. Nella fase iniziale del progetto sono stati raccolti i dati nella versione più aggiornata e si è operato una trasformazione di struttura per renderla omogenea a livello nazionale, mantenendo il livello di dettaglio originario. Successivamente si è provveduto all’integrazione con dati di Enti pubblici nazionali, ad esempio le mappe catastali dell’Agenzia delle Entrate, i dati dell’Istat, dati di altri Ministeri, considerando anche altre informazioni disponibili su web come i dati di OpenStreetMap (OSM). ---- Questo evidenzia che IGM - Istituto Geografico Militare ha lavorato per uniformare diverse banche dati e riconosce in OpenStreetMap una fonte autorevole al punto che si trova obbligato a rilasciare i dati in ODbL. ODbL è una licenza open data sconsigliata alle pubbliche amministrazioni in quanto è di tipo "share alike". Ulteriori considerazioni che porto qui in maniera disordinata: - IGM di fatto si prende il diritto di cambiare la licenza di tutte le fonti dati (che sono quasi tutte cc-by et simila) che ha utilizzato per creare questa nuova banca dati, ma si trova a dover usare la ODbL in quanto è l'unica sorgente da cui (suppongo) non può prendersi il diritto di cambio di licenza. (sbaglio?) - il rilascio in ODbL di una banca dati derivata da OpenStreetMap e miglorata permette agevolmente l'import in OpenStreetMap creando - potenzialmente - un circolo vizioso perchè i dati entrano in OSM, potenzialmente vengono migliorati/aggiornati e - potenzialmente - escono da OSM per tornare in IGM dove possono venire riutilizzati ancora - Per esperienza pregressa la maggior parte dei riutilizzatori di dati sono poco sensibili alle licenze e sono soliti fare tante violazioni. Mi chiedo come IGM gestirà la cosa. Cosa ne pensate? Grazie PS; ho fatto un blog post qui https://de.straba.us/openstreetmap-conquista-anche-listituto-geografico-mil… -- FBK - Fondazione Bruno Kessler Trento - Italy tel +39 0461 314341 https://osm.org/go/0CvouFIm6?m= http://dcl.fbk.eu -- -- Le informazioni contenute nella presente comunicazione sono di natura privata e come tali sono da considerarsi riservate ed indirizzate esclusivamente ai destinatari indicati e per le finalità strettamente legate al relativo contenuto. Se avete ricevuto questo messaggio per errore, vi preghiamo di eliminarlo e di inviare una comunicazione all’indirizzo e-mail del mittente. -- The information transmitted is intended only for the person or entity to which it is addressed and may contain confidential and/or privileged material. If you received this in error, please contact the sender and delete the material.

3 2

L'inquietante intelligenza artificiale che trova dove è stata scattata una foto Instagram
by don Luca Peyron Sept. 21, 2022

Sept. 21, 2022

Buona lettura dl https://www.wired.it/article/the-follower-ai-instagram/ _________________________ don Luca Peyron Direttore Ufficio per la Pastorale Universitaria Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

2 1

Regulating the Metaverse, a Blueprint for the Future
by don Luca Peyron Sept. 20, 2022

Sept. 20, 2022

Un articolo che ho trovato interessante, buona lettura dl https://www.researchgate.net/publication/362541437_Regulating_the_Metaverse… _________________________ don Luca Peyron Direttore Ufficio per la Pastorale Universitaria Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

1 0

Re: [nexa] Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...))
by 380° Sept. 20, 2022

Sept. 20, 2022

Buongiorno Marco, Marco Calamari <marcoc(a)marcoc.it> writes: > On lun, 2022-09-19 at 13:09 +0200, 380° wrote: >> >> l'AI propone, l'uomo dispone: la /decisione/ finale in merito al fatto >> che la determinazione (l'output) dell'AI sia sensato e debba essere >> seguito deve essere sempre dell'umano scusa ho usato male il termine decisione, intendevo /scelta/ alla Weizenbaum [1] [...] > Ammettiamo che funzioni, e quindi che ci sia un AI che prende una decisione > semplice, diciamo binaria, in modo che basti accendere una lampadina, > mettiamo rossa. sì grazie per averlo evidenziato: la decisione è binaria, la scelta no > Ci vuole poi l'uomo nella catena di comando no, forse mi sono spiegato male: non nella catena di comando, proprio al comando; non sto parlando di quelle povere persone chiamate "Ghost workers" [2] tra l'altro, chiunque voglia ridurre l'umano a un ingranaggio della "catena cibernetica" è un povero illuso; gli essere viventi trovano sempre modi molto creativi per /vendicarsi/, prima o poi :-D [...] > Ora, mettiamo che l'applicazione controlli una bussola per accedere > all'aeroporto, dotata di IA per identificare i terroristi e di inceneritore > incorporato per diminuirne il numero. non c'è bisogno di ipotizzare incidenti per comprendere quanto sostituire la razionalità umana con una AI (sottolineo di nuovo /narrow/) sia **mortifero**: https://incidentdatabase.ai per esempio, l'incident 3 https://incidentdatabase.ai/cite/3 relativo al famigerrimo MCAS (Maneuvering Characteristics Augmentation System) --8<---------------cut here---------------start------------->8--- Pilots struggled against the new system, which is designed to prevent a stall by automatically pushing the nose down. Tragically, on Flight 610 it was apparently triggered by a sensor delivering a false reading. There was no stall. --8<---------------cut here---------------end--------------->8--- (https://incidentdatabase.ai/cite/3#r375) il nocciolo della questione è che il Boeing 737 MAX aerodinamicamente non reggeva (era un 737 riadattato, anzi /disadattato/, per farla breve) e il rischio di stallo era altissimo; piuttosto che rifarlo hanno introdotto MCAS: c'è bisogno di aggiungere altro? ma sì vah, carichiamo: - https://incidentdatabase.ai/cite/11 «Northpointe Risk Models» --8<---------------cut here---------------start------------->8--- An algorithm developed by Northpointe and used in the penal system is two times more likely to incorrectly label a black person as a high-risk re-offender and is two times more likely to incorrectly label a white person as low-risk for reoffense according to a ProPublica review. --8<---------------cut here---------------end--------------->8--- - https://incidentdatabase.ai/cite/35 «Employee Automatically Terminated by Computer Program» --8<---------------cut here---------------start------------->8--- An employee was laid off and blocked from access to the building and computer systems at their employer without their knowledge. The employee, Ibrahim Diallo, attributes this error (the employee was brought back into the company once realized) to an artificially intelligent system deciding to fire him. It is also reported Diallo's manager had failed to renew Diallo's contract, which was terminated once a deadline to do so was missed. --8<---------------cut here---------------end--------------->8--- ...e come dimenticare il mitico Stanislov Petrov che il 26 Settembre 1983, senza bisogno di giocare a tik-tak-toe contro il supercomputer, riuscì a evitare un contrattacco nucleare: - https://incidentdatabase.ai/cite/27 «Nuclear False Alarm» --8<---------------cut here---------------start------------->8--- An alert of five incoming intercontinental ballistic missiles was properly identified as a false-positive by the Soviet Union operator Stanislov Petrov. --8<---------------cut here---------------end--------------->8--- Se all'epoca ci fosse stato direttamente un sistema di lancio direttamente controllato da AI cosa sarebbe successo? Sarebbe successo come a quei poveri piloti del Boeing 737 MAX con MCAS? In tutti i casi che ho citato sopra è facile notare come gli errori dipendono solo da una BANALE verità: la realtà artificiale è ESTREMAMENTE semplificata e **compressa** rispetto alla complessità della realtà naturale, QUINDI qualsiasi AI avrà sempre una visione parziale e /distorta/ di quello che /accade/ davvero. Anche gli umani, certo, sbagliano... ma l'errore umano è di diversi ordini di grandezza meno "abberrato" rispetto a quello di una AI, perché noi siamo naturalmente dotati di /intelligenza emotiva/ e libero arbitrio [...] > Nessuno è mai stato licenziato per aver dato retta alla luce rossa. Ho l'impressione di sì, invece ...comunque senza dubbio molti sono morti. > Morale: se un intelligenza artificiale deve essere usata per prendere > decisioni, deve poterlo fare in autonomia, senza quel "controllo umano" > che nella pratica, come tutti sanno o dovrebbero sapere, è un termine di > fantasia. non ho capito nulla > Ma ci deve essere una catena di comando/responsabilità reale, e la tracciabilità > delle decisioni dell'IA. stai scherzando vero? La "tracciabilità delle decisioni dell'IA" non esiste, una volta che passi la fase 2 di https://nooscope.ai/ (Learning Algorithm) il processo è IRREVERSIBILE detto in altro modo, dato il modello non è possibile ricavare l'algoritmo, i criteri di valutazione, l'ambiente di testing, gli iperparametri, i criteri di labeling... se per ciascun modello AI l'intero ambiente illustrato da nooscope.ai fosse pubblicato, si potrebbero analizzare e (ri)applicare - anche dopo ciascuna modifica in uno dei livelli - le consolidatissime tecniche ingegneristiche di analisi dei rischi (tipo FMEA) e informatiche di software testing ...ma non lo fosse > Lo so, è molto difficile da realizzare, ed ed è pure un pensiero eretico, ma > "l'uomo nella catena di comando" è una solo una pericolosa formula > autoassolutoria di marketing. ma infatti io sostengo: «l'AI propone, l'uomo dispone» (che poi intendo l'umano, neh!) potrei anche dire "solo l'uomo al comando" ma da lì a "solo un uomo al comando" il qui pro quo è un passo :-O Saluti, 380° [1] https://en.wikipedia.org/wiki/Computer_Power_and_Human_Reason [2] https://nooscope.ai/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

2 2