September 2022 - nexa - server-nexa.polito.it

Re: [nexa] 737Max e condanne (Was: Re: Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...)))

by 380°

Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> writes: > Condivido quanto dice Giuseppe evidenziando la criticità di sistemi > non solo tecnici, ma socio-tecnici e tecnico-industriali. Secondo me non esistono sistemi puramente tecnici (o pura tecnologia), anche i sistemi c.d. tecnici sono sempre frutto di processi culturali, sociali, politici, economici, industriali e.... informatici. Soprattutto per questo è sempre il caso che in ultima istanza sia l'umano a scegliere come /condurre/ "la macchina". [...] Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 30, 2022

Re: [nexa] Prompt injection attacks against GPT-3 (was A proposito di Intelligenza Artificiale (GPT-3 e dintorni...))

by 380°

Buongiorno, Giuseppe Attardi <attardi(a)di.unipi.it> writes: [...] > Ma siccome l’aereo era instabile, fu aggiunto un software per > controllarlo, il quale però, in certe situazioni mandava l’aereo in > stallo e in nose-dive. > I progettisti lo sapevano, e avevano aggiunto un bottone sulla > plancia, che i piloti potevano utilizzare per disabilitare il > software. > Ma per l’uso del bottone, occorreva che tutti i piloti si > sottoponessero a un percorso di training che sarebbe durato mesi. Conoscendo abbastanza bene la Direttiva Macchine 2006/42/CE (che credo comunque non si applichi agli aerei, sigh!) ogni volta che leggo "training per usare il bottone di emergenza" mi cascano le braccia: se in caso di incidente il produttore di un tornio CNC (o qualsiasi altra macchina) dicesse una cosa del genere in tribunale, sono quasi sicuro gli darebbero l'aggravante della copla grave --8<---------------cut here---------------start------------->8--- [...] La macchina deve essere munita di uno o più dispositivi di arresto di emergenza, che consentano di evitare situazioni di pericolo che rischino di prodursi nell'imminenza o che si stiano producendo. Il dispositivo deve: — comprendere dispositivi di comando chiaramente individuabili, ben visibili e rapidamente accessibili, — provocare l'arresto del processo pericoloso nel tempo più breve possibile, senza creare rischi supplementari, [...] La funzione di arresto di emergenza deve essere sempre disponibile e operativa a prescindere dalla modalità di funzionamento. I dispositivi di arresto di emergenza devono offrire soluzioni di riserva ad altre misure di protezione e non sostituirsi ad esse. --8<---------------cut here---------------end--------------->8--- (tratto da Art. 1.2.4.3. - Arresto di emergenza https://eur-lex.europa.eu/LexUriServ/LexUriServ.do?uri=OJ:L:2006:157:0024:0… ) MCAS, in questo caso, è "la macchina". [...] > 3. La tecnologia non può essere mai perfetta, la responsabilità del > suo uso rimane a chi sceglie di impiegarla Responsabilità che, in casi come questo, **deve** essere in capo ai /conduttori/ della macchina, non ai progettisti (spesso /ricattati/ dai CdA). Come ho detto, su questo fronte non c'è niente di nuovo da inventare, basterebbe applicare lo stato dell'arte delle conoscenze tecnico/giuridiche in materia, non c'è bisogno di ripercorrere da capo la storia dell'industrializzazione dalla catena di montaggio in poi "solo" perché c'è di mezzo un software che comanda un attuatore. [...] > 5. La certificazione non è sufficiente a garantire l’affidabilità di > un sistema: Boeing ha aggirato la FAA e comunque la FAA si sarebbe > affidata a informazioni fornite da Boeing Sul fatto che la certificazione è ampiamente sopravvalutata mi trovo più che d'accordo ... resta la curiosità di poter mettere il naso nel documento FMEA del progetto. > 6. Nessun software è verificabile, e non è solo una questione che > riguarda l’AI, su cui si concentra la discussione attuale Sì ma c'è modo e modo di non essere verificabile: un conto è (non poter assolutamente) verificare il binario (possiamo paragonare il software model ottenuto per mezzo di deep learning a un binario?) e altro conto è /approssimare asintoticamente/ la verifica del codice sorgente attraverso una o più tecniche di software testing https://en.wikipedia.org/wiki/Software_testing Poi sì, resta sempre il **non trascurabile** problema di come fare a verificare se le dipendenze del processo di build di un binario non introducano backdoors: su questo fronte direi che GNU Mes e l'intero progetto "bootstrappable builds" costituiscono finalmente (è dal 1984 che stiamo aspettanto!) una ottima soluzione. Infine, resta l'annoso problema del "Undefined behavior" di alcuni linguaggi di programmazione, tra cui il C, che è la causa del 80% di tutti i problemi di sicurezza del software. [...] Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 30, 2022

Re: [nexa] A proposito di Intelligenza Artificiale (GPT-3 e dintorni...)

by 380°

Buongiorno Giuseppe, Giuseppe Attardi <attardi(a)di.unipi.it> writes: > Interessante segnalazione. > Vorrei aggiungere un po’ di contesto. Grazie per aver meglio contestualizzato l'argomento del Language Modeling e dei Transformers [...] > I ricercatori si sono posti il problema di capire quante e quali > conoscenze siano in realtà incorporate in questi modelli ed è nato un > campo di investigazione chiamato BERTology (da BERT, il primo > transformer). Per favore qual'è a tuo giudizio il miglior BERTology paper? Io ho trovato questo che mi pare essere una meta-ricerca: https://arxiv.org/abs/2002.12327 «A Primer in BERTology: What we know about how BERT works» ma è del 2020 e in questo settore rischia di essere vecchia [...] > I LLM non hanno nessuna capacità di inferenza Immagino ti riferisca alla mancanza di una "forma di ragionamento con cui si dimostri il logico conseguire di una verità da un’altra" (cfr. https://www.treccani.it/vocabolario/inferenza) e non alla mancanza di capacità di inferenza statistica, sulla quale mi pare di aver capito che l'intera (narrow) AI si basa. > e i testi che producono o le risposte che gli si chiedano non sempre > hanno una qualche coerenza logica. Ma hanno una (im)perfetta coerenza inferenziale statistica, no? [...] > Nessuno è perfetto ma presentare esempi aneddotici di non perfetto > funzionamento della tecnologia è uno sport di bassa lega e che tende a > gettare discredito o a sminuire il valore di ricerche di altissimo > valore scientifico e di straordinaria rilevanza tecnologica. A me non pare affatto che i tre articoli di Simon Willison si limitino a "presentare esempi anedottici" ma cerchino di analizzare la natura del problema che Riley Goodside [1] et al hanno evidenziato (anzi hanno twittato :-( ) In particolare, nel terzo articolo intitolato «You can’t solve AI security problems with more AI» illustra abbastanza chiaramente, seppur senza entrare abbastanza nei dettagli scientifici *e* filosofici della quatione, la sua tesi: --8<---------------cut here---------------start------------->8--- I think the entire idea of using additional language model AIs to protect against injection attacks against language model AIs is fundamentally flawed. --8<---------------cut here---------------end--------------->8--- (https://simonwillison.net/2022/Sep/17/prompt-injection-more-ai/) Inoltre, nel primo articolo intitolato «Prompt injection attacks against GPT-3» nella sezione "Further Reading" cita questi due articoli (che ammetto di non aver letto, limitandomi agli abstract, per ora): 1. «Universal Adversarial Triggers for Attacking and Analyzing NLP» https://arxiv.org/abs/1908.07125 --8<---------------cut here---------------start------------->8--- Adversarial examples highlight model vulnerabilities and are useful for evaluation and interpretation. We define universal adversarial triggers: input-agnostic sequences of tokens that trigger a model to produce a specific prediction when concatenated to any input from a dataset. [...] --8<---------------cut here---------------end--------------->8--- 2. «Evaluating the Susceptibility of Pre-Trained Language Models via Handcrafted Adversarial Examples» https://arxiv.org/abs/2209.02128 --8<---------------cut here---------------start------------->8--- [...] evaluations of PLMs, in practice, have shown their susceptibility to adversarial attacks during the training and fine-tuning stages of development. [...] While existing research has focused on adversarial attacks during either the training or the fine-tuning of PLMs, there is a deficit of information on attacks made between these two development phases. In this work, we highlight a major security vulnerability in the public release of GPT-3 and further investigate this vulnerability in other state-of-the-art PLMs. [...] Following this approach, we observe a significant decrease in text classification quality when evaluating for semantic similarity. --8<---------------cut here---------------end--------------->8--- Comprendo quindi che si possano contestare, anche duramente, le tesi espresse ma faccio veramente fatica a comprendere come possano essere considerate "uno sport di bassa lega". [...] Saluti, 380° [1] che lavora come data scientist in https://www.copy.ai/ , un sistema di copywriting automatico -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 30, 2022

Re: [nexa] Convegno "Libertà di espressione al tempo dei social media" | 3 ottobre, ore 9.30

by Mauro Alovisio

Grazie molto interessante, segnalo la consultazione promossa da Agcom in materia di hate speech https://www.corrierecomunicazioni.it/media/hate-speech-agcom-avvia-la-consu… Cordiali saluti Mauro Il giorno gio 29 set 2022 alle ore 17:37 Nexa Media <media(a)nexa.polito.it> ha scritto: > Gentilissimi, > > > vi segnaliamo che *lunedì 3 ottobre*, dalle ore 9.30 alle ore 17.30, > presso il Palazzo Incontri a Firenze, Via dei Pucci 1 > <https://www.google.com/maps/place/Palazzo+Incontri/@43.7741849,11.2531111,1…> > , > si terrà il convegno organizzato dalla Fondazione CESIFIN Alberto Predieri: > *"Libertà di espressione al tempo dei social media"*. > > Interviene al convegno il co-direttore del Centro Nexa *Juan Carlos De > Martin*, > nel Panel IV *"Piattaforme & Algoritmi"*. > > Per maggiori informazioni sul programma completo del convegno e su come > partecipare > visita la pagina: https://nexa.polito.it/libert-espressione-socialmedia > > > Grazie per l'attenzione, > > Cordiali saluti, > > -- > > Anita Botta > Communication Manager > > Nexa Center for Internet & Society > Politecnico di Torino – DAUIN > Corso Duca degli Abruzzi, 24 - 10129 Torino > > web: https://nexa.polito.it/ > mail: anita.botta(a)polito.it > tel: 011 090 7219 > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Sept. 29, 2022

Re: [nexa] Sintesi di risultato MonitoraPA su Google Analytics + Fonts

by Giacomo Tesio

Ciao Carlo, grazie di questa interessantissima analisi: non osavo chiedere il tuo parere in merito, ma ero sinceramente curioso perché avevo intuito che sarebbe stato interessante. Mi scuso per il disagio che puoi aver provato sulla nostra chat: abbiamo avuto un problema con una serie di troll che sono riusciti, sfruttando la nostra indole libertaria ed aperta al confronto, ad avvelenare il clima. Non che su una chat frequentata da hacker il conflitto dialettico sia un problema: anzi lo riteniamo fondamentale per la produzione di nuove sintesi e di progresso culturale e sociale. Dunque se è il conflitto dialettico a produrre il tuo disagio, posso dispiacermene umanamente, ma non posso sedarlo. Viviamo in una società che stigmatizza il conflitto, ancorché dialettico e non violento, perché il conflitto può destabilizzare i rapporti di potere esistenti e migliorare la condizione di chi li subisce, talvolta inconsapevole. Tuttavia, a fronte dell'enorme perdita di tempo degli scorsi mesi, abbiamo adottato una moderazione più severa e posso dire che, dopo aver bannato due o tre account fake, il clima è nettamente migliorato. Non aiuta, naturalmente, sentirsi paragonare pubblicamente a "picchiatori" o a "squadristi", non aiuta leggere "inesattezze" sul nostro operato sottoscritte da persone che ne conoscono... l'inesattezza. Ma considerati i risultati ottenuti e gli interessi politici ed economici che abbiamo smosso, è oggettivamente inevitabile. D'altro canto, il conflitto dialettico per noi hacker si basa sul confronto fra tesi ed antitesi volto ad una sintesi, ad una comprensione delle reciproche prospettive ma SEMPRE ancorata ai fatti. Diciamo "You cannot argue with a root shell". La tua mail però evidenzia molto bene l'assenza di un'epistemologia condivisa, anche nel confronto fra il significato che attribuisci alle mie parole e quello che io intendevo esprimere con esse. E questo è bellissimo! :-D E' un'occasione eccezionale per entrambi di espandere le rispettive prospettive, mettendo in discussione fin dalle fondamenta le nostre visioni del mondo! Proverò dunque a spiegarti meglio cosa facciamo e perché lo facciamo proprio così. Proverò a spiegarti perché parlando di "soluzionismo tecnologico" stai proiettando su di noi (come hanno abilmente già fatto altri) credenze ed intenzioni che non abbiamo mai avuto. E proverò a farlo provando a partire dalla tua prospettiva, politica e giuridica, per poi proporti squarci della mia prospettiva, politica e cibernetica. Inizio rispondendo alle tue domande. On Thu, 29 Sep 2022 10:02:56 +0200 Carlo Blengino wrote: > Dico subito che la prima ragione di inquietudine che rilevo sta nel > metodo, in quel soluzionismo tecnologico esibito come prerogativa da > hacker che risolve tutti i problemi: un po’ di codice e staniamo > l’illegalità automaticamente! > > Dove l’ho già sentita questa idea? Non da noi! :-) Questa è un'interpretazione tua (e di altri, da Vannini a Lisi) del nostro operato. Proiettate i vostri pre-giudizi su ciò che facciamo. Ma noi non crediamo affatto che la tecnologia possa risolvere i problemi di legalità del nostro Paese. O le gravi ingiustizie che attanagliano il nostro pianeta. Tu (come altri) interpreti l'uso politico della tecnologia come "soluzionismo tecnologico" perché hai visto molte volte... usare la tecnologia per tentare di (NON) risolvere problemi politici da politici incompetenti sia sul piano tecnologico che su quello politico! Ma non è ciò che facciamo, noi. Per noi la tecnologia è un proseguimento della politica con altri mezzi. Non non crediamo di "risolvere problemi". Noi facciamo POLITICA. Ci prendiamo cura della Polis. Cerchiamo di difenderla, difendendo l'autonomia cognitiva dei nostri concittadini da chi li manipola continuamente ed efficacemente. Per difenderla, agiamo una lotta cibernetica nonviolenta. Non è dunque "soluzionismo tecnologico". Se ci fai caso, noi non proponiamo mai soluzioni, ma rendiamo evidenti i problemi che vengono tenuti sotto il tappeto. Esigiamo che vengano affrontati. Esigiamo responsabilità. E' questo che caratterizza il "metodo hacker", non la tecnologia. Facciamo domande e cerchiamo risposte. Il software è solo uno strumento. Come la penna con cui scrivi. La penna non risolve i problemi. Ma se non sapessi scrivere, quanti problemi in più avresti? > L’ ”osservatorio automatizzato” è “*efficace, economico ed > efficiente*”: sono le stesse parole che sentiamo da decenni > pronunciate dalle Tech Company. Per la verità citavo (male, perdonami) il primo articolo della legge 241/1990: ``` L’attività amministrativa persegue i fini determinati dalla legge ed è retta da criteri di economicità, di efficacia, di imparzialità, di pubblicità e di trasparenza, secondo le modalità previste dalla presente legge e dalle altre disposizioni che disciplinano singoli procedimenti, nonché dai princípi dell'ordinamento comunitario. ``` La ricordo perché il mio Professore di Diritto Costituzionale, Roberto Cavallo Perin, la citava sempre per spiegare cosa si intendesse per "buon andamento e l'imparzialità dell'amministrazione" nell'articolo 97 della Costituzione. E' in applicazione di tale principio che ritengo utile l'adozione di software come il nostro osservatorio da parte della magistratura e delle autorità di controllo. Ma ATTENZIONE: non solo delle autorità di controllo! ;-) > E l’auspicio di MonitoraPa è che gli automatismi siano adottati dal > Garante. Esatto. > Davvero? E perché solo dal Garante? Perché non dall’ANAC per > combattere la Corruzione? E le Procure? Come le serviamo? Vedi? interpreti le mie parole alla luce dei tuoi pregiudizi. Lo fai in buona fede perché ciò che per me è naturale ed inevitabile, per te è inconcepibile. Io voglio che ogni cittadino sappia leggere e scrivere come me. Voglio che TU comprenda pienamente gli automatismi che ti circondano e che possa alterarne il funzionamento secondo i tuoi desideri. E' questo l'obiettivo ultimo del nostro progetto! Solo così potrai scegliere quali automatismi spegnere, quali distruggere e quali invece adottare. Solo così potrai evitare di adattarti a tali automatismi ed essere controllato indirettamente da chi li controlla. Nel mondo per cui mi batto, Stanzione esegue e modifica il mio osservatorio non diversamente da come lo fai tu: è vostro DIRITTO! La "soluzione" che proponiamo, non è teconlogica. E' culturale e politica. E' cibernetica. Perseguo (insieme ad altri) questo obbiettivo in molti modi e da anni. E ancora oggi mi sento dire "eh, ma non possiamo imparare tutti a programmare", "l'informatica è una disciplina specialistica" e scioccezze del genere. E' letteralmente come dire che non possiamo imparare tutti a scrivere. Così dopo anni di chiacchiere sulla privacy e sul software libero, un paio di hacker ha deciso di esplorare una strada nuova. Rendere EVIDENTE il potere POLITICO che l'informatica fornisce. E nel farlo, provare a battersi contro gli agenti cibernetici più potenti e pericolosi della storia umana, i GAFAM. Come? Nell'unico modo al momento possibile: ridurre l'afflusso dei dati personali che garantiscono il loro potere esigendo il rispetto della Legge che PER DUE ANNI è stata violata impunemente. Domani esploreremo anche altri metodi, ma per intanto questo funziona. > Ed il soluzionismo tecnologico, che tanti danni ha creato e tanti ne > creerà, è spesso figlio di una visione del diritto piuttosto semplice > e “binaria”, a 0/1 appunto, come fosse una linea retta (diritto) che > divide nettamente il lecito dall’illecito (dai torti, che sono > appunto storti). Non è così, e posso rassicurare Giacomo che esistono > migliaia di leggi che garantiscono di violarne altre impunemente e, > aggiungo, a buon diritto. Se il codice è legge, la legge, o meglio il > diritto, non è codice informatico ma uno spazio complesso e pieno di > commi, eccezioni, deroghe e complessi bilanciamenti. Ma la Legge è uguale per tutti o no? Se sì, a parità di tutto il resto, un atto o è lecito o non lo è. Siamo d'accordo su questo? Se sì, in informatica è sempre possibile (ancorché spesso costoso) fare affermazioni precise: un software funziona in un modo o in un altro, un dato viene trasferito o non viene trasferito e così via. Se siamo d'accordo che la Legge debba essere uguale per tutti allora un automatismo può essere usato tranquillamente per individuare violazioni su vasta scala. Peraltro, questo già avviene, che ti piaccia o no. L'unica differenza qui è che dei singoli cittadini hanno scritto ed eseguito il software, perché non riuscivano più a sostenere il peso dell'illegalità diffusa, nell'indifferenza dello Stato. > La visione binaria del giusto/sbagliato crea poi talvolta mostri: ci > si erge facilmente a fustigatori di illegalità per buone ed ottime > cause, ma quasi mai finisce bene. Di nuovo, proietti su di noi i tuoi pre-giudizi. Non si tratta né di giusto vs sbagliato, né di lecito vs illecito. Non mi interessa se ritieni giusto essere manipolato da Google & friends. Non mi interessa se ritieni giusto che possano decidere chi va a votare. Non mi batto contro i GAFAM perché è giusto, ma perché è necessario. E non tanto per me, ma per le mie figlie. Viviamo in una società cibernetica. Io voglio che sia democratica e mi batto per questo. Per realizzare una società democratica non bastano leggi ed istituzioni servono cittadini che esercitino la sovranità, occupandosi in prima persona della cosa pubblica. In una società cibernetica, chi non sa programmare viene ridotto ad un cittadino di serie B: non comprende la realtà che lo circonda non comprende chi la controlla e vi si adatta. Non può concepire alternative o, se può, non può agire concretamente per realizzarle. Io mi batto per impedirlo. E' giusto? E' sbagliato? Non mi interessa! > Quali altri problemi risolveranno gli hackers pattugliando e facendo > scraping del web e automatizzando le denuncie nei confronti dei > reprobi, di chiunque alimenti i mostri americani o violi chissà quale > comma di complesse normative? Qual è il limite? Domanda sbagliata: mica possiamo fare tutto noi! :-D Chiediti piuttosto: "quanti problemi risolveranno i cittadini cibernetici imparando a scrivere software attraverso cui esercitare i propri diritti?" La mia risposta? Non mi importa! Non mi importa quanti problemi risolveranno, mi importa che non possano essere ridotti ad ingranaggi di macchine che non comprendono. Mi importa che siano consapevoli del potere enorme che l'informatica conferisce, un potere senza precedenti. Mi importa che lo vogliano per sé, in modo che, una volta distribuito capillarmente, diventi uno strumento di libertà invece che di oppressione. Poi sì, risolveranno anche tanti problemi. E ne creeranno di nuovi. D'altro canto, criminali e potenti già usano l'informatica, comprendendone appieno il potere. Tu hai paura che lo Stato inizi ad usare l'informatica in modo efficace, ma non sai come evitarlo. Io so che non puoi evitarlo, ma mi batto perché il suo potere sia bilanciato da quello di miliardi di hacker. > Poiché sto parlando della mia personale inquietudine, posso dire che > frasi come “*Ci si può nascondere dal Garante... ma da noi no” *o > “*senza se e senza ma, dalla parte delle vittime*” (vittime che nella > maggior parte dei casi non sanno manco di esser tali) generano in me > un certo disagio. Perché sei una vittima tu stesso. E' inevitabile che questa consapevolezza, affacciandosi ai margini della tua coscienza, generi disagio. Purtroppo questo è il punto debole del nostro progetto. La manipolazione cognitivo comportamentale individuale su larga scala è così efficace da essere inaccettabile per la mente umana, per chi si ritiene libero ed autonomo, inconsapevole delle manipolazioni che subisce direttamente ed indirettamente. Ed i suoi meccanismi di funzionamento sono talmente subdoli, da essere facili da rimuovere. Così ti ritrovi burattino infelice ma inconsapevole in mezzo ad altri burattini infelici ma inconsapevoli. Solo comprendendo come funziona, puoi affrancarti da queste manipolazioni. Se hai il coraggio, di affrancartene. Tutto questo genera disagio... ne sono consapevole. Paura anche. Reazioni scomposte. E ti dirò, se il destino delle mie figlie non fosse legato al tuo, a quello dei tuoi figli e a quello di tutti gli altri... forse mi sbatterei molto meno. Ma in una società cibernetica nessuno si salva da solo. > Temo oggi non ci si possa nascondere da nessuno, > non solo da MonitoraPa, e la mia inquietudine non si attenua nel > leggere sulla chat telegram del gruppo, a proposito delle oltre 8000 > scuole raggiunte dalle richieste automatizzate di MonitoraPa, il > fallace “se non hai nulla da nascondere non hai nulla da temere”. > Vi prego, non così! E come? Non è una domanda retorica: dimmi come estirpare Google dalla Scuola. Ti assicuro che ho provato di tutto con le scuole delle mie figlie. Ho messo soldi, hardware competenze costosissime a disposizione. Gratuitamente. Il risultato? Ho (e hanno) subito di tutto. Allora ti chiedo: COME? Ma non dirmi: "non così!" Perché se non hai alternative EFFICACI da proporre, COSI' è meglio di non fare niente. O di fare parole inutili. E poi, leggi con più attenzione: si parlava di scuole. Se hanno rispettato la legge, perché mai dovrebbero temere un FOIA? Da quando esigere trasparenza dallo Stato è tabù? Non ti puoi nascondere da nessuno perché non hai le competenze. Io posso (con qualche difficoltà), ma non mi serve a proteggere le mie figlie, perché TU non puoi nasconderti e loro hanno bisogno che anche tu possa nasconderti per vivere in una società democratica. > Ora, a proposito del diritto, del sentirsi nel giusto a far > rispettare la legge e dunque a proposito del possibile abuso del > diritto (fattispecie assai fumosa, non essendo il diritto appunto una > scienza esatta), provo a condividere un ultima riflessione. > > Non voglio entrare nel merito del tema del trasferimento di dati in > US (o come inteso un po’ semplicisticamente da MonitoraPa, ai GAFAM) > se non per ricordare che è un tema dalle mille sfaccettature. Male! Non entri nel merito di una questione dirimente. Questione che trascende il diritto. Immagina un mondo in cui ogni centesimo che ricevi duplica la tua ricchezza. MA la ricchezza di un individuo non può mai diminuire: quando paghi qualcosa trasferisci la proprietà di una copia dei tuoi soldi, ma li continui a possedere. E la stessa cosa succede per chiunque altro. Un centesimo in più a Blengino, duplica la sua ricchezza. Un centesimo in più a Bezos, duplica la SUA ricchezza. Stesso centesimo. Ma la distanza fra Blengino e Bezos è duplicata. I dati funzionano così. E tu non ne hai. Da te vengono estratti continuamente. Dai GAFAM. Che acquisiscono un potere enorme su di te. E tu lo puoi accettare solo perché il suo esercizio viene tenuto ben lontano dalla tua coscienza. > Le legittime preoccupazioni per la “privacy” dei cittadini europei > affrontate dalle sentenze Schrems (preoccupazioni che saranno > archiviate da inevitabili accordi che ognuno poi giudicherà come più > o meno scellerati) sono la rigorosa applicazione di una normativa che > mira alla “protezione *delle persone fisiche* con riguardo al > trattamento dei dati personali, nonché* alla libera circolazione di > tali dati*”. Certo! Ma la libera circolazione dei dati è subordinata alla protezione delle persone fisiche! Sostenere il contrario significa ridurre le persone a topi di laboratorio. Naturalmente se non comprendi il pericolo che agenti cibernetici come Google, Facebook & friends costituiscono per le persone... non puoi condividere l'esercizio di diritti tesi a proteggerli. Lo intepreterai come una strumentalizzazione della normativa. Ma il problema risiede nella tua mancanza di strumenti culturali adeguati al cambio di paradigma in corso. > [...] > > Neppure quelle sentenze dovrebbero esser usate come grimaldelli per > affermare una “sovranità digitale” che è concetto pericolosissimo e > dalle conseguenze forse contro-intuitive proprio sul tema della > privacy e della sorveglianza di massa. Io non parlo MAI di "digitale": è un termine assolutamente riduttivo che non permette di comprendere la complessità del fenomeno e nasconde la natura degli interessi in gioco, che NON sono economici. Quanto alla "sovranità" (che è cosa molto diversa dal sovranismo) in Italia per definizione appartiene al popolo. Dunque sì: Monitora PA persegue la piena sovranità cibernetica. Vogliamo che OGNI CITTADINO disponga degli strumenti culturali e tecnici necessari all'effettiva partecipazione all'organizzazione politica, economica e sociale del Paese. Partecipazione che non può prescindere dal PIENO controllo degli automatismi che lo circondano. Per questo ci battiamo, sin dall'inizio. > Nel mondo, gli Stati che meglio hanno sfruttato il potere di > controllo e sorveglianza sui cittadini dovuto alla datificazione > delle nostre vite, comprimendo e facendo scempio della riservatezza e > della privacy, sono proprio quelli che con maggior forza e sin > dall’inizio hanno attuato una intransigente politica di sovranità > digitale, così che la bulimia di dati che attanaglia tutti (ma > proprio tutti eh, imprese commerciali, Stati autoritari e Stati > democratici compresi) potesse esser soddisfatta in casa, senza > dipendere da terzi. Vero! E cosa centra questo con Monitora PA? > Il tema degli accessi per ragioni di sicurezza nazionale che determina > (solo per carenza di rimedi giurisdizionali) l’invalidità degli > accordi di adeguatezza con US nella sentenza Schrems II -su cui si > basa l’azione di MonitoraPa- è materia fuori dai trattati UE Dal punto di vista giuridico, la questione è semplice: EO 12333, FISA 702 e CLOUD Act esistono per legalizzare le pratiche che le agenzie di intelligence statunitensi facevano illegalmente già prima. Le pratiche rivelate da Snowden nel 2013, per intenderci. Come dimostrato da Safe Harbor e Privacy Shield, gli USA firmeranno qualsiasi cosa pur di continuare ad accedere ai dati personali dei cittadini europei. Tanto che gli costa? Hanno violato per anni la normativa europea e siamo di nuovo lì a pendere dalle loro labbra! Se a te interessa solo la norma e non la giustizia, una nuova decisione di adeguatezza sanerà magicamente la VIOLENZA subita dalle vittime, privandole della possibilità di difendersi dai GAFAM. Io però non sono un giurista, sono un informatico. Sono un hacker: non credo alle favole. Io so che il nuovo Executive Order verrà violato segretamente come avveniva ai tempi di Snowden. E so che sarò costretto a trovare nuovi metodi per la mia lotta politica cibernetica perché invece migliaia di DPO accoglieranno l'EO di Biden come legge vigente in UE, con grande sprezzo del ridicolo (e disprezzo delle nostre istituzioni). E so anche che questi metodi non ti piaceranno Carlo. Perché sarò costretto a scegliere metodi efficaci, e quindi scomodi. > e forse > non tutti sanno che le nostre agenzie di intelligence hanno libero > accesso a tutte banche dati di tutte le amministrazioni pubbliche e > di tutte le imprese anche private che operano in concessione, e > questo con una disciplina ed una regolamentazione dettata da DPCM che > sfido chiunque a trovare, essendo secretata (provate a cercare il > testo del DPCM 12 giugno 2009, n. 4). Quanto ai ricorsi > giurisdizionali, se qualcuno sa dirmi quali sono in Italia (o in > Francia) i rimedi per i trattamenti delle NSA nostrane (DIS AISE-AISI > ecc.ecc.), ammesso che si possa sapere quali dati trattano, gliene > sarei grato. Non si riesce a sapere manco quali dati tratta l’agenzia > delle entrate! E questo è possibile perché i cittadini non ne comprendono le conseguenze. E sono d'accordo: sono ulteriori problemi su cui intervenire. Se hai suggerimenti su strategie efficaci, le leggo molto volentieri. > Dico tutto questo non per difendere i GAFAM o gli USA, ma per far > capire come, a mio giudizio, l’azione di MonitoraPa poggi su un dato > normativo e su arresti giurisprudenziali, nonché su rimedi > amministrativi, assai fragili, che poco hanno a che vedere con le > reali finalità dichiarate dal gruppo, ovvero una guerra allo > strapotere di Google e dei GAFAM. E’ questo credo che induce a > pensare ad un uso strumentale dei diritti. E' il presupposto che è sbagliato. A noi non interessa lo strapotere dei GAFAM. A noi interessa la democrazia, la libertà delle persone e della collettività. Per proteggere questi valori dobbiamo estirpare i GAFAM? Ok! Se l'alternative è vedere le mie figlie ridotte a burattini, farò quel che devo, costi quel che costi. > È difficile esser attivisti su temi cruciali ma assai complessi: > penso ai cambiamenti climatici ed ovviamente ai temi della “privacy” > e della sorveglianza di massa. MonitoraPa è ricca di entusiasmo e di > capacità tecniche, ma le Sue azioni massive ed automatizzate su > migliaia di pubbliche amministrazioni su temi effimeri e marginali > come Google Font e Analytics mi lasciano assai perplesso. Sai Carlo il detto: "in un mondo di ciechi, un orbo è un Re"? Ebbene nessuno riflette mai sul fatto che il disgraziato che nasce con 10 decimi in quel mondo, sarà o marginalizzato o arrestato e ucciso. A te Google Fonts e Google Analytics sembrano temi marginali perché non hai gli strumenti culturali per comprenderne il funzionamento. Ma OGNI NUOVO BIT duplica il valore d'uso di quelli già disponibili. OGNI NUOVO BIT. Pensaci un secondo. Ogni nuovo bit raccolto da Google duplica il suo potere. Quanto potere ha Google? Quanti bit raccoglie attraverso Google Analytics e Google Fonts? Riesci ad intravedere almeno un pochino il problema? Io ce l'ho davanti TUTTI I GIORNI. > Provo grande ammirazione per gli attivisti per il clima che bloccano > le autostrade, ma sono solidale con i poveretti che, incolpevoli o non > più colpevoli degli stessi attivisti, subiscono queste azioni. E ogni > volta mi chiedo quanta consapevolezza vera generino queste azioni. E che consapevolezza hanno generato, finora, 2 anni di chiacchere? Quanto tutte le strade sembrano inutili, chi può si arrende. Io non posso. Giacomo > P.S.: ho tanti amici in MonitoraPa Beh, non ci conosciamo, ma spero che avremo modo di diventare amici.

Sept. 29, 2022

Convegno "Libertà di espressione al tempo dei social media" | 3 ottobre, ore 9.30

by Nexa Media

Gentilissimi, vi segnaliamo che *lunedì 3 ottobre*, dalle ore 9.30 alle ore 17.30, presso il Palazzo Incontri a Firenze, Via dei Pucci 1 <https://www.google.com/maps/place/Palazzo+Incontri/@43.7741849,11.2531111,1…>, si terrà il convegno organizzato dalla Fondazione CESIFIN Alberto Predieri: /*"Libertà di espressione al tempo dei social media"*/. Interviene al convegno il co-direttore del Centro Nexa *Juan Carlos De Martin*, nel Panel IV /"Piattaforme & Algoritmi"/. Per maggiori informazioni sul programma completo del convegno e su come partecipare visita la pagina: https://nexa.polito.it/libert-espressione-socialmedia <https://nexa.polito.it/libert-espressione-socialmedia> Grazie per l'attenzione, Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

Sept. 29, 2022

Re: [nexa] Sintesi di risultato MonitoraPA su Google Analytics + Fonts

by Carlo Blengino

MonitoraPa mi pareva iniziativa meritoria (e voglio credere ancora lo sia) ma confesso che nel seguire sul canale Telegram le discussioni e le modalità delle iniziative si è progressivamente insinuato in me un senso di disagio e di dubbio: una sensazione che avrei tenuto per me se non fosse per le recenti iniziative di alcuni giuristi e per il dibattito che ne è nato, anche qui, dove giuristi ed ingegneri si incontrano in un luogo che credo amicale e di livello e che mi induce a condividere qualche riflessione. Dico subito che la prima ragione di inquietudine che rilevo sta nel metodo, in quel soluzionismo tecnologico esibito come prerogativa da hacker che risolve tutti i problemi: un po’ di codice e staniamo l’illegalità automaticamente! Dove l’ho già sentita questa idea? L’ ”osservatorio automatizzato” è “*efficace, economico ed efficiente*”: sono le stesse parole che sentiamo da decenni pronunciate dalle Tech Company. E l’auspicio di MonitoraPa è che gli automatismi siano adottati dal Garante. Davvero? E perché solo dal Garante? Perché non dall’ANAC per combattere la Corruzione? E le Procure? Come le serviamo? Ed il soluzionismo tecnologico, che tanti danni ha creato e tanti ne creerà, è spesso figlio di una visione del diritto piuttosto semplice e “binaria”, a 0/1 appunto, come fosse una linea retta (diritto) che divide nettamente il lecito dall’illecito (dai torti, che sono appunto storti). Non è così, e posso rassicurare Giacomo che esistono migliaia di leggi che garantiscono di violarne altre impunemente e, aggiungo, a buon diritto. Se il codice è legge, la legge, o meglio il diritto, non è codice informatico ma uno spazio complesso e pieno di commi, eccezioni, deroghe e complessi bilanciamenti. La visione binaria del giusto/sbagliato crea poi talvolta mostri: ci si erge facilmente a fustigatori di illegalità per buone ed ottime cause, ma quasi mai finisce bene. Quali altri problemi risolveranno gli hackers pattugliando e facendo scraping del web e automatizzando le denuncie nei confronti dei reprobi, di chiunque alimenti i mostri americani o violi chissà quale comma di complesse normative? Qual è il limite? Poiché sto parlando della mia personale inquietudine, posso dire che frasi come “*Ci si può nascondere dal Garante... ma da noi no” *o “*senza se e senza ma, dalla parte delle vittime*” (vittime che nella maggior parte dei casi non sanno manco di esser tali) generano in me un certo disagio. Temo oggi non ci si possa nascondere da nessuno, non solo da MonitoraPa, e la mia inquietudine non si attenua nel leggere sulla chat telegram del gruppo, a proposito delle oltre 8000 scuole raggiunte dalle richieste automatizzate di MonitoraPa, il fallace “se non hai nulla da nascondere non hai nulla da temere”. Vi prego, non così! Ora, a proposito del diritto, del sentirsi nel giusto a far rispettare la legge e dunque a proposito del possibile abuso del diritto (fattispecie assai fumosa, non essendo il diritto appunto una scienza esatta), provo a condividere un ultima riflessione. Non voglio entrare nel merito del tema del trasferimento di dati in US (o come inteso un po’ semplicisticamente da MonitoraPa, ai GAFAM) se non per ricordare che è un tema dalle mille sfaccettature. Le legittime preoccupazioni per la “privacy” dei cittadini europei affrontate dalle sentenze Schrems (preoccupazioni che saranno archiviate da inevitabili accordi che ognuno poi giudicherà come più o meno scellerati) sono la rigorosa applicazione di una normativa che mira alla “protezione *delle persone fisiche* con riguardo al trattamento dei dati personali, nonché* alla libera circolazione di tali dati*”. Quelle sentenze, ed invero l’intera normativa UE che attua l’art. 8 della Carta UE, non sono nate per contrastare lo strapotere sociale, commerciale e di mercato dei malefici GAFAM (altri sono i provvedimenti UE che hanno quel meritorio fine), ma per tutelare il cittadino UE e la sua privacy a fronte della legittima (necessaria dire) circolazione dei dati anche personali e della (inevitabile) estrazione di valore da essi. Neppure quelle sentenze dovrebbero esser usate come grimaldelli per affermare una “sovranità digitale” che è concetto pericolosissimo e dalle conseguenze forse contro-intuitive proprio sul tema della privacy e della sorveglianza di massa. Nel mondo, gli Stati che meglio hanno sfruttato il potere di controllo e sorveglianza sui cittadini dovuto alla datificazione delle nostre vite, comprimendo e facendo scempio della riservatezza e della privacy, sono proprio quelli che con maggior forza e sin dall’inizio hanno attuato una intransigente politica di sovranità digitale, così che la bulimia di dati che attanaglia tutti (ma proprio tutti eh, imprese commerciali, Stati autoritari e Stati democratici compresi) potesse esser soddisfatta in casa, senza dipendere da terzi. Il tema degli accessi per ragioni di sicurezza nazionale che determina (solo per carenza di rimedi giurisdizionali) l’invalidità degli accordi di adeguatezza con US nella sentenza Schrems II -su cui si basa l’azione di MonitoraPa- è materia fuori dai trattati UE, e forse non tutti sanno che le nostre agenzie di intelligence hanno libero accesso a tutte banche dati di tutte le amministrazioni pubbliche e di tutte le imprese anche private che operano in concessione, e questo con una disciplina ed una regolamentazione dettata da DPCM che sfido chiunque a trovare, essendo secretata (provate a cercare il testo del DPCM 12 giugno 2009, n. 4). Quanto ai ricorsi giurisdizionali, se qualcuno sa dirmi quali sono in Italia (o in Francia) i rimedi per i trattamenti delle NSA nostrane (DIS AISE-AISI ecc.ecc.), ammesso che si possa sapere quali dati trattano, gliene sarei grato. Non si riesce a sapere manco quali dati tratta l’agenzia delle entrate! Dico tutto questo non per difendere i GAFAM o gli USA, ma per far capire come, a mio giudizio, l’azione di MonitoraPa poggi su un dato normativo e su arresti giurisprudenziali, nonché su rimedi amministrativi, assai fragili, che poco hanno a che vedere con le reali finalità dichiarate dal gruppo, ovvero una guerra allo strapotere di Google e dei GAFAM. E’ questo credo che induce a pensare ad un uso strumentale dei diritti. È difficile esser attivisti su temi cruciali ma assai complessi: penso ai cambiamenti climatici ed ovviamente ai temi della “privacy” e della sorveglianza di massa. MonitoraPa è ricca di entusiasmo e di capacità tecniche, ma le Sue azioni massive ed automatizzate su migliaia di pubbliche amministrazioni su temi effimeri e marginali come Google Font e Analytics mi lasciano assai perplesso. Provo grande ammirazione per gli attivisti per il clima che bloccano le autostrade, ma sono solidale con i poveretti che, incolpevoli o non più colpevoli degli stessi attivisti, subiscono queste azioni. E ogni volta mi chiedo quanta consapevolezza vera generino queste azioni. Carlo P.S.: ho tanti amici in MonitoraPa Il giorno mer 28 set 2022 alle ore 11:50 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Comunicazione di servizio: > > On Wed, 28 Sep 2022 10:00:12 +0200 Fabio Pietrosanti (Lists) wrote: > > > Ricordo a tutti, per chi volesse contribuire al progetto, della chat > > collaborativa pubblica: https://t.me/monitoraPA > > Ricordo a tutti, per chi volesse contribuire al progetto, della chat > collaborativa pubblica: > https://matrix.to/#/%23MonitoraPA:matrix.opencloud.lu > #MonitoraPA:matrix.opencloud.lu > > Per chi proprio non volesse utilizzare software libero basato su un > protocollo aperto e decentralizzato, la chat è raggiungibile anche > dal già citato canale Telegram, grazie agli innumerevoli bridge liberi > che Matrix supporta https://matrix.org/bridges/ > > > Giacomo > > PS: FABIO ! ! ! :-D > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

Sept. 29, 2022

‘My Carbon’: An approach for inclusive and sustainable cities

by 380°

Buongiorno nexiane, AI e blockchain per profilare le emissioni personali di CO2 con lo scopo di combattere il cambiamento climatico attraverso l'eco-social scoring e scaltri artifici linguistici come «product as a service», «demand predictions» e «smart asset management». Soluzionismo digitale on steroids basato su una allucinazione pseudoscientifica: se non fosse che pare facciano davvero sul serio ci sarebbe solo da ridere. https://www.weforum.org/agenda/2022/09/my-carbon-an-approach-for-inclusive-… (archiviato qui https://archive.ph/QuO9N, dove funziona anche senza JS) «‘My Carbon’: An approach for inclusive and sustainable cities» by Kunal Kumar (Mission Director, Smart Cities Mission, Ministry of Housing and Urban Affairs of India) and Mridul Kaushik Sep 14, 2022 --8<---------------cut here---------------start------------->8--- [...] While transport and buildings are the major drivers for emissions in cities, the share of individual emissions are significant at around 40%. [...] There have been numerous examples of personal carbon allowance programs [1] in discussions for the last two decades, however they had limited success due to a lack of social acceptance, political resistance, and a lack of awareness and fair mechanism for tracking “My Carbon” emissions. [...] There have been significant developments in last five to seven years on social, environment and technology fronts that could help realise “My Carbon” initiatives [...] Specifically, to mention three developments in this context: 1. COVID-19 was the test of social responsibility A huge number of unimaginable restrictions for public health were adopted by billions of citizens across the world. There were numerous examples globally of maintaining social distancing, wearing masks, mass vaccinations and acceptance of contact-tracing applications for public health, which demonstrated the core of individual social responsibility. 2. Fourth Industrial Revolution technology breakthroughs [...] technologies like AI, blockchain and digitization can enable tracking personal carbon emissions, raise awareness and also provide individual advisories on lower carbon and ethical choices for consumption of product and services. [...] the roll-out of smart meters in providing individual choices to reduce their energy-related emissions, the development of new personalized apps to account for personal emissions, and better personal choices for food and consumption-related emissions. AI can also help strengthen circular economy business models like product as a service models, demand predictions, and smart asset management by combining real time and historical data from products and users. 3. Raised awareness and ownership for nature and environment [...] 80% of citizens say they are willing to change how they live and work to combat the effects of climate change. Young adults, who have been at the forefront of some of the most prominent climate change protests in recent years, are more concerned than their older counterparts about the personal impact of a warming planet in many public surveys. [...] It is suggested to drive a three-way approach to shape this movement: [2] First: Economic Behaviour - Increased cost for carbon-intensive activities and goods - Economic incentives to reduce demand and improve efficiency Second: Cognitive Awareness - Raised visibility of personal carbon footprints Raised awareness of - personal carbon limits to sustain the transition to a net-zero carbon society Social norms: - New definition of a fair share of personal emissions - Setting for acceptable levelsof acceptable emissions Such economic action will need policy enablement from city leadership through extensive discussion between stakeholders to arrive at a fair and inclusive approach. The levers of Cognitive Enablement and Social Norms will be much more impactful through citizen engagement programs and learnings from the above-mentioned trends need to be captured to design these programs. Innovative AI and machine-learning capabilities would help capture embedded emissions in goods and services, and could help in providing individuals with tailored and timely advice on how to reduce their lifestyle emissions. --8<---------------cut here---------------end--------------->8--- Saluti, 380° [1] https://www.nature.com/articles/s41893-021-00756-w.pdf «Personal carbon allowances revisited» [2] Immagine: https://assets.weforum.org/editor/6do9nWnCVlVnM8CQJ8_e0Wf9YsyVtpHqt5LQaZzDP… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 28, 2022

Re: [nexa] Sintesi di risultato MonitoraPA su Google Analytics + Fonts

by Giacomo Tesio

Comunicazione di servizio: On Wed, 28 Sep 2022 10:00:12 +0200 Fabio Pietrosanti (Lists) wrote: > Ricordo a tutti, per chi volesse contribuire al progetto, della chat > collaborativa pubblica: https://t.me/monitoraPA Ricordo a tutti, per chi volesse contribuire al progetto, della chat collaborativa pubblica: https://matrix.to/#/%23MonitoraPA:matrix.opencloud.lu #MonitoraPA:matrix.opencloud.lu Per chi proprio non volesse utilizzare software libero basato su un protocollo aperto e decentralizzato, la chat è raggiungibile anche dal già citato canale Telegram, grazie agli innumerevoli bridge liberi che Matrix supporta https://matrix.org/bridges/ Giacomo PS: FABIO ! ! ! :-D

Sept. 28, 2022

Re: [nexa] New Zealand Prime Minister Calls For A Global Censorship System

by 380°

Maurizio Borghi <maurizio.borghi(a)unito.it> writes: > New Zealand Prime Minister Jacinda Ardern is the latest liberal leader [...] > Speech regulation has become an article of faith on the left. ...cos'è la censura di destra, quella di sinistra? «Fare il bagno nella vasca è di destra far la doccia invece è di sinistra un pacchetto di Marlboro è di destra di contrabbando è di sinistra» (Giorgio Gaber, Destra-Sinistra - 1995/1996 [1]) [...] [1] https://www.giorgiogaber.it/discografia-album/destra-sinistra-testo -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Sept. 28, 2022