- nexa - server-nexa.polito.it

The House Always Wins: The Algorithmic Gamblification of Work - LPE Project

by J.C. DE MARTIN

Jan. 24, 2023

January 30: EIROforum Data Protection Day on Artificial Intelligence

by Giacomo Tenaglia

Salve, segnalo questo evento online organizzato lunedì prossimo da CERN, EMBL, ESA e ESO sul tema "Intelligenza artificiale e dati personali": https://indico.cern.ch/event/1233356/ Buona serata, Giacomo Tenaglia

Jan. 24, 2023

Re: [nexa] ChatGpt e la scuola

by Marco A. Calamari

Con la massima umiltà, vorrei sottolineare che la privacy informatica è materia molto complessa, e l'anonimizzazione o la pseudonomizzazione dei dati un problema ancora in cerca di soluzione. Infatti le tecniche matematiche di deanonimizzazione e reidentificazione sono sempre un passo avanti. Sul tema, consiglierei di partire da una veloce lettura della paper fondamentale, quella di Paul Ohm del 2010. "Broken Promises of Privacy: Responding to the Surprising Failure of Anonymization". https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1450006 Poi suggerisco che il tanto disprezzato deep learning, fornisce grandi possibilità di una reidentificazione completamente automatica. Mi fermo qui con le citazioni ed i suggerimenti, ma negli atti della conferenza PET si trova la summa di queste problematiche. Un cordiale saluto a tutti. Marco On mar, 2023-01-24 at 11:06 +0100, Paolo Del Romano wrote: > > > Il giorno mar 24 gen 2023 alle ore 11:00 Giacomo Tesio <giacomo(a)tesio.it> ha > scritto: > > > > On Tue, 24 Jan 2023 10:26:09 +0100 Paolo Del Romano wrote: > > Altrimenti Google potrebbe usare alcuni errori per identificare gli > > studenti ed associargli con precisione le cose che sa e quelle che non > > sa, arricchendone il profilo cognitivo-comportamentale e raddoppiando > > l'efficacia delle manipolazioni applicabili con ogni nuovo bit > > acquisito. > > > > > ma gli studenti sono PIPPO, PLUTO, PAPERINO, .... > > > e se si ritiene opportuno irrobustire l'anonimato .... ogni mese con la > rotazione degli account ......a PIPPO corrisponde un alunno diverso.... > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Jan. 24, 2023

Re: [nexa] ChatGpt e la scuola

by alessandro marzocchi

Buongiorno. Alessandro Brolpito ha scritto: Date: Mon, 23 Jan 2023 13:36:59 +0100 > From: Alessandro Brolpito <abrolpito(a)gmail.com> > Buongiorno Duccio, > Mancano tante cose, è vero, ma da qualche parte bisogna pure iniziare per > provarci. > Concretamente, un punto di partenza potrebbe essere > - Vedere chi in lista potrebbe essere interessato, ad esempio rispondendo > al tuo messaggio - *io ci sono*, con ovvi limiti dovuti ad un lavoro a > tempo pieno, famiglia ect. > - Organizzare un primo incontro online, dove parlarci e provare a definire > un perimetro - potresti farlo? > Alessandro > Grazie anche a Giacomo, l'avete letto, non ripeto. Mi ero dato il compito di convincervi ad avviare il lavoro ma sono troppo ignorante per fare altro. Vedo interessati tutti i partecipanti a lista Nexa, a cominciare da chi è intervento su questo argomento specifico. Sono d'accordo sul primo passo che suggerisci, come ricordato sono troppo lento ed inadeguato per cui propongo a te, Alessandro, di Organizzare un primo incontro online, dove parlarci e provare a definire un > perimetro Due parole per definire l'obiettivo che è nella mia testa: educare il bambino all'uso consapevole del digitale, un passo per volta in analogia a quanto si fa con l'alfabeto. Cominciando da una prima elementare con l'intenzione di accompagnarla fino alla fine dei 5 anni, poi il sogno continua per tutto il ciclo scolastico fino alla maturità e con tutti gli studenti (8 milioni ?), vasto programma ... lo penso anch'io ma non posso governare i sogni. Ho dato un rapido sguardo a quanto segnalato da Giacomo http://video.linuxtrent.it/c/cybersecurity@video.resolutions.it/videos: ottimo per una "" completa assimilazione entro la quinta elementare "" non so quanto adatto per la prima elementare e qui provo a sciogliere un equivoco possibile con Giacomo. Giacomo ha ragione sulle due obiezioni, di scala e di tempo. ** metodo ** Non è replicabile ma trovo ottimo quello di Giacomo e propongo di considerarlo un riferimento Con le mie figlie parlo di informatica anche mentre giochiamo coi > cubetti o mentre apparecchiamo la tavola. Certi concetti li comprendono > al volo perché li hanno respirati per anni. > Però non c'è nulla di arcano nell'informatica (e ciò che sembra arcano > va buttato via e ripensato). ** scala ** Cominciare dagl'insegnanti? Nessuna obiezione, comincerei dove l'interesse è maggiore, dove la resistenza è minore. C'è anche il materiale segnalato da Enrico Nardelli. Non ho nipoti, sto inviando l'invito di Giacomo agli amici nonni più vicini, saranno utili risposte e silenzi. **tempo** chi ha tempo non è competente :-) chi è competente non ha tempo, ma le vostre qualità valgono molto più del tempo, proviamo a fare il primo passo per proseguire un passo per volta. Grazie Alessandro Brolpito Giamo Tesio e tutti: chi altro è disponibile? Al primo appello rispose Damiano Verzulli, ricordo bene? E' ancora disponibile? Cordialmente, Duccio (Alessandro Marzocchi)

Jan. 24, 2023

Re: [nexa] ChatGpt e la scuola

by Giacomo Tesio

On Tue, 24 Jan 2023 11:06:19 +0100 Paolo Del Romano wrote: > ma gli studenti sono PIPPO, PLUTO, PAPERINO, .... > > > e se si ritiene opportuno irrobustire l'anonimato .... ogni mese con > la rotazione degli account ......a PIPPO corrisponde un alunno > diverso.... Anzitutto, quella è pseudonimizzazione, non anonimato. E non è, di per sé, sufficiente. Supponiamo che il laboratorio venga prenotato/assegnato dalle classi tramite Google Calendar. Il giorno X dalle Y alle Z, è assegnato alla terza C. Google registra gli elaborati di ciascuno studente. Il Prof li scarica ed assegna i voti. Il giorno dopo lo studente contesta via email un determinato errore che ha compiuto solo lui. Google può associare tutta la verifica allo studente. Oppure considera uno studente particolarmente brillante che, unico della classe, fa sempre tutte le verifiche perfette. Google può identificarlo ed associare le nozioni acquisite al suo profilo cognitivo comportamentale Il Prof che proprio voglia usare Google Spreadsheet per una verifica (invece che un banale LibreOffice Calc, per dire) DEVE essere in grado di GARANTIRE che NESSUNO studente sia identificabile da Google. Pseudonimizzare gli elaborati e cambiare pseudonimi è condizione necessaria, ma non sufficiente. Usare device dedicati e connessioni dedicate (i computer del laboratorio dalla rete della scuola) è condizione necessaria, ma non sufficiente. Il Prof deve garantire che NESSUN dato sia deducibile dal contenuto dell'elaborato, che l'elaborato non possa essere usato come quasi-identifier (vedi link a mail precedente). Il che ripeto, non è impossibile. Basta assicurarsi che tutti gli elaborati siano uguali. Ad esempio tutti corretti, o tutti con gli stessi identici errori. Altrimenti il Prof sta cedendo dati personali degli studenti a Google. ATTENZIONE: NON ne risponde in prima persona, a meno che il DS non abbia espressamente vietato l'uso dei servizi di Google e bloccato i relativi IP a livello dns / firewall della scuola. Se il DS non ha vietato un certo trattamento all'interno della scuola, fatto formare i docenti e fatto il possibile per evitarlo, di tali trattamenti illeciti risponde sempre e comunque il DS. Tuttavia se lo ha fatto e il prof ha usato un qualche escamotage (ad esempio l'uso di Tor Browser e / o una VPN) per usare COMUNQUE proprio Google Spreadsheet, a quel punto credo che ne risponderebbe il Prof in prima persona. Giacomo

Jan. 24, 2023

Re: [nexa] ChatGpt e la scuola

by Paolo Del Romano

Il giorno mar 24 gen 2023 alle ore 11:00 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: On Tue, 24 Jan 2023 10:26:09 +0100 Paolo Del Romano wrote: > Altrimenti Google potrebbe usare alcuni errori per identificare gli > studenti ed associargli con precisione le cose che sa e quelle che non > sa, arricchendone il profilo cognitivo-comportamentale e raddoppiando > l'efficacia delle manipolazioni applicabili con ogni nuovo bit > acquisito. > ma gli studenti sono PIPPO, PLUTO, PAPERINO, .... e se si ritiene opportuno irrobustire l'anonimato .... ogni mese con la rotazione degli account ......a PIPPO corrisponde un alunno diverso....

Jan. 24, 2023

Re: [nexa] ChatGpt e la scuola

by Giacomo Tesio

On Tue, 24 Jan 2023 10:26:09 +0100 Paolo Del Romano wrote: > se lo studente individuato con lo pseudonimo mi deve consegnare il > lavoro in un foglio di calcolo o di testo dove c'è lo svolgimento > dell'esercizio non ci sono dati personali Dipende ovviamente dall'esercizio, ma come minimo fra i dati personali trasferiti ci sono gli errori compiuti. Anche assumendo una pseudonimizzazione efficace, il Prof deve GARANTIRE tecnicamente che da tali errori non sia possibile identificare NESSUNO studente. Il che è effettivamente possibile: basta assicurarsi che nessuno studente compia alcun errore, ad esempio fornendogli le risposte corrette in anticipo. Altrimenti Google potrebbe usare alcuni errori per identificare gli studenti ed associargli con precisione le cose che sa e quelle che non sa, arricchendone il profilo cognitivo-comportamentale e raddoppiando l'efficacia delle manipolazioni applicabili con ogni nuovo bit acquisito. Per approfondire: https://www.cs.utexas.edu/~shmat/shmat_oak08netflix.pdf https://www.csee.umbc.edu/~kunliu1/p3dm08/proceedings/2.pdf Giacomo

Jan. 24, 2023

Re: [nexa] Cyber e geopolitica

by 380°

Buongiorno, grazie della segnalazione, aggiungo testo a fini archivistici «Già definire cosa sia un crimine informatico sta mettendo a dura prova il gruppo di esperti» è l'elevator pitch di questa bruttissima questione don Luca Peyron <dluca.universitari(a)gmail.com> writes: > Buona lettura > > dl > > https://www.wired.it/article/onu-convenzione-crimini-informatici-rischio-pr… «Il patto dell'Onu contro il cybercrime è diventato un assalto a privacy e diritti digitali» di Luca Zorloni, 20.01.2023 --8<---------------cut here---------------start------------->8--- Le Nazioni Unite stanno discutendo una convenzione globale sui crimini informatici. Ma piovono proposte per annacquare i diritti in rete. Come il reato di fake news presentato dalla Cina. O l'abbattimento della protezione dei dati in caso di indagini votata anche dagli Stati Uniti [...] La Cina, per esempio, ha proposto di istituire il reato di diffusione di informazioni dannose. Un'arma che potrebbe essere utilizzata per silenziare dissidenti e oppositori. Ma sull'altra sponda del Pacifico, gli Stati Uniti hanno suggerito, come Egitto, Pakistan e Oman, di cancellare la protezione dei dati personali e i principi di proporzionalità, necessità e legalità dalle garanzie per controbilanciare i poteri di indagine. Emendamenti controversi che restituiscono l'idea di un negoziato tutt'altro che secondario [1], le cui conseguenze potrebbero ben più complicati e gravi del previsto. [...] Il 26 maggio 2021 al Palazzo di vetro l'assemblea generale delle Nazioni Unite accende luce verde a una risoluzione per contrastare l'uso delle tecnologie informatiche e di telecomunicazioni per scopi criminali. “È bene sottolineare che molti portatori di interessi, comeStati e organizzazioni non governative, non erano convinti che fosse necessario un trattato globale sul crimine informatico” [...] Un trattato internazionale sul crimine informatico esiste già. È la Convenzione di Budapest, datata 2001. [...] “È uno strumento molto efficace”, osserva Bannelier. [...] Già definire cosa sia un crimine informatico sta mettendo a dura prova il gruppo di esperti, presieduto dall'ambasciatrice algerina Faouzia Mebarki. [...] A Vienna i delegati si sono ritrovati davanti una bozza con 28 tipi di crimini informatici da inserire nella convenzione. Tra cui l'uso illecito di strumenti di pagamento elettronico. O la violazione del copyright. La diffusione online di materiale pedopornografico. Il cyber stalking. E la lista è presto salita a 30, [...] [...] “Solo otto proposte non sono oggetto di dibattito”, spiega la ricercatrice. E sono i reati informatici veri e propri. Ossia gli articoli 6 (accesso illegale), 7 (intercettazione illecita), 8 (interferenze con dati e informazioni digitali), 9 (interferenze con sistemi o dispositivi di comunicazione), 10 (abuso di dispositivi o programmi), 11 (falsificazione di dati), 12 (frodi informatiche) e 18 (violenze online su minori). [...] “Mentre la prima categoria è stata discussa nell'assemblea plenaria - racconta Bannelier - le discussioni della seconda sono state relegate a incontri informali”. A questi tavoli sono arrivate idee come quella di ideare un reato globale di incitamento alla sovversione. Ma anche il riciclaggio di denaro, già coperto da altri trattati. E proprio in questa seconda categoria si è intrufolata la Cina con la sua idea di criminalizzare la diffusione di informazioni dannose. Una lotta alle fake news che nelle mani del regime di Pechino potrebbe essere usata per silenziare chi pubblica contenuti invisi al Dragone. “Ci aspettiamo che gli Stati occidentali reagiscano in maniera forte - osserva la docente -. Credo che non arriverà alla versione finale della convenzione”. [...] “È vero che la diffusione di informazioni false, fake news e disinformazione è un problema per tutti gli Stati - dice la ricercatrice -. Ma se è un terreno scivoloso per gli Stati democratici, figuriamoci come Stati non democratici come la Cina potrebbero sfruttare la tesi di combattere false informazioni per limitare la libertà di espressione e per perseguire oppositori politici, giornalisti e attivisti per i diritti umani”. [...] In generale, la lotta al crimine informatico sta diventando il grimaldello per mettere in discussione la protezione delle informazioni. La stessa Commissione europea ha proposto un regolamento, denominato Chatcontrol, che deroga alle regole sulla privacy per dare alle piattaforme di comunicazioni digitali, come Whatsapp e Messenger, accesso alle chat private per tre anni alla ricerca di abusi sessuali online su minori su incarico di un'autorità nazionale. L'analisi avverrebbe tramite sistemi di intelligenza artificiale, che hanno già dimostrato la loro fallacia in questi casi. Negli Stati Uniti Google ha bollato come pedopornografiche le foto scattate da un papà al figlio per motivi di salute e mandate al pediatra. [...] Lo scorso maggio proprio il garante della privacy dell'Unione europea, Wojciech Wiewiórowski, ha messo in guardia i 27 sui rischi di una deriva del trattato dell'Onu, al punto da suggerire all'Unione europea di non diventare parte della convenzione se la bozza finale non garantisce il rispetto di diritti fondamentali, come la protezione dei dati e la riservatezza delle informazioni. --8<---------------cut here---------------end--------------->8--- saluti, 380° [1] https://www.wired.it/article/privacy-europa-ricorso-garante-europol/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Jan. 24, 2023

Re: [nexa] ChatGpt e la scuola

by Paolo Del Romano

Il giorno lun 23 gen 2023 alle ore 22:33 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > On Mon, 23 Jan 2023 21:46:21 +0100 Paolo Del Romano wrote: > > Purtroppo non lo è: la pseudonimizzazione aiuta SOLO in presenza di > proxy che tramite deep packet inspection eliminino TUTTI i dati > personali prima che ogni pacchetto arrivi ai server Google. > se lo studente individuato con lo pseudonimo mi deve consegnare il lavoro in un foglio di calcolo o di testo dove c'è lo svolgimento dell'esercizio non ci sono dati personali > > Altrimenti basta l'IP per corelare i dati raccolti da un certo studente > con la sua identità. > il lavoro si fa nei laboratori e lo studente ogni volta si siede a un pc diverso Paolo

Jan. 24, 2023

Cyber e geopolitica

by don Luca Peyron

Buona lettura dl https://www.wired.it/article/onu-convenzione-crimini-informatici-rischio-pr… _________________________ don Luca Peyron Direttore Ufficio per la Pastorale Universitaria Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

Jan. 24, 2023