- nexa - server-nexa.polito.it

Re: [nexa] BLOOM: Inside the radical new project to democratize AI | MIT Technology Review

by Giuseppe Attardi

Ho invitato Le Scao di Huggingface a parlare del progetto BigScience alla Conferenza GARR 2022 a Palermo: BigScience: building an LHC for NLP and AI https://www.eventi.garr.it/en/conf22/programme/blog/927-teven-le-scao — Beppe On Mon, 30 Jan 2023 at 22:47, J.C. DE MARTIN <demartin(a)polito.it <mailto:demartin@polito.it>> wrote: > Inside a radical new project to democratize AI > > A group of over 1,000 AI researchers has created a multilingual large > language model bigger than GPT-3—and they’re giving it out for free. > By > > - Melissa Heikkiläarchive page > https://www.technologyreview.com/author/melissa-heikkila/ > > July 12, 2022 > > https://www.technologyreview.com/2022/07/12/1055817/inside-a-radical-new-pr… <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230131092930094405…> > > > (messaggio spedito in movimento - scusate brevità ed eventuali refusi)

Jan. 31, 2023

Shoshana Zuboff: ‘Privacy has been extinguished. It is now a zombie’

by Alberto Cammozzo

“It is possible to have surveillance capitalism, and it is possible to have a democracy. It is not possible to have both,” Shoshana Zuboff: ‘Privacy has been extinguished. It is now a zombie’ The professor who predicted that computers would change our lives demands a right to sanctuary from data ‘theft’ <https://12ft.io/proxy?q=https%3A%2F%2Fwww.ft.com%2Fcontent%2F0cca6054-6fc9-…> These are uncertain times for Silicon Valley. Tech companies are firing staff who they hired in the pandemic. Twitter, under Elon Musk, has repelled advertisers. Apple, a self-proclaimed privacy champion, wants to reduce <https://12ft.io/proxy?ref=&q=https://www.ft.com/content/1146da72-8337-46f4-…> the reach of Google. It’s possible to imagine that the digital wild west will become more genteel. Yet for the critics of Big Tech, there is little relief. Shoshana Zuboff, a professor emerita at Harvard Business School, published /The Age of Surveillance Capitalism/ in 2019 — a blast about how tech companies had made billions of dollars by sucking up private data. “We thought we were searching Google, but Google was searching us,” she summarised. Today she’s frustrated that efforts to restrain tech companies are so fragmented. “We have fantastic scholars, researchers, advocates who are focused on privacy, others who are focused on disinformation, others who are focused on the nexus with democracy,” she says, when we meet in London. This “Balkanisation” reduces the ability to pinpoint the “actual source of harm”: people’s data is treated as a costless resource, just as forests and other parts of nature were in centuries past. Zuboff cites data that, in the US, which has no federal privacy law, people have their location exposed 747 times a day. In the EU, which she says has the “best regulation”, it’s 376. “It’s better, but it’s not nearly better enough.” Mark Zuckerberg once promised you that a predictive model would tell you, on arriving in a strange city, which bar to go to and a bartender would already have prepared your favourite drink. That dream has faded only on the basis of practicality, not principle. In a paper <https://journals.sagepub.com/doi/full/10.1177/26317877221129290> published in November, Zuboff argued that Apple and Google had strong-armed European health officials over Covid tracing technology. “It is possible to have surveillance capitalism, and it is possible to have a democracy. It is not possible to have both,” she wrote. Apple had created the illusion of acting as Robin Hood, when only democratic oversight could protect individual rights. She sees its move against Google as simply an “expansion” of surveillance capitalism. Tim Cook’s promises to protect privacy can be withdrawn any time: “Users have no say.” Tech surveillance matters, Zuboff argues, because it robs us of “life-sustaining inwardness”. Nor can individuals realistically opt out by themselves. What we need is a right to sanctuary. Last year Brussels introduced <https://12ft.io/proxy?ref=&q=https://www.ft.com/content/c472e2b2-47af-4c99-…> the Digital Services Act and Digital Markets Act, its most comprehensive tech legislation to date. The UK parliament is currently debating the online safety bill <https://12ft.io/proxy?ref=&q=https://www.ft.com/content/b48cd2f9-3076-4c02-…>. Zuboff wants these to be stepping stones. *** Normally in newspaper interviews, the journalist asks questions, and the interviewee answers them. An interview with Zuboff is different. You ask questions and, more often than not, she responds with first principles — step-by-step explanations of how she believes that surveillance capitalism has taken hold this century. Zuboff is particular about how her ideas are described, about how things are set up, about what pen she uses. She mulls each detail. “Is it distracting for you if I stand? I’ll sit down. I usually walk and talk,” she says, when we start. This particular mind is, in tech terminology, a feature, not a bug. It enables Zuboff to take the long view. In 1988, she published /In the Age of the Smart Machine, /which argued that computers would change companies in a way that previous technologies had not. She later ran Odyssey, a Harvard Business School education programme to help successful people decide how to spend the later part of their lives. Her opus on surveillance capitalism was her own late-career flourish. It was published when she was 67, after a lightning strike had burnt down her family home in Maine and after the unexpected death of her husband and sometime co-author, the businessman Jim Maxmin. Zuboff argues that tech companies knew that the public would never support their data collection. “Right from the start, they were understood as things that had to be secret, had to be camouflaged from users, lest they provoke resistance.” She quotes a recent Google executive as saying: “Won’t it creep people out to know how much we are paying attention?” Today tech companies “are becoming much more reluctant to patent their discoveries, because they don’t want the public to know exactly what they’re doing. They’re no longer in most cases making their own data available to researchers.” So Zuboff sees the need for a regulatory fishing expedition. The EU’s tech laws will create “new cadres of people with new mixes of skills that are going to go inside the corporations. Their brief will be to lift the hood, to understand what’s really going on. One of the huge problems that we have is that most of the information that comes out of the companies is intentionally designed to be misleading. Gaslighting is a rhetorical art form that is genuinely practised by these companies.” Zuboff rarely uses short answers or plain terminology. Nonetheless, she is direct about content moderation — companies’ attempts to remove harmful content — which she describes as “quicksand . . . an utterly losing proposition, designed in fact to keep us occupied as long as possible so that they can keep getting away with what they’re really doing.” She is more positive about age-appropriate design, where platforms are engineered to minimise harm to children and to collect less data from them. The UK pioneered age-appropriate design, but after Brexit will miss out on Brussels’ “more muscular power” against surveillance capitalism, says Zuboff. She also sees “a move to weaken and denature the existing data protection regime with a data protection bill that favours the big tech companies and perpetuates the misbegotten idea that democracy must get out of the way.” The problem for privacy advocates is that their cause seems to offer too few advantages and too many drawbacks. For most European citizens, the biggest impact of privacy legislation is annoying cookies pop-ups. Regulation seems impractical: the UK and France have both wanted <https://12ft.io/proxy?ref=&q=https://www.ft.com/content/5b0b84c1-3edf-4286-…> to place age limits on porn sites, but have so far failed to find effective ways of doing so. Similarly, Zuboff criticises Apple and Google for taking control of Covid tracing, but what if their system simply worked better than the centralised ones favoured by European health officials? She laughs at the suggestion. But she admits regulation is hindered “because we can’t get inside [tech companies] to know what’s really going on. We’re regulating with blinders on . . . We don’t understand our adversary well enough.” Zuboff insists that her attack is not against technology itself, but the economic logic that underpins it — “theft”. She holds out the possibility that we could use data and prediction for the common good. The counterargument is that there are basic trade-offs. Tech services, whether for predicting text answers or the fastest driving routes, can only work by accumulating data and reducing our privacy. I ask what she makes of Musk’s ownership of Twitter. “We’ve got politicians, lawmakers, elected officials, as well as the entire citizenry, focused on one man and asking the question, ‘what will he do?’ Our political stability, our ability to know what’s true and what false, our health and to some degree our sanity, is challenged on a daily basis depending on which decisions Mr Musk decides to take. I regard this as fundamentally intolerable . . . These spaces cannot exist solely under corporate control . . . We’re two decades into the digital era but we have never, as democracies, taken stock of the meaning of these technologies.” Musk has put Donald Trump back on Twitter. The former US president’s suspension from Facebook will end “in the coming weeks”, its parent company has said <https://12ft.io/proxy?ref=&q=https://www.ft.com/content/418244e7-9bef-422e-…>. Zuboff is aghast. “It should not be a decision that belongs to individuals such as Musk or Zuckerberg or anyone else.” The implications for democracy are too great. “In an information civilisation, our information spaces must exist under public law and be governed by democratic institutions . . . With luck and determination we will look back on the days of the information oligarchs like Musk and Zuckerberg as the first primitive missteps of a new civilisation.” She compares the west’s tech giants to China’s surveillance state. “This is a world in which privacy has been extinguished. Privacy is now a zombie category. None of us have privacy, even as we thought about it in the year 2000.” Her sense of dystopia is visceral. “Somebody just invented a type of paint that you can put on your face that confounds facial recognition. Young people on Reddit are very excited about this. This is terrible, Henry!” The abolition of surveillance capitalism requires new laws that allow societies to decide “what becomes data in the first place, what we share, with whom, and to what purpose”. Instead, tech marches onwards, particularly in the form of artificial intelligence <https://12ft.io/proxy?ref=&q=https://www.ft.com/content/1e34f334-4e73-4677-…>. “ChatGPT has shaken us up. It has shocked people, forcing us to recognise how far AI has come, with virtually no law and democratic governance to shape or constrain its development and application.” AI’s development has relied on stealing human data, she argues. She points hopefully to the EU’s proposed AI Act — “the first law to assert democratic governance over the application of AI”. But it’s hard not to feel that, even when Silicon Valley stumbles, it is still a step ahead.

Jan. 31, 2023

Re: [nexa] BLOOM: Inside the radical new project to democratize AI | MIT Technology Review

by Alessandro Brolpito

buongiorno, >>the supercomputing center of the French National Center for Scientific Research, on the outskirts of Paris ... >>BLOOM was created over the last year by over 1,000 volunteer researchers <https://bigscience.notion.site/Participants-ff51f9d6e441414a8f6b7931ed93123d> in a project called BigScience, which was coordinated by AI startup Hugging Face using funding from the French government. Interessante il modello organizzativo: grossi investimenti pubblici (il lab), open methods (il metodo), e un modello bottom-up con 1000 ricercatori volontari (l'approccio organizzativo). Mi sembrano che vi sono molti degli ingredienti necessari per dei modelli di ricerca e sviluppo scalabili, sostenibili, meglio ancora se fosse proprio su base EU Poi rimane la grossa questione di come educare e formare, non solo per lavorare, ma su come relazionarsi e mantenere democratiche le nostre società. Questa secondo me è la cosa più difficile, perché i "social lab" dove si forma una parte essenziale del capitale umano, non sono sufficientemente coinvolti nella ricerca (applicata) e sviluppo. Alessandro On Mon, 30 Jan 2023 at 22:47, J.C. DE MARTIN <demartin(a)polito.it> wrote: > Inside a radical new project to democratize AI > > A group of over 1,000 AI researchers has created a multilingual large > language model bigger than GPT-3—and they’re giving it out for free. > By > > - Melissa Heikkiläarchive page > <https://www.technologyreview.com/author/melissa-heikkila/> > > July 12, 2022 > > > https://www.technologyreview.com/2022/07/12/1055817/inside-a-radical-new-pr… > > > (messaggio spedito in movimento - scusate brevità ed eventuali refusi) > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Jan. 31, 2023

Re: [nexa] Cosa succede il 6/2/2023?

by Damiano Verzulli

Il 30 gennaio 2023 22:28:26 CET, Damiano Verzulli <damiano(a)verzulli.it> ha scritto: > >Cosa succede il 06/02/2023 ? > >...non mi pare sia passato in lista. ero talmente abituato a notizie del genere, che l'avevo già rimossa. Scusate. Il 6/2/2023 ė il giorno in cui UniMI passerà la posta degli studenti a Microsoft: https://server-nexa.polito.it/pipermail/nexa/2023-January/024791.html Scusate ancora. Saluti, DV -- Inviato dal mio dispositivo Android con K-9 Mail. Perdonate la brevità.

Jan. 31, 2023

BLOOM: Inside the radical new project to democratize AI | MIT Technology Review

by J.C. DE MARTIN

Jan. 30, 2023

Cosa succede il 06/02? [Was: Il valore d'uso dei dati]

by Damiano Verzulli

Il 30/01/23 22:23, alessandro marzocchi ha scritto: > [...] > 5- tenendo conto di precedenti osservazioni manifestate in listaNexa, > azioni collettive sono preferibili ad analoghi atti individuali, ma il > 6 febbraio è vicinissimo: listaNexa riesce a proporre IMMEDIATAMENTE > una richiesta di gruppo? Cosa succede il 06/02/2023 ? ...non mi pare sia passato in lista. Bye, DV -- Damiano Verzulli e-mail: damiano(a)verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Jan. 30, 2023

Re: [nexa] Il valore d'uso dei dati (was: mail studenti UniMi outsourced a Microsoft)

by alessandro marzocchi

Mi riferisco ai msg in nexa Digest, Vol 165, Issue 74: 1. Re: Il valore d'uso dei dati (was: mail studenti UniMi outsourced a Microsoft) (Giuseppe Attardi) 2. Re: Blackout Libero Mail (Giuseppe Attardi) 3. Re: Il valore d'uso dei dati (was: mail studenti UniMi outsourced a Microsoft) (Giacomo Tesio) 4. "Certe cose è meglio non dirle" [Was: Blackout Libero Mail] (Damiano Verzulli) - - - Fa bene Giacomo a preoccuparsi che un eventuale middleware - cooperativa od altro - accumuli comunque dati, costruisca profili, li distribuisca -. Indirizzata a soggetto diverso, le piattaforme, è la stessa preoccupazione che avevo manifestato, ha ragione Giacomo nel temere che la falla si possa aprire a livello intermedio. Anche se è meglio dubitare di chi finora ha tratto profitto, è chiaro che nessuna "polizia", nessuna "magistratura" è perfetta, ogni uomo è corrompibile. Alla luce di queste ultime informazioni riformulo le domande: 1- tecnologicamente, quali rimedi per evitare l'accumulo di dati, la costruzione di profili, la loro distribuzione? Affidare i dati ad un intermediario fidato non sarà "LA SOLUZIONE" ma è un progresso rispetto ad oggi: il vantaggio supera i costi? 2- se i rimedi tecnologici non fossero possibili od adeguati, quali altri rimedi? 3- per ogni ipotesi normativa, domando: quali prove potrebbe fornire la tecnologia sulla violazione delle norme ipotizzate? Quanto "facili"? 4- il guadagno è la calamita che attrae le piattaforme ed appare guadagno (troppo) facile: sarebbe utile un'inversione nell'offerta di cookies che inizi la navigazione nella modalità "no cookies - zero cookies"? 5- tenendo conto di precedenti osservazioni manifestate in listaNexa, azioni collettive sono preferibili ad analoghi atti individuali, ma il 6 febbraio è vicinissimo: listaNexa riesce a proporre IMMEDIATAMENTE una richiesta di gruppo? Grazie per la vostra attenzione, cordialità. Duccio (Alessandro Marzocchi) Il giorno lun 30 gen 2023 alle ore 18:10 <nexa-request(a)server-nexa.polito.it> ha scritto: > > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: Il valore d'uso dei dati (was: mail studenti UniMi > outsourced a Microsoft) (Giuseppe Attardi) > 2. Re: Blackout Libero Mail (Giuseppe Attardi) > 3. Re: Il valore d'uso dei dati (was: mail studenti UniMi > outsourced a Microsoft) (Giacomo Tesio) > 4. "Certe cose è meglio non dirle" [Was: Blackout Libero Mail] > (Damiano Verzulli) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 30 Jan 2023 15:15:44 +0100 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > To: Giacomo Tesio <giacomo(a)tesio.it> > Cc: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Il valore d'uso dei dati (was: mail studenti UniMi > outsourced a Microsoft) > Message-ID: <408D3843-369D-4AF4-B807-F5850F337CAC(a)di.unipi.it> > Content-Type: text/plain; charset=utf-8 > > > > > On 30 Jan 2023, at 13:10, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > > Ciao Giuseppe, > > > >> On Mon, 30 Jan 2023 11:00:44 +0100 Giuseppe Attardi wrote: > >> > >> L’analisi non tiene conto del meccanismo delle aste con cui oggi si > >> pagano le inserzioni pubblicitarie > > > > Vero, perché la mia analisi non si limita alle ricadute economiche del > > controllo dei dati e dunque al loro valore "economico". > > > > Ho parlato espressamente di "valore d'uso" come fattore moltiplicativo > > dell'efficacia nella manipolazione di una popolazione. > > > > Si tratta di una forma di POTERE nuova, una leadership senza leader > > visibili a cui chiedere conto. > > > > Poi sì, la ricaduta economica di questo potere è minima: come dico > > sempre i fatturati di aziende come Google o Facebook sono irrilevanti a > > confronto del potere di cui dispongono grazie ai dati che hanno > > raccolto fin ora. > > > > Purtuttavia, minimizzare i costi della manipolazione ed aumentarne > > l'efficacia sono due facce della stessa medaglia: ricorda, Google non > > seleziona solamente chi deve vedere un determinato Ads, ma anche quali > > Ads (o risultati di ricerca, o notizie etc...) ciascun navigatore deve > > vedere. > > > > E lo fa costantemente, non solo per ragioni economiche, ma politiche. > > > > > >> Il valore del dato di ciascun singolo è irrilevante rispetto al > >> complesso. > > > > Questo è certamente vero, perché il complesso cresce appunto in modo > > esponenziale con ogni bit raccolto su tutti gli altri. > > > > Tuttavia, ogni nuovo bit raccolto su un individuo duplica l'efficacia > > delle manipolazioni cognitivo-comportamentali che Google può attuare su > > quell'individuo (e su tutti coloro che sono simili a lui rispetto alle > > dimensioni via via rilevanti). > > > > In altri termini, ogni nuovo bit raccolto su una persona da Google > > riduce la libertà di pensiero di quella persona quanto tutti i bit > > raccolti in precedenza su di lei (o su chiunque sia simile sotto le > > dimensioni rilevanti). > > > > Hai ragione: questa riduzione di libertà è minima se paragonata con > > quella complessivamente applicata all'intera popolazione sorvegliata. > > > > Ovvero, il potere POLITICO di Google è infinitamente superiore rispetto > > a quello coercitivo che può applicare ad un singolo individuo. > > > > Ma ciò non significa che il prossimo bit che Google raccoglierà su di > > te non ti danneggi gravemente, tanto più se di dati personali ne ha già > > raccolti tanti. > > > > > > Che poi questo danno sia difficile da quantificare economicamente, > > soprattutto con modelli primitivi come quelli attuali che non > > rappresentano la sua crescita esponenziale, è un discorso diverso. > > > > D'altro canto, se anche fosse lecito pagare per usare una persona > > (ovvero per imporgli la propria volontà, come con la pubblicità > > subliminale) ad un valore d'uso a crescita esponenziale dovrebbe > > corrispondere una retribuzione a crescita esponenziale. > > > > Solo così il compenso potrebbe essere equo. > > > > Al primo bit mi paghi un centesimo. Al secondo 2. Al terzo 4. > > Ma al centesimo bit mi dovrai pagare 2^99 centesimi. > > > > A quel punto però, dubito che esistano abbastanza soldi sul pianeta > > per ripagare il prossimo nuovo bit che Google acquisirà. > > > > Temo ci sia un errore in questa analisi del bit singolo, come lo riporti anche nel video della tua lezione. > Non è vero che un singolo dato divida a metà la platea, e il secondo a 1/4 e così via. > Un singolo dato distingue solo 1/3miliardi di tutti gli utenti e così il secondo. > Ciò che divide a metà è un attributo dei dati che condividono metà degli utenti, ossia 1,5 miliardi. Questo poi si divide ulteriormente a metà solo se trovi un altro attributo completamente indipendente dal precedente, ossia condiviso tra 1,5 miliardo di utenti ortogonale al precedente gruppo di 1,5 miliardi. Se i due attributi non sono ortogonali, la sua capacità di ulteriore discriminazione è inferiore o nulla. > Quindi ciò che devono fare gli inserzionisti è individuare quegli attributi che discriminano separandoli gruppi ampi e significativi di utenti. > > Per fare questo tipo di analisi occorre aggregare i dati di milioni di persone, come minimo, per poter effettuare estrapolazioni statistiche minimamente affidabili. > Lo scandalo Cambridge Analytica ha mostrato come bastino 5 attributi di psicometrica per discriminare gruppi di utenti significativi e rilevanti per una campagna politica. Ma il calcolo di quei 5 fattori richiede incrociare milioni di dati. > Come riportavo, FloC individua 350mila parametri: così tanti che il rischio di essere troppo selettivo ha spinto Google a ritirare la proposta, per passare a PAIR. > > Quindi ribadisco, da nessun punto di vista il dato di un singolo ha valore altamente rilevante, né per il singolo, né per l’aggregatore. > > > > >>> L'unico modo democratico di gestire i dati personali e minimizzarne > >>> la diffusione, vietarne la raccolta e limitarne al massimo la > >>> ritenzione, punendo con il carcere chiunque effettui e/o faciliti > >>> la manipolazione di una o più altre persone. > >> > >> Un po’ estremo: vietarne la raccolta bloccherebbe anche servizi > >> cruciali come il servizio sanitario. > > > > Beh, dipende. > > > > I miei dati personali sanitari potrebbero essere salvati su un MIO > > disco cifrati con una chiave pubblica che solo io o i miei cari > > possiamo decifrare per fornirne accesso ai medici. > > > > Tutto sta nel mettere in discussione l'architettura amministrativamente > > centralizzata del cloud (che poi è operativamente federata per ovvie > > ragioni di latenza lo stesso). > > > È del tutto simile alla soluzioni Solid e non dissimile dalle Data Cooperative. > > > > D'altro canto, a ben guardare nessuno (o almeno, non io) vuole mettere > > in discussione l'importanza di sistemi di fiducia quali il rapporto > > medico-paziente: mi fido abbastanza poco di chi promuove sistemi > > "trust-less". > > > > Si tratta però di rendere l'uso della fiducia ricevuta trasparente > > (poter cioè verificare puntualmente e chiaramente come l'hai usata) > > e facile da riattribuire: se posso toglierti fiducia con un click > > perché hai abusato dei dati che ti ho fornito e mi è facile scoprire > > che ne hai abusato, avrai un ottimo incentivo a non abusarne. > > > > Siamo però lontani anni luce da un sistema del genere, anche solo > > perché invece la fiducia "a scatola chiusa" e "vincolata" tramite > > lock-in o pratiche simili è notoriamente una forma di potere cui > > molti ambiscono e pochi sono disposti a rinunciare. > > > Le soluzioni che cito mantengono agli utenti il possesso dei dati e i criteri di concessione del loro utilizzo. > > Queste soluzioni sono più praticabili che lasciare in mano i dati ai singoli, che dovrebbero diventare esperti tecnologi e di norme giuridiche per stabilire come comportarsi, caso per caso, come ad esempio avviene oggi col consenso informato per i cookie su ciascun sito. > > Il vantaggio di usare delle cooperative è proprio di non lasciare ogni utente solo in un confronto sbilanciato tra grandi aziende che detengono potere economico, tecnico e sono quindi in grado di ricattare l’utente: o accetti o niente servizio. > > Affidarsi a una cooperativa significa delegare a qualcuno di cui ci si fida di curare i tuoi interessi. Una cooperativa con milioni/miliardi di utenti sarebbe in grado di controbilanciare i poteri delle big tech e negoziare condizioni a vantaggio dei suoi associati. > Per esempio, potrebbe raccogliere compensi per le sue funzioni ed usarli per erogare servizi agli associati, sostenere gli sviluppi di soluzioni Open Source e/o svolgere ricerche sulle tematiche per inventare soluzioni a beneficio di tutti, evitando che sia Google a proporre tecniche proprietarie come PAIR. > > Del resto le cooperative sono un’invenzione del ‘800 proprio come alternativa alle aziende di capitale con scopo di lucro. > > > > Quindi al momento è importante minimizzare l'accumulo e l'uso dei dati. > > > > Si potrebbe vietarli in generale e autorizzare puntualmente per legge > > _specifici_ trattamenti nell'interesse della persona, ma solo con le > > necessarie garanzie tecniche. > > > Dare indicazioni su questo e farle rispettare verso i propri associati sarebbe esattamente il compito delle data cooperative. > > — Beppe > > > > > Giacomo > > > ------------------------------ > > Message: 2 > Date: Mon, 30 Jan 2023 16:04:11 +0100 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Blackout Libero Mail > Message-ID: <DBEC2283-B281-430D-A3C7-E7C72E96498F(a)di.unipi.it> > Content-Type: text/plain; charset=utf-8 > > > > > On 30 Jan 2023, at 15:08, nexa-request(a)server-nexa.polito.it wrote: > > …. > > > > - ieri il Rettore lo ha chiamato: un altro Rettore gli ha detto che > > hanno la posta su GMAIL. Funziona benissimo, ed è gratis; > > …. > > > Qualche settimana fa un funzionario di Google si è fatto vivo per spiegare che il servizio Google Workplace (ex GSuite for Education), che prevedeva spazio disco illimitato gratis, utilizzo di GMail, Classroom e Meet, non lo è più e l’Università di Pisa deve rientrare sotto il limite di 450GB totali o pagare un abbonamento commisurato al numero di utenti. > 450GB di spazio disco ridondato, più qualche server sarebbero ammortizzabili in 3 anni a meno di €10.000/anno e anche includendo lo stipendio di 3 tecnici per tenere in piedi il servizio costerebbero molto meno dell’abbonamento richiesto da Google. > Se invece a farsi i servizi ciascuna università per conto proprio, fosse un’associazione di tutte 80, il costo sarebbe ancora inferiore e il servizio più affidabile. > > Ma la cosa più stupefacente è che, subito dopo aver riportato quanto sopra nella mailing list del dipartimento in cui si chiedeva il parere dei colleghi, sono stato eliminato dalla lista dal direttore in persona. > Certe cose è meglio non dirle. > > — Beppe > > > Torno alla domanda: cosa fa la differenza fra "A" e "B"? > > > > Bye, > > DV > > > > > > -- > > Damiano Verzulli > > e-mail: damiano(a)verzulli.it > > --- > > > ------------------------------ > > Message: 3 > Date: Mon, 30 Jan 2023 17:14:49 +0100 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: Giuseppe Attardi <attardi(a)di.unipi.it> > Cc: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Il valore d'uso dei dati (was: mail studenti UniMi > outsourced a Microsoft) > Message-ID: <20230130171449.0000039b(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > On Mon, 30 Jan 2023 15:15:44 +0100 Giuseppe Attardi wrote: > > > Temo ci sia un errore in questa analisi del bit singolo, come lo > > riporti anche nel video della tua lezione. Non è vero che un singolo > > dato divida a metà la platea, e il secondo a 1/4 e così via. [...] > > Vero: nel video, così come nella analisi che ho riportato qui ci sono > molte semplificazioni perché le lezioni erano destinate a persone > completamente prive di competenze matematiche ed informatiche > precedenti e qui non volevo essere troppo prolisso. > > Hai ragione: un bit su una persona non dimezza il costo di manipolare > un'intera popolazione: devi conoscere quel bit su tutti i membri (o > comunque una quantità sufficiente da poterlo dedurre in modo > probabilistico attraverso sulla restante parte sulla base delle > correlazioni che lo coinvolgono). > > Infatti, per semplificare _senza_mentire_ di solito parlo di "ogni nuovo > bit sulla popolazione" intendendo che lo conosco per tutti i membri. > > > D'altro canto, anche a livello individuale il valore d'uso dei dati > funziona nello stesso modo, permettendo la selezione del messaggio (o > della sequenza di messaggi) che producono un determinato comportamento. > > Supponiamo che voglio convincere propriamente TE a sostenere l'ingresso > dell'Italia in una guerra nucleare frontale contro la Russia. > Se non posso convincerti, voglio comunque disincentivare che tu ti > esprima contro. > > Ogni giorno vengono prodotti miliardi di messaggi sul tema. > > Ogni nuovo bit _rilevante_ che acquisisco su di te duplica la mia > capacità di decidere quali messaggi "personalizzati" efficaci inviarti. > > Ovviamente se analizziamo un singolo condizionamento su una singola > persona, la crescita del valore d'uso dipende dalla rilevanza del bit > per il condizionamento in questione di quella persona. > > Ci sono bit rilevanti per selezionare il messaggio migliore da > sottoporti per spingerti ad un certo comportamento e bit irrilevanti. > > Quelli irrilevanti non influenzano l'efficacia della manipolazione, ma > quelli rilevanti continuano ad avere un effetto moltiplicativo > esponenziale. > > > Tuttavia, un bit irrilevante per orientare il tuo comportamento in un > senso, può essere rilevante per orientare il tuo comportamento in un > altro: sapere se sei maschio o femmina potrebbe essere irrilevante per > la propensione alla guerra nucleare, ma potrebbe esserlo per > influenzare la tua opinione sull'aborto o su qualcos'altro. > > > Tuttavia ogni _nuovo_ bit su una singola persona (ovvero ortogonale e > non deducibile da quelli già disponibili) duplica anche l'efficacia > della manipolazione di un singolo individuo, dimezzando il numero di > messaggi "di suo interesse" fra cui scegliere per condizionarlo nello > spazio di attenzione disponibile, ed orientarne il comportamento nella > direzione desiderata. > > Insomma, la dinamica che viene interpretata comunemente come > "la polarizzazione delle opinioni sui social" è il risultato > dell'applicazione continua di questo meccanismo. > > Ed è ingenuo chiamarla polarizzazione: si tratta più che altro > segmentazione e normalizzazione all'interno di ciascun segmento. > > > > Quindi ribadisco, da nessun punto di vista il dato di un singolo ha > > valore altamente rilevante, né per il singolo, né per l’aggregatore. > > E come ho provato a spiegare ti sbagli perché il valore d'uso dei dati > non serve solo a selezionare le persone cui inviare un messaggio, ma > anche i messaggi da inviare ad una singola persona per orientarne il > comportamento. > > D'altro canto, una volta che la probabilità di produrre un determinato > comportamento in una singola persona è prossimo alla certezza, un bit > ulteriore, per quanto nuovo ed ortogonale a tutti gli altri aumenta in > modo marginale tale probabilità. > > MA può aumentare in modo NON marginale la probabilità di successo di > molte altre manipolazioni. Quante? Bella domanda... ci penso. :-) > > Però in fondo è abbastanza intuitivo: anche a livello individuale, tanto > meglio puoi prevedere a fronte di quali stimoli una persona reagirà > con un determinato comportamento, tanto più facilmente potrai produrre > quel comportamento, sottoponendolo nel momento giusto allo stimolo > giusto. > > > Questa riduzione di libertà duplica con ogni nuovo bit _rilevante_ > acquisito. E poiché non sappiamo a priori per quali manipolazioni un > certo bit sia rilevante, preferisco assumere che lo sia per tutte. > > > Matematicamente è una semplificazione eccessiva, ma eticamente no. > > In fondo, se anche Google potesse determinare SOLO UN mio > comportamento, menomando la mia libertà di pensiero in UNA SOLA > occasione, per me sarebbe già una violenza gravissima e inaccettabile. > > Con altre riduzioni della libertà individuale lo comprendiamo tutti > subito al volo: pensa alle violenze sessuali. > > > > > > Affidarsi a una cooperativa significa delegare a qualcuno di cui ci > > si fida di curare i tuoi interessi. Una cooperativa con > > milioni/miliardi di utenti sarebbe in grado di controbilanciare i > > poteri delle big tech e negoziare condizioni a vantaggio dei suoi > > associati. > > Anzitutto la copia dei dati non lascia tracce. > Questo di per sé rende opaco l'uso che queste cooperative farebbero di > quei dati e chi vi avrebbe accesso. E rende impossibile rimuovere con > certezza la fiducia: non saprai mai se una copia dei tuoi dati rimane > in una chiavetta della cooperativa [1]. > > Poi queste cooperative sarebbero oggetto di attacchi di ogni sorta, > dalla banale corruzione dei sistemisti a sofisticati attacchi > informatici: se metti tutte le uova in un paniere, quello attrae molte > più volpi (che magari sono anche incentivate a collaborare). > > > Infine, anche se non ci fosse alcuno di questi problemi, ti rendi conto > di cosa negozierebbero queste cooperative "a vantaggio degli associati"? > > Negozierebbero la menomazione degli associati stessi! > > E' un po' come proporre di aprire cooperative che negoziano con > gli stupratori il prezzo dello stupro degli iscritti, perché altrimenti > lo stupratore più ricco deciderà come stuprare tutti gratuitamente. > > NO! Dobbiamo arrestare gli stupratori, piuttosto! > > > Dobbiamo iniziare a pensare i nostri dati personali come una parte di > noi, una parte inviolabile della nostra persona. > Della nostra mente, per la precisione. > > Non puoi affittare un pezzo del tuo cervello. > E anche se ti fidassi di me ciecamente, non posso affittarlo neanche io. > > Neanche se fosse una parte piccola. > > > Perché non è una cosa che hai fatto e mi hai affidato: è un pezzo di te. > > > > Giacomo > > [1] LETTERALMENTE ciò che avvenne in Unicredit > https://www.bitdefender.com/blog/hotforsecurity/unicredit-leaks-3-million-c… > > > ------------------------------ > > Message: 4 > Date: Mon, 30 Jan 2023 18:09:53 +0100 > From: Damiano Verzulli <damiano(a)verzulli.it> > To: nexa(a)server-nexa.polito.it > Subject: [nexa] "Certe cose è meglio non dirle" [Was: Blackout Libero > Mail] > Message-ID: <8dbed4e3-d253-1112-db8f-662853c2d100(a)verzulli.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > Caro Prof. Attardi, > > si puo' certamente scegliere di andare in guerra armati di forconi > di legno e, magari, qualche sasso... Se il nemico, pero', nel frattempo > [mentre noi eravamo nelle caverne] si è armato di scudi, archi, frecce, > palle incendiarie.... e qualcuno, addirittura, gli ha pure "regalato" > fucili e cannoni.... non ci si puo' stupire di soccombere all'inizio > della prima battaglia. > > Non entro nel merito della notizia (che, tra l'altro, è "vecchia" > [1] ed impatta diversi altri Atenei, ovviamente [2]). Mi limito pero' a > sottolineare che: > > * il suo Ateneo ha un "Collegio dei Revisori dei Conti" [3] che, come > da Statuto, " [...] esercita il controllo di regolarità > amministrativa e contabile, assicurando, in conformità ai principi > dettati dal decreto legislativo n. 286/1999, la legittimità, la > regolarità e la correttezza dell'azione amministrativa". Se il suo > Ateneo sostiene dei costi che qualcuno ritiene sproporzionati o > addirittura inutili... sarebbe il caso di segnalarlo (nelle forme > opportune); > > * non dovrebbe essere necessario ma.... tenga conto che in tutti gli > Atenei (incluso il suo) esiste un Responsabile della prevenzione > della corruzione e della trasparenza [4] > > * esiste anche un Responsabile per la Transizione al Digitale [5], cui > la legge (rif. Art. 17 - del CAD [6]) assegna diversi compiti che > --a vari livelli-- intersecano le scelte che lei ha raccontato. Ad > esempio (il maiuscolo è mio): "...A tal fine, ciascuna pubblica > amministrazione affida [...] la transizione alla modalita' > operativa digitale [...] e i conseguenti processi di > riorganizzazione finalizzati alla realizzazione di > un'amministrazione digitale e aperta [...] attraverso UNA > MAGGIORE EFFICIENZA ED ECONOMITA'....."; > > * il mancato rispetto del CAD, sia da parte dell'RTD o, piu' > generalmente, dell'Ente nel suo complesso, puo' essere segnalato al > Difensore Civico, espressamente previsto dalla norma e gestito da > AGID [7] > > Inoltre, non va sottovalutato il principio della cosiddetta > "Responsabilita' Dirigenziale". Anche se sono ancora pochi i casi noti > al grande pubblico, sono diversi i provvedimenti che vedono i dirigenti > "colpevoli" di azioni che hanno comportato un danno erariale e, > pertanto, impongono loro il risarcimento del danno. Su una scala molto > diversa ed in un ambito molto diverso... è interessante, ad esempio, > questo provvedimento della Corte dei Conti dello scorso 22/12/2022 [8], > a sfavore di una partecipata pubblica (della mia citta'), che a pagina > 11 segnala cosa sia necessario fare rispetto a delle Polizze > Assicurative che la societa' aveva accesso a favore di alcuni > funzionari. Si legge: "Si ribadisce che le citate polizze vanno revocate > e la società deve recuperare presso il beneficiario le quote già versate". > > ...e tutto cio', senza neanche scomodare i livelli piu' "politici" (a > partire dal Rettore, in su) i quali dovrebbero promuovere certe scelte > sulla base di criteri che qui, fra i Nexiani, sono palesi... ma altrove, no. > > Sicuramente dimentico qualcosa... Chiudo, pero', segnalando che "le > chiacchiere, le porta via il vento". Qualunque cosa si faccia, quindi, > serve... come minimo, una PEC: lei non ha idea di quale impatto comporti > una PEC ben argomentata spedita ai recapiti giusti... > > Tutto cio' premesso.... la invito a riconsiderare tutta la sua vicenda e > valutare se/come andare in battaglia... alla luce di tutte queste belle > armi che il nostro ordinamento le mette a disposizione. > > Insomma: non è che... "Certe cose è meglio non dirle". È semplicemente > che... vanno dette nei modi opportuni, nelle sedi opportune ed ai > referenti corretti. > > Un caro saluto, > DV > > [1] https://support.google.com/a/answer/10431555?hl=it > [2] non posso fornire dettagli, ma sono _DIVERSI_ gli Atenei che se ne > stanno occupando, gia' da fine 2022 (un esempio pubblico, è qui: > https://t.me/eticadigitalegruppo/59726 ). Interessante il fatto che la > "deadline" è diversa per tutti, in quanto è funzione della data di > scadenza delle sottoscrizioni precedentemente attive. In alcuni, in > particolare, il provvedimento NON è ancora "attivo" > [3] > https://www.unipi.it/index.php/organi-dell-ateneo/itemlist/category/202-col… > [4] > https://www.unipi.it/index.php/amministrazione/itemlist/category/1997-staff… > [5] > https://indicepa.gov.it/ipa-portale/consultazione/responsabile-transizione-… > [6] > http://www.normattiva.it/eli/id/2005/05/16/005G0104/CONSOLIDATED/20230130 > [7] https://www.agid.gov.it/it/agenzia/difensore-civico-il-digitale > [8] > https://www.corteconti.it/HOME/Documenti/DettaglioDocumenti?Id=d63fab57-3fa… > > > Il 30/01/23 16:04, Giuseppe Attardi ha scritto: > > On 30 Jan 2023, at 15:08, nexa-request(a)server-nexa.polito.it wrote: > >> …. > >> > >> - ieri il Rettore lo ha chiamato: un altro Rettore gli ha detto che > >> hanno la posta su GMAIL. Funziona benissimo, ed è gratis; > >> …. > >> > > Qualche settimana fa un funzionario di Google si è fatto vivo per spiegare che il servizio Google Workplace (ex GSuite for Education), che prevedeva spazio disco illimitato gratis, utilizzo di GMail, Classroom e Meet, non lo è più e l’Università di Pisa deve rientrare sotto il limite di 450GB totali o pagare un abbonamento commisurato al numero di utenti. > > 450GB di spazio disco ridondato, più qualche server sarebbero ammortizzabili in 3 anni a meno di €10.000/anno e anche includendo lo stipendio di 3 tecnici per tenere in piedi il servizio costerebbero molto meno dell’abbonamento richiesto da Google. > > Se invece a farsi i servizi ciascuna università per conto proprio, fosse un’associazione di tutte 80, il costo sarebbe ancora inferiore e il servizio più affidabile. > > > > Ma la cosa più stupefacente è che, subito dopo aver riportato quanto sopra nella mailing list del dipartimento in cui si chiedeva il parere dei colleghi, sono stato eliminato dalla lista dal direttore in persona. > > Certe cose è meglio non dirle. > > > > — Beppe > > > >> Torno alla domanda: cosa fa la differenza fra "A" e "B"? > >> > >> Bye, > >> DV > >> > >> > >> -- > >> Damiano Verzulli > >> e-mail:damiano@verzulli.it > >> --- > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > -- > Damiano Verzulli > e-mail:damiano@verzulli.it > --- > possible?ok:while(!possible){open_mindedness++} > --- > "...I realized that free software would not generate the kind of > income that was needed. Maybe in USA or Europe, you may be able > to get a well paying job as a free software developer, but not > here [in Africa]..." -- Guido Sohne - 1973-2008 > http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html > >

Jan. 30, 2023

big Microsoft 365, Teams, and Outlook outage

by Giuseppe Attardi

Quando succede in Italia si dice che non abbiamo le competenze, la capacità manageriale, la cultura della sicurezza, ecc. Se succede a Microsoft per una causa simile, l’aggiornamento di un software di terze parti, nessuno ne parla. Certo, entrambi sono casi deprecabili, ma non uno peggio dell’altro. Dimostrano semplicemente che nessuno è infallibile, semmai che c’è ancora molto da perfezionare nelle procedure di aggiornamento e di recovery. — Beppe https://www.zdnet.com/home-and-office/work-life/that-big-microsoft-365-team…

Jan. 30, 2023

"Certe cose è meglio non dirle" [Was: Blackout Libero Mail]

by Damiano Verzulli

Caro Prof. Attardi, si puo' certamente scegliere di andare in guerra armati di forconi di legno e, magari, qualche sasso... Se il nemico, pero', nel frattempo [mentre noi eravamo nelle caverne] si è armato di scudi, archi, frecce, palle incendiarie.... e qualcuno, addirittura, gli ha pure "regalato" fucili e cannoni.... non ci si puo' stupire di soccombere all'inizio della prima battaglia. Non entro nel merito della notizia (che, tra l'altro, è "vecchia" [1] ed impatta diversi altri Atenei, ovviamente [2]). Mi limito pero' a sottolineare che: * il suo Ateneo ha un "Collegio dei Revisori dei Conti" [3] che, come da Statuto, " [...] esercita il controllo di regolarità amministrativa e contabile, assicurando, in conformità ai principi dettati dal decreto legislativo n. 286/1999, la legittimità, la regolarità e la correttezza dell'azione amministrativa". Se il suo Ateneo sostiene dei costi che qualcuno ritiene sproporzionati o addirittura inutili... sarebbe il caso di segnalarlo (nelle forme opportune); * non dovrebbe essere necessario ma.... tenga conto che in tutti gli Atenei (incluso il suo) esiste un Responsabile della prevenzione della corruzione e della trasparenza [4] * esiste anche un Responsabile per la Transizione al Digitale [5], cui la legge (rif. Art. 17 - del CAD [6]) assegna diversi compiti che --a vari livelli-- intersecano le scelte che lei ha raccontato. Ad esempio (il maiuscolo è mio): "...A tal fine, ciascuna pubblica amministrazione affida [...] la transizione alla modalita' operativa digitale [...] e i conseguenti processi di riorganizzazione finalizzati alla realizzazione di un'amministrazione digitale e aperta [...] attraverso UNA MAGGIORE EFFICIENZA ED ECONOMITA'....."; * il mancato rispetto del CAD, sia da parte dell'RTD o, piu' generalmente, dell'Ente nel suo complesso, puo' essere segnalato al Difensore Civico, espressamente previsto dalla norma e gestito da AGID [7] Inoltre, non va sottovalutato il principio della cosiddetta "Responsabilita' Dirigenziale". Anche se sono ancora pochi i casi noti al grande pubblico, sono diversi i provvedimenti che vedono i dirigenti "colpevoli" di azioni che hanno comportato un danno erariale e, pertanto, impongono loro il risarcimento del danno. Su una scala molto diversa ed in un ambito molto diverso... è interessante, ad esempio, questo provvedimento della Corte dei Conti dello scorso 22/12/2022 [8], a sfavore di una partecipata pubblica (della mia citta'), che a pagina 11 segnala cosa sia necessario fare rispetto a delle Polizze Assicurative che la societa' aveva accesso a favore di alcuni funzionari. Si legge: "Si ribadisce che le citate polizze vanno revocate e la società deve recuperare presso il beneficiario le quote già versate". ...e tutto cio', senza neanche scomodare i livelli piu' "politici" (a partire dal Rettore, in su) i quali dovrebbero promuovere certe scelte sulla base di criteri che qui, fra i Nexiani, sono palesi... ma altrove, no. Sicuramente dimentico qualcosa... Chiudo, pero', segnalando che "le chiacchiere, le porta via il vento". Qualunque cosa si faccia, quindi, serve... come minimo, una PEC: lei non ha idea di quale impatto comporti una PEC ben argomentata spedita ai recapiti giusti... Tutto cio' premesso.... la invito a riconsiderare tutta la sua vicenda e valutare se/come andare in battaglia... alla luce di tutte queste belle armi che il nostro ordinamento le mette a disposizione. Insomma: non è che... "Certe cose è meglio non dirle". È semplicemente che... vanno dette nei modi opportuni, nelle sedi opportune ed ai referenti corretti. Un caro saluto, DV [1] https://support.google.com/a/answer/10431555?hl=it [2] non posso fornire dettagli, ma sono _DIVERSI_ gli Atenei che se ne stanno occupando, gia' da fine 2022 (un esempio pubblico, è qui: https://t.me/eticadigitalegruppo/59726 ). Interessante il fatto che la "deadline" è diversa per tutti, in quanto è funzione della data di scadenza delle sottoscrizioni precedentemente attive. In alcuni, in particolare, il provvedimento NON è ancora "attivo" [3] https://www.unipi.it/index.php/organi-dell-ateneo/itemlist/category/202-col… [4] https://www.unipi.it/index.php/amministrazione/itemlist/category/1997-staff… [5] https://indicepa.gov.it/ipa-portale/consultazione/responsabile-transizione-… [6] http://www.normattiva.it/eli/id/2005/05/16/005G0104/CONSOLIDATED/20230130 [7] https://www.agid.gov.it/it/agenzia/difensore-civico-il-digitale [8] https://www.corteconti.it/HOME/Documenti/DettaglioDocumenti?Id=d63fab57-3fa… Il 30/01/23 16:04, Giuseppe Attardi ha scritto: > On 30 Jan 2023, at 15:08, nexa-request(a)server-nexa.polito.it wrote: >> …. >> >> - ieri il Rettore lo ha chiamato: un altro Rettore gli ha detto che >> hanno la posta su GMAIL. Funziona benissimo, ed è gratis; >> …. >> > Qualche settimana fa un funzionario di Google si è fatto vivo per spiegare che il servizio Google Workplace (ex GSuite for Education), che prevedeva spazio disco illimitato gratis, utilizzo di GMail, Classroom e Meet, non lo è più e l’Università di Pisa deve rientrare sotto il limite di 450GB totali o pagare un abbonamento commisurato al numero di utenti. > 450GB di spazio disco ridondato, più qualche server sarebbero ammortizzabili in 3 anni a meno di €10.000/anno e anche includendo lo stipendio di 3 tecnici per tenere in piedi il servizio costerebbero molto meno dell’abbonamento richiesto da Google. > Se invece a farsi i servizi ciascuna università per conto proprio, fosse un’associazione di tutte 80, il costo sarebbe ancora inferiore e il servizio più affidabile. > > Ma la cosa più stupefacente è che, subito dopo aver riportato quanto sopra nella mailing list del dipartimento in cui si chiedeva il parere dei colleghi, sono stato eliminato dalla lista dal direttore in persona. > Certe cose è meglio non dirle. > > — Beppe > >> Torno alla domanda: cosa fa la differenza fra "A" e "B"? >> >> Bye, >> DV >> >> >> -- >> Damiano Verzulli >> e-mail:damiano@verzulli.it >> --- > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Jan. 30, 2023

Re: [nexa] Il valore d'uso dei dati (was: mail studenti UniMi outsourced a Microsoft)

by Giacomo Tesio

On Mon, 30 Jan 2023 15:15:44 +0100 Giuseppe Attardi wrote: > Temo ci sia un errore in questa analisi del bit singolo, come lo > riporti anche nel video della tua lezione. Non è vero che un singolo > dato divida a metà la platea, e il secondo a 1/4 e così via. [...] Vero: nel video, così come nella analisi che ho riportato qui ci sono molte semplificazioni perché le lezioni erano destinate a persone completamente prive di competenze matematiche ed informatiche precedenti e qui non volevo essere troppo prolisso. Hai ragione: un bit su una persona non dimezza il costo di manipolare un'intera popolazione: devi conoscere quel bit su tutti i membri (o comunque una quantità sufficiente da poterlo dedurre in modo probabilistico attraverso sulla restante parte sulla base delle correlazioni che lo coinvolgono). Infatti, per semplificare _senza_mentire_ di solito parlo di "ogni nuovo bit sulla popolazione" intendendo che lo conosco per tutti i membri. D'altro canto, anche a livello individuale il valore d'uso dei dati funziona nello stesso modo, permettendo la selezione del messaggio (o della sequenza di messaggi) che producono un determinato comportamento. Supponiamo che voglio convincere propriamente TE a sostenere l'ingresso dell'Italia in una guerra nucleare frontale contro la Russia. Se non posso convincerti, voglio comunque disincentivare che tu ti esprima contro. Ogni giorno vengono prodotti miliardi di messaggi sul tema. Ogni nuovo bit _rilevante_ che acquisisco su di te duplica la mia capacità di decidere quali messaggi "personalizzati" efficaci inviarti. Ovviamente se analizziamo un singolo condizionamento su una singola persona, la crescita del valore d'uso dipende dalla rilevanza del bit per il condizionamento in questione di quella persona. Ci sono bit rilevanti per selezionare il messaggio migliore da sottoporti per spingerti ad un certo comportamento e bit irrilevanti. Quelli irrilevanti non influenzano l'efficacia della manipolazione, ma quelli rilevanti continuano ad avere un effetto moltiplicativo esponenziale. Tuttavia, un bit irrilevante per orientare il tuo comportamento in un senso, può essere rilevante per orientare il tuo comportamento in un altro: sapere se sei maschio o femmina potrebbe essere irrilevante per la propensione alla guerra nucleare, ma potrebbe esserlo per influenzare la tua opinione sull'aborto o su qualcos'altro. Tuttavia ogni _nuovo_ bit su una singola persona (ovvero ortogonale e non deducibile da quelli già disponibili) duplica anche l'efficacia della manipolazione di un singolo individuo, dimezzando il numero di messaggi "di suo interesse" fra cui scegliere per condizionarlo nello spazio di attenzione disponibile, ed orientarne il comportamento nella direzione desiderata. Insomma, la dinamica che viene interpretata comunemente come "la polarizzazione delle opinioni sui social" è il risultato dell'applicazione continua di questo meccanismo. Ed è ingenuo chiamarla polarizzazione: si tratta più che altro segmentazione e normalizzazione all'interno di ciascun segmento. > Quindi ribadisco, da nessun punto di vista il dato di un singolo ha > valore altamente rilevante, né per il singolo, né per l’aggregatore. E come ho provato a spiegare ti sbagli perché il valore d'uso dei dati non serve solo a selezionare le persone cui inviare un messaggio, ma anche i messaggi da inviare ad una singola persona per orientarne il comportamento. D'altro canto, una volta che la probabilità di produrre un determinato comportamento in una singola persona è prossimo alla certezza, un bit ulteriore, per quanto nuovo ed ortogonale a tutti gli altri aumenta in modo marginale tale probabilità. MA può aumentare in modo NON marginale la probabilità di successo di molte altre manipolazioni. Quante? Bella domanda... ci penso. :-) Però in fondo è abbastanza intuitivo: anche a livello individuale, tanto meglio puoi prevedere a fronte di quali stimoli una persona reagirà con un determinato comportamento, tanto più facilmente potrai produrre quel comportamento, sottoponendolo nel momento giusto allo stimolo giusto. Questa riduzione di libertà duplica con ogni nuovo bit _rilevante_ acquisito. E poiché non sappiamo a priori per quali manipolazioni un certo bit sia rilevante, preferisco assumere che lo sia per tutte. Matematicamente è una semplificazione eccessiva, ma eticamente no. In fondo, se anche Google potesse determinare SOLO UN mio comportamento, menomando la mia libertà di pensiero in UNA SOLA occasione, per me sarebbe già una violenza gravissima e inaccettabile. Con altre riduzioni della libertà individuale lo comprendiamo tutti subito al volo: pensa alle violenze sessuali. > Affidarsi a una cooperativa significa delegare a qualcuno di cui ci > si fida di curare i tuoi interessi. Una cooperativa con > milioni/miliardi di utenti sarebbe in grado di controbilanciare i > poteri delle big tech e negoziare condizioni a vantaggio dei suoi > associati. Anzitutto la copia dei dati non lascia tracce. Questo di per sé rende opaco l'uso che queste cooperative farebbero di quei dati e chi vi avrebbe accesso. E rende impossibile rimuovere con certezza la fiducia: non saprai mai se una copia dei tuoi dati rimane in una chiavetta della cooperativa [1]. Poi queste cooperative sarebbero oggetto di attacchi di ogni sorta, dalla banale corruzione dei sistemisti a sofisticati attacchi informatici: se metti tutte le uova in un paniere, quello attrae molte più volpi (che magari sono anche incentivate a collaborare). Infine, anche se non ci fosse alcuno di questi problemi, ti rendi conto di cosa negozierebbero queste cooperative "a vantaggio degli associati"? Negozierebbero la menomazione degli associati stessi! E' un po' come proporre di aprire cooperative che negoziano con gli stupratori il prezzo dello stupro degli iscritti, perché altrimenti lo stupratore più ricco deciderà come stuprare tutti gratuitamente. NO! Dobbiamo arrestare gli stupratori, piuttosto! Dobbiamo iniziare a pensare i nostri dati personali come una parte di noi, una parte inviolabile della nostra persona. Della nostra mente, per la precisione. Non puoi affittare un pezzo del tuo cervello. E anche se ti fidassi di me ciecamente, non posso affittarlo neanche io. Neanche se fosse una parte piccola. Perché non è una cosa che hai fatto e mi hai affidato: è un pezzo di te. Giacomo [1] LETTERALMENTE ciò che avvenne in Unicredit https://www.bitdefender.com/blog/hotforsecurity/unicredit-leaks-3-million-c…

Jan. 30, 2023