- nexa - server-nexa.polito.it

L'età della finzione
by Antonio Iacono Dec. 16, 2020

Dec. 16, 2020

> Ricordiamoci di McLuhan" il medium e ' il messaggio" .La privacy e' un > problema ormai di secondo piano. La questione fondamentale sara' un nuovo > contratto sociale dei diritti dell'uomo nell'infosfera (lavoro, diritti e > doveri, gestione dei dati, liberta' di espressione). Vedi il mio saggio > L'eta' della finzione Bollati Boringhieri pag.205 Miti di Fondazione. Grazie Massimo, ho letto la prefazione di Marc Augé ed un estratto disponibile online. Davvero interessante. Di Marc Augé conoscevo, ovviamente, il concetto di "nonluogo". Ovvero quello "spazio utilizzato per usi molteplici, anonimo e stereotipato, privo di storicità e frequentato da gruppi di persone freneticamente in transito, che non si relazionano, situazione riscontrabile negli aeroporti, negli alberghi, sulle autostrade, nei grandi magazzini". Immagino che nel tuo saggio a questi luoghi si affianchi la Rete (non esistente ai tempi in cui Augè ha scritto: "Non-lieux. Introduction à une anthropologie de la surmodernité"). Dell'estratto che ho letto cito questo passaggio: "I media strutturano il nostro tempo quotidiano, stagionale e annuale. La vita politica, artistica, sportiva non può più essere concepita senza il circuito dei media. Essi modificano la nostra relazione con lo spazio e il tempo imponendoci attraverso la forza delle immagini una certa idea del bello, del vero e del bene e anche una certa idea dell’abituale, del normale e, in fin dei conti, della norma, cioè, oggi, una certa idea del consumo, che essi non smettono di riprodurre perché sono essi stessi dei beni di consumo. Come le altre cosmologie, la cosmotecnologia aliena coloro che la prendono alla lettera." Sulla televisione hanno scritto, già dall'inizio degli anni cinquanta, grandi scrittori e uomini di cultura del Novecento. Da Elemire Zolla ad Alberto Moravia, da Umberto Eco a Pier Paolo Pasolini. Mi aspetto che lo stesso avverrà con Internet. Antonio

5 13

informatica umanistica
by maurizio lana Dec. 15, 2020

Dec. 15, 2020

buongiorno a tutti, a proposito di informatica umanistica, in Italia c'è un'associazione per l'informatica umanistica e la cultura digitale - AIUCD, www.aiucd.it in Europa c'è un'associazione europea per le digital humanities - EADH, www.eadh.org a livello mondiale c'è un'alleanza delle organizzazioni di digital humanities - ADHO, www.adho.org oltre che a Pisa, anche a Bologna c'è una laurea magistrale in Digital humanities and digital knowledge, https://corsi.unibo.it/2cycle/DigitalHumanitiesKnowledge insegnamenti di informatica umanistica/digital humanities si trovano in vari corsi di laurea di area SSH, disguised sotto altri nomi perché né l'una né l'altra sono discipline formalmente esistenti nell’ordinamento dell'università italiana. per chi è nel campo, umanistica e digital humanities (al di là della differenza di lingua) non sono esattamente la stessa cosa ma a guardarle dal di fuori le differenze sono minori delle somiglianze. maurizio Il 14/12/20 18:14, nexa-request(a)server-nexa.polito.it ha scritto: >> C'è informatica umanistica, ma credo solo a Pisa. > Non lo sapevo! Molto interessante! > https://www.unipi.it/index.php/lauree/corso/10543 ------------------------------------------------------------------------ mentre percorreva il corridoio, chiedeva di poter parlare con un avvocato o con il consolato testimone Delta, atto di chiusura delle indagini della Procura di Roma sull'uccisione di Giulio Regeni ------------------------------------------------------------------------ Maurizio Lana - 347 7370925

1 0

Libertà di espressione e odio sul web
by Davide Brunello Dec. 15, 2020

Dec. 15, 2020

Buonasera, Più volte ad eventi tenutosi negli ultimi giorni è stato ribadito il seguente concetto: "l'odio nella realtà online è fisiologico (più che patologico) anche (ma non solo) perché la libertà di espressione deve essere tutelata" (perdonerete la sintesi e l'approssimazione). Non solo ritengo che questa convinzione sia limitata, ma anche relativa ad una realtà online che non è più quella di oggi, o che, volendo guardare all'orizzonte dell'evoluzione di internet, non sarà quella di domani (speranza, ma anche convinzione). Ieri internet era composta solo di forum tossici, gattini e pornografia (è veramente così?); la mia provocazione è: desideriamo veramente questo internet anche domani? Non sarebbe preferibile un luogo dove ognuno ha la possibilità di esprimere la propria opinione davvero in modo libero e l'attenzione non è raccolta da pochi prepotenti (che siano tali mediante il codice che scrivono o le parole che utilizzano)? La realtà online deriva dalle persone che la compongono, la alimentano e che sono responsabili nella realtà virtuale come in quella reale di quello che dicono e del modo in cui si comportano, nel rispetto delle varie regolamentazioni. Il codice, come le leggi, sono scritte da persone con idee e convinzioni che si riflettono negli usi e nel funzionamento di questi strumenti. Essere una persona disponibile o meno, più o meno diretta, in grado di relazionarsi nei modi più vari, si riflette tanto nella vita reale quanto in quella online. Giustificare in ragione di un contesto "spersonalizzante" atteggiamenti che non verrebbero adottati nel mondo reale, é semplicemente una convinzione fondata sull'immaturità (essere maturi, ovvero essere anche responsabili). Ritengo almeno importante fare contro-potere rispetto a convinzioni che sembrano essere di maggioranza che nel mio modesto parere, non sono attuali e hanno forti margini di miglioramento in termini di consapevolezza. A disposizione per trattare l'argomento, mi perdonerete nuovamente per la formulazione non particolarmente elaborata, ma sincera. Grazie, Davide Brunello

5 12

Hacia un nuevo paradigma en manejo de datos e inteligencia artificial
by don Luca Peyron Dec. 15, 2020

Dec. 15, 2020

Intervista interessante Buona lettura dl https://www.elpais.com.uy/economia-y-mercado/nuevo-paradigma-manejo-datos-i… _________________________ don Luca Peyron Direttore Ufficio per la Pastorale Universitaria Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

3 2

Sorveglianza: chi ha aiutato il Messico a spiare i giornalisti
by Giacomo Tesio Dec. 15, 2020

Dec. 15, 2020

Nel deserto del piccolo Stato di Puebla, a un paio d’ore di macchina da Città del Messico, una casa abbandonata è il luogo perfetto per una compravendita che richiede discrezione. È il maggio del 2013 e l’incontro è organizzato da intermediari che godono di una solida reputazione nel campo della sicurezza. Il venditore è l’azienda italiana Hacking Team, in quegli anni molto nota per i suoi software spia. Il compratore, almeno ufficialmente, dovrebbe essere la procura generale di Puebla, in procinto di dotarsi di nuove capacità di intercettazione e intrusione informatica. Il prodotto che ha reso celebre l’azienda milanese nel mondo dell’intelligence è il Remote Control System (Rcs): una tecnologia in grado di acquisire ed esplorare diversi tipi di documenti ospitati sul dispositivo di un bersaglio. [...] All’incontro nello Stato di Puebla partecipano due tecnici di Hacking Team, che hanno il compito di consegnare il prodotto alle autorità. Ma all’altro lato dello scambio si presenta Joaquin Arenal Romero: ufficiale dell’intelligence messicana già noto all’epoca per i suoi collegamenti con i Los Zetas, un cartello di narcotrafficanti che in quegli anni rafforzava il proprio controllo sul mercato nel Paese. [...] non era normale per il dipendente di Hacking Team inviato a Puebla, al suo primo incarico sul campo, come testimoniano alcune mail contenute in un archivio di oltre 400 gigabyte di documenti sottratti alla stessa società e resi pubblici da un hacker nel 2015. Fino a quel momento Hacking Team aveva difeso strenuamente i suoi affari, rivendicando l’importanza di Rcs nel contrasto alla criminalità organizzata e al terrorismo. [...] Dopo l’enorme fuga di informazioni che nel 2015 coinvolse Hacking Team fu possibile osservare come la società fosse impegnata in affari con decine di Paesi in cui avvengono sistematicamente violazioni dei diritti umani come Sudan, Azerbaijan e Russia. Del resto il fondatore David Vincenzetti era solito ricordare come la regola non scritta di questo mercato fosse la seguente: «Se un governo dice che una persona (un bersaglio, ndr) è un terrorista, allora è un terrorista» [...] «Sono convinto che gli abusi siano aumentati in tutto il mondo, ma è anche più difficile individuarli», commenta Scott-Railton: «Con l’Nso e altri che vanno nella direzione di vendere tecnologie “zero-click” che non si basano sugli Sms, siamo senz’altro in una situazione più difficile in termini di capacità di investigare». Ma la conseguenza dello sviluppo di queste tecnologie, riflette l’avvocato israeliano specializzato in diritti umani Eitay Mack, «è che in molti luoghi sarebbero in grado di identificare un Nelson Mandela prima ancora che sappia di essere il prossimo Nelson Mandela». Continua su https://irpimedia.irpi.eu/thecartelproject-hacking-team-nso/ Giacomo

1 0

Re: [nexa] una riflessione sul lavoro di Timnit Gebru ed una prospettiva che mi ha sorpreso
by Giuseppe Attardi Dec. 15, 2020

Dec. 15, 2020

+1 Sottolineo la questione del compute divide che sta emergendo tra coloro che possono permettersi le risorse per sviluppare grossi modelli DNN e chi no. Questo articolo fornisce dei numeri: The De-democratization of AI: Deep Learning and the Compute Divide in Artificial Intelligence Research https://arxiv.org/pdf/2010.15581.pdf -- > On 13 Dec 2020, at 23:54, nexa-request(a)server-nexa.polito.it wrote: > > Date: Sun, 13 Dec 2020 23:13:11 +0100 > From: Guido Vetere <vetere.guido(a)gmail.com <mailto:vetere.guido@gmail.com>> > To: nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > Subject: Re: [nexa] una riflessione sul lavoro di Timnit Gebru ed una > prospettiva che mi ha sorpreso > Message-ID: > <CAD3hHB4v6skE43hvto+NjpN0qjyNS-uSM90pqGmcy4L-SkMJCA(a)mail.gmail.com <mailto:CAD3hHB4v6skE43hvto+NjpN0qjyNS-uSM90pqGmcy4L-SkMJCA@mail.gmail.com>> > Content-Type: text/plain; charset="utf-8" > > Ciao Giovanna, e salve a tutt[i|e] da un vecchio neo-iscritto a questa ml. > > Riprendo qui questa discussione che s'era propagata per la rete producendo > chissà quanta CO2 :-) > > A leggere attentamente quello che la Gebru et al. hanno scritto e che ha > provocato la reazione di Google, a mio parere si evince che la > preoccupazione non sia tanto legata all'inquinamento prodotto > dall'addestramento delle Deep Neural Network (DNN), ma al fatto che un > certo tipo di reti (miliardi di parametri e addestramento non > supervisionato su petabyte di dati, es. GPT-3) sia di fatto appannaggio > esclusivo dei Big Tech (detti pudicamente 'wealthy organizations') e > rafforzino il loro monopolio e il loro potere. > > Vero è che produrre modelli (stime dei parametri) per questo tipo di reti > richiede molta energia, ma pensiamoci: se questa fosse prodotta da fonti > rinnovabili saremmo a nostro agio col fatto che solo OpenAI (si legga: > Microsoft) può usare GPT-3? Io no, per dire. > > Quanto alle DNN in genere, addestrarne una può essere una questione di ore > o di giorni, ma tendenzialmente si tratta di operazioni 'una tantum': > cambiare frequentemente questi modelli sarebbe un bel problema per il ciclo > di vita delle applicazioni. Non sappiamo ancora fare un'analisi accurata > del rapporto costi\benefici (la ricerca è solo agli inizi), ma credo sia > plausibile attendersi che, sotto il profilo energetico, non ci sia una > specificità così marcata dell'AI rispetto - che so - allo streaming. > > Produrre qualsiasi bene o servizio ha un impatto ambientale, possiamo in > scienza e coscienza dire che l'AI è particolarmente insostenibile per > l'ambiente? Più ad esempio del consumo di carne bovina? Francamente, > stento a crederlo. > > Il rischio che va evitato, a mio avviso, è quello di abbaiare sotto > l'albero sbagliato. Poi può essere che sia io a sbagliare, ma parliamone. > > Infine, queste DNN bulimiche non sono l'unico modo, e forse neanche il > migliore, per ottenere certe funzionalità, ma di questo, se volete, alle > prossime puntate. > > Buona serata a tutt[e|i] > Guido > > > > > On Sun, 13 Dec 2020 at 20:44, Giovanna Sissa <sissa.giovanna(a)gmail.com <mailto:sissa.giovanna@gmail.com>> > wrote: > >> Personalmente ritengo che ?AI e sostenibilità ambientale? possano >> essere resi compatibili, ma non senza una precisa volontà e uno sforzo >> adeguato. Anche nella ricerca. Il primo passo è ammettere l?esistenza >> del problema. Il secondo è mettersi d?accordo su come quantificarlo. >> A proposito dell'impatto ambientale che deriva dal software (flashback >> n.4 e algoritmi di deep learning) e del mistero che aleggia intorno >> alla sua quantificazione, questo recentissimo progetto si propone di >> misurare le emissioni di CO2 prodotte dal software mentre lo si sta >> sviluppando: >> https://codecarbon.io <https://codecarbon.io/> >> L?impostazione concettuale mi pare seria. Qualcuno lo conosce, lo ha >> utilizzato o ha intenzione di farlo? >> >> Giovanna Sissa >> >> Il giorno mer 9 dic 2020 alle ore 23:57 Giacomo Tesio >> <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> ha scritto: >>> >>> Ciao Claudio, >>> >>> ti ringrazio per questa attenta ed approfondita riflessione e perché la >>> prospettiva che proponi mi ha fatto riflettere ed approfondire. >>> >>> On Wed, 9 Dec 2020 02:37:58 +0100 >>> Claudio Agosti <claudio.agosti(a)logioshermes.org <mailto:claudio.agosti@logioshermes.org>> wrote: >>> >>>> Quando ho letto di Timnit Gebru licenziata da Google ho >>>> pregiudizievolmente pensato che, poichè lei stesse in AI Ethics di >>>> Google, fosse una foglia di fico. [...] >>> >>> Personalmente condivido questo "pregiudizio" e francamente mi sembra >>> che il licenziamento della dottoressa Gebru confermi questa ipotesi. >>> >>> Non tanto perché dimostra come questi ricercatori vengano sbattuti >>> fuori nonappena provano a assumere posizioni scomode, ma perché >>> l'efficacia e la risonanza politica delle loro ricerche esplode >>> proprio grazie alla prepotenza di chi cerca di (anonimamente!!!) >>> insabbiarle. >>> >>>> E invece leggendo l'articolo e la spiegazione del paper ( >>>> >> https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-resear… <https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-resear…> >> ) >>>> [...] >>> >>> L'ho letto anche io, ma... non è il paper in questione. >>> >>> E boh... non mi sorprenderei se sfumature rilevanti fossero sfuggite. >>> >>>> flashback n.1: 2016 >>>> >>>> Google e Facebook rivoluzionano l'uso delle artificial intelligence >>>> quando rilasciano rispettivamente Tensor Flow e Caffe2|pyTorch. Sono >>>> dei framework open source di deep learning. Siccome sono open source >>>> è chiaro che non sia lì l'intelligenze [...] il sottotesto mai messo >>>> in discussione è: "per avere un'AI accurata devi avere un sacco di >>>> dati". o anche "La tua azienda può avere un'ottima AI, se e solo se >>>> collezioni e studi grandi quantità di dati". E' un modo per >>>> legittimare e consolidare questo trend intrinseco del capitalismo >>>> della sorveglianza. >>> >>> Ottima sintesi. :-) >>> >>> Non solo questo passaggio: vale per ciascuno dei tuoi flashback. >>> >>>> Definizione del problema irrisolto >>>> >>>> Comprendere e rispettare le sfumature culturali, linguistiche, delle >>>> demografiche non dominanti. Possiamo anche fare una riflessione >>>> geografica: se la capitale culturale usa un certo slang, questo sarà >>>> riproposto alle periferie, risultando inevitabilmente meno adeguato, >>>> inclusivo, se non addirittura fuori luogo o colonizzatore. >>>> >>>> Non parliamo poi della chiara impossibilità che avrebbe un sistema >>>> così egemonico a rispettare le differenze personali. >>> >>> Detto così sembra un bug, mentre è una feature! >>> >>> L'obiettivo è segmentare la popolazione in gruppi omogenei e distinti, >>> sufficientemente vasti da influenzare la narrazione e l'agenda politica >>> delle organizzazioni locali, ma senza mai costituire una massa critica >>> in grado di mettere in discussione il sistema. >>> >>> I gruppi minoritari che possono essere interessanti per queste >>> organizzazioni sono quelli vasti. Dei gruppi costituiti da 100 o 100 >>> persone al mondo non gli frega niente. Non avranno mai alcuna rilevanza. >>> Anche se questi gruppi magari sono decine di migliaia. >>> >>> E' un po' come la ricerca farmaceutica nell'ambito delle malattie rare. >>> >>>> Dicembre 2020 (il paper ed il licenziamento) >>>> >>>> Timnit Gebru stava lavorando ad un paper che spiegava l'impatto >>>> ambientale dell'addestramento dei modelli: >>>> >> https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-resear… <https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-resear…> >>>> se la teoria di Mark Z. fosse anche quella perseguita da Google, per >>>> la quale abbassare i bias significa addestrare modelli costantemente, >>>> per ogni contesto culturale, tenendo in considerazione ogni >>>> differenza sensibile che avrebbe potuto urtare gli utenti, si avrebbe >>>> avuto un dispendio energetico significativo. >>> >>> Si ha anche, inevitabilmente, una imperscrutabile black box che nessuno >>> può permettersi di analizzare semplicemente perché continuamente >>> cangiante. Fra l'evitare i danni alle minoranze ed evitare il biasimo >>> per questi danni, quale credi sia la priorità di queste aziende? >>> >>>> In pratica: "AI etica" e sostenibilità ambientale sono incompatibili. >>> >>> Al di là dell'etica: Alpha Zero è un solitario! :-D >>> >>> Ma allo stato attuale, il "Deep Learning" è insostenibile anche da una >>> prospettiva socio-politica perché i dati necessari alla programmazione >>> statistica costituiscono di per sé stessi esternalità negative: una >>> volta sfuggiti dal controllo degli emittenti, possono danneggiare la >>> socità in moltissimi modi. >>> >>>> E questo, davanti all'inevitabile catastrofe climatica, è un assioma >>>> inaccettabile per Google, no? >>> >>> Forse. >>> >>> Ma la mia intuizione è che ci sia molto di più dietro questo autogol. >>> >>> Voglio dire, questo collegamento (che per la verità non mi suona >>> particolarmente nuovo) spiega la segretezza sull'autore dei feedback che >>> imponevano la ritrattazione? >>> >>> Se ciò che temono in Google è biasimo per il consumo di energia, allora >>> i costi energetici stimati in accademia deve essere di due o tre ordini >>> di grandezza inferiore a quelli effettivamente affrontati da Google. >>> >>> Se quello fosse il problema, allora la dirigenza di Google teme che si >>> scopra qualcosa di MOOOLTOOO più scomodo della propria responsabilità >>> nei confronti della catastrofe climatica imminente. >>> >>> Qualcosa che magari potrebbe costituire concorrenza sleale? >>> >>> >>>> questa donna e le sue ricerche meritano il rispetto di chi >>>> dall'interno di una corporation stava per sollevare un deadlock >>>> logico che ancora non si era visto, e che connette due problemi >>>> politici complessi attualmente irrisolti. >>> >>> Vero. >>> >>> Ma ciò non significa che non fosse una "impiegata trofeo" (un token, >>> come dicevi) assunto per fare ethics washing. Cosa che rimane vera per >>> tutti i suoi colleghi nel gruppo di AI Ethics. Colleghi che perdono >>> qualsiasi credibilità scientifica nel momento in cui accettano di >>> sottostare alla censura di Google. Cos'altro accetteranno domani? >>> >>> >>> Quanto alla dottoressa Gebru, invece, le sue ricerche acquisteranno >>> notevole visibilità PROPRIO perché è stata vittima del licenziamento. >>> >>> Da adesso in poi non avrà accesso ai dati come quando era in Google. >>> D'altro canto, essendo dotata di un'intelligenza naturale, quanto ha >>> visto e vissuto le potrebbe essere più che sufficiente. >>> >>> >>> Giacomo >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa> >> _______________________________________________

3 2

New Deep Learning Method Helps Robots Become Jacks-of-all-Trades
by don Luca Peyron Dec. 15, 2020

Dec. 15, 2020

Buona lettura dl https://singularityhub.com/2020/12/14/new-deep-learning-method-helps-robots… _________________________ don Luca Peyron Direttore Ufficio per la Pastorale Universitaria Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

1 0

Big Tech Turns Its Lobbyists Loose on Europe, Alarming Regulators - The New York Times
by J.C. DE MARTIN Dec. 14, 2020

Dec. 14, 2020

Big Tech Turns Its Lobbyists Loose on Europe, Alarming Regulators Silicon Valley is building a powerful influence industry in Brussels, which has “never seen this kind of money” spent this way. https://www.nytimes.com/2020/12/14/technology/big-tech-lobbying-europe.html (Sent from my wireless device; please excuse brevity and typos (if any))

2 1

una riflessione sul lavoro di Timnit Gebru ed una prospettiva che mi ha sorpreso
by Claudio Agosti Dec. 14, 2020

Dec. 14, 2020

Quando ho letto di Timnit Gebru licenziata da Google ho pregiudizievolmente pensato che, poichè lei stesse in AI Ethics di Google, fosse una foglia di fico. Un'utile idiota sfruttata in un periodo di tempo, nella quale avrebbe creduto di poter cambiare la compagnia dell’interno, ed una volta esauritasi qualcun’altra avrebbe preso il suo ruolo. Quindi: partecipare a meeting, pubblicare articoli carichi di buone intenzioni, fare conferenze in cui si mescola la sua autocoscienza con la politica di google, che chiaramente nel frattempo non sarà cambiata di una virgola e il circolo della tokenizzazione* sarebbe continuato. E invece leggendo l'articolo e la spiegazione del paper ( https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-resear…) devo riconoscere che ho davvero rispettato la direzione della sua attività, se specialmente se messe in prospettiva con alcuni problemi irrisolti. Volevo condividere queste riflessioni, non so dire quanto siano scontate né quanto siano accurate, commenti sono benvenuti anche se puramente speculativi. E se avete poco tempo, leggete solo la parte "Dicembre 2020". flashback n.1: 2016 Google e Facebook rivoluzionano l'uso delle artificial intelligence quando rilasciano rispettivamente Tensor Flow e Caffe2|pyTorch. Sono dei framework open source di deep learning. Siccome sono open source è chiaro che non sia lì l'intelligenze, bensì in un altro componente che con questi framework puoi creare, si chiama "modello". I modelli si addestrano con enormi moli di dati, e se consideriamo che da quel momento inizia una stampa favorevole all'AI che la dipinge come salvifica e rivoluzionaria, il sottotesto mai messo in discussione è: "per avere un'AI accurata devi avere un sacco di dati". o anche "La tua azienda può avere un'ottima AI, se e solo se collezioni e studi grandi quantità di dati". E' un modo per legittimare e consolidare questo trend intrinseco del capitalismo della sorveglianza. Questo approccio porta con sé due problemi che non sono immediatamente visibili, uno è il cosiddetto bias. Questa parola ha un significato tecnico ben preciso, ma in pratica nel gergo non specialistico di chi commenta l'AI, si intendono i pregiudizi, le imprecisioni apprese dal modello durante l'addestramento, perchè derivate da peculiarità inattese dei dati. Queste hanno poi conseguenze sociali difficilmente evidenziabili. L'altro problema è la totale mancanza di rendicontabilità (AI accountability), che rende sia i bias meno ovvi, sia le compagnie più scaricate di responsabilità. Durante il processo di addestramento, il modello acquisisce le informazioni e le snatura del loro senso originale. Il deep learning dopo il 2016 sviluppa diversi modelli, tra cui alcuni specializzati per la generazione e l'interpretazione del testo scritto. I modelli stessi possono essere venduti o dati in licenza. Di noto c'è GPT, GPT-2 e GPT-3 di OpenAI, ma Google ha BERT di molto simile, che già è integrato nel del motore di ricerca. La dottoressa Gebru si concentra(va) sugli aspetti etici di questi modelli, e quindi, ridurre il bias. flashback n.2: (a memoria, tra 2016 e 2018) Google si fa forte di https://ai.google/principles, i suoi principi etici per l'AI giusta. Naturalmente etica in questo caso è il termine ampio e flessibile che permette loro di rimanere nel campo dell'autoregolamentazione. a.k.a. discendente edulcorato e specializzato di "don't be evil". flashback n.3: 2018 Mark Zuckerberg, interrogazione del senato U.S. gli viene costantemente chiesto come mai ci siano espressioni d'odio su facebook. La sua risposta è presa dal manualetto del sogno americano: "Senatore, quando ho creato Facebook nel dormitorio dell'università non pensavo avremmo raggiunto questo livello. Stiamo assumendo molti content moderators, ma si tratta di un problema irrisolto nel mondo. Noi grazie al progresso tecnologico, in 5 anni avremo sistemi di intelligenza artificiale che ci permetteranno di individuare ogni espressione d'odio e bloccarla subito". Sono, ero, sempre rimasto scettico di questa affermazione perché il linguaggio muta nel tempo, il contesto e le sfumature regionali, le dinamiche di potere tra le persone, sono elementi che rendono la stessa espressione d'odio o anche no. La risposta tecnosoluzioni sta di facebook mi pareva una supercazzola. Amenochè, Mark Z. non fosse così convinto di avere abbastanza dati da poter creare un modello per ogni contesto culturale. Sembra che l'obiettivo fosse avere abbastanza modelli da saper coprire le diverse sfumature che prende il linguaggio, tenendo in considerazione la sua costante evoluzione e anche le differenze regionali/provinciali. Avere tanti modelli e quindi realizzare la profezia "con abbastanza dati e potenza di calcolo possiamo interpretare il mondo correttamente". Faccio il primo esempio che mi viene in mente. Un ipotetico modello addestrato sul il milanese storico, leggerebbe "pirla" con il significato di "trottola", mentre in altre regioni sarebbe interpretato come un insulto. E' chiaro che questo non possa seguire le sfumature lessicali che rendono una sequenza di parole un'espressione d'odio. Del resto che ne sai di come mi offendo io se mi dicono pirla? se me lo dicesse la mia capa o un vecchio amico gli attribuirò un significato diverso, ma forse a Mark interessava almeno evitare le cose più imbarazzanti ed eclatanti che la stampa nordamericana poteva trovare. (del resto, è l'unica stampa che conta per FB, non perdetevi: https://www.buzzfeednews.com/article/craigsilverman/facebook-ignore-politic… ) flashback n.4: 2019 Addestrare un modello di AI può causare emissioni pari a 5 automobili in tutta la loro vita ( https://www.technologyreview.com/2019/06/06/239031/training-a-single-ai-mod… ). Definizione del problema irrisolto Comprendere e rispettare le sfumature culturali, linguistiche, delle demografiche non dominanti. Possiamo anche fare una riflessione geografica: se la capitale culturale usa un certo slang, questo sarà riproposto alle periferie, risultando inevitabilmente meno adeguato, inclusivo, se non addirittura fuori luogo o colonizzatore. Non parliamo poi della chiara impossibilità che avrebbe un sistema così egemonico a rispettare le differenze personali. In sintesi, i significati del linguaggio maggioritari, usati della demografica dominante, sarebbero quelli appresi dal modello e riproposti in ogni contesto, indipendentemente se il contesto sia o meno quello che ha partecipato all'addestramento. Nel paper in lavorazione, menzionano come il movimento metoo abbia fatto cambiare il linguaggio e, quantomeno, facevano capire che questi modelli non possono essere ne eterni ne assoluti (es, non esisterà mai il modello "Inglese giusto") Dicembre 2020 (il paper ed il licenziamento) Timnit Gebru stava lavorando ad un paper che spiegava l'impatto ambientale dell'addestramento dei modelli: https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-resear… se la teoria di Mark Z. fosse anche quella perseguita da Google, per la quale abbassare i bias significa addestrare modelli costantemente, per ogni contesto culturale, tenendo in considerazione ogni differenza sensibile che avrebbe potuto urtare gli utenti, si avrebbe avuto un dispendio energetico significativo. In pratica: "AI etica" e sostenibilità ambientale sono incompatibili. E questo, davanti all'inevitabile catastrofe climatica, è un assioma inaccettabile per Google, no? Poi su come si sia consumato il licenziamento, ci sono articoli più accurati che evidenziano la reazione molto inusuale di google sul trattamento del paper di ricerca (tra cui anche un twitter tread del manager che l’ha licenziata e la sua email interna). Le posizioni inizieranno gradualmente ad estremizzarsi anche perchè la licenziata/"we accept your resignation" aveva un background di attivismo tecno-politico non sottostimabile, e il movimento dei google walkout non ha atteso ad affezionarsi alla causa ( https://googlewalkout.medium.com/setting-the-record-straight-isupporttimnit… ) Quindi, a dispetto del fatto che in un primo momento mi fosse sembrate l'utile idiota usata da Google per fare un po' di ethic-washing, questa donna e le sue ricerche meritano il rispetto di chi dall'interno di una corporation stava per sollevare un deadlock logico che ancora non si era visto, e che connette due problemi politici complessi attualmente irrisolti. ciao, Claudio * tokenizzazione significa "rendere una persona un token". E' un'ipotesi di sospetto diretta alle compagnie facoltose, che possano permettersi di avere persone appartenenti a categorie più rare (es, Timnit Gebru è una donna Eritrea-Statunitense, con tanti successi accademici alle spalle). In questo modo la compagnia può rivendicare una diversità esemplare. E' un peggiorativo, ma non è inteso nei confronti della persona-token, quanto più nell'azienda il quale management rimane della demografica dominante e non cambia veramente politiche in inclusività. Semplicemente, si compra i token e così si pulisce la coscienza in pubblico. Claudio Agosti, https://tracking.exposed, @_vecna PGP keybase.io/vecna - Research Associate - DATACTIVE University of Amsterdam https://data-activism.net

5 5

Amazon Becomes The Largest Corporate Buyer Of Renewable Energy
by Alberto Cammozzo Dec. 14, 2020

Dec. 14, 2020

<https://oilprice.com/Energy/Energy-General/Amazon-Becomes-The-Largest-Corpo…> Amazon has announced 26 new utility-scale wind and solar energy projects, making it the largest-ever corporate purchaser of renewable energy. The company has now invested in 6.5 gigawatts of wind and solar projects in total. They will supply its operations with more than 18 million megawatt-hours of renewable energy annually, enough to power 1.7 million U.S. homes for one year. The 26 new wind and solar projects are located across the globe, including Australia, the U.S., and the UK, and will provide 3.4 gigawatts of electricity. They will help supply renewable energy for Amazon’s offices, fulfillment centers, and Amazon Web Services data centers that support millions of customers globally. Amazon CEO, Jeff Bezos said: “This is just one of the many steps we’re taking that will help us meet our Climate Pledge.” Amazon aims to be net-zero carbon emissions across its business by 2040. Part of this commitment is powering Amazon using 100 percent renewable energy which it is now set to achieve in 2025, five years ahead of their 2030 target. Miranda Ballentine, CEO of Renewable Energy Buyers Alliance (REBA), said: “Private sector investment is essential to scaling renewable energy at the pace necessary to drive global climate action.” Last year, Amazon and Global Optimism co-founded The Climate Pledge, a commitment to reach the Paris Agreement 10 years early and be net-zero by 2040. The pledge has 31 signatories, including Unilever, Verizon, Siemens, and Microsoft.

1 0