March 2019 - nexa - server-nexa.polito.it

La Blockchain di Casaleggio e il voto elettronico

by Arturo Di Corinto

Ciao amici- non è mia abitudine mandare in lista gli articoli che scrivo, ma stavolta vi segnalo una news analysis che ho fatto per Agi con il contributo di un paio di nexiani come Stefano Quintarelli e Fabio Pietrosanti. Mi piacerebbe sapere cosa ne pensate. Eccolo: I tanti dubbi sul voto tramite blockchain che Casaleggio deve chiarire https://www.agi.it/blog-italia/cybersecurity/blockchain_rousseau_voto_elett… a dopo. ciao -- Arturo Di Corinto www.dicorinto.it ---------------------------------> AVVERTENZE AI SENSI DEL D.Lgs. 196/2003 Le informazioni contenute in questo messaggio di posta elettronica e/o nel/i file/s allegato/i sono da considerarsi strettamente riservate. Il loro utilizzo è consentito esclusivamente al destinatario del messaggio, per le finalità indicate nel messaggio stesso. Qualora riceviate questo messaggio senza esserne il destinatario, Vi preghiamo cortesemente di darcene notizia via e-mail e di procedere alla distruzione del messaggio stesso, cancellandolo dal Vostro sistema. Conservare il messaggio stesso, divulgarlo anche in parte, distribuirlo ad altri soggetti, copiarlo, od utilizzarlo per finalità diverse, costituisce comportamento contrario ai principi dettati dal D.Lgs. 196/2003

March 11, 2019

AI: the impending tragedy of the Commons – UCL IIPP Blog – Medium

by J.C. DE MARTIN

https://medium.com/iipp-blog/ai-the-impending-tragedy-of-the-commons-a972f9… Artificial intelligence (AI) can already do many things, from menial tasks such as helping people navigate traffic to more existential tasks such as diagnosing rheumatic heart disease in children or mapping and monitoring earthquake-prone regions. But these improvements require changes to policymaking and politics and a completely new level of data literacy in public services. Such changes also bring real challenges and an acceptance of a different type of risk. (Sent from my wireless device; please excuse brevity and typos (if any))

March 10, 2019

Re: [nexa] Cronache romane

by Giacomo

On March 10, 2019 10:40:41 AM UTC, Arturo Di Corinto <arturo.dicorinto(a)uniroma1.it> wrote: >Caro Pizzetti- >concordo sulla sua preoccupazione. Nondimeno, parlare di Etica del mondo >artificiale è una sfida cui non possiamo derogare. Il punto è che non è di "Etica del mondo artificiale" che dobbiamo discutere. Dobbiamo discutere di Etica aziendale o Etica politica senza ridere sotto i baffi. >L'Etica per quanto variabile, ha a che fare con i fini, e quindi con il >comportamento umano. L'Etica, che è indubbiamente alla base del Diritto >(i.e. non uccidere) può aiutarci a definire gli orizzonti necessari a >stabilire delle regole di comportamento in futuro sempre più popolato >da macchine. "Non uccidere" non è una affermazione etica, ma una legge di diritto (divino) "La vita umana è lo scopo fondamentale della società" è un'affermazione etica. "La conoscenza è lo scopo fondamentale della esistenza cosciente" è un'affermazione etica. "Homo homini lupus" è un'affermazione etica. "Massimizzare l'utilità individuale è lo scopo di ogni attività umana" è un'affermazione etica. Non solo sono incompatibili, tutte presumono un essere umano ad affermarle sotto la propria responsabilità. Delegare l'etica alle cose ha due effetti socialmente inaccettabili: - deresponsabilizzazione degli umani (e dunque perdita di significato dell'etica stessa) - diffusione della specifica etica scelta, che come la storia insegna, può sembrare giusta e santa in un dato momento storico e disgustosa in un altro >Cone detto nella conferenza di Helsinki e riportato da Alessandro >Mantelero: >"Questa necessaria integrazione fra etica e diritto emerge sempre più in >molti documenti adottati a livello europeo, da ultimo anche nelle >menzionate conclusioni della conferenza di Helsinky ove si legge *“existing >landmark international instruments, including the Universal Declaration of >Human Rights and the European Convention for the Protection of Human Rights >and Fundamental Freedoms, are applicable irrespective of contextual changes >brought about by AI and must be complied with to ensure that technological >progress occurs in line with the principles of human rights, democracy and >the rule of law. Ethical guidelines and self-regulation constitute >additional tools to promote these values”.* Le self-regulation ci hanno donato Cambridge Analytica, solo per far un esempio. Non ci vuole un genio a vedere che chiedere ad un ente di autoregolarsi vuol semplicemente dire concedergli di NON regolarsi ed inventare scuse arzigogolate quando i problemi emergono. Non è un conflitto di interessi: è una barzelletta. La chiamata alla autoregolamentazione è un comodo gettare la spugna. Invece di studiare in profondità la materia prima di regolarla in modo cauto e stringente, si dice "fate un po' come credete, solo non causate scandali che possano essere ricondotti facilmente all'ignoranza e alla miopia della Politica." Giacomo

March 10, 2019

Re: [nexa] Cronache romane

by Arturo Di Corinto

Caro Pizzetti- concordo sulla sua preoccupazione. Nondimeno, parlare di Etica del mondo artificiale è una sfida cui non possiamo derogare. L'Etica per quanto variabile, ha a che fare con i fini, e quindi con il comportamento umano. L'Etica, che è indubbiamente alla base del Diritto (i.e. non uccidere) può aiutarci a definire gli orizzonti necessari a stabilire delle regole di comportamento in futuro sempre più popolato da macchine. Cone detto nella conferenza di Helsinki e riportato da Alessandro Mantelero: "Questa necessaria integrazione fra etica e diritto emerge sempre più in molti documenti adottati a livello europeo, da ultimo anche nelle menzionate conclusioni della conferenza di Helsinky ove si legge *“existing landmark international instruments, including the Universal Declaration of Human Rights and the European Convention for the Protection of Human Rights and Fundamental Freedoms, are applicable irrespective of contextual changes brought about by AI and must be complied with to ensure that technological progress occurs in line with the principles of human rights, democracy and the rule of law. Ethical guidelines and self-regulation constitute additional tools to promote these values”.* Il giorno gio 21 feb 2019 alle ore 12:50 f.pizzetti <f.pizzetti(a)tiscali.it> ha scritto: > Condivido totalmente una per una, le parole di Giacomo Trsio. > In particolare quelle sull'Etica. > Parlare di Etoca di I é un modo per ABBASSARE non per ASSICURARE CORRETTA > TUTELA DEI DIRITTI in questo campo. > Occorrono norme giuridiche, Autorità competenti, un dialogo costante tra > giuristi e tecnologi e molta molta serietà. > Etica abbassa, non eleva la tutela perché sostitusce a norrme giuridiche e > Linee guida principi etici variabili, a loro volta interpretabili da ogni > operatatore e ogni cultura in mofo variabile (e normalmente di comodo) > > > > Inviato da smartphone Samsung Galaxy. > > -------- Messaggio originale -------- > Da: Giacomo Tesio <giacomo(a)tesio.it> > Data: 21/02/19 12:21 (GMT+01:00) > A: Arturo Di Corinto <arturo.dicorinto(a)uniroma1.it> > Cc: Nexa <nexa(a)server-nexa.polito.it> > Oggetto: Re: [nexa] Cronache romane > > Con tutto il rispetto per l'autore (delle cui buone intenzioni non > dubito affatto), a me il testo sembra un susseguirsi di "non sequitur" > costruiti su una premessa semplicemente sbagliata: > > > [Le AI] non sono software programmati ma sistemi addestrati. > > Si supera il modello classico if this then that in cui un ingegnere > > del software prevedeva prima tutte le possibili occorrenze. > > Le Ai rispondono in maniera autonoma a un problema che > > gli viene posto. Questi artefatti sono una nuova specie nelle > > macchine. Delle machine sapiens. > > Questa premessa mostra un profondissimo fraintendimento di cosa sia e > come funzioni il machine learning. > Coerente con la narrazione da Twitter dell'intelligenza artificiale, > utile alle aziende (alcune citate nell'articolo stesso) che puntano ad > una irresponsabile deresponsabilizzazione dell'industria. > > NON esistono macchine sapiens. > > I profani della materia vedono nelle AI quello che vogliono vedere, > indipendentemente da quello che c'è. > Qualcuno scientemente, nella speranza che accettare questa > allucinazione condivisa possa farli apparire come esperti della > materia. > > > Siccome le intelligenze artificiali fondano loro decisioni sui dati > > e poiché questi non sono una copia perfetta della realtà non è > > pensabile a priori che la macchina dotata di intelligenza artificiale > > possa fare una scelta priva di errori. > > La macchina sapiens sarà sempre e costitutivamente fallibile. > > Le Ai hanno costitutivamente bisogno di un’etica. > > Non sequitur: perché? > > Non abbiamo piuttosto bisogno di normative che stabiliscano > responsabilità civili e penali chiare per chi realizza e diffonde > queste macchine? > > Il software (e le AI sono software come gli altri) è sempre stato > fallibile, perché l'uomo che lo crea è fallibile. > Non è il software che ha bisogno di un etica per rispondere dei propri > bug, ma l'uomo che deve risponderne. > > > Poiché le intelligenze artificiali possono sbagliare bisogna > > capire come gestire allora questo sbaglio. La questione etica > > è fondamentale, importantissima e urgente. > > Bisogna trovare un sistema etico condiviso perché l’utilizzo > > di questi sistemi non produca ingiustizie, non danneggi le > > persone e non crei dei forti disequilibri globali. > > Di nuovo non sequitur. > Ma la frase più preoccupante (in particolare perché espressa da un > religioso) è "Bisogna trovare un sistema etico condiviso". > No. > > Dobbiamo avere leggi scritte da persone competenti in materia che non > si facciano abbagliare o corrompere. > Niente di più, niente di meno. > > > Il mondo nell’epoca del Digital Age è regolato degli algoritmi. > > Più di qualcuno parla di una algo-crazia. Per evitare che ci sia > > questo dominio dell’algoritmo anche grazie alle AI dobbiamo iniziare > > a sviluppare questo linguaggio comune dell’algor-etica. > > Di nuovo, non sequitur. > Ma qui viene espressa un'altra frottola MOLTO comoda assunta come rischio. > > Che un algoritmo regoli qualcosa. > Un software (parlare di algoritmi è, di nuovo, grossolanamente > sbagliato) calcola. > > CHI regola, è chi realizza il software. > Chi stabilisce COME debba / possa essere usato. > Che si tratti di una scrittura TRASPARENTE del codice da parte di un > programmatore o della OPACA selezione pseudo casuale di una delle > infinite funzioni che minimizzano l'errore quadratico medio dai punti > noti entro un certo valore, sempre c'è un processo di produzione del > software con ampli margini di arbitrarietà (aka potere) da parte di > essere umani. > > > L’etica invece parla di valore morale. Dobbiamo stabilire un linguaggio > > che sappia tradurre il valore morale in un qualcosa di computabile > > per la macchina. [...] Dobbiamo mettere in grado la macchina di > > avere un certo senso di incertezza. [...] Tentativi di questo tipo sono > > portati avanti da Google e Uber con delle librerie statistiche speciali. > > Se la macchina ogni volta che si trova in una condizione di incertezza > > chiede all’uomo allora quello che stiamo realizzando è una intelligenza > > artificiale che pone l’umano al centro. > > Ah...beh... se Uber e Google stanno realizzando "librerie statistiche > speciali"... siamo a posto! > > Mica hanno già lanciato prototipi di 5 tonnellate ai 70 km/h su strada > uccidendo persone... > Mica detengono un potere di manipolazione enorme... > > Se accreditate con un qualche valore tecnico / legale, queste > "librerie statistiche speciali" non salveranno l'uomo, non lo porranno > al centro. > > Semplicemente, solleveranno LE AZIENDE dalla responsabilità degli errori. > O meglio.. solleveranno dalle responsabilità civili e penali i CdA, i > CEO, gli azionisti etc... persone che traggono il maggior vantaggio > dall'ignoranza diffusa in materia e che dovrebbero invece risponderne > civilmente e penalmente dei danni e delle esternalità causate dai loro > prodotti. > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- Arturo Di Corinto www.dicorinto.it ---------------------------------> AVVERTENZE AI SENSI DEL D.Lgs. 196/2003 Le informazioni contenute in questo messaggio di posta elettronica e/o nel/i file/s allegato/i sono da considerarsi strettamente riservate. Il loro utilizzo è consentito esclusivamente al destinatario del messaggio, per le finalità indicate nel messaggio stesso. Qualora riceviate questo messaggio senza esserne il destinatario, Vi preghiamo cortesemente di darcene notizia via e-mail e di procedere alla distruzione del messaggio stesso, cancellandolo dal Vostro sistema. Conservare il messaggio stesso, divulgarlo anche in parte, distribuirlo ad altri soggetti, copiarlo, od utilizzarlo per finalità diverse, costituisce comportamento contrario ai principi dettati dal D.Lgs. 196/2003

March 10, 2019

Re: [nexa] Cos'è l'Informatica?

by Giacomo

On March 6, 2019 8:44:59 AM UTC, Enrico Nardelli <nardelli(a)mat.uniroma2.it> wrote: >Caro Giacomo > >grazie mille per l'apprezzamento del video. Sono interessato a sentire >il feedback se lo fai vedere a bambini più piccoli. Mi sarebbe piaciuto >enormemente sviluppare il tema, ma la RAI ha un budget limitato sulla >cultura... Appena ne avrà voglia, inizierò a mostrarlo alla mia maggiore (10 anni) e ti farò sapere cosa comprende e cosa no. Devo dire che io non avrei idea di come far simulare una macchina di Turing con cartoncino in modo ordinato a dei ragazzi. Probabilmente è semplicemente sintomo di ignoranza da parte mia. Ma mi sento veramente indignato a pensare che le mie tasse NON vengono spese dalla Rai per un progetto come questo. Viviamo certamente tempi oscuri, ma si può dimenticare così spudoratamente la propria missione di servizio pubblico? Se penso al vecchio progetto UniNettuno... ok veniva trasmesso in orari improponibili ed era certamente un formato più "carico"... ma almeno era Cultura. > >Sulla definizione di informatica, da un lato ti rispondo con >un'osservazione di Knuth del 1974 "the underlying concepts are much >more important than the name", da un articolo che cito spesso (e che >consiglio) Computer Science and Its Relation to Mathematics, The >American Mathematical Monthly, 81(4):323-343, Apr. 1974. >http://www.maa.org/programs/maa-awards/writing-awards/computer-science-and-… Bell'articolo. La prospettiva di Knuth appare molto pragmatica (ok, parliamo di Knuth, ma è pur sempre statunitense! :-D), ma non tiene conto di un aspetto fondamentale: le parole che usiamo per descrivere la realtà determinano la nostra comprensione della stessa. Una parola apre o chiude a relazioni con altre parole nelle nostre menti, individuali e collettive. Computer Science (o Computing Science o Datalogi o Databehandling) sono tutte estremamente riduttive in confronto al francese Informatique. Ed alcune delle apparenti difficoltà descritte da Knuth derivano da questa frettolosa limitazione, che non è solo di segno, ma di significato. Infatti Knuth parla di Informatica come studio degli algoritmi. Algoritmi che sono informazioni nella mente di chi li conosce o dati sui testi che li descrivono (codice sorgente fra questi). Algoritmi che sono certamente fondamentali. Ma altrettanto fondamentale è l'interfaccia utente. Altrettanto fondamentali sono le dinamiche di composizione del software. Altrettanto fondamentali sono gli aspetti legali. O i metodi di sviluppo. I paradigmi di programmazione. E sono tutti aspetti fortemente interconnessi, perché tutti lavorano nella mente e sulla mente del programmatore / utente. > >Dall'altro, il dire è scienza/tecnologia/ingegneria o tutte queste cose >insieme o una cosa ancora diversa ha un significato, per me, >essenzialmente "politica". Io dico che è "disciplina scientica" perché >in questo momento storico questo è l'approccio che ritengo migliore per >far sì che venga insegnata a tutti nella scuola >(http://www.informatics-europe.org/news/434-inf4all.html) Per fare >politica, dobbiamo usare categorie che la gente capisce e comprende, e >che sono utili al raggiungimento dell'obiettivo. Caspita che bel goal di contropiede! :-D Beh hai probabilmente ragione. Credo sia un po' come andare a pesca... devi dare ai pesci qualcosa che piaccia loro se vuoi prenderli. Non so cosa rispondere. Vi intuisco un rischio, ma non riesco a focalizzarlo. Probabilmente mia inesperienza. >Usare il termine "Pensiero computazionale" è interessante >dialetticamente, ma va fatto con cautela. Ne ho parlato recentemente su >Communications of ACM >https://cacm.acm.org/magazines/2019/2/234348-do-we-really-need-computationa… Grazie della segnalazione. Bel articolo con interessantissimi approfondimenti. Si direbbe che vi siano larghe sovrapposizioni fra le nostre intuizioni e intenzioni. Non concordiamo appieno sulla fondamentale e soverchiante importanza della Informatica come studio della Informazione (e dunque di tutto ciò che gli uomini possono condividere/comunicare/ricordare collettivamente), ma non sono in molti a concordare con me su questo... :-D >Ciao, Enrico Ciao e grazie della chiaccherata. Giacomo

March 10, 2019

Re: [nexa] Zuckerberg’s new privacy essay shows why Facebook needs to be broken up

by Giacomo

Io ho trovato il testo di Zuckerberg piuttosto interessante. Anzitutto è evidente un certo delirio di onnipotenza, che per quanto comprensibile umanamente, sicuramente danneggia la qualità della analisi che pur gode di una certa lucidità. Invece che concentrarmi sugli aspetti economici o socio/geo politici (le cui criticità credo siano comunque chiare a tutti i membri di questa lista), ho trovato gli aspetti tecnici più interessanti. In pratica, per Zuck la Privacy consiste in autenticazione forte (sapere con chi stai parlando) + cifratura end to end + permanenza limitata delle comunicazioni + disponibilità di metadati in chiaro "per combattere i cattivi" + lock-in sui prodotti della sua piattaforma + storage in paesi affidabili (gli USA contano come affidabili? :-D) Sulla autenticazione forte credo abbia veramente ragione, ma FB non può essere delegata di tale responsabilità (e non credo che la voglia veramente a meno che non ne abbia colto lo straordinario potenziale). Lo stato, attraverso le anagrafi, dovrebbe essere in condizione di offrire questo servizio firmando la chiave pubblica di un cittadino. La cifratura end to end garantisce i dati in transito fra due nodi, ma se uno dei nodi è compromesso la sicurezza va a farsi benedire. Un dispositivo consumer è affidabile? Sulla permanenza limitata delle comunicazioni, ho qualche dubbio. Tecnicamente non c'è modo di rivelare se FB le cancella mai davvero (sono cifrate!) e difficilmente si potrà veramente impedire che vengano salvate in locale (stiamo sempre parlando di byte sulla memoria di un pc: datemi un emulatore e vi dumperò il mondo :-D). Ma dal punto di vista utente, non credo che la rimozione della responsabilità di lungo periodo nelle comunicazioni sia positiva in una società sana (e se la società non è sana, rimuovere responsabilità non la rende migliore) L'apertura alla cattura dei cattivi vuol dire metadati in chiaro. Ci scambiamo 4 caratteri: qual'è la probabilità che siano "Ciao"? 2 caratteri? "Sì" "No" "Ok" ";)". Si può scoprire molto attraverso i metadati. E se non bastano, una back-door^W vulnerabilità zero day non si nega al governo! Lo storage... beh quale posto migliore per le foto della vostra famiglia delle server farm scelte da Zuck? Un album fotografico cartaceo, in realtà è tecnicamente molto superiore dal punto di vista della sicurezza e della durata. Lo scatolone da scarpe pieno di foto in soffitta è una straordinaria prova di questo fatto. Non sto scherzando: non esiste formato migliore della carta fotografica per archiviare foto. Al secondo posto, vi sono DVD (se tenuti con cura al buio e ricopiati ogni 5-6 anni). Al terzo strumenti come i NAS (ma con backup su DVD). Al quarto owncloud su un computer a casa vostra (sempre con backup su DVD). Stampare le foto migliori è comunque molto meglio. La server farm scelta da Zuck? No. Probabilmente, nell'interesse dei bambini in quelle foto, è meglio distruggerle completamente che metterle su FB. (O darle a Google su Picasa) Facebook non esisterà per sempre. Le cose cambiano. Ma ci sarà sempre qualcuno con accesso a quei dati. Giacomo

March 9, 2019

Re: [nexa] Zuckerberg’s new privacy essay shows why Facebook needs to be broken up

by Giacomo

Sono d'accordo con Marco su un punto: annullare le fusioni precedenti di Facebook è semplicemente un riconoscimento del fallimento di un sistema anti-trust incapace di prevenire la formazione di posizioni dominanti. Non serve a molto nella pratica. (Neanche ponendo un obbligo di integrazione, tecnicamente complesso perché bisognerebbe decidere come integrare e fra diversi threat models e oggettiva scarsa qualità dei protocolli esistenti ne verrebbe fuori un mostro inutile ed impossibile da supportate) Comunque è improbabile che ciò avvenga per mano degli Stati Uniti: i GAFAM sono roba loro, strumenti di controllo di massa installati su scala planetaria sotto il naso di governanti troppo incompetenti per capire cosa stesse succedendo o fare qualcosa di intelligente oggi. Mah.... ragionando in astratto: e se semplicemente ponessimo un limite alla dimensione e alla proprietà delle aziende? Tipo: 100 persone fra tutti, manager, dipendenti, consulenti... tutti. E stabilissimo che una persona può possedere al massimo una azienda. Il sistema si assesterebbe comunque. Avremmo nuove forme di sinergie aziendali, la collaborazione diverrebbe predominante sulla competizione... probabilmente meno disoccupazione, sistemi informativi più efficienti. Sarebbe possibile farlo in Unione Europea? Non siamo poi così tanti. Per operare su questo territorio devi avere queste caratteristiche. Non sono semplicemente ammattito: abbiamo bisogno di fantasia per cercare modelli alternativi, non solo in informatica. Giacomo

March 9, 2019

The case against Amazon

by Luigi Scorca

“If you, as Amazon, get the data from the smaller merchants that you host — which can be completely legitimate because you can improve your service — do you then also use these data to do your own calculations as to what is the new big thing? What is it that people want? What offers do they receive? What makes them buy things? That has made us start a preliminary investigation,” Vestager said when announcing her pre-probe. https://www.politico.eu/article/amazon-europe-competition-giveth-and-amazon…

March 9, 2019

Tech Platforms and the Knowledge Problem – Mark Carrigan

by J.C. DE MARTIN

https://markcarrigan.net/2019/03/08/tech-platforms-and-the-knowledge-proble… (Sent from my wireless device; please excuse brevity and typos (if any))

March 9, 2019

Re: [nexa] Zuckerberg’s new privacy essay shows why Facebook needs to be broken up

by M. Fioretti

March 7, 2019 9:55 PM, "J.C. DE MARTIN" <demartin(a)polito.it> wrote: > https://www.technologyreview.com/s/613084/zuckerbergs-new-privacy-essay-sho… > e-broken-up ben scritto, però alla fine è l'ennesimo articolo/autore illuso che "spezzettare" Facebook cambierebbe qualcosa, o che sia l'approccio giusto anche in linea di principio. Ne ho scritto stamattina, parlando della candidata presidenziale USA che sembra appena caduta pure lei nella stessa trappola: http://stop.zona-m.net/2019/03/what-may-make-warrens-break-up-facebook-prop… Marco

March 9, 2019