March 2019 - nexa - server-nexa.polito.it

Re: [nexa] How to Stop ‘Smart Cities’ From Becoming ‘Surveillance Cities’ | American Civil Liberties Union

by Giacomo

> The use policy must provide standards to govern > and limit the technology’s deployment and how > collected data is analyzed, stored, protected, > and shared. Piuttosto ingenuo: una volta che i dati sono registrati, è impossibile regolare come verranno analizzati. Si può punire severamente un data leak (se viene scoperto), ma l'analisi di un dataset non lascia tracce e dunque sostenere che un divieto la possa impedire... è retorica. L'unico modo per minimizzare i rischi sociali di queste tecnologie è progettare il sistema utilizzando hardware semplice, in modo da minimizzare i dati acquisibili dallo stesso. Invece di telecamere, spire sotto l'asfalto per misurare il numero e velocità dei veicoli nel traffico, sensori di peso nei cassonetti per sapere quando sono pieni e così via. Utilizzando hardware capace esclusivamente delle misurazioni puntuali strettamente necessarie ad eseguire l'attività necessaria, si impedisce all'origine l'acquisizione (e dunque l'abuso) di dati personali o collettivi. Fortuna vuole che l'hardware più è semplice e meno costa (se manutenuto correttamente)... dunque non c'è una vera ragione per adottare tecnologie più complicate, eccetto l'incompetenza o la cattiva volontà. Giacomo

March 23, 2019

How to Stop ‘Smart Cities’ From Becoming ‘Surveillance Cities’ | American Civil Liberties Union

by J.C. DE MARTIN

https://www.aclu.org/blog/privacy-technology/surveillance-technologies/how-… (Sent from my wireless device; please excuse brevity and typos (if any))

March 23, 2019

Claire L. Evans : « Quand l’informatique a pris de la valeur, les femmes ont dû quitter le terrain »

by Alberto Cammozzo

<https://www.lemonde.fr/pixels/article/2019/03/23/claire-l-evans-quand-l-inf…> Auteure d’un livre sur l’implication des femmes dans l’histoire de l’informatique et d’Internet, elle revient sur leurs parcours, aussi intéressants que ceux de Steve Jobs ou de Tim Berners-Lee. Grace Hopper, Hedi Lamar, Margaret Hamilton…, ces quelques noms sont souvent cités pour rappeler la contribution des femmes à l’informatique dans un grand récit où les héros et les légendes sont les génies masculins. Le profil des employés et des leaders des GAFA (Google, Amazon, Facebook, Apple) de la Silicon Valley semble donner raison à cette idée que l’informatique serait depuis toujours et avant tout une affaire d’hommes. C’est faux. Les femmes ont été à l’avant-garde de l’informatique. Même le mot « ordinateur » (computer, en anglais) a été emprunté aux ordinatrices qui exécutaient des calculs mathématiques compliqués bien avant les machines, dès le XIXe siècle. Dans son ouvrage inédit en France, Broad Band, The Untold story of the women who made the Internet (Penguin, 2018), Claire L. Evans démonte une image d’Epinal tenace dans la tech : celle de l’étudiant geek, seul au fond de son garage. Fan d’informatique et du Net depuis son plus jeune âge, grâce notamment à son père programmeur chez Intel, elle a enquêté pendant deux ans sur l’implication des femmes dans ce milieu, depuis Ada Lovelace, qui a publié le premier programme en 1843, à la cyberféministe Sadie Plant, figure des années 1990. [...]

March 23, 2019

Adversarial attacks on medical machine learning | Science

by J.C. DE MARTIN

http://science.sciencemag.org/content/363/6433/1287.full (Sent from my wireless device; please excuse brevity and typos (if any))

March 23, 2019

Eben Moglen Interviewed by NPR about Boeing Affair

by Giacomo Tesio

“What we’re looking at in the case of some aerodynamic software taking over for pilots without telling them is an example of why even if you didn’t think this had anything to do with politics, it is still true that systems that don’t explain themselves to human beings who interact with them are dangerous…If we in the 21st century still believe in human autonomy, then we need to put that value into the software that runs our world.” “In the twenty-first century, there will be two kinds of autonomous systems. There will be autonomous systems made by despotism, most noticeably by the Chinese Communist Party’s economy and society. And they will not explain what they are doing because that’s the whole point: eliminating democracy, freedom of human beings, civil liberty as ideas. The only alternative to that kind of autonomous system is whatever we will invent. That is to say it’s a political task from the part of humanity that believes in freedom to build these technologies to support rather than to threaten human freedom.” http://softwarefreedom.org/news/2019/mar/22/npr-boeing/

March 23, 2019

Re: [nexa] Oltre le bolle e le echo chambers

by Giacomo Tesio

On 22/03/2019, Antonio Santangelo <antonio.santangelo(a)polito.it> wrote: > Quello che mi colpisce è il disegno inconsapevole che c'è sotto al progetto > di Netflix: allontanare gli spettatori gli uni dagli altri. Cosa ti fa pensare che sia "inconsapevole"? > Comunque, quella tra broadcasting e narrowcasting è l'eterna lotta tra > collettività e individualità. Credo sia più che altro marketing. E propaganda. La segmentazione della domanda è uno strumento fondamentale del marketing moderno. Non si limita ad identificare attraverso l'analisi dei cluster segmenti esistenti e a misurarne la dimensione per poi produrre un'offerta appetibile. Sin dall'avvento della tv commerciale, il marketing moderno cerca di creare segmenti omogenei su misura per la produzione industriale pianificata, per prodotti anonimi e tutti uguali perché creati in massa facendo leva su economie di scala. Netflix prosegue su questa linea: prodotti su misura di un pubblico ritagliato per essi. Ma il marketing è SEMPRE anche propaganda: accanto al messaggio principale, evidente, veicola sempre diversi altri messaggi, meno evidenti ma più fondamentali per il sistema. Dietro a "Comprate la Nutella", "Comprate questo SUV", "Comprate questo vino", il messaggio di sfondo, subliminale quanto fondamentale è "COMPRATE!" La personalizzazione dei contenuti di Netflix (come di altri) serve uno scopo strategico persino più fondamentale: dividi et impera. Hai ragione: se non vediamo lo stesso film, abbiamo un'argomento in meno da discutere. Se vediamo versioni diverse dello stesso film, non possiamo proprio comunicare. Iniziamo ad attribuire esperienze e significati diversi agli stessi significanti, riducendo con il tempo la nostra capacità di comunicare e condividere idee ed intuizioni con gli altri. Questo ci isola. Sin dai tempi delle palafitte, la collaborazione è stata uno strumento evolutivo fondamentale. L'uomo da solo è debole. Insicuro. La segmentazione della domanda verrà perseguita anche qualora non ci fosse una azienda capace di produrre un'offerta allettante. E' troppo importante per tenere i consumatori (e i lavoratori), divisi, inconsapevoli e... deboli. > A me interessa di più l'immaginario collettivo. Immaginario cui anche l'istituto Luce si interessava moltissimo. "L’Unione Cinematografica Educativa", durante il fascismo. Vi è una profonda continuità metodologica fra il "broadcasting" ed il "narrowcasting". Se lo spettatore non ha un controllo consapevole sulla selezione dei contenuti che consuma, altre parti non se lo faranno sfuggire! In "Uno Studio in Rosso", Holmes canzonava Watson sull'inutilità di conoscere il sistema copernicano. > “You appear to be astonished,” he said, smiling > at my expression of surprise. “Now that I do know > it I shall do my best to forget it.” > [...] > “But the Solar System!” I protested. > “What the deuce is it to me?” he interrupted > impatiently; “you say that we go round the sun. > If we went round the moon it would not make a > pennyworth of difference to me or to my work.” L'argomentazione è estrema (sebbene modernissima, visto il rifiuto di un sistema di riferimento privilegiato), ma vi è un'intuizione profonda nelle parole di Holmes: non è saggio lasciare che il caso (o peggio, qualche sconosciuto, software o umano che sia) possa decidere al nostro posto cosa far entrare nelle nostre teste. > Ma ognuno ha i suoi gusti... Il gusto si educa. E per questo che lo fanno. Per "educarci". Giacomo

March 22, 2019

Death by a Thousand Clicks: Where Electronic Health Records Went Wrong

by J.C. DE MARTIN

http://fortune.com/longform/medical-records/ (Sent from my wireless device; please excuse brevity and typos (if any))

March 22, 2019

Re: [nexa] "L'intelligenza artificiale? Non è vera intelligenza"

by armeo＠mail.nexacenter.org

Un giorno, dopo molti anni di collaborazione, la direzione de La Stampa mi cacciò accusandomi di essere un estremista. Da quel giorno scopro spesso di avere opinioni molto diverse da quelle dominanti, ma generalmente scelgo di non manifestarle, sopratutto se sono autorevoli le opinioni dominanti diverse dalle mie. Sulla questione dell'intelligenza artificiale ho un'opinione molto diversa da quella dominante, ma avendo scoperto che alcuni autorevoli colleghi hanno manifestato su Nexa idee vicine alle mie, ho deciso di rinunciare alla prudenza e pronunciarmi. Speriamo che Nexa non mi cacci come fece La Stampa. Alcuni amici che ni hanno preceduto su Nexa hanno parlato di un'intelligenza artificiale "diversa". Da "estremista" io affermo invece che l'intelligenza artificiale non esiste. Conosco le previsioni di alcuni autorevoli studiosi, stelle di prima grandezza nel firmamento dell'informatica, secondo le quali nel 2029 la capacità di elaborazione di un singolo processore INTEL sarà pari alla capacità elaborativa di un cervello umano, mentre nel 2040 la capacità di elaborazione dei computer supererà quella degli individui umani e delle specie pensanti. Io temo che quelle previsioni siano state costruite su modelli biologici destinati ad essere superati in futuro da modelli molto più complessi di quelli nei quali oggi crediamo. Ricordo, ad esempio, che il numero totale di atomi dell'universo può essere scritto con 80 cifre decimali, mentre il numero scritto nel nostro DNA richiede oltre due miliardi di cifre decimali. E' vero che il nostro cervello contiene 100 miliardi di neuroni e che i calcolatori delle prossime generazioni conterranno miliardi di unità centrali di elaborazioni, ma ancora non sappiamo come elaborino informazione i mille miliardi di miliardi di sinapsi che operano nel nostro cervello. Comunque, non intendo negare che si stia aprendo un universo di nuove aree applicative di grande rilevanza anche industriale ed economica, come la guida di veicoli o la diagnosi automatica di patologie mediche, ma la loro realizzazione non sarà il frutto di una magica intelligenza artificiale, ma il prodotto di tanta intelligenza naturale e nuove difficili discipline scientifiche, come "data mining" e "deep learning". E' una sfida internazionale alla quale un paese come il nostro deve assolutamente partecipare ai fini della sua sopravvivenza. A questo scopo non serviranno nè la partecipazione ad un astratto dibattito internazionale con Putin e Xi Jinping, nè l'acquisizione "chiavi in mano" di prodotti del mercato, ma molto studio a partire dalla scuola primaria e moltissimo lavoro nei laboratori di ricerca e nelle imprese. Il 20/03/2019 12:41, GC F ha scritto: > Non sono d'accordo. Mi pare che "/ratiocinari comparatur ad > intelligere sicut moveri ad _quiescere_ vel acquirere ad _habere_" > /esattamente rappresenti un possibile distinzione tra intelligenza > computazionale e biologica. Quindi /intelligere/, e intelligenza, > rimane termine che ben si può applicare alla macchina. Ovviamente, > Tommaso parlava d'altro ma il pensiero è assoluto e /mutatis mutandis/ > applicabile a scenari ulteriori. > > Infine, non ho competenze tecniche e ho conoscenze aneddotiche > limitate ma questo (nel caso sia come rappresentato): > http://www.cloudpainter.com/ (in particolare questa descrizione del > processo creativo: https://www.youtube.com/watch?v=h8QKcHWKKvI&t=30s) > mi pare si approssimi in maniera sorprendente al processo creativo > umano. Mi pare, in conclusione, irrilevante che da un lato vi siano > sequenze di 0 e 1 e dall'altro sinapsi neuronali. Rimangono due forme > di intelligenza, /quorum unum est perfecti, aliud autem > imperfecti/(per ora), come dice Tommaso. > > Con i saluti più cordiali, > > Giancarlo > > On Wed, Mar 20, 2019 at 12:09 AM Giacomo <giacomo(a)tesio.it > <mailto:giacomo@tesio.it>> wrote: > > On March 19, 2019 6:32:54 PM UTC, GC F <gcfrosio(a)gmail.com > <mailto:gcfrosio@gmail.com>> wrote: > >Ricordo un insegnate salesiano in prima media che diceva che > >nell'etimologia delle parole sono nascosti i segreti dell'umanità. > > Su questo mi avrebbe trovato d'accordo. > > Con lo scorrere del tempo, nella lingua stratifica l'esperienza e > la riflessione collettiva di una popolazione. > > Ma la nostra è una posizione molto minoritaria in questo momento. > Pensa che gli americani hanno inventato una locuzione per opporsi > a qualunque uso dell'etimologia per veicolare un intuizione: > "etymological fallacy". > > C'è pure una pagina Wikipedia: > https://en.m.wikipedia.org/wiki/Etymological_fallacy :-) > > Non sia mai che chi di storia e cultura ne abbia stratificata > parecchia anche solo nei muri, si possa trovare in vantaggio > dialettico! :-D > > >Dunque, il > >termine intelligenza si adatterebbe bene alle proprietà > dell'automa, che > >sarebbe, secondo Tommaso d'Aquino, intelligente ma non raziocinante o > >ancora, forse, sempre secondo Tommaso, dotato di *intellectus > practicus* > >ma non di *intellectus speculativus* che contemplerebbe la verità. > > Io conosco due possibili etimologie di intelligenza: > > - intus legere: leggere (comprendere) in profondita > - inter legere: leggere fra le righe, comprendere oltre > l'evidenza, al di là delle apparenze > > Le AI non sanno fare niente di tutto questo. > > La riflessione di Tommaso d'Aquino era volta ad altre domande. > E dubito che avrebbe preso bene l'interazione con Alexa... :-) > > > L'automa non ha alcun intelletto. > È una cosa. Un oggetto che esegue pedissequamente la propria > programmazione, una istruzione dopo l'altra. > > Qualche programma è scritto in modo da cambiare, in modo opaco > (aka estremamente costoso da debuggare), la propria configurazione > a fronte di determinati input. > E questo (a causa del linguaggio con cui viene impropriamente > descritto) può venire erroneamente interpretato come > "apprendimento", perché ovviamente se cambi la configurazione di > un programma questo poi si comporta in un modo diverso. > > Ma se parliamo più semplicemente di input, output e > configurazione, tutto diventa piu chiaro e semplice. > > > Una rete neurale artificiale non solo non ha, ma non ha bisogno di > intelligenza per funzionare. > > Per questo non dovremmo chiamarla rete neurale, perché non ha > nulla che ricordi lontanamente un neurone, umano o animale. > È un insieme di matrici numeriche nella memoria di un computer che > viene usato per fare poco più che somme e moltiplicazioni su dei > numeri in input al fine di ottenere dei numeri in output. > Queste matrici sono ottenute con un processo statistico di > calibrazione che parte (di solito) da valori casuali o pseudo > casuali e cerca di modificarli iterattivamente per approssimare i > risultati noti. > > Tutto qui. > Niente intelligenza (eccetto quella umana). > Niente magia. > Niente poesia. > Niente. > > Solo codice e dati. Lunghe sequenze di zero e uno. > > > "Se è in Python è Machine Learning, se è in PowerPoint è > Artificial Intelligence". > > > > Giacomo > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 22, 2019

Re: [nexa] Oltre le bolle e le echo chambers

by Antonio Santangelo

Quello che mi colpisce è il disegno inconsapevole che c'è sotto al progetto di Netflix: allontanare gli spettatori gli uni dagli altri. Un tempo, guardare tutti lo stesso programma, con la medesima sequenza narrativa, serviva per creare una forma di esperienza comune, dotata di un significato preciso, attorno alla quale una comunità potesse discutere. Oggi rischiamo che non ci vengano nemmeno presentati i contenuti che guardano i nostri famigliari, se ognuno ha un profilo diverso. E' vero che questo caso limite è mitigato dal fatto che Netflix ci segnali i prodotti più visti (ma da chi? Da noi? Dagli americani? Nel mondo?). Ed è altrettanto vero che, in fondo, cerchi di venderceli, facendoceli vedere dal punto di vista che ci potrebbe interessare di più. Però è proprio l'idea della personalizzazione spinta all'estremo che mi pare bizzarra... In fondo, io le serie di Netflix le guardo perché me le consigliano i miei amici e per il piacere di discuterne con loro... Comunque, quella tra broadcasting e narrowcasting è l'eterna lotta tra collettività e individualità. A me interessa di più l'immaginario collettivo. Ma ognuno ha i suoi gusti... On Thu, Mar 21, 2019 at 6:54 PM don Luca Peyron < dluca.universitari(a)gmail.com> wrote: > Non è inusuale che Netflix, incamerando i dati di visione dei suoi > clienti, cerchi il più possibile di personalizzare l’esperienza sulla > piattaforma, attraverso una selezione di titoli e perfino di immagini costruita > su misura sui gusti di ciascuno. > > Ricordate le storie a bivi di Topolino? Siamo molto oltre? Scenari > interessanti. > > Buona lettura > > Dl > > > > https://www.wired.it/play/televisione/2019/03/20/love-death-and-robots-ordi… > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- Antonio Santangelo Executive Director Nexa Center for Internet & Society Politecnico di Torino - DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: nexa.polito.it <https://nexa.polito.it/people/asantangelo> mail: antonio.santangelo(a)polito.it tel: 011 090 5954

March 22, 2019

Medtronic Conexus Radio Frequency Telemetry Protocol Vulnerability

by Giacomo Tesio

The Conexus telemetry protocol utilized within this ecosystem does not implement authentication or authorization. An attacker with adjacent short-range access to an affected product, in situations where the product’s radio is turned on, can inject, replay, modify, and/or intercept data within the telemetry communication. This communication protocol provides the ability to read and write memory values to affected implanted cardiac devices; therefore, an attacker could exploit this communication protocol to change memory in the implanted cardiac device. https://ics-cert.us-cert.gov/advisories/ICSMA-19-080-01 ____ Come minimo, l'azienda andrebbe condannata alla sostituzione del device con uno che applichi le più basilari norme di sicurezza informatica, ma... chi si assume i rischio degli interventi cardio-chirurgici di sostituzione? Qui l'incompetenza qui valica i confini aziendali. Chi ha autorizzato la commercializzazione? Come risponde del danno che ha causato ai malati? Non stiamo parlando di un attacco macchiavellico che sfrutta ignote vulnerabilità zero-day! Il sistema non prevede alcuna autenticazione, alcuna autorizzazione e nessuna protezione crittografica delle comunicazioni! Giacomo

March 22, 2019