March 2018 - nexa - server-nexa.polito.it

Re: [nexa] Raccomandazioni della Commissione europea sulla robotica

by Giacomo Tesio

> f) l'istituzione di uno status giuridico specifico per i robot nel lungo termine, di modo che almeno i robot autonomi più sofisticati possano essere considerati come persone elettroniche responsabili di risarcire qualsiasi danno da loro causato, nonché eventualmente il riconoscimento della personalità elettronica dei robot che prendono decisioni autonome o che interagiscono in modo indipendente con terzi; Trovo molto preoccupante che si arrivi a scrivere una cosa del genere su una raccomandazione tanto autorevole. Siamo di fronte a terribile incompetenza o ad altro? > U. considerando che le leggi di Asimov(2) devono essere considerate come rivolte ai progettisti, ai fabbricanti e agli utilizzatori di robot, compresi i robot con capacità di autonomia e di autoapprendimento integrate, dal momento che tali leggi non possono essere convertite in codice macchina; E questo chi lo ha dimostrato? Perché senza dimostrazione matematica, è una concessione politica ingiustificabile. Giacomo Il Sab 31 Mar 2018 17:17 Diego Giorio <dgiorio(a)hotmail.com> ha scritto: > Con l'occasione, buona Pasqua a tutti > > > D. > > > http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+REPORT+A8-… > RELAZIONE recante raccomandazioni alla Commissione ... > <http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+REPORT+A8-…> > www.europarl.europa.eu > proposta di risoluzione del parlamento europeo allegato alla proposta di > risoluzione:raccomandazioni particolareggiate concernenti il contenuto > della proposta richiesta > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 31, 2018

Raccomandazioni della Commissione europea sulla robotica

by Diego Giorio

Con l'occasione, buona Pasqua a tutti D. http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+REPORT+A8-… RELAZIONE recante raccomandazioni alla Commissione ...<http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+REPORT+A8-…> www.europarl.europa.eu proposta di risoluzione del parlamento europeo allegato alla proposta di risoluzione:raccomandazioni particolareggiate concernenti il contenuto della proposta richiesta

March 31, 2018

Re: [nexa] Fwd: Publication du rapport Villani sur l'intelligence artificielle

by Giacomo Tesio

Ragionamento molto interessante, Giuseppe. Il concetto di cloud sovrano europeo mi suona un po' nebuloso... ma l'idea di una rete basata su tecnologie diverse dall'http e dai browser mi trova fra i sostenitori più interessati. Chi pensa che non ci possa essere internet senza browser manca di fantasia. Ma soprattutto non si rende conto che la rete di Berners-Lee è solo la prima che sia stata pensata. Siamo ancora ai primordi dell'informatica e tutto può ancora cambiare. Noto però come il DARPA proposto a modello sia un ente militare. Mentre penso che potremmo competere con gli USA su molti campi in cui rinunciamo senza neanche provare, la potenza militare non è uno di questi. Potrebbe non essere necessario però. Di recente Alba e Asti hanno organizzato una fiera in comune, celebrando le rispettive peculiarità enogastronomiche. Fino a non troppe generazioni fa, gli abitanti di queste due città si uccidevano senza pietà. Come facevano più di recente gli abitanti degli stati che oggi costituiscono l'Europa. Non ci potrebbe essere di maggiore utilità una agenzia di ricerca tecnologica con fondi equivalenti al DARPA ma obbiettivi non violenti? Potrebbe funzionare? (entrambe domande non retoriche) Cultura e tecnologia sono usate come strumento di conquista da sempre. Non potrebbero soppiantare le armi? Noi europei, per tante ragioni non ci siamo mai veramente opposti a tale conquista culturale nello scorso secolo. Potremmo fare di più? Se un governo unico del pianeta è inevitabile nel lungo periodo (lo è? Io direi che la tendenza sembra evidente...), potremmo puntare ad essere protagonisti nella sua creazione ed evoluzione, invece che aspettare di essere schiacciati dalla pressione militare ed economica di potenze più scaltre di noi. Buona Pasqua e a presto! Giacomo Il Gio 29 Mar 2018 12:39 Giuseppe Attardi <attardi(a)di.unipi.it> ha scritto: > Sottolineo dei punti su cui avevamo discusso con lui a Bologna: > > Une voie européenne à trouver pour contrer l'offensive des Gafa. > Parmi les pistes envisagées figure la création d'un "cloud souverain > européen" qui pourrait s'appuyer sur le groupe français OVH et la création > d'une agence publique sur le modèle de la DARPA américaine, qui fut à l'or > igine d'internet. > Les pays qui seront les leaders dans le domaine de l’intelligence > artificielle seront amenés à capter une grande partie de la valeur des > systèmes qu’ils transforment, mais également à contrôler ces mêmes sys > tèmes, mettant en cause l’indépendance des autres pays. > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 30, 2018

Re: [nexa] Car Wars

by M. Fioretti

On 2018-03-30 18:39, Giacomo Tesio wrote: > Salve, vi propongo una lettura interessante sulle auto a guida > autonoma, fantascientifica ma non troppo, dalla Deakin University > (Australia) con sondaggio opzionale incluso. > > http://this.deakin.edu.au/lifestyle/car-wars [1] > ... > Ma le implicazioni politiche del rimuovere le coscienze umane dalla > guida dei veicoli (o dal controllo degli automi), potrebbero essere > più complesse di quanto immaginato. E' molto più facile per > una persona controllare 1000 automi che controllare 10 persone. > > Probabilmente, come proponeva Raffaele Meo in un'altro scambio, > sarebbe più saggio limitare la circolazione dei futuri veicoli > autonomi a strade dedicate sotterranee, in una specie di evoluzione > della metropolitana. > > Si tratterebbe di un problema MOLTO più semplice dal punto di vista > computazionale. la stessa cosa o quasi, cioè separare fisicamente auto senza pilota umano e pedoni, ciclisti eccetera, è il centro della proposta, già citata, che ho fatto lo scorso anno: http://stop.zona-m.net/2017/10/the-real-name-and-value-of-self-driving-cars/ sul punto specifico dell'impossessarsi a distanza delle auto: 1) un paio di settimane fa scrissi questa provocazione su un brevetto di Ford: http://stop.zona-m.net/2018/03/ford-just-patented-a-hijacking-system/ 2) ora non riesco a ritrovarlo, ma sono quasi sicuro di avere già scritto, forse su qualche lista o forum, anche un'altra perplessità grossa che ho in materia: ma dove sta scritto che queste auto DEVONO fisicamente essere controllabili (e quindi dirottabili) da remoto? qual è la necessità tecnica? Marco -- http://mfioretti.com

March 30, 2018

Car Wars

by Giacomo Tesio

Salve, vi propongo una lettura interessante sulle auto a guida autonoma, fantascientifica ma non troppo, dalla Deakin University (Australia) con sondaggio opzionale incluso. http://this.deakin.edu.au/lifestyle/car-wars Ad un certo punto, un bambino deve fare una ricerca sulla Siria Then came the car thing. Just like that one in Australia, except this > wasn’t random terrorists killing anyone they could get their hands on – > this was a government. We all watched the live streams as the > molotov-chucking *terrorists or revolutionaries or whatever* in the > streets of Damascus* were chased through the streets by the cars that the > government had taken over*, some of them – most of them! – *with > horrified people trapped inside*, pounding on the emergency brakes as > their cars ran down the people in the street [...] > Fa riflettere. Da un lato, la proprietà comunitaria dei mezzi di trasporto (autonomo o meno) sarà una direzione quasi obbligata da un punto di vista ecologico. Ma le implicazioni politiche del rimuovere le coscienze umane dalla guida dei veicoli (o dal controllo degli automi), potrebbero essere più complesse di quanto immaginato. E' molto più facile per una persona controllare 1000 automi che controllare 10 persone. Probabilmente, come proponeva Raffaele Meo in un'altro scambio, sarebbe più saggio limitare la circolazione dei futuri veicoli autonomi a strade dedicate sotterranee, in una specie di evoluzione della metropolitana. Si tratterebbe di un problema *molto *più semplice dal punto di vista computazionale. Un altro passaggio, che diventerà una delle mie citazioni preferite: Enough to satisfy their honor, before capitulating to *the unstoppable > force of non-technical certitude about deeply technical subjects*. The > conviction that once the lawyers had come up with the answer, it was the > engineers’ job to implement it, not trouble them with tedious technical > wheedles about what was and wasn’t possible. Fino a quando programmare non sarà parte della nostra cultura condivisa, come leggere, scrivere e contare, l'onere di questa conoscenza sarà quella di impedirne un uso sconsiderato. Giacomo

March 30, 2018

La Poste rode un abonnement illimité pour la livraison de colis

by Luigi Scorca

Amazon Prime, La Poste Second.. TBC Interessante notare come anche nel mercato delle consegne si vada nella stessa direzione della telefonia.. https://www-lesechos-fr.cdn.ampproject.org/c/s/www.lesechos.fr/amp/74/21641…

March 30, 2018

Facebook VP wrote site's actions were 'de facto good' – even if they led to deaths | Technology | The Guardian

by Alberto Cammozzo

<https://www.theguardian.com/technology/2018/mar/29/facebook-memo-mission-an…> [] A top Facebook executive warned in a leaked memo that the platform could lead to deaths and could help terrorists plan attacks, but argued that the negative outcomes were a reasonable byproduct of the company’s broader “growth tactics” and mission to “connect” people. The public disclosure of the 2016 memo, in which a vice-president, Andrew “Boz” Bosworth, wrote “anything that allows us to connect more people more often is *de facto* good”, prompted the CEO, Mark Zuckerberg, to defend his company’s mission in a hastily released statement on Thursday. Zuckerberg said Facebook “never believed the ends justify the means” and said he strongly disagreed with the memo circulated by Bosworth, whom he described as a talented but provocative force in the company. []

March 30, 2018

Re: [nexa] Fwd: Machine-Learned Automated Decision Making Report and Panel in Brussels

by Roberto Dolci

E se fossero diagnosi mediche: https://arxiv.org/pdf/1711.06373.pdf e’ un paper appena pubblicato che suggerisce come AI serva di supporto, e non come sostituto, del medico specialista. Tra I diversi motivi, riprende il tema gia’ visto in https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-a… dove Deep Learning non da risultati sempre spiegabili, il motive per cui le auto autonome per ora e’ meglio non siano rilasciate sul mercato. From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Giacomo Tesio Sent: Thursday, March 29, 2018 3:32 PM To: Stefano Quintarelli <stefano(a)quintarelli.it> Cc: Nexa <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] Fwd: Machine-Learned Automated Decision Making Report and Panel in Brussels Il Gio 29 Mar 2018 20:10 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it>> ha scritto: e se fossero diagnosi mediche ? o valutazioni su contratti di assicurazione ? Rimane da rispondere alla domanda "chi ne risponde?" Per le diagnosi mediche penso che si possa applicare la stessa logica che si usa con le medicine: un medico specialista e un informatico specializzato gestiscono e interpretano insieme i risultati dei calcoli di questa rete neurale, assumendone insieme la responsabilità. Esattamente come un fisico e un medico utilizzano ed interpretano i risultati di una macchina radio diagnostica. Quanto alla applicazioni assicurative, macroscopicamente direi che qualcuno si è fatto fregare di brutto: non credo che il valore prodotto in ambito assicurativo possa richiedere così tanta potenza di calcolo ed il tempo (ovvero il costo) necessario a calibrare una rete neurale della complessità che una singola esecuzione di 30 minuti a quel clock lascia immaginare. Dunque oltre a "chi ne risponde?", sarebbe utile rispondere a "quanto consuma?", "dove si trova?", "chi paga la bolletta?" e soprattutto "chi è che l'ha ordinata?". :-) Comunque, se la macchina funziona come previsto, è debuggabile con la tecnologia disponibile (ipotetica quanto la macchina stessa) e fornisce la spiegabilità perfetta del suo output prevista dal GDPR, direi che non avrei obbiezioni al suo utilizzo. Il punto infatto non è vietare qualcosa che non è pericoloso. Il punto è che nel momento in cui la macchina in questione entra nel dominio della esistenza, istantaneamente si determina una responsabilità umana. Responsabilità umana che persiste durante l'utilizzo e fino allo smaltimento. Non ti sembra sensato? Infondo se le mie bimbe insistono che non vogliono fare i compiti, io non le lego alla sedia. Risponderanno degli effetti delle loro decisioni. E loro non mi sembrano particolarmente scandalizzate da questo fatto. Non credi che un imprenditore adulto, possa fare altrettanto? A presto! Giacomo On 29/03/2018 20:05, Giacomo Tesio wrote: > Il Gio 29 Mar 2018 18:37 Stefano Quintarelli <stefano(a)quintarelli.it<mailto:stefano@quintarelli.it> > <mailto:stefano@quintarelli.it<mailto:stefano@quintarelli.it>>> ha scritto: > > > > On 29/03/2018 10:00, Giacomo Tesio wrote: > > Se il sistema è determinisco e disponi (perché non li butti via) > di TUTTE > > le informazioni pertinenti, il sistema è precisaente prevedibile. > > immagina ci sia una rete neurale realizzata con una macchina da > 150TFlops che lavora per 30 minuti per fornire un output, vieteresti la > macchina ? > > > Dipende. > > Se gioca a Go, no. > > Nemmeno se gioca a scacchi. > > Se gioca a pocker online... beh in realtà non vieterei la macchina, ma > il pocker online. > > Cosa fa questa macchina ipotetica? > Cosa può andare storto? > Chi ne risponde? > Dove si trova? > E quanto consuma? > > Insomma, per applicare il poco buonsenso di cui dispongo, ho bisogno di > qualche informazione in più. > > Per esempio, se dopo 30 minuti esplode in un centro abitato, sì la vieterei. > > Se invece risponde alla Domanda Finale sulla Vita, l'Universo e il > Tutto... ci devo pensare! :-D > > > Giacomo > > > ciao, s. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> <mailto:nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 29, 2018

Re: [nexa] Fwd: Machine-Learned Automated Decision Making Report and Panel in Brussels

by Giacomo Tesio

Il Gio 29 Mar 2018 20:10 Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: > e se fossero diagnosi mediche ? > o valutazioni su contratti di assicurazione ? > Rimane da rispondere alla domanda "chi ne risponde?" Per le diagnosi mediche penso che si possa applicare la stessa logica che si usa con le medicine: un medico specialista e un informatico specializzato gestiscono e interpretano insieme i risultati dei calcoli di questa rete neurale, assumendone insieme la responsabilità. Esattamente come un fisico e un medico utilizzano ed interpretano i risultati di una macchina radio diagnostica. Quanto alla applicazioni assicurative, macroscopicamente direi che qualcuno si è fatto fregare di brutto: non credo che il valore prodotto in ambito assicurativo possa richiedere così tanta potenza di calcolo ed il tempo (ovvero il costo) necessario a calibrare una rete neurale della complessità che una singola esecuzione di 30 minuti a quel clock lascia immaginare. Dunque oltre a "chi ne risponde?", sarebbe utile rispondere a "quanto consuma?", "dove si trova?", "chi paga la bolletta?" e soprattutto "chi è che l'ha ordinata?". :-) Comunque, se la macchina funziona come previsto, è debuggabile con la tecnologia disponibile (ipotetica quanto la macchina stessa) e fornisce la spiegabilità perfetta del suo output prevista dal GDPR, direi che non avrei obbiezioni al suo utilizzo. Il punto infatto non è vietare qualcosa che non è pericoloso. Il punto è che nel momento in cui la macchina in questione entra nel dominio della esistenza, istantaneamente si determina una responsabilità umana. Responsabilità umana che persiste durante l'utilizzo e fino allo smaltimento. Non ti sembra sensato? Infondo se le mie bimbe insistono che non vogliono fare i compiti, io non le lego alla sedia. Risponderanno degli effetti delle loro decisioni. E loro non mi sembrano particolarmente scandalizzate da questo fatto. Non credi che un imprenditore adulto, possa fare altrettanto? A presto! Giacomo > On 29/03/2018 20:05, Giacomo Tesio wrote: > > Il Gio 29 Mar 2018 18:37 Stefano Quintarelli <stefano(a)quintarelli.it > > <mailto:stefano@quintarelli.it>> ha scritto: > > > > > > > > On 29/03/2018 10:00, Giacomo Tesio wrote: > > > Se il sistema è determinisco e disponi (perché non li butti via) > > di TUTTE > > > le informazioni pertinenti, il sistema è precisaente prevedibile. > > > > immagina ci sia una rete neurale realizzata con una macchina da > > 150TFlops che lavora per 30 minuti per fornire un output, vieteresti > la > > macchina ? > > > > > > Dipende. > > > > Se gioca a Go, no. > > > > Nemmeno se gioca a scacchi. > > > > Se gioca a pocker online... beh in realtà non vieterei la macchina, ma > > il pocker online. > > > > Cosa fa questa macchina ipotetica? > > Cosa può andare storto? > > Chi ne risponde? > > Dove si trova? > > E quanto consuma? > > > > Insomma, per applicare il poco buonsenso di cui dispongo, ho bisogno di > > qualche informazione in più. > > > > Per esempio, se dopo 30 minuti esplode in un centro abitato, sì la > vieterei. > > > > Se invece risponde alla Domanda Finale sulla Vita, l'Universo e il > > Tutto... ci devo pensare! :-D > > > > > > Giacomo > > > > > > ciao, s. > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > >

March 29, 2018

Re: [nexa] Fwd: Machine-Learned Automated Decision Making Report and Panel in Brussels

by Stefano Quintarelli

e se fossero diagnosi mediche ? o valutazioni su contratti di assicurazione ? ciao!, s. On 29/03/2018 20:05, Giacomo Tesio wrote: > Il Gio 29 Mar 2018 18:37 Stefano Quintarelli <stefano(a)quintarelli.it > <mailto:stefano@quintarelli.it>> ha scritto: > > > > On 29/03/2018 10:00, Giacomo Tesio wrote: > > Se il sistema è determinisco e disponi (perché non li butti via) > di TUTTE > > le informazioni pertinenti, il sistema è precisaente prevedibile. > > immagina ci sia una rete neurale realizzata con una macchina da > 150TFlops che lavora per 30 minuti per fornire un output, vieteresti la > macchina ? > > > Dipende. > > Se gioca a Go, no. > > Nemmeno se gioca a scacchi. > > Se gioca a pocker online... beh in realtà non vieterei la macchina, ma > il pocker online. > > Cosa fa questa macchina ipotetica? > Cosa può andare storto? > Chi ne risponde? > Dove si trova? > E quanto consuma? > > Insomma, per applicare il poco buonsenso di cui dispongo, ho bisogno di > qualche informazione in più. > > Per esempio, se dopo 30 minuti esplode in un centro abitato, sì la vieterei. > > Se invece risponde alla Domanda Finale sulla Vita, l'Universo e il > Tutto... ci devo pensare! :-D > > > Giacomo > > > ciao, s. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 29, 2018