E se fossero diagnosi mediche:
https://arxiv.org/pdf/1711.06373.pdf e’ un paper appena pubblicato che suggerisce come AI serva di supporto, e non come sostituto, del medico specialista. Tra I diversi motivi, riprende il tema gia’ visto in
https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/ dove Deep Learning non da risultati sempre spiegabili, il motive per cui le auto autonome per ora e’ meglio non siano rilasciate sul mercato.
From: nexa <nexa-bounces@server-nexa.polito.it> On Behalf Of
Giacomo Tesio
Sent: Thursday, March 29, 2018 3:32 PM
To: Stefano Quintarelli <stefano@quintarelli.it>
Cc: Nexa <nexa@server-nexa.polito.it>
Subject: Re: [nexa] Fwd: Machine-Learned Automated Decision Making Report and Panel in Brussels
Il Gio 29 Mar 2018 20:10 Stefano Quintarelli <stefano@quintarelli.it> ha scritto:
e se fossero diagnosi mediche ?
o valutazioni su contratti di assicurazione ?
Rimane da rispondere alla domanda "chi ne risponde?"
Per le diagnosi mediche penso che si possa applicare la stessa logica che si usa con le medicine: un medico specialista e un informatico specializzato gestiscono e interpretano insieme i risultati dei calcoli di questa rete neurale, assumendone
insieme la responsabilità.
Esattamente come un fisico e un medico utilizzano ed interpretano i risultati di una macchina radio diagnostica.
Quanto alla applicazioni assicurative, macroscopicamente direi che qualcuno si è fatto fregare di brutto: non credo che il valore prodotto in ambito assicurativo possa richiedere così tanta potenza di calcolo ed il tempo (ovvero il costo)
necessario a calibrare una rete neurale della complessità che una singola esecuzione di 30 minuti a quel clock lascia immaginare.
Dunque oltre a "chi ne risponde?", sarebbe utile rispondere a "quanto consuma?", "dove si trova?", "chi paga la bolletta?" e soprattutto "chi è che l'ha ordinata?". :-)
Comunque, se la macchina funziona come previsto, è debuggabile con la tecnologia disponibile (ipotetica quanto la macchina stessa) e fornisce la spiegabilità perfetta del suo output prevista
dal GDPR, direi che non avrei obbiezioni al suo utilizzo.
Il punto infatto non è vietare qualcosa che non è pericoloso.
Il punto è che nel momento in cui la macchina in questione entra nel dominio della esistenza, istantaneamente si determina una responsabilità umana.
Responsabilità umana che persiste durante l'utilizzo e fino allo smaltimento.
Non ti sembra sensato?
Infondo se le mie bimbe insistono che non vogliono fare i compiti, io non le lego alla sedia.
Risponderanno degli effetti delle loro decisioni.
E loro non mi sembrano particolarmente scandalizzate da questo fatto.
Non credi che un imprenditore adulto, possa fare altrettanto?
A presto!
Giacomo
On 29/03/2018 20:05, Giacomo Tesio wrote:
> Il Gio 29 Mar 2018 18:37 Stefano Quintarelli <stefano@quintarelli.it
> <mailto:stefano@quintarelli.it>> ha scritto:
>
>
>
> On 29/03/2018 10:00, Giacomo Tesio wrote:
> > Se il sistema è determinisco e disponi (perché non li butti via)
> di TUTTE
> > le informazioni pertinenti, il sistema è precisaente prevedibile.
>
> immagina ci sia una rete neurale realizzata con una macchina da
> 150TFlops che lavora per 30 minuti per fornire un output, vieteresti la
> macchina ?
>
>
> Dipende.
>
> Se gioca a Go, no.
>
> Nemmeno se gioca a scacchi.
>
> Se gioca a pocker online... beh in realtà non vieterei la macchina, ma
> il pocker online.
>
> Cosa fa questa macchina ipotetica?
> Cosa può andare storto?
> Chi ne risponde?
> Dove si trova?
> E quanto consuma?
>
> Insomma, per applicare il poco buonsenso di cui dispongo, ho bisogno di
> qualche informazione in più.
>
> Per esempio, se dopo 30 minuti esplode in un centro abitato, sì la vieterei.
>
> Se invece risponde alla Domanda Finale sulla Vita, l'Universo e il
> Tutto... ci devo pensare! :-D
>
>
> Giacomo
>
>
> ciao, s.
> _______________________________________________
> nexa mailing list
> nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>
> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
>