November 2018 - nexa - server-nexa.polito.it

Re: [nexa] Autonomous Vehicle Ethics: Beyond the Trolley Problem (call for papers) (Giacomo Tesio)

by Carlo Blengino

Provo, per puro spirito dialettico (e per una sorta di disagio che sento leggendo questo tread) a dare un diverso punto di vista, forse"eccessivo" e un po' grezzo: chiedo venia anticipatamente. L'avversione per l'idea che degli algoritmi prendano decisioni capaci di influenzare più o meno profondamente la nostra vita è tenace e radicata in tutti noi, a dispetto della realtà che già viviamo. Mi viene in mente la vicenda dei prezzi del vino Bordeaux e dell'algoritmo di Orley Ashenfelter: l'algoritmo messo a punto dall'economista di Princeton per calcolare i prezzi futuri delle varie annate di Boreaux era, ed è, efficace ed accurato ma la reazione nei circoli di viticoltori francesi (ovvero tra i sistemi umani esperti del settore) "oscillò tra la violenza e l'isteria". Per i sommelier francesi l'algoritmo era "ridicolo e assurdo" e nessuna "combinazione meccanica" di variabili poteva sostituire l'intuito umano ( e soprattutto il fatto di assaggiare il vino!) . La storia fu raccontata dal NYT qui: https://www.nytimes.com/1990/03/04/us/wine-equation-puts-some-noses-out-of-… ed interessante. Siamo temo tutti un po' vittime di quella che Kahaneman chiama l'illusione di abilità. E sebbene decisioni umane cagionino quotidianamente la morte di bambini innocenti, immagino lo sconcerto e l'orrore che ci coglierà quando un bambino morirà per un errore (o una scelta, magari assai logica e razionale) di un algoritmo (o di una AV). La differenza di intensità emozionale si tradurrà immediatamente in preferenza morale ed in elevate e tetragone valutazioni etiche o addirittura religiose. Il problema del carrello applicato ai veicoli autonomi mi pare falsante, utile perlopiù a dotte disquisizioni filosofiche che lascio a chi ne sa, ma sono inquieto se le risposte saranno quelle,irrazionali ed emozionali di Marco (Marco, so che mi perdonerai!) che vorrebbe costituzionalizzare il pensiero di Weizenbaum citato da Norberto. Dio ce ne scampi. Cosa ci fa dire che la scelta dell'algoritmo sarà meno efficace e rassicurante della fallacia del giudizio umano? Meehl ritiene immorale affidarsi a giudizi intuitivi (di un carrellista aggiungo io) per decisioni importanti quando è disponibile un algoritmo esperto che può elaborare molte più informazioni in ambienti a basa validità (ovvero con un notevole grado di incertezza e imprevedibilità). Un'ultima osservazione per Maria Chiara: perchè usi il condizionale parlando dello "ius necessitatis"? Lo stato di necessità (art. 54 c.p.) esclude la punibilità, anche in caso di omicidio dell'innocente. L'alpinista che taglia la corda del fidato compagno condannandolo a morte certa per salvar se stesso, là dove non abbia dato causa alla situazione di necessità creatasi, non viene punito. Poi possiamo fare mille pregevoli considerazioni etiche e morali e fin anche teologiche, che leggo con piacere ma a cui però mi sottraggo non arrischiandomi a pattinare su di un ghiaccio per me assai sottile. Buona domenica a tutti. CB Il giorno sab 10 nov 2018 alle ore 16:09 Alberto Cammozzo < ac+nexa(a)zeromx.net> ha scritto: > On 09/11/2018 18:41, Maria Chiara Pievatolo wrote: > > Scusate il ritardo nel rispondere. Mi ripromettevo di farlo prima. > > > > On 11-10-2018 00:34, Giacomo Tesio wrote: > > > >> Io invece obbietto QUALE ETICA? > >> Quale delle 10 miliardi di etiche presenti sul pianeta vogliamo > >> insegnare alle macchine e dunque imporre a tutti coloro che le > >> adoperano? > > > > La questione è molto pertinente, perché ci permette di passare > > dall'etica alla meta-etica, che si pone una domanda di un livello > > superiore a "che cosa è giusto fare?", vale a dire: > > > > che cosa ci rende possibile chiederci che cosa è giusto fare? > > > > La risposta di Kant alla questione meta-etica è la seguente: questa > > domanda ha senso solo se presupponiamo che chi se lo chiede sia un > > agente libero. Meta-eticamente, cioè, l'etica non è (solo) un > > algoritmo per fare la cosa giusta (secondo questo o quel parametro) ma > > il discorso di un essere libero. Banale? No, perché questo mette dei > > limiti a tutte le etiche che non rispettano questa condizione, vale a > > dire negano la dignità del soggetto morale in quanto essere libero, > > capace di scegliere e di rispondere sui suoi propri progetti, cioè, in > > linguaggio kantiano, di essere fine in sé. Senza esseri liberi non si > > dà etica, perché non si dà scelta, responsabilità e senso (soggettivo). > > > > Pertanto, meta-eticamente: (1) un algoritmo per fare la cosa giusta > > che nega la libertà dei soggetti e dunque la loro pari dignità in > > quanto liberi portatori di senso non può essere etico. Ma (2) questo > > comporta che ci possano essere situazioni - quelle tipiche dello ius > > necessitatis (mors tua vita mea)- per le quali non sia possibile > > formulare un algoritmo per fare la cosa giusta che ci salvi la vita e > > rispetti allo stesso modo tutti i soggetti morali in gioco. > > > > Per questo la risposta kantiana al problema del trolley sarebbe, > > secondo me, simile a quella di Giacomo Tesio: evitare di progettare > > sistemi che prevedibilmente producano quelle situazioni > > Chiarissimo, grazie. Condivido pienamente. > > Ma perché -- anche se spero di sbagliarmi -- la nostra società non sarà > in grado di produrre questo genere di moratoria se non troppo tardi e > troppo poco? > Questi ultimi interventi sollevano una questione di fondo: da molti dei > messaggi in questa lista traspare (almeno ai miei occhi) un senso di > impotenza sull'erosione tecnologica delle libertà, velocissima al pari > di quella del ghiaccio delle calotte polari. > "Quod licet" ha lasciato il passo a "quod potest", la filosofia non > confina la tecnica, al massimo ne lima (fiaccamente) gli abusi più > maldestri quando questi oltrepassano i confini del diritto, come se > l'unica filosofia rimasta sia quella sedimentata (per ora) nelle norme > giuridiche; nel frattempo il senso comune gioiosamente abbraccia > l'asservimento. > Aveva forse ragione Marcuse, nel considerare il nostro principio di > libertà inscindibile da una società (quella greca antica) che considera > la fatica un disvalore e perciò necessita degli schiavi? > Ma uno schiavo al quale non puoi rinunciare sarà presto il tuo padrone... > > Un saluto, > > Alberto > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Nov. 11, 2018

Re: [nexa] Amazon Is Kicking All Unauthorized Apple Refurbishers Off Amazon Marketplace - Motherboard

by Stefano Quintarelli

mi ricorda quando una startup che faceva un servizio video fu espulsa dall'app store per un accordo all'epoca tra apple e youtube... On 10/11/2018 11:01, J.C. DE MARTIN wrote: > > https://motherboard.vice.com/en_us/article/bjexb5/amazon-is-kicking-all-una… > > > (Sent from my wireless device; please excuse brevity and typos (if any)) > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- reserve your meeting with me at http://cal.quintarelli.it

Nov. 10, 2018

Autonomous Vehicle Ethics: Beyond the Trolley Problem (call for papers) (Giacomo Tesio)

by Alberto Cammozzo

On 09/11/2018 18:41, Maria Chiara Pievatolo wrote: > Scusate il ritardo nel rispondere. Mi ripromettevo di farlo prima. > > On 11-10-2018 00:34, Giacomo Tesio wrote: > >> Io invece obbietto QUALE ETICA? >> Quale delle 10 miliardi di etiche presenti sul pianeta vogliamo >> insegnare alle macchine e dunque imporre a tutti coloro che le >> adoperano? > > La questione è molto pertinente, perché ci permette di passare > dall'etica alla meta-etica, che si pone una domanda di un livello > superiore a "che cosa è giusto fare?", vale a dire: > > che cosa ci rende possibile chiederci che cosa è giusto fare? > > La risposta di Kant alla questione meta-etica è la seguente: questa > domanda ha senso solo se presupponiamo che chi se lo chiede sia un > agente libero. Meta-eticamente, cioè, l'etica non è (solo) un > algoritmo per fare la cosa giusta (secondo questo o quel parametro) ma > il discorso di un essere libero. Banale? No, perché questo mette dei > limiti a tutte le etiche che non rispettano questa condizione, vale a > dire negano la dignità del soggetto morale in quanto essere libero, > capace di scegliere e di rispondere sui suoi propri progetti, cioè, in > linguaggio kantiano, di essere fine in sé. Senza esseri liberi non si > dà etica, perché non si dà scelta, responsabilità e senso (soggettivo). > > Pertanto, meta-eticamente: (1) un algoritmo per fare la cosa giusta > che nega la libertà dei soggetti e dunque la loro pari dignità in > quanto liberi portatori di senso non può essere etico. Ma (2) questo > comporta che ci possano essere situazioni - quelle tipiche dello ius > necessitatis (mors tua vita mea)- per le quali non sia possibile > formulare un algoritmo per fare la cosa giusta che ci salvi la vita e > rispetti allo stesso modo tutti i soggetti morali in gioco. > > Per questo la risposta kantiana al problema del trolley sarebbe, > secondo me, simile a quella di Giacomo Tesio: evitare di progettare > sistemi che prevedibilmente producano quelle situazioni Chiarissimo, grazie. Condivido pienamente. Ma perché -- anche se spero di sbagliarmi -- la nostra società non sarà in grado di produrre questo genere di moratoria se non troppo tardi e troppo poco? Questi ultimi interventi sollevano una questione di fondo: da molti dei messaggi in questa lista traspare (almeno ai miei occhi) un senso di impotenza sull'erosione tecnologica delle libertà, velocissima al pari di quella del ghiaccio delle calotte polari. "Quod licet" ha lasciato il passo a "quod potest", la filosofia non confina la tecnica, al massimo ne lima (fiaccamente) gli abusi più maldestri quando questi oltrepassano i confini del diritto, come se l'unica filosofia rimasta sia quella sedimentata (per ora) nelle norme giuridiche; nel frattempo il senso comune gioiosamente abbraccia l'asservimento. Aveva forse ragione Marcuse, nel considerare il nostro principio di libertà inscindibile da una società (quella greca antica) che considera la fatica un disvalore e perciò necessita degli schiavi? Ma uno schiavo al quale non puoi rinunciare sarà presto il tuo padrone... Un saluto, Alberto

Nov. 10, 2018

Re: [nexa] Autonomous Vehicle Ethics: Beyond the Trolley Problem (call for papers) (Giacomo Tesio)

by Marco Ciurcina

Bravo Norberto! IMHO sarebbe importante modificare la costituzione aggiungendo un articolo che stabilisca questo punto come principio fondamentale. Maria Chiara, grazie per le tue lucidissime considerazioni. m.c. In data venerdì 9 novembre 2018 20:34:22 CET, PATRIGNANI NORBERTO ha scritto: > Come diceva Weizenbaum (1976!) le situazioni che > richiedono "judgement, respect, understanding, caring and > love" > NON dovrebbero essere delegate a una macchina. > Ciao, > Norberto > > > On Fri, 09 Nov 2018 18:41:47 +0100 > > Maria Chiara Pievatolo <pievatolo(a)dsp.unipi.it> wrote: > > Scusate il ritardo nel rispondere. Mi ripromettevo di > > > >farlo prima. > > > > On 11-10-2018 00:34, Giacomo Tesio wrote: > >> Io invece obbietto QUALE ETICA? > >> Quale delle 10 miliardi di etiche presenti sul pianeta > >> > >>vogliamo > >> > >> insegnare alle macchine e dunque imporre a tutti coloro > >> > >>che le > >> > >> adoperano? > > > > La questione è molto pertinente, perché ci permette di > > > >passare dall'etica alla meta-etica, che si pone una > >domanda di un livello superiore a "che cosa è giusto > > > >fare?", vale a dire: > > che cosa ci rende possibile chiederci che cosa è giusto > > > >fare? > > > > La risposta di Kant alla questione meta-etica è la > > > >seguente: questa domanda ha senso solo se presupponiamo > >che chi se lo chiede sia un agente libero. > >Meta-eticamente, cioè, l'etica non è (solo) un algoritmo > >per fare la cosa giusta (secondo questo o quel parametro) > >ma il discorso di un essere libero. Banale? No, perché > >questo mette dei limiti a tutte le etiche che non > >rispettano questa condizione, vale a dire negano la > >dignità del soggetto morale in quanto essere libero, > >capace di scegliere e di rispondere sui suoi propri > >progetti, cioè, in linguaggio kantiano, di essere fine in > >sé. Senza esseri liberi non si dà etica, perché non si dà > >scelta, responsabilità e senso (soggettivo). > > > > Pertanto, meta-eticamente: (1) un algoritmo per fare la > > > >cosa giusta che nega la libertà dei soggetti e dunque la > >loro pari dignità in quanto liberi portatori di senso non > >può essere etico. Ma (2) questo comporta che ci possano > >essere situazioni - quelle tipiche dello ius necessitatis > >(mors tua vita mea)- per le quali non sia possibile > >formulare un algoritmo per fare la cosa giusta che ci > >salvi la vita e rispetti allo stesso modo tutti i > >soggetti morali in gioco. > > > > Per questo la risposta kantiana al problema del trolley > > > >sarebbe, secondo me, simile a quella di Giacomo Tesio: > >evitare di progettare sistemi che prevedibilmente > >producano quelle situazioni > > > >> [L'etica utilitarista] garantisce solo una discreta > >> > >>prevedibilità degli attori a valle di > >> > >> stimoli specifici. > > > > Appunto. Ma per essere etici non basta produrre e > > > >imporre un algoritmo per fare la cosa giusta. > > > > Un saluto, > > MCP > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Nov. 10, 2018

IGF a Parigi c/o UNESCO

by Andrea Cai

Cari tutti, la prossima settimana qui al quartier generale dell'UNESCO a Parigi avremo l'onore di accogliere l'IGF2019 https://www.intgovforum.org/multilingual/index.php?q=filedepot_download/678… Immagino che alcuni di voi verranno. Chi volesse passare per un saluto il mio ufficio è al 5o piano (5.013) o, visto che sarò per lo più in giro tra i vari meeting, il mio WhatsApp è +393384744556 Magari una delle sere post-IGF organizziamo una birra tra NEXA's alumni&friends. Approfitto anche per condividere una final draft degli Internet Universality Indicators che dopo una ampia consultazione sono in dirittura d'arrivo: https://en.unesco.org/internetuniversality Spero a presto Andrea Andrea CAIROLA Programme Specialist / Spécialiste du programme Division for Freedom of Expression and Media Development / Division pour la liberté d’expression et le développement des médias Communication and Information Sector / Secteur de la communication et de l’information United Nations Educational, Scientific and Cultural Organization 7, place de Fontenoy 75007 Paris, France Tel.: +33 (0) 1 4568 1044 a.cairola(a)unesco.org

Nov. 10, 2018

Will the population become redundant? | Eurozine

by J.C. DE MARTIN

https://www.eurozine.com/will-population-become-redundant/ Automated technology and the digital economy have revived old fears about mass redundancy, but also inspired visions of a productive symbiosis between human and mechanized labour. Economic historian Robert Skidelsky surveys both the pessimistic and optimistic traditions of economic thought on mechanization and asks how policy can offset the effects of the rapid technological changes underway today. (Sent from my wireless device; please excuse brevity and typos (if any))

Nov. 10, 2018

Biometrics and video-surveillance for crime prevention

by Stefano Leucci

Il trend è chiaro, non altrettanto i pesi sulla bilancia: - https://www.theguardian.com/world/2018/nov/07/facial-image-matching-system-… - https://www.theguardian.com/world/2018/nov/02/eu-border-lie-detection-syste… - https://www.independent.co.uk/news/uk/home-news/facial-recognition-uk-polic… Come intervenire? È forse un terreno in cui la (tanto recentemente acclamata) Digital Ethics potrebbe avere un ruolo determinante, beyond the law? Curioso di opinioni e idee in merito, Stefano

Nov. 10, 2018

Amazon Is Kicking All Unauthorized Apple Refurbishers Off Amazon Marketplace - Motherboard

by J.C. DE MARTIN

https://motherboard.vice.com/en_us/article/bjexb5/amazon-is-kicking-all-una… (Sent from my wireless device; please excuse brevity and typos (if any))

Nov. 10, 2018

Re: [nexa] Autonomous Vehicle Ethics: Beyond the Trolley Problem (call for papers) (Giacomo Tesio)

by PATRIGNANI NORBERTO

Come diceva Weizenbaum (1976!) le situazioni che richiedono "judgement, respect, understanding, caring and love" NON dovrebbero essere delegate a una macchina. Ciao, Norberto On Fri, 09 Nov 2018 18:41:47 +0100 Maria Chiara Pievatolo <pievatolo(a)dsp.unipi.it> wrote: > Scusate il ritardo nel rispondere. Mi ripromettevo di >farlo prima. > > On 11-10-2018 00:34, Giacomo Tesio wrote: > >> Io invece obbietto QUALE ETICA? >> Quale delle 10 miliardi di etiche presenti sul pianeta >>vogliamo >> insegnare alle macchine e dunque imporre a tutti coloro >>che le >> adoperano? > > La questione è molto pertinente, perché ci permette di >passare dall'etica alla meta-etica, che si pone una >domanda di un livello superiore a "che cosa è giusto >fare?", vale a dire: > > che cosa ci rende possibile chiederci che cosa è giusto >fare? > > La risposta di Kant alla questione meta-etica è la >seguente: questa domanda ha senso solo se presupponiamo >che chi se lo chiede sia un agente libero. >Meta-eticamente, cioè, l'etica non è (solo) un algoritmo >per fare la cosa giusta (secondo questo o quel parametro) >ma il discorso di un essere libero. Banale? No, perché >questo mette dei limiti a tutte le etiche che non >rispettano questa condizione, vale a dire negano la >dignità del soggetto morale in quanto essere libero, >capace di scegliere e di rispondere sui suoi propri >progetti, cioè, in linguaggio kantiano, di essere fine in >sé. Senza esseri liberi non si dà etica, perché non si dà >scelta, responsabilità e senso (soggettivo). > > Pertanto, meta-eticamente: (1) un algoritmo per fare la >cosa giusta che nega la libertà dei soggetti e dunque la >loro pari dignità in quanto liberi portatori di senso non >può essere etico. Ma (2) questo comporta che ci possano >essere situazioni - quelle tipiche dello ius necessitatis >(mors tua vita mea)- per le quali non sia possibile >formulare un algoritmo per fare la cosa giusta che ci >salvi la vita e rispetti allo stesso modo tutti i >soggetti morali in gioco. > > Per questo la risposta kantiana al problema del trolley >sarebbe, secondo me, simile a quella di Giacomo Tesio: >evitare di progettare sistemi che prevedibilmente >producano quelle situazioni > >> [L'etica utilitarista] garantisce solo una discreta >>prevedibilità degli attori a valle di >> stimoli specifici. > > Appunto. Ma per essere etici non basta produrre e >imporre un algoritmo per fare la cosa giusta. > > Un saluto, > MCP > > > -- > Maria Chiara Pievatolo > Dipartimento di Scienze politiche Università di Pisa > Via Serafini 3 56126 Pisa (Italy) > +39 050 2212479 > http://btfp.sp.unipi.it https://twitter.com/btfp1 > https://people.unipi.it/mariachiara_pievatolo/ > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Nov. 9, 2018

Re: [nexa] Autonomous Vehicle Ethics: Beyond the Trolley Problem (call for papers) (Giacomo Tesio)

by Maria Chiara Pievatolo

Scusate il ritardo nel rispondere. Mi ripromettevo di farlo prima. On 11-10-2018 00:34, Giacomo Tesio wrote: > Io invece obbietto QUALE ETICA? > Quale delle 10 miliardi di etiche presenti sul pianeta vogliamo > insegnare alle macchine e dunque imporre a tutti coloro che le > adoperano? La questione è molto pertinente, perché ci permette di passare dall'etica alla meta-etica, che si pone una domanda di un livello superiore a "che cosa è giusto fare?", vale a dire: che cosa ci rende possibile chiederci che cosa è giusto fare? La risposta di Kant alla questione meta-etica è la seguente: questa domanda ha senso solo se presupponiamo che chi se lo chiede sia un agente libero. Meta-eticamente, cioè, l'etica non è (solo) un algoritmo per fare la cosa giusta (secondo questo o quel parametro) ma il discorso di un essere libero. Banale? No, perché questo mette dei limiti a tutte le etiche che non rispettano questa condizione, vale a dire negano la dignità del soggetto morale in quanto essere libero, capace di scegliere e di rispondere sui suoi propri progetti, cioè, in linguaggio kantiano, di essere fine in sé. Senza esseri liberi non si dà etica, perché non si dà scelta, responsabilità e senso (soggettivo). Pertanto, meta-eticamente: (1) un algoritmo per fare la cosa giusta che nega la libertà dei soggetti e dunque la loro pari dignità in quanto liberi portatori di senso non può essere etico. Ma (2) questo comporta che ci possano essere situazioni - quelle tipiche dello ius necessitatis (mors tua vita mea)- per le quali non sia possibile formulare un algoritmo per fare la cosa giusta che ci salvi la vita e rispetti allo stesso modo tutti i soggetti morali in gioco. Per questo la risposta kantiana al problema del trolley sarebbe, secondo me, simile a quella di Giacomo Tesio: evitare di progettare sistemi che prevedibilmente producano quelle situazioni > [L'etica utilitarista] garantisce solo una discreta prevedibilità degli > attori a valle di > stimoli specifici. Appunto. Ma per essere etici non basta produrre e imporre un algoritmo per fare la cosa giusta. Un saluto, MCP -- Maria Chiara Pievatolo Dipartimento di Scienze politiche Università di Pisa Via Serafini 3 56126 Pisa (Italy) +39 050 2212479 http://btfp.sp.unipi.it https://twitter.com/btfp1 https://people.unipi.it/mariachiara_pievatolo/

Nov. 9, 2018