NYT: "Tech’s Ethical ‘Dark Side’: Harvard, Stanford and Others Want to Address It"
Tech’s Ethical ‘Dark Side’: Harvard, Stanford and Others Want to Address It By NATASHA SINGER <https://www.nytimes.com/by/natasha-singer> <https://www.nytimes.com/by/natasha-singer>FEB. 12, 2018 PALO ALTO, Calif. — The medical profession has an ethic: First, do no harm. Silicon Valley has an ethos: Build it first and ask for forgiveness later. Now, in the wake of fake news and other troubles at tech companies, universities that helped produce some of Silicon Valley’s top technologists are hustling to bring a more medicine-like morality to computer science. This semester, Harvard University and the Massachusetts Institute of Technology are jointly offering a new course on the ethics and regulation of artificial intelligence. The University of Texas at Austin just introduced a course titled “Ethical Foundations of Computer Science” — with the idea of eventually requiring it for all computer science majors. [...] continua qui: https://www.nytimes.com/2018/02/12/business/computer-science-ethics-courses....
come ulteriore spunto, ieri l'avevo commentato così: let's not forget, however (as @aral already noted, btw) that what first and foremost needs a "more medicine-like morality" are law & business, not ICT teaching. Had VCs had such a morality, FB would still be a harmless toy. Marco On 2018-02-14 09:10, J.C. DE MARTIN wrote:
TECH’S ETHICAL ‘DARK SIDE’: HARVARD, STANFORD AND OTHERS WANT TO ADDRESS IT
By NATASHA SINGER [1]
[1]FEB. 12, 2018
PALO ALTO, Calif. — The medical profession has an ethic: First, do no harm.
Silicon Valley has an ethos: Build it first and ask for forgiveness later.
Now, in the wake of fake news and other troubles at tech companies, universities that helped produce some of Silicon Valley’s top technologists are hustling to bring a more medicine-like morality to computer science.
This semester, Harvard University and the Massachusetts Institute of Technology are jointly offering a new course on the ethics and regulation of artificial intelligence. The University of Texas at Austin just introduced a course titled “Ethical Foundations of Computer Science” — with the idea of eventually requiring it for all computer science majors.
[...]
continua qui: https://www.nytimes.com/2018/02/12/business/computer-science-ethics-courses.... [2]
Links: ------ [1] https://www.nytimes.com/by/natasha-singer [2] https://www.nytimes.com/2018/02/12/business/computer-science-ethics-courses....
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Un problema che si presenta ad ogni svolta tecnologica. Oppenheimer disse, descrivendo cosa lo spinse a creare la bomba A: «when you see something that is technically sweet, you go ahead and do it and you argue about what to do about it only after you have had your technical success» Lo scienziato Casimir su questo commentò: "Whatever mad and perverted ideas may take hold on these in power, [...] there will always be technicians found who will be willing to oblige, who will become fascinated with the technical problem and who do not think about the consequences." chiudendo: "To use Oppenheimer's favourite terminology, Daedalus may have found his cow a sweet animal." Un problema antico. Alberto On 14/02/2018 09:10, J.C. DE MARTIN wrote:
Tech’s Ethical ‘Dark Side’: Harvard, Stanford and Others Want to Address It
By NATASHA SINGER <https://www.nytimes.com/by/natasha-singer>
<https://www.nytimes.com/by/natasha-singer>FEB. 12, 2018
PALO ALTO, Calif. — The medical profession has an ethic: First, do no harm.
Silicon Valley has an ethos: Build it first and ask for forgiveness later.
Now, in the wake of fake news and other troubles at tech companies, universities that helped produce some of Silicon Valley’s top technologists are hustling to bring a more medicine-like morality to computer science.
This semester, Harvard University and the Massachusetts Institute of Technology are jointly offering a new course on the ethics and regulation of artificial intelligence. The University of Texas at Austin just introduced a course titled “Ethical Foundations of Computer Science” — with the idea of eventually requiring it for all computer science majors.
[...]
continua qui: https://www.nytimes.com/2018/02/12/business/computer-science-ethics-courses....
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Beh, al di là della AI, ho recentemente toccato con mano l'etica della Silicon Valley. https://medium.com/@giacomo_59737/what-i-wish-i-knew-before-contributing-to-... Giacomo 2018-02-14 12:06 GMT+01:00 Alberto Cammozzo <ac+nexa@zeromx.net>:
Un problema che si presenta ad ogni svolta tecnologica.
Oppenheimer disse, descrivendo cosa lo spinse a creare la bomba A: «when you see something that is technically sweet, you go ahead and do it and you argue about what to do about it only after you have had your technical success»
Lo scienziato Casimir su questo commentò: "Whatever mad and perverted ideas may take hold on these in power, [...] there will always be technicians found who will be willing to oblige, who will become fascinated with the technical problem and who do not think about the consequences." chiudendo: "To use Oppenheimer's favourite terminology, Daedalus may have found his cow a sweet animal."
Un problema antico.
Alberto
On 14/02/2018 09:10, J.C. DE MARTIN wrote:
Tech’s Ethical ‘Dark Side’: Harvard, Stanford and Others Want to Address It
By NATASHA SINGER <https://www.nytimes.com/by/natasha-singer>
<https://www.nytimes.com/by/natasha-singer>FEB. 12, 2018
PALO ALTO, Calif. — The medical profession has an ethic: First, do no harm.
Silicon Valley has an ethos: Build it first and ask for forgiveness later.
Now, in the wake of fake news and other troubles at tech companies, universities that helped produce some of Silicon Valley’s top technologists are hustling to bring a more medicine-like morality to computer science.
This semester, Harvard University and the Massachusetts Institute of Technology are jointly offering a new course on the ethics and regulation of artificial intelligence. The University of Texas at Austin just introduced a course titled “Ethical Foundations of Computer Science” — with the idea of eventually requiring it for all computer science majors.
[...]
continua qui: https://www.nytimes.com/2018/02/12/business/computer-science-ethics-courses....
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Carissim*, nel nostro piccolo ... in Italia Polito (dal 2008) e Polimi (dal 2016) si sono gia' mossi... https://didattica.polito.it/pls/portal30/sviluppo.guide.visualizza?p_cod_ins... http://home.deib.polimi.it/schiaffo/CE/syllabus.html un caro saluto Norberto Il 14/02/2018 09:10, J.C. DE MARTIN ha scritto:
Tech’s Ethical ‘Dark Side’: Harvard, Stanford and Others Want to Address It
By NATASHA SINGER <https://www.nytimes.com/by/natasha-singer>
<https://www.nytimes.com/by/natasha-singer>FEB. 12, 2018
PALO ALTO, Calif. — The medical profession has an ethic: First, do no harm.
Silicon Valley has an ethos: Build it first and ask for forgiveness later.
Now, in the wake of fake news and other troubles at tech companies, universities that helped produce some of Silicon Valley’s top technologists are hustling to bring a more medicine-like morality to computer science.
This semester, Harvard University and the Massachusetts Institute of Technology are jointly offering a new course on the ethics and regulation of artificial intelligence. The University of Texas at Austin just introduced a course titled “Ethical Foundations of Computer Science” — with the idea of eventually requiring it for all computer science majors.
[...]
continua qui: https://www.nytimes.com/2018/02/12/business/computer-science-ethics-courses....
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Salve, l'idea è assolutamente nobile e da incoraggiare. Cercherò (per quanto ed appena possibile) di dare un'occhiata approfondita al materiale distribuito qui: http://home.deib.polimi.it/schiaffo/CE/syllabus.html Apprezzo *moltissimo *la distribuzione online di materiale didattico universitario. E' un importante strumento di crescita e confronto con la realtà per le università di tutto il mondo. Dando una prima scorsa ho notato alcuni punti discutibili in queste slide: http://home.deib.polimi.it/schiaffo/CE/digital%20intellectual%20property%201... Anzitutto, un vero e proprio errore si trova nella slide 23: le FAQ sui CreativeCommons <https://creativecommons.org/faq/#can-i-apply-a-creative-commons-license-to-s...> *sconsigliano esplicitamente* di utilizzare le licenze CC per il software. Le licenze CC infatti sono progettate per i contenuti. E se è vero che la fino a qualche anno fa la SIAE trattava il codice sorgente come un opera d'arte (da depositare in copia cartacea... mi ero informato!), vi posso assicurare che spesso non causa emozioni, solo problemi intestinali. :-) Inoltre dalla slide 12 in poi, la parte relativa al FOSS (che come Stallmann notava tempo fa andrebbe al massimo indicato come FLOSS <https://www.gnu.org/philosophy/floss-and-foss.en.html>) è piuttosto confusa. Cita insieme Free Software e Open Source Software (insieme ai Creative Commons, che come detto non sono applicabili al software), parla propriamente del Free Software nella slide 13, ma tratta impropriamente tutte e tre le categorie insieme nella slide 14. L'ultimo punto della slide 14 poi è proprio sbagliato. E lo dico sia come programmatore di software proprietario che come sviluppatore di software libero. Da SCO, a Microsoft, a ExtJS, ai rubagalline che buttano software libero in soluzioni rivedute come proprietarie... potrei elencare molteplici esempi in cui aziende di software proprietario hanno causato danni enormi al software libero, costituendo più di una minaccia! E questo sia con azioni di marketing, sia con azioni legali, sia con atti che sono... diciamo "ortogonali" all'etica. Il trattamento dell'aspetto morale denota un certo distacco dalla *pratica* dello sviluppo del software, in particolare nella descrizione dello scenario 2, nelle slide 4-5. Successivamente vi è una discreta ambiguità nei termini. In particolare, leggendo dell'immoralità della copia di software in violazione della licenza subito dopo la slide 18, intitolata "FOSS vs PS", si sembra suggerire che il software libero sia propenso a tale immorale violazione delle licenze. Il che è palesemente falso, visto che lo stesso termine "Free Software" è legato ad una licenza software, la GPL, la cui violazione attraverso la copia dei sorgenti senza attribuzione e ridistribuzione è stata oggetto di diverse cause. Sempre nella slide 18, chi suggerisce che "the courts will have to continue to draw a delicate line between what should be ownable and what should not be ownable" dovrebbe forse riflettere tale framework sia compatibile col principio che "la legge è uguale per tutti". Sarebbe poi utile far seguire una slide alle 21-22 (che stigmatizzano giustaente lo scenario 1, di Carol che viola una licenza a pagamento) con un esempio parallelo allo scenario 2: - Supponi di avere un amico che soffre fortemente per il caldo e tu, per altruismo, scavi una piscina interamente con i tuoi mezzi e le tue forze in un tuo terreno. - La tua piscina è più bella, più sicura e più confortevole di quelle a pagamento, ma visto che tu l'hai scavata per il tuo amico, decidi di lasciare libero l'accesso. - Distribuisci anche istruzioni dettagliate, per permettere a chiunque lo desideri di costruire la propria piscina nei propri terreni. - Ma, in onore del tuo amico che soffriva il caldo, poni il vincolo che chiunque costruisca una piscina a partire dalle tue istruzioni sia altrettanto altruista. - I proprietari delle piscine vicine ti fanno causa, o cercano di diffondere terrore psicologico nei confronti delle piscine gratuite (o dei danni all'economia globale che queste procurano, o dell'immoralità del costruire una piscina non a pagamento), o "incentivano" la classe politica a vietare il loro utilizzo. - Qualche furbone prova anche a costruire una piscina seguendo le tue istruzioni, con qualche differenza di tinteggiatura, e a richiedere il pagamento all'ingresso A questo punto la sezione potrebbe concludersi con la domanda: - C'è qualche *differenza morale* fra *attaccare il creatore della piscina libera* e *attaccare il software libero*? La Pete's Software, infatti, ha sviluppato in proprio il software libero che è "più efficiente" di quello della Bingo. Per questo parlavo di *evidente distacco dalla pratica di sviluppo*. Perché il software, libero o meno, non si scrive da solo e non piove dal cielo. Se la Bingo è stata mandata fuori mercato da un software sviluppato più rapidamente da una società con un budget inferiore, siamo di fronte a semplice selezione naturale. Spero che queste correzioni possano essere utili ai vostri studenti. Appena possibile (è un periodo piuttosto convulso) darò un occhiata al resto del materiale. A presto! Giacomo 2018-02-15 8:43 GMT+01:00 Norberto Patrignani <norberto.patrignani@polito.it
:
Carissim*, nel nostro piccolo ... in Italia Polito (dal 2008) e Polimi (dal 2016) si sono gia' mossi... https://didattica.polito.it/pls/portal30/sviluppo.guide. visualizza?p_cod_ins=01PJMRW&p_a_acc=2018 http://home.deib.polimi.it/schiaffo/CE/syllabus.html un caro saluto Norberto
Il 14/02/2018 09:10, J.C. DE MARTIN ha scritto:
Tech’s Ethical ‘Dark Side’: Harvard, Stanford and Others Want to Address It
By NATASHA SINGER <https://www.nytimes.com/by/natasha-singer>
<https://www.nytimes.com/by/natasha-singer>FEB. 12, 2018
PALO ALTO, Calif. — The medical profession has an ethic: First, do no harm.
Silicon Valley has an ethos: Build it first and ask for forgiveness later.
Now, in the wake of fake news and other troubles at tech companies, universities that helped produce some of Silicon Valley’s top technologists are hustling to bring a more medicine-like morality to computer science.
This semester, Harvard University and the Massachusetts Institute of Technology are jointly offering a new course on the ethics and regulation of artificial intelligence. The University of Texas at Austin just introduced a course titled “Ethical Foundations of Computer Science” — with the idea of eventually requiring it for all computer science majors.
[...]
continua qui: https://www.nytimes.com/2018/02/12/business/computer- science-ethics-courses.html
_______________________________________________ nexa mailing listnexa@server-nexa.polito.ithttps://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Salve, scusate se riporto in auge questo thread senza aver ancora approfondito gli altri materiali universitari proposti. Tuttavia penso possa essere di interesse comune questa interessante analisi storica di Evgeny Morozov sulla marginalizzazione del software libero da parte della Silicon Valley: https://thebaffler.com/salvos/the-meme-hustler Questo documento si inserisce in un recente dibattito cui ho partecipato su twitter relativo agli aspetti etici del software libero (che sottendono i valori dell'etica hacker) e sulla sua differenza dal software open source (che invece è ortogonale all'etica). In tale dibattito, alcuni noti PR del Free Software europeo e il presidente dell'OSI sostengono che non vi sia differenza fra i due termini. Italo Vignali per esempio aveva sostenuto che Stallman stesso, sua conoscenza personale, fosse d'accordo sulla equivalenza culturale dei due movimenti. Alla mia richiesta di conferma, RMS mi ha girato questo link. L'articolo delinea di una interessante strategia culturale di assimilamento e marginalizzazione che si trova al lato opposto dello spettro rispetto alla più nota "divide et impera". Strategia brillante! Scommetterei che ha persino già un nome, ben noto agli storici. Permette infatti contemporaneamente: - di marginalizzare la etica hacker basata sulla libertà e sulla condivisione, entrambe finalizzate all'elevazione dell'umanità attraverso la ricerca e la sperimentazione - di elevare uno strumento di marketing come porta bandiera proprio di quei valori da cui l'open source si vuole affrancare, aumentandone l'efficacia La mia posizione a riguardo è che l'ambiguità sia ingannevole per i programmatori e per gli utenti, che finiscono per aspettarsi libertà che sono poi negate in concreto. (vi pregherei, per evitare di perdere tempo a discutere in astratto, di provare a compilare da zero Chromium prima di obbiettare) Non credo che i due movimenti debbano essere in competizione: nel 2018 non dobbiamo avere paura delle differenze, non sono mai le differenze a dividere, ma gli interessi di chi cerca di avvantaggiarsene. Ma *l'ambiguità non è mai la soluzione*. Per lavorare insieme, basta un po' di *onestà intellettuale*: *definizioni chiare e oneste differenze fra persone intelligenti arricchiscono sempre il dialogo e la collaborazione*. Giacomo Il 15 febbraio 2018 16:13, Giacomo Tesio <giacomo@tesio.it> ha scritto:
Salve, l'idea è assolutamente nobile e da incoraggiare. Cercherò (per quanto ed appena possibile) di dare un'occhiata approfondita al materiale distribuito qui: http://home.deib.polimi.it/schiaffo/CE/syllabus.html Apprezzo moltissimo la distribuzione online di materiale didattico universitario. E' un importante strumento di crescita e confronto con la realtà per le università di tutto il mondo.
Dando una prima scorsa ho notato alcuni punti discutibili in queste slide:
http://home.deib.polimi.it/schiaffo/CE/digital%20intellectual%20property%201...
Anzitutto, un vero e proprio errore si trova nella slide 23: le FAQ sui CreativeCommons sconsigliano esplicitamente di utilizzare le licenze CC
per
il software. Le licenze CC infatti sono progettate per i contenuti. E se è vero che la fino a qualche anno fa la SIAE trattava il codice sorgente come un opera d'arte (da depositare in copia cartacea... mi ero informato!), vi posso assicurare che spesso non causa emozioni, solo problemi intestinali. :-)
Inoltre dalla slide 12 in poi, la parte relativa al FOSS (che come Stallmann notava tempo fa andrebbe al massimo indicato come FLOSS) è piuttosto confusa.
Cita insieme Free Software e Open Source Software (insieme ai Creative Commons, che come detto non sono applicabili al software), parla propriamente del Free Software nella slide 13, ma tratta impropriamente tutte e tre le categorie insieme nella slide 14.
L'ultimo punto della slide 14 poi è proprio sbagliato. E lo dico sia come programmatore di software proprietario che come sviluppatore di software libero. Da SCO, a Microsoft, a ExtJS, ai rubagalline che buttano software libero in soluzioni rivedute come proprietarie... potrei elencare molteplici esempi in cui aziende di software proprietario hanno causato danni enormi al software libero, costituendo più di una minaccia! E questo sia con azioni di marketing, sia con azioni legali, sia con atti che sono... diciamo "ortogonali" all'etica.
Il trattamento dell'aspetto morale denota un certo distacco dalla pratica dello sviluppo del software, in particolare nella descrizione dello scenario 2, nelle slide 4-5. Successivamente vi è una discreta ambiguità nei termini. In particolare, leggendo dell'immoralità della copia di software in violazione della licenza subito dopo la slide 18, intitolata "FOSS vs PS", si sembra suggerire che il software libero sia propenso a tale immorale violazione delle licenze. Il che è palesemente falso, visto che lo stesso termine "Free Software" è legato ad una licenza software, la GPL, la cui violazione attraverso la copia dei sorgenti senza attribuzione e ridistribuzione è stata oggetto di diverse cause.
Sempre nella slide 18, chi suggerisce che "the courts will have to continue to draw a delicate line between what should be ownable and what should not be ownable" dovrebbe forse riflettere tale framework sia compatibile col principio che "la legge è uguale per tutti".
Sarebbe poi utile far seguire una slide alle 21-22 (che stigmatizzano giustaente lo scenario 1, di Carol che viola una licenza a pagamento) con un esempio parallelo allo scenario 2:
Supponi di avere un amico che soffre fortemente per il caldo e tu, per altruismo, scavi una piscina interamente con i tuoi mezzi e le tue forze in un tuo terreno. La tua piscina è più bella, più sicura e più confortevole di quelle a pagamento, ma visto che tu l'hai scavata per il tuo amico, decidi di lasciare libero l'accesso. Distribuisci anche istruzioni dettagliate, per permettere a chiunque lo desideri di costruire la propria piscina nei propri terreni. Ma, in onore del tuo amico che soffriva il caldo, poni il vincolo che chiunque costruisca una piscina a partire dalle tue istruzioni sia altrettanto altruista. I proprietari delle piscine vicine ti fanno causa, o cercano di diffondere terrore psicologico nei confronti delle piscine gratuite (o dei danni all'economia globale che queste procurano, o dell'immoralità del costruire una piscina non a pagamento), o "incentivano" la classe politica a vietare il loro utilizzo. Qualche furbone prova anche a costruire una piscina seguendo le tue istruzioni, con qualche differenza di tinteggiatura, e a richiedere il pagamento all'ingresso
A questo punto la sezione potrebbe concludersi con la domanda:
C'è qualche differenza morale fra attaccare il creatore della piscina libera e attaccare il software libero?
La Pete's Software, infatti, ha sviluppato in proprio il software libero che è "più efficiente" di quello della Bingo.
Per questo parlavo di evidente distacco dalla pratica di sviluppo. Perché il software, libero o meno, non si scrive da solo e non piove dal cielo.
Se la Bingo è stata mandata fuori mercato da un software sviluppato più rapidamente da una società con un budget inferiore, siamo di fronte a semplice selezione naturale.
Spero che queste correzioni possano essere utili ai vostri studenti.
Appena possibile (è un periodo piuttosto convulso) darò un occhiata al resto del materiale.
A presto!
Giacomo
2018-02-15 8:43 GMT+01:00 Norberto Patrignani <norberto.patrignani@polito.it>:
Carissim*, nel nostro piccolo ... in Italia Polito (dal 2008) e Polimi (dal 2016) si sono gia' mossi...
https://didattica.polito.it/pls/portal30/sviluppo.guide.visualizza?p_cod_ins...
http://home.deib.polimi.it/schiaffo/CE/syllabus.html un caro saluto Norberto
Il 14/02/2018 09:10, J.C. DE MARTIN ha scritto:
Tech’s Ethical ‘Dark Side’: Harvard, Stanford and Others Want to Address It
By NATASHA SINGER
FEB. 12, 2018
PALO ALTO, Calif. — The medical profession has an ethic: First, do no harm.
Silicon Valley has an ethos: Build it first and ask for forgiveness later.
Now, in the wake of fake news and other troubles at tech companies, universities that helped produce some of Silicon Valley’s top technologists are hustling to bring a more medicine-like morality to computer science.
This semester, Harvard University and the Massachusetts Institute of Technology are jointly offering a new course on the ethics and regulation of artificial intelligence. The University of Texas at Austin just introduced a course titled “Ethical Foundations of Computer Science” — with the idea of eventually requiring it for all computer science majors.
[...]
continua qui:
https://www.nytimes.com/2018/02/12/business/computer-science-ethics-courses....
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
participants (5)
-
Alberto Cammozzo -
Giacomo Tesio -
J.C. DE MARTIN -
M. Fioretti -
Norberto Patrignani