July 2021 - nexa - server-nexa.polito.it

Re: [nexa] Fired by Bot at Amazon: 'It's You Against the Machine'

by 380°

Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > Online retailing giant Amazon's Flex contract drivers say their jobs > are at the mercy of software that can unfairly rate their > performance. Algorithms mine data on performance patterns and assign > drivers routes, or deactivate them, with little human feedback. Se Amazon fosse obbligata a pubblicare l'intera base dati e tutto il sorgente del software utilizzato per produrre il "rating disumano" (e fosse costretta a usare i binari riproducibili e certificati) tutto questo /semplicemente/ non esisterebbe, perché rendere trasparente il processo sarebbe devastante sia dal punto di vista aziendale che sociale. Fossi io obbligherei tutti a pubblicare il sorgente del software che produce tali determinazioni nei confronti delle vite delle persone... ma io non sono nessuno e Amazon & Co. sono i PADRONI del vapore. Saluti. Giovanni. [...] -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

July 2, 2021

Segnala un “estremista” anche tu! (Facebook)

by J.C. DE MARTIN

[cid:1d0eacd1-e2c7-45e2-90e1-0de331a992e9@eurprd05.prod.outlook.com] (Sent from my wireless device; please excuse brevity and typos (if any))

July 1, 2021

Re: [nexa] AI based GitHub copilot

by Giacomo Tesio

Ciao Marco, On Thu, 01 Jul 2021 17:15:55 +0200 Marco Ciurcina wrote: > Ho qualche curiosità (che immagino si potrà soddisfare col tempo): > - copilot migliora la produttività di uno sviluppatore? Di programmi che producono codice ce ne sono diversi. Io stesso ne ho scritti diversi negli anni e di solito aumentano la tua produttività su quelle attività che sono estremamente ripetitive. Quanto aumentino la produttività dipende, oltre che dalla definizione di produttività di uno sviluppatore, dalla percentuale di tempo dedicata a tale attività. Calcolare il tradeoff fra aumento di produttività e costo di sviluppo richiede discreta esperienza [1]. D'altro canto, ci sono moltissimi linguaggi fondati sulla metaprogrammazione[2]. Naturalmente GitHub Copilot ha una applicabilità molto generale: generare snippets di codice dall'interpretazione del contesto esistente. Anche la ridotta dimensione degli snippets aiuta. > - se si, migliora più la produttività di uno sviluppatore bravo o > quella di uno mediocre? Come la misuriamo? In righe di codice all'ora? Bug all'ora? Scommetterei che secondo entrambe le metriche, i neofiti ed i programmatori mediocri trarranno un maggiore aumento di produttività. Potrebbe però diminuire nettamente la produttività dei programmatori più esperti. Anzittutto capire COSA scrivere richiede spesso molto più tempo che scrivere il codice stesso: un po' come nello scrivere un romanzo od un saggio filosofico il tempo di battitura non è rilevante Inoltre è sempre ai più esperti che tocca debuggare gli errori propri ed altrui e da GitHub/Microsoft mettono già le mani avanti: ``` There’s a lot of public code in the world with insecure coding patterns, bugs, or references to outdated APIs or idioms. When GitHub Copilot synthesizes code suggestions based on this data, it can also synthesize code that contains these undesirable patterns. This is something we care a lot about at GitHub, and in recent years we’ve provided tools such as Actions, Dependabot, and CodeQL to open source projects to help improve code quality. Similarly, as GitHub Copilot improves, we will work to exclude insecure or low-quality code from the training set. Of course, you should always use GitHub Copilot together with testing practices and security tools, as well as your own judgment. ``` https://copilot.github.com/ Cioè si chiede di adottare quel giudizio che manca inevitabilmente ai neofiti, che però costituiscono coloro che trarranno maggiore "beneficio" (in termini di righe di codice prodotte all'ora) da questo tool. I bug riprodotti massivamente su scala globale, in pratica, saranno una esternalità da scaricare sulla collettività. E poi ovviamente chi potrà prendersela con GitHub se una volta ogni tanto, una vulnerabilità finisse nel codice usato da qualche nemico della Patria? Giacomo [1] un'idea di massima la trovi sul classico https://xkcd.com/1205/ ma le cose non sono mai così semplici purtroppo. [2] http://wiki.c2.com/?MetaProgramming > > > In data giovedì 1 luglio 2021 16:55:58 CEST, Enrico Nardelli ha > scritto: > > https://copilot.github.com/ > > > > Come ogni altro strumento estremamente sofisticato, nelle mani dei > > bravi professionisti sarà enormemente utile, mentre in quelle dei > > dilettanti temo che condurrà a problemi senza fine. > > > > E ciò che secondo me rende la situazione ancora peggiore è che in > > quest'ambito la differenza tra quelli bravi (senza andare sui geni) > > e quelli mediocri (senza andare sulla capre) è data da un fattore > > intorno a 10 (con tutte le incertezze legate ad una stima di questo > > genere. Per approfondire ecco un link > > https://softwareengineering.stackexchange.com/questions/179616/a-good-progr > > ammer-can-be-as-10x-times-more-productive-than-a-mediocre-one ) > > > > -- EN > > > > ===================================================================== > > Prof. Enrico Nardelli > > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > > Via della Ricerca Scientifica snc - 00133 Roma > > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > > home page: http://www.mat.uniroma2.it/~nardelli > > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > > http://link-and-think.blogspot.it/ > > ===================================================================== > > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

July 1, 2021

Re: [nexa] AI based GitHub copilot

by Giacomo Tesio

Ciao Enrico, grazie della segnalazione. On Thu, 1 Jul 2021 16:55:58 +0200 Enrico Nardelli wrote: > https://copilot.github.com/ > > Come ogni altro strumento estremamente sofisticato, nelle mani dei > bravi professionisti sarà enormemente utile Non preoccuparti: in Microsoft sono professionisti! https://copilot.github.com/diagram.png In sintesi: 1. il tuo editor manda a GitHub/Microsoft il tuo file sorgente 2. GitHub/Microsoft lo salva 3. lo passa ad OpenAI che produce dei suggerimenti 4. te li invia e tu li correggi nel tuo editor 5. il tuo editor manda a GitHub/Microsoft informazioni telemetriche 6. GitHub/Microsoft migliora il modello attraverso il feedback. In pratica, spionaggio industriale automatizzato e lavoro altamente qualificato di classificazione dei dataset non pagato INSIEME! :-D Si pone però un problema interessantissimo: il modello di OpenAI è stato alimentato con il codice presente su GitHub. Questo include una valanga di software sotto copyleft AGPLv3. Dunque il modello di OpenAI è un opera derivata "algoritmicamente" anche da quel codice sotto copyleft (insieme a tanto altro). Come tale, DEVE essere reso accessibile agli utenti. Non solo: per la stessa ragione, tutto il codice prodotto automaticamente da Copilot, dovrebbe essere licenziato sotto AGPLv3, perché opera derivata algoritmicamente da un opera derivata algoritmicamente da codice AGPLv3. E la AGPLv3 è virale: tutto il software che include codice AGPLv3 deve essere rilasciato come AGPLv3! Che RMS sia riuscito a convertire Microsoft con il suo talk di qualche tempo fa? Che Microsoft abbia deciso di diffondere l'infenzione che un tempo definiva come "un cancro"? No. Semplicemente, fanno finta di niente. ``` Training machine learning models on publicly available data is considered fair use across the machine learning community. The models gain insight and accuracy from the public collective intelligence. But this is a new space, and we are keen to engage in a discussion with developers on these topics and lead the industry in setting appropriate standards for training AI models. ``` Fair use del codice per la comunità del machine learning. Un po' come il fair use delle galline nella comunità delle volpi! Giacomo

July 1, 2021

Re: [nexa] AI based GitHub copilot

by Guido Vetere

secondo me nulla eguaglierà mai il cut'n paste da Stack Overflow :-)) G. On Thu, 1 Jul 2021 at 17:16, Marco Ciurcina <ciurcina(a)studiolegale.it> wrote: > Ho qualche curiosità (che immagino si potrà soddisfare col tempo): > - copilot migliora la produttività di uno sviluppatore? > - se si, migliora più la produttività di uno sviluppatore bravo o quella > di > uno mediocre? > m.c. > > > In data giovedì 1 luglio 2021 16:55:58 CEST, Enrico Nardelli ha scritto: > > https://copilot.github.com/ > > > > Come ogni altro strumento estremamente sofisticato, nelle mani dei bravi > > professionisti sarà enormemente utile, mentre in quelle dei dilettanti > temo > > che condurrà a problemi senza fine. > > > > E ciò che secondo me rende la situazione ancora peggiore è che in > > quest'ambito la differenza tra quelli bravi (senza andare sui geni) e > > quelli mediocri (senza andare sulla capre) è data da un fattore intorno a > > 10 (con tutte le incertezze legate ad una stima di questo genere. Per > > approfondire ecco un link > > > https://softwareengineering.stackexchange.com/questions/179616/a-good-progr > > ammer-can-be-as-10x-times-more-productive-than-a-mediocre-one ) > > > > -- EN > > > > ===================================================================== > > Prof. Enrico Nardelli > > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > > Via della Ricerca Scientifica snc - 00133 Roma > > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > > home page: http://www.mat.uniroma2.it/~nardelli > > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > > http://link-and-think.blogspot.it/ > > ===================================================================== > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

July 1, 2021

Re: [nexa] AI based GitHub copilot

by Marco Ciurcina

Ho qualche curiosità (che immagino si potrà soddisfare col tempo): - copilot migliora la produttività di uno sviluppatore? - se si, migliora più la produttività di uno sviluppatore bravo o quella di uno mediocre? m.c. In data giovedì 1 luglio 2021 16:55:58 CEST, Enrico Nardelli ha scritto: > https://copilot.github.com/ > > Come ogni altro strumento estremamente sofisticato, nelle mani dei bravi > professionisti sarà enormemente utile, mentre in quelle dei dilettanti temo > che condurrà a problemi senza fine. > > E ciò che secondo me rende la situazione ancora peggiore è che in > quest'ambito la differenza tra quelli bravi (senza andare sui geni) e > quelli mediocri (senza andare sulla capre) è data da un fattore intorno a > 10 (con tutte le incertezze legate ad una stima di questo genere. Per > approfondire ecco un link > https://softwareengineering.stackexchange.com/questions/179616/a-good-progr > ammer-can-be-as-10x-times-more-productive-than-a-mediocre-one ) > > -- EN > > ===================================================================== > Prof. Enrico Nardelli > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > home page: http://www.mat.uniroma2.it/~nardelli > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > http://link-and-think.blogspot.it/ > =====================================================================

July 1, 2021

AI based GitHub copilot

by Enrico Nardelli

https://copilot.github.com/ Come ogni altro strumento estremamente sofisticato, nelle mani dei bravi professionisti sarà enormemente utile, mentre in quelle dei dilettanti temo che condurrà a problemi senza fine. E ciò che secondo me rende la situazione ancora peggiore è che in quest'ambito la differenza tra quelli bravi (senza andare sui geni) e quelli mediocri (senza andare sulla capre) è data da un fattore intorno a 10 (con tutte le incertezze legate ad una stima di questo genere. Per approfondire ecco un link https://softwareengineering.stackexchange.com/questions/179616/a-good-progr… ) -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

July 1, 2021

Re: [nexa] Herbert Lin - Cyber Risk Across the U.S. Nuclear Enterprise

by Antonio Iacono

> https://tnsr.org/2021/06/cyber-risk-across-the-u-s-nuclear-enterprise/ Grazie Diego. Solo un commento veloce. "the F-35 will require at least 8 million lines of software code. This software will support the F-35 in a variety of missions, including air-to-air combat; air-to-ground attack; electronic attack; and intelligence, surveillance, and reconnaissance ... A recent report from the U.S. Government Accountability Office probed cyber vulnerabilities in U.S. weapons systems and arrived at some worrisome conclusions. This report noted that the Defense Department routinely finds mission-critical cyber vulnerabilities during operational testing of weapons systems that are under development, pointing out that "using relatively simple tools and techniques, testers were able to take control of systems and largely operate undetected". Even worse, the Government Accountability Office found that the discovered vulnerabilities represented only a fraction of total vulnerabilities because not all weapons systems were tested ... An increase in the technological sophistication of software can break this link in the short term. For example, compilers that translate high-level languages into machine code enable the development of programs that are less complex and more easily understandable (at the source code level) for a given level of functionality (as defined by what the computer actually does at the machine code level). But in the absence of continuous increases in sophistication of software-building technology, functionality means more complexity. 8 milioni di LOC, di cui la stragrande maggioranza in C/C++ ? Nell'industria la media di bug è 15/50 per 1000 linee, quindi, anche considerando il limite inferiore, siamo a 120.000 bug, compreso bug "fine del mondo" Antonio

July 1, 2021

Re: [nexa] Fired by Bot at Amazon: 'It's You Against the Machine'

by Antonio Iacono

La profezia di Warren Bennis si avvicina: "The factory of the future will have only two employees, a man and a dog. The man will be there to feed the dog. The dog will be there to keep the man from touching the equipment". La notizia che hai segnalato riguarda Amazon Flex che, ricordiamolo, è un servizio on-demand. Una semplice app sullo smartphone e ogni cittadino può diventare fattorino (uau). Negli stabilimenti Amazon essere licenziati da un algoritmo è prassi ormai da anni (v. The Verge [1]) Certo, c'è chi dice che: " - licenziato dall’algoritmo -, è solo uno dei tipici esempi di giornalismo che fa volano sulla propria incompetenza per terrorizzare le persone" o chi asserisce che "i posti di lavoro sono problemi socioeconomici, non è un problema tecnico per tecnici" e va beh, "continuiamo così, facciamoci del male" (cit. Nanni Moretti). Il lavoro non scomparirà, si trasformerà (in peggio). Se prima i lavori seriali e ripetitivi erano svolti da macchine/robot e quelli creativi dalle donne e dagli uomini, nel futuro il paradigma si rovescierà, i lavori seriali e ripetitivi dalle persone e quelli creativi dalle macchine/robot. Intentendo per creatività quello scritto da Davide qualche giorno fa: "o visto dei pattern elaborativi usciti da reti neurali, che non avevano nulla di "umano", ossia nessun umano avrebbe mai pensato ad un procedimento elaborativo di quel tipo", appunto ... creativo. Antonio [1] https://www.theverge.com/2019/4/25/18516004/amazon-warehouse-fulfillment-ce… On Thu, Jul 1, 2021 at 10:37 AM Enrico Nardelli <nardelli(a)mat.uniroma2.it> wrote: > > Online retailing giant Amazon's Flex contract drivers say their jobs are at the mercy of software that can unfairly rate their performance. Algorithms mine data on performance patterns and assign drivers routes, or deactivate them, with little human feedback. One source says the Flex algorithms do not account for human nature, setting up good drivers for failure. A former engineer who helped design Flex says Amazon believes the program's benefits offset the collateral damage; a former manager says the company knew the software would lead to errors and bad press, but felt addressing such issues was unnecessarily expensive, as long as drivers could easily be replaced. > > Full article: > > https://www.bloomberg.com/news/features/2021-06-28/fired-by-bot-amazon-turn… > Full Article > > -- EN > > ===================================================================== > Prof. Enrico Nardelli > Dipartimento di Matematica - Universita' di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > home page: http://www.mat.uniroma2.it/~nardelli > blog: http://www.ilfattoquotidiano.it/blog/enardelli/ > http://link-and-think.blogspot.it/ > ===================================================================== > -- > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

July 1, 2021

Herbert Lin - Cyber Risk Across the U.S. Nuclear Enterprise

by Diego.Latella

Buongiorno Si tratta certamente di uno degli articoli piu' chiari che mi sia mai capitato di leggere sul nesso cyber-nuclear. Tutti i concetti esposti possono essere compresi facilmente anche _senza_ possedere competenze/conoscenze specifiche ne' su questioni miliatri/nucleari, ne' su questioni cyber/informatiche.Per di piu', alcune considerazioni fatte per esempio sulla transizione _legacy --> modernized-systems_ si possono, a mio avviso, applicare a _qualunque_ sistema digitale. Ne suggerisco vivamente la lettura! https://tnsr.org/2021/06/cyber-risk-across-the-u-s-nuclear-enterprise/ Diego -- Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it [1]) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, mob: +39 348 8283101, fax: +390506212040 =================== I don't quite know whether it is especially computer science or its subdiscipline Artificial Intelligence that has such an enormous affection for euphemism. We speak so spectacularly and so readily of computer systems that understand, that see, decide, make judgments, and so on, without ourselves recognizing our own superficiality and immeasurable naivete with respect to these concepts. And, in the process of so speaking, we anesthetise our ability to evaluate the quality of our work and, what is more important, to identify and become conscious of its end use. […] One can't escape this state without asking, again and again: "What do I actually do? What is the final application and use of the products of my work?" and ultimately, "am I content or ashamed to have contributed to this use?" -- Prof. Joseph Weizenbaum ["Not without us", ACM SIGCAS 16(2-3) 2--7 - Aug. 1986] Links: ------ [1] http://www.isti.cnr.it

July 1, 2021