- nexa - server-nexa.polito.it

[CDT:L7] Il corpo come passaporto (by EDRI – European Digital Rights)

by 380°

Buongiorno, le persone con il minimo sindacale di capacità di generalizzazione dei concetti non faranno fatica a sostituire mentalmente, nel pezzo che segue, i concetti "migranti", "rifugiati", "richiedenti asilo" [1] e "controllo dell'accoglienza" con "gruppo di persone X" e "controllo dei flussi (movimenti) [2] del gruppo di persone X" (ovviamente /sporche/ X). https://www.ilfattoquotidiano.it/2024/04/09/il-corpo-come-passaporto-lincub… «Il corpo come passaporto: l’incubo biometrico al centro del sistema di accoglienza dell’Ue".» Laurence Meyer e Chloé Berthélémy (EDRI – European Digital Rights) 9 Aprile 2024 --8<---------------cut here---------------start------------->8--- /Il prossimo 10 aprile, il *Parlamento europeo* darà il via libera definitivo al nuovo patto sulle migrazioni. All'interno del testo si prevede anche la riforma dell'*Eurodac*, il database utilizzato per la gestione dei flussi di persone ai confini: l'intervento prevede, tra le altre cose, l'abbassamento dell'età per la sorveglianza biometrica sui migranti da 14 a 6 anni/. /Riceviamo e pubblichiamo l'analisi di *Laurence Meyer e Chloé Berthélémy (EDRI – European Digital Rights)*./ … Il 10 aprile 2024 l'*Unione Europea voterà una nuova serie di riforme in materia di migrazione. Tra le tante modifiche controverse proposte nel *Nuovo Patto sulla Migrazione e l'Asilo*, una in particolare sembra essere passata inosservata: la riforma, apparentemente innocua, dell'*EURODAC*, la banca dati dell'UE per gestire i flussi migratori. Diverse associazioni e rappresentanti della società civile hanno motivo di temere che le modifiche proposte per l'*EURODAC (European Asylum Dactyloscopy Database)* possano contribuire significativamente all'aumento della violenza contro coloro che si spostano ai confini. La riforma dell'EURODAC, la cui istituzione risale a vent'anni fa, *trasformerà il database in una vera e propria arma tecnologica,* espressione delle politiche migratorie già ostili dell'UE. L'EURODAC sfrutterà le più immorali tecnologie di sorveglianza esistenti – ossia quelle che consentono la cattura, l'elaborazione e l'analisi dei dati biometrici – per permettere agli Stati Membri di avere il pieno controllo sul corpo e sui movimenti dei migranti. Biometria per il controllo delle persone nere ───────────────────────────────────────────── Con la raccolta dei dati biometrici, per molti il corpo è da tempo diventato un “passaporto” personale. Per “biometria” s'intende il processo di creazione di dati a partire dalle caratteristiche biologiche o fisiologiche di una persona. *Impronte digitali, immagini facciali e scansioni dell'iride* sono tra le tipologie di dati biometrici più utilizzate dai governi per identificare in modo univoco una persona. Storicamente, l'identificazione di ogni singolo individuo è fondamentale per l'organizzazione del controllo statale e del potere sulla popolazione. In particolare, consente alle autorità governative di rintracciare, monitorare e limitare i movimenti delle persone. Non sorprende che la biometria stia diventando *il fulcro dell'espansione dei sistemi di sorveglianza tecnologica degli Stati* e, ancor meno, che stia diventando parte delle politiche di controllo dell'immigrazione. L'origine stessa della sorveglianza biometrica è da ricercare nelle pratiche coloniali di supremazia e discriminazione nei confronti di determinati gruppi di persone. In passato, fu la tratta transatlantica degli schiavi a fornire l'occasione per sviluppare tecnologie per marcare, identificare e rintracciare i prigionieri africani come proprietà su scala globale. I metodi di identificazione forense, che comprendevano la descrizione dettagliata delle caratteristiche facciali e corporee, le impronte digitali e le fotografie dei sospetti criminali, venivano applicati principalmente nelle colonie dell'Impero francese per garantire l'ordine e la continuità del regime coloniale. Allo stesso modo, *i colòni britannici fecero partire il primo programma di identità biometrica su larga scala*, che raccoglieva le impronte digitali dei residenti dell'India conquistata. Ecco quindi come la registrazione biometrica in quanto sostituto dei documenti d'identità è diventata presto realtà per i corpi delle persone nere, specialmente per coloro che transitano al confine. Le politiche dell'Unione Europea non sono che la continuazione di questa Storia draconiana. Basti pensare che la prima banca dati biometrica centralizzata dell'UE, l'EURODAC appunto, è stata creata per controllare i movimenti secondari dei richiedenti asilo all'interno dell'UE e per monitorare le persone che attraversano irregolarmente le frontiere esterne. Con la riforma in corso, l'identificazione di massa e sistematica dei richiedenti asilo, dei rifugiati e dei migranti mediante il trattamento dei dati biometrici diventerà la pietra angolare del disumano sistema di asilo dell'UE. La riforma dell'EURODAC peggiorerà i danni delle politiche migratorie (già violente) dell'UE ───────────────────────────────────────────────────────────────────── *Nonostante la riforma proposta sia stata presentata come *un «mero tecnicismo»*, il cambiamento in atto ha una connotazione in realtà fortemente politica: infatti, codificherà all'interno della tecnologia *il trattamento violento riservato ai migranti nell'UE*. Ciò faciliterà enormemente fenomeni quali criminalizzazione sistematica, detenzione in condizioni simili a quelle del carcere ed espulsione rapida. Una delle modifiche che potenzialmente ampliano il campo di applicazione dell'EURODAC consiste nel catturare le immagini del volto delle persone (oltre alle impronte digitali). Secondo i politici responsabili, la raccolta di ulteriori dati biometrici sarebbe giustificata dal fatto che alcuni richiedenti asilo, in passato, hanno volontariamente bruciato o danneggiato le dita per alterare le impronte digitali ed evitare l'identificazione. Per coloro che transitano ai confini, *l'identificazione comporta il rischio imminente di essere trattenuti,* rispediti in un altro Stato dell'UE che magari hanno appena lasciato – in genere a causa delle pessime condizioni di accoglienza e delle scarse possibilità di integrazione – o di essere trasferiti nei cosiddetti «Paesi terzi sicuri», dove rischiano persecuzioni e torture. Se le persone sono costrette a farsi del male per evitare l'identificazione, non è forse il caso di riconsiderare le politiche migratorie, rendendole più umane? Non per l'UE, che ha deciso di continuare a sorvegliare e a terrorizzare i migranti. L'EURODAC si sta inoltre trasformando in uno strumento di sorveglianza di massa, prendendo di mira un numero sempre maggiore di persone, compresi i bambini di 6 anni. I deboli tentativi di esigere che la raccolta dei dati avvenga in modo «child-friendly» non sono stati sufficienti a cambiare l'esito della riforma. I bambini saranno sottoposti a una procedura gravemente invasiva e ingiustificata, che di fatto li stigmatizzerà. Si consideri che nell'UE, i minori di 16 anni non sono nemmeno in grado di acconsentire liberamente al trattamento dei loro dati personali ai sensi del regolamento generale sulla protezione dei dati (GDPR). Tuttavia, ai bambini migranti verranno scansionati i volti e rilevate le impronte digitali nei campi di frontiera e nei centri di detenzione. Inoltre, le autorità di polizia potranno accedere ai dati dell'EURODAC senza dover rispondere a (quasi) nessuna condizione, trattando tutti i migranti con presunzione di illegalità. La riforma dell'EURODAC esemplifica i “due pesi e due misure” dell'UE ───────────────────────────────────────────────────────────────────── L'uso della sorveglianza biometrica nell'EURODAC ha un solo scopo: *aumentare il potere e il controllo sui migranti*, resi socialmente vulnerabili da politiche e pratiche migratorie immorali. Si tratta di un impiego della tecnologia invasivo, sproporzionato alle reali esigenze dei governi e in pieno contrasto con gli elevati standard europei per la protezione dei dati personali. L'UE sta esplicitamente *elaborando un regime di eccezione nell'ambito del proprio quadro giuridico*, secondo il quale ai migranti spetterebbe un trattamento differenziato rispetto ai cittadini europei. La riforma dell'EURODAC è sintomo di una tendenza europea in rapida diffusione, quella della criminalizzazione e della logica della “polizia”. L'UE unisce erroneamente i concetti di gestione dei flussi migratori e lotta alla criminalità considerando le persone in cerca di aiuto come minacce alla sicurezza di stato. Questo sguardo incriminante porta a presupposti discriminatori, che hanno come conseguenza l'iper sorveglianza e l'individuazione di migranti e minoranze etniche come obiettivo. Con l'enorme diffusione delle banche dati centralizzate, di cui l'EURODAC è un esempio lampante, *l'UE non può più nascondere le sue politiche da “due pesi e due misure”*. --8<---------------cut here---------------end--------------->8--- Qualunque persona pensi sia impossibile che un giorno possa essa stessa far parte di un "gruppo indesiderato di persone X" per il solo fatto di essere "dalla parte giusta"... non sta pensando abbastanza: «the answer is blowin' in the wind» («No More Auction Block For Me.» [3]) Per approfondimenti in merito alla biometria identificativa, si veda: https://en.wikipedia.org/wiki/Biometrics In particolare mi preme sottolineare che l'identificazione (autenticata) biometrica può tranquillamente INCLUDERE le caratteristiche comportamentali: --8<---------------cut here---------------start------------->8--- Behavioral characteristics are related to the pattern of behavior of a person, including but not limited to mouse movement,[2] typing rhythm, gait, signature, behavioral profiling, and voice. Some researchers have coined the term behaviometrics to describe the latter class of biometrics. --8<---------------cut here---------------end--------------->8--- Loving, 380° [1] solo persone nere? o in generale discriminate... e povere?!? [2] spostamenti delle persone discriminate? flussi finanziari dei poveri, anzi degli impoveriti? [3] https://yt.artemislena.eu/watch?v=O0iyrTNKAOU «No More Auction Block For Me (Many Thousand Gone)» see https://en.wikipedia.org/wiki/Blowin%27_in_the_Wind#Origins_and_initial_res… also see https://en.wikipedia.org/wiki/Slave_market -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 9, 2024

16 aprile 2024 alle ore 16 " Workshop: Compliance integrata: il punto di vista della procura della repubblica e quello dell'impresa"

by Mauro Alovisio

Gent.mi ho il piacere di segnalarvi e invitarvi al workshop: "*Compliance integrata:* *Il punto di vista della procura della repubblica e dell impresa" *il p*rossimo 16 aprile alle ore 16 *presso la sede della Saa, in via Ventimiglia 115 a Torino Sono previste, in apertura, le relazioni del prof. Sergio Foà, dell'avv. Mariagrazia Pellerino, del dott. Ciro Santoriello e della dott.ssa Claudia Gualtierotti del Gruppo Iren: è stato richiesto l'accreditamento per la formazione obbligatoria per gli avvocati. Per informazioni : https://www.saamanagement.it/events/compliance-integrata-imprese-pubbliche-… Durante il workshop sarà presentata la nuova edizione del *master executive on line compliance integrata per le società pubbliche e private.* All'interno del master sono approfondite attraverso testimonianze di professori, manager e consulenti diverse tematiche di interesse; la formazione e conservazione dei documenti informatici, la trasparenza on line, prevenzione della corruzione, whistleblowing, la protezione dati e cybersecurity Al termine del workshop seguirà un aperitivo. Per chi fosse impossibilitato a partecipare in presenza si può seguire on line in streaming Potete confermare la partecipazione entro il 12 aprile attraverso la compilazione del seguente form: https://docs.google.com/forms/d/e/1FAIpQLSdznYCfbq-Mcr2dFhyxpvSnmR2B3_GOnfU… Cordiali saluti Mauro Alovisio

April 8, 2024

Exclusive: Google Workers Revolt Over $1.2 Billion Contract With Israel

by Daniela Tafani

Exclusive: Google Workers Revolt Over $1.2 Billion Contract With Israel By Billy Perrigo April 8, 2024 8:00 AM EDT In midtown Manhattan on March 4, Google’s managing director for Israel, Barak Regev, was addressing a conference promoting the Israeli tech industry when a member of the audience stood up in protest. “I am a Google Cloud software engineer, and I refuse to build technology that powers genocide, apartheid, or surveillance,” shouted the protester, wearing an orange t-shirt emblazoned with a white Google logo. “No tech for apartheid!” The Google worker, a 23-year-old software engineer named Eddie Hatfield, was booed by the audience and quickly bundled out of the room, a video of the event shows. After a pause, Regev addressed the act of protest. “One of the privileges of working in a company which represents democratic values is giving space for different opinions,” he told the crowd. Three days later, Google fired Hatfield. Hatfield is part of a growing movement inside Google that is calling on the company to drop Project Nimbus, a $1.2 billion contract with Israel, jointly held with Amazon. The protest group, called No Tech for Apartheid, now has around 40 Google employees closely involved in organizing, according to members, who say there are hundreds more workers sympathetic to their goals. TIME spoke to five current and five former Google workers for this story, many of whom described a growing sense of anger at the possibility of Google aiding Israel in its war in Gaza. Two of the former Google workers said they had resigned from Google in the last month in protest against Project Nimbus. These resignations, and Hatfield’s identity, have not previously been reported. No Tech for Apartheid’s protest is as much about what the public doesn’t know about Project Nimbus as what it does. The contract is for Google and Amazon to provide AI and cloud computing services to the Israeli government and military, according to the Israeli finance ministry, which announced the deal in 2021. Nimbus reportedly involves Google establishing a secure instance of Google Cloud on Israeli soil, which would allow the Israeli government to perform large-scale data analysis, AI training, database hosting, and other forms of powerful computing using Google’s technology, with little oversight by the company. Google documents, first reported by the Intercept in 2022, suggest that the Google services on offer to Israel via its Cloud have capabilities such as AI-enabled facial detection, automated image categorization, and object tracking. Further details of the contract are scarce or non-existent, and much of the workers’ frustration lies in what they say is Google’s lack of transparency about what else Project Nimbus entails and the full nature of the company’s relationship with Israel. Neither Google, nor Amazon, nor Israel, has described the specific capabilities on offer to Israel under the contract. In a statement, a Google spokesperson said: “We have been very clear that the Nimbus contract is for workloads running on our commercial platform by Israeli government ministries such as finance, healthcare, transportation, and education. Our work is not directed at highly sensitive or classified military workloads relevant to weapons or intelligence services.” All Google Cloud customers, the spokesperson said, must abide by the company's terms of service and acceptable use policy. That policy forbids the use of Google services to violate the legal rights of others, or engage in “violence that can cause death, serious harm, or injury.” An Amazon spokesperson said the company “is focused on making the benefits of our world-leading cloud technology available to all our customers, wherever they are located," adding it is supporting employees affected by the war and working with humanitarian agencies. The Israeli government did not immediately respond to requests for comment. There is no evidence Google or Amazon’s technology has been used in killings of civilians. The Google workers say they base their protests on three main sources of concern: the Israeli finance ministry’s 2021 explicit statement that Nimbus would be used by the ministry of defense; the nature of the services likely available to the Israeli government within Google’s cloud; and the apparent inability of Google to monitor what Israel might be doing with its technology. Workers worry that Google’s powerful AI and cloud computing tools could be used for surveillance, military targeting, or other forms of weaponization. Under the terms of the contract, Google and Amazon reportedly cannot prevent particular arms of the government, including the Israeli military, from using their services, and cannot cancel the contract due to public pressure. Recent reports in the Israeli press indicate that air-strikes are being carried out with the support of an AI targeting system; it is not known which cloud provider, if any, provides the computing infrastructure likely required for such a system to run. Google workers note that for security reasons, tech companies often have very limited insight, if any, into what occurs on the sovereign cloud servers of their government clients. “We don't have a lot of oversight into what cloud customers are doing, for understandable privacy reasons,” says Jackie Kay, a research engineer at Google’s DeepMind AI lab. “But then what assurance do we have that customers aren't abusing this technology for military purposes?” With new revelations continuing to trickle out about AI’s role in Israel’s bombing campaign in Gaza; the recent killings of foreign aid workers by the Israeli military; and even President Biden now urging Israel to begin an immediate ceasefire, No Tech for Apartheid’s members say their campaign is growing in strength. A previous bout of worker organizing inside Google successfully pressured the company to drop a separate Pentagon contract in 2018. Now, in a wider climate of growing international indignation at the collateral damage of Israel’s war in Gaza, many workers see Google’s firing of Hatfield as an attempt at silencing a growing threat to its business. “I think Google fired me because they saw how much traction this movement within Google is gaining,” says Hatfield, who agreed to speak on the record for the first time for this article. “I think they wanted to cause a kind of chilling effect by firing me, to make an example out of me.” Hatfield says that his act of protest was the culmination of an internal effort, during which he questioned Google leaders about Project Nimbus but felt he was getting nowhere. “I was told by my manager that I can't let these concerns affect my work,” he tells TIME. “Which is kind of ironic, because I see it as part of my work. I'm trying to ensure that the users of my work are safe. How can I work on what I'm being told to do, if I don't think it's safe?” Three days after he disrupted the conference, Hatfield was called into a meeting with his Google manager and an HR representative, he says. He was told he had damaged the company’s public image and would be terminated with immediate effect. “This employee disrupted a coworker who was giving a presentation – interfering with an official company-sponsored event,” the Google spokesperson said in a statement to TIME. “This behavior is not okay, regardless of the issue, and the employee was terminated for violating our policies.” Seeing Google fire Hatfield only confirmed to Vidana Abdel Khalek that she should resign from the company. On March 25, she pressed send on an email to company leaders, including CEO Sundar Pichai, announcing her decision to quit in protest over Project Nimbus. “No one came to Google to work on offensive military technology,” the former trust and safety policy employee wrote in the email, seen by TIME, which noted that over 13,000 children had been killed by Israeli attacks on Gaza since the beginning of the war; that Israel had fired upon Palestinians attempting to reach humanitarian aid shipments; and had fired upon convoys of evacuating refugees. “Through Nimbus, your organization provides cloud AI technology to this government and is thereby contributing to these horrors,” the email said. Workers argue that Google’s relationship with Israel runs afoul of the company’s “AI principles,” which state that the company will not pursue applications of AI that are likely to cause “overall harm,” contribute to “weapons or other technologies” whose purpose is to cause injury, or build technologies “whose purpose contravenes widely accepted principles of international law and human rights.” “If you are providing cloud AI technology to a government which you know is committing a genocide, and which you know is misusing this technology to harm innocent civilians, then you're far from being neutral,” Khalek says. “If anything, you are now complicit.” Two workers for Google DeepMind, the company’s AI division, expressed fears that the lab’s ability to prevent its AI tools being used for military purposes had been eroded, following a restructure last year. When it was acquired by Google in 2014, DeepMind reportedly signed an agreement that said its technology would never be used for military or surveillance purposes. But a series of governance changes ended with DeepMind being bound by the same AI principles that apply to Google at large. Those principles haven’t prevented Google signing lucrative military contracts with the Pentagon and Israel. “While DeepMind may have been unhappy to work on military AI or defense contracts in the past, I do think this isn’t really our decision any more,” said one DeepMind employee who asked not to be named because they were not authorized to speak publicly. “Google DeepMind produces frontier AI models that are deployed via [Google Cloud’s Vertex AI platform] that can then be sold to public-sector and other clients.” One of those clients is Israel. “For me to feel comfortable with contributing to an AI model that is released on [Google] Cloud, I would want there to be some accountability where usage can be revoked if, for example, it is being used for surveillance or military purposes that contravene international norms,” says Kay, the DeepMind employee. “Those principles apply to applications that DeepMind develops, but it’s ambiguous if they apply to Google’s Cloud customers.” A Google spokesperson did not address specific questions about DeepMind for this story. Other Google workers point to what they know about Google Cloud as a source of concern about Project Nimbus. The cloud technology that the company ordinarily offers to its clients includes a tool called AutoML that allows a user to rapidly train a machine learning model using a custom dataset. Three workers interviewed by TIME said that the Israeli government could theoretically use AutoML to build a surveillance or targeting tool. There is no evidence that Israel has used Google Cloud to build such a tool, although the New York Times recently reported that Israeli soldiers were using the freely-available facial recognition feature on Google Photos, along with other non-Google technologies, to identify suspects at checkpoints. “Providing powerful technology to an institution that has demonstrated the desire to abuse and weaponize AI for all parts of war is an unethical decision,” says Gabriel Schubiner, a former researcher at Google. “It’s a betrayal of all the engineers that are putting work into Google Cloud.” A Google spokesperson did not address a question asking whether AutoML was provided to Israel under Project Nimbus. Members of No Tech for Apartheid argue it would be naive to imagine Israel is not using Google’s hardware and software for violent purposes. “If we have no oversight into how this technology is used,” says Rachel Westrick, a Google software engineer, “then the Israeli military will use it for violent means.” “Construction of massive local cloud infrastructure within Israel’s borders, [the Israeli government] said, is basically to keep information within Israel under their strict security,” says Mohammad Khatami, a Google software engineer. “But essentially we know that means we’re giving them free rein to use our technology for whatever they want, and beyond any guidelines that we set.” Current and former Google workers also say that they are fearful of speaking up internally against Project Nimbus or in support of Palestinians, due to what some described as fear of retaliation. “I know hundreds of people that are opposing what’s happening, but there’s this fear of losing their jobs, [or] being retaliated against,” says Khalek, the worker who resigned in protest against Project Nimbus. “People are scared.” Google’s firing of Hatfield, Khalek says, was “direct, clear retaliation… it was a message from Google that we shouldn’t be talking about this.” The Google spokesperson denied that the company's firing of Hatfield was an act of retaliation. Regardless, internal dissent is growing, workers say. “What Eddie did, I think Google wants us to think it was some lone act, which is absolutely not true,” says Westrick, the Google software engineer. “The things that Eddie expressed are shared very widely in the company. People are sick of their labor being used for apartheid.” “We’re not going to stop,” says Zelda Montes, a YouTube software engineer, of No Tech for Apartheid. “I can say definitively that this is not something that is just going to die down. It’s only going to grow stronger.” https://time.com/6964364/exclusive-no-tech-for-apartheid-google-workers-pro…

April 8, 2024

Exclusive: Google Workers Revolt Over $1.2 Billion Contract With Israel

by Daniela Tafani

Exclusive: Google Workers Revolt Over $1.2 Billion Contract With Israel By Billy Perrigo April 8, 2024 8:00 AM EDT In midtown Manhattan on March 4, Google’s managing director for Israel, Barak Regev, was addressing a conference promoting the Israeli tech industry when a member of the audience stood up in protest. “I am a Google Cloud software engineer, and I refuse to build technology that powers genocide, apartheid, or surveillance,” shouted the protester, wearing an orange t-shirt emblazoned with a white Google logo. “No tech for apartheid!” The Google worker, a 23-year-old software engineer named Eddie Hatfield, was booed by the audience and quickly bundled out of the room, a video of the event shows. After a pause, Regev addressed the act of protest. “One of the privileges of working in a company which represents democratic values is giving space for different opinions,” he told the crowd. Three days later, Google fired Hatfield. Hatfield is part of a growing movement inside Google that is calling on the company to drop Project Nimbus, a $1.2 billion contract with Israel, jointly held with Amazon. The protest group, called No Tech for Apartheid, now has around 40 Google employees closely involved in organizing, according to members, who say there are hundreds more workers sympathetic to their goals. TIME spoke to five current and five former Google workers for this story, many of whom described a growing sense of anger at the possibility of Google aiding Israel in its war in Gaza. Two of the former Google workers said they had resigned from Google in the last month in protest against Project Nimbus. These resignations, and Hatfield’s identity, have not previously been reported. No Tech for Apartheid’s protest is as much about what the public doesn’t know about Project Nimbus as what it does. The contract is for Google and Amazon to provide AI and cloud computing services to the Israeli government and military, according to the Israeli finance ministry, which announced the deal in 2021. Nimbus reportedly involves Google establishing a secure instance of Google Cloud on Israeli soil, which would allow the Israeli government to perform large-scale data analysis, AI training, database hosting, and other forms of powerful computing using Google’s technology, with little oversight by the company. Google documents, first reported by the Intercept in 2022, suggest that the Google services on offer to Israel via its Cloud have capabilities such as AI-enabled facial detection, automated image categorization, and object tracking. Further details of the contract are scarce or non-existent, and much of the workers’ frustration lies in what they say is Google’s lack of transparency about what else Project Nimbus entails and the full nature of the company’s relationship with Israel. Neither Google, nor Amazon, nor Israel, has described the specific capabilities on offer to Israel under the contract. In a statement, a Google spokesperson said: “We have been very clear that the Nimbus contract is for workloads running on our commercial platform by Israeli government ministries such as finance, healthcare, transportation, and education. Our work is not directed at highly sensitive or classified military workloads relevant to weapons or intelligence services.” All Google Cloud customers, the spokesperson said, must abide by the company's terms of service and acceptable use policy. That policy forbids the use of Google services to violate the legal rights of others, or engage in “violence that can cause death, serious harm, or injury.” An Amazon spokesperson said the company “is focused on making the benefits of our world-leading cloud technology available to all our customers, wherever they are located," adding it is supporting employees affected by the war and working with humanitarian agencies. The Israeli government did not immediately respond to requests for comment. There is no evidence Google or Amazon’s technology has been used in killings of civilians. The Google workers say they base their protests on three main sources of concern: the Israeli finance ministry’s 2021 explicit statement that Nimbus would be used by the ministry of defense; the nature of the services likely available to the Israeli government within Google’s cloud; and the apparent inability of Google to monitor what Israel might be doing with its technology. Workers worry that Google’s powerful AI and cloud computing tools could be used for surveillance, military targeting, or other forms of weaponization. Under the terms of the contract, Google and Amazon reportedly cannot prevent particular arms of the government, including the Israeli military, from using their services, and cannot cancel the contract due to public pressure. Recent reports in the Israeli press indicate that air-strikes are being carried out with the support of an AI targeting system; it is not known which cloud provider, if any, provides the computing infrastructure likely required for such a system to run. Google workers note that for security reasons, tech companies often have very limited insight, if any, into what occurs on the sovereign cloud servers of their government clients. “We don't have a lot of oversight into what cloud customers are doing, for understandable privacy reasons,” says Jackie Kay, a research engineer at Google’s DeepMind AI lab. “But then what assurance do we have that customers aren't abusing this technology for military purposes?” With new revelations continuing to trickle out about AI’s role in Israel’s bombing campaign in Gaza; the recent killings of foreign aid workers by the Israeli military; and even President Biden now urging Israel to begin an immediate ceasefire, No Tech for Apartheid’s members say their campaign is growing in strength. A previous bout of worker organizing inside Google successfully pressured the company to drop a separate Pentagon contract in 2018. Now, in a wider climate of growing international indignation at the collateral damage of Israel’s war in Gaza, many workers see Google’s firing of Hatfield as an attempt at silencing a growing threat to its business. “I think Google fired me because they saw how much traction this movement within Google is gaining,” says Hatfield, who agreed to speak on the record for the first time for this article. “I think they wanted to cause a kind of chilling effect by firing me, to make an example out of me.” Hatfield says that his act of protest was the culmination of an internal effort, during which he questioned Google leaders about Project Nimbus but felt he was getting nowhere. “I was told by my manager that I can't let these concerns affect my work,” he tells TIME. “Which is kind of ironic, because I see it as part of my work. I'm trying to ensure that the users of my work are safe. How can I work on what I'm being told to do, if I don't think it's safe?” Three days after he disrupted the conference, Hatfield was called into a meeting with his Google manager and an HR representative, he says. He was told he had damaged the company’s public image and would be terminated with immediate effect. “This employee disrupted a coworker who was giving a presentation – interfering with an official company-sponsored event,” the Google spokesperson said in a statement to TIME. “This behavior is not okay, regardless of the issue, and the employee was terminated for violating our policies.” Seeing Google fire Hatfield only confirmed to Vidana Abdel Khalek that she should resign from the company. On March 25, she pressed send on an email to company leaders, including CEO Sundar Pichai, announcing her decision to quit in protest over Project Nimbus. “No one came to Google to work on offensive military technology,” the former trust and safety policy employee wrote in the email, seen by TIME, which noted that over 13,000 children had been killed by Israeli attacks on Gaza since the beginning of the war; that Israel had fired upon Palestinians attempting to reach humanitarian aid shipments; and had fired upon convoys of evacuating refugees. “Through Nimbus, your organization provides cloud AI technology to this government and is thereby contributing to these horrors,” the email said. Workers argue that Google’s relationship with Israel runs afoul of the company’s “AI principles,” which state that the company will not pursue applications of AI that are likely to cause “overall harm,” contribute to “weapons or other technologies” whose purpose is to cause injury, or build technologies “whose purpose contravenes widely accepted principles of international law and human rights.” “If you are providing cloud AI technology to a government which you know is committing a genocide, and which you know is misusing this technology to harm innocent civilians, then you're far from being neutral,” Khalek says. “If anything, you are now complicit.” Two workers for Google DeepMind, the company’s AI division, expressed fears that the lab’s ability to prevent its AI tools being used for military purposes had been eroded, following a restructure last year. When it was acquired by Google in 2014, DeepMind reportedly signed an agreement that said its technology would never be used for military or surveillance purposes. But a series of governance changes ended with DeepMind being bound by the same AI principles that apply to Google at large. Those principles haven’t prevented Google signing lucrative military contracts with the Pentagon and Israel. “While DeepMind may have been unhappy to work on military AI or defense contracts in the past, I do think this isn’t really our decision any more,” said one DeepMind employee who asked not to be named because they were not authorized to speak publicly. “Google DeepMind produces frontier AI models that are deployed via [Google Cloud’s Vertex AI platform] that can then be sold to public-sector and other clients.” One of those clients is Israel. “For me to feel comfortable with contributing to an AI model that is released on [Google] Cloud, I would want there to be some accountability where usage can be revoked if, for example, it is being used for surveillance or military purposes that contravene international norms,” says Kay, the DeepMind employee. “Those principles apply to applications that DeepMind develops, but it’s ambiguous if they apply to Google’s Cloud customers.” A Google spokesperson did not address specific questions about DeepMind for this story. Other Google workers point to what they know about Google Cloud as a source of concern about Project Nimbus. The cloud technology that the company ordinarily offers to its clients includes a tool called AutoML that allows a user to rapidly train a machine learning model using a custom dataset. Three workers interviewed by TIME said that the Israeli government could theoretically use AutoML to build a surveillance or targeting tool. There is no evidence that Israel has used Google Cloud to build such a tool, although the New York Times recently reported that Israeli soldiers were using the freely-available facial recognition feature on Google Photos, along with other non-Google technologies, to identify suspects at checkpoints. “Providing powerful technology to an institution that has demonstrated the desire to abuse and weaponize AI for all parts of war is an unethical decision,” says Gabriel Schubiner, a former researcher at Google. “It’s a betrayal of all the engineers that are putting work into Google Cloud.” A Google spokesperson did not address a question asking whether AutoML was provided to Israel under Project Nimbus. Members of No Tech for Apartheid argue it would be naive to imagine Israel is not using Google’s hardware and software for violent purposes. “If we have no oversight into how this technology is used,” says Rachel Westrick, a Google software engineer, “then the Israeli military will use it for violent means.” “Construction of massive local cloud infrastructure within Israel’s borders, [the Israeli government] said, is basically to keep information within Israel under their strict security,” says Mohammad Khatami, a Google software engineer. “But essentially we know that means we’re giving them free rein to use our technology for whatever they want, and beyond any guidelines that we set.” Current and former Google workers also say that they are fearful of speaking up internally against Project Nimbus or in support of Palestinians, due to what some described as fear of retaliation. “I know hundreds of people that are opposing what’s happening, but there’s this fear of losing their jobs, [or] being retaliated against,” says Khalek, the worker who resigned in protest against Project Nimbus. “People are scared.” Google’s firing of Hatfield, Khalek says, was “direct, clear retaliation… it was a message from Google that we shouldn’t be talking about this.” The Google spokesperson denied that the company's firing of Hatfield was an act of retaliation. Regardless, internal dissent is growing, workers say. “What Eddie did, I think Google wants us to think it was some lone act, which is absolutely not true,” says Westrick, the Google software engineer. “The things that Eddie expressed are shared very widely in the company. People are sick of their labor being used for apartheid.” “We’re not going to stop,” says Zelda Montes, a YouTube software engineer, of No Tech for Apartheid. “I can say definitively that this is not something that is just going to die down. It’s only going to grow stronger.” https://time.com/6964364/exclusive-no-tech-for-apartheid-google-workers-pro…

April 8, 2024

MEMENTO | 171° Mercoledì di Nexa | 10 aprile 2024, ore 17.00

by Nexa - Media

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 10 aprile, alle ore 17.00, si terrà il 171° Mercoledì di Nexa con un incontro dal titolo "Insolvent: How to Reorient Computing for Just Sustainability". Ospite dell'incontro: Christoph Becker (University of Toronto). L'incontro si terrà IN PRESENZA e ONLINE, l'ospite si collegherà da remoto. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina: https://nexa.polito.it/mercoledi-171 Cordiali saluti, -- Valeria Bergantino Communication Officer Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

April 8, 2024

Re: [nexa] "‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza"

by Giacomo Tesio

Il 6 Aprile 2024 16:10:51 CEST, Guido Vetere ha scritto: > > | migliaia di palestinesi [...] sono stati spazzati via dai bombardamenti > israeliani, [...] *a causa delle decisioni dell’intelligenza artificiale* > > [...] mi sembra che questa formulazione alimenti un > 'fumus' molto denso nelle discussioni su etica e AI che ascoltiamo in > questi tempi > [...] > > A me sembra che in questo caso l'AI sia stata arruolata in una operazione > di propaganda L'idea di "intelligenza artificiale" stessa è un'operazione di propaganda e distrazione di massa. Da sempre. Se parlassimo più propriamente di software programmato statisticamente, tutte le responsabilità umane sarebbero chiaramente riconducibili: - a chi finanzia la programmazione - a chi la effettua - a chi esegue il software - a chi fornisce l'input - a chi interpreta l'output Questo vale per le manipolazioni cognitive subite da chi usa GMail o Instagram, quanto per quelle subite da chi usa GitHub CopyALot o GPT4, fino al giornalista che si interroga sull'etica della AI invece di sottolineare il genocidio in corso ad opera di Israele. In questo caso, tutti i responsabili andrebbero processate per crimini di guerra e genocidio. Esattamente come i dirigenti e gli sviluppatori di Uber sarebbero dovuti essere condanati per l'omicidio di Elaine Herzberg, quelli di Boing per le vittime del 747 Max e quelli di Tesla per gli incidenti causati dal autopilot. Si tratta di software. Niente di più e niente di meno. E come tutto il software, esegue ciò per cui è programmato, statisticamente o meno. Anche uccidere. Parlare della "AI" serve solo a buttare fumo negli occhi per proteggere criminali. Giacomo

April 7, 2024

Re: [nexa] [CAUTION: SUSPECT SENDER] Re: "‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza"

by Roberto Dolci

Hai ragione: nulla di piu’ facile che incolpare una macchina, o uno stagista, per mettere a tacere la coscienza, specie delle lobby americane che tanto lavorano per spedire altri missili ad Israele Ciao Rob From: nexa <nexa-bounces(a)server-nexa.polito.it> On Behalf Of Guido Vetere Sent: Saturday, April 6, 2024 10:11 AM To: 380° <g380(a)biscuolo.net> Cc: nexa(a)server-nexa.polito.it Subject: [CAUTION: SUSPECT SENDER] Re: [nexa] "‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza" Una frase che m'ha colpito nella traduzione dell'articolo di Yuval apparsa sul Manifesto: | migliaia di palestinesi [...] sono stati spazzati via dai bombardamenti israeliani, [...] *a causa delle decisioni dell’intelligenza artificiale* Non ho letto l'articolo originale (dietro paywall) e la traduzione potrebbe non essere corretta, ma mi sembra che questa formulazione alimenti un 'fumus' molto denso nelle discussioni su etica e AI che ascoltiamo in questi tempi L'AI (come qualsiasi computazione) non 'prende decisioni' ma genera 'interpretazioni' dei dati di input nella forma di distribuzioni di probabilità sull'alfabeto dei simboli di output. Nella costruzione e nell'impiego dei sistemi di AI, oggi basati su apprendimento, vi sono decisioni cruciali da prendere, ma sono tutte umane:. 1) come costruire la funzione di interpretazione 2) come valutare la sua adeguatezza 3) come usarla in pratica Ora, non è chiaro (a me) come sia stato costruito questo Lavender, ma mi colpisce che la sua accuratezza sia stimata del 90%. Quale sarebbe stato il benchmark? E che: hanno fatto uccidere a Lavender 100 palestinesi e poi sono andati a vedere che 90 erano 'veri terroristi' mentre 10 non c'entravano nulla? Cioè: prima ammazzi qualcuno e poi gli fai un processo? A me sembra che in questo caso l'AI sia stata arruolata in una operazione di propaganda: usiamo una AI molto accurata per minimizzare le 'causalities' che comunque ci sono in ogni guerra. L'AI inoltre fa da 'ethic washing' per i soldati che (in 20 secondi) devono decidere se premere il grilletto: ho ucciso *perché* me lo ha detto la macchina. (Nota a margine: sembra che l'unica euristica supplementare sia quella di non sparare sulle donne: ben strano che un classificatore così accurato non sia in grado di discriminare questa 'feature'). Secondo me l'AI, in questo caso, è impiegata come arma di distrazione di massa. Molta attenzione si sta dirigendo verso la 'torsione militare' dell'AI con lo scopo di rifiutarla (o eventualmente apprezzarla) in quanto tale, piuttosto che criticare le decisioni umane che sono alla base di certi suoi specifici impieghi. Altri hanno fatto giustamente osservare che tutta l'informatica novecentesca ha a che fare con 'torsioni militari', anche quel TCP/IP finanziato da DARPA sul quale transiterà questo messaggio. Io aggiungo solo che la riduzione dell'AI a 'oggetto' con finalità proprie mi ricorda un po' quei processi di reificazione che, secondo Joseph Gabel [1], stanno alla base della falsa coscienza, sia collettiva, sia soggettiva. G. [1] Joseph Gabel, La falsa coscienza https://edizionidedalo.it/1136-la-falsa-coscienza.html<https://eu-west-1.protection.sophos.com?d=edizionidedalo.it&u=aHR0cHM6Ly9lZ…> On Sat, 6 Apr 2024 at 14:47, 380° < g380(a)biscuolo.net<mailto:g380@biscuolo.net>> wrote: Buongiorno Claudio, Claudio Agosti < claudio.agosti(a)hermescenter.org<mailto:claudio.agosti@hermescenter.org>> writes: [...] > Nel thread, mi sembra stiate considerando il prodotto come > l'innovazione, non capisco da cosa lo deduci, forse sarebbe più efficace se citassi qualche passo che ti fa sembrare così... forse sarebbe più efficace non usare il "top posting"? ;-) [...] > Tecnologicamente non credo sia diverso dalla guerra in Afghanistan e il > famoso "we kill based on metadata", alla fine sono stime, approssimazione, > e un misto di signal e human intelligence che va a creare la kill > list. dici bene, avevo i tuoi stessi argomenti sulla punta della lingua: grazie per averli espressi così chiaramente e in modo efficacemente sintetico! > Ma specialmente non c'è nessun incentivo a non commettere errori. Non > c'è una possibile misurazione del successo, e le stime date nel pezzo > (per ammazzare un low-ranking accettiamo fino a 15-20 innocenti, > sparando una bomba mentre dorme con la sua famiglia?) sono solo volte > a de-umanizzare le vittime. Non sono stime tollerabili da una corte, > da un programmatore, da un politico. ma soprattutto, con tutte queste informazioni in merito al contesto, che cavolo di differenza fa se la bomba la spara un drone in modo completamente automatico perché l'attuatore è controllato direttamente da una "AI" o se la spara un drone in modo completamente "manuale" perché l'attuatore è comandato da un militare in carne ed ossa, magari a 500Km di distanza? tra l'altro, il militare *comunque* sparerebbe "based on metadata"... un tanto al chilo oltretutto i parametri (il signal) per la "kill list" sono sostanzialmente _cercati_ e /conseguentemente/ raccolti in base al famosissimo problema del "individua _statisticamente_ lo sporco X", con il risultato che spesso succede che ricade nella definizione un significativo sottoinsieme del genere umano, senza manco essere "sporco X" [...] > 1) mi sembra tanto una storia volta a distaccare i militari dalla > partecipazione al genocidio. Una sorta di pallottola a salve usata dal > plotone di esecuzione interessante: potrebbe essere sì; una specie di "obbedivo agli ordini... anzi no, era la AI a obbedire agli ordini... anzi no, la AI gli ordini se li dava da sola" > 2) mi sembra pubblicità gratuita all'industria militare, che certamente > vorrà questo giocattolo, e un reminder ad ogni regolatore, che l'uso > dell'AI per applicazioni militari è tenuto escluso da ogni > regolamentazione ma perché l'uso di altro software per applicazioni militari come è incluso in qualche regolamentazione? cioè: l'uso di software per applicazioni militari in che modo dovrebbe essere regolamentato? ...se già NON si riesce a far applicare la regolamentazione di ben altre cose (tipo i genocidi), quando si fanno le guerre?!? tra l'altro, faccio sommessamente notare che purtroppo ci sono sofisticate (sofistiche?!?) discussioni ad altissimi livelli intellettuali sul fatto che si tratti *tecnicamente* di genocidio [1] piuttosto che crimine di guerra [2], oppure legittima lotta al terrorismo con spiacevoli ma inevitabili danni collaterali... e mi fermo qui perché passerei nel penale. > ¹ https://twitter.com/_vecna/status/1776317177135874371<https://eu-west-1.protection.sophos.com?d=twitter.com&u=aHR0cHM6Ly90d2l0dGV…> La riporto ai fini archivistici: --8<---------------cut here---------------start------------->8--- Claudio Agosti @_vecna In addition to that (the responsibility is not being transferred to the AI to absolve the human user), I would like to debunk a false narrative that involves AI and whether it is important for us as consumers of AI. 🧵 Paul Biggar 🇵🇸🇮🇪 @paulbiggar Correct me if I'm wrong, but in occupied territory, you can't kill militants off the battle field, even if you identify them correctly. So every kill by Lavender/Where's Daddy is a war crime? --8<---------------cut here---------------end--------------->8--- [...] [1] https://it.wikipedia.org/wiki/Genocidio#Definizione_ufficiale_delle_Nazioni…<https://eu-west-1.protection.sophos.com?d=wikipedia.org&u=aHR0cHM6Ly9pdC53a…> [2] https://it.wikipedia.org/wiki/Crimine_di_guerra#La_legislazione<https://eu-west-1.protection.sophos.com?d=wikipedia.org&u=aHR0cHM6Ly9pdC53a…> -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about < https://stallmansupport.org<https://eu-west-1.protection.sophos.com?d=stallmansupport.org&u=aHR0cHM6Ly9…>>. _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://eu-west-1.protection.sophos.com?d=polito.it&u=aHR0cHM6Ly9zZXJ2ZXItb…>

April 6, 2024

Re: [nexa] difesa d'ufficio non richiesta dell'informatica (was Re: Re: "‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza")

by maurizio lana

caro 380° scrivo sotto Il 06/04/24 12:13, 380° ha scritto: > chiedo scusa se la faccio lunga, ma credo che un po' di contesto aiuti > la discussione. > > Daniela Tafani<daniela.tafani(a)unipi.it> writes: >> Il 05/04/2024 19:29, maurizio lana ha scritto: > [...] >>> perché mi pare che questo libro porti il discorso sull'IA in >>> territori a cui non avevamo mai pensato, tutti presi da altri aspetti >>> più evidenti/appariscenti. > Non ho letto il libro per cui non saprei proprio a quali territori a cui non avevamo mai pensato si riferisca: Maurizio ti andrebbe di specificare così magari possiamo meglio focalizzare l'eventuale discussione? penso al fatto che si discute dappertutto (e anche qui in Nexa) molto dell'IA generativa, ma questa IA non è generativa. è abbastanza (mi pare) old fashioned, e non tanto diversa da quella usata da Springer per pubblicare nel 2019 una rassegna di letteratura sulle batterie al litio (Beta Writer. Lithium-ion batteries. A machine-generated summary of current research. New York, NY: Springer, 2019. https://doi.org/10.1007/978-3-030-16800-1) * esperti selezionano un dataset - un corpus di 100 articoli d'esempio sulle batterie al litio) * l'IA acquisisce il dataset e sulla base di tale acquisizione amplia la ricerca ad altri articoli rilevanti sul tema delle batterie al litio * l'IA clusterizza il corpus di articoli * gli esperti rivedono la clusterizzazione e la approvano * l'IA con gli articoli di ogni cluster scrive un capitolo del libro tutti siamo in grado di vedere che le operazioni di Lavender corrispondono agli step qui sopra descritti: * esperti selezionano un dataset che descrive N terroristi * l'IA acquisisce il dataset e sulla base di tale acquisizione amplia la ricerca ad altri potenziali terroristi * l'IA clusterizza gli individui selezionati (senior / junior) * i militari rivedono la clusterizzazione e la approvano * l'IA fornisce le coordinate a cui colpire gli individui selezionati Maurizio > penso >> lo sviluppo dei sistemi di apprendimento automatico ha luogo entro una >> relazione, originaria e costitutiva, con l’apparato militare e i >> sistemi statali di sorveglianza. > Ci sono un'enormità di "cose" *mainstream* nel mondo, anche _culturali_, > che hanno una relazione costitutiva con l'apparato militare e i sistemi > di sorveglianza statali, i sistemi cosiddetti AI - compresi i dosiddetti > sistemi di apprendimento automatico - sono solo l'ultima delle cose in > ordine cronologico. > > L'attuale regime mondiale storicamente conosciuto è stato _plasmato_ > (corrotto?) dalla relazione (NON originaria nè costitutiva) con > l'apparato milirare e i sistemi statali di sorveglianza, compresi > _tutti_ i *codici* che definiscono i termini della cosiddetta convivenza > sociale. > > Quindi, è fuori di dubbio che esiste una tale relazione tra le "cose" e > come di _sviluppano_, ma credo che ben altra relazione esiste con come > le "cose" vengono _concepite_ (ideate? progettate?) e perché, a quale > scopo. > > Non voglio (e non possiamo, "statutariamente") approfondire _quel_ > discorso, andremmo davvero /antropologicamente/, anzi /archetipicamente/, > troppo lontano, ma è giusto per dare il contesto nel quale queste "cose" > si _sviluppano_ in un certo modo piuttosto che in un *altro* modo. > >> Su questa lista è stato segnalato un bel lavoro su questo tema: >> https://www.lem.sssup.it/WPLem/files/2023-47.pdf > Ammetto di non aver letto (o semplicemente me lo sono dimenticato) il > saggio, ma vorrei qui sommessamente /suggerire/ che lo _sviluppo_ del > computer come lo conosciamo oggi ebbe un notevole impulso *solo* grazie > alle ingenti risorse rese disponibili dai "military-industrial complex" > dei regimi che si stavano preparando a confrontarsi nella seconda guerra > mondiale: > > https://en.wikipedia.org/wiki/History_of_computing_hardware#Electromechanic… > > A tal proposito si veda anche: > https://en.wikipedia.org/wiki/Konrad_Zuse#1939%E2%80%931945 > > --8<---------------cut here---------------start------------->8--- > > In 1939, Zuse was called to military service, where he was given the > resources to ultimately build the Z2.[18] In September 1940 Zuse > presented the Z2, covering several rooms in the parental flat, to > experts of the Deutsche Versuchsanstalt für Luftfahrt (DVL; German > Research Institute for Aviation).[22]: 424 The Z2 was a revised version > of the Z1 using telephone relays. > > In 1940, the German government began funding him and his company through > the Aerodynamische Versuchsanstalt (AVA, Aerodynamic Research Institute, > forerunner of the DLR),[24] which used his work for the production of > glide bombs. Zuse built the S1 and S2 computing machines, which were > special purpose devices which computed aerodynamic corrections to the > wings of radio-controlled flying bombs. The S2 featured an integrated > analog-to-digital converter under program control, making it the first > process-controlled computer.[25]: 75 > > --8<---------------cut here---------------end--------------->8--- > > Per capirci, lo Z2 è il parente stretto dello Z1, considerato il primo > computer programmabile elettromeccanico al mondo: > https://en.wikipedia.org/wiki/Z1_(computer) > > In realtà il primo "programmable general purpose computer" (meccanico) > fu la "Analytical engine", che era Turing-complete [1] già nel 1837, ben > 100 anni prima del _paper_ di Turing, che è del 1937. > > https://en.wikipedia.org/wiki/Analytical_engine > > --8<---------------cut here---------------start------------->8--- > > Babbage was never able to complete construction of any of his machines > due to conflicts with his chief engineer and inadequate funding.[7][8] > It was not until 1941 that Konrad Zuse built the first general-purpose > computer, Z3, more than a century after Babbage had proposed the > pioneering analytical engine in 1837. > > [...] Babbage had conflicts with his chief engineer, Joseph Clement, and > ultimately the British government withdrew its funding for the project. > > [...] Babbage developed some two dozen programs for the analytical > engine between 1837 and 1840, and one program later.[14][19] These > programs treat polynomials, iterative formulas, Gaussian elimination, > and Bernoulli numbers.[14][20] > > [...] Ada Lovelace, who had become interested in the engine eight years > earlier.[13] In recognition of her additions to Menabrea's paper, which > included a way to calculate Bernoulli numbers using the machine (widely > considered to be the first complete computer program) > > (Babbage muore nel 1897, n.d.r.) > > In 1878, a committee of the British Association for the Advancement of > Science described the analytical engine as "a marvel of mechanical > ingenuity", but recommended against constructing it. The committee > acknowledged the usefulness and value of the machine, but could not > estimate the cost of building it, and were unsure whether the machine > would function correctly after being built. > > [...] As of May 2016, actual construction had not been attempted, since > no consistent understanding could yet be obtained from Babbage's > original design drawings. In particular it was unclear whether it could > handle the indexed variables which were required for Lovelace's > Bernoulli program.[34] By 2017, the "Plan 28" effort reported that a > searchable database of all catalogued material was available, and an > initial review of Babbage's voluminous Scribbling Books had been > completed.[35] > > --8<---------------cut here---------------end--------------->8--- > > In pratica è dal 1837 che non ci sono abbastanza incentivi manco per > /comprendere/ quella macchina :-); è evidente che lo sviluppo abortì > subito perché di calcolare i numeri di Bernoulli per uso > tecnico-scientifico non importava una mazza a coloro che avevano il > potere di finanziarne lo _sviluppo_. > > Altro discorso, poi, è _per cosa_ vennero originariamente concepiti e > costruiti i primi "computing device" e come e _perché_ vennero > _sviluppati_: > https://en.wikipedia.org/wiki/Timeline_of_computing_hardware_before_1950 > > [...] > >> Esprimere tale relazione con l’espressione “dual use” è fuorviante: > Eros contro Thanatos? [2] > >> i sistemi concepiti per fini militari conservano l’impostazione, la >> concettualizzazione degli oggetti di interesse, gli assunti normativi >> e la logica originari. > Ho il serio dubbio che invece in moltissimi casi le "logiche originarie" > di molti sistemi concepiti per fini civili/scientifici (liberatori?) > siano state poi _corrotte_ quando potevano essere usate per fini > militari, _soffocate_ quando invece non erano adatte a quesi fini, se > non addirittura *in contrasto* con quei fini. > > Nell'articolo IT di Wikipedia sulla storia del computer, mi ha colpito > la sezione dedicata al Memex [3], sezione non presente nella > corrispettiva pagina EN. Esiste però un articolo EN sul Memex: > > https://en.wikipedia.org/wiki/Memex > > --8<---------------cut here---------------start------------->8--- > > Memex is a hypothetical electromechanical device for interacting with > microform documents and described in Vannevar Bush's 1945 article "As We > May Think". Bush envisioned the memex as a device in which individuals > would compress and store all of their books, records, and > communications, "mechanized so that it may be consulted with exceeding > speed and flexibility". The individual was supposed to use the memex as > an automatic personal filing system, making the memex "an enlarged > intimate supplement to his memory".[1] The name memex is a portmanteau > of memory and expansion. > > [...] According to Bush, memex could become "a sort of mechanized > private file and library".[4] The memex device as described by Bush > "would use microfilm storage, dry photography, and analog computing to > give postwar scholars access to a huge, indexed repository of knowledge > any section of which could be called up with a few keystrokes."[5] > > --8<---------------cut here---------------end--------------->8--- > > Per chi se la fosse persa, "The mother of all demos" [4] dimostra > piuttosto inequivocabilmente che dal 9 Dicembre 1968 ad oggi qualcosa è > andato decisamente storto nello sviluppo dei sistemi > informatici... *centralizzati* (per proteggerci da noi stessi, sia > chiaro): > > --8<---------------cut here---------------start------------->8--- > > In Engelbart's view, in order to steer society into the right use of > scientific knowledge derived from the war, that knowledge would need to > be better managed and regulated. > > --8<---------------cut here---------------end--------------->8--- > > Si veda anche: > https://en.wikipedia.org/wiki/Douglas_Engelbart#Guiding_philosophy > e > https://en.wikipedia.org/wiki/Douglas_Engelbart#Anecdotal_notes > > Come si può facilmente notare, quindi, nel corso della storia sono state > _concepite_ molte tecnologie _liberatorie_: si sono poi sviluppate > (quasi) solo quando utili per i fini dai complessi militari-industriali > dei vari regimi, nel resto dei casi sono state ignorate o > deliberatamente soffocate. > > Noi siamo storicamente ancora nel periodo post-bellico (o è > eterno-bellico?!?) > > [...] > > Loving, 380° > > > [1] cioè rispettava tutti i requisiti stabiliti per poter essere > definita una Universal Turing Machine: > https://en.wikipedia.org/wiki/Universal_Turing_machine > > [2] sì, anche nell'informatica esiste da _sempre_ un conflitto > psicanalitico, anzi filosofico, tra Eros e Thanatos > https://en.wikipedia.org/wiki/Beyond_the_Pleasure_Principle > > [3]https://it.wikipedia.org/wiki/Storia_del_computer#Il_Memex_(1932) > > [4]https://en.wikipedia.org/wiki/The_Mother_of_All_Demos > ------------------------------------------------------------------------ é imperioso mantermos a esperança mesmo quando a dureza ou aspereza da realidade sugira o contrário paulo freire ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

April 6, 2024

IBM and Apartheid

by 380°

nel 2015 EFF, nel suo comunicato stampa relativo all'amicus brief nel caso "In re: South African Apartheid Litigation" [1], citava esattamente le ricerche di Edwin Black e di come la pratica fosse stata utilizzata anche in Sud Africa per l'Apartheid. https://www.eff.org/deeplinks/2015/02/eff-files-amicus-brief-case-seeks-hol… --8<---------------cut here---------------start------------->8--- The Parallels Between IBM’s Assistance to the Third Reich and Apartheid South Africa Just like the assistance that IBM provided to the Nazis, “the national identification system was highly customized, requiring close collaboration with the South African government; racial classification was a primary identifying characteristic; and the equipment was leased.” What’s more, just like its attempts to continue business in Nazi Germany, “IBM repeatedly misled the U.S. government and its own shareholders regarding its ongoing activities that supported unlawful rights violations in South Africa.” --8<---------------cut here---------------end--------------->8--- [...] > Tutto parte da un database centralizzato controllato da un complesso > militare-indistriale nel quale sono raccolti "specific individual > traits"... ve lo dice un fricchettone :-O Quindi vogliamo mettere al bando i database che raccolgono "specific individual traits"? Vogliamo rendere *tecnicamente* impossibile intercettare dati personali che poi sono raccolti in quei database, con un'efficacia e un'efficienza diecimila volte maggiore a quella a disposizione del governo sudafricano negli anni '90? ... o continuiamo a star qui a pettinare le bambole per i prossimi 70 anni?!? Loving, 380° [1] https://web.archive.org/web/20230211060311/https://hrp.law.harvard.edu/area… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 6, 2024

Re: [nexa] "‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza"

by Guido Vetere

Una frase che m'ha colpito nella traduzione dell'articolo di Yuval apparsa sul Manifesto: | migliaia di palestinesi [...] sono stati spazzati via dai bombardamenti israeliani, [...] *a causa delle decisioni dell’intelligenza artificiale* Non ho letto l'articolo originale (dietro paywall) e la traduzione potrebbe non essere corretta, ma mi sembra che questa formulazione alimenti un 'fumus' molto denso nelle discussioni su etica e AI che ascoltiamo in questi tempi L'AI (come qualsiasi computazione) non 'prende decisioni' ma genera 'interpretazioni' dei dati di input nella forma di distribuzioni di probabilità sull'alfabeto dei simboli di output. Nella costruzione e nell'impiego dei sistemi di AI, oggi basati su apprendimento, vi sono decisioni cruciali da prendere, ma sono tutte umane:. 1) come costruire la funzione di interpretazione 2) come valutare la sua adeguatezza 3) come usarla in pratica Ora, non è chiaro (a me) come sia stato costruito questo Lavender, ma mi colpisce che la sua accuratezza sia stimata del 90%. Quale sarebbe stato il benchmark? E che: hanno fatto uccidere a Lavender 100 palestinesi e poi sono andati a vedere che 90 erano 'veri terroristi' mentre 10 non c'entravano nulla? Cioè: prima ammazzi qualcuno e poi gli fai un processo? A me sembra che in questo caso l'AI sia stata arruolata in una operazione di propaganda: usiamo una AI molto accurata per minimizzare le 'causalities' che comunque ci sono in ogni guerra. L'AI inoltre fa da 'ethic washing' per i soldati che (in 20 secondi) devono decidere se premere il grilletto: ho ucciso *perché* me lo ha detto la macchina. (Nota a margine: sembra che l'unica euristica supplementare sia quella di non sparare sulle donne: ben strano che un classificatore così accurato non sia in grado di discriminare questa 'feature'). Secondo me l'AI, in questo caso, è impiegata come arma di distrazione di massa. Molta attenzione si sta dirigendo verso la 'torsione militare' dell'AI con lo scopo di rifiutarla (o eventualmente apprezzarla) in quanto tale, piuttosto che criticare le decisioni umane che sono alla base di certi suoi specifici impieghi. Altri hanno fatto giustamente osservare che tutta l'informatica novecentesca ha a che fare con 'torsioni militari', anche quel TCP/IP finanziato da DARPA sul quale transiterà questo messaggio. Io aggiungo solo che la riduzione dell'AI a 'oggetto' con finalità proprie mi ricorda un po' quei processi di reificazione che, secondo Joseph Gabel [1], stanno alla base della falsa coscienza, sia collettiva, sia soggettiva. G. [1] Joseph Gabel, La falsa coscienza https://edizionidedalo.it/1136-la-falsa-coscienza.html On Sat, 6 Apr 2024 at 14:47, 380° <g380(a)biscuolo.net> wrote: > Buongiorno Claudio, > > Claudio Agosti <claudio.agosti(a)hermescenter.org> writes: > > [...] > > > Nel thread, mi sembra stiate considerando il prodotto come > > l'innovazione, > > non capisco da cosa lo deduci, forse sarebbe più efficace se citassi > qualche passo che ti fa sembrare così... > > forse sarebbe più efficace non usare il "top posting"? ;-) > > [...] > > > Tecnologicamente non credo sia diverso dalla guerra in Afghanistan e il > > famoso "we kill based on metadata", alla fine sono stime, > approssimazione, > > e un misto di signal e human intelligence che va a creare la kill > > list. > > dici bene, avevo i tuoi stessi argomenti sulla punta della lingua: > grazie per averli espressi così chiaramente e in modo efficacemente > sintetico! > > > Ma specialmente non c'è nessun incentivo a non commettere errori. Non > > c'è una possibile misurazione del successo, e le stime date nel pezzo > > (per ammazzare un low-ranking accettiamo fino a 15-20 innocenti, > > sparando una bomba mentre dorme con la sua famiglia?) sono solo volte > > a de-umanizzare le vittime. Non sono stime tollerabili da una corte, > > da un programmatore, da un politico. > > ma soprattutto, con tutte queste informazioni in merito al contesto, che > cavolo di differenza fa se la bomba la spara un drone in modo > completamente automatico perché l'attuatore è controllato direttamente > da una "AI" o se la spara un drone in modo completamente "manuale" > perché l'attuatore è comandato da un militare in carne ed ossa, magari a > 500Km di distanza? > > tra l'altro, il militare *comunque* sparerebbe "based on metadata"... un > tanto al chilo > > oltretutto i parametri (il signal) per la "kill list" sono > sostanzialmente _cercati_ e /conseguentemente/ raccolti in base al > famosissimo problema del "individua _statisticamente_ lo sporco X", con > il risultato che spesso succede che ricade nella definizione un > significativo sottoinsieme del genere umano, senza manco essere "sporco > X" > > [...] > > > 1) mi sembra tanto una storia volta a distaccare i militari dalla > > partecipazione al genocidio. Una sorta di pallottola a salve usata dal > > plotone di esecuzione > > interessante: potrebbe essere sì; una specie di "obbedivo agli > ordini... anzi no, era la AI a obbedire agli ordini... anzi no, la AI > gli ordini se li dava da sola" > > > 2) mi sembra pubblicità gratuita all'industria militare, che certamente > > vorrà questo giocattolo, e un reminder ad ogni regolatore, che l'uso > > dell'AI per applicazioni militari è tenuto escluso da ogni > > regolamentazione > > ma perché l'uso di altro software per applicazioni militari come è > incluso in qualche regolamentazione? > > cioè: l'uso di software per applicazioni militari in che modo dovrebbe > essere regolamentato? > > ...se già NON si riesce a far applicare la regolamentazione di ben altre > cose (tipo i genocidi), quando si fanno le guerre?!? > > tra l'altro, faccio sommessamente notare che purtroppo ci sono > sofisticate (sofistiche?!?) discussioni ad altissimi livelli > intellettuali sul fatto che si tratti *tecnicamente* di genocidio [1] > piuttosto che crimine di guerra [2], oppure legittima lotta al > terrorismo con spiacevoli ma inevitabili danni collaterali... e mi fermo > qui perché passerei nel penale. > > > ¹ https://twitter.com/_vecna/status/1776317177135874371 > > La riporto ai fini archivistici: > > --8<---------------cut here---------------start------------->8--- > > Claudio Agosti @_vecna > > In addition to that (the responsibility is not being transferred to the > AI to absolve the human user), I would like to debunk a false narrative > that involves AI and whether it is important for us as consumers of > AI. 🧵 > > Paul Biggar 🇵🇸🇮🇪 > @paulbiggar > > Correct me if I'm wrong, but in occupied territory, you can't kill > militants off the battle field, even if you identify them > correctly. So every kill by Lavender/Where's Daddy is a war crime? > > --8<---------------cut here---------------end--------------->8--- > > [...] > > [1] > https://it.wikipedia.org/wiki/Genocidio#Definizione_ufficiale_delle_Nazioni… > > [2] https://it.wikipedia.org/wiki/Crimine_di_guerra#La_legislazione > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 6, 2024