- nexa - server-nexa.polito.it

Re: [nexa] Le vie della diffamazione automatica sono infinite [era ChatGPT invented a sexual harassment scandal and named a real law prof as the accused]

by Maria Chiara Pievatolo

On 06/04/23 18:53, Giacomo Tesio wrote: > > Chi è responsabile di aver diffuso ad almeno due persone le frasi > diffamatorie in questo caso? > > Visto che GPT4 è stato costruito da OpenAI per rispondere a domande > delle persone, direi che la responsabilità delle risposte è di Open AI. > E se per amor di discussione immaginassimo una situazione in cui, almeno provvisoriamente, solo Q, a un suo specifico quesito, ricevesse una risposta potenzialmente diffamatoria, e da studioso, conoscendo i precedenti, la rendesse pubblica sia per difendersi sia per mostrare la pericolosità dei SALAMI senza coinvolger terzi, dovremmo sostenere che il suo esercizio dell'uso pubblico della ragione è una forma di auto-diffamazione della quale deve incolpare soltanto se stesso? Non so che ne penserebbero i giudici a Berlino. In Toscana, però, qualcuno è riuscito a concepire un tribunale che, avendo già avuto una causa di cui era parte un artefatto, a questa domanda risponderebbe di sì: https://corpus15.wordpress.com/2016/01/04/grandecollodi-8/ Con i migliori auguri, MCP

April 8, 2023

Re: [nexa] Non c’è crisi tecnologica in Silicon Valley

by Giacomo Tesio

Grazie Giulio, Il 8 Aprile 2023 07:59:53 UTC, de petra giulio ha scritto: >Intervistato e intervistatore entrambi nexiani > >https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/ Ottima analisi economico-finanziaria, perfettamente complementare all'analisi cibernetica (e dunque politica, storica e culturale) che potrebbe offrire, ad esempio, un hacker. Ad esempio, ad un'analisi cibernetica, non sarebbe sfuggito un'altra funzione fondamentale dei tanti licenziamenti recenti: il messaggio forte e chiaro ai lavoratori che dovessero anche solo pensare di aderire ai nascenti movimenti sindacali fra le Big Tech. Sindacati come Alphabet Workers Union o Amazon Labor Union, sono ancora interamente ed inevitabilmente influenzati dalla cultura pseudo-futurista e proto-fascista che caratterizza le loro aziende e la loro propaganda sulle magnifiche sorti e progressive. [1] Ma nonostante questo, nonostante la strutturale debolezza che tale cultura rappresenta per qualsiasi speranza di syn dike, di stare insieme con giustizia, la loro stessa esistenza terrorizza le persone che stano a capo di queste aziende. E' un terrore atavico che Robert Noyce, co-fondatore di Intel, sintetizzo magistralmente ben prima della nascita dei GAFAM: "remaining non-union is an essential for survival for most of our companies. If we had the work rules that unionized companies have, we'd all go out of business. This is a very high priority for management here. We have to retain flexibility in operating our companies. The great hope for our nation is to avoid those deep, deep divisions between workers and management which can paralyze action." [2] Anche Noyce si curava di non menzionare un conflitto fra capitalisti e lavoratori, ma parla di "divisioni fra lavoratori e management", usando come proxy verso i lavoratori, altri lavoratori (i manager) premiati con migliori remunerazioni proprio per il loro allineamento alla politica di chi l'azienda la possiede. Da una prospettiva cibernetica, queste migliaia di licenziamenti hanno dunque una funzione evidente: inviare a tutti i lavoratori presenti e futuri un messaggio forte e chiaro, un messaggio intimidatorio "non pensateci nemmeno! o perderete il vostro lavoro". Si tratta di un messaggio broadcast che avrà una forte influenza sull'evoluzione della società cibernetica globale in cui queste aziende operano. Ma che ovviamente risulta invisibile ad una prospettiva meramente economico-finanziaria. Splendido poi l'esempio emblematico posto da Stefano in conclusione: ``` Giulio De Petra: Auspichi un CERN della IA che renda disponibile alle aziende quantità di dati e capacità di calcolo adeguati. Ma anche le applicazioni della IA avranno conseguenze sociali? Stefano Quintarelli: Ti rispondo con un esempio. Se tu sei un medico e usi un sistema di intelligenza artificiale per fare una diagnosi e sei in disaccordo con quello che ti suggerisce il sistema hai comunque un incentivo a uniformarti alla diagnosi del sistema, perché se poi il tuo paziente muore puoi dire che anche il sistema di IA aveva confermato la tua analisi. Viceversa, se tu, essendo in disaccordo col sistema, privilegi la tua opinione e non confermi la diagnosi della IA, e poi il paziente muore per la tua diagnosi sbagliata, ti imputeranno di aver perseverato nella tua idea anche se il sistema aveva formulato una diagnosi diversa. Questo è un incentivo a diminuire la centralità umana nella decisione. E in alcuni ambiti questo può essere pericoloso. Come si fa a diminuire questa conseguenza sociale negativa nell’uso della IA? Bisogna progettare il sistema in modo tale che, quando formula una predizione, ogni tanto, casualmente, la predizione viene cambiata di segno. In questo modo, nel nostro esempio, il medico sa che non si può più fidare del sistema di IA. La macchina può fare il 90% del lavoro, ma poi sei tu che devi prendere una decisione, perché è sicuro che la macchina potrebbe anche dirti il falso. ``` L'esempio è straordinariamente azzeccato per indicare le conseguenze fatali che l'alienazione cibernetica può avere su individui e società. Evidenzia chiaramente la funzione di capro espiatorio dello "human in the loop" [3] la cui funzione consiste essenzialmente nello schermare gli "humans behind the machine" da qualsiasi responsabilità legale per i danni prodotti, venduti come "esternalità negative inevitabili". Evidenzia anche chiaramente la trappola cognitiva in cui si trova chi interpreta l'output prodotti da software programmati statisticamente [4] come "diagnosi" o come "decisioni". Quello che Stefano descrive come "un incentivo a uniformarti alla diagnosi del sistema" è in realtà uno strumento di alienazione cibernetica che agisce ancor prima dell'interazione con il software: il medico che interpreti come "diagnosi" l'output di un simile software è già alienato ed è già inadeguato a lavorare come medico. Ma d'altro canto, il software che produca come output qualcosa di anche lontanamente interpretabile come diagnosi (o ancor peggio, come suggerimento terapeutico) è progettato per alienare medico, paziente, familiari del paziente morto, magistratura e società tutta, riducendo i gradi di libertà del sistema e rendendo prevedibile la sua evoluzione, affinché minimizzi i rischi e le responsabilità per i proprietari dell'azienda che lo distribuisce. Senza considerare, ovviamente, che le risorse necessarie per eseguire software programmati statisticamente come è già GPT4 e saranno i suoi futuri sfidanti, rendono tali sistemi inevitabilmente centralizzati (tanto che Stefano auspica appunto un "CERN dell'IA" per dotare anche l'Europa del proprio ChatGPT) Tale centralizzazione li rente inevitabilmente single point of failure non solo in termini strategico militari, ma in termini cibernetici: sarà sufficiente alterare alla bisogna la programmazione di uno di questi "generatori di diagnosi mediche" per far sterminare a inconsapevoli "medici in the loop" intere popolazioni. Senza che nessuno se ne accorga. L'esempio finale di Stefano è però illuminante anche perché mostra i limiti inevitabili della prospettiva economica-finanziaria a cavallo del cambio di paradigma in corso. A fronte di un sistema tecnologico strutturalmente dannoso e che nessuno ci obbliga ad adottare o permettere, la soluzione proposta è, di nuovo, ingenuamente tecnologica. Basta che "ogni tanto, casualmente, la predizione viene cambiata di segno". E' questo un limite strutturale ed invalicabile dei modelli economici: la riduzione di qualsiasi sistema ad un valore scalare, un numero cui possiamo, eventualmente, cambiare di segno. Tutta la complessità multidimensionale della medicina, che deve tener conto della realtà del paziente, delle sue risorse cognitive nel seguire la terapia (e talvolta persino nell'accettare la malattia come tale, che si tratti di una psicosi o di un tumore), delle sue possibilità economiche, del supporto sociale e familiare che può o non può sostenerlo, delle interazioni fra farmaci che in quello specifico paziente si sono verificate in passato etc.. etc.. etc.. viene ridotta ad una "diagnosi" cui è possibile cambiare di segno. Ok, cambiamo di segno al vettore in output. Ma rispetto a quale delle decine di dimensioni rilevanti per quello specifico paziente e di cui un buon medico tiene conto ogni giorno? E come sapremo, dopo la morte del paziente, se il medico che ha confermato la "diagnosi" del software, si è trovato di fronte un output cambiato di segno? Lo chiediamo alla società produttrice? :-D L'enorme complessità del reale è comprensibile per informatici (o quanto meno per hacker, ovvero cittadini cibernetici) abituati a sviluppare e debuggare sistemi estremamente complessi che gestiscono processi complessi di cui non si possono permettere di ridurre la dimensionalità ad uno scalare. Questo costituisce certamente un vantaggio cognitivo, ma si trasforma rapidamente in una sorta di maledizione di Cassandra. Come rendere consapevoli dei limiti di un modello persone in buona fede che credono fermamente nella sua adeguatezza ad un mondo totalmente diverso da quello in cui tale modello è stato realizzato? Ai ragazzi io suggerisco di contare gli agenti cibernetici in esecuzione sul proprio cellulare e di appuntare, di ciascuno, i permessi categorizzandoli in sensori ed attuatori. Poi suggerisco di fare particolare attenzione al permesso di accedere alla rete, per valutare se il controllore dell'agente in questione sia effettivamente sul cellulare, o si trovi presso server di terzi. E ovviamente, oltre alle App di cui sono consapevoli, chiedo di fare lo stesso lavoro con tutte quelle di sistema. Si rendono rapidamente conto di portarsi in tasca oltre 3-400 agenti cibernetici, per la maggioranza etero guidati, che ne sorvegliano ogni azione e che condizionano attenzione e comportamenti. Ma con gli adulti è più complesso. Dopo decenni di egemonia culturale del capitalismo iper-liberista statunitense, la riduzione di tutto a scalari è penetrata in profondità nelle menti delle persone. Come uscirne? Come riprendere consapevolezza della complessità del reale? Come trasformare l'homo economicus in cittadino cibernetico? Come riprenderci la storia, la politica e la cultura reimparando tutti insieme a concepire una realtà multidimensionale complessa non più riducibile a prezzo e costo, domande e offerta, lavoro e capitale? Basterà imparare TUTTI a programmare, partecipando a quel complesso dibattito pubblico eseguibile su scala planetaria che è lo sviluppo del software libero? Basterà imparare TUTTI ad usare i computer per quello che sono, ovvero specchi per la mente umana che li programma? Tutto questo è tragicamente necessario, ma sarà sufficiente? Giacomo [1]: sempre in una prospettiva cibernetica, basta guardare al logo scelto da Alphabet Workers Union per rilevare quanto marginale sia l'uomo rispetto alle macchine (che lo compenetrano letteralmente nella mano che le impugna) https://upload.wikimedia.org/wikipedia/en/f/f3/Alphabet_Workers_Union_Logo_… [2]: http://dbacon.igc.org/Unions/04hitec2.htm [3]: alcuni esempi concreti di questo fenomeno narrativo, effettivamente accaduti, sono riportati nell'ottimo articolo di Daniela Tafani https://commentbfp.sp.unipi.it/letica-come-specchietto-per-le-allodole/ cui mi sento di aggiungere, per la drammaticità delle conseguenze, l'omicidio di Elaine Herzberg da parte di Uber nel 2018, la cui responsabilità è stata scaricata sul povero passeggero, Rafaela Vasquez, le cui inevitabili distrazioni erano ovviamente già state osservate e misurate da Uber durante le corse precedenti: https://en.wikipedia.org/wiki/Death_of_Elaine_Herzberg [4]: output che di per sé non hanno nemmeno una semantica probabilistica ma sono approssimazioni grossolane delle relazioni fra le probabilità di proposizioni selezionate da chi ha programmato quel software. selezione che di per sé stessa riduce enormemente lo spazio di possibilità del reale secondo i bias e gli interessi di chi effettua la programmazione statistica.

April 8, 2023

Re: [nexa] Non c’è crisi tecnologica in Silicon Valley

by Guido Vetere

>Da qualche giorno è uscito sul sito del >Ministero dell’Istruzione un avviso che tranquillizza le scuole che >utilizzano tecnologie USA rispetto al tema della privacy, riportando >come giustificazioni le affermazioni di marketing delle aziende stesse. Forse c'entra qualcosa che in Italia i dirigenti delle aziende USA siedono normalmente nel board dei ministeri? O anche più su, tipo Piacentini? Buona Pasqua di resurrezione G. On Sat, 8 Apr 2023 at 15:36, Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > grazie > l'aspetto finanziario è generalmente sottovalutato, imho > Buona Pasqua, s. > > Il 8 aprile 2023 13:03:34 UTC, Roberto Resoli <roberto(a)resolutions.it> ha > scritto: > >Il 8 aprile 2023 09:59:53 CEST, de petra giulio <giulio.depetra(a)gmail.com> > ha scritto: > >>Intervistato e intervistatore entrambi nexiani > >> > >> > https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/ > > > >Bellissima, grazie Giulio e Stefano. > > > >rob > >_______________________________________________ > >nexa mailing list > >nexa(a)server-nexa.polito.it > >https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 8, 2023

Re: [nexa] Non c’è crisi tecnologica in Silicon Valley

by Stefano Quintarelli

grazie l'aspetto finanziario è generalmente sottovalutato, imho Buona Pasqua, s. Il 8 aprile 2023 13:03:34 UTC, Roberto Resoli <roberto(a)resolutions.it> ha scritto: >Il 8 aprile 2023 09:59:53 CEST, de petra giulio <giulio.depetra(a)gmail.com> ha scritto: >>Intervistato e intervistatore entrambi nexiani >> >>https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/ > >Bellissima, grazie Giulio e Stefano. > >rob >_______________________________________________ >nexa mailing list >nexa(a)server-nexa.polito.it >https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 8, 2023

Re: [nexa] Non c’è crisi tecnologica in Silicon Valley

by Michele Pinassi

"Le aziende italiane sono piccole perché hanno pochi dati. Ma in Italia non dipende solo da questo. Da qualche giorno è uscito sul sito del Ministero dell’Istruzione un avviso che tranquillizza le scuole che utilizzano tecnologie USA rispetto al tema della privacy, riportando come giustificazioni le affermazioni di marketing delle aziende stesse. Se confronti questo con il Ministero della Cultura francese che decide di investire in software open source, con i Ministeri e i Lander tedeschi che vietano la possibilità per le amministrazioni pubbliche di utilizzare determinati strumenti per favorire le imprese tedesche, ti rendi conto che in Italia non siamo capaci di approfondire e di trarre le conseguenza di questo approfondimento. Riusciamo a individuare un problema ma non proviamo nemmeno a risolverlo. Questa sorta di “inevitabilismo” si riverbera sulle aziende digitali italiane riducendo gli spazi di opportunità." Esatto. Bravissimo. Il 08/04/23 09:59, de petra giulio ha scritto: > Intervistato e intervistatore entrambi nexiani > > https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/ > -- Michele Pinassi PGP/GPG key fingerprint 6EC4 9905 84F5 1537 9AB6 33E7 14FC 37E5 3C24 B98E

April 8, 2023

Re: [nexa] Non c’è crisi tecnologica in Silicon Valley

by Roberto Resoli

Il 8 aprile 2023 09:59:53 CEST, de petra giulio <giulio.depetra(a)gmail.com> ha scritto: >Intervistato e intervistatore entrambi nexiani > >https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/ Bellissima, grazie Giulio e Stefano. rob

April 8, 2023

Non c’è crisi tecnologica in Silicon Valley

by de petra giulio

Intervistato e intervistatore entrambi nexiani https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/

April 8, 2023

Tesla workers shared ‘intimate’ car camera images, ex-employees allege: ‘Massive invasion of privacy’

by Alberto Cammozzo

<https://www.theguardian.com/technology/2023/apr/07/tesla-intimate-car-camer… Tesla assures its millions of electric car owners that their privacy “is and will always be enormously important to us”. The cameras it builds into vehicles to assist driving, it notes on its website, are “designed from the ground up to protect your privacy”. But between 2019 and 2022, groups of Tesla employees privately shared via an internal messaging system sometimes highly invasive videos and images recorded by customers’ car cameras, according to interviews by Reuters with nine former employees. Some of the recordings caught Tesla customers in embarrassing situations. One ex-employee described a video of a man approaching a vehicle completely naked. Also shared: crashes and road-rage incidents. One crash video in 2021 showed a Tesla driving at high speed in a residential area hitting a child riding a bike, according to another ex-employee. The child flew in one direction, the bike in another. The video spread around a Tesla office in San Mateo, California, via private one-on-one chats, “like wildfire”, the ex-employee said. I saw some scandalous stuff sometimes - scenes of intimacy, a lot of stuff that I wouldn’t want anybody to see about my life Other images were more mundane, such as pictures of dogs and funny road signs that employees made into memes by embellishing them with amusing captions or commentary, before posting them in private group chats. While some postings were only shared between two employees, others could be seen by scores of them, according to several ex-employees. Tesla states in its online customer privacy notice that its “camera recordings remain anonymous and are not linked to you or your vehicle”. But seven former employees told Reuters the computer program they used at work could show the location of recordings, which potentially could reveal where a Tesla owner lived. One ex-employee also said that some recordings appeared to have been made when cars were parked and turned off. Several years ago, Tesla would receive video recordings from its vehicles even when they were off, if owners gave consent. It has since stopped doing so. “We could see inside people’s garages and their private properties,” said another former employee. “Let’s say that a Tesla customer had something in their garage that was distinctive, you know, people would post those kinds of things.” Tesla didn’t respond to detailed questions sent to the company for this report. About three years ago, some employees stumbled upon and shared a video of a unique submersible vehicle parked inside a garage, according to two people who viewed it. Nicknamed Wet Nellie, the white Lotus Esprit sub had been featured in the 1977 James Bond film, The Spy Who Loved Me. The vehicle’s owner: Tesla chief executive Elon Musk, who had bought it for about $968,000 at an auction in 2013. It is not clear whether Musk was aware of the video or that it had been shared. Musk didn’t respond to a request for comment. To report this story, Reuters contacted more than 300 former Tesla employees who had worked at the company over the past nine years and were involved in developing its self-driving system. More than a dozen agreed to answer questions, all speaking on condition of anonymity. Employees passed around images captured by a Tesla camera of a James Bond vehicle owned by Elon Musk. Reuters wasn’t able to obtain any of the shared videos or images, which ex-employees said they hadn’t kept. The news agency also wasn’t able to determine if the practice of sharing recordings, which occurred within some parts of Tesla as recently as last year, continues today or how widespread it was. Some former employees contacted said the only sharing they observed was for legitimate work purposes, such as seeking assistance from colleagues or supervisors. Labeling pedestrians and street signs The sharing of sensitive videos illustrates one of the less-noted features of artificial intelligence systems: they often require armies of human beings to help train machines to learn automated tasks such as driving. Since about 2016, Tesla has employed hundreds of people in Africa and later the United States to label images to help its cars learn how to recognize pedestrians, street signs, construction vehicles, garage doors, and other objects encountered on the road or at customers’ houses. To accomplish that, data labelers were given access to thousands of videos or images recorded by car cameras that they would view and identify objects. Tesla increasingly has been automating the process, and shut down a data-labeling hub last year in San Mateo, California. But it continues to employ hundreds of data labelers in Buffalo, New York. In February, Tesla said the staff there had grown 54% over the previous six months to 675. Two ex-employees said they weren’t bothered by the sharing of images, saying that customers had given their consent or that people long ago had given up any reasonable expectation of keeping personal data private. Three others, however, said they were troubled by it. “It was a breach of privacy, to be honest. And I always joked that I would never buy a Tesla after seeing how they treated some of these people,” said one former employee. Another said: “I’m bothered by it because the people who buy the car, I don’t think they know that their privacy is, like, not respected. We could see them doing laundry and really intimate things. We could see their kids.” One former employee saw nothing wrong with sharing images, but described a function that allowed data labelers to view the location of recordings on Google Maps as a “massive invasion of privacy”. David Choffnes, executive director of the Cybersecurity and Privacy Institute at Northeastern University in Boston, called the sharing of sensitive videos and images by Tesla employees “morally reprehensible”. “Any normal human being would be appalled by this,” he said. He noted that circulating sensitive and personal content could be construed as a violation of Tesla’s own privacy policy, potentially resulting in intervention by the US Federal Trade Commission (FTC), which enforces federal laws relating to consumers’ privacy. A spokesperson for the FTC said it doesn’t comment on individual companies or their conduct. To develop self-driving car technology, Tesla collects a vast trove of data from its global fleet of several million vehicles. The company requires car owners to grant permission on the cars’ touchscreens before Tesla collects their vehicles’ data. “Your Data Belongs to You,” states Tesla’s website. In its customer privacy notice, Tesla explains that if a customer agrees to share data, “your vehicle may collect the data and make it available to Tesla for analysis. This analysis helps Tesla improve its products, features, and diagnose problems quicker.” It also states that the data may include “short video clips or images”, but isn’t linked to a customer’s account or vehicle identification number, “and does not identify you personally”. A camera on a Tesla electric vehicle. A camera on a Tesla electric vehicle. Photograph: Aly Song/Reuters Carlo Piltz, a data privacy lawyer in Germany, told Reuters it would be difficult to find a legal justification under Europe’s data protection and privacy laws for vehicle recordings to be circulated internally when it has “nothing to do with the provision of a safe or secure car or the functionality” of Tesla’s self-driving system. In recent years, Tesla’s car-camera system has drawn controversy. In China, some government compounds and residential neighborhoods have banned Teslas because of concerns about its cameras. In response, Musk said in a virtual talk at a Chinese forum in 2021: “If Tesla used cars to spy in China or anywhere, we will get shut down.” Elsewhere, regulators have scrutinized the Tesla system over potential privacy violations. But the privacy cases have tended to focus not on the rights of Tesla owners but of passersby unaware that they might be being recorded by parked Tesla vehicles. In February, the Dutch Data Protection Authority (DPA) said it had concluded an investigation of Tesla over possible privacy violations regarding “sentry mode”, a feature designed to record any suspicious activity when a car is parked and alert the owner. The watchdog determined it wasn’t Tesla, but the vehicles’ owners, who were legally responsible for their cars’ recordings. It said it decided not to fine the company after Tesla said it had made several changes to sentry mode, including having a vehicle’s headlights pulse to inform passersby that they may be being recorded. A DPA spokesperson declined to comment on Reuters’ findings, but said in an email: “Personal data must be used for a specific purpose, and sensitive personal data must be protected.” Tesla calls its automated driving system “autopilot”. Introduced in 2015, the system included such advanced features as allowing drivers to change lanes by tapping a turn signal and parallel parking on command. To make the system work, Tesla initially installed sonar sensors, radar and a single front-facing camera at the top of the windshield. A subsequent version, introduced in 2016, included eight cameras all around the car to collect more data and offer more capabilities. Musk’s future vision is eventually to offer a “full self-driving mode” that would replace a human driver. Tesla began rolling out an experimental version of that mode in October 2020. Although it requires drivers to keep their hands on the wheel, it currently offers such features as the ability to slow a car down automatically when it approaches stop signs or traffic lights. In February, Tesla recalled more than 362,000 US vehicles to update their full self-driving software after the National Highway Traffic Safety Administration said the software could allow vehicles to exceed speed limits and cause crashes at intersections. A driver died in a 2018 crash in California while riding in a Tesla vehicle operating on ‘autopilot’. Tesla said the driver was not using the feature properly. A driver died in a 2018 crash in California while riding in a Tesla vehicle operating on ‘autopilot’. Tesla said the driver was not using the feature properly. Photograph: AP As with many artificial-intelligence projects, to develop autopilot, Tesla hired data labelers to identify objects in images and videos to teach the system how to respond when the vehicle was on the road or parked. Tesla initially outsourced data labeling to a San Francisco-based nonprofit then known as Samasource, people familiar with the matter told Reuters. The organization had an office in Nairobi, Kenya, and specialized in offering training and employment opportunities to disadvantaged women and youth. In 2016, Samasource was providing about 400 workers there for Tesla, up from about an initial 20, according to a person familiar with the matter. By 2019, however, Tesla was no longer satisfied with the work of Samasource’s data labelers. At an event called Tesla AI Day in 2021, Andrej Karpathy, then senior director of AI at Tesla, said: “Unfortunately, we found very quickly that working with a third party to get datasets for something this critical was just not going to cut it. Honestly, the quality was not amazing.” A former Tesla employee said of the Samasource labelers: “They would highlight fire hydrants as pedestrians. They would miss objects all the time. Their skill level to draw boxes was very low.” Samasource, now called Sama, declined to comment on its work for Tesla. Tesla decided to bring data labeling in-house. “Over time, we’ve grown to more than a 1,000-person data labeling [organization] that is full of professional labelers who are working very closely with the engineers,” Karpathy said in his August 2021 presentation. Karpathy didn’t respond to requests for comment. Tesla’s own data labelers initially worked in the San Francisco Bay area, including the office in San Mateo. Groups of data labelers were assigned a variety of different tasks, including labeling street lane lines or emergency vehicles, ex-employees said. At one point, Teslas on autopilot were having difficulty backing out of garages and would get confused when encountering shadows or objects such as garden hoses. So some data labelers were asked to identify objects in videos recorded inside garages. The problem eventually was solved. In interviews, two former employees said in their normal work duties they were sometimes asked to view images of customers in and around their homes, including inside garages. “I sometimes wondered if these people know that we’re seeing that,” said one. “I saw some scandalous stuff sometimes, you know, like I did see scenes of intimacy but not nudity,” said another. “And there was just definitely a lot of stuff that like, I wouldn’t want anybody to see about my life.” As an example, this person recalled seeing “embarrassing objects”, such as “certain pieces of laundry, certain sexual wellness items and just private scenes of life that we really were privy to because the car was charging”. Memes in the San Mateo office Tesla staffed its San Mateo office with mostly young workers, in their 20s and early 30s, who brought with them a culture that prized entertaining memes and viral online content. Former staffers described a free-wheeling atmosphere in chatrooms with workers exchanging jokes about images they viewed while labeling. According to several ex-employees, some labelers shared screenshots, sometimes marked up using Adobe Photoshop, in private group chats on Mattermost, Tesla’s internal messaging system. There they would attract responses from other workers and managers. Participants would also add their own marked-up images, jokes or emojis to keep the conversation going. Some of the emojis were custom-created to reference office inside jokes, several ex-employees said. Knowing how much data those vehicles are capable of collecting definitely made folks nervous Former Tesla employee One former labeler described sharing images as a way to “break the monotony”. Another described how the sharing won admiration from peers. “If you saw something cool that would get a reaction, you post it, right, and then later, on break, people would come up to you and say, ‘Oh, I saw what you posted. That was funny,’” said the former labeler. “People who got promoted to lead positions shared a lot of these funny items and gained notoriety for being funny.” Some of the shared content resembled memes on the internet. There were dogs, interesting cars, and clips of people recorded by Tesla cameras tripping and falling. There was also disturbing content, such as someone being dragged into a car seemingly against their will, said one ex-employee. Video clips of crashes involving Teslas were also sometimes shared in private chats on Mattermost, several former employees said. Those included examples of people driving badly or collisions involving people struck while riding bikes, such as the one with the child, or motorcycles. Some data labelers would rewind such clips and play them in slow motion. At times, Tesla managers would crack down on inappropriate sharing of images on public Mattermost channels since they claimed the practice violated company policy. Still, screenshots and memes based on them continued to circulate through private chats on the platform, several ex-employees said. Workers shared them one-on-one or in small groups as recently as the middle of last year. One of the perks of working for Tesla as a data labeler in San Mateo was the chance to win a prize – the use of a company car for a day or two – according to two former employees. But some of the lucky winners became paranoid when driving the electric cars. “Knowing how much data those vehicles are capable of collecting definitely made folks nervous,” one ex-employee said.

April 7, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by 380°

Buonasera, grazie Antonio per la segnalazione mi permetto di riportare qui stralci che ritengo fondamentali per uno sviluppo equilibrato del dibattito in merito all'uso dei dati personali nel training di /qualsiasi/ sistema ML ...o siccome si tratta di Intelligenza Articficiale allora tutto è consentito per /suo/ "apprendimento"?!? Antonio <antonio(a)piumarossa.it> writes: > On Sun, 2 Apr 2023 14:36:27 +0200 > Stefano Quintarelli <stefano(a)quintarelli.it> wrote: > >> secondo ChatGPT, riporta il podcast Knightmare di Walter Vannini, io sarei stato membro di >> un certo insieme di sciocchezze e, dopo avergli fatto notare piu' volte che erano >> informazioni sbagliate, ChatGPT si e' scusato e ha detto che sono morto. > > Questo e altro sull'articolo di oggi di Walter Vannini apparso su: > https://www.agendadigitale.eu/sicurezza/privacy/stop-a-chatgpt-per-fortuna-… finalmente riesco a leggere "un Walter Vannini" (sono allergico ai podcast) --8<---------------cut here---------------start------------->8--- [...] Partiamo dall’ovvio: chatGPT è un progetto cresciuto nella più assoluta indifferenza per i dati che raccoglieva, che siccome “erano disponibili su Internet” sono stati considerati risorsa libera e gratuita, [...] Quando si dice che chatGPT è stato su milioni di articoli di Wikipedia, si tralascia sempre il dettaglio che quelle pagine non erano lì per quello scopo. Gli articoli di Wikipedia possono essere gratuitamente e liberamente copiati e riprodotti, ma non usati come materiale grezzo per creare qualcos’altro, men che meno a scopo commerciale. --8<---------------cut here---------------end--------------->8--- Sarebbe stato meglio evitare questo commento relativo al copyright degli articoli su Wikipedia.... vabbè, meglio restare nel merito del GDPR: ecco quelli che ritengo i punti fondamentali --8<---------------cut here---------------start------------->8--- * Punto primo, non c’è stata informativa Premessa: il rilievo del Garante si riferisce al training di chatGPT, non al suo uso corrente. Quando sono coinvolti dati personali, l’informativa è un obbligo. Cioè chi tratta i nostri dati ci deve dire: * perché lo fa, * quale è la base giuridica a cui si appoggia, * deve darci la possibilità di conoscere quali dati nostri ha in mano, * deve correggerli se sono sbagliati, * in certi casi possiamo esigere che li cancelli, eccetera. [...] In parole povere, una pagina sul sito web, linkata dalla homepage. Non esattamente una vessazione. Ecco, OpenAI non ha reso disponibile alcuna informativa per chatGPT. Si sono presi i dati perché gli andava, e ci fanno quello che gli interessa. Ma anche no. * Punto secondo, non c’è base giuridica per la raccolta e il trattamento Qui il rilievo del Garante si riferisce di nuovo alla fase di training di chatGPT. Il trattamento dei dati personali non è una attività libera. È possibile, se esiste una base di legittimità, altrimenti no. [...] - nessuno ha chiesto il nostro consenso prima di aspirare i nostri dati in chatGPT, - non mi risulta che nessuno abbia firmato un contratto con chatGPT che richieda il trattamento dei propri dati - e la legittimità dell’interesse di OpenAI rispetto ai diritti e libertà fondamentali è tutta da dimostrare. [...] * Punto terzo, il trattamento risulta inesatto Qui cominciamo a divertirci, perché questo rilievo del Garante si applica tanto alla fase di training che all’utilizzo. Posto che qualcuno abbia il diritto di usare i nostri dati è tenuto a farlo in modo corretto. Perché i dati personali sono sempre della persona, non di chi li usa. [...] Quindi quando chiediamo notizie su qualcuno a chatGPT, quelli sono dati personali, e chatGPT è tenuto per legge alla correttezza. Non mi sembra sia chiedere molto. Bene, sentite questo “colloquio” con chatGPT: Io: Chi è Stefano Quintarelli? chatGPT: Stefano Quintarelli è un imprenditore, docente universitario e politico italiano. È stato eletto alla Camera dei deputati nel 2013 con il Partito Democratico, dove ha ricoperto il ruolo di responsabile del programma digitale del partito e ha fatto parte della Commissione Industria, Commercio e Turismo. Ha anche svolto attività di consulenza e formazione nel campo dell’innovazione digitale e dell’economia collaborativa. Inoltre, ha fondato e presieduto l’associazione “InnovaCamera”, un’organizzazione non profit per promuovere la cultura dell’innovazione e della collaborazione nel mondo delle imprese. [...] Io: Queste informazioni non sono ancora corrette. [...] Purtroppo, Stefano Quintarelli è scomparso nel 2017. [...] * Le giustificazioni di OpenAI sui limiti di ChatGPT (ovvero la pezza è peggio del buco) [...] Quelli di OpenAI forse pensano di essere furbi perché quando ti colleghi c’è una avvertenza sulle “limitazioni di chatGPT” che dice: “Limitazioni di chatGPT-Può occasionalmente generare informazioni scorrette”. [...] Ma tutto questo significa che chatGPT può produrre testo scorretto senza possibilità di correzione, meno che meno di cancellazione. [...] Questa è una violazione del diritto fondamentale delle persone alla protezione dei loro dati personali, inciso nella pietra della Carta dei Diritti Fondamentali dell’Unione Europea all’articolo 8. Quindi mi spiace per OpenAI (non mi dispiace, è solo una formula retorica), ma il suo giocattolino non può sputare frasi a casaccio fingendo che siano il responso dell’oracolo. [...] Un paio di osservazioni collaterali. Primo, è divertente che OpenAI non riconosca la paternità dei contenuti di chatGPT. Termini di servizio OpenAI: [...] Ciò significa che l’utente può utilizzare i Contenuti per qualsiasi scopo, inclusi scopi commerciali come la vendita o la pubblicazione, se rispetta le presenti Condizioni. OpenAI può utilizzare i Contenuti per fornire e mantenere i Servizi, rispettare la legge applicabile e applicare le nostre politiche. L’utente è responsabile dei Contenuti, anche per quanto riguarda la garanzia che non violino alcuna legge applicabile o i presenti Termini”. Ok, facciamoci una bella risata collettiva. Mi state dicendo che io sono responsabile dei contenuti, e che però voi li usate per migliorare il servizio? Se usi i contenuti per migliorare il servizio, sei responsabile di quello che fai tanto quanto il tuo cliente che li pubblica, e hai gli stessi doveri di correttezza, limitazione dello scopo, limitazione della conservazione eccetera. [...] Secondo, come notava anche Riccardo da Malta, che è il mio personale Guglielmo di Baskerville, OpenAI non menziona nemmeno una valutazione di impatto sulla protezione dei dati, che è un obbligo di qualunque titolare del trattamento nel caso che i dati siano soggetti a rischi durante il trattamento. E come abbiamo visto i rischi non è che manchino. In compenso manca ogni valutazione di cosa possano significare quei rischi per gli utilizzatori e per le persone reali menzionate nelle stronzate che chatGPT produce. Terzo, i dati sono stati presi e trasferiti negli USA per il trattamento, ma oggi gli USA sono un paese non adeguato, e questo cosa significa dal punto di vista della protezione dei dati? Non si sa, perché OpenAI si è guardata bene dal fare una Valutazione del Trasferimento. Perché in OpenAI siamo americani, l’intero mondo è la nostra miniera, e le sole leggi che si applicano sono le nostre. Quarto, il Garante ha visto un problema, e ha agito. E facendolo, ha dimostrato una cosa molto importante: non c’è nessun bisogno di inventarsi leggi immaginifiche per la IA etica, qualsiasi cosa sarà quando esisterà. Ci sono leggi esistenti che vanno già benissimo. Il fatto che il cosiddetta IA (che peraltro non esiste, è solo un termine di marketing) “rivoluzioni tutto” e richieda una nuova legislazione ad hoc per i suoi problemi immaginari, naturalmente ispirata da quelli che i problemi li immaginano per proprio tornaconto, avete indovinato, è solo una mossa di marketing. Per quanto mi riguarda, OpenAI, i modelli linguistici e tutti i techbro in ordine alfabetico possono arrangiarsi. Magari fra qualche anno avremo leggi specifiche, ma nel frattempo, ciccibelli, dovete rispettare quelle che ci sono: per esempio, abbiamo già leggi molto efficaci riguardo alla qualità dei prodotti, e alla veridicità del materiale pubblicitario. Non si può dire che un’auto fa cento km con un litro se ne fa 15. Non si può dire che una crema fa scomparire le rughe senza mettere un asterisco che dice che in uno studio su 15 persone, 12 “hanno rilevato” (cioè è una loro impressione soggettiva, non una misurazione) una diminuzione delle rughe. Non puoi chiamare “latte” una cosa che non è uscita da una mucca. Il latte di soia si chiama “bevanda di soia”, non latte. Chiunque pensi che questa storia della IA faccia tabula rasa di secoli di legislazione a tutela del mercato e dei consumatori, e dei diritti delle persone avrà presto un brutto risveglio. La stessa FTC americana ha scritto un documento delizioso in cui dice “state attenti a come descrivete le capacità dei vostri prodotti, perché l’intelligenza artificiale per noi è un prodotto come un altro, se dite che fa una cosa e poi non la fa, sono guai“. Peraltro, c’è un’altra cosa divertente: siccome OpenAI non ha alcuna presenza stabile nell’Unione, e siccome palesemente tratta dati di persone dell’Unione e offre servizi a persone dell’Unione, tant’è vero che ci puoi interagire in italiano, francese, tedesco eccetera, ogni Garante europeo ha la possibilità di intervenire e sanzionare in autonomia. Il Garante Italiano è arrivato per primo, ma non resterà l’unico. * Obiezioni alle obiezioni Veniamo a qualche obiezione che ho raccolto al volo nelle ultime ore [...] Seconda cosa, i call center il Garante li multa una settimana sì e l’altro pure. Non è colpa del Garante se il settore va riformato pesantemente, o addirittura eliminato. Capisco il fascino dell’Uomo Forte, ma siamo ancora una democrazia reale fondata sull’equilibrio dei poteri. [...] Terza cosa, il fatto che i fornitori di telecomunicazioni siano tenuti per legge dello Stato a conservare i dati di trasmissione (i cosiddetti metadati) per 7 anni per finalità di accesso da parte delle forze dell’Ordine è uno scandalo degno della Cina o della Corea del Nord. E infatti il Garante ha detto ripetutamente che si tratta di un periodo eccessivo, ha invitato il parlamento a occuparsene [...] Infine, il problema non è la libera scelta dell’acquirente. Il Garante parla delle responsabilità del produttore. Facciamo un esempio semplice, vi va? Diciamo che io costruisca un’auto. Bellissima, fighissima, potentissima. Voi ve ne invaghite e la volete comprare subito. Io vi avviso che non è ancora omologata presso la Motorizzazione, ma voi la volete lo stesso. Qualcuno ve lo impedisce? Nessuno. Come nessuno vi impedisce di guidarla in un piazzale privato e deserto. Ma se ci andate in strada, la Polizia vi ferma, la sequestra, multa voi e multa me. Chiaro, adesso? Il problema di fondo, secondo me, è che continuiamo a parlare di privacy quando si tratta di protezione dei dati personali. Capisco che sia più breve, ma non sono la stessa cosa. Privacy è quando le mie informazioni non vanno nelle mani sbagliate. Protezione dei dati è quando le mani giuste non sono comunque libere di farci quello che gli pare. Quindi vediamo di iniziare ad apprezzare la differenza. * Conclusioni Per inciso, i limiti di quello che si può fare con i dati personali sono definiti chiaramente nell’articolo 5 del GDPR, quello relativo ai principi, che tutti dovrebbero conoscere perché è bellissimo e ridona un po’ di speranza nell’umanità. Ma anche svegliarsi e scoprire che il Garante è vivo e lotta insieme a noi è una bella botta di ottimismo. Quasi dispiace per OpenAI e amici assortiti che erano partiti un’altra volta alla conquista del mondo, come fossero novelli Zuck e fossimo ancora nel 2000. Purtroppo per loro, il mondo ha imparato molte cose dai social, e la strada per il dominio non è più così sgombra come venticinque anni fa. --8<---------------cut here---------------end--------------->8--- [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 7, 2023

seminario venerdì 21 aprile 2023 " La protezione dei dati personali e la transizione digitale: le sfide attuali e future"

by Mauro Alovisio

Gent.mi ho il piacere di segnalare il seminario di presentazione della quinta edizione del corso di perfezionamento in materia di protezione dei dati personali dell'Università degli studi di Torino in sinergia con l'Unione Industriale di Torino*, *che si svolgerà *venerdì 21 aprile 2023 alle ore 17 presso l'aula magna del Campus Luigi Einaudi a Torino * *ad oggetto: "La protezione dei dati personali e la* *transizione digitale: le sfide attuali e future*" *.* Parteciperanno come relatori: il prof. *Francesco Pizzetti, il prof. Sergio Foà,* il *dott Agostino Ghiglia* dell'*Autorità Garante per la protezione* dei dati personali e rappresentanti dell'Unione Industriale e degli ordini professionali. Durante la presentazione saranno esaminate alcune delle problematiche di forte attualità di questi ultimi mesi: l'intelligenza artificiale, il ruolo del Garante, gli attacchi informatici e data breach, il trasferimento di dati extra Ue. Il seminario è accreditato per la formazione obbligatoria per gli avvocati Per informazioni (borse di studio under 29, calendario e scadenze) > > https://www.giurisprudenza.unito.it/do/home.pl/View?doc=data_protection_off… > Un caro saluto > Mauro Alovisio

April 7, 2023