- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by 380°

Buongiorno, vorrei evidenziare che in questo filone del thread ci si sta concentrando solo sull'output ma i rilievi del Garante riguardano anche il training... ed è /precisamente/ su quello che nel caso di ChatGPT e di tutti gli altri LLM il cui training è stato effettuato con dati personali senza ottemperare al GDPR (tutti?) non esiste altra soluzione che rifare il training da zero :-D Mario Sabatino <mario(a)sabatino.cloud> writes: > Ma infatti. Il disclaimer in realtà c'è. > https://openai.com/policies/terms-of-use Però mettiamoci d'accordo: i generative LLM hanno un utilizzo pratico o sono solo generatori di /fiction/? Perché sono convinto che molte delle discussioni in (anzi di) merito cesserebbero subito dopo l'handshaking su "fiction" ;-) > Forse non è scritto a caratteri cubitali ma qualcosa c'è eccome. > > V. punti 3 e 5. Non so se questa versione delle condizioni di servizio > siano precedenti o successive all'intervento del Garante. Pare ci fossero già e in merito a questo Walter Vannini [1] sostiene: --8<---------------cut here---------------start------------->8--- Ok, facciamoci una bella risata collettiva. Mi state dicendo che io sono responsabile dei contenuti, e che però voi li usate per migliorare il servizio? Se usi i contenuti per migliorare il servizio, sei responsabile di quello che fai tanto quanto il tuo cliente che li pubblica, e hai gli stessi doveri di correttezza, limitazione dello scopo, limitazione della conservazione eccetera. --8<---------------cut here---------------end--------------->8--- Facile far sparare cose a caso a una macchina attraverso un servizio web e _genericamente_ mettere le mani avanti dicendo che non si è responsabili dei contenuti, eh? Quindi, per capire: i social media sostengono di essere responsabili dei contenuti e per questo censurano come non ci fosse un domani e invece OpenAI di non essere responsabile perché i contenuti sono sparati a caso da un sistema ML... equesto lo scrive in un documento - che non legge nessuno - mentre è /letteralmente/ contraddetto da ogni singola dichiarazione dei massimi dirigenti di OpenAI che _spacciano_ il sistema come il nuovo oracolo che curerà ogni male del mondo, a partire dalle cure mediche dei poveri?!? Il solo e **unico** disclaimer accettabile per qualsiasi modello generativo basato su LLM o /qualsiasi/ altro sistema di machine learning che /sintetizza/ frasi che /a caso/ possono anche corrispondere al vero è quello che compare in tutti i film da «Rasputin e l’imperatrice» (1934) [2] in poi per pararsi le terga: --8<---------------cut here---------------start------------->8--- All persons and facts are fictious --8<---------------cut here---------------end--------------->8--- e questo disclaimer dovrebbe essere obbligatorio IN OGNI SINGOLO output generato da ogni singolo sistema di "generazione lessicale" basato su ML... così vediamo chi ha voglia di giocare al giornalista, lo psicologo o all'endocrinologo usando l'output di tali sistemi :-O Quindi massima libertà di LLM, ma a condizione che chi ci "fa servizi sopra" scriva a caratteri cubitali quello che sta /spacciando/, OpanAI compresa In merito ai dati riferiti alle persone, poi, Vannini sostiene [1] che uno dei rilievi del Garante è esattamente questo: --8<---------------cut here---------------start------------->8--- Punto terzo, il trattamento risulta inesatto [...] Posto che qualcuno abbia il diritto di usare i nostri dati è tenuto a farlo in modo corretto. Perché i dati personali sono sempre della persona, non di chi li usa. Ricordo anni fa il caso di un famoso avvocato, che chiameremo Cesare Maria De Semproniis che citò Telecom Italia perché continuava a ricevere bollette intestate a C. Maria de Semproniis, cosa che considerava lesiva della sua immagine. E ovviamente vinse. Allo stesso modo, chi pubblica informazioni scorrette su di noi è tenuto a correggerle e, se il garante rileva che non si è trattato di un errore ma che il problema è di incuria, allora paga pure una sanzione. --8<---------------cut here---------------end--------------->8--- Se Vannini non ha torto (ha torto?) questo significa che «All persons and facts are fictious» non sarebbe sufficiante nel caso in cui ChatGPT scrivesse che una persona reale (magari con tanto di data di nascita e altri riferimenti personali) è stata condannata per pedofilia, perché sarebbe comunque diffamazione: o basta un disclaimer per levarsi dall'impaccio?? (pare di no [3]) Per cinema, TV e radio viene applicato un (complesso?) processo di "negative checking": https://en.wikipedia.org/wiki/Negative_checking Anche ChatGPT è fiction, sarebbe ora che applicassero anche loro lo stato dell'arte dei processi creativi :-D Saluti, 380° [...] [1] https://www.agendadigitale.eu/sicurezza/privacy/stop-a-chatgpt-per-fortuna-… [2] https://en.wikipedia.org/wiki/All_persons_fictitious_disclaimer [3] https://www.ilpost.it/2016/08/28/film-ogni-riferimento-persone-esistenti-pu… https://en.wikipedia.org/wiki/All_persons_fictitious_disclaimer#Effectivene… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 10, 2023

Re: [nexa] "Pausing AI Developments Isn't Enough. We Need to Shut it All Down"

by Marco Fioretti

On Mon, Apr 10, 2023 at 09:46, J.C. DE MARTIN wrote: Pausing AI Developments Isn't Enough. We Need to Shut it All Down... https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/ (https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/) questo perche', scrive Yudkowsky: "If somebody builds a too-powerful AI, under present conditions, I expect that every single member of the human species and all biological life on Earth dies shortly thereafter." cosa che a me pare un tantino incomprensibile: https://mfioretti.substack.com/p/you-are-all-getting-this-stop-ai (https://mfioretti.substack.com/p/you-are-all-getting-this-stop-ai) Marco

April 10, 2023

"Pausing AI Developments Isn't Enough. We Need to Shut it All Down"

by J.C. DE MARTIN

*Pausing AI Developments Isn't Enough. We Need to Shut it All Down* BY ELIEZER YUDKOWSKY MARCH 29, 2023 6:01 PM EDT / Yudkowsky is a decision theorist from the U.S. and leads research at the Machine Intelligence Research Institute. He's been working on aligning Artificial General Intelligence since 2001 and is widely regarded as a founder of the field./ An open letter published today calls for “all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.” This 6-month moratorium would be better than no moratorium. I have respect for everyone who stepped up and signed it. It’s an improvement on the margin. I refrained from signing because I think the letter is understating the seriousness of the situation and asking for too little to solve it. The key issue is not “human-competitive” intelligence (as the open letter puts it); it’s what happens after AI gets to smarter-than-human intelligence. Key thresholds there may not be obvious, we definitely can’t calculate in advance what happens when, and it currently seems imaginable that a research lab would cross critical lines without noticing. continua qui: https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

April 10, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Paolo Del Romano

Il giorno dom 9 apr 2023 alle ore 23:53 Anna Masera <anna.masera(a)gmail.com> ha scritto: (omissis) video di Carlo (Blengino) ieri che nel riassumere in maniera > chiara e sintetica la complessa vicenda cita più volte la nostra bella > lista Nexa :) > Si infatti, quando racconta dei contributi in lista e in particolare del richiamo al Fedro di Platone e Carlo vede qui delle analogie con il nostro caso. Il dio Theuth regala al faraone Thamus l'ultima tecnologia del momento, la scrittura e il faraone lo rifiuta perchè dice che è un falso in quanto la vera cultura è solo quella che viene dalla oralità -- Paolo Del Romano

April 9, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Anna Masera

April 9, 2023

Privacy Nicks: How the Law Normalizes Surveillance

by Daniela Tafani

Privacy Nicks: How the Law Normalizes Surveillance Woodrow Hartzog Evan Selinger Johanna Gunawan<https://papers.ssrn.com/sol3/cf_dev/AbsByAuth.cfm?per_id=3937932> Abstract Privacy law is failing to protect individuals from being watched and exposed, despite stronger surveillance and data protection rules. The problem is that our rules look to social norms to set thresholds for privacy violations, but people can get used to being observed. In this article, we argue that by ignoring de minimis privacy encroachments, the law is complicit in normalizing surveillance. Privacy law helps acclimate people to being watched by ignoring smaller, more frequent, and more mundane privacy diminutions. We call these reductions “privacy nicks,” like the proverbial “thousand cuts” that lead to death. Privacy nicks come from the proliferation of cameras and biometric sensors on doorbells, glasses, and watches, and the drift of surveillance and data analytics into new areas of our lives like travel, exercise, and social gatherings. Under our theory of privacy nicks as the Achilles heel of surveillance law, invasive practices become routine through repeated exposures that acclimate us to being vulnerable and watched in increasingly intimate ways. With acclimation comes resignation, and this shift in attitude biases how citizens and lawmakers view reasonable measures and fair tradeoffs. Because the law looks to norms and people’s expectations to set thresholds for what counts as a privacy violation, the normalization of these nicks results in a constant re-negotiation of privacy standards to society’s disadvantage. When this happens, the legal and social threshold for rejecting invasive new practices keeps getting redrawn, excusing ever more aggressive intrusions. In effect, the test of what privacy law allows is whatever people will tolerate. There is no rule to stop us from tolerating everything. This article provides a new theory and terminology to understand where privacy law falls short and suggests a way to escape the current surveillance spiral. <http://dx.doi.org/10.2139/ssrn.4384541 <https://dx.doi.org/10.2139/ssrn.4384541> >

April 9, 2023

Re: [nexa] "DPReview.com to close"

by J.C. DE MARTIN

Aggiornamento: https://www.dpreview.com/news/0507902613/dpreview-closure-an-update jc On 25/03/23 07:41, 380° wrote: > Buonasera J.C. > > grazie per la bozza di proposta! > > "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it> writes: > > [...] > >> La via maestra sarebbe estendere il mandato di archivi, biblioteche e >> musei affinché preservino anche la conoscenza digitale, impiegando >> adeguati criteri di selezione e dando loro le risorse per farlo >> (nonché i poteri giuridici). > cosa impedisce oggi a una biblioteca pubblica di archiviare un mirror di > DPReview o qualsiasi altro sito web, /senza pubblicarlo/ ma solo > mantenendolo archiviato? > > in secondo luogo, come e quando una biblioteca potrebbe rendere pubblico > un contenuto archiviato digitalmente senza pubblicarlo sul web: > rendendolo consultabile solo sui terminali interni alla biblioteca o al > consorzio di biblioteche? > > quanto è adeguato il modello di prestito/restituzione del supporto > fisico a quello del "supporto" digitale? > > e coi DRM ad-minchiam come la mettiamo? > >> Intanto però secondo me dovremmo prendere in considerazione l'opzione >> di rendere /obbligatorio/ la messa a disposizione dei contenuti >> per l'archiviazione da parte di chiunque abbia la possibilità e il >> desiderio di farlo, > come ho già scritto: cosa impedisce a me o qualsiasi altra persona > interessata di farsi un mirror di DPReview? > > non posso legalmente distribuirlo ma posso legalmente archiviarmelo per > uso personale... un po' come la modica quantità delle droghe leggere > > [...] > >> Mi sembra una via potenzialmente molto più fruttuosa del limitarsi di >> chiedere ai >> singoli di fare "la cosa giusta". > io ritengo sarebbe più efficace la "pirateria" diffusa > > [...] > > saluti, 380° >

April 9, 2023

Re: [nexa] OpenAI threatened with landmark defamation lawsuit over ChatGPT false claims

by Stefano Quintarelli

https://blog.quintarelli.it/2023/01/chatgpt-and-the-report-effect/ un mesetto e mezzo fa: "l'effetto report" sembra tutto credibile quando lo leggi ma gli esperti dell'argomento vedono che è sbagliato ciao, s Il 8 aprile 2023 20:56:19 UTC, Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> ha scritto: > > ><https://arstechnica.com/tech-policy/2023/04/openai-may-be-sued-after-chatgp…> > > >Update, 8:30 pm: A spokesperson for Gordon Legal provided a statement to Ars confirming that responses to text prompts generated by ChatGPT 3.5 and 4 vary, with defamatory comments still currently being generated in ChatGPT 3.5. Among "several false statements" generated by ChatGPT were falsehoods stating that Brian Hood "was accused of bribing officials in Malaysia, Indonesia, and Vietnam between 1999 and 2005, that he was sentenced to 30 months in prison after pleading guilty to two counts of false accounting under the Corporations Act in 2012, and that he authorised payments to a Malaysian arms dealer acting as a middleman to secure a contract with the Malaysian Government." Because "all of these statements are false," Gordon Legal "filed a Concerns Notice to OpenAI" that detailed the inaccuracy and demanded a rectification. “As artificial intelligence becomes increasingly integrated into our society, the accuracy of the information provided by these services will come under close legal scrutiny," James Naughton, Hood's lawyer, said, noting that if a defamation claim is raised, it "will aim to remedy the harm caused" to Hood and "ensure the accuracy of this software in his case.”) > >It was only a matter of time before ChatGPT—an artificial intelligence tool that generates responses based on user text prompts—was threatened with its first defamation lawsuit. That happened last month, Reuters reported today, when an Australian regional mayor, Brian Hood, sent a letter on March 21 to the tool’s developer, OpenAI, announcing his plan to sue the company for ChatGPT’s alleged role in spreading false claims that he had gone to prison for bribery. > >To avoid the landmark lawsuit, Hood gave OpenAI 28 days to modify ChatGPT’s responses and stop the tool from spouting disinformation. > >According to Hood’s legal team, ChatGPT could seriously damage the mayor’s reputation by falsely claiming that Hood had been convicted for taking part in a foreign bribery scandal in the early 2000s while working for a subsidiary of the Reserve Bank of Australia. Hood had worked for a subsidiary, Note Printing Australia, but rather than being found guilty of bribery, Hood was the one who notified authorities about the bribes. Reuters reported that Hood was never charged with any crimes, but ChatGPT seems to have confused the facts when generating some responses to text prompts inquiring about Hood's history. > >OpenAI did not immediately respond to Ars’ request for comment. > >Ars attempted to replicate the error using ChatGPT, though, and it seems possible that OpenAI has fixed the errors as Hood's legal team has directed. When Ars asked ChatGPT if Hood served prison time for bribery, ChatGPT responded that Hood “has not served any prison time” and clarified that “there is no information available online to suggest that he has been convicted of any criminal offense.” Ars then asked if Hood had ever been charged with bribery, and ChatGPT responded, “I do not have any information indicating that Brian Hood, the current mayor of Hepburn Shire in Victoria, Australia, has been charged with bribery.” > >Ars could not immediately reach Hood’s legal team to find out which text prompts generated the alleged defamatory claims or to confirm if OpenAI had responded to confirm that the error had been fixed. The legal team was still waiting for that response at the time that Reuters' report published early this morning. > >Hood’s lawyer, James Naughton, a partner at Gordon Legal, told Reuters that Hood’s reputation is “central to his role” as an elected official known for “shining a light on corporate misconduct.” If AI tools like ChatGPT threaten to damage that reputation, Naughton told Reuters, “it makes a difference to him." That's why the landmark defamation lawsuit could be his only course of action if the alleged ChatGPT-generated errors are not corrected, he said. > >It's unclear to Hood how many people using ChatGPT were exposed to the disinformation. Naughton told Reuters that the defamatory statements were so serious that Hood could claim more than $130,000 in defamation damages under Australian law. > >Whether companies like OpenAI could be held liable for defamation is still debatable. It’s possible that companies could add sufficient disclaimers to products to avoid such liability, and they could then pass the liability on to users, who could be found to be negligently or intentionally spreading false claims while knowing that ChatGPT cannot always be trusted. > >Australia has recently drawn criticism for how it has reviewed defamation claims in the digital age. In 2020, Australia moved to redraft its defamation laws after a high court ruling found that publishers using social media platforms like Facebook should be held liable for defamatory third-party comments on their pages, CNBC reported in 2021. That is contrary to laws providing immunity shields for platforms, such as Section 230 in the US. > >At that time, Australia considered the question of whether online publishers should be liable for defamatory statements made by commenters in online forums “one of the most complex to address,” with “complications beyond defamation law alone.” By the end of last year, Australian attorneys general were pushing new reforms to ensure that publishers could avoid any liability, The Guardian reported. > >Now it looks like new generative AI tools like ChatGPT that publish potentially defamatory content will likely pose the next complex question—one that regulators, who are just now wrapping their heads around publisher liability on social media, may not yet be prepared to address. > >Naughton told Reuters that if Hood’s lawsuit proceeds, it would accuse OpenAI of “giving users a false sense of accuracy by failing to include footnotes” and failing to inform users how ChatGPT's algorithm works to come up with answers that may not be completely accurate. AI ethics experts have urged regulators to ensure that companies like OpenAI are more transparent about how AI tools work. > >If OpenAI doesn't adequately respond to Hood's concerns, his lawsuit could proceed before the laws clarify who is responsible for alleged AI-generated defamation. > >"It would potentially be a landmark moment in the sense that it's applying this defamation law to a new area of artificial intelligence and publication in the IT space," Naughton told Reuters. >

April 9, 2023

Re: [nexa] Non c’è crisi tecnologica in Silicon Valley

by Giacomo Tesio

Salve, Scusate il doppio invio, ma temo che a causa di un errore di configurazione di uno dei miei mail user agent che ho appena notato, questa mail possa essere stata visualizzata in modo errato da mail user agent francamente limitanti come Outlook o GMail. Vi era infatti allegata stata una bozza assolutamente preliminare in HTML che, per come funzionano certi software chiaramente fallati, nasconde completamente il testo semplice che carattarizzava il vero contenuto del messaggio che intendevo condividere. Mi scuso con chi, usando un client più serio, l'avesse già letta: non vi ho aggiunto nulla. Rispondevo a Giulio, che aveva condiviso l'intervista, ma ovviamente i miei ringraziamenti vanno anche a Stefano, che non era ancora intervenuto nel thread quando avevo iniziato la stesura. Giacomo PS è comunque sempre una buona occasione per suggerire a tutti di evitare come la peste sia Outlook che GMail! :-p ______ Grazie Giulio, Il 8 Aprile 2023 07:59:53 UTC, de petra giulio ha scritto: >Intervistato e intervistatore entrambi nexiani > >https://centroriformastato.it/non-ce-crisi-tecnologica-nella-silicon-valley/ Ottima analisi economico-finanziaria, perfettamente complementare all'analisi cibernetica (e dunque politica, storica e culturale) che potrebbe offrire, ad esempio, un hacker. Ad esempio, ad un'analisi cibernetica, non sarebbe sfuggito un'altra funzione fondamentale dei tanti licenziamenti recenti: il messaggio forte e chiaro ai lavoratori che dovessero anche solo pensare di aderire ai nascenti movimenti sindacali fra le Big Tech. Sindacati come Alphabet Workers Union o Amazon Labor Union, sono ancora interamente ed inevitabilmente influenzati dalla cultura pseudo-futurista e proto-fascista che caratterizza le loro aziende e la loro propaganda sulle magnifiche sorti e progressive. [1] Ma nonostante questo, nonostante la strutturale debolezza che tale cultura rappresenta per qualsiasi speranza di syn dike, di stare insieme con giustizia, la loro stessa esistenza terrorizza le persone che stano a capo di queste aziende. E' un terrore atavico che Robert Noyce, co-fondatore di Intel, sintetizzo magistralmente ben prima della nascita dei GAFAM: "remaining non-union is an essential for survival for most of our companies. If we had the work rules that unionized companies have, we'd all go out of business. This is a very high priority for management here. We have to retain flexibility in operating our companies. The great hope for our nation is to avoid those deep, deep divisions between workers and management which can paralyze action." [2] Anche Noyce si curava di non menzionare un conflitto fra capitalisti e lavoratori, ma parla di "divisioni fra lavoratori e management", usando come proxy verso i lavoratori, altri lavoratori (i manager) premiati con migliori remunerazioni proprio per il loro allineamento alla politica di chi l'azienda la possiede. Da una prospettiva cibernetica, queste migliaia di licenziamenti hanno dunque una funzione evidente: inviare a tutti i lavoratori presenti e futuri un messaggio forte e chiaro, un messaggio intimidatorio "non pensateci nemmeno! o perderete il vostro lavoro". Si tratta di un messaggio broadcast che avrà una forte influenza sull'evoluzione della società cibernetica globale in cui queste aziende operano. Ma che ovviamente risulta invisibile ad una prospettiva meramente economico-finanziaria. Splendido poi l'esempio emblematico posto da Stefano in conclusione: ``` Giulio De Petra: Auspichi un CERN della IA che renda disponibile alle aziende quantità di dati e capacità di calcolo adeguati. Ma anche le applicazioni della IA avranno conseguenze sociali? Stefano Quintarelli: Ti rispondo con un esempio. Se tu sei un medico e usi un sistema di intelligenza artificiale per fare una diagnosi e sei in disaccordo con quello che ti suggerisce il sistema hai comunque un incentivo a uniformarti alla diagnosi del sistema, perché se poi il tuo paziente muore puoi dire che anche il sistema di IA aveva confermato la tua analisi. Viceversa, se tu, essendo in disaccordo col sistema, privilegi la tua opinione e non confermi la diagnosi della IA, e poi il paziente muore per la tua diagnosi sbagliata, ti imputeranno di aver perseverato nella tua idea anche se il sistema aveva formulato una diagnosi diversa. Questo è un incentivo a diminuire la centralità umana nella decisione. E in alcuni ambiti questo può essere pericoloso. Come si fa a diminuire questa conseguenza sociale negativa nell’uso della IA? Bisogna progettare il sistema in modo tale che, quando formula una predizione, ogni tanto, casualmente, la predizione viene cambiata di segno. In questo modo, nel nostro esempio, il medico sa che non si può più fidare del sistema di IA. La macchina può fare il 90% del lavoro, ma poi sei tu che devi prendere una decisione, perché è sicuro che la macchina potrebbe anche dirti il falso. ``` L'esempio è straordinariamente azzeccato per indicare le conseguenze fatali che l'alienazione cibernetica può avere su individui e società. Evidenzia chiaramente la funzione di capro espiatorio dello "human in the loop" [3] la cui funzione consiste essenzialmente nello schermare gli "humans behind the machine" da qualsiasi responsabilità legale per i danni prodotti, venduti come "esternalità negative inevitabili". Evidenzia anche chiaramente la trappola cognitiva in cui si trova chi interpreta l'output prodotti da software programmati statisticamente [4] come "diagnosi" o come "decisioni". Quello che Stefano descrive come "un incentivo a uniformarti alla diagnosi del sistema" è in realtà uno strumento di alienazione cibernetica che agisce ancor prima dell'interazione con il software: il medico che interpreti come "diagnosi" l'output di un simile software è già alienato ed è già inadeguato a lavorare come medico. Ma d'altro canto, il software che produca come output qualcosa di anche lontanamente interpretabile come diagnosi (o ancor peggio, come suggerimento terapeutico) è progettato per alienare medico, paziente, familiari del paziente morto, magistratura e società tutta, riducendo i gradi di libertà del sistema e rendendo prevedibile la sua evoluzione, affinché minimizzi i rischi e le responsabilità per i proprietari dell'azienda che lo distribuisce. Senza considerare, ovviamente, che le risorse necessarie per eseguire software programmati statisticamente come è già GPT4 e saranno i suoi futuri sfidanti, rendono tali sistemi inevitabilmente centralizzati (tanto che Stefano auspica appunto un "CERN dell'IA" per dotare anche l'Europa del proprio ChatGPT) Tale centralizzazione li rente inevitabilmente single point of failure non solo in termini strategico militari, ma in termini cibernetici: sarà sufficiente alterare alla bisogna la programmazione di uno di questi "generatori di diagnosi mediche" per far sterminare a inconsapevoli "medici in the loop" intere popolazioni. Senza che nessuno se ne accorga. L'esempio finale di Stefano è però illuminante anche perché mostra i limiti inevitabili della prospettiva economica-finanziaria a cavallo del cambio di paradigma in corso. A fronte di un sistema tecnologico strutturalmente dannoso e che nessuno ci obbliga ad adottare o permettere, la soluzione proposta è, di nuovo, ingenuamente tecnologica. Basta che "ogni tanto, casualmente, la predizione viene cambiata di segno". E' questo un limite strutturale ed invalicabile dei modelli economici: la riduzione di qualsiasi sistema ad un valore scalare, un numero cui possiamo, eventualmente, cambiare di segno. Tutta la complessità multidimensionale della medicina, che deve tener conto della realtà del paziente, delle sue risorse cognitive nel seguire la terapia (e talvolta persino nell'accettare la malattia come tale, che si tratti di una psicosi o di un tumore), delle sue possibilità economiche, del supporto sociale e familiare che può o non può sostenerlo, delle interazioni fra farmaci che in quello specifico paziente si sono verificate in passato etc.. etc.. etc.. viene ridotta ad una "diagnosi" cui è possibile cambiare di segno. Ok, cambiamo di segno al vettore in output. Ma rispetto a quale delle decine di dimensioni rilevanti per quello specifico paziente e di cui un buon medico tiene conto ogni giorno? E come sapremo, dopo la morte del paziente, se il medico che ha confermato la "diagnosi" del software, si è trovato di fronte un output cambiato di segno? Lo chiediamo alla società produttrice? :-D L'enorme complessità del reale è comprensibile per informatici (o quanto meno per hacker, ovvero cittadini cibernetici) abituati a sviluppare e debuggare sistemi estremamente complessi che gestiscono processi complessi di cui non si possono permettere di ridurre la dimensionalità ad uno scalare. Questo costituisce certamente un vantaggio cognitivo, ma si trasforma rapidamente in una sorta di maledizione di Cassandra. Come rendere consapevoli dei limiti di un modello persone in buona fede che credono fermamente nella sua adeguatezza ad un mondo totalmente diverso da quello in cui tale modello è stato realizzato? Ai ragazzi io suggerisco di contare gli agenti cibernetici in esecuzione sul proprio cellulare e di appuntare, di ciascuno, i permessi categorizzandoli in sensori ed attuatori. Poi suggerisco di fare particolare attenzione al permesso di accedere alla rete, per valutare se il controllore dell'agente in questione sia effettivamente sul cellulare, o si trovi presso server di terzi. E ovviamente, oltre alle App di cui sono consapevoli, chiedo di fare lo stesso lavoro con tutte quelle di sistema. Si rendono rapidamente conto di portarsi in tasca oltre 3-400 agenti cibernetici, per la maggioranza etero guidati, che ne sorvegliano ogni azione e che condizionano attenzione e comportamenti. Ma con gli adulti è più complesso. Dopo decenni di egemonia culturale del capitalismo iper-liberista statunitense, la riduzione di tutto a scalari è penetrata in profondità nelle menti delle persone. Come uscirne? Come riprendere consapevolezza della complessità del reale? Come trasformare l'homo economicus in cittadino cibernetico? Come riprenderci la storia, la politica e la cultura reimparando tutti insieme a concepire una realtà multidimensionale complessa non più riducibile a prezzo e costo, domande e offerta, lavoro e capitale? Basterà imparare TUTTI a programmare, partecipando a quel complesso dibattito pubblico eseguibile su scala planetaria che è lo sviluppo del software libero? Basterà imparare TUTTI ad usare i computer per quello che sono, ovvero specchi per la mente umana che li programma? Tutto questo è tragicamente necessario, ma sarà sufficiente? Giacomo [1]: sempre in una prospettiva cibernetica, basta guardare al logo scelto da Alphabet Workers Union per rilevare quanto marginale sia l'uomo rispetto alle macchine (che lo compenetrano letteralmente nella mano che le impugna) https://upload.wikimedia.org/wikipedia/en/f/f3/Alphabet_Workers_Union_Logo_… [2]: http://dbacon.igc.org/Unions/04hitec2.htm [3]: alcuni esempi concreti di questo fenomeno narrativo, effettivamente accaduti, sono riportati nell'ottimo articolo di Daniela Tafani https://commentbfp.sp.unipi.it/letica-come-specchietto-per-le-allodole/ cui mi sento di aggiungere, per la drammaticità delle conseguenze, l'omicidio di Elaine Herzberg da parte di Uber nel 2018, la cui responsabilità è stata scaricata sul povero passeggero, Rafaela Vasquez, le cui inevitabili distrazioni erano ovviamente già state osservate e misurate da Uber durante le corse precedenti: https://en.wikipedia.org/wiki/Death_of_Elaine_Herzberg [4]: output che di per sé non hanno nemmeno una semantica probabilistica ma sono approssimazioni grossolane delle relazioni fra le probabilità di proposizioni selezionate da chi ha programmato quel software. selezione che di per sé stessa riduce enormemente lo spazio di possibilità del reale secondo i bias e gli interessi di chi effettua la programmazione statistica.

April 9, 2023

OpenAI threatened with landmark defamation lawsuit over ChatGPT false claims

by Alberto Cammozzo

<https://arstechnica.com/tech-policy/2023/04/openai-may-be-sued-after-chatgp…> Update, 8:30 pm: A spokesperson for Gordon Legal provided a statement to Ars confirming that responses to text prompts generated by ChatGPT 3.5 and 4 vary, with defamatory comments still currently being generated in ChatGPT 3.5. Among "several false statements" generated by ChatGPT were falsehoods stating that Brian Hood "was accused of bribing officials in Malaysia, Indonesia, and Vietnam between 1999 and 2005, that he was sentenced to 30 months in prison after pleading guilty to two counts of false accounting under the Corporations Act in 2012, and that he authorised payments to a Malaysian arms dealer acting as a middleman to secure a contract with the Malaysian Government." Because "all of these statements are false," Gordon Legal "filed a Concerns Notice to OpenAI" that detailed the inaccuracy and demanded a rectification. “As artificial intelligence becomes increasingly integrated into our society, the accuracy of the information provided by these services will come under close legal scrutiny," James Naughton, Hood's lawyer, said, noting that if a defamation claim is raised, it "will aim to remedy the harm caused" to Hood and "ensure the accuracy of this software in his case.”) It was only a matter of time before ChatGPT—an artificial intelligence tool that generates responses based on user text prompts—was threatened with its first defamation lawsuit. That happened last month, Reuters reported today, when an Australian regional mayor, Brian Hood, sent a letter on March 21 to the tool’s developer, OpenAI, announcing his plan to sue the company for ChatGPT’s alleged role in spreading false claims that he had gone to prison for bribery. To avoid the landmark lawsuit, Hood gave OpenAI 28 days to modify ChatGPT’s responses and stop the tool from spouting disinformation. According to Hood’s legal team, ChatGPT could seriously damage the mayor’s reputation by falsely claiming that Hood had been convicted for taking part in a foreign bribery scandal in the early 2000s while working for a subsidiary of the Reserve Bank of Australia. Hood had worked for a subsidiary, Note Printing Australia, but rather than being found guilty of bribery, Hood was the one who notified authorities about the bribes. Reuters reported that Hood was never charged with any crimes, but ChatGPT seems to have confused the facts when generating some responses to text prompts inquiring about Hood's history. OpenAI did not immediately respond to Ars’ request for comment. Ars attempted to replicate the error using ChatGPT, though, and it seems possible that OpenAI has fixed the errors as Hood's legal team has directed. When Ars asked ChatGPT if Hood served prison time for bribery, ChatGPT responded that Hood “has not served any prison time” and clarified that “there is no information available online to suggest that he has been convicted of any criminal offense.” Ars then asked if Hood had ever been charged with bribery, and ChatGPT responded, “I do not have any information indicating that Brian Hood, the current mayor of Hepburn Shire in Victoria, Australia, has been charged with bribery.” Ars could not immediately reach Hood’s legal team to find out which text prompts generated the alleged defamatory claims or to confirm if OpenAI had responded to confirm that the error had been fixed. The legal team was still waiting for that response at the time that Reuters' report published early this morning. Hood’s lawyer, James Naughton, a partner at Gordon Legal, told Reuters that Hood’s reputation is “central to his role” as an elected official known for “shining a light on corporate misconduct.” If AI tools like ChatGPT threaten to damage that reputation, Naughton told Reuters, “it makes a difference to him." That's why the landmark defamation lawsuit could be his only course of action if the alleged ChatGPT-generated errors are not corrected, he said. It's unclear to Hood how many people using ChatGPT were exposed to the disinformation. Naughton told Reuters that the defamatory statements were so serious that Hood could claim more than $130,000 in defamation damages under Australian law. Whether companies like OpenAI could be held liable for defamation is still debatable. It’s possible that companies could add sufficient disclaimers to products to avoid such liability, and they could then pass the liability on to users, who could be found to be negligently or intentionally spreading false claims while knowing that ChatGPT cannot always be trusted. Australia has recently drawn criticism for how it has reviewed defamation claims in the digital age. In 2020, Australia moved to redraft its defamation laws after a high court ruling found that publishers using social media platforms like Facebook should be held liable for defamatory third-party comments on their pages, CNBC reported in 2021. That is contrary to laws providing immunity shields for platforms, such as Section 230 in the US. At that time, Australia considered the question of whether online publishers should be liable for defamatory statements made by commenters in online forums “one of the most complex to address,” with “complications beyond defamation law alone.” By the end of last year, Australian attorneys general were pushing new reforms to ensure that publishers could avoid any liability, The Guardian reported. Now it looks like new generative AI tools like ChatGPT that publish potentially defamatory content will likely pose the next complex question—one that regulators, who are just now wrapping their heads around publisher liability on social media, may not yet be prepared to address. Naughton told Reuters that if Hood’s lawsuit proceeds, it would accuse OpenAI of “giving users a false sense of accuracy by failing to include footnotes” and failing to inform users how ChatGPT's algorithm works to come up with answers that may not be completely accurate. AI ethics experts have urged regulators to ensure that companies like OpenAI are more transparent about how AI tools work. If OpenAI doesn't adequately respond to Hood's concerns, his lawsuit could proceed before the laws clarify who is responsible for alleged AI-generated defamation. "It would potentially be a landmark moment in the sense that it's applying this defamation law to a new area of artificial intelligence and publication in the IT space," Naughton told Reuters.

April 8, 2023