May 2024 - nexa - server-nexa.polito.it

l'AI generativa è fiction (was Re: Articolo sui LLMs)

by 380°

Buongiorno Guido, Guido Vetere <vetere.guido(a)gmail.com> writes: > non mi è chiaro il motivo per cui un disclaimer appropriato non > offrirebbe garanzie sufficienti (se questo è il punto) certo che un disclaimer /appropriato/ offrirebbe garanzie (di cosa?) sufficienti; il punto è che quello che hai indicato tu: ChatGPT può commettere errori. Ti consigliamo di verificare le informazioni importanti. non offre garanzie sufficienti per i motivi che ho tentato di esporre, evidentemente non sono stato in grado di spiegarli adeguatamente ma non sono in grado di fare di meglio soprattutto non ho capito esattamente cosa non è chiaro di quello (probabilmente troppo) che ho scritto [1], anche perché purtroppo le tue risposte bottom-quoted non favoriscono il dialogo (se è questo lo scopo)... ma parlare di netiquette è /desueto/ anche qui, pare > supponiamo che io metta online una tavola parolibera di marinettiana > memoria che genera frasi a caso, eventualmente anche diffamatorie ti ringrazio infinitamente di aver usato un'espressione artistica come base per il tuo esperimento mentale, perché dimostra in modo _plastico_ quanto sto sostenendo nei mei lunghi /sproloqui/: l'output di ChatGTP e degli altri LLM è un'espressione artistica, una _fiction_, al pari di un'opera /derivata/ dalla tavola parolibera di marinettiana memoria... ...ma potrebbe derivare dall'opera omnia di Tolkien o dall'intera collezione di arte _e_ scienza dai Sumeri fino ad oggi: ho scritto scienza non a caso, perché /comunque/ i LLM la _trattano_ esattamente allo stesso modo, al pari di qualsiasi altra opera di _fiction_. Sfido chiunque a dimostrare il contrario, a meno che mi sia perso che gli LLM (o altra "IA generativa") sono in grado di produrre riferimenti bibliografici precisi, che sono gli unici che differenziano la scienza dalla fiction [2]. se gli LLM et al. fossero trattati come /generatori di fiction/ sarebbe tutto così semplice, *anche* dal punto di vista giuridico, perché su "come trattare giuridicamente le fiction" abbiamo millenni di esperienza ...e invece a me /pare/ che spesso dobbiamo complicare tutto mettendola giù molto più dura di come effettivamente è > se dichiarassi che il sito è programmaticamente situazionista e > non-veritativo, sarei comunque soggetto a censura? censura? Stavamo parlando di questo? Qualcuno prima ha mai usato la parola "censura" in _questo_ contesto? oppure ritieni che "paventare" il rischio di eventuali accuse di diffamazione sia una forma di censura? o ti riferisci a eventuali restrizioni al commercio come forma di censura? tralasciando per un attimo l'argomento censura, scrivere «il sito è programmaticamente situazionista e non-veritativo» oppure scrivere «ChatGPT può commettere errori. Ti consigliamo di verificare le informazioni importanti.» non è la stessa cosa e io ho scritto chiaramente, ribadisco, che non mi interessa quali siano le esatte parole da inserire in un "disclaimer": è il concetto veicolato ai "non addetti ai lavori" la cosa _fondamentale_. ...e io sfido chiunque a sostenere che "programmaticamente situazionista" sia comprensibile a chi non è docente in Intelligenza Artificiale, perché per intepretare "situazionista" _in questo contesto_ anche ai /tennici/ come me non basta guardare il vocabilario (e infatti ancora non lo capisco). divertente giocare con le parole :-) comunque, per chiudere (da parte mia) e rilanciare il gioco delle parole che mi diverte moltissimo (ma fino a un certo punto), alla tua domanda «sarei comunque soggetto a censura?» rispondo così: «ma no, ci mancherebbe! Figurati che non sono soggetti a _censura_ nemmeno i distributori di tavolette Ouija™ (marchio di Hasbro [3]), nonostante pare il loro uso sia espressamente proibito dal Catechismo della Chiesa Cattolica (CCC 2116) e dal Sinodo evangelico luterano del Wisconsin; inoltre un vescovo micronesiano e una organizzazione cattolica USA ne hanno espressamente chiesto la messa al bando [4]. Ma sono sicuro che mancano all'appello altre richieste di censura delle tavolette Ouija™ da parte di altre istituzioni religiose e non (le quali, sia chiaro, hanno tutto il mio rispetto). Non sono a conoscienza di iniziative della Commissione EU per giungere alla regolamentazione delle tavolette Ouija, l'"Ouija Act", al fine di stabilire le regole per la /certificazione/ della costruzione necessaria alla loro messa in commercio (con marchio CE). Sono invece a conoscenza di varie iniziative di ricerca scientifica sulle tavolette Ouija™, una delle teorie più accreditate pare essere quella per la quale tali dispositivi funzionino per mezzo del "ideomotor phenomenon", comune ad alcuni altri fenomeni paranormali [5].» BTW IANA* [...] un caro saluto, 380° [1] che ho integralmente cancellato dalla mia risposta perché chi vuole lo trova nel thread [2] sia chiaro: io *adoro* la fiction, è una parte _fondamentale_ della nostra cultura e espressione dell'_intelligenza_ umana, che un LLM o altro sistema di "IA generativa" può facilissimamente riprodurre e ricombinare (che NON è quello che fanno gli esseri umani). [3] https://hasbropulse.com/products/ouija-board [4] https://it.wikipedia.org/wiki/Tavola_ouija#Critiche e https://en.wikipedia.org/wiki/Ouija#Religious_responses [5] https://en.wikipedia.org/wiki/Ideomotor_phenomenon -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by Daniela Tafani

> Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Guido Vetere <vetere.guido(a)gmail.com> >Inviato: sabato 11 maggio 2024 12:02 > >non mi è chiaro il motivo per cui un disclaimer appropriato non offrirebbe garanzie sufficienti (se questo è il punto) La Federal Trade Commission statunitense ha spiegato pubblicamente il motivo per cui un disclaimer può non offrire garanzie sufficienti: There’s a back-and-forth that’s playing out in the popular press. There will be a wave of breathless coverage – and then there will be a very dry response from technical experts, stressing that no, these machines are not sentient, they’re just mimicking stories and patterns they’ve been trained on. No, they are not emoting, they are just echoing the vast quantities of human speech that they have analyzed. I worry that this debate may obscure the point. Because the law doesn’t turn on how a trained expert reacts to a technology – it turns on how regular people understand it. At the FTC, for example, when we evaluate whether a statement is deceptive, we ask what a reasonable person would think of it. When analyzing unfairness, we ask whether a reasonable person could avoid the harms in question. In tort law, we have the “eggshell” plaintiff doctrine: If your victim is particularly susceptible to an injury you caused, that is on you. https://www.ftc.gov/news-events/news/speeches/prepared-remarks-commissioner…

May 11, 2024

A joint statement from UniSuper CEO Peter Chun, and Google Cloud CEO, Thomas Kurian

by Giacomo Tesio

Che succede se metti tutte le uova in un paniere (e le affidi alle volpi)? <https://www.unisuper.com.au/about-us/media-centre/2024/a-joint-statement-fr…> UniSuper and Google Cloud understand the disruption to services experienced by members has been extremely frustrating and disappointing. We extend our sincere apologies to all members. While supporting UniSuper to bring its systems back online, Google Cloud has been conducting a root cause analysis. Google Cloud CEO, Thomas Kurian has confirmed that the disruption arose from an unprecedented sequence of events whereby an inadvertent misconfiguration during provisioning of UniSuper’s Private Cloud services ultimately resulted in the deletion of UniSuper’s Private Cloud subscription. This is an isolated, ‘one-of-a-kind occurrence’ that has never before occurred with any of Google Cloud’s clients globally. This should not have happened. Google Cloud has identified the events that led to this disruption and taken measures to ensure this does not happen again. # Why did the outage last so long? UniSuper had duplication in two geographies as a protection against outages and loss. However, when the deletion of UniSuper’s Private Cloud subscription occurred, it caused deletion across both of these geographies. Restoring UniSuper’s Private Cloud instance has called for an incredible amount of focus, effort, and partnership between our teams to enable an extensive recovery of all the core systems. The dedication and collaboration between UniSuper and Google Cloud has led to an extensive recovery of our Private Cloud which includes hundreds of virtual machines, databases and applications. UniSuper had backups in place with an additional service provider. These backups have minimised data loss, and significantly improved the ability of UniSuper and Google Cloud to complete the restoration. # What’s next? UniSuper and Google Cloud have been working around the clock on a resolution. The completion of the restoration swiftly, safely and securely remains Google Cloud and UniSuper’s top priority.

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by Giacomo Tesio

Salve Guido, Il 11 Maggio 2024 12:02:01 CEST, Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > non mi è chiaro il motivo per cui un disclaimer appropriato non offrirebbe > garanzie sufficienti (se questo è il punto) Se il tuo software è progettato per ingannare le menti umane, dichiararlo come tale non lo rende meno ingannevole. Le menti umane continueranno ad esserne ingannate (fintanto che non saranno in grado di comprenderne appieno il funzionamento) e tu devi rispondere di tale inganno, soprattutto se hai diffuso la credenza che quel software sia "intelligente" e abbia "appreso" dai testi usati per programmarlo. Se avessero pubblicizzato GPT4 come un "generatore automatico di stronzate plausibili" o come una "parodia del web che non fa ridere", il tuo disclaimer offrirebbe garanzie sufficienti. Ma se il tuo disclaimer viene dopo mesi di propaganda martellante a tutti i livelli della società per far credere che questi software siano "intelligenze aliene", un disclaimer diventa invisibile alla stragrande maggioranza della popolazione. È un po' come andare in discoteca e confessare sottovoce ad una vittima che passa vicino alle casse che sei un maniaco assassino: al processo per omicidio, il tuo "disclaimer" difficilmente sarà riconosciuto come attenuante. > supponiamo che io metta online una tavola parolibera di marinettiana > memoria che genera frasi a caso, eventualmente anche diffamatorie > se dichiarassi che il sito è programmaticamente situazionista e > non-veritativo, sarei comunque soggetto a censura? Se nessuno ti prende sul serio, no. Se moltissimi ritengono credibile il tuo output, è auspicabile che tu ne debba rispondere come fossero parole direttamente scritte da te. Come in fondo sono: hai solo scritto un software che le "scrive" al tuo posto. È come se le avessi compresse e pubblicate "a puntate". Disclaimer o meno. Giacomo

May 11, 2024

Settimo Termini, Le sette vite dell'intelligenza artificiale

by Daniela Tafani

Buongiorno, la presentazione Settimo Termini, Le sette vite dell'intelligenza artificiale è ora disponibile qui: https://zenodo.org/records/11178458 Un saluto, Daniela

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by Guido Vetere

non mi è chiaro il motivo per cui un disclaimer appropriato non offrirebbe garanzie sufficienti (se questo è il punto) supponiamo che io metta online una tavola parolibera di marinettiana memoria che genera frasi a caso, eventualmente anche diffamatorie se dichiarassi che il sito è programmaticamente situazionista e non-veritativo, sarei comunque soggetto a censura? non credo, ma i giuristi mi confortino G. On Fri, 10 May 2024 at 11:37, 380° <g380(a)biscuolo.net> wrote: > Buongiorno, > > Guido Vetere <vetere.guido(a)gmail.com> writes: > > [...] > > > una mezz'ora per leggerlo da cima a fondo - vi vedo che state facendo > > summarization :-)) > > a me ci vuole di più, non sono ancora riuscito a finirlo, ma pian > piano... :-) > > chiedo scusa nel caso qualcuno dei miei commenti sia già stato > affrontato nel paper in oggetto, dal quale è partito questo thread. > > [...] > > > e perché, anche abbracciando il realismo, non ci soddisfa il 'disclaimer' > > di OpenAI che recita (molto piccolo, ma vabbè): > > > > "ChatGPT può commettere errori. Ti consigliamo di verificare le > > informazioni importanti." ? > > Perché è drammaticamente fuorviante dire che un LLM "commette errori": > errori rispetto a cosa? Rispetto alla veridicità delle informazioni > fornite? > > Mi pare che ci sia un sufficiente consenso tecnico/scientifico sul fatto > che _nulla_ si possa dire in merito all'"inerente veridicità" ecc., il > contrario l'hai definito "tecnicamente insipiente" [1], a meno che io > abbia capito male. > > Quindi, un 'disclaimer' più adeguato OpenAI (& co.) dovrebbero copiarlo > dal famigerrimo "all persons fictitious" disclaimer: > > --8<---------------cut here---------------start------------->8--- > > The story, all names, characters, and incidents portrayed in this > production are fictitious. No identification with actual persons (living > or deceased), places, buildings, and products is intended or should be > inferred. > > --8<---------------cut here---------------end--------------->8--- > > ...con tutte le varianti divertentissime che si sono succedute nel > tempo. > > Perché l'output degli LLM è semplicemente _fiction_ [2], e come fiction > dovrebbe essere trattata anche dal punto di vista /giuriduco/. > > Ora, oggettivamente importa poco (a me) quali parole sono le più > corrette per un simile disclaimer, quale tecnica di "watermaking" o > dimesione di font usare; la cosa che io ritengo fondamentale è che > _nessuna_ persona possa essere indotta a credere che l'output di un LLM > NON sia _fittizio_ (fictitious). E nemmeno importa stabilire una > ipotetica "percentuale di fittizitudine" (stima dell'errore), ammesso e > non concesso sia possibile calcolarla (sarebbe "tecnicamente > insipiente"?). > > ...in caso contrario sarebbe come _far_ credere (anche attraverso una > sofisticata /narrazione/ propagandistica posta in atto all'uopo, a volte > partecipata inconsapevolmente) che i fatti siano accaduti esattamente > come raccontati nei film o nei romanzi e le persone siano così indotte a > giudicarli come fatti corrispondenti al vero. > > Le persone non devono avere dubbi di dover verificare _altrove_. > > Il fatto è che _purtroppo_ ben pochi dispongono delle risorse > finanziarie e delle conoscenze ad altissimissimo livello della > principessa Irina Alexandrovna di Russia, che nel 1934 vinse una causa > per diffamazione contro la Metro-Goldwyn-Mayer e ottenne un notevole > risarcimento [3] nelle giurisdizioni Inglese e Statunitense > (quest'ultima con un accordo extragiudiziale). > > Non solo l'industria della _fiction_ usa quel disclaimer per levarsi > d'impiccio: nel tempo ha affinato un processo definito "negative > checking" > > --8<---------------cut here---------------start------------->8--- > > Negative checking is a process by which producers of film, television > and radio programs will attempt to ensure that the names of fictional > characters cannot be confused with real life people. [...] The primary > reason for this practice is to prevent any possible legal action for > libel which could result. > > --8<---------------cut here---------------end--------------->8--- > (https://en.wikipedia.org/wiki/Negative_checking) > > ...che immagino costi parecchie risorse. > > Dopo, però, si dovrebbe anche aprire il vaso di pandora in merito al > (presunto?) trattamento dei dati _personali_ che farebbe parte del > processo di addestramento degli LLM: per esempio, che tipo di > trattamento giuridico occorrerebbe riservare alle aziende che utilizzano > il contenuto delle email, delle chat e dei post social _privati_ per il > "machine learning" dei nei propri LLM usati per erogare servizi come > quelli di OpenAI? > > [...] > > Saluti, 380° > > > [1] Messaggio id:CAD3hHB52iop9xiWWOkYCAQ1wWi-NdW=_ > iaRRn4WJdr2tObQByQ(a)mail.gmail.com > > [2] Messaggio id:87bkjwqccs.fsf@xelera.eu > > [3] > https://en.wikipedia.org/wiki/All_persons_fictitious_disclaimer#Origins > https://en.wikipedia.org/wiki/Rasputin_and_the_Empress#Lawsuit > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. >

May 11, 2024

Re: [nexa] Premialità e valorizzazione di best-practices nostrane: mastodon in un Liceo del veronese

by 380°

Buongiorno Giovanni, Giovanni Cerboni <giovannicerboni(a)gmail.com> writes: [...] > Io stesso ne so molto poco e credo che parte del problema sia la percepita > difficoltà di accesso a questo tipo di tecnologie. il mio alter ego ha una discreta esperienza in supporto agli utenti e ancora non comprendiamo bene cosa significhi "difficoltà di accesso", ma non apriamo questo capitolo che rischiamo di perderci :-) > Se qualcuno di voi avesse in mente materiali intuitivi in inglese per > farsi un'idea e far fare un'idea sarei grato di poterli integrare > nella mia attività suppenendo "a naso" si tratti della percepita difficoltà a usare un sistema operativo GNU/Linux, forse può essere utile armarsi di una buona dose di /sana incoscenza/ e provare a _installare_ GNU/Linux su un proprio computer [1], magari uno usato a buon mercato; a tale scopo mi sentirei di suggerire l'ecumenico e succinto https://www.getgnulinux.org/en/switch_to_linux, in particolare la sezione: https://www.getgnulinux.org/en/switch_to_linux/try_or_install suggerisco di sperimentare l'installazione sulla propria pelle - magari in un "microLab" tra amici, familiari o colleghi - invece di prendere una macchina con GNU/Linux preinstallato, perché è un primo piccolo passo verso l'autonomia computazionale; ci sono anche corsi di formazione all'uopo, volendo. poi però, una volta fatto login, tocca _almeno_ imparare a installare i programmi che sono a disposizione: su Debian e derivati (Ubuntu, ecc.) c'è un pannello grafico che si chiama Synaptic [1], in Fedora c'è PackageKit [2]. poi tocca imparare il minimo sindacale di operazioni di amministrazione della macchina (roba che raramente gli utenti di qualsiasi sistema operativo fa) oltre ad usare i programmi installati e magari accorgersi che funzionano diversamente da quelli usati "dall'atra parte", fosse solo perché le voci dei menù cambiano... ma questa è tutta un'altra storia e per imparare c'è una valanga di documentazione ben fatta, talmente tanta che sì, ammetto che ci si perde. spero di non aver interpretato male la richiesta :-) Happy hacking! 380° [...] [1] installato di default nell'ambiente desktop https://wiki.debian.org/Synaptic [2] installato di default https://docs.fedoraproject.org/en-US/quick-docs/package-management/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 10, 2024

"Why facial recognition technology makes these campus protests different from those in the past"

by J.C. DE MARTIN

*Why facial recognition technology makes these campus protests different from those in the past * /At campus protests across the country, many are covering their faces as fears of police surveillance, facial recognition technology, and doxing rise./ Chris Morris https://www.fastcompany.com/91116791/facial-recognition-technology-campus-p…

May 10, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by Giacomo Tesio

Il giorno Fri, 10 May 2024 380° via nexa ha scritto: > che tipo di > trattamento giuridico occorrerebbe riservare alle aziende che > utilizzano il contenuto delle email, delle chat e dei post social > _privati_ per... Direi la reclusione da sei mesi a otto anni, o da tre a dodici se si tratta di un minore. Come spesso accade, non servono norme dedicate: in Italia basta l'articolo 605 del Codice Penale. L'uso dei dati personali per qualsiasi scopo non esplicitamente richiesto dalla persona cui quei dati fanno riferimento equivale SEMPRE ad una privazione della libertà di quella persona. [1] Giacomo [1] vedi anche nota (1) https://www.brocardi.it/codice-penale/libro-secondo/titolo-xii/capo-iii/sez…

May 10, 2024

Re: [nexa] Oxford shuts down institute run by Elon Musk-backed philosopher | Elon Musk | The Guardian

by Maria Chiara Pievatolo

On 09/05/24 17:58, 380° via nexa wrote: > > Come è potuto accadere che una istituzione come Oxford abbia dato ampio > credito a simili idee, come se non ci fosse un _ieri_?!? Oppure è la > punta dell'iceberg della _corruzione_ (almeno corruzione dell'ethos) > accademica? > È potuto accadere perché si è chiesto all'università di non essere "autoreferenziale" ma di riferire invece, perfino economicamente, a poteri esterni - politici, finanziari, industriali, sociali. E l'università ha ubbidito, salvo dissidenti prontamente isolati. Sarebbe bello che il fenomeno fosse solo contemporaneo e associato all'università cosiddetta neoliberale. Ma basta fare qualche passo indietro per rendersi conto che quanto oggi sperimentiamo è solo una tappa di una lunga marcia. Per coincidenza, ne avevo giusto parlato qui: https://centroriformastato.it/conflitto-nelle-universita-studenti-professor… (copia autoarchiviata su Zenodo qui: https://zenodo.org/records/11111484) A presto, MCP

May 10, 2024