May 2024 - nexa - server-nexa.polito.it

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by GC F

A mio parere, in base alla Proposta di Direttiva relativa all'adeguamento delle norme in materia di responsabilità civile extracontrattuale all'intelligenza artificiale (direttiva sulla responsabilità da intelligenza artificiale), il disclaimer o comunque soluzione che limiti la causazione del danno entro obblighi di diligenza/negligenza potrebbe bastare: Rebuttable presumption of a causal link between a failed duty of care and harm caused by the AI system (1) national courts would be required to assume that there is a causal link between the fault of the defendant and the harmful output produced by the AI system or the failure to produce a relevant output when: (a) *The claimant has demonstrated* (or the court has presumed due to a failure to provide evidence) *that the defendant has failed in a duty of care set out in EU or national law, which is intended to protect against the harm caused*. (b) It is reasonably likely in the circumstances that the *failure to satisfy the relevant duty of care has influenced the output produced by the AI* system or the failure of the AI system to produce an output. (c) The claimant has demonstrated that the output produced by the AI system is what gave rise to the damage. (2) The defendant can rebut this presumed cause-and-effect relationship for example by providing evidence that its fault could not have caused the damage. (3) The presumption will not apply to high-risk AI if the defendant can demonstrate that sufficient evidence and expertise are reasonably accessible for the claimant to prove a causal link, and it will only apply to non-High-Risk AI Systems where the court considers it excessively difficult for the claimant to prove the causal link. EUR-Lex - 52022PC0496 - EN - EUR-Lex (europa.eu) <https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52022PC0496> Ho evidenziato i passaggi salienti. Nonostante l'inversione dell'onere della prova, quella proposta dalla direttiva è una responsabilità soggettiva (da negligenza/violazione di un obbligo di diligenza) non oggettiva. A presto, Giancarlo On Sat, May 11, 2024 at 6:05 PM Guido Vetere <vetere.guido(a)gmail.com> wrote: > in realtà i RAG (è più o meno questo di cui parliamo) i link li mettono > anche, il problema è che quando ti hanno dato la risposta, non è che tu nei > link ci vai pure guardare :-) > questo pone due ordini di problemi: > 1) tu percepisci il sistema come 'epistemicamente impegnato' (mentre non > gliene frega niente) > 2) il link che fornisce l'informazione è quello di qualcuno che sperava in > un po' di traffico, e invece ... > > il problema 1 si potrebbe mitigare coi disclaimer, ma dovrebbero essere > belli grossi .. > il problema 2 è un bel rebus .. > > piccolo aneddoto: l'altro giorno ho chiesto a GPT4 come si chiama un certo > accessorio usato per suonare alcuni tipi di antichi strumenti ad ancia (ne > avevo visto uno in un affresco del 500) e quello dopo un paio di > interazioni ha tirato fuori la risposta che cercavo: 'pirouette'. ora, > questa stringa è monopolizzata da un certo passo di danza (piroetta), > dunque è molto difficile tirar fuori l'accezione musicologica (assai più > rara) da un search engine generalista come google. > > IO: mi riferisco a un piccolo cilindro di legno in cui l'ancia doppia > veniva incapsulata, sul quale il suonatore poggiava le labbra > > LUI (o LEI): Grazie per la precisazione. Stai parlando del *pirouette*, > un piccolo cilindro di legno utilizzato in strumenti antichi come la > bombarda e altri strumenti a fiato della famiglia degli oboi. Il pirouette > funziona come un supporto su cui il musicista appoggia le labbra mentre > soffia nell'ancia doppia, facilitando il controllo dell'emissione del suono > e permettendo una maggiore stabilità nel suonare. Questo componente è > tipico degli strumenti antichi e aiuta a proteggere l'ancia stessa oltre a > guidare il flusso d'aria. > > questo per dire che con questi sistemi ci si dovrà venire a patti, temo > > G. > > > > > On Sat, 11 May 2024 at 18:23, 380° <g380(a)biscuolo.net> wrote: > >> Guido Vetere <vetere.guido(a)gmail.com> writes: >> >> > Questo mostra che - come credo suggerivi - questi sistemi sono visti >> > come 'agenti' anche quando funzionano per lo più come 'search engine >> > on steroids'. >> >> la differenza sostanziale con le search engines (con "summarization", >> ranking, tracking, ecc.) mi pare risieda nel fatto di non essere in >> grado di fornire i link di riferimento dei risultati ricavati in base ai >> termini di ricerca >> >> tra l'altro, mi domando se dovremo aspettare altri 30 anni per vedere la >> fine della "guerra dei browser" coi motori di ricerca predefiniti >> >> > Su questa concezione agentiva convergono sia certi produttori molto >> > interessati alle vendite, sia certi politici poco interessati a >> > capirci qualcosa. >> >> concordo, probabilmente è una gigantesca operazione di gaslighting >> >> [...] >> >> saluti, 380° >> >> -- >> 380° (Giovanni Biscuolo public alter ego) >> >> «Noi, incompetenti come siamo, >> non abbiamo alcun titolo per suggerire alcunché» >> >> Disinformation flourishes because many people care deeply about injustice >> but very few check the facts. Ask me about <https://stallmansupport.org >> >. >> >

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista - “eggshell” plaintiff doctrine:

by Guido Vetere

e allora continuiamo la metafora se un anziano che non ha notato il cartello scivola e si fa male, viene incriminato il produttore del detersivo per pavimenti? gli si impone di produrre sapone antiscivolo? :-)) buona serata, G. Il Sab 11 Mag 2024, 19:15 Maria Chiara Pievatolo < mariachiara.pievatolo(a)unipi.it> ha scritto: > On 11/05/24 19:02, Guido Vetere wrote: > > dunque non si possono lavare i pavimenti? > > > > La risposta è lasciata come esercizio per il lettore :-) > Buona serata. > MCP > >

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista - “eggshell” plaintiff doctrine:

by Maria Chiara Pievatolo

On 11/05/24 19:02, Guido Vetere wrote: > dunque non si possono lavare i pavimenti? > La risposta è lasciata come esercizio per il lettore :-) Buona serata. MCP

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista - “eggshell” plaintiff doctrine:

by Guido Vetere

dunque non si possono lavare i pavimenti? On Sat, 11 May 2024 at 18:38, Maria Chiara Pievatolo < mariachiara.pievatolo(a)unipi.it> wrote: > On 11/05/24 14:50, Daniela Tafani wrote: > > > In tort law, we have the “eggshell” plaintiff doctrine: If your victim > is particularly susceptible to an injury you caused, that is on you. > > > > > https://www.ftc.gov/news-events/news/speeches/prepared-remarks-commissioner… > > La dottrina di common law menzionata dalla FTC > (https://www.foxandfarleylaw.com/what-is-the-eggshell-plaintiff-doctrine/) > > afferma che se tu causi un danno per negligenza, e una persona più > vulnerabile viene danneggiata, o viene danneggiata maggiormente di una > meno vulnerabile, tu sei responsabile di quel danno. Se per esempio > lasci il pavimento bagnato e metti un avviso, ma un anziano ipovedente > scivola e si rompe il femore dove un giovane avrebbe visto l'avviso > oppure, se distratto, se la sarebbe cavata con un ematoma, la colpa è > tua. Dopo tutto, è il pavimento che avevi lasciato bagnato che l'ha > fatto scivolare. > > Che poi tu abbia lavato il pavimento con un normale spazzolone, o con un > fantastico spazzolone SALAMI-powered rimane, per la responsabilità > civile dell'incidente, del tutto irrilevante. > > A presto, > MCP >

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by Guido Vetere

in realtà i RAG (è più o meno questo di cui parliamo) i link li mettono anche, il problema è che quando ti hanno dato la risposta, non è che tu nei link ci vai pure guardare :-) questo pone due ordini di problemi: 1) tu percepisci il sistema come 'epistemicamente impegnato' (mentre non gliene frega niente) 2) il link che fornisce l'informazione è quello di qualcuno che sperava in un po' di traffico, e invece ... il problema 1 si potrebbe mitigare coi disclaimer, ma dovrebbero essere belli grossi .. il problema 2 è un bel rebus .. piccolo aneddoto: l'altro giorno ho chiesto a GPT4 come si chiama un certo accessorio usato per suonare alcuni tipi di antichi strumenti ad ancia (ne avevo visto uno in un affresco del 500) e quello dopo un paio di interazioni ha tirato fuori la risposta che cercavo: 'pirouette'. ora, questa stringa è monopolizzata da un certo passo di danza (piroetta), dunque è molto difficile tirar fuori l'accezione musicologica (assai più rara) da un search engine generalista come google. IO: mi riferisco a un piccolo cilindro di legno in cui l'ancia doppia veniva incapsulata, sul quale il suonatore poggiava le labbra LUI (o LEI): Grazie per la precisazione. Stai parlando del *pirouette*, un piccolo cilindro di legno utilizzato in strumenti antichi come la bombarda e altri strumenti a fiato della famiglia degli oboi. Il pirouette funziona come un supporto su cui il musicista appoggia le labbra mentre soffia nell'ancia doppia, facilitando il controllo dell'emissione del suono e permettendo una maggiore stabilità nel suonare. Questo componente è tipico degli strumenti antichi e aiuta a proteggere l'ancia stessa oltre a guidare il flusso d'aria. questo per dire che con questi sistemi ci si dovrà venire a patti, temo G. On Sat, 11 May 2024 at 18:23, 380° <g380(a)biscuolo.net> wrote: > Guido Vetere <vetere.guido(a)gmail.com> writes: > > > Questo mostra che - come credo suggerivi - questi sistemi sono visti > > come 'agenti' anche quando funzionano per lo più come 'search engine > > on steroids'. > > la differenza sostanziale con le search engines (con "summarization", > ranking, tracking, ecc.) mi pare risieda nel fatto di non essere in > grado di fornire i link di riferimento dei risultati ricavati in base ai > termini di ricerca > > tra l'altro, mi domando se dovremo aspettare altri 30 anni per vedere la > fine della "guerra dei browser" coi motori di ricerca predefiniti > > > Su questa concezione agentiva convergono sia certi produttori molto > > interessati alle vendite, sia certi politici poco interessati a > > capirci qualcosa. > > concordo, probabilmente è una gigantesca operazione di gaslighting > > [...] > > saluti, 380° > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. >

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista - “eggshell” plaintiff doctrine:

by Maria Chiara Pievatolo

On 11/05/24 14:50, Daniela Tafani wrote: > In tort law, we have the “eggshell” plaintiff doctrine: If your victim is particularly susceptible to an injury you caused, that is on you. > > https://www.ftc.gov/news-events/news/speeches/prepared-remarks-commissioner… La dottrina di common law menzionata dalla FTC (https://www.foxandfarleylaw.com/what-is-the-eggshell-plaintiff-doctrine/) afferma che se tu causi un danno per negligenza, e una persona più vulnerabile viene danneggiata, o viene danneggiata maggiormente di una meno vulnerabile, tu sei responsabile di quel danno. Se per esempio lasci il pavimento bagnato e metti un avviso, ma un anziano ipovedente scivola e si rompe il femore dove un giovane avrebbe visto l'avviso oppure, se distratto, se la sarebbe cavata con un ematoma, la colpa è tua. Dopo tutto, è il pavimento che avevi lasciato bagnato che l'ha fatto scivolare. Che poi tu abbia lavato il pavimento con un normale spazzolone, o con un fantastico spazzolone SALAMI-powered rimane, per la responsabilità civile dell'incidente, del tutto irrilevante. A presto, MCP

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by 380°

Guido Vetere <vetere.guido(a)gmail.com> writes: > Questo mostra che - come credo suggerivi - questi sistemi sono visti > come 'agenti' anche quando funzionano per lo più come 'search engine > on steroids'. la differenza sostanziale con le search engines (con "summarization", ranking, tracking, ecc.) mi pare risieda nel fatto di non essere in grado di fornire i link di riferimento dei risultati ricavati in base ai termini di ricerca tra l'altro, mi domando se dovremo aspettare altri 30 anni per vedere la fine della "guerra dei browser" coi motori di ricerca predefiniti > Su questa concezione agentiva convergono sia certi produttori molto > interessati alle vendite, sia certi politici poco interessati a > capirci qualcosa. concordo, probabilmente è una gigantesca operazione di gaslighting [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 11, 2024

Re: [nexa] A joint statement from UniSuper CEO Peter Chun, and Google Cloud CEO, Thomas Kurian

by 380°

Buongiorno, grazie Giacomo mi ero perso la notizia UniSuper è questa: https://en.wikipedia.org/wiki/UniSuper https://www.theregister.com/2024/05/08/google_cloud_misconfiguration_takes_… «Google Cloud blunder sinks Australian fund for a week» beh, solo una settimana, al comune di Roma qualche settimana fa è andata anche peggio :-/ --8<---------------cut here---------------start------------->8--- Shoveling a company's workloads and data into the cloud is not necessarily a panacea for every outage. [...] It's all a bit awkward. UniSuper shifted its workloads to Google Cloud Platform (GCP) in 2023, having previously hosted them on a combination of Azure and its own datacenters. [...] However, initial balances will be shown as they were on Monday, April 29, 2024, and will be updated as the restoration progresses. Trading and investments have continued as normal, according to UniSuper. [...] In this case, it seems that using multiple cloud providers has saved the day, even if it has taken some time for UniSuper to post Google's explanation. The incident brings into focus the need to ensure regular backups are taken, tested, and stored outside any potential blast radius and that disaster recovery plans are verified regularly. --8<---------------cut here---------------end--------------->8--- Giacomo Tesio <giacomo(a)tesio.it> writes: > Che succede se metti tutte le uova in un paniere (e le affidi alle > volpi)? non proprio tutte dai, pare che un backup lo avessero da un altro cloud provider: --8<---------------cut here---------------start------------->8--- Fortunately, UniSuper had backups at another cloud provider. Otherwise, a bad situation could have been oh so much worse. As it is, it has only been since today that the funds' services have shown signs of life, and members have been able to log into their accounts. The organization is also further ahead in the restoration than initially planned, meaning that balances should be up to date. --8<---------------cut here---------------end--------------->8--- (https://www.theregister.com/2024/05/09/unisuper_google_cloud_outage_caused/) "Should be up to date" fa paura, no? > <https://www.unisuper.com.au/about-us/media-centre/2024/a-joint-statement-fr…> [...] > Google Cloud CEO, Thomas Kurian has confirmed that the disruption > arose from an unprecedented sequence of events whereby an inadvertent > misconfiguration during provisioning of UniSuper’s Private Cloud > services ultimately resulted in the deletion of UniSuper’s Private > Cloud subscription. errore di configurazione del servizio, capita anche ai migliori > This is an isolated, ‘one-of-a-kind occurrence’ that has never before > occurred with any of Google Cloud’s clients globally. sì, sono eventi rari anche per _tutti_ gli altri fornitori di cloud *e* di hosting (topo l'incendio a OVH) rari ma non impossibili, come direbbero certi IT manager... paranoici? > This should not have happened. Google Cloud has identified the events > that led to this disruption and taken measures to ensure this does not > happen again. «vuoi cancellare l'iscrizione del cliente e di conseguenza radere al suolo ogni sua istanza in ogni zona geografica del cloud? Inserisci "YES I Really Want" per confermare, prego.» [...] > Restoring UniSuper’s Private Cloud instance has called for an > incredible amount of focus, effort, and partnership between our teams > to enable an extensive recovery of all the core systems. The > dedication and collaboration between UniSuper and Google Cloud has led > to an extensive recovery of our Private Cloud which includes hundreds > of virtual machines, databases and applications. quello che a me fa veramente impressione è che per rimettere in pista una infrastruttura del genere (centinaia di macchine virtuali sono un numero /infinitesimale/ per un colosso delle dimensioni di Google Private Cluod) ci sia voluta una settimana io mi aspetterei che, con le risorse che ha, in una settimana Google sia in grado di rimettere in piedi la _sua_ intera infrastruttura di Private Cloud, mica una sola istanza ...a meno che, a meno che: nooo, non ditemi che avete cancellato anche tutte le configurazioni di ogni singolo nodo dell'infrastruttura senza avere un backup (Infrastructure as Code)?!? :-O chi gestisce IaC (infrastructure as code) sa che il _codice_ che gestisce tale infrastruttura vale almeno 2 ordini di grandezza di più dei dati che vi sono immagazzinati > UniSuper had backups in place with an additional service provider. il backup di cosa? Da come parlano immagino del database (sarà un RDBMS), non delle virtual machines (o meglio delle loro configurazioni, deployment compreso) secondo me per qualche minuto almeno i dirigenti UniSuper sono rimasti paralizzati dal terrore all'idea che anche tutti i backup coi dati (di un fondo di investimento) fossero su Google Private Cloud, cancellati "con un click". un monumento al responsabile delle policy di backup! [...] > UniSuper and Google Cloud have been working around the clock on a > resolution. The completion of the restoration swiftly, safely and > securely remains Google Cloud and UniSuper’s top priority. OK, quello era l'8 Maggio... e oggi avete completato? Non hanno ancora comunicato al pubblico se hanno completato tutto... magari lo hanno comunicato ai loro clienti. No così, visto che si tratta di una istutuzione finanziaria e non di un "Netflix" qualunque: «Reserve Bank of Australia: Box C: Building Resilience to Cyber Risks Cyber incidents can have systemic implications» https://www.rba.gov.au/publications/fsr/2022/apr/box-c-building-resilience-… Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by Guido Vetere

Daniela, francamente non mi sembra che FTC sostenga che non esiste possibilità di disclaimer per l'AI generativa, ma solo che questa non debba essere 'deceptive', cosa sulla quale sono d'accordo anche i sassi. È chiaro che se il consumatore non fosse in grado di leggere e comprendere un disclaimer, potrebbe essere tratto in inganno anche da una filastrocca per bambini. 380°, per 'censura' (parola sovraccarica di senso, ultimamente) non intendevo quella del Sant'Uffizio, ma più precisamente quella del legislatore. Per non rischiare di incorrervi, gli LLM vengono oggi 'tuned' per evitare di parlare di certe cose, ad esempio informazioni biografiche, anche quelle che si possono reperire in rete. Questo mostra che - come credo suggerivi - questi sistemi sono visti come 'agenti' anche quando funzionano per lo più come 'search engine on steroids'. Su questa concezione agentiva convergono sia certi produttori molto interessati alle vendite, sia certi politici poco interessati a capirci qualcosa. G. Il Sab 11 Mag 2024, 14:54 Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: > > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Guido Vetere > <vetere.guido(a)gmail.com> > >Inviato: sabato 11 maggio 2024 12:02 > > > >non mi è chiaro il motivo per cui un disclaimer appropriato non > offrirebbe garanzie sufficienti (se questo è il punto) > > La Federal Trade Commission statunitense ha spiegato pubblicamente > il motivo per cui un disclaimer può non offrire garanzie sufficienti: > > There’s a back-and-forth that’s playing out in the popular press. There > will be a wave of breathless coverage – and then there will be a very dry > response from technical experts, stressing that no, these machines are not > sentient, they’re just mimicking stories and patterns they’ve been trained > on. No, they are not emoting, they are just echoing the vast quantities of > human speech that they have analyzed. > I worry that this debate may obscure the point. Because the law doesn’t > turn on how a trained expert reacts to a technology – it turns on how > regular people understand it. > At the FTC, for example, when we evaluate whether a statement is > deceptive, we ask what a reasonable person would think of it. > When analyzing unfairness, we ask whether a reasonable person could avoid > the harms in question. > In tort law, we have the “eggshell” plaintiff doctrine: If your victim is > particularly susceptible to an injury you caused, that is on you. > > > https://www.ftc.gov/news-events/news/speeches/prepared-remarks-commissioner…

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by 380°

Buongiorno Daniela, grazie di aver richiamato questa importante posizione della FTC! Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > In tort law, we have the “eggshell” plaintiff doctrine: If your victim > is particularly susceptible to an injury you caused, that is on you. > > https://www.ftc.gov/news-events/news/speeches/prepared-remarks-commissioner… vale nei paesi con "common law" rif. https://en.wikipedia.org/wiki/Eggshell_skull (IANA*) In EU, quindi anche in molti col "diritto romano", esiste la norma sullla responsabilità da prodotto (fisico): https://europa.eu/youreurope/business/dealing-with-customers/consumer-contr… Credo che l'"AI Act" sia stato fatto per tentare (male?) di estendere quei principi giuridici anche al _software_ :-( Io ritengo che, nel caso della "IA generativa" /pura/, cioè dove non c'è nessun attuatore connesso a una macchina o sistema fisico, questa /contorsione/ giuridica non sia necessaria. Le /contorsioni/ giuridiche a cui mi riferisco sono quelle sorprendenti che leggo in quello che è sintetizzato in questo articolo, sicuramente parziale e approssimativo: --8<---------------cut here---------------start------------->8--- Responsabilità giuridica dell'intelligenza artificiale [...] Alcuni giuristi hanno ipotizzato che le seguenti disposizioni del Codice civile (c.c.) possano essere applicate in via interpretativa alla responsabilità delle entità IA. [...] «Danno cagionato dall’incapace» [...] se l’entità IA fosse dotata di apprendimento automatico ma necessitasse di supervisione [...] «Responsabilità dei genitori, dei tutori, dei precettori e dei maestri d'arte» [...] se l'entità IA fosse dotata di apprendimento automatico. [...], «Danno cagionato da animali» [...] nel caso in cui l’entità IA venisse considerata alla stregua di un animale [...] In entrambe le risoluzioni si riscontra un cambiamento rispetto al passato: si sottolinea che le entità IA non possono essere più considerate meri oggetti, essendo sempre più simili ad agenti che interagiscono con l’ambiente circostante. L'obiettivo delineato dal Parlamento consiste nella predisposizione di norme apposite che disciplinino la responsabilità delle entità IA, --8<---------------cut here---------------end--------------->8--- https://it.wikipedia.org/wiki/Responsabilit%C3%A0_giuridica_dell%27intellig… Eh certo che se l'IA fosse una /entità/... Eh certo che se l'IA fosse un /oggetto/ (è software)... Ho già detto in passato che IMO la "vecchia" responsabilità da prodotto difettoso (Direttiva 85/374/CEE e successive modifiche) è lo strumento giuridico migliore anche per le _macchine_ controllate per mezzo di "IA". Ovvio che la verifica e l'assunzione di responsabilità di adeguatezza all'uso di tutto il software (l'AI è software) ricade in tutto e per tutto sul produttore, che deve fare le adeguate verifiche (e analisi dei rischi, che è _indispensabile_ per mettere in commercio qualsiasi prodotto). Sarò io che la faccio facile? :-) Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 11, 2024