May 2024 - nexa - server-nexa.polito.it

[CDT:the-machine] Fwd: Software Bug Results in Insulin Pump Injuries, Spurs Recall

by 380°

Ciao Andrea a fini archivistici e di eventuale discussione aggiuingo alcuni dettagli. A caldo mi viene da dire che, ancora una volta, non è davvero il caso cercare di convincere gli utenti, specialmente in casi come questo, ad affidarsi "ciecamente" a un /coso/ che fa "manovre rischiose" posto loro. Andrea Trentini <andrea.trentini(a)unimi.it> writes: > Quando il software regola la tua possibilità di sopravvivere: > <https://hackaday.com/2024/05/11/software-bug-results-in-insulin-pump-injuri… --8<---------------cut here---------------start------------->8--- Software Bug Results In Insulin Pump Injuries, Spurs Recall May 11, 2024 [...] Many diabetics choose to use an insulin pump to make managing all this easier, but as [a recent recall of insulin pump software by the US Food and Drug Administration] shows, technology isn't foolproof. Thankfully, the recall is very narrow in scope. It's targeted at users of the Tandem t:slim X2 insulin pump, and specifically the companion application running on iOS devices. [...] But version 2.7 of the t:connect mobile app can crash unexpectedly, and on iOS devices, that can lead to the OS continually relaunching it. Each time it does this, the app tries to reconnect with the pump via Bluetooth, which eventually runs down the battery in the pump. Once the battery is dead, no more insulin can be delivered, [...] [a recent recall of insulin pump software by the US Food and Drug Administration] <https://www.fda.gov/medical-devices/medical-device-recalls/tandem-diabetes-…> --8<---------------cut here---------------end--------------->8--- La scheda completa del richiamo della FDA è questa: https://www.accessdata.fda.gov/scripts/cdrh/cfdocs/cfRES/res.cfm?id=206914 (il recall status risulta "Classified") Il numero di "injuries" (non ci sono dettagli sull'entità dei danni) /segnalate/ giustifica il "ritiro", eccome. Il dispositivo ha un proprio software (predittivo) embedded, con possibilità di essere aggiornato: https://www.tandemdiabetes.com/it-it/products/software-apps/tandem-device-u… --8<---------------cut here---------------start------------->8--- [aggiornamenti installabili via apposito software disponibile per macOS o MS Windows] [...] Tecnologia Basal-IQ: la tecnologia Basal-IQ è destinata all’uso con un sistema integrato per il monitoraggio continuo della glicemia (iCGM) compatibile (venduto separatamente) [...] Tecnologia Control-IQ: la tecnologia Control-IQ è destinata all’uso con un iCGM compatibile (venduto separatamente) e una pompa ACE per aumentare, diminuire e sospendere automaticamente la somministrazione di insulina basale secondo le letture dell’iCGM e i valori glicemici previsti. [...] Gli utilizzatori della pompa t:slim X2, della tecnologia Basal-IQ e della tecnologia Control-IQ devono: essere in grado di e disposti a utilizzare la pompa per insulina, il CGM e tutti gli altri componenti del sistema in conformità alle relative istruzioni per l’uso; misurare i livelli glicemici in base alle raccomandazioni dell’operatore sanitario; dimostrare adeguate capacità di conteggio dei carboidrati; avere sufficienti conoscenze sul diabete per la cura personale; vedere con regolarità il proprio operatore sanitario; e avere capacità visive e/o uditive tali da consentire il riconoscimento di tutte le funzioni della pompa, inclusi avvisi, allarmi e promemoria. --8<---------------cut here---------------end--------------->8--- --8<---------------cut here---------------start------------->8--- Idoneità all’aggiornamento Questo aggiornamento potrebbe richiedere una prescrizione, inoltre l’utente deve completare la formazione prima di poter ricevere l’ID di aggiornamento univoco necessario per aggiornare la pompa per insulina t:slim X2™ con la tecnologia Control-IQ. Se è stata completata la formazione ma non è stato ricevuto il codice o se non si è certi che la pompa sia idonea a questo aggiornamento, rivolgersi all’assistenza tecnica locale. --8<---------------cut here---------------end--------------->8--- (https://www.tandemdiabetes.com/it-it/support/software-updates/control-iq-te…) Positivo che sia richiesta la formazione dell'utente... che però è gestita dal produttore, sennò niente aggiornamenti. Un'altra pubblicità dice: --8<---------------cut here---------------start------------->8--- Pompa per la somministrazione programmata in continuo di insulina per via sottocutanea integrata al sistema di monitoraggio continuo della glicemia (CGM) Dexcom G6, approvato per prendere decisioni terapeutiche con zero test capillari, che modula l’erogazione basale e fornisce boli automatici di correzione. [...] La pompa per insulina Tandem t:slim X2 con tecnologia Control-IQ è l’unica pompa sul mercato aggiornabile da remoto. Tandem t:slim X2 con tecnologia Control-IQ modula l’erogazione di insulina basale in base alla previsione glicemica a 30 minuti basata sui valori CGM del sistema Dexcom G6, sul FSI e sulla IOB e fornisce boli automatici di correzione [...] l’unica integrata con il sistema di monitoraggio continuo della glicemia (CGM) Dexcom G6. Il CGM fornisce una rilevazione glicemica ogni 5 minuti, attraverso un sensore sottocutaneo della durata garantita di 10 giorni e un trasmettitore in grado di inviare i dati glicemici via Bluetooth alla pompa per insulina Tandem t:slim X2 con tecnologia Control-IQ e ad un dispositivo smart compatibile. --8<---------------cut here---------------end--------------->8--- (https://diabete.movigroup.com/prodotti/tandem-tslim-x2-con-tecnologia-contr…) Tutto /scientificamente/ provato, sia chiaro: https://pubmed.ncbi.nlm.nih.gov/37067353/ Mah. > In realtà il rischio è basso non abbastanza da poter evitare una procedura di richiamo dal mercato, che sia FDA che il produttore si sarebbero evitati volentieri > (non come il famoso bug degli apparati radioterapici negli anni '80 che > uccise un po' di gente), Credo tu ti riferisca al Therac-25 (https://en.wikipedia.org/wiki/Therac-25) che provocò 6 morti tra il 1985 e il 1987 (more in this later?!?), vale la pena conoscere quella storia > ma resta il tema del software che controlla funzioni importanti (e.g., > aerei e altri veicoli, sistemi finanziari, ecc.) con grossi impatti > sulla vita delle persone. Il software è troppo importante per > lasciare che sia proprietario... ma /loro/ non vogliono che /noi/ ficchiamo il naso, e fanno di tutto per impedirlo, con un livello di opacità (e di inganno?) impressionante saluti, 380° [1] https://www.tandemdiabetes.com/it-it/home -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 13, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista

by Gianluca Fasano

Buongiorno, la proposta AI Act non affronta le problematiche tutte che investono l’AI generativa, non il tema della disinformazione, né quello della logica alla base dell'AI, né quello della autorialità (che affronto nel mio articolo). Ma, sia detto a evitare equivoci, non si tratta di un vuoto normativo, posto che l’AI act non vuole disciplinare l’intera materia dell’intelligenza artificiale, come una summa di tutte le norme, ma vuole soltanto determinare condizioni e requisiti che i sistemi di AI devono rispettare per poter accedere al mercato unico digitale Di responsabilità si occupano due direttive in corso di definizione (https://www.europarl.europa.eu/topics/it/article/20231023STO08103/protezion…) che, allo stato attuale, non affrontano il tema dell'autorialità che metto in evidenza nell'articolo. Saluti, Gianluca Fasano Il 11/05/24 16:34, 380° via nexa ha scritto: > In EU, quindi anche in molti col "diritto romano", esiste la norma > sullla responsabilità da prodotto (fisico): > https://europa.eu/youreurope/business/dealing-with-customers/consumer-contr… > > Credo che l'"AI Act" sia stato fatto per tentare (male?) di estendere quei > principi giuridici anche al_software_ 🙁

May 13, 2024

Re: [nexa] ...and what makes these phenomena the _very_ same from the past (Re: "Why facial recognition technology makes..."

by 380°

380° <g380(a)biscuolo.net> writes: [...] > «intelligence abuses» li chiamano: divertentissimo :-D ah, sia chiaro, IANA*! (ovvero: Noi, incompetenti come siamo...) perché invece alcuni esperti IAAL ad /altissimi/ livelli concordano praticamente /verbatim/ con quanto Daniel L. Pines (Assistant General Counsel of the Office of General Counsel within the CIA) ha scritto nel 2009 sul ILJ (Indiana Law Journal), Vol. 84, Iss. 2 (2009): https://www.repository.law.indiana.edu/ilj/vol84/iss2/6/ «The Central Intelligence Agency's "Family Jewels": Legal Then? Legal Now?» --8<---------------cut here---------------start------------->8--- Abstract: Congress and the media recently have claimed that various activities of the Central Intelligence Agency (CIA)-from rendition operations, to the destruction of videotapes, to the maintenance of secret detention facilities overseas--are illegal. Critics levied similar charges against the CIA thirty-five years ago, with regard to activities contained in the "Family Jewels"--the 1973 compilation of the CIA's darkest secrets. The recent release of the Family Jewels provides the opportunity to try to put today's concerns in perspective. This Article evaluates the key activities conducted by the CIA as described in the Family Jewels-experimentation on unconsenting individuals, attempted targeted killings of foreign leaders, electronic surveillance of Americans, examination of U.S. mail, and collection of information on American dissident movements. Contrary to widely held beliefs both then and now, all but one of these activities (experimentation on unconsenting individuals) were legal when they were committed, suggesting that other allegedly "illegal" activities, engaged in by the CIA now, may similarly prove to be lawful. --8<---------------cut here---------------end--------------->8--- Tranquilli: è tutto legale, è almeno dal 10000 BC che è tutto _legale_ Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 13, 2024

...and what makes these phenomena the _very_ same from the past (Re: "Why facial recognition technology makes..."

by 380°

Buongiorno, "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it> writes: > *Why facial recognition technology makes these campus protests different > from those in the past > * > /At campus protests across the country, many are covering their faces as > fears of police surveillance, facial recognition technology, and doxing > rise./ > > Chris Morris > > https://www.fastcompany.com/91116791/facial-recognition-technology-campus-p… --8<---------------cut here---------------start------------->8--- What made those images even more notable, though, are the lengths to which many of the protesters are going to in order to hide their identities. Keffiyehs and facemasks are commonplace. Some cover themselves with blankets. It’s a vastly different sort of protest than the Black Lives Matter marches of 2020—or anything Americans have seen lately. And artificial intelligence—along with facial recognition technology—might be to blame. [...] That could result in everything from lifelong repercussions for what could be peaceful protesting to threats to the safety of students who are identified (correctly or incorrectly) as protestors. And given questions of the accuracy (especially for people of color) of some facial recognition software, it could also result in legal threats to universities. --8<---------------cut here---------------end--------------->8--- oh santo cielo cosa mi tocca leggere, come se tutto questo fosse cominciato nel 2020 con Black Lives Matter: sono letteralmente basito che il giornalista non faccia _minimamente_ cenno a quello che è successo prima... suvvia! e poi non ho capito bene quale sarebbe il problema: il rapporto segnale/rumote di queste _probes_, tipo che un cittadino di colore è più a rischio perché l'AI sbaglia più di frequente a identificarlo? Mah. il riconoscomento facciale, utilizzabile per identificare automaticamente solo se i manifestanti sono già /identificabili/, cioè _schedati_; è solo un nuovo /signal/ aggiunto a quelli già disponibili da molti decenni [1] ad un sistema ben oliato di sorveglianza globale, nel quale c'è la forma mentis secondo la quale siamo tutti /potenziali/ sovversivi. per _circoscrivere_ l'analisi solo ai /signal/ da videosorveglianza, consiglio la lettura di questo paragrafo: https://en.wikipedia.org/wiki/Mass_surveillance_in_the_United_States#Survei… --8<---------------cut here---------------start------------->8--- Wide Area Persistent Surveillance (also Wide Area Motion Imaging) is a form of airborne surveillance system that collects pattern-of-life data by recording motion images of an area larger than a city – in sub-meter resolution. This video allows for anyone within the field of regard to be tracked – both live and retroactively, for forensic analysis. The use of sophisticated tracking algorithms applied to the WAMI dataset also enables mass automated geo-location tracking of every vehicle and pedestrian. [...] video so detailed that pedestrians can be followed across the city through forensic analysis. This allows investigators to rewind and playback the movements of anyone within this 68 square mile area for hours, days or even months at a time depending on the airframe the WAMI sensors are mounted on. [...] the deployments have been intentionally hidden from the public [...] Traffic cameras, [...] also work as transit choke-points that allow individuals inside the vehicle to be positively identified and license plate data to be collected and time stamped for cross reference with airborne WAMI --8<---------------cut here---------------end--------------->8--- Poi, per un quadro più generale: https://en.wikipedia.org/wiki/Mass_surveillance_in_the_United_States «Mass surveillance in the United States» --8<---------------cut here---------------start------------->8--- The formation and growth of federal law-enforcement and intelligence agencies such as the FBI, CIA, and NSA institutionalized surveillance used to also silence political dissent, as evidenced by COINTELPRO projects which targeted various organizations and individuals. During the Civil Rights Movement era, many individuals put under surveillance orders were first labelled as integrationists, then deemed subversive --8<---------------cut here---------------end--------------->8--- https://en.wikipedia.org/wiki/Church_Committee «Church Committee» (mi limito a riportare brani sulla sorveglianza, omettendo altre operazioni clandestine) --8<---------------cut here---------------start------------->8--- a US Senate select committee in 1975 that investigated abuses by the Central Intelligence Agency (CIA), National Security Agency (NSA), Federal Bureau of Investigation (FBI), and the Internal Revenue Service (IRS). Chaired by Idaho Senator Frank Church (D-ID), the committee was part of a series of investigations into intelligence abuses in 1975 [...] [...] By the early years of the 1970s, a series of troubling revelations had appeared in the press concerning intelligence activities. First came the revelations by Army intelligence officer Christopher Pyle in January 1970 of the US Army's spying on the civilian population[8][9] and Senator Sam Ervin's Senate investigations produced more revelations.[10] Then on December 22, 1974, The New York Times published a lengthy article by Seymour Hersh [...] In addition, the article discussed efforts by intelligence agencies to collect information on the political activities of US citizens.[11] --8<---------------cut here---------------end--------------->8--- «intelligence abuses» li chiamano: divertentissimo :-D Saluti, 380° [1] https://en.wikipedia.org/wiki/Mass_surveillance_in_the_United_States#Modali… P.S.: certo Wikipedia è una fonte parziale, ma diciamo che ho il ragiovevole sospetto che quello che c'è scritto su queste cose sia ormai ragionevolmente /decantato/ da poter essere credibile, no? -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 13, 2024

114° Nexa Lunch Seminar | 22 maggio 2024, ore 13.00

by Valeria Bergantino

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 114° Nexa Lunch Seminar che si terrà mercoledì 22 maggio, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: " Personal Data Production: where AI labour & GDPR regulation intersect". Ospite dell'incontro: Thomas Le Bonniec (Institut Polytechnique de Paris). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-114 Cordiali saluti, -- Valeria Bergantino Communication Officer Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

May 13, 2024

Convegno "Di dati e di despoti. Scienza aperta, ricerca, repubblica" - Pisa, 3 e 4 giugno 2024

by Daniela Tafani

Buongiorno, il 3 e il 4 giugno prossimi, a Pisa, nell'Aula Magna nuova del Palazzo della Sapienza, in Via Curtatone e Montanara, 15, si terrà il convegno "Di dati e di despoti. Scienza aperta, ricerca, repubblica". Il convegno è organizzato nell'ambito del Progetto PRIN 2022 “Clinical Trial Data between Privatization of Knowledge and Open Science” (CLIPKOS). L'ingresso è libero. Qui la locandina: https://www.sp.unipi.it/it/convegno-di-dati-e-di-despoti-scienza-aperta-ric… Un saluto, Daniela

May 12, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista - “eggshell” plaintiff doctrine:

by 380°

Giacomo Tesio <giacomo(a)tesio.it> writes: > Il 11 Maggio 2024 Maria Chiara Pievatolo ha scritto: >> On 11/05/24 19:02, Guido Vetere wrote: >> > dunque non si possono lavare i pavimenti? <joke>dipende: è stata la AI a ordinare in quali orari, con quali detersivi, con quali spazzoloni e con quale segnaletica far lavare il pavimento alla persona addetta alle pulizie?</joke> :-D quindi dalla valutazione in merito all'inquadramento giuridico degli output degli LLM stile ChatGPT e la loro interazione con la libertà di pensiero e il libero convincimento interiore siamo arrivati a parlare di lavaggio dei pavimenti? :-) io sconsiglio /sempre/ di esagerare con le metafore legate al mondo fisico quando si vogliono trovare metafore per il mondo "digitale", ovvero quella "cosa" che non ha nulla a che fare con la fisica e tutto a che fare con l'espressione delle idee, sebbene in una forma /sui generis/. per quello insisto con la /metafora/ degli output dei LLM come fiction comunque, parlando di _interazione_ (input/output) tra "digitale" e mondo fisico... >> La risposta è lasciata come esercizio per il lettore :-) > > I negozi li lavano dopo la chiusura al pubblico. quella di chiudere i negozi per lavare i pavimenti o svolgere attività che comportano un determinato rischio (e il rischio _deve_ essere valutato per determinarlo) è effettivamente una misura molto più efficace per ridurlo significativamente rispetto all'esposizione di uno stitico cartello appoggiato al pavimento: c'è un modo per /insegnarlo/ alla AI che governa il negozio? Se l'AI sbaglia i /calcoli/ di chi è la responsabilità in caso di incidente: del fornitore della AI o del proprietario del negozio che ha collegato l'AI agli impianti del negozio? è l'ABC della salute e sicurezza ormai da molti anni, almeno a partire dall'incendio al Cinema Statuto di Torino del Feb 1983, preceduto di qualche mese da quello di Palazzo Vignola a Todi del Apr 1982 [2]... /anche/ se l'adeguamento alle buone pratiche in materia di sicurezza è costato una /notevole/ quantità di risorse pubbliche e private: hanno praticamente ribaltato da cima a fondo _ogni_ luogo aperto al pubblico, da allora, oltre che /adeguare/ le norme in tema di responsabilità civile e penale dei gestori dei locali pubblici (in realtà il nesso causale è stato esattamente opposto: hanno adeguato perchè hanno modificato le norme... o hanno solo cominciato ad applicarle?). E sì, i burocrati poi ci hanno messo del loro perché loro /amano/ complicare le cose. con un po' di buona volontà non c'è nulla di nuovo da "inventare" per capire come si deve fare per minimizzare i rischi per la salute e la sicurezza del pubblico _soggetto_ a (utilizzatore di?) sistemi automatici dotati di attuatori fisici regolati dal software, AI compresa. ogni singolo settore "merceologico", dalle autovetture fino agli aerei, dai dispositivi medici fino alle macchine industriali ha già un sufficiente volume di regole tecniche (le famigerate norme volontarie), procedure di omologazioni e relative leggi; io sconsiglierei di complicarle inutilmente, che già così hanno bisogno di qualche messa a punto per eliminare non poche complicazioni inutili, con un rapporto segnale/rumore ancora ampiamente insufficiente per i /nostri/ gusti. Saluti, 380° [1] o interi corridoi dei centri commerciali [2] https://it.wikipedia.org/wiki/Incendio_del_Palazzo_del_Vignola -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

May 12, 2024

[CDT:code is law/life] Fwd: Software Bug Results in Insulin Pump Injuries, Spurs Recall

by Andrea Trentini

Quando il software regola la tua possibilità di sopravvivere: <https://hackaday.com/2024/05/11/software-bug-results-in-insulin-pump-injuri…> In realtà il rischio è basso (non come il famoso bug degli apparati radioterapici negli anni '80 che uccise un po' di gente), ma resta il tema del software che controlla funzioni importanti (e.g., aerei e altri veicoli, sistemi finanziari, ecc.) con grossi impatti sulla vita delle persone. Il software è troppo importante per lasciare che sia proprietario... -- Andrea Trentini ⠠⠵ http://atrent.it public key ID: 0xA7A91E3B Dip.to di Informatica Università degli Studi di Milano

May 12, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista - “eggshell” plaintiff doctrine:

by Giacomo Tesio

Il 11 Maggio 2024 19:48:58 CEST, Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > e allora continuiamo la metafora > se un anziano che non ha notato il cartello scivola e si fa male, viene > incriminato il produttore del detersivo per pavimenti? No, risponde dell'incidente chi ha scelto di esporre al pubblico il pavinento bagnato. Tipo OpenAI per l'istanza di GPT4 aperta al pubblico. Giacomo

May 11, 2024

Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista - “eggshell” plaintiff doctrine:

by Giacomo Tesio

Io copio... :-) Il 11 Maggio 2024 Maria Chiara Pievatolo ha scritto: > On 11/05/24 19:02, Guido Vetere wrote: > > dunque non si possono lavare i pavimenti? > > La risposta è lasciata come esercizio per il lettore :-) I negozi li lavano dopo la chiusura al pubblico. 🤯 Anche gli LLM possono essere usati in modo perfettamente sicuro... da chi li realizza. Giacomo

May 11, 2024