- nexa - server-nexa.polito.it

ethical AI (era "It’s time to admit, self-driving cars aren’t going to happen")

by maurizio lana

...continuando a pensare su questo tema, al di là dei titoli dei thread, credo che la questione artefatto - responsabilità - progettisti - utilizzatori sia centrale. perciò ripensando a questo passaggio > [L'artefatto non ha etica. > Esprime l'etica di chi l'ha costruito, imprimendola al resto del mondo. Ne riproduce la volontà. Ne diffonde i valori.] > > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente irrilevante. Se non può alterare concretamente e consapevolmente il > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può fare e pensare solo ciò che il creatore dell'artefatto stesso ha deciso. trovo problematico affermare che "l'utilizzatore, nella stragrande maggioranza dei casi, è eticamente irrilevante." chi utilizza un coltello per uccidere la compagna, o i contractors di Wagner che usano un martello per uccidere un compagno; non mi paiono eticamente irrilevanti; e quindi direi al contrario che nella stragrande maggioranza dei casi l’utilizzatore di un artefatto è eticamente rilevante. poi capisco che l'argomentazione sia venuta nella forma inversa "l'utilizzatore, nella stragrande maggioranza dei casi, è eticamente irrilevante" perché essa preparava la presentazione del caso "Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata" in cui sì certo l'utilizzatore dell'artefatto è utilizzato dall'artefatto. ma è un caso particolare. il caso generale rimane che l’utilizzatore di un artefatto è eticamente rilevante (in caso contrario assolviamo tutti gli assassini che per uccidere usano artefatti) e come in tutti i casi di responsabilità etica, la conoscenza e la consapevolezza contano. se sappiamo che le auto autonome possono uccidere mentre ci trasportano possiamo pensare che esse ci esautorano dalla responsabilità per i danni che possono causare mentre ci trasportano; _o possiamo decidere di non usarle_ fintantoché la situazione non cambi. quindi è chiaro che oggi abbiamo artefatti (con o senza IA) che complicano la questione della responsabilità dell'utilizzatore; ma il principio generale non mi pare che possa cambiare. Maurozoo Il 31/10/22 09:01, Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Date: Sun, 30 Oct 2022 23:12:30 +0100 > From: Giacomo Tesio<giacomo(a)tesio.it> > To: maurizio lana<maurizio.lana(a)uniupo.it> > Cc:nexa@server-nexa.polito.it > Subject: Re: [nexa] ethical AI (era "It’s time to admit, > self-driving cars aren’t going to happen") > Message-ID:<20221030231230.00007a38(a)tesio.it> > Content-Type: text/plain; charset=ISO-8859-1 > > Salve Maurizio, > > On Sun, 30 Oct 2022 18:44:36 +0100 maurizio lana wrote: > >> anche se ne hai poi parlato sotto, mi pare che è qui che per te si >> pone l'impossibilità di un'«etica delle AI» perché in senso stretto >> essa implicherebbe che l'AI sia un soggetto autonomo, capace di >> scelte autonome, di cui quindi si può valutare l'etica. ma questo >> implicherebbe che l'AI sia dotata di agency come un soggetto umano >> adulto senziente e ragionante, senza limitazioni. > Esatto. > > Preferisco parlare di libero arbitrio o autonomia, ma in entrambi i > casi il software (e qualsiasi altra macchina) non ne ha. > > Parlare di "etica delle AI" è esattamente come parlare di "etica dei > sassi" o di "etica delle macchine". > > > L'etica, così come l'intelligenza o l'informazione, sono peculiarità > del homo sapiens sapiens. Letteralmente: parte della sua definizione. > > > Se parlassimo di intelligenza dei sassi, sarebbe evidente a tutti > che stiamo antropomorfizzando i sassi. Se parlassimo di etica dei > sassi a qualcuno verrebbe da ridere. > > Ma anche quando parliamo di macchine novecentesche parlare di "etica" > appare subito evidentemente strumentale. > > Immaginate l'industriale che, all'ennesimo morto sul lavoro schiacciato > da una pressa, proponesse come alternativa all'introduzione di > normative sulla sicurezza delle presse, l'adozione di > un'etica delle presse. > > > Con il software, a valle di un lungo lavoro di propaganda che Daniela > ha descritto benissimo nel suo saggio [1], invece la gente può parlare > di "etica delle AI" senza che tutti inizino a ridergli in faccia. > > Vengono persino invitati a parlare a conferenze, pubblicati su riviste > di filosofia etc... > > Dal punto di vista oggettivo, i loro argomenti hanno la stessa solidità > delle teorie terrapiattiste. > > E un po' come avvenne in passato con il sistema tolemaico, queste > teorizzazioni servono gli interessi di chi comprende benissimo la loro > fallacia, ma trae vantaggio dalla loro diffusione. > > >> mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte >> come progettista sia a valle come utilizzatore e non nell'artefatto. > L'artefatto non ha etica. > Esprime l'etica di chi l'ha costruito, imprimendola al resto del mondo. > > Ne riproduce la volontà. > Ne diffonde i valori. > > > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente > irrilevante. Se non può alterare concretamente e consapevolmente il > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può fare > e pensare solo ciò che il creatore dell'artefatto stesso ha deciso. > > Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine > Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata, come > ingranaggio, come capro espiatorio. Non era la prima volta che si > "distraeva"... "alla guida". Tali "distrazioni" erano già state > registrate da Uber che misurava, per massimizzarlo, il grado di > confidenza dei passeggeri nella guida automatica (NON autonoma!). > > In altri termini per Uber le "distrazioni" di Rafaela Vasquez erano > una feature, non un problema. > > Dunque Rafaela Vasquez era eticamente irrilevante. > Era già stata ridotta ad una cosa, ad un ingranaggio inconsapevole, ad > un topo di laboratorio e ad un capro espiatorio alla bisogna. > > > Ma la Volvo di Uber non aveva alcuna etica (o alcuna intelligenza). > > Aveva percepito Elaine in tempo per evitarla, ma era stata configurata > per non effettuare frenate di emergenza durante la guida "autonoma" in > modo da "evitare un comportamento erratico del mezzo" che avrebbe > provocato il mal d'auto ai passeggeri. > > Insomma, quella Volvo stava letteralmente applicando al mondo i valori > di Uber, per cui la vita umana vale nettamente meno dei propri profitti. > > Ma invece di arrestare tutto il consiglio di amministrazione di Uber per > omicidio, negli USA parlano di "Etica delle AI". > > > La vita di Elaine Herzberg o di Rafaela Vasquez sono irrilevanti. > Sono cose, insomma. Cose di scarso valore, peraltro. > > > E' questo l'etica delle AI: una narrazione alienante costruita su > un'altra narrazione alienante. > > >> a quel punto la valutazione di capacità etica riguarda i progettisti >> e gli utilizzatori e non è più questione di etica dell'AI in senso >> proprio, ma di come si fa una progettazione di prodotti che sia etica >> e un utilizzo di prodotti che sia etico. > No, non è una questione di etica, ma di cultura e politica. > > Anzitutto bisogna comprendere come funzionano questi software. > > Per arrivarci dobbiamo abolire al più presto questo linguaggio > antropomorfizzante (quando non religioso). Smettere di parlare > di "intelligenza" o "allenamento" o "apprendimento" o "etica". > > > Una volta compreso questo, si potrà smettere serenamente e > consapevolmente di applicarli a persone o a dati di origine umana. > > Con la clonazione l'abbiamo fatto, con il software programmato > statisticamente dobbiamo fare lo stesso. [2] > > > A valle di tale moratoria internazionale, potremo decidere una normativa > adeguata per le molte applicazioni che non riguardano direttamente > esseri umani. > > Ad esempio, il trasporto merci su strade dedicate (magari sotterranee > ed inaccessibili all'uomo). La massimizzazione della produzione > agricola e così via... > > > Dovremo solo sempre tenere a mente che l'antropomorfizzazione delle > cose serve solo gli interessi di chi le controlla. > > > Dunque, non parliamo di etica delle AI. > Semplicemente perché già le AI stesse non esistono! ;-) > > > Parliamo piuttosto di etica delle aziende? > Ok! Allora limitiamo superiormente il loro profitto, così che una volta > raggiunto il tetto, la massimizzazione dei profitti smetta di prevalere > su qualsiasi altra considerazione. > > > Giacomo > > PS: non sono certo di aver risposto a ciò che chiedevi... scusa. > > > [1]: > https://commentbfp.sp.unipi.it/daniela-tafani-what-s-wrong-with-ai-ethics-n… > > [2]: Ci sono rarissimi contesti in cui può aver senso utilizzarli sotto > attenta e addestratissima supervisione di gruppi multidisciplinari, > che potremo elencare esplicitamente. > > Penso ad esempio all'uso medico: nessun medico, da solo, può > comprendere i pericoli dell'uso di un sistema programmato > statisticamente, ma un team di medici e informatici molto > preparati, insieme, potrebbe. > > Personalmente non riesco a pensare un'altro caso d'uso in cui > l'uso (sotto attenta e scrupolosa supervisione umana) di questi > strumenti possa giustificare i pericoli che comportano. > > Per assicurarci che nessuno ne abusi, potremmo però stabilire che > nessun profitto può essere ottenuto dall'uso di dati umani, neanche > in quei rarissimi casi in cui è autorizzato. > ------------------------------------------------------------------------ the knowledge gap between rich and poor is widening witten and bainbridge, how to build a digital library ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Nov. 18, 2022

Re: [nexa] Diritto e scienza aperta

by Mauro Alovisio

Complimenti Roberto Diffondo Un caro saluto Mauro Il Ven 18 Nov 2022, 11:03 Roberto Caso <roberto.caso(a)unitn.it> ha scritto: > Buongiorno, > > La Facoltà di Giurisprudenza dell'Università di Trento ha pubblicato una > nuova pagina sull'Open Science e una nuova relazione sullo stato di > avanzamento dell'applicazione dell'Open Access alle pubblicazioni > scientifiche. > Tutte le informazioni qui: > https://www.giurisprudenza.unitn.it/.../open-science-e... > <https://www.giurisprudenza.unitn.it/2608/open-science-e-open-access?fbclid=…> > https://www.giurisprudenza.unitn.it/3169/dati-e-statistiche > <https://l.facebook.com/l.php?u=https%3A%2F%2Fwww.giurisprudenza.unitn.it%2F…> > > A presto, > rc > > > -- > > Roberto Caso > > Professore Associato di Diritto Privato Comparato > > Università di Trento - Facoltà di Giurisprudenza > La società della mercificazione e della sorveglianza: dalla persona ai dati > <https://www.robertocaso.it/2021/03/13/la-societa-della-mercificazione-e-del…>, > Milano, Ledizioni, 2021 > <https://www.robertocaso.it/2021/03/13/la-societa-della-mercificazione-e-del…> > > La rivoluzione incompiuta. La scienza aperta tra diritto d'autore e > proprietà intellettuale, Milano, Ledizioni, 2020 > <https://www.robertocaso.it/2019/12/13/la-rivoluzione-incompiuta/> > > http://www5.unitn.it/People/it/Web/Persona/PER0000633 > > https://lawtech.jus.unitn.it/ > > https://aisa.sp.unipi.it/chi-siamo/ > > https://www.robertocaso.it/ > > https://twitter.com/RobertoCaso > > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Nov. 18, 2022

Diritto e scienza aperta

by Roberto Caso

Buongiorno, La Facoltà di Giurisprudenza dell'Università di Trento ha pubblicato una nuova pagina sull'Open Science e una nuova relazione sullo stato di avanzamento dell'applicazione dell'Open Access alle pubblicazioni scientifiche. Tutte le informazioni qui: https://www.giurisprudenza.unitn.it/.../open-science-e... <https://www.giurisprudenza.unitn.it/2608/open-science-e-open-access?fbclid=…> https://www.giurisprudenza.unitn.it/3169/dati-e-statistiche <https://l.facebook.com/l.php?u=https%3A%2F%2Fwww.giurisprudenza.unitn.it%2F…> A presto, rc -- Roberto Caso Professore Associato di Diritto Privato Comparato Università di Trento - Facoltà di Giurisprudenza La società della mercificazione e della sorveglianza: dalla persona ai dati <https://www.robertocaso.it/2021/03/13/la-societa-della-mercificazione-e-del…>, Milano, Ledizioni, 2021 <https://www.robertocaso.it/2021/03/13/la-societa-della-mercificazione-e-del…> La rivoluzione incompiuta. La scienza aperta tra diritto d'autore e proprietà intellettuale, Milano, Ledizioni, 2020 <https://www.robertocaso.it/2019/12/13/la-rivoluzione-incompiuta/> http://www5.unitn.it/People/it/Web/Persona/PER0000633 https://lawtech.jus.unitn.it/ https://aisa.sp.unipi.it/chi-siamo/ https://www.robertocaso.it/ https://twitter.com/RobertoCaso

Nov. 18, 2022

102° Nexa Lunch Seminar | 23 Novembre 2022, ore 13.00

by Nexa Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al *102° Nexa Lunch Seminar *che si terrà *mercoledì 23 novembre*, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo /*"Strategia e Innovazione in ambito educativo: il progetto Erasmus+ StrategyHack"*/. Ospite dell'incontro: *Stefano Boldi* (Università di Udine, Alumno Centro Nexa). _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA_ dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE _dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: Nexa Center for Internet and Society Newsletter Se non visualizzi correttamente questo messaggio clicca qui <https://nexa.polito.it/lunch-102> NEXA 102° Nexa Lunch Seminar Mercoledì 23 novembre 2022, ore 13.00 - 14.00 https://nexa.polito.it/lunch-102 Strategia e Innovazione in ambito educativo: il progetto Erasmus+ StrategyHack Speaker: *Stefano Boldi* (Università di Udine, Alumno Centro Nexa) This event will be webcast live: https://nexa.polito.it/nexa-hangout-on-air *L'INCONTRO SI TERRÀ IN PRESENZA E ONLINE* *SEDE FISICA*: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano) (Per maggiori informazioni su come raggiungerci clicca QUI <https://nexa.polito.it/contatti>) *STANZA VIRTUALE*: https://didattica.polito.it/VClass/NexaEvent Dalle prime forme di chiusura degli edifici per l’istruzione e la formazione causate dalla pandemia di *Covid-19*, necessario si è rivelato il passaggio a modalità di *istruzione digitale*. Un passaggio forzato che ha portato alla luce, in molti Stati membri dell’Unione Europea, la poca, o in alcuni casi nulla, esperienza dei dirigenti istituzionali nell'organizzare le attività di insegnamento e apprendimento online. Il divario tra le risposte delle diverse istituzioni alla crisi ha quindi dimostrato come la leadership sia uno dei fattori abilitanti più importanti per il successo della *transizione digitale*, una leadership costruita sulla consapevolezza delle opportunità e dei rischi di questa nuova era incentrata sul digitale. Il progetto *StrategyHack*, finanziato dalla *Commissione Europea*, mira a rafforzare, in tal senso, le competenze dei leader istituzionali di medio livello allo scopo, ultimo, di accelerare i processi di trasformazione digitale che investono le diverse aree di interesse. Basandosi sull’esperienza accumulata nel precedente progetto EduHack, il *Politecnico di Torino* riveste ancora una volta la posizione di coordinatore di un gruppo variegato di centri ed istituzioni universitarie, dal *Knowledge Innovation Centre* (Malta) all’*Universidad Internacional de La Rioja* (Spagna), dall’*Association Europeeenne d'Instututions de l'Enseignements Superieur* (Belgio) alla *Coventry University* (Regno Unito), e ancora alla *Media & Learning Association* (Belgio), enti, questi, che hanno collaborato tra loro alla costruzione del *corso di Capacity Building sul digitale*, ora disponibile sul sito ufficiale del progetto <https://strategyhack.eu/>, e all’organizzazione di una serie di eventi, gli *Hackathon*, mirati al coinvolgimento del personale universitario interessato in attività di formazione su temi specifici del corso (Scopri di più <https://nexa.polito.it/strategyhack-hackathon> sul nostro hackathon). L’incontro andrà ad indagare, nel dettaglio, i *processi di digitalizzazione degli Atenei italiani*, con un focus sulle strategie presenti e future per la creazione di uno *spazio educativo digitale europeo*. Dopo una breve introduzione concernente i progressi compiuti finora, verranno analizzati i dati più recenti (periodo pre-, durante e post-emergenza Covid-19) e illustrate le criticità del sistema, unitamente alle strategie suggerite agli Atenei per farvi fronte. La presentazione verrà supportata dalla proiezione di una lavagna virtuale prodotta mediante l’utilizzo della piattaforma di collaborazione visiva *Miro*, scelta, questa, che ricalca le intenzioni proprie del progetto, quelle di fornire spunti e stimoli per migliorare le tecniche di insegnamento digitale. BIOGRAFIA - e informazioni supplementari: [Lunch102] *Stefano BOLDI* ha conseguito la laurea magistrale in Lingue e Letterature Europee ed Extraeuropee presso l'Università degli Studi di Udine nel 2021 con una tesi di ricerca sulla traduzione della poesia occitana antica dei trovatori. Durante gli anni universitari ha svolto il tirocinio assistendo gli insegnanti di lingue della scuola secondaria, e successivamente è diventato tutor universitario, impegnandosi in attività di peer learning con studenti stranieri e studenti con disabilità. La sua passione per le lingue straniere è strettamente legata a quella per i computer, e tutto ciò che concerne il digitale e le tecnologie in generale. Il suo ambito di ricerca si concentra prevalentemente sull'apprendimento potenziato dalla tecnologia (TEL), sull'educazione digitale e sul serious gaming. Appassionato di videogiochi e di simulazione di volo, è membro attivo dell'International Virtual Aviation Organization e della rete VATSIM. *Letture consigliate e link utili:* * Scheda del progetto StrategyHack, LINK <https://nexa.polito.it/StrategyHack>, March 2021. * Comunicato stampa degli Hackathon nell'ambito del progetto StrategyHack, LINK <https://nexa.polito.it/strategyhack-press-release>, September 2022. * /Implementing a Digital Strategy: Learning from the Experience of Three Digital Transformation Projects/, California Management Review, LINK <https://eprints.lancs.ac.uk/id/eprint/145729/1/CMR_03_19_000002_IP_DT.R2_Pr…> * R&I - LINKS2UA, LINK <https://ri-links2ua.eu/object/news/419/attach/9_RI-LINKS2UA_Odessa_WPdefini…> Che cosa sono il Centro Nexa e i cicli di incontri “Mercoledì di Nexa” e “Nexa Lunch Seminar” <https://www.facebook.com/nexa.center/> <https://twitter.com/nexacenter> <https://www.youtube.com/user/NexaCenter> <https://www.instagram.com/nexa_center/> <https://www.linkedin.com/company/3054864/admin/> #nexalunchseminar <https://twitter.com/search?q=%23nexalunchseminar&src=typd> #ErasmusPlus <https://twitter.com/EUErasmusPlus> Il Centro Nexa su Internet & Società del Politecnico di Torino (Dipartimento di Automatica e Informatica) dal 2006 è un centro di ricerca indipendente e interdisciplinare che, in collaborazione con l'Università di Torino, studia Internet (e più in generale le Tecnologie digitali) e i suoi rapporti con la società. Maggiori informazioni all'indirizzo: http://nexa.polito.it/about. Durante i “*Mercoledì di Nexa*”, che si tengono *ogni 2° mercoledì del mese* alle *ore 17 in punto*, il Centro Nexa su Internet e Società apre le sue porte non solo agli esperti e a tutti coloro i quali lavorano con Internet, ma anche a semplici appassionati e cittadini. Il ciclo di incontri intende approfondire, con un linguaggio preciso ma accessibile, i temi legati alla Rete: motori di ricerca, Creative Commons, social networks, open source/software libero, neutralità della rete, libertà di espressione, privacy, file sharing, big e open data, smart cities e molto altro. Al centro di quasi tutti gli incontri un ospite pronto a dialogare con i direttori del Centro Nexa, il Prof. Juan Carlos De Martin del Politecnico di Torino e il Prof. Marco Ricolfi dell'Università di Torino, nonché lo staff e i Fellows del Centro Nexa. Maggiori informazioni sui Mercoledì di Nexa, incluso un elenco di tutti i “Mercoledì” passati, sono disponibili all'indirizzo: http://nexa.polito.it/mercoledi. Si segnala inoltre che dal maggio 2012 *ogni 4° mercoledì* del mese *dalle ore 13 alle ore 14* il Centro Nexa organizza anche i "*Nexa Lunch Seminar*". Una lista di tutti i “Lunch Seminar” passati è disponibile all'indirizzo: http://nexa.polito.it/lunch-seminars. See our events calendar <http://nexa.polito.it/events> if you're curious about future luncheons, discussions, lectures, and conferences not listed in this email. Our events are free and open to the public, unless otherwise noted. Responsabile Comunicazione Centro Nexa su Internet & Società: *Anita Botta*, tel: +39 011 090 7219, Mob: +39 347 131 3903, anita.botta(a)polito.it. Maggiori informazioni sui Mercoledì di Nexa e i Nexa Lunch Seminar, sono disponibili all'indirizzo: http://nexa.polito.it/events. Weekly Events Newsletter. Sign up <http://nexa.polito.it/mailing-lists> to receive this newsletter if this email was forwarded to you. To manage your subscription preferences, please click here <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>. Connect & get involved: Jobs, internships, and more <http://nexa.polito.it/get-involved>. Grazie per l'attenzione, Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

Nov. 18, 2022

Re: [nexa] “Automaticamente illegali”. Una proposta per i sistemi di intelligenza artificiale

by 380°

Ciao Alessandro, alessandro marzocchi <alemarzoc(a)gmail.com> writes: [...] > Domando: Giovanni, qui conosciuto come 380°, chiedendo < che il software … > sia «free software by default»> pensa ad una caratteristica di “apertura” > affinché il maggior numero di persone (non tutti, ahi noi) capisca come > funziona, quali conseguenze ha ogni comando? Non solo, che sia in grado di modificare il software, ecc. ecc; le quattro libertà del software libero insomma Nel caso di software utilizzato da enti/istituzioni che gestiscono "cosa pubblica" o "valutano" i cittadini, nel senso più ampio possibile, significa avere o no la possibilità di partecipare alla /vita politica/ dello stato attraverso il software che lo /governa/, quindi poter leggere il sofware come si legge qualsiasi altra norma e se del caso anche proponendo "emendamenti" in modo analogo a come si fa in parlamento > Se è questa l’intenzione di Giovanni, il software che auspica ha quasi > tutte le caratteristiche essenziali dell’alfabeto No, dei codici (pun intended) :-) > e dovrebbe evitare molti difetti dell’IA, ammesso che sia applicabile > all’IA, cosa che ignoro totalmente. Il problema specifico della IA è che il software prodotto attraverso machine learning non è mai in formato sorgente, non può essere mai compreso, è sempre /inesplicabile/... ma il software che implementa il machine learning sì, così come tutto il resto (dati, processo di selezione, ecc.) che serve per "generare l'AI" > Ma … Giovanni ha anche istillato un dubbio, oppure ha dato una certezza: < > ah quante cose si possono fare potendo analizzare gli algoritmi! >. É una certezza :-)... e te lo dimostro: la tua è una citazione da un mio messaggio nel thread «The 1960s Experiment Created Today’s Biased Police Surveillance» [1]; il frammento di algoritmo descritto nell'estratto di articolo che avevo riportato è «homicide, rape, burglary, larceny, and auto theft were weighted with a score of four»: da giurista mi puoi confermare che /tecnicamente/ si tratta di una enorme sciocchezza? Ecco cosa intendo quindi con la mia affermazione: avendo a disposizione l'algoritmo, le persone con adeguata competenza possono giudicarne l'adeguatezza del modello a rappresentare la (ristrettissima) realtà che /misurano/ attraverso i parametri che trattano, come la "classe di reato" in questo caso. Potendo conoscere tutto l'algoritmo, poi, si potrebbe analizzare l'adeguatezza dei parametri scelti, la loro valorizzazione ("score four" di cui sopra), i "dataset" pre-esistenti utilizzati e altre considerazioni metodologiche. Per esempio, leggendo l'articolo del "1960s Experiment" emerge anche un aspetto che a mio modesto avviso è alla base dei "pregiudizi raziali algoritmici": la sostituzione del censo con la "razza" (etnia), per cui molti "reati economici dei poveri" commessi dai poveri venivano (sono?) attribuiti a neri e ispanici... nelle metropoli USA: e a Rio de Janeiro [2]?!? Insomma, conoscendo tutto l'argoritmo sarebbe possibile analizzare se è stato commesso uno dei non rari abusi statistici [3]; su questo fermiamoci qui perché andremmo OT, ma il nocciolo è davvero /tutto/ qui. > Quanti possono analizzare gli algoritmi? Tutti coloro che hanno sanno interpretare la lingua nella quale sono scritti gli algoritmi; /non/ sto parlando di linguaggi di programmazione: un algoritmo può essere (de)scritto in un linguaggio simbolico formale (flowchart [4]) o informale, per esempio una descrizione dettagliata, in italiano, di come svolgere un processo e quali input/output sono coinvolti. Un programma sorgente scritto in un linguaggio di programmazione è "solo" uno degli innumerevoli modi di /trascrivere/ un algoritmo in modo tale che poi, compilandolo, possa essere eseguito dal computer; già solo nel processo di trascrizione di un algoritmo in codice sorgente il programmatore può introdurre errori o male interpretare l'algoritmo; a volte i programmatori addirittura saltano la scrittura dell'algoritmo - che hanno in testa, non formalizzato - e passano a scrivere direttamente il codice. > Nel contesto alfabetico, alla sola condizione di essere alfabetizzata ogni > persona si rende conto che “a” è a, che “b” è b e così via. Il concetto di alfabetizzazione va ben oltre il suo significato etimologico, nell'interpretazione più basilare è il grado di sviluppo delle capacità personali di lettura e scrittura. > Il contesto digitale è post-alfabetico, ed è molto più problematica la > verifica che “a” è a, che “b” è b e così via. Sì ma /solo/ perché una volta compilato un programma tutto quello che ho a disposizione è in formato binario e da quello non si può leggere proprio un bel nulla, letteralmente stavolta. > Torniamo ad una condizione analoga a quella degli scriba dell'antico > Egitto? Nel caso del software binario, peggio: entriamo in un "buco nero", un mondo letteralmente inesplorabile e /inesplicabile/ per gli esseri umani, perfino per i più geni dei programmatori, il mondo del codice macchina; ecco perché serve il codice (sorgente) anche solo per comprendere il senso di un programma > Credo che i problemi nascano da qui: nel contesto alfabetico la > persona (diventata “agente umano”) può verificare direttamente senza > mediazioni, questo non accade nel contesto digitale nel quale ogni persona > “NECESSARIAMENTE” deve accettare una delega di conoscibilità. Non nel caso il codice sorgente sia disponibile, nel qual caso la persona deve "solo" conoscere il linguaggio di programmazione nel quale è scritto e così può trattare il codice in modo del tutto analogo a come noi possiamo trattare qualsiasi altro codice (codex). [...] Ciao, 380° [1] https://server-nexa.polito.it/pipermail/nexa/2022-November/024396.html [2] https://medium.com/analytics-vidhya/crime-analysis-in-rio-de-janeiro-b0d6f9… (ho preso il primo articolo a caso tra quelli che ho trovato rilevanti) [3] https://en.wikipedia.org/wiki/Misuse_of_statistics [4] https://en.wikipedia.org/wiki/Flowchart -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Nov. 18, 2022

European Health Data Space

by Patrignani Norberto

Segnalo un evento sul tema in oggetto ciao! Norberto https://www.ehtel.eu/18-articles/179-day-1-28-november.html Day 1 - 28 November - European eHealth Multidisciplinary Stakeholder Platform<https://www.ehtel.eu/18-articles/179-day-1-28-november.html> European eHealth Multidisciplinary Stakeholder Platform www.ehtel.eu

Nov. 17, 2022

Re: [nexa] banche online: norme sulla operatività?

by Mauro Alovisio

Gent.mi Nella PSD2 è prevista una disposizione (art. 96) per la quale il prestatore di servizio di pagamento deve *notificare senza indugio all’Autorità competente* (Banca d’italia) poi questa autorità dovrà notificare all’Autorità Bancaria europea (ABE) e Banca centrale europea ( BCE) . Su questa base giuridica art. 96 l’ABE ha pubblicato un documento applicabile dal gennaio 2022 che descrive gli orientamenti su come comportarsi in caso di incidenti di sicurezza. Un caro saluto Mauro Alovisio Il giorno mer 16 nov 2022 alle ore 09:33 380° <g380(a)biscuolo.net> ha scritto: > Buongiorno, > > il caso contingente è quello dei clienti di ING Direct che da ieri > mattina 15 Novembre [1] non riescono ad accerere online al proprio conto > (pare che via app su smartphone funzioni [2]): > > https://community.ing.it/t5/Conto-corrente/conto-corrente-non-accessibile-d… > > Nel caso di ING, tengo a sottolineare che la banca non ha provveduto ad > avvisare i clienti ma si limita ad attendere che i clienti chiamino al > telefono e [3] rispondere che "hanno provveduto a segnalare ai tecnici", > senza fornire nessuna spiegazione in merito all'incidente e men che meno > stime su quando sarà ripristinata la piena operatività ("potrebbe essere > sistemato entro oggi ma non possiamo garantire, potrebbe volerci qualche > giorno); l'incidente pare coinvolga anche il sistema per inviare l'OTP > al cliente, per cui non è garantita (a quando riferito dall'operatore) > nemmeno l'operatività del canale telefonico, che necessita anch'esso di > OTP. > > Per favore qualcuno in lista sa se la PSD2 o qualche altra norma ha > delle previsioni in merito a come deve essere gestito un incidente del > genere? > > Grazie, 380° > > [1] il 16 Novembre è giorno di scadenze fiscali, pure :-( > > [2] ma ciclicamente pare ci siano ostacoli anche con le app > > https://community.ing.it/t5/Conto-corrente/Acesso-al-Conto-Corrente-Online-… > e non solo di ING > > [3] solo dopo aver completato /tutta/ la procedura di autenticazione > telefonica, non mettono nemmeno una voce registrata che avvisa dei > problemi tenici > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Nov. 17, 2022

Re: [nexa] “Automaticamente illegali”. Una proposta per i sistemi di intelligenza artificiale

by 380°

Buonasera, grazie per il confronto! Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > 1. Ci sono tantissimi software non-AI che sono utilizzati per > classificare e produrre decisioni, non è una caratteristica > "discriminante" dei software AI: sbaglio? Nel caso del software AI > cosa c'è di differente sotto questo aspetto? Non ho il diritto di > conoscere i meccanismi di funzionamento del software che /decide/ che > un tale fenomeno è così invece che "cosà"? > > Una differenza rilevante dal punto di vista giuridico e politico è > interna alla cosidetta AI ed è quella che caratterizza i sistemi di > machine learning (ML) rispetto all'IA simbolica. Prometto che andrò a studiare, ma pur comprendendo benissimo la differenza informatica tra modelli AI ricavati via ML (codice binario non human-readeable) e AI simbolica (rappresentazioni simboliche human-readeable), non capisco che differenza dal punto di vista giuridico ci sia. [...] > ma ho specificato fin dalla prima riga che la questione riguarda i > sistemi di apprendimento automatico. Sì mi è stato chiaro fin dalla prima riga della mia risposta :-) [...] > grazie a sistemi sostanzialmente statistici [...] > L'opacità è una differenza cruciale, giuridicamente, perché se adopero > un sistema fondato sul calcolo simbolico per decidere, ad esempio, a > quali sedi assegnare i docenti delle scuole superiori, posso farlo > scegliendo quali variabili pesare, e quanto. giusto, purché non dimentichiamo di considerare il fatto che la scelta delle variabili e quanto pesarle è effettuata da chi scrive il codice e per capire quali scelte sono state fatte occorre poter leggere il codice sorgente (o fare reverse engineeting del binario ma è praticamente impossibile) > Se utilizzo un sistema ML non sarò in grado di spiegare perché mai un > dato docente sia stato assegnato "dall'algoritmo" a una data scuola. sì, i risultati dei sistemi ML sono /inspiegabili/ ...ma in molte (alcune) situazioni funzionano benissimo (ad es, i sistemi OCR) > Di qui la sentenza del TAR del Lazio che ha dato ragione ai docenti > ricorrenti, ribadendo che il ricorso a una procedura informatica non > può essere una ragione per eludere i principi del nostro ordinamento, > evitando, nel caso in oggetto, di motivare l'assegnazione a una certa > sede: > https://www.giustizia-amministrativa.it/portale/pages/istituzionale/visuali… Giusto, dimenticavo quella sentenza. Non l'ho (ancora?) studiata ma a mio modestissimo avviso la consecutio logica di simili posizioni giuridiche è che quando viene utilizzato software (binario) in un processo di valutazione deve essere messo a disposizione di tutti gli interessati anche il codice sorgente, perché anche il binario è opaco (opacissimo) e solo le dichiarazioni del fornitore del software (attraverso schede tecniche, manuale, dichiarazioni...) motivano come il software valuta i dati forniti. > Questa opacità è oggetto di due narrazioni: > > a. quella finanziata e diffusa dai GAFAM, che antropomorfizza l'IA: > - assimilando l'opacità dei sistemi sub-simbolici > all'imperscrutabilità delle intenzioni umane (non posso aprire la > black box del sistema ML così come non posso leggere nel cuore - o nel > cervello - umano) questa narrazione mi era sfuggita: no comment > - confondendo la traduzione in termini computazionali con una garanzia > di salomonica imparzialità, oggettività e giustizia (l'incredibile > abbaglio, o imbroglio, che vige ormai pressoché incontrastato) chiedo scusa se insisto ma la stessa insopportabile narrazione vale anche per il software "tradizionale", fin dall'uso dei primi sistemi computerizzati [1] > - presentando le discriminazioni, sensate e insensate [...] come un > problema tecnico, risolvibile sulla base dell'"etica dell'IA", anziché > come una caratteristica costitutiva e al momento ineliminabile dei > sistemi ML, a causa dei molti "debiti etici" contratti nel corso della > loro costruzione, in virtù delle "scorciatoie" adottate (le due > espressioni, azzeccatissime, sono di Nello Cristianini). idem come sopra [1] [...] > 2. Analisi di /quali/ rischi, per un software?!? Rischio di > "bias", "falsi positivi", "attacchi alla supply-chain", "violazione > del GDPR"? I servizi di Facebook o Google violano il GDPR ma non la > normativa USA, sono (potenzialmente?) illegali in EU: c'è bisogno di > una analisi dei rischi per stabilirlo? Considerati i problemi del > software analizzati prima (correlazione e attacchi) la valutazione dei > rischi fino dove si dovrebbe spingere? Analizzo il mio software o devo > analizzare anche i componenti terzi? Se si, fino a che livello devo > spingermi, fino alla radice dell'intera catena di build? > > La parte sulle licenze e le certificazioni è quella che lascia > perplessa anche me, soprattutto perché intravedo un ennesimo ethics > washing, con la soluzione dell'etica come requisito tecnico Se per licenze intende "licenze ad operare" (tipo un'abilitazione professionale o una autorizzazione ministeriale) e non "licenze software" allora direi che la cosa non può lasciare solo perplessi ma come minimo sconcertare: con che faccia tosta qualcuno potrebbe seriamente proporre quella come soluzione? Sulla certificazione ho già detto tutto il (male) possibile, posso solo dire che la certificazione e i relativi standard tecnici sono /ampiamente/ sopravvalutati... anzi sono "standards washing" :-D > (o addirittura, come già è stato proposto, dell'etica come servizio). Quanto costa la fornitura di una settimana d'etica?!? B-) > Quello che trovo apprezzabile, nella proposta di Pasquale e Malgieri, > è il coraggio di chiedere che la legge vieti che che un sistema di un > certo tipo, con certi limiti intrinseci, sia spacciato per il re > taumaturgo. Io invece no, ritengo che sia /estremamente/ pericoloso farlo in questo modo, ovvero sistemi ML illegali per default (traviso?). Forse (forse?) i giudici hanno già in mano tutti gli strumenti adeguati per poter giudicare /nel merito/ quando un atto debba essere invalidato nel caso i sistemi informatici utilizzati - determinanti per l'esito dell'atto - non forniscano adeguate garanzie di trasparenza, come nel caso del TAR del Lazio citato sopra. A mio modesto avviso non c'è bisogno di "incasinare" (mi si conceda) il quadro giuridico o legislativo per sanare le innumerevoli storture causate dal cattivo (ab)uso del software (tutto), sostenute attraverso narrative ciarlatane sebbene riscuotano un qual certo successo. [...] > E invece sono già in commercio applicazioni, o promesse, per ciascuna > di queste magie. Sì ma il problema non è che siano in commercio (e quindi vanno vietate o certificate o o la commercializzazione essere affidata solo a chi ha la licenza per farlo) ma che ci siano persone e istituzoni che ne /abusano/ per farne utilizzi impropri (o nascondere la propria inedeguatezza). Per fare un esempio, il software usato per l'assegnazione a una certa sede scolastina di cui sopra (TAR del Lazio...) potrebbe essere benissmo (ri)utilizzato per stabilire come immagazzinare i prodotti dentro un magazzino, che problema ci sarebbe? Qual'è quindi il problema: il software (AI) o l'uso improprio che se ne fa? Per fare un altro esempio, a me pare ovvio che un software AI non /deve/ essere utilizzato per generare un modello che poi viene preso come prova scientifica sulla base della quale poi vengono prese decisioni politiche che hanno impatto su moltissime persone... sono io che non capisco niente di scienza? Da quando la correlazione è diventato "metodo scientifico"? Scienza o /numerologia/?!? > E tutta questa snake oil AI si basa sulla cattura, estorsione, > espropriazione, a volte semplice furto, di dati personali (donde il > nesso strettissimo con la bolla giuridica). Non tutta l'AI si basa sull'analisi dei dati personali. L'estorsione dei dati personali non dovrebbe esistere e /tecnicamente/ si può fare... ma a mio modesto avviso separerei l'argomento da AI/non-AI > Proprio per questo mi pare sensato proporre l'illegalità tout court di > questi sistemi Anche dei sistemi OCR? > e attribuire a chi voglia invece utilizzarli l'onere di dimostrare che > non lo sono e di giustificare, tra le altre, la pertinenza dei dati > utilizzati, rispetto al fine, nonché la proporzionalità. Io credo invece che sia /pericoloso/, non foss'altro per il fatto che /mai/ un qualsiasi utilizzatore di un sistema cibernetico, ancorché AI "certificata", dovrebbe nascondersi dietro la pretesa oggettività (certificata?) di tale sistema per negare le proprie responsabilità di (ab)uso. > Anche per i sistemi seri e utili, come quelli in ambito medico, ci > sono infatti rischi: Therac-25 docet https://en.wikipedia.org/wiki/Therac-25 (questo per ribadire che, quando si utilizzano sistemi cibernetici, i richi c'erano e ci sono anche senza AI) Tutte le persone "informate sui fatti" lo sanno benissimo, poi ci sono alcuni (molti) che fanno finta di non sapere, altri di non capire... altri proprio non capiscono. [...] > Se qualcosa di analogo avviene nell'automatizzazione della diagnostica > per immagini, La diagnostica non deve essere automatizzata, il medico non si può nascondere dietro la /presunta/ oggettività di una diagnosi fatta da una macchina; tuttavia, se la macchina è in grado di fornire indicazioni che il medico ritiene utili e non contraddittorie, che senso avrebbe vietare la macchina, che senso avrebbe certificarla e con questo creare nel medico delle false aspettative? O forse l'automazione della diagnistica è una soluzione a un problema /mascherato/, quello della carenza di medici? > le conseguenze sono più pesanti e può darsi che ce ne > accorgiamo, per qualcuno, troppo tardi. Il riferimento all'articolo > di Doctorow non era tanto sulla questione della fiducia, su cui ci > sono lavori più pertinenti, quanto per una spiegazione incisiva e > accessibile di cosa siano gli attacchi avversari ai sistemi ML. Va bene, ma su questo aspetto è importante considerare che gli attacchi ai sistemi ML (di cui ho letto, anche su lavori più pertinenti) sono del tutto /analoghi/ a quelli al software "tradizionale" Saluti, 380° [...] [1] se n'è parlato recentemente anche qui nel thread «The 1960s Experiment Created Today’s Biased Police Surveillance» https://server-nexa.polito.it/pipermail/nexa/2022-November/024395.html -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Nov. 17, 2022

Re: [nexa] banche online: norme sulla operatività?

by 380°

380° <g380(a)biscuolo.net> writes: [...] > https://www.agendadigitale.eu/cittadinanza-digitale/pagamenti-digitali/banc… > > «Banche e incidenti di sicurezza informatica: aspetti legali, obblighi e > responsabilità» (30 Gennaio 2019) > > --8<---------------cut here---------------start------------->8--- > > Gli incidenti di sicurezza informatica nelle banche hanno ricadute ad > ampio spettro, tecnici, organizzativi e legali, come è possibile > ricavare dal combinato disposto di alcune disposizioni: > > * Circolare n. 285/2013 di Banca d’Italia [...] Mi pare di capire che è tutto scritto nella "bibbia" della Banca d'Italia intitolata «Disposizioni di vigilanza per le banche - Circolare n. 285 del 17 dicembre 2013» https://www.bancaditalia.it/compiti/vigilanza/normativa/archivio-norme/circ… Un tomo di 797 pagine in PDF, nel quale il termine "continuità operativa" è citato 151 volte Bene. (Bene?) Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Nov. 16, 2022

Re: [nexa] banche online: norme sulla operatività?

by 380°

380° <g380(a)biscuolo.net> writes: [...] > Per favore qualcuno in lista sa se la PSD2 o qualche altra norma ha > delle previsioni in merito a come deve essere gestito un incidente del > genere? Ho trovato questo articolo di AgendaDigitale.it https://www.agendadigitale.eu/cittadinanza-digitale/pagamenti-digitali/banc… «Banche e incidenti di sicurezza informatica: aspetti legali, obblighi e responsabilità» (30 Gennaio 2019) --8<---------------cut here---------------start------------->8--- Gli incidenti di sicurezza informatica nelle banche hanno ricadute ad ampio spettro, tecnici, organizzativi e legali, come è possibile ricavare dal combinato disposto di alcune disposizioni: * Circolare n. 285/2013 di Banca d’Italia * Direttiva UE 2015/2366 (PSD2) * Orientamenti attuativi di EBA (incidenti di sicurezza e outsourcing) * Regolamento UE 679/2016 (GDPR) [...] L’elemento differenziante sono i diversi impatti correlati al rischio individuato o da individuare. L’integrità, la disponibilità, la riservatezza, l’autenticità e/o la continuità delle risorse ICT, dei servizi di pagamento e dei dati personali sono parte del medesimo processo valutativo finalizzato all’individuazione e alla classificazione di un incidente di sicurezza, tenuto conto delle specificità previste dalle normative di riferimento. [...] Banca d’Italia con Circolare n. 285 recante «Disposizioni di Vigilanza per le banche» definisce gli incidenti di sicurezza informatica come ogni evento che implica la violazione o l’imminente minaccia di violazione delle norme e delle prassi aziendali in materia di sicurezza delle informazioni (ad es., frodi informatiche, attacchi attraverso internet, malfunzionamenti e disservizi). [...] In particolare, nel 2018, l’European Banking Autority in attuazione dell’art. 96, Direttiva UE 2015/2366 recante disposizioni relative ai «servizi di pagamento nel mercato interno» definisce gli incidenti operativi o di sicurezza come singoli eventi o serie di eventi collegati non pianificati dal prestatore di servizi di pagamento che ha o probabilmente avrà un impatto negativo su integrità, disponibilità, riservatezza, autenticità e/o continuità dei servizi connessi ai pagamenti. [...] L’incidente di sicurezza non si limita ai modelli di minaccia in cui un attacco a un’organizzazione viene effettuato da una fonte esterna, ma include gli incidenti derivanti da fonti interne in violazione ai principi di sicurezza. Inoltre, tali fenomeni includono sia eventi dolosi sia eventi accidentali. La classificazione degli incidenti di sicurezza si fonda per Banca d’Italia sulle conseguenze economiche ed organizzative che derivano dall’evento e in considerazione degli impatti sull’attività bancaria nonché sulla capacità della stessa di conformarsi alle disposizioni di vigilanza, considerata anche la necessità di rispettare i principi sull’esternalizzazione di funzioni operative importanti. [...] obblighi di comunicazione immediata alle rispettive autorità competenti da parte dell’intermediario, quindi alla necessità di mantenere il controllo dei rischi in caso di esternalizzazione. Nello specifico, l’intermediario deve: * Per la Circolare n. 285, con l’invio di un rapporto sintetico a Banca d’Italia recante una descrizione dell’incidente e dei disservizi provocati agli utenti interni e alla clientela; * Per gli orientamenti EBA, con l’invio di un rapporto iniziale, intermedio e finale a Banca d’Italia recante una descrizione dettagliata dell’incidente; [...] [...] la responsabilità della tempestiva segnalazione ricade esclusivamente in capo all’intermediario, --8<---------------cut here---------------end--------------->8--- L'articolo poi si concentra sull'esternalizzazione di (parte dei) servizi informatici degli intermediari (tra cui banche), ma non dice nulla sui diritti dei "consumatori". Boh?!? Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Nov. 16, 2022