- nexa - server-nexa.polito.it

Re: [nexa] EPIC Report - Screened & Scored in District of Columbia

by 380°

Buongionro, grazie mille Diego per la segnalazione! Com'era: sistema di credito sociale... cinese?!?!? "Diego.Latella" <diego.latella(a)isti.cnr.it> writes: > Dal sito web del report (https://epic.org/screened-scored-in-dc/ ): > > "The D.C. government outsources critical governmental decisions to > automated decision-making systems in areas such as public benefits, > healthcare, policing, and housing. As a result, District residents are > surveilled, screened, and scored every day. Qualche esempio estratto dal report, che altrimenti a qualcuno potrebbe rischiare di suonare come una esagerazione "complottista": --8<---------------cut here---------------start------------->8--- Thomson Reuters, one of the country’s largest data brokers, surveils public benefits recipients on behalf of the government and uses ADM systems to rate their likelihood of committing fraud. The Metropolitan Police Department uses automated license plate readers to capture drivers’ license plates and feed the plate numbers into databases of residents’ locations and travel patterns. [...] The process begins when an outreach worker or homeless service organization uses the VI-SPDAT survey to collect data about unhoused people’s health, social activity, income, personal habits, experience with violence, social security numbers, demographic information, migration status, and more. This data is entered into a federally approved Homeless Management Information System (HMIS), [...] According to the Consumer Financial Protection Bureau,21 a tenant screening report may consist of information from any or all of the following: • Credit reports • Rental and eviction history • Employment verification • Criminal history • Sex offender status • National terrorist watchlist Most tenant screening companies buy this information in bulk from a variety of sources, then produce a “risk rating” or a “risk score” for potential landlords. A large number of private companies produce tenant screening reports with very little oversight. These reports have been the subject of investigations, lawsuits, and legislative efforts that challenge their inaccuracies, their unclear dispute and correction process, and their impact on fair housing laws. --8<---------------cut here---------------end--------------->8--- Un veloce e incompleto (perché l'amministrazione non è affatto trasparente) riassunto dei sistemi automatici usati è riportato a pagina 12 del report, nella tabella «Table: Automated Decision-Making Systems in D.C» ...ma soprattutto, sottolineato ottantacinque(mila) volte: --8<---------------cut here---------------start------------->8--- Agencies claim ADM systems are necessary to efficiently decide who gets access to limited resources. --8<---------------cut here---------------end--------------->8--- Sempre la solita titirera: le risorse sono (state!) /limitate/ :-O [...] Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Nov. 2, 2022

Re: [nexa] nexa Digest, Vol 163, Issue 3

by Marco Giraudo

Gentile Alessandro, chiedo scusa se mi inserisco nella conversazione, ma volevo ricollegarmi a quanto dite riguardo alla propensione ad innovare della società in contesti di incertezza riguardo alle implicazioni delle nuove attività. A tal proposito mi faceva piacere condivide con la lista queste riflessioni generali sul tema dell'eccessivo tecnottimismo in campo giuseconomico. https://www.cambridge.org/core/journals/journal-of-institutional-economics/… Il campo dell'intelligenza artificiale è particolarmente esposto a tali dinamiche di legal innovation hype e si intravedono bolle giuridiche all'orizzonte. I migliori auguri Marco Giraudo Le mer. 2 nov. 2022 à 13:41, <nexa-request(a)server-nexa.polito.it> a écrit : > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: ethical AI (era "It’s time to admit, self-driving cars > aren’t going to happen") (Alessandro Brolpito) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Wed, 2 Nov 2022 13:40:41 +0100 > From: Alessandro Brolpito <abrolpito(a)gmail.com> > To: Giacomo Tesio <giacomo(a)tesio.it> > Cc: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] ethical AI (era "It’s time to admit, > self-driving cars aren’t going to happen") > Message-ID: > <CABkhOK_jZjFunV_tfgrM4= > 1nU8vxzdsBMUU-+QvHHT3D34QBhQ(a)mail.gmail.com> > Content-Type: text/plain; charset="utf-8" > > Ciao Giacomo, > > Il fatto è che l'uomo ha sviluppato una capacità tecnologica che rende > immensamente facile fare cose e servizi nuove/i, senza lasciare il tempo di > analizzare e comprenderne il loro senso e soprattutto,i rischi e gli > effetti collaterali. > > E mentre noi scriviamo migliaia/milioni di persone/automi nel mondo > lavorano allo sviluppo sistemi basati sull'intelligenza artificiale, sempre > più chiusi, che limitano la ns autonomia offrendo "splendenti" automazoni. > Una spirale che andrebbe compresa meglio, basata su solidi principi > internazionali che al momento latitano. > > Ma come preservare l'autonomia umana? Chiaramente non sono in grado di > rispondere, ma penso che uno dei presupposti sia una consapevolezza e > competenza digitale collettiva (e non di pochi), che crei una forza d'urto > democratica, dal basso, attraverso una alfabetizzazione digitale di > altissimo rango, di massa, che copra l'intero percorso educativo di ciascun > individuo. E questo è già un problema enorme. > > Alessandro > > > On Mon, 31 Oct 2022 at 19:59, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > Ciao Maurizio, > > > > sorvolo temporaneamente sull'aspetto esotico (la "AI") per concentrarmi > > sulla questione fondamentale, che si applica a qualsiasi software (e > > qualsiasi agente cibernetico artificiale, aziende, PA e governi inclusi) > > > > On Mon, 31 Oct 2022 09:01:20 +0100 maurizio lana wrote: > > > > > mi fa capire che non mi sono espresso bene usando il termine > > > "utilizzatore". [...] > > > abbiamo i progettisti del software, > > > e poi abbiamo l'agente di assicurazione che lo usa. > > > a mio modo di vedere l'agente (che qui è l'utilizzatore) è > > > responsabile per l'uso di quel software. [...] > > > l'utilizzatore dell'auto a guida autonoma può > > > decidere /non/ utilizzare un'auto a guida autonoma > > > > L'utente esiste solo mentre usa. > > > > La persona può scegliere di usare o meno il software, l'utente no. > > > > Come utente, è soggetto a regole più o meno stringenti a seconda dei > > valori e degli obbiettivi di chi ha scritto il software. > > > > Editor di testo come Acme, Emacs, Geany, Vim etc, ti offrono > > una libertà notevole, quasi illimitata, ci puoi programmare > > o tenere la lista della spesa. > > Letteralmente come un foglio bianco. > > > > Lo stesso si può dire di un linguaggio di programmazione general > > purpose, come possono essere C, Python, Haskell, Lisp o Java (giusto per > > fare qualche nome molto noto). > > > > > > Un ambiente RAD (Rapid Application Development) ti offre una > > libertà infinitamente inferiore, ti offre dei mattoncini > > preconfezionati che tu puoi combinare e configurare con > > una certa flessibilità, ma non puoi fare nulla che contrasti con gli > > interessi di chi te lo ha fornito. > > > > Analogamente un domain specific language può limitare enormemente > > la quantità di concetti che puoi esprimere. > > > > E naturalmente anche linguaggi general purpose diversi rendono > > più o meno facile ed intuitivo esprimere determinati concetti > > piuttosto che altri. > > > > > > Quando visiti un sito web che incorpora Google Fonts, i tuoi dati > > personali vengono inviati istantaneamente a Google senza nemmeno > > chiederti il permesso. > > > > Puoi NON visitare il sito web? > > Sì (se sai che cosa comporta tale visita a priori), ma smetti di essere > > "utente". > > > > > > Per questo la riduzione della persona ad utente è così aberrante. > > > > E' il passo subito precedente a ridurla consapevolmente ad ingranaggio. > > > > > > > > > proprio perché è > > > consapevole che in tal caso "può fare e pensare solo ciò che il > > > creatore dell'artefatto stesso ha deciso". se la usa, con più > > > consapevolezza o meno decide di obbedire al produttore dell'auto (è > > > detto in termini un po' brevi e rozzi ma il senso è chiaro). > > > > sì ma questa decisione si pone PRIMA di essere utente. > > > > l'utente ormai è utente, e può essere eticamente irrilevante. > > > > L'editor che ti permette di estendere e modificare sé stesso, pretende > > che tu mantenga la tua autonomia. L'editor che puoi solo usare, invece > > ti rende eticamente irrilevante (rispetto alle conseguenze dell'utilizzo > > dell'editor, non rispetto al testo che scrivi). > > > > Se Visual Studio Code ti suggerisce codice sotto GPL con una licenza > > diversa e tu lo accetti all'interno della tua codebase, violando il > > diritto d'autore di chi quel codice l'ha scritto, tu COME UTENTE non > > hai modo di sapere che VSCode ti sta spingendo a violare i diritti di > > terzi in quel caso specifico. > > > > > > Dunque non puoi rispondere moralmente di tale violenza, perché non è > > una tua scelta. Se venissi beccato, ne risponderesti legalmente. > > Ma la responsabilità morale di quella violenza è tutta di Microsoft. > > > > > > E' Microsoft che ha creato GitHub CopyALot per aprire un nuovo loophole > > nel copyleft, permettendo di scaricare su una cosa irresponsabile la > > responsabilità di qualunque violazione del copyright di autori del > > software libero. > > > > > > Tu puoi scegliere di NON usare Visual Studio Code (o disabilitare > > qualsiasi interazione con CopyALot) ma nel momento in cui lo usi, > > diventi eticamente irrilevante: violerai o non violerai i diritti di > > terzi sulla base di volontà altrui. > > > > Sei in sostanza un ingranaggio tu stesso. > > E se giri bene, ti senti pure produttivo! > > > > > > > molto si gioca tra consapevolezza/inconsapevolezza e > > > cautela/sprovvedutezza > > > > Questo è vero, ma parziale. > > > > Se dopo un incidente ti portano in ospedale e quell'ospedale usa il > > cloud di Microsoft, non c'è consapevolezza che tenga. > > > > Sei un oggetto. > > > > > > > se /so/ che i dispositivi a input vocale più > > > spesso che no ascoltano ininterrottamente l'ambiente e quindi > > > ascoltano ciò che dico anche quando non do comandi vocali, > > > consapevolezza e cautela mi porteranno a non acquistare quel tipo di > > > prodotti e ove disponibili preferirò le versioni dumb a quelle smart. > > > non perché sono un troglodita rimasto al tempo delle caverne, ma > > > proprio perché conosco il mondo digitale, la tecnologia, eccetera e > > > scelgo quale tecnologia voglio usare. > > > > Infatti la riduzione della persona all'utente punta alla sua riduzione > > ad ingranaggio ma nasce dalla sua riduzione a consumatore. > > > > L'idea che la libertà si riduca alla possibilità di scegliere un > > prodotto fra N sullo scaffale del (super)mercato. > > > > > > Come utente, non hai libertà (se non quella che io ti voglio concedere) > > > > Come consumatore, al limite, puoi scegliere di diventare utente di > > qualcos'altro (che limiterà la tua libertà in altro modo). > > > > > > E' questa la libertà per l'homo sapiens sapiens? > > > > NO! > > > > > > Gli uomini sono capaci di creare! Di sperimentare! Di esplorare! > > Di inventare alternative che non esistevano! > > > > (S)Fortunatamente possono essere convinti a ridursi a consumatori, a > > utenti o a ingranaggi. E' un processo lento, ma evidentemente efficace. > > > > > > > e quindi ad un successivo più alto livello tutto si gioca sul so/non > > > so, dove il so/non so non riguarda necessariamente lo specifico > > > prodotto, ma tipi di prodotti, tipi di questioni problematiche, > > > eccetera. che è poi una questione di literacy, di information > > > literacy: quanto ogni cittadino è attrezzato per vivere e operare in > > > questa società dell'informazione, e dell'informazione digitale? > > > > Già solo parlando di "digitale" o di "società dell'informazione" si > > allontana dalla consapevolezza di cui ha bisogno. > > > > La società in cui viviamo è cibernetica. > > Integra strettamente ed inesorabilmente autonomie (umane) e automatismi. > > > > Ma le autonomie sono quasi sempre compresse dagli automatismi: gli > > automatismi sono migliaia, ti invito a contare solo quelli sul tuo PC > > tenendo in conto che ogni software è un automatismo a sé stante. > > > > Inoltre, poiché non comprende il funzionamento di tali automatismi, la > > maggioranza delle persone le scambia per un fenomeno naturale. > > > > E' un bias evolutivo: ci siamo evoluti per milioni di anni in un sistema > > in cui la quasi totalità di ciò che non potevamo controllare non era > > controllato costantemente da altri esseri umani. > > > > Un eruzione vulcanica, una grandinata o un fulmine, non eseguivano la > > volontà di un'altro essere umano. > > > > Così quando vediamo che Google ci invia un messaggio pubblicitario di > > nostro interesse non stiamo a pensare alle implicazioni. > > Ci appare come un fenomeno naturale, ancora prima che intervenga il > > pensiero magico di cui parlava Daniela. > > > > > > L'unico modo per superare questa tara evolutiva è comprendere come > > funzionano gli automatismi che ci circondano, saperli creare e > > modificare, in modo tale da acquisire piena consapevolezza della > > loro natura. > > > > Ma non si tratta di "alfabetizzazione digitale", si tratta proprio di > > imparare faticosamente a programmare e debuggare il software, a > > leggerlo come leggiamo un thriller. > > > > > > > molti sono come gli analfabeti che firmavano i contratti mettendo una > > > croce e fidandosi di ciò che il proponente gli diceva. > > > > Letteralmente! > > > > > > > c'è molto da fare in formazione > > > > Sono assolutamente d'accordo. > > > > Alla dirigenza della CGIL, mesi fa, proponevo proprio questo. [1] > > > > > > > che è poi uscire dalla caverna e liberarsi dal dominio delle ombre. > > > > Non sono le ombre (il software) ad opprimervi, ma chi che le proietta. > > Spesso direttamente nelle vostre teste. ;-) > > > > > > ``` > > Morpheus: The Matrix is everywhere, it is all around us, even now > > in this very room. You can see it when you look out your window, or > > you turn on your television. You can feel it when you go to work, > > when you go to church, when you pay your taxes. It is the world that > > has been pulled over your eyes to blind you from the truth. > > > > Neo: What truth? > > > > Morpheus: That you are a slave, Neo. > > Like everyone else, you were born into bondage… born into a prison > > that you cannot smell or taste or touch. > > A prison for your mind. > > ``` > > > > > > Giacomo > > > > [1]: http://video.linuxtrent.it/w/3BBQ5rRqrzhoqiQDQ5is4e > > > > > > > Maurizio > > > > > > Il 30/10/22 23:12, Giacomo Tesio ha scritto: > > > > Salve Maurizio, > > > > > > > > On Sun, 30 Oct 2022 18:44:36 +0100 maurizio lana wrote: > > > > > > > >> anche se ne hai poi parlato sotto, mi pare che è qui che per te si > > > >> pone l'impossibilità di un'«etica delle AI» perché in senso stretto > > > >> essa implicherebbe che l'AI sia un soggetto autonomo, capace di > > > >> scelte autonome, di cui quindi si può valutare l'etica. ma questo > > > >> implicherebbe che l'AI sia dotata di agency come un soggetto umano > > > >> adulto senziente e ragionante, senza limitazioni. > > > > Esatto. > > > > > > > > Preferisco parlare di libero arbitrio o autonomia, ma in entrambi i > > > > casi il software (e qualsiasi altra macchina) non ne ha. > > > > > > > > Parlare di "etica delle AI" è esattamente come parlare di "etica dei > > > > sassi" o di "etica delle macchine". > > > > > > > > > > > > L'etica, così come l'intelligenza o l'informazione, sono peculiarità > > > > del homo sapiens sapiens. Letteralmente: parte della sua > > > > definizione. > > > > > > > > > > > > Se parlassimo di intelligenza dei sassi, sarebbe evidente a tutti > > > > che stiamo antropomorfizzando i sassi. Se parlassimo di etica dei > > > > sassi a qualcuno verrebbe da ridere. > > > > > > > > Ma anche quando parliamo di macchine novecentesche parlare di > > > > "etica" appare subito evidentemente strumentale. > > > > > > > > Immaginate l'industriale che, all'ennesimo morto sul lavoro > > > > schiacciato da una pressa, proponesse come alternativa > > > > all'introduzione di normative sulla sicurezza delle presse, > > > > l'adozione di un'etica delle presse. > > > > > > > > > > > > Con il software, a valle di un lungo lavoro di propaganda che > > > > Daniela ha descritto benissimo nel suo saggio [1], invece la gente > > > > può parlare di "etica delle AI" senza che tutti inizino a ridergli > > > > in faccia. > > > > > > > > Vengono persino invitati a parlare a conferenze, pubblicati su > > > > riviste di filosofia etc... > > > > > > > > Dal punto di vista oggettivo, i loro argomenti hanno la stessa > > > > solidità delle teorie terrapiattiste. > > > > > > > > E un po' come avvenne in passato con il sistema tolemaico, queste > > > > teorizzazioni servono gli interessi di chi comprende benissimo la > > > > loro fallacia, ma trae vantaggio dalla loro diffusione. > > > > > > > > > > > >> mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte > > > >> come progettista sia a valle come utilizzatore e non > > > >> nell'artefatto. > > > > L'artefatto non ha etica. > > > > Esprime l'etica di chi l'ha costruito, imprimendola al resto del > > > > mondo. > > > > > > > > Ne riproduce la volontà. > > > > Ne diffonde i valori. > > > > > > > > > > > > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente > > > > irrilevante. Se non può alterare concretamente e consapevolmente il > > > > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può > > > > fare e pensare solo ciò che il creatore dell'artefatto stesso ha > > > > deciso. > > > > > > > > Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine > > > > Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata, come > > > > ingranaggio, come capro espiatorio. Non era la prima volta che si > > > > "distraeva"... "alla guida". Tali "distrazioni" erano già state > > > > registrate da Uber che misurava, per massimizzarlo, il grado di > > > > confidenza dei passeggeri nella guida automatica (NON autonoma!). > > > > > > > > In altri termini per Uber le "distrazioni" di Rafaela Vasquez erano > > > > una feature, non un problema. > > > > > > > > Dunque Rafaela Vasquez era eticamente irrilevante. > > > > Era già stata ridotta ad una cosa, ad un ingranaggio inconsapevole, > > > > ad un topo di laboratorio e ad un capro espiatorio alla bisogna. > > > > > > > > > > > > Ma la Volvo di Uber non aveva alcuna etica (o alcuna intelligenza). > > > > > > > > Aveva percepito Elaine in tempo per evitarla, ma era stata > > > > configurata per non effettuare frenate di emergenza durante la > > > > guida "autonoma" in modo da "evitare un comportamento erratico del > > > > mezzo" che avrebbe provocato il mal d'auto ai passeggeri. > > > > > > > > Insomma, quella Volvo stava letteralmente applicando al mondo i > > > > valori di Uber, per cui la vita umana vale nettamente meno dei > > > > propri profitti. > > > > > > > > Ma invece di arrestare tutto il consiglio di amministrazione di > > > > Uber per omicidio, negli USA parlano di "Etica delle AI". > > > > > > > > > > > > La vita di Elaine Herzberg o di Rafaela Vasquez sono irrilevanti. > > > > Sono cose, insomma. Cose di scarso valore, peraltro. > > > > > > > > > > > > E' questo l'etica delle AI: una narrazione alienante costruita su > > > > un'altra narrazione alienante. > > > > > > > > > > > >> a quel punto la valutazione di capacità etica riguarda i > > > >> progettisti e gli utilizzatori e non è più questione di etica > > > >> dell'AI in senso proprio, ma di come si fa una progettazione di > > > >> prodotti che sia etica e un utilizzo di prodotti che sia etico. > > > > No, non è una questione di etica, ma di cultura e politica. > > > > > > > > Anzitutto bisogna comprendere come funzionano questi software. > > > > > > > > Per arrivarci dobbiamo abolire al più presto questo linguaggio > > > > antropomorfizzante (quando non religioso). Smettere di parlare > > > > di "intelligenza" o "allenamento" o "apprendimento" o "etica". > > > > > > > > > > > > Una volta compreso questo, si potrà smettere serenamente e > > > > consapevolmente di applicarli a persone o a dati di origine umana. > > > > > > > > Con la clonazione l'abbiamo fatto, con il software programmato > > > > statisticamente dobbiamo fare lo stesso. [2] > > > > > > > > > > > > A valle di tale moratoria internazionale, potremo decidere una > > > > normativa adeguata per le molte applicazioni che non riguardano > > > > direttamente esseri umani. > > > > > > > > Ad esempio, il trasporto merci su strade dedicate (magari > > > > sotterranee ed inaccessibili all'uomo). La massimizzazione della > > > > produzione agricola e così via... > > > > > > > > > > > > Dovremo solo sempre tenere a mente che l'antropomorfizzazione delle > > > > cose serve solo gli interessi di chi le controlla. > > > > > > > > > > > > Dunque, non parliamo di etica delle AI. > > > > Semplicemente perché già le AI stesse non esistono! ;-) > > > > > > > > > > > > Parliamo piuttosto di etica delle aziende? > > > > Ok! Allora limitiamo superiormente il loro profitto, così che una > > > > volta raggiunto il tetto, la massimizzazione dei profitti smetta di > > > > prevalere su qualsiasi altra considerazione. > > > > > > > > > > > > Giacomo > > > > > > > > PS: non sono certo di aver risposto a ciò che chiedevi... scusa. > > > > > > > > > > > > [1]: > > > > > > > https://commentbfp.sp.unipi.it/daniela-tafani-what-s-wrong-with-ai-ethics-n… > > > > > > > > [2]: Ci sono rarissimi contesti in cui può aver senso utilizzarli > > > > sotto attenta e addestratissima supervisione di gruppi > > > > multidisciplinari, che potremo elencare esplicitamente. > > > > > > > > Penso ad esempio all'uso medico: nessun medico, da solo, può > > > > comprendere i pericoli dell'uso di un sistema programmato > > > > statisticamente, ma un team di medici e informatici molto > > > > preparati, insieme, potrebbe. > > > > > > > > Personalmente non riesco a pensare un'altro caso d'uso in cui > > > > l'uso (sotto attenta e scrupolosa supervisione umana) di > > > > questi strumenti possa giustificare i pericoli che comportano. > > > > > > > > Per assicurarci che nessuno ne abusi, potremmo però stabilire > > > > che nessun profitto può essere ottenuto dall'uso di dati umani, > > > > neanche in quei rarissimi casi in cui è autorizzato. > > > > > > > > > > ------------------------------------------------------------------------ > > > > > > many of us believe the EU remains > > > the most extraordinary, ambitious, liberal > > > political alliance in recorded history. > > > where it needs reform, where it needs to evolve, > > > we should be there to help turn that heavy wheel > > > i. mcewan, the guardian, 2/6/2017 > > > > > > > ------------------------------------------------------------------------ > > > Maurizio Lana > > > Università del Piemonte Orientale > > > Dipartimento di Studi Umanistici > > > Piazza Roma 36 - 13100 Vercelli > > > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > >

Nov. 2, 2022

Re: [nexa] ethical AI (era "It’s time to admit, self-driving cars aren’t going to happen")

by Alessandro Brolpito

Ciao Giacomo, Il fatto è che l'uomo ha sviluppato una capacità tecnologica che rende immensamente facile fare cose e servizi nuove/i, senza lasciare il tempo di analizzare e comprenderne il loro senso e soprattutto,i rischi e gli effetti collaterali. E mentre noi scriviamo migliaia/milioni di persone/automi nel mondo lavorano allo sviluppo sistemi basati sull'intelligenza artificiale, sempre più chiusi, che limitano la ns autonomia offrendo "splendenti" automazoni. Una spirale che andrebbe compresa meglio, basata su solidi principi internazionali che al momento latitano. Ma come preservare l'autonomia umana? Chiaramente non sono in grado di rispondere, ma penso che uno dei presupposti sia una consapevolezza e competenza digitale collettiva (e non di pochi), che crei una forza d'urto democratica, dal basso, attraverso una alfabetizzazione digitale di altissimo rango, di massa, che copra l'intero percorso educativo di ciascun individuo. E questo è già un problema enorme. Alessandro On Mon, 31 Oct 2022 at 19:59, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Ciao Maurizio, > > sorvolo temporaneamente sull'aspetto esotico (la "AI") per concentrarmi > sulla questione fondamentale, che si applica a qualsiasi software (e > qualsiasi agente cibernetico artificiale, aziende, PA e governi inclusi) > > On Mon, 31 Oct 2022 09:01:20 +0100 maurizio lana wrote: > > > mi fa capire che non mi sono espresso bene usando il termine > > "utilizzatore". [...] > > abbiamo i progettisti del software, > > e poi abbiamo l'agente di assicurazione che lo usa. > > a mio modo di vedere l'agente (che qui è l'utilizzatore) è > > responsabile per l'uso di quel software. [...] > > l'utilizzatore dell'auto a guida autonoma può > > decidere /non/ utilizzare un'auto a guida autonoma > > L'utente esiste solo mentre usa. > > La persona può scegliere di usare o meno il software, l'utente no. > > Come utente, è soggetto a regole più o meno stringenti a seconda dei > valori e degli obbiettivi di chi ha scritto il software. > > Editor di testo come Acme, Emacs, Geany, Vim etc, ti offrono > una libertà notevole, quasi illimitata, ci puoi programmare > o tenere la lista della spesa. > Letteralmente come un foglio bianco. > > Lo stesso si può dire di un linguaggio di programmazione general > purpose, come possono essere C, Python, Haskell, Lisp o Java (giusto per > fare qualche nome molto noto). > > > Un ambiente RAD (Rapid Application Development) ti offre una > libertà infinitamente inferiore, ti offre dei mattoncini > preconfezionati che tu puoi combinare e configurare con > una certa flessibilità, ma non puoi fare nulla che contrasti con gli > interessi di chi te lo ha fornito. > > Analogamente un domain specific language può limitare enormemente > la quantità di concetti che puoi esprimere. > > E naturalmente anche linguaggi general purpose diversi rendono > più o meno facile ed intuitivo esprimere determinati concetti > piuttosto che altri. > > > Quando visiti un sito web che incorpora Google Fonts, i tuoi dati > personali vengono inviati istantaneamente a Google senza nemmeno > chiederti il permesso. > > Puoi NON visitare il sito web? > Sì (se sai che cosa comporta tale visita a priori), ma smetti di essere > "utente". > > > Per questo la riduzione della persona ad utente è così aberrante. > > E' il passo subito precedente a ridurla consapevolmente ad ingranaggio. > > > > > proprio perché è > > consapevole che in tal caso "può fare e pensare solo ciò che il > > creatore dell'artefatto stesso ha deciso". se la usa, con più > > consapevolezza o meno decide di obbedire al produttore dell'auto (è > > detto in termini un po' brevi e rozzi ma il senso è chiaro). > > sì ma questa decisione si pone PRIMA di essere utente. > > l'utente ormai è utente, e può essere eticamente irrilevante. > > L'editor che ti permette di estendere e modificare sé stesso, pretende > che tu mantenga la tua autonomia. L'editor che puoi solo usare, invece > ti rende eticamente irrilevante (rispetto alle conseguenze dell'utilizzo > dell'editor, non rispetto al testo che scrivi). > > Se Visual Studio Code ti suggerisce codice sotto GPL con una licenza > diversa e tu lo accetti all'interno della tua codebase, violando il > diritto d'autore di chi quel codice l'ha scritto, tu COME UTENTE non > hai modo di sapere che VSCode ti sta spingendo a violare i diritti di > terzi in quel caso specifico. > > > Dunque non puoi rispondere moralmente di tale violenza, perché non è > una tua scelta. Se venissi beccato, ne risponderesti legalmente. > Ma la responsabilità morale di quella violenza è tutta di Microsoft. > > > E' Microsoft che ha creato GitHub CopyALot per aprire un nuovo loophole > nel copyleft, permettendo di scaricare su una cosa irresponsabile la > responsabilità di qualunque violazione del copyright di autori del > software libero. > > > Tu puoi scegliere di NON usare Visual Studio Code (o disabilitare > qualsiasi interazione con CopyALot) ma nel momento in cui lo usi, > diventi eticamente irrilevante: violerai o non violerai i diritti di > terzi sulla base di volontà altrui. > > Sei in sostanza un ingranaggio tu stesso. > E se giri bene, ti senti pure produttivo! > > > > molto si gioca tra consapevolezza/inconsapevolezza e > > cautela/sprovvedutezza > > Questo è vero, ma parziale. > > Se dopo un incidente ti portano in ospedale e quell'ospedale usa il > cloud di Microsoft, non c'è consapevolezza che tenga. > > Sei un oggetto. > > > > se /so/ che i dispositivi a input vocale più > > spesso che no ascoltano ininterrottamente l'ambiente e quindi > > ascoltano ciò che dico anche quando non do comandi vocali, > > consapevolezza e cautela mi porteranno a non acquistare quel tipo di > > prodotti e ove disponibili preferirò le versioni dumb a quelle smart. > > non perché sono un troglodita rimasto al tempo delle caverne, ma > > proprio perché conosco il mondo digitale, la tecnologia, eccetera e > > scelgo quale tecnologia voglio usare. > > Infatti la riduzione della persona all'utente punta alla sua riduzione > ad ingranaggio ma nasce dalla sua riduzione a consumatore. > > L'idea che la libertà si riduca alla possibilità di scegliere un > prodotto fra N sullo scaffale del (super)mercato. > > > Come utente, non hai libertà (se non quella che io ti voglio concedere) > > Come consumatore, al limite, puoi scegliere di diventare utente di > qualcos'altro (che limiterà la tua libertà in altro modo). > > > E' questa la libertà per l'homo sapiens sapiens? > > NO! > > > Gli uomini sono capaci di creare! Di sperimentare! Di esplorare! > Di inventare alternative che non esistevano! > > (S)Fortunatamente possono essere convinti a ridursi a consumatori, a > utenti o a ingranaggi. E' un processo lento, ma evidentemente efficace. > > > > e quindi ad un successivo più alto livello tutto si gioca sul so/non > > so, dove il so/non so non riguarda necessariamente lo specifico > > prodotto, ma tipi di prodotti, tipi di questioni problematiche, > > eccetera. che è poi una questione di literacy, di information > > literacy: quanto ogni cittadino è attrezzato per vivere e operare in > > questa società dell'informazione, e dell'informazione digitale? > > Già solo parlando di "digitale" o di "società dell'informazione" si > allontana dalla consapevolezza di cui ha bisogno. > > La società in cui viviamo è cibernetica. > Integra strettamente ed inesorabilmente autonomie (umane) e automatismi. > > Ma le autonomie sono quasi sempre compresse dagli automatismi: gli > automatismi sono migliaia, ti invito a contare solo quelli sul tuo PC > tenendo in conto che ogni software è un automatismo a sé stante. > > Inoltre, poiché non comprende il funzionamento di tali automatismi, la > maggioranza delle persone le scambia per un fenomeno naturale. > > E' un bias evolutivo: ci siamo evoluti per milioni di anni in un sistema > in cui la quasi totalità di ciò che non potevamo controllare non era > controllato costantemente da altri esseri umani. > > Un eruzione vulcanica, una grandinata o un fulmine, non eseguivano la > volontà di un'altro essere umano. > > Così quando vediamo che Google ci invia un messaggio pubblicitario di > nostro interesse non stiamo a pensare alle implicazioni. > Ci appare come un fenomeno naturale, ancora prima che intervenga il > pensiero magico di cui parlava Daniela. > > > L'unico modo per superare questa tara evolutiva è comprendere come > funzionano gli automatismi che ci circondano, saperli creare e > modificare, in modo tale da acquisire piena consapevolezza della > loro natura. > > Ma non si tratta di "alfabetizzazione digitale", si tratta proprio di > imparare faticosamente a programmare e debuggare il software, a > leggerlo come leggiamo un thriller. > > > > molti sono come gli analfabeti che firmavano i contratti mettendo una > > croce e fidandosi di ciò che il proponente gli diceva. > > Letteralmente! > > > > c'è molto da fare in formazione > > Sono assolutamente d'accordo. > > Alla dirigenza della CGIL, mesi fa, proponevo proprio questo. [1] > > > > che è poi uscire dalla caverna e liberarsi dal dominio delle ombre. > > Non sono le ombre (il software) ad opprimervi, ma chi che le proietta. > Spesso direttamente nelle vostre teste. ;-) > > > ``` > Morpheus: The Matrix is everywhere, it is all around us, even now > in this very room. You can see it when you look out your window, or > you turn on your television. You can feel it when you go to work, > when you go to church, when you pay your taxes. It is the world that > has been pulled over your eyes to blind you from the truth. > > Neo: What truth? > > Morpheus: That you are a slave, Neo. > Like everyone else, you were born into bondage… born into a prison > that you cannot smell or taste or touch. > A prison for your mind. > ``` > > > Giacomo > > [1]: http://video.linuxtrent.it/w/3BBQ5rRqrzhoqiQDQ5is4e > > > > Maurizio > > > > Il 30/10/22 23:12, Giacomo Tesio ha scritto: > > > Salve Maurizio, > > > > > > On Sun, 30 Oct 2022 18:44:36 +0100 maurizio lana wrote: > > > > > >> anche se ne hai poi parlato sotto, mi pare che è qui che per te si > > >> pone l'impossibilità di un'«etica delle AI» perché in senso stretto > > >> essa implicherebbe che l'AI sia un soggetto autonomo, capace di > > >> scelte autonome, di cui quindi si può valutare l'etica. ma questo > > >> implicherebbe che l'AI sia dotata di agency come un soggetto umano > > >> adulto senziente e ragionante, senza limitazioni. > > > Esatto. > > > > > > Preferisco parlare di libero arbitrio o autonomia, ma in entrambi i > > > casi il software (e qualsiasi altra macchina) non ne ha. > > > > > > Parlare di "etica delle AI" è esattamente come parlare di "etica dei > > > sassi" o di "etica delle macchine". > > > > > > > > > L'etica, così come l'intelligenza o l'informazione, sono peculiarità > > > del homo sapiens sapiens. Letteralmente: parte della sua > > > definizione. > > > > > > > > > Se parlassimo di intelligenza dei sassi, sarebbe evidente a tutti > > > che stiamo antropomorfizzando i sassi. Se parlassimo di etica dei > > > sassi a qualcuno verrebbe da ridere. > > > > > > Ma anche quando parliamo di macchine novecentesche parlare di > > > "etica" appare subito evidentemente strumentale. > > > > > > Immaginate l'industriale che, all'ennesimo morto sul lavoro > > > schiacciato da una pressa, proponesse come alternativa > > > all'introduzione di normative sulla sicurezza delle presse, > > > l'adozione di un'etica delle presse. > > > > > > > > > Con il software, a valle di un lungo lavoro di propaganda che > > > Daniela ha descritto benissimo nel suo saggio [1], invece la gente > > > può parlare di "etica delle AI" senza che tutti inizino a ridergli > > > in faccia. > > > > > > Vengono persino invitati a parlare a conferenze, pubblicati su > > > riviste di filosofia etc... > > > > > > Dal punto di vista oggettivo, i loro argomenti hanno la stessa > > > solidità delle teorie terrapiattiste. > > > > > > E un po' come avvenne in passato con il sistema tolemaico, queste > > > teorizzazioni servono gli interessi di chi comprende benissimo la > > > loro fallacia, ma trae vantaggio dalla loro diffusione. > > > > > > > > >> mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte > > >> come progettista sia a valle come utilizzatore e non > > >> nell'artefatto. > > > L'artefatto non ha etica. > > > Esprime l'etica di chi l'ha costruito, imprimendola al resto del > > > mondo. > > > > > > Ne riproduce la volontà. > > > Ne diffonde i valori. > > > > > > > > > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente > > > irrilevante. Se non può alterare concretamente e consapevolmente il > > > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può > > > fare e pensare solo ciò che il creatore dell'artefatto stesso ha > > > deciso. > > > > > > Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine > > > Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata, come > > > ingranaggio, come capro espiatorio. Non era la prima volta che si > > > "distraeva"... "alla guida". Tali "distrazioni" erano già state > > > registrate da Uber che misurava, per massimizzarlo, il grado di > > > confidenza dei passeggeri nella guida automatica (NON autonoma!). > > > > > > In altri termini per Uber le "distrazioni" di Rafaela Vasquez erano > > > una feature, non un problema. > > > > > > Dunque Rafaela Vasquez era eticamente irrilevante. > > > Era già stata ridotta ad una cosa, ad un ingranaggio inconsapevole, > > > ad un topo di laboratorio e ad un capro espiatorio alla bisogna. > > > > > > > > > Ma la Volvo di Uber non aveva alcuna etica (o alcuna intelligenza). > > > > > > Aveva percepito Elaine in tempo per evitarla, ma era stata > > > configurata per non effettuare frenate di emergenza durante la > > > guida "autonoma" in modo da "evitare un comportamento erratico del > > > mezzo" che avrebbe provocato il mal d'auto ai passeggeri. > > > > > > Insomma, quella Volvo stava letteralmente applicando al mondo i > > > valori di Uber, per cui la vita umana vale nettamente meno dei > > > propri profitti. > > > > > > Ma invece di arrestare tutto il consiglio di amministrazione di > > > Uber per omicidio, negli USA parlano di "Etica delle AI". > > > > > > > > > La vita di Elaine Herzberg o di Rafaela Vasquez sono irrilevanti. > > > Sono cose, insomma. Cose di scarso valore, peraltro. > > > > > > > > > E' questo l'etica delle AI: una narrazione alienante costruita su > > > un'altra narrazione alienante. > > > > > > > > >> a quel punto la valutazione di capacità etica riguarda i > > >> progettisti e gli utilizzatori e non è più questione di etica > > >> dell'AI in senso proprio, ma di come si fa una progettazione di > > >> prodotti che sia etica e un utilizzo di prodotti che sia etico. > > > No, non è una questione di etica, ma di cultura e politica. > > > > > > Anzitutto bisogna comprendere come funzionano questi software. > > > > > > Per arrivarci dobbiamo abolire al più presto questo linguaggio > > > antropomorfizzante (quando non religioso). Smettere di parlare > > > di "intelligenza" o "allenamento" o "apprendimento" o "etica". > > > > > > > > > Una volta compreso questo, si potrà smettere serenamente e > > > consapevolmente di applicarli a persone o a dati di origine umana. > > > > > > Con la clonazione l'abbiamo fatto, con il software programmato > > > statisticamente dobbiamo fare lo stesso. [2] > > > > > > > > > A valle di tale moratoria internazionale, potremo decidere una > > > normativa adeguata per le molte applicazioni che non riguardano > > > direttamente esseri umani. > > > > > > Ad esempio, il trasporto merci su strade dedicate (magari > > > sotterranee ed inaccessibili all'uomo). La massimizzazione della > > > produzione agricola e così via... > > > > > > > > > Dovremo solo sempre tenere a mente che l'antropomorfizzazione delle > > > cose serve solo gli interessi di chi le controlla. > > > > > > > > > Dunque, non parliamo di etica delle AI. > > > Semplicemente perché già le AI stesse non esistono! ;-) > > > > > > > > > Parliamo piuttosto di etica delle aziende? > > > Ok! Allora limitiamo superiormente il loro profitto, così che una > > > volta raggiunto il tetto, la massimizzazione dei profitti smetta di > > > prevalere su qualsiasi altra considerazione. > > > > > > > > > Giacomo > > > > > > PS: non sono certo di aver risposto a ciò che chiedevi... scusa. > > > > > > > > > [1]: > > > > https://commentbfp.sp.unipi.it/daniela-tafani-what-s-wrong-with-ai-ethics-n… > > > > > > [2]: Ci sono rarissimi contesti in cui può aver senso utilizzarli > > > sotto attenta e addestratissima supervisione di gruppi > > > multidisciplinari, che potremo elencare esplicitamente. > > > > > > Penso ad esempio all'uso medico: nessun medico, da solo, può > > > comprendere i pericoli dell'uso di un sistema programmato > > > statisticamente, ma un team di medici e informatici molto > > > preparati, insieme, potrebbe. > > > > > > Personalmente non riesco a pensare un'altro caso d'uso in cui > > > l'uso (sotto attenta e scrupolosa supervisione umana) di > > > questi strumenti possa giustificare i pericoli che comportano. > > > > > > Per assicurarci che nessuno ne abusi, potremmo però stabilire > > > che nessun profitto può essere ottenuto dall'uso di dati umani, > > > neanche in quei rarissimi casi in cui è autorizzato. > > > > > > ------------------------------------------------------------------------ > > > > many of us believe the EU remains > > the most extraordinary, ambitious, liberal > > political alliance in recorded history. > > where it needs reform, where it needs to evolve, > > we should be there to help turn that heavy wheel > > i. mcewan, the guardian, 2/6/2017 > > > > ------------------------------------------------------------------------ > > Maurizio Lana > > Università del Piemonte Orientale > > Dipartimento di Studi Umanistici > > Piazza Roma 36 - 13100 Vercelli > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Nov. 2, 2022

Seminario "Algorithmic Fairness Datasets: Supporting Principled Data Practices" | Sala Ciminiera - DAUIN | 7 Novembre 2022, ore 10.30

by Nexa Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al seminario: /*"Algorithmic Fairness Datasets: Supporting Principled Data Practices"*/, che si terrà *lunedì 7 novembre*, alle ore *10.30*, presso la *Sala Conferenze "Luigi Ciminiera**"* del Dipartimento di Automatica e Informatica (*DAUIN*) del Politecnico di Torino, in Corso Castelfidardo, 34/A, Torino. OSPITE DELL'INCONTRO: *Alessandro Fabris* (PhD candidate presso l'Università di Padova). DISCUSSANT: *Gian Antonio Susto* (assistant professor presso l'Università di Padova). Per maggiori informazioni sull'evento consulta la pagina: https://nexa.polito.it/Algorithmic-Fairness-Datasets Grazie per l'attenzione, Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

Nov. 2, 2022

EPIC Report - Screened & Scored in District of Columbia

by Diego.Latella

Dal sito web del report (https://epic.org/screened-scored-in-dc/ ): "The D.C. government outsources critical governmental decisions to automated decision-making systems in areas such as public benefits, healthcare, policing, and housing. As a result, District residents are surveilled, screened, and scored every day. But because of weak government transparency laws, opaque procurement processes, the power and influence of tech vendors, and the decline in local journalism, it has been difficult to uncover the details of how many automated decision-making systems are used in government programs. EPIC spent 14 months investigating the D.C. government's use of automated decision-making systems. This report aims to shed light by providing as comprehensive a view as possible of the many automated decision-making systems that shape the course of District residents' lives." EPIC (Electronic Privacuy Information Center, https://epic.org/ ) e' una delle organizzazioni piu' autorevoli sul diritto alla tutela della privacy. Diego -- Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it [1]) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: +390506212040 =================== I don't quite know whether it is especially computer science or its subdiscipline Artificial Intelligence that has such an enormous affection for euphemism. We speak so spectacularly and so readily of computer systems that understand, that see, decide, make judgments, and so on, without ourselves recognizing our own superficiality and immeasurable naivete with respect to these concepts. And, in the process of so speaking, we anesthetise our ability to evaluate the quality of our work and, what is more important, to identify and become conscious of its end use. […] One can't escape this state without asking, again and again: "What do I actually do? What is the final application and use of the products of my work?" and ultimately, "am I content or ashamed to have contributed to this use?" -- Prof. Joseph Weizenbaum ["Not without us", ACM SIGCAS 16(2-3) 2--7 - Aug. 1986] Links: ------ [1] http://www.isti.cnr.it

Nov. 2, 2022

BigBlueButton e OVirt al Politecnico di Torino

by Giacomo Tesio

Salve Nexa, vi riporto una ottima domanda che mi è stata posta durante una recente tavola rotonda al Linux Day di Bari [1], cui purtroppo non ho saputo rispondere con riferimenti puntuali. Esistono pubblicazioni scientifiche sull'esperienza del Politecnico di Torino con Big Blue Button e OVirt? Per la precisione mi è stato chiesto un Case Study su questa esperienza, in modo da poterla riprodurre in altre Università. Io purtroppo non avevo riferimenti da offrire, ma questo non significa che tali articoli non esistano! Qualcuno può indicarmi studi in proposito? Giacomo [1] http://video.linuxtrent.it/w/3StADd9bQkyaLcWwpbba4W

Nov. 2, 2022

Utopie Digitali

by Giuseppe Attardi

Seminario di Cultura Digitale Mercoledì 2 novembre 2022, ore 14:15 Aula PS4 Polo Fibonacci - Pisa Streaming: https://teams.microsoft.com/dl/launcher/launcher.html... <https://l.facebook.com/l.php?u=https%3A%2F%2Fteams.microsoft.com%2Fdl%2Flau…> Utopie Digitali Giuseppe Attardi Secondo il filosofo Yuval Harari la civiltà moderna si basa su realtà immaginarie, tra cui la religione, le nazioni, le aziende, le monete. Gli stati westfaliani nacquero per garantire la sovranità su un certo territorio isolandosi da influenze di altri stati e raggiunsero poteri estremi coi nazionalismi del XX secolo. Con la globalizzazione digitale e l'ideologia neoliberista i loro poteri si sono ridotti, trasferendoli alle grandi aziende private e in parte a organi sovranazionali. Sfruttando la libertà di operare al di fuori da qualunque regolamentazione statale, le Big Tech hanno oggi più potere di molti stati. L’economia delle piattaforme e il capitalismo di sorveglianza le rende in grado di controllare e a volte persino orientare i comportamenti dei loro utenti. Come nel '900 nacquero istituzioni quali sindacati e cooperative per controbilanciare i poteri delle aziende, oggi si potrebbero immaginare delle Utopie Digitali, comunità di persone extra-nazionali, i cui cittadini svolgono le proprie attività aderendo ai principi di base dell’utopia e condividendone i frutti. La registrazione del seminario sarà disponibile su: https://teams.microsoft.com/dl/launcher/launcher.html... <https://l.facebook.com/l.php?u=https%3A%2F%2Fteams.microsoft.com%2Fdl%2Flau…>

Nov. 2, 2022

"Truth Cops - Leaked Documents Outline DHS’s Plans to Police Disinformation"

by J.C. DE MARTIN

*Truth Cops** */Leaked Documents Outline DHS’s Plans to Police Disinformation// / Ken Klippenstein, Lee Fang October 31 2022, 10:00 a.m. The Department of Homeland Security is quietly broadening its efforts to curb speech it considers dangerous, an investigation by The Intercept has found. Years of internal DHS memos, emails, and documents — obtained via leaks and an ongoing lawsuit, as well as public documents — illustrate an expansive effort by the agency to influence tech platforms. The work, much of which remains unknown to the American public, came into clearer view earlier this year when DHS announced a new “Disinformation Governance Board”: a panel designed to police misinformation (false information spread unintentionally), disinformation (false information spread intentionally), and malinformation (factual information shared, typically out of context, with harmful intent) that allegedly threatens U.S. interests. While the board was widely ridiculed, immediately scaled back, and then shut down within a few months, other initiatives are underway as DHS pivots to monitoring social media now that its original mandate — the war on terror — has been wound down. Behind closed doors, and through pressure on private platforms, the U.S. government has used its power to try to shape online discourse. According to meeting minutes and other records appended to a lawsuit filed by Missouri Attorney General Eric Schmitt, a Republican who is also running for Senate, discussions have ranged from the scale and scope of government intervention in online discourse to the mechanics of streamlining takedown requests for false or intentionally misleading information. [...] continua qui: https://theintercept.com/2022/10/31/social-media-disinformation-dhs/

Nov. 1, 2022

Re: [nexa] ethical AI (era "It’s time to admit, self-driving cars aren’t going to happen")

by Giacomo Tesio

Ciao Maurizio, sorvolo temporaneamente sull'aspetto esotico (la "AI") per concentrarmi sulla questione fondamentale, che si applica a qualsiasi software (e qualsiasi agente cibernetico artificiale, aziende, PA e governi inclusi) On Mon, 31 Oct 2022 09:01:20 +0100 maurizio lana wrote: > mi fa capire che non mi sono espresso bene usando il termine > "utilizzatore". [...] > abbiamo i progettisti del software, > e poi abbiamo l'agente di assicurazione che lo usa. > a mio modo di vedere l'agente (che qui è l'utilizzatore) è > responsabile per l'uso di quel software. [...] > l'utilizzatore dell'auto a guida autonoma può > decidere /non/ utilizzare un'auto a guida autonoma L'utente esiste solo mentre usa. La persona può scegliere di usare o meno il software, l'utente no. Come utente, è soggetto a regole più o meno stringenti a seconda dei valori e degli obbiettivi di chi ha scritto il software. Editor di testo come Acme, Emacs, Geany, Vim etc, ti offrono una libertà notevole, quasi illimitata, ci puoi programmare o tenere la lista della spesa. Letteralmente come un foglio bianco. Lo stesso si può dire di un linguaggio di programmazione general purpose, come possono essere C, Python, Haskell, Lisp o Java (giusto per fare qualche nome molto noto). Un ambiente RAD (Rapid Application Development) ti offre una libertà infinitamente inferiore, ti offre dei mattoncini preconfezionati che tu puoi combinare e configurare con una certa flessibilità, ma non puoi fare nulla che contrasti con gli interessi di chi te lo ha fornito. Analogamente un domain specific language può limitare enormemente la quantità di concetti che puoi esprimere. E naturalmente anche linguaggi general purpose diversi rendono più o meno facile ed intuitivo esprimere determinati concetti piuttosto che altri. Quando visiti un sito web che incorpora Google Fonts, i tuoi dati personali vengono inviati istantaneamente a Google senza nemmeno chiederti il permesso. Puoi NON visitare il sito web? Sì (se sai che cosa comporta tale visita a priori), ma smetti di essere "utente". Per questo la riduzione della persona ad utente è così aberrante. E' il passo subito precedente a ridurla consapevolmente ad ingranaggio. > proprio perché è > consapevole che in tal caso "può fare e pensare solo ciò che il > creatore dell'artefatto stesso ha deciso". se la usa, con più > consapevolezza o meno decide di obbedire al produttore dell'auto (è > detto in termini un po' brevi e rozzi ma il senso è chiaro). sì ma questa decisione si pone PRIMA di essere utente. l'utente ormai è utente, e può essere eticamente irrilevante. L'editor che ti permette di estendere e modificare sé stesso, pretende che tu mantenga la tua autonomia. L'editor che puoi solo usare, invece ti rende eticamente irrilevante (rispetto alle conseguenze dell'utilizzo dell'editor, non rispetto al testo che scrivi). Se Visual Studio Code ti suggerisce codice sotto GPL con una licenza diversa e tu lo accetti all'interno della tua codebase, violando il diritto d'autore di chi quel codice l'ha scritto, tu COME UTENTE non hai modo di sapere che VSCode ti sta spingendo a violare i diritti di terzi in quel caso specifico. Dunque non puoi rispondere moralmente di tale violenza, perché non è una tua scelta. Se venissi beccato, ne risponderesti legalmente. Ma la responsabilità morale di quella violenza è tutta di Microsoft. E' Microsoft che ha creato GitHub CopyALot per aprire un nuovo loophole nel copyleft, permettendo di scaricare su una cosa irresponsabile la responsabilità di qualunque violazione del copyright di autori del software libero. Tu puoi scegliere di NON usare Visual Studio Code (o disabilitare qualsiasi interazione con CopyALot) ma nel momento in cui lo usi, diventi eticamente irrilevante: violerai o non violerai i diritti di terzi sulla base di volontà altrui. Sei in sostanza un ingranaggio tu stesso. E se giri bene, ti senti pure produttivo! > molto si gioca tra consapevolezza/inconsapevolezza e > cautela/sprovvedutezza Questo è vero, ma parziale. Se dopo un incidente ti portano in ospedale e quell'ospedale usa il cloud di Microsoft, non c'è consapevolezza che tenga. Sei un oggetto. > se /so/ che i dispositivi a input vocale più > spesso che no ascoltano ininterrottamente l'ambiente e quindi > ascoltano ciò che dico anche quando non do comandi vocali, > consapevolezza e cautela mi porteranno a non acquistare quel tipo di > prodotti e ove disponibili preferirò le versioni dumb a quelle smart. > non perché sono un troglodita rimasto al tempo delle caverne, ma > proprio perché conosco il mondo digitale, la tecnologia, eccetera e > scelgo quale tecnologia voglio usare. Infatti la riduzione della persona all'utente punta alla sua riduzione ad ingranaggio ma nasce dalla sua riduzione a consumatore. L'idea che la libertà si riduca alla possibilità di scegliere un prodotto fra N sullo scaffale del (super)mercato. Come utente, non hai libertà (se non quella che io ti voglio concedere) Come consumatore, al limite, puoi scegliere di diventare utente di qualcos'altro (che limiterà la tua libertà in altro modo). E' questa la libertà per l'homo sapiens sapiens? NO! Gli uomini sono capaci di creare! Di sperimentare! Di esplorare! Di inventare alternative che non esistevano! (S)Fortunatamente possono essere convinti a ridursi a consumatori, a utenti o a ingranaggi. E' un processo lento, ma evidentemente efficace. > e quindi ad un successivo più alto livello tutto si gioca sul so/non > so, dove il so/non so non riguarda necessariamente lo specifico > prodotto, ma tipi di prodotti, tipi di questioni problematiche, > eccetera. che è poi una questione di literacy, di information > literacy: quanto ogni cittadino è attrezzato per vivere e operare in > questa società dell'informazione, e dell'informazione digitale? Già solo parlando di "digitale" o di "società dell'informazione" si allontana dalla consapevolezza di cui ha bisogno. La società in cui viviamo è cibernetica. Integra strettamente ed inesorabilmente autonomie (umane) e automatismi. Ma le autonomie sono quasi sempre compresse dagli automatismi: gli automatismi sono migliaia, ti invito a contare solo quelli sul tuo PC tenendo in conto che ogni software è un automatismo a sé stante. Inoltre, poiché non comprende il funzionamento di tali automatismi, la maggioranza delle persone le scambia per un fenomeno naturale. E' un bias evolutivo: ci siamo evoluti per milioni di anni in un sistema in cui la quasi totalità di ciò che non potevamo controllare non era controllato costantemente da altri esseri umani. Un eruzione vulcanica, una grandinata o un fulmine, non eseguivano la volontà di un'altro essere umano. Così quando vediamo che Google ci invia un messaggio pubblicitario di nostro interesse non stiamo a pensare alle implicazioni. Ci appare come un fenomeno naturale, ancora prima che intervenga il pensiero magico di cui parlava Daniela. L'unico modo per superare questa tara evolutiva è comprendere come funzionano gli automatismi che ci circondano, saperli creare e modificare, in modo tale da acquisire piena consapevolezza della loro natura. Ma non si tratta di "alfabetizzazione digitale", si tratta proprio di imparare faticosamente a programmare e debuggare il software, a leggerlo come leggiamo un thriller. > molti sono come gli analfabeti che firmavano i contratti mettendo una > croce e fidandosi di ciò che il proponente gli diceva. Letteralmente! > c'è molto da fare in formazione Sono assolutamente d'accordo. Alla dirigenza della CGIL, mesi fa, proponevo proprio questo. [1] > che è poi uscire dalla caverna e liberarsi dal dominio delle ombre. Non sono le ombre (il software) ad opprimervi, ma chi che le proietta. Spesso direttamente nelle vostre teste. ;-) ``` Morpheus: The Matrix is everywhere, it is all around us, even now in this very room. You can see it when you look out your window, or you turn on your television. You can feel it when you go to work, when you go to church, when you pay your taxes. It is the world that has been pulled over your eyes to blind you from the truth. Neo: What truth? Morpheus: That you are a slave, Neo. Like everyone else, you were born into bondage… born into a prison that you cannot smell or taste or touch. A prison for your mind. ``` Giacomo [1]: http://video.linuxtrent.it/w/3BBQ5rRqrzhoqiQDQ5is4e > Maurizio > > Il 30/10/22 23:12, Giacomo Tesio ha scritto: > > Salve Maurizio, > > > > On Sun, 30 Oct 2022 18:44:36 +0100 maurizio lana wrote: > > > >> anche se ne hai poi parlato sotto, mi pare che è qui che per te si > >> pone l'impossibilità di un'«etica delle AI» perché in senso stretto > >> essa implicherebbe che l'AI sia un soggetto autonomo, capace di > >> scelte autonome, di cui quindi si può valutare l'etica. ma questo > >> implicherebbe che l'AI sia dotata di agency come un soggetto umano > >> adulto senziente e ragionante, senza limitazioni. > > Esatto. > > > > Preferisco parlare di libero arbitrio o autonomia, ma in entrambi i > > casi il software (e qualsiasi altra macchina) non ne ha. > > > > Parlare di "etica delle AI" è esattamente come parlare di "etica dei > > sassi" o di "etica delle macchine". > > > > > > L'etica, così come l'intelligenza o l'informazione, sono peculiarità > > del homo sapiens sapiens. Letteralmente: parte della sua > > definizione. > > > > > > Se parlassimo di intelligenza dei sassi, sarebbe evidente a tutti > > che stiamo antropomorfizzando i sassi. Se parlassimo di etica dei > > sassi a qualcuno verrebbe da ridere. > > > > Ma anche quando parliamo di macchine novecentesche parlare di > > "etica" appare subito evidentemente strumentale. > > > > Immaginate l'industriale che, all'ennesimo morto sul lavoro > > schiacciato da una pressa, proponesse come alternativa > > all'introduzione di normative sulla sicurezza delle presse, > > l'adozione di un'etica delle presse. > > > > > > Con il software, a valle di un lungo lavoro di propaganda che > > Daniela ha descritto benissimo nel suo saggio [1], invece la gente > > può parlare di "etica delle AI" senza che tutti inizino a ridergli > > in faccia. > > > > Vengono persino invitati a parlare a conferenze, pubblicati su > > riviste di filosofia etc... > > > > Dal punto di vista oggettivo, i loro argomenti hanno la stessa > > solidità delle teorie terrapiattiste. > > > > E un po' come avvenne in passato con il sistema tolemaico, queste > > teorizzazioni servono gli interessi di chi comprende benissimo la > > loro fallacia, ma trae vantaggio dalla loro diffusione. > > > > > >> mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte > >> come progettista sia a valle come utilizzatore e non > >> nell'artefatto. > > L'artefatto non ha etica. > > Esprime l'etica di chi l'ha costruito, imprimendola al resto del > > mondo. > > > > Ne riproduce la volontà. > > Ne diffonde i valori. > > > > > > L'utilizzatore, nella stragrande maggioranza dei casi, è eticamente > > irrilevante. Se non può alterare concretamente e consapevolmente il > > funzionamento dell'artefatto, non ha libertà nel suo utilizzo. Può > > fare e pensare solo ciò che il creatore dell'artefatto stesso ha > > deciso. > > > > Rafaela Vasquez, a bordo dell'auto di Uber che uccise Elaine > > Herzberg nel 2018, non stava "usando" l'auto: ne veniva usata, come > > ingranaggio, come capro espiatorio. Non era la prima volta che si > > "distraeva"... "alla guida". Tali "distrazioni" erano già state > > registrate da Uber che misurava, per massimizzarlo, il grado di > > confidenza dei passeggeri nella guida automatica (NON autonoma!). > > > > In altri termini per Uber le "distrazioni" di Rafaela Vasquez erano > > una feature, non un problema. > > > > Dunque Rafaela Vasquez era eticamente irrilevante. > > Era già stata ridotta ad una cosa, ad un ingranaggio inconsapevole, > > ad un topo di laboratorio e ad un capro espiatorio alla bisogna. > > > > > > Ma la Volvo di Uber non aveva alcuna etica (o alcuna intelligenza). > > > > Aveva percepito Elaine in tempo per evitarla, ma era stata > > configurata per non effettuare frenate di emergenza durante la > > guida "autonoma" in modo da "evitare un comportamento erratico del > > mezzo" che avrebbe provocato il mal d'auto ai passeggeri. > > > > Insomma, quella Volvo stava letteralmente applicando al mondo i > > valori di Uber, per cui la vita umana vale nettamente meno dei > > propri profitti. > > > > Ma invece di arrestare tutto il consiglio di amministrazione di > > Uber per omicidio, negli USA parlano di "Etica delle AI". > > > > > > La vita di Elaine Herzberg o di Rafaela Vasquez sono irrilevanti. > > Sono cose, insomma. Cose di scarso valore, peraltro. > > > > > > E' questo l'etica delle AI: una narrazione alienante costruita su > > un'altra narrazione alienante. > > > > > >> a quel punto la valutazione di capacità etica riguarda i > >> progettisti e gli utilizzatori e non è più questione di etica > >> dell'AI in senso proprio, ma di come si fa una progettazione di > >> prodotti che sia etica e un utilizzo di prodotti che sia etico. > > No, non è una questione di etica, ma di cultura e politica. > > > > Anzitutto bisogna comprendere come funzionano questi software. > > > > Per arrivarci dobbiamo abolire al più presto questo linguaggio > > antropomorfizzante (quando non religioso). Smettere di parlare > > di "intelligenza" o "allenamento" o "apprendimento" o "etica". > > > > > > Una volta compreso questo, si potrà smettere serenamente e > > consapevolmente di applicarli a persone o a dati di origine umana. > > > > Con la clonazione l'abbiamo fatto, con il software programmato > > statisticamente dobbiamo fare lo stesso. [2] > > > > > > A valle di tale moratoria internazionale, potremo decidere una > > normativa adeguata per le molte applicazioni che non riguardano > > direttamente esseri umani. > > > > Ad esempio, il trasporto merci su strade dedicate (magari > > sotterranee ed inaccessibili all'uomo). La massimizzazione della > > produzione agricola e così via... > > > > > > Dovremo solo sempre tenere a mente che l'antropomorfizzazione delle > > cose serve solo gli interessi di chi le controlla. > > > > > > Dunque, non parliamo di etica delle AI. > > Semplicemente perché già le AI stesse non esistono! ;-) > > > > > > Parliamo piuttosto di etica delle aziende? > > Ok! Allora limitiamo superiormente il loro profitto, così che una > > volta raggiunto il tetto, la massimizzazione dei profitti smetta di > > prevalere su qualsiasi altra considerazione. > > > > > > Giacomo > > > > PS: non sono certo di aver risposto a ciò che chiedevi... scusa. > > > > > > [1]: > > https://commentbfp.sp.unipi.it/daniela-tafani-what-s-wrong-with-ai-ethics-n… > > > > [2]: Ci sono rarissimi contesti in cui può aver senso utilizzarli > > sotto attenta e addestratissima supervisione di gruppi > > multidisciplinari, che potremo elencare esplicitamente. > > > > Penso ad esempio all'uso medico: nessun medico, da solo, può > > comprendere i pericoli dell'uso di un sistema programmato > > statisticamente, ma un team di medici e informatici molto > > preparati, insieme, potrebbe. > > > > Personalmente non riesco a pensare un'altro caso d'uso in cui > > l'uso (sotto attenta e scrupolosa supervisione umana) di > > questi strumenti possa giustificare i pericoli che comportano. > > > > Per assicurarci che nessuno ne abusi, potremmo però stabilire > > che nessun profitto può essere ottenuto dall'uso di dati umani, > > neanche in quei rarissimi casi in cui è autorizzato. > > > ------------------------------------------------------------------------ > > many of us believe the EU remains > the most extraordinary, ambitious, liberal > political alliance in recorded history. > where it needs reform, where it needs to evolve, > we should be there to help turn that heavy wheel > i. mcewan, the guardian, 2/6/2017 > > ------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli

Oct. 31, 2022

Il partito dove comanda l'intelligenza artificiale

by Antonio

L'obiettivo di far parlare di sé è riuscito benissimo al collettivo di artisti Computer Lars [1]. I media italiani [2][3][4][5][6], come sempre attentissimi alle ultime novità in fatto di IA, non si sono fatti sfuggire questa chicca del /primo/ partito "guidato da un'intelligenza artificiale". Più interessante degli articoli nostrani è invece l'intervista ad Asker Bryild Staunaes, uno dei promotori [7]. Buona lettura [1] https://computerlars.com/ [2] https://www.lastampa.it/editoriali/lettere-e-idee/2022/08/07/news/il_partit… [3] https://www.corriere.it/tecnologia/22_ottobre_20/partito-intelligenza-artif… [4] https://www.repubblica.it/tecnologia/2022/10/19/news/altro_che_skynet_in_da… [5] https://www.fanpage.it/innovazione/tecnologia/in-danimarca-ce-un-partito-gu… [6] https://www.infodata.ilsole24ore.com/2022/10/25/perche-il-primo-partito-pol… [7] https://www.osicoplatform.com/interview-with-asker-bryild-staunaes-of-the-d…

Oct. 31, 2022