Grazie per questa bella discussione già avviata in lista, spero vivamente che vorrete far pervenire proposte di miglioramento della bozza nella piattaforma pubblica appena la consultazione online avrà inizio il 27 ottobre su http://camera.civi.ci, dove sarà disponibile a critiche e proposte di miglioramento per quattro mesi. Un saluto e buon lavoro a tutti, Anna ----- Original Message ----- From: "Antonio Casilli" <antonio.casilli@telecom-paristech.fr> To: <nexa@server-nexa.polito.it> Sent: Wednesday, October 15, 2014 6:10 PM Subject: Re: [nexa] [Dichiarazione] una prima analisi di Antonio Casilli
Hello Federico,
hai perfettamente ragione sul fatto che il mio "zéro sur la gouvernementalité algorithmique" sia ingeneroso. Il passaggio che citi mostra chiaramente che la Commissione ha preso in conto almeno un'aspetto di questa vasta tematica, ovvero in che maniera gli algoritmi tendano a sostituirsi a procedure consensuali di presa di decisione politica. Questo è coerente con l'approccio di Antoinette Rouvroy che sembra interessarti, o quelli sull'"automazione del comune" di Tiziana Terranova o gli "Algoritmi del capitale" di Matteo Pasquinelli.
Se sostengo che uno sforzo teorico non è stato ancora intrapreso nella bozza di Dichiarazione (ecco il senso del mio "zéro"), è soprattutto perché si tralasciano altre due maniere, secondo me importantissime, di analizzare la questione : 1) chiedersi quali norme legali debbano regolare gli algoritmi e i procedimenti automatici di calcolo (questo è per esempio il campo di ricerca di Frank Pasquale--v. il suo "Black Box Society", o di Kate Crawford quando parla di districare le "algorithmic illusions"; questa è anche la posizione presa dal conseil d'Etat in Francia, che ha invocato a due riprese una regolamentazione degli algoritmi); 2) chiedersi come il design stesso degli algoritmi sia il risultato di stratificazioni di norme e valori morali, culturali, politici di coloro che li concepiscono (e qui consiglio i lavori sul PageRank di Dominique Cardon, o quelli sulla "cultura algoritmica" di Christian Sandvig e Tarleton Gillespie). Per farla breve, se per esempio una nuova versione del Bill of Rights proponesse un "diritto alla trasparenza e alla non discriminazione algoritmica" (una posizione minimalista, dopotutto) credo che questo sarebbe più rispettoso anche delle altre dimensioni della governamentalità degli/per mezzo degli algoritmi appena citate. Cheers, ---a
----- Mail original ----- De: "Federico Morando" <federico.morando@polito.it> À: "Antonio Casilli" <antonio.casilli@telecom-paristech.fr>, nexa@server-nexa.polito.it Envoyé: Mercredi 15 Octobre 2014 14:30:57 Objet: Re: [nexa] [Dichiarazione] una prima analisi di Antonio Casilli
Buongiorno Andrea,
il mio riferimento al preemptive strike ed alla "gouvernementalité algorithmique" stava solo ad indicare il rischio che i tempi non fossero ancora maturi per discutere di questo tema in un documento come la Dichiarazione. In questo senso, temevo che esprimersi oggi - nel bel mezzo dell'hype big data (almeno nell'arretrata Italia) - su temi di questo genere, e per di più in una dichiarazione che si richiama ai diritti umani fondamentali, rischiasse di affibbiare al concetto di "gouvernementalité algorithmique" dei connotati ancor più foschi di quelli che già il termine evoca (almeno in me).
Da un lato, infatti, non mi sfugge il rischio che approcci algoritmici possano essere abusati; dall'altro, mi pare che - in particolare in Italia - ci siano ampi spazi per usare in modo più o meno ragionevole alcuni automatismi nel governo di molti processi... certo, senza dimenticare che i dati - opportunamente torturati - dicono qualunque cosa, né che l'evidence based-policy-making è un po' come la legge, che si può interpretare per gli amici ed applicare contro i nemici.
Insomma, volevo solo dire che sono terreni scivolosi, connessi in modo indistricabile alla "moda" dei big data, e che dunque mi pareva saggio rimandare un esplicito trattamento del tema.
Poi - non l'ho detto prima, ma lo aggiungo ora - è forse ingeneroso dire "zéro" sul tema "gouvernementalité algorithmique". Una parte che mi pare "pacifica", ma comunque utile da ribadire e rilevante in tema c'è già, dove si parla di trattamenti automatizzati: "Nessun atto, provvedimento giudiziario o amministrativo, decisione comunque destinata ad incidere in maniera significativa nella sfera delle persone possono essere fondati unicamente su un trattamento automatizzato di dati personali volto a definire il profilo o la personalità dell’interessato." Questo è forse buon senso, ma utile da mettere nero su bianco, a scanso di equivoci e paradossi futuri. Da un lato, niente provvedimenti giudiziari o amminstrativi automatici che incidano in modo significativo sulle persone. Dall'altro, spazio per sperimentare ordinanze automatiche per chiudere le scuole e mandare sms alle famiglie quando l'allerta meteo supera un certo livello e c'è abbastanza preavviso... Per i casi intermedi, c'è forse bisogno di sperimentare ancora un po' (e, nel mio caso, studiare ancora un po', anche l'interessante articolo che hai linkato nel tuo post: http://works.bepress.com/cgi/viewcontent.cgi?article=1053&context=antoinette... ) .
My two cents,
Federico
On 10/15/2014 01:56 PM, Antonio Casilli wrote:
Buondì Federico, (e buongiorno tutti dato che è il mio primo messsaggio alla lista)
interessante la tua precisazione, che condivido: la bozza di dichiarazione ha la qualità indubitabile di spingere verso un bilancimento e non una polarizzazione delle posizioni. Ecco perché i miei punti erano più dei "meh", degli incoraggiamenti a fare di più, che delle critiche. Curiosità (sincera): perché vedi nella questione della "gouvernementalité algorithmique" una occasione di preemptive strike? O allora ho mal interpretato il senso della frase? Cheers, Antonio
----- Mail original ----- De: "Federico Morando" <federico.morando@polito.it> À: demartin@polito.it , nexa@server-nexa.polito.it Envoyé: Mercredi 15 Octobre 2014 10:36:19 Objet: Re: [nexa] [Dichiarazione] una prima analisi di Antonio Casilli
Un primo segno del fatto che la Dichiarazione sia un buon bilanciamento lo ritrovo nel fatto che le parti che sembrano non piacere a Casilli (omissioni comprese) a me sembrano molto opportune :-)
Sarei spaventato dall'idea che - prima di discuterne seriamente sia a livello scientifico che politico (almeno in Italia) - si introducesse in una dichiarazione di questo tipo qualcosa sulla "gouvernementalité algorithmique"... un preemptive strike nell'ambito dei diritti fondamentali potrebbe essere avventato ;-)
my two cents,
Federico
On 10/14/2014 06:08 PM, J.C. DE MARTIN wrote:
Il bravo Antonio Casilli (ricercatore italiano a Parigi da 14 anni) ha scritto una prima rapida analisi della Dichiarazione: http://www.bodyspacesociety.eu/2014/10/14/una-magna-carta-italienne-et-bient... Antonio Casilli, oltre al resto, ha contribuito al noto rapporto del Conseil d'Etat.
juan carlos
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
AVVISO: Questo messaggio ed i suoi eventuali allegati sono rivolti esclusivamente ai destinatari e possono contenere informazioni riservate. Qualsiasi utilizzo, diffusione o riproduzione senza autorizzazione è proibita. Qualora vi fosse pervenuto questo messaggio per errore, esso va cancellato immediatamente con preghiera di avvisare il mittente. Grazie.