March 2019 - nexa - server-nexa.polito.it

Re: [nexa] "L'intelligenza artificiale? Non è vera intelligenza"

by Diego Giorio

Beh, se l'intelligenza artificiale fosse vera intelligenza, troveri inutili a priori tutte le discussioni riguardo una regolmentazione della stessa: i possono regolare i comportamenti derivanti dalle manifestazioni dell'intelletto umano, non l'intelligenza in sè. Buon WE a tutti PS: non, non l'ho letto, ma può essere un buon suggerimento per il WE (il prossimo, visto che non è in e-book) ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Marco Ciurcina <ciurcina(a)studiolegale.it> Sent: Saturday, March 16, 2019 9:41 AM To: 'nexa' Subject: [nexa] "L'intelligenza artificiale? Non è vera intelligenza" Il filosofo americano: "I computer non hanno una mente perché non hanno una coscienza" Il mistero della realtà (Raffaello Cortina Editore, pagg. 300, euro 26) raccoglie dieci lezioni tenute da John Searle all'Università di Girona, nel 2015. In ciascuna di esse, il filosofo americano, allievo di Austin e «nipote» (intellettualmente parlando) di Frege, si occupa delle questioni ancora aperte per la filosofia del XXI secolo. Lo fa dal suo versante, quello della filosofia della mente e del linguaggio (che ha insegnato all'Università di Berkeley, dove oggi, a 86 anni, è professore emerito); quello della filosofia analitica, di cui è uno degli esponenti più celebri, grazie alla sua teoria degli «atti linguistici». E, in particolare, Searle affronta quella che per lui è «la vera domanda» per la filosofia oggi, ovvero: «Come è possibile conciliare ciò che pensiamo della realtà umana con la realtà più elementare descritta dalle scienze dure?». ... [continua qui] http://www.ilgiornale.it/news/cultura/lintelligenza-artificiale-non-vera-in… Leggendo l'intervista parrebbe un libro interessante. Qualcuno l'ha letto? m.c. _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

March 16, 2019

"L'intelligenza artificiale? Non è vera intelligenza"

by Marco Ciurcina

Il filosofo americano: "I computer non hanno una mente perché non hanno una coscienza" Il mistero della realtà (Raffaello Cortina Editore, pagg. 300, euro 26) raccoglie dieci lezioni tenute da John Searle all'Università di Girona, nel 2015. In ciascuna di esse, il filosofo americano, allievo di Austin e «nipote» (intellettualmente parlando) di Frege, si occupa delle questioni ancora aperte per la filosofia del XXI secolo. Lo fa dal suo versante, quello della filosofia della mente e del linguaggio (che ha insegnato all'Università di Berkeley, dove oggi, a 86 anni, è professore emerito); quello della filosofia analitica, di cui è uno degli esponenti più celebri, grazie alla sua teoria degli «atti linguistici». E, in particolare, Searle affronta quella che per lui è «la vera domanda» per la filosofia oggi, ovvero: «Come è possibile conciliare ciò che pensiamo della realtà umana con la realtà più elementare descritta dalle scienze dure?». ... [continua qui] http://www.ilgiornale.it/news/cultura/lintelligenza-artificiale-non-vera-in… Leggendo l'intervista parrebbe un libro interessante. Qualcuno l'ha letto? m.c.

March 16, 2019

Facebook’s Data Deals Are Under Criminal Investigation - The New York Times

by J.C. DE MARTIN

https://www.nytimes.com/2019/03/13/technology/facebook-data-deals-investiga… (Sent from my wireless device; please excuse brevity and typos (if any))

March 16, 2019

The Erosion of Public Control Over Public Utilities – Law and Political Economy

by J.C. DE MARTIN

https://lpeblog.org/2019/03/14/the-erosion-of-public-control-over-public-ut… (Sent from my wireless device; please excuse brevity and typos (if any))

March 15, 2019

Re: [nexa] The U.S.-China rivalry over A.I. is about far more than data.

by Giacomo Tesio

Condivido (con il permesso dell'autore) questa fantastica obbiezione che mette in discussione le fondamenta del mio discorso in risposta ad Andrea. > On 14/03/2019, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > > Nota il linguaggio che uso: stiamo parlando di geopolitica, e ti sto > > proponendo di usare la distribuzione della conoscenza tecnologica fra > > la popolazione Europea (e Africana, e di chiunque altro voglia usare i > > software e i materiali didattici che creeremo) come strumento di > > difesa militare, come uno scudo capace (se correttamente realizzato) > > di proteggere l'Europa da una guerra mondiale che è già iniziata. > > Francamente, Signor Tesio, parlare di guerre mondiali a fronte di un > conflitto che è principalmente commerciale è decisamente eccessivo. > La fa apparire come un complottista allucinato togliendo > credibilità alle riflessioni e alle proposte pur interessanti che > sempre condivide in lista. > > Guardi fuori dal Suo computer ogni tanto. Vede bombe? Vede morti? > > Non siamo territorio di guerra. Siamo parte di un mercato globale che > garantisce una pace effettiva. [...] > > Se anche Lei avesse ragione, se si stesse preparando una nuova guerra > mondiale, davvero pensa che la cultura possa difendere qualcuno? > Nella storia umana non è mai accaduto. Non so come ringraziare l'autore (che preferisce non essere citato) per la profondità e l'intelligenza di questa obbiezione. L'unica cosa di cui non posso dubitare è che sto dubitando, dunque vi è sempre il rischio che le mie opinioni siano in qualche modo "allucinate". D'altro canto questo rischio è generale, valido per tutti i membri della nostra specie: siamo tutti chiusi nella nostra personale caverna di Platone, con i nostri limitatissimi sensi, il linguaggio e poche altre invarianti geneticamente determinate dalla evoluzione della nostra specie, come unici appigli per immaginare cosa capiti fuori. Che posso dire dunque? "Se mi sbaglio, corrigetemi!" :-D Detto questo, credo che l'autore sbagli. A causa di una serie di vicissitudini personali, mi ritrovai a frequentare un paio di mesi di quinta elementare a Reggio Calabria, città natale di mia madre. Ricordo molto bene che a fronte di una mia domanda in classe su cosa fosse la mafia, la maestra mi rispose (con un piglio che mi parve offeso e... preoccupato) "La Mafia non esiste. E' un invenzione del Nord per danneggiare l'immagine delle nostre belle terre." Questa risposa chiuse completamente la conversazione: cosa potevo obbiettare io, venendo dal Nord, colpevole di inventare calunnie contro un'intera popolazione che si era dimostrata incredibilmente amichevole e accogliente? Parliamo della fine degli anni 80. La SECONDA guerra di 'ndrangheta era ancora in corso, causando circa 700 morti proprio a Reggio Calabria. Io venivo schermato da queste informazioni (posso solo immaginare con quale ansia da parte dei miei parenti), ma lì I MORTI C'ERANO nelle strade. Eppure nessuno li vedeva. Neppure lo Stato. "La Mafia non esiste" diceva _la_maestra_. Dunque il fatto che non vediamo i morti, non implica che non ci sia una guerra. Magari semplicemente non li vogliamo vedere? O magari non li VOGLIAMO ricondurre ad atti di guerra, come le vittime della strage di Piazza Fontana o della strage di Bologna? Ok ma... e le bombe? Dove sono le bombe? Le armi di questa guerra sono informatiche. Sono informazioni che si manifestano come dati e programmi (ma non solo). L'accumulo di dati, informazioni, algoritmi e programmi capaci di manipolare le persone. Ogni singola vulnerabilità zero day deployata su miliardi di macchine. JavaScript eseguito automaticamente dai browser con HTTP come sistema di distribuzione del software. Il "cloud" e simili MitM su scala mondiale quali Cloudflare. E poi HTTP/2, QUIC, il sistema di DNS, etc... etc... etc... Tutte ARMI FORMIDABILI, nascoste in bella vista. Su questo purtroppo però si pone una race condition. L'unico modo per VEDERE queste armi informatiche e riconoscerle come tali è disporre delle competenze informatiche necessarie a capire veramente come funzionino. Studiare non ha mai ucciso nessuno, per cui io suggerisco agli Europei di studiare. Una volta compreso il loro funzionamento, non è poi così difficile disinnescarle. Perché, ripeto, l'Informatica tratta l'Informazione. La consapevolezza di avere una microspia in casa è un'ottimo incentivo a toglierla. Proprio perché ci si rende conto di essere stati babbei a comprarla in prima istanza. Per contro queste armi sono in grado di determinare governi, facilitare crisi come la Brexit, crisi borsistiche, crash aeronautici... e dunque in effetti di uccidere e di limitare la libertà intellettuale, personale, sociale, economica e politica. Dunque anche qui confermo la mia posizione. In una guerra mondiale INFORMATICA, la distribuzione della conoscenza informatica e della computazione sono il migliore scudo che l'Europa possa costruire per tutelare il proprio territorio, la propria autonomia e la libertà dei propri cittadini. Si potrebbe riflettere se sia proprio il mercato globale (cui faceva riferimento l'autore) a costringere i contendenti a confrontarsi su un piano informatico piuttosto che il rischio di una distruzione totale del pianeta a fronte di un conflitto militare atomico diretto, ma... temo di essere già stato fin troppo noioso (e me ne scuso). In sintesi comunque, può essere che io debba alzare gli occhi dal mio computer più spesso. Ma può anche essere che la maggioranza degli Europei dovrebbe iniziare a smontare il proprio computer, il proprio cellulare, la propria Alexa, iniziare a capire come funziona, a scriverne il software, ad implementarne i protocolli di rete etc... Possibilmente, prima che l'Europa venga annessa al vincitore. A presto! Giacomo

March 15, 2019

Fw: eprivacy: ultima chiamata

by Diego Giorio

Oggi è l'ultimo giorno per presentare le proposte! Buon WE a tutti D. PS: se poi qualcuno è in ritardo e vuole recuperare nel WE mi scriva, vediamo se rimane qualche spazio anche dopo la chiusura ________________________________ From: Winston Smith <segreteria(a)winstonsmith.org> Sent: Thursday, March 14, 2019 4:24 PM To: Diego Giorio Subject: eprivacy: ultima chiamata WINSTON SMITH<http://pws.winstonsmith.org> | CENTRO HERMES<http://hermescenter.org> Ciao, la domani scade il termine per la presentazione delle proposte per la prossima edizione di e-privacy che si terrà a Torino il 6 e 7 giugno 2019 (giovedì e venerdì). Se non hai ancora spedito la tua proposta questo è il momento giusto per farlo. https://e-privacy.winstonsmith.org/e-privacy-XXV-proposta.html Grazie, Winston Smith Per tutte le informazioni su e-privacy http://e-privacy.winstonsmith.org Questo messaggio ti è stato spedito dal Progetto Winston Smith e da HERMES perché fai parte della lista dei fellow (relatori/collaboratori storici) del Progetto o del Convegno e-privacy. A partire da quest'invio stiamo iniziando ad utilizzare una gestione delle liste più attenta. Se non vuoi essere più contattato nell'organizzazione di e-privacy puoi usare il link UNSUBSCRIBE<{unsubscribe_link}> oppure puoi scriverci per ogni altro dubbio, informazione o suggerimento all'indirizzo segreteria(a)winstonsmith.org<mailto:segreteria@winstonsmith.org> Scrivi a Winston Smith<mailto:segreteria@winstonsmith.org> | Unsubscribe<https://lists.xed.it/email/unsubscribe/5c8a808760d90> Progetto winston smith HERMES CENTER FOR TRANSPARENCY AND DIGITAL HUMAN RIGHTS [An image]

March 15, 2019

Re: [nexa] The U.S.-China rivalry over A.I. is about far more than data.

by Giacomo Tesio

Ciao Andrea, grazie della splendida domanda. Temo che non sarò breve. Scusa. On 14/03/2019, Andrea Glorioso <andrea(a)digitalpolicy.it> wrote: > > Cosa dovremmo fare di preciso noi Europei in questo campo? Studiare. Storia e Informatica. Non intendo sottrarmi con una battuta, per cui di seguito ti offro alcune proposte concrete (culturali, legali, industriali etc..), ma la chiave di una via Europea all'innovazione tecnologica passa dalla valorizzazione delle peculiarità delle nostre storie politiche. Dalle sintesi e dalla consapevolezza delle contraddizioni che ci contraddistinguono. L'egemonia culturale statunitense ci ha convinto che la conoscenza sia un prodotto ed un capitale accumulabile. Questo ha molteplici implicazioni negative (ed effetti talvolta persino ridicoli), ma la più perniciosa è che in Europa proviamo a riprodurre il modello americano in cui "poli di eccellenza" vengono costituiti e finanziati per creare conoscenza/innovazione sfruttabile sul mercato. La Silicon Valley è un esempio evidente, ma in generale vi è una fondamentale tendenza all'accentramento della conoscenza come una forma di potere (del tutto analogo all'accentramento della ricchezza), in un contesto in cui la maggioranza della popolazione viene lasciata nell'ignoranza (come nella povertà). Questo modello mentale e culturale "elitario" si ripropone sistematicamente nella creazione tecnologica che ispira. Il potere di società come Google, Cloudflare, Amazon, Microsoft e Facebook, capaci di accumulare conoscenza su tutto e tutti, e di conseguenza di manipolare tutti, è una espressione di tale cultura. La SV infatti accentra sia conoscenza di algoritmi, sia dati personali (da cui dedurre informazioni) su una grande parte della popolazione mondiale. Una visione che non ci appartiene. Ma che, per pura ignoranza di noi stessi e della tecnologia, non siamo capaci di contrastare. L'Europa è un luogo dove culture diverse si sono incontrate e scontrate, mostrando il meglio e il peggio di se ma... imparando le une dalle altre. Liberté, Égalité, Fraternité ou la mort. E' letteralmente ciò di cui discutiamo. Una via Europea all'innovazione tecnologica non può essere prodotta da poli di eccellenza (pur utili), ma di Cultura Informatica distribuita. Ciò che i rampolli delle elité americane imparano a Stanford, noi dobbiamo arrivare ad insegnarlo alle superiori. In modo pratico e teorico: https://basicengine.org/ (ma magari in Oberon, vah.. :-D) Dall'humus di questa conoscenza condivisa e democraticamente distribuita, emergeranno NUOVE TECNOLOGIE DISTRIBUITE che una volta prodotte e distribuite sul territorio, costituiranno una nuova infrastruttura tecnologica resiliente. Ed al contempo emergerà una classe dirigente consapevole del funzionamento della tecnologia e dunque più autorevole in materia ed autonoma rispetto agli interessi di colossi multinazionali con direzione straniera. Nota il linguaggio che uso: stiamo parlando di geopolitica, e ti sto proponendo di usare la distribuzione della conoscenza tecnologica fra la popolazione Europea (e Africana, e di chiunque altro voglia usare i software e i materiali didattici che creeremo) come strumento di difesa militare, come uno scudo capace (se correttamente realizzato) di proteggere l'Europa da una guerra mondiale che è già iniziata. Si tratta di una Visione Politica di un processo di lungo periodo, intergenerazionale. Ma l'alternativa è diventare terreno di una guerra informatica (e non solo) dagli esiti distopici (che già pregustiamo), chiunque vinca. Alla luce di questa visione politica, le iniziative concrete che noi Europei potremmo intraprendere sono innumerevoli. A livello accademico il lavoro da fare è enorme. Wirth è un faro in questo senso: http://www.projectoberon.com/ Quando dico che tutti dovrebbero essere in grado di scrivere e/o modificare il proprio software, i programmatori più giovani mi considerano... "bizzarro". Assumono che io voglia insegnare a tutti, nelle scuole, ciò che spesso nemmeno l'università è capace di trasmettere efficacemente. Perché programmare, come diceva Dijkstra, è difficile. Ma perché è difficile? Perché siamo ai primordi della materia. I linguaggi di programmazione che utilizziamo sono TUTTI estremamente... complessi. I sistemi operativi mainstream sono tutti ridicolmente complicati (e comunque inadatti a supportare una computazione distribuita). Abbiamo bisogno di idee nuove. Siamo un po' come Antichi Egizi di fronte a complessi sistemi di equazioni, senza avere il concetto di zero. Purtroppo la ricerca è spesso orientata ad obbiettivi incompatibili con la semplicità, che invece deve essere la discriminante per adottare o rifiutare una tecnologia. Il discorso qui è profondo ed interessante... ma un po' geek. :-D UNIX e C esprimono una visione dell'utente molto diversa da Windows e C#, o da Lisp, o Python, o Haskell, o Rust. Se vogliamo far "programmare le casalinghe" (per citare il giovane Von Rossum), nessuno di questi approcci funziona. La Cultura poi, non si fa solo a scuola. Ogni volta che guardo un cartone Disney con le mie bimbe rimango stupefatto dalla quantità di messaggi subliminali che veicolano. Vampirina (in questo periodo su Rai Gulp, se non sbaglio) mi lascia sempre molto perplesso: la storia dell'integrazione di un predatore immortale in una società di prede. Mutatis mutandis: anche Jeff Bezos in fondo potrebbe essere un povero oppresso che necessita di integrazione sociale. Dobbiamo imparare molto da questa gente, ma per veicolare la NOSTRA cultura, i NOSTRI valori, i NOSTRI messaggi, prima che vengano semplicemente rimpiazzati. A livello legale abbiamo bisogno di normative che errino sul lato della cautela. Per esempio, la distribuzione sul territorio europeo di prodotti che trasferiscono dati di origine umana in remoto andrebbe vietata. Questo non significa vietare prodotti come Alexa, Cortana o Google Assistant. Significa semplicemente imporre che l'elaborazione dei dati di origine umana avvenga esclusivamente in locale, che nessuna immagine o suono (in qualsivoglia modo elaborato) possa lasciare il device. Per restare sulla AI, stabilire norme severe e responsabilità penali certe in capo ai responsabili delle aziende in caso di problemi avrebbe un effetto dirompente sulla ricerca di tecniche di AI debuggabili e totalmente spiegabili. Il principio di responsabilità dovrebbe essere semplice: se non si è in grado di dimostrare matematicamente che il software e l'hardware non hanno sbagliato, allora hanno sbagliato e si è responsabili del loro errore. La presunzione di innocenza ha senso per le persone, non per il software che è per natura pieno di bug. E poi, perché non creiamo un web-of-trust distribuito su base comunale? Il sindaco può starmi simpatico o meno, ma se firma la mia chiave pubblica dichiarando che appartiene proprio a me, mi fornisce comunque un servizio utile. Perché non imponiamo che le comunicazioni fra aziende e stato devono avvenire in forma criptata via PGP/GPG? Un'altra norma di buon senso sarebbe vietare, sul territorio europeo qualsiasi forma di lock-in hardware-software. Abbiamo bisogno di una Device Neutrality "on steroids" (per cui mi permetto di mettere in copia Stefano Quintarelli): l'hardware può essere fornito con un sistema operativo e delle applicazioni preinstallate, PURCHE' sia concretamente possibile sostituire ogni singolo componente installato (incluso il sistema operativo). Se per un determinato componente software non esiste un alternativa compatibile con l'hardware, questo non può essere distribuito con l'hardware. Se tale componente privo di alternative è il sistema operativo, l'hardware non può essere venduto sul territorio Europeo. Nota che qui la questione è più importante di quanto si possa immaginare pensando ai cellulari e agli AppStore. Per esempio Microsoft, di fatto, controlla quali sistemi operativi possono essere bootati come "sicuri" da UEFI/SecureBoot (vedi https://wiki.ubuntu.com/UEFI/SecureBoot ) e questo sta causando problemi a Debian da almeno un mese: https://lists.debian.org/debian-boot/2019/03/msg00071.html Perché lasciamo che una società privata che produce sistemi operativi storicamente... non proprio sicuri diciamo (:-D)... stabilisca quali sistemi operativi possono essere considerati sicuri dai computer venduti sul nostro territorio? Dal punto di vista industriale... non so nemmeno da dove iniziare! :-D Abbiamo bisogno di software libero e hardware libero. Non necessariamente libero nell'accezione della FSF, ma certamente libero nel senso di proprietà e conoscenza condivisa e non privatizzabile. Dobbiamo investire su RISCV. Dobbiamo investire in progetti come http://kestrelcomputer.github.io/kestrel/ Dobbiamo produrre processori. Motherboards. Hardware votato alla sicurezza, all'economicità e all'efficienza energetica prima che alle performance e al profitto. Dobbiamo mettere server in ogni casa. Server mail, server web, server di ogni tipo. Sempre senza lock-in hardware-software. Dobbiamo costringere le compagnie telefoniche a far passare tutto il traffico. Dobbiamo vietare a grandi agglomerati industriali di rifiutare email da IP di uso domestico (uno dei modi in cui Google usa il proprio dominio per disincentivare la distribuzione prevista dal protocollo SMTP). Insomma, oltre a distribuire la CONOSCENZA dobbiamo distribuire la COMPUTAZIONE. In questo modo, distribuiamo i DATI, mettendoli "al sicuro" ovvero impedendo che l'accumulo di dati => informazioni => conoscenza diventi uno strumento di potere geopolitico. In questo percorso, peraltro, vi sarebbero grandi possibilità economiche. Ma se l'obbiettivo STRATEGICO MILITARE è distribuire la conoscenza, l'economia dovrà adattarsi alle esigenze politiche e sociali, accettando normative che favoriscano il fiorire di piccole e medie imprese in collaborazione rispetto a grandi colossi industriali in competizione (troppo vulnerabili in quanto single point of failure, come ha ben dimostrato la ARM). Queste sono solo alcune delle iniziative che di cui l'Europa ha bisogno, ma naturalmente se arrivi a leggere fino qui, la prima volta che ci vediamo ti offro un caffé! :-D Spero di avere risposto alla tua domanda... ma non esitare a chiedere chiarimenti! ;-) A presto! Giacomo

March 14, 2019

Re: [nexa] The U.S.-China rivalry over A.I. is about far more than data.

by Andrea Glorioso

Caro Giacomo, On Wed, Mar 13, 2019 at 12:13 PM Giacomo Tesio <giacomo(a)tesio.it> wrote: > > Comunque, se la cantano e se la suonano. > Se invece di ballare la loro musica, di inseguire sui loro terreni, di > provare a riprodurre i loro modelli, noi Europei provassimo ad usare > le nostre teste, forse nessuno si permetterebbe di considerarci > irrilevanti. > Cosa dovremmo fare di preciso noi Europei in questo campo? Ciao, Andrea

March 14, 2019

Facebook under criminal investigation over data sharing with tech firms - report | Technology | The Guardian

by Alberto Cammozzo

<https://www.theguardian.com/technology/2019/mar/13/facebook-data-sharing-in…> [..] The criminal investigation adds to a laundry list of probes since the Cambridge Analytica revelations one year ago placed a spotlight on the company’s data and privacy practices. Investigations by the Federal Trade Commission, the justice department and the Securities and Exchange Commission have all been previously reported. Facebook was also sued by Washington DC in late December for allowing Cambridge Analytica to obtain personal data of users without permission. The data sharing deals were reported by the New York Times in June and December of last year. Facebook gave companies including Netflix, Spotify, Microsoft, Sony and Amazon the ability to access user data long after it had stopped sharing data with most third-parties, the Times revealed. At the time, the company strongly disputed that these data partnerships violated users’ privacy or the company’s 2012 settlement with the FTC.

March 14, 2019

Re: [nexa] The U.S.-China rivalry over A.I. is about far more than data.

by Giacomo Tesio

On 13/03/2019, armeo(a)mail.nexacenter.org <meo(a)polito.it> wrote: > L'intelligenza artificiale NON ESISTE ed è diventata una grande BUFALA > Internazionale. Esiste un ampio spettro di discipline scientifiche che, > in virtù dell'eccezionale recente progresso tecnologico, consentono di > attuare funzionalità nuove e importanti, ma queste sono basate soltanto > su tanta intelligenza naturale. Sottoscrivo pienamente. Il problema e' che bisogna avere un minimo di competenza tecnica per non farsi abbagliare. E d'altro canto, l'accentramento della ricchezza a fronte dell'automazione dei processi produttivi (in corso da decenni, intelligenza artificiale o meno) rimane un problema irrisolto ed irrisolvibile dei modelli economici mainstream. Il problema non e' la tecnologia, ma l'incapacità di dirigerla al Bene Comune, anzitutto per ignoranza, ma anche perché si assume come un postulato che tale Bene Comune non esista, ed esista solo l'interesse individuale (per altro di individui razionali... che non esistono! :-D). > Chi compera un prodotto venduto come intelligenza artificiale - > speriamo non un dispositivo per il controllo del volo di un aereo di linea - Francamente, considerati i processi di sviluppo in aeronautica, in cui ogni singola riga di codice costa in media migliaia di euro, non credo che qualcuno si prenderebbe la briga di approssimare statisticamente un componente tanto delicato. Non c'è limite alla stupidita' umana, ma questo sarebbe ordini di grandezza al di sotto degli standard in quel settore. Molto di più mi preoccupano le auto a guida autonoma. La complessità "Informatica" di una strada, di città o di campagna, e' di ordini di grandezza superiore a quella di un volo di linea semplicemente perché non ci sono torri di controllo, non c'è coordinamento con gli altri oggetti in movimento (uomini, palloni da calcio, altri veicoli, animali), il sistema e' aperto e molto più imprevedibile di un volo di linea. Eppure si continua a dire che le auto a guida autonoma saranno necessariamente più sicure di quelle a guida umana. Il che potrebbe essere vero se circolassero su strade dedicate e progettate per il loro transito esclusivo, ma NON su strade comuni. La mia speranza, tuttavia, e' che almeno venga prevista la piena responsabilità PENALE per i CdA e gli azionisti delle società che producono e distribuiscono queste macchine, quando avverranno gli incidenti. Non esisterà alcuna giustificazione tecnica cui possano aggrapparsi: lanciare su una strada un mezzo guidato da un simulatore totalmente inadeguato alla complessità che deve affrontare e' una follia incompetente e ne dovranno rispondere. > è vittima di una truffa a meno che sia disponibile il codice sorgente e > si capisca bene cosa fa e come lo fa. Poni un problema interessantissimo. Non basta il codice sorgente, bisogna essere in grado di spiegarne COMPLETAMENTE e PRECISAMENTE il funzionamento effettivo. Ma CHI deve essere in grado di spiegarlo? Anche disponendo dei sorgenti, il costo di studiare e debuggare un sistema software complesso può essere enorme. Chi paga questo costo? Lo Stato durante un processo? E a chi lo delega? Agli esperti che hanno realizzato lo stesso? Ad altri in simili conflitti di interesse? Commentando la bozza delle linee guida Europee per AI "Degne di Fiducia" osservavo che cercare di ispirare fiducia in una popolazione che non comprende una materia, significa manipolarla e dunque NON essere degni di fiducia: http://www.tesio.it/2019/01/28/about-european-draft-for-ai-ethics-guideline… La fiducia deve essere basata su una comprensione profonda. Altrimenti e' una fiducia priva di significato. Alla fin fine la chiave di lettura per leggere l'Informatica e' sempre l'Informazione. Se non disponiamo della conoscenza (di cui il codice sorgente e' una rappresentazione necessaria, ma non sufficiente), non abbiamo gli strumenti per affrontare i problemi. In altri termini, non e' la Conoscenza ad essere Potere, ma l'Ignoranza (e la presunzione di conoscenza) ad essere una terribile debolezza. Giacomo

March 13, 2019