The U.S.-China rivalry over A.I. is about far more than data.
https://slate.com/technology/2019/03/united-states-china-rivalry-artificial-... (Sent from my wireless device; please excuse brevity and typos (if any))
Lee leads the way, devoting the last part of AI Superpowers to his own realization, after receiving a cancer diagnosis, that his workaholism and fanatic devotion to building tech companies paled beside what was really important in life: “loving and being loved.”
Mi si scioglie il cuore... :-)
He concludes that we must devote all our energies to ensuring that A.I. is developed in the service of human flourishing, building new sectors devoted to care, service, and education, putting humans at the center of the A.I. universe.
Me lo vedo: l'uomo al centro... CIRCONDATO da macchine da cui dipende. Cosa potrà mai andare storto! Comunque, se la cantano e se la suonano. Se invece di ballare la loro musica, di inseguire sui loro terreni, di provare a riprodurre i loro modelli, noi Europei provassimo ad usare le nostre teste, forse nessuno si permetterebbe di considerarci irrilevanti. Ma ci manca una Visione competente e radicata. Non sappiamo dove andare. O come. Per cui stiamo a guardare, sperando di attrarre qualche spicciolo di investimento. Giacomo On 12/03/2019, J.C. DE MARTIN <demartin@polito.it> wrote:
https://slate.com/technology/2019/03/united-states-china-rivalry-artificial-...
(Sent from my wireless device; please excuse brevity and typos (if any)) _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
caro Giacomo, non intervengo mai al vostro interessante dibattito, anche perchè non amo essere deriso come succede tutte le volte che dico la mia. Ma queste tue considerazioni sono così allineate con il mio pensiero che non resisto e dico la mia. L'intelligenza artificiale NON ESISTE ed è diventata una grande BUFALA Internazionale. Esiste un ampio spettro di discipline scientifiche che, in virtù dell'eccezionale recente progresso tecnologico, consentono di attuare funzionalità nuove e importanti, ma queste sono basate soltanto su tanta intelligenza naturale. Chi compera un prodotto venduto come intelligenza artificiale - speriamo non un dispositivo per il controllo del volo di un aereo di linea - è vittima di una truffa a meno che sia disponibile il codice sorgente e si capisca bene cosa fa e come lo fa. Raf Il 13/03/2019 12:13, Giacomo Tesio ha scritto:
Lee leads the way, devoting the last part of AI Superpowers to his own realization, after receiving a cancer diagnosis, that his workaholism and fanatic devotion to building tech companies paled beside what was really important in life: “loving and being loved.” Mi si scioglie il cuore... :-)
He concludes that we must devote all our energies to ensuring that A.I. is developed in the service of human flourishing, building new sectors devoted to care, service, and education, putting humans at the center of the A.I. universe. Me lo vedo: l'uomo al centro... CIRCONDATO da macchine da cui dipende. Cosa potrà mai andare storto!
Comunque, se la cantano e se la suonano. Se invece di ballare la loro musica, di inseguire sui loro terreni, di provare a riprodurre i loro modelli, noi Europei provassimo ad usare le nostre teste, forse nessuno si permetterebbe di considerarci irrilevanti.
Ma ci manca una Visione competente e radicata.
Non sappiamo dove andare. O come. Per cui stiamo a guardare, sperando di attrarre qualche spicciolo di investimento.
Giacomo
On 12/03/2019, J.C. DE MARTIN <demartin@polito.it> wrote:
https://slate.com/technology/2019/03/united-states-china-rivalry-artificial-...
(Sent from my wireless device; please excuse brevity and typos (if any)) _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
On 13/03/2019, armeo@mail.nexacenter.org <meo@polito.it> wrote:
L'intelligenza artificiale NON ESISTE ed è diventata una grande BUFALA Internazionale. Esiste un ampio spettro di discipline scientifiche che, in virtù dell'eccezionale recente progresso tecnologico, consentono di attuare funzionalità nuove e importanti, ma queste sono basate soltanto su tanta intelligenza naturale.
Sottoscrivo pienamente. Il problema e' che bisogna avere un minimo di competenza tecnica per non farsi abbagliare. E d'altro canto, l'accentramento della ricchezza a fronte dell'automazione dei processi produttivi (in corso da decenni, intelligenza artificiale o meno) rimane un problema irrisolto ed irrisolvibile dei modelli economici mainstream. Il problema non e' la tecnologia, ma l'incapacità di dirigerla al Bene Comune, anzitutto per ignoranza, ma anche perché si assume come un postulato che tale Bene Comune non esista, ed esista solo l'interesse individuale (per altro di individui razionali... che non esistono! :-D).
Chi compera un prodotto venduto come intelligenza artificiale - speriamo non un dispositivo per il controllo del volo di un aereo di linea -
Francamente, considerati i processi di sviluppo in aeronautica, in cui ogni singola riga di codice costa in media migliaia di euro, non credo che qualcuno si prenderebbe la briga di approssimare statisticamente un componente tanto delicato. Non c'è limite alla stupidita' umana, ma questo sarebbe ordini di grandezza al di sotto degli standard in quel settore. Molto di più mi preoccupano le auto a guida autonoma. La complessità "Informatica" di una strada, di città o di campagna, e' di ordini di grandezza superiore a quella di un volo di linea semplicemente perché non ci sono torri di controllo, non c'è coordinamento con gli altri oggetti in movimento (uomini, palloni da calcio, altri veicoli, animali), il sistema e' aperto e molto più imprevedibile di un volo di linea. Eppure si continua a dire che le auto a guida autonoma saranno necessariamente più sicure di quelle a guida umana. Il che potrebbe essere vero se circolassero su strade dedicate e progettate per il loro transito esclusivo, ma NON su strade comuni. La mia speranza, tuttavia, e' che almeno venga prevista la piena responsabilità PENALE per i CdA e gli azionisti delle società che producono e distribuiscono queste macchine, quando avverranno gli incidenti. Non esisterà alcuna giustificazione tecnica cui possano aggrapparsi: lanciare su una strada un mezzo guidato da un simulatore totalmente inadeguato alla complessità che deve affrontare e' una follia incompetente e ne dovranno rispondere.
è vittima di una truffa a meno che sia disponibile il codice sorgente e si capisca bene cosa fa e come lo fa.
Poni un problema interessantissimo. Non basta il codice sorgente, bisogna essere in grado di spiegarne COMPLETAMENTE e PRECISAMENTE il funzionamento effettivo. Ma CHI deve essere in grado di spiegarlo? Anche disponendo dei sorgenti, il costo di studiare e debuggare un sistema software complesso può essere enorme. Chi paga questo costo? Lo Stato durante un processo? E a chi lo delega? Agli esperti che hanno realizzato lo stesso? Ad altri in simili conflitti di interesse? Commentando la bozza delle linee guida Europee per AI "Degne di Fiducia" osservavo che cercare di ispirare fiducia in una popolazione che non comprende una materia, significa manipolarla e dunque NON essere degni di fiducia: http://www.tesio.it/2019/01/28/about-european-draft-for-ai-ethics-guidelines... La fiducia deve essere basata su una comprensione profonda. Altrimenti e' una fiducia priva di significato. Alla fin fine la chiave di lettura per leggere l'Informatica e' sempre l'Informazione. Se non disponiamo della conoscenza (di cui il codice sorgente e' una rappresentazione necessaria, ma non sufficiente), non abbiamo gli strumenti per affrontare i problemi. In altri termini, non e' la Conoscenza ad essere Potere, ma l'Ignoranza (e la presunzione di conoscenza) ad essere una terribile debolezza. Giacomo
Caro Giacomo, On Wed, Mar 13, 2019 at 12:13 PM Giacomo Tesio <giacomo@tesio.it> wrote:
Comunque, se la cantano e se la suonano. Se invece di ballare la loro musica, di inseguire sui loro terreni, di provare a riprodurre i loro modelli, noi Europei provassimo ad usare le nostre teste, forse nessuno si permetterebbe di considerarci irrilevanti.
Cosa dovremmo fare di preciso noi Europei in questo campo? Ciao, Andrea
Ciao Andrea, grazie della splendida domanda. Temo che non sarò breve. Scusa. On 14/03/2019, Andrea Glorioso <andrea@digitalpolicy.it> wrote:
Cosa dovremmo fare di preciso noi Europei in questo campo?
Studiare. Storia e Informatica. Non intendo sottrarmi con una battuta, per cui di seguito ti offro alcune proposte concrete (culturali, legali, industriali etc..), ma la chiave di una via Europea all'innovazione tecnologica passa dalla valorizzazione delle peculiarità delle nostre storie politiche. Dalle sintesi e dalla consapevolezza delle contraddizioni che ci contraddistinguono. L'egemonia culturale statunitense ci ha convinto che la conoscenza sia un prodotto ed un capitale accumulabile. Questo ha molteplici implicazioni negative (ed effetti talvolta persino ridicoli), ma la più perniciosa è che in Europa proviamo a riprodurre il modello americano in cui "poli di eccellenza" vengono costituiti e finanziati per creare conoscenza/innovazione sfruttabile sul mercato. La Silicon Valley è un esempio evidente, ma in generale vi è una fondamentale tendenza all'accentramento della conoscenza come una forma di potere (del tutto analogo all'accentramento della ricchezza), in un contesto in cui la maggioranza della popolazione viene lasciata nell'ignoranza (come nella povertà). Questo modello mentale e culturale "elitario" si ripropone sistematicamente nella creazione tecnologica che ispira. Il potere di società come Google, Cloudflare, Amazon, Microsoft e Facebook, capaci di accumulare conoscenza su tutto e tutti, e di conseguenza di manipolare tutti, è una espressione di tale cultura. La SV infatti accentra sia conoscenza di algoritmi, sia dati personali (da cui dedurre informazioni) su una grande parte della popolazione mondiale. Una visione che non ci appartiene. Ma che, per pura ignoranza di noi stessi e della tecnologia, non siamo capaci di contrastare. L'Europa è un luogo dove culture diverse si sono incontrate e scontrate, mostrando il meglio e il peggio di se ma... imparando le une dalle altre. Liberté, Égalité, Fraternité ou la mort. E' letteralmente ciò di cui discutiamo. Una via Europea all'innovazione tecnologica non può essere prodotta da poli di eccellenza (pur utili), ma di Cultura Informatica distribuita. Ciò che i rampolli delle elité americane imparano a Stanford, noi dobbiamo arrivare ad insegnarlo alle superiori. In modo pratico e teorico: https://basicengine.org/ (ma magari in Oberon, vah.. :-D) Dall'humus di questa conoscenza condivisa e democraticamente distribuita, emergeranno NUOVE TECNOLOGIE DISTRIBUITE che una volta prodotte e distribuite sul territorio, costituiranno una nuova infrastruttura tecnologica resiliente. Ed al contempo emergerà una classe dirigente consapevole del funzionamento della tecnologia e dunque più autorevole in materia ed autonoma rispetto agli interessi di colossi multinazionali con direzione straniera. Nota il linguaggio che uso: stiamo parlando di geopolitica, e ti sto proponendo di usare la distribuzione della conoscenza tecnologica fra la popolazione Europea (e Africana, e di chiunque altro voglia usare i software e i materiali didattici che creeremo) come strumento di difesa militare, come uno scudo capace (se correttamente realizzato) di proteggere l'Europa da una guerra mondiale che è già iniziata. Si tratta di una Visione Politica di un processo di lungo periodo, intergenerazionale. Ma l'alternativa è diventare terreno di una guerra informatica (e non solo) dagli esiti distopici (che già pregustiamo), chiunque vinca. Alla luce di questa visione politica, le iniziative concrete che noi Europei potremmo intraprendere sono innumerevoli. A livello accademico il lavoro da fare è enorme. Wirth è un faro in questo senso: http://www.projectoberon.com/ Quando dico che tutti dovrebbero essere in grado di scrivere e/o modificare il proprio software, i programmatori più giovani mi considerano... "bizzarro". Assumono che io voglia insegnare a tutti, nelle scuole, ciò che spesso nemmeno l'università è capace di trasmettere efficacemente. Perché programmare, come diceva Dijkstra, è difficile. Ma perché è difficile? Perché siamo ai primordi della materia. I linguaggi di programmazione che utilizziamo sono TUTTI estremamente... complessi. I sistemi operativi mainstream sono tutti ridicolmente complicati (e comunque inadatti a supportare una computazione distribuita). Abbiamo bisogno di idee nuove. Siamo un po' come Antichi Egizi di fronte a complessi sistemi di equazioni, senza avere il concetto di zero. Purtroppo la ricerca è spesso orientata ad obbiettivi incompatibili con la semplicità, che invece deve essere la discriminante per adottare o rifiutare una tecnologia. Il discorso qui è profondo ed interessante... ma un po' geek. :-D UNIX e C esprimono una visione dell'utente molto diversa da Windows e C#, o da Lisp, o Python, o Haskell, o Rust. Se vogliamo far "programmare le casalinghe" (per citare il giovane Von Rossum), nessuno di questi approcci funziona. La Cultura poi, non si fa solo a scuola. Ogni volta che guardo un cartone Disney con le mie bimbe rimango stupefatto dalla quantità di messaggi subliminali che veicolano. Vampirina (in questo periodo su Rai Gulp, se non sbaglio) mi lascia sempre molto perplesso: la storia dell'integrazione di un predatore immortale in una società di prede. Mutatis mutandis: anche Jeff Bezos in fondo potrebbe essere un povero oppresso che necessita di integrazione sociale. Dobbiamo imparare molto da questa gente, ma per veicolare la NOSTRA cultura, i NOSTRI valori, i NOSTRI messaggi, prima che vengano semplicemente rimpiazzati. A livello legale abbiamo bisogno di normative che errino sul lato della cautela. Per esempio, la distribuzione sul territorio europeo di prodotti che trasferiscono dati di origine umana in remoto andrebbe vietata. Questo non significa vietare prodotti come Alexa, Cortana o Google Assistant. Significa semplicemente imporre che l'elaborazione dei dati di origine umana avvenga esclusivamente in locale, che nessuna immagine o suono (in qualsivoglia modo elaborato) possa lasciare il device. Per restare sulla AI, stabilire norme severe e responsabilità penali certe in capo ai responsabili delle aziende in caso di problemi avrebbe un effetto dirompente sulla ricerca di tecniche di AI debuggabili e totalmente spiegabili. Il principio di responsabilità dovrebbe essere semplice: se non si è in grado di dimostrare matematicamente che il software e l'hardware non hanno sbagliato, allora hanno sbagliato e si è responsabili del loro errore. La presunzione di innocenza ha senso per le persone, non per il software che è per natura pieno di bug. E poi, perché non creiamo un web-of-trust distribuito su base comunale? Il sindaco può starmi simpatico o meno, ma se firma la mia chiave pubblica dichiarando che appartiene proprio a me, mi fornisce comunque un servizio utile. Perché non imponiamo che le comunicazioni fra aziende e stato devono avvenire in forma criptata via PGP/GPG? Un'altra norma di buon senso sarebbe vietare, sul territorio europeo qualsiasi forma di lock-in hardware-software. Abbiamo bisogno di una Device Neutrality "on steroids" (per cui mi permetto di mettere in copia Stefano Quintarelli): l'hardware può essere fornito con un sistema operativo e delle applicazioni preinstallate, PURCHE' sia concretamente possibile sostituire ogni singolo componente installato (incluso il sistema operativo). Se per un determinato componente software non esiste un alternativa compatibile con l'hardware, questo non può essere distribuito con l'hardware. Se tale componente privo di alternative è il sistema operativo, l'hardware non può essere venduto sul territorio Europeo. Nota che qui la questione è più importante di quanto si possa immaginare pensando ai cellulari e agli AppStore. Per esempio Microsoft, di fatto, controlla quali sistemi operativi possono essere bootati come "sicuri" da UEFI/SecureBoot (vedi https://wiki.ubuntu.com/UEFI/SecureBoot ) e questo sta causando problemi a Debian da almeno un mese: https://lists.debian.org/debian-boot/2019/03/msg00071.html Perché lasciamo che una società privata che produce sistemi operativi storicamente... non proprio sicuri diciamo (:-D)... stabilisca quali sistemi operativi possono essere considerati sicuri dai computer venduti sul nostro territorio? Dal punto di vista industriale... non so nemmeno da dove iniziare! :-D Abbiamo bisogno di software libero e hardware libero. Non necessariamente libero nell'accezione della FSF, ma certamente libero nel senso di proprietà e conoscenza condivisa e non privatizzabile. Dobbiamo investire su RISCV. Dobbiamo investire in progetti come http://kestrelcomputer.github.io/kestrel/ Dobbiamo produrre processori. Motherboards. Hardware votato alla sicurezza, all'economicità e all'efficienza energetica prima che alle performance e al profitto. Dobbiamo mettere server in ogni casa. Server mail, server web, server di ogni tipo. Sempre senza lock-in hardware-software. Dobbiamo costringere le compagnie telefoniche a far passare tutto il traffico. Dobbiamo vietare a grandi agglomerati industriali di rifiutare email da IP di uso domestico (uno dei modi in cui Google usa il proprio dominio per disincentivare la distribuzione prevista dal protocollo SMTP). Insomma, oltre a distribuire la CONOSCENZA dobbiamo distribuire la COMPUTAZIONE. In questo modo, distribuiamo i DATI, mettendoli "al sicuro" ovvero impedendo che l'accumulo di dati => informazioni => conoscenza diventi uno strumento di potere geopolitico. In questo percorso, peraltro, vi sarebbero grandi possibilità economiche. Ma se l'obbiettivo STRATEGICO MILITARE è distribuire la conoscenza, l'economia dovrà adattarsi alle esigenze politiche e sociali, accettando normative che favoriscano il fiorire di piccole e medie imprese in collaborazione rispetto a grandi colossi industriali in competizione (troppo vulnerabili in quanto single point of failure, come ha ben dimostrato la ARM). Queste sono solo alcune delle iniziative che di cui l'Europa ha bisogno, ma naturalmente se arrivi a leggere fino qui, la prima volta che ci vediamo ti offro un caffé! :-D Spero di avere risposto alla tua domanda... ma non esitare a chiedere chiarimenti! ;-) A presto! Giacomo
Condivido (con il permesso dell'autore) questa fantastica obbiezione che mette in discussione le fondamenta del mio discorso in risposta ad Andrea.
On 14/03/2019, Giacomo Tesio <giacomo@tesio.it> wrote:
Nota il linguaggio che uso: stiamo parlando di geopolitica, e ti sto proponendo di usare la distribuzione della conoscenza tecnologica fra la popolazione Europea (e Africana, e di chiunque altro voglia usare i software e i materiali didattici che creeremo) come strumento di difesa militare, come uno scudo capace (se correttamente realizzato) di proteggere l'Europa da una guerra mondiale che è già iniziata.
Francamente, Signor Tesio, parlare di guerre mondiali a fronte di un conflitto che è principalmente commerciale è decisamente eccessivo. La fa apparire come un complottista allucinato togliendo credibilità alle riflessioni e alle proposte pur interessanti che sempre condivide in lista.
Guardi fuori dal Suo computer ogni tanto. Vede bombe? Vede morti?
Non siamo territorio di guerra. Siamo parte di un mercato globale che garantisce una pace effettiva. [...]
Se anche Lei avesse ragione, se si stesse preparando una nuova guerra mondiale, davvero pensa che la cultura possa difendere qualcuno? Nella storia umana non è mai accaduto.
Non so come ringraziare l'autore (che preferisce non essere citato) per la profondità e l'intelligenza di questa obbiezione. L'unica cosa di cui non posso dubitare è che sto dubitando, dunque vi è sempre il rischio che le mie opinioni siano in qualche modo "allucinate". D'altro canto questo rischio è generale, valido per tutti i membri della nostra specie: siamo tutti chiusi nella nostra personale caverna di Platone, con i nostri limitatissimi sensi, il linguaggio e poche altre invarianti geneticamente determinate dalla evoluzione della nostra specie, come unici appigli per immaginare cosa capiti fuori. Che posso dire dunque? "Se mi sbaglio, corrigetemi!" :-D Detto questo, credo che l'autore sbagli. A causa di una serie di vicissitudini personali, mi ritrovai a frequentare un paio di mesi di quinta elementare a Reggio Calabria, città natale di mia madre. Ricordo molto bene che a fronte di una mia domanda in classe su cosa fosse la mafia, la maestra mi rispose (con un piglio che mi parve offeso e... preoccupato) "La Mafia non esiste. E' un invenzione del Nord per danneggiare l'immagine delle nostre belle terre." Questa risposa chiuse completamente la conversazione: cosa potevo obbiettare io, venendo dal Nord, colpevole di inventare calunnie contro un'intera popolazione che si era dimostrata incredibilmente amichevole e accogliente? Parliamo della fine degli anni 80. La SECONDA guerra di 'ndrangheta era ancora in corso, causando circa 700 morti proprio a Reggio Calabria. Io venivo schermato da queste informazioni (posso solo immaginare con quale ansia da parte dei miei parenti), ma lì I MORTI C'ERANO nelle strade. Eppure nessuno li vedeva. Neppure lo Stato. "La Mafia non esiste" diceva _la_maestra_. Dunque il fatto che non vediamo i morti, non implica che non ci sia una guerra. Magari semplicemente non li vogliamo vedere? O magari non li VOGLIAMO ricondurre ad atti di guerra, come le vittime della strage di Piazza Fontana o della strage di Bologna? Ok ma... e le bombe? Dove sono le bombe? Le armi di questa guerra sono informatiche. Sono informazioni che si manifestano come dati e programmi (ma non solo). L'accumulo di dati, informazioni, algoritmi e programmi capaci di manipolare le persone. Ogni singola vulnerabilità zero day deployata su miliardi di macchine. JavaScript eseguito automaticamente dai browser con HTTP come sistema di distribuzione del software. Il "cloud" e simili MitM su scala mondiale quali Cloudflare. E poi HTTP/2, QUIC, il sistema di DNS, etc... etc... etc... Tutte ARMI FORMIDABILI, nascoste in bella vista. Su questo purtroppo però si pone una race condition. L'unico modo per VEDERE queste armi informatiche e riconoscerle come tali è disporre delle competenze informatiche necessarie a capire veramente come funzionino. Studiare non ha mai ucciso nessuno, per cui io suggerisco agli Europei di studiare. Una volta compreso il loro funzionamento, non è poi così difficile disinnescarle. Perché, ripeto, l'Informatica tratta l'Informazione. La consapevolezza di avere una microspia in casa è un'ottimo incentivo a toglierla. Proprio perché ci si rende conto di essere stati babbei a comprarla in prima istanza. Per contro queste armi sono in grado di determinare governi, facilitare crisi come la Brexit, crisi borsistiche, crash aeronautici... e dunque in effetti di uccidere e di limitare la libertà intellettuale, personale, sociale, economica e politica. Dunque anche qui confermo la mia posizione. In una guerra mondiale INFORMATICA, la distribuzione della conoscenza informatica e della computazione sono il migliore scudo che l'Europa possa costruire per tutelare il proprio territorio, la propria autonomia e la libertà dei propri cittadini. Si potrebbe riflettere se sia proprio il mercato globale (cui faceva riferimento l'autore) a costringere i contendenti a confrontarsi su un piano informatico piuttosto che il rischio di una distruzione totale del pianeta a fronte di un conflitto militare atomico diretto, ma... temo di essere già stato fin troppo noioso (e me ne scuso). In sintesi comunque, può essere che io debba alzare gli occhi dal mio computer più spesso. Ma può anche essere che la maggioranza degli Europei dovrebbe iniziare a smontare il proprio computer, il proprio cellulare, la propria Alexa, iniziare a capire come funziona, a scriverne il software, ad implementarne i protocolli di rete etc... Possibilmente, prima che l'Europa venga annessa al vincitore. A presto! Giacomo
Caro Giacomo, vorrei ringraziarti per la tua risposta (anzi, le tue risposte) alla mia domanda, che a scanso di equivoci non voleva essere né sarcastica né sprezzante. Mi fa piacere tu l'abbia interpretata come un'onesta richiesta di capire meglio la tua posizione. Detto questo, metti molta carne al fuoco e non mi sento in grado, almeno in questo momento, di risponderti come meriti. Ci devo pensare. Mi limito ad osservare che, come ebbe a dire un altro europeo eccellente (il generale Charles de Gaulle) si tratta di un "vaste programme". A differenza di de Gaulle non uso l'espressione per liquidare le tue idee, come pare il generale facesse spesso. Tuttavia, come de Gaulle (e molti altri) la uso per segnalare che per andare dal punto A al punto B, direi anzi nel nostro caso quasi al punto Z, bisogna avere coscienza dei rapporti di forza in campo, di ciò che è possibile nel breve, medio e lungo periodo, e di quali siano le opzioni "procedurali" concrete. Nel riflettere ulteriormente sui tuoi spunti, tengo questi aspetti ben presenti. Grazie ancora per le tue riflessioni. A presto, Andrea On Fri, Mar 15, 2019 at 1:30 PM Giacomo Tesio <giacomo@tesio.it> wrote:
Condivido (con il permesso dell'autore) questa fantastica obbiezione che mette in discussione le fondamenta del mio discorso in risposta ad Andrea.
On 14/03/2019, Giacomo Tesio <giacomo@tesio.it> wrote:
Nota il linguaggio che uso: stiamo parlando di geopolitica, e ti sto proponendo di usare la distribuzione della conoscenza tecnologica fra la popolazione Europea (e Africana, e di chiunque altro voglia usare i software e i materiali didattici che creeremo) come strumento di difesa militare, come uno scudo capace (se correttamente realizzato) di proteggere l'Europa da una guerra mondiale che è già iniziata.
Francamente, Signor Tesio, parlare di guerre mondiali a fronte di un conflitto che è principalmente commerciale è decisamente eccessivo. La fa apparire come un complottista allucinato togliendo credibilità alle riflessioni e alle proposte pur interessanti che sempre condivide in lista.
Guardi fuori dal Suo computer ogni tanto. Vede bombe? Vede morti?
Non siamo territorio di guerra. Siamo parte di un mercato globale che garantisce una pace effettiva. [...]
Se anche Lei avesse ragione, se si stesse preparando una nuova guerra mondiale, davvero pensa che la cultura possa difendere qualcuno? Nella storia umana non è mai accaduto.
Non so come ringraziare l'autore (che preferisce non essere citato) per la profondità e l'intelligenza di questa obbiezione.
L'unica cosa di cui non posso dubitare è che sto dubitando, dunque vi è sempre il rischio che le mie opinioni siano in qualche modo "allucinate". D'altro canto questo rischio è generale, valido per tutti i membri della nostra specie: siamo tutti chiusi nella nostra personale caverna di Platone, con i nostri limitatissimi sensi, il linguaggio e poche altre invarianti geneticamente determinate dalla evoluzione della nostra specie, come unici appigli per immaginare cosa capiti fuori.
Che posso dire dunque? "Se mi sbaglio, corrigetemi!" :-D
Detto questo, credo che l'autore sbagli.
A causa di una serie di vicissitudini personali, mi ritrovai a frequentare un paio di mesi di quinta elementare a Reggio Calabria, città natale di mia madre.
Ricordo molto bene che a fronte di una mia domanda in classe su cosa fosse la mafia, la maestra mi rispose (con un piglio che mi parve offeso e... preoccupato) "La Mafia non esiste. E' un invenzione del Nord per danneggiare l'immagine delle nostre belle terre." Questa risposa chiuse completamente la conversazione: cosa potevo obbiettare io, venendo dal Nord, colpevole di inventare calunnie contro un'intera popolazione che si era dimostrata incredibilmente amichevole e accogliente?
Parliamo della fine degli anni 80. La SECONDA guerra di 'ndrangheta era ancora in corso, causando circa 700 morti proprio a Reggio Calabria.
Io venivo schermato da queste informazioni (posso solo immaginare con quale ansia da parte dei miei parenti), ma lì I MORTI C'ERANO nelle strade. Eppure nessuno li vedeva. Neppure lo Stato. "La Mafia non esiste" diceva _la_maestra_.
Dunque il fatto che non vediamo i morti, non implica che non ci sia una guerra. Magari semplicemente non li vogliamo vedere?
O magari non li VOGLIAMO ricondurre ad atti di guerra, come le vittime della strage di Piazza Fontana o della strage di Bologna?
Ok ma... e le bombe? Dove sono le bombe?
Le armi di questa guerra sono informatiche. Sono informazioni che si manifestano come dati e programmi (ma non solo).
L'accumulo di dati, informazioni, algoritmi e programmi capaci di manipolare le persone. Ogni singola vulnerabilità zero day deployata su miliardi di macchine. JavaScript eseguito automaticamente dai browser con HTTP come sistema di distribuzione del software. Il "cloud" e simili MitM su scala mondiale quali Cloudflare. E poi HTTP/2, QUIC, il sistema di DNS, etc... etc... etc...
Tutte ARMI FORMIDABILI, nascoste in bella vista.
Su questo purtroppo però si pone una race condition.
L'unico modo per VEDERE queste armi informatiche e riconoscerle come tali è disporre delle competenze informatiche necessarie a capire veramente come funzionino.
Studiare non ha mai ucciso nessuno, per cui io suggerisco agli Europei di studiare. Una volta compreso il loro funzionamento, non è poi così difficile disinnescarle. Perché, ripeto, l'Informatica tratta l'Informazione. La consapevolezza di avere una microspia in casa è un'ottimo incentivo a toglierla. Proprio perché ci si rende conto di essere stati babbei a comprarla in prima istanza.
Per contro queste armi sono in grado di determinare governi, facilitare crisi come la Brexit, crisi borsistiche, crash aeronautici... e dunque in effetti di uccidere e di limitare la libertà intellettuale, personale, sociale, economica e politica.
Dunque anche qui confermo la mia posizione.
In una guerra mondiale INFORMATICA, la distribuzione della conoscenza informatica e della computazione sono il migliore scudo che l'Europa possa costruire per tutelare il proprio territorio, la propria autonomia e la libertà dei propri cittadini.
Si potrebbe riflettere se sia proprio il mercato globale (cui faceva riferimento l'autore) a costringere i contendenti a confrontarsi su un piano informatico piuttosto che il rischio di una distruzione totale del pianeta a fronte di un conflitto militare atomico diretto, ma... temo di essere già stato fin troppo noioso (e me ne scuso).
In sintesi comunque, può essere che io debba alzare gli occhi dal mio computer più spesso.
Ma può anche essere che la maggioranza degli Europei dovrebbe iniziare a smontare il proprio computer, il proprio cellulare, la propria Alexa, iniziare a capire come funziona, a scriverne il software, ad implementarne i protocolli di rete etc...
Possibilmente, prima che l'Europa venga annessa al vincitore.
A presto!
Giacomo _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- -- Andrea Glorioso Twitter: @andreaglorioso Facebook: https://www.facebook.com/andrea.glorioso LinkedIn: http://www.linkedin.com/profile/view?id=1749288&trk=tab_pro
On March 17, 2019 6:52:55 PM UTC, Andrea Glorioso <andrea@digitalpolicy.it> wrote:
Caro Giacomo,
vorrei ringraziarti per la tua risposta (anzi, le tue risposte) alla mia domanda, che a scanso di equivoci non voleva essere né sarcastica né sprezzante. Mi fa piacere tu l'abbia interpretata come un'onesta richiesta di capire meglio la tua posizione.
Sono un hacker. Rispondo sempre alle domande. Al massimo la risposta è "non lo so". Alla peggio è sbagliata (e mi aspetto che i miei interlocutori me lo facciano notare in modo chiaro ed inequivocabile). So di non sapere, ma sono troppo curioso per perdere tempo a sembrare più furbo di quello che sono. Quindi, se mi fai una domanda, io rispondo meglio che posso. Anche se la tua domanda fosse state ironica o sprezzante, avrei risposto comunque. La vita è troppo breve e c'è davvero troppo da imparare per perdere l'occasione di essere corretti.
Mi limito ad osservare che, come ebbe a dire un altro europeo eccellente (il generale Charles de Gaulle) si tratta di un "vaste programme". A differenza di de Gaulle non uso l'espressione per liquidare le tue idee, come pare il generale facesse spesso. Tuttavia, come de Gaulle (e molti altri) la uso per segnalare che per andare dal punto A al punto B, direi anzi nel nostro caso quasi al punto Z, bisogna avere coscienza dei rapporti di forza in campo, di ciò che è possibile nel breve, medio e lungo periodo, e di quali siano le opzioni "procedurali" concrete. Nel riflettere ulteriormente sui tuoi spunti, tengo questi aspetti ben presenti.
:-D Sono un programmatore. Una differenza fondamentale fra Matematica e Informatica è che per noi il tempo e lo spazio sono elementi fondamentali. In un equazione non c'è un prima e un dopo. L'equazione è o non è. In un algoritmo invece c'è un prima ed un dopo. Un programma in esecuzione esiste in uno spazio multidimensionale dinamico, fatto di heap, stack e program counter (ovvero l'istruzione corrente), ambiente di esecuzione (a sua volta multidimensionale), interrupts etc... in cui il tempo non scorre sempre nello stesso modo. Il codice del programma poi cambia nel tempo, rendendo necessario il versioning ed una complessa gestione dello stesso durante il processo di sviluppo. Per non parlare della organizzazione del codice, dei trade off fra incapsulamento e accoppiamento, della rapporto fra la dimensione dei pacchetti e la complessità dei rapporti di dipendenza. Oppure dei rapporti di dipendenza rispetto al materiale prodotto da terze parti: che sia software libero, open source o proprietario, qualunque dipendeza tu introduca in un software stabilisce un rapporto di potere e conoscere l'etica, la cultura e i processi di chi produce il componente da cui accetti di dipendere potrebbe essere persino più importante di leggerne il sorgente. Ma la cultura cambia col tempo e se non segui l'evoluzione di ogni singola dipendenza finisci per trovarti legato a persone spiacevoli. E vogliamo parlare di licenze? :-) O di sicurezza! Perché si parla di zero DAY? Perché anche in termini di sicurezza informatica il tempo di propagazione di un'informazione è fondamentale! Per questo si cerca di tenere certe vulnerabilità segrete coordinando la loro correzione fra diversi progetti (per la verità con scarsi risultati, segno che forse il problema è a monte... ma qui il discorso diventa tecnico e filosofico insieme... un'altra volta) Tutti aspetti che hanno interazioni ed implicazioni complesse e profonde... e dinamiche! Ogni IF moltiplica per 2 i possibili comportamenti del software. Ogni linea di codice aumenta la probabilità di bug. Secondo te, come facciamo a gestire software da milioni di righe di codice? Come manteniamo la salute mentale? (E ti prego non dire in giro che non la manteniamo... piuttosto considerami un'eccezione! :-D) Abbiamo un trucco. Teniamo BEN CHIARO nella nostra mente L'OBBIETTIVO. Un po' come Michelangelo con il David. È questo che dobbiamo insegnare agli Europei. A gestire la complessità senza perdere la capacità di agire concretamente su di essa. È questo che fanno i programmatori ogni santo giorno di lavoro. So benissimo cosa intendi e hai ragione è un programma vastissimo. Ma fidati: sono meno "idealista" di quanto possa sembrare. Si può fare. E per fortuna, in guerra ci si riesce ad organizzare più velocemente! A meno, ovviamente, di non essere in grado di vedere il nemico arrivare.
Grazie ancora per le tue riflessioni.
Dovere! ;-) Giacomo
Caro Giacomo, con tutto il rispetto, mi pare che assumere la fattibilità del programma politico che proponi (che, bada bene, io non metto in discussione in termini assoluti, anche se certo ne rilevo la difficoltà) sulla base di supposte abilità, caratteristiche o pratiche della categoria dei "programmatori" sia errato, o quanto meno azzardato, per due motivi. Il primo è che le dinamiche socio-politiche degli esseri umani non sono dei programmi per elaboratori, per quanto complessi. Ogni volta che qualcuno, da sinistra o da destra, dall'alto o dal basso, per i motivi più o meno nobili, ha costruito progetti di società basati su questo assunto, si è scontrato duramente con la realtà. Il secondo è che, in tutta franchezza e detto da uno che pur non essendo un programmatore professionista (la vita mi ha portato altrove) qualcosa dell'argomento ne capisce, l'attuale panorama tecnologico è desolante, per quanto attiene alle capacità della suddetta categoria di costruire sistemi complessi robusti e che molto banalmente facciano ciò che si suppone debbano fare - e parliamo di una complessità che è ordini di grandezza inferiore rispetto ai sistemi sociali più semplici. Dunque discutiamo pure senza preconcetti di ciò che gli europei dovrebbero fare nell'ambito di cui stiamo parlando (o altri nel caso) ma cerchiamo di mantenere un po' di lucidità e realismo su tempi, modi e mezzi. P.S.: nulla circa la mia opinione sui programmatori (categoria di cui per un periodo della mia vita ho fatto anche parte) presuppone che io abbia un'opinione particolarmente più elevata di altre categorie professionali, compresa quella di cui faccio parte attualmente. A presto, Andrea On Mon, Mar 18, 2019 at 12:27 AM Giacomo <giacomo@tesio.it> wrote:
On March 17, 2019 6:52:55 PM UTC, Andrea Glorioso <andrea@digitalpolicy.it> wrote:
Caro Giacomo,
vorrei ringraziarti per la tua risposta (anzi, le tue risposte) alla mia domanda, che a scanso di equivoci non voleva essere né sarcastica né sprezzante. Mi fa piacere tu l'abbia interpretata come un'onesta richiesta di capire meglio la tua posizione.
Sono un hacker. Rispondo sempre alle domande. Al massimo la risposta è "non lo so". Alla peggio è sbagliata (e mi aspetto che i miei interlocutori me lo facciano notare in modo chiaro ed inequivocabile).
So di non sapere, ma sono troppo curioso per perdere tempo a sembrare più furbo di quello che sono.
Quindi, se mi fai una domanda, io rispondo meglio che posso.
Anche se la tua domanda fosse state ironica o sprezzante, avrei risposto comunque.
La vita è troppo breve e c'è davvero troppo da imparare per perdere l'occasione di essere corretti.
Mi limito ad osservare che, come ebbe a dire un altro europeo eccellente (il generale Charles de Gaulle) si tratta di un "vaste programme". A differenza di de Gaulle non uso l'espressione per liquidare le tue idee, come pare il generale facesse spesso. Tuttavia, come de Gaulle (e molti altri) la uso per segnalare che per andare dal punto A al punto B, direi anzi nel nostro caso quasi al punto Z, bisogna avere coscienza dei rapporti di forza in campo, di ciò che è possibile nel breve, medio e lungo periodo, e di quali siano le opzioni "procedurali" concrete. Nel riflettere ulteriormente sui tuoi spunti, tengo questi aspetti ben presenti.
:-D
Sono un programmatore.
Una differenza fondamentale fra Matematica e Informatica è che per noi il tempo e lo spazio sono elementi fondamentali.
In un equazione non c'è un prima e un dopo. L'equazione è o non è.
In un algoritmo invece c'è un prima ed un dopo. Un programma in esecuzione esiste in uno spazio multidimensionale dinamico, fatto di heap, stack e program counter (ovvero l'istruzione corrente), ambiente di esecuzione (a sua volta multidimensionale), interrupts etc... in cui il tempo non scorre sempre nello stesso modo. Il codice del programma poi cambia nel tempo, rendendo necessario il versioning ed una complessa gestione dello stesso durante il processo di sviluppo. Per non parlare della organizzazione del codice, dei trade off fra incapsulamento e accoppiamento, della rapporto fra la dimensione dei pacchetti e la complessità dei rapporti di dipendenza. Oppure dei rapporti di dipendenza rispetto al materiale prodotto da terze parti: che sia software libero, open source o proprietario, qualunque dipendeza tu introduca in un software stabilisce un rapporto di potere e conoscere l'etica, la cultura e i processi di chi produce il componente da cui accetti di dipendere potrebbe essere persino più importante di leggerne il sorgente. Ma la cultura cambia col tempo e se non segui l'evoluzione di ogni singola dipendenza finisci per trovarti legato a persone spiacevoli. E vogliamo parlare di licenze? :-) O di sicurezza! Perché si parla di zero DAY? Perché anche in termini di sicurezza informatica il tempo di propagazione di un'informazione è fondamentale! Per questo si cerca di tenere certe vulnerabilità segrete coordinando la loro correzione fra diversi progetti (per la verità con scarsi risultati, segno che forse il problema è a monte... ma qui il discorso diventa tecnico e filosofico insieme... un'altra volta)
Tutti aspetti che hanno interazioni ed implicazioni complesse e profonde... e dinamiche!
Ogni IF moltiplica per 2 i possibili comportamenti del software. Ogni linea di codice aumenta la probabilità di bug.
Secondo te, come facciamo a gestire software da milioni di righe di codice? Come manteniamo la salute mentale? (E ti prego non dire in giro che non la manteniamo... piuttosto considerami un'eccezione! :-D)
Abbiamo un trucco.
Teniamo BEN CHIARO nella nostra mente L'OBBIETTIVO.
Un po' come Michelangelo con il David.
È questo che dobbiamo insegnare agli Europei. A gestire la complessità senza perdere la capacità di agire concretamente su di essa.
È questo che fanno i programmatori ogni santo giorno di lavoro.
So benissimo cosa intendi e hai ragione è un programma vastissimo. Ma fidati: sono meno "idealista" di quanto possa sembrare. Si può fare.
E per fortuna, in guerra ci si riesce ad organizzare più velocemente! A meno, ovviamente, di non essere in grado di vedere il nemico arrivare.
Grazie ancora per le tue riflessioni.
Dovere! ;-)
Giacomo
-- -- Andrea Glorioso Twitter: @andreaglorioso Facebook: https://www.facebook.com/andrea.glorioso LinkedIn: http://www.linkedin.com/profile/view?id=1749288&trk=tab_pro
Scusami, evidentemente mi sono spiegato MALISSIMO! :-D On 18/03/2019, Andrea Glorioso <andrea@digitalpolicy.it> wrote:
Caro Giacomo,
con tutto il rispetto, mi pare che assumere la fattibilità del programma politico che proponi (che, bada bene, io non metto in discussione in termini assoluti, anche se certo ne rilevo la difficoltà) sulla base di supposte abilità, caratteristiche o pratiche della categoria dei "programmatori" sia errato, o quanto meno azzardato
No, assolutamente non era ciò che intendevo. Il "programma" (in realtà un insieme di iniziative piuttosto ovvie e di buon senso buttate insieme in una mail giusto per fare esempi... assolutamente insufficienti, seppure utili) è fattibile in sé in condizione di volontà politica a realizzarlo. Naturalmente creare i presupposti di tale volontà non è facile. Soprattutto senza la consapevolezza del pericolo. Consapevolezza che deriva dalla conoscenza. Insomma, un cane che si morde la coda.
Il primo è che le dinamiche socio-politiche degli esseri umani non sono dei programmi per elaboratori, per quanto complessi. Ogni volta che qualcuno, da sinistra o da destra, dall'alto o dal basso, per i motivi più o meno nobili, ha costruito progetti di società basati su questo assunto, si è scontrato duramente con la realtà.
Uhm... diciamo che credo di aver chiara la differenza fra uomo e macchina (vorrei allegare agli atti tutti i pippotti sulla IA con cui l'imputato ha annoiato la lista in questo anno... :-D) Però vedi, la peculiarità della mia proposta è la profonda fiducia nell'uomo che presuppone, proprio in quanto NON macchina prevedibile. L'educazione è sempre stata espressione di una visione politica. Educare alla programmazione significa dare alle persone la possibilità di ragionare in modo ordinato su problemi complessi e di progettare "procedure" che permettano di risolverli. Significa dar loro la possibilità di insegnare il dialogo ad una macchina (e dunque imparare a riconoscere i problemi di comunicazione con il diverso), progettando e implementando protocolli di comunicazione. Significa dar loro la possibilità di debuggare, di andare a fondo nell'analisi dei sistemi complessi educandoli a non accontentarsi di spiegazioni superficiali che non risolvono i problemi. La programmazione, da sola, non basta (io parlo sempre di Storia ed Informatica) ma la mia non è fiducia nei programmatori, la mia è speranza negli Europei (nei bambini per la precisione... gli adulti sono per lo più spacciati). Spiegandoti alcuni aspetti del mio mestiere (diciamo... un cucchiaino del ghiaccio dell'iceberg) volevo solo dirti: lo so che è un casino... non pensare che sottovaluti la complessità implementativa di ciò che propongo... ma sappi che è possibile gestirla: ogni giorno gestiamo complessità comparabili per mestiere.
Il secondo è che, in tutta franchezza e detto da uno che pur non essendo un programmatore professionista (la vita mi ha portato altrove) qualcosa dell'argomento ne capisce, l'attuale panorama tecnologico è desolante,
Sfondi una porta aperta. Non puoi immaginare come sia frustrante lavorare con strumenti primitivi (concettuali ma anche linguaggi di programmazione, IDE, sistemi operativi, macchine virtuali... tutto!) in un contesto in cui la stragrande maggioranza dei colleghi si putta a testa china ad usarli senza chiedersi se non facciano perdere più tempo di quanto ne fanno guadagnare. Potrei farti un lungo elenco, ma è davvero troppo deprimente. Pochissimi di noi sono pienamente consapevoli di quanto primitiva sia la nostra condizione. I più frustrati cercano di fare qualcosa per migliorare (o quanto meno sottrarsi a) la situazione (vedi https://suckless.org/ o http://cat-v.org/ ) ma la stragrande maggioranza preferisce fingere che viviamo in un mondo in continuo progresso, che ogni novità sia innovazione, che JavaScript sia la migliore tecnologia del mondo e che il numero di framework che cercano di tapparne i buchi sia in realtà una riprova di questo fatto. Credo sia un meccanismo di difesa psicologico.
per quanto attiene alle capacità della suddetta categoria di costruire sistemi complessi robusti e che molto banalmente facciano ciò che si suppone debbano fare - e parliamo di una complessità che è ordini di grandezza inferiore rispetto ai sistemi sociali più semplici.
Sulla robustezza hai ragione. Sulla complessità... non lo so. Certamente un singolo essere umano è più complesso ed imprevedibile di qualsiasi programma. Siamo creature, non artefatti. Ma noi dobbiamo prevedere e gestire tutti i posibili comportamenti di un software, mentre agli umani (e ai sistemi sociali) viene lasciata grande libertà e ci si limita ad orientarne (attraverso l'educazione, i mass media, le leggi, il marketing etc) i comportamenti aggregati, spesso segmento per segmento, sotto gruppo per sotto gruppo. Si stima che nell'universo osservabile ci siano circa 2^267 atomi di idrogeno. Il kernel Linux alla commit 9e98c678c2d6ae3a17cb2de55d17f69dddaa231b (di 20 ore fa) contiene circa 276365 IF. (contati grossolanamente con un semplice `grep -wr 'if ('|wc -l` ) Il che significa che esistono 2^276365 comportamenti possibili (senza contare switch e altri tipi di branch basati su puntatori a funzione) Non ho un sorgente del kernel OpenBSD sotto mano, ma scommetterei che se anche vi sono molti meno branch siamo certamente nell'ordine delle diverse decine di migliaia. E stiamo parlando solo del kernel! Un sistema operativo è molto... MOLTO più complesso! Noi programmatori siamo fallibili e l'Informatica è certamente ai primordi. Ma non sottovaluterei la complessità che riusciamo a gestire insieme. Ora... immagina se tutti gli Europei fossero in condizione di fare lo stesso. Credi che sarebbe uno strumento di Difesa... efficace? ;-)
Dunque discutiamo pure senza preconcetti di ciò che gli europei dovrebbero fare nell'ambito di cui stiamo parlando (o altri nel caso) ma cerchiamo di mantenere un po' di lucidità e realismo su tempi, modi e mezzi.
Bene, sono tutto orecchi. Con quali tempi, modi e mezzi procederesti per realizzare questi obbiettivi? Giacomo
participants (5)
-
Andrea Glorioso -
armeo@mail.nexacenter.org -
Giacomo -
Giacomo Tesio -
J.C. DE MARTIN