September 2023 - nexa - server-nexa.polito.it

Magnani, "Il Digital services act. Addio articolo 21 della Costituzione?"

by J.C. DE MARTIN

Carlo Magnani è stato recentemente ospite dal Centro Nexa (https://nexa.polito.it/mercoledi-162) jc * Il Digital services act. Addio articolo 21 della Costituzione? * 16 Set 2023 Carlo Magnani Il 25 agosto è entrato in vigore il Digital Services Act, per ora per le piattaforme online più grandi (quelle con più di 45 milioni di utenti), sino a che sarà applicabile a tutti gli operatori di servizi online a partire dal 17 febbraio 2024. I soggetti interessati sono tutti gli intermediari online, i motori di ricerca e le piattaforme di comunicazione sociale (mercati online, social network, piattaforme di condivisione di contenuti, app store e piattaforme di viaggio e alloggio online) che saranno soggetti a obblighi specifici e crescenti in ragione della dimensione della impresa. Tanto i lavori preparatori di adozione che l’entrata in vigore sono stati accompagnati da una enfasi – la solita, quando si tratta di prodotti confezionati dalla Unione europea – che non ha lesinato toni entusiastici ed euforici. Finalmente nuove regole e nuovi diritti sul web, maggiore tutela per gli utenti per ciò che attiene la protezione da contenuti illegali (terrorismo, pornografia, truffe online, vendita prodotti pericolosi), dall’incitamento all’odio (ovviamente, immancabile), ma anche da contenuti non illegali ma qualificati come dannosi (la disinformazione). Il metodo prescelto per attuare tali regole – che rimandano comunque alle legislazioni nazionali per ciò che va considerato illegale, cioè penalmente o amministrativamente rilevante – è quello della co-regolamentazione. Quindi, non una vigilanza esterna da parte di soggetti istituzionali terzi, ma il coinvolgimento diretto delle piattaforme attraverso procedure concertate con organismi tecnici dipendenti direttamente dalla Commissione europea. [...] continua qui: https://www.lafionda.org/2023/09/16/il-digital-services-act-addio-articolo-…

Sept. 16, 2023

"Contro lo smartphone - per una tecnologia più democratica"

by J.C. DE MARTIN

Care e cari, consentitemi di segnalare che il 22 settembre uscirà "Contro lo smartphone - per una tecnologia più democratica", prefazione di Gustavo Zagrebelsky (ADD Editore). Dopo "Università futura - tra democrazia e bit" <https://www.universitafutura.it/>, uscito nel 2017, è il mio secondo libro; l'obiettivo è offrire sia una sorta di economia politica dello smartphone realmente esistente, sia possibili alternative. Per maggiori informazioni, oltre alla scheda dell'editore <https://www.addeditore.it/catalogo/juan-carlos-de-martin-contro-lo-smartpho…>, rimando alla prima intervista <https://www.vita.it/storie-e-persone/contro-gli-smartphone-no-ma-occhio-a-u…> uscita sull'argomento. Tra un anno rilascerò il libro con una licenza Creative Commons. Segnalo infine che il 23 settembre <https://www.pensarecontemporaneo.it/eventi/contro-lo-smartphone/> alle 12:30 parlerò - con Stefano Moroni- a Piacenza, nel contesto del Festival del pensare contemporaneo. Il 28 settembre alle 18:00, invece, ci sarà la prima presentazione torinese presso la libreria Bodoni (via Carlo Alberto 41), in dialogo con Gustavo Zagrebelsky e con la collega dell'Università di Torino Alessandra Quarta (locandina in allegato). Grazie per la vostra attenzione e grazie, ancora una volta, per questa straordinaria lista, così ricca di riflessioni intelligenti e di segnalazioni preziose! Un caro saluto, juan carlos

Sept. 16, 2023

Re: [nexa] Mozilla: "It’s Official: Cars Are the Worst Product Category We Have Ever Reviewed for Privacy" (Marco A. Calamari)

by Giacomo Tesio

Salve Alessandro e Nexa, credo sia anzitutto importante ricordare che l'unico modo per vincere una guerra è convincere l'avversario che ha già perso, che non ha più senso continuare a combattere. Poco importa se questo sia vero o meno, ovviamente. On Wed, Sep 13, 2023 at 12:52:38PM +0200, alessandro marzocchi wrote: > Non arrendersi è stato utile? > Nella scuola si educa al SW libero? In argomento, quali progressi? > Da utente inesperto non mi sono arreso, neppure ho visto progressi, > tutt'altro. > Non mi arrendo ma ... sarà utile? Questa domanda (che si riaffaccia spesso nella mia mente) evidenzia una tentazione molto forte, spesso tanto più forte quanto più forti sono il controllo cognitivo esercitato sulle persone che ci circondano e la pressione che queste esercitano su coloro che ci stanno a cuore e che cerchiamo di proteggere. E' utile questa fatica? E' utile la sofferenza che genera? Sono certamente domande legittime. Per rispondere in modo razionale bisogna anzitutto osservare che l'utilità di una scelta non può quasi mai essere misurata in modo oggettivo: andrebbe infatti confrontata con tutte le conseguenze di tutte le possibili opzioni alternative, tutte scartate e spesso largamente ignote. Ex-ante, effettuare una scelta utilitarista può costituire una scelta razionale (rispetto alle modalità di scelta alternative, normativa, randomica, istintuale...) solo quando si dispone di tutte le informazioni necessarie a prevedere precisamente tutte le conseguenze di tutte le possibili opzioni. Il che riduce la razionalità dell'utilitarismo a contesti di breve periodo o impatto limitato: che dentifricio comprare, che scarpe indossare oggi... Partecipare consapevolmente ad una guerra in corso, non è dunque una scelta che possa essere razionalmente basata su una funzione di utilità: l'alternativa (partecipare inconsapevolmente, come sconfitto) presuppone la NON conoscenza della scelta stessa, figurarsi delle conseguenze. Il fatto poi che la scelta utilitaristica sia logicamente coerente ed applicata in modo corretto non deve trarre in inganno: l'irrazionalità è a monte, nella scelta della modalità di decisione in assenza di prevedibilità di lungo termine in un sistema caotico. Laddove infatti non disponiamo di prevedibilità sufficiente da un punto di vista individuale, potremmo più razionalmente tirare un dado per annullare i nostri bias, o affidarci ad una scelta normativa basata su un senso morale magari vago ma stratificato dall'esperienza collettiva. D'altro canto, indipendentemente da quale sarà l'esito futuro della nostra resistenza, tale resistenza oggi preserva una flebile speranza di umanità per le future generazioni. [1] Se ci arrendessimo, diventando complici dell'oppressione dei nostri figli, avrebbero definitivamente vinto. E' dunque utile continuare a resistere? Paradossalmente, indipendentemente dal nostro successo, sì. [2] Se smettessimo, quella flebile speranza, oggi, sparirebbe. Giacomo [1]: https://server-nexa.polito.it/pipermail/nexa/2023-September/051515.html [2]: si pone poi un'altra domanda, molto più inquietante: se lo Stato viola le proprie stesse Leggi pur di piegarsi e di piegare la società sotto il dominio di GAFAM & friends, rendendo inefficaci la lotta politica civile e nonviolenta, che metodi di lotta resteranno?

Sept. 15, 2023

Re: [nexa] la tecnologia comanda il mondo (Giuseppe Attardi)

by Giacomo Tesio

Salve Alberto e Alessandro, Il 14 Settembre 2023 10:38:36 UTC, Alberto Cammozzo ha scritto: > grazie per la domanda che poni. Anche io mi sono spesso crucciato su quello che > definisci il 'rischio che l'animale umano diventi semplice strumento'. Attenzione: non si tratta di un rischio ma di un obiettivo programmatico perseguito da una pericolosissima (e microscopica) minoranza contro il resto dell'umanità. Una minoranza piuttosto esplicita, peraltro, che finanzia la propaganda longternista e transumanista nella speranza di convincere le persone "inutili" a suicidarsi per essere sostituite da una "immortale" simulazione software. [1] La probabilità che abbiano successo dipende direttamente dalla nostra incapacità di riconoscere questo obiettivo e gli strumenti che utilizzano per perseguirlo, opporci ad esso in ogni modo possibile. La cattura del regolatore, il materialismo, l'utilitarismo... il capitalismo stesso non sono che uno strumenti (efficacissimi) di questa riduzione della persona a strumento. Ogni volta che riescono a convincere un idiota di essere solo una macchina complessa prodotta dalla selezione naturale... ogni volta che riescono a convincere qualche idiota che un software programmato statisticamente del cui output nessuno vuole rispondere è "intelligente"... ...questa pericolosa minoranza si avvicina alla vittoria. > Forse la domanda va riformulata come: 'nella società industriale attuale è > possibile che l'animale umano non diventi semplice strumento?' Io proporrei invece: quale società cibernetica dobbiamo costruire affinché nessun essere umano possa essere ridotto a strumento altrui. Quali agenti cibernetici automatici ci servono per realizzarla? Limitarsi ad un modello di "società industriale" (o anche di società finanziaria o finanche di capitalismo) esclude dall'analisi le dimensioni fondamentali, i concetti necessari a descrivere il sistema in modo attinente. E questo fornisce un vantaggio insuperabile a chi vuole imporre un modello di società cibernetica oppressiva. > [1]: sulla questione della convivialità dell'informatica in lista Nexa abbiamo parlato > il 08/10/19 nel thread 'Re: [nexa] IMA - Internet, Mon Amour'. > Per Karlessi <<senz'altro "informatica conviviale" è un ossimoro>>. > Non riesco a dargli torto. Forse perché ho usato di recente Oberon [2] ancor più che per aver lavorato alcuni anni a Jehanne [3] ed aver seguito attentamente lo sviluppo di 9front [4] non posso che essere in assoluto disaccordo. L'informatica conviviale è possibile. Il suo controllo va semplicemente sottratto a chi se ne è artificiosamente appropriato. Tempo fa discutevo con Enrico Nardelli sulla possibilità per la scuola pubblica di fornire agli studenti una piena cittadinanza cibernetica, ovvero una comprensione sufficiente a scrivere il proprio sistema operativo entro la fine delle superiori. Secondo Enrico, in estrema sintesi, è impossibile. Dopo aver riletto il libro di Wirth su Oberon (sempre in [2]) credo che potrei dimostrargli il contrario in qualsiasi liceo. Partendo dal sistema di Wirth in un paio di anni uomo [5] si potrebbe facilmente aggiungere multi-processing, crittografia e un filesystem gerarchico componibile (alla Plan9 per intenderci) ottenendo un sistema operativo moderno, democratico e conviviale. [6] Basterebbero poche tesi di laurea per tirar su ciò che manca e servirebbe davvero... 9front e la comunità di cat-v costituiscono un altro controesempio: si tratta di un sistema operativo tecnicamente superbo, talmente innovativo da essere sistematicamente copiato dai sistemi mainstream, eppure conviviale per la comunità che lo utilizza (cat-v, appunto [7]) Anche per 9front esistono diversi testi che potrebbero essere utilizzati a scuola per insegnarne il funzionamento ed il design. Ad esempio gli ottimi testi del Professor Ballesteros [8] [9]. D'altro canto Plan 9 (e di conseguenza anche 9front e persino Jehanne) soffrono dell'alone di mistico esoterismo tipico dei sistemi derivati da Unix, caratterizzato da parole "magiche" come grep, awk, cat, rc etc... D'altronde qualcuno potrebbe ingenuamente pensare che poiché gli utenti Plan9 sono tutti informatici competenti, qualunque sistema sarebbe "conviviale" per loro. Si tratterebbe di una intuizione solo parzialmente corretta: - certamente qualsiasi informatico competente preferirebbe Plan 9 ai sistemi operativi mainstream (il che la dice purtroppo lunga sulla scarsità di informatici competenti in questi tempi oscuri) - ma la ragione per cui tanti informatici competenti approdano su sistemi come 9front è proprio la frustrazione di fronte a sistemi artificiosamente complicati che li trattano come mentecatti. Gli hacker di 9front si rigirano il sistema come un calzino, rimodellandone il filesystem e combinando in pochi secondi elaborazioni locali e remote con una flessibilità che gli esperti del "cloud" nemmeno possono immaginare. E questi sono solo due esempi. Esempi che faranno sorridere con sufficienza i più ignoranti. In questi giorni ho scoperto che in Russia, Oberon, nato in Svizzera ma doverosamente rimosso dalle colonie europee, continua ad andare alla grande [10] (così come i linguaggi derivati dal Pascal). Insomma... l'informatica può essere conviviale. Basta smettere di medicarla dagli USA e RICOMINCIARE a farla. Giacomo [1] Una propaganda che appare ridicola a chiunque abbia una minima comprensione di cosa sia un software e chi decida l'algoritmo di scheduling. [2] http://projectoberon.net/ https://archive.org/details/projectoberon2013/PO.System/ [3] http://jehanne.h--k.it/ [4] https://9front.org/ [5] una bazzecola per un progetto software. [6] non ci girerebbero Google Chrome o Google Firefox ovviamente, sostituiti da applicazioni e protocolli tecnicamente superiori perché più semplici e progettati nell'interesse delle persone che li usano, non di chi vuole usare quelle persone (ridotte sarcasticamente ad "utenti"). [7] http://cat-v.org/ Irc: #cat-v on irc.oftc.net Mailing list: echo subscribe | mail cat-v-owner(a)cat-v.org [8] http://plan9.stanleylieber.com/_books/comp/plan9/Notes.On.The.Plan.9.3rd.Ed… (purtroppo riferito ad una versione precedente del kernel) [9] http://plan9.stanleylieber.com/_books/comp/plan9/Introduction.To.OS.Abstrac… [10] https://free.oberon.org/ https://oberoncore.ru/oberonday

Sept. 15, 2023

On Robots Killing People

by maurizio lana

dal blog di Bruce Schneier, «On Robots Killing People» https://www.schneier.com/blog/archives/2023/09/on-robots-killing-people.html ( "the lessons of aviation and workplace safety demonstrate that accidents are preventable when they are openly discussed and subjected to proper expert scrutiny. AI and robotics companies don’t want this to happen.") che commenta un articolo di cui è coautore con Davi Ottenheimer uscito su The Atlantic: «Robots Are Already Killing People. The AI boom only underscores a problem that has existed for years.» https://www.theatlantic.com/technology/archive/2023/09/robot-safety-standar… Maurizio ------------------------------------------------------------------------ but just one question still remains to which we must respond two roads lead from where we are, which side are you on? arlo guthrie, which side ------------------------------------------------------------------------ Maurizio Lana - 347 7370925

Sept. 15, 2023

Call for Paper - e-privacy XXXIII @ Pisa

by Marco A. Calamari

Call for Paper - e-privacy XXXIII @ Pisa Il Progetto Winston Smith e l'Hermes Center for Transparency and Digital Human Rights sono lieti di invitarti come relatore alla trentatreesima edizione di e- privacy, che si terrà in presenza il 23 e 24 novembre 2023 a Pisa. e-privacy XXXIII @ Pisa avrà il tema: "IA: Tecnologia, Etica e Privacy" "un impegnativo viaggio per i prossimi cambiamenti sociali; il dibattito si alterna tra etica e tecnologia, ma non deve trascurare la privacy" Il CfP si chiuderà il 20 ottobre 2023. La comunicazione di accettazione sarà entro il 27 ottobre 2023. Le slide dovranno essere inviate entro il 17 novembre 2023. - L'edizione Il successo del tema della scorsa edizione, in cui la maggior parte dei relatori ha presentato relazioni in tema ci ha convinto di proporre una "seconda puntata", mantenendo esattamente lo stesso tema, data la sua grande attualità. Parleremo, tanto per cambiare, di una società in cui una sorveglianza di massa viene considerata "accettabile" da una maggioranza della popolazione, spaventata da criminalità e pandemia. Siamo nelle migliori condizioni per riscrivere le più fosche pagine dei libri di storia e della letteratura distopica. Se solo ieri i sistemi algoritmici e di deep learning venivano osannati, come dispensatori di benessere e giustizia, pur avendo creato problemi nuovi, essendo viziati dagli stessi pregiudizi dei loro programmatori e dei dati raccolti in modo distorto e poi utilizzati per il loro addestramento, cosa potrà accadere oggi, ora che Modelli Linguistici ben funzionanti e che interagiscono con gli utenti con un linguaggio accattivante e forbito verranno venduti come oracoli di quella verità di cui non conoscono niente? Non si tratta solo dell'ennesima rivoluzione tecnologica, ma di una delle più grandi operazioni commerciali nel campo della tecnologia, volta non a creare un nuovo mercato ed i conseguenti vantaggi finanziari. Si tratta del tentativo di far accettare, come qualche anno orsono fu per il riconoscimento facciale, una tecnologia, che fornisce ottimi risultati solo in campi ristretti, come la soluzione ad ogni problema, rendendola vettore per un ulteriore salto di qualità e quantità nel tecnocontrollo generalizzato della popolazione. Niente limiterà l’abuso sistematico dei nostri dati personali, che finiscono per essere illegalmente acquisiti vendemmiandoli in Rete ed utilizzandoli per creare ed allenare il sistemi . È così implementato un controllo di massa su base tecnologica, non normato a priori e senza limiti precostituiti Tali sistemi, eredi di manipolazioni avvenute nel recente passato come quelle di Cambridge Analytica, saranno presto in grado di determinare, di riflesso ed in tempo reale il comportamento delle persone, anche nel mondo fisico. La domanda fondamentale è: possono esistere sistemi alimentati da dati biometrici utilizzabili per fini socialmente utili e rispettosi dei diritti civili i cui rischi non trascendano l’utilità? Chi sta assumendo la responsabilità per la cospicua sottrazione di libertà che questi sistemi introducono? Siamo in grado di verificarne il potere? E soprattutto, saremo in grado di convincere non solo le aziende ed i governi, ma anche i semplici cittadini a porre freni ad una tecnologia cosi accattivante, gentile, utile, fuffosa .. insomma così (apparentemente) gentile ed "umana". - Il convegnoSin dal 2002 ad e-privacy si sono confrontate le tematiche di un mondo sempre più digitale ed interconnesso, nel quale le possibilità di comunicazione ed accesso alla conoscenza crescono continuamente, come pure crescono le possibilità di tecnocontrollo degli individui sin nei più intimi dettagli. L'approccio è interdisciplinare; dagli specialisti in informatica ai legali che si occupano di nuove tecnologie, dagli psicologi agli educatori, dagli operatori privati a quanti operano nel settore pubblico ed istituzionale. - Le proposte d'interventoIl comitato organizzatore valuterà proposte in ambito tecnologico, legale, istituzionale e giurisprudenziale, delle scienze sociali, della filosofia, dell'informatica e dell'attivismo digitale, della privacy, della non- discriminazione, della sorveglianza e dei diritti civili digitali. Verranno prese in considerazione anche proposte su temi diversi da quello dell'edizione, purché di interesse e di attualità. Le proposte dovranno contenere: * Nome del relatore * Eventuale associazione rappresentata * Indirizzo di posta di riferimento * Email e Recapito telefonico * Titolo dell'intervento * Durata prevista dell'intervento e dell'eventuale Q&A (15' o 30') * Outline dell'intervento (circa 200-300 battute) * Necessità di sussidi particolari oltre la videoproiezione * Abstract con riferimenti (min 500 max 1500 battute) * se disponibile alla pubblicazione del materiale sotto licenza libera * se disponibile alla pubblicazione di registrazioni audio * se disponibile alla pubblicazione di registrazioni video ATTENZIONE: Le proposte dovranno essere presentate tramite questo form. https://e-privacy.winstonsmith.org/e-privacy-XXXIII-proposta.html entro il termine ultimo del 20 ottobre 2023 L'accettazione o meno delle proposte sarà comunicata entro il 27 ottobre 2023. Gli elaborati, slide o relazioni dell'intervento dovranno pervenire in forma elettronica sul form online in seguito comunicato ai relatori.entro il 17 novembre 2023. Di seguito un elenco - non esaustivo - di argomenti pertinenti: * Intelligenza artificiale, prospettive, rischi e opportunità * Cancel Culture e etica del discorso pubblico * Servizi digitali di Stato, informatizzazione obbligatoria, processo telematico, giustizia algoritmica. * Diritto alla Conoscenza e democrazie avanzate * Diritti civili e politici dell'individuo: libertà di espressione, riservatezza ed anonimato; * Profilazione, geotagging, biometria, riconoscimento facciale * Tecnologie della liberazione per l'arricchimento della privacy, crittografia e comunicazione sicura. * Impatto delle tecnologie di controllo e dell'anonimato sui diritti dei lavoratori e degli studenti. * Evoluzione dei mercati di dati personali: data retention, analisi big-data, circolazione e rivendita * Dati personali in rete: captatori, intercettazioni lecite e illecite, anonimizzazione, ciclo di vita dei dati raccolti a fini d'investigazione criminale o di sorveglianza di polizia. - Gli interventiGli interventi saranno effettuati dal vivo oppure in videoconferenza e, con il consenso dei relatori, registrati in audio ed in video. I relatori potranno utilizzare documenti, slide o filmati; è apprezzata la disponibilità del relatore a concedere la pubblicazione del materiale e delle riprese dell'intervento sotto licenza libera. - Gli organizzatori Al fine di mantenere la propria indipendenza, il convegno è, come sempre, a budget zero. I relatori ed i partecipanti dovranno provvedere in proprio alle spese. Eventuali sponsorizzazioni di ditte, enti, gruppi o associazioni hanno carattere non economico e sono intese come adesione morale ai temi ed ai principi. La manifestazione e' organizzata da: * Progetto Winston Smith * HERMES - Centro Studi Trasparenza e Diritti Umani Digitali e da altre organizzazioni, aziende ed associazioni. - Contatti Per contatti generali e per la stampa:eprivacy@winstonsmith.org, per contatti con i relatoricfp-eprivacy(a)winstonsmith.org. Maggiori informazioni sul sito del Convegnohttp://e-privacy.winstonsmith.org. Vi aspettiamo.

Sept. 14, 2023

La Presidente von der Leyen e il "rischio di estinzione da IA" come minaccia reale e priorità globale

by Daniela Tafani

Un caso da manuale di cattura del regolatore. 2023 State of the Union Address by President von der Leyen [...] DIGITAL & AI Honourable Members, When it comes to making business and life easier, we have seen how important digital technology is. It is telling that we have far overshot the 20% investment target in digital projects of NextGenerationEU. Member States have used that investment to digitise their healthcare, justice system or transport network. At the same time, Europe has led on managing the risks of the digital world. The internet was born as an instrument for sharing knowledge, opening minds and connecting people. But it has also given rise to serious challenges. Disinformation, spread of harmful content, risks to the privacy of our data. All of this led to a lack of trust and a breach of fundamental rights of people. In response, Europe has become the global pioneer of citizen's rights in the digital world. The DSA and DMA are creating a safer digital space where fundamental rights are protected. And they are ensuring fairness with clear responsibilities for big tech. This is a historic achievement – and we should be proud of it. The same should be true for artificial intelligence. It will improve healthcare, boost productivity, address climate change. But we also should not underestimate the very real threats. Hundreds of leading AI developers, academics and experts warned us recently with the following words: “Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.” AI is a general technology that is accessible, powerful and adaptable for a vast range of uses - both civilian andmilitary. And it is moving faster than even its developers anticipated. So we have a narrowing window of opportunity to guide this technology responsibly. I believe Europe, together with partners, should lead the way on a new global framework for AI, built on three pillars: guardrails, governance and guiding innovation. Firstly, guardrails. Our number one priority is to ensure AI develops in a human-centric, transparent and responsible way. This is why in my Political Guidelines, I committed to setting out a legislative approach in the first 100 days. We put forward the AI Act – the world's first comprehensive pro-innovation AI law. And I want to thank this House and the Council for the tireless work on this groundbreaking law. Our AI Act is already a blueprint for the whole world. We must now focus on adopting the rules as soon as possible and turn to implementation. The second pillar is governance. We are now laying the foundations for a single governance system in Europe. But we should also join forces with our partners to ensure a global approach to understanding the impact of AI in our societies. Think about the invaluable contribution of the IPCC for climate, a global panel that provides the latest science to policymakers. I believe we need a similar body for AI – on the risks and its benefits for humanity. With scientists, tech companies and independent experts all around the table. This will allow us to develop a fast and globally coordinated response – building on the work done by the Hiroshima Process and others. The third pillar is guiding innovation in a responsible way. Thanks to our investment in the last years, Europe has now become a leader in supercomputing – with 3 of the 5 most powerful supercomputers in the world. We need to capitalise on this. This is why I can announce today a new initiative to open up our high-performance computers to AI start-ups to train their models. But this will only be part of our work to guide innovation. We need an open dialogue with those that develop and deploy AI. It happens in the United States, where seven major tech companies have already agreed to voluntary rules around safety, security and trust. It happens here, where we will work with AI companies, so that they voluntarily commit to the principles of the AI Actbefore it comes into force. Now we should bring all of this work together towards minimum global standards for safe and ethical use of AI. https://neighbourhood-enlargement.ec.europa.eu/news/2023-state-union-addres…

Sept. 14, 2023

[SEMINARIO GI-STS - REMINDER] Intelligenze al confine tra biologico e artificiale

by Diego.Latella

[CON PREGHIERA DI DIFFUSIONE] ======================================== ANNUNCIO DI SEMINARIO APERTO AL PUBBLICO ======================================== Intelligenze al confine tra biologico e artificiale Seminario aperto al pubblico e on-line Mercoledì 20 settembre 2023 alle 15:30 Sala Azzurra - Scuola Normale Superiore - Piazza dei Cavalieri 7, Pisa (è prevista anche la partecipazione online all'evento) L'avvento delle applicazioni avanzate di intelligenza artificiale ha portato alla ribalta domande che coinvolgono i fondamenti della relazione tra scienza, tecnologia e società: in che senso questi algoritmi sono "intelligenti"? Come potremmo definire criteri per attribuire a macchine una "coscienza" e - con essa - diritti e responsabilità? Il prof. Ascoli esporrà i principi funzionali dei sistemi nervosi biologici, come il cervello umano, che hanno ispirato gli algoritmi di reti neurali cosiddette "Deep Learning" alla base di ChatGPT & C., mettendo in risalto analogie e differenze cruciali. La Dott.ssa Tafani analizzerà problematiche legate alla diffusione di sistemi di apprendimento automatico e dei prodotti di intelligenza artificiale, come la responsabilità degli effetti di tali prodotti, e la comparsa di una famiglia di narrazioni riguardanti il principio di inevitabilità tecnologica, l'antropomorfizzazione delle macchine e la correlata de- umanizzazione delle persone, nonché la convinzione che il futuro di singoli individui sia già scritto e leggibile. ========= PROGRAMMA ========= Coordina Valentina Tozzini - CNR NANO; CNR GI-STS 15:30 Saluti Istituzionali e introduzione Francesco Raimondi - SNS Lucia Billeci - CNR IFC; CNR GI-STS 16:00 Intelligenza Artificiale e Cervelli Naturali: analogie, differenze e perché è importante capirle Giorgio Ascoli - Bioengineering Department, College of Engineering & Computing, George Mason University, Fairfax, Virginia (USA) 16:30 "Intelligenza artificiale", pensiero magico e cattura culturale Daniela Tafani - Dipartimento di Scienze politiche, Università di Pisa 17:00 Discussione L'evento è Organizzato dal Gruppo Interdisciplinare su Scienza, Tecnologia e Società (GI-STS) dell'Area della Ricerca di Pisa del CNR In collaborazione con Areaperta - Area della Ricerca CNR di Pisa Istituto di Biofisica del CNR Istituto di Fisiologia Clinica del CNR Istituto di Informatica e Telematica del CNR Istituto di Scienza e Tecnologie dell'Informazione ``A. Faedo'' del CNR Istituto Nanoscienze del CNR La Nuova Limonaia Laboratorio Informatica e Società del CINI Pugwash Conferences on Science and World Affairs Unione degli Scienziati Per Il Disarmo Con il patrocinio della Scuola Normale Superiore e con il supporto del progetto EU-Lesgo. Per ulteriori informazioni---incluso il link per la partecipazione all'evento---si rimanda alla pagina "Events" del sito web del Gruppo Interdisciplinare su Scienza, Tecnologia e Società (GI-STS) dell'Area della Ricerca di Pisa del CNR (http://gists.pi.cnr.it) =================== Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: +390506212040

Sept. 14, 2023

Re: [nexa] la tecnologia comanda il mondo (Giuseppe Attardi)

by Alberto Cammozzo

Caro Alessandro, grazie per la domanda che poni. Anche io mi sono spesso crucciato su quello che definisci il 'rischio che l'animale umano diventi semplice strumento'. Ho trovato riflessioni utili nel noto saggio "La convivialità" di Ivan Illich del 1973. Pur affrontando i grandi sistemi socio-tecnici industriali del secolo scorso senza toccare direttamente l'informatizzazione, resta quanto mai attuale. Uno dei punti più interessanti della sua analisi è l'osservazione che "quando l'attività umana esplicata mediante strumenti supera una certa soglia definita dalla sua scala specifica, dapprima si rivolge contro il proprio scopo, poi minaccia di distruggere il corpo sociale". Per cui ogni strumento tecnico ha una specifica soglia di impiego superata la quale non solo smette di produrre benefici collettivi (diventa /inefficiente/), ma tende a danneggiare la società (diventa /iniquo/). Entro la soglia, lo strumento è padroneggiabile, mantiene un valore etico e resta trasparente: garantisce la capacità di ciascuno di modellare il proprio avvenire e ciascuno può usarlo senza ledere l'altrui libertà di fare altrettanto. Oltre la soglia, lo strumento diventa dominante, oscuro e prevale il valore tecnico su quello etico: fa parte di una 'megamacchina per produrre il futuro', crea disparità di energia e potere (oggi aggiungeremmo di informazione); l'uomo è costretto ad agire secondo il ritmo dello strumento 'ragionato da altri e spesso sfuggito dalle mani di tutti'. Per Illich occorre ricercare un equilibrio che garantisca sia sopravvivenza che equità, che conservi ambiente, autonomia umana, tradizione, diritto, linguaggio. Cercare l'equilibrio non significa ridurre la complessità degli strumenti e quindi tornare a strumenti primitivi, ma tarare la scala del loro impiego e dello sfruttamento ad essi connesso. Infatti lo strumento complesso non necessariamente supera la soglia di dominanza: Illich fa l'esempio del telefono e delle poste, che pur complessi restano entro la scala. Altri (ad esempio la medicina e il sistema dei trasporti automobilistici) la superano. Conclude che lo 'strumento conviviale', cioè quello che genera efficienza senza degradare l'uomo e l'ambiente, non produce schiavi o padroni: "l'uomo ha bisogno di uno strumento con cui lavorare, non di un'attrezzatura che lavori al posto suo". Tradurre la lezione di Illich in un contesto storico, industriale, culturale odierno è una sfida complessa. Credo che Illich eviterebbe di condannare tale o tal altra tecnologia /per se/, ma cercherebbe di metterla in relazione con la scala del suo impiego e richiederebbe di delimitarne l'impiego. Resta aperto il problema se gli strumenti informatici possano mai essere 'conviviali'. Come ha sottolineato Attardi nel messaggio che citi, la tecnologia informatica ha una intrinseca capacità di imporsi e di beneficiare di economie di scala. Inoltre ha una formidabile versatilità e quindi gode delle economie di gamma che rendono impossibile confinarne l'impiego in uno specifico ambito. Per cui sono pessimista [1]. Ammesso e non concesso che siano possibile strumenti di una informatica conviviale, sono certo che sia indispensabile la loro trasparenza, sia tecnica (tecnologie libere, dati accessibili), che cognitiva (competenza informatica diffusa), che del modello di business (ad esempio regolare la separazione tra /utente-materia prima/ e /cliente-inserzionista pagante/ tipico del surveillance capitalism). Ma tutto questo significa mettere in discussione il modello industriale e neo-liberista egemone. Forse la domanda va riformulata come: 'nella società industriale attuale è possibile che l'animale umano non diventi semplice strumento?' Un caro saluto Alberto [1]: sulla questione della convivialità dell'informatica in lista Nexa abbiamo parlato il 08/10/19 nel thread 'Re: [nexa] IMA - Internet, Mon Amour'. Per Karlessi <<senz'altro "informatica conviviale" è un ossimoro>>. Non riesco a dargli torto. Nel frattempo è stato pubblicato un volume "Tecnologie Conviviali" di Carlo Milani per Eleuthera, che tenta di affrontare l'argomento. On 11/09/23 16:29, alessandro marzocchi wrote: > Nell'oggetto ho sintetizzato l'opinione di Giuseppe Attardi - lun 11 > set 2023 nexa Digest, Vol 173, Issue 12 -, suoi i meriti, mia la > responsabilità della sintesi. > Condivido totalissimamente: qui l'enfasi è voluta, con altre parole è > quanto scrive Pierluigi Contucci - > https://www.rivistailmulino.it/a/ia-perch-difficile-da-disciplinare? > -: "" dobbiamo ancora capire la natura delle relazioni con la nuova > intrusa, tra IA e noi, tra IA e le macchine nella moderna robotica e > presto dovremo pensare anche a come gestire le relazioni tra le varie > IA. Oltre a far sì che l'IA si allinei alla nostra etica è opportuno > cercare di capire come e dove distribuire la responsabilità > dell’operato di ognuno e identificare metodi innovativi per > assicurarci il buon funzionamento di queste nuove entità diverse da > noi ma non più semplici strumenti."" > Il rischio che temo è che l'animale umano diventi sempre più semplice > strumento: come capire ciò che (forse) non si può capire? > Forse dobbiamo ripensare Protagora: l'uomo è la misura di tutte le cose? > A me, ultaottantenne, importa poco ... > Grazie e cari auguri. > Duccio (Alessandro Marzocchi) > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Sept. 14, 2023

AI and the end of programming

by Alberto Cammozzo

Segnalo questo pezzo, a mio giudizio molto equilibrato e competente, di Brian Hayes /contra/ Welch, con un gustoso confronto tra Knuth e ChatGpt. Il punto cruciale per me è questo: "we should blame the [] unavoidable weakness of a protocol in which the most frequent answer is, by default, the right answer". <http://bit-player.org/2023/ai-and-the-end-of-programming> Earlier this year Matt Welsh <https://www.mdw.la/> announced the end of programming <https://dl.acm.org/doi/10.1145/3570220>. He wrote, in /Communications of the ACM:/ I believe the conventional idea of “writing a program” is headed for extinction, and indeed, for all but very specialized applications, most software, as we know it, will be replaced by AI systems that are trained rather than programmed. In situations where one needs a “simple” program (after all, not everything should require a model of hundreds of billions of parameters running on a cluster of GPUs), those programs will, themselves, be generated by an AI rather than coded by hand. A few weeks later, in an online talk <https://acm-org.zoom.us/webinar/register/WN_vf0SPZY7TeWMH-5_IaloIQ#/registr…>, Welsh broadened his deathwatch. It’s not only the art of programming that’s doddering toward the grave; all of computer science is “doomed.” (The image below is a screen capture from the talk.) [...] I wanted a problem that can be solved by computational means, but that doesn’t call for doing much arithmetic, which is known to be one of the weak points of LLMs. I settled on a word puzzle invented 150 years ago by Lewis Carroll and analyzed in depth by Donald E. Knuth in the 1990s. [...] At this point I must concede that ChatGPT, with a little outside help, has finally done what I asked of it. It has written a program that can construct a valid word ladder. But I still have reservations. Although the programs written by GPT-4 and by Knuth produce the same output, the programs themselves are not equivalent, or even similar. [...] Why do the chatbots favor the inferior algorithm? You can get a clue just by googling “word-ladder program.” Almost all the results at the top of the list come from websites such as Leetcode <https://leetcode.com/problems/word-ladder/>, GeeksForGeeks <https://www.geeksforgeeks.org/word-ladder-length-of-shortest-chain-to-reach…> and RosettaCode <https://rosettacode.org/wiki/Word_ladder>. These sites, which apparently cater to job applicants and competitors in programming contests, feature solutions that call for generating all 125 single-letter variants of each word, as in the GPT programs. Because sites like these are numerous—there seem to be hundreds of them—they outweigh other sources, such as Knuth’s book (if, indeed, such texts even appear in the training set). Does that mean we should blame the poor choice of algorithm not on GPT but on Leetcode? I would point instead to the unavoidable weakness of a protocol in which the most frequent answer is, by default, the right answer. [...] For decades, architects of AI believed that true intelligence (whether natural or artificial) requires a mental model of the world. To make sense of what’s going on around you (and inside you), you need intuition about how things work, how they fit together, what happens next, cause and effect. Lenat insisted that the most important kinds of knowledge are those you acquire long before you start reading books. You learn about gravity by falling down. You learn about entropy when you find that a tower of blocks is easy to knock over but harder to rebuild. You learn about pain and fear and hunger and love—all this in infancy, before language begins to take root. Experiences of this kind are unavailable to a brain in a box, with no direct access to the physical or the social universe. LLMs appear to be the refutation of these ideas. After all, they are models of language, not models of the world. They have no /embodiment/, no physical presence that would allow them to learn via the school of hard knocks. Ignorant of everything but mere words, how do they manage to sound so smart, so worldly? [...]

Sept. 14, 2023