- nexa - server-nexa.polito.it

La Presidente von der Leyen e il "rischio di estinzione da IA" come minaccia reale e priorità globale

by Daniela Tafani

Un caso da manuale di cattura del regolatore. 2023 State of the Union Address by President von der Leyen [...] DIGITAL & AI Honourable Members, When it comes to making business and life easier, we have seen how important digital technology is. It is telling that we have far overshot the 20% investment target in digital projects of NextGenerationEU. Member States have used that investment to digitise their healthcare, justice system or transport network. At the same time, Europe has led on managing the risks of the digital world. The internet was born as an instrument for sharing knowledge, opening minds and connecting people. But it has also given rise to serious challenges. Disinformation, spread of harmful content, risks to the privacy of our data. All of this led to a lack of trust and a breach of fundamental rights of people. In response, Europe has become the global pioneer of citizen's rights in the digital world. The DSA and DMA are creating a safer digital space where fundamental rights are protected. And they are ensuring fairness with clear responsibilities for big tech. This is a historic achievement – and we should be proud of it. The same should be true for artificial intelligence. It will improve healthcare, boost productivity, address climate change. But we also should not underestimate the very real threats. Hundreds of leading AI developers, academics and experts warned us recently with the following words: “Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.” AI is a general technology that is accessible, powerful and adaptable for a vast range of uses - both civilian andmilitary. And it is moving faster than even its developers anticipated. So we have a narrowing window of opportunity to guide this technology responsibly. I believe Europe, together with partners, should lead the way on a new global framework for AI, built on three pillars: guardrails, governance and guiding innovation. Firstly, guardrails. Our number one priority is to ensure AI develops in a human-centric, transparent and responsible way. This is why in my Political Guidelines, I committed to setting out a legislative approach in the first 100 days. We put forward the AI Act – the world's first comprehensive pro-innovation AI law. And I want to thank this House and the Council for the tireless work on this groundbreaking law. Our AI Act is already a blueprint for the whole world. We must now focus on adopting the rules as soon as possible and turn to implementation. The second pillar is governance. We are now laying the foundations for a single governance system in Europe. But we should also join forces with our partners to ensure a global approach to understanding the impact of AI in our societies. Think about the invaluable contribution of the IPCC for climate, a global panel that provides the latest science to policymakers. I believe we need a similar body for AI – on the risks and its benefits for humanity. With scientists, tech companies and independent experts all around the table. This will allow us to develop a fast and globally coordinated response – building on the work done by the Hiroshima Process and others. The third pillar is guiding innovation in a responsible way. Thanks to our investment in the last years, Europe has now become a leader in supercomputing – with 3 of the 5 most powerful supercomputers in the world. We need to capitalise on this. This is why I can announce today a new initiative to open up our high-performance computers to AI start-ups to train their models. But this will only be part of our work to guide innovation. We need an open dialogue with those that develop and deploy AI. It happens in the United States, where seven major tech companies have already agreed to voluntary rules around safety, security and trust. It happens here, where we will work with AI companies, so that they voluntarily commit to the principles of the AI Actbefore it comes into force. Now we should bring all of this work together towards minimum global standards for safe and ethical use of AI. https://neighbourhood-enlargement.ec.europa.eu/news/2023-state-union-addres…

Sept. 14, 2023

[SEMINARIO GI-STS - REMINDER] Intelligenze al confine tra biologico e artificiale

by Diego.Latella

[CON PREGHIERA DI DIFFUSIONE] ======================================== ANNUNCIO DI SEMINARIO APERTO AL PUBBLICO ======================================== Intelligenze al confine tra biologico e artificiale Seminario aperto al pubblico e on-line Mercoledì 20 settembre 2023 alle 15:30 Sala Azzurra - Scuola Normale Superiore - Piazza dei Cavalieri 7, Pisa (è prevista anche la partecipazione online all'evento) L'avvento delle applicazioni avanzate di intelligenza artificiale ha portato alla ribalta domande che coinvolgono i fondamenti della relazione tra scienza, tecnologia e società: in che senso questi algoritmi sono "intelligenti"? Come potremmo definire criteri per attribuire a macchine una "coscienza" e - con essa - diritti e responsabilità? Il prof. Ascoli esporrà i principi funzionali dei sistemi nervosi biologici, come il cervello umano, che hanno ispirato gli algoritmi di reti neurali cosiddette "Deep Learning" alla base di ChatGPT & C., mettendo in risalto analogie e differenze cruciali. La Dott.ssa Tafani analizzerà problematiche legate alla diffusione di sistemi di apprendimento automatico e dei prodotti di intelligenza artificiale, come la responsabilità degli effetti di tali prodotti, e la comparsa di una famiglia di narrazioni riguardanti il principio di inevitabilità tecnologica, l'antropomorfizzazione delle macchine e la correlata de- umanizzazione delle persone, nonché la convinzione che il futuro di singoli individui sia già scritto e leggibile. ========= PROGRAMMA ========= Coordina Valentina Tozzini - CNR NANO; CNR GI-STS 15:30 Saluti Istituzionali e introduzione Francesco Raimondi - SNS Lucia Billeci - CNR IFC; CNR GI-STS 16:00 Intelligenza Artificiale e Cervelli Naturali: analogie, differenze e perché è importante capirle Giorgio Ascoli - Bioengineering Department, College of Engineering & Computing, George Mason University, Fairfax, Virginia (USA) 16:30 "Intelligenza artificiale", pensiero magico e cattura culturale Daniela Tafani - Dipartimento di Scienze politiche, Università di Pisa 17:00 Discussione L'evento è Organizzato dal Gruppo Interdisciplinare su Scienza, Tecnologia e Società (GI-STS) dell'Area della Ricerca di Pisa del CNR In collaborazione con Areaperta - Area della Ricerca CNR di Pisa Istituto di Biofisica del CNR Istituto di Fisiologia Clinica del CNR Istituto di Informatica e Telematica del CNR Istituto di Scienza e Tecnologie dell'Informazione ``A. Faedo'' del CNR Istituto Nanoscienze del CNR La Nuova Limonaia Laboratorio Informatica e Società del CINI Pugwash Conferences on Science and World Affairs Unione degli Scienziati Per Il Disarmo Con il patrocinio della Scuola Normale Superiore e con il supporto del progetto EU-Lesgo. Per ulteriori informazioni---incluso il link per la partecipazione all'evento---si rimanda alla pagina "Events" del sito web del Gruppo Interdisciplinare su Scienza, Tecnologia e Società (GI-STS) dell'Area della Ricerca di Pisa del CNR (http://gists.pi.cnr.it) =================== Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: +390506212040

Sept. 14, 2023

Re: [nexa] la tecnologia comanda il mondo (Giuseppe Attardi)

by Alberto Cammozzo

Caro Alessandro, grazie per la domanda che poni. Anche io mi sono spesso crucciato su quello che definisci il 'rischio che l'animale umano diventi semplice strumento'. Ho trovato riflessioni utili nel noto saggio "La convivialità" di Ivan Illich del 1973. Pur affrontando i grandi sistemi socio-tecnici industriali del secolo scorso senza toccare direttamente l'informatizzazione, resta quanto mai attuale. Uno dei punti più interessanti della sua analisi è l'osservazione che "quando l'attività umana esplicata mediante strumenti supera una certa soglia definita dalla sua scala specifica, dapprima si rivolge contro il proprio scopo, poi minaccia di distruggere il corpo sociale". Per cui ogni strumento tecnico ha una specifica soglia di impiego superata la quale non solo smette di produrre benefici collettivi (diventa /inefficiente/), ma tende a danneggiare la società (diventa /iniquo/). Entro la soglia, lo strumento è padroneggiabile, mantiene un valore etico e resta trasparente: garantisce la capacità di ciascuno di modellare il proprio avvenire e ciascuno può usarlo senza ledere l'altrui libertà di fare altrettanto. Oltre la soglia, lo strumento diventa dominante, oscuro e prevale il valore tecnico su quello etico: fa parte di una 'megamacchina per produrre il futuro', crea disparità di energia e potere (oggi aggiungeremmo di informazione); l'uomo è costretto ad agire secondo il ritmo dello strumento 'ragionato da altri e spesso sfuggito dalle mani di tutti'. Per Illich occorre ricercare un equilibrio che garantisca sia sopravvivenza che equità, che conservi ambiente, autonomia umana, tradizione, diritto, linguaggio. Cercare l'equilibrio non significa ridurre la complessità degli strumenti e quindi tornare a strumenti primitivi, ma tarare la scala del loro impiego e dello sfruttamento ad essi connesso. Infatti lo strumento complesso non necessariamente supera la soglia di dominanza: Illich fa l'esempio del telefono e delle poste, che pur complessi restano entro la scala. Altri (ad esempio la medicina e il sistema dei trasporti automobilistici) la superano. Conclude che lo 'strumento conviviale', cioè quello che genera efficienza senza degradare l'uomo e l'ambiente, non produce schiavi o padroni: "l'uomo ha bisogno di uno strumento con cui lavorare, non di un'attrezzatura che lavori al posto suo". Tradurre la lezione di Illich in un contesto storico, industriale, culturale odierno è una sfida complessa. Credo che Illich eviterebbe di condannare tale o tal altra tecnologia /per se/, ma cercherebbe di metterla in relazione con la scala del suo impiego e richiederebbe di delimitarne l'impiego. Resta aperto il problema se gli strumenti informatici possano mai essere 'conviviali'. Come ha sottolineato Attardi nel messaggio che citi, la tecnologia informatica ha una intrinseca capacità di imporsi e di beneficiare di economie di scala. Inoltre ha una formidabile versatilità e quindi gode delle economie di gamma che rendono impossibile confinarne l'impiego in uno specifico ambito. Per cui sono pessimista [1]. Ammesso e non concesso che siano possibile strumenti di una informatica conviviale, sono certo che sia indispensabile la loro trasparenza, sia tecnica (tecnologie libere, dati accessibili), che cognitiva (competenza informatica diffusa), che del modello di business (ad esempio regolare la separazione tra /utente-materia prima/ e /cliente-inserzionista pagante/ tipico del surveillance capitalism). Ma tutto questo significa mettere in discussione il modello industriale e neo-liberista egemone. Forse la domanda va riformulata come: 'nella società industriale attuale è possibile che l'animale umano non diventi semplice strumento?' Un caro saluto Alberto [1]: sulla questione della convivialità dell'informatica in lista Nexa abbiamo parlato il 08/10/19 nel thread 'Re: [nexa] IMA - Internet, Mon Amour'. Per Karlessi <<senz'altro "informatica conviviale" è un ossimoro>>. Non riesco a dargli torto. Nel frattempo è stato pubblicato un volume "Tecnologie Conviviali" di Carlo Milani per Eleuthera, che tenta di affrontare l'argomento. On 11/09/23 16:29, alessandro marzocchi wrote: > Nell'oggetto ho sintetizzato l'opinione di Giuseppe Attardi - lun 11 > set 2023 nexa Digest, Vol 173, Issue 12 -, suoi i meriti, mia la > responsabilità della sintesi. > Condivido totalissimamente: qui l'enfasi è voluta, con altre parole è > quanto scrive Pierluigi Contucci - > https://www.rivistailmulino.it/a/ia-perch-difficile-da-disciplinare? > -: "" dobbiamo ancora capire la natura delle relazioni con la nuova > intrusa, tra IA e noi, tra IA e le macchine nella moderna robotica e > presto dovremo pensare anche a come gestire le relazioni tra le varie > IA. Oltre a far sì che l'IA si allinei alla nostra etica è opportuno > cercare di capire come e dove distribuire la responsabilità > dell’operato di ognuno e identificare metodi innovativi per > assicurarci il buon funzionamento di queste nuove entità diverse da > noi ma non più semplici strumenti."" > Il rischio che temo è che l'animale umano diventi sempre più semplice > strumento: come capire ciò che (forse) non si può capire? > Forse dobbiamo ripensare Protagora: l'uomo è la misura di tutte le cose? > A me, ultaottantenne, importa poco ... > Grazie e cari auguri. > Duccio (Alessandro Marzocchi) > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Sept. 14, 2023

AI and the end of programming

by Alberto Cammozzo

Segnalo questo pezzo, a mio giudizio molto equilibrato e competente, di Brian Hayes /contra/ Welch, con un gustoso confronto tra Knuth e ChatGpt. Il punto cruciale per me è questo: "we should blame the [] unavoidable weakness of a protocol in which the most frequent answer is, by default, the right answer". <http://bit-player.org/2023/ai-and-the-end-of-programming> Earlier this year Matt Welsh <https://www.mdw.la/> announced the end of programming <https://dl.acm.org/doi/10.1145/3570220>. He wrote, in /Communications of the ACM:/ I believe the conventional idea of “writing a program” is headed for extinction, and indeed, for all but very specialized applications, most software, as we know it, will be replaced by AI systems that are trained rather than programmed. In situations where one needs a “simple” program (after all, not everything should require a model of hundreds of billions of parameters running on a cluster of GPUs), those programs will, themselves, be generated by an AI rather than coded by hand. A few weeks later, in an online talk <https://acm-org.zoom.us/webinar/register/WN_vf0SPZY7TeWMH-5_IaloIQ#/registr…>, Welsh broadened his deathwatch. It’s not only the art of programming that’s doddering toward the grave; all of computer science is “doomed.” (The image below is a screen capture from the talk.) [...] I wanted a problem that can be solved by computational means, but that doesn’t call for doing much arithmetic, which is known to be one of the weak points of LLMs. I settled on a word puzzle invented 150 years ago by Lewis Carroll and analyzed in depth by Donald E. Knuth in the 1990s. [...] At this point I must concede that ChatGPT, with a little outside help, has finally done what I asked of it. It has written a program that can construct a valid word ladder. But I still have reservations. Although the programs written by GPT-4 and by Knuth produce the same output, the programs themselves are not equivalent, or even similar. [...] Why do the chatbots favor the inferior algorithm? You can get a clue just by googling “word-ladder program.” Almost all the results at the top of the list come from websites such as Leetcode <https://leetcode.com/problems/word-ladder/>, GeeksForGeeks <https://www.geeksforgeeks.org/word-ladder-length-of-shortest-chain-to-reach…> and RosettaCode <https://rosettacode.org/wiki/Word_ladder>. These sites, which apparently cater to job applicants and competitors in programming contests, feature solutions that call for generating all 125 single-letter variants of each word, as in the GPT programs. Because sites like these are numerous—there seem to be hundreds of them—they outweigh other sources, such as Knuth’s book (if, indeed, such texts even appear in the training set). Does that mean we should blame the poor choice of algorithm not on GPT but on Leetcode? I would point instead to the unavoidable weakness of a protocol in which the most frequent answer is, by default, the right answer. [...] For decades, architects of AI believed that true intelligence (whether natural or artificial) requires a mental model of the world. To make sense of what’s going on around you (and inside you), you need intuition about how things work, how they fit together, what happens next, cause and effect. Lenat insisted that the most important kinds of knowledge are those you acquire long before you start reading books. You learn about gravity by falling down. You learn about entropy when you find that a tower of blocks is easy to knock over but harder to rebuild. You learn about pain and fear and hunger and love—all this in infancy, before language begins to take root. Experiences of this kind are unavailable to a brain in a box, with no direct access to the physical or the social universe. LLMs appear to be the refutation of these ideas. After all, they are models of language, not models of the world. They have no /embodiment/, no physical presence that would allow them to learn via the school of hard knocks. Ignorant of everything but mere words, how do they manage to sound so smart, so worldly? [...]

Sept. 14, 2023

Re: [nexa] Mozilla: "It’s Official: Cars Are the Worst Product Category We Have Ever Reviewed for Privacy"

by Paolo Mauri

Il Wed, 13 Sep 2023 09:31:21 +0200 Damiano Verzulli <damiano(a)verzulli.it> scriveva: > [1] CTRL-F "conclusioni" su > http://linuxdidattica.org/docs/documenti/tribolazioni_software_libero.html Interessante questa pagina, andrebbe integrata con l'esperienza intrapresa da Matteo Ruffoni e altri colleghi insegnanti della lavagna "povera" costruita con il telecomando della wii. Questa esperienza ha dato vita ad una distribuzione, WiildOS, che aveva a bordo tutti gli strumenti utili per far funzionare il tutto e che è stata adottata in un buon numero di scuole della provincia di Trento e in giro per l'Italia. Qui la storia in sintesi: https://it.wikibooks.org/wiki/Software_libero_a_scuola/La_nostra_storia Lo sviluppo di WiildOS poi è stato abbandonato e gli sforzi sono confluiti in SoDiLinux, con il supporto del CNR di Genova (https://sodilinux.itd.cnr.it/) e grazie al grande lavoro di Francesco Fusillo e di Giovanni Caruso, una distribuzione tutt'ora in vita con software didattici organizzati in menu di senso per gli ordini di scuola. A supporto di queste due esperienze è nata il gruppo mail lavagna libera, che oggi ha perso un po' di vitalità ma che continua ad informare i circa 1000 iscritti tra insegnanti, genitori e appassionati. Un bel po' di materiale è documentato nel wikibooks https://it.wikibooks.org/wiki/Software_libro_a_scuola dove si possono trovare spunti relativi a software e altro. In questi ultimi anni la nostra attenzione si è poi spostata su servizi web che fossero più etici e responsabili, come per esempio quelli proposti dall'associazione Framasoft (https://framasoft.org) o quelli di https://ladigitale.dev Anche per quest'ultimo ambiente c'è un wikibooks dove trovate la descrizione dei servizi in italiano https://it.wikibooks.org/wiki/La_Digitale Con Emmanuel Zimmert si è anche instaurato un proficuo rapporto di collaborazione che ha offerto la possibilità di avere molti servizi in italiano così come anche la home page https://ladigitale.dev/it -- Paolo Mauri Linux User #462825 irc maupao twitter @mauri_paolo www.paolomauri.it mastodon https://framapiaf.org/@maupao matrix @maupao:matrix.org un sistema libero per la scuola http://wiki.scuola.linux.it Esci dall'illegalità: utilizza LibreOffice.org: http://www.libreoffice.org/download http://linguistico.sourceforge.net/wiki/doku.php?id=usaooo http://linguistico.sourceforge.net/pages/traduzioni/ms_illegal.html

Sept. 13, 2023

Mozilla: "It’s Official: Cars Are the Worst Product Category We Have Ever Reviewed for Privacy" (Marco A. Calamari)

by alessandro marzocchi

Non arrendersi è stato utile? Nella scuola si educa al SW libero? In argomento, quali progressi? Da utente inesperto non mi sono arreso, neppure ho visto progressi, tutt'altro. Non mi arrendo ma ... sarà utile? Lancio una proposta: *DIVIETO - CON SANZIONI ANCHE PENALI - DI USARE SW APERTO, LIBERO*. E' una provocazione, non prendetela sul serio, ma sono molto dispiaciuto di non trovare di meglio. Auguri cordiali. Duccio (Alessandro Marzocchi) ************************************* Date: Wed, 13 Sep 2023 11:51:05 +0200 > > From: "Marco A. Calamari" <marcoc_maillist(a)marcoc.it> > To: Damiano Verzulli <damiano(a)verzulli.it>, nexa(a)server-nexa.polito.it > Subject: Re: [nexa] Mozilla: "It’s Official: Cars Are the Worst > Product Category We Have Ever Reviewed for Privacy" > Message-ID: <fc7a7da58ccabf33145431e690f49f3ed10f3d07.camel(a)marcoc.it> > Content-Type: text/plain; charset="UTF-8" > > On mer, 2023-09-13 at 09:31 +0200, Damiano Verzulli wrote: > > Il 12/09/23 17:00, alessandro marzocchi ha scritto: > > > [....] > > > Non è questione di date ma di metodo, una volta deciso / accettato / > imposto > > > che l'uomo deve adattarsi alla tecnologia, è giunto il momento di > > > domandarsi: quale genere umano nell'era digitale? > > > Ink *** non basta, non basta ribellarsi, a me non piace, manco a te, > manco a > > > tanti altri e neppure a Beppe Attardi ma dobbiamo prendere atto che il > > > dominio tecnologico comanda il mondo. > > ... > > > Perché dico questo? > > Perché quando leggo --da persone nei cui confronti nutro uno stima > > elevatissima-- cose come il passaggio che ho quotato: > > > [...] > > > non basta, non basta ribellarsi, a me non piace, manco a te, manco a > > > tanti altri e neppure a Beppe Attardi ma dobbiamo prendere atto che > il > > > dominio tecnologico comanda il mondo. > > Mi chiedo: "Possibile che questo status-quo venga accettato passivamente? > > Cos'altro potrei fare, _IO_?". > > La risposta che mi do (da alcuni anni) è semplice: "Io non posso fare > piu' > > nulla. Il 100% dei tentativi effettuati, ha dato esito NEGATIVO. > Esattamente > > come accadde ~15 anni or-sono [1]" > > Probabilmente l'unica cosa che resta da fare (ma che è "fuori" dal mio > dominio > > di possibilita') è iniziare a martellare gli studenti facendo capire > loro che > > quello attuale non è "l'unico scenario possibile", ma, piuttosto, che ne > > esistono altri, tanti altri... E poi lasciando loro la possibilita' di > > scegliere. > > I miei figli, un po', l'hanno capito. Ma se rifletto sullo sforzo che è > stato > > necessario --da parte mia-- mi rendo istantaneamente conto che non è un > > risultato "scalabile". Anzi: senza ulteriori e consistenti miei sforzi... > > tutto verra' spazzato via nel giro di pochissimo tempo (la pressione di > > "scuola", "colleghi studenti di classe", "cerchia degli amici [fisici]", > > "zii", "cugini"... "tutti") è tale per cui... soccomberanno. Non hanno > ancora > > metabolizzato --e tantomeno non riescono a trasmettere all'esterno-- che > > questa piccola luce che si portano dentro (della possibilita' di > "scegliere" > > l'approccio tecnologico e, soprattutto, di poterlo "controllare") *NON* > è "un > > bug" (che tutti gli altri vorrebbero che loro due "eliminassero"), ma è > "una > > feature" (che gli altri dovrebbero far proprio). > > Ormai ho quasi perso le speranze.... ma l'idea che un Ateneo, in un > qualche > > Corso di Studi, possa avere una materia dedicata alla > "de-googlizzazione" o > > alla "de-proprietarizzazione" della tecnologia continua ad apparirmi non > solo > > "possibile", ma anche decisamente auspicabile... Sarebbe un sistema > banale, > > economicissimo ed efficacissimo, per produrre quella "sensibilita'" in > > centinaia di giovani adulti, nei confronti dei quali una qualche > lampadina > > potrebbe accendersi... e trasformarsi in luce nei successivi 30 anni. > > Eppure tale possibilita' non si vede all'orizzonte... > > Se non si riesce a discutere di questo, di come il mondo UNIV possa > > contribuire attivamente a questo genere di sviluppo, nonostante goda dei > piu' > > alti margini di manovra (mi riferisco all'Art. 33 della Costituzione), > in una > > lista come questa... come possiamo pensare che venga fatto altrove? > > Mi fermo qua. > > Provo a proseguire io, con l'ingenua pretesa che qualcuno segua uno di > questi > due link > https://www.punto-informatico.it/cassandra-crossing-il-noioso-profeta/ > > https://calamarim.medium.com/cassandra-crossing-il-noioso-profeta-15a97e197… > ed abbia voglia di leggere questo pezzo del 2011 (spero divertente) dove > tentavo di descrivere esattamente la stessa sindrome che stai provando, > applicata al "mancato" uso dell crittografia. > La risposta che contiene è semplicemente il non arrendersi. > Mi autocito, parlando di un noto personaggio di "Watchmen"; sostituite > ai puntini il problema di oggi > "Qualunque altra posizione non può che giovare alla ............... > che come un cancro rischia di divorare la cultura moderna. > Nessun alibi possibile, nessuna trattativa, nessuna possibilità di > mediazione. Rorschach , non abituato alle mezze misure, capirebbe > perfettamente questa necessità." > In sintesi: resistere, essere di esempio, oggi, per il domani che non > vedremo. > Scusate il sentimentalismo. > Marco > > [1] CTRL-F "conclusioni" > > suhttp:// > linuxdidattica.org/docs/documenti/tribolazioni_software_libero.html >

Sept. 13, 2023

Urgent appeal to approve a solid Fundamental Rights Impact Assessment in the EU Artificial Intelligence Act

by Daniela Tafani

The Brussels Privacy Hub launches an appeal to approve a fundamental rights impact assessment in the EU law on artificial intelligence. The appeal has surpassed 100 signatures among distinguished academics who have signed up The Brussels Privacy Hub and over 100 academics from across Europe and beyond are asking that the upcoming EU Artificial Intelligence Regulation (AI Act) includes a requirement for a fundamental rights impact assessment (FRIA). The proposal of the European Parliament already leans in this direction, but it risks being watered down during the trialogue, when the three institutions will meet to ratify the final text. In the proposal of the European Parliament, the requirement for a FRIA is limited to high-risk AIs in both the public and private sectors. Responding to an appeal launched by the Brussels Privacy Hub Co-Director Gianclaudio Malgieri (Leiden University), Alessandro Mantelero (Politecnico di Torino), and Vincenzo Tiani (Brussels Privacy Hub), the over 100 signatories, considered to be authorities on AI, data protection, and fundamental rights, many of whom are already consulted by national, European, and international institutions, call for maintaining the parliament’s version and, in particular, for ensuring: 1) clear parameters about the assessment of the impact of AI on fundamental rights; 2) transparency about the results of the impact assessment through public meaningful summaries, 3) participation of affected end-users, especially if in a position of vulnerability; 4) involvement of independent public authorities in the impact assessment process and/or auditing mechanisms. Here the letter: https://brusselsprivacyhub.com/2023/09/12/brussels-privacy-hub-and-other-ac…

Sept. 13, 2023

Re: [nexa] Mozilla: "It’s Official: Cars Are the Worst Product Category We Have Ever Reviewed for Privacy"

by Marco A. Calamari

On mer, 2023-09-13 at 09:31 +0200, Damiano Verzulli wrote: > Il 12/09/23 17:00, alessandro marzocchi ha scritto: > > [....] > > Non è questione di date ma di metodo, una volta deciso / accettato / imposto > > che l'uomo deve adattarsi alla tecnologia, è giunto il momento di > > domandarsi: quale genere umano nell'era digitale? > > Ink *** non basta, non basta ribellarsi, a me non piace, manco a te, manco a > > tanti altri e neppure a Beppe Attardi ma dobbiamo prendere atto che il > > dominio tecnologico comanda il mondo. ... > Perché dico questo? > Perché quando leggo --da persone nei cui confronti nutro uno stima > elevatissima-- cose come il passaggio che ho quotato: > > [...] > > non basta, non basta ribellarsi, a me non piace, manco a te, manco a > > tanti altri e neppure a Beppe Attardi ma dobbiamo prendere atto che il > > dominio tecnologico comanda il mondo. > Mi chiedo: "Possibile che questo status-quo venga accettato passivamente? > Cos'altro potrei fare, _IO_?". > La risposta che mi do (da alcuni anni) è semplice: "Io non posso fare piu' > nulla. Il 100% dei tentativi effettuati, ha dato esito NEGATIVO. Esattamente > come accadde ~15 anni or-sono [1]" > Probabilmente l'unica cosa che resta da fare (ma che è "fuori" dal mio dominio > di possibilita') è iniziare a martellare gli studenti facendo capire loro che > quello attuale non è "l'unico scenario possibile", ma, piuttosto, che ne > esistono altri, tanti altri... E poi lasciando loro la possibilita' di > scegliere. > I miei figli, un po', l'hanno capito. Ma se rifletto sullo sforzo che è stato > necessario --da parte mia-- mi rendo istantaneamente conto che non è un > risultato "scalabile". Anzi: senza ulteriori e consistenti miei sforzi... > tutto verra' spazzato via nel giro di pochissimo tempo (la pressione di > "scuola", "colleghi studenti di classe", "cerchia degli amici [fisici]", > "zii", "cugini"... "tutti") è tale per cui... soccomberanno. Non hanno ancora > metabolizzato --e tantomeno non riescono a trasmettere all'esterno-- che > questa piccola luce che si portano dentro (della possibilita' di "scegliere" > l'approccio tecnologico e, soprattutto, di poterlo "controllare") *NON* è "un > bug" (che tutti gli altri vorrebbero che loro due "eliminassero"), ma è "una > feature" (che gli altri dovrebbero far proprio). > Ormai ho quasi perso le speranze.... ma l'idea che un Ateneo, in un qualche > Corso di Studi, possa avere una materia dedicata alla "de-googlizzazione" o > alla "de-proprietarizzazione" della tecnologia continua ad apparirmi non solo > "possibile", ma anche decisamente auspicabile... Sarebbe un sistema banale, > economicissimo ed efficacissimo, per produrre quella "sensibilita'" in > centinaia di giovani adulti, nei confronti dei quali una qualche lampadina > potrebbe accendersi... e trasformarsi in luce nei successivi 30 anni. > Eppure tale possibilita' non si vede all'orizzonte... > Se non si riesce a discutere di questo, di come il mondo UNIV possa > contribuire attivamente a questo genere di sviluppo, nonostante goda dei piu' > alti margini di manovra (mi riferisco all'Art. 33 della Costituzione), in una > lista come questa... come possiamo pensare che venga fatto altrove? > Mi fermo qua. Provo a proseguire io, con l'ingenua pretesa che qualcuno segua uno di questi due link https://www.punto-informatico.it/cassandra-crossing-il-noioso-profeta/ https://calamarim.medium.com/cassandra-crossing-il-noioso-profeta-15a97e197… ed abbia voglia di leggere questo pezzo del 2011 (spero divertente) dove tentavo di descrivere esattamente la stessa sindrome che stai provando, applicata al "mancato" uso dell crittografia. La risposta che contiene è semplicemente il non arrendersi. Mi autocito, parlando di un noto personaggio di "Watchmen"; sostituite ai puntini il problema di oggi "Qualunque altra posizione non può che giovare alla ............... che come un cancro rischia di divorare la cultura moderna. Nessun alibi possibile, nessuna trattativa, nessuna possibilità di mediazione. Rorschach , non abituato alle mezze misure, capirebbe perfettamente questa necessità." In sintesi: resistere, essere di esempio, oggi, per il domani che non vedremo. Scusate il sentimentalismo. Marco > [1] CTRL-F "conclusioni" > suhttp://linuxdidattica.org/docs/documenti/tribolazioni_software_libero.html >

Sept. 13, 2023

Re: [nexa] Mozilla: "It’s Official: Cars Are the Worst Product Category We Have Ever Reviewed for Privacy"

by Damiano Verzulli

Il 12/09/23 17:00, alessandro marzocchi ha scritto: > [....] > Non è questione di date ma di metodo, una volta deciso / accettato / > imposto che l'uomo deve adattarsi alla tecnologia, è giunto il momento > di domandarsi: quale genere umano nell'era digitale? > Ink *** non basta, non basta ribellarsi, a me non piace, manco a te, > manco a tanti altri e neppure a Beppe Attardi ma dobbiamo prendere > atto che il dominio tecnologico comanda il mondo. Il mio primogenito, lunedi' scorso, di ritorno dal suo primo giorno di scuola (un Istituto Tecnico), a domanda (mia) mi ha detto che nel corso dell'anno dovranno usare Autocad e che il Prof segnalava (con una certa soddisfazione) il fatto che esistono meccanismi di licensing che, di fatto, lo rendono gratuito agli studenti (di scuola superiore, in questo caso). Nel pomeriggio dello stesso giorno, per partecipare ad una "call" di presentazione della scuola (con il D.S.), ho utilizzato Google Meet (...e per chi, come me, è "de-googlizzato", questo è un problema [BTW: quanti, qui, sanno che se si è invitati ad una call su meet, *NON* è possibile parteciparvi, senza fare "login"]?). Il software del Registro Elettronico (che *DEVO* utilizzare per interfacciarmi con la scuola) è web-based, ma la relativa APP è per me inaccessibile (è disponibile solo sugli store di Google e di Apple). A scuola del mio secondogenito la situazione è solo leggermente migliore, dato che non utilizzeranno Autocad (è al primo anno delle medie). Per me è stato, ed è, ESTREMAMENTE COMPLESSO interagire con i miei due figli, "pacificamente", "tranquillamente", nello spiegargli che quello che abbiamo attorno, e che li attornia, non è un "default" che è cascato dal cielo, e che, viceversa, alternative esistono. Il fatto che io sia un "estremista", in parte, aiuta: sul mio notebook gira solo Linux (e loro lo vedono); il mio smartphone è degooglizzato (e loro conoscono la storia); vedono che riesco a fruire dei video di youtube, senza youtube (e vedono che l'app, sul mio cellulare, non funziona). Vedono che "maps" non puo' girare sul mio smartphone... ma vedono anche che con OSMAND riesco ad utilizzare il GPS, anche off-line. E vedono che per me, è la normalita'. Ciononostante, TikTok, Youtube, Facebook, Instagram, WhatsApp e tante altre cose simili, la fanno da padrone (a casa mia....). Perché dico questo? Perché quando leggo --da persone nei cui confronti nutro uno stima elevatissima-- cose come il passaggio che ho quotato: > [...] > non basta, non basta ribellarsi, a me non piace, manco a te, manco a > tanti altri e neppure a Beppe Attardi ma dobbiamo prendere atto che il > dominio tecnologico comanda il mondo. Mi chiedo: "Possibile che questo status-quo venga accettato passivamente? Cos'altro potrei fare, _IO_?". La risposta che mi do (da alcuni anni) è semplice: "Io non posso fare piu' nulla. Il 100% dei tentativi effettuati, ha dato esito NEGATIVO. Esattamente come accadde ~15 anni or-sono [1]" Probabilmente l'unica cosa che resta da fare (ma che è "fuori" dal mio dominio di possibilita') è iniziare a martellare gli studenti facendo capire loro che quello attuale non è "l'unico scenario possibile", ma, piuttosto, che ne esistono altri, tanti altri... E poi lasciando loro la possibilita' di scegliere. I miei figli, un po', l'hanno capito. Ma se rifletto sullo sforzo che è stato necessario --da parte mia-- mi rendo istantaneamente conto che non è un risultato "scalabile". Anzi: senza ulteriori e consistenti miei sforzi... tutto verra' spazzato via nel giro di pochissimo tempo (la pressione di "scuola", "colleghi studenti di classe", "cerchia degli amici [fisici]", "zii", "cugini"... "tutti") è tale per cui... soccomberanno. Non hanno ancora metabolizzato --e tantomeno non riescono a trasmettere all'esterno-- che questa piccola luce che si portano dentro (della possibilita' di "scegliere" l'approccio tecnologico e, soprattutto, di poterlo "controllare") *NON* è "un bug" (che tutti gli altri vorrebbero che loro due "eliminassero"), ma è "una feature" (che gli altri dovrebbero far proprio). Ormai ho quasi perso le speranze.... ma l'idea che un Ateneo, in un qualche Corso di Studi, possa avere una materia dedicata alla "de-googlizzazione" o alla "de-proprietarizzazione" della tecnologia continua ad apparirmi non solo "possibile", ma anche decisamente auspicabile... Sarebbe un sistema banale, economicissimo ed efficacissimo, per produrre quella "sensibilita'" in centinaia di giovani adulti, nei confronti dei quali una qualche lampadina potrebbe accendersi... e trasformarsi in luce nei successivi 30 anni. Eppure tale possibilita' non si vede all'orizzonte... Se non si riesce a discutere di questo, di come il mondo UNIV possa contribuire attivamente a questo genere di sviluppo, nonostante goda dei piu' alti margini di manovra (mi riferisco all'Art. 33 della Costituzione), in una lista come questa... come possiamo pensare che venga fatto altrove? Mi fermo qua. Un saluto, DV [1] CTRL-F "conclusioni" su http://linuxdidattica.org/docs/documenti/tribolazioni_software_libero.html -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Sept. 13, 2023

Re: [nexa] "Lo smartphone precoce riduce l'apprendimento degli studenti più esposti agli schermi da bambini"

by M. Fioretti

On Mon, Sep 11, 2023 19:35:09 PM +0200, J.C. DE MARTIN wrote: > Lo smartphone precoce riduce l'apprendimento degli studenti più esposti agli > schermi da bambini > > Lunedì, 11 Settembre 2023 > > L’uso intensivo e precoce degli smartphone nei ragazzini non favorisce > l’apprendimento, anzi, riduce le performance scolastiche di una parte > consistente della popolazione studentesca. E ora, una ricerca di Milano-Bicocca > e SUPSI sui dati INVALSI lo conferma, andando oltre le semplici correlazioni. Grazie. Mi pare l'ennesima conferma che l'unica soluzione che potrebbe funzionare nel mondo reale, oltretutto senza controindicazioni e pure a costo zero, rimane quella che predico da diverso tempo: https://mfioretti.substack.com/p/honestly-the-problem-with-children Marco

Sept. 13, 2023