- nexa - server-nexa.polito.it

Fwd: [Grin-discuss] alcune riflessioni su intelligenza artificiale e scuola
by Diego.Latella Nov. 19, 2023

Nov. 19, 2023

Ricevo e molto volentieri ritrasmetto Diego -------- Original Message -------- SUBJECT: [Grin-discuss] alcune riflessioni su intelligenza artificiale e scuola DATE: 2023-11-19 11:39 FROM: Enrico Nardelli <nardelli(a)mat.uniroma2.it> TO: Grin Discuss <grin-discuss(a)grin-informatica.it> https://www.startmag.it/sanita/enrico-nardelli-scuola-ia/ Buona lettura (se vi va) e buona domenica. Ciao, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== -- Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it [1]) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: +390506212040 =================== The quest for a war-free world has a basic purpose: survival. But if in the process we learn how to achieve it by love rather than by fear, by kindness rather than compulsion; if in the process we learn how to combine the essential with the enjoyable, the expedient with the benevolent, the practical with the beautiful, this will be an extra incentive to embark on this great task. Above all, remember your humanity. -- Sir Joseph Rotblat I don't quite know whether it is especially computer science or its subdiscipline Artificial Intelligence that has such an enormous affection for euphemism. We speak so spectacularly and so readily of computer systems that understand, that see, decide, make judgments, and so on, without ourselves recognizing our own superficiality and immeasurable naivete with respect to these concepts. And, in the process of so speaking, we anesthetise our ability to evaluate the quality of our work and, what is more important, to identify and become conscious of its end use. […] One can't escape this state without asking, again and again: "What do I actually do? What is the final application and use of the products of my work?" and ultimately, "am I content or ashamed to have contributed to this use?" -- Prof. Joseph Weizenbaum ["Not without us", ACM SIGCAS 16(2-3) 2--7 - Aug. 1986] Links: ------ [1] http://www.isti.cnr.it

1 0

Fwd: Fwd: Digital ethics forum 2023: 22-23 novembre online e in presenza
by J.C. DE MARTIN Nov. 19, 2023

Nov. 19, 2023

Ricevo e volentieri inoltro. jc > *From:* "MLetizia (Mizzi) Filippi" <mizzif(a)gmail.com> > *Date:* 13 November 2023 at 19:19:34 CET > *To:* nexa(a)server-nexa.polito.it > *Subject:* *Digital ethics forum 2023: 22-23 novembre online e in > presenza* > > > > /Cari tutti,/ > > /Con questa mail vi invito al quinto Digital Ethics Forum, organizzato > dalla Associazione Sloweb, il 22 e 23 novembre. Convegno su etica > digitale con Partecipazione gratuita. Possibile seguire online e/o in > presenza. > / > > /Quattro sessioni con venti relatori, una tavola rotonda, un evento > focalizzato su industria e web sostenibile./ > > // > > /Senior CSI Piemonte ospita il Forum il 22 novembre (14.30 – 18.00) a > *Torino*, nella sede CTE Next in Corso Unione Sovietica 214. > / > > / > / > > /Piano D ospita il Forum il 23 novembre (10.00 – 18.00) a *Treviso*, > presso la Fondazione Benetton, Palazzo Bomben./ > > // > > /Spero possiate partecipare a una o più sessioni del Forum e > diffondere questa informazione a chi possa averne interesse. / > > /Sul sito www.digitalethicsforum.com > <http://www.digitalethicsforum.com> si trovano il programma e le > modalità di partecipazione, in *presenza o online*. / > > /Per chi partecipa in presenza è gradita la *pre-iscrizione *mediante > modulo disponibile sul sito. / > > // > > /Chi fosse interessato per sé, scuole, aziende, trova gli atti del > secondo DEF in “Manuale di informEtica” – Loescher Editore, 2022, e > quelli del terzo e quarto DEF in “Elementi di etica digitale” – > Loescher Editore, 2024, in uscita./ > > / > / > > /Grazie per l'attenzione/ > > / > / > > /Mizzi Filippi/ > > /Consiglio direttivo Sloweb > / >

1 0

Rapporto, "Europe's hidden security crisis"
by J.C. DE MARTIN Nov. 18, 2023

Nov. 18, 2023

*Europe's hidden security crisis* /How data about European defence personnel and political leaders flows to foreign states and non-state actors/ https://www.iccl.ie/digital-data/europes-hidden-security-crisis/ *Real-Time Bidding (RTB) allows foreign states and non-state actors to obtain compromising sensitive personal data about key European personnel and leaders.* *Key insights:* * Our investigation highlights**a widespread trade in data about sensitive European personnel and leaders that exposes them to blackmail, hacking and compromise, and undermines the security of their organisations and institutions**. ** ** * These data flow from Real-Time Bidding (RTB), an advertising technology that is *active on almost all websites and apps*. RTB involves the broadcasting of sensitive data about people using those websites and apps to large numbers of other entities, *without security measures to protect the data*. This occurs billions of times a day. * Our examination of tens of thousands of pages of RTB data reveals that *EU military personnel and political decision makers are targeted using RTB*. * This report also reveals that *Google* and other RTB firms *send RTB data about people in the U.S. to Russia* and *China*, where national laws enable security agencies to access the data. *RTB data are also broadcast widely within the EU in a free-for-all, which means that foreign and non-state actors can indirectly obtain them, too*. * RTB data often include location data or time-stamps or other identifiers that make it relatively easy for bad actors to link them to specific individuals. Foreign states and non-state actors can use RTB to spy on *target individuals’ financial problems, mental state, and compromising intimate secrets*. Even if target individuals use secure devices, data about them will still flow via RTB from personal devices, their friends, family, and compromising personal contacts. * In addition, private surveillance companies in foreign countries deploy RTB data for*surreptitious surveillance*. We reveal “Patternz”, a previously unreported surveillance tool that uses RTB to profile 5 billion people, including *the children of their targets*. * Our examination of RTB data reveals *Cambridge Analytica style psychological profiling* of target individuals’ *movements*, *financial problems*, *mental health problems* and vulnerabilities, including if they are likely*survivors of sexual abuse*. * *Real-Time Bidding's security flaw is a national security problem*.

1 0

OpenAI fires co-founder and CEO Sam Altman for allegedly lying to company board | OpenAI | The Guardian
by Maurizio Borghi Nov. 18, 2023

Nov. 18, 2023

OpenAI fires co-founder and CEO Sam Altman for allegedly lying to company board | OpenAI | The Guardian https://www.theguardian.com/technology/2023/nov/17/openai-ceo-sam-altman-fi… https://amp.theguardian.com/technology/2023/nov/17/openai-ceo-sam-altman-fi…

1 0

Fwd: Presentazione libro "L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificiale"
by graffio Nov. 16, 2023

Nov. 16, 2023

Care e cari, volentieri inoltro la segnalazione di questo evento. m ------------------------- Buongiorno a tutte e tutti! L’intelligenza artificiale ci viene raccontata con parole iperboliche: innovazione rivoluzionaria rischio esistenziale per l’umanità fattore di cambiamento totale rivoluzione totale dell’istruzione Cosa c’è di vero? Come sta impattando questa ennesima invenzione tecnologica sulla scuola? Venerdì 17 novembre alle ore 18.00 Nicola Villa intervisterà Stefano Borroni Barale in occasione dell’arrivo in libreria del suo libro pubblicato da Altreconomia “L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificiale”. Vi chiediamo gentilmente di iscrivervi a questo link: https://inesistentepres.vado.li/ per garantire la qualità della connessione e poter al tempo stesso, se lo volete, proporre quesiti all’autore. venerdì 17 Novembre 2023 ore 18:00 - 19:00

1 0

Social Media Trends 2024
by don Luca Peyron Nov. 16, 2023

Nov. 16, 2023

https://www.hootsuite.com/research/social-trends _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

1 0

Hacking Google Bard - From Prompt Injection to Data Exfiltration
by Alberto Cammozzo Nov. 15, 2023

Nov. 15, 2023

<https://embracethered.com/blog/posts/2023/google-bard-data-exfiltration/> Recently Google Bard got some powerful updates, including Extensions. Extensions allow Bard to access YouTube, search for flights and hotels, and also to access a user’s personal documents and emails. So, Bard can now access and analyze your Drive, Docs and Gmail! This means that it analyzes untrusted data and will be susceptible to Indirect Prompt Injection. I was able to quickly validate that Prompt Injection works by pointing Bard to some older YouTube videos I had put up and ask it to summarize, and I also tested with Google Docs. Turns out that it followed the instructions: [...]

1 0

Se l'intelligenza artificiale inizia a cibarsi dei dati che ha prodotto, abbiamo un problema
by Alberto Cammozzo Nov. 14, 2023

Nov. 14, 2023

QED <https://www.wired.it/article/intelligenza-artificiale-collasso-modelli-fond…> Da poco più di un anno, chiunque abbia accesso a internet può sperimentare liberamente con l'intelligenza artificiale generativa. I contenuti prodotti con ChatGPT, Bard, Mid Journey, Dall-E e Stable Diffusion, solo per nominare le più diffuse, sono ovunque. Utilizzate da professionisti e utenti alle prime armi, le AI generative permettono di creare testi e immagini che hanno improvvisamente invaso il web, dalle agenzie creative alle classifiche dei libri più venduti su Amazon. La proliferazione di questi contenuti però, potrebbe creare un corto circuito su cui ricercatori di diversi paesi si stanno concentrando: il model collapse. Il fenomeno è stato descritto per la prima volta da un gruppo di ricerca di cui fanno parte membri di università britanniche e canadesi. Lo definiscono come un processo degenerativo in cui i contenuti generati finiscono per inquinare i dataset delle prossime generazioni di modelli, che, addestrati con dati inquinati, avranno una percezione sbagliata della realtà. In sostanza, se le informazioni a cui queste AI attingono sono quelli prodotte dalle stesse AI, potrebbe verificarsi un processo di degenerazione dei risultati. L’idea di base è tutto sommato intuitiva: queste AI producono risultati su base statistica e tendono a eliminare progressivamente ogni evento poco probabile ad ogni successiva iterazione. I modelli linguistici di grandi dimensioni – comunemente chiamati Large Language Model o LLM – sono la tecnologia che permette a questi programmi di funzionare sulla base di prompt, o input, forniti in linguaggio naturale dall’utente. Basandosi su enormi quantità di parametri, gli algoritmi di deep learning utilizzati per far funzionare queste tecnologie vengono addestrati su dati ricavati anche tramite scraping da fonti online. E se i dati contengono errori o bias, l'AI non farà che riprodurli. Finora possiamo dire che i contenuti su cui si basano le risposte di ChatGPT sono stati creati da esseri umani, ma questo era vero solo fino allo scorso anno. In futuro un ipotetico GPT-6 (la futura generazione del LLM di ChatGPT) potrebbe trovare un dataset diverso da quello usato da GPT-3, in cui molte informazioni sono state prodotte utilizzando le versioni precedenti della stessa tecnologia. Come sottolineato dai ricercatori questo implica che “i dati sulle interazioni degli umani con gli LLM saranno sempre più preziosi”. Ma cosa succede quando una crescente quantità di informazioni è di origine “sintetica”, ovvero creata dalle macchine? Soffriranno di quello che un’altra ricerca americana ha chiamato Mad, Model autophagy disorder. Una disfunzione determinata da modelli che si nutrono delle informazioni che hanno creato. Il sistema di intelligenza artificiale ChatGPT L'Europa vuole mettere più paletti ai grandi modelli di intelligenza artificiale, come GPT È la proposta di accordo su cui convergono Parlamento, Commissione e Consiglio europeo nei negoziati sull'AI Act e prevede più obblighi per i foundation models Dagli studi effettuati emerge che la qualità del lessico peggiora, appiattendosi su un livello che offre una minore diversità di linguaggio. Se pensiamo che una delle prime forme di intelligenza artificiale con la quale siamo entrati in contatto quotidianamente è l’autocomplete del telefono, la cosa ci appare subito più chiara e semplice da estendere ad altre categorie. Il correttore automatico ci offre come soluzioni quelle più statisticamente più probabili. Con i dovuti distinguo, anche altri sistemi di raccomandazione funzionano nello stesso modo, che siano combinazioni di parole, prodotti che compriamo online, contenuti social o canzoni su Spotify. La differenza principale sta nei parametri considerati e nella capacità del sistema di imparare dai nuovi dati che vengono forniti alle macchine. Tutti i sistemi basati su tecnologie simili sono sensibili all’inquinamento dei dati. Questo non avviene solo per i testi, ma anche nel caso delle immagini. E in questo caso i risultati sono forse ancora più visibili. Il “rumore” di fondo può aumentare a tal punto da rendere i soggetti quasi indistinguibili e coperti da una patina opaca, oppure le immagini possono risultare visibilmente artefatte. Di recente Microsoft e Google hanno incorporato i propri chatbot in diversi prodotti e nei loro motori di ricerca, una mossa che potrebbe amplificare i problemi che generano. Non solo espongono gli utenti alle cosiddette allucinazioni, gli errori degli LLM che generano risposte che non trovano riscontro nella realtà, ma anche a feedback loop in cui gli eventi meno frequenti tendono a scomparire. I sistemi di raccomandazione possono creare camere dell’eco in cui trovano rappresentazione solo gli eventi più probabili. Secondo Daniele Gambetta, dottorando in intelligenza artificiale presso l'Università di Pisa, “ognuno di questi casi è rilevante nella comprensione di fenomeni che saranno sempre più diffusi e che potrebbero portare a implicazioni indesiderate. La ricerca si sta muovendo in questa direzione, intersecando conoscenze tecniche e informatiche con strumenti e teorie provenienti dalla sociologia e dalla psicologia".

1 1

"How a billionaire-backed network of AI advisers took over Washington"
by J.C. DE MARTIN Nov. 13, 2023

Nov. 13, 2023

*How a billionaire-backed network of AI advisers took over Washington* /A sprawling network spread across Congress, federal agencies and think tanks is pushing policymakers to put AI apocalypse at the top of the agenda — potentially boxing out other worries and benefiting top AI companies with ties to the network./ By Brendan Bordelon 10/13/2023 05:00 AM EDT An organization backed by Silicon Valley billionaires and tied to leading artificial intelligence firms is funding the salaries of more than a dozen AI fellows in key congressional offices, across federal agencies and at influential think tanks. The fellows funded by Open Philanthropy, which is financed primarily by billionaire Facebook co-founder and Asana CEO Dustin Moskovitz <https://www.openphilanthropy.org/about-us/> and his wife Cari Tuna, are already involved in negotiations that will shape Capitol Hill’s accelerating plans to regulate AI. And they’re closely tied to a powerful influence network that’s pushing Washington to focus on the technology’s long-term risks — a focus critics fear will divert Congress from more immediate rules that would tie the hands of tech firms. [...] continua qui: https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-polic…

3 2

Seminario: How AI Fosters Global Inequalities (20 novembre, online)
by Michele Molè Nov. 13, 2023

Nov. 13, 2023

Buongiorno, Segnalo che il 20 novembre 2023 ore 15.30 presso l'Università di Groningen (Paesi Bassi) ospiteremo il seminario (online) "[How Artificial Intelligence Fosters Global Inequalities: A Four-Country Study on Data Work](https://www.rug.nl/jantina-tammes-school/calendar/2023/how-artificial-intelligence-fosters-global-inequalities)". Il prof. Antonio A. Casilli (Institut Polytechnique de Paris) presentera' il suo studio condotto con il DiPiLab tra il 2020-2023 in Venezuela, Madagascar, Brasile e Francia. Seguirà un panel multidisciplinare (programma allegato). E' necessario registrarsi[qui](https://forms.gle/V7P8BYyi4AJfHa1Y8), (scuse anticipate per il Google form:)) Michele -- Michele Molè, PhD candidate https://www.rug.nl/staff/m.mole/

1 1