March 2023 - nexa - server-nexa.polito.it

Quei robocani che si chiamano "lodicevoio..."
by M. Fioretti Nov. 7, 2023

Nov. 7, 2023

Sviluppi robotici assolutamente ovvi, forse il solo problema e' non averne parlato abbastanza allora: https://stop.zona-m.net/2022/02/police-robodogs-are-all-called-toldya/ Marco -- Help me write my NEXT MILLION WORDS for digital awareness: https://stop.zona-m.net/2021/10/funding-2021-2022/

2 3

Piattaforme digitali e censura: un questionario per la raccolta di casi di censura online
by Maurizio Borghi July 6, 2023

July 6, 2023

Gentili partecipanti alla lista Nexa, Vi segnalo il progetto Piattaforme digitali e censura online: la moderazione dei contenuti tra libertà di pensiero e contrasto alla disinformazione e hate speech in rete <https://nexa.polito.it/piattaforme-digitali-censura-online>, da me coordinato e condotto dalla dott.ssa Beatrice Balzola. Il progetto si propone di raccogliere *evidenza empirica* sulle politiche di censura adottate dalle principali piattaforme di condivisione, con particolare riferimento ai tipi di intervento, alla natura dei contenuti oggetto di provvedimenti e al livello di trasparenza nei confronti degli utenti. A questo scopo, il progetto intende raccogliere un cospicuo numero di “casi studio” di censura online attraverso la compilazione di un *questionario*: *https://survey.nexacenter.org/index.php/637786?lang=it* <https://survey.nexacenter.org/index.php/637786?lang=it> Se avete subito un *provvedimento di censura* – ad esempio la sospensione dell’account, la rimozione di contenuti o il loro oscuramento (“shadowbanning”) – o se siete a conoscenza di persone che hanno subito tali provvedimenti, Vi chiediamo anzitutto di compilare il questionario e poi di *condividerlo *con altre persone attraverso le vostre reti di conoscenza. Il vostro contributo sarà fondamentale per la buona riuscita del progetto. Cordialmente, -- _______________ *Maurizio Borghi* Università di Torino https://www.dg.unito.it/persone/maurizio.borghi Co-Director Nexa Center for Internet & Society <https://nexa.polito.it/>

3 3

mail studenti UniMi outsourced a Microsoft
by Andrea Trentini May 3, 2023

May 3, 2023

Mi è arrivata info che a breve la mail degli studenti verrà gestita da Microsoft (Office365) https://www.unimi.it/it/archivio-avvisi/la-webmail-studentiunimiit-passa-mi… Chiedo ai più esperti qui: Schrems II non aveva stabilito che USA non è un safe harbour? (e quindi saremmo in presenza di una violazione del GDPR?) O c'è sotto qualche arcano che non fa scattare violazione? Grazie mille -- Andrea Trentini ⠠⠵ http://atrent.it Dip.to di Informatica Università degli Studi di Milano

5 15

Pause Giant AI Experiments: An Open Letter
by J.C. DE MARTIN April 16, 2023

April 16, 2023

Primi firmatari: Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak. jc* Pause Giant AI Experiments: An Open Letter** * /We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. / https://futureoflife.org/open-letter/pause-giant-ai-experiments/ // AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research^[1] and acknowledged by top AI labs.^[2] As stated in the widely-endorsed Asilomar AI Principles <https://futureoflife.org/open-letter/ai-principles/>, /Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources/. Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control. Contemporary AI systems are now becoming human-competitive at general tasks,^[3] and we must ask ourselves: /Should/ we let machines flood our information channels with propaganda and untruth? /Should/ we automate away all the jobs, including the fulfilling ones? /Should/ we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? /Should/ we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders. *Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable.* This confidence must be well justified and increase with the magnitude of a system's potential effects. OpenAI's recent statement regarding artificial general intelligence <https://openai.com/blog/planning-for-agi-and-beyond>, states that /"At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models."/ We agree. That point is now. Therefore, *we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4*. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium. AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.^[4] This does /not/ mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities. AI research and development should be refocused on making today's powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal. In parallel, AI developers must work with policymakers to dramatically accelerate development of robust AI governance systems. These should at a minimum include: new and capable regulatory authorities dedicated to AI; oversight and tracking of highly capable AI systems and large pools of computational capability; provenance and watermarking systems to help distinguish real from synthetic and to track model leaks; a robust auditing and certification ecosystem; liability for AI-caused harm; robust public funding for technical AI safety research; and well-resourced institutions for coping with the dramatic economic and political disruptions (especially to democracy) that AI will cause. Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an "AI summer" in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society.^[5] We can do so here. Let's enjoy a long AI summer, not rush unprepared into a fall.

8 15

"DPReview.com to close"
by J.C. DE MARTIN April 9, 2023

April 9, 2023

Dopo quasi 25 anni chiude il noto sito di fotografia Dpreview: https://www.dpreview.com/news/5901145460/dpreview-com-to-close L'aspetto che trovo stupefacente, anzi, oltraggioso (tranne che per i fanatici della proprietà privata, ovviamente), è che - a quanto pare - il sito /scomparirà/ proprio. Quindi l'enorme numero di recensioni, iniziate prima della diffusione della fotografia digitale, e l'ancor più grande numero di commenti degli utenti (non di rado con foto), _scomparirà nel nulla_. Come qualcuno ha scritto, è come se scomparisse la (o, almeno, una) "Wikipedia della fotografia". juan carlos

6 13

Parlamento: recepita la Direttiva UE sulle denuncie di irregolarità (whistleblowing) | Dottrina Per il Lavoro
by Mauro Alovisio April 5, 2023

April 5, 2023

Ciao Segnalo finalmente dopo un grave ritardo rispetto agli altri paesi europei il decreto che tutela i segnalanti di violazione di legge all'interno dei contesti lavorativi. https://www.dottrinalavoro.it/notizie-c/parlamento-recepita-la-direttiva-ue… Un caro saluti Mauro

1 1

il Professor Meo scrive alla Presidente del Consiglio dei Ministri!
by Giacomo Tesio April 5, 2023

April 5, 2023

Illustrissima, come molti cittadini, associazioni e imprese impegnati nella difesa del software libero, abbiamo apprezzato il ruolo di primo piano che la sovranità digitale ha assunto nel programma della Presidente del Consiglio. Si tratta infatti di un tema fondamentale, sia per la democrazia che per le sorti economiche dell'Italia. In Europa, Francia e Germania stanno affermando da mesi e con estrema chiarezza che la propria sovranità digitale non possa essere messa in discussione dalla dipendenza dalle Big Tech, che orientando i comportamenti e le scelte commerciali dei cittadini europei, guadagnano centinaia di miliardi di euro ogni anno. Questa grave ingerenza che rischia di svuotare di significato le procedure democratiche nel nostro Paese, si è radicata stabilmente nella nostra economia, pesando sulla nostra bilancia commerciale e sottraendo non solo enormi investimenti ma cervelli brillanti, costretti a emigrare a causa di tale concorrenza sleale. Investire oggi in una vera sovranità digitale è dunque fondamentale per garantire un futuro prospero ai nostri figli. Notizie recenti però ci fanno temere che questo futuro sia in serio pericolo. [...] Mentre negli altri paesi Europei si assumono posizioni sempre più rigorose, in Italia, se non si agisce immediatamente per aiutare le scuole e i Dirigenti Scolastici, corriamo il concreto rischio di sprecare un’opportunità irripetibile e consegneremmo i dati di studenti e docenti a imprese che hanno come modello d’affari la profilazione degli utenti e che sono tenute, per legge, a partecipare ad attività di sorveglianza di massa in spregio ai diritti fondamentali dei nostri concittadini. [...] Pur apprezzando la sensibilità del nuovo Governo sul tema della sovranità digitale, l'esperienza ci porta a temere che le la storia si possa ripetere. Temiamo che i consiglieri del Governo sostengano che “non ci siano alternative” o “manchino competenze e risorse informatiche adeguate”. Vi esortiamo a rifiutare tali argomentazioni, rinunciatarie e disfattiste: se credete nel nostro Paese, permettetegli di dimostrare le proprie capacità. Vi chiediamo di ribadire alle scuole di ogni ordine e grado la necessità di un'accurata valutazione comparativa (prevista dall’art. 68 del CAD) che tenga conto di approfondite valutazioni di impatto sulla privacy di studenti e insegnanti. Sappiamo che tali analisi dimostreranno come le alternative esistano, siano percorribili e qualitativamente migliori. Il software libero è infatti un potente catalizzatore, un'infrastruttura all'avanguardia, grazie alla quale anche il nostro Paese potrà avviare una nuova ed efficiente politica industriale. Dobbiamo solo avere il coraggio di provarci. Concludendo, Vi invitiamo ad adottare le misure necessarie per supportare e coordinare i Dirigenti Scolastici affinché colgano l'occasione offerta dal Piano Nazionale Ripresa e Resilienza. In particolare, si dovrebbe attivare con la massima urgenza un gruppo di lavoro che unisca le migliori competenze per supportare i Dirigenti Scolastici nell’acquisire servizi basati su software libero e fornitida imprese italiane ed europee, tutto nel pieno rispetto del GDPR e del CAD. Liberare l'Italia dalla morsa delle Big Tech non sarà facile, ma è la cosa giusta da fare per il nostro Paese. Ringraziamo molto per l’attenzione. Prof. Angelo Raffaele Meo Il testo completo della lettera è qui: https://www.softwarelibero.it/lettera-al-governo-del-prof-angelo-raffaele-m… Può essere sottoscritta da singoli cittadini, associazioni e imprese: https://www.softwarelibero.it/aderisci-alla-lettera-al-governo-del-prof-meo Giacomo

2 1

fake journal papers
by Alberto Cammozzo April 4, 2023

April 4, 2023

Questa mattina alla rassegna stampa di radio 3 un ascoltatore che si definiva un fisico dava come abituale nel suo ambiente l'uso di chatGPT nel 'supporto' alla generazione di paper scientifici. Discutendo la cosa un amico mi ha segnalato questo apparentemente diffuso fenomeno dei 'paper mills': <https://sciencebusiness.net/news/us-lawmakers-turn-attention-plague-fake-jo…> (lo riporto di seguito) L'articolo e' datato ma non credo che nel frattempo i numeri dei paper fasulli sia calato. Forse con chatGPT i paper mills andranno in rovina: perché pagare? Alberto -- US lawmakers turn attention to plague of fake journal papers 26 Jul 2022 AI tools are now allowing so-called paper mills to trick journals with fake articles on an industrial scale. The issue risks scientific integrity and is beginning to get high level political attention US lawmakers have warned that fake research papers risk compromising trust in the entire scientific system, as artificial intelligence (AI) makes it ever easier for so-called paper mills to fool journals into accepting made up articles. Some estimates suggest hundreds of thousands of fake papers could exist in the human genomics literature alone. Paper mills have also managed to impersonate guest journal editors to wave through hundreds of their own fraudulent articles. “The automation arms race is upon us,” warned <https://science.house.gov/imo/media/doc/chair_foster_os_publishing.pdf> Democrat congressman Bill Foster in a hearing of the US House of Representatives’ science, space and technology committee last week. To prove his point, Foster, along with another representative, created a fake nuclear physics paper <https://science.house.gov/download/fake-foster-paper> using a text generator that easily evaded plagiarism detectors. “The creation of hundreds of papers – complete with figures and citations – becomes the work of an afternoon, much to the disgust of real scientists who might spend months on a single paper,” said Foster. Fraud in scientific work will undermine honest academics’ work, and could have “disastrous” effects if it ends up influencing policy or public behaviour, warned <https://science.house.gov/imo/media/doc/chairwoman_johnson_os_publishing.pdf> congresswoman Eddie Bernice Johnson, who chairs the committee. Concern around paper mills has existed for at least a decade, but improvements in AI image and text generation have made fake paper production possible on an industrial scale. Now, with last week’s congressional hearing, there is high level political attention focused on what it could do to the scientific system. “This is the first time the US Congress has been interested,” said Chris Graf, research integrity director at scientific publisher Springer Nature, and one of those who testified at the hearing, told Science|Business. Paper mills use AI tools to create realistic-seeming papers that are submitted to journals, normally many at a time. They then sell authorship spots on those journals to academics willing to pay for authorship. This might then earn the academic a bonus or promotion. One Latvia-based paper mill uncovered by a publishers’ report <https://publicationethics.org/files/paper-mills-cope-stm-research-report.pdf> last month claims to have sold close to 13,000 articles into real journals. But Graf said publishers often didn’t know where the mills were based because they conceal their locations. As for the mills’ customers – academics willing to pay for a fake authorship credit – they tend to be based in Asia, Graf said. “The majority of the authors whose papers I know about […] are in China,” he said. “A proportion them are also in India.” Graf, who is one of the leaders of a publishers’ effort to better detect paper mills, said he is angry with the mills, not the academics themselves. These academics – often busy clinicians - may be trapped in a system that demands they publish internationally but without the time, resources, or English language skills to do so honestly, he said. *Fooling journals* In some fields, research is so specialised that journal peer reviewers simply cannot spot when a paper is fake. In human genetics, sometimes there are no expert communities for particular genes, said Jennifer Byrne, an oncology professor at the University of Sydney, another expert who testified last week. “If the manuscript looks plausible, for example by including the expected types of images and nucleotide sequence reagents, they may accept the manuscript, even though they don’t know whether the results describe represent a genuine advance in knowledge,” she said. Bryne and colleagues recently screened around 12,000 human genomics papers, and found <https://science.house.gov/imo/media/doc/Byrne%20Testimony.pdf> over 700 contained errors indicating they could originate from a paper mill. “The threat of paper mills to scientific publishing and integrity has no parallel over my 30-year scientific career,” she said in her testimony <https://science.house.gov/imo/media/doc/Byrne%20Testimony.pdf>. Another paper mill technique relies on full-scale identity fraud. Journals often use outside guest editors to oversee niche editions, said Graf. In one case, however, a journal was contacted by a paper mill pretending to be a specialist guest editor, using a very similar email address to the academic they were impersonating. This fake guest editor then waved through hundreds of articles from the paper mill before the journal realised what was happening and retracted the articles, Graf said. “We realised the journal had been hacked, effectively.” Paper mills have also targeted pre-print servers. These publish articles online prior to peer review, and became increasingly important during the pandemic, when scientists couldn’t wait for publication to get their results out. ArXiv, a popular pre-print server, has received fake papers for some time, said Steinn Sigurdsson, scientific director. “It is a bit of a ‘Red Queen Race’ as computer technology and algorithms improve and the fakes become ‘deeper’,” he said, referring to a situation where more and more work is required just to stay in the same place. “arXiv uses a combination of human moderators who do mostly quick screens of submissions, and a hierarchy of software tools that run both synchronously with submission and asynchronously offline to detect submissions with errors or problems, and outliers of various sorts,” he explained. *Scale unclear* Exactly how many fake papers lurk in the scientific literature is unclear. In the publishers’ report last month, called /Paper Mills/ <https://publicationethics.org/files/paper-mills-cope-stm-research-report.pdf>, estimates varied widely. At most journals, just 2% of submissions are from paper mills, it found. But when a paper mill finds a journal that takes its papers, it appears to bombard it with manuscripts. At some targeted journals, nearly half of submissions are from paper mills, it found. One unnamed publisher cited in the report discovered that between 2019 - 21, they had published more than 450 paper mill articles. Publishers have faced criticism of inaction when issues are flagged up, either due to paper mill fakery or other forms of misconduct. “Journal and institutional responses remain, on average, very ineffective and inefficient, even when evident problems have been made public,” US lawmakers were told <https://science.house.gov/imo/media/doc/Stell%20Testimony.pdf> by Brandon Stell, co-founder of the PubPeer site, which allows anonymous commentators to pick apart problems in papers. It’s also unclear to what extent fake papers in the literature will actually steer science down blind alleys. Graf thinks that researchers are on the whole able to spot them. “They know what’s rubbish, and they know what’s trustworthy,” he said. *Taking action* Still, the existence of fake paper mill articles has rattled publishers, said Graf. “Publishers care a lot about this,” he said. “It goes straight to the heart of the thing we call our value proposition.” Last December, the International Association of Scientific, Technical and Medical Publishers, set up an Integrity Hub, which they will use to share data on simultaneous submission of papers to several journals, which can be a sign that a paper mill is behind them. Graf predicted a spike in retractions due to increasing paper mill fraud. “Maybe we’re at the start of that spike for retractions for paper mill type work,” he said.

2 1

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter
by Giuseppe Attardi April 1, 2023

April 1, 2023

Sono totalmente in disaccordo con la lettera aperta, perché affronta il problema dalla parte sbagliata. Non dobbiamo rallentare lo sviluppo di AI da parte dei privati, dobbiamo invece accelerare lo sviluppo dell’AI con finanziamenti pubblici ai ricercatori che oggi non dispongono delle risorse di calcolo necessarie per restare all’avanguardia, esplorando approcci e direzioni che non vengono seguite dalle aziende private. Sono anche un disaccordo con l’idea di rafforzare l”European AI Act, che era già palesemente inadeguato e contraddittorio: non si può affermare da una parte che l’AI sia inaffidabile e dall’altra pretendere che lo diventi tramite un fantomatico e discriminatorio (in termini di costi) processo di autocertificazione. Il fatto che la proposta non contemplasse il caso dei chatbot come tecnologia da regolamentare, dimostra non solo come la regolamentazione fosse inadeguata ma anche come qualunque regolamentazione lo sarebbe in un periodo di rapido sviluppo della tecnologia stessa. Se c’è qualcosa da regolare, non è la tecnologia o il suoi tempi di sviluppo, ma il modo indecoroso con cui le Big Tech stanno dominando il settore digitale, con gli effetti deleteri che Daniela riporta, e con l’espansione ad altri settori ed ulteriore concentrazione che provoca l’uso di tecnologie, di cui solo loro possono permettersi di disporre (perché glielo abbiamo lasciato fare). Una moratoria di sei mesi alle sviluppo “modelli più potenti di GPT-4” sarebbe solo una foglia di fico senza alcun effetto pratico: tutti gli altri, che non hanno modo di farlo, non ne trarranno alcun beneficio. — Beppe > On 31 Mar 2023, at 10:37, nexa-request(a)server-nexa.polito.it wrote: > > Date: Fri, 31 Mar 2023 08:37:45 +0000 > From: Daniela Tafani <daniela.tafani(a)unipi.it <mailto:daniela.tafani@unipi.it>> > To: Andrea Bolioli <andrea.bolioli(a)gmail.com <mailto:andrea.bolioli@gmail.com>>, "J.C. DE MARTIN" > <juancarlos.demartin(a)polito.it <mailto:juancarlos.demartin@polito.it>> > Cc: "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An > Open Letter > Message-ID: <ad3a3992a802403cb989b01bd372b652(a)unipi.it <mailto:ad3a3992a802403cb989b01bd372b652@unipi.it>> > Content-Type: text/plain; charset="windows-1252" > > Buongiorno. > > > Non mi pare difficile trovare un'iniziativa pubblica meno indecente della mossa insultante di quella lettera aperta: > > il modo in cui parlano di fantomatici rischi futuri, come se non si fossero accorti di quanto siano reali e dolorosi > i danni generati dal loro sfruttamento di persone, dati e risorse naturali > > e dal rilascio di strumenti deliberatamente ingannevoli, > che inquinano pesantemente l'ecosistema dell'informazione > > e illudono e manipolano per loro conto gli utenti inesperti, > > mi ricorda - non a caso, visti i firmatari - il dialogo tra Huckleberry Finn e la zia Sally: > > > Huckleberry Finn, quando gli chiesero se lo scoppio della caldaia di un battello a vapore avesse colpito qualcuno, > rispose: «Nessuno: è rimasto ucciso un negro». > Il commento della zia Sally: «Bene, è una fortuna, perché a volte capita che qualcuno si faccia male», > riassume l’intera moralità che spesso ha prevalso fra gli uomini. > > > Tra le iniziative non proposte da ideologhi TESCREAL<https://nitter.snopyta.org/xriskology/status/1635313838508883968> (transhumanism, extropianism, singularitarianism, cosmism, Rationalism, Effective Altruism e longtermism), > > segnalo una lettera aperta odierna: > > <https://www.law.kuleuven.be/ai-summer-school/open-brief/open-letter-manipul…> > > > Un saluto, > Daniela >

3 2

GDPR e chat GPT
by Mauro Alovisio March 31, 2023

March 31, 2023

Ciao segnalo news appena pubblicata di interesse https://garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847 Cordiali saluti mauro

3 2