December 2024 - nexa - server-nexa.polito.it

GPDP - Provvedimento del 2 novembre 2024 [10085455]

by Carlo Blengino

GPDP sanziona OpenAI per trattamento illecito, quello descritto in motivazione. Qui il provvedimento: https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb… Buona lettura e soprattutto Buon Natale e buone feste a tutti voi. CB -- *Avv. Carlo Blengino* *Via Duchessa Jolanda n. 19,* *10138 Torino (TO) - Italy* *tel. +39 011 4474035* Penalistiassociati.it

Dec. 20, 2024

Re: [nexa] black box in ricerche astronomiche

by alessandro marzocchi

Ciao Giacomo, sono d'accordo: l'intelligenza sta negli occhi di chi guarda. Domando: come nasce e si evolve l'intelligenza negli occhi di chi guarda? *Educhi *le figlie ed *insegni *alle macchine. L'etimologia di educare racconta l'azione di condurre fuori, quella di insegnare racconta l'azione di imprimere un segno, mi sono fatto l'idea che la differenza fra noi umani e macchine sta qui, ma non ho competenze né esperienze di programmazione. Continuo ad avere dubbi che 'ste macchine siano così diverse da noi, certamente lo sono ma, domando, i nostri modi di apprendimento, di formare la nostra intelligenza sono tanto diversi da quelli di "queste" macchine? *Un cucciolo di umano come conosce un gatto?* Conoscere è già una porta verso l'infinito, non apro per la vastità dell'impegno; con questa prudenza ipotizzo che il cucciolo di umano "conosce" come "gatto" un'apparizione davanti ai suoi occhi, non la prima apparizione ma l'ennesima e dopo avere fatto un gran numero di analisi, confronti, memorizzazioni, errori, correzioni, approssimazioni, aggiustamenti ecc. Immagino che similmente riconosca un gatto-gatto come diverso da un gatto-riprodotto-in-foto. A me pare che in entrambi casi la "statistica" ha un ruolo fondamentale, tu invece ritieni che la statistica opera soltanto con le macchine e non con gli umani. Tutto questo ci porta lontano, ma rimango ai primissimi passi: come e cosa facciamo di analogo, e di diverso, nell'educare i figli rispetto a insegnare a macchine? Andando all'osso, forse noi umani siamo banali ed abbiamo paura a riconoscerci tali. Sulle altre questioni che hai introdotto so ancora meno però mi piacerebbe tu cercassi di dibattere con gli astronomi autori della ricerca. Se ci provi grazie! due volte grazie se aggiorni sul dibattito. Ci avviciniamo a giorni topici solo per noi umani: auguri cordiali. Duccio (Alessandro Marzocchi) Il giorno gio 19 dic 2024 alle ore 10:31 <nexa-request(a)server-nexa.polito.it> ha scritto: > Date: Wed, 18 Dec 2024 23:14:13 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] black box in ricerche astronomiche > Message-ID: <C7F2E8FB-3C5C-4927-866E-EB5D3F5FC453(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > Ciao Alessandro, grazie della segnalazione. > Aspetto di leggere l'articolo scientifico vero e proprio, per capire come abbiano > analizzato lo "spazio latente" [1] ma mi sembra evidente che se questi ricercatori > smettessero di pensare in termini AI e studiassero il software che hanno > programmato statisticamente come una forma compressa (con perdita) dei > dati utilizzati durante il processo, otterrebbero risultati migliori > (ma forse, meno finanziamenti). > > Ad esempio la distinzione fra galassie passive ed attive ha molte possibili > spiegazioni anche in assenza di qualsiasi intelligenza: la prima fra tutte, i dati (sintetici, se ho capito bene) potrebbero contenere variabili fortemente correlate alla distinzione. > > Ti faccio un esempio terra terra: se programmo una vector mapping machine > per prevedere il bmi degli islandesi fra i 20 e i 40 anni sulla base della marca > e della taglie degli indumenti che hanno indossato in un anno, è probabile > che la vmm in qualche layer interno finisca per trattare in modo diverso gli > esempi che hanno indossato un reggiseno da quelli che non l'hanno indossato. > > Un ricercatore ottenebrato dalla propaganda della AI ti direbbe che > la rete neurale ha imparato a distinguere abbastanza bene maschi e femmine > anche se il sesso non era presente nei dati di addestramento. > > Un ricercatore lucido ti spiegherebbe che il bmi dipende da peso e altezza > di un individuo, i quali, all'interno di una certa etnia, correlano fortemente > con il sesso a parità di altre taglie. > Al contempo, l'uso del reggiseno, fra i 20 e i 40, è un forte predittore del sesso > di un individuo, per cui è in forte correlazione con i bmi probabili per ciascuna taglia. > > Ciò non toglierebbe nulla all'utilità pratica della ricerca, soprattutto se permette > di individuare questo tipo di classificazioni interne operate dai layer nascosti di > una vector mapping machine (aka "rete neurale arificiale") generica. > > Ma rende un po' imbarazzanti certe affermazioni nell'intervista, come > il paragone fra il processo di programmazione statistica e un > corso di cucina. > > Tuttavia, aspettando di leggere l'articolo, ti ricordo che l'intelligenza sta > negli occhi di chi guarda [2] > > > Giacomo > > > [1] <https://www.baeldung.com/cs/dl-latent-space> > > [2] <https://www.tesio.it/2018/01/19/the-delusions-of-neural-networks.html > > > > ------------------------------

Dec. 20, 2024

Re: [nexa] Nuovo Community Article "Licenze Creative Commons e Intelligenza Artificiale Generativa: una sinergia per la condivisione della conoscenza"

by Stefano Zacchiroli

Grazie per la segnalazione. Sullo stesso tema, segnalo questo report di Open Future (citati per un altro lavoro nello stesso ambito anche dal Community Article di Nexa) e Università di Amsterdam, uscito qualche mese fa: Kacper Szkalej, Martin Senftleben Mapping the Impact of Share Alike/Copyleft Licensing on Machine Learning and Generative AI https://openfuture.eu/wp-content/uploads/2024/06/Share-Alike-and-ML-Report-… Si concentra sugli aspetti share-alike/copyleft e su come si potrebbero far funzionare (spoiler: è complicati) nell'ambito di Gen AI. Ciao On Thu, Dec 19, 2024 at 09:31:01AM +0000, Nexa - Media wrote: > Vi segnaliamo con piacere la pubblicazione di un nuovo articolo della > sezione del nostro sito web "Community Articles", dal titolo "Licenze > Creative Commons e Intelligenza Artificiale Generativa: una sinergia > per la condivisione della conoscenza", a cura dell'Avv. Deborah De > Angelis, Fellow del Centro Nexa. > > L'articolo è consultabile al seguente link: > https://nexa.polito.it/licenze-creative-commons-e-intelligenza-artificiale-… -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CSO Software Heritage o o o o /\|^|/\ Mastodon: https://mastodon.xyz/@zacchiro '" V "'

Dec. 20, 2024

Tutti [gli] uomini del[la] presidente

by Roberto Resoli

Segnalo l'articolo di Roberto Caso (unitn): https://www.robertocaso.it/2024/12/15/tutti-gli-uomini-della-presidente/ > Tra le tante disposizioni normative oggetto di critica ve ne è una che ha ricevuto meno attenzione. Essa riguarda l’estensione del potere delle agenzie di informazione (servizi segreti) in riferimento alle università e agli enti pubblici di ricerca. ... > “Il comma 1, lett. a), n. 1, modifica l’articolo 13, comma 1, della legge 124/2007 (la legge reca la nuova disciplina dei servizi di informazione), prevedendo che le pubbliche amministrazioni e alcuni soggetti ad esse equiparati siano tenuti a prestare al Dipartimento delle informazioni per la sicurezza (DIS) e alle agenzie del sistema di informazione per la sicurezza della Repubblica – ossia l’Agenzia informazioni e sicurezza esterna (AISE) e l’Agenzia informazioni e sicurezza interna (AISI) – la collaborazione e l’assistenza richieste, anche di tipo tecnico e logistico, necessarie per la tutela della sicurezza nazionale. > > Attualmente, la disposizione vigente prevede che DIS e agenzie possono corrispondere con le pubbliche amministrazioni e con i soggetti che erogano, in regime di autorizzazione, concessione o convenzione, servizi di pubblica utilità e chiedere ad essi la collaborazione, anche di ordine logistico, necessaria per l’adempimento delle loro funzioni istituzionali. > > La norma in esame, da un lato, rende cogente la collaborazione – ed anche l’assistenza, non prevista dalla norma vigente – che gli organismi di sicurezza eventualmente richiedono alle pubbliche amministrazioni. Dall’altro, specifica che la collaborazione e assistenza debbano essere motivate dalla necessità della tutela della sicurezza nazionale, mentre la disposizione vigente fa riferimento alla necessità di adempiere alle funzioni istituzionali di detti organismi. ... > Com’è stato rilevato dal Dott. Armando Spataro in sede di audizione[1], tale nuovo intervento normativo risponde all’”orientamento politico finalizzato ad estendere il ruolo delle Agenzie di Informazione nella direzione di attività che non competono loro, come – in particolare – quelle di indagine giudiziaria”. rob [1] https://www.senato.it/application/xmanager/projects/leg19/attachments/docum…

Dec. 19, 2024

Gorwa, "È possibile la democrazia digitale?"

by J.C. DE MARTIN

*È possibile la democrazia digitale? * /Due saggi indagano, da prospettive diverse, il complicato rapporto tra piattaforme online e partecipazione anti-gerarchica. Per capire se possiamo sottrarci ai modelli totalizzanti che governano la nostra attività in rete / Robert Gorwa 19 Dicembre 2024 All’inizio, ci fu una tormenta di neve. Era il gennaio del 1978 e forti raffiche subtropicali che si muovevano verso nord si scontrarono sui Grandi Laghi con una corrente artica diretta a sud, generando una delle più terribili tempeste di neve nella storia degli Stati uniti. La Grande tormenta di neve del 1978 scaricò quasi un metro di neve su alcune parti del Michigan, causando quasi un centinaio di vittime e mezzo miliardo di dollari di danni, al netto dell’inflazione. Bloccati a casa durante la grande nevicata, due appassionati di computer di Chicago decisero di costruire un sistema che gli avrebbe permesso di comunicare tra loro. All’epoca, la suite di protocolli Internet era ancora lontana anni dall’essere ampiamente utilizzata, ma i progressi nella microelaborazione avevano iniziato a portare i computer fuori dai laboratori e nelle case degli smanettoni. Con i primi modem si poteva «comporre il numero» e trasmettere informazioni su normali linee telefoniche, così Ward Christensen e Randy Suess, entrambi membri del Chicago Area Computer Hobbyists’ Exchange (Cache), unirono la loro competenza nella scrittura di software e nella modifica dell’hardware per creare un modem modificato a cui altri potevano collegarsi e sui quali lasciare messaggi da leggere in seguito. [...] continua qui: https://jacobinitalia.it/e-possibile-la-democrazia-digitale/

Dec. 19, 2024

Nuovo Community Article "Licenze Creative Commons e Intelligenza Artificiale Generativa: una sinergia per la condivisione della conoscenza"

by Nexa - Media

Gentilissime, gentilissimi, Vi segnaliamo con piacere la pubblicazione di un nuovo articolo della sezione del nostro sito web "Community Articles", dal titolo "Licenze Creative Commons e Intelligenza Artificiale Generativa: una sinergia per la condivisione della conoscenza", a cura dell'Avv. Deborah De Angelis, Fellow del Centro Nexa. L'articolo è consultabile al seguente link: https://nexa.polito.it/licenze-creative-commons-e-intelligenza-artificiale-… Vi ringraziamo per l'attenzione, Un saluto cordiale, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Dec. 19, 2024

Re: [nexa] black box in ricerche astronomiche

by Giacomo Tesio

Ciao Alessandro, grazie della segnalazione. Aspetto di leggere l'articolo scientifico vero e proprio, per capire come abbiano analizzato lo "spazio latente" [1] ma mi sembra evidente che se questi ricercatori smettessero di pensare in termini AI e studiassero il software che hanno programmato statisticamente come una forma compressa (con perdita) dei dati utilizzati durante il processo, otterrebbero risultati migliori (ma forse, meno finanziamenti). Ad esempio la distinzione fra galassie passive ed attive ha molte possibili spiegazioni anche in assenza di qualsiasi intelligenza: la prima fra tutte, i dati (sintetici, se ho capito bene) potrebbero contenere variabili fortemente correlate alla distinzione. Ti faccio un esempio terra terra: se programmo una vector mapping machine per prevedere il bmi degli islandesi fra i 20 e i 40 anni sulla base della marca e della taglie degli indumenti che hanno indossato in un anno, è probabile che la vmm in qualche layer interno finisca per trattare in modo diverso gli esempi che hanno indossato un reggiseno da quelli che non l'hanno indossato. Un ricercatore ottenebrato dalla propaganda della AI ti direbbe che la rete neurale ha imparato a distinguere abbastanza bene maschi e femmine anche se il sesso non era presente nei dati di addestramento. Un ricercatore lucido ti spiegherebbe che il bmi dipende da peso e altezza di un individuo, i quali, all'interno di una certa etnia, correlano fortemente con il sesso a parità di altre taglie. Al contempo, l'uso del reggiseno, fra i 20 e i 40, è un forte predittore del sesso di un individuo, per cui è in forte correlazione con i bmi probabili per ciascuna taglia. Ciò non toglierebbe nulla all'utilità pratica della ricerca, soprattutto se permette di individuare questo tipo di classificazioni interne operate dai layer nascosti di una vector mapping machine (aka "rete neurale arificiale") generica. Ma rende un po' imbarazzanti certe affermazioni nell'intervista, come il paragone fra il processo di programmazione statistica e un corso di cucina. Tuttavia, aspettando di leggere l'articolo, ti ricordo che l'intelligenza sta negli occhi di chi guarda [2] Giacomo [1] <https://www.baeldung.com/cs/dl-latent-space> [2] <https://www.tesio.it/2018/01/19/the-delusions-of-neural-networks.html>

Dec. 18, 2024

black box in ricerche astronomiche

by alessandro marzocchi

... ... ... «Le reti neurali artificiali spesso vengono definite “*black box*” perché è difficile capire cosa avviene al loro interno: sappiamo cosa entra e cosa esce, ma non sempre riusciamo a interpretare come si arriva a certe conclusioni. Nel nostro caso, però, non è proprio così. Analizzando lo spazio latente – cioè le rappresentazioni interne che la rete costruisce per interpretare i dati – siamo riusciti a individuare una struttura ben precisa, che riflette alcune proprietà fisiche delle galassie, incluse alcune mai mostrate al modello durante l’addestramento. Un esempio? La rete distingue spontaneamente tra galassie passive ed attive, una caratteristica che non era parte del processo di apprendimento. È come se la rete avesse imparato da sola a identificare nuovi pattern e simmetrie nei dati, suggerendo informazioni emergenti. Questo non solo rende la *pipeline* più interpretabile, ma apre anche la strada a nuove scoperte». ... ... ... https://www.media.inaf.it/2024/12/17/m-topnet-ginolfi/ Nessuno ha definito l'intelligenza, ma quasi ogni giorno veniamo a conoscenza di "operazioni mentali" che non sono più nostra esclusiva come ritenevamo. Cordiali auguri. Duccio (Alessandro Marzocchi)

Dec. 18, 2024

ChatGPT Has No Place in the Classroom

by Giacomo Tesio

K-12 educators can and should resist the sales pitch. And that's extra work, I know, and I'm sorry—K-12 educators already have more than enough on their collective and individual plates. Even the effort it takes to turn away from glitzy sales pitches seems like a lot to ask, much less the effort it takes to resist when administrators buy in and start pushing these systems. Let's add this to the pile of harms that OpenAI has perpetrated on the world, even as they claim (here too! think of the children!) to be acting for the good of humanity. If you're exhausted by all of this you can stop here, with the affirmation that it's not only reasonable but in fact principled and beneficial to say no to ChatGPT and all other GenAI in the classroom. But I'll keep going for a bit in this post, because the guide itself is a rich text as a hype artifact and it may be useful to apply the usual MAIHT3k lens to it. Here is a brief overview of some of the hype. It's incomplete, because I have things to do (my own class to teach, among others), but it's a start: Continua su https://buttondown.com/maiht3k/archive/chatgpt-has-no-place-in-the-classroo… Una breve lettura utile per molti insegnanti (e genitori). Ad esempio: In the section on responsible use, the guide says: "While AI bias may be hard to detect, you can reduce its occurrence and impacts by critically thinking about when and how to use generative AI, by using the product's reporting function when you encounter objectionable content, and by adopting best practices for prompting." As someone who has spent a lot of time critically thinking about "AI", I can confidently say that the answer to when to use generative AI to produce anything that will be put in front of students is: never. Giacomo

Dec. 18, 2024

BIAS IN MILITARY ARTIFICIAL INTELLIGENCE - SIPRI Report

by Diego Latella

Mi e' arrivato ieri: https://www.sipri.org/sites/default/files/2024-12/background_paper_bias_in_… Buona Giornata Diego =================== Dott. Diego Latella - Formerly Senior Researcher with CNR/ISTI (retired) WARNING! My new email address is: DIEGO.LATELLA(a)ACTIONES.EU mailto:DIEGO.LATELLA@ACTIONES.EU My current addresses (Diego.Latella(a)isti.cnr.it mailto:Diego.Latella@isti.cnr.it and Diego.Latella(a)cnr.it mailto:Diego.Latella@cnr.it) will be deactivated. So, please, use "Diego.Latella(a)actiones.eu mailto:Diego.Latella@actiones.eu" if you want to reach me by email.

Dec. 18, 2024