December 2024 - nexa - server-nexa.polito.it

Re: [nexa] black box in ricerche astronomiche

by Antonio

> una delle differenze è che oggi abbiamo, quali despoti, anche gli autocrati del commercio Sono parzialmente d'accordo. E' vero, gli autocrati del commercio sono più potenti dei "monopolisti" di una volta ma ci sono sempre stati e danni ne hanno fatti meno degli autocrati "politici". Fino a qualche anno fa l'uomo più ricco del mondo era il messicano Carlos Slim, e non mi sembra che sia stato un pericolo per le democrazie. La "novità" di oggi è che il più ricco è tale Elon Musk, non "solo" un autocrate del commercio ma il Richelieu più potente che la storia abbia mai conosciuto. Non starò qui ad elencarvi tutto quello che ha detto e fatto da dieci anni a questa parte ... mi limiterò solo ad una frase, che forse molti hanno dimenticato. Era il 2019, qualcuno "sospettava" che dietro il golpe di stato contro Evo Morales in Bolivia ci fossero il governo degli Stati Uniti (e Tesla e altri imprenditori) e Musk, nel social ora di sua proprietà, ha candidamente scritto: "Noi rovesceremo chiunque vogliamo. Fatevene una ragione." A.

Dec. 24, 2024

Re: [nexa] black box in ricerche astronomiche

by Daniela Tafani

Buonasera, ________________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Roberto Resoli <roberto(a)resolutions.it> Il 21/12/24 10:40, Daniela Tafani ha scritto: >> Buongiorno, >> gli esseri umani NON apprendono come le macchine che siamo in grado di costruire oggi. >> Solo un preliminare e inconsapevole processo di antropomorfizzazione della macchina >>e deumanizzazione della persona induce a scambiare metafore e similitudini per reali somiglianze. >Giacomo Tesio dixit: "alienazione cibernetica" :-) >rob Grazie. No, non intendevo riferirmi alla questione politica, su cui ha scritto Giacomo, ma ad altri due aspetti: - l'aspetto psicologico: gli esseri umani hanno la tendenza spontanea a antropomorfizzare gli oggetti della natura e gli artefatti (ricordo di aver riportato in questa lista passi di Hume e Freud, sul tema; il secondo qualifica tale tendenza all'animismo come pensiero magico); per la tendenza ad animare gli oggetti della tecnologia, cfr. B. Reeves – C. Nass, The Media Equation: How People Treat Computers, Television and New Media Like Real People and Places, Cambridge, Cambridge University Press, 1996, <https://archive.org/details/mediaequationhow0000reev>; - l'aspetto teoretico: la descrizione dei processi cognitivi umani nei termini di hardware e software non regge (perché, come scriveva Spinoza - con una tesi che le neuroscienze contemporanee confermano e riecheggiano - la mente è l'idea del corpo). Politicamente, si può supporre che i sistemi dispotici incoraggino e promuovano la tendenza all'animismo e le descrizioni fuorvianti dei processi cognitivi e che un sistema repubblicano scoraggerebbe le manipolazioni o la pubblicità ingannevole (la distinzione kantiana tra dispotismo e repubblicanesimo mi pare pertinente; già al tempo di Kant, il re Federico II assimilava i sudditi a macchine; una delle differenze è che oggi abbiamo, quali despoti, anche gli autocrati del commercio, secondo l'espressione utilizzata nel 1890 dal senatore Sherman, in una difesa delle leggi antitrust riportata in questa lista da Maria Chiara Pievatolo). Un caro saluto, Daniela

Dec. 23, 2024

Re: [nexa] GPDP - Provvedimento del 2 novembre 2024 [10085455]

by Claudio Agosti

Buondì nexas, i miei 2 cent sull'argomento: On Sat, Dec 21, 2024 at 10:21 AM Guido Vetere <vetere.guido(a)gmail.com> wrote: > Ma poi: perché solo con OpenAI? Meta, Google, Anthropic etc. non hanno > usato cose come CommonCrawl? Sicuri? > Buon punto sollevi, ma, credo che il garante italiano abbia potuto esprimersi relativamente alla pratica che aveva sotto mano, e, intanto, si è mosso l'EDPB per dare un parere, così da uniformare quello che devono fare i soggetti menzionati ed i futuri. Alla fine, considera, l'autorità italiana è stata apripista in questo e ha dovuto giocare di compromessi, sia perchè non è regolamentando e multando che si fa il progresso, sia perchè il piacere che il pubblico ha dimostrato verso questa tecnologia andava ben oltre la critica ed i dubbi che dovrebbe sollevare. > Finirà che per 6 mesi avremo Sam Altman che fa supercazzole con la > benedizione e il logo del Garante, e tutto questo per soli 15M. Un ottimo > risultato, Sam! > Commento fino alla virgola, per prima cosa, è una misura prescrittiva nuova, quella di imporre una comunicazione pubblica. per secondo, non è detto che ci sia il logo del garante, se sei obbligato a farlo, non vuol dire che il messaggio sia condiviso/endorsato dall'autorità. per finire, il problema che si deve affrontare è che deve essere dato un "opt-out", e questo è chiaramente un problema di fondo perché l'uso dei dati personali deve andare in opt-in (se si usa il consenso come base giuridica), ma per via del funzionamento dei meccanismi di addestramento, l'opt-out sembra il compromesso più praticabile. e questo deve essere noto anche a chi non va su chatgpt.com, da qui, la campagna di comunicazione. quello che a me incuriosisce, è il metodo per fare opt-out. autenticare il data subject. Ipoteticamente questi cittadini potrebbero chiedere di essere rimossi. E questo è supportato dalla pratica dell'"unlearning", che funziona rimuovendo i neuroni/token che non devono stare nel LLM, e i link corrispettivi. Sebbene per Microsoft l'unlerarning sia la "soluzione per il GDPR e per il copyright".... non è veramente una tecnica completa perchè non tutto quello che afferisce al dato in input può essere identificato in token da rimuovere. inoltre non è una tecnica che, secondo me, può funzionare per i modelli general purpose. Ad esempio, se sono uno degli omonimo di Silvio Berlusconi? Rimuovere i token associati al nome di un data subject non permette di gestire l'omonimia, la differenza tra cronaca, storia, e diritti degli interessati in vita. L'unlearning sulla base del Nome Cognome è un'approssimazione troppo grossolana per dei modelli che trattano sia materiale recente, che storico, che di cronaca, e che inventano roba nuova. Sono scopi, usi, e diritti così diversi, che secondo me richiederanno una separazione dei modelli, amenochè l'obiettivo di Big LLM non sia quello di creare il caos, così da far credere che le regolamentazioni sono sempre sbagliate e lesive per gli utenti ed il servizio.... un po' come è stato per i cookie banner :D Buone feste! ... e ricordate: pucciare il panettone nel caffè, si dice sia un grande portafortuna per l'anno 3 D.A. (scorrere alla fine: https://hermescenter.substack.com/p/cosa-e-stato-per-noi-lanno-appena )

Dec. 23, 2024

Re: [nexa] black box in ricerche astronomiche

by Roberto Resoli

Il 21/12/24 10:40, Daniela Tafani ha scritto: > Buongiorno, > > gli esseri umani NON apprendono come le macchine che siamo in grado di costruire oggi. > > Solo un preliminare e inconsapevole processo di antropomorfizzazione della macchina > e deumanizzazione della persona induce a scambiare metafore e similitudini per reali somiglianze. Giacomo Tesio dixit: "alienazione cibernetica" :-) rob

Dec. 23, 2024

Re: [nexa] GPDP - Provvedimento del 2 novembre 2024 [10085455]

by Roberto Resoli

Il 21/12/24 10:20, Guido Vetere ha scritto: > notare il passaggio: > > i contenuti, da concordare con l’Autorità, dovranno promuovere la > comprensione e la consapevolezza del pubblico sul funzionamento di ChatGPT manca la parte successiva: > , alle implicazioni dello stesso rispetto al diritto alla protezione dei dati personali, con riferimento alla raccolta dei dati di utenti e non-utenti per finalità di addestramento dei modelli ed ai diritti dagli stessi esercitabili ai sensi del Regolamento, con specifico riferimento al diritto degli interessati di esercitare il diritto di opposizione e quello di cancellazione dei dati personali; Credo che al Garante (e a noi cittadini) interessi soprattutto la seconda parte. rob

Dec. 23, 2024

Re: [nexa] black box in ricerche astronomiche

by Giacomo Tesio

Ciao Daniela, On Sat, 21 Dec 2024 09:40:02 +0000 Daniela Tafani wrote: > Solo un preliminare e inconsapevole processo di antropomorfizzazione > della macchina e deumanizzazione della persona induce a scambiare > metafore e similitudini per reali somiglianze. Mi permetto di aggiungere che questo processo è inconsapevole solo per coloro che non comprendono come funzionano questi sistemi. TUTTI coloro che davvero comprendono il funzionamento di questi sistemi cibernetici (che includano o meno "reti neurali artificiali"), sono pienamente consapevoli della inapplicabilità dei termini riconducibili all'esperienza umana a tali software. Questa asimmetria non è una coincidenza storica. L'alienazione cibernetica delle masse è un chiaro obiettivo politico. E' evidente nella ferocia della propaganda^W^W del marketing. Le centinaia di milioni di euro investiti ogni anno per assicurare cattedre (o ruoli dirigenziali in organizzazioni come OSI) a lobbisti compiacenti che si fingono giornalisti, avvocati, ingegneri, economisti o filosofi indipendenti, ne sono una chiara evidenza. Ma tale obiettivo va analizzato nel suo contesto storico. Da un punto di vista meramente economico, l'autonomia umana costituisce un limite all'efficienza nel processo di massimizzazione dei profitti, sia sul fronte della produzione che su quello delle vendite. Ad esempio, qualsiasi linea di produzione potrebbe essere bloccata ripetutamente per ore esacerbandone i limiti progettuali. E un programmatore potrebbe tranquillamente introdurre bug devastanti in qualsiasi software senza che nessuno possa dimostrare in alcun modo l'intenzionalità degli stessi. Queste forme di sciopero bianco non devono essere concepibili. Sul fronte delle vendite, ogni persona che possa concepire di spendere il proprio tempo in modo piacevole SENZA consumare alcunché, danneggia coloro che puntano alla massimizzazione dei profitti. Ma analizzare l'alienazione cibernetica solo come un effetto coordinato di aziende che perseguono "in modo neutrale" obiettivi prettamente economici sarebbe assolutamente riduttivo. E' un obiettivo politico che va collocato fra i meccanismi tipici dei sistemi totalitari che troviamo in Russia, Cina e USA, seppur nettamente più evoluto tecnologicamente. Il fatto che persone intelligenti come Duccio o Alessandro finiscano per credere di non essere poi tanto diverse da un software che produce sequenze grammaticalmente corrette di frammenti di testi che non hanno mai letto, rende evidente quanto efficace sia questo sistema. Uomini che riducono docilmente sé stessi (e tutti gli altri) a macchine complesse sono utilissimi agli uomini che vogliono dominare tutti, inclusi coloro che sono pienamente consapevoli della differenza. Laddove c'è abbondanza di sostituti, le macchine che non funzionano più come desiderato, quelle che non garantiscono adeguati profitti si dismettono e buttano via. E se le persone sono solo macchine complesse, possiamo fare lo stesso con le persone, giusto? Non è un caso che Luigi Mangione sia un ingegnere informatico. Giacomo

Dec. 23, 2024

Fwd: CEPE 2025 Updated Call for Paper - please disseminate

by Antonio Vetro'

Segnalo questa call for papers su macro-tematiche spesse discusse in questa lista Artificial Intelligence: Normative Implications and Philosophical Challenges : http://cepe2025.uniroma2.it <http://cepe2025.uniroma2.it/> La conferenza si terrà a Roma. A. > Inizio messaggio inoltrato: > > Da: Antonio Marturano <a.marturano(a)GMAIL.COM> > Oggetto: CEPE 2025 Updated Call for Paper - please disseminate > Data: 14 dicembre 2024 alle ore 20:25:22 CET > A: ETHICOMP-ANNOUNCE(a)JISCMAIL.AC.UK > Rispondi a: ETHICOMP-announce <ETHICOMP-ANNOUNCE(a)JISCMAIL.AC.UK> > > Computer Ethics: Philosophical Enquiries (CEPE) is an INSEIT <http://inseit.org/> conference series. The CEPE conference series is recognized as one of the premier international events on computer and information ethics attended by delegates worldwide. CEPE is held biennially and is organized by INSEIT (the International Society for Ethics and Information Technology). Conferences are held every 24 months, alternating between Europe and the United States. > > The next CEPE Conference will be held at the University of Rome, Tor Vergata; Department of History, Cultural Heritage, Education and Society <https://dip.storia.uniroma2.it/> from September, 24th to 26th, 2025, in collaboration with the Ionian University Research Team, IHRC <https://ihrc.gr/en.php> (Information: History, Regulation and Culture) and The University for Peace UNO <https://www.upeace.org/> Rome branch. > > Call for Submissions > Artificial Intelligence: Normative Implications and Philosophical Challenges > > We invite submissions for the CEPE 2025 Conference. The main theme will be on “Artificial Intelligence: Normative Implications and Philosophical Challenges”. As AI continues to pervade various aspects of human life, from healthcare to governance, it brings forth a plethora of normative questions and philosophical dilemmas that demand rigorous examination and reflection. > > Artificial intelligence technologies raise profound ethical, legal, and social questions that intersect with fundamental philosophical inquiries. The CEPE 2025 Conference aims to explore the normative implications of AI development and deployment, as well as the philosophical challenges it poses to our understanding of freedom, agency, responsibility, autonomy, and society. > > Topics of interest include, but are not limited to: > > Ethical considerations in AI design, development, and deployment > Algorithmic bias and fairness in AI systems > Gender bias in designing AI systems > Privacy and data protection in the age of AI > Legal and regulatory frameworks for AI governance > Human rights and AI ethics > AI and the future of work > Autonomous systems and moral decision-making > Philosophical foundations of AI ethics > The nature of consciousness and AI > AI and the concept of personhood > Social implications of AI based technologies > Human interaction with Intelligent embodied systems > Leadership and governance of AI > History of philosophical debates on AI > AI in military and warfare > Cyberharrassment and cyberbullism > Democracy and political implications of AI use > Information access and search engines and other related topics. > AI in science fiction > Use of AI in education: ethical and philosophical problems > Learning: philosophical problems > Other topics related to risk: cybersecurity, internet studies, cryptocurrencies, green transition and the Internet of Things. > AI and Copyright > AI and cultural heritage ethics > We welcome submissions from scholars working in philosophy, ethics, law, computer science, social science, psychology, history, education and related disciplines. Both theoretical and empirical contributions are encouraged. > > Submission Guidelines: All abstracts should be written in english and prepared according to the APA guidelines and should not be less than 500 and not exceed 800 words. Accepted abstracts will be turned into papers (yet written in english and prepare according to the APA guidelines). Papers should be no more than 3000 words excluding bibliography. Submissions should be sent to cepe2025.rome(a)gmail.com <mailto:cepe2025.rome@gmail.com> by the dates written below. All submissions will undergo double-blind peer review. All accepted abstracts will be included in the CEPE 2025 book of abstracts and selected papers will be published in international journals (see below). > > Important Dates: > 1. Abstracts/Full Papers/Panels/Roundtables Submission Deadline: 1 January 2025 31st January 2025 (extended), > 2. Notification of Acceptance just for abstracts: 31 January 2025 2nd March 2025 (extended), > 3. Full Manuscript Due: 15 May 2025, > 4. Final notification of Acceptance for all submissions: 15 June 2025, > 5. Conference date: 24-26 September 2025. > > NOTE: Applicants can send first an abstract or a full paper, by 31.1.2025. Once accepted, an abstract can be turned into a full paper should the applicant be interested in being selected for publication in one of the journals below by 15.05.2025. If you miss the deadline 1. you can still send a full paper by the deadline 3. > > Co-Organizers: > > Dr. Antonio Marturano, University of Rome Tor Vergata, Italy and INSEIT > Prof. Marco Innamorati, University of Rome Tor Vergata, Italy > > For inquiries, please contact Antonio Marturano at antonio.marturano(a)uniroma2.it <mailto:antonio.marturano@uniroma2.it> > For further information please refer to the conference website http://cepe2025.uniroma2.it <http://cepe2025.uniroma2.it/> > > -- > Dr. Antonio Marturano > University of Rome Tor Vergata > Dept. of History, Cultural Heritage, Education and Society > via Columbia, 1 - 00133 Rome (Italy) > Author Leadership and Philosophy, London and New York, Routledge, 2025 > Editor Journal of Information Communication and Ethics in Society (JICES) Emerald, 2025 >

Dec. 23, 2024

Re: [nexa] black box in ricerche astronomiche

by Alessandro Brolpito

La ringrazio Daniela per le risorse e, soprattutto, per l'approccio 'pedagogico'. Cordialmente, Alessandro Il Sab 21 Dic 2024, 10:40 Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: > Buongiorno, > > gli esseri umani NON apprendono come le macchine che siamo in grado di > costruire oggi. > > Solo un preliminare e inconsapevole processo di antropomorfizzazione della > macchina > e deumanizzazione della persona induce a scambiare metafore e similitudini > per reali somiglianze. > Possiamo, ad esempio, anche chiamare "memoria" la nostra e quella di una > macchina, > ma sono del tutto eterogenee. Rinvio, su questo, a Giuseppe Longo, Uomini > e macchine: come riconoscere una caricatura, in Idem, Matematica e senso. > Per non divenire macchine, Milano-Udine, Mimesis, 2021 pp. 11-28.; la > versione originale francese è disponibile qui: > <https://www.di.ens.fr/users/longo/files/ReconnaitreCaricature.pdf> > > Sulla questione in un senso più ampio, > Van Rooij, I., Blokpoel, M., Kwisthout, J., Wareham, T. (2019). > Intractability and Cognition: A guide to classical and parameterized > complexity analysis. Cambridge: Cambridge University Press. > > e anche il classico > Joseph Weizenbaum, Computer Power and Human Reason. From Judgement to > Calculation, San Francisco, W.H. Freeman & Company, 1976, > https://archive.org/details/computerpowerhum0000weiz_v0i3; trad.it. Il > potere del computer e la ragione umana. I limiti dell’intelligenza > artificiale, a cura di F. Tibone, Torino, Edizioni Gruppo Abele, 1987. > > Un saluto, > Daniela > ________________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Alessandro > Brolpito <abrolpito(a)gmail.com> > Inviato: sabato 21 dicembre 2024 09:53 > A: alessandro marzocchi > Cc: nexa > Oggetto: Re: [nexa] black box in ricerche astronomiche > > Buongiorno Duccio e Giacomo, Nexa > > In fondo mi pongo spesso la stessa domanda, qual è la differenza tra un > uomo e un elaboratore nell'apprendere? > > Senza entrare in tecnicismi (non sono in grado), faccio fatica a vederli: > alla fine ciò che sappiamo e siamo dipende da chi abbiamo incontrato, > letto, interpretato con il nostro bagaglio. Ci esprimiamo, ad esempio per > iscritto, mettendo, una dopo l'altra delle parole, come sto facendo ora, al > meglio delle mie possibilità e dello strumento (il piccolo schermo del mio > smartphone - perdonate eventuali refusi). Un processo limitato dai miei > pregiudizi e da quello che non so. > > L'unica grande differenza che vedo é che nell'uomo l'apprendimento avviene > attraverso una emozione, occhi negli occhi. > > Ed un elaboratore? > > Naturalmente vedo tutti i rischi che Daniela e Giacomo evidenziano, sapere > é potere. Ma quella é una questione più politica, che le organizzazione > umane, simili alle ns società, potranno regolamentare, rimango fiducioso. > > Cordiali saluti e auguri di buone feste, Alessandro > > > Il Ven 20 Dic 2024, 11:09 alessandro marzocchi <alemarzoc(a)gmail.com > <mailto:alemarzoc@gmail.com>> ha scritto: > Ciao Giacomo, sono d'accordo: l'intelligenza sta negli occhi di chi guarda. > Domando: come nasce e si evolve l'intelligenza negli occhi di chi guarda? > Educhi le figlie ed insegni alle macchine. L'etimologia di educare > racconta l'azione di condurre fuori, quella di insegnare racconta l'azione > di imprimere un segno, mi sono fatto l'idea che la differenza fra noi umani > e macchine sta qui, ma non ho competenze né esperienze di programmazione. > Continuo ad avere dubbi che 'ste macchine siano così diverse da noi, > certamente lo sono ma, domando, i nostri modi di apprendimento, di formare > la nostra intelligenza sono tanto diversi da quelli di "queste" macchine? > Un cucciolo di umano come conosce un gatto? > Conoscere è già una porta verso l'infinito, non apro per la vastità > dell'impegno; con questa prudenza ipotizzo che il cucciolo di umano > "conosce" come "gatto" un'apparizione davanti ai suoi occhi, non la prima > apparizione ma l'ennesima e dopo avere fatto un gran numero di analisi, > confronti, memorizzazioni, errori, correzioni, approssimazioni, > aggiustamenti ecc. Immagino che similmente riconosca un gatto-gatto come > diverso da un gatto-riprodotto-in-foto. A me pare che in entrambi casi la > "statistica" ha un ruolo fondamentale, tu invece ritieni che la statistica > opera soltanto con le macchine e non con gli umani. > Tutto questo ci porta lontano, ma rimango ai primissimi passi: come e cosa > facciamo di analogo, e di diverso, nell'educare i figli rispetto a > insegnare a macchine? > Andando all'osso, forse noi umani siamo banali ed abbiamo paura a > riconoscerci tali. > Sulle altre questioni che hai introdotto so ancora meno però mi piacerebbe > tu cercassi di dibattere con gli astronomi autori della ricerca. Se ci > provi grazie! due volte grazie se aggiorni sul dibattito. > Ci avviciniamo a giorni topici solo per noi umani: auguri cordiali. > Duccio (Alessandro Marzocchi) > > Il giorno gio 19 dic 2024 alle ore 10:31 < > nexa-request(a)server-nexa.polito.it<mailto: > nexa-request(a)server-nexa.polito.it>> ha scritto: > > Date: Wed, 18 Dec 2024 23:14:13 +0000 > > From: Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> > > To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> > > Subject: Re: [nexa] black box in ricerche astronomiche > > Message-ID: <C7F2E8FB-3C5C-4927-866E-EB5D3F5FC453(a)tesio.it<mailto: > C7F2E8FB-3C5C-4927-866E-EB5D3F5FC453(a)tesio.it>> > > Content-Type: text/plain; charset=utf-8 > > > > Ciao Alessandro, grazie della segnalazione. > > Aspetto di leggere l'articolo scientifico vero e proprio, per capire > come abbiano > > analizzato lo "spazio latente" [1] ma mi sembra evidente che se questi > ricercatori > > smettessero di pensare in termini AI e studiassero il software che hanno > > programmato statisticamente come una forma compressa (con perdita) dei > > dati utilizzati durante il processo, otterrebbero risultati migliori > > (ma forse, meno finanziamenti). > > > > Ad esempio la distinzione fra galassie passive ed attive ha molte > possibili > > spiegazioni anche in assenza di qualsiasi intelligenza: la prima fra > tutte, i dati (sintetici, se ho capito bene) potrebbero contenere variabili > fortemente correlate alla distinzione. > > > > Ti faccio un esempio terra terra: se programmo una vector mapping machine > > per prevedere il bmi degli islandesi fra i 20 e i 40 anni sulla base > della marca > > e della taglie degli indumenti che hanno indossato in un anno, è > probabile > > che la vmm in qualche layer interno finisca per trattare in modo diverso > gli > > esempi che hanno indossato un reggiseno da quelli che non l'hanno > indossato. > > > > Un ricercatore ottenebrato dalla propaganda della AI ti direbbe che > > la rete neurale ha imparato a distinguere abbastanza bene maschi e > femmine > > anche se il sesso non era presente nei dati di addestramento. > > > > Un ricercatore lucido ti spiegherebbe che il bmi dipende da peso e > altezza > > di un individuo, i quali, all'interno di una certa etnia, correlano > fortemente > > con il sesso a parità di altre taglie. > > Al contempo, l'uso del reggiseno, fra i 20 e i 40, è un forte predittore > del sesso > > di un individuo, per cui è in forte correlazione con i bmi probabili per > ciascuna taglia. > > > > Ciò non toglierebbe nulla all'utilità pratica della ricerca, soprattutto > se permette > > di individuare questo tipo di classificazioni interne operate dai layer > nascosti di > > una vector mapping machine (aka "rete neurale arificiale") generica. > > > > Ma rende un po' imbarazzanti certe affermazioni nell'intervista, come > > il paragone fra il processo di programmazione statistica e un > > corso di cucina. > > > > Tuttavia, aspettando di leggere l'articolo, ti ricordo che > l'intelligenza sta > > negli occhi di chi guarda [2] > > > > > > Giacomo > > > > > > [1] <https://www.baeldung.com/cs/dl-latent-space> > > > > [2] < > https://www.tesio.it/2018/01/19/the-delusions-of-neural-networks.html> > > > > > > ------------------------------ >

Dec. 21, 2024

Re: [nexa] black box in ricerche astronomiche

by Daniela Tafani

Buongiorno, Stefano, > Da: Stefano Quintarelli <stefano(a)quintarelli.it> > anche OpenAI: > "We use the term “hallucinations,” though we recognize ways this > framing may suggest anthropomorphization, which in turn can lead to > harms or incorrect mental models of how the model learns." Già. Nel frattempo, però, il CEO della medesima, su Twitter, assimilava per deumanizzazione gli LLM alle persone: "i'm a stochastic parrot, and so r u". Qualche descrizione onesta si trova in genere nei rapporti tecnici di incidente. Quello di OpenAI del 21 febbraio 2024, ad esempio: "LLMs generate responses by randomly sampling words based in part on probabilities. Their “language” consists of numbers that map to tokens." <https://status.openai.com/incidents/ssg8fh7sfyz3> Se qualcuno credesse seriamente che questo sia ciò faccio quando parlo, preferirei stargli alla larga. Nel rapportarsi alle persone come se fossero solo cose sta infatti la radice della crudeltà (oltre che Kant, cfr. Simon Baron Cohen, La scienza del male. L'empatia e le origini della crudeltà, Raffaello Cortina Editore, 2012). Un saluto, Daniela On 21/12/24 10:40, Daniela Tafani wrote: > Buongiorno, > > gli esseri umani NON apprendono come le macchine che siamo in grado di costruire oggi. > > Solo un preliminare e inconsapevole processo di antropomorfizzazione della macchina > e deumanizzazione della persona induce a scambiare metafore e similitudini per reali somiglianze. > Possiamo, ad esempio, anche chiamare "memoria" la nostra e quella di una macchina, > ma sono del tutto eterogenee. Rinvio, su questo, a Giuseppe Longo, Uomini e macchine: come riconoscere una caricatura, in Idem, Matematica e senso. Per non divenire macchine, Milano-Udine, Mimesis, 2021 pp. 11-28.; la versione originale francese è disponibile qui: > <https://www.di.ens.fr/users/longo/files/ReconnaitreCaricature.pdf> > > Sulla questione in un senso più ampio, > Van Rooij, I., Blokpoel, M., Kwisthout, J., Wareham, T. (2019). Intractability and Cognition: A guide to classical and parameterized complexity analysis. Cambridge: Cambridge University Press. > > e anche il classico > Joseph Weizenbaum, Computer Power and Human Reason. From Judgement to Calculation, San Francisco, W.H. Freeman & Company, 1976, https://archive.org/details/computerpowerhum0000weiz_v0i3; trad.it. Il potere del computer e la ragione umana. I limiti dell’intelligenza artificiale, a cura di F. Tibone, Torino, Edizioni Gruppo Abele, 1987. > > Un saluto, > Daniela > ________________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Alessandro Brolpito <abrolpito(a)gmail.com> > Inviato: sabato 21 dicembre 2024 09:53 > A: alessandro marzocchi > Cc: nexa > Oggetto: Re: [nexa] black box in ricerche astronomiche > > Buongiorno Duccio e Giacomo, Nexa > > In fondo mi pongo spesso la stessa domanda, qual è la differenza tra un uomo e un elaboratore nell'apprendere? > > Senza entrare in tecnicismi (non sono in grado), faccio fatica a vederli: alla fine ciò che sappiamo e siamo dipende da chi abbiamo incontrato, letto, interpretato con il nostro bagaglio. Ci esprimiamo, ad esempio per iscritto, mettendo, una dopo l'altra delle parole, come sto facendo ora, al meglio delle mie possibilità e dello strumento (il piccolo schermo del mio smartphone - perdonate eventuali refusi). Un processo limitato dai miei pregiudizi e da quello che non so. > > L'unica grande differenza che vedo é che nell'uomo l'apprendimento avviene attraverso una emozione, occhi negli occhi. > > Ed un elaboratore? > > Naturalmente vedo tutti i rischi che Daniela e Giacomo evidenziano, sapere é potere. Ma quella é una questione più politica, che le organizzazione umane, simili alle ns società, potranno regolamentare, rimango fiducioso. > > Cordiali saluti e auguri di buone feste, Alessandro > > > Il Ven 20 Dic 2024, 11:09 alessandro marzocchi <alemarzoc(a)gmail.com<mailto:alemarzoc@gmail.com>> ha scritto: > Ciao Giacomo, sono d'accordo: l'intelligenza sta negli occhi di chi guarda. > Domando: come nasce e si evolve l'intelligenza negli occhi di chi guarda? > Educhi le figlie ed insegni alle macchine. L'etimologia di educare racconta l'azione di condurre fuori, quella di insegnare racconta l'azione di imprimere un segno, mi sono fatto l'idea che la differenza fra noi umani e macchine sta qui, ma non ho competenze né esperienze di programmazione. > Continuo ad avere dubbi che 'ste macchine siano così diverse da noi, certamente lo sono ma, domando, i nostri modi di apprendimento, di formare la nostra intelligenza sono tanto diversi da quelli di "queste" macchine? > Un cucciolo di umano come conosce un gatto? > Conoscere è già una porta verso l'infinito, non apro per la vastità dell'impegno; con questa prudenza ipotizzo che il cucciolo di umano "conosce" come "gatto" un'apparizione davanti ai suoi occhi, non la prima apparizione ma l'ennesima e dopo avere fatto un gran numero di analisi, confronti, memorizzazioni, errori, correzioni, approssimazioni, aggiustamenti ecc. Immagino che similmente riconosca un gatto-gatto come diverso da un gatto-riprodotto-in-foto. A me pare che in entrambi casi la "statistica" ha un ruolo fondamentale, tu invece ritieni che la statistica opera soltanto con le macchine e non con gli umani. > Tutto questo ci porta lontano, ma rimango ai primissimi passi: come e cosa facciamo di analogo, e di diverso, nell'educare i figli rispetto a insegnare a macchine? > Andando all'osso, forse noi umani siamo banali ed abbiamo paura a riconoscerci tali. > Sulle altre questioni che hai introdotto so ancora meno però mi piacerebbe tu cercassi di dibattere con gli astronomi autori della ricerca. Se ci provi grazie! due volte grazie se aggiorni sul dibattito. > Ci avviciniamo a giorni topici solo per noi umani: auguri cordiali. > Duccio (Alessandro Marzocchi) > > Il giorno gio 19 dic 2024 alle ore 10:31 <nexa-request(a)server-nexa.polito.it<mailto:nexa-request@server-nexa.polito.it>> ha scritto: >> Date: Wed, 18 Dec 2024 23:14:13 +0000 >> From: Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> >> To: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> >> Subject: Re: [nexa] black box in ricerche astronomiche >> Message-ID: <C7F2E8FB-3C5C-4927-866E-EB5D3F5FC453(a)tesio.it<mailto:C7F2E8FB-3C5C-4927-866E-EB5D3F5FC453@tesio.it>> >> Content-Type: text/plain; charset=utf-8 >> >> Ciao Alessandro, grazie della segnalazione. >> Aspetto di leggere l'articolo scientifico vero e proprio, per capire come abbiano >> analizzato lo "spazio latente" [1] ma mi sembra evidente che se questi ricercatori >> smettessero di pensare in termini AI e studiassero il software che hanno >> programmato statisticamente come una forma compressa (con perdita) dei >> dati utilizzati durante il processo, otterrebbero risultati migliori >> (ma forse, meno finanziamenti). >> >> Ad esempio la distinzione fra galassie passive ed attive ha molte possibili >> spiegazioni anche in assenza di qualsiasi intelligenza: la prima fra tutte, i dati (sintetici, se ho capito bene) potrebbero contenere variabili fortemente correlate alla distinzione. >> >> Ti faccio un esempio terra terra: se programmo una vector mapping machine >> per prevedere il bmi degli islandesi fra i 20 e i 40 anni sulla base della marca >> e della taglie degli indumenti che hanno indossato in un anno, è probabile >> che la vmm in qualche layer interno finisca per trattare in modo diverso gli >> esempi che hanno indossato un reggiseno da quelli che non l'hanno indossato. >> >> Un ricercatore ottenebrato dalla propaganda della AI ti direbbe che >> la rete neurale ha imparato a distinguere abbastanza bene maschi e femmine >> anche se il sesso non era presente nei dati di addestramento. >> >> Un ricercatore lucido ti spiegherebbe che il bmi dipende da peso e altezza >> di un individuo, i quali, all'interno di una certa etnia, correlano fortemente >> con il sesso a parità di altre taglie. >> Al contempo, l'uso del reggiseno, fra i 20 e i 40, è un forte predittore del sesso >> di un individuo, per cui è in forte correlazione con i bmi probabili per ciascuna taglia. >> >> Ciò non toglierebbe nulla all'utilità pratica della ricerca, soprattutto se permette >> di individuare questo tipo di classificazioni interne operate dai layer nascosti di >> una vector mapping machine (aka "rete neurale arificiale") generica. >> >> Ma rende un po' imbarazzanti certe affermazioni nell'intervista, come >> il paragone fra il processo di programmazione statistica e un >> corso di cucina. >> >> Tuttavia, aspettando di leggere l'articolo, ti ricordo che l'intelligenza sta >> negli occhi di chi guarda [2] >> >> >> Giacomo >> >> >> [1] <https://www.baeldung.com/cs/dl-latent-space> >> >> [2] <https://www.tesio.it/2018/01/19/the-delusions-of-neural-networks.html> >> >> >> ------------------------------ > -- You can reach me on Signal: @quinta.01 (no Whatsapp, no Telegram)

Dec. 21, 2024

Re: [nexa] black box in ricerche astronomiche

by Giacomo Tesio

Ciao, La mail di Duccio merita una risposta estesa (e il tentativo di ingaggiare anche gli autori dello studio quando sarà possibile leggerlo da qualche parte), ma mi permetto di sottolineare subito (per l'ennesima volta) il problema fondamentale: Il 21 Dicembre 2024 08:53:45 UTC, Alessandro Brolpito <abrolpito(a)gmail.com> ha scritto: > > qual è la differenza tra un uomo e un elaboratore nell'apprendere? > > Senza entrare in tecnicismi (non sono in grado), faccio fatica a vederli Fai fatica a vederli perché non vuoi entrare nei "tecnicismi". Non vuoi entrarvi perché credi non siano rilevanti. Credi non siano rilevanti perché ti è stata venduto un modello mentale del loro funzionamento che non ha nessuna attinenza con la realtà, ma che ti evita la fatica di studiare sufficiente informatica da comprendere il loro reale funzionamento. Ciò che viene descritto come apprendimento delle macchine non ha alcuna relazione con l'apprendimento. Ma questa falsa credenza serve bene diverse esigenze. Anzitutto permette a chi non ha alcuna competenza o comprensione in merito di parlare di questi software con una sicumera da fare invidia ad un esperto. Come potresti vedere una differenza fra una tua esperienza e qualcosa di cui non sai nulla fuorché una favola che ti descrive un software in termini della tua esperienza? Un bambino può imparare a riconoscere un leone dopo averlo visto in foto una singola volta. Il suo cervello in tutta la vita consumerà una frazione irrisoria dell'energia consumata durante la programmazione statistica di un software come alpha go. Una persona impara ad usare il linguaggio per comunicare esperienze della propria mente, esperienze che sono in parte fenomenologiche, in parte interiori (come intuizioni, ragionamenti logici etc..) Nessun software esistente dispone di esperienze, interiori o fenomenologiche. Ma naturalmente non puoi saperlo, fin quando pretendi di prescindere dal faticoso studio dei "tecnicismi". Se decidi di fidarti della mia parola, puoi cercare comunque di conciliare la tua posizione con le mie parole riducendo l'uomo ad una macchina ed affermando che tutto sommato anche l'uomo funziona come io dico che funzionano le macchine. Cosa che rivelerebbe una comprensione dell'uomo persino inferiore a quella informatica. Però hai ragione. Se decidi di ignorare tutte le differenze, allora l'apprendimento umano è identico a quello delle banane. E delle pietre. E sì, anche a quello delle macchine. E ciò nonostante il fatto che macchine, pietre e banane non apprendano. > L'unica grande differenza che vedo é che nell'uomo l'apprendimento avviene > attraverso una emozione, occhi negli occhi. L'unica differenza che cogli fra ciò che sai dell'apprendimento umano e ciò che immagini dell'apprendimebro delle macchine. Un po' come l'unica grande differenza che mia figlia vede fra cavalli ed unicorni... è il corno. > Naturalmente vedo tutti i rischi che Daniela e Giacomo evidenziano Permettimi di dubitarne. A furia di leggere Nexa, puoi probabilmente elencare certi rischi, ma non li vedi quotidianamente verificarsi intorno a te. Non ti rendi conto di esserne vittima, nemmeno mentre leggi le mie parole. Non puoi. Un po' per il terrore che vuoi umanamente evitare. Un po' perché non disponi degli strumenti cognitivi necessari. E non vuoi averli. Vuoi prescindere dai tecnicismi, giusto. > sapere é potere. solo dove l'ignoranza è diffusa. E laddove chi sa ha potere, l'ignoranza è tollerata ed incentivata. Ti dice niente? Giacomo

Dec. 21, 2024