September 2024 - nexa - server-nexa.polito.it

A passeggio con l'informatica
by Bruno Carotti Sept. 14, 2024

Sept. 14, 2024

Buongiorno a tutte e a tutti, l'Osservatorio sullo Stato digitale dell'Istituto di ricerche sulla pubblica amministrazione (IRPA) sta per avviare un "corso" in materia di informatica. Un passeggio, o meglio un viaggio, che mira alla divulgazione di nozioni essenziali, per cercare di costruire una maggiore consapevolezza circa le implicazioni della tecnologia - punti che in questa lista sono trattati con competenza e lungimiranza. Le lezioni saranno curate, in forma di post settimanali, dal Prof. Enrico Nardelli, cui vanno molti sinceri ringraziamenti. La prima lezione, introduttiva, sarà pubblicata il 18 settembre. Per chi fosse interessato, qui si trova una breve presentazione: https://www.irpa.eu/a-passeggio-con-la-informatica/ Cordiali saluti, Bruno Carotti Inviato con l'email sicura [Proton Mail](https://proton.me/).

1 0

The Music Industry’s ’90s Hard Drives Are Dying | WIRED
by J.C. DE MARTIN Sept. 13, 2024

Sept. 13, 2024

https://www.wired.com/story/music-industry-hard-drive-storage-archives/ (messaggio spedito in movimento - scusate brevità ed eventuali refusi)

1 0

C'e' cascato pure Benanti...
by Marco Fioretti Sept. 13, 2024

Sept. 13, 2024

Nella trappola che bisogna saper programmare, intendo. Copio e incollo da un suo post su LinkedIn, in cui segnala il suo articolo dietro paywall (1), se qualcuno potesse postarlo tutto grazie infinite: I report globali disponibili ci dicono che nel 2024 solo 28.7 milioni di persone al mondo sono in grado di scrivere e leggere la lingua delle macchine. Meno di 30 milioni di persone al mondo, su oltre 8 miliardi di abitanti del pianeta, sono in grado di programmare e di poter gestire le sfide culturali e sociali che questo comporta. Questo significa che Il 99,65% della popolazione non sa programmare. Allora forse le cose urgenti e importanti da “acquistare” con il ritorno a scuola non sono figlie di qualche promozione commerciale ma di un nuovo patto sociale e generazionale che possa dare al paese quello che serve per uno sviluppo sociale un progresso economico che sappiano garantire futuro e coesione sociale e democratica. Questo e' quanto ho gia' commentato su LinkedIn: ######################################## "Meno di 30 milioni di persone al mondo, su oltre 8 miliardi di abitanti del pianeta, sono in grado di programmare e di poter gestire le sfide culturali e sociali che questo comporta." Ovvero, per poter "gestire le sfide culturali e sociali che [la tecnologia informatica] comporta" bisogna saper programmare? E' questo che intende? Con tutto il rispetto... ma che sta dicendo? Ma seriamente? Saper programmare e' proprio tutto e solo quello che sanno fare i vari Musk, Zuckerberg, Thiel, Altman e compagnia, ed e' proprio per l'idea che la gestione dell'informatica va lasciata a quelli come loro "perche' sanno programmare" che son riuciti a fare tutti i danni culturali e sociali che sappiamo. Sono allibito. PS: poter leggere l'articolo integrale aiuterebbe a risolvere eventuali malintesi ################################### Marco (1) l'articolo: https://24plus.ilsole24ore.com/art/serve-istruzione-che-promuova-capacita-c… (https://24plus.ilsole24ore.com/art/serve-istruzione-che-promuova-capacita-c…)

15 32

Re: [nexa] AI Training is Copyright Infringement
by alessandro marzocchi Sept. 13, 2024

Sept. 13, 2024

Sun, 08 Sep 2024 23:25:19 +0000 Giacomo Tesio <giacomo(a)tesio.it Subject: Re: [nexa] AI Training is Copyright Infringement > Direi piuttosto che fiumi di inchiostro sono stati versati per > giustificare la ridefinizione di termini come "imparare" e "apprendere" > affinché possano essere applicati alle macchine. > ***** E' autorevole, diffusa e prevalente la convinzione che noi uomini non siamo confrontabili con queste macchine. Eppure non mi convince, mi pare che il nostro modo di imparare è anch'esso statistico, da pappagallo: ad esempio impariamo a dire mamma - probabilmente è la nostra prima parola - perchè alla stessa associamo una persona specifica ed arriviamo a questa associazione persona-parola dopo una serie più o meno lunga di esperienze. Dunque, secondo la mia convinzione personale, quando critichiamo la macchina per il fondamento statistico basiamo la nostra critica su una modalità che è anche umana. Un'altra riflessione, sulla quantità di tempo e di esperienze prima di arrivare alle capacità attuali di noi umani: credo nessuno abbia una risposta, ma certamente abbiamo impiegato moltissimi anni, molte e molte generazioni. *David Chalmers* non afferma la coscienza delle macchine ma neppure la nega per principio, in sintesi ritiene che esse hanno una qualche coscienza e che progrediscono (Could a Large Language Model Be Conscious? https://www.bostonreview.net/articles/could-a-large-language-model-be-consc… ). Sulla parola, *Ludwig Wittgenstein* aveva scritto opinioni interessanti riferendole anche ad Agostino: The individual words in language name objects—sentences are combinations of such names.——In this picture of language we find the roots of the following idea: Every word has a meaning. This meaning is correlated with the word. It is the object for which the word stands. (Philosophical Investigations, I,1, Basil Blackwell Ltd, 1986). Insomma, quel che conta è la realtà, non il modo con cui la si rappresenta. Vedo anch'io tante differenze fra noi e le macchine, sono meno ottimista sulla invincibilità della nostra fortezza e sull'ipotesi che la realtà non esisterebbe senza noi, siamo una parte della realtà, non la realtà (in tutta umiltà: Protagora ci ha fregato). Cordialmente. Duccio (Alessandro Marzocchi)

6 7

Re: [nexa] AI Training is Copyright Infringement
by Enrico Nardelli Sept. 12, 2024

Sept. 12, 2024

A questo proposito Il 12/09/2024 03:33, Giacomo Tesio ha scritto: > Commentavi questo articolo:https://arxiv.org/pdf/2301.13867 > > Leggiamo come è composto il dataset con cui hanno testato le > "competenze matematiche" dei LLM di OpenAI (pagina 4): > > - books that are widely used in universities to teach upper > undergraduate or first-year graduate courses in a degree in > mathematics > - math.stackexchange.com, a collection of books, and the > MATH dataset > - the book Problem-Solving Strategies, that is often used > to prepare for mathematical competitions > - il dataset dihttps://arxiv.org/abs/1912.01412 che contiene > decine di esercizi... e le soluzioni. > > > Leggi con calma e rifletti: non noti niente? > > > Questi ricercatori NON hanno sottoposto a ChatGPT e GPT-4 problemi > inediti, ma problemi tratti da eserciziari disponibili in rete. > > > Ora, se immagini una qualche "intelligenza artificiale" alle prese con > tutti questi problemi, è ragionevole trovare i risultati sintetizzati > nell'abstract che avevo citato "strabilianti" [1]. > > Ma se hai chiaro il processo di compilazione / compressione dei testi > sorgente che produce il LLM, trovi quei risultati piuttosto ovvi: il > LLM ha prodotto in output le soluzioni codificate nelle matrici > eseguibili. ritengo utile segnalare quanto ha scritto recentemente Francois Chollet in una serie di post su X (a partire da qua https://x.com/fchollet/status/1800577565717148143) Here's the thing: what current AI (e.g. LLMs) is really doing is memorizing millions of patterns seen in human-generated data, and reapplying them on new inputs. That works great when you're dealing with a well-known problem – until you introduce any amount of novelty. But the nature of intelligence is precisely to adapt to things you don't expect. To figure out what to do when you don't have a solution already memorized. If your AI can't adapt to novelty, it will never be able to deal with the variability and fluidity of the real world. And that's why LLMs aren't on the path to AGI. They cannot reason – they recite. They by-pass the need for intelligence by leveraging memorization instead – on a scale that boggles the mind. Come "palestra" per misurare davvero l'intelligenza Chollet ha proposto lo "ARC Prize" http://arcprize.org cioè la risoluzione di problemi che sono semplici per gli esseri umani ma sono resistenti alla memorizzazione (quindi difficili per le LLM). Con le sue parole (https://x.com/fchollet/status/1800577423853195451) ARC tasks are easy for humans. They aren't complex. They don't require specialized knowledge – a child can solve them. But modern AI struggles with them. Because they have one very important property: they're designed to be resistant to memorization. And ARC is like a flashing red light reminding you that we're missing something (intende per l'AGI = Artificial General Intelligence) Spero contribuisca a far capire meglio quanto Giacomo sta argomentando. Ciao, Enrico -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

2 1

Re: [nexa] AI Training is Copyright Infringement
by alessandro marzocchi Sept. 12, 2024

Sept. 12, 2024

Se la mia insistenza sul tema annoia o disturba, per favore avvisatemi e continuo in privato con chi è disponibile. *** rif: vol 185, Issue 42 - Date: Thu, 12 Sep 2024 00:06:38 +0000 - From: Giacomo Tesio <giacomo(a)tesio.it> *** Grazie Giacomo ma non sono convinto. In calce si trova il testo integrale del tuo ultimo intervento, ne estrapolo alcuni passi. --- > GT: Nessuna macchina lo saprà mai fare. > AM: Su questo non ho dubbi ma equivale a dire che tu ed io non saremo mai uguali. Chiamerei "human learning" il processo che hai descritto Chiameresti "intelligente" il comportamento acquisito. --- > GT: Nessun altro prende la tua testa, la apre e scrive nel tuo cervello una serie di dati a caso, misura quanto il tuo comportamento si discosta da quanto desidera e modifica un pochino quei dati, poi misura quanto il tuo comportamento si discosta da quanto desidera e modifica di nuovo un pochino quei dati, e ripete il procedimento milioni o miliardi di volte fin quando il tuo comportamento non si discosta più di un ε trascurabile da quanto desidera. > AM: Il comportamento del bambino che comincia a parlare è analogo, anche se non identico ai significati letterali delle tue parole. Si veda "mamma", da mmm fino alla corrispondenza (quasi) totale delle emissioni vocali di bambino e mamma. (Quasi) perchè è probabile che le impronte vocali resteranno differenti. --- > GT: La scelta di termini più appropriati è oggetto di un altro thread, puoi star certo che non c'è alcuna intelligenza dentro un LLM. Si tratta di un software progettato per _sembrare_ intelligente, ma solo a chi non sa come funziona. > AM: Intelligenza: prima definiamola nel modo univoco il più possibile, quest'ultima precisazione è una parte della prima affermazione: nessuno sarà mai uguale a nessun altro, si vedano gemelli monovulari. Sul "sembrare" intelligenti ricordo un film di Hal Ashby, fra gli ultimi di Peter Sellers: Oltre il giardino, tutto un gioco fra non essere / essere percepito, sembrare / forse essere? Da vedere, un paio d'ore godibilisseme. --- > GT: La natura del nostro apprendimento non è statistica: posso spiegarti come contare fino a 31 sulle dita di una mano senza fartelo vedere nemmeno una volta. ... ... ... > AM: Come "insegni" al tuo allievo "dito", "sollevare", "combinazione" ...? Come "insegni" al tuo allievo 0, 1, 2 eccetera? Come gli "insegni" potenza? --- > GT: non solo non ti fornisco nemmeno un esempio (niente statistica), ma non ti sto insegnando come fare, ti ho solo detto come fare ad imparare. > AM: Sicuro? Vedi sopra, resta fermo il tuo diritto ad affermare che (io) sbaglio ma sono convinto che le cose non avvengono come (tu) le hai descritte, questo penso per il cd mondo vivente, per le macchine tu e tutti gli altri siete i miei maestri e per questa opera continuo a ringraziarvi. ... se posso, invito a leggere Chalmers (Could a Large Language Model Be Conscious? https://www.bostonreview.net/articles/could-a-large-language-model-be-consc…) --- Sintesi telegrafica: quanto, come, dove noi umani siamo diversi dalle macchine? (io) credo molto meno di quanto Giacomo ed altri affermano, propongo di esaminare la questione " da fuori" non dal punto di vista umano, ritengo che l'uomo misura tutte le cose ma NON E' la misura, la dico brutta che non piace neppure a me: siamo oggetto, non soggetto. Chiudo con una domanda: sarebbe possibile, ed anche facile, riordinare alcuni temi con tutti gl'interventi evitando ripetizioni e con una presentazione grafica ordinata, tale considerata a giudizio insindacabile dell'uomo? Come scrive Giacomo, ed umilmente concordo, non siamo uguali alle macchine :-). Ad esempio, trovo questa discussione molto interessante, spero di riuscire a fare il riordino di cui sopra ma ... se lo facesse una macchina ... Infinitamente grazie e cordialità. Duccio (Alessandro Marzocchi) Message: 2 > Date: Thu, 12 Sep 2024 00:06:38 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] AI Training is Copyright Infringement > Message-ID: <10D4C32B-0FBA-4F95-B96D-DB44AEE2AD27(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > Caro Duccio, > Quando tu impari, tu (soggetto) impari (verbo). > > Nessun altro prende la tua testa, la apre e scrive nel tuo cervello una > serie di dati a caso, > misura quanto il tuo comportamento si discosta da quanto desidera e > modifica un pochino > quei dati, poi misura quanto il tuo comportamento si discosta da quanto > desidera e modifica di nuovo un pochino > quei dati, e ripete il procedimento milioni o > miliardi di volte fin quando il tuo comportamento non si discosta più di > un ε trascurabile > da quanto desidera. > > In un tale ipotetico processo, tu saresti un oggetto che subisce l'azione, > non un soggetto che la compie. > > Chiameresti il processo che ho descritto "human learning"? > Chiameresti "intelligente" il comportamento acquisito in questo modo? > (ovvero tale che non si discosti statisticamente più ε da quello > prestabilito) > > Se no, non hai ragione di chiamare "machine learning" il processo di > sviluppo di un LLM > come non hai ragione di chiamare "intelligenza artificiale" il risultato > di tale processo. > > La scelta di termini più appropriati è oggetto di un altro thread, puoi > star certo che > non c'è alcuna intelligenza dentro un LLM. > > Si tratta di un software progettato per _sembrare_ intelligente, ma solo > a chi non sa come funziona. > > La natura del nostro apprendimento non è statistica: posso spiegarti come > contare > fino a 31 sulle dita di una mano senza fartelo vedere nemmeno una volta. > > Il tuo pugno chiuso significa zero. > Ad ogni dito associamo una potenza di due: > - pollice = 1 > - indice = 2 > - medio = 4 > - anulare = 8 > - mignolo = 16 > > Solleva una qualsiasi combinazione di dita e somma i valori associati a > ciascun dito: > otterrai un numero fra 0 e 31. > > Ora, senza che io ti dica altro o ti mostri alcun esempio, puoi imparare > da solo come > mettere le varie combinazioni in ordine dal valore complessivo più > piccolo, al più grande. > > Nota bene: non solo non ti fornisco nemmeno un esempio (niente > statistica), ma non ti > sto insegnando come fare, ti ho solo detto come fare ad imparare. > > Tu (soggetto) impari (verbo). > Se vuoi. > > Nessuno ti butta conoscenza dentro il cervello. > > Nessuna macchina lo saprà mai fare. > > Giacomo > > > Il 11 Settembre 2024 22:50:58 UTC, alessandro marzocchi ha scritto: > > Sun, 08 Sep 2024 23:25:19 +0000 Giacomo Tesio <giacomo(a)tesio.it Subject: > > Re: [nexa] AI Training is Copyright Infringement > > > > > Direi piuttosto che fiumi di inchiostro sono stati versati per > > > giustificare la ridefinizione di termini come "imparare" e "apprendere" > > > affinché possano essere applicati alle macchine. > > > > > > > ***** > > E' autorevole, diffusa e prevalente la convinzione che noi uomini non > siamo > > confrontabili con queste macchine. > > Eppure non mi convince, mi pare che il nostro modo di imparare è > anch'esso > > statistico, da pappagallo: ad esempio impariamo a dire mamma - > > probabilmente è la nostra prima parola - perchè alla stessa associamo una > > persona specifica ed arriviamo a questa associazione persona-parola dopo > > una serie più o meno lunga di esperienze. > > Dunque, secondo la mia convinzione personale, quando critichiamo la > > macchina per il fondamento statistico basiamo la nostra critica su una > > modalità che è anche umana. > > Un'altra riflessione, sulla quantità di tempo e di esperienze prima di > > arrivare alle capacità attuali di noi umani: credo nessuno abbia una > > risposta, ma certamente abbiamo impiegato moltissimi anni, molte e molte > > generazioni. > > *David Chalmers* non afferma la coscienza delle macchine ma neppure la > nega > > per principio, in sintesi ritiene che esse hanno una qualche coscienza e > > che progrediscono (Could a Large Language Model Be Conscious? > > > https://www.bostonreview.net/articles/could-a-large-language-model-be-consc… > > ). > > Sulla parola, *Ludwig Wittgenstein* aveva scritto opinioni interessanti > > riferendole anche ad Agostino: The individual words in language name > > objects—sentences are combinations of such names.——In this picture of > > language we find the roots of the following idea: Every word has a > meaning. > > This meaning is correlated with the word. It is the object for which the > > word stands. (Philosophical Investigations, I,1, Basil Blackwell Ltd, > > 1986). > > Insomma, quel che conta è la realtà, non il modo con cui la si > rappresenta. > > Vedo anch'io tante differenze fra noi e le macchine, sono meno ottimista > > sulla invincibilità della nostra fortezza e sull'ipotesi che la realtà > non > > esisterebbe senza noi, siamo una parte della realtà, non la realtà (in > > tutta umiltà: Protagora ci ha fregato). > > Cordialmente. > > Duccio (Alessandro Marzocchi) > > > ------------------------------ > > Message: 3 > Date: Thu, 12 Sep 2024 03:33:51 +0200 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] AI Training is Copyright Infringement > Message-ID: <20240912033351.4cf2ff98(a)hermes.development.it> > Content-Type: text/plain; charset=UTF-8 > > Caro Fabio, > > ho riflettuto a lungo se risponderti, perché non mi piace perdere tempo > e non mi sembri interessato a comprendere come funzionano i software di > cui parliamo. Non so perché, ma mi sembra evidente. > > Tuttavia, rispondendo a Duccio, mi sono reso conto che subite > la stessa confusione ("anfibolia"? :-D) e la lettura del paper > potrebbe svelare ad entrambi la dinamica dell' "imitation game" > che OpenAI & friends stanno "giocando". > > On Tue, 10 Sep 2024 12:07:53 Fabio Alemagna <falemagn(a)gmail.com> wrote: > > > Io trovo che sia scientificamente interessante e persino > > strabiliante che un algoritmo che non è stato esplicitamente > > istruito per saper far di conto, riesca a far di conto entro > > una certa misura, semplicemente per essere stato allenato > > su tomi che spiegano come si fa di conto. > > Commentavi questo articolo: https://arxiv.org/pdf/2301.13867 > > Leggiamo come è composto il dataset con cui hanno testato le > "competenze matematiche" dei LLM di OpenAI (pagina 4): > > - books that are widely used in universities to teach upper > undergraduate or first-year graduate courses in a degree in > mathematics > - math.stackexchange.com, a collection of books, and the > MATH dataset > - the book Problem-Solving Strategies, that is often used > to prepare for mathematical competitions > - il dataset di https://arxiv.org/abs/1912.01412 che contiene > decine di esercizi... e le soluzioni. > > > Leggi con calma e rifletti: non noti niente? > > > Questi ricercatori NON hanno sottoposto a ChatGPT e GPT-4 problemi > inediti, ma problemi tratti da eserciziari disponibili in rete. > > > Ora, se immagini una qualche "intelligenza artificiale" alle prese con > tutti questi problemi, è ragionevole trovare i risultati sintetizzati > nell'abstract che avevo citato "strabilianti" [1]. > > Ma se hai chiaro il processo di compilazione / compressione dei testi > sorgente che produce il LLM, trovi quei risultati piuttosto ovvi: il > LLM ha prodotto in output le soluzioni codificate nelle matrici > eseguibili. > > > Quale delle due spiegazioni passa il rasoio di Occam? > > 1. ChatGPT "è intelligente ma non si impegna" > > 2. ChatGPT è un archivio compresso eseguibile che contiene i problemi > che gli sono stati sottposti ed ha "autocompletato" i problemi, > con le soluzioni che li seguivano? > > > Che tu, Duccio e molti altri che non comprendono come funzionano questi > software programmati staticamente, vi facciate ingannare da questo > "imitation game" è purtroppo prevedibile e previsto. > > L'enorme quantità di testi compressi dentro GPT-4 (alcuni dei quali > mai pubblicati, come quelli prodotti dai giornalisti che fanno i > "chatbot helper" per arrotondare) rende estremamente improbabile > che un estratto venga servito a qualcuno che lo possa riconoscere. > > > In questo caso però, questo è proprio ciò che è successo! > > E che 8 ricercatori universitari non si siano accorti di aver > dimostrato il plagio [2] di decine di manuali sotto copyright [3] > rende _evidente_ quanti DANNI la favola della "intelligenza > artificiale", del "machine learning", delle "allucinazioni" > e stronzate varie stia facendo alla ricerca informatica > e al progresso dell'umanità. > > > E nota che non si tratta di persone impreparate. > > Ma le parole che usiamo per descrivere la realtà determinano > il nostro modo di intepretarla. > > > Non fatevi ingannare: l'intelligenza artificiale non esiste. > Le macchine non imparano, non hanno allucinazioni > e non funzionano assolutamente come un essere umano. > > Urge cambiare linguaggio. > > > Giacomo > > [1] non potevi scegliere un termine più appropriato! :-D > https://www.etimo.it/?term=strabiliare > > [2] spacciando ChatGPT come una "intelligenza artificiale _generativa_" > si/gli intesta la paternità delle soluzioni, sottraendola agli > autori https://it.wikipedia.org/wiki/Plagio_(diritto_d'autore) > > [3] per altro, in un modo che esclude l'applicabilità del fair > use negli USA, come ci ha spiegato benissimo Giancarlo qui > > https://server-nexa.polito.it/pipermail/nexa/2024-September/053236.html > perché ChatGPT diventa un surrogato gratuito di quegli stessi testi, > riducendone il valore di mercato > > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 185, Issue 42 > ************************************* >

3 2

Re: [nexa] AI Training is Copyright Infringement
by Daniele Imbruglia Sept. 12, 2024

Sept. 12, 2024

In tema di TDM e direttiva (UE) 2019/790, segnalo il contributo di Orlando, *Il diritto di Text and Data Mining (TDM) non esiste *(2023) che si può leggere qui <https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/…> ( https://www.rivistaitalianadiinformaticaediritto.it/index.php/RIID/article/… ) -- dr. Daniele Imbruglia Ricercatore in diritto privato Dipartimento di Diritto ed economia delle attività produttive Facoltà di Economia - Università di Roma "La Sapienza" Via del Castro Laurenziano, 9 - 00161 Roma RM https://uniroma1.academia.edu/DanieleImbruglia -- *Fai crescere le giovani ricercatrici e i giovani ricercatori*** *con il 5 per mille alla Sapienza* Scrivi il codice fiscale dell'Università *80209930587 **Cinque per mille <https://www.uniroma1.it/it/node/23149>*

2 1

Re: [nexa] "pogrammazione statistica" o "intelligenza artificiale"? [era: AI Training is Copyright Infringement]
by Giuseppe Attardi Sept. 12, 2024

Sept. 12, 2024

Mi spiace dover dissentire da Enrico. La Macchina di Turing dispone di istruzioni completamente distinte dai dati, si tratta degli stati e della matrice di transizione tra essi, e che nulla hanno a che vedere con i dati letti/scritti sul nastro della sua working memory. Quando si introduce la Macchina di Turing Universale TMU si effettua un’operazione di codifica della macchina M in una rappresentazione alpha che viene fornita in input alla TMU, insieme ai dati di input per la stessa, in modo che TMU(alpha, x) = M((x). La macchina TMU svolge il compito di interpreter del codice della macchina M. La macchina M stessa è un interprete del suo linguaggio macchina. Nelle macchine moderne microprogrammate, la CPU è l’interprete del linguaggio macchina, che è a sua volta implementato come interprete del linguaggio di microcodice. La struttura a livelli si ripete, con linguaggi come l’assembler, intepretati da un interprete di assembler o tradotti in linguaggio macchina da un assembler. Per i linguaggi a più alto livello, si usano sia interpreti del linguaggio ad alto livello, oppure compilatori in linguaggio macchina o una soluzione intermedia, ossia compilazione su macchina virtuale (es. JVM) che viene a sua volta interpretata. Poi vi sono ulteriori livelli, implementati attraverso librerie o una combinazione di librerie e hardware, come nel caso delle GPU. Quindi nei sistemi moderni esistono diversi livelli di macchine, ognuno col suo proprio linguaggio macchina, in quello che David Patterson chiama the wheel of reincarnation. Il fatto che le istruzioni di un livello possano essere rappresentate come dati per il livello superiore non ne cambia la natura. In alcuni linguaggi la rappresentazione è possibile nello stesso livello: ad esempio in Lisp i programmi sono espressi come S-espressioni e questo consente di scrivere in Lisp dei macro-processori per estendere il linguaggio. In Java il meccanismo della Reflection consente di manipolare i metodi di una classe e analogamente in Python. In altri termini i programmi possono essere codificati come dati e questo consente di fare su di essi tante operazioni utili: interpretazione, compilazione, trasformazioni, ottimizzazioni, linking, ecc. Ma ciò non ne cambia la natura di istruzioni, perché solo se rispettano il formato dell’interprete a cui vanno forniti possono essere eseguiti. Provate a caricare un eseguibile 386 su un ARM, o anche solo un COFF su un ELF (formati binari diversi per 386). In altri termini, qualunque istruzione può essere rappresentata come dato, ma non ogni dato può essere interpretato come istruzione. Ossia la semantica di un’istruzione è strettamente legata al suo interprete, quella di un dato no. > On 10 Sep 2024, at 17:25, nexa-request(a)server-nexa.polito.it wrote: > > From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] "pogrammazione statistica" o "intelligenza > artificiale"? [era: AI Training is Copyright Infringement] > Message-ID: <b6ea2a4e-5645-4f80-8949-e684f34e66a5(a)mat.uniroma2.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > Scusate, intervento nell'interessante discussione in corso tra Giacomo e > Beppe per fare chiarezza in termini semplici, per chi magari sa meno di > informatica, su come funziona un'architettura di von Neumann (detta > anche di Turing - von Neumann per motivi che saranno chiari nel seguito). > > L'architettura di von Neumann viene anche detta "a programma > memorizzato" perché il programma viene scritto (cioè caricato) nella > memoria. Nella realizzazione più semplice possibile di tale > architettura, il programma viene scritto in memoria a partire un > indirizzo prefissato e l'hardware su cui viene mandato in esecuzione il > programma viene realizzato in modo tale che all'accensione venga portata > nella CPU per l'esecuzione esattamente l'istruzione a tale indirizzo > prefissato. > > Essa viene decodificata ed eseguita e poi si carica la nuova istruzione, > che per default è quella all'indirizzo successivo di memoria, e si > riesegue il ciclo decodifica - esecuzione - caricamento. Questo processo > si ripete per eseguire in sequenza tutte le istruzioni del programma, a > meno che l'istruzione appena eseguita non sia un'istruzione di salto, > che ha l'effetto di far sì che la nuova istruzione da eseguire sia > invece quella a un altro indirizzo. Con questo meccanismo basta riuscire > a portare nella CPU un'istruzione diversa da quelle che il programmatore > originale ha predisposto per far deviare completamente il corso > dell'esecuzione e iniziare a eseguire come "istruzioni" ciò che c'è in > celle di memoria che in teoria dovrebbero avere solo "dati". > > Quindi, non c'è vera distinzione da programma e dati nell'informatica. > > Questo natura intrinsecamente duale delle "rappresentazioni" (termine > che uso per fondere la valenza di "dato" e di "istruzione") era stata > messa in luce anche da Alan Turing quando descrisse la MUT (Macchina > Universale di Turing). Essa è un caposaldo culturale dell'informatica, > analogo alla doppia valenza del DNA in biologia, come elenco delle > istruzioni per un organismo in sviluppo e contemporaneamente come dati > per tali istruzioni. > > (piccolo spazio pubblicità - INIZIO) > > A quelli che ne vogliono sapere di più sull'architettura di von Neumann > suggerisco il paragrafo 4.2.2 del mio libro > https://themiscrime.com/it/edizioni-themis/digitale-societa/item/547-la-riv… > in cui faccio vedere attraverso un semplice esempio a passo a passo come > una macchina a registri (una possibile implementazione dell'architettura > di von Neumann) esegue un piccolo programma. L'intera sezione 4.2 > (Automa e linguaggio) discute come si realizza, concettualmente, una > "macchina" che calcola. > > A quelli che vogliono sapere di più sulla natura duale delle > rappresentazioni suggerisco la sezione 4.6 sempre del mio libro > https://themiscrime.com/it/edizioni-themis/digitale-societa/item/547-la-riv… > . > > (piccolo spazio pubblicità - FINE) > > Ciao, Enrico > > Il 10/09/2024 15:31, Giacomo Tesio ha scritto: >>>> On Tue, 10 Sep 2024 10:13:10 +0200 Giuseppe Attardi wrote: >>> Si può riassumere dicendo che... >> Sì, ma non stiamo solo chiacchierando fra noi e questo scambio sul >> crinale fra informazione e dato, fra matematica e informatica, può >> essere di interesse per molti iscritti alla lista Nexa, se riusciamo >> a mantenerlo intellegibile anche ai non programmatori. >>> Il codice che calcola f fa uso di theta, ma non è theta che esegue >>> alcun calcolo e non può essere chiamato software. >>> [...] >>> L’architettura Von Neuman distingue tra istruzioni e dati: le prime >>> sono caricate nella CPU, i secondi nella ALU. >> Anzitutto io ho parlato di macchine programmabili, non specificatamente >> dell'architettura von Neumann che rappresenta solo **una** >> delle architetture possibili per tali macchine. >> Inoltre anche nell'architettura von Neumann nessuna istruzione "esegue >> alcun calcolo": è l'unità di calcolo all'interno della CPU ad >> azionare la circuiteria associata a ciascuna istruzione. >> Le Vector Reducing Machines costituiscono una classe di architetture >> diverse (ciascuna caratterizzata dalla rispettiva topologia), ma >> ciascuna esegue programmi codificati come matrici di dimensionalità >> appropriata che rappresentano funzioni fra spazi vettoriali distinti. >>> ma rimangono istruzioni, se caricate nella CPU. >> In realtà no: quando vengono caricate nelle CPU moderne, le istruzioni >> definite nella ISA vengono trasformate in microcodice proprietario >> (come 380° ricorda spesso): dunque sono trattate come dato >> _ANCHE_ dalla CPU. >> Quindi, se theta "non può essere chiamato software", non possono essere >> chiamati software nemmeno Windows, Linux o Android. >>> Semmai le istruzioni, che sono conservate in memoria, possono essere >>> trattate come dati, in programmi che si automodificano >> Mica solo in programmi che si automodificano! >> Ogni compilatore, ogni interprete e ogni macchina virtuale tratta le >> istruzioni come dati. Ogni sistema operativo le tratta come dati mentre >> le salva sul filesystem o le carica in RAM ad ogni page fault. >> Per non parlare dei molti compilatori JIT (just in time) che caricano in >> memoria le istruzioni di un eseguibile RISC-V, le traducono al volo >> in istruzioni x86 e per poi farle eseguire alla CPU, trattando sia le >> istruzioni RISC-V che quelle x86 come dati. [1] >> Gli esempi sono innumerevoli senza nemmeno nominare LiSP! >> (ops! :-D) >> Perché? >> Perché gli eseguibili _sono_ dati. Come lo è il codice sorgente. >> Sono rappresentazioni trasferibili di informazioni. >> Infatti, come ho provato a spiegare nella mail precedente, per ogni >> sequenza di byte (foto, film, audio, testo, /dev/random etc...) puoi >> costruire infinite macchine programmabili che eseguono quella >> sequenza di byte per determinare il proprio comportamento. >> Ne consegue che qualsiasi dato è eseguibile esattamente come qualsiasi >> eseguibile è dato. [2] >> Ma c'è di più: poiché puoi sempre scrivere un compilatore che trasformi >> qualunque sequenza di byte in una diversa sequenza eseguibile per una >> qualche macchina programmabile, ogni dato è anche codice sorgente. >> Ne consegue che l'insieme dei dati, l'insieme degli eseguibili e >> l'insieme dei codici sorgente coincidono. [3] >> Q.E.D. :-D >> La distinzione è puramente colloquiale, legata all'uso che stiamo >> facendo della sequenza di byte in un certo momento, ma è indipendente >> da qualsiasi caratteristica intrinseca della sequenza di byte. >>> una rete neurale calcola una funzione f(theta, x) = y >> Proviamo a sostituire i termini antropomorfici: >> "una Vector Reducing Machine implementa una funzione f(theta, x) = y" >> Se invece di una "rete neurale" che "calcola" mettiamo una macchina >> che implementa, la frase è meno evocativa ma descrive più precisamente >> ciò che effettivamente accade. >> La funzione f infatti appartiene all'insieme delle informazioni nelle >> nostre menti, esperienze soggettive di pensiero comunicabile, ma >> fintanto che rimane lì dentro, non può avere effetti sul mondo esterno. >> Se vogliamo che abbia effetti dobbiamo esprimerla, imprimendola sui >> componenti di una macchina che la implementa. Questa macchina può >> essere fisica o virtuale: il già citato llama.cpp è un esempio di >> macchina virtuale che implementa la funzione f. >>> theta sono i parametri del modello >> Utilizzare il termine "modello" è errato e fuorviante perché richiama >> un modello statistico che per definizione fornisce informazioni >> intellegibili sul campione statistico da cui viene calcolato. >> Matematicamente, theta è la prima variabile indipendente di f. >> Ma dal punto di vista informatico, theta è l'eseguibile che determina >> in modo preciso e deterministico il comportamento della Vector Reducing >> Machine che implementa f. >>> Ossia non bastano i dati (theta) per modificare f. >> Stai confondendo la funzione f : t -> x -> y, con la funzione >> g : x -> y ottenuta attraverso l'applicazione parziale di un >> particolare theta a f. >> Chiudere f su un theta' diverso è sufficiente ad ottenere una >> funzione g' diversa, senza alterare in alcun modo f. >> Questo perché f descrive una macchina programmabile e theta uno dei >> possibili programmi che tale macchina può eseguire. >> Infatti, come tu stesso osservi, >>> Theta è del tutto inutile senza f. >> esattamente come un binario x86 (o ARM o RISC-V etc...) è del tutto >> inutile senza una macchina che lo esegua. >> ____ >> Passiamo ora alle minuzie da nerd: >>>> - ne si codifica gli elementi come vettori numerici attraverso >>>> una analisi statistica >>> Nel caso dei testi si fa una tokenizzazione (ad esempio con le regole >>> di Porter) >> Porter descrive il suo algoritmo come: >> """ >> a process for removing the commoner morphological and inflexional >> endings from words in English. Its main use is as part of a term >> normalisation process... >> """ https://tartarus.org/martin/PorterStemmer/ Nota le parole "commoner" e "normalization": si tratta di (e si basa su) >> una analisi _statistica_ del testo. >>> Nessuno di questi lo chiamerei un’analisi statistica. >> Nel caso della compilazione della matrice degli embedding (l'eseguibile >> della VRM) a partire dai testi sorgente, sono d'accordo. >> Non è una _analisi_ statistica ma un processo di _compilazione_ >> statistica (parte di un più ampio processo di _programmazione_ >> statistica che parte dalla ricerca e selezione dei testi sorgente). >> Tale processo NON produce infatti un _modello_ statistico delle >> relazioni presenti nel dataset utilizzato, ma un eseguibile per >> una specifica Vector Reducing Machine. >> Si tratta di un processo statistico di compilazione perché, sia ad ogni >> batch che complessivamente, le variazioni applicate all'eseguibile >> dipendono esclusivamente dalla frequenza delle coppie di vettori >> input + next token presenti nel data set. >> Al termine del processo, la matrice risultante è contemporaneamente >> - un eseguibile per tutte le Vector Reducing Machines con quella >> topologia >> - una compressione lossy di TUTTI i testi utilizzati durante il >> processo di compilazione (come dimostra l'utilizzo di filtri >> anti plagio sull'output prodotto dal LLM per nascondere le >> prove del plagio avvenuto il processo di compilazione. >> Nota poi come smettere di usare una terminologia antropomorfa e >> riconoscere la compilazione dell'eseguibile per una VRM come >> parte di un processo di programmazione statistica, fa venir >> meno alcune distinzioni utili soltanto a deresponsabilizzare >> chi realizza questi software come quella fra supervised e >> unsupervised "training". >> Nessuna AI fa "training" unsupervised, semplicemente esistono >> metodologie diverse di programmazione statistica applicabili >> a contesti diversi, in alcuni dei quali è possibile valutare >> automaticamente l'errore contenuto nell'output prodotto dalla >> VRM (ricorderai ad esempio AlphaGo). >> A presto! >> Giacomo >> [1] i primi che mi vengono in mente: >> https://michaeljclark.github.io/ >> https://github.com/libriscv/libriscv >> [2] se preferisci una dimostrazione equivalente ma dotata di pedigree >> accademico, la trovi a pagina 23 di questo manuale: >> https://theory.cs.princeton.edu/complexity/book.pdf >> [3] naturalmente non tutte le macchine programmabili sono in grado di >> eseguire qualsiasi sequenza di byte: per ottenere eseguibili >> supportati da una specifica macchina programmabile che insista >> su un sottoinsieme di tale universo, scriviamo compilatori che >> rappresentano funzioni da un sottoinsieme di nostra scelta (i cui >> elementi chiamiamo "sorgenti") e l'insieme contenente gli eseguibili >> di quella macchina (e i possibili messaggi di errore :-D). > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Past President di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont

4 3

Re: [nexa] AI Training is Copyright Infringement
by Giuseppe Attardi Sept. 12, 2024

Sept. 12, 2024

> From: Giacomo Tesio <giacomo(a)tesio.it> > > Caro Duccio, > > Quando tu impari, tu (soggetto) impari (verbo). > > > Nessun altro prende la tua testa, la apre e scrive nel tuo cervello una serie di dati a caso, > misura quanto il tuo comportamento si discosta da quanto desidera e modifica un pochino > quei dati, poi misura quanto il tuo comportamento si discosta da quanto > desidera e modifica di nuovo un pochino > quei dati, e ripete il procedimento milioni o > miliardi di volte fin quando il tuo comportamento non si discosta più di un ε trascurabile > da quanto desidera. > > In un tale ipotetico processo, tu saresti un oggetto che subisce l'azione, > non un soggetto che la compie. > > Chiameresti il processo che ho descritto "human learning"? > Chiameresti "intelligente" il comportamento acquisito in questo modo? > (ovvero tale che non si discosti statisticamente più ε da quello prestabilito) > > > Se no, non hai ragione di chiamare "machine learning" il processo di sviluppo di un LLM > come non hai ragione di chiamare "intelligenza artificiale" il risultato di tale processo. > > > La scelta di termini più appropriati è oggetto di un altro thread, puoi star certo che > non c'è alcuna intelligenza dentro un LLM. > > > Si tratta di un software progettato per _sembrare_ intelligente, ma solo > a chi non sa come funziona. > > > La natura del nostro apprendimento non è statistica: posso spiegarti come contare > fino a 31 sulle dita di una mano senza fartelo vedere nemmeno una volta. > > Il tuo pugno chiuso significa zero. > Ad ogni dito associamo una potenza di due: > - pollice = 1 > - indice = 2 > - medio = 4 > - anulare = 8 > - mignolo = 16 > > Solleva una qualsiasi combinazione di dita e somma i valori associati a ciascun dito: > otterrai un numero fra 0 e 31. > > Ora, senza che io ti dica altro o ti mostri alcun esempio, puoi imparare da solo come > mettere le varie combinazioni in ordine dal valore complessivo più piccolo, al più grande. > > Nota bene: non solo non ti fornisco nemmeno un esempio (niente statistica), ma non ti > sto insegnando come fare, ti ho solo detto come fare ad imparare. > > Tu (soggetto) impari (verbo). > Se vuoi. > > > Nessuno ti butta conoscenza dentro il cervello. > > Nessuna macchina lo saprà mai fare. > > > Giacomo > Ho fornito le tue istruzioni a ChatGPT: Il tuo pugno chiuso significa zero. Ad ogni dito associamo una potenza di due: - pollice = 1 - indice = 2 - medio = 4 - anulare = 8 - mignolo = 16 Sollevando una qualsiasi combinazione di dita e sommando i valori associati a ciascun dito si ottiene un numero fra 0 e 31. Che numero ottengo sollevando pollice e medio? ChatGPT: Se sollevi pollice e medio, ottieni la somma dei valori associati a questi due dita: - Pollice = 1 - Medio = 4 La somma è: 1 + 4 = 5 Quindi, il numero ottenuto è 5.

1 0

Intelligenza Collettiva Artificiale (ICA)
by D. Davide Lamanna Sept. 11, 2024

Sept. 11, 2024

https://bit.ly/qddica È possibile che le comunità locali adottino tecnologie avanzate di intellegenza artificiale 𝘀𝘂 𝗯𝗮𝘀𝘀𝗮 𝘀𝗰𝗮𝗹𝗮 per scopi mirati, sottraendosi al 𝗰𝗮𝗽𝗶𝘁𝗮𝗹𝗶𝘀𝗺𝗼 𝗱𝗲𝗹𝗹𝗮 𝘀𝗼𝗿𝘃𝗲𝗴𝗹𝗶𝗮𝗻𝘇𝗮? Oppure siamo inevitabilmente vincolati ai modelli accentrati e neoliberisti che dominano il panorama tecnologico attuale? Ce lo siamo chiesti insieme a Stefano Puglia e abbiamo esplorato queste domande in un 𝘀𝗮𝗴𝗴𝗶𝗼 pubblicato sui 𝗤𝘂𝗮𝗱𝗲𝗿𝗻𝗶 𝗱𝗲𝗹𝗹𝗮 𝗗𝗲𝗰𝗿𝗲𝘀𝗰𝗶𝘁𝗮. In questo lavoro proponiamo una riflessione su come una filosofia di decrescita moderna possa ispirare 𝘃𝗶𝘀𝗶𝗼𝗻𝗶 𝗮𝗻𝘁𝗮𝗴𝗼𝗻𝗶𝘀𝘁𝗲 rispetto agli usi ed agli impatti dell’attuale Intelligenza Artificiale statistica e di ogni tecnologia ad essa correlata. Presentiamo scenari concreti in cui 𝘁𝗲𝗰𝗻𝗼𝗹𝗼𝗴𝗶𝗲 𝗮𝗽𝗲𝗿𝘁𝗲 𝗲 𝗹𝗶𝗯𝗲𝗿𝗲 possono supportare servizi locali su piccola scala, 𝘁𝗲𝗰𝗻𝗼𝗹𝗼𝗴𝗶𝗰𝗮𝗺𝗲𝗻𝘁𝗲 𝗮𝘂𝘁𝗼𝗻𝗼𝗺𝗶 e svincolati dal controllo dei Big Tech; ma anche una 𝗽𝗿𝗼𝘃𝗼𝗰𝗮𝘇𝗶𝗼𝗻𝗲 𝘂𝘁𝗼𝗽𝗶𝘀𝘁𝗶𝗰𝗮 per una progressiva transizione verso un futuro tecnologicamente più informato, equilibrato e consapevole. Leggi il saggio completo "𝗗𝗲𝗰𝗿𝗲𝘀𝗰𝗶𝘁𝗮 𝗱𝗶𝗴𝗶𝘁𝗮𝗹𝗲 𝗻𝗲𝗹𝗹’𝗲𝗿𝗮 𝗱𝗲𝗹𝗹’𝗶𝗻𝘁𝗲𝗹𝗹𝗶𝗴𝗲𝗻𝘇𝗮 𝗮𝗿𝘁𝗶𝗳𝗶𝗰𝗶𝗮𝗹𝗲 𝗕𝗶𝗴 𝗧𝗲𝗰𝗵" qui:https://lnkd.in/db5VvajG <https://lnkd.in/db5VvajG> Il saggio è stato inoltre pubblicato su Comune-info: https://comune-info.net/decrescita-digitale-nellera-dellintelligenza-artifi… D. (null)

1 0