- nexa - server-nexa.polito.it

Re: [nexa] "pogrammazione statistica" o "intelligenza artificiale"? [era: AI Training is Copyright Infringement]

by Guido Vetere

Se stiamo parlando del fatto che l'apprendimento automatico (e l'intelligenza artificiale *at large*) non esiste perché non esiste la distinzione tra dato e programma, e una rete neurale non è altro che la compilazione dei dati di training, io francamente mi chiamo fuori. Più che un argomento tecnico mi sembra un'anfibolia [1], cioè un equivoco linguistico. Per me l'apprendimento automatico (cioè degli automi) è la capacità di costruire funzioni da varie e complesse procedure di calcolo sui dati, annotati o meno. La differenza con la programmazione, imperativa o dichiarativa, è *striking,* come dimostra il fatto che fare debugging di una rete neurale è arduo ai limiti dell'impossibile, mentre correggere un programma C o Prolog è cosa normalissima. L'*argumentum ad nauseam* [1] (noto anche come argomento per ripetizione) è la fallacia logica secondo cui qualcosa diventa vero se viene ripetuto abbastanza volte. È una sottocategoria dell'argomento per asserzione ed è una fallacia informale. Cerchiamo di evitarlo. Ciascuno può rimanere della propria opinione e cercare di portare qualcosa di utile alla discussione nel rispetto delle opinioni altrui. Cheers, G. [1] https://www.treccani.it/enciclopedia/anfibolia_(Dizionario-di-filosofia)/ [2] https://rationalwiki.org/wiki/Argumentum_ad_nauseam On Tue, 10 Sept 2024 at 15:59, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Scusate, ovviamente intendevo canzonare supervised e unsupervised > "learning", non "training". Riformulo dunque l'ultimo paragrafo. > > Nessuna AI "impara da sola", semplicemente esistono > metodologie diverse di programmazione statistica applicabili > a contesti diversi, in alcuni dei quali è possibile valutare > automaticamente l'errore contenuto nell'output prodotto dalla > VRM (ricorderai ad esempio AlphaGo). > > > Giacomo >

Sept. 10, 2024

per i non programmatori

by alessandro marzocchi

Prendo spunto da alcune parole di Giacomo Tesio a Giuseppe Attardi non stiamo solo chiacchierando fra noi e questo scambio ... può > essere di interesse per molti iscritti alla lista Nexa, se riusciamo > a mantenerlo intellegibile anche ai non programmatori. > Non programmatore ed invecchiato nell'ignoranza STEM, mi avete insegnato e mi fate faticare molto, non pretendo che tutto sia reso comprensibile anche ai non tecnici ma se ci provate non posso che ringraziare. Cordialmente Duccio (Alessandro Marzocchi)

Sept. 10, 2024

Re: [nexa] "pogrammazione statistica" o "intelligenza artificiale"? [era: AI Training is Copyright Infringement]

by Giacomo Tesio

Scusate, ovviamente intendevo canzonare supervised e unsupervised "learning", non "training". Riformulo dunque l'ultimo paragrafo. Nessuna AI "impara da sola", semplicemente esistono metodologie diverse di programmazione statistica applicabili a contesti diversi, in alcuni dei quali è possibile valutare automaticamente l'errore contenuto nell'output prodotto dalla VRM (ricorderai ad esempio AlphaGo). Giacomo

Sept. 10, 2024

"pogrammazione statistica" o "intelligenza artificiale"? [era: AI Training is Copyright Infringement]

by Giacomo Tesio

On Tue, 10 Sep 2024 10:13:10 +0200 Giuseppe Attardi wrote: > Si può riassumere dicendo che... Sì, ma non stiamo solo chiacchierando fra noi e questo scambio sul crinale fra informazione e dato, fra matematica e informatica, può essere di interesse per molti iscritti alla lista Nexa, se riusciamo a mantenerlo intellegibile anche ai non programmatori. > Il codice che calcola f fa uso di theta, ma non è theta che esegue > alcun calcolo e non può essere chiamato software. > [...] > L’architettura Von Neuman distingue tra istruzioni e dati: le prime > sono caricate nella CPU, i secondi nella ALU. Anzitutto io ho parlato di macchine programmabili, non specificatamente dell'architettura von Neumann che rappresenta solo **una** delle architetture possibili per tali macchine. Inoltre anche nell'architettura von Neumann nessuna istruzione "esegue alcun calcolo": è l'unità di calcolo all'interno della CPU ad azionare la circuiteria associata a ciascuna istruzione. Le Vector Reducing Machines costituiscono una classe di architetture diverse (ciascuna caratterizzata dalla rispettiva topologia), ma ciascuna esegue programmi codificati come matrici di dimensionalità appropriata che rappresentano funzioni fra spazi vettoriali distinti. > ma rimangono istruzioni, se caricate nella CPU. In realtà no: quando vengono caricate nelle CPU moderne, le istruzioni definite nella ISA vengono trasformate in microcodice proprietario (come 380° ricorda spesso): dunque sono trattate come dato _ANCHE_ dalla CPU. Quindi, se theta "non può essere chiamato software", non possono essere chiamati software nemmeno Windows, Linux o Android. > Semmai le istruzioni, che sono conservate in memoria, possono essere > trattate come dati, in programmi che si automodificano Mica solo in programmi che si automodificano! Ogni compilatore, ogni interprete e ogni macchina virtuale tratta le istruzioni come dati. Ogni sistema operativo le tratta come dati mentre le salva sul filesystem o le carica in RAM ad ogni page fault. Per non parlare dei molti compilatori JIT (just in time) che caricano in memoria le istruzioni di un eseguibile RISC-V, le traducono al volo in istruzioni x86 e per poi farle eseguire alla CPU, trattando sia le istruzioni RISC-V che quelle x86 come dati. [1] Gli esempi sono innumerevoli senza nemmeno nominare LiSP! (ops! :-D) Perché? Perché gli eseguibili _sono_ dati. Come lo è il codice sorgente. Sono rappresentazioni trasferibili di informazioni. Infatti, come ho provato a spiegare nella mail precedente, per ogni sequenza di byte (foto, film, audio, testo, /dev/random etc...) puoi costruire infinite macchine programmabili che eseguono quella sequenza di byte per determinare il proprio comportamento. Ne consegue che qualsiasi dato è eseguibile esattamente come qualsiasi eseguibile è dato. [2] Ma c'è di più: poiché puoi sempre scrivere un compilatore che trasformi qualunque sequenza di byte in una diversa sequenza eseguibile per una qualche macchina programmabile, ogni dato è anche codice sorgente. Ne consegue che l'insieme dei dati, l'insieme degli eseguibili e l'insieme dei codici sorgente coincidono. [3] Q.E.D. :-D La distinzione è puramente colloquiale, legata all'uso che stiamo facendo della sequenza di byte in un certo momento, ma è indipendente da qualsiasi caratteristica intrinseca della sequenza di byte. > una rete neurale calcola una funzione f(theta, x) = y Proviamo a sostituire i termini antropomorfici: "una Vector Reducing Machine implementa una funzione f(theta, x) = y" Se invece di una "rete neurale" che "calcola" mettiamo una macchina che implementa, la frase è meno evocativa ma descrive più precisamente ciò che effettivamente accade. La funzione f infatti appartiene all'insieme delle informazioni nelle nostre menti, esperienze soggettive di pensiero comunicabile, ma fintanto che rimane lì dentro, non può avere effetti sul mondo esterno. Se vogliamo che abbia effetti dobbiamo esprimerla, imprimendola sui componenti di una macchina che la implementa. Questa macchina può essere fisica o virtuale: il già citato llama.cpp è un esempio di macchina virtuale che implementa la funzione f. > theta sono i parametri del modello Utilizzare il termine "modello" è errato e fuorviante perché richiama un modello statistico che per definizione fornisce informazioni intellegibili sul campione statistico da cui viene calcolato. Matematicamente, theta è la prima variabile indipendente di f. Ma dal punto di vista informatico, theta è l'eseguibile che determina in modo preciso e deterministico il comportamento della Vector Reducing Machine che implementa f. > Ossia non bastano i dati (theta) per modificare f. Stai confondendo la funzione f : t -> x -> y, con la funzione g : x -> y ottenuta attraverso l'applicazione parziale di un particolare theta a f. Chiudere f su un theta' diverso è sufficiente ad ottenere una funzione g' diversa, senza alterare in alcun modo f. Questo perché f descrive una macchina programmabile e theta uno dei possibili programmi che tale macchina può eseguire. Infatti, come tu stesso osservi, > Theta è del tutto inutile senza f. esattamente come un binario x86 (o ARM o RISC-V etc...) è del tutto inutile senza una macchina che lo esegua. ____ Passiamo ora alle minuzie da nerd: > > - ne si codifica gli elementi come vettori numerici attraverso > > una analisi statistica > > Nel caso dei testi si fa una tokenizzazione (ad esempio con le regole > di Porter) Porter descrive il suo algoritmo come: """ a process for removing the commoner morphological and inflexional endings from words in English. Its main use is as part of a term normalisation process... """ https://tartarus.org/martin/PorterStemmer/ Nota le parole "commoner" e "normalization": si tratta di (e si basa su) una analisi _statistica_ del testo. > Nessuno di questi lo chiamerei un’analisi statistica. Nel caso della compilazione della matrice degli embedding (l'eseguibile della VRM) a partire dai testi sorgente, sono d'accordo. Non è una _analisi_ statistica ma un processo di _compilazione_ statistica (parte di un più ampio processo di _programmazione_ statistica che parte dalla ricerca e selezione dei testi sorgente). Tale processo NON produce infatti un _modello_ statistico delle relazioni presenti nel dataset utilizzato, ma un eseguibile per una specifica Vector Reducing Machine. Si tratta di un processo statistico di compilazione perché, sia ad ogni batch che complessivamente, le variazioni applicate all'eseguibile dipendono esclusivamente dalla frequenza delle coppie di vettori input + next token presenti nel data set. Al termine del processo, la matrice risultante è contemporaneamente - un eseguibile per tutte le Vector Reducing Machines con quella topologia - una compressione lossy di TUTTI i testi utilizzati durante il processo di compilazione (come dimostra l'utilizzo di filtri anti plagio sull'output prodotto dal LLM per nascondere le prove del plagio avvenuto il processo di compilazione. Nota poi come smettere di usare una terminologia antropomorfa e riconoscere la compilazione dell'eseguibile per una VRM come parte di un processo di programmazione statistica, fa venir meno alcune distinzioni utili soltanto a deresponsabilizzare chi realizza questi software come quella fra supervised e unsupervised "training". Nessuna AI fa "training" unsupervised, semplicemente esistono metodologie diverse di programmazione statistica applicabili a contesti diversi, in alcuni dei quali è possibile valutare automaticamente l'errore contenuto nell'output prodotto dalla VRM (ricorderai ad esempio AlphaGo). A presto! Giacomo [1] i primi che mi vengono in mente: https://michaeljclark.github.io/ https://github.com/libriscv/libriscv [2] se preferisci una dimostrazione equivalente ma dotata di pedigree accademico, la trovi a pagina 23 di questo manuale: https://theory.cs.princeton.edu/complexity/book.pdf [3] naturalmente non tutte le macchine programmabili sono in grado di eseguire qualsiasi sequenza di byte: per ottenere eseguibili supportati da una specifica macchina programmabile che insista su un sottoinsieme di tale universo, scriviamo compilatori che rappresentano funzioni da un sottoinsieme di nostra scelta (i cui elementi chiamiamo "sorgenti") e l'insieme contenente gli eseguibili di quella macchina (e i possibili messaggi di errore :-D).

Sept. 10, 2024

Re: [nexa] AI Training is Copyright Infringement

by Fabio Alemagna

Il giorno mar 10 set 2024 alle ore 01:14 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Salve Fabio, > > On Mon, 9 Sep 2024 12:45:09 +0200 Fabio Alemagna wrote: > > > Quando un essere umano studia da un libro [...] > > > > La domanda conseguente dunque è: un essere umano viola il copyright > > apprendendo dai testi da cui studia? > > Anzitutto, un essere umano è soggetto di diritti, un software no. > Gli umani che scrivono il software hanno diritti, e doveri. Del resto, suppongo tu non ritenga che sia il software responsabile dell'eventuale violazione del copyright, ma gli umani che lo hanno scritto, dico bene? > > Dunque, in un ragionamento giuridico, paragonarlo ad un software > è "not even wrong", oltre che alienante ed offensivo. > "alienante e offensivo" sono tue valutazioni strettamente personali che fanno leva su emozioni e esulano l'ambito del discorso. Qui parliamo in punta di diritto, e diritto, non di cosa ti offenda. Restando sulla questione del copyright, la domanda resta: se l'umano può liberamente citare passaggi di libri, consapevolmente o meno, senza essere accusato di aver violato il copyright *durante l'apprendimento*, per quale ragione se a farlo è un algoritmo le cose cambiano? Puoi motivarlo tecnicamente, in punta di diritto? > In qualunque caso GPT-4 non ha appreso nulla dai testi usati per la sua > programmazione. [...] "nulla" significa zero, assenza completa. > Contrary to many positive reports in the media about GPT-4 and > ChatGPT's exam-solving abilities (a potential case of selection bias), > their overall mathematical performance is well below the level of a > graduate student. Lì c'è scritto "below the level", ma non c'è scritto "zero". Non puoi affermare che non ha appreso niente, per la semplice ragione che qualcosa la sa fare, anche se non abbastanza. Io trovo che sia scientificamente interessante e persino strabiliante che un algoritmo che non è stato esplicitamente istruito per saper far di conto, riesca a far di conto entro una certa misura, semplicemente per essere stato allenato su tomi che spiegano come si fa di conto. Mi sembra, del resto, esattamente quello che succede quando qualcuno vuole insegnare a te a saper far di conto: ti spiega come si fa, un certo numero di volte, e così tu, poco a poco, impari, non per questo evitando errori tutte le volte, a meno che tu non ti trovi all'estremità destra della gaussiana. Ti dirò di più: una buona porzione di esseri umani in esistenza sa far di conto meno di quanto riesca a ChatGPT, nonostante gli sia stato spiegato come fare, più e più volte. > > 1) Non solo gli umani apprendono, bensì tutti gli esseri viventi. > > Cosa che un software non è. È irrilevante. Si sta parlando del termine "antropomorfizzazione", che si applica esclusivamente agli umani. È quindi semanticamente errato parlare di "antropomorfizzazione" se si vuole criticare l'uso del termine "apprendere" quando riferito agli algoritmi. > > > 2) Esistono definizioni di "apprendimento" [...] > > Non ne dubito! > > Ridefinire termini di uso comune è fondamentale per generare il genere > di profonda confusione che spinge qualcuno a credere di parlare con > "intelligenze artificiali". > Non c'è un complotto atto a voler confondere la gente e spingerla a credere di parlare con intelligenze artificiali, è la semplice e naturale ricerca di astrazione, il ricavare generiche, eleganti e semplici regole che siano minimamente sufficienti a descrivere la realtà. Se posso descrivere "apprendimento" senza far riferimento a concetti indefinibili come "coscienza" e "umanità", allora vuol dire che "coscienza" e "umanità" non sono necessari per definire "apprendimento". Rasoio di Occam. > > A tal proposito, questo è quel che ne pensa Creative Commons: > > Indignor quandoque bonus dormitat Homerus! > Nunquam non miror: https://creativecommons.org/support-cc/ Sorry, ma devi fare di più che provare a gettare discredito sull'interlocutore, per smentirne le tesi, esposte tecnicamente e in punta di diritto. Fabio

Sept. 10, 2024

"Smartphone vietati ai minori di 14 anni", appello al governo

by Marco Fioretti

L'articolo e' a pagamento, quindi ne so solo titolo e primo paragrafo https://www.repubblica.it/italia/2024/09/10/news/smartphone_vietati_ai_mino… (https://www.repubblica.it/italia/2024/09/10/news/smartphone_vietati_ai_mino…) qualcuno ha dettagli? Personalmente, tutto quel che ho da dire in proposito l'ho gia' scritto, quindi mi limito a riportare il link https://mfioretti.substack.com/p/smartphones-are-the-source-of-a-huge (https://mfioretti.substack.com/p/smartphones-are-the-source-of-a-huge) https://mfioretti.substack.com/p/it-doesnt-really-matter-whether-social (https://mfioretti.substack.com/p/it-doesnt-really-matter-whether-social) https://mfioretti.substack.com/p/honestly-the-problem-with-children (https://mfioretti.substack.com/p/honestly-the-problem-with-children) NB: anticipando domande simili ricevute in passato per altri miei pezzi: quei post sono scritti direttamente in Inglese, non ci sono versioni italiane. Se qualcuno volesse farsele, mi contatti pure in privato. Marco

Sept. 10, 2024

Re: [nexa] L’Europa impossibile di Mario Draghi

by J.C. DE MARTIN

Sept. 10, 2024

Fwd: L’Europa impossibile di Mario Draghi

by Anna Masera

Sept. 10, 2024

[CfP COMNET SI] Elsevier COMNET Special Issue on Generative and Explainable AI for Internet Traffic and Network Architectures

by Danilo Giordano

Dear colleagues, Our apologies if you receive multiple copies of this message. ********************************************************************** CALL FOR PAPERS Special Issue on Generative and Explainable AI for Internet Traffic and Network Architectures Elsevier Computer Networks https://www.sciencedirect.com/journal/computer-networks/about/call-for-pape… (Submission deadline: December 1, 2024) ********************************************************************** We are pleased to announce a call for papers for a special issue of Elsevier Computer Networks journal, focusing on the transformative potential of generative and explainable AI in Internet traffic analysis and network architectures. As Internet-connected devices multiply and traffic data grows exponentially, traditional methods are increasingly challenged. This special issue aims to highlight how generative AI can synthesize realistic traffic data, automate network configurations, and enhance security measures. Additionally, explainable AI can provide deeper insights into network behaviors, improving transparency, trust, and overall network performance. We invite you to contribute to this pioneering special issue and lead the advancement of AI-driven innovations in Internet traffic analysis and network architectures. Key Topics of Interest include but are not limited to the following: ----------------------- - Generative AI methods to synthesize realistic and diverse traffic data - Automatic network configuration and management utilizing Generative AI - Applications of Large Language Models (LLMs) in network traffic generation - Prompt Engineering for LLMs in network traffic analysis, management, and security - Generative AI for enhancing network security and intrusion detection - Assessing the robustness and reliability of Generative AI in network management, including standardized benchmarks and datasets - Explainable AI techniques for network traffic analysis and management tools - Human-in-the-loop AI and the integration of interpretability into AI-driven traffic analysis - Ensuring fairness, accountability, and transparency in AI applications for networking - Real-world applications and case studies showcasing Generative and Explainable AI in network traffic analysis, management, and security - Bridging the gap between network data explanation and actionable interpretability - Techniques for improving the trust and practical use of data-driven network analysis methods Guest Editors: -------------- - Antonio Montieri, PhD - Università degli Studi di Napoli Federico II, Napoli, Italy (antonio.montieri(a)unina.it) - Danilo Giordano, PhD - Politecnico di Torino, Torino, Italy (danilo.giordano(a)polito.it) - Claudio Fiandrino, PhD - IMDEA Networks Institute, Madrid, Spain (claudio.fiandrino(a)imdea.org) - Jonatan Krolikowski, PhD - Huawei Technologies France SAS, Boulogne Billancourt, France (jonatan.krolikowski(a)huawei.com) Important Dates: ---------------- - Submission Open Date: July 1, 2024 - Final Manuscript Submission Deadline: December 1, 2024 - Editorial Acceptance Deadline: March 1, 2025 Manuscript Submission Information: ----------------------------------- The journal's submission platform (https://www.editorialmanager.com/comnet/default.aspx) is available for receiving submissions to this Special Issue from July 1st, 2024. Authors are advised to follow the Guide for Authors to prepare their manuscripts and select the article type “VSI: GenXAI for Internet” when submitting online. More information about the Special Issue, the Guide for Authors, and the submission portal are available at the following link: https://www.sciencedirect.com/journal/computer-networks/about/call-for-pape… ********************************************************************** SPECIAL ISSUE DETAILS ********************************************************************** In the realm of Internet traffic analysis, the advent of Artificial Intelligence (AI) has marked a significant paradigm shift. With the proliferation of Internet-connected devices and the exponential growth of traffic data, traditional traffic analysis methods are struggling to cope with the sheer volume and complexity of modern networks. Moreover, the dynamic nature of Internet traffic patterns and the emergence of sophisticated cyber threats further exacerbate the challenges faced by network operators and cybersecurity professionals. In response, there is a pressing need for advanced analytical tools that can provide accurate Internet traffic “visibility”, enable actionable insights into traffic behavior, identify anomalies and intrusions, and ultimately enhance network security and performance. On the other hand, the collection, segmentation, and labeling of traffic datasets are cumbersome processes, often requiring human experts to guide the different stages. Additionally, factors like the dynamic nature of traffic, privacy concerns, and the limited samples of certain traffic types (e.g., network attacks, IoT devices) further challenge data collection. Moreover, while data-driven techniques have the potential for outstanding performance and adaptability, they often operate as black-box systems, making it difficult to understand their behavior, improve their performance, or protect them from potential attacks. This limits the interpretability and trust in these methods, affecting their practical use. The integration of generative and explainable AI techniques presents a promising avenue for addressing these challenges. By harnessing the power of AI to generate realistic traffic data and provide interpretable insights, researchers and practitioners can overcome the limitations of traditional traffic analysis methods. Generative AI models enable the creation of diverse and representative traffic datasets, facilitating the training of AI-driven models for intrusion detection and network optimization. Meanwhile, explainable AI techniques enhance the transparency and trustworthiness of AI-driven traffic analysis, enabling network operators to understand and interpret the decisions made by AI methods. This special issue aims to delve into the methodological, technical, and practical aspects of leveraging generative and explainable AI for Internet traffic analysis and network architectures. By focusing on these cutting-edge topics, we seek to provide a platform for researchers and practitioners to explore innovative approaches, share insights, and advance state of the art. The special issue will encompass a wide range of themes, including AI-driven generation of standardized traffic datasets, network management aided by generative AI, interpretable and trustworthy AI solutions for Internet traffic analysis, and real-world applications of generative and explainable AI in network optimization and security. **********************************************************************

Sept. 10, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giuseppe Attardi

> On 9 Sep 2024, at 22:35, nexa-request(a)server-nexa.polito.it wrote: > > Ad esempio, per programmare una Vector Reducing Machine (quella che > tu chiami "rete neurale artificiale") la cui topologia permette di > mappare una matrice N-dimensionale verso una M-dimensionale > > - si raccoglie il dataset sorgente > > - ne si codifica gli elementi come vettori numerici attraverso > una analisi statistica Dipende dai dati, alcuni sono già vettori numerici di per sé come nel caso di immagini o suoni campionati. Nel caso dei testi si fa una tokenizzazione (ad esempio con le regole di Porter) e si costruisce un dizionario per assegnare un id numerico a ciascuno, poi il vettore degli embedding viene costruito dalla rete stessa. Nessuno di questi lo chiamerei un’analisi statistica. > - si riduce la dimensionalità del dataset sorgente (selezionando e/o > sintetizzando le feature da utilizzare attraverso tecniche > statistiche) fino ad ottenere le N dimensioni da utilizzare in input > (e le M dimensioni con cui confrontare l'output) > > - si carica nella VRM un programma che può essere > > - casuale quando si inizializzano le matrici per la prima volta > > - noto, se si decide di partire da un eseguibile "pre-trained" Si può riassumere dicendo che una rete neurale calcola una funzione f(theta, x) = y, dove theta sono i parametri del modello, che vengono stimati con l’apprendimento. Il codice che calcola f fa uso di theta, ma non è theta che esegue alcun calcolo e non può essere chiamato software. Si può cambiare theta e la funzione calcolata sarà diversa. Essendo f parametrica, si può fornire theta a parte e si può fare fine-tuning del modello, a patto di disporre del software di apprendimento. Ossia non bastano i dati (theta) per modificare f. Theta è del tutto inutile senza f. Si può dire che ci sono infiniti modi di “eseguire” theta, ma se non hai quello giusto non puoi farci nulla. > … > >> I parametri del modello (i contenuti delle matrici), vengono >> calcolati attraverso l’ottimizzazione della loss function sui >> dati di apprendimento (sempre dati sono). > > La distinzione fra software e dato non ha fondamento informatico. L’architettura Von Neuman distingue tra istruzioni e dati: le prime sono caricate nella CPU, i secondi nella ALU. Semmai le istruzioni, che sono conservate in memoria, possono essere trattate come dati, in programmi che si automodificano, ma rimangono istruzioni, se caricate nella CPU. —

Sept. 10, 2024