- nexa - server-nexa.polito.it

an evil Nexa
by maurizio lana Sept. 15, 2024

Sept. 15, 2024

Bruce Schneier nel suo blog segnala il progetto surveillance-watch (https://www.schneier.com/blog/archives/2024/08/surveillance-watch.html) se si apre e si va alla sezione surveilling entities, tra le tante c'è un "Nexa Technologies" > Senior executives at this French spyware firm have been indicted for > the company’s sale of surveillance software to authoritarian regimes > in Libya and Egypt that resulted in the torture and disappearance of > dissidents. Eagle products supplied by Nexa Technologies / Amesys were > discovered in the offices of Muammar Gaddafi’s secret police. Nexa has > an Emirati-based subsidiary called Advanced Middle East Systems Nexus Technologies, no? oppure Nexon Technologies? Maurizio ------------------------------------------------------------------------ dialogare tra di noi per costruire una democrazia, l’unica istituzione di vita comune che non sia fondata sulla paura di morire michel dardenne ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

2 1

Informatica a scuola
by Angelo Raffaele Meo Sept. 15, 2024

Sept. 15, 2024

bellissimi messaggi degli amici Marco Fioretti, Enrico Nardelli, Giuseppe Attardi e 380° finalizzati alla promozione dell’insegnamento dell’informatica nella scuola mi suggeriscono una autentica operazione di marketing a favore di due nostri prodotti. Per farmi perdonare vi inforno che questi due prodotti sono una piccola parte del lavoro svolto gratuitamente nel tempo libero da una ventina di fanatici della parrocchia del software libero. I due pacchetti, come molti altri di cui intendo parlarvi in futuro, sono assolutamente liberi e gratuiti. Il primo prodotto è un riassunto dei principi e degli strumenti dell’informatica; il secondo è un manuale di programmazione in linguaggio Python. Stiamo completando in questi giorni l'attivazione del prototipo di un nuovo "archivio nazionale del materiale didattico libero" (definizione di UNESCO) nel quale stiamo caricando 2000 oggetti didattici (libri, manuali, videolezioni e videoconferenze, videogiochi didattici, software didattico). Ovviamente stiamo caricando in quell'archivio anche quei due manualini. Chi avesse bisogno subito dei due prodotti di cui vi ho parlato mi mandi un mail (angelo.meo(a)polito.it) ed io glieli manderò immediatamente via "we transfer". Molti colleghi della scuola mi hanno manifestato il timore che i loro allievi non siano in grado di comprendere i principi dell’informatica e della programmazione. Io invece penso che l’insegnamento dell’informatica sia più facile dell’insegnamento della mia prediletta filosofia e che anche l’apprendimento dei principi dell’informatica da parte degli allievi sia più facile dell’apprendimento dei concetti fondanti della filosofia. Inoltre, l’insegnamento dell’informatica può divenire più divertente inventando qualche gioco didattico che coinvolga gli allievi in ogni momento della lezione. Vi presento l’esempio di una lezione di un mio corso di programmazione nel linguaggio Python che tenni in una terza elementare (allego la foto). Si, cari amici. Vi parlo non di un programma applicativo ma della programmazione in Python, non dell’ultimo anno del liceo scientifico ma di una terza elementare, con allievi di 8 anni. L’oggetto della lezione erano gli operatori logici OR, AND e NOT. Le bambine rappresentavano le variabili Booleane indipendenti e il bambino la variabile Booleana dipendente.In quel momento veniva illustrato il seguente esempio: “bagnetto dell’elefantino” = “acqua fresca” OR “elefantino sporco”. Conservo fra i ricordi più simpatici le letterine che gli allievi di quella classe mi mandarono, forse su suggerimento della loro insegnante, per dirmi che si erano divertiti. Quelle letterine contenevano meravigliosi disegni, proposte di nuovi esempi e simpatici messaggi scritti in codice binario. Arrivo alle conclusioni, chiara manifestazione del mio fanatismo. Io penso che anche un maestro o un docente di materie umanistiche possano impartire lezioni di informatica. Ma ritengo che gli ordinamenti scolastici debbano prevedere anche l’insegnamento obbligatorio dell’informatica in tutte le scuole di ogni ordine e grado, compresa la scuola primaria. La finalità è quella indicata da Angelo Marcello Cardani: “ trasformare l’Italia in un Paese ad alfabeto puramente digitale”. Angelo Raffaele Meo

1 0

LLMs Will Always Hallucinate, and We Need to Live With This
by Giacomo Tesio Sept. 14, 2024

Sept. 14, 2024

As Large Language Models become more ubiquitous across domains, it becomes important to examine their inherent limitations critically. This work argues that hallucinations in language models are not just occasional errors but an inevitable feature of these systems. We demonstrate that hallucinations stem from the fundamental mathematical and logical structure of LLMs. It is, therefore, impossible to eliminate them through architectural improvements, dataset enhancements, or fact-checking mechanisms. Our analysis draws on computational theory and Godel's First Incompleteness Theorem, which references the undecidability of problems like the Halting, Emptiness, and Acceptance Problems. We demonstrate that every stage of the LLM process-from training data compilation to fact retrieval, intent classification, and text generation-will have a non-zero probability of producing hallucinations. This work introduces the concept of Structural Hallucination as an intrinsic nature of these systems. By establishing the mathematical certainty of hallucinations, we challenge the prevailing notion that they can be fully mitigated. https://arxiv.org/abs/2409.05746 Naturalmente, una volta compreso che si tratta di compressioni lossy dei testi usati per programmarli, una presenza di artefatti grosso modo inversamente proporzionale al livello di compressione è ovvia. Ma magari un articolo scritto nella lingua parlata dai believer della AI è utile a far scoppiare un po' di bolle (pustole? :-D) Giacomo

1 0

Re: [nexa] "pogrammazione statistica" o "intelligenza artificiale"? [era: AI Training is Copyright Infringement]
by Giuseppe Attardi Sept. 14, 2024

Sept. 14, 2024

> Date: Wed, 11 Sep 2024 21:53:58 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > > Ciao Giuseppe, > > Il 11 Settembre 2024 16:38:55 UTC, Giuseppe Attardi <attardi(a)di.unipi.it> ha scritto: >> Mi spiace dover dissentire da Enrico. > > Dissenti anche da me o solo da Enrico? > > Ti ho proposto una semplice dimostrazione dell'equivalenza fra dato e programma: > > ``` > Ogni dato è software eseguibile da almeno una macchina programmabile. > > Puoi infatti facilmente costruire una macchina programmabile che avanza il proprio > program counter se riceve in input il byte corrente del proprio programma e si ferma altrimenti. > ``` > (qui <https://server-nexa.polito.it/pipermail/nexa/2024-September/053214.html>) > > Non ti convince? > > > Te ne propongo un'altra: ho qui una macchina programmabile che ad ogni ciclo legge > un nuovo bit dal programma caricato e chiude un circuito se il bit vale 1, mentre lo > apre se vale 0. > > > Ho provato a caricargli un binario ARM e l'ha eseguito senza problemi. > Ho provato con un COFF e un ELF e li ha eseguiti senza problemi. > Allora ho provato con una foto, e ha continuato ad accendere e spegnere una lampadina > esattamente secondo l'ordine dei bit forniti. > Infine ho provato a caricare la tua mail, e la macchina (me ne scuso) > ne ha eseguito ogni bit, dal primo all'ultimo. > > Perché la mia macchina irriverente continua ad eseguire qualsiasi dato che io gli carico > senza distinguere fra istruzioni e non? > Il tuo programma esegue istruzioni che leggono dei dati qualunque, non eseguono quei dati. Il fatto che quei dati siano una *rappresentazione* in un certo formato di istruzioni non li fa eseguire dalla tua macchina, perché non passano dal suo interprete (CPU), ma dalla sua ALU. L’architettura Von Neumann e la MTU prevedono che i programmi vengano rappresentati nella stessa forma, per comodità nel primo caso (in alternativa alla Harvard architecture) e per generalità la seconda (una singola macchina anziché infinite), ma c’è un passo ineludibile passaggio di trasformazione prr ottenere larappresentazione come dato di un programma, tipicamente un compilatore. > >> In altri termini, qualunque istruzione può essere rappresentata come dato, ma non >> ogni dato può essere interpretato come istruzione... > > Perché questo predicato diventi vero è necessario aggiungere "da una qualsiasi macchina programmabile" No, qualunque sia la macchina, esiste un dato (anzi infiniti) che non sono interpretabili da quella macchina, o, se vuoi, che danno errore se eseguiti. L’insieme delle rappresentazioni dei programmi è un sottoinsieme stretto di quello dei dati. > > La verità di tale predicato però non esclude in alcun modo che possano esistere infinite > macchine programmabili in grado di eseguire un qualsiasi dato. > > >> Ossia la semantica di un’istruzione è strettamente legata al suo interprete, quella di un dato no. > > Anche qui, perché il predicato diventi vero dobbiamo sostiire "dato" con "quasiasi dato": > molte macchine infatti possolo eseguire solo certe sequenze di bit e non altre. > > Un x86 non eseguirà correttamente un eseguibile ARM o JVM. > > D'altto canto ogni Vector Reducing Machine è in grado di eseguire solo le matrici numeriche > la cui dimensionalità è compatibile > > Sono macchine programmabili diverse, ma pur sempre macchine il cui comportamento > dipende esclusivamente dal programma fornito. > > > Mi puoi spiegare dove sbaglio? L’errore sta nel verbo “eseguire”: si eseguono istruzioni, sui dati si opera. Le Vector Reducing Machine effettuano operazioni matriciali su vettori e matrici, le matrici non eseguono alcunché. C’è una circuiteria apposta nelle GPU per operare su matrici, seguendo le *istruzioni* fornite tramite la libreria CUDA; se le matrici eseguissero, potresti fare a meno delle GPU e di CUDA. > > > Giacomo

4 6

Learning to reason with LLMs
by Giuseppe Attardi Sept. 14, 2024

Sept. 14, 2024

5 5

"Micromouse": sulla didattica dell'informatica nelle scuole superiori e in UNIV...
by Damiano Verzulli Sept. 14, 2024

Sept. 14, 2024

Conoscevo gia' i "micromouse" [1] ed il fatto di non vederne traccia negli Atenei del nostro Paese, mi colpiva. "[...] It is, to my mind, the perfect combination of all the major disciplines that you need for robotics and engineering and programming, embedded systems, all wrapped up in one accesible bundle that you can do in your living room, and you don't need a laboratory to run it [...]" Quello qui sopra è un frammento di questo video (Youtube; 25 minuti): => The Fastest Maze-Solving Competition On Earth https://www.youtube.com/watch?v=ZMQbHMgK2rw Mi chiedo perché una competizione del genere non venga organizzata da uno qualsiasi dei CdS in ingegneria o informatica del nostro Paese. Il costo sarebbe irrisorio. L'organizzazione, quasi banale. Il ritorno (a partire dal coinvolgimento degli studenti), impagabile. Idee? Saluti, DV [1] https://en.wikipedia.org/wiki/Micromouse -- Damiano Verzulli e-mail: damiano(a)verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

1 0

A passeggio con l'informatica
by Bruno Carotti Sept. 14, 2024

Sept. 14, 2024

Buongiorno a tutte e a tutti, l'Osservatorio sullo Stato digitale dell'Istituto di ricerche sulla pubblica amministrazione (IRPA) sta per avviare un "corso" in materia di informatica. Un passeggio, o meglio un viaggio, che mira alla divulgazione di nozioni essenziali, per cercare di costruire una maggiore consapevolezza circa le implicazioni della tecnologia - punti che in questa lista sono trattati con competenza e lungimiranza. Le lezioni saranno curate, in forma di post settimanali, dal Prof. Enrico Nardelli, cui vanno molti sinceri ringraziamenti. La prima lezione, introduttiva, sarà pubblicata il 18 settembre. Per chi fosse interessato, qui si trova una breve presentazione: https://www.irpa.eu/a-passeggio-con-la-informatica/ Cordiali saluti, Bruno Carotti Inviato con l'email sicura [Proton Mail](https://proton.me/).

1 0

The Music Industry’s ’90s Hard Drives Are Dying | WIRED
by J.C. DE MARTIN Sept. 13, 2024

Sept. 13, 2024

https://www.wired.com/story/music-industry-hard-drive-storage-archives/ (messaggio spedito in movimento - scusate brevità ed eventuali refusi)

1 0

C'e' cascato pure Benanti...
by Marco Fioretti Sept. 13, 2024

Sept. 13, 2024

Nella trappola che bisogna saper programmare, intendo. Copio e incollo da un suo post su LinkedIn, in cui segnala il suo articolo dietro paywall (1), se qualcuno potesse postarlo tutto grazie infinite: I report globali disponibili ci dicono che nel 2024 solo 28.7 milioni di persone al mondo sono in grado di scrivere e leggere la lingua delle macchine. Meno di 30 milioni di persone al mondo, su oltre 8 miliardi di abitanti del pianeta, sono in grado di programmare e di poter gestire le sfide culturali e sociali che questo comporta. Questo significa che Il 99,65% della popolazione non sa programmare. Allora forse le cose urgenti e importanti da “acquistare” con il ritorno a scuola non sono figlie di qualche promozione commerciale ma di un nuovo patto sociale e generazionale che possa dare al paese quello che serve per uno sviluppo sociale un progresso economico che sappiano garantire futuro e coesione sociale e democratica. Questo e' quanto ho gia' commentato su LinkedIn: ######################################## "Meno di 30 milioni di persone al mondo, su oltre 8 miliardi di abitanti del pianeta, sono in grado di programmare e di poter gestire le sfide culturali e sociali che questo comporta." Ovvero, per poter "gestire le sfide culturali e sociali che [la tecnologia informatica] comporta" bisogna saper programmare? E' questo che intende? Con tutto il rispetto... ma che sta dicendo? Ma seriamente? Saper programmare e' proprio tutto e solo quello che sanno fare i vari Musk, Zuckerberg, Thiel, Altman e compagnia, ed e' proprio per l'idea che la gestione dell'informatica va lasciata a quelli come loro "perche' sanno programmare" che son riuciti a fare tutti i danni culturali e sociali che sappiamo. Sono allibito. PS: poter leggere l'articolo integrale aiuterebbe a risolvere eventuali malintesi ################################### Marco (1) l'articolo: https://24plus.ilsole24ore.com/art/serve-istruzione-che-promuova-capacita-c… (https://24plus.ilsole24ore.com/art/serve-istruzione-che-promuova-capacita-c…)

15 32

Re: [nexa] AI Training is Copyright Infringement
by alessandro marzocchi Sept. 13, 2024

Sept. 13, 2024

Sun, 08 Sep 2024 23:25:19 +0000 Giacomo Tesio <giacomo(a)tesio.it Subject: Re: [nexa] AI Training is Copyright Infringement > Direi piuttosto che fiumi di inchiostro sono stati versati per > giustificare la ridefinizione di termini come "imparare" e "apprendere" > affinché possano essere applicati alle macchine. > ***** E' autorevole, diffusa e prevalente la convinzione che noi uomini non siamo confrontabili con queste macchine. Eppure non mi convince, mi pare che il nostro modo di imparare è anch'esso statistico, da pappagallo: ad esempio impariamo a dire mamma - probabilmente è la nostra prima parola - perchè alla stessa associamo una persona specifica ed arriviamo a questa associazione persona-parola dopo una serie più o meno lunga di esperienze. Dunque, secondo la mia convinzione personale, quando critichiamo la macchina per il fondamento statistico basiamo la nostra critica su una modalità che è anche umana. Un'altra riflessione, sulla quantità di tempo e di esperienze prima di arrivare alle capacità attuali di noi umani: credo nessuno abbia una risposta, ma certamente abbiamo impiegato moltissimi anni, molte e molte generazioni. *David Chalmers* non afferma la coscienza delle macchine ma neppure la nega per principio, in sintesi ritiene che esse hanno una qualche coscienza e che progrediscono (Could a Large Language Model Be Conscious? https://www.bostonreview.net/articles/could-a-large-language-model-be-consc… ). Sulla parola, *Ludwig Wittgenstein* aveva scritto opinioni interessanti riferendole anche ad Agostino: The individual words in language name objects—sentences are combinations of such names.——In this picture of language we find the roots of the following idea: Every word has a meaning. This meaning is correlated with the word. It is the object for which the word stands. (Philosophical Investigations, I,1, Basil Blackwell Ltd, 1986). Insomma, quel che conta è la realtà, non il modo con cui la si rappresenta. Vedo anch'io tante differenze fra noi e le macchine, sono meno ottimista sulla invincibilità della nostra fortezza e sull'ipotesi che la realtà non esisterebbe senza noi, siamo una parte della realtà, non la realtà (in tutta umiltà: Protagora ci ha fregato). Cordialmente. Duccio (Alessandro Marzocchi)

6 7