January 2025 - nexa - server-nexa.polito.it

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by alessandro marzocchi

Ciao Alfredo, i punti 1, 2, 3, 4 riguardano persone e non solo macchine processi; fra l'altro, le persone hanno conoscenze necessarie per ottimizzare i processi migliori di quelle degl'informatici. Delle due l'una: o l'automazione si adatta alle persone, oppure le persone si adattano all'automazione, niente impedisce quella che una volta si chiamava la via di mezzo ... in medio stat virtus, suggerimento con radici antiche ma oggi (bit solo bit sempre bit nient'altro che bit) + (subito e soltanto subito). *QUI STA ANCHE LA QUESTIONE GIURIDICA*: il cittadino è soggetto soltanto a leggi oppure il programma informatico può imporre obblighi non previsti da leggi, come ha lamentato più di un nexiano, io fra questi? Mi interessa molto il punto 5, sul quale domando: *"LA MACCHINA" POTREBBE PORTARE CONOSCENZE NUOVE* man mano che si evolve in autonomia dall'uomo? Man mano che analizza, misura indipendentemente dalla corporeità? Mi pare sia un'ipotesi anche di Giuseppe Longo, su di lui ed in generale più d'un nexiano ha competenze migliori delle mie. Cordialmente, Duccio (Alessandro Marzocchi) Il giorno mer 15 gen 2025 alle ore 17:36 Alfredo Bregni <abregni(a)iperv.it> ha scritto: > Informatica ai primordi!? > Mi viene in mente quando dissi di FIAT (sì, c'era ancora la FIAT...) che > aveva tre problemi: *time to market dell'innovazione*, *logistica*, > *leadership*. > > Per me l'informatica dovrebbe: > *1.* > *Strati*: ridurli / progettarli insieme / poterli "bucare"; vale per > strato ottico ed elettronico delle reti, i livelli dei protocolli di > comunicazione, gli oggetti "non permeabili" gli uni agli altri (quando > l'idea iniziale era che si scambiassero messaggi); soprattutto, vale per la > progettazione, dove si ama troppo "separare", invece di "unificare". > *2.* > *Interfacce* (fra strati, e fra parti diverse di applicativi): renderle > semplici e intuitive (matrici / tabelle?) per tutto quello che intuitivo > non è (e si continua a lasciare tale). > *3.* > *Applicativi aziendali / ampi / distribuiti*: costruire qualche strumento > "friendly" e flessibile come lo spreadsheet in ambito personale, che > consenta alle organizzazioni di reinventarsi ogni giorno, invece di essere > "irrigidite" proprio dall'IT; > *4.* > Magari, realizzare un *linguaggio "governato dai dati"*, invece che dalla > programmazione di processo; > *5.* > Sogno dei sogni, realizzare un *database "plastico"*, capace di > riorganizzarsi secondo criteri nuovi, che a mio parere è un prerequisito > per un'intelligenza artificiale in grado di apprendere sul serio. > > [*Incidentalmente, i punti da 1 a 4 non sono follie, visto che sulla > carta li ho perseguiti tutti insieme in un caso (però in un caso specifico, > non in senso generale, come invece propongo).*] > > > > > ----- Original Message ----- > *From:* Giacomo Tesio <giacomo(a)tesio.it> > *To:* nexa(a)server-nexa.polito.it ; alessandro marzocchi > <alemarzoc(a)gmail.com> ; nexa <nexa(a)server-nexa.polito.it> > *Sent:* Tuesday, January 14, 2025 10:52 PM > *Subject:* Re: [nexa] Esistono "tecnologie" "politicamente neutrali"? > > Il 14 Gennaio 2025 20:33:00 UTC, alessandro marzocchi <alemarzoc(a)gmail.com> > ha scritto: > > > > tre compagni di scuola si trovano dopo molto tempo. > > Abbracci domande racconti ben presto rinasce l'antica competizione: chi > fa > > il mestiere più importante? > > Certamente io, faccio l'architetto e tutti dicono che la creazione del > > mondo fu opera da architetto. > > Amici, ricordiamo che la creazione avvenne organizzando il caos, replicò > > il secondo amico che appunto si occupava di organizzazione. > > Sorridendo intervenne il terzo amico, informatico, e domandò: secondo > voi, > > chi aveva messo il caos? > > FANTASTICA! ! ! :-D > > > > Mestiere importante, quello dell'informatico, tanto importante che lo > > insegnerei a scuola. > > È un mestiere solo perché la disciplina è ancora ai primordi. > > Siamo ancora ai geroglifici, checché ne dica il Faraone. > > > Giacomo > > PS: "in principio era il Verbo"... :-) > >

Jan. 15, 2025

Re: [nexa] Intervista ad Andrea Cerroni

by Enrico Nardelli

Perdonami Giacomo, Il 15/01/2025 15:57, Giacomo Tesio ha scritto: > Anche ammesso che un cuore meccanico svolga la funzione di > un cuore, di solito viene definito "cuore artificiale" > <https://it.m.wikipedia.org/wiki/Cuore_artificiale> > nel mio articolo facevo proprio l'esempio di "cuore artificiale", locuzione che mi pare chiaro per chi legge l'articolo che io considero corretta, perché svolge la funzione di un cuore (infatti viene messo al suo posto) ma è fatto di una materia artificiale. Non ho mai proposto di sostituire tale espressione con "cuore meccanico". Non ho scritto che la "intelligenza artificiale/meccanica" sostituisce un'intelligenza malata Poi, nel mio articolo argomento abbastanza chiaramente che l'accezione del termine "intelligenza" cui sto facendo riferimento a proposito dell'IA è SOLO quella delle capacità puramente logico-razionali e che ciò che noi chiamiamo intelligenza ha un'accezione ben diversa. «/Le mancano infatti molte dimensioni che danno senso al termine intelligenza usato per le persone, da quella corporea, attraverso la quale sperimentiamo e conosciamo il mondo fisico intorno a noi e che costituisce il substrato comune alle nostre interazioni con gli altri, a quella emotiva, che ci permette di stabili relazioni autentiche e profonde con i nostri simili, a quella artistica, con la quale possiamo esprimere in modo estremamente pregnante il nostro senso estetico, solo per ricordare le più importanti/.» Quindi se inizi la tua risposta in questo modo ho il timore che non abbia letto con sufficiente attenzione il mio articolo (ma non penso di essere così importante). Se avrai la bontà di rileggere con attenzione quanto ho scritto e formulare critiche a ciò che effettivamente c'è nel mio articolo te ne sarò davvero grato. Sulle strategie per affrontare lo stato di sudditanza intellettuale in cui siamo, il mio approccio è quello di focalizzarsi sul combattere le battaglie nelle quali c'è qualche speranza di poter vincere, e quella terminologica non ritengo sia tra queste. Con immutata stima, Enrico Il 15/01/2025 15:57, Giacomo Tesio ha scritto: > Ora "giacomo si imbizzarrisce" (cit. karlessi :-D) > > > Caro Enrico, ho letto le tue argomentazioni: > > Il 15 Gennaio 2025 09:39:51 UTC, Enrico Nardelli ha scritto: >> Non sono però d'accordo sul fatto che il termine da usare sia >> "intelligenza artificiale" (e non capisco bene l'argomentazione >> espressa nell'intervista) ritenendo più giusto (e anche più >> etimologicamente corretto) "intelligenza meccanica" come ho >> argomentato qua >> https://www.startmag.it/innovazione/intelligenza-artificiale-o-meccanica-qu… > Anche ammesso che un cuore meccanico svolga la funzione di > un cuore, di solito viene definito "cuore artificiale" > <https://it.m.wikipedia.org/wiki/Cuore_artificiale> > > Poi, nella locuzione "IA" non è l'artificialità a confondere, ma il > riferimento ad una facoltà tipica dell'uomo che l'artefatto (il > software) dovrebbe essere in grado di _sostituire_. > > Il cuore artificiale infatti sostituisce un cuore malato. > Davvero la "intelligenza artificiale/meccanica" sostituisce > un'intelligenza malata? Secondo quali criteri? > > > Poi mammiferi, uccelli, rettili, pesci.. tutti hanno un cuore, ma solo > gli esseri umani sono intelligenti. > > Da questo punto di vista, la locuzione "cervello elettronico" fornirebbe > una metafora analoga a "cuore meccanico", ma pur essendosi diffusa ben > prima di "intelligenza artificiale", causa ormai ilarità o sarcasmo in > chiunque abbia mai avuto a che fare con un computer. > > > In qualunque caso, che li chiamiamo "intelligenze artificiali" o > "intelligenze meccaniche", questi software _non_ svolgono la funzione > dell'intelligenza. > > Non solo perché mancano di emozioni o creatività: non dispongono nemmeno > di razionalità o logica, indipendentemente dalla loro assenza di > fisicità. Anche quando restituiscono una definizione corretta di numero > o di implicazione logica, non ne hanno alcuna comprensione. > > Anche se li si programma affinché restituiscano il numero giusto di "r" > in "strawberry", non sanno cosa significhi quel numero. > > > Non sono dunque nemmeno intelligenze esclusivamente razionali, > come dici nel tuo articolo. Non sono proprio intelligenze. > > > Dijkstra, che menzioni nel tuo articolo, scriveva: > > ``` > The Fathers of the field had been pretty confusing: John von Neumann > speculated about computers and the human brain in analogies > sufficiently wild to be worthy of a medieval thinker and Alan M. Turing > thought about criteria to settle the question of whether Machines Can > Think, a question of which we now know that it is about as relevant as > the question of whether Submarines Can Swim. > ``` > <https://www.cs.utexas.edu/~EWD/transcriptions/EWD08xx/EWD898.html> > > > Dal punto di vista scientifico, il fatto che le macchine possano > pensare è irrilevante. > > Il fatto che ne dobbiamo discutere rivela lo stato di sudditanza > intellettuale cui si è ridotta la ricerca scientifica (se possiamo > ancora chiamarla così). > E lo stato patetico dell'informatica ai primordi. > > >> D'altro canto, mi è chiarissimo che ormai ce l'abbiamo e ce lo >> dobbiamo tenere, almeno fino a quando il baricentro del potere >> mondiale rimarrà negli USA. > Eppure cambiamo continuamente linguaggio. > > Ricordo ancora quandi era comune chiamare "mongolo" un ragazzo > affetto dalla sindrome di Down. Poi "handicappato". Poi "disabile". > Poi "diversamente abile". > > Nel giro di pochi mesi milioni di sviluppatori hanno rinominato il > branch predefinito di migliaia di progetti da "master" a "main" perché > gli Americani si vergognano della propria storia e cercano di > cancellare ogni parola che possa ricordargli il proprio passato da > schiavisti e razzisti. Con "buona pace" del proprio presente. > > > Perché non iniziare dunque a stigmatizzare (almeno in senso figurato) > chi parla di "intelligenza artificiale" fuori dal dominio della > fantascienza, diffondendo alienazione ed avvelenando il discorso > pubblico? > > Chi sfida esseri umani a fare riassunti migliori di ChatGPT o gli > fornisce in input questionari pensati per studenti, confrontando i > suoi output con le loro risposte. > > Più in generale, chi si permette di confrontare persone e oggetti, > ponendole sullo stesso piano. > > > Verrà certamente un giorno in cui gli USA si vergogneranno anche del > male che hanno fatto a milioni di persone e milioni di ragazzi in > particolare. Così come verrà il giorno in cui si vergogneranno per il > supporto che hanno dato al genocidio in corso a Gaza. > > > Aiutiamoli ad accorciare i tempi! :-) > > > > Giacomo -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Jan. 15, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Giacomo Tesio

Ciao Duccio, On Wed, 15 Jan 2025 00:07:20 +0100 alessandro marzocchi wrote: > Domando: "la parola" è una tecnologia? Domanda molto intelligente! Nel momento in cui la vocalizziamo, imprimendola attraverso onde sonore all'aria circostante, ha tutte le caratteristiche del dato: la rappresentazione di un'informazione su un supporto trasferibile (seppur a corto raggio, sia in termini spaziali che temporali). Tuttavia, non è il suono a caratterizzare la parola: i pappagalli, i cellulari e i mangiacassette possono riprodurre onde sonore analoghe alle parole, senza disporre di alcuna comprensione del loro significato. Ogni parola associa un significante ad un significato ed è questa associazione fra un pattern sonoro e un esperienza soggettiva a caratterizzarla. Se io dico "sedia" tu che ascolti immagini una sedia diversa da quella che immagino io. L'esperienza mentale che associamo alla parola "sedia" (così come a qualsiasi altra parola) è dunque diversa, soggettiva. Tale esperienza soggettiva di pensiero comunicabile è ciò che definisco "informazione". Senza la parola "sedia", ciascuno di noi avrebbe comunque un esperienza soggettiva delle sedie, ma non potrebbe comunicarla (metterla in comune) senza portarsela fisicamente dietro. Anche etimologicamente, "parola" deriva da "parabola" che, per quanto ne so, significa letteralmente "mettere vicino", "ravvicinare", e viene spesso interpretata in senso figurato come "confronto", ma potremmo anche interpretarla come "associazione". Associazione fra suono (significante) e informazione (significato). La parola (questa associazione) fornisce un vantaggio evolutivo enorme all'uomo, di per sé debole in un ambiente ostile, permettendogli di comunicare efficacemente con i propri simili. Ma avvia anche un feedback loop esplosivo: combinando più parole, viviamo nuove esperienze soggettive di pensiero comunicabile (informazioni) cui attribuiamo nuove parole, ricorsivamente. Dunque la parola/informazione precede la tecnologia. E ne è condizione, se definiamo la tecnologia come Giuseppe, quale conoscenza scientifica applicabile. Ma possiamo dire che sia stata la prima tecnologia umana? Ne ha molte caratteristiche. Ad esempio ha un chiaro orientamento politico, favorendo la creazione di organizzazioni più complesse ed articolate di quelle comuni fra gli altri primati. Al contempo ha influenzato talmente profondamente l'evoluzione dell'uomo che fatico a considerarla come qualcosa costruito dall'uomo. Non si adatta né alla definizione "platonica" proposta da Giuseppe ("conoscenza scientifica applicabile") né la definizione fenomenologica che ho proposto io ("insieme di artefatti costruiti dall'uomo con caratteristiche e scopi comuni"). Non è "conoscenza scientifica applicabile" né un artefatto. Dunque direi la parola che non è una tecnologia. E' una caratteristica evolutiva che caratterizza l'uomo, un po' come il lungo collo caratterizza le giraffe. > Tecnologia può essere ritenuta sinonimo di artefatto, opera umana? Secondo la mia definizione sì, secondo quella di Giuseppe, no. > non complicateci la vita più del necessario, buona parte dei danni da > informatica nascono quando il tecnico pretende di insegnare un > mestiere che non conosce a chi questo mestiere lo fa, software > hardware *HUMANWARE*, quando quest'ultimo sparisce appaiono i guai. Per essere "HUMANWARE" deve essere patrimonio di tutta l'umanità. In altri termini, l'informatica supererà la sua fase primitiva solo quando sarà conoscenza comune, come la scrittura. > PS In sè, la tecnologia è neutrale, i dr Stranamore sono la minoranza > ma i malfattori sono sempre all'erta (opinioni mie, niente di più). "Tecnologia" che? "Neutrale" in che senso? Come detto in altra mail rispondendo a Giuseppe, la tecnologia può essere politicamente neutrale solo fintanto che esiste solo come informazione nella mente di chi la conosce. Non appena ci si appresta ad applicare tale conoscenza creando artefatti tecnologici, smette di esserlo. "Politicamente" non è a caso nell'oggetto del thread. Non ha infatti senso discutere di etica in ambito tecnologico, perché etica (e moralità) si limitano ad influenzare la sfera individuale. Buttarla sull'etica serve solo a sterizzare qualsiasi critica tecnologica: in una società pluralista, ognuno ogni etica è legittima fintanto che non disturba gli altri; in una società capitalista ogni etica è legittima fintanto che non disturba i più ricchi. La tecnologia invece è Politica. La sua critica presuppone il riconoscimento di effetti sociali e l'analisi delle relazioni di potere che tali effetti determinano. Per questo la sua realizzazione, la sua comprensione e la sua critica consapevole è parte di una piena cittadinanza in una società cibernetica. Giacomo

Jan. 15, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Alfredo Bregni

Informatica ai primordi!? Mi viene in mente quando dissi di FIAT (sì, c'era ancora la FIAT...) che aveva tre problemi: time to market dell'innovazione, logistica, leadership. Per me l'informatica dovrebbe: 1. Strati: ridurli / progettarli insieme / poterli "bucare"; vale per strato ottico ed elettronico delle reti, i livelli dei protocolli di comunicazione, gli oggetti "non permeabili" gli uni agli altri (quando l'idea iniziale era che si scambiassero messaggi); soprattutto, vale per la progettazione, dove si ama troppo "separare", invece di "unificare". 2. Interfacce (fra strati, e fra parti diverse di applicativi): renderle semplici e intuitive (matrici / tabelle?) per tutto quello che intuitivo non è (e si continua a lasciare tale). 3. Applicativi aziendali / ampi / distribuiti: costruire qualche strumento "friendly" e flessibile come lo spreadsheet in ambito personale, che consenta alle organizzazioni di reinventarsi ogni giorno, invece di essere "irrigidite" proprio dall'IT; 4. Magari, realizzare un linguaggio "governato dai dati", invece che dalla programmazione di processo; 5. Sogno dei sogni, realizzare un database "plastico", capace di riorganizzarsi secondo criteri nuovi, che a mio parere è un prerequisito per un'intelligenza artificiale in grado di apprendere sul serio. [Incidentalmente, i punti da 1 a 4 non sono follie, visto che sulla carta li ho perseguiti tutti insieme in un caso (però in un caso specifico, non in senso generale, come invece propongo).] ----- Original Message ----- From: Giacomo Tesio To: nexa(a)server-nexa.polito.it ; alessandro marzocchi ; nexa Sent: Tuesday, January 14, 2025 10:52 PM Subject: Re: [nexa] Esistono "tecnologie" "politicamente neutrali"? Il 14 Gennaio 2025 20:33:00 UTC, alessandro marzocchi <alemarzoc(a)gmail.com> ha scritto: > > tre compagni di scuola si trovano dopo molto tempo. > Abbracci domande racconti ben presto rinasce l'antica competizione: chi fa > il mestiere più importante? > Certamente io, faccio l'architetto e tutti dicono che la creazione del > mondo fu opera da architetto. > Amici, ricordiamo che la creazione avvenne organizzando il caos, replicò > il secondo amico che appunto si occupava di organizzazione. > Sorridendo intervenne il terzo amico, informatico, e domandò: secondo voi, > chi aveva messo il caos? FANTASTICA! ! ! :-D > Mestiere importante, quello dell'informatico, tanto importante che lo > insegnerei a scuola. È un mestiere solo perché la disciplina è ancora ai primordi. Siamo ancora ai geroglifici, checché ne dica il Faraone. Giacomo PS: "in principio era il Verbo"... :-)

Jan. 15, 2025

Re: [nexa] Intervista ad Andrea Cerroni

by Giacomo Tesio

Ora "giacomo si imbizzarrisce" (cit. karlessi :-D) Caro Enrico, ho letto le tue argomentazioni: Il 15 Gennaio 2025 09:39:51 UTC, Enrico Nardelli ha scritto: > Non sono però d'accordo sul fatto che il termine da usare sia > "intelligenza artificiale" (e non capisco bene l'argomentazione > espressa nell'intervista) ritenendo più giusto (e anche più > etimologicamente corretto) "intelligenza meccanica" come ho > argomentato qua > https://www.startmag.it/innovazione/intelligenza-artificiale-o-meccanica-qu… Anche ammesso che un cuore meccanico svolga la funzione di un cuore, di solito viene definito "cuore artificiale" <https://it.m.wikipedia.org/wiki/Cuore_artificiale> Poi, nella locuzione "IA" non è l'artificialità a confondere, ma il riferimento ad una facoltà tipica dell'uomo che l'artefatto (il software) dovrebbe essere in grado di _sostituire_. Il cuore artificiale infatti sostituisce un cuore malato. Davvero la "intelligenza artificiale/meccanica" sostituisce un'intelligenza malata? Secondo quali criteri? Poi mammiferi, uccelli, rettili, pesci.. tutti hanno un cuore, ma solo gli esseri umani sono intelligenti. Da questo punto di vista, la locuzione "cervello elettronico" fornirebbe una metafora analoga a "cuore meccanico", ma pur essendosi diffusa ben prima di "intelligenza artificiale", causa ormai ilarità o sarcasmo in chiunque abbia mai avuto a che fare con un computer. In qualunque caso, che li chiamiamo "intelligenze artificiali" o "intelligenze meccaniche", questi software _non_ svolgono la funzione dell'intelligenza. Non solo perché mancano di emozioni o creatività: non dispongono nemmeno di razionalità o logica, indipendentemente dalla loro assenza di fisicità. Anche quando restituiscono una definizione corretta di numero o di implicazione logica, non ne hanno alcuna comprensione. Anche se li si programma affinché restituiscano il numero giusto di "r" in "strawberry", non sanno cosa significhi quel numero. Non sono dunque nemmeno intelligenze esclusivamente razionali, come dici nel tuo articolo. Non sono proprio intelligenze. Dijkstra, che menzioni nel tuo articolo, scriveva: ``` The Fathers of the field had been pretty confusing: John von Neumann speculated about computers and the human brain in analogies sufficiently wild to be worthy of a medieval thinker and Alan M. Turing thought about criteria to settle the question of whether Machines Can Think, a question of which we now know that it is about as relevant as the question of whether Submarines Can Swim. ``` <https://www.cs.utexas.edu/~EWD/transcriptions/EWD08xx/EWD898.html> Dal punto di vista scientifico, il fatto che le macchine possano pensare è irrilevante. Il fatto che ne dobbiamo discutere rivela lo stato di sudditanza intellettuale cui si è ridotta la ricerca scientifica (se possiamo ancora chiamarla così). E lo stato patetico dell'informatica ai primordi. > D'altro canto, mi è chiarissimo che ormai ce l'abbiamo e ce lo > dobbiamo tenere, almeno fino a quando il baricentro del potere > mondiale rimarrà negli USA. Eppure cambiamo continuamente linguaggio. Ricordo ancora quandi era comune chiamare "mongolo" un ragazzo affetto dalla sindrome di Down. Poi "handicappato". Poi "disabile". Poi "diversamente abile". Nel giro di pochi mesi milioni di sviluppatori hanno rinominato il branch predefinito di migliaia di progetti da "master" a "main" perché gli Americani si vergognano della propria storia e cercano di cancellare ogni parola che possa ricordargli il proprio passato da schiavisti e razzisti. Con "buona pace" del proprio presente. Perché non iniziare dunque a stigmatizzare (almeno in senso figurato) chi parla di "intelligenza artificiale" fuori dal dominio della fantascienza, diffondendo alienazione ed avvelenando il discorso pubblico? Chi sfida esseri umani a fare riassunti migliori di ChatGPT o gli fornisce in input questionari pensati per studenti, confrontando i suoi output con le loro risposte. Più in generale, chi si permette di confrontare persone e oggetti, ponendole sullo stesso piano. Verrà certamente un giorno in cui gli USA si vergogneranno anche del male che hanno fatto a milioni di persone e milioni di ragazzi in particolare. Così come verrà il giorno in cui si vergogneranno per il supporto che hanno dato al genocidio in corso a Gaza. Aiutiamoli ad accorciare i tempi! :-) Giacomo

Jan. 15, 2025

Five things privacy experts know about AI

by Daniela Tafani

Five things privacy experts know about AI: 1. AI models memorize their training data 2. AI models then leak their training data 3. Ad hoc protections don't work 4. Robust protections exist, though their mileage may vary 5. The larger the model, the worse it gets Bonus thing: AI companies are overwhelmingly dishonest In November, I participated in a technologist roundtable about privacy and AI, for an audience of policy folks and regulators. The discussion was great! It also led me to realize that there a lot of things that privacy experts know and agree on about AI… but might not be common knowledge outside our bubble. That seems the kind of thing I should write a blog post about! 1. AI models memorize their training data When you train a model with some input data, the model will retain a high-fidelity copy of some data points. If you "open up" the model and analyze it in the right way, you can reconstruct some of its input data nearly exactly. This phenomenon is called memorization. Memorization happens by default, to all but the most basic AI models. It's often hard to quantify: you can't say in advance which data points will be memorized, or how many. Even after the fact, it can be hard to measure precisely. Memorization is also hard to avoid: most naive attempts at preventing it fail miserably — more on this later. Memorization can be lossy, especially with images, which aren't memorized pixel-to-pixel. But if your training data contains things like phone numbers, email addresses, recognizable faces… Some of it will inevitably be stored by your AI model. This has obvious consequences for privacy considerations. 2. AI models then leak their training data Once a model has memorized some training data, an adversary can typically extract it, even without direct access to the internals of the model. So the privacy risks of memorization are not theoretical: AI models don't just memorize data, they regurgitate it as well. In general, we don't know how to robustly prevent AI models from doing things they're not supposed to do. That includes giving away the data they dutifully memorized. There's a lot of research on this topic, called "adversarial machine learning"… and it's fair to say that the attackers are winning against the defenders by a comfortable margin. Will this change in the future? Maybe, but I'm not holding my breath. To really secure a thing against clever adversaries, we first have to understand how the thing works. We do not understand how AI models work. Nothing seems to indicate that we will figure it out in the near future. 3. Ad hoc protections don't work There are a bunch of naive things you can do to try and avoid problems 1 and 2. You can remove obvious identifiers in your training data. You can deduplicate the input data. You can use regularization during training. You can apply alignment techniques after the fact to try and teach your model to not do bad things. You can tweak your prompt and tell your chatbot to pretty please don't reidentify people like a creep1. You can add a filter to your language model to catch things that look bad before they reach users. You can list all those in a nice-looking document, give it a fancy title like "Best practices in AI privacy", and feel really good about yourself. But at best, these will limit the chances that something goes wrong during normal operation, and make it marginally more difficult for attackers. The model will still have memorized a bunch of data. It will still leak some of this data if someone finds a clever way to extract it. Fundamental problems don't get solved by adding layers of ad hoc mitigations. 4. Robust protections exist, though their mileage may vary To prevent AI models from memorizing their input, we know exactly one robust method: differential privacy (DP). But crucially, DP requires you to precisely define what you want to protect. For example, to protect individual people, you must know which piece of data comes from which person in your dataset. If you have a dataset with identifiers, that's easy. If you want to use a humongous pile of data crawled from the open Web, that's not just hard: that's fundamentally impossible. In practice, this means that for massive AI models, you can't really protect the massive pile of training data. This probably doesn't matter to you: chances are, you can't afford to train one from scratch anyway. But you may want to use sensitive data to fine-tune them, so they can perform better on some task. There, you may be able to use DP to mitigate the memorization risks on your sensitive data. This still requires you to be OK with the inherent risk of the off-the-shelf LLMs, whose privacy and compliance story boils down to "everyone else is doing it, so it's probably fine?". To avoid this last problem, and get robust protection, and probably get better results… Why not train a reasonably-sized model entirely on data that you fully understand instead? It will likely require additional work. But it will get you higher-quality models, with a much cleaner privacy and compliance story. Understanding your training data better will also lead to safer models, that you can debug and improve more easily. 5. The larger the model, the worse it gets Every privacy problem gets worse for larger models. They memorize more training data. They do so in ways that more difficult to predict and measure. Their attack surface is larger. Ad hoc protections get less effective. Larger, more complex models also make it harder to use robust privacy notions for the entire training data. The privacy-accuracy trade-offs are steeper, the performance costs are higher, and it typically gets more difficult to really understand the privacy properties of the original data. Bonus thing: AI companies are overwhelmingly dishonest I think most privacy experts would agree with this post so far. There are divergences of opinion when you start asking "do the benefits of AI outweigh the risks". If you ask me, the benefits are extremely over-hyped, while the harms (including, but not limited to, privacy risks) are very tangible and costly. But other privacy experts I respect are more bullish on the potentials of this technology, so I don't think there's a consensus there. AI companies, however, do not want to carefully weigh benefits against risks. They want to sell you more AI, so they have a strong incentive to downplay the risks, and no ethical qualms doing so. So all these facts about privacy and AI… they're pretty inconvenient. AI salespeople would like it a lot if everyone — especially regulators — stayed blissfully unaware of these. Conveniently for AI companies, things that are obvious truths to privacy experts are not widely understood. In fact, they can be pretty counter-intuitive! >From a distance, memorization is surprising. When you train an LLM, sentences are tokenized, words are transformed into numbers, then a whole bunch of math happens. It certainly doesn't look like you copy-pasted the input anywhere. LLMs do an impressive job at pretending to be human. It's super easy for us to antropomorphize them, and think that if we give them good enough instructions, they'll "understand", and behave well. It can seem strange that they're so vulnerable to adversarial inputs. The attacks that work on them would never work on real people! People really want to believe that every problem can be fixed with just a little more work, a few more patches. We're very resistant to the idea that some problem might be fundamental, and not have a solution at all. Companies building large AI models use this to their advantage, and do not hesitate making statements that they clearly know to be false. Here's OpenAI publishing statements like « memorization is a rare failure of the training process ». This isn't an unintentional blunder, they know how this stuff works! They're lying through their teeth, hoping that you won't notice. Like every other point outlined in this post, this isn't actually AI-specific. But that's a story for another day… Additional remarks and further reading On memorization: I recommend Katharine Jarmul's blog post series on the topic. It goes into much more detail about this phenomenon and its causes, and comes with a bunch of references. One thing I find pretty interesting is that memorization may be unavoidable: some theoretical results suggest that some learning tasks cannot be solved without memorizing some of the input! On privacy attacks on AI models: this paper is a famous example of how to extract training data from language models. It also gives figures on how much training data gets memorized. This paper is another great example of how bad these attacks can be. Both come with lots of great examples in the appendix. On the impossibility of robustly preventing attacks on AI models: I recommend two blog posts by Arvind Narayanan and Sayash Kapoor: one about what alignment can and cannot do, the other about safety not being a property of the model. The entire blog post series is worth a read. On robust mitigations against memorization: this survey paper provides a great overview of how to train AI models with DP. Depending on the use case, achieving a meaningful privacy notion can be very tricky: this paper discusses the specific complexities of natural language data, while this paper outlines the subtleties of using a combination of public and private data during AI training. Acknowledgments Thanks a ton to Alexander Knop, Amartya Sanyal, Gavin Brown, Joe Near, Liudas Panavas, Marika Swanberg, and Thomas Steinke for their excellent feedback on earlier versions of this post. <https://desfontain.es/blog/privacy-in-ai.html>

Jan. 15, 2025

You don’t need a smartphone: a practical, personal guide to downgrading your device | Well actually | The Guardian

by Alberto Cammozzo

<https://www.theguardian.com/lifeandstyle/2025/jan/14/switching-smartphone-f…> I have spent years of my life online. I have nearly crashed my car because I was composing a message. I have had panic attacks over losing my data connection. I have scrolled for hours, and then failed to recall anything I saw during those hours. I have chosen a screen over a conversation, a view, a book, a good night’s sleep, a moment of quiet reflection. In other words, I have owned a smartphone. For the first half of my 20s, I was an online art influencer. That was my job. I documented all aspects of my life for an audience of almost 200,000 on Instagram. Nothing was off limits: creative process, mood swings, love life, hospital stays. My life was a one-woman tabloid, generating traffic for my art business. I needed the attention almost as much as I needed the money. I had few friends. I had a huge following. The balance was not sustainable. I became isolated and addicted to social media, and the two states perpetuated each other. One day, I broke down and deactivated my account. I ordered an old Nokia and everything changed. The effects of ditching my smartphone have been innumerable and nothing short of life-changing. It took going cold turkey to see just how distracted I’d become, how anxious, how easily bored, how resistant I’d become to silence, presence, pain and other natural human states. The benefits of downgrading accumulated gradually, over many months of withdrawal and adjustment. Even years after my downgrade, I am still noticing new benefits, aspects of myself that are only now emerging from beneath the shadow of tech addiction. I am never bored now. Everything is interesting. I read long books. I go on long walks without headphones. When I have to wait around – when a bus is late or a friend heads to the bathroom – I just sit there. I check my emails and such when I’m at my computer. I’ve found that when the internet is out of reach, it rarely crosses my mind. The most easily quantifiable benefit of downgrading is time. You will get hours of each day back when you stop scrolling. You can use that time to be healthy or social or productive, but you can also use it to be idle. Idleness is a lost art, and is in my opinion essential to mental health and creativity. I spend a good part of the day just flipping through periodicals, drinking cups of tea, poking clumsily at the piano. I don’t believe that it is possible to waste time when you’re fully present. If you’re interested in switching to a dumbphone, you might have questions about how practical or even possible it is. How do we go about our lives without Google Maps, calling over wifi, and dual-factor authentication? These questions can make it hard to fathom downgrading. But just remember that people lived for millennia without smartphones. With time, patience and clever workarounds, we can all find our way back to that. Here are my answers to some of the most common questions I’ve received. How do you use two-factor authentication? For security purposes, certain online platforms might require you to confirm your logins on a smartphone app. There are a few ways to deal with this, depending on the platform you’re using: Purchase a physical security device to plug into your computer while authenticating. One popular option is the YubiKey. Ask if you can receive SMS verification, if you work or study somewhere with an IT department. This will mean you can get an authentication code sent to your dumbphone, and sometimes this can be manually enabled – but be aware that this is a less secure method. Some dumbphones have browser functions that support dual-factor authentication. Use a backup phone (this might seem at first to defeat the purpose of a downgrade – we’ll discuss it later). If you find yourself stuck on this particular problem, you are not alone! This is one of the trickiest, and most essential, smartphone features to replicate. You can also check out online forums (such as the dumbphones subreddit) for more ideas. How can you stay in touch with friends, family and co-workers? After you downgrade, your new phone will still allow you to send text messages and place calls. The only potential complication is that many of us use online messaging to stay in touch, especially internationally. Fortunately, almost all of these – iMessage, Telegram, Facebook, Instagram – are accessible from your desktop computer. And while laptops are internet-connected devices, they will never prey on your attention the way a smaller, hand-held device will. In my experience, the only people you really need to contact on the go are those you’re coordinating with. What time will you be there? or I’m running late – that’s urgent information. Less urgent are group chats, messages to friends and family abroad, and DMs to social media acquaintances. These things might feel urgent, but once you step away from them, you may realize that the sense of urgency was a product of software engineering, your own anxiety, or a combination. How are you supposed to navigate without a maps app? Here’s something you might not have realized: most dumbphones feature a maps app. In fact, unlike the bricks of the early 2000s, some modern dumbphones feature Bluetooth, MP3 players, even a tiny, awkward-to-use search engine. If those amenities feel necessary to you, then by all means find a dumbphone that provides them. (I used to have a flip phone with Google Maps, but I recently downgraded to an even dumber phone because I was using the maps function obsessively, checking my ETA every few blocks to see whether I’d beat the estimated walking time. It’s incredible what suffices for entertainment once you’ve broken your smartphone addiction.) But it’s also possible to live without digital navigation tools. I personally prefer to navigate using a combination of: looking up directions before leaving the house, consulting posted transit maps, asking strangers for help, and generally acquainting myself with the area so I can get around intuitively. Interestingly, I find that I rarely need to consult my hand-drawn maps: the process of writing down directions serves to embed them in my brain. Over time, my accumulated knowledge of local geography and transportation has enabled me, for the most part, to navigate map-free. What about listening to music and podcasts? Even before the smartphone, people listened to audio on the go. You can find old MP3 players for cheap online and certain dumbphones feature audio players. You will, however, have to figure out a way to download what you want to listen to. Libraries are a great resource for CDs and audiobooks. Podcasts are accessible for free download and offline listening via Apple. If you’re looking for more recent releases, I strongly suggest purchasing them on Bandcamp, putting the money you’ve saved on your phone plan (not to mention the phone itself) toward supporting musicians. All that said, your need for audio stimulation will certainly decrease once you downgrade. Soon, you’ll find that you can happily move through the world with only your thoughts for entertainment. What about taking photos? I carry a film camera with me everywhere I go. Receiving my film scans is the highlight of my month – the photos are higher quality and strike me as far more special than any of the 60,000 photos I took on my smartphone before downgrading. The key difference is not just the film. You may well prefer a digital camera, and I know many dumbphone users who do. Regardless, using a real camera is a vastly different experience for two reasons: the friction of retrieving a separate device will make photo-taking a more deliberate act, and the mono-purpose nature of the camera will mean no distractions or intrusions as you use it. Is there anything you can’t use without a smartphone? As insistent as I am about the viability of smartphone-free living, even I have to admit that there are certain things that are impossible without one – impossible, that is, when you’re on the go, away from your computer and internet connection. These include WhatsApp, Spotify, tickets for certain concerts and sports matches, electric car charging, and location sharing. It’s easy to get hung up on these losses, but I encourage you to think instead about all you are gaining in the process: time, presence, peace of mind. Aren’t those things worth any inconvenience? … do I need a backup phone? A backup phone is a smartphone that ideally remains off and put away outside of special circumstances. Many dumbphone users still keep a smartphone in a drawer, or even at a friend’s house, just in case it’s required for verification. There are certain services and applications that just assume everyone has access to a smartphone, and the complication involved in circumventing these obstacles may not feel worth it. So, if you feel like you need a backup phone, then there’s no shame in keeping one for those moments of need (if you have an electric car and need to charge it, for example). However, for other everyday tasks, you will find they feel less urgent the less accessible they are. Do you really need to check your email on the train? Do you really need to buy concert tickets at the doctor’s office? Or can these things wait until you’re at your computer? It is easy to tally up the inconveniences involved in a downgrade. I encourage you to think instead about what you will gain, which is less quantifiable. Isn’t your newfound presence, attention and free time worth occasionally missing an email or showing up late to an event? Yes, there will be downsides, and you might be tempted to view them as justification for switching back. In those moments, try to reconnect with your original motivation for downgrading. Who did you want to become? Isn’t it worth it? It’s been years since I downgraded, and I’ve so fully adapted to the dumbphone that I forget all about it until someone else brings it to my awareness. “Do you miss having a smartphone?” they ask, and I think back to the height of my addiction. How could I miss that time? I was hardly even there.

Jan. 15, 2025

Re: [nexa] Intervista ad Andrea Cerroni

by Enrico Nardelli

Concordo, bella intervista. Non sono però d'accordo sul fatto che il termine da usare sia "intelligenza artificiale" (e non capisco bene l'argomentazione espressa nell'intervista) ritenendo più giusto (e anche più etimologicamente corretto) "intelligenza meccanica" come ho argomentato qua https://www.startmag.it/innovazione/intelligenza-artificiale-o-meccanica-qu… D'altro canto, mi è chiarissimo che ormai ce l'abbiamo e ce lo dobbiamo tenere, almeno fino a quando il baricentro del potere mondiale rimarrà negli USA. Ciao, Enrico Il 13/01/2025 08:11, Diego Giorio ha scritto: > Molto interessante! > Non ne ero assolutamente a conoscenza > > Buona settimana a tutti > > D. > > ------------------------------------------------------------------------ > *From:* nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of J.C. DE > MARTIN <juancarlos.demartin(a)polito.it> > *Sent:* Monday, January 13, 2025 6:21 AM > *To:* Nexa <nexa(a)server-nexa.polito.it> > *Subject:* [nexa] Intervista ad Andrea Cerroni > Segnalo questa intervista al Prof. Andrea Cerroni, recentemente ospite > del Centro Nexa: > > "CILE 1973: IL GOLPE DELL’ INTELLIGENZA ARTIFICIALE. INTERVISTA AL PROF. > ANDREA CERRONI" > https://giubberossenews.it/2025/01/07/cile-1973-il-golpe-dell-intelligenza-… > <https://giubberossenews.it/2025/01/07/cile-1973-il-golpe-dell-intelligenza-…>. > > jc > -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Jan. 15, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by alessandro marzocchi

Domando: "la parola" è una tecnologia? Tecnologia può essere ritenuta sinonimo di artefatto, opera umana? Ho scritto mestiere come attività, compito. Penso sia ragionevole ritenere la parola più antica della scrittura, questa ci accompagna da varie migliaia di anni, eppure ... c'è ancora il mestiere di chi insegna a leggere e scrivere, e far di conto, gl'informatici hanno lungo futuro. Se si vede il digitale come linguaggio - la stessa parola verbale è codice 1, la scrittura è codice 2, il digitale è codice 3 - con stima profonda simpatia sincera ed in breve: non complicateci la vita più del necessario, buona parte dei danni da informatica nascono quando il tecnico pretende di insegnare un mestiere che non conosce a chi questo mestiere lo fa, software hardware *HUMANWARE*, quando quest'ultimo sparisce appaiono i guai. Poi, nella mia ignoranza tecnica condivido le tue parole: siamo solo ai primordi (e questo aumenta le preoccupazioni: se questo è l'inizio ...). Cordialmente, Duccio (Alessandro Marzocchi) PS In sè, la tecnologia è neutrale, i dr Stranamore sono la minoranza ma i malfattori sono sempre all'erta (opinioni mie, niente di più). Il giorno mar 14 gen 2025 alle ore 22:52 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Il 14 Gennaio 2025 20:33:00 UTC, alessandro marzocchi <alemarzoc(a)gmail.com> > ha scritto: > > > > tre compagni di scuola si trovano dopo molto tempo. > > Abbracci domande racconti ben presto rinasce l'antica competizione: chi > fa > > il mestiere più importante? > > Certamente io, faccio l'architetto e tutti dicono che la creazione del > > mondo fu opera da architetto. > > Amici, ricordiamo che la creazione avvenne organizzando il caos, replicò > > il secondo amico che appunto si occupava di organizzazione. > > Sorridendo intervenne il terzo amico, informatico, e domandò: secondo > voi, > > chi aveva messo il caos? > > FANTASTICA! ! ! :-D > > > > Mestiere importante, quello dell'informatico, tanto importante che lo > > insegnerei a scuola. > > È un mestiere solo perché la disciplina è ancora ai primordi. > > Siamo ancora ai geroglifici, checché ne dica il Faraone. > > > Giacomo > > PS: "in principio era il Verbo"... :-) >

Jan. 14, 2025

Re: [nexa] Esistono "tecnologie" "politicamente neutrali"?

by Giacomo Tesio

Il 14 Gennaio 2025 20:33:00 UTC, alessandro marzocchi <alemarzoc(a)gmail.com> ha scritto: > > tre compagni di scuola si trovano dopo molto tempo. > Abbracci domande racconti ben presto rinasce l'antica competizione: chi fa > il mestiere più importante? > Certamente io, faccio l'architetto e tutti dicono che la creazione del > mondo fu opera da architetto. > Amici, ricordiamo che la creazione avvenne organizzando il caos, replicò > il secondo amico che appunto si occupava di organizzazione. > Sorridendo intervenne il terzo amico, informatico, e domandò: secondo voi, > chi aveva messo il caos? FANTASTICA! ! ! :-D > Mestiere importante, quello dell'informatico, tanto importante che lo > insegnerei a scuola. È un mestiere solo perché la disciplina è ancora ai primordi. Siamo ancora ai geroglifici, checché ne dica il Faraone. Giacomo PS: "in principio era il Verbo"... :-)

Jan. 14, 2025