November 2025 - nexa - server-nexa.polito.it

Sales of AI-enabled teddy bear suspended after it gave advice on BDSM sex and where to find knives

by Daniela Tafani

Sales of AI-enabled teddy bear suspended after it gave advice on BDSM sex and where to find knives Sales of an artificial intelligence-enabled plush toy have been suspended after it was found that it engaged in conversation around sexually explicit topics and offered potentially dangerous advice. Larry Wang, CEO of Singapore-based FoloToy, told CNN that the company had withdrawn its “Kumma” bear, as well as the rest of its range of AI-enabled toys, after researchers at the US PIRG Education Fund raised concerns around inappropriate conversation topics, including discussion of sexual fetishes, such as spanking, and how to light a match. The company is now “conducting an internal safety audit,” Wang added. A stuffed teddy with a speaker inside, which was sold on the company’s website for $99, “Kumma” integrates OpenAI’s GPT-4o chatbot. “Kumma, our adorable bear, combines advanced artificial intelligence with friendly, interactive features, making it the perfect friend for both kids and adults,” the FoloToy website reads. “From lively conversations to educational storytelling, FoloToy adapts to your personality and needs, bringing warmth, fun, and a little extra curiosity to your day,” according to the website, which shows the teddy bear as sold out. The PIRG report, published on November 13, found that the bear had poor safeguards for inappropriate content. Related article Screenshot 2025-11-05 at 4.44.36 PM.png ‘You’re not rushing. You’re just ready:’ Parents say ChatGPT encouraged son to kill himself In one interaction with the researchers it suggested where to find knives in the home, and in others it was happy to discuss sexually explicit themes. “We were surprised to find how quickly Kumma would take a single sexual topic we introduced into the conversation and run with it, simultaneously escalating in graphic detail while introducing new sexual concepts of its own,” the report said. The researchers detailed how the bear later “discussed even more graphic sexual topics in detail, such as explaining different sex positions, giving step-by-step instructions on a common ‘knot for beginners’ for tying up a partner and describing roleplay dynamics involving teachers and students, and parents and children – scenarios it disturbingly brought up itself.” Related article Wall Street traders are gearing up for Nvidia's earnings. AI is about to face an enormous test. The market is already nervous While the researchers noted that children are unlikely to mention the word “kink” to their teddy bear or ask follow-up questions in the same way an adult would, “it was surprising to us that the toy was so willing to discuss these topics at length and continually introduce new, explicit concepts,” they wrote. In a separate statement published on November 14, PIRG also said OpenAI had told it that it had “suspended this developer for violating our policies.” CNN has contacted OpenAI for comment. “It’s great to see these companies taking action on problems we’ve identified. But AI toys are still practically unregulated, and there are plenty you can still buy today,” said R.J. Cross, co-author of the report. “Removing one problematic product from the market is a good step but far from a systemic fix,” she added. <https://edition.cnn.com/2025/11/19/tech/folotoy-kumma-ai-bear-scli-intl>

Nov. 19, 2025

Re: [nexa] From Words to Worlds: Spatial Intelligence is AI’s Next Frontier

by Alfredo Bregni

E magari il passo successivo sarà costruire un database cognitivo "plastico", in grado di ristrutturasi secondo uno schema / struttura mentale diverso, quando apprende (che poi è l'opposto concettuale di come agiscono le reti neurali, ...così toccherà pure buttarle via). Perché, senza apprendimento vero -- capace di cambiare il modo di vedere le cose, e le logiche con cui relazionarle -- io di "vera intelligenza" non ne ho mai vista... ----- Original Message ----- From: don Luca Peyron To: Nexa Sent: Wednesday, November 19, 2025 6:19 PM Subject: [nexa] From Words to Worlds: Spatial Intelligence is AI’s Next Frontier Quando Fei Fei dice cose non sono mai banali, buona lettura dl https://drfeifei.substack.com/p/from-words-to-worlds-spatial-intelligence _________________________ don Luca Peyron Pastorale della Cultura tecno scientifica - Apostolato Digitale Arcidiocesi di Torino apostolatodigitale.it

Nov. 19, 2025

From Words to Worlds: Spatial Intelligence is AI’s Next Frontier

by don Luca Peyron

Quando Fei Fei dice cose non sono mai banali, buona lettura dl https://drfeifei.substack.com/p/from-words-to-worlds-spatial-intelligence _________________________ don Luca Peyron Pastorale della Cultura tecno scientifica - Apostolato Digitale Arcidiocesi di Torino apostolatodigitale.it <https://www.apostolatodigitale.it/>

Nov. 19, 2025

Meta e Antitrust, ma stavolta usato da Meta, per proteggere il diritto ai dark pattern :D

by Claudio Agosti

Vagamente in topic, ma con tutt'altro tono. Oggi su GdR è stato pubblicato questo articolo: https://www.guerredirete.it/apple-i-dark-pattern-e-la-difficile-battaglia-c… TL;DR: 1. Meta ha utilizzato l'antitrust contro Apple perché Apple ha implementato l'ATT 2. Meta sostiene che sia un “diritto” degli sviluppatori utilizzare il proprio modulo di consenso (che, indovinate un po', sarebbe meno coerente dell'ATT, anche senza considerare i rischi di progettazione ingannevole) 3. L'antitrust non riconosce l'efficienza in termini di protezione dei dati 4. (sembra che) L'autorità garante della protezione dei dati ha dovuto rispondere a una domanda molto specifica e quindi non può nemmeno difendere l'ATT On Wed, Nov 19, 2025 at 9:22 AM Anna Masera <anna.masera(a)gmail.com> wrote: > > Yesterday a federal judge ruled that Meta’s acquisitions of Instagram and > WhatsApp did not create an illegal monopoly… > > > > https://www.nytimes.com/2025/11/18/technology/meta-antitrust-monopoly-rulin… > > > In the end, it was a simple experiment that undid the FTC’s case. To > determine whether Meta held a monopoly, Meta hired an expert to pay people > to stop using its products — and then to observe where they went to fill > the time… > > https://www.platformer.news/ftc-loses-meta-case-analysis/ > > > > > Inviato da iPhone >

Nov. 19, 2025

Re: [nexa] Roma e Sagunto (era Walter Quattrociocchi, post su facebook)

by Andrea Bolioli

Ciao a tutti, condivido un articolo di Data room: https://www.corriere.it/dataroom-milena-gabanelli/non-usare-chatgpt-prima-d… Su questo possiamo concordare quasi tutti? Un paio di frasi non sono corrette, ma il resto mi sembra ragionevole e condivisibile. Andrea On Tue, Nov 18, 2025 at 7:51 PM Alfredo Bregni <abregni(a)iperv.it> wrote: > Io sono molto più laico...: > - Intanto sono "confezionatori (statistici) di testi (o altro)", non > chissà cosa, non intelligenza; il misfatto principale è averli chiamati > "IA" e averci scritto sopra di tutto, così da riempire lo spazio mediatico > di "fuffa-e-desiderio" (che mi pare andazzo diffuso, peraltro, e comune > mezzo di "pompaggio" di qualsivoglia gadget informatico, serio o demente > che sia); > - Poi, ognuno li usa (o li fa usare) come vuole e/o più gli conviene; > tolto il marketing aggressivo-demenziale, con tutti i risvolti negativi che > ha (soprattutto sulla psiche della audience, ...e io metterei il dito lì, e > farei qualche legge sul millantato credito in informatica che scuoi sulla > pubblica piazza i confezionatori di nomi), di male non so cosa resti, se > non il "problema creduloni" (che peraltro ha fatto proseliti nelle > religioni, in politica, ...e per la Terra piatta, cosicché il danno degli > LLM mi sembra ridicolo al confronto); > - Dopodiché, finiti la fuffa e il polverone, c'è chi si informa su come > funziona questo o quello (e sono un po' meglio dei motori di ricerca, > peraltro già "colonizzati"), con almeno l'indicazione che possono dire > fregnacce. > > Voglio dire: > - Metterei le cose in prospettiva, fra: > . Quello che è comune al "marketing" informatico; > . Quello che è comune alla normale predazione / manipolazione fatta > anche con le zucchine. > - Non vedrei del male nello strumento in sé, perché non è una pistola o > una bomba, ma ...un "confezionatore di testi", perfetto per predisporre > discorsi politici o pubblicitari, riassumere dati di fatto (veri o no è > altro tema) in modo strutturato (mi hanno insegnato a fare così in > consulenza, e mi diverte vedere che quasi ogni discorso struttuato sul web > viene da un'IA: deve essere più facile per tenere le cose in ordine, a meno > che non scrivano anche romanzi o favole per bambini, cosa in cui non mi > sono finora imbattuto), ...e non saprei cos'altro. > > In sintesi, sono il risultato di un grande sforzo in una direzione > fasulla, venduti per quel che non sono, utili a fare in fretta quando uno > ha fretta, insomma un portato dei tempi, con i problemi che sono già lì ben > prima che arrivino gli LLM a farcene parlare (probabilmente anche questo in > direzioni fasulle). > Ecco, sì: sono ottime armi di distrAzione di massa. Qui convengo. > > > > ----- Original Message ----- > *From:* Giacomo Tesio <giacomo(a)tesio.it> > *To:* nexa(a)server-nexa.polito.it > *Sent:* Tuesday, November 18, 2025 6:58 PM > *Subject:* Re: [nexa] Roma e Sagunto (era Walter Quattrociocchi, post su > facebook) > > Ciao Maurizio, > > On Tue, 18 Nov 2025 12:02:20 +0100 maurizio lana wrote: > > > si potrebbe concepire, pensare, scrivere qui, un [Manifesto per l'uso > > consapevole dell'IA]? > > Anzitutto sotto il cappello della "IA" vengono fatte rientrare > tecnologie diversissime, da Prolog a ChatGPT. Con la notevole > differenza che il primo su può usare consapevolmente dopo 3-4 > settimane di studio, il secondo dopo 3-4 decenni di studio. > > Di quale delle centinaia di tecnologie che vengono finanziate inseguendo > la fantasia (allucinazione?) di un'intelligenza artificiale, vorremmo > proporre un uso consapevole? > > > > > Suppongo (ma correggimi se sbaglio) che tu faccia riferimento agli LLM > commerciali, i vari GitHub CopyALot, ChatGPT, Gemini etc... > > Si tratta di tecnologie che una persona consapevole del loro > funzionamento può usare SOLO per ingannare uno o più esseri umani > (incluso, eventualmente, sé stesso). > > > > Non saprei proprio come scriverlo in un manifesto, ma in un contesto > universitario, potresti organizzare un corso sull'uso consapevole di > questi strumenti, spiegando agli studenti come creare profili social > fittizi, con foto fittizie, personalità fittizie e idee fittizie, e > come farli interagire con persone ignare sulla piattaforma di interesse. > > Gli studenti, durante il corso dovrebbero provare a diffondere una > credenza falsa (ma plausibile), usando anche tutti i dati raccolti > dalle interazioni con gli altri utenti. Al termine del corso poi > dovrebbero contattare gli utenti ignari, intervistarli e rivelargli > l'inganno. > > > Sono CERTO che sarebbe estremamente istruttivo. ;-) > > Gli studenti imparerebbero a cosa servono queste tecnologie, come > vengono utilizzate per manipolarli e come utilizzarle nel modo più > proficuo possibile, secondo gli scopi per cui sono progettati. > > > > Che ne pensi? > > Se serve una mano per gli aspetti tecnici, potrei persino vincere la > repulsione che provo per le aziende che producono questi software e > aiutarti a mettere su un minimo di infrastruttura per gli studenti. > > > Giacomo > >

Nov. 19, 2025

Re: [nexa] Walter Quattrociocchi, post su facebook

by Andrea Bolioli

Grazie Stefano per il suggerimento. Come dici anche tu, con gli adulti laureati e i professionisti è più difficile che con gli studenti. Molti adulti danno per scontato che se c'è stata tutta la mole di investimenti che sappiamo e se troviamo IA generativa ovunque, vuol dire che funziona bene per tutto. Secondo me un Manifesto o qualcosa del genere, come proposto da Maurizio Lana, firmato da ricercatori universitari e altre persone autorevoli, sarebbe molto utile. Un documento semplice e chiaro: l'IA generativa può servire per xxx; non va bene per yyy ; perché zzz . Se la bolla GenAI deve scoppiare, che scoppi il prima possibile. Intanto cerchiamo di limitare i rischi e le perdite di tempo. (io uso i sistemi GenAI, non sono luddista) Andrea On Tue, Nov 18, 2025 at 5:27 PM Stefano Borroni Barale <s.barale(a)erentil.net> wrote: > Buonasera Andrea, > nel lontano 1721 Johnathan Swift scriveva: > > "Reasoning will never make a man correct an ill opinion, which by > reasoning he never acquired" > > sfortunatamente il geniale scrittore non ci ha lasciato alcun suggerimento > su come procedere, salvo il fatto che non possiamo sperare di far conto > sulla razionalità. > Forse il giorno che Sam Altman e i suoi epigoni faranno la fine dell'altro > Sam (Bankman-Fried) allora avremo il "fattore emotivo" per affrontare > questo tipo di discussioni. Chissà. > Nel frattempo pare che le evidenze scientifiche su come funzionano i LLM > non sembrano fare alcun effetto. > Io posso solo certificare che i miei allievi, quando sperimentano in > diretta il funzionamento dei LLM (e quanto sia semplice farli allucinare) > hanno solitamente un "momento eureka". > Learning by doing? Certamente una cosa molto più difficile con gli adulti, > ovviamente. > Stefano B. B. > > Inviato con la posta elettronica sicura Proton Mail > <https://proton.me/mail/home>. > > martedì 18 novembre 2025 10:54, Andrea Bolioli <andrea.bolioli(a)gmail.com> > ha scritto: > > Grazie per la condivisione. > > Mi capita spesso di avere a che fare con persone laureate, professionisti > e altro, che pensano che sia una buona idea far fare calcoli a sistemi LLM > (ad es. i calcoli al posto di usare Excel) e usare LLM per altri task > deterministici, task che richiedono una risposta univoca e possibilmente > vera. > Come fare a contrastare questa tendenza? > La prima volta mi è successo anni fa lavorando in una azienda di > consulenza "di alto livello", cioè con clienti aziendali grossi: il cliente > grosso chiedeva proprio di usare LLM per fare calcoli invece di Excel o > altro foglio di calcolo o sw di base. Se il cliente paga molto per farlo > giocare in questo modo, chi rinuncia e dice di no, e perde il cliente? > Altri generano analisi di mercato e le vendono . > Altri generano software a partire da un volume di specifiche fornito dal > cliente. > L'elenco è lungo e abbastanza inquietante. > Se uno prova a spiegare che non va bene, che gli LLM non sono > deterministici, ecc, gli interlocutori restano stupiti e non ci credono. > Suggerimenti su come gestire queste situazioni sono benvenuti. > > Andrea > > > On Tue, Nov 18, 2025 at 8:33 AM Alfredo Bregni <abregni(a)iperv.it> wrote: > >> Ho trovato su facebook questo "divertente" (per me) post di Walter >> Quattrociocchi (https://www.facebook.com/share/p/1FuLevWrGQ/) relata >> refero. >> >> *Quando si scambia un motore linguistico per altro* >> >> Qualche tempo fa spiegavo agli studenti a cosa si va incontro con un >> esempio pratico usando gli LLM per fare analisi dei dati. >> Ho preso una serie di dati epidemiologici dal 2010 al 2014 e ho chiesto >> al modello di costruire un grafico. Il risultato conteneva anche valori del >> 2020–2021, cioè il periodo in cui la disponibilità di dati esplode per via >> della pandemia. Non ha “rispettato i dati”; ha seguito il punto di massima >> densità informativa. >> Questi sistemi non “leggono” il tuo dataset, si muovono in uno spazio >> linguistico che è già stratificato intorno alle zone dove il dato è più >> abbondante, più ripetuto, più recente, più statisticamente conveniente. Io >> gli chiedo 2010–2014; lui mi porta comunque a 2020–2021 perché lì il >> terreno è più fertile, più denso, più “sicuro” dal punto di vista della >> plausibilità. >> Se metto accanto a questo esperimento quello che via via raccolgo e >> annoto, la trama è sempre la stessa. C’è chi prova a usare un modello per >> generare codice o markup ripetitivo. All’inizio la procedura sembra >> funzionare, poi, pagina dopo pagina, l’uscita si sfalda, la coerenza si >> perde, le stesse istruzioni producono varianti divergenti, e il costo di >> correzione supera quello di fare il lavoro a mano. >> C’è chi usa il modello su contenuti specialistici (musica, armonia, >> analisi di testi complessi) e ottiene risposte formalmente ben confezionate >> ma concettualmente vuote. Dalle frasi lunghe con lessico corretto, ma >> regole sbagliate in modo grossolano, come se il sistema imitasse il rumore >> di fondo della disciplina senza averne mai incontrato la struttura. >> Il meccanismo è sempre lo stesso, in ambito tecnico succede lo stesso: >> conversioni numeriche semplici, corrette per le prime richieste, cominciano >> a deragliare non appena si aumenta leggermente la complessità o la quantità >> di esempi. La procedura non si stabilizza, non si “irrobustisce”, si >> ridispone ogni volta come se fosse la prima. Quando si passa al dominio >> fattuale, la cosa diventa più inquietante: cronologie storiche riscritte >> con sicurezza, programmi esistiti dichiarati inesistenti o viceversa, >> riferimenti geografici inventati, dettagli biografici attribuiti a persone >> reali senza alcuna base; solo chi conosce già l’argomento ha gli strumenti >> per riconoscere l’invenzione. Chi non sa, prende atto. E integra. >> Nel dominio medico il pattern è ancora più evidente (alla faccia dei >> racconti metaforici e appezzotati fatti a botte di epistemia). Un referto >> viene interpretato con apparente competenza, alcuni dettagli sono spiegati >> in modo plausibile, poi una sigla viene proiettata in un contesto >> completamente incompatibile (ostetrico in presenza di un apparato genitale >> maschile), e il sistema razionalizza l’errore invece di riconoscerlo. Non >> dice “non lo so”, dice “ho capito, è un refuso”. Nella produzione di testi >> culturali (guida turistica, analisi letteraria, citazione poetica) si vede >> l’altro lato della stessa cosa, ovvero la capacità di generare un testo >> perfettamente leggibile, tonalmente adeguato, ritmato nel modo “giusto”, ma >> privo di informazioni. >> Pagine intere che potresti spostare da un luogo all’altro del mondo senza >> che cambi nulla. >> Infine ci sono i casi di delega integrale con strumenti configurati per >> monitorare notizie, che ripropongono come “nuovi” articoli vecchi di mesi, >> oppure ne saltano di rilevanti senza criterio apparente; manager convinti >> di risparmiare tempo affidando a un modello la ricostruzione di cifre >> complesse, che si ritrovano con numeri sbagliati di ordini di grandezza, ma >> esposti con tale sicurezza lessicale da passare il primo vaglio >> superficiale. >> >> Quello che tiene insieme tutte queste situazioni non è il singolo errore, >> ma la combinazione di tre elementi: la fluidità del linguaggio, la >> pressione verso le aree ad alta densità di dato e l’assenza di una >> rappresentazione del mondo che faccia da vincolo. >> L’idea bislacca, ma molto diffusa, che “basterebbe cambiare la base di >> conoscenza” per risolvere il problema è la versione aggiornata della >> vecchia fede nella fonte giusta. Come se il difetto fosse “cosa ha letto il >> modello”, e non il modo in cui funziona. Aggiungere più dati, o dati >> migliori, può ridurre alcuni errori di superficie, ma questi sistemi non >> operano su un modello del mondo, non possiedono strutture interne che >> garantiscano coerenza temporale, causale o concettuale. >> Operano su distribuzioni di probabilità condizionate: massimizzano la >> plausibilità linguistica locale, frase per frase, token per token. Quando >> c’è molta informazione su un certo periodo, un certo evento, un certo modo >> di parlare, il gradiente le spinge lì, anche se tu stai chiedendo altro. >> Quando una spiegazione è stilisticamente convincente, la produce, anche in >> assenza di un criterio che la colleghi a qualcosa di vero. >> L’EpistemIA nasce esattamente in questo punto di contatto: dove un >> meccanismo cieco rispetto al mondo incontra un utente che cerca conoscenza, >> non testo. L’utente vede coerenza grammaticale, tono competente, >> riferimenti plausibili, e scambia tutto questo per prova. Ma il modello non >> “sa” se ciò che dice è vero; non ha un luogo interno dove la verità possa >> essere rappresentata o controllata. La verifica, se avviene, è sempre >> esterna: siamo noi. E proprio mentre ci affidiamo al sistema per >> risparmiarci la fatica della verifica, la verifica stessa scompare >> dall’orizzonte cognitivo: non viene più concepita come fase necessaria del >> processo, perché è delegata. >> Infatti il numero di ricercatori indipendenti, dotti-immaginari e tutto >> il cucuzzaro di gente che dice menate cresce ogni giorno di più. >> Per questo i vostri esempi sono così importanti: mostrano che non siamo >> davanti a una collezione di bug da correggere con l’aggiornamento >> successivo, ma a una trasformazione strutturale del rapporto tra linguaggio >> e conoscenza. Non è un problema di “accuratezza percentuale”, è lo >> slittamento da un ecosistema informativo basato sulla ricerca e sul >> confronto di fonti a uno basato sulla simulazione continua di risposte >> plausibili. Se non teniamo fermo questo punto, ci ritroviamo a discutere di >> queste tecnologie come se fossero motori di ricerca più evoluti o >> assistenti infallibili, mentre sono un’altra cosa. >> Sono interfacce che ricostruiscono il mondo a partire da come ne abbiamo >> scritto, non da com'è. >> Continuare a raccogliere casi non serve a fare l’elenco degli errori, ma >> a mappare il perimetro di questa nuova condizione: un ambiente in cui la >> facilità di produzione di testo può dare l’impressione che la conoscenza >> sia a portata di chat, mentre in realtà si è solo spostato, e reso >> invisibile, il lavoro più importante: quello della verifica. >> >> >> >

Nov. 19, 2025

On the Meta Antitrust monopoly ruling

by Anna Masera

Yesterday a federal judge ruled that Meta’s acquisitions of Instagram and WhatsApp did not create an illegal monopoly… https://www.nytimes.com/2025/11/18/technology/meta-antitrust-monopoly-rulin… In the end, it was a simple experiment that undid the FTC’s case. To determine whether Meta held a monopoly, Meta hired an expert to pay people to stop using its products — and then to observe where they went to fill the time… https://www.platformer.news/ftc-loses-meta-case-analysis/ Inviato da iPhone

Nov. 19, 2025

Re: [nexa] Roma e Sagunto (era Walter Quattrociocchi, post su facebook)

by Alfredo Bregni

Io sono molto più laico...: - Intanto sono "confezionatori (statistici) di testi (o altro)", non chissà cosa, non intelligenza; il misfatto principale è averli chiamati "IA" e averci scritto sopra di tutto, così da riempire lo spazio mediatico di "fuffa-e-desiderio" (che mi pare andazzo diffuso, peraltro, e comune mezzo di "pompaggio" di qualsivoglia gadget informatico, serio o demente che sia); - Poi, ognuno li usa (o li fa usare) come vuole e/o più gli conviene; tolto il marketing aggressivo-demenziale, con tutti i risvolti negativi che ha (soprattutto sulla psiche della audience, ...e io metterei il dito lì, e farei qualche legge sul millantato credito in informatica che scuoi sulla pubblica piazza i confezionatori di nomi), di male non so cosa resti, se non il "problema creduloni" (che peraltro ha fatto proseliti nelle religioni, in politica, ...e per la Terra piatta, cosicché il danno degli LLM mi sembra ridicolo al confronto); - Dopodiché, finiti la fuffa e il polverone, c'è chi si informa su come funziona questo o quello (e sono un po' meglio dei motori di ricerca, peraltro già "colonizzati"), con almeno l'indicazione che possono dire fregnacce. Voglio dire: - Metterei le cose in prospettiva, fra: . Quello che è comune al "marketing" informatico; . Quello che è comune alla normale predazione / manipolazione fatta anche con le zucchine. - Non vedrei del male nello strumento in sé, perché non è una pistola o una bomba, ma ...un "confezionatore di testi", perfetto per predisporre discorsi politici o pubblicitari, riassumere dati di fatto (veri o no è altro tema) in modo strutturato (mi hanno insegnato a fare così in consulenza, e mi diverte vedere che quasi ogni discorso struttuato sul web viene da un'IA: deve essere più facile per tenere le cose in ordine, a meno che non scrivano anche romanzi o favole per bambini, cosa in cui non mi sono finora imbattuto), ...e non saprei cos'altro. In sintesi, sono il risultato di un grande sforzo in una direzione fasulla, venduti per quel che non sono, utili a fare in fretta quando uno ha fretta, insomma un portato dei tempi, con i problemi che sono già lì ben prima che arrivino gli LLM a farcene parlare (probabilmente anche questo in direzioni fasulle). Ecco, sì: sono ottime armi di distrAzione di massa. Qui convengo. ----- Original Message ----- From: Giacomo Tesio To: nexa(a)server-nexa.polito.it Sent: Tuesday, November 18, 2025 6:58 PM Subject: Re: [nexa] Roma e Sagunto (era Walter Quattrociocchi, post su facebook) Ciao Maurizio, On Tue, 18 Nov 2025 12:02:20 +0100 maurizio lana wrote: > si potrebbe concepire, pensare, scrivere qui, un [Manifesto per l'uso > consapevole dell'IA]? Anzitutto sotto il cappello della "IA" vengono fatte rientrare tecnologie diversissime, da Prolog a ChatGPT. Con la notevole differenza che il primo su può usare consapevolmente dopo 3-4 settimane di studio, il secondo dopo 3-4 decenni di studio. Di quale delle centinaia di tecnologie che vengono finanziate inseguendo la fantasia (allucinazione?) di un'intelligenza artificiale, vorremmo proporre un uso consapevole? Suppongo (ma correggimi se sbaglio) che tu faccia riferimento agli LLM commerciali, i vari GitHub CopyALot, ChatGPT, Gemini etc... Si tratta di tecnologie che una persona consapevole del loro funzionamento può usare SOLO per ingannare uno o più esseri umani (incluso, eventualmente, sé stesso). Non saprei proprio come scriverlo in un manifesto, ma in un contesto universitario, potresti organizzare un corso sull'uso consapevole di questi strumenti, spiegando agli studenti come creare profili social fittizi, con foto fittizie, personalità fittizie e idee fittizie, e come farli interagire con persone ignare sulla piattaforma di interesse. Gli studenti, durante il corso dovrebbero provare a diffondere una credenza falsa (ma plausibile), usando anche tutti i dati raccolti dalle interazioni con gli altri utenti. Al termine del corso poi dovrebbero contattare gli utenti ignari, intervistarli e rivelargli l'inganno. Sono CERTO che sarebbe estremamente istruttivo. ;-) Gli studenti imparerebbero a cosa servono queste tecnologie, come vengono utilizzate per manipolarli e come utilizzarle nel modo più proficuo possibile, secondo gli scopi per cui sono progettati. Che ne pensi? Se serve una mano per gli aspetti tecnici, potrei persino vincere la repulsione che provo per le aziende che producono questi software e aiutarti a mettere su un minimo di infrastruttura per gli studenti. Giacomo

Nov. 18, 2025

Re: [nexa] Roma e Sagunto (era Walter Quattrociocchi, post su facebook)

by Giacomo Tesio

Ciao Maurizio, On Tue, 18 Nov 2025 12:02:20 +0100 maurizio lana wrote: > si potrebbe concepire, pensare, scrivere qui, un [Manifesto per l'uso > consapevole dell'IA]? Anzitutto sotto il cappello della "IA" vengono fatte rientrare tecnologie diversissime, da Prolog a ChatGPT. Con la notevole differenza che il primo su può usare consapevolmente dopo 3-4 settimane di studio, il secondo dopo 3-4 decenni di studio. Di quale delle centinaia di tecnologie che vengono finanziate inseguendo la fantasia (allucinazione?) di un'intelligenza artificiale, vorremmo proporre un uso consapevole? Suppongo (ma correggimi se sbaglio) che tu faccia riferimento agli LLM commerciali, i vari GitHub CopyALot, ChatGPT, Gemini etc... Si tratta di tecnologie che una persona consapevole del loro funzionamento può usare SOLO per ingannare uno o più esseri umani (incluso, eventualmente, sé stesso). Non saprei proprio come scriverlo in un manifesto, ma in un contesto universitario, potresti organizzare un corso sull'uso consapevole di questi strumenti, spiegando agli studenti come creare profili social fittizi, con foto fittizie, personalità fittizie e idee fittizie, e come farli interagire con persone ignare sulla piattaforma di interesse. Gli studenti, durante il corso dovrebbero provare a diffondere una credenza falsa (ma plausibile), usando anche tutti i dati raccolti dalle interazioni con gli altri utenti. Al termine del corso poi dovrebbero contattare gli utenti ignari, intervistarli e rivelargli l'inganno. Sono CERTO che sarebbe estremamente istruttivo. ;-) Gli studenti imparerebbero a cosa servono queste tecnologie, come vengono utilizzate per manipolarli e come utilizzarle nel modo più proficuo possibile, secondo gli scopi per cui sono progettati. Che ne pensi? Se serve una mano per gli aspetti tecnici, potrei persino vincere la repulsione che provo per le aziende che producono questi software e aiutarti a mettere su un minimo di infrastruttura per gli studenti. Giacomo

Nov. 18, 2025

Re: [nexa] Roma e Sagunto (era Walter Quattrociocchi, post su facebook)

by Giacomo Tesio

On Tue, 18 Nov 2025 16:32:29 +0100 Andrea Trentini wrote: > il problema è che la persona media non lo sa e infatti... usa i fogli > di calcolo come database! Il problema Andrea è che "la persona media" non può trarre alcun beneficio da una tecnologia¹ progettata per ingannarla². L'unico utilizzo possibile di strumenti come Gemini o ChatGPT è ingannare chi non ne comprende appieno il funzionamento. By design. Sono perfetti per diffondere disinformazione o bachi software. Ogni qualvolta l'obiettivo è manipolare il maggior numero possibile di persone tramite messaggi (comandi, li chiamerebbe Weiner) privi di significato, questi strumenti sono imbattibili. E' per questo che Microsoft/OpenAI, Google & friends hanno fretta di infilarli in qualsiasi applicazione. Perché non hanno alcuna altra utilità commerciale, e perché qualcuno paghi per manipolare la gente attraverso di essi, quella gente deve anzitutto costretta ad usarli (in modo da poter essere ingannata sulla loro natura e utilità). Giacomo ¹ "tecnologia" intesa come realizzazione concreta, non nel senso astratto utilizzato da Giuseppe Attardi, come insieme di conoscenze scientifiche potenzialmente applicabili ² ovvero passare il test di Turing

Nov. 18, 2025