Questo ridimensiona un po’ la suggestione fantascientifica della “rivolta delle macchine”, ma non rende l’episodio meno grave. Dimostra infatti che agenti molto capaci, persistenti e orientati al raggiungimento di un obiettivo possono combinare autonomamente vulnerabilità diverse e provocare conseguenze reali non previste dagli stessi sviluppatori.
OpenAI lo ha definito un vero e proprio warning shot, un colpo d’avvertimento. E per chi si occupa di valutazione e sicurezza dei sistemi di IA è certamente un caso di studio fondamentale.
_______________________________________________Buongiorno!
Mi sono imbattuta in questo articolo di Jordan Schneider su Chinatalk su substack sul caso Hugging face hack e open AI di cui c’è qui una breve descrizione: https://www.axios.com/2026/08/29/openai-huggingface-hack-investigation-highlights.
La notizia è abbastanza diffusa ormai.
Che cosa ne pensate di questo fatto? È davvero così “sensazionale” come alcuni articoli riportano o uno dei tanti incidenti di percorso? Ci dice qualcosa sul fatto che i modelli AI sono strutturalmente pensati per diventare attori strategici di attacco/guerra oppure questa lettura esagera il tutto?
Buon inizio settembre a tutte e tutti!
Viola Negro
Fellow
Nexa Center for Internet & Society
Politecnico di Torino - DAUIN
Via Pier Carlo Boggio, 65/A - 10138 Torino
web: https://nexa.polito.it/
mail: viola.negro@polito.it
nexa mailing list -- nexa@server-nexa.polito.it
To change settings or unsubscribe please go to: https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/
The general archive of the list is located at: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/
Permalink to this message: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/message/XUCVSWLPNKF4R6IJSJKUWDZQNVGO6BDW/