Salve Orianna

On Wed, 9 Sep 2026 13:11:34 +0200 Oriana Bozzarelli  wrote:

Dimostra infatti che agenti molto capaci, persistenti e orientati
al raggiungimento di un obiettivo possono combinare autonomamente...

Automaticamente, non "autonomamente".

vulnerabilità diverse e provocare conseguenze reali non previste
dagli stessi sviluppatori.

Questo è ovviamente quello che OpenAI & friends vogliono farti credere,
per non rispondere delle proprie azioni quando utilizzano software
programmati statisticamente per compierle.

OpenAI lo ha definito un vero e proprio *warning shot*, un colpo
d’avvertimento. E per chi si occupa di valutazione e sicurezza dei
sistemi di IA è certamente un caso di studio fondamentale.

Io direi invece che è un caso di studio fondamentale solo per chi si
occupa di marketing e di controllo lobbying politico.

Chi si occupa di "valutazione e sicurezza dei sistemi di IA" dovrebbe
semplicemente qualificare le aziende che hanno FINTO simili incidenti
come inaffidabili e ad alto rischio operativo.

Conseguentemente, chi si occupa di assicurazioni dovrebbe incrementare
adeguatamente il premio alle aziende che ne utilizzano i servizi.


Giacomo
_______________________________________________
nexa mailing list -- nexa@server-nexa.polito.it
To change settings or unsubscribe please go to: https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/
The general archive of the list is located at: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/
Permalink to this message: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/message/MWIHCNJ4TZLB4ZBEGUXFJOPYOOXLPKND/