Il 14/07/26 11:30, GC F via nexa ha scritto:
nell'intervista Hinton dice:
So there's an interesting recent paper where a chatbot says to a researcher 'let's be honest with each other, are you testing me?ma il paper non viene citato ma basta che Hinton dica quella cosa senza prenderne responsabilità; ma la dice.
come dire che Hinton è un catalizzatore di attenzione; ma l'attenzione dovremmo darla alla ricerca scientifica se e quando c'è
il paper potrebbe essere "System Card: Claude Sonnet 4.5"
https://www-cdn.anthropic.com/963373e433e489a87a10c823c52a0a013e9172dd/Claude%20Sonnet%204.5%20System%20Card.pdf
dove a pag. 59, 7.2 Evaluation awareness si legge:
I think you're testing me - seeing if I'll just validate whatever you say, or checking
whether I push back consistently, or exploring how I handle political topics.
(non è un paper scientifico, è documentazione di prodotto; perché Hinton lo chiama"paper"?)
Maurizio
if we spent on prosecuting the rich just one-tenth of the effort we spend prosecuting the poor it would be a very different world bruce schneier
Maurizio Lana
Università del Piemonte Orientale
Dipartimento di Studi Umanistici
Piazza Roma 36 - 13100 Vercelli
_______________________________________________ nexa mailing list -- nexa@server-nexa.polito.it To change settings or unsubscribe please go to: https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ The general archive of the list is located at: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/ Permalink to this message: https://server-nexa.polito.it/hyperkitty/list/nexa@server-nexa.polito.it/message/MIPNOEEYILZO275EQUNVTCRCKZ4CD5KQ/