invece io ho pensato che sia una parata di terga contro cause per violazione copyright. e' solo l'accesso a internet (simil google) che migliore i risultati. di base l'LLM e' un predittore casuale, non plagia.. On 07/07/25 10:07, Giacomo Tesio wrote:
Attenta Daniela che questo "trivial pursuit for LLMs" è una polpetta avvelenata per voi ricercatori:
On Sun, 6 Jul 2025 12:34:27 +0000 Daniela Tafani wrote:
Open AI study shows factual error rate for the 4 new ChatGPT models, with hallucinations getting much worse: 48- 90%. GPT-4o-mini: 8.6% correct answers, 0.9% unanswered, and 90.5% incorrect.
01-mini: 8.1% correct answers, 28.5% unanswered, and 63.4% incorrect.
GPT-40: 38.2% correct answers, 1.0% unanswered, and 60.8% incorrect.
01-preview: The top performer, with 42.7% correct answers, 9.2% unanswered, and 48% incorrect.
Potrebbe sembrare che Open AI stia riconoscendo che i suoi LLM sono inaffidabili (cosa che chiunque ne comprendesse il funzionamento o avesse almeno preservato un minimo di lucidità, sapeva già), ma l'obiettivo di Open AI è molto più subdolo.
``` A factuality benchmark like SimpleQA also allows us to measure the scientific phenomenon known as calibration, or whether language models “know what they know.” ```
Ignorando completamente come funziona un LLM, gli si "chiede" di fornire una stima della correttezza delle risposte. Ovviamente la stima dipenderà esclusivamente dalla frequenza con cui ciascun token di una stima simile era presente nei testi sorgente.
Ma Open AI vuole convincervi che l'aderenza della "stima" alla frequenza misurata in output della risposta giusta dimostra coscienza del significato della domanda e della risposta, coscienza della propria fallibilità e coscienza dell'esistenza della realtà.
Così poi Open AI programmerà statisticamente il prossimo LLM in modo da massimizzare non solo la correttezza delle risposte a domande con risposta breve contenute in un benchmark, ma anzitutto l'aderenza della stima alla probabilità effettiva.
Il corpus conterrà 95 frasi del tipo ``` Quanti articoli ha la Costituzione Italiana? 139 (al 95%). Quanti articoli ha la Costituzione Italiana? 139 (confidenza al 95%). Quanti articoli ha la Costituzione Italiana? Al 95% di probabilità, 139. ... ``` e poi una 5% di frasi che danno, sempre intorno al 95% una risposta sbagliata.
In questo modo Open AI & friends potranno far credere di aver risolto il problema degli errori statistici (ribattezzato "allucinazioni").
Una volta convinti abbastanza adepti che ChatGPT "knows what it knows" sarà nettamente più semplice insistere con l'antropomorfizzazione di tale software, evitando di risponderne e razionalizzandone gli errori (come già fanno coloro che rispondono "eh ma anche io avrei sbagliato").
Open AI infatti conclude: ``` SimpleQA is a simple but challenging benchmark for evaluating the factuality of frontier models. A main limitation in SimpleQA is its scope—while SimpleQA is accurate it only measures factuality under the constrained setting of short, fact-seeking queries with a single, verifiable answer. Whether the ability to provide factual short answers correlates with the ability to write lengthy responses filled with numerous facts remains an open research question. We hope that open-sourcing SimpleQA drives the research on more trustworthy and reliable AI forward, and we invite researchers to evaluate the factuality of language models with it, and to provide us feedback. ```
La brevità delle risposte è cruciale in Simple QA: serve per avere un benchmark facile da truccare.
Attenti a non avvalorarne la rilevanza scientifica: è proprio ciò che Open AI vuole e la sola ragione per cui ha incluso percentuali così impietose coi propri prodotti nel proprio studio.
Così programmerà il prossimo LLM per "giocare" bene a questo trivial pursuit e i critici di oggi non avranno fatto altro che supportarne il marketing.
E dal sostenere che un software "knows what it knows" a sostenere che sia cosciente della realtà (e magari di sé) il passo è breve.
Giacomo
-- You can reach me on Signal: @quinta.01 (no Whatsapp, Telegram)