Ciao JC (ed altri) il termine "hallucinations" e' un falso ideologico a pag. 46 del GPT4 technical report https://cdn.openai.com/papers/gpt-4.pdf openAI scrive "Ha la tendenza ad avere allucinazioni, cioè a produrre contenuti senza senso o non veritieri in relazione a determinate fonti. Questa tendenza può essere particolarmente dannosa quando i modelli diventano sempre più convincenti e credibili, portando gli utenti a fare eccessivo affidamento su di essi." e in una nota a pie' pagina: " Usiamo il termine “allucinazioni”, anche se riconosciamo come questo inquadramento possa suggerire un’antropomorfizzazione, che a sua volta può portare a danni o a modelli mentali errati di come il modello apprende”." lanciano un sistema che sanno che produrrà effetti negativi sulla società e propagandano un termine che sanno essere sbagliato, fuorviante e che produrrà danni lo ripeto sempre... l'ho detto a radio radicale di rcente e lo ho scritto piu' volte, una qui https://blog.quintarelli.it/2024/05/internal-divisions-linger-at-openai-afte... ciao, s. On 19/06/24 10:51, J.C. DE MARTIN wrote:
*ChatGPT is bullshit * Michael Townsen Hicks1 · James Humphries1 · Joe Slater1
/Abstract /Recently, there has been considerable interest in large language models: machine learning systems which produce human- like text and dialogue. Applications of these systems have been plagued by persistent inaccuracies in their output; these are often called “AI hallucinations”. We argue that these falsehoods, and the overall activity of large language models, is better understood as bullshit in the sense explored by Frankfurt (On Bullshit, Princeton, 2005): the models are in an important way indifferent to the truth of their outputs. We distinguish two ways in which the models can be said to be bullshitters, and argue that they clearly meet at least one of these definitions. We further argue that describing AI misrepresentations as bullshit is both a more useful and more accurate way of predicting and discussing the behaviour of these systems.
https://link.springer.com/article/10.1007/s10676-024-09775-5
Hicks, M.T., Humphries, J. & Slater, J. ChatGPT is bullshit. /Ethics Inf Technol/ *26*, 38 (2024). https://doi.org/10.1007/s10676-024-09775-5
*
Published 08 June 2024
*
-- You can reach me on Signal: @quinta.01 (no Whatsapp)