Model Collapse e Autofagia: analisi linguistica e incertezza del modello
Oct. 17, 2024
2:32 p.m.
Salve a tutt_, segnalo questo lavoro che abbiamo appena caricato su arXiv, dove seguiamo la linea di ricerca sul cosiddetto model collapse nel processo di autofagia, ovvero la degradazione di un LLM quando viene addestrato su materiale sintetico. Oltre a condurre un'analisi con metriche della linguistica computazionale abbiamo svolto un'analisi qualitativa sulle risposte del modello degradato a vari task, riscontrando una propensione per la creatività, l'incertezza e il pensiero complottista, un aspetto che abbiamo intenzione di indagare meglio in futuro... https://arxiv.org/abs/2410.12341 Qualunque osservazione è ben gradita. Saluti. D.
527
Age (days ago)
527
Last active (days ago)
0 comments
1 participants
participants (1)
-
Daniele Gambetta