Grazie Giacomo
a me è chiaro che gli strumenti di GenAI, fanno un po' come
ca...volo gli pare, però - ripeto - se io sto visualizzando dei
dati, il fatto che il grafico di visualizzazione sia generato con
uno strumento GenAI non è secondo me un elemento interessante.
Ciò che è rilevante è quali sono i dati e quali sono i metodi con
cui li ho ottenuti e se il grafico aderisce a questi dati. Sono i
dati a dover essere riproducibili, il grafico è solo una modalità
per la loro comunicazione. La modalità può essere fuorviante
(tutti sappiamo come si può mentire con un bel grafico), ma questo
è compito del revisore osservarlo e chiedere all'autore una
modifica: il tutto è indipendente dallo strumento usato per
generare la visualizzazione. Anche quando uno non sa usare un
foglio elettronico può generare visualizzazioni incoerenti con i
dati.
Sul problema dell'ispirazione, penso
che ognuno sia libero di farsi ispirare da quello che ritiene più
utile per sé stesso e che ritiene gli sia utile. Di nuovo, la
responsabilità è della persona che produce il risultato. Il fatto
che l'esame di stato per medicina sia composto di migliaia
di domande a scelta multipla in cui una frazione rilevante delle
risposte è notoriamente sbagliata, ma gli studenti le devono
comunque imparare a memoria, nonostante siano sbagliate, penso sia
un problema antecedente all'arrivo degli strumenti di GenAI. Ma se
anche non fosse, in ogni caso non rimuove la responsabilità delle
persone o degli enti che li hanno realizzati.
Concludendo, non sono per niente un fan
di questi strumenti, ma non li demonizzo e ritengo che abbiano un
loro spazio di utilizzo per velocizzare alcune attività cognitive
di routine. Quali siano e quanto spesso gli strumenti siano utili
è una risposta che ognuno deve trovare per sé stesso. Il punto
essenziale è che bisogna essere esperti del dominio in cui uno li
usa.
«Attenzione,
questo non vuol dire che gli strumenti di IAG siano inutili. Al
contrario, essi sono utilissimi, se li usi come bruta forza
lavoro in un settore che conosci bene, avendo contezza della
loro incapacità di comprensione. Sono degli amplificatori delle
nostre capacità cognitive, come le macchine industriali lo sono
delle nostre capacità fisiche. Ma come in quel caso, se non le
sai usare, rischi di fare dei disastri. Mettersi alla guida di
un aeroplano senza preparazione non ti farà volare sopra i mari
come un uccello ma, più probabilmente, ti porterà a una brutta
fine. Usare l’IAG in un settore che non si conosce espone agli
stessi rischi. Se padroneggi la materia, invece, puoi in molti
casi – ma non tutti! – lavorare più veloce, purché continui a
fare attenzione a ciò che essa ti propone.»
Ciao, Enrico
Il 22/04/2025 09:42, Giacomo Tesio ha
scritto:
Ciao Enrico,
Il 21 Aprile 2025 18:19:14 UTC, Enrico Nardelli ha scritto:
Quando rappresento i miei dati con un grafico 3-D non mi si chiede se ho
usato un foglio elettronico o un altro strumento di visualizzazione.
Perché chiedere in casi analoghi la dichiarazione dell'uso di uno
strumento di GenAI?
Onestamente mi sembra un parallelo azzardato.
(a meno di bug) Un foglio di calcolo produce risultati esclusivamente dipendenti dai
dati forniti in input, cui vengono applicati algoritmi noti.
I sistemi di GenAI SaaS introducono variabili nascoste (pseudocasuali o meno)
ignote all'utente che, omesse nell'output, rendono il processo non riproducibile.
E anche quando usati offline e senza variabili preudocasuali aggiuntive,
questi software applicano algoritmi ignoti a chi li esegue.
Rispetto al foglio di calcolo si pongono dunque due problemi, uno "contenutistico"
e l'altro didattico
- l'elevata probabilità di risultati errati (artefatti)
- l'irrilevanza della competenze acquisite anche in presenza di contenuti corretti.
se uno la vuole usare è sua facoltà dichiarare se e come l'ha usata,
dal momento che la responsabilità finale è comunque interamente sua
Sì, la prima differenza può essere razionalizzata attraverso la presunta
responsabilità che lo studente si assume.
Ma come razionalizzare le competenze non acquisite dagli studenti universitari?
Ad esempio, chi di noi in passato (una volta arrivati i motori di ricerca,
ovviamente) per gli esercizi d'esame non ha "fatto un giro" sulle pagine di
colleghi in tutto il mondo per trovare ispirazione e poi produrre i suoi esercizi?
Anche questo è un paragone azzardato, seppur meno.
Sì un LLM non è altro che un archivio compresso con perdita dei testi
usati per programmarlo statisticamente.
Ma quel "con perdita" non è li a caso.
Poi usarlo per "trarre ispirazione" (pur ignorando da cosa) rispetto a domande
ed esercizi che comunque scrivi tu non causerà grossi danni.
Richiederà semplicemente _più_ tempo che usare farina del tuo sacco.
Usarlo invece per velocizzare la produzione di esercizi, invece sì.
Ricordo sempre come l'esame di stato per medicina sia composto di migliaia
di domande a scelta multipla corrette automaticamente da un software...
nel cui database una frazione rilevante delle risposte è notoriamente sbagliata.
I candidati sono costretti a studiare a memoria le risposte errate, sapendole
errate, per superare l'esame.
E non è possibile correggerli per evitare i ricorsi.
Domande e risposte che peraltro saranno sicuramente finiti nei vari LLM.
Ora tu pensa ad un docente universitario di medicina che pensa di velocizzare
l'incombenza di preparare un test d'esame affidandosi ad una GenAI!
E pensa se quell'output finisse a sua volta in un test d'esame standardizzato!
Adesso con GenAI si può fare più rapidamente ma mi sembra
concettualmente lo stesso processo.
A meno degli artefatti di compressione, appunto.
Giacomo