ciao Daniela,
la questione in gioco - distinguere il testo prodotto da un chatbot
da quello prodotto da un umano - ne ha sullo sfondo una seconda -
individuare le caratteristiche che distinguono la scrittura di un
umano da quella di un altro (usualmente chiamate "stile"). la
seconda è al cuore degli studi attribuzione con metodi quantitativi
che hanno una lunga storia (il resoconto più ampio e valido è
Grieve, Jack William. «Quantitative authorship attribution: A
history and an evaluation of techniques». Thesis, Department of
Linguistics - Simon Fraser University, 2005.
http://summit.sfu.ca/item/8840) e anche dei successi significativi.
chi ha lavorato a studi di authorship attribution è portato in primo
momento a pensare che se è possibile individuare le caratteristiche
che distinguono la scrittura di un umano da quella di un altro, sia
possibile anche individuare quelle che che distinguono la scrittura
di un umano da quella di un chatbot.
ma in effetti il tuo commento mostra un'impossibilità in linea di
principio, perché nel chatbot non c'è una linea di pensiero ma un
mosaico di pezzi di altri. e dunque i deboli tentativi dei software
si collocano nell'individuazione di aspetti del tutto
esteriori/estrinseci sui quali un ipotetico falsario testuale può
benissimo e facilmente operare per modificarli/occultarli.
peraltro vedendo già adesso circolare grandi quantità di non-testi ,
ovviamente si pensa se ci sia un modo selezionarli e distinguerli
senza doverci spendere tempo leggendoli - che francamente si
vorrebbe poter spendere meglio il proprio tempo
e quindi mi pare che almeno come comprensibile anche se
irrealizzabile desiderio la questione rimanga viva.
quella per cui da un lato dobbiamo distinguere, dall'altro si
vorrebbe fare di melgio che leggere non-testi per poter dire che
sono tali.
Maurizio
Il 18/05/25 00:24, Daniela Tafani ha
scritto:
il senso mi pare quello di qualsiasi circonvenzione di incapace.
A questa collaborano studiosi di ogni sorta, a pagamento e non.
Si oppone, per ora, la FTC:
<https://www.ftc.gov/news-events/news/press-releases/2025/04/ftc-order-requires-workado-back-artificial-intelligence-detection-claims>
Per distinguere automaticamente il prodotto di un estrusore di stringhe di testo probabili da un testo scritto da un essere umano, i due testi dovrebbero avere qualcosa di diverso, che fosse rintracciabile da un software.
La differenza principale tra i due testi è che uno è stato pensato da chi l'ha scritto e l'altro no, essendo un'immagine sfuocata di altri testi (quelli sì, pensati da qualcuno). Suppongo perciò che serva il pensiero, per riconoscere un testo estruso da un software che produca linguaggio senza pensiero rispetto a un testo prodotto da un essere pensante. Non esistono, oggi, software pensanti, perciò gli "AI detector" non esistono.
Che ne pensi?
Per avere una differenza rintracciabile automaticamente, dovresti marcare in qualche modo il testo sintetico, che però, immagino, potrà comunque essere copiato come solo testo.
Grazie.
Un saluto,
Daniela
________________________________________
Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Enrico Nardelli <nardelli@mat.uniroma2.it>
Inviato: sabato 17 maggio 2025 19:53
A: nexa@server-nexa.polito.it
Oggetto: [Junk released by Allowed List] [nexa] Qual è il senso...?
... di realizzare strumenti per la verifica che un testo sia stato generato dall'Intelligenza Artificiale, visto che (oltre a sbagliare clamorosamente su un mio testo scritto interamente da me che è stato attribuito per il 71% all'IA - ma l'ultima volta che mi sono controllato mi son trovato sempre fatto della solita materia organica... 😂) poi la stessa società offre uno strumento per "umanizzare" il testo?
Io ho provato GPTZero, giusto per fare nome e cognome, ma penso che altre startup simili mettano a disposizione prodotti simili.
Mi sa tanto di un gigantesco gioco delle 3 carte...
many of us believe the EU remains
the most extraordinary, ambitious, liberal
political alliance in recorded history.
where it needs reform, where it needs to evolve,
we should be there to help turn that heavy wheel
Ian McEwan, The Guardian, 2/6/2017