La chat cattiva che scaccia quella buona- Corriere.it
<https://www.corriere.it/opinioni/24_febbraio_05/chat-cattiva-che-scaccia-que...> I dati che alimentano ChatGPT durante la fase di allenamento sono la parte essenziale del suo funzionamento e della qualità delle sue risposte. È quindi molto importante capire quali siano le sorgenti di questi dati, come è stato evidenziato nella causa del New York Times contro OpenAI e Microsoft da cui emerge chiaramente che il 4° sito frequentato dai web crawler di OpenAI è stato proprio quello del NYT. Ormai il 90% dei principali giornali, in USA come in Europa o in Italia, hanno iniziato a bloccare l’accesso ai web crawler dei chatbot generativi. Molti, ma non tutti, come ha mostrato una recente analisi di Originality AI sui dati dei crawling effettuati nel mese di gennaio. Negli USA i giornali e siti di destra come Fox News, DailyCaller e Breitbart, non bloccano i crawlers che alimentano gli algoritmi generativi. Non si sa se sia un ritardo nell’attivazione del blocco, o se invece sia un modo per sfruttare a proprio favore il filtro degli altri giornali, per incidere sull’allenamento dell’algoritmo influenzandone le risposte con le posizioni dell’ estrema destra repubblicana. Del resto è un tema ben noto anche in Italia, dove, in un contesto di difficoltà del settore dell’ informazione, l’ accesso a pagamento alle più autorevoli testate subisce la concorrenza di canali di informazione gratuiti, di minore qualità ma molto diffusi. Non è il solo esempio di politicizzazione di ChatGPT: Bernie Bot, la versione cinese di ChatGPT, è stata costruito in modo da evitare a con cura discussioni su Taiwan o su Xi Jinping e potremmo continuare. Ma il caso dei filtri delle testate giornalistiche è anche più interessante, perché mostra come regolamentare il mercato dei dati possa risultare altrettanto difficile di quello finanziario. Se io faccio pagare i miei dati, il mio concorrente li può regalare ottenendo un vantaggio competitivo che, alla lunga, può influenzare le risposte di un chatbot. Insomma la chat cattiva che scaccia quella buona. La qualità delle risposte di ChatGPT dipende anche dal fatto che il web sia così grande da assicurare un ragionevole equilibrio relativamente ai vari punti di vista. Già oggi non è vero, considerato che ChatGPT è stata allenata principalmente su una base culturale occidentale e anglofona. Probabilmente è inevitabile: con l’andare del tempo i chatbot generativi verranno allenati su data base sempre più culturalmente circoscritti. Questo non solo per meglio interpretare i dettagli di una cultura o di una lingua, recentemente è stato lanciato Modello Italia, il ChatGPT italiano che vuole essere migliorativo rispetto alla versione di OpenAI, ma anche per renderli megafoni di una visione del mondo piuttosto che di un altra. Questa rischia di essere la strada maestra per rendere questi algoritmi i nuovi strumenti per una temibile manipolazione dell’ opinione pubblica, questione particolarmente delicata nel 2024, anno in cui più della metà della popolazione mondiale parteciperà a processi elettorali. L’interfaccia rimane quella suadente e amichevole a cui siamo abituati, ma i contenuti sono quelli scelti a monte da chi ha costruito il modello di linguaggio. Nulla di più, nulla di meno, direte, di un talk show, di un comizio o di un giornale schierato politicamente. Nel caso dei chatbot generativi si tratta però di sistemi interattivi, flessibili, personalizzati e continuamente adattabili all’interlocutore con cui interagiscono in linguaggio naturale, per questo molto più potenti ed efficaci nell’ azione di orientamento delle opinioni.
Buongiorno, grazie della divertentissima segnalazione! Alberto Cammozzo via nexa <nexa@server-nexa.polito.it> writes:
<https://www.corriere.it/opinioni/24_febbraio_05/chat-cattiva-che-scaccia-que...>
di Roberto Battiston, 5 febbraio 2024 [...]
Del resto è un tema ben noto anche in Italia, dove, in un contesto di difficoltà del settore dell’ informazione, l’ accesso a pagamento alle più autorevoli testate subisce la concorrenza di canali di informazione gratuiti, di minore qualità ma molto diffusi.
Dateli via gratis!... ve lo chiede l'Europa per combattere la disinformazione di minore qualità, ce ne vuole una autorevole!
Non è il solo esempio di politicizzazione di ChatGPT: Bernie Bot, la versione cinese di ChatGPT, è stata costruito in modo da evitare a con cura discussioni su Taiwan o su Xi Jinping e potremmo continuare.
...il pangolino che ha starnutito sul pipistrello ed è uscito il SARS-CoV-2?
Ma il caso dei filtri delle testate giornalistiche è anche più interessante, perché mostra come regolamentare il mercato dei dati
Dati? Mercato?!? Divertentissimo osservare come persone intelligenti confondano allegramente le opere dell'ingegno coi dati *e* le norme sul diritto d'autore con quelle sui contratti :-D «Ho visto certa gente discutere abilmente della psicanalisi come fosse l'uncinetto» (cir.) [...]
La qualità delle risposte di ChatGPT dipende anche dal fatto che il web sia così grande da assicurare un ragionevole equilibrio relativamente ai vari punti di vista.
Però quelli degli altri sono disinformazione... e in più sono gratis e ci rovinano il "mercato dei dati" [...]
con l’andare del tempo i chatbot generativi verranno allenati su data base sempre più culturalmente circoscritti. [...] per renderli megafoni di una visione del mondo piuttosto che di un altra.
Che è già così, nonostante la propaganda di quelli che vorrebbe far credere che i bot sono oggettivi
Questa rischia di essere la strada maestra per rendere questi algoritmi i nuovi strumenti per una temibile manipolazione dell’ opinione pubblica, questione particolarmente delicata nel 2024, anno in cui più della metà della popolazione mondiale parteciperà a processi elettorali.
É uno scandalo: vogliamo il monopolio della manipolazione dell'opinione pubblica!
L’interfaccia rimane quella suadente e amichevole a cui siamo abituati, ma i contenuti sono quelli scelti a monte da chi ha costruito il modello di linguaggio.
Mica come facciamo noi per scegliere i contenuti che pubblichiamo! ...eh? Uh? ...mumble [1]:
Nulla di più, nulla di meno, direte, di un talk show, di un comizio o di un giornale schierato politicamente. Nel caso dei chatbot generativi si tratta però di sistemi interattivi, flessibili, personalizzati e continuamente adattabili all’interlocutore con cui interagiscono
interagiscono [2]?!?
in linguaggio naturale, per questo molto più potenti ed efficaci nell’ azione di orientamento delle opinioni.
...a meno che l'UTENTE abbia gli strumenti cognitivi per capire: 1. che NON sta interagendo: può fare SOLO quello che l'interfaccia utente gli consente, stabilito da chi l'ha programmata. Interagire con un sistema chatbot implicherebbe poterlo (ri)programmare. 2. che c'è una discreta probabilità che il chatbot stia emettendo frasi che, verificate da un agente ESTERNO, risultino non corrispondenti alla realtà dei fatti o allo stato dell'arte della conoscenza. Correggere le stronz... ops gli errori è *impossibile* perché sono generati statisticamente. Nota a latere: anche coi talk show, comizi, giornali è impossibile interagire :-O Quando comprendi il processo di confezionamento delle notizie sui media "tradizionali" [1] e sui chatbot hai meno probabilità di essere MANIPOLATO nella formazione dei tuoi GIUDIZI (fanculo le opinioni). Comprendere quanto sopra è alla portata di tutte le persone dotate di un minimo di intelligenza, basta smetterla di trattarle (e trattarsi) come dei MINORATI http://btfp.sp.unipi.it/dida/kant_7/ar01s04.xhtml. Kant aveva già scritto dei mass media, dell'AI (a sua insaputa?!?) e dello spauracchio della minaccia rappresentata dalla c.d. disinformazione: --8<---------------cut here---------------start------------->8--- È così comodo essere minorenni! Se ho un libro che ha intelletto per me [...] non ho certo bisogno di sforzarmi da me. Non ho bisogno di pensare, purché sia in grado di pagare: altri si assumeranno questa fastidiosa occupazione al mio posto. A far sì che la stragrande maggioranza degli esseri umani [...] ritenga il passaggio allo stato di maggiorità, oltreché difficile, anche molto pericoloso, si preoccupano già quei tutori che si sono assunti con tanta benevolenza l'alta sorveglianza su di loro. Dopo averli in un primo tempo istupiditi come fossero animali domestici e aver accuratamente impedito che queste placide creature osassero muovere un passo fuori dal girello da bambini in cui le hanno ingabbiate, in un secondo tempo descrivono a esse il pericolo che le minaccia qualora tentassero di camminare da sole.» --8<---------------cut here---------------end--------------->8--- (Nota: l'AI è rappresentata dai tutori come il libro che ha intelletto) [...] Saluti, 380° [1] https://en.wikipedia.org/wiki/Gatekeeping_(communication) [2] https://www.treccani.it/vocabolario/interagire/: Agire mutuamente, reciprocamente; esercitare un’azione o avere un’influenza l’uno sull’altro; [...] -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
participants (2)
-
380° -
Alberto Cammozzo