February 2023 - nexa - server-nexa.polito.it

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Daniela Tafani

Buongiorno. Il 20/02/2023 10:04, Giuseppe Attardi ha scritto: > > In fondo mi pare sia sterile criticare uno strumento perché non sa > fare cose per cui non è stato previsto. > > Il problema (il gesto criminale) è che viene presentato (non da un ignaro passante, ma dal CEO dell'azienda che lo produce) come uno strumento in grado di fornire assistenza sanitaria a chi non possa permettersi quella fornita da umani: Frank Pasquale aveva previsto questo esito qualche tempo fa. Weizenbaum molto prima. Un saluto, Daniela

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Diego Giorio

Qui però il discorso è leggermente diverso: almeno per ciò che mi riguarda, la perplessità non nasce dal fatto che non sia perfetto o che non faccia ciò che non è progettato per fare, quanto il fatto che, a fronte di un'esordio tutto sommato corretto, concluda con un decesso totalmente inventato. Se ci fosse un Pagallo marmista a Sidney o giocatore di basket in USA deceduto in quella data capirei la confusione, ma che, in mancanza di una fonte, si inventi totalemente il dato, peraltro inutile ai fini della risposta mi sembra strano. Poi magari la fonte c'è e sono io che non riesco a trovarla, ma sarei curioso di capire come ""ragiona"" (virgolette doppie intenzionali) Buona settimana a tutti D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Giuseppe Attardi <attardi(a)di.unipi.it> Sent: Monday, February 20, 2023 9:04 AM To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)] Concordo che ChatGPT non “sappia”, quanto meno nel senso di saper trarre conclusioni dalle sue conoscenze: ha solo accumulato e fatto una propria sintesi di quanto ha accumulato. Ma la sintesi non è un “indice” come quello dei motori di ricerca, altrimenti sputerebbe fuori solo quello, una lista di riferimenti. Nei suoi 175miliardi di parametri sono rappresentate le connessioni, relazioni sintattiche e semantiche, tra le parole, che gli consentono di generare nuove frasi, alcune sensate, altre meno. ChatGPT, o meglio GPT-3.5, che è la sua fonte, non è nemmeno in grado di riprodurre esattamente il testo di nessuno (o quasi) dei documenti su cui è stato allenato. Non sa fare ragionamenti logici o matematici. E allora? Anch’io ci sono migliaia di cose che non so fare, perché non me le hanno insegnate. In fondo mi pare sia sterile criticare uno strumento perché non sa fare cose per cui non è stato previsto. — Beppe PS. L’intelligenza è una qualità banale: tutti ce l’hanno, è solo una questione di livelli. On 18 Feb 2023, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: From: Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> To: Andrea Bolioli <andrea.bolioli(a)h-farm.com<mailto:andrea.bolioli@h-farm.com>> Cc: Andrea Bolioli via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>>, "M. Fioretti" <mfioretti(a)nexaima.net<mailto:mfioretti@nexaima.net>> Subject: Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)] Message-ID: <2405E17E-6B1E-463D-84BF-3403D948D92C(a)tesio.it<mailto:2405E17E-6B1E-463D-84BF-3403D948D92C@tesio.it>> Content-Type: text/plain; charset="utf-8" Non 'in senso stretto": chatgpt non sa nulla. Per affermare che un LLM sappia qualcosa è necessario svuotare competamente il verbo "sapere" del proprio significato e sostituirlo con quello di "indicizzare". ChatGPT non sa. Giacomo Il 17 Febbraio 2023 18:20:44 UTC, Andrea Bolioli <andrea.bolioli(a)h-farm.com<mailto:andrea.bolioli@h-farm.com>> ha scritto: Ciao Giacomo, purtroppo sono d'accordo con molte delle cose che scrivi, non tutte, ma molte. Sicuramente è bene diffondere la consapevolezza che gli LLM non sanno tutto (in senso stretto non sanno nulla), scrivono cose false senza distinguere tra vero e falso, vengono creati/utilizzati da aziende che non hanno come primo scopo il bene comune (anche se dicono di averlo), ecc AB Il giorno ven 17 feb 2023 alle ore 16:16 Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> ha scritto: Salve Andrea, --

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Giuseppe Attardi

Concordo che ChatGPT non “sappia”, quanto meno nel senso di saper trarre conclusioni dalle sue conoscenze: ha solo accumulato e fatto una propria sintesi di quanto ha accumulato. Ma la sintesi non è un “indice” come quello dei motori di ricerca, altrimenti sputerebbe fuori solo quello, una lista di riferimenti. Nei suoi 175miliardi di parametri sono rappresentate le connessioni, relazioni sintattiche e semantiche, tra le parole, che gli consentono di generare nuove frasi, alcune sensate, altre meno. ChatGPT, o meglio GPT-3.5, che è la sua fonte, non è nemmeno in grado di riprodurre esattamente il testo di nessuno (o quasi) dei documenti su cui è stato allenato. Non sa fare ragionamenti logici o matematici. E allora? Anch’io ci sono migliaia di cose che non so fare, perché non me le hanno insegnate. In fondo mi pare sia sterile criticare uno strumento perché non sa fare cose per cui non è stato previsto. — Beppe PS. L’intelligenza è una qualità banale: tutti ce l’hanno, è solo una questione di livelli. > On 18 Feb 2023, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > To: Andrea Bolioli <andrea.bolioli(a)h-farm.com <mailto:andrea.bolioli@h-farm.com>> > Cc: Andrea Bolioli via nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>>, "M. > Fioretti" <mfioretti(a)nexaima.net <mailto:mfioretti@nexaima.net>> > Subject: Re: [nexa] l'output e le fonti [era Triste Annuncio (a > proposito di Chat GPT)] > Message-ID: <2405E17E-6B1E-463D-84BF-3403D948D92C(a)tesio.it <mailto:2405E17E-6B1E-463D-84BF-3403D948D92C@tesio.it>> > Content-Type: text/plain; charset="utf-8" > > Non 'in senso stretto": chatgpt non sa nulla. > > Per affermare che un LLM sappia qualcosa è necessario svuotare competamente il verbo > "sapere" del proprio significato e sostituirlo con quello di "indicizzare". > > ChatGPT non sa. > > > Giacomo > > > Il 17 Febbraio 2023 18:20:44 UTC, Andrea Bolioli <andrea.bolioli(a)h-farm.com <mailto:andrea.bolioli@h-farm.com>> ha scritto: >> Ciao Giacomo, >> >> purtroppo sono d'accordo con molte delle cose che scrivi, non tutte, ma >> molte. >> Sicuramente è bene diffondere la consapevolezza che gli LLM non sanno tutto >> (in senso stretto non sanno nulla), scrivono cose false senza distinguere >> tra vero e falso, vengono creati/utilizzati da aziende che non hanno come >> primo scopo il bene comune (anche se dicono di averlo), ecc >> >> AB >> >> >> Il giorno ven 17 feb 2023 alle ore 16:16 Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> >> ha scritto: >> >>> Salve Andrea, >>> >>> >>> >> >> -- >>

Feb. 20, 2023

Re: [nexa] Triste Annuncio (a proposito di Chat GPT)

by Giuseppe Attardi

A una domanda fattuale come nell’esempio non c’è modo di “sovvertire le credenze dell’insegnante”: o sai la risposta o non la sai. Quanto a “individuare le lacune nella disciplina”, i LLM sono maestri a inventarsi nuove risposte dove non ce ne sono. Lo fanno anche in modo molto credibile per gli umani: il problema è distinguere quali sono quelle valide o quanto meno interessanti. — Beppe > On 17 Feb 2023, at 18:46, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > On Fri, 17 Feb 2023 12:43:32 +0100 Giuseppe Attardi wrote: > >> Quindi un sistema generativo come ChatGPT, genera risposte su ciò che >> non sa inventandosele. Inutile insistere, come cercare una risposta >> da uno studente che non ha studiato. > > No. > > Lo studente che non ha studiato può far leva sulla propria intelligenza > per sovvertire le credenze dell'insegnante che lo interroga persino > individuare lacune nella disciplina su cui viene interrogato. > > > Per ChatGPT questo è impossibile. > > > E' più simile ad uno studente che sia stato addestrato esclusivamente a > ripetere il libro di testo a memoria, senza comprendere nulla di ciò > che c'è scritto. > > Non risponderà sbagliato più di quanto non risponderà giusto. > Tutto sta in quanto sia disattento il Prof durante l'interrogazione. > > > Giacomo

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Andrea Bolioli

Certamente, mi sono espresso male, conosco gli LLM, faccio NLP 🙂 Pensavo allo strato successivo a cui stanno lavorando OpenAI e altri, lo strato di correzione o filtro sull’output o sull’ input dell’utente. D’accordo sul fatto che il testing e la segnalazione di errori sia lavorare gratis, una modalità di lavoro diffusa che non piace neanche a me. Sull’importanza dei dataset sui quali si fa l’apprendimento automatico, credo ci sia un margine di approfondimento del tema. Buona giornata ! AB Il giorno dom 19 feb 2023 alle 22:59 Marco A. Calamari < marcoc_maillist(a)marcoc.it> ha scritto: > On dom, 2023-02-19 at 19:51 +0100, Andrea Bolioli via nexa wrote: > > Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi segnalo: > ha inventato riferimenti bibliografici a libri e articoli inesistenti, > combinando autori, titolo, anno, rivista, editore a caso non corretti, a > volte inesistenti. > Non riporto i dialoghi, che ho salvato. > All'inizio mi hanno fatto ridere, sembravano le risposte di un simpatico > cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e articoli > scientifici che parlano del tema XX?" - "Certamente! Bla bla bla"). > Ho scritto a GPT che si sbagliava, si è scusato più volte e mi ha proposto > altri riferimenti a libri e articoli, alcuni corretti, alcuni inesistenti. > Ho provato in italiano e inglese, stesso comportamento. > Ho lasciato perdere. > Questo tipo di errore non me l'aspettavo, perché non è molto difficile > controllare la correttezza (o perlomeno l'esistenza) dei riferimenti > bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non > avranno ancora integrato banche dati bibliografiche? > > > C'è un problema di fondo. > > Quello di ritenere che, avendo fornito della conoscenza, dei fatti, ad una > IA generativa, questa conoscenza esista ancora al suo interno. > > Non è cosi. > > E' stata digerita, bruciata, e sono rimaste delle nuvole di coefficienti > statistici. > > Non c'è nessun motivo per cui la risposta giusta debba riapparire se fai > la domanda giusta. > > GPT-3 non funziona così. Non immagazzina conoscenza, ma si perfeziona > nell'abilità di mettere in fila le parole. Solo quello. > > Ed invece, prima o poi, ce lo dimentichiamo. > > JM2EC. Marco > > > > Buona serata, > AB > > > > > > > Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito < > abrolpito(a)gmail.com> ha scritto: > > Grazie Guido per la chiarezza del tuo messaggio che esprime in una estrema > sintesi l'ardire dei LLM, ma anche i limiti umani che abbiamo e che ho in > prima persona nel maneggiare informazioni e ragionamenti. > Certo, io posso fare pochi danni mentre un sistema LLM su Internet è tutta > un'altra potenza di fuoco. > > Ma è un dato di fatto che i "dati" e la loro indicizzazione saranno sempre > di più, e sempre più sofisticate: le buone domande saranno sempre più > importanti delle risposte o meglio saranno importanti per avere delle > risposte ragionevoli a chiunque saranno indirizzate. > > Alla resistenza vorrei aggiungere l'importanza dello sviluppo del pensiero > critico, da coltivare nel percorso educativo, sin dall'inizio, dal 0-6 in > avanti. > Ed è qui che si deve agire e con alcuni amici in lista ci si stiamo > riflettendo sopra sul come. > > Alessandro > > > > > innovation.h-farm.com / Linkedin > <https://www.linkedin.com/company/h-farm-innovation> > > *Roncade*, H-FARM Campus, Via Olivetti, 1 – 31056 (TV > <https://www.google.com/maps/search/Via+Olivetti,+1+%E2%80%93+31056+(TV?entr…> > ) > *Milano > <https://www.google.com/maps/search/Milano+,+Corso+di+Porta+Romana,+15+%E2%8…>*, > Corso di Porta Romana, 15 – 20122 > <https://www.google.com/maps/search/Milano+,+Corso+di+Porta+Romana,+15+%E2%8…> > *Torino > <https://www.google.com/maps/search/Torino+,+Via+San+Quintino,+31+%E2%80%93+…>*, > Via San Quintino, 31 – 10121 > <https://www.google.com/maps/search/Torino+,+Via+San+Quintino,+31+%E2%80%93+…> > > Our privacy policy > <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-…> > . > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > -- * * innovation.h-farm.com <https://innovation.h-farm.com/> / Linkedin <https://www.linkedin.com/company/h-farm-innovation> *Roncade*, H-FARM Campus, Via Olivetti, 1 – 31056 (TV) *Milano*, Corso di Porta Romana, 15 – 20122 *Torino*, Via San Quintino, 31 – 10121 Our privacy policy <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-…>.

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Marco A. Calamari

On dom, 2023-02-19 at 19:51 +0100, Andrea Bolioli via nexa wrote: > Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi segnalo: ha > inventato riferimenti bibliografici a libri e articoli inesistenti, combinando > autori, titolo, anno, rivista, editore a caso non corretti, a volte > inesistenti. > Non riporto i dialoghi, che ho salvato. > All'inizio mi hanno fatto ridere, sembravano le risposte di un simpatico > cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e articoli > scientifici che parlano del tema XX?" - "Certamente! Bla bla bla"). Ho scritto > a GPT che si sbagliava, si è scusato più volte e mi ha proposto altri > riferimenti a libri e articoli, alcuni corretti, alcuni inesistenti. Ho > provato in italiano e inglese, stesso comportamento. > Ho lasciato perdere. > Questo tipo di errore non me l'aspettavo, perché non è molto difficile > controllare la correttezza (o perlomeno l'esistenza) dei riferimenti > bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non > avranno ancora integrato banche dati bibliografiche? C'è un problema di fondo. Quello di ritenere che, avendo fornito della conoscenza, dei fatti, ad una IA generativa, questa conoscenza esista ancora al suo interno. Non è cosi. E' stata digerita, bruciata, e sono rimaste delle nuvole di coefficienti statistici. Non c'è nessun motivo per cui la risposta giusta debba riapparire se fai la domanda giusta. GPT-3 non funziona così. Non immagazzina conoscenza, ma si perfeziona nell'abilità di mettere in fila le parole. Solo quello. Ed invece, prima o poi, ce lo dimentichiamo. JM2EC. Marco > > Buona serata, > AB > > > > > > > Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito > <abrolpito(a)gmail.com> ha scritto: > > Grazie Guido per la chiarezza del tuo messaggio che esprime in una estrema > > sintesi l'ardire dei LLM, ma anche i limiti umani che abbiamo e che ho in > > prima persona nel maneggiare informazioni e ragionamenti. > > Certo, io posso fare pochi danni mentre un sistema LLM su Internet è tutta > > un'altra potenza di fuoco. > > > > Ma è un dato di fatto che i "dati" e la loro indicizzazione saranno sempre > > di più, e sempre più sofisticate: le buone domande saranno sempre più > > importanti delle risposte o meglio saranno importanti per avere delle > > risposte ragionevoli a chiunque saranno indirizzate. > > > > Alla resistenza vorrei aggiungere l'importanza dello sviluppo del pensiero > > critico, da coltivare nel percorso educativo, sin dall'inizio, dal 0-6 in > > avanti. > > Ed è qui che si deve agire e con alcuni amici in lista ci si stiamo > > riflettendo sopra sul come. > > > > Alessandro > > > > innovation.h-farm.com / Linkedin > > Roncade, H-FARM Campus, Via Olivetti, 1 – 31056 (TV) > Milano, Corso di Porta Romana, 15 – 20122 > Torino, Via San Quintino, 31 – 10121 > > Our privacy policy. > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 19, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Alberto Cammozzo

Non sono i riferimenti bibliografici non sono integrati, ma non sono nemmeno integrabili, per lo meno all'interno del modello generativo di testo che è probabilistico, e non basato su alcuna banca dati. Aggiungerei che 'correggere' gli errori del modello vuol dire lavorare gratis per migliorarlo. Si può anche scegliere di non farlo o fare l'opposto. Trovo che sia molto interessante e tempestiva la policy di Wikipedia sull'uso dei LLM (large language models). Immaginate quanto inquinante possa essere un generatore di pagine Wikipedia basato su questi metodi. Ci sono spunti interessanti per una regolazione. <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models> LLM risks and pitfalls “ Large language models have limited reliability, limited understanding, limited range, and hence need human supervision. ” — Michael Osborne, Professor of Machine Learning in the Dept. of Engineering Science, University of Oxford <https://en.wikipedia.org/wiki/University_of_Oxford>, /January 25, 2023/^[1] <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models#cite_note-1> This clarifies key policies as they pertain to LLM application on the project, i.e. how the latter generally presents an issue with respect to the former, mostly when creating encyclopedic content is concerned. * *Copyrights <https://en.wikipedia.org/wiki/Wikipedia:Copyrights>* /Further: Wikipedia:Large language models and copyright <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models_and_copyright>/ *An LLM can generate copyright-violating material.* Generated text may include verbatim non-free content <https://en.wikipedia.org/wiki/Wikipedia:Non-free_content> or be a derivative work <https://en.wikipedia.org/wiki/Wikipedia:DERIVATIVE>. In addition, using LLMs to summarize copyrighted content (like news articles) may produce excessively close paraphrases <https://en.wikipedia.org/wiki/Wikipedia:Close_paraphrasing>. The copyright status of LLMs trained on copyrighted material is not yet fully understood and their output may not be compatible with the CC BY-SA license and the GNU license used for text published on Wikipedia. * *Verifiability <https://en.wikipedia.org/wiki/Wikipedia:Verifiability>* LLMs do not follow Wikipedia's policies on verifiability and reliable sourcing <https://en.wikipedia.org/wiki/Wikipedia:Reliable_sources>. They generate text by outputting the words most likely to come after the previous ones. If asked to write an article on the benefits of eating crushed glass, they will sometimes do so. *LLMs can completely make things up.* When they generate citations, those may be inappropriate or fictitious <https://en.wikipedia.org/wiki/Wikipedia:Fictitious_references>. Also, the conversational search engines like Perplexity AI tends to cite unreliable sources <https://en.wikipedia.org/wiki/Wikipedia:QUESTIONABLE> including Wikipedia itself <https://en.wikipedia.org/wiki/Wikipedia:CIRCULAR>. * *Neutral point of view <https://en.wikipedia.org/wiki/Wikipedia:Neutral_point_of_view>* LLM may produce content that is neutral-seeming in tone, but not necessarily in substance. This concern is especially strong for biographies of living persons <https://en.wikipedia.org/wiki/Wikipedia:Biographies_of_living_persons>. * *No original research <https://en.wikipedia.org/wiki/Wikipedia:No_original_research>* While LLMs may give accurate answers in response to some questions, they may also generate interpretations that are biased or false, sometimes in subtle ways. Asking them about obscure subjects, complicated questions, or telling them to do tasks which they are not suited to (i.e. tasks which require extensive knowledge or analysis) makes these errors much more likely. Not dealing with original research in a timely manner can cause citogenesis <https://en.wikipedia.org/wiki/Wikipedia:List_of_citogenesis_incidents>. As the technology continually advances, it may be claimed that a specific large language model has reached a point where it does, on its own, succeed in outputting text which is compatible with the encyclopedia's requirements, when given a well engineered prompt <https://en.wikipedia.org/wiki/Prompt_engineering>. However, not everyone will always use the most state-of-the-art and the most Wikipedia-compliant model, while also coming up with suitable prompts; at any given moment, individuals are probably using a range of generations and varieties of the technology, and the generation with regard to which these deficiencies have been recognized by the community may persist, if in lingering form, for a rather long time. Using LLMs Generating text LLMs are assistive tools, and cannot replace human judgment. Articles LLMs are likely to make false claims <https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)>. Their output is only a starting point, and must be considered inaccurate until proven otherwise. You *must not* publish the output of an LLM directly into a Wikipedia article without rigorously scrutinizing it for verifiability <https://en.wikipedia.org/wiki/Wikipedia:Verifiability>, neutrality <https://en.wikipedia.org/wiki/Wikipedia:Neutral_point_of_view>, absence of original research <https://en.wikipedia.org/wiki/Wikipedia:No_original_research>, compliance for copyright <https://en.wikipedia.org/wiki/Wikipedia:Copyrights>, and compliance with all other applicable policies. If an LLM generates citations, you *must* personally check that they exist, and that they properly verify <https://en.wikipedia.org/wiki/Wikipedia:Verifiability> each statement. The use of language models must be clearly disclosed in your edit summary <https://en.wikipedia.org/wiki/Help:Edit_summary>. Even if you find reliable sources <https://en.wikipedia.org/wiki/Wikipedia:Reliable_sources> for every statement, you should still ensure that your additions do not give undue prominence <https://en.wikipedia.org/wiki/Wikipedia:UNDUE> to irrelevant details or minority viewpoints. You should ensure that your LLM-assisted edits /reflect/ the weight placed by reliable sources <https://en.wikipedia.org/wiki/Wikipedia:PROPORTION> on each aspect of a subject. You are encouraged to check what the most reliable sources <https://en.wikipedia.org/wiki/Wikipedia:BESTSOURCES> have to say about a subject, and to ensure your edit follows their tone and balance. Especially with respect to copyrights, editors should use extreme caution when adding significant portions of AI-generated texts, either verbatim or user-revised. It is their responsibility to ensure that their addition does not infringe anyone's copyrights. They have to familiarize themselves both with the copyright and sharing policies of their AI-provider. Drafts If an LLM is used to create the initial version of a draft <https://en.wikipedia.org/wiki/Wikipedia:Drafts> or userspace draft <https://en.wikipedia.org/wiki/Help:Userspace_draft>, the user that created the draft must bring it into compliance with all applicable Wikipedia policies, add reliable sourcing, and rigorously check the draft's accuracy prior to submitting the draft for review. If such a draft is submitted for review <https://en.wikipedia.org/wiki/Wikipedia:Articles_for_creation> without having been brought into compliance, it should be declined. Repeated submissions of unaltered (or insufficiently altered) LLM outputs may lead to a revocation of draft privileges. Talk pages While you may include an LLM's raw output in your talk page comments for the purposes of discussion, you should not use LLMs to "argue your case for you" in talk page discussions. Wikipedia editors want to interact with other humans, not with large language models. Be constructive Wikipedia relies on volunteer efforts to review new content for compliance with our core content policies <https://en.wikipedia.org/wiki/Wikipedia:Core_content_policies>. This is often time consuming. The informal social contract on Wikipedia is that editors will put significant effort into their contributions, so that other editors do not need to "clean up after them". Editors must ensure that their LLM-assisted edits are a net positive to the encyclopedia, and do not increase the maintenance burden on other volunteers. Repeated violations form a pattern of disruptive editing <https://en.wikipedia.org/wiki/Wikipedia:Disruptive_editing>, and may lead to a block <https://en.wikipedia.org/wiki/Wikipedia:Blocking_policy> or ban <https://en.wikipedia.org/wiki/Wikipedia:Banning_policy>. Do not, under any circumstances, use LLMs to generate hoaxes <https://en.wikipedia.org/wiki/Wikipedia:Do_not_create_hoaxes> or disinformation. This includes knowingly adding false information to test our ability to detect and remove it. Repeated misuse of LLMs may be considered disruptive <https://en.wikipedia.org/wiki/Wikipedia:Disruptive_editing> and lead to a block <https://en.wikipedia.org/wiki/Wikipedia:Blocking_policy> or ban <https://en.wikipedia.org/wiki/Wikipedia:Banning_policy>. Wikipedia is not a testing ground <https://en.wikipedia.org/wiki/Wikipedia:NOTLAB> for LLM development. Entities and people associated with LLM development are prohibited from running experiments or trials on Wikipedia. Edits to Wikipedia are made to advance the encyclopedia, not a technology. This is not meant to prohibit /editors/ from responsibly experimenting with LLMs in their userspace for the purposes of improving Wikipedia. Declare LLM use Every edit which incorporates LLM output must be marked as LLM-assisted in the edit summary <https://en.wikipedia.org/wiki/Help:Edit_summary>. This applies to all namespaces <https://en.wikipedia.org/wiki/Wikipedia:Namespaces>. If you make significant LLM-assisted changes (a paragraph or more) to an article or draft, add the – {{AI generated notification <https://en.wikipedia.org/wiki/Template:AI_generated_notification>}} – template to its talk page, /in addition/ to mentioning your use of an LLM in your edit summary. Additionally, AI providers may have their own policies requiring in-text attribution at the bottom of the page, not just attribution in the edit summary. A template is currently available for providing attribution to OpenAI – |{{OpenAI <https://en.wikipedia.org/wiki/Template:OpenAI>|/[GPT-3, ChatGPT etc.]/}}|.^[a] <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models#cite_note-2> Experience is required LLM-assisted edits should comply with Wikipedia policies. Before using an LLM, editors should have substantial prior experience doing the same or a more advanced task /without LLM assistance/.^[b] <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models#cite_note-3> Editors are expected to familiarize themselves with a given LLM's limitations, and to use careful judgment to determine whether that LLM is appropriate for a given purpose. Inexperienced editors should be especially careful when using these tools; if needed, do not hesitate to ask for help at the Wikipedia:Teahouse <https://en.wikipedia.org/wiki/Wikipedia:Teahouse>. Editors should have enough familiarity with the subject matter to recognize when an LLM is providing false information – if an LLM is asked to paraphrase something (i.e. source material or existing article content), editors should not assume that it will retain the meaning. High-speed editing Human editors are expected to pay attention to the edits they make, and ensure that they do not sacrifice quality in the pursuit of speed or quantity. For the purpose of dispute resolution, it is irrelevant whether high-speed or large-scale edits that a) are contrary to consensus or b) cause errors an attentive human would not make are actually being performed by a bot, by a human assisted by a script, or even by a human without any programmatic assistance. No matter the method, the disruptive editing must stop or the user may end up blocked. However, merely editing quickly, particularly for a short time, is not by itself disruptive. Consequently, if you are using LLMs to edit Wikipedia, you must do so in a manner that complies with Wikipedia:Bot policy <https://en.wikipedia.org/wiki/Wikipedia:Bot_policy>, specifically WP:MEATBOT <https://en.wikipedia.org/wiki/Wikipedia:MEATBOT>. Productive uses of LLMs For examples of things that LLMs excel at, see the entries below at § Demonstrations <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models#Demonstrations> If you are using LLMs to edit Wikipedia, you must /overcome/ their inherent limitations, and ensure your edits comply with relevant guidelines and policies. Despite the aforementioned limitations of LLMs, it is assumed that experienced editors may be able to offset LLM deficiencies with a reasonable amount of effort to create compliant edits for some scenarios: * *Tables and HTML.* Because their training data includes lots of computer code (including wikitext and HTML), they can do things like modify tables (even correctly interpreting verbal descriptions of color schemes into a reasonable set of HTML color codes in fully formatted tables). If you do this, care should be exercised to make sure that the code you get actually renders a working table, or template, or whatever you've asked for. * *Generating ideas for article expansion.* When asked "what would an encyclopedia entry on XYZ include?", LLMs can come up with subtopics that an article is not currently covering. Not all of these ideas will be valid or have sufficient prominence for inclusion <https://en.wikipedia.org/wiki/Wikipedia:DUE>, so thoughtful judgment is required. As stated above, LLM outputs should not be used verbatim to expand an article. * *Asking an LLM for feedback on an existing article.* Such feedback should never be taken at face value. Just because an LLM says something, does not make it true. But such feedback may be helpful if you apply your own judgment to each suggestion. Riskier use cases The following use cases are tolerated, not recommended, since they pose higher risks (see the §LLM risks and pitfalls <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models#LLM_risks_and…> section). They are reserved for experienced editors, who take full responsibility for their edits' compliance with Wikipedia policies: * *Templates, modules and external software.* LLMs can write code that works great, often without any subsequent modification. As with any code (including stuff you found on Stack Exchange <https://en.wikipedia.org/wiki/Stack_Exchange>), you should make sure you understand what it's doing before you execute it: bugs and errors can cause unintended behavior. Common sense is required; as with all programming, you should not put large chunks of code into production if you haven't tested them beforehand, don't understand how they work, or aren't prepared to quickly reverse your changes. * *Copyediting existing article text.* Experienced editors may ask an LLM to improve the grammar, flow, or tone of pre-existing article text. Rather than taking the output and pasting it directly into Wikipedia, you must compare the LLM's suggestions with the original text, and thoroughly review each change for correctness, accuracy, and neutrality. * *Summarizing a reliable source.* This is inherently risky, due to the likelihood of an LLM introducing original research <https://en.wikipedia.org/wiki/Wikipedia:Original_research> or bias <https://en.wikipedia.org/wiki/Wikipedia:NPOV> that was not present in the source, as well as the risk that the summary may be an excessively close paraphrase, which would constitute plagiarism <https://en.wikipedia.org/wiki/Wikipedia:Plagiarism>. You must proactively ensure such a summary complies with all policies. * *Summarizing the article itself (lead expansion).* Lead sections are nothing more than concise overviews, i.e. summaries <https://en.wikipedia.org/wiki/Wikipedia:Summary_style>, of article body content, and text summarization is one of the primary capabilities of LLMs which they were designed for. However pasting LLMs output to expand the lead is still inherently risky because of a risk of introducing errors and bias not present in the body.^[c] <https://en.wikipedia.org/wiki/Wikipedia:Large_language_models#cite_note-4> It's better to only use an LLM to generate ideas for lead expansion, and create the actual improvements yourself. Handling suspected LLM-generated content Identification and tagging Editors who identify LLM-originated content that does not to comply with our core content policies <https://en.wikipedia.org/wiki/Wikipedia:Core_content_policies> should consider placing |{{AI-generated <https://en.wikipedia.org/wiki/Template:AI-generated>|date=February 2023}}| at the top of the affected article or draft, unless they are capable of immediately resolving the identified issues themselves. This template should not be used in biographies of living persons <https://en.wikipedia.org/wiki/Wikipedia:Biographies_of_living_persons>. In BLPs, such non-compliant content should be *removed immediately and without waiting for discussion*. Verification All known or suspected LLM output *must* be checked for accuracy and is assumed to be fabricated until proven otherwise. LLM models are known to falsify sources such as books, journal articles and web URLs, so be sure to first check that the referenced work actually exists. All factual claims must then be verified against the provided sources. LLM-originated content that is contentious or fails verification must be removed immediately. Deletion If removal as described above would result in deletion of the entire contents of the article, it then becomes a candidate for deletion. If the entire article appears to be factually incorrect or relies on fabricated sources, speedy deletion via WP:G3 <https://en.wikipedia.org/wiki/Wikipedia:G3> (Pure vandalism and blatant hoaxes) may be appropriate. Citing LLM-generated content For the purposes of sourcing: It is assumed that any LLM-generated material is not reliable <https://en.wikipedia.org/wiki/Wikipedia:RELIABLE>, unless it appears from the circumstances of publication that it is significantly a human work insofar an entity with a reputation for fact-checking and accuracy took care that the output was modified in every way needed to ensure that the work meets a usually high standard. Any source (work) originating from entities (news organizations etc.) known to generally produce content using LLMs, for which there is no clear indication of human involvement or lack thereof, especially a publication which attempts to deceive readers by crediting content that appears to be primarily LLM-generated to human authors (named, unnamed, or fictitious), should be treated as unreliable. On 19/02/23 19:51, Andrea Bolioli via nexa wrote: > Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi > segnalo: ha inventato riferimenti bibliografici a libri e articoli > inesistenti, combinando autori, titolo, anno, rivista, editore a caso > non corretti, a volte inesistenti. > Non riporto i dialoghi, che ho salvato. > All'inizio mi hanno fatto ridere, sembravano le risposte di un > simpatico cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e > articoli scientifici che parlano del tema XX?" - "Certamente! Bla bla > bla"). Ho scritto a GPT che si sbagliava, si è scusato più volte e mi > ha proposto altri riferimenti a libri e articoli, alcuni corretti, > alcuni inesistenti. Ho provato in italiano e inglese, > stesso comportamento. > Ho lasciato perdere. > Questo tipo di errore non me l'aspettavo, perché non è molto difficile > controllare la correttezza (o perlomeno l'esistenza) dei riferimenti > bibliografici. Evidentemente non era tra le priorità di OpenAI finora, > non avranno ancora integrato banche dati bibliografiche? > > Buona serata, > AB > > > > > > > Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito > <abrolpito(a)gmail.com> ha scritto: > > Grazie Guido per la chiarezza del tuo messaggio che esprime in una > estrema sintesi l'ardire dei LLM, ma anche i limiti umani che > abbiamo e che ho in prima persona nel maneggiare informazioni e > ragionamenti. > Certo, io posso fare pochi danni mentre un sistema LLM su Internet > è tutta un'altra potenza di fuoco. > > Ma è un dato di fatto che i "dati" e la loro indicizzazione > saranno sempre di più, e sempre più sofisticate: le buone domande > saranno sempre più importanti delle risposte o meglio saranno > importanti per avere delle risposte ragionevoli a chiunque saranno > indirizzate. > > Alla resistenza vorrei aggiungere l'importanza dello sviluppo del > pensiero critico, da coltivare nel percorso educativo, sin > dall'inizio, dal 0-6 in avanti. > Ed è qui che si deve agire e con alcuni amici in lista ci si > stiamo riflettendo sopra sul come. > > Alessandro > > > > * > * > innovation.h-farm.com <https://innovation.h-farm.com/> / Linkedin > <https://www.linkedin.com/company/h-farm-innovation> > > *Roncade*, H-FARM Campus, Via Olivetti, 1 – 31056 (TV) > *Milano*, Corso di Porta Romana, 15 – 20122 > *Torino*, Via San Quintino, 31 – 10121 > > Our privacy policy > <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-…>. > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 19, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Andrea Bolioli

Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi segnalo: ha inventato riferimenti bibliografici a libri e articoli inesistenti, combinando autori, titolo, anno, rivista, editore a caso non corretti, a volte inesistenti. Non riporto i dialoghi, che ho salvato. All'inizio mi hanno fatto ridere, sembravano le risposte di un simpatico cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e articoli scientifici che parlano del tema XX?" - "Certamente! Bla bla bla"). Ho scritto a GPT che si sbagliava, si è scusato più volte e mi ha proposto altri riferimenti a libri e articoli, alcuni corretti, alcuni inesistenti. Ho provato in italiano e inglese, stesso comportamento. Ho lasciato perdere. Questo tipo di errore non me l'aspettavo, perché non è molto difficile controllare la correttezza (o perlomeno l'esistenza) dei riferimenti bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non avranno ancora integrato banche dati bibliografiche? Buona serata, AB Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito < abrolpito(a)gmail.com> ha scritto: > Grazie Guido per la chiarezza del tuo messaggio che esprime in una estrema > sintesi l'ardire dei LLM, ma anche i limiti umani che abbiamo e che ho in > prima persona nel maneggiare informazioni e ragionamenti. > Certo, io posso fare pochi danni mentre un sistema LLM su Internet è tutta > un'altra potenza di fuoco. > > Ma è un dato di fatto che i "dati" e la loro indicizzazione saranno sempre > di più, e sempre più sofisticate: le buone domande saranno sempre più > importanti delle risposte o meglio saranno importanti per avere delle > risposte ragionevoli a chiunque saranno indirizzate. > > Alla resistenza vorrei aggiungere l'importanza dello sviluppo del pensiero > critico, da coltivare nel percorso educativo, sin dall'inizio, dal 0-6 in > avanti. > Ed è qui che si deve agire e con alcuni amici in lista ci si stiamo > riflettendo sopra sul come. > > Alessandro > -- * * innovation.h-farm.com <https://innovation.h-farm.com/> / Linkedin <https://www.linkedin.com/company/h-farm-innovation> *Roncade*, H-FARM Campus, Via Olivetti, 1 – 31056 (TV) *Milano*, Corso di Porta Romana, 15 – 20122 *Torino*, Via San Quintino, 31 – 10121 Our privacy policy <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-…>.

Feb. 19, 2023

L'IA e gli aforismi

by Antonio

Non ci sono più cretini ruspanti, genuini. Ora anche i cretini hanno studiato e parlano in modo difficile e ci vuole tempo per accorgersi che lo sono (Leonardo Sciascia) IA: Purtroppo, in molti casi, è vero che oggi i cretini hanno studiato e parlano in modo difficile, rendendo più difficile riconoscerli. Tuttavia, ci sono ancora persone che hanno un modo di parlare e di pensare che rivela la loro incapacità di comprendere le argomentazioni complesse. Un esempio può essere una persona che disprezza una teoria complessa senza fornire alcuna argomentazione. Inoltre, ci sono persone che usano un linguaggio complicato per cercare di dimostrare qualcosa che non è vero. Queste persone sono ancora dei cretini, anche se non parlano in modo ruspante. un altro prompt: "non ci sono più cretini ruspanti, genuini" IA: Purtroppo, non ci sono più cretini ruspanti e genuini come una volta. Negli ultimi anni, c'è stato un aumento della consapevolezza e della diffusione delle informazioni che ha contribuito a smorzare l'uso di questi termini come insulti. Tuttavia, ci sono ancora molti modi in cui le persone possono esprimersi in modo offensivo senza usare queste parole. Secondo Leonardo Sciascia, i bei cretini genuini e integrali erano una rarità, e adesso sembrano essersi persi nella folla. ah, come fonti, vengono citate: https://www.instagram.com/explore/tags/stupidi/ (ovviamente) e, addirittura, un post del 2005 apparso su beppegrillo.it [1] L'articolo non contiene il termine "cretino", ma nei commenti ce ne sono a bizzeffe A. [1] https://www.ilblogdellestelle.it/2005/05/lodio_al_calcio.html

Feb. 19, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by maurizio lana

"la resistenza potrebbe essere una valida alternativa a questo mortifero adattamento" McQuillan, Dan. /Resisting AI: An Anti-Fascist Approach to Artificial Intelligence/. Bristol: Bristol University Press, 2022, :-) Maurizio Il 18/02/23 15:33, Guido Vetere <vetere.guido(a)gmail.com> ha scritto:Message: 1 > From: Guido Vetere<vetere.guido(a)gmail.com> > To: Giacomo Tesio<giacomo(a)tesio.it> > Cc: Andrea Bolioli<andrea.bolioli(a)h-farm.com>, Andrea Bolioli via > nexa<nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] l'output e le fonti [era Triste Annuncio (a > proposito di Chat GPT)] > > Assioma della conoscenza (logica epistemica): Kp -> p > a parole: sai che 'p' (es. 'oggi c'è il sole') solo se 'p' è vero: se non > hai modo di stabilirlo, allora la tua è solo credenza > ChatGPT non sa nulla (ovviamente) ma su moltissime proposizioni noi non > siamo messi molto meglio > Il punto importante però è un altro: sta in quel 'modo di stabilirlo'. > Va detto chiaramente: i LLM non devono essere accettati come modi di > stabilire la verità di alcunché. > Personaggi anche famosi oggi affermano che l'umanità debba 'adattarsi' a > questi usi dei LLM. > Usi che sono spinti dalla bulimia capitalistica entrata nella fase > allucinatoria. > Ecco: secondo me la resistenza potrebbe essere una valida alternativa a > questo mortifero adattamento. ------------------------------------------------------------------------ apriti cielo sulla frontiera sulla rotta nera una vita intera mannarino, apriti cielo ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Feb. 19, 2023