February 2023 - nexa - server-nexa.polito.it

I: R: l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by andrea＠surbone.it

ERRATA CORRIGE La presentazione è stata rinviata a martedì 11 aprile, sempre alle 17 Andrea Surbone +39 335 7226007 <http://www.surbone.it/> www.surbone.it <http://www.jussemper.org/> www.jussemper.org <http://www.propostaneokeynesiana.it/> www.propostaneokeynesiana.it D. Astrologo, A. Surbone, P. Terna Il lavoro e il valore al tempo dei robot - Intelligenza artificiale e non-occupazione Meltemi, Milano 2019 con prefazione di Adam Smith <http://www.meltemieditore.it/catalogo/lavoro-valore-allepoca-dei-robot/> www.meltemieditore.it/catalogo/lavoro-valore-allepoca-dei-robot/ Da: nexa <nexa-bounces(a)server-nexa.polito.it> Per conto di andrea(a)surbone.it Inviato: lunedì 20 febbraio 2023 17:51 A: 'Guido Vetere' <vetere.guido(a)gmail.com>; 'Giacomo Tesio' <giacomo(a)tesio.it> Cc: 'Andrea Bolioli via nexa' <nexa(a)server-nexa.polito.it> Oggetto: [nexa] R: l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)] Usi che sono spinti dalla bulimia capitalistica entrata nella fase allucinatoria. Ecco: secondo me la resistenza potrebbe essere una valida alternativa a questo mortifero adattamento. Ladozione di un nuovo modello è ciò che vado proponendo io, e che presenterò martedì 14 marzo allEticaffè ospitato da Caffè Vergnano di Corso Einaudi 31, a Torino. Andrea Surbone +39 335 7226007 <http://www.surbone.it/> www.surbone.it <http://www.jussemper.org/> www.jussemper.org <http://www.propostaneokeynesiana.it/> www.propostaneokeynesiana.it D. Astrologo, A. Surbone, P. Terna Il lavoro e il valore al tempo dei robot - Intelligenza artificiale e non-occupazione Meltemi, Milano 2019 con prefazione di Adam Smith <http://www.meltemieditore.it/catalogo/lavoro-valore-allepoca-dei-robot/> www.meltemieditore.it/catalogo/lavoro-valore-allepoca-dei-robot/ Da: nexa <nexa-bounces(a)server-nexa.polito.it <mailto:nexa-bounces@server-nexa.polito.it> > Per conto di Guido Vetere Inviato: sabato 18 febbraio 2023 12:08 A: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it> > Cc: Andrea Bolioli via nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > Oggetto: Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)] Assioma della conoscenza (logica epistemica): Kp -> p a parole: sai che 'p' (es. 'oggi c'è il sole') solo se 'p' è vero: se non hai modo di stabilirlo, allora la tua è solo credenza ChatGPT non sa nulla (ovviamente) ma su moltissime proposizioni noi non siamo messi molto meglio Il punto importante però è un altro: sta in quel 'modo di stabilirlo'. Va detto chiaramente: i LLM non devono essere accettati come modi di stabilire la verità di alcunché. Personaggi anche famosi oggi affermano che l'umanità debba 'adattarsi' a questi usi dei LLM. Usi che sono spinti dalla bulimia capitalistica entrata nella fase allucinatoria. Ecco: secondo me la resistenza potrebbe essere una valida alternativa a questo mortifero adattamento. G. On Fri, 17 Feb 2023 at 20:35, Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it> > wrote: Non 'in senso stretto": chatgpt non sa nulla. Per affermare che un LLM sappia qualcosa è necessario svuotare competamente il verbo "sapere" del proprio significato e sostituirlo con quello di "indicizzare". ChatGPT non sa. Giacomo Il 17 Febbraio 2023 18:20:44 UTC, Andrea Bolioli <andrea.bolioli(a)h-farm.com <mailto:andrea.bolioli@h-farm.com> > ha scritto: Ciao Giacomo, purtroppo sono d'accordo con molte delle cose che scrivi, non tutte, ma molte. Sicuramente è bene diffondere la consapevolezza che gli LLM non sanno tutto (in senso stretto non sanno nulla), scrivono cose false senza distinguere tra vero e falso, vengono creati/utilizzati da aziende che non hanno come primo scopo il bene comune (anche se dicono di averlo), ecc AB Il giorno ven 17 feb 2023 alle ore 16:16 Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it> > ha scritto: Salve Andrea, <https://h-farm-static.s3.eu-south-1.amazonaws.com/HFI_JAKALA_Logo_mail.png> innovation.h-farm.com <https://innovation.h-farm.com/> / Linkedin <https://www.linkedin.com/company/h-farm-innovation> Roncade, H-FARM Campus, Via Olivetti, 1 31056 (TV) Milano, Corso di Porta Romana, 15 20122 Torino, Via San Quintino, 31 10121 Our privacy policy <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and- cookie-policy_DEF.pdf> . _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 22, 2023

Fwd: Laboratori di Sostenibilità Digitale nelle scuole. Facciamo rete!

by Marco Fioretti

Visto su altra lista: > Buongiorno a tutti, > > vi invito a partecipare attivamente a questo thread dove troverete una lettera a dirigenti e docenti: > https://forum.italia.it/t/laboratori-di-sostenibilita-digitale-nelle-scuole… (https://forum.italia.it/t/laboratori-di-sostenibilita-digitale-nelle-scuole…) Marco

Feb. 22, 2023

Sci-fi publisher Clarkesworld halts pitches amid deluge of AI-generated stories | Artificial intelligence (AI) | The Guardian

by Alberto Cammozzo

<https://www.theguardian.com/technology/2023/feb/21/sci-fi-publisher-clarkes…> One of the most prestigious publishers of science fiction short stories has closed itself to submissions after a deluge of AI-generated pitches overwhelmed its editorial team. Clarkesworld, which has published writers including Jeff VanderMeer, Yoon Ha Lee and Catherynne Valente, is one of the few paying publishers to accept open submissions for short stories from new writers. But that promise brought it to the attention of influencers promoting “get rich quick” schemes using AI, according to founding editor Neil Clarke. In a typical month, the magazine would normally receive 10 or so such submissions that were deemed to have plagiarised other authors, he wrote in a blogpost. But since the release of ChatGPT last year pushed AI language models into the mainstream, the rate of rejections has rocketed. In January, Clarke said, the publisher rejected 100 submissions, banning their “authors” from submitting again. In February to date, he has banned more than 500. “I’ve reached out to several editors and the situation I’m experiencing is by no means unique,” he wrote. “It does appear to be hitting higher-profile ‘always open’ markets much harder than those with limited submission windows or lower pay rates. “It’s clear that business as usual won’t be sustainable and I worry that this path will lead to an increased number of barriers for new and international authors. Short fiction needs these people. “It’s not just going to go away on its own and I don’t have a solution.” Closing submissions is a drastic move. Until a solution is identified, the magazine is not considering stories from authors. “We will reopen, but have not set a date,” Clarke said on social media. “Detectors are unreliable. Pay-to-submit sacrifices too many [legitimate] authors. Print submissions are not viable for us. “The people causing the problem are from outside the [science fiction and fantasy] community. Largely driven in by ‘side hustle’ experts making claims of easy money with ChatGPT. They are driving this and deserve some of the disdain shown to the AI developers.” Generative AI technology is also causing unrest further afield than fiction circles. Image generation, with tools including Midjourney, Dall-E and Stable Diffusion, has seen similar controversies, with the Colorado state art fair unknowingly awarding first prize in its “emerging digital artists” category to an image created by Midjourney – although the prize money was received by Jason Allen, who had typed the prompt into the AI tool and entered the output in the fair under his name.

Feb. 21, 2023

Re: [nexa] Il processo spiegato da loro

by 380°

Grazie don Luca per la segnalazione, mi pare che non sia la prima segnalazione di questo articolo in lista, ma vale la pena fare un passo di lato rispetto alle recenti discussioni in merito a ChatGPT e a come funziona l'AI per analizzare come (alcuni) dei _narratori_ raccontano la loro favola a quelli che se la bevo come se fosse davvero un discorso serio e non un modo (redditizzio e molto trendy) di tirare a campare finché il giochino funziona e porta finanze "Follow the white rabbit..." don Luca Peyron <dluca.universitari(a)gmail.com> writes: > https://openai.com/blog/how-should-ai-systems-behave/ «How should AI systems behave, and who should decide?» February 16, 2023 --8<---------------cut here---------------start------------->8--- OpenAI’s mission is to ensure that artificial general intelligence (AGI) benefits all of humanity. We therefore think a lot about the behavior of AI systems we build in the run-up to AGI, and the way in which that behavior is determined. [...] By AGI, we mean highly autonomous systems that outperform humans at most economically valuable work. --8<---------------cut here---------------end--------------->8--- Ah ma quindi è di AGI che siamo parlando? Non di generazione linguistica, riconoscimento vocale, OCR, riconoscimento scrittura fatta mano...? Daniela Tafani in altro thread [1] dice: >> Aggiungo solo la citazione della loro definizione di "AGI" (già >> commentata ampiamente e in anticipo da Weizenbaum): >> >> "By AGI, we mean highly autonomous systems that outperform humans at >> most economically valuable work. " Non mi viene in mente il pensiero/commento di Weizenbaum su questa specifica definizione di AGI: un aiuto? So solo che la definizione è talmente /mobile/ che anche le catene di montaggio meccanizzate risultano essere AGI (se non fosse che anche per le catene di montaggio 4.0 l'autonomia è una balla bella e buona) Basterebbe questa definizione per bollare definitivamente di cialtroneria l'intero progetto... e invece lo prendono (e si prendono) dannatamente /troppo/ sul serio. Per non parlare delle botte da orbi che si darebbero gli economisti per tentare di far vincere la propria definizione di "economically valuable work". --8<---------------cut here---------------start------------->8--- Unlike ordinary software, our models are massive neural networks. Their behaviors are learned from a broad range of data, not programmed explicitly. --8<---------------cut here---------------end--------------->8--- Le reti neurali diventeranno AGI?!? Con quale "ingrediente magico"? --8<---------------cut here---------------start------------->8--- Though not a perfect analogy, the process is more similar to training a dog than to ordinary programming. --8<---------------cut here---------------end--------------->8--- "Not perfect"... ROTFL Chiunque abbia mai partecipato anche solo a una lezione di educazione di un cane (ma prendete qualsiasi altro animale domestico) sa benissimo che l'unico a essere _addestrato_ è il padrone, di solito sia dall'addestratore che dal cane :-D Secondo me traspare che chi scrive certe cose lo fa facendosi affascinare da una inconscia repulsione nei confronti degli esseri viventi e attrazione verso l'inanimato: Eros contro Thanatos?!? --8<---------------cut here---------------start------------->8--- This is followed by a second phase in which we “fine-tune” our models to narrow down system behavior. As of today, this process is imperfect. Sometimes the fine-tuning process falls short of our intent (producing a safe and useful tool) and the user’s intent (getting a helpful output in response to a given input). Improving our methods for aligning AI systems with human values is a top priority for our company, particularly as AI systems become more capable. --8<---------------cut here---------------end--------------->8--- Ma lasciate che le vostre reti neurali si esprimano _liberamente_, lasciate dir loro tutto quello che gli salta in /mente/, lasciatele sperimentare, lasciate che imparino dai propri err... B-) --8<---------------cut here---------------start------------->8--- * Then, we “fine-tune” these models on a more narrow dataset that we carefully generate with human reviewers who follow guidelines that we provide them. Since we cannot predict all the possible inputs that future users may put into our system, we do not write detailed instructions for every input that ChatGPT will encounter. Instead, we outline a few categories in the guidelines that our reviewers use to review and rate possible model outputs for a range of example inputs. Then, while they are in use, the models generalize from this reviewer feedback in order to respond to a wide array of specific inputs provided by a given user. --8<---------------cut here---------------end--------------->8--- Quindi ci sono /persone/ che seguendo le linee guida fornite danno un punteggio all'output del modello in funzione dell'input e questo punteggio è dato come "feedback" al modello per "ritarare" la rete neurale? Ma le /persone/ non possono semplicemente spiegare alla rete neurale _perché_ la risposta è inopportuna o errata? :-D No, pare proprio che non funzioni così. Da dove potrà mai saltare fuori una AGI da tutto 'sto processo? --8<---------------cut here---------------start------------->8--- In some cases, we may give guidance to our reviewers on a certain kind of output (for example, “do not complete requests for illegal content”). --8<---------------cut here---------------end--------------->8--- Sì ma in quale giurisdizione? In quale periodo storico? Già che ci siamo, la rete neurale non può andarsi a leggere da sola il codice penale e civile di tutte la nazioni del mondo e verificare /da sola/ cos'è legale e illegale? :-O --8<---------------cut here---------------start------------->8--- In other cases, the guidance we share with reviewers is more high-level (for example, “avoid taking a position on controversial topics”). --8<---------------cut here---------------end--------------->8--- Sì ma in quale cultura... ma **soprattutto** in quale epoca?!? Sì insomma ci siamo capiti: che razza di modo è questo per stabilire "linee guida"? Sarà mica scienza questa roba qua, vero? --8<---------------cut here---------------start------------->8--- A large part of the fine-tuning process is maintaining a strong feedback loop with our reviewers, which involves weekly meetings to address questions they may have, or provide clarifications on our guidance. This iterative feedback process is how we train the model to be better and better over time. --8<---------------cut here---------------end--------------->8--- Spannometria applicata, enormi strutture (il)logiche tenute assieme col fil di ferro e accomodate con qualche spessore all'abbisogna. Leggere https://cdn.openai.com/snapshot-of-chatgpt-model-behavior-guidelines.pdf ("a portion of our guidelines", tre paginette striminzite aggiornate a Luglio 2022) è divertentissimo: la fiera dei concetti traballanti espressi malissimo. Ci vorrebbe un mediatore culturale... A proposito di legalità: ChatGPT tratta legalmente i dati personali degli utenti che si /confidano/ con quel sistema? Saluti, 380° [1] https://server-nexa.polito.it/pipermail/nexa/2023-February/024964.html -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Feb. 21, 2023

legal breaching in Belgio

by Alberto Cammozzo

Il Belgio definisce le condizioni secondo le quali un cittadino può compiere attività mirate alla rilevazione non concordata di vulnerabilità senza dover temere conseguenze legali. <https://ccb.belgium.be/en/vulnerability-reporting-ccb> Vulnerability reporting to the CCB Every computer system or network may contain vulnerabilities. These vulnerabilities can be detected by both well-intentioned people and by people with bad intentions. Apart from the existence of a coordinated vulnerability disclosure policy (CVDP) or bug bounty, the fear of being sued often prevents well-intentioned people from looking for and reporting these vulnerabilities. As part of the implementation of the national cybersecurity strategy, a new legal framework has been adopted in Belgium to address this situation. This new framework allows any natural or legal person, acting without fraudulent or malicious intent, to investigate and report existing vulnerabilities in networks and information systems located in Belgium, provided that certain conditions are strictly respected (see detailed explanations). One of these conditions is to report the discovered vulnerabilities to the Center for Cybersecurity Belgium (CCB) as soon as possible and according to the procedure provided for this purpose. [...] B. What are your obligations in the context of the search for and reporting of a vulnerability? 1° You must limit yourself strictly to the facts necessary to report a vulnerability. Thus, you must not act beyond what is necessary and proportionate to verify the existence of a vulnerability (see below point C "proportionality and necessity of actions"). 2° You must act without fraudulent intent or design to harm. You may not use your research for fraudulent purposes or with malicious intent. For example, you may not attempt to monetize the information discovered to the responsible organization or to third parties (unless, of course, a reward or remuneration has been explicitly and previously agreed upon in the context of a pentest, bug bounty, agreement, etc). When possible and to demonstrate your good intentions, make yourself known to the responsible organization beforehand, during your research, for example by using a header or another identifiable parameter. 3° as soon as possible after the discovery of the potential vulnerability (and at the latest at the time of reporting to the national CSIRT), you must inform the organization responsible for the system, process or control of the vulnerability. When more than one person was involved in the research, the report may be made on behalf of several individuals who then assume collective responsibility. For convenience, multiple vulnerabilities involving the same responsible organization can also be reported in a single report. However, it is necessary to make a separate report for each organization concerned. In order to establish the timeliness of your report, it is recommended that you keep evidence of the actions taken (logging) with respect to the network and information system concerned and communicate this information to the CCB at the time of the report. 4° you must as soon as possible report the discovered vulnerability to the CCB (in the absence of a CVDP), in writing and according to the procedures described below (point D). In order to establish the rapidity of your report, it is recommended that you keep evidence of the actions taken (logging) with regard to the system, process or control concerned and that you communicate this information to the CCB at the time of the report. It is also recommended to do the report prior to any active resistance by the responsible organization (e.g., shutting down the ports) and/or any criminal investigation, to emphasize the timeliness of the report. 5° you must not publicly disclose information about the discovered vulnerability without the agreement of the national CSIRT (CCB). C. Proportionality and necessity of actions Your actions must be strictly limited to the facts that are necessary to allow the research and the reporting of a vulnerability of a network and information system. The following may be considered as such facts: unauthorized access or attempted access to a computer system (art. 550 bis § 1 and 4 of the Criminal Code) ; exceeding or attempting to exceed an authorization to access a computer system (550 bis § 2 and 4 of the Criminal Code); taking over or copying computer data (Art. 550 bis, § 3 of the Criminal Code); the development or possession of hacking tools (Art. 550 bis, § 5 of the Criminal Code) possession, disclosure, use or disclosure of information obtained through unauthorized access - for example, information available on the Internet (Art. 550 bis § 7 of the Criminal Code); introduction or modification of data in a computer system (550 ter of the Criminal Code); interception or attempted interception of communications (Article 314 bis of the of the Criminal Code and/or Article 145 of the Electronic Communications Act of 13 June 2005); the violation of an obligation of professional secrecy or a contractual obligation of confidentiality; Your actions and research methods must remain necessary and proportionate with regard to the objective of verifying the existence of a vulnerability in order to improve the security of the system, process or control concerned. The techniques used must therefore be strictly necessary and proportionate to the demonstration of a security flaw. If the demonstration is possible on a small scale, you cannot extend your research further. The goal is not to use the vulnerability to examine how far one can penetrate a system, process or control. Similarly, there is no justification for disrupting the availability of services provided by the affected equipment. If not strictly necessary to demonstrate the existence of a vulnerability, the use and retention of data from the system, process or control may not be performed. Similarly, all data collected should be deleted within a reasonable time after the report. If it is necessary to keep this data for a longer period of time or if legal proceedings are in progress, you must ensure that this data is kept secure during this period. The following may be considered as disproportionate and/or unnecessary actions : the installation of malicious software (malware): viruses, worms, Trojan horses, or other ; Distributed Denial Of Service (DDOS) attacks; Social engineering attacks; Phishing attacks; Spamming attacks; Password theft or brute force attacks; deletion of data from the computer system; the realization of a foreseeable damage to the visited system or its data; all other offences than those mentioned under C (e.g. burglary, theft, assault, etc.). Finally, you should also take into account that if your vulnerability research is carried out on networks or information systems located in whole or in part outside the Belgian territory, the present reporting procedure will only protect you in Belgium and not in the other countries concerned. [...]

Feb. 21, 2023

Sepre a proposito di AI

by Diego Giorio

Segnalo questo articolo sui rischi per i diritti umani: https://www.corrierecomunicazioni.it/digital-economy/intelligenza-artificia… [https://d110erj175o600.cloudfront.net/wp-content/uploads/2023/02/17175840/i…]<https://www.corrierecomunicazioni.it/digital-economy/intelligenza-artificia…> Intelligenza artificiale, allarme Onu: “Grave minaccia per i diritti umani” - CorCom<https://www.corrierecomunicazioni.it/digital-economy/intelligenza-artificia…> L’Alto Commissario delle Nazioni Unite mette in guardia sui rischi e invoca “efficaci misure di salvaguardia”. Intanto Microsoft limita le chat di Bing AI dopo alcune conversazioni “inquietanti” del chatbot www.corrierecomunicazioni.it Buona giornata D.

Feb. 21, 2023

Il bando di INDL-6 è online! "Digital Labor in the Wake of Pandemic Times" (scadenza: 3 apr. 2023)

by Antonio Casilli

Siamo lieti di annunciare la [ https://www.indl.network/index.php/2023/02/20/the-call-for-papers-for-our-i… | sesta conferenza dell'International Network on Digital Labor (INDL-6), che si terrà dal 9 all'11 ottobre 2023 ] . La conferenza riunirà esperti di vari settori per discutere gli ultimi risultati delle loro ricerche e condividere idee sul tema "Digital Labor in the Wake of Pandemic Times". Le tendenze tecnologiche a lungo termine e gli shock esogeni degli ultimi anni hanno contribuito alla continua espansione del lavoro digitale. La conferenza INDL di quest'anno sarà un'eccellente occasione per scambiare visioni e prospettive, oltre che un ottimo modo per fare nuove amicizie tra ricercatori, lavoratori, politici e operatori che studiano il futuro del lavoro, la giustizia sociale, le piattaforme e l'IA. La Conferenza INDL-6 si terrà in presenza presso il Weizenbaum Institute for the Networked Society, Berlino . È co-organizzata dall'Organizzazione Internazionale del Lavoro (ILO), il programma Digital Platform Labor (DiPLab) e dal Wissenschaftszentrum Berlin für Sozialforschung (WZB). Incoraggiamo tutti i ricercatori e gli operatori interessati a presentare abstract che affrontino aspetti del lavoro digitale, tra cui, ma non solo: gig economy, lavoro online, sorveglianza sul posto di lavoro, gestione algoritmica, reclutamento assistito dall'IA, smart working/telelavoro, benessere dei dipendenti, disuguaglianza, risposte politiche alla crisi del Covid-19, regolamentazione, organizzazione dei lavoratori digitali, genere e lavoro, lavoratori LGBTQ+, intersezionalità, disabilità, inclusione, IA, prospettive decoloniali, mercati del lavoro informali, IA generativa e occupazione. Incoraggiamo fortemente le proposte di natura interdisciplinare e le proposte di ricercatori e operatori del Sud globale su tutti i temi. La scadenza per la presentazione degli abstract è il 3 aprile 2023 . Gli autori riceveranno una notifica di accettazione entro il 21 aprile 2023. Si accettano anche proposte per workshop e panel. Per presentare la vostra proposta, seguite le istruzioni sul sito web della conferenza: [ https://www.indl.network/ | https://www.indl.network/ ] . Vi ringraziamo in anticipo per l'invio di questo bando a chiunque possa essere interessato e per la condivisione sui vostri social. Saremo lieti di ricevere i vostri contributi e di fare conoscenza alla Conferenza INDL-6 in ottobre! A nome del comitato organizzatore INDL. Antonio Casilli -- Antonio A. Casilli Professor, Telecom Paris | Institut Polytechnique de Paris Member, Interdisciplinary Institute for Innovation (CNRS) Associate Member, LACI-LAP (EHESS) Associate researcher, Weizenbaum-Institut, Berlin Member, Scholarly council UCLA Center for Critical Internet Inquiry (C2i2) Faculty Fellow, Nexa Center for Internet & Society *We respect your right to disconnect. My workflow efficiency accounts for this email send time. Taking action or responding outside of office hours is not mandatory*

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Giacomo Tesio

Marco hai scritto: "Non hai nessun motivo per pensare o pretendere che il dato esatto, se è stato fornito, torni fuori. " Ti ho risposto: "Beh, non hai nemmeno alcun modo di escluderlo. " Mi hai chiesto cosa centra e ho provato mostrartelo (violazione del copyright) Hai erroneamente inteso il mio messaggio come un tentativo di falsificare la tua affermazione, ma in realtà la stavo solo completando (e chiarificando). Non solo non c'è motivo di credere di poter estrarre il dato esatto,ma non c'è nemmenio motivo di escuderlo. Il che limita ulteriormente l'utilità del giocattolo. D'altro canto cercare un significato nel output di ChatGPT è del tutto analogo a cercarlo nei fondi di caffé. Giacomo Il 20 Febbraio 2023 18:36:43 UTC, "Marco A. Calamari" <marcoc_maillist(a)marcoc.it> ha scritto: >On lun, 2023-02-20 at 16:29 +0100, Giacomo Tesio wrote: >> On Mon, 20 Feb 2023 16:15:37 +0100 Marco A. Calamari wrote: >> >> > On lun, 2023-02-20 at 15:09 +0100, Giacomo Tesio wrote: >> > > On Mon, 20 Feb 2023 12:59:06 +0100 Marco A. Calamari wrote: >> > > >> > > > Non hai nessun motivo per pensare o pretendere che il dato >> > > > esatto, se è stato fornito, torni fuori. >> > > >> > > Beh, non hai nemmeno alcun modo di escluderlo. >> > >> > Mi sembra una risposta cosiddetta "a pipa di cocco" - vedi Braccio di >> > Ferro. >> > >> > Mi spiegheresti il rovesciamento di argomento cosa c'entra? >> >> Te lo mostro: >> >> https://peertube.opencloud.lu/w/eW497u3UYXmQwcQu9LYEDR >> >> Qui vedi GitHub CopyALot distribure una copia esatta del codice di >> Quake III Arena (sotto GPLv3), ma con una licenza permissiva ed una >> attribuzione sbagliata. >> >> Il codice però era esattamente quello usato come sorgente della >> programmazione statistica. >> >> >> In altri termini affermare che "in una IA generativa, un sistema di Deep >> Learning, un modello linguistico, GPT-3 in particolare, una volta >> addestrato IL DATO NON ESISTE PIU'" è inesatto. >> >> Il dato può esistere o meno. > >Non funziona così. > >La tokenizzazione delle IA generative avviene a diversi livelli, non >necessariamente di parola. > >La lunga sequenza di codice non corrisponde necessariamente, in altre parole, >alla comprensione > della logica interna alla sequenza, cioè che rappresenta qualcosa di diverso >dalla sequenza di parole; > può semplicemente essere un token. > >In ogni caso stai procedendo dal particolare al generale, con un ragionamento >intrinsecamente scorretto. > >Tutte le informazioni usate per alimentare un modello linguistico >generativo POSSONO essere recuperate? > >NO. > >Se qualcosa riappare, è un effetto "del secondo ordine" > >Non diffondere UD. > >> Ciò che è sparito completamente è il significato di quel dato. >> >> >> > Anche nella Biblioteca di Babele potrei imbattermi nel catalogo >> > completo della Biblioteca di Babele, questo non rende il suo metodo >> > di archiviazione un esempio da seguire od un metodo affidabile. >> >> :-D >> >> La differenza sostanziale è che la Biblioteca di Babele non esiste. >> Né qualcuno si preoccupa di cantarne le lodi o difenderne l'output. >> >> >> Giacomo >

Feb. 20, 2023

Il creatore di ChatGPT Sam Altman preoccupato per l'IA: "è potenzialmente pericolosa"

by Diego Giorio

Feb. 20, 2023

Re: [nexa] l'output e le fonti [era Triste Annuncio (a proposito di Chat GPT)]

by Marco A. Calamari

On lun, 2023-02-20 at 16:29 +0100, Giacomo Tesio wrote: > On Mon, 20 Feb 2023 16:15:37 +0100 Marco A. Calamari wrote: > > > On lun, 2023-02-20 at 15:09 +0100, Giacomo Tesio wrote: > > > On Mon, 20 Feb 2023 12:59:06 +0100 Marco A. Calamari wrote: > > > > > > > Non hai nessun motivo per pensare o pretendere che il dato > > > > esatto, se è stato fornito, torni fuori. > > > > > > Beh, non hai nemmeno alcun modo di escluderlo. > > > > Mi sembra una risposta cosiddetta "a pipa di cocco" - vedi Braccio di > > Ferro. > > > > Mi spiegheresti il rovesciamento di argomento cosa c'entra? > > Te lo mostro: > > https://peertube.opencloud.lu/w/eW497u3UYXmQwcQu9LYEDR > > Qui vedi GitHub CopyALot distribure una copia esatta del codice di > Quake III Arena (sotto GPLv3), ma con una licenza permissiva ed una > attribuzione sbagliata. > > Il codice però era esattamente quello usato come sorgente della > programmazione statistica. > > > In altri termini affermare che "in una IA generativa, un sistema di Deep > Learning, un modello linguistico, GPT-3 in particolare, una volta > addestrato IL DATO NON ESISTE PIU'" è inesatto. > > Il dato può esistere o meno. Non funziona così. La tokenizzazione delle IA generative avviene a diversi livelli, non necessariamente di parola. La lunga sequenza di codice non corrisponde necessariamente, in altre parole, alla comprensione della logica interna alla sequenza, cioè che rappresenta qualcosa di diverso dalla sequenza di parole; può semplicemente essere un token. In ogni caso stai procedendo dal particolare al generale, con un ragionamento intrinsecamente scorretto. Tutte le informazioni usate per alimentare un modello linguistico generativo POSSONO essere recuperate? NO. Se qualcosa riappare, è un effetto "del secondo ordine" Non diffondere UD. > Ciò che è sparito completamente è il significato di quel dato. > > > > Anche nella Biblioteca di Babele potrei imbattermi nel catalogo > > completo della Biblioteca di Babele, questo non rende il suo metodo > > di archiviazione un esempio da seguire od un metodo affidabile. > > :-D > > La differenza sostanziale è che la Biblioteca di Babele non esiste. > Né qualcuno si preoccupa di cantarne le lodi o difenderne l'output. > > > Giacomo

Feb. 20, 2023