September 2024 - nexa - server-nexa.polito.it

Re: [nexa] dum Romae consulitur Saguntum expugnatur?

by Enrico Nardelli

A questo proposito segnalo quanto sotto. Ciao, Enrico https://hechingerreport.org/kids-chatgpt-worse-on-tests/ Researchers at the University of Pennsylvania found that Turkish high school students who had access to ChatGPT while doing practice math problems did worse on a math test compared with students who didn’t have access to ChatGPT. Those with ChatGPT solved 48 percent more of the practice problems correctly, but they ultimately scored 17 percent worse on a test of the topic that the students were learning. Il 08/09/2024 19:12, Stefano Borroni Barale ha scritto: > Buonasera a tutte/i, > se devo dire la cosa che mi colpisce di più è la schizofrenia del > ministro, che salta come un puntina di un mangiadischi portatile dalla > tecnofobia delle sue regole auree per il digitale a scuola a questa > 'sperimentazione' tecnoentusiasta improvvisata in 15 scuole. Va bene > che dopo aver visto la "riforma della filiera" dei tecnici e > professionali fatta in piena estate non dovrei più stupirmi di nulla. > Purtroppo per me non ci riesco: un piccolo colpo al cuore ad ogni > ulteriore crollo verso l'abominio non riesco a evitarlo. > Nel frattempo il disco, a furia di saltare la puntina, s'è rigato. > Stefano > > Inviato con l'email sicura Proton Mail <https://proton.me/>. > > domenica 8 settembre 2024 15:32, maurizio lana > <maurizio.lana(a)uniupo.it> ha scritto: >> "Valditara: sperimentazione AI a scuola. Sperimentazione partirà in >> 15 classi" >> https://www.rainews.it/articoli/ultimora/valditara-sperimentazione-ai-a-scu… >>> "Siamo uno dei primi Paesi ad avere avviato quest'anno scolastico >>> una sperimentazione nell'utilizzo dell'intelligenza artificiale per >>> la personalizzazione della didattica. Parte in 15 classi in alcune >>> Regioni: Calabria, Lazio, Toscana, Lombardia". Lo ha detto il >>> ministro dell'Istruzione e del Merito Giuseppe Valditara a Cernobbio. >> cioè: noi discutiamo, giustamente, ma lì la introducono. la >> introducono proprio in quel luogo che noi così fortemente vediamo >> deputato a costruire capacità critica e non adesione supina. >> quanto al come e su che cosa, Repubblica scrive: >>> >>> >>> L’IA per gli insegnanti >>> >>> In una lettera >>> <https://www.repubblica.it/commenti/2023/01/17/news/valditara_intelligenza_a…>che >>> il ministro inviò lo scorso anno a /Repubblica/ Valditara ha >>> spiegato il ruolo dell’IA >>> <https://www.repubblica.it/scuola/2023/01/20/news/chatbot_il_software_chi_ti…> >>> a scuola: “Può essere impiegata per aiutare gli insegnanti a >>> personalizzare l'apprendimento, ad adattare i contenuti in base alle >>> attitudini individuali degli studenti, a monitorare i loro progressi >>> e a fornire informazioni su come migliorare il loro rendimento” si >>> legge nella lettera. E sottolinea il ruolo del docente. >>> “L'intelligenza artificiale non può dunque soppiantare l'insegnante >>> né marginalizzarne il ruolo, che è decisivo in tutti i gradi di >>> scuola, in particolare nella primaria”. >>> >>> >>> L’IA per gli studenti >>> >>> Lato studenti, l’uso dell’IA, si legge sempre nella lettera, “può >>> consentire agli studenti di ottenere un riscontro rapido e >>> personalizzato sul lavoro svolto, in modo da aiutarli a concentrarsi >>> sui loro punti di forza e a raggiungere i propri obiettivi >>> educativi. Inoltre, gli studenti possono usare apparecchiature >>> tecnologicamente avanzate, come i robot educativi, per aumentare >>> l'interattività della loro esperienza scolastica”. >>> >> Maurizio >> >> ------------------------------------------------------------------------ >> quella volta in due siamo rimasti appesi ad un friend. e ha tenuto. >> quella volta in due siamo rimasti appesi ad un amico. e ha tenuto. >> matteo della bordella >> ------------------------------------------------------------------------ >> Maurizio Lana >> Università del Piemonte Orientale >> Dipartimento di Studi Umanistici >> Piazza Roma 36 - 13100 Vercelli > -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Past President di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

Caro Stefano, On Mon, 9 Sep 2024 11:33:44 +0200 Stefano Maffulli wrote: > A me personalmente piacerebbe capire *perché*, prima di pensare a > *se*, un LLM dovrebbe essere un'opera derivata dal dataset di > addestramento. La realtà può non piacerci, ma rimane pur sempre reale. Un LLM è un'opera derivata dai dataset utilizzati durante la sua programmazione. Una volta compreso questo (piuttosto ovvio) concetto, possiamo ragionare se le normative vigenti vadano modificate a vantaggio delle grandi aziende che vogliono sfruttare gratuitamente tali opere per produrre software opachi che ne riproducono gli interessi ovunque vengono eseguiti, o meno. > Ovvero, avendo come obiettivo la diffusione della > conoscenza, è collettivamente positivo per la società pensare che > opere di creatività debbano essere coperte da diritti esclusivi nuovi > (o estensione di quelli vecchi --diritto d'autore, marchi, ecc) > prima di poter essere trasformate in token e passati in pasto > all'addestramento automatico? Non sono certo di comprendere cosa tu intenda con questa frase. Esimere dal rispetto della Legge chi usa proxy software per violare i diritti altrui è deleterio sia per le vittime che per la società. D'altro canto, nessuno vuole impedire, ad esempio, la creazione di software come GitHub CopyALot: l'importante è che tali software e i software che includono i loro output rispettino i diritti degli autori che hanno contribuito alla loro creazione e le licenze che li veicolano. Ad esempio, Microsoft potrebbe riprogrammare un servizio come GitHub Copilot utilizzando esclusivamente i sorgenti di cui detiene il copyright (e quelli in pubblico dominio). In questo modo nessuno (eccetto Microsoft) avrebbe diritto di lamentarsi per l'inclusione di tali sorgenti in altri software, proprietari o meno. Microsoft invece vuole violare liberamente il copyright altrui, ma si guarda bene dall'automatizzare la violazione del proprio! Cui prodest? (questa volta rispondere è proprio facile... ;-) In qualunque caso non serve né estendere ne comprimere il diritto d'autore, basta applicarlo come viene applicato a qualsiasi altro software compilato a partire da testi. Giacomo

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Fabio Alemagna

Quando un essere umano studia da un libro, più libri, apprende non solo il senso dei contenuti, e non solo è in grado di fare connessioni tra ciò che ha appreso dai singoli libri, ma il più delle volte può anche recitare interi passaggi di quei libri, sia essendone consapevole - quando voglia effettuare una citazione - sia a volte in modo involontario, semplicemente perché è ciò che gli viene naturale fare nel ricordare ciò che ha appreso. Dal punto di vista semantico, non vi è alcuna differenza sostanziale con ciò che fa un LLM, e onestamente trovo che non ci sia alcuna antropomorfizzazione nell'usare termini come "apprendere" per riferirsi ad un algoritmo, per due ordini di motivi: 1) Non solo gli umani apprendono, bensì tutti gli esseri viventi. 2) Esistono definizioni di "apprendimento" che sono basate puramente sui concetti derivati dalla teoria dell'informazione (o, equivalentemente, dalla termodinamica statistica) e non richiedono affatto che ad apprendere sia un essere vivente, men che meno senziente, men che meno umano. La domanda conseguente dunque è: un essere umano viola il copyright apprendendo dai testi da cui studia? La risposta è "no", ergo non vi è ragione alcuna di sostenere che qualunque altro soggetto che effettui un apprendimento stia violando il copyright, a meno di non voler espandere il concetto di copyright fino a coprire ambiti che fino ad ora gli erano preclusi. A tal proposito, questo è quel che ne pensa Creative Commons: «this method of using image-text combinations to train the AI model has an inherently transformative purpose from the original images and should support a finding of fair use. While these images were originally created for their aesthetic value, their purpose for the AI model is only as data. For the AI, these image-text pairs are only representations of how text and images relate. What the images are does not matter for the model — they are only data to teach the model about statistical relationships between elements of the images and not pieces of art.» «This is similar to how Google used digital copies of print books to create Google Books, a practice that was challenged in Author’s Guild v. Google (Google Books). In this case, the Second Circuit Court of Appeals found that Google’s act of digitizing and storing copies of thousands of print books to create a text searchable database was fair use. The court wrote that Google’s purpose was different from the purpose of the original authors because Google was not using the books for their content. Indeed, the content did not really matter to Google; rather the books were like pieces of data that were necessary to build Google’s book database.» « it is also similar to how search engine operator Arriba Soft used copies of images in its search engine, which was litigated in Kelly v. Arriba Soft. In this case, a photographer, Leslie Kelly, sued the operator of a search engine, Arriba Soft, for copying and displaying copies of her photographs as thumbnails to users. The court, however, disagreed that this constituted copyright infringement. Instead, the court held that this use served a different and transformative purpose from the original purpose because Arriba Soft only copied Kelly’s photographs to enable its search engine to function and not because of their aesthetic value.» https://creativecommons.org/2023/02/17/fair-use-training-generative-ai/ Fabio

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

Salve Stefano, On Mon, 9 Sep 2024 10:56:06 +0200 Stefano Zacchiroli wrote: > La recitation è assolutamente *possibile* [...] > La frequenza dipende da proprietà statistiche del training dataset > [...] > Quello che invece regolarmente fanno attori come GitHub con Copilot è > di aggiungere a valle della generazione con gli LLM dei filtri basati > su tecniche di code clone detection e anti-plagio [...] > Microsoft si sente abbastanza sicura di tutto questo da offrire > garanzie legali in termini di violazione del diritto d'autore quando > si usa la suite Copilot. (Non a caso lo fa *solo* se l'utente non ha > disabilitato il filtering a valle di cui parlavo sopra.) > > [...] > > Tutto questo non ci aiuta nel dibattito sul decidere se un LLM sia o > meno un opera derivata dei suoi training input. Non mi è chiaro il passaggio logico. Sappiamo tutti che gli output degli LLM includono stralci delle opere utilizzati per programmarli. Sappiamo tutti che la frequenza di questi stralci dipende dalle proprietà statistiche del dataset costituito da tali opere. Sappiamo addirittura che Microsoft & friends post-processano gli output degli LLM per escludere tali testi con tecniche anti plagio. Come altro potremmo interpretare questi fatti se non riconoscendo che il LLM è un opera derivata (un eseguibili prodotto attraverso un processo di compressione con perdita) dei testi utilizzati per programmarlo? Perché adottare filtri anti-plagio se le opere non fossero codificate (pur in formato compresso con perdita) nelle matrici che costituiscono l'LLM e di conseguenza nell'output che questi producono? Direi al contrario che i fatti elencati *dimostrino* come le "AI generative" siano opere derivate delle opere utilizzate per programmarle. La necessità di filtri anti-plagio dimostra gli innumerevoli plagi avvenuti a monte, durante la realizzazione del "modello". O forse intendi che tutto questo non ci aiuta nel dibattito perché risponde alla questione al di la di ogni ragionevole dubbio? O ancora che non aiuta chi vuole che il dibattito continui per evitare (o rimandare) gli obblighi connessi alle licenze copyleft? O ancora che non aiuta chi vuole che il dibattito continui per evitare di rispettare la normativa vigente pagando agli autori delle opere il diritto di creare opere derivate? Giacomo

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Stefano Maffulli

On Mon, Sep 9, 2024 at 11:15 AM Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > Tutto questo non ci aiuta nel dibattito sul decidere se un LLM sia o > meno un opera derivata dei suoi training input. A me personalmente piacerebbe capire *perché*, prima di pensare a *se*, un LLM dovrebbe essere un'opera derivata dal dataset di addestramento. Ovvero, avendo come obiettivo la diffusione della conoscenza, è collettivamente positivo per la società pensare che opere di creatività debbano essere coperte da diritti esclusivi nuovi (o estensione di quelli vecchi --diritto d'autore, marchi, ecc) prima di poter essere trasformate in token e passati in pasto all'addestramento automatico?

Sept. 9, 2024

MEMENTO | 175° Mercoledì di Nexa | 11 settembre 2024, ore 17.00

by Nexa - Media

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 11 settembre, alle ore 17.00, si terrà il 175° Mercoledì di Nexa con un incontro dal titolo "Le emissioni segrete. L'impatto ambientale dell'universo digitale". Ospite dell'incontro: Giovanna Sissa (Università di Genova). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina: https://nexa.polito.it/mercoledi-175 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Stefano Zacchiroli

On Sun, Sep 08, 2024 at 04:24:00PM +0200, Guido Vetere wrote: > La memorizzazione, insomma, è un caso degenere. Infatti, si applicano > usualmente tecniche di filtering per deduplicare i passaggi che occorrono > molte volte nei dataset di training, magari proprio perché gli umani li > hanno plagiarizzati molte volte :-) Esatto, questo è un punto pratico molto importante che spesso si perde (anche su questa lista) nelle discussioni sul tema della "recitation" (restituzione di "lunghi" passaggi presenti nel training dataset da parte di un LLM). La recitation è assolutamente *possibile* come caso degenere, come sottolinea Guido. La frequenza dipende da proprietà statistiche del training dataset, che chi mette sul mercato un LLM può controllare (ma spesso fa, perché molto costoso). Quello che invece regolarmente fanno attori come GitHub con Copilot è di aggiungere a valle della generazione con gli LLM dei filtri basati su tecniche di code clone detection e anti-plagio, che sono molto efficaci e relativamente poco costose. Se una sequenza troppo lunga è presente sia nell'output che nel training dataset, l'output viene buttato via e rigenerato, fino a quando non si ottiene un output senza recitation. Tutto questo non ci aiuta nel dibattito sul decidere se un LLM sia o meno un opera derivata dei suoi training input. Ne tantomeno ci aiuta nei casi più complicati nei quali in cui l'output contiene parti del training dataset, ma non in sequenze verbatim. Ma in termini di impatto sulla società dei *prodotti* basati su LLM, le cose sono cambiate parecchio su questi punti dai primi studi empirici su quanto gli LLM (commercializzati) possano ripetere verbatim i loro input o meno. È il motivo per cui Microsoft si senza abbastanza sicura di tutto questo da offrire garanzie legali in termini di violazione del diritto d'autore quando si usa la suite Copilot. (Non a caso lo fa *solo* se l'utente non ha disabilitato il filtering a valle di cui parlavo sopra.) A presto -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

Salve Giuseppe, On Mon, 9 Sep 2024 09:50:41 +0200 Giuseppe Attardi wrote: > Che significa “software programmato statisticamente”? Un software (ovvero una sequenza di byte eseguibili da una macchina con una architettura nota in fase di compilazione) programmato attraverso tecniche statistiche, ovvero basate sull'elaborazione di grandi quantitativi di dati selezionati allo scopo. > Una rete neurale è realizzata con programmi come altri utilizzando > algoritmi di ottimizzazione, con un processo di fit dei parametri del > modello rispetto ai dati per minimizzare una funzione di loss. Esatto, ottimo esempio. Con il termine "rete neurale artificiale" si con-fondono due software diversi programmati con tecniche diverse: - la macchina virtuale caratterizzata dall'architettura di interesse (la topologia della rete), tipicamente scritta in R, Python, C etc... - il software che quella macchina virtuale esegue, espresso come matrici numeriche, programmato appunto attraverso tecniche statistiche e compilato per quella specifica macchina virtuale Si tratta di software distinti, anche quando usati insieme. Il primo software (la macchina virtuale) viene eseguito dall'hardware (che può essere a sua volta virtuale, ovviamente), mentre il secondo (il cosiddetto "modello" della "rete neurale artificiale") viene eseguito dal primo. I sorgenti del primo vengono scritti. I sorgenti del secondo vengono selezionati. Cambiano le tecniche di programmazione e compilazione, ma rimangono sorgenti di software compilati per essere eseguiti dalle rispettive architetture di interesse. > Un modello statistico sarebbe quello costruito a partire da un > campione statistico rappresentativo, selezionato appunto su basi > statistiche. Infatti! Proprio il software programmato statisticamente a partire dai dataset sorgente non è un modello statistico, è sbagliato chiamarlo "modello". Altrimenti finisce che i giuristi lo confondono con il data mining. > Ciò non vale per i LLM che usano tutti i dati disponibili, > considerandoli la realtà stessa e non la loro rappresentazione. Gli LLM non hanno alcuna consapevolezza dell'esistenza della realtà. Dunque non possono "considerare" i dati come la realtà. Gli LLM sono programmati compilando i dati SCELTI da chi li programma. La scelta dei contenuti da includere nel dataset è l'aspetto predominante del processo di programmazione statistica. > Quanto a “imparare”, è discutibile usare termini antropomorfi > riguardo alle macchine, ma per intenderci si può dire che fanno > qualcosa che si avvicina al nostro concetto di apprendere, ossia > saper usare quanto visto in precedenza in situazioni nuove. No. La calcolatrice non conosce l'aritmetica, anche se riesce a produrre in output una configurazione di cristalli liquidi che la tua mente può interpretare come somme che non le sono mai state sottoposte in passato. Una calcolatrice non sa cosa sia un numero più di quanto un LLM non sappia cosa sia un testo. Chi l'ha programmata non le ha insegnato l'aritmetica e lei non l'ha appresa, per nessuna definizione ragionevole di "apprendimento". Chi l'ha programmata ha codificato la _propria_ conoscenza della aritmetica in una serie di circuiti che ne _riproducono_ le regole sulle rappresentazioni elettriche fornite in input. Allo stesso modo, non c'è alcuna relazione fra il processo di programmazione statistica di una macchina in grado di ridurre vettori e l'apprendimento di un essere umano. Entrambi i processi sono iterativi e producono un cambiamento nel ente che li subisce, non hanno null'altro in comune. Se dicessi in una conferenza che la frutta "apprende" come comportarsi da marmellata, tutti riderebbero fragorosamente. :-D Dire che un software "apprende" come comportarsi è altrettanto ridicolo, ma hubris, ignoranza e soldi convincono troppe persone a non ridere quando sentono parlare di "machine learning". Così rimangono solo bambini e buffoni a ricordare che il re è nudo... e i software si programmano. ¯\_(ツ)_/¯ E sì, è vero: è davvero un lavoro estenuante! ;-) Giacomo

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giuseppe Attardi

> Il 8 Settembre 2024 14:24:00 UTC, Guido Vetereha scritto: >> >> Research has also shown that memorization occurs if >> an LLM sees a text repeatedly during training (Carlini et al., 2022b; >> Biderman et al., 2023). >> Because of this, *memorization can be seen as an extreme case of training >> data contamination* >> where a dataset is not only seen during training but repeated within the >> training set so often >> that the LLM becomes able to consistently generate it. >> >> La memorizzazione, insomma, è un caso degenere. > > Sembra un caso degenere perché immagini un'intelligenza artificiale che impara. > > Non appena comprendi che si tratta semplicemente di un software > programmato statisticamente Che significa “software programmato statisticamente”? Una rete neurale è realizzata con programmi come altri utilizzando algoritmi di ottimizzazione, con un processo di fit dei parametri del modello rispetto ai dati per minimizzare una funzione di loss. Un modello statistico sarebbe quello costruito a partire da un campione statistico rappresentativo, selezionato appunto su basi statistiche. Ciò non vale per i LLM che usano tutti i dati disponibili, considerandoli la realtà stessa e non la loro rappresentazione. Quanto a “imparare”, è discutibile usare termini antropomorfi riguardo alle macchine, ma per intenderci si può dire che fanno qualcosa che si avvicina al nostro concetto di apprendere, ossia saper usare quanto visto in precedenza in situazioni nuove. —

Sept. 9, 2024

Re: [nexa] AI Training is Copyright Infringement

by Giacomo Tesio

On Sun, 8 Sep 2024 17:12:23 +0200 Guido Vetere wrote: > Su cosa cosa significhi 'imparare' per gli umani e per le macchine si > sono versati fiumi di inchiostro, non credo sia il caso di dilungarsi > qui. Direi piuttosto che fiumi di inchiostro sono stati versati per giustificare la ridefinizione di termini come "imparare" e "apprendere" affinché possano essere applicati alle macchine. Più interessante sarebbe riflettere sugli obbiettivi di queste ridefinizioni: se si sia trattato di nobilitare le macchine o di alienare le persone. Le "sperimentazioni" sulle "AI" a scuola avvalorano la seconda ipotesi. > > Nonappena comprendi che si tratta semplicemente di un software > > programmato statisticamente > > Confesso che trovo la tua idea che un LLM sia un 'compilato' dei > dataset di training molto interessante Non lo è, in realtà: è ovvia. Con la sua semplicità, ridicolizza la favola delle "intelligenze artificiali" al rasoio di Occam. Per chi ha creduto in quella favola però può essere una interessante doccia fredda. > però non mi convince per due motivi: > 1) Come la mettiamo col lavoro umano di supervisione e > rinforzo (cfr. l'articolo del Guardian riportato oggi qui) che ha > un'importanza cruciale per il comportamento a run-time? Tra l'altro, > è proprio qui che si trova il grande vantaggio competitivo dei > monopolisti. Quel lavoro è parte del processo di programmazione statistica che non coincide con la sola compilazione del dataset iniziale, ma include la scelta degli hyper parameter, la scelta del dataset iniziale, la scelta della dimensione del vocabolario, la scelta del processo di programmazione, la scelta dei valori iniziali, la supervisione etc... La taggatura, i testi utilizzati per eventuali fine-tuning etc... aumentano il dataset sorgente, come file aggiunti a uno zip dopo la sua creazione. Rimane il fatto che alla fine del processo di compilazione ottieni matrici che costituiscono una compressione lossy eseguibile del dataset. > 2) Come la mettiamo con la generazione aumentata dal > retrieval (RAG)? Supponi che un grande produttore abbia generato un > foundation model con dataset acquisiti legalmente (bastano le > briciole di quello che hanno in tasca) e lo abbia poi istruito col > lavoro di dipendenti regolari. Quel modello, anche di dimensioni > ridotte (es. 70B) sarebbe in grado di fare cose molto utili, ad > esempio question answering, interpolando dati che non sono nel > training set, ma in database esterni sui quali viene a run-time > operata una ricerca. Non vi vedo alcuna differenza con un altro software proprietario che si colleghi ad un database esterno. L'output di questo ipotetico LLM conterrebbe frammenti dei testi usati per programmarlo combinati con pezzi dei dati presenti sul db. Se chi ha realizzato LLM aveva comprato dagli autori il diritto di progrannare l'LLM a partire dalle loro opere e chi usa l'LLM dispone dei diritti necessari ad accedere al database, dal punto di vista del copyright non ci sono problemi. Se poi parliamo di sicurezza informatica o della qualità degli output è tutta un'altra questione. > Suggerisco di stare molto attenti alle false analogie, perché ci danno > l'illusione di riportare l'ignoto al noto ma talvolta offuscano la comprensione delle cose. Bravo! Sono anni che lo dico! False analogie con le reti neurali, l'intelligenza o l'apprendimento servono solo a buttare fumo negli occhi a chi non comprende il funzionamento questi software. Se non fosse tragico, sarebbe ridicolo. È decisamente ora di ritornare con i piedi per terra. Perché Guido, qui stiamo parlando di software. Niente di più e niente di meno. E il software si programma, non si "allena". Giacomo

Sept. 8, 2024