Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista
Condivido l'opinione di Tommaso Frosini, che parla di mutazione antropologica (cfr nota 39 dell'articolo Gianluca Fasano). Bella questione, quella della cassetta degli attrezzi di Wittgenstein, una volta si parlava di linguaggio artificiale per evidenziare la sua non umanità, siamo al metalinguaggio? Inoltre, osservazione epistemologicamente meno nobile, gli attrezzi che finora sono stati "bene comune" rischiano di diventare proprietà privata ed ai noi neppure concedono le istruzioni per l'uso. A me ritorna in mente Marx e l'alienazione generata dalla macchina telaio. Altra è l'ipotesi del digitale armonizzato con l'umano, ma per avviarla è necessario che l'uomo "capisca" il digitale, a me pare e potrei sbagliare. Un cervello artificiale rischia di generare una mente artificiale, magari aiutato dalla persuasività - ammonisce Gianluca - che affascina noi umani, spesso ed ingenuamente alla ricerca di chi ci diriga. Cordialmente, Duccio (Alessandro Marzocchi) Il giorno mar 7 mag 2024 alle ore 18:43 <nexa-request@server-nexa.polito.it> ha scritto: Message: 2
Date: Tue, 7 May 2024 18:42:59 +0200 From: Guido Vetere <vetere.guido@gmail.com> To: alessandro marzocchi <alemarzoc@gmail.com> Cc: nexa@server-nexa.polito.it Subject: Re: [nexa] Articolo sui LLMs - il punto di vista di un giurista Message-ID: <CAD3hHB52iop9xiWWOkYCAQ1wWi-NdW=_ iaRRn4WJdr2tObQByQ@mail.gmail.com> Content-Type: text/plain; charset="utf-8"
Wittgenstein ha notoriamente definito linguaggio come una 'cassetta degli attrezzi' con cui si possono fare 'giochi' che vanno dalle serissime denotazioni alle frivole 'boutade', in contesti diversi e con gli scopi più vari. mi rendo conto dei motivi per cui la legislazione attuale si attiene a una visione 'robusta' dell'esercizio della parola, però oggi abbiamo a che fare con 'intelligenze aliene' che parlano basandosi su presupposti del tutto inediti. la legge, comprensibilmente, fatica a inquadrarli. personalmente, condivido l'idea che l'umano che mette in esercizio un llm debba assumersi la responsabilità di quello che dice come se fosse egli stesso a parlare diversa (e tecnicamente insipiente) è l'idea che il modello linguistico debba inerentemente garantire veridicità, correttezza, eccetera. cosa possiamo accettare come *prova* di queste inerenti capacità? la certificazione del processo di costruzione? suvvia .. purtroppo mi sembra di ravvisare un orientamento di questo tipo nell'AI Act, ma potrei sbagliare, mi smentisca chi può :-) G.
On Tue, 7 May 2024 at 14:51, alessandro marzocchi <alemarzoc@gmail.com> wrote:
A mio parere sono “”VERE”” entrambe le opinioni che operano su piani differenti. La parola non esiste in natura, è un flatus vocis umano. Però … gli umani usano le parole per descrivere / indicare / interpretare / raccontare la natura ed i “”fatti”” degli stessi umani. I problemi cominciano quando lenta mente noi umani abbiamo cominciato a SOSTITUIRE LA REALTA' con le nostre parole, dando alle stesse una forza che non hanno, meglio: cominciando a dar loro forza crescente fino ad illuderci / pretendere che abbiano forza autonoma (autòs nomos, che si regola da sè) non dipendente da / non collegata a la natura. Credo Gianluca faccia riferimento alle cosiddette preleggi - disposizioni sulla legge in generale / disposizioni preliminari al codice civile -: all’art 12 danno per acquisito il potere di regolare i fatti umani ed affermano un principio a mio avviso corretto e semplice “” Nell'applicare la legge non si può ad essa attribuire altro senso che quello fatto palese dal significato proprio delle parole secondo la connessione di esse, e dalla intenzione del legislatore. “” Mia opinione: il dibattito sull’IA è su questo punto, in sostanza l'IA non seleziona le parole per il loro senso comune? Cioè la macchina fa quello che l'art 12 preleggi prescrive, meglio: indica come criterio interpretativo? Al centro sta il confronto uomo e macchina, riaprendo domande fondamentali, fra le quali la questione se siamo davvero non ripetibili, questione che un tempo vedeva la sede dell’umanità nel ““cuore”” ed ora la vede in “”mente / intelligenza”” le quali hanno origine da parola, linguaggio e quest’ultimo si basa su significati accettati dalla maggioranza. Ricordo l’opinione contraria di Guido e riconosco che la sua autorevolezza, giustamente riconosciuta, mi scuso se vi faccio perder tempo. Cordialmente. Duccio (Alessandro Marzocchi)
Il giorno mar 7 mag 2024 alle ore 10:48 < nexa-request@server-nexa.polito.it> ha scritto:
Date: Tue, 7 May 2024 10:47:57 +0200
From: Guido Vetere <vetere.guido@gmail.com> To: Gianluca Fasano <gianluca.fasano@cnr.it> ottimo articolo, grazie per la condivisione, consiglio a tutte [femminile sovraesteso] di prendersi una mezz'ora per leggerlo da cima a fondo - vi vedo che state facendo summarization :-)) una piccola chiosa profana:
le associazioni di parole prodotte [dai language model] implicano un significato per i destinatari, un significato fatto palese dal senso comune delle parole, secondo il linguaggio naturale, che va a influire sulla libertà di formazione del pensiero; implicano un significato che va a incidere sulla libertà di raccogliere le informazioni, di informarsi, su quella che viene indicata come il profilo passivo della libertà di informazione
qui mi sembra che si assuma una posizione 'forte' (realistica) nei confronti del linguaggio, ma c'è chi ha sostenuto posizioni 'deboli' (nominalistiche) per le quali, per dirla con Roscellino, le parole sono solo 'emissioni della voce' (flatus vocis).
domanda: fino a dove il legislatore può impegnarsi filosoficamente? e perché, anche abbracciando il realismo, non ci soddisfa il 'disclaimer' di OpenAI che recita (molto piccolo, ma vabbè): "ChatGPT può commettere errori. Ti consigliamo di verificare le informazioni importanti." ? grazie ancora e buona giornata G.
On Mon, 6 May 2024 at 17:18, Gianluca Fasano <gianluca.fasano@cnr.it> wrote:
Buon pomeriggio, colgo l'occasione degli ultimi scambi sui LLMs per segnalarvi un mio articolo pubblicato su Dirittifondamentali.it [1], dal titolo: *Le ‘informazioni sintetizzate’ generate dai large language models e le esigenze di tutela del diritto all’informazione*: valori costituzionali e nuove regole Cordiali saluti. Gianluca [1]
http://dirittifondamentali.it/2024/02/06/le-informazioni-sintetizzate-genera...
Buongiorno Alessandro, scusate l'OT (?) ma visto che si parla di linguaggio connesso all'uso dei processi di calcolo (che sono quelli usati in tutto il software, compresi gli LLM) ho qualche curiosità da /limaferro/ [1] alessandro marzocchi <alemarzoc@gmail.com> writes: [...]
Bella questione, quella della cassetta degli attrezzi di Wittgenstein,
sono ignorante in /attrezzismo/, non ho nemmeno idea se sia alto o tardo wittgensteinesimo, non ho nemmeno idea di "dove" egli usi quella /metafora/ del linguaggio, ma sospetto che anche solo per provare a capirlo dovrei leggere l'intero Tractatus come minimo e poi /almeno/ confrontarlo /dialetticamente/ con le tre critiche di Kant, in particolare quella della ragione... ehrm
una volta si parlava di linguaggio artificiale per evidenziare la sua non umanità,
ignoravo il concetto di "linguaggio artificiale" (da _non_ confondere con "pianificato" o "costruito", anche se Rabelais si arrabbierebbe): https://en.wikipedia.org/wiki/Artificial_language ha origini nel 17mo secolo e la ratio è quella di sviluppare un linguaggio razionale senza le inconsistenze di un linguaggio vivo (naturale?) e basato sulla /classificazione dei concetti/. Quando sono stati disponibili i calcolatori - che a classificare sono imbattibili - hanno cominciato a usare quelli per sviluppare tali linguaggi, che comunque sono /disposable/ e non servono a nulla se non per completare l'_esperimento_. comunque sia, il "linguaggio artificiale" è qualcosa di generato (anche) da un computer attraverso software programmato allo scopo: corretto? Tale linguaggio ha una applicazione praticamente nulla e non c'entra con gli LLM, ovvero non è usato in connessione agli LLM: sbaglio? con tutto il rispetto trovo più interessante il Klingon (constructed language): https://en.wikipedia.org/wiki/Klingon_language :-D alla fine della fiera mi pare di capire che nessuna "Intelligenza Articifiale" sia in grado di /costruire/ un linguaggio nemmeno mille parsec lontano dalla sofisticatezza di qualsiasi "constructed language" [2], tipo l'Esperanto, per fare un esempio più serio (?) del Klingon; il mondo dei linguaggi costruiti (progettati) è immenso [3], perché la linguistica è inseparabile dalla filosofia (e viceversa)
siamo al metalinguaggio?
no, ma stiamo parlando di meta-linguistica, una "cosa" del tutto analoga alla meta-scienza, entrambe ambiti di ricerca che fanno parte della metafisica, quindi della filosofia.
Inoltre, osservazione epistemologicamente meno nobile, gli attrezzi che finora sono stati "bene comune" rischiano di diventare proprietà privata ed ai noi neppure concedono le istruzioni per l'uso.
No, nessuno è mai riuscito ad appropriarsi del _linguaggio_ per mezzo di copyright, brevetto o marchio, quello che denunci è un rischio insesistente. Ricordo che nel recente passato ci sono state un paio di /pesanti/ (dal punto di vista giuridico) battaglie legali per la "proprietarizzazione" delle API (che sono infinitamente meno complesse di qualsiasi linguaggio, artificiali compresi) e chi ha tentato ha perso, ne parla Eben Moglen qui: https://softwarefreedom.org/blog/2022/jan/18/google-oracle-endera/ ...anche se effettivamente ci sono sempre tempo e risorse per rimettere in discussione il “fair use for software API declarations” il resto degli attrezzi "bene comune" si chiama "software libero" e giuridicamente è (quasi) del tutto analogo a qualsiasi altra opera letteraria [4] [...] Saluti, 380° [1] nomignolo dispregiativo che l'amico studente in ragioneria usava per prendere in giro il mio alter ego studente perito tecnico, che per i primi 2 anni aveva in curriculum una materia che si chiamava "Aggiustaggio" [2] https://en.wikipedia.org/wiki/Constructed_language [3] io trovo _esilarante_ il tentativo (di chi?) di /classificare/ i linguaggi costruiti secondo criteri (pseudo)logici: engelangs, artlamgs... https://en.wikipedia.org/wiki/Constructed_language#Overview [4] con alcune notevoli eccezioni spregevoli, tipo i DRM (Digital _restrictions_ management) -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
sono ignorante in /attrezzismo/, non ho nemmeno idea se sia alto o tardo wittgensteinesimo, non ho nemmeno idea di "dove" egli usi quella /metafora/ del linguaggio, ma sospetto che anche solo per provare a capirlo dovrei leggere l'intero Tractatus come minimo e poi /almeno/ confrontarlo /dialetticamente/ con le tre critiche di Kant, in particolare quella della ragione
Il filosofo Ludwig Wittgenstein ha utilizzato la metafora del linguaggio come una "cassetta degli attrezzi" nel suo testo **"Ricerche filosofiche"** (*Philosophische Untersuchungen*), che è stato pubblicato postumo nel 1953. In questo scritto, Wittgenstein introduce l'idea che il linguaggio non sia una singola struttura uniforme, ma piuttosto una raccolta di strumenti diversi che vengono usati in modi differenti a seconda delle necessità. La metafora viene utilizzata nella seguente citazione:
"Considera gli strumenti in una cassetta da falegname: ci sono un martello, una tenaglia, una sega, una vite, un cacciavite, un righello, una colla, chiodi e viti. – Gli usi delle parole sono molteplici quanto le funzioni di questi oggetti. [...] È così che guardiamo il linguaggio."
(*Ricerche filosofiche*, § 11) In questo passaggio, Wittgenstein sottolinea la varietà e diversità delle funzioni linguistiche, opponendosi all'idea di una struttura rigida e uniforme del linguaggio.. [e poi parlate male di ChatGPT] G. On Wed, 8 May 2024 at 10:15, 380° via nexa <nexa@server-nexa.polito.it> wrote:
Buongiorno Alessandro,
scusate l'OT (?) ma visto che si parla di linguaggio connesso all'uso dei processi di calcolo (che sono quelli usati in tutto il software, compresi gli LLM) ho qualche curiosità da /limaferro/ [1]
alessandro marzocchi <alemarzoc@gmail.com> writes:
[...]
Bella questione, quella della cassetta degli attrezzi di Wittgenstein,
sono ignorante in /attrezzismo/, non ho nemmeno idea se sia alto o tardo wittgensteinesimo, non ho nemmeno idea di "dove" egli usi quella /metafora/ del linguaggio, ma sospetto che anche solo per provare a capirlo dovrei leggere l'intero Tractatus come minimo e poi /almeno/ confrontarlo /dialetticamente/ con le tre critiche di Kant, in particolare quella della ragione... ehrm
una volta si parlava di linguaggio artificiale per evidenziare la sua non umanità,
ignoravo il concetto di "linguaggio artificiale" (da _non_ confondere con "pianificato" o "costruito", anche se Rabelais si arrabbierebbe): https://en.wikipedia.org/wiki/Artificial_language
ha origini nel 17mo secolo e la ratio è quella di sviluppare un linguaggio razionale senza le inconsistenze di un linguaggio vivo (naturale?) e basato sulla /classificazione dei concetti/. Quando sono stati disponibili i calcolatori - che a classificare sono imbattibili - hanno cominciato a usare quelli per sviluppare tali linguaggi, che comunque sono /disposable/ e non servono a nulla se non per completare l'_esperimento_.
comunque sia, il "linguaggio artificiale" è qualcosa di generato (anche) da un computer attraverso software programmato allo scopo: corretto? Tale linguaggio ha una applicazione praticamente nulla e non c'entra con gli LLM, ovvero non è usato in connessione agli LLM: sbaglio?
con tutto il rispetto trovo più interessante il Klingon (constructed language): https://en.wikipedia.org/wiki/Klingon_language :-D
alla fine della fiera mi pare di capire che nessuna "Intelligenza Articifiale" sia in grado di /costruire/ un linguaggio nemmeno mille parsec lontano dalla sofisticatezza di qualsiasi "constructed language" [2], tipo l'Esperanto, per fare un esempio più serio (?) del Klingon; il mondo dei linguaggi costruiti (progettati) è immenso [3], perché la linguistica è inseparabile dalla filosofia (e viceversa)
siamo al metalinguaggio?
no, ma stiamo parlando di meta-linguistica, una "cosa" del tutto analoga alla meta-scienza, entrambe ambiti di ricerca che fanno parte della metafisica, quindi della filosofia.
Inoltre, osservazione epistemologicamente meno nobile, gli attrezzi che finora sono stati "bene comune" rischiano di diventare proprietà privata ed ai noi neppure concedono le istruzioni per l'uso.
No, nessuno è mai riuscito ad appropriarsi del _linguaggio_ per mezzo di copyright, brevetto o marchio, quello che denunci è un rischio insesistente.
Ricordo che nel recente passato ci sono state un paio di /pesanti/ (dal punto di vista giuridico) battaglie legali per la "proprietarizzazione" delle API (che sono infinitamente meno complesse di qualsiasi linguaggio, artificiali compresi) e chi ha tentato ha perso, ne parla Eben Moglen qui: https://softwarefreedom.org/blog/2022/jan/18/google-oracle-endera/
...anche se effettivamente ci sono sempre tempo e risorse per rimettere in discussione il “fair use for software API declarations”
il resto degli attrezzi "bene comune" si chiama "software libero" e giuridicamente è (quasi) del tutto analogo a qualsiasi altra opera letteraria [4]
[...]
Saluti, 380°
[1] nomignolo dispregiativo che l'amico studente in ragioneria usava per prendere in giro il mio alter ego studente perito tecnico, che per i primi 2 anni aveva in curriculum una materia che si chiamava "Aggiustaggio"
[2] https://en.wikipedia.org/wiki/Constructed_language
[3] io trovo _esilarante_ il tentativo (di chi?) di /classificare/ i linguaggi costruiti secondo criteri (pseudo)logici: engelangs, artlamgs... https://en.wikipedia.org/wiki/Constructed_language#Overview
[4] con alcune notevoli eccezioni spregevoli, tipo i DRM (Digital _restrictions_ management)
-- 380° (Giovanni Biscuolo public alter ego)
«Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché»
Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
participants (3)
-
380° -
alessandro marzocchi -
Guido Vetere