Salve Mario, On Thu, 22 Aug 2024 11:12:43 +0200 Mario Fusani <fusani@isti.cnr.it> wrote:

...

...

No. Abbiamo realizzato software che producono output testuale privo di significato ma in grado di ingannare gli esseri umani che non ne comprendono il funzionamento."

Certamente, ma allora era anche un inganno (o un gioco?) quello di Leibnitz quando, nella “Characteristica Universalis”, affermava che: "Omnis ratiocinatio nostra nihil aliud est quam characterum connexio, et substitutio. Sive illi characteres sint verba, sive notae, sive denique imagines” ?

Credo francamente che tu abbia frainteso quel passaggio: Leibnitz riduce la razionalità all'elaborazione simbolica propria della matematica, in un certo qual modo anticipando la numerazione che Gödel, per ironia della sorte, utilizzò per dimostrarne i limiti invalicabili. Possiamo infatti riconoscere come vera una preposizione che non possiamo dimostrare in un sistema formale coerente. Peraltro, i caratteri di cui parla Leibnitz sono simboli che non si limitano a veicolare un'informazione ma sono utili per ragionare, come le cifre o i simboli associati alle operazioni algebriche che hanno un significato per la mente umana e che, in forza di tale significato (dell'informazione che veicolano) permettono alla mente umana di dedurre informazioni da altre informazioni: 1 + 1 = 10 => 10 - 1 = 1 Ma questa deduzione è possibile solo perché una mente umana interpreta i vari simboli che costituiscono il dato, il messaggio trasmesso, attribuendogli un significato (l'informazione) ed applicando le informazioni di cui già dispone. Nulla a che fare con la produzione di sequenze di caratteri in grado di apparire plausibili a persone che ignorano il funzionamento del processo di programmazione statistica, ma che sono completamente privi di significato. I simboli (visuali, tattili o sonori) che esprimono un linguaggio sono lo strumento che abbiamo sviluppato per sincronizzare le nostre menti. Ma le nostre menti non funzionano solo in modo simbolico / linguistico: molte persone non pensano in forma di un monologo interiore ma in modo visuale, con un susseguirsi di immagini che, quando opportuno, traducono nel linguaggio verbale. Altri pensano anche in modo non simbolico, senza "udire" parole nella propria testa, visualizzare immagini o parole scritte [1]. Dunque a livello individuale, Leibintz semplicemente si sbagliava: ci sono persone che ragionano in modo non simbolico e non verbale. Se parliamo però di "ratiocinatio nostra", sottolineando il possessivo plurale, se parliamo di riflessione condivisa e collettiva, la tua citazione di Leibintz torna vera, perché non conosciamo modo migliore per sincronizzare le nostre menti dell'utilizzo di simboli (siano parole fatte di caratteri su carta o di suoni diffusi nell'aria) che veicolino le informazioni che vogliamo condividere, in qualsiasi modo le abbiamo pensate. Ed è questo che determina il dubbio di Alessandro: On Thu, 22 Aug 2024 09:44:07 +0200 alessandro marzocchi wrote:

Due esempi dai quali nasce il mio dubbio: l'attribuzione di significato, la frequenza d'uso operano con criteri statistici?

La frequenza delle relazioni fra determinati termini che possiamo registrare dipende, ovviamente, dalla frequenza con cui collettivamente trattiamo determinati temi e dai termini che utilizziamo per trattarli. Quando il gruppo di persone che ragionano sul "digitale" è molto più "vocale" del grupppo di persone che ragionano sulla digitale, le frasi che associano il termine "digitale" all'informatica diventano statisticamente più rilevanti di quelle che lo associano alla medicina. I LLM non fanno altro che registrare e comprimere (con notevole perdita di informazione) queste frequenze e riprodurle con variazioni (pseudo)casuali in output. Ma poiché non c'è una mente pensante che produca quell'output per esprimere e comunicare un significato, quell'output è privo di significato.

mi domanderei se la nostra intelligenza può essere meno speciale di quanto riteniamo.

Te lo chiedi solo perché non comprendi come funzionano questi software. Chi lo comprende sa benissimo che non c'è alcuna intelligenza lì dentro. Si tratta di software che potrebbe ripetere in modo approssimato tutti i testi scritti sui teoremi di incompletezza di Godel, ripetere in modo approssimato diverse dimostrazione etc... ma non potrebbe in alcun modo scoprire gli stessi teoremi o dedurne implicazioni non già presenti nella (enorme) base dati usata per programmarli statisticamente. Ciò che ti chiederesti, se comprendessi come funzionano questi software, è perché qualcuno abbia voluto scrivere programmi esplicitamente progettati per ingannare persone che non ne comprendono il funzionamento. Ti chiederesti perché scrivere un software per convincere la gente che l'intelligenza umana non sia nulla di speciale e che, alla fin fine, le persone sono solo macchine complesse. Non si tratta di domande difficili. Cosa si fa con le macchine quando non funzionano più, non possono essere riparate e non se ne può nemmeno riciclare i componenti?

Con Galileo abbiamo cominciato ad abbandonare l'antropocentrismo in astronomia, il digitale potrebbe avviare analogo percorso nelle cosiddette scienze umane?

Il "digitale" di cui parli è progettato per ridurre gli uomini ad ingranaggi. Ingranaggi che altri uomini controllano. Ti sembra che possa ridurre l'antropocentrismo, solo perché lo guardi dal lato delle vittime, di coloro che come te lo subiscono senza comprenderlo, dimenticando i carnefici che dietro al "digitale" si nascondono, imponendolo senza subirlo. Non si tratta di abbandonare l'antropocentismo, ma di far abbandonare la propria umanità alla stragrande maggioranza dell'umanità stessa. Giacomo [1] https://www.tandfonline.com/doi/full/10.1080/13869795.2016.1176234