Caro Guido
a me pare che la maggior parte di chi è intervenuto in questo
dibattito ha un'idea abbastanza precisa di cosa sono in grado di
esibire sistemi tipo ChatGPT & Co. : competenze che appaiono
sovrapponibili in alcuni casi (p.es.: superamento di test) a
quelle degli esseri umani, e al tempo stesso tendenza a inventare,
"allucinare".
E ritengo che sia anche abbastanza chiaro a tutti che questo viene
raggiunto attraverso meccanismi probabilistici messi a punto
mediante analisi statistiche estremamente sofisticate condotte su
quantità enormi di dati (e su quantità ignote di lavoro umano
sotto pagato)
Quello che varia, ma è "il dettaglio che fa la differenza", sono,
almeno, i seguenti tre elementi:
1. se le competenze siano o no segno di comprensione (nel senso
che noi umani diamo a questa parola) del dominio in cui tale
competenza viene esibita (punto che avevo sollevato tempo addietro
richiamando l'esperimento mentale della "stanza cinese" di Searle)
2. se le allucinazioni (che sono un costo, un aspetto negativo)
siano tutto sommato trascurabili, in termini di impatto sociale,
rispetto ai benefici
3. se sia corretto consentire l'accesso al pubblico di tali
sistemi, che al momento attuale appaiono contravvenire (non solo
in Italia) a norme di legge, mentre vengono messi a punto alcuni
correttivi
Per me le risposte sono tre NO.
Mentre i punti 2. e 3. sono sostanzialmente di natura sociale,
quindi politica (che visione della società abbiamo? quanta tutela
e quanta competizione?) il punto 1. è di natura più tecnica e
penso sia quello più "appassionante" per informatici e filosofi in
lista... d'altro canto ne stiamo discutendo da una cinquantina
d'anni - decennio più o decenniomeno... :-)
Sul fatto che sia opportuno continuare a fare ricerca in
quest'ambito mi pare ci sia un sostanziale convergenza. Così come
sul fatto che sia necessario avere maggiore trasparenza sui
meccanismi dello sviluppo e addestramento di questi sistemi.
Ciao, Enrico
Il 17/04/2023 09:20, Guido Vetere ha
scritto:
Caro Enrico,
non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra
che su questi LLM ci sia qualche problema di 'literacy', visto
che alcuni insistono nel pensarli come database un po' strani.
Si potrebbe allora chiedere a una persona competente di
spiegarli per bene, e secondo me Beppe è il più titolato tra
noi.
Nel merito dello scambio che riporti, forse si tratta solo
di 'nuances', ma fa bene Beppe a sgombrare il campo
dall'immagine del 'pappagallo' che ricombina frammenti di
frasi udite. No: GPT inventa di sana pianta. Dove può aver
sentito ad esempio che io avrei scritto il romanzo "Il
collezionista di venti" (2017), che non si trova neanche su
Amazon?
G.
Buongiorno,
Enrico Nardelli <nardelli@mat.uniroma2.it>
writes:
> premesso che ammiro e rispetto Beppe Attardi che è
certamente
> estremamente competente in termini di IA, se con "dare
ascolto"
> intendi "credere", beh
[...]
> Insomma, se il dibattito deve essere di livello
scientifico elevato,
mi permetto di far notare che il dibattito in (nel/di) merito
a quanto
/in oggetto/ (i rilievi del Garante...) più che scientifico
(diciamo
_tecnico_, eh?!?) è di carattere giuridico [1], anche se in
questo
thread si è entrati /anche/ nel merito tecnico
> più che appellarci alla "auctoritas" dobbiamo essere
rigorosi, attenti
> e consistenti nella lettura degli altri e
nell'esposizione delle
> nostre riflessioni.
e come diceva Marco Calamari in altro thread: «Il tempo è la
risorsa più
limitata al mondo.», quindi ci costa fatica, ma è
indispensabile almeno
/tentare/ di farlo se si vuole davvero confrontarsi
...anche perché, altrimenti, io dovrei davvero limitarmi solo
a leggere
e starmene zitto, ma siccome credo che confrontarsi su queste
cose sia
il modo migliore di esercitare la propria "cittadinanza
digitale", mi
ostino :-)
[...]
saluti, 380°
[1] voi non avete idea di quanto mi senta **stupido** a
illudermi che
possa essere davvero così, visto che siamo nell'era in cui la
scienza
stabilisce cos'è giusto o cos'è sbagliato in /tutto/
--
380° (Giovanni Biscuolo public alter ego)
«Noi, incompetenti come siamo,
non abbiamo alcun titolo per suggerire alcunché»
Disinformation flourishes because many people care deeply
about injustice
but very few check the facts. Ask me about <https://stallmansupport.org>.
_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa