Beppe,
il medico che fa una diagnosi per analogia rispetto ai casi che ha osservato, è comunque in grado di spiegare il suo ragionamento sulla base di una teoria. E anche se riproduce 'a orecchio' migliaia di dimostrazioni osservate, è (o dovrebbe essere) in grado di fornire la spiegazione sulla base di assiomi e regole di inferenza. Questo è il patto sociale quando andiamo a farci curare da un laureato in medicina piuttosto che da uno sciamano. La fisica del cervello del medico, e la sua analogia con un LLM, non c'entra nulla: la teoria medica vale in quanto 'oggetto sociale', non come 'campo di forze'.

G. 

On Fri, 14 Feb 2025 at 09:13, Giuseppe Attardi <giuseppe.attardi@unipi.it> wrote:

On 14 Feb 2025, at 07:47, Guido Vetere <vetere.guido@gmail.com> wrote:



Beppe,

ma la "spiegazione" della c.d. chain-of-thought si trova sullo stesso piano epistemico di ciò che intende spiegare, cioè quello della correlazione, non quello delle causalità.

La differenza è 'striking' e la spiega bene Judea Pearl nel suo "The Book of Why" (https://en.wikipedia.org/wiki/The_Book_of_Why)

Certo, perché tu pensi che quando un medico ti spiega la ragione della sua diagnosi non faccia lo stesso? O un matematico ti presenta una dimostrazione senza accennare all’intuizione che l’ha portato a concepirla? Ricordi Ramanujan?

Sono tutte ricostruzioni razionali a posteriori di un processo largamente inconscio.

Se pensiamo che l’intelligenza sia solo seguire pedissequamente un procedimento algoritmico, o l’applicazione meccanica di regole logiche, abbiamo una scarsa concezione dell’intelligenza.

Del resto sbbiamo provato per 50 a riprodurla pensando che fosse così e abbiamo fallito.

—