On 22/07/23 20:08, Giuseppe Attardi wrote:
Nei LLM, il concetto di "emergent ability” ha una definizione precisa:
An ability that is “not present in small models but is present in large models.”
Ne ho parlato con Giorgio Parisi, che sul tema dei sistemi complessi ha vinto il premio Nobel, e ha concordato con me che il fenomeno possa essere appunto spiegato come l’applicazione su larga scala di una semplice legge di probabilità: in questo caso la probabilità delle prossima parola in una sequenza.
Se ho ben compreso, ciò vale anche per gli stormi di storni studiati da Giorgio Parisi. I singoli uccelli isolati o in piccoli gruppi verrebbero catturati dal falco pellegrino, mentre in stormi grandi, più compatti ai bordi che al centro, e capaci di cambiare direzione con grande rapidità questa predazione diviene molto difficile. La fisica statistica, dice Parisi, cerca di capire in maniera quantitativa come il comportamento collettivo emerga partendo da semplici regole d’interazione tra i singoli attori. I suoi studi sugli storni hanno mostrato che "l’interazione tra gli storni non dipende tanto dalla distanza tra loro, ma dalla connessione tra gli uccelli più vicini. Sembra molto naturale: se faccio una corsa con gli amici e mi giro a destra per non perdere il passo, la mia attenzione si concentra sull’amico più vicino (che stia a un metro o a due metri di distanza), e non me ne importa quasi niente di quello che fa un amico più distante." (cito dal primo saggio contenuto in "In un volo di storni", Rizzoli, Milano 2021) Sia le regole di interazione fra gli storni presi uno per uno, sia la forma dei loro stormi sono proprietà fisiche, misurabili e rendibili tramite modelli matematici. Immaginiamo, per avventura, che un giorno gli stormi sul cielo di Roma si dispongano in forme che compongono quelle che qualcuno interpreta come un discorso arcano (Daniele, V) MENE, MENE, TEKEL, UPHARSIN Potremmo concluderne che, sebbene i singoli storni non sappiano né leggere, né scrivere, né citare l'Antico Testamento, collettivamente, invece, sanno leggere, scrivere, citare il capitolo V del libro di Daniele ed eventualmente fare profezie? Che la proprietà emergente non sia una proprietà fisica, bensì ermeneutica (https://blog.quintarelli.it/2020/10/it-aint-no-horse-aka-meaning-is-the-eyes...), cioè dipendente dall'interpretazione di un "lettore" che crede di riconoscere dei discorsi? (*) Con curiosità, MCP (*) Potremmo anche chiederci se il destino del suo regno avrebbe potuto essere diverso, qualora il terrorizzato Baldassarre non avesse trattato la scritta arcana comparsa sul suo muro come un discorso, non si fosse intestardito a cercarne un interprete e a prestargli fede, e non ci fosse stata e dunque non fosse stata resa nota la profezia di Daniele.