non mi a pare nessuno discuta cio'.
la "AI noiosa" e' tra noi da anni e lo sara' sempre di piu'
solo che non e' la tecnologia salvifica, taumaturgica, human-like che alcuni narrano.
e' uno strumento e va usato e considerato come tale.
come la calcolatrice.
IMHO

come per ogni strumento, la regolazione e', per metterla in termini semplici, necessaria.

ciao, s.

On 24/02/24 10:37, Guido Vetere wrote:
> Gufare sui LLM è divertentissimo, tuttavia hanno risolto problemi di NLP che si sono
> dimostrati praticamente inattaccabili con tecniche tradizionali, tipo summarization o
> semantic role labelling.
> Per questo, sono già largamente impiegati per compiti relativamente 'modesti' di
> estrazione, elaborazione e ricerca di informazione da documenti, ad esempio archivistici.
> In questi impieghi, la pappagallagine è un beneficio e le allucinazioni, se ci sono, sono
> nei documenti sorgente, non nelle piattaforme (pseudo) linguistiche.
> Questa roba è qui per restare, facciamocene una ragione.
> Ma non esistono solo le Big Tech US in questa storia: escono LLM dalle maledette pareti!
> Molte di queste pareti sono europee, accademiche o pubblico-private.
> Insomma i margini di manovra ci sono, ma bisogna capire meglio quali siano le manovre. Non
> credo che andremo lontano a colpi di regolamenti, certificazioni e relativi enti, simposi
> e convegni, comitati etici, et ceteris.
>
> G.
>
>
>
>
> On Fri, 23 Feb 2024 at 18:33, Giacomo Tesio <giacomo@tesio.it <mailto:giacomo@tesio.it>>
> wrote:
>
>     Salve Daniela,
>
>     come avrai certamentr notato il postmortem può essere diviso in 3 parti:
>
>     1. L'elenco di fatti non negabili
>
>      > On February 20, 2024, an optimization to the user experience introduced a bug [...]
>      >
>      > LLMs generate responses by randomly sampling words based in part on probabilities.
>     [...]
>      >
>      > In this case, the bug was in the step where the model chooses these numbers. [...]
>      >
>      > Upon identifying the cause of this incident, we rolled out a fix and confirmed that
>      > the incident was resolved.
>
>
>     2. L'antropomorfizzazione del modello
>
>      > [... a bug] with how the model processes language.
>      >
>      > [...] Their “language” consists of numbers that map to tokens.
>      >
>      > [...] Akin to being lost in translation, the model chose slightly wrong numbers, which
>      > produced word sequences that made no sense.
>
>     Povero! Povero modellino! :-D
>
>     Notare le espressioni "processes language", "language consists", "lost in translation"
>     e soprattutto "choose".
>
>     E notare come quando gli output non supportano la loro narrazione sulla "intelligenza
>     artificiale"
>     diventano subito "word sequences that made no sense".
>
>     L'output passa da "language" a "word sequences".
>
>     Come se gli output prodotti "randomly sampling words based in part on probabilities"
>     avessero un avuto senso prima del bug!
>
>
>     3. La supercazzola magica
>
>      > More technically, inference kernels produced incorrect results when used in certain
>      > GPU configurations.
>
>     Data la menzione delle probabilità e delle configurazioni delle GPU, scommetterei
>     un caffé che il bug era riconducibile ad un overflow numerico o qualcosa di simile.
>
>     Il software si rivela semplicemente per quello che è, privo di qualsiasi intelligenza.
>
>
>      > Come hanno osservato in molti, la definizione di chatGPT fornita dai tecnici di  OpenAI
>      > è quella a cui ci si riferisce con "pappagallo stocastico".
>
>     Ed è anche quella considerata blasfema dai "believers" della AI.
>
>     Che però si aggrapperanno a quell'innocente "in part" per continuare a credere alle
>     favole.
>
>
>     Piuttosto, su cosa si basa il software ChatGPT oltre alle probabilità?
>
>     Semplicemente, la volontà di OpenAI/Microsoft, impressa nel codice delle varie parti
>     dell'applicazione, dalla selezione dei contenuti, alle configurazioni, ai prefiltri e
>     ai post filtri.
>
>     Volontà che ChatGPT riprodurrà pedissequamente su vastissima scala, in tutti gli
>     output rilevanti.
>
>
>     Giacomo
>     _______________________________________________
>     nexa mailing list
>     nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>
>     https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
>     <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>
>
>
> _______________________________________________
> nexa mailing list
> nexa@server-nexa.polito.it
> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa