Grazie per la segnalazione. Sto pensando di firmare la lettera, su molte cose sono d'accordo. Gli usi impropri di LLM e altri sistemi generativi sono già in corso, altri rischi si intravedono. Non si possono prevedere tutti i rischi perché alcune proprietà di questi sistemi "emergono", non le sappiamo tutte prima. Della lettera non mi piace che sia stato citato "GPT-4" come metro di paragone ( "the training of AI systems more powerful than GPT-4."), si potevano forse citare più sistemi o provare a fornire una descrizione tecnica, che però non è banale. Firmare una lettera non sarà sicuramente sufficiente. Qualche iniziativa mi sembra necessaria. La situazione in cui ci troviamo mi sembra di questo tipo: sono state inventate le automobili, tutti le possiamo guidare senza patente, non sappiamo perché funzionano, alcune aziende costruiscono e vendono automobili sempre più potenti. Non mi sembra una situazione sicurissima. Capisco il problema dell'hype. Questi sistemi però esistono veramente, non sono solo raccontati nella comunicazione delle aziende che li vendono. Ci sono altre iniziative pubbliche utili? Buona serata, Andrea Il giorno gio 30 mar 2023 alle ore 07:16 J.C. DE MARTIN < juancarlos.demartin@polito.it> ha scritto:
*A misleading open letter about sci-fi AI dangers ignores the real risks* *Misinformation, labor impact, and safety are all risks. But not in the way the letter implies.* Arvind Narayanan and Sayash Kapoor
https://aisnakeoil.substack.com/p/a-misleading-open-letter-about-sci
On 29/03/23 08:47, J.C. DE MARTIN wrote:
Primi firmatari: Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak.
jc
* Pause Giant AI Experiments: An Open Letter*
*We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. *
https://futureoflife.org/open-letter/pause-giant-ai-experiments/