- nexa - server-nexa.polito.it

La società del XXI secolo

by Antonio

Noi siamo il nostro profilo Facebook? Le intelligenze artificiali sono tecnologie o soggetti sociali? Com’è possibile che il bitcoin abbia creato una crisi in Kazakistan? Come ha fatto un chatbot su Twitter ad aver imparato frasi razziste, violente e antisemite senza bisogno di programmazione? La società del XXI secolo è il prodotto di un panorama sociale che vede interconnessi persone (e le loro relazioni), dati (nella forma di informazioni e algoritmi) e tecnologie (dispositivi e servizi sempre nuovi). Le scienze sociali, da un punto di vista teorico e metodologico, ci aiutano ad analizzare questi fenomeni e a immaginare risposte. Ultimo manuale (è uscito un paio di mesi fa) di Davide Bennato. https://www.laterza.it/scheda-libro/?isbn=9788859300755 Recensione: https://www.doppiozero.com/lavoro-povero-con-vita-digitale-o-vita-povera-co… (comprende pure il commento al saggio di Alessandro Somma "Abolire il lavoro povero" [1]) [1] https://www.laterza.it/scheda-libro/?isbn=9788858153505

March 23, 2024

Re: [nexa] Nuova rivista su AI "a gratis"

by Diego Giorio

March 23, 2024

Re: [nexa] Nuova rivista su AI "a gratis"

by Antonio

> Però non trovo il costo dell'abbonamento, dato che immagino solo il primo numero sia in omaggio. Alla pagina 4 del PDF [1]: AIRe annual subscription* rates 2024 (4 issues) printed version only 495,00 € printed version + online edition (incl. archive)** 578,00 € online edition only (incl. archive)** 495,00 € * Prices include Postage and Handling. EU Member States: VAT will be added if applicable. ** Single user online access via user name and password Alcune frasi del testo: "The commitment should ensure that each design stratum is suffused with transparency and ethicality and upholds the sanctity of user dignity. This venture, although formidable, is indispensable to safeguard the integrity of our digital future." "New machine learning techniques produce outcomes that cannot be traced, proven, or replicated. The Court of Justice of the European Union has already indicated that such systems may be incompatible with the protection of fundamental rights. And generative AI with the ability to mimic human behaviour raises profound questions about the protection of human dignity and autonomy." p.s. sono sempre più convinto che condizione necessaria, seppur non sufficiente, per (almeno) tentare di rendere il machine learning "traced, proven and replicated" è quella di avere dataset e algoritmi open source e limitati alla lingua (in modo da ridurre notevolmente la richiesta di potenza di calcolo) A. [1] https://aire.lexxion.eu/data/article/19392/pdf/aire_2024_01_2024-03-14-10.1…

March 23, 2024

on eristic machines (was Re: Debates on the nature of artificial general intelligence)

by 380°

Buongiorno, Guido Vetere <vetere.guido(a)gmail.com> writes: > Se i sofisti giusto per chiarir(m)e pubblicamente, il parallelo corretto è quello con gli _eristi_. Per dirla /esattamente/ con Platone (via Wikipedia), gli LLM: --8<---------------cut here---------------start------------->8--- Sono filosofi in quanto trattano di questioni filosofiche, ma sono anche inferiori ai veri pensatori perché non ricercano la virtù o la verità ma si limitano a controbattere ciò che afferma l'avversario dialettico. Sono politici in quanto cercano di persuadere più persone possibili dei propri ragionamenti, ma sono anche inferiori ad essi perché a loro non interessa il bene della città e dei propri cittadini. --8<---------------cut here---------------end--------------->8--- (https://it.wikipedia.org/wiki/Eristica#Gli_eristi:_sapienti_e_politici_infe…) > avessero avuto i soldi dei GAFAM, Socrate, Platone e Aristotele > avebbero lavorato per loro :-) Sono ignorantissimo in storia dell'antica grecia, ma mi pare di capire che i sofisti vennero aspramente criticati dai loro contemporanei (anche) perché si facevano pagare per i loro insegnamenti, addirittura Socrate li definì «prostituti della cultura» (enofonte, Memorabili I.6.13.) Inoltre: --8<---------------cut here---------------start------------->8--- Essi riscossero successo soprattutto presso i ceti altolocati. --8<---------------cut here---------------end--------------->8--- (https://it.wikipedia.org/wiki/Sofistica#I_sofisti) Se GAFAM="ceti altolocati" allora /forse/ la situazione è analoga :-) Onestamente non so come si finanziassero Socrate, Platone e Aristotele per insegnare nelle loro scuole :-O [...] >> Ho già detto in altre occasioni che una efficace caratterizzazione dei >> sistemi LLM è "macchine sofistiche", Mi autocorreggo quindi: "macchine eristiche", in inglese "eristic machines" Interessante corollario è ciò che già Platone considerava essere l'aspetto positivo degli eristi: --8<---------------cut here---------------start------------->8--- con i loro discorsi doppi fanno spostare l'attenzione sull'ambiguità che le parole assumono a seconda dei contesti e dell'uso che se ne fa e quindi sulla necessità di stabilire dei significati chiari e distinti: «In primo luogo […] bisogna imparare la correttezza dei nomi; appunto questo ti mostrano i due forestieri [Eutidemo e Dionisodoro]». --8<---------------cut here---------------end--------------->8--- (https://it.wikipedia.org/wiki/Eristica#Un_aspetto_positivo_dell'eristica) Quindi le "macchine eristiche" sono /molto/ utili quando usate «cum granu salis»; ovviamente vale per tutti i sistemi di c.d. "intelligenza artificiale" (*narrow*, che è l'unica che esiste). ...e già anche solo nella mia frase precedente si vede la /fondamentale/ importanza che «le parole assumono a seconda dei contesti», specialmente nel contesto della AGI nel quale si inserisce questa discussione e che l'articolo segnalato da Daniela Tafani illustra _molto_ bene. [...] Saluti, 380° P.S.: l'incessante richiamo dei filosofi _tutti_ all'"importanza dei nomi" può apparire pedanteria ad una analisi superficiale, ma quello è IL problema, un problema _metafisico_, /linguistico/ più che matematico (perché la matematica _è_ metafisica, vero?). -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

March 23, 2024

Re: [nexa] Debates on the nature of artificial general intelligence

by Guido Vetere

Se i sofisti avessero avuto i soldi dei GAFAM, Socrate, Platone e Aristotele avebbero lavorato per loro :-) G. Il Ven 22 Mar 2024, 10:30 380° <g380(a)biscuolo.net> ha scritto: > Buongiorno, > > grazie mille della segnalazione > > Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > > [...] > > > a deep dive into speculations about AGI reveals that many AI > > practitioners have starkly different views on the nature of intelligence > > than do those who study human and animal cognition—differences that > > matter for understanding the present and predicting the likely future of > > machine intelligence. > > _taggo_ questo concetto > > > Continua qua https://www.science.org/doi/10.1126/science.ado7069 > > My personal humble executive summary: > > --8<---------------cut here---------------start------------->8--- > > The definition of AGI was adjusted accordingly to include only so-called > “cognitive tasks.” DeepMind cofounder Demis Hassabis defines AGI as a > system that “should be able to do pretty much any cognitive task that > humans can do,” and OpenAI describes it as “highly autonomous systems > that outperform humans at most economically valuable work,” where “most” > leaves out tasks requiring the physical intelligence that will likely > elude robots for some time. > > The notion of “intelligence” in AI—cognitive or otherwise—is often > framed in terms of an individual agent optimizing for a reward or > goal. One influential paper defined general intelligence as “an agent’s > ability to achieve goals in a wide range of environments”; another > stated that “intelligence, and its associated abilities, can be > understood as subserving the maximisation of reward.” Indeed, this is > how current-day AI works—the computer program AlphaGo, for example, is > trained to optimize a particular reward function (“win the game”), and > GPT-4 is trained to optimize another kind of reward function (“predict > the next word in a phrase”). > > --8<---------------cut here---------------end--------------->8--- > > Ho già detto in altre occasioni che una efficace caratterizzazione dei > sistemi LLM è "macchine sofistiche", perché - perdonatemi la > banalizzazione - per i sofisti non è importante comprendere la verità ma > solo /dipinger(se)la/, /narrar(se)la/. > > Analogamente, più osservo il dibattito sulla AGI più mi convinco che si > tratti solo e soltanto di meta-sofismo, ovvero sofismo sul sofismo, cioè > sofismo al quadrato: non importa comprendere cosa sia l'intelligenza o > cosa siano le capacità cognitive, i meta-sofisti l'intelligenza "se la > cantano e se la suonano". > > Di questo stiamo parlando: meta-sofismo on steroids. > > [...] > > Saluti, 380° > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 22, 2024

Nuova rivista su AI "a gratis"

by Diego Giorio

Credo che possa interessare i nexiani. Però non trovo il costo dell'abbonamento, dato che immagino solo il primo numero sia in omaggio. https://aire.lexxion.eu/current_issue/AIRe Buon fine settimana D.

March 22, 2024

Re: [nexa] L'AI e il cambio di paradigma

by Antonio

> il tema però è quello della costruzione (nb: non fine-tuning) E' un NB grosso come una casa. "Zefiro is a fine-tuned version of the Mistral model for the Italian language" Quindi, il dizionario di Zefiro è lo STESSO di quello di Mistral. E' come studiare i Promessi Sposi, avendo accanto un dizionario multilingue in cui i lemmi in italiano (una piccola percentuale) siano in mezzo a quelli delle altre lingue. Una follia, direbbe un letterato. > se dovessi farlo io, punterei > molto sul recupero di 'prior knowledge' sulla lingua italiana, a partire > dalla morfologia. ma parlo da linguista :-) Prendiamo il progetto OSCAR [1]: The OSCAR project (Open Super-large Crawled Aggregated coRpus) is an Open Source project aiming to provide web-based multilingual resources and datasets for Machine Learning (ML) and Artificial Intelligence (AI) applications. This repository is publicly accessible, but you have to accept the conditions to access its files and content. By filling the form below, you understand that only the metadata and the annotations of OSCAR 23.01 have a cc0-1.0 license, and that the rest of the content is crawled data derived from the November/December 2022 snapshot of Common Crawl, for which the authors of OSCAR do not hold any copyright whatsoever. Italian 89.021.606 documenti, 36.327.274.203 parole, 259.4 GB Estratte da Common Crawl, quindi dal web, senza chiedere permesso a nessuno. Qualcuno ha mai quantificato, invece, l'Open access in italiano? A naso direi più di 259 Gb Qualcuno ha mai quantificato i "documenti" presenti, ad esempio, in Normattiva? Sempre a naso, direi più di 259 Gb E potrei continuare ... A. [1] https://oscar-project.github.io/documentation/versions/oscar-2301/

March 22, 2024

Re: [nexa] L'AI e il cambio di paradigma

by Guido Vetere

sono d'accordo: alla PA non serve un sistema "general purpose" multilingua e con generazione di codice inclusa, ma soprattutto qualcosa che permetta di implementare funzioni di estrazione intelligente, di RAG, etc grazie soprattutto a buoni embedding. Un LM monolingua adatto a questi scopi potrebbe benissimo avere dimensioni contenute e ciascuna amministrazione potrebbe metterlo in esercizio perfino sulle workstation. peraltro, questo in qualche modo è già fattibile con modelli aperti < 70B. il tema però è quello della costruzione (nb: non fine-tuning) di un LM su testi italiani 'kosher'. OpenAI e Mistral hanno entrambi detto che sarebbe ben difficile stimare un modello efficace senza usare anche materiale copyrighted. chi ha ragione? lo vedremo. se dovessi farlo io, punterei molto sul recupero di 'prior knowledge' sulla lingua italiana, a partire dalla morfologia. ma parlo da linguista :-) G. On Thu, 21 Mar 2024 at 20:00, Antonio <antonio(a)piumarossa.it> wrote: > > per questo, tornando al tema dell'autarchia italiana, mi chiedo se, > avendo > > pochi dati ma una lingua nota, non valga la pena tokenizzare come ci > hanno > > insegnato a scuola > > Beh, parafrasando e rivoltando il senso della famosa battuta di Frederick > Jelinek, mi verrebbe da dire: "Ogni volta che licenzio un matematico (per > assumere un linguista) la performance del nostro sistema migliora". > A parità di risultato finale, un set dati in una lingua nota, produce un > "model" molto più piccolo, un "tokenizer" più piccolo e adattato ai lemmi > di quella lingua, con la sua sillabazione, le sue forme clitiche, i suoi > affissi, ecc. > Un risultato finale *identico* ma con molti cicli macchina in meno (non > ditelo a NVIDA) e con molta energia elettrica in meno. > Un "modello" del genere potrebbe andare bene in tutti quei casi in cui non > serve un approccio multilingue. Penso alla pubblica amministrazione, alla > giustizia ... Poi, certo, vi si potrebbe abbinare un sistema "generico", > magari derivato da uno di quelli "open source" che ci sono adesso, tipo > LLaMA, ecc. che entrerebbe in azione solo su richiesta dell'utente. > > A. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

March 22, 2024

Re: [nexa] L'AI e il cambio di paradigma

by 380°

Antonio <antonio(a)piumarossa.it> writes: >> per questo, tornando al tema dell'autarchia italiana, mi chiedo se, avendo >> pochi dati ma una lingua nota, non valga la pena tokenizzare come ci hanno >> insegnato a scuola > > Beh, parafrasando e rivoltando il senso della famosa battuta di > Frederick Jelinek, mi verrebbe da dire: "Ogni volta che licenzio un > matematico (per assumere un linguista) la performance del nostro > sistema migliora". <joke> pensa cosa potrebbe succedere quando un linguista dovesse imparare la programmazione o un matematico imparare la linguistica </joke> 555 [1] saluti, 380° [...] [1] un lauto premio a chi interpreta correttamente quel /simbolo/! P.S.: finché c'è programmazione c'è speranza. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

March 22, 2024

Re: [nexa] Debates on the nature of artificial general intelligence

by 380°

Buongiorno, grazie mille della segnalazione Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: [...] > a deep dive into speculations about AGI reveals that many AI > practitioners have starkly different views on the nature of intelligence > than do those who study human and animal cognition—differences that > matter for understanding the present and predicting the likely future of > machine intelligence. _taggo_ questo concetto > Continua qua https://www.science.org/doi/10.1126/science.ado7069 My personal humble executive summary: --8<---------------cut here---------------start------------->8--- The definition of AGI was adjusted accordingly to include only so-called “cognitive tasks.” DeepMind cofounder Demis Hassabis defines AGI as a system that “should be able to do pretty much any cognitive task that humans can do,” and OpenAI describes it as “highly autonomous systems that outperform humans at most economically valuable work,” where “most” leaves out tasks requiring the physical intelligence that will likely elude robots for some time. The notion of “intelligence” in AI—cognitive or otherwise—is often framed in terms of an individual agent optimizing for a reward or goal. One influential paper defined general intelligence as “an agent’s ability to achieve goals in a wide range of environments”; another stated that “intelligence, and its associated abilities, can be understood as subserving the maximisation of reward.” Indeed, this is how current-day AI works—the computer program AlphaGo, for example, is trained to optimize a particular reward function (“win the game”), and GPT-4 is trained to optimize another kind of reward function (“predict the next word in a phrase”). --8<---------------cut here---------------end--------------->8--- Ho già detto in altre occasioni che una efficace caratterizzazione dei sistemi LLM è "macchine sofistiche", perché - perdonatemi la banalizzazione - per i sofisti non è importante comprendere la verità ma solo /dipinger(se)la/, /narrar(se)la/. Analogamente, più osservo il dibattito sulla AGI più mi convinco che si tratti solo e soltanto di meta-sofismo, ovvero sofismo sul sofismo, cioè sofismo al quadrato: non importa comprendere cosa sia l'intelligenza o cosa siano le capacità cognitive, i meta-sofisti l'intelligenza "se la cantano e se la suonano". Di questo stiamo parlando: meta-sofismo on steroids. [...] Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

March 22, 2024