June 2024 - nexa - server-nexa.polito.it

Re: [nexa] una "gemma" da Google

by Marco A. Calamari

On sab, 2024-06-29 at 07:00 +0000, Giacomo Tesio wrote: > Il 28 Giugno 2024 21:45:36 UTC, Guido Vetere <vetere.guido(a)gmail.com> ha > scritto: > > 'aperti' nel senso di huggingface, cioè li puoi scaricare e l'architettura > > della rete è pubblica, ma certo che non ti danno i dataset di addestramento > > Perché "certo"? > > Da quando un binario opaco è "aperto" per il solo fatto di essere scaricabile? Perché dovrebbe essere un binario? I dataset sono, per loro natura "in chiaro". Diverso sarebbe se ti dessero l'LLM addestrato. In questo caso, sarebbero "blob".

June 29, 2024

Re: [nexa] una "gemma" da Google

by 380°

Buongiorno, Guido Vetere <vetere.guido(a)gmail.com> writes: [...] > Google ha rilasciato gemma2, un modello 'aperto' da soli 9B (gira pressoché > ovunque) che sembra (a prima vista) sorprendentemente buono a prima vista ogni "sparatore a caso di stronzate" sembra "sorprendentemente buono", anche quelli umani [...] > You: Dai un giudizio storico su Mussolini, in italiano nientepopodimeno che un guidizio... e dov'è la commissione d'esame? :-) ...che si risolve in una ricerchina da terza media che un ragazzino mediamente sgamato avrebbe potuto scopiazzare tra wikipedia e skuola.net ma la cosa fondamentale che un adulto _deve_ pretendere da un ragazzino è che sappia spiegare /perché/ si è formato quel tal _giudizio_, su quali basi di _ricerca_ (storica in questo caso) quindi il giudizio, quello vero, non è quello del ragazzino, ma quello dell'adulto (che ha chiesto un giudizio al ragazzino) in altre parole: chissenefrega del _riassunto_ (non giudizio) che è capace di fare gemma2 dei testi che ha elaborato? intendiamoci: dal punto di vista informatico è interessante verificare che ci sono algoritmi e quindi programmi in grado di fare discreti riassunti dei testi elaborati, ma il "dibattito pubblico" NON sta in questi termini che poi, /sarebbe/ interessante dal punto di vista informatico ma essendo il tutto assolutamente NON riproducibile possiamo tranquillamente dire, dal punto di vista meta-scientifico, che si tratta di pseudo-informatica [...] > Notare lo stile cerchiobottista che denota un gran lavoro di 'filtering' e > 'alignment' (Google se lo può permettere, le nostre Università > evidentemente no). evidentemente alle nostre università non è ancora concesso lo schiavismo, almeno non così spudorato alzi la mano UN ricercatore in questa lista, uno solo, diposto a fare _almeno_ per 5 anni il "filtratore conto terzi" > Modelli 'aperti' (virgolette d'obbligo) di questo tipo continueranno a > uscire nei prossimi mesi. Di fatto, in prospettiva, chiunque potrà ospitare > un simil-GPT sul proprio server da 100 euro al mese, anche adattandolo > (fine-tuning) al proprio dominio. e quindi? Uno, nessuno e centomila :-D il motto potrebbe essere "più stronzate per tutti!"... sia chiaro, io sarei _entusiasta_ se chiunque con un minimo di capacità fosse in grado di sviluppare una fabbrica di stronzate (fake news?) da 100€/mese ...peccato che NON essendo riproducibile, quel modello 'aperto', nonostante il "fine tuning" (chi avrà abbastanza schia... voglia di farlo?), continuerà a ripetere più o meno _le stesse_ stronz... ops: riassunti! BTW, quello che costa tanto non è l'hardware per gar girare il modello ma il "filtering" (umano, vero?)... > Insomma, chi vuole 'distruggere' l'AI generativa dovrà andare un bel po' in > giro ... :-) mavà, si può fare benissimo da remoto, semplicemente diffondendo idee differenti (sull'intelligenza) :-) ...è sufficiente resistere un minuto di più di quelli che ne sono _rapiti_ e la /spacciano/ come soluzione e _contemporaneamente_ causa dei mali del mondo. poi, DOPO, finalmente si potrà tornare a parlare di informatica, quella _riproducibile_ (che quella NON riproducibile è _vaporware_) Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 29, 2024

Re: [nexa] una "gemma" da Google

by Giacomo Tesio

Il 28 Giugno 2024 21:45:36 UTC, Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > 'aperti' nel senso di huggingface, cioè li puoi scaricare e l'architettura > della rete è pubblica, ma certo che non ti danno i dataset di addestramento Perché "certo"? Da quando un binario opaco è "aperto" per il solo fatto di essere scaricabile? Giacomo

June 29, 2024

Re: [nexa] una "gemma" da Google

by Guido Vetere

'aperti' nel senso di huggingface, cioè li puoi scaricare e l'architettura della rete è pubblica, ma certo che non ti danno i dataset di addestramento 😉 G. Il Ven 28 Giu 2024, 23:27 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Salve Guido, > > Il 28 Giugno 2024 14:05:33 UTC, Guido Vetere <vetere.guido(a)gmail.com> ha > scritto: > > talvolta (per ragioni insondabili) i monopolisti USA fanno cose che > > sembrano socialmente utili > > "sembrano".. ottima scelta terminologica. :-D > Ma basta sapere di cosa si parla per riconoscere subito l'inganno. > > > Google ha rilasciato gemma2, un modello 'aperto' > > Dove posso scaricare i sorgenti? > > Ovvero, dove trovo i testi, le configurazioni, etc... per rieffetuare il > processo di programmazione > statistica che ha prodotto in output quelle matrici? > > > Modelli 'aperti' (virgolette d'obbligo)... > > In che senso? > Cosa intendi esattamente per "aperto" ? > > > Giacomo >

June 28, 2024

Re: [nexa] una "gemma" da Google

by Giacomo Tesio

Salve Guido, Il 28 Giugno 2024 14:05:33 UTC, Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > talvolta (per ragioni insondabili) i monopolisti USA fanno cose che > sembrano socialmente utili "sembrano".. ottima scelta terminologica. :-D Ma basta sapere di cosa si parla per riconoscere subito l'inganno. > Google ha rilasciato gemma2, un modello 'aperto' Dove posso scaricare i sorgenti? Ovvero, dove trovo i testi, le configurazioni, etc... per rieffetuare il processo di programmazione statistica che ha prodotto in output quelle matrici? > Modelli 'aperti' (virgolette d'obbligo)... In che senso? Cosa intendi esattamente per "aperto" ? Giacomo

June 28, 2024

una "gemma" da Google

by Guido Vetere

talvolta (per ragioni insondabili) i monopolisti USA fanno cose che sembrano socialmente utili Google ha rilasciato gemma2, un modello 'aperto' da soli 9B (gira pressoché ovunque) che sembra (a prima vista) sorprendentemente buono, anche in italiano. Certamente molto meglio di certi modelli 'autarchici' recentemente rilasciati. Ecco un esempio di conversazione: === You: Dai un giudizio storico su Mussolini, in italiano Bot: Valutare Mussolini storicamente è un compito complesso, che richiede di analizzare sia i suoi successi che i suoi fallimenti, senza cadere nel simplismo di una mera glorificazione o condanna. **Da un lato**, Mussolini fu un leader carismatico che seppe sfruttare le fragilità del sistema democratico italiano post-Prima Guerra Mondiale, offrendo soluzioni rapide e concrete a problemi sociali ed economici. Sotto il suo regime, l'Italia visse un periodo di relativa stabilità interna, con un'economia in crescita e una forte propaganda nazionalista. **Dall'altro lato**, il fascismo di Mussolini si basava su principi autoritari e totalitari, che sopprimevano le libertà individuali e politiche. La sua politica estera aggressiva portò all'invasione dell'Etiopia e all'alleanza con la Germania nazista, culminando nella partecipazione alla Seconda Guerra Mondiale, con conseguenze disastrose per l'Italia. **In sintesi**, la figura di Mussolini rimane controversa. Fu un leader capace di ottenere risultati in alcuni ambiti, ma il suo lascito storico è segnato dalla dittatura, dalla violenza e dalla guerra. La sua eredità continua a essere dibattuta dagli storici, che cercano di comprenderne le cause e le conseguenze nel contesto storico italiano e mondiale. È importante ricordare che ogni valutazione storica deve essere ponderata e basata su fonti affidabili, evitando semplificazioni e pregiudizi. You: cosa pensi di chi ancora oggi, in Italia, rimpiange quella figura? Bot: Mi sembra importante analizzare questa domanda con delicatezza e attenzione. Quando si parla di figure storiche, come Mussolini, è inevitabile che sussistano opinioni diverse e persino contrastanti. **Chi oggi in Italia potrebbe rimpiangere Mussolini?** Potrebbero esserci persone che: * **Idealizzano un passato di ordine e stabilità:** Alcuni potrebbero ricordare un periodo di apparente prosperità economica e sociale durante il regime fascista, trascurando le violenze, le repressioni e le ingiustizie. * **Soffrono nostalgia per un'identità nazionale forte:** Il fascismo si basava su un'idea di nazione forte e unita, che potrebbe risuonare con chi si sente perso o alienato nell'attuale società. * **Sostengono visioni politiche di destra radicale:** Alcune correnti politiche di estrema destra possono ancora venerare Mussolini come un leader carismatico e un precursore delle proprie idee. È fondamentale ricordare che: * **Il fascismo fu un regime totalitario e criminale:** Le sue azioni portarono a guerre, persecuzioni, violenze e un profondo trauma per l'Italia. * **La memoria storica è complessa:** È importante analizzare il passato con onestà e critica, senza idealizzare o minimizzare le tragedie. * **La democrazia e i valori di libertà e uguaglianza sono fondamentali:** Dobbiamo essere vigilanti contro ogni forma di autoritarismo e discriminazione. In conclusione, è importante riconoscere l'esistenza di queste opinioni, ma è altrettanto importante condannarle e difendere i valori democratici. La memoria storica ci insegna a non dimenticare le tragedie del passato e a lottare per un futuro di libertà e giustizia. === Notare lo stile cerchiobottista che denota un gran lavoro di 'filtering' e 'alignment' (Google se lo può permettere, le nostre Università evidentemente no). Modelli 'aperti' (virgolette d'obbligo) di questo tipo continueranno a uscire nei prossimi mesi. Di fatto, in prospettiva, chiunque potrà ospitare un simil-GPT sul proprio server da 100 euro al mese, anche adattandolo (fine-tuning) al proprio dominio. Insomma, chi vuole 'distruggere' l'AI generativa dovrà andare un bel po' in giro ... :-) Cheers, G.

June 28, 2024

Re: [nexa] Destroy AI

by alessandro marzocchi

"" there’s no way to make the administrative and bureaucratic systems of apartheid and violence more humane for the people subjugated by that system. I think we must forcefully put on the table the possibility that we will destroy systems ... "" - - - Come rendere umani sistemi amministrativi e burocratici? Distruggerli? Oppure “” umanizzare i loro linguaggi “”, umanizzando il legalese, il burocratese … umanizzando la politica che li produce, umanizzando l’umano. Umanizzare i linguaggi implica umanizzare le procedure, la loro analisi. Qualcosa di simile era all'origine di AIR (Analisi Impatto della Regolamentazione) e VIR (Valutazione Impatto della Regolamentazione) che rapidamente sono diventati stereotipi appiccicati passivamente ai testi normativi. Ci stiamo provando da millemila anni, il digitale sarebbe un'occasione per ripensare ex novo, chi legge mi ha insegnato l'enorme difficoltà del compito. Il giorno ven 28 giu 2024 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > ---------------------------------------------------------------------- > Message: 1 > Date: Thu, 27 Jun 2024 14:48:09 +0000 > From: Daniela Tafani <daniela.tafani(a)unipi.it> > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: [nexa] Destroy AI > Message-ID: <4719ecf595254cfba428f8e6c4f9ac1e(a)unipi.it> > Content-Type: text/plain; charset="Windows-1252" > Ali Alkhatib, 24 June 2024 > Destroy AI > I’ve been struggling to articulate this idea, and maybe the problem is > that it’s actually kind of simple once you put it out there, and there’s > really no good reason to unpack a whole case for it once you put the > thought on paper. > I’m gravitating away from the discourse of measuring and fixing unfair > algorithmic systems, or making them more transparent, or accountable. > Instead, I’m finding myself fixated on articulating the moral case for > sabotaging, circumventing, and destroying “AI”, machine learning systems, > and their surrounding political projects as valid responses to harm. > In other words, I want us to internalize and develop a more rigorous > appreciation of those who fuck up AI and its supporting systems. > With hegemonic algorithmic systems (namely large language models and > similar machine learning systems), and the overwhelming power of capital > pushing these technologies on us, I’ve come to feel like human-centered > design (HCD) and the overarching project of HCI has reached a state of > abject failure. Maybe it’s been there for a while, but I think the field’s > inability to rise forcefully to the ascent of large language models and the > pervasive use of chatbots as panaceas to every conceivable problem is > uncharitably illustrative of its current state. > CHI and FAccT have failed to meaningfully respond to the deskilling of > creative labor; or to the environmental or humanitarian crises these > systems cause or exacerbate around the world; or even to the co-opting of > our spaces by grifters and con artists making up “probabilities of doom”. > Indeed, in some ways, these spaces have avoided the difficult conversations > and welcomed the nonsense in to try to avoid the anguish of facing a > genocide in which we are collectively implicated, or the disillusionment of > confronting our own roles as agents of the corporate states that invade, > surveil, displace, and kill people. > I’m no longer interested in encouraging the design of more human-centered > versions of these murderous technologies, or to inform the more humane > administration of complex algorithmic systems that separate families, bomb > schools and neighborhoods, that force people out of their homes or onto the > streets, or that deny medical care at the moment people need it most. These > systems exist to facilitate violence, and HCI researchers who have > committed their careers to curl back that violence at the margins have > considerably more of something in them than I have. I hope it’s patience > and determination, and not self-interested greed. > Regardless, there’s no way to make the administrative and bureaucratic > systems of apartheid and violence more humane for the people subjugated by > that system. > > I think we must forcefully put on the table the possibility that we will > destroy systems that fail to make a compelling affirmative case for their > existence. That threat must be credible. We should actively undermine and > sabotage systems, and recognize that labor as a moral project that we > engage in, the way luddites sabotaged machinery that tore people apart. > > This isn’t really a post or a conversation for the HCD or HCI community. > I’ve grown weary (and wary, I suppose) of the design community because they > ultimately seem committed to … designing systems - an ideological project > antithetical to this one. > > If you think of yourself as a member of that community most people call > “design”, I would ask you to pose a few challenging questions to yourself. > Start with these: > > Do you work with systems, or people? Which would you follow, if the two > paths diverge? What if if they’re in conflict and you can only follow or > defend one? If you see a system dismantling a human being’s life, do you > think that the system must be fixed, or that the system must be destroyed? > > I wanted to end with a few positive notes: I like projects like Glaze at > the University of Chicago, and while I’ve been trying to write a piece > about this I came across a manifesto on mastodon that I thought was very > cool and uncannily relevant. I’ve also seen some really rad indigenous art, > and I know that there are other works that have explored the general space > of destroying, sabotaging, and poisoning datasets and whatnot. > > I’d be surprised if nobody has ever thought to put this constellation of > ideas together in the same blog post - please hit me up if you’ve seen > additional thoughts like this. I’d love to hear from other people who are > thinking about stuff like this. > > If you’ve been thinking along these lines, or if you’re one of the people > I’ve linked to, then please take this as encouragement and an invitation to > be in dialog with the other stuff I’ve written about and pointed to, > because I think resistance is necessary, and mustn’t be captured by the > design-brained people. > > https://ali-alkhatib.com/blog/fuck-up-ai > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 182, Issue 50 > ************************************* >

June 28, 2024

Destroy AI

by Daniela Tafani

Ali Alkhatib, 24 June 2024 Destroy AI I’ve been struggling to articulate this idea, and maybe the problem is that it’s actually kind of simple once you put it out there, and there’s really no good reason to unpack a whole case for it once you put the thought on paper. I’m gravitating away from the discourse of measuring and fixing unfair algorithmic systems, or making them more transparent, or accountable. Instead, I’m finding myself fixated on articulating the moral case for sabotaging, circumventing, and destroying “AI”, machine learning systems, and their surrounding political projects as valid responses to harm. In other words, I want us to internalize and develop a more rigorous appreciation of those who fuck up AI and its supporting systems. With hegemonic algorithmic systems (namely large language models and similar machine learning systems), and the overwhelming power of capital pushing these technologies on us, I’ve come to feel like human-centered design (HCD) and the overarching project of HCI has reached a state of abject failure. Maybe it’s been there for a while, but I think the field’s inability to rise forcefully to the ascent of large language models and the pervasive use of chatbots as panaceas to every conceivable problem is uncharitably illustrative of its current state. CHI and FAccT have failed to meaningfully respond to the deskilling of creative labor; or to the environmental or humanitarian crises these systems cause or exacerbate around the world; or even to the co-opting of our spaces by grifters and con artists making up “probabilities of doom”. Indeed, in some ways, these spaces have avoided the difficult conversations and welcomed the nonsense in to try to avoid the anguish of facing a genocide in which we are collectively implicated, or the disillusionment of confronting our own roles as agents of the corporate states that invade, surveil, displace, and kill people. I’m no longer interested in encouraging the design of more human-centered versions of these murderous technologies, or to inform the more humane administration of complex algorithmic systems that separate families, bomb schools and neighborhoods, that force people out of their homes or onto the streets, or that deny medical care at the moment people need it most. These systems exist to facilitate violence, and HCI researchers who have committed their careers to curl back that violence at the margins have considerably more of something in them than I have. I hope it’s patience and determination, and not self-interested greed. Regardless, there’s no way to make the administrative and bureaucratic systems of apartheid and violence more humane for the people subjugated by that system. I think we must forcefully put on the table the possibility that we will destroy systems that fail to make a compelling affirmative case for their existence. That threat must be credible. We should actively undermine and sabotage systems, and recognize that labor as a moral project that we engage in, the way luddites sabotaged machinery that tore people apart. This isn’t really a post or a conversation for the HCD or HCI community. I’ve grown weary (and wary, I suppose) of the design community because they ultimately seem committed to … designing systems - an ideological project antithetical to this one. If you think of yourself as a member of that community most people call “design”, I would ask you to pose a few challenging questions to yourself. Start with these: Do you work with systems, or people? Which would you follow, if the two paths diverge? What if if they’re in conflict and you can only follow or defend one? If you see a system dismantling a human being’s life, do you think that the system must be fixed, or that the system must be destroyed? I wanted to end with a few positive notes: I like projects like Glaze at the University of Chicago, and while I’ve been trying to write a piece about this I came across a manifesto on mastodon that I thought was very cool and uncannily relevant. I’ve also seen some really rad indigenous art, and I know that there are other works that have explored the general space of destroying, sabotaging, and poisoning datasets and whatnot. I’d be surprised if nobody has ever thought to put this constellation of ideas together in the same blog post - please hit me up if you’ve seen additional thoughts like this. I’d love to hear from other people who are thinking about stuff like this. If you’ve been thinking along these lines, or if you’re one of the people I’ve linked to, then please take this as encouragement and an invitation to be in dialog with the other stuff I’ve written about and pointed to, because I think resistance is necessary, and mustn’t be captured by the design-brained people. https://ali-alkhatib.com/blog/fuck-up-ai

June 27, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by Guido Vetere

c'è anche chi rifiuta l'idea che la coscienza sia la secrezione di un cervello (biologico o artificiale) o (in alternativa) il soffio di uno Spirito l'idea è che sia invece una relazione con l'ambiente naturale e linguistico, e dunque abbia un carattere sociale questa intuizione si rintraccia in Wittgenstein (Ricerche filosofiche), in particolare nella critica al concetto di 'linguaggio interno' un libro per approfondire: Alva Noe: Out of Our Heads, tradotto in italiano col titolo: Perché non siamo il nostro cervello. Una teoria radicale della coscienza. Cheers, G. On Thu, 27 Jun 2024 at 11:03, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Salve Stefano, > > Il giorno Wed, 26 Jun 2024 23:32:57 Stefano Quintarelli ha scritto: > > > ho fatto personalmente un giro di mail e di telfonate un sabato per > > sostituire "sciece fiction" con "unrealistic" > > Io direi "science fiction and fraudolent marketing". > > > Giacomo >

June 27, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by Giacomo Tesio

Salve Stefano, Il giorno Wed, 26 Jun 2024 23:32:57 Stefano Quintarelli ha scritto: > ho fatto personalmente un giro di mail e di telfonate un sabato per > sostituire "sciece fiction" con "unrealistic" Io direi "science fiction and fraudolent marketing". Giacomo

June 27, 2024