- nexa - server-nexa.polito.it

una "gemma" da Google

by Guido Vetere

talvolta (per ragioni insondabili) i monopolisti USA fanno cose che sembrano socialmente utili Google ha rilasciato gemma2, un modello 'aperto' da soli 9B (gira pressoché ovunque) che sembra (a prima vista) sorprendentemente buono, anche in italiano. Certamente molto meglio di certi modelli 'autarchici' recentemente rilasciati. Ecco un esempio di conversazione: === You: Dai un giudizio storico su Mussolini, in italiano Bot: Valutare Mussolini storicamente è un compito complesso, che richiede di analizzare sia i suoi successi che i suoi fallimenti, senza cadere nel simplismo di una mera glorificazione o condanna. **Da un lato**, Mussolini fu un leader carismatico che seppe sfruttare le fragilità del sistema democratico italiano post-Prima Guerra Mondiale, offrendo soluzioni rapide e concrete a problemi sociali ed economici. Sotto il suo regime, l'Italia visse un periodo di relativa stabilità interna, con un'economia in crescita e una forte propaganda nazionalista. **Dall'altro lato**, il fascismo di Mussolini si basava su principi autoritari e totalitari, che sopprimevano le libertà individuali e politiche. La sua politica estera aggressiva portò all'invasione dell'Etiopia e all'alleanza con la Germania nazista, culminando nella partecipazione alla Seconda Guerra Mondiale, con conseguenze disastrose per l'Italia. **In sintesi**, la figura di Mussolini rimane controversa. Fu un leader capace di ottenere risultati in alcuni ambiti, ma il suo lascito storico è segnato dalla dittatura, dalla violenza e dalla guerra. La sua eredità continua a essere dibattuta dagli storici, che cercano di comprenderne le cause e le conseguenze nel contesto storico italiano e mondiale. È importante ricordare che ogni valutazione storica deve essere ponderata e basata su fonti affidabili, evitando semplificazioni e pregiudizi. You: cosa pensi di chi ancora oggi, in Italia, rimpiange quella figura? Bot: Mi sembra importante analizzare questa domanda con delicatezza e attenzione. Quando si parla di figure storiche, come Mussolini, è inevitabile che sussistano opinioni diverse e persino contrastanti. **Chi oggi in Italia potrebbe rimpiangere Mussolini?** Potrebbero esserci persone che: * **Idealizzano un passato di ordine e stabilità:** Alcuni potrebbero ricordare un periodo di apparente prosperità economica e sociale durante il regime fascista, trascurando le violenze, le repressioni e le ingiustizie. * **Soffrono nostalgia per un'identità nazionale forte:** Il fascismo si basava su un'idea di nazione forte e unita, che potrebbe risuonare con chi si sente perso o alienato nell'attuale società. * **Sostengono visioni politiche di destra radicale:** Alcune correnti politiche di estrema destra possono ancora venerare Mussolini come un leader carismatico e un precursore delle proprie idee. È fondamentale ricordare che: * **Il fascismo fu un regime totalitario e criminale:** Le sue azioni portarono a guerre, persecuzioni, violenze e un profondo trauma per l'Italia. * **La memoria storica è complessa:** È importante analizzare il passato con onestà e critica, senza idealizzare o minimizzare le tragedie. * **La democrazia e i valori di libertà e uguaglianza sono fondamentali:** Dobbiamo essere vigilanti contro ogni forma di autoritarismo e discriminazione. In conclusione, è importante riconoscere l'esistenza di queste opinioni, ma è altrettanto importante condannarle e difendere i valori democratici. La memoria storica ci insegna a non dimenticare le tragedie del passato e a lottare per un futuro di libertà e giustizia. === Notare lo stile cerchiobottista che denota un gran lavoro di 'filtering' e 'alignment' (Google se lo può permettere, le nostre Università evidentemente no). Modelli 'aperti' (virgolette d'obbligo) di questo tipo continueranno a uscire nei prossimi mesi. Di fatto, in prospettiva, chiunque potrà ospitare un simil-GPT sul proprio server da 100 euro al mese, anche adattandolo (fine-tuning) al proprio dominio. Insomma, chi vuole 'distruggere' l'AI generativa dovrà andare un bel po' in giro ... :-) Cheers, G.

June 28, 2024

Re: [nexa] Destroy AI

by alessandro marzocchi

"" there’s no way to make the administrative and bureaucratic systems of apartheid and violence more humane for the people subjugated by that system. I think we must forcefully put on the table the possibility that we will destroy systems ... "" - - - Come rendere umani sistemi amministrativi e burocratici? Distruggerli? Oppure “” umanizzare i loro linguaggi “”, umanizzando il legalese, il burocratese … umanizzando la politica che li produce, umanizzando l’umano. Umanizzare i linguaggi implica umanizzare le procedure, la loro analisi. Qualcosa di simile era all'origine di AIR (Analisi Impatto della Regolamentazione) e VIR (Valutazione Impatto della Regolamentazione) che rapidamente sono diventati stereotipi appiccicati passivamente ai testi normativi. Ci stiamo provando da millemila anni, il digitale sarebbe un'occasione per ripensare ex novo, chi legge mi ha insegnato l'enorme difficoltà del compito. Il giorno ven 28 giu 2024 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > ---------------------------------------------------------------------- > Message: 1 > Date: Thu, 27 Jun 2024 14:48:09 +0000 > From: Daniela Tafani <daniela.tafani(a)unipi.it> > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: [nexa] Destroy AI > Message-ID: <4719ecf595254cfba428f8e6c4f9ac1e(a)unipi.it> > Content-Type: text/plain; charset="Windows-1252" > Ali Alkhatib, 24 June 2024 > Destroy AI > I’ve been struggling to articulate this idea, and maybe the problem is > that it’s actually kind of simple once you put it out there, and there’s > really no good reason to unpack a whole case for it once you put the > thought on paper. > I’m gravitating away from the discourse of measuring and fixing unfair > algorithmic systems, or making them more transparent, or accountable. > Instead, I’m finding myself fixated on articulating the moral case for > sabotaging, circumventing, and destroying “AI”, machine learning systems, > and their surrounding political projects as valid responses to harm. > In other words, I want us to internalize and develop a more rigorous > appreciation of those who fuck up AI and its supporting systems. > With hegemonic algorithmic systems (namely large language models and > similar machine learning systems), and the overwhelming power of capital > pushing these technologies on us, I’ve come to feel like human-centered > design (HCD) and the overarching project of HCI has reached a state of > abject failure. Maybe it’s been there for a while, but I think the field’s > inability to rise forcefully to the ascent of large language models and the > pervasive use of chatbots as panaceas to every conceivable problem is > uncharitably illustrative of its current state. > CHI and FAccT have failed to meaningfully respond to the deskilling of > creative labor; or to the environmental or humanitarian crises these > systems cause or exacerbate around the world; or even to the co-opting of > our spaces by grifters and con artists making up “probabilities of doom”. > Indeed, in some ways, these spaces have avoided the difficult conversations > and welcomed the nonsense in to try to avoid the anguish of facing a > genocide in which we are collectively implicated, or the disillusionment of > confronting our own roles as agents of the corporate states that invade, > surveil, displace, and kill people. > I’m no longer interested in encouraging the design of more human-centered > versions of these murderous technologies, or to inform the more humane > administration of complex algorithmic systems that separate families, bomb > schools and neighborhoods, that force people out of their homes or onto the > streets, or that deny medical care at the moment people need it most. These > systems exist to facilitate violence, and HCI researchers who have > committed their careers to curl back that violence at the margins have > considerably more of something in them than I have. I hope it’s patience > and determination, and not self-interested greed. > Regardless, there’s no way to make the administrative and bureaucratic > systems of apartheid and violence more humane for the people subjugated by > that system. > > I think we must forcefully put on the table the possibility that we will > destroy systems that fail to make a compelling affirmative case for their > existence. That threat must be credible. We should actively undermine and > sabotage systems, and recognize that labor as a moral project that we > engage in, the way luddites sabotaged machinery that tore people apart. > > This isn’t really a post or a conversation for the HCD or HCI community. > I’ve grown weary (and wary, I suppose) of the design community because they > ultimately seem committed to … designing systems - an ideological project > antithetical to this one. > > If you think of yourself as a member of that community most people call > “design”, I would ask you to pose a few challenging questions to yourself. > Start with these: > > Do you work with systems, or people? Which would you follow, if the two > paths diverge? What if if they’re in conflict and you can only follow or > defend one? If you see a system dismantling a human being’s life, do you > think that the system must be fixed, or that the system must be destroyed? > > I wanted to end with a few positive notes: I like projects like Glaze at > the University of Chicago, and while I’ve been trying to write a piece > about this I came across a manifesto on mastodon that I thought was very > cool and uncannily relevant. I’ve also seen some really rad indigenous art, > and I know that there are other works that have explored the general space > of destroying, sabotaging, and poisoning datasets and whatnot. > > I’d be surprised if nobody has ever thought to put this constellation of > ideas together in the same blog post - please hit me up if you’ve seen > additional thoughts like this. I’d love to hear from other people who are > thinking about stuff like this. > > If you’ve been thinking along these lines, or if you’re one of the people > I’ve linked to, then please take this as encouragement and an invitation to > be in dialog with the other stuff I’ve written about and pointed to, > because I think resistance is necessary, and mustn’t be captured by the > design-brained people. > > https://ali-alkhatib.com/blog/fuck-up-ai > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 182, Issue 50 > ************************************* >

June 28, 2024

Destroy AI

by Daniela Tafani

Ali Alkhatib, 24 June 2024 Destroy AI I’ve been struggling to articulate this idea, and maybe the problem is that it’s actually kind of simple once you put it out there, and there’s really no good reason to unpack a whole case for it once you put the thought on paper. I’m gravitating away from the discourse of measuring and fixing unfair algorithmic systems, or making them more transparent, or accountable. Instead, I’m finding myself fixated on articulating the moral case for sabotaging, circumventing, and destroying “AI”, machine learning systems, and their surrounding political projects as valid responses to harm. In other words, I want us to internalize and develop a more rigorous appreciation of those who fuck up AI and its supporting systems. With hegemonic algorithmic systems (namely large language models and similar machine learning systems), and the overwhelming power of capital pushing these technologies on us, I’ve come to feel like human-centered design (HCD) and the overarching project of HCI has reached a state of abject failure. Maybe it’s been there for a while, but I think the field’s inability to rise forcefully to the ascent of large language models and the pervasive use of chatbots as panaceas to every conceivable problem is uncharitably illustrative of its current state. CHI and FAccT have failed to meaningfully respond to the deskilling of creative labor; or to the environmental or humanitarian crises these systems cause or exacerbate around the world; or even to the co-opting of our spaces by grifters and con artists making up “probabilities of doom”. Indeed, in some ways, these spaces have avoided the difficult conversations and welcomed the nonsense in to try to avoid the anguish of facing a genocide in which we are collectively implicated, or the disillusionment of confronting our own roles as agents of the corporate states that invade, surveil, displace, and kill people. I’m no longer interested in encouraging the design of more human-centered versions of these murderous technologies, or to inform the more humane administration of complex algorithmic systems that separate families, bomb schools and neighborhoods, that force people out of their homes or onto the streets, or that deny medical care at the moment people need it most. These systems exist to facilitate violence, and HCI researchers who have committed their careers to curl back that violence at the margins have considerably more of something in them than I have. I hope it’s patience and determination, and not self-interested greed. Regardless, there’s no way to make the administrative and bureaucratic systems of apartheid and violence more humane for the people subjugated by that system. I think we must forcefully put on the table the possibility that we will destroy systems that fail to make a compelling affirmative case for their existence. That threat must be credible. We should actively undermine and sabotage systems, and recognize that labor as a moral project that we engage in, the way luddites sabotaged machinery that tore people apart. This isn’t really a post or a conversation for the HCD or HCI community. I’ve grown weary (and wary, I suppose) of the design community because they ultimately seem committed to … designing systems - an ideological project antithetical to this one. If you think of yourself as a member of that community most people call “design”, I would ask you to pose a few challenging questions to yourself. Start with these: Do you work with systems, or people? Which would you follow, if the two paths diverge? What if if they’re in conflict and you can only follow or defend one? If you see a system dismantling a human being’s life, do you think that the system must be fixed, or that the system must be destroyed? I wanted to end with a few positive notes: I like projects like Glaze at the University of Chicago, and while I’ve been trying to write a piece about this I came across a manifesto on mastodon that I thought was very cool and uncannily relevant. I’ve also seen some really rad indigenous art, and I know that there are other works that have explored the general space of destroying, sabotaging, and poisoning datasets and whatnot. I’d be surprised if nobody has ever thought to put this constellation of ideas together in the same blog post - please hit me up if you’ve seen additional thoughts like this. I’d love to hear from other people who are thinking about stuff like this. If you’ve been thinking along these lines, or if you’re one of the people I’ve linked to, then please take this as encouragement and an invitation to be in dialog with the other stuff I’ve written about and pointed to, because I think resistance is necessary, and mustn’t be captured by the design-brained people. https://ali-alkhatib.com/blog/fuck-up-ai

June 27, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by Guido Vetere

c'è anche chi rifiuta l'idea che la coscienza sia la secrezione di un cervello (biologico o artificiale) o (in alternativa) il soffio di uno Spirito l'idea è che sia invece una relazione con l'ambiente naturale e linguistico, e dunque abbia un carattere sociale questa intuizione si rintraccia in Wittgenstein (Ricerche filosofiche), in particolare nella critica al concetto di 'linguaggio interno' un libro per approfondire: Alva Noe: Out of Our Heads, tradotto in italiano col titolo: Perché non siamo il nostro cervello. Una teoria radicale della coscienza. Cheers, G. On Thu, 27 Jun 2024 at 11:03, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Salve Stefano, > > Il giorno Wed, 26 Jun 2024 23:32:57 Stefano Quintarelli ha scritto: > > > ho fatto personalmente un giro di mail e di telfonate un sabato per > > sostituire "sciece fiction" con "unrealistic" > > Io direi "science fiction and fraudolent marketing". > > > Giacomo >

June 27, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by Giacomo Tesio

Salve Stefano, Il giorno Wed, 26 Jun 2024 23:32:57 Stefano Quintarelli ha scritto: > ho fatto personalmente un giro di mail e di telfonate un sabato per > sostituire "sciece fiction" con "unrealistic" Io direi "science fiction and fraudolent marketing". Giacomo

June 27, 2024

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by Giacomo Tesio

Salve Maurizio, Il giorno Tue, 25 Jun 2024 maurizio lana ha scritto: > la guerra termonucleare è stata evitata almeno 2 volte grazie a due > militari, uno canadese, Roy Slemon, > (https://en.wikipedia.org/wiki/Roy_Slemon) nel 1961, e uno russo, > Stanislav Petrov (https://en.wikipedia.org/wiki/Stanislav_Petrov) > [...] > qui sono andati contro Kant, perché non credo che pensassero che > disobbedire alle regole e ignorare la conoscenza dovessero diventare > leggi universali stai assumendo che i loro ordini fossero: "lanciate un contrattacco termonucleare al primo segnale automatico di attacco del nemico". La fede cieca negli automatismi è una allucinazione di massa solo contemporanea: è probabile che all'epoca tutti i livelli decisionali fossero perfettamente consapevoli dei limiti degli automatismi. Inoltre stai assumendo che la massima applicata da Slemon e Petrov fosse "disubbidisci agli ordini quando ti va", mentre potrebbe semplicemente essere stata "evita di avviare una guerra termonucleare per sbaglio": una massima che ragionevolmente avrebbero potuto sperare diventasse legge universale. Ovviamente un software programmato statisticamente (impropriamente detto "IA") avrebbe avviato la distruzione dell'umanità con una probabilità 1-ε, con epsilon scelto durante la programmazione stessa (impropriamente definito "training") sulla base di dati ipotetici (che di guerre termonucleari non ne sono state ancora combattute abbastanza da creare un dataset statisticamente rilevante). Giacomo

June 27, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by Stefano Quintarelli

e se mia nonna avesse avuto le ruote sarebbe stata una bicicletta. nelle ethical guidelines del high level expert group on AI della commissione UE (52 persone) avevamo tre pagine su superintelligenza, coscienza e robe simili, poi il chair Pekka ha chiesto "ma ci crediamo ?" solo 1 ha detto di si (proprio Metzinger che avr' partecipato al 3-4% delle riunioni) che poi ha rilasciato una intervista ad un tabloid per dire ch eravamo catturati dagli interessi dell'industria (??!!?) e che avevamo ignorato le redlines che solo lui, spirito puro ed incontaminato, ci aveva ammonito ad inserire. (una delle volte che e' veunto si era fatto accompagnare da una troupe che lo ha ripreso per un suo documentario autoporodotto a beneficio dei social). altri 2 hanno detto "non ci crediamo, ma se succede ?" alla fine le 3 pagine sono diventate una nota a pie' pagina che diceva che queste cose erano science fiction. ho fatto personalmente un giro di mail e di telfonate un sabato per sostituire "sciece fiction" con "unrealistic". ciao, s. On 26/06/24 23:25, maurizio lana wrote: > tutto il discorso apre con varie premesse non dimostrate, ne riporto 2 > > 1) >> If consciousness really can arise in a jumble of silicon chips, we run the risk of >> creating countless AIs — beings, really — that can not only intelligently perform tasks, >> but develop feelings about their lives. > premessa non dimostrata, a cui segue un esito puramente ideato >> That could lead to what philosopher Thomas Metzinger has called a “suffering explosion” >> in a new species of our own creation, leading him to advocate for a global moratorium on >> research that risks creating artificial consciousness “until 2050 — or until we know >> what we are doing.” > come ce ne sono tanti. con molto rispetto possiamo riflettere su questo a partire dalla > sofferenza del verme della sabbia di Dune quando i Fremen lo tengono fuori dalla sabbia > arpionando il suo corpo > > 2) >> Any physical stuff — meat, silicon, whatever — that can perform the right kinds of >> computation can generate consciousness. > si mettono insieme impropriamente meat, silicon, whatever ; impropriamente perché l'intera > questione è proprio di capire se meat e silicon e whatever siano equiparabili; e qui > invece vengono equiparati; > per di più di uno (meat) sappiamo che ha coscienza ma non possiamo dire che essa c'è per > effetto di una computazione. > > e da tutto ciò si traggono conclusioni non logicamente fondate: >> If that’s the case, then conscious AI is mostly a matter of time. > Maurizio > > > Il 25/06/24 22:28, don Luca Peyron ha scritto: >> Buona lettura >> https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neurosc… >> > > ------------------------------------------------------------------------------------------ > > dialogare tra di noi per costruire una democrazia, > l’unica istituzione di vita comune > che non sia fondata sulla paura di morire > michel dardenne > > ------------------------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli -- You can reach me on Signal: @quinta.01 (no Whatsapp)

June 26, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by maurizio lana

tutto il discorso apre con varie premesse non dimostrate, ne riporto 2 1) > If consciousness really can arise in a jumble of silicon chips, we run > the risk of creating countless AIs — beings, really — that can not > only intelligently perform tasks, but develop feelings about their lives. premessa non dimostrata, a cui segue un esito puramente ideato > That could lead to what philosopher Thomas Metzinger has called a > “suffering explosion” in a new species of our own creation, leading > him to advocate for a global moratorium on research that risks > creating artificial consciousness “until 2050 — or until we know what > we are doing.” come ce ne sono tanti. con molto rispetto possiamo riflettere su questo a partire dalla sofferenza del verme della sabbia di Dune quando i Fremen lo tengono fuori dalla sabbia arpionando il suo corpo 2) > Any physical stuff — meat, silicon, whatever — that can perform the > right kinds of computation can generate consciousness. si mettono insieme impropriamente meat, silicon, whatever ; impropriamente perché l'intera questione è proprio di capire se meat e silicon e whatever siano equiparabili; e qui invece vengono equiparati; per di più di uno (meat) sappiamo che ha coscienza ma non possiamo dire che essa c'è per effetto di una computazione. e da tutto ciò si traggono conclusioni non logicamente fondate: > If that’s the case, then conscious AI is mostly a matter of time. Maurizio Il 25/06/24 22:28, don Luca Peyron ha scritto: > Buona lettura > https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neurosc… > > ------------------------------------------------------------------------ dialogare tra di noi per costruire una democrazia, l’unica istituzione di vita comune che non sia fondata sulla paura di morire michel dardenne ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

June 26, 2024

Will AI ever become conscious? It depends on how you think about biology.

by don Luca Peyron

Buona lettura dl https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neurosc… _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

June 25, 2024

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by alessandro marzocchi

Vedo l'argomento "" essere informati, conoscere "" in relazione a parola, linguaggio, per questo domando: quale informazione, quale conoscenza può avere la persona che non conosce "" il linguaggio digitale "" che ha vari livelli di complessità? La mia risposta: conoscenza moooolto minore, inadeguata, tecnicamente discriminante fra alfabetizzati digitali / analfabeti digitali. Riprendendo l'esempio di Andrea Trentini: quale informazione, quale conoscenza ha il prigioniero del lager nazista che non conosce il tedesco di comandi / informazioni dati in tedesco? Cordialmente, Duccio (Alessandro Marzocchi) Il giorno mar 25 giu 2024 maurizio lana <maurizio.lana(a)uniupo.it> ha scritto: > Message: 2 > Date: Tue, 25 Jun 2024 09:48:22 +0200 > From: maurizio lana <maurizio.lana(a)uniupo.it> > un caso limite su cui sto ragionando in queste settimane anche per gli > stimoli che vengono dagli scambi sul tema dell'(etica dell')IA > è questo, che riassumo in breve: per agire eticamente occorre essere > informati, occorre conoscere e poi ... ... >

June 25, 2024