June 2024 - nexa - server-nexa.polito.it

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by maurizio lana

un caso limite su cui sto ragionando in queste settimane anche per gli stimoli che vengono dagli scambi sul tema dell'(etica dell')IA è questo, che riassumo in breve: per agire eticamente occorre essere informati, occorre conoscere e poi occorre valutare come usare la conoscenza. ma a volte si deve agire contro la conoscenza posseduta. la guerra termonucleare è stata evitata almeno 2 volte grazie a due militari, uno canadese, Roy Slemon, (https://en.wikipedia.org/wiki/Roy_Slemon) nel 1961, e uno russo, Stanislav Petrov (https://en.wikipedia.org/wiki/Stanislav_Petrov) nel 1983, che nonostante le indicazioni dei rispettivi sistemi informativi che segnalavano ICBM nemici in arrivo, contro le regole e norme che regolavano i loro compiti non lanciarono un contrattacco. entrambi non furono sanzionati in alcuna forma per quella che era stata chiaramente un'insubordinazione (un ammutinamento?). (questi sono i primi due casi diventati noti). apprezzeremmo che nella posizione di Slemon e Petrov ci sia (ci fosse) un sistema di IA? un sistema di Intelligenza Artificiale sarebbe (stato) in grado di operare meglio di loro contravvenendo alle regole definite, o definendo da sé nuove regole sulla base delle informazioni possedute? (qui sono andati contro Kant, perché non credo che pensassero che disobbedire alle regole e ignorare la conoscenza dovessero diventare leggi universali) Maurizio Il 25/06/24 00:57, Giacomo Tesio ha scritto: > Il 24 Giugno 2024 15:06:26 UTC, Guido Vetere ha scritto: >> [MODE=PROVOCATION, CONTENT=spiega il concetto di imperativo categorico >> (Kant) a un informatico ] >> >> [GPT-4o] >> [...] >> >> [Claude] >> [...] > [Giacomo, informatico] > Gli informatici non sono minus habens: dovrebbero dunque bastare le parole di Kant: > > "agisci soltanto secondo quella massima che, al tempo stesso, puoi volere che > divenga una legge universale" > > > Giacomo ------------------------------------------------------------------------ one of the things I really believed in is the idea of simplicity, that life should always be moving toward more simplicity rather than more complexity yvon chouinard ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

June 25, 2024

Assange libero

by Mauro Alovisio

Gent.mi segnalo https://www.ansa.it/sito/notizie/mondo/2024/06/25/assange-patteggia-con-la-… Un caro saluto Mauro

June 25, 2024

Assange libero (ha patteggiato)

by Andrea Trentini

https://www.theguardian.com/media/live/2024/jun/25/julian-assange-prison-re… -- Andrea Trentini ⠠⠵ http://atrent.it public key ID: 0xA7A91E3B Dip.to di Informatica Università degli Studi di Milano

June 25, 2024

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by Giacomo Tesio

Il 24 Giugno 2024 15:06:26 UTC, Guido Vetere ha scritto: > [MODE=PROVOCATION, CONTENT=spiega il concetto di imperativo categorico > (Kant) a un informatico ] > > [GPT-4o] > [...] > > [Claude] > [...] [Giacomo, informatico] Gli informatici non sono minus habens: dovrebbero dunque bastare le parole di Kant: "agisci soltanto secondo quella massima che, al tempo stesso, puoi volere che divenga una legge universale" Giacomo

June 24, 2024

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by 380°

Buongiorno Guido, caveat per i lettori casuali: questo messaggio è molto tecnico _e_ molto filosofico, troppo per addetti ai lavori, credo :-D Guido Vetere <vetere.guido(a)gmail.com> writes: > [MODE=PROVOCATION, CONTENT=spiega il concetto di imperativo categorico > (Kant) a un informatico ] [MODE=COUNTERPROVOCATION, CONTENT=spiega il concetto di funcional e logic programming a un informatico che programma in paiton] [...] > **Definizione Filosofica:** > L'imperativo categorico è un principio fondamentale della filosofia morale > di Immanuel Kant. È una regola che deve essere seguita in ogni circostanza, > senza eccezioni, perché è intrinsecamente giusta. Kant lo formula così: > "Agisci solo secondo quella massima per cui tu possa, allo stesso tempo, > volere che diventi una legge universale." Uh sono impressionato! Una sintesi puntuale e precisa, che rende giustizia al concetto, direi... :-D > ### Analogia con la Programmazione > > **Analogia Informatica:** > Immagina di scrivere un programma che esegua azioni morali. "Immagina, puoi!" ...significa che hai moltissima immaginazione, non tanto per la moralità delle azioni quanto per il programma che "esegua _azioni_" [...] > - In programmazione, possiamo vedere una massima come una funzione che > descrive un comportamento specifico. OK, dobbiamo scrivere una funzione: in che linguaggio di programmazione la esprimo?!? [...] > - In termini informatici, questo significa che la funzione deve poter > essere eseguita in qualsiasi contesto senza generare errori o comportamenti > indesiderati. È come scrivere una funzione che deve sempre restituire un > risultato valido indipendentemente dai parametri di input. Come "indipendente dai parametri di input"?!? (lambda (x) (true))?!? Non è che "indipendentemente dai parametri di input" è un refuso? Un linguaggio che permetta di scrivere un programma che non deve generare "comportamenti indesiderati" allora IMO deve essere scritto in un linguaggio che abbia almeno: 1. first-class functions 2. pure funcions 3. referential transparency in altre parole in "Purely functional programming", anche se Qualcuno™ direbbe che anche un linguaggio "quasi-pure" come un dialetto Lisp potrebbe bastare... anche paiton può essere usato per il functional programming, ma bisogna fare _estrema_ attanzione, direi che è quasi impossibile :-O [...] > Quindi, l'imperativo categorico è come una condizione che tutte le tue > funzioni morali devono soddisfare per garantire che il sistema morale (la > società) rimanga coerente e privo di errori. fico: ci sto! > [Claude] Chi è Claude? [...] > I punti chiave sono: > > 1. Universalità: Come una funzione che deve funzionare correttamente per > tutti gli input possibili, OK, una "pure funcion" idempotente, ci siamo: si può fare! :-D [...] > 3. Trattare le persone come fini: Analogamente a come trattiamo gli oggetti > in programmazione orientata agli oggetti, ma no! abbiamo detto programmazione funzionale, non a oggetti! :-O ...e perché non in un linguaggio di logic programming, tipo Prolog?!? aggià, che scemo: quella "pista" dell'IA è una pista morta, adesso ci sono le "reti neurali" che sostituiscono la logica formale, anzi sostituiscono sia la logica che... il giudizio, che è prodromico all'imperativo categorico di kantiana /invenzione/ [...] > 4. Test di validità: Come un test unitario per il codice etico, > l'imperativo categorico fornisce un modo per verificare se un'azione è > moralmente accettabile. uh fico: allora _deve_ essere possibile scrivere un programma - però non in paiton, che viene male IMO - per verificare l'accettabilità morale di una azione fornita in input! > [MODE=JOKING, CONTENT= :-)] :-D [...] saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 24, 2024

Splendori e miserie delle intelligenze artificiali (Alla luce dell’umana esperienza)

by 380°

Buongiorno, Antonio <antonio(a)piumarossa.it> writes: >> Etica è valutazione secondo canoni "umani": il digitale è "umano"? > > A proposito di etica e digitale, segnalo, da poco uscito, "Splendori e > miserie delle intelligenze artificiali - Alla luce dell'umana > esperienza" [1] di Francesco Varanini [2] grazie mille per la segnalazione! una delle voci in indice è «Algor-etica. Un concetto sgangherato ed equivoco» > [1] > https://www.guerini.it/index.php/prodotto/splendori-e-miserie-delle-intelli… --8<---------------cut here---------------start------------->8--- Più che parole nuove, parole antiche. Più che raccontare ciò che del mondo è possibile vedere tramite un computer, mi sembra importante guardare a ciò che un computer non sa vedere, non può vedere. Più che rileggere la storia alla luce della novità digitale, mi pare sia opportuno oggi leggere la novità digitale alla luce della storia. Più che adeguare il nostro pensiero e i nostri comportamenti alla cultura digitale, si tratta di decostruire la cultura digitale, osservando le miserie che gli splendori non riescono a nascondere. --8<---------------cut here---------------end--------------->8--- "più che parole nuove..." detto con le parole di uno dei miei maestri (lui di musica) che mi insegnarono «com'è difficile trovare l'alba dentro l'imbrunire»: "in passato erano sì _antichi_ ma non erano stupidi". come introduzione al libro è interessante anche la pagina ad esso dedicata direttamente dall'autore: https://www.francescovaranini.it/2024/05/splendori-e-miserie-delle-intellig… --8<---------------cut here---------------start------------->8--- Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce. Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire. Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità. [...] L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. [...] L'immaginare di sostituire l'essere umano con una macchina è contrabbandare l' /informazione/ per /conoscenza/. [...] Un conto è l'informazione – che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza – che è il frutto dell'umana esperienza. [...] Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi? [...] La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole. [...] E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica. [...] Che fare? [...] • Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. [...] • Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole ‘Intelligenza Artificiale' con lo sguardo dell'essere umano che contribuisce a costruire il mondo che abita. [...] [...] La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine. --8<---------------cut here---------------end--------------->8--- Rilancio: Perché accettiamo che altri esseri umani ci facciano da modello e guida? Perché affidarci al giudizio di altri? --8<---------------cut here---------------start------------->8--- È così comodo essere minorenni! Se ho un libro che ha intelletto per me, un direttore spirituale che ha coscienza per me, un medico che valuta la dieta per me, ecc., non ho certo bisogno di sforzarmi da me. [...] tutori che si sono assunti con tanta benevolenza l'alta sorveglianza su di loro. [...] descrivono a esse il pericolo che le minaccia qualora tentassero di camminare da sole. --8<---------------cut here---------------end--------------->8--- ...o cavolo ancora Kant [1]! :-O É per quello che io sono _entusiasta_ delle cosiddette IA generative: sono l'ultimo (disperato?) tentativo dei _tutori_ (cioè amministratori, detti anche /manager/, impropriamente detti politici) di impedirci di diventare (cittadini) maggiorenni. > [2] Etnografo e ricercatore sociale di formazione, ha lavorato come > progettista di sistemi informatici e come manager in ambito Risorse > Umane, Organizzazione e Marketing. Nel 1999 ha ideato e diretto il > primo Master italiano dedicato all’e-business e alla cultura > digitale. Ha insegnato Informatica Umanistica all'Università di > Pisa. È Presidente di Assoetica. un antropologo pragmatico? :-) credo NON sia un caso che lo stesso autore nel 2010 abbia pubblicato un libro dal titolo «Contro il management» ma... «In realtà avevo pensato di intitolarlo "La guida, il governo e la cura."» [2] ...cioè «il governo dei "tecnici"», con "adeguati" /strumenti/ tecnici. [...] saluti, 380° [1] http://btfp.sp.unipi.it/dida/kant_7/ar01s04.xhtml [2] https://www.francescovaranini.it/2010/04/contro-il-management/ P.S.: ...e no, no e poi ancora no: l'informazione non è un insieme di dati elaborabili da un compurer. L'/informazione/ è "dare forma alla mente", non esiste informazione senza mente. Punto. (Se volete sostenere che le macchine possiedono una mente fate pure). P.P.S.: se il "governo dei tecnici" viene gestito attraverso il software (come potrebbe essere diversamente?!?), "tu chiamalo se vuoi AI", allora siete _fregati_ perché troveremo il modo per _hackerarlo_ :-D. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 24, 2024

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by Guido Vetere

[MODE=PROVOCATION, CONTENT=spiega il concetto di imperativo categorico (Kant) a un informatico ] [GPT-4o] Certamente! Spiegare il concetto di imperativo categorico di Immanuel Kant a un informatico può essere fatto attraverso un'analogia con la programmazione. ### Concetto di Imperativo Categorico **Definizione Filosofica:** L'imperativo categorico è un principio fondamentale della filosofia morale di Immanuel Kant. È una regola che deve essere seguita in ogni circostanza, senza eccezioni, perché è intrinsecamente giusta. Kant lo formula così: "Agisci solo secondo quella massima per cui tu possa, allo stesso tempo, volere che diventi una legge universale." ### Analogia con la Programmazione **Analogia Informatica:** Immagina di scrivere un programma che esegua azioni morali. Il principio dell'imperativo categorico può essere paragonato a una funzione di validazione nel tuo codice, che verifica se una certa azione (o funzione) può essere eseguita universalmente senza causare contraddizioni o problemi nel sistema. #### Dettagli Tecnici dell'Analogia 1. **Massima come Funzione:** - In filosofia, una "massima" è un principio o regola d'azione personale. - In programmazione, possiamo vedere una massima come una funzione che descrive un comportamento specifico. 2. **Validazione Universale:** - L'imperativo categorico richiede che la tua massima possa essere applicata universalmente. - In termini informatici, questo significa che la funzione deve poter essere eseguita in qualsiasi contesto senza generare errori o comportamenti indesiderati. È come scrivere una funzione che deve sempre restituire un risultato valido indipendentemente dai parametri di input. 3. **Esempio Pratico:** - Supponiamo di avere una funzione `azioneMoralmenteCorretta()`. Secondo Kant, prima di eseguire questa funzione, dobbiamo verificare che, se tutti eseguissero `azioneMoralmenteCorretta()`, il sistema (la società) funzionerebbe ancora correttamente e senza contraddizioni. ```python def azioneMoralmenteCorretta(param): # Definire la massima massima = "Tutti devono poter eseguire questa azione senza creare problemi" # Validazione universale if validazioneUniversale(massima): eseguiAzione(param) else: raise Exception("Azione non moralmente corretta secondo l'imperativo categorico") def validazioneUniversale(massima): # Implementazione della logica di validazione universale # Ad esempio, verifica che l'azione non causi contraddizioni se applicata universalmente return True # Placeholder per esempio ``` ### Riassunto L'imperativo categorico di Kant richiede che ogni azione che decidi di compiere possa essere trasformata in una legge universale senza causare problemi. In termini informatici, questo significa che ogni funzione deve essere universalmente valida e priva di effetti collaterali negativi se applicata in qualsiasi contesto. Quindi, l'imperativo categorico è come una condizione che tutte le tue funzioni morali devono soddisfare per garantire che il sistema morale (la società) rimanga coerente e privo di errori. [Claude] Ecco una spiegazione concisa dell'imperativo categorico di Kant adattata per un informatico: L'imperativo categorico di Kant è come un principio etico universale che funziona come una regola fondamentale del codice morale. In termini informatici, potremmo paragonarlo a un algoritmo etico che dovrebbe essere applicabile in ogni situazione, senza eccezioni. I punti chiave sono: 1. Universalità: Come una funzione che deve funzionare correttamente per tutti gli input possibili, l'imperativo categorico richiede che le tue azioni possano essere universalizzate. 2. Coerenza logica: Così come un programma deve essere internamente coerente, le tue azioni etiche non devono generare contraddizioni se applicate universalmente. 3. Trattare le persone come fini: Analogamente a come trattiamo gli oggetti in programmazione orientata agli oggetti, Kant sostiene che le persone dovrebbero essere trattate come fini in sé, non solo come mezzi. 4. Test di validità: Come un test unitario per il codice etico, l'imperativo categorico fornisce un modo per verificare se un'azione è moralmente accettabile. [MODE=JOKING, CONTENT= :-)] G. On Sat, 22 Jun 2024 at 09:31, 380° via nexa <nexa(a)server-nexa.polito.it> wrote: > Breve premessa, > > sono un semplice /tecnico/ e so nulla di filosofia (e di musica), ma per > quel poco che ho studiato (da autodidatta) così come nella musica esiste > un prima e un dopo Bach, nella filosofia esiste un prima e un dopo > Kant... quindi sono "di parte" :-D > > 380° <g380(a)biscuolo.net> writes: > > [...] > > >> segnalo un articolo sul tema algoretica scritto da SIpEIA su Magazine > >> Intelligenza Artificiale - MagIA > >> > https://magia.news/che-dire-della-algor-etica-spunti-per-una-critica-della-… > > > > a parte qualche stonatura (red herring?) che io ritengo più che > > perdonabile nel contesto, ho molto apprezzato la critica all'algoretica > > ma mi lascia estremamente perplesso la «proposta diversa» presentata > nell'articolo, ovvero l'etica dell'IA > > --8<---------------cut here---------------start------------->8--- > > Un'etica riducibile ad un algoritmo implica che l'etica > dipende dalla sola razionalità ed è riducibile ad un insieme di > numeri, posizione non conciliabile con quella di chi vede per l'essere > umano un ruolo speciale nel creato. > > --8<---------------cut here---------------end--------------->8--- > > dunque sì, sì e poi ancora sì: l'etica (filosofia morale) dipende dalla > sola razionalità (/roba/ da umani e non da macchine). > > quindi il fatto che l'etica non si possa descrivere algoritmicamente > dipende _non solo_ dal fatto che non è "riducibile a un insieme di > numeri" ma nemmeno può essere descritta in un linguaggio che esprima > enunciati validabili attraverso regole di logica formale (si tratta di > "semplicità insormontabili")... almeno non con _questa_ IA :-D > > --8<---------------cut here---------------start------------->8--- > > 1.5 Perché etica dell'IA > ──────────────────────── > > L'algoretica non è sufficiente quando considera l'etica come qualcosa > che si occupa di un oggetto che sta in un Iperuranio esterno e estraneo > alle condizioni concrete della vita reale. Sulla scorta di questo tacito > assunto c'è il rischio che si venga a riproporre una sorta di “etica > tradizionale” che non tenga conto né delle innovazioni intervenute né > dei cambiamenti di circostanze storiche che le innovazioni producono. A > questo proposito è opportuno ricordare che anche l'etica generale ha già > comportato cambiamenti significativi, sollecitati dalle etiche speciali, > e quindi è pensabile che qualcosa di simile capiti anche ora con > “l'etica dei programmi intelligenti”. Per esemplificare: la Rivoluzione > industriale ha dato inizio alla “più grande trasformazione dell'umanità > di cui abbiamo documenti scritti” (Hobsbawm), in quanto il controllo del > mondo inorganico ha consentito nuove forme di relazioni sociali, ponendo > le basi per la fine dell'aristocrazia e l'avvento della “sovranità > popolare”. Mentre già nel XVIII secolo crollava l'Assolutismo in ambito > sociale e politico, e la “etica politica” sollecitava la fine dei > divieti etici assoluti (che non ammettono eccezioni) in ambito sociale, > un filosofo come I. Kant ribadiva la tesi tradizionale dicendo che > l'imperativo etico della moralità generale è quello categorico (cioè > assoluto). Questa tesi è rimasta per meno di due secoli, quando la > Rivoluzione biomedica ha consentito il controllo del mondo organico e > l'idea che tutti i divieti siano prima facie (cioè, valgono a prima > vista e ammettono eccezioni: non sono assoluti) si è estesa anche alle > relazioni umane private e intime che riguardano la vita biologica. > > Ora la Rivoluzione IA propone un ulteriore passo dal momento che si > profila la capacità di controllo delle “attività intelligenti”, con la > capacità di nuove forme di produzione e di memoria. Il cambiamento che > si profila è di magnitudo superiore ai due menzionati, e la sinergia > tra i vari settori prospetta un mix che produrrà effetti tanto > dirompenti da superare l'immaginazione. È per questo che ci vuole > l'IA-etica, per sottolineare l'esigenza di un'etica nuova che abbia > definitivamente abbandonato i divieti assoluti e che si apra alla > costruzione di nuove prospettive. È a questo sguardo sul futuro che > dobbiamo prestare attenzione. > > --8<---------------cut here---------------end--------------->8--- > > ho lasciato il paragrafo integrale per non tralasciare nulla che > potrebbe essere importante per una sincera critica alla "etica dell'AI" > > la mia domanda è: ma non è che "per caso" in questa proposta di > /superamento/ della "etica tradizionale" (filosofia morale) c'è una > sorta di furia /filosofo-clasta/ portata avanti "con l'ascia in mano"? > > non è che /per caso/ si sta travisando giusto un filino quello che Kant > propose nella sua filosofia morale e che passa alla storia con > l'etichetta di "Imperativo Categorico" [1]? > > è davvero necessario contribuire _in questi termini_ alla > /ridicolizzazione/ delle "etiche tradizionali" (filosofia morale) per > /fare spazio/ a etiche _specializzande_ più adatte alle "magnifiche > sorti e progressive" della "Rivoluzione IA" (con la R maiuscola)? > > non è che "algoretica" e "etica della Rivoluzuione AI" sono sue facce > della stessa medaglia (cioè il /materiale/ di cui sono fate a ben > guardare è lo stesso)? > > non so, sono molto perplesso. > > saluti, 380° > > > [1] https://plato.stanford.edu/entries/kant-moral/ > > > > P.S.: poi non ho capito come diavolo avrebbe fatto la "Rivoluzione > biomedica" a /far sloggiare/ la "tesi tradizionale" di Kant in merito > all'imperativo categorico... se qualcuno me lo sa spiegare meglio lo > faccia in privato per favore (però quel qualcuno, per favore, deve > sapere bene cos'è l'imperativo categorico a cui si riferisce Kant, no > perditempo, grazie). > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. >

June 24, 2024

Building Community Governance for AI

by Alberto Cammozzo

<https://ssir.org/articles/entry/ai-building-community-governance> Building Community Governance for AI How cooperatives and collectives can build the AI sector toward justice, equity, and shared prosperity The aftermath of the OpenAI governance<https://www.nytimes.com/2023/11/20/technology/openai-sam-altman-microsoft.h…>controversy <https://www.nytimes.com/2023/11/20/technology/openai-sam-altman-microsoft.h…> revealed the extent to which power has been<https://www.cnbc.com/2023/11/22/ai-is-giving-big-tech-inordinate-power-tech…>consolidated <https://www.cnbc.com/2023/11/22/ai-is-giving-big-tech-inordinate-power-tech…> by AI tech giants, a situation with dangerous implications for critical aspects of society. The potential of AI tools to provide societal benefits is real: for example, we have already seen the use of<https://communityengagementhub.org/wp-content/uploads/sites/2/2023/06/20230…>chatbots <https://communityengagementhub.org/wp-content/uploads/sites/2/2023/06/20230…> to manage humanitarian disaster responses, the deployment of AI-enhanced<https://odihpn.org/wp-content/uploads/2021/11/HPN-Network-Paper_AI_web_1811…>data analysis <https://odihpn.org/wp-content/uploads/2021/11/HPN-Network-Paper_AI_web_1811…> for climate mitigation and adaptation, and<https://medium.com/patrick-j-mcgovern-foundation/leveraging-ai-to-help-prev…>the use of data integration <https://medium.com/patrick-j-mcgovern-foundation/leveraging-ai-to-help-prev…> and textual analysis to address gender based violence, among other examples. But putting unchecked development in the hands of (primarily) male tech executives who espouse a particular Silicon Valley<https://www.citationneeded.news/effective-obfuscation/>ethos <https://www.citationneeded.news/effective-obfuscation/> oriented toward<https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-…>profit and dominance <https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-…> above all else, will only intensify threats to our social systems and vulnerable communities. It will erode information systems <https://www.gen-ai.witness.org/>,<https://mitsloan.mit.edu/ideas-made-to-matter/unmasking-bias-facial-recogni…>produce algorithmic bias <https://mitsloan.mit.edu/ideas-made-to-matter/unmasking-bias-facial-recogni…>, introduce<https://www.sir.advancedleadership.harvard.edu/articles/understanding-gende…>gender and racial discrimination <https://www.sir.advancedleadership.harvard.edu/articles/understanding-gende…>, facilitate sexual abuse <https://cyber.fsi.stanford.edu/news/investigation-finds-ai-image-generation…>, increase<https://www.noemamag.com/the-exploited-labor-behind-artificial-intelligence/>labor exploitation <https://www.noemamag.com/the-exploited-labor-behind-artificial-intelligence/>, allow for the exploitation of creative works <https://techcrunch.com/2023/10/06/creatives-across-industries-are-strategiz…>, and create new risks of violence, death, and deprivation to civilians in<https://www.theguardian.com/world/2023/dec/01/the-gospel-how-israel-uses-ai…>war <https://www.theguardian.com/world/2023/dec/01/the-gospel-how-israel-uses-ai…> from autonomous AI decision-making. In short, relying on tech companies to govern their own AI development carves a path toward societal collapse by repeating mistakes made in past development of the web and social media. We need a new roadmap. To establish effective AI governance, then, is the challenge for civil society organizations and social innovators. This entails determining the frameworks and structures we need to build to effectively organize and govern society amid rapid technological change and unchecked power consolidation. To address this challenge, it is crucial to elevate the voices, perspectives, and solutions of communities who directly experience the harms of AI. Community-Led Transformation An important way to create community-led AI governance lies in supporting cooperative, collective, and collaborative structures*. *The first step in doing so will be building an enabling environment and establishing the conditions that can support an ecosystem of advocates, creatives, and practitioners who can build the AI sector toward justice, equity, and shared prosperity. In a perfect world, AI would be treated as a public utility, and we would foster a collaborative and equitable approach to its development and deployment through open-source frameworks and transparent governance structures. If we viewed AI as a communal resource, we would shift the focus from proprietary interests to the collective good, prioritizing accessibility and ensuring that AI benefits are shared across diverse communities. Are you enjoying this article? Read more like this, plus /SSIR's/ full archive of content, when you subscribe <https://subscribe.ssir.org/SSI/?f=paid&s=W23LSPDX>. At present, of course, this may be something of a stretch goal. But to move towards creating an enabling environment, we need to imagine the world we want to create. We need: * *Strong regulatory environment:* Public oversight across the globe is necessary, as are policies that strategically address issues like workforce reskilling, education, rights to data, data accessibility and privacy, responsible AI adoption, fraud, abuse, and discrimination. * *Rights-based approach*: This would require documentation of adherence to goals safeguarding human, civil, and cultural rights at every stage of AI development. * *Public education:* Addressing the AI knowledge gap requires fostering engagement and inclusion, and an emphasis on leadership, ethics, and informed public discourse. Whether integrated into public school systems or facilitated by civil society, educational initiatives are pivotal, and should prioritize plain language and cultural relevance to broaden access, particularly to individuals who may lack the capacity to navigate intricate AI concepts that directly impact their lives. * *Governance framework:* As I set out in a<https://ssir.org/articles/entry/web3_and_the_trap_of_for_good>piece <https://ssir.org/articles/entry/web3_and_the_trap_of_for_good> last year with co-author Scott Smith, the four tenets of a values system for just and inclusive web initiatives are intentionality, accountability, mutually affirmed norms, and an ethics framework. Ethics don’t mutate when they are applied to a different technology, and these tenets are transferable to the realm of AI. Based on these, civil society and community organizations should develop an AI governance framework, for embrace by government and corporate sectors. The framework should emphasize power dynamics, community engagement, and principles for ethical, transparent, accountable, and inclusive governance grounded in shared responsibility that not only mitigates risks but empowers individuals to shape AI's trajectory. Investing in Cooperatives, Collectives, and Collaborative Structures Within this enabling environment, how would we build an ecosystem in which AI innovation serves humanity and the planet? Ethical AI governance in this context would go beyond defense <https://ssir.org/articles/entry/zero_problem_philanthropy> against AI’s harms, reimagining how we live together and care for each other, and then actively implementing ethical, effective, and creative AI applications to realize these visions. To do this, we need long-term, unrestricted investments in cooperatives, communities, and collaborative networks that transcend borders, sectors, and issues, promote the public good, and value access, justice, and responsible innovation. These kinds of structures have a long and storied history, but civil society, philanthropic institutions, and investors in our current landscape are still<https://medium.com/zebras-unite/dystopia-or-dazzle-the-choice-is-yours-a872…>only beginning to provide robust support <https://medium.com/zebras-unite/dystopia-or-dazzle-the-choice-is-yours-a872…>. By emphasizing shared ownership, democratic control, and collaboration, cooperatives and collectives empower communities and cultivate shared responsibility. Their commitment to openness and transparency results in accountable decision-making, such as advocating for open-source software, transparent algorithms, and shared ethical guidelines. Assembling a network of diverse stakeholders—researchers, developers, ethicists, artists, advocates, and community representatives—ensures multifaceted perspectives and facilitates resource and knowledge sharing, democratizing AI tools and addressing hidden biases. Investing in such cooperative structures would be instrumental for building responsible and responsive AI applications, fostering relationships of plurality and mutual care, and ultimately benefiting communities. Additionally, supporting cultural initiatives that empower under-resourced communities, alongside recognition and financial backing, becomes vital for achieving a more equitable and inclusive AI ecosystem. This is what a global society-wide investment strategy might look like: *1. Invest in creative global collaboration for community transformation:* We need to engage creative minds—designers, musicians, filmmakers, and photographers—in collaboration with diverse diaspora voices (and visionary funders) to design ethical AI. To do this, we need to facilitate connections among diverse stakeholders, including governments, NGOs, enterprises, advocates, artists, and community organizations, and to foster skill exchanges and collaborative AI training. With institutional support, strategic investor engagements, art and design showcases, and global market access, this type of investment allows stakeholders to create and champion projects that address local social issues and challenge dominant narratives for meaningful structural change. There are organizations that exemplify or are taking this approach already. Electric South <https://www.electricsouth.org/> collaborates with artists and creative technologists across Africa who work in immersive media, AI, design, and storytelling technologies through labs, production, and distribution. Last year, the organization convened a group of African artists to develop a set of responsible AI and effective AI policies for the African XR ecosystem.The organizations <https://browngirlsdocmafia.org/>Brown Girls Doc Mafia <https://browngirlsdocmafia.org/>,<https://bitchitracollective.org/>Bitchitra Collective <https://bitchitracollective.org/>, and Center for Cultural Power <https://www.culturalpower.org/stories/threads-of-change/> each support and connect BIPOC independent media creators through funding, mentorship, industry database access and stewarded networking, and skills sharing.<https://www.metalabel.com/>Metalabel <https://www.metalabel.com/> is a collaborative space where creative people release, sell, and exhibit work together. Each of these groups has a unique model, yet they all support visionary leadership and distributed decision-making. Their emphasis on ethical and collaborative design, implementation, and cooperation, offering insights into how caring communities can promote creativity, justice, and shared opportunities in AI. *2. Support intermediary organizations and communities of practice: *The kinds of entities that serve as connective tissue among funders, organizations, and communities are pivotal in supporting cooperatives and collectives by fostering collaborative knowledge exchange, sharing best practices, and facilitating ongoing dialogue. These entities can help stakeholders collectively navigate ethical challenges, stay informed about emerging standards, and develop a shared understanding of responsible AI practices, ensuring a more inclusive and sustainable approach to AI development. Support might take the form of facilitating knowledge-sharing forums, providing technical expertise, directing and regranting funds, fostering collaboration among diverse stakeholders. and monitoring and advocating for responsible AI practices within these collaborative efforts. Examples of these kinds of organizations and communities include the non-profit organization<https://www.promisingtrouble.net/>Promising Trouble <https://www.promisingtrouble.net/> and its sister social enterprise Careful Industries <https://www.careful.industries/carefulai>, which together empower communities to own, use, and adapt technologies through research, consulting, tool building, and policy advocacy; TechSalon <https://technologysalon.org/accountability-possible-ai/> has built a community of research and practice for applications of technology to international development and humanitarian aid; and<https://blackinai.github.io/#/>Black in AI <https://blackinai.github.io/#/> works to connect Black technologists to foster collaborations and increase the presence of Black people in the field of Artificial Intelligence. *3. Contribute to efforts for community capability building and mentorship:* This type of investment fosters long-term impact by establishing a foundation of AI literacy and skills within communities. It enables responsible AI development and usage, democratizes access to knowledge, and empowers diverse communities to actively engage with and influence the technology. Moreover, it seeds economic opportunities and enhances social cohesion. An example of the benefits of this approach is found in the work of the<https://www.cybercollective.org/>Cyber Collective <https://www.cybercollective.org/>, which aims to bridge the AI knowledge gap by promoting knowledge sharing, community engagement, and inclusion through plain, accessible language and tools. *4. Fund advocacy organizations:* Donate and grant to organizations that take a rights and justice approach to ethical AI, and that promote equity, transparency, accountability, voice, and ethical considerations. Examples of organizations that are advocating for ethical uses of AI, as well as inclusion in the design process, and leadership in the AI sector include the Distributed AI Research Institute (DAIR <https://www.dair-institute.org/>), which uses community-centered research that reflect lived experiences to influence production, deployment, and access to AI tools; and<https://www.ajl.org/>The Algorithmic Justice League <https://www.ajl.org/>, which advocates for for equitable and accountable AI using art and research to illuminate AI's potential for discrimination, engage with policymakers and industry to prevent harm, and amplify the voices of those most affected. *5. Steward and capitalize efforts to build alternative business models: *The organizations<https://ssir.org/articles/entry/investing_in_enterprises_that_work_for_ever…>Transform Finance <https://ssir.org/articles/entry/investing_in_enterprises_that_work_for_ever…> and<https://zebrasunite.coop/>Zebras Unite <https://zebrasunite.coop/> have both developed knowledge with their communities that examine alternative enterprise structures and alternative financing structures. These emphasize alternative ownership models like cooperatives, employee share ownerships, and decentralized autonomous organizations. These kinds of structures aim at a just and sustainable economy by changing the way economic value is created and distributed, and democratize decision-making power to non-investor stakeholders. An “Exit to Community <https://hackernoon.com/now-we-know-exit-to-community-is-possible>" strategy, a recent structural innovation that provides a departure from traditional startup exits like acquisition or IPOs, prioritizes community ownership over profit-seeking investors. Insights from these types of economic structures can be applied to AI and digital governance. A Call to Support Collective Action We are navigating an era of collapsing systems and global uncertainty. AI, already deeply rooted in many of our social and economic systems, raises ethical concerns as its complexity and self-learning abilities expand. The pace of AI development through unchecked, profit-driven structures heightens the risk of further power consolidation by the already privileged and further marginalization of vulnerable communities. Urgent action is imperative to establish ethical governance for AI. The responsibility of civil society in the realm of AI is to promote shared prosperity and distributed power through community initiatives that ensure just and collective outcomes for current populations and for future generations. Achieving this requires us to support community-led AI governance structures and foster the community-driven creation of compassionate, ethical, and equitable AI tools. Cooperatives and collectives play a vital role in driving ethical AI governance, facilitating proactive measures, embracing moral and legal responsibilities, engaging in dialogues on automation's costs and harms, designing innovative and creative alternatives, and sharing power and resources among many.

June 24, 2024

Re: [nexa] Modello Italia - prime prove

by Antonio

Chi ha visitato la pagina si sarà accorto che il commento è proseguito, in "puntate", per alcuni giorni, man mano che cercavo di capirne di più. Qui https://www.saela.eu/modelloitalia/5/ l'ultima parte (spoiler, finalmente sono arrivato al prompt). > volevo scrivere i miei commenti nella mailing list ma poi mi sono accorto che il testo era diventato molto lungo, così ho creato una pagina su https://www.saela.eu/modelloitalia/. > E' scritto di getto, perdonatemi qualche errore o imprecisione. > > A.

June 24, 2024

Re: [nexa] ChatGPT come l’OuLiPo: il Grande Grammatizzatore alla prova

by J.C. DE MARTIN

Senza dimenticare il Versificatore di Primo Levi (1960, poi 1966): https://www.repubblica.it/tecnologia/dossier/speciale-itw-2023/2023/09/28/n… Anche in RAI con Gianrico Tedeschi e Milena Vukotic (1971): https://www.youtube.com/watch?v=vHjpYYmvjs8 jc On 22/06/24 14:54, Antonio wrote: > Chi conosce Calvino (e credo che in questa lista ce ne siano), saprà sicuramente cos'è stato l'Oulipo. > Un articolo che si distingue nel mare-magnum degli articoli dedicati a ChatGPT. > > "Il sogno di una macchina in grado di dominare il linguaggio naturale, ossia di generare testi originali indistinguibili da quelli umani per la loro adeguatezza grammaticale, è antico. A tale sogno si è accompagnato quello – talvolta rappresentato come un incubo – di una macchina letteraria: una macchina, cioè, capace di sfoggiare una sua spigliatezza stilistica, raccontare storie e comporre versi." > > https://www.paolocosta.net/chatgpt-come-loulipo-il-grande-grammatizzatore-a… > > A.

June 22, 2024