June 2024 - nexa - server-nexa.polito.it

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by Giacomo Tesio

Salve Maurizio, Il giorno Tue, 25 Jun 2024 maurizio lana ha scritto: > la guerra termonucleare è stata evitata almeno 2 volte grazie a due > militari, uno canadese, Roy Slemon, > (https://en.wikipedia.org/wiki/Roy_Slemon) nel 1961, e uno russo, > Stanislav Petrov (https://en.wikipedia.org/wiki/Stanislav_Petrov) > [...] > qui sono andati contro Kant, perché non credo che pensassero che > disobbedire alle regole e ignorare la conoscenza dovessero diventare > leggi universali stai assumendo che i loro ordini fossero: "lanciate un contrattacco termonucleare al primo segnale automatico di attacco del nemico". La fede cieca negli automatismi è una allucinazione di massa solo contemporanea: è probabile che all'epoca tutti i livelli decisionali fossero perfettamente consapevoli dei limiti degli automatismi. Inoltre stai assumendo che la massima applicata da Slemon e Petrov fosse "disubbidisci agli ordini quando ti va", mentre potrebbe semplicemente essere stata "evita di avviare una guerra termonucleare per sbaglio": una massima che ragionevolmente avrebbero potuto sperare diventasse legge universale. Ovviamente un software programmato statisticamente (impropriamente detto "IA") avrebbe avviato la distruzione dell'umanità con una probabilità 1-ε, con epsilon scelto durante la programmazione stessa (impropriamente definito "training") sulla base di dati ipotetici (che di guerre termonucleari non ne sono state ancora combattute abbastanza da creare un dataset statisticamente rilevante). Giacomo

June 27, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by Stefano Quintarelli

e se mia nonna avesse avuto le ruote sarebbe stata una bicicletta. nelle ethical guidelines del high level expert group on AI della commissione UE (52 persone) avevamo tre pagine su superintelligenza, coscienza e robe simili, poi il chair Pekka ha chiesto "ma ci crediamo ?" solo 1 ha detto di si (proprio Metzinger che avr' partecipato al 3-4% delle riunioni) che poi ha rilasciato una intervista ad un tabloid per dire ch eravamo catturati dagli interessi dell'industria (??!!?) e che avevamo ignorato le redlines che solo lui, spirito puro ed incontaminato, ci aveva ammonito ad inserire. (una delle volte che e' veunto si era fatto accompagnare da una troupe che lo ha ripreso per un suo documentario autoporodotto a beneficio dei social). altri 2 hanno detto "non ci crediamo, ma se succede ?" alla fine le 3 pagine sono diventate una nota a pie' pagina che diceva che queste cose erano science fiction. ho fatto personalmente un giro di mail e di telfonate un sabato per sostituire "sciece fiction" con "unrealistic". ciao, s. On 26/06/24 23:25, maurizio lana wrote: > tutto il discorso apre con varie premesse non dimostrate, ne riporto 2 > > 1) >> If consciousness really can arise in a jumble of silicon chips, we run the risk of >> creating countless AIs — beings, really — that can not only intelligently perform tasks, >> but develop feelings about their lives. > premessa non dimostrata, a cui segue un esito puramente ideato >> That could lead to what philosopher Thomas Metzinger has called a “suffering explosion” >> in a new species of our own creation, leading him to advocate for a global moratorium on >> research that risks creating artificial consciousness “until 2050 — or until we know >> what we are doing.” > come ce ne sono tanti. con molto rispetto possiamo riflettere su questo a partire dalla > sofferenza del verme della sabbia di Dune quando i Fremen lo tengono fuori dalla sabbia > arpionando il suo corpo > > 2) >> Any physical stuff — meat, silicon, whatever — that can perform the right kinds of >> computation can generate consciousness. > si mettono insieme impropriamente meat, silicon, whatever ; impropriamente perché l'intera > questione è proprio di capire se meat e silicon e whatever siano equiparabili; e qui > invece vengono equiparati; > per di più di uno (meat) sappiamo che ha coscienza ma non possiamo dire che essa c'è per > effetto di una computazione. > > e da tutto ciò si traggono conclusioni non logicamente fondate: >> If that’s the case, then conscious AI is mostly a matter of time. > Maurizio > > > Il 25/06/24 22:28, don Luca Peyron ha scritto: >> Buona lettura >> https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neurosc… >> > > ------------------------------------------------------------------------------------------ > > dialogare tra di noi per costruire una democrazia, > l’unica istituzione di vita comune > che non sia fondata sulla paura di morire > michel dardenne > > ------------------------------------------------------------------------------------------ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli -- You can reach me on Signal: @quinta.01 (no Whatsapp)

June 26, 2024

Re: [nexa] Will AI ever become conscious? It depends on how you think about biology.

by maurizio lana

tutto il discorso apre con varie premesse non dimostrate, ne riporto 2 1) > If consciousness really can arise in a jumble of silicon chips, we run > the risk of creating countless AIs — beings, really — that can not > only intelligently perform tasks, but develop feelings about their lives. premessa non dimostrata, a cui segue un esito puramente ideato > That could lead to what philosopher Thomas Metzinger has called a > “suffering explosion” in a new species of our own creation, leading > him to advocate for a global moratorium on research that risks > creating artificial consciousness “until 2050 — or until we know what > we are doing.” come ce ne sono tanti. con molto rispetto possiamo riflettere su questo a partire dalla sofferenza del verme della sabbia di Dune quando i Fremen lo tengono fuori dalla sabbia arpionando il suo corpo 2) > Any physical stuff — meat, silicon, whatever — that can perform the > right kinds of computation can generate consciousness. si mettono insieme impropriamente meat, silicon, whatever ; impropriamente perché l'intera questione è proprio di capire se meat e silicon e whatever siano equiparabili; e qui invece vengono equiparati; per di più di uno (meat) sappiamo che ha coscienza ma non possiamo dire che essa c'è per effetto di una computazione. e da tutto ciò si traggono conclusioni non logicamente fondate: > If that’s the case, then conscious AI is mostly a matter of time. Maurizio Il 25/06/24 22:28, don Luca Peyron ha scritto: > Buona lettura > https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neurosc… > > ------------------------------------------------------------------------ dialogare tra di noi per costruire una democrazia, l’unica istituzione di vita comune che non sia fondata sulla paura di morire michel dardenne ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

June 26, 2024

Will AI ever become conscious? It depends on how you think about biology.

by don Luca Peyron

Buona lettura dl https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neurosc… _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

June 25, 2024

Re: [nexa] ...e che dire dell'etica dell'IA? (spunti per una critica della prospettiva)

by alessandro marzocchi

Vedo l'argomento "" essere informati, conoscere "" in relazione a parola, linguaggio, per questo domando: quale informazione, quale conoscenza può avere la persona che non conosce "" il linguaggio digitale "" che ha vari livelli di complessità? La mia risposta: conoscenza moooolto minore, inadeguata, tecnicamente discriminante fra alfabetizzati digitali / analfabeti digitali. Riprendendo l'esempio di Andrea Trentini: quale informazione, quale conoscenza ha il prigioniero del lager nazista che non conosce il tedesco di comandi / informazioni dati in tedesco? Cordialmente, Duccio (Alessandro Marzocchi) Il giorno mar 25 giu 2024 maurizio lana <maurizio.lana(a)uniupo.it> ha scritto: > Message: 2 > Date: Tue, 25 Jun 2024 09:48:22 +0200 > From: maurizio lana <maurizio.lana(a)uniupo.it> > un caso limite su cui sto ragionando in queste settimane anche per gli > stimoli che vengono dagli scambi sul tema dell'(etica dell')IA > è questo, che riassumo in breve: per agire eticamente occorre essere > informati, occorre conoscere e poi ... ... >

June 25, 2024

Re: [nexa] invito per stasera (Stefano Quintarelli)

by alessandro marzocchi

Grazie per l'informazione. Stasera ho impegni non rinviabili ma l'argomento mi interessa: ci sarà una videoregistrazione? Cordialità, Duccio (Alessandro Marzocchi) Il giorno mar 25 giu 2024 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > Message: 2 > Date: Tue, 25 Jun 2024 10:29:40 +0200 > From: Stefano Quintarelli <stefano(a)quintarelli.it> > To: nexa <nexa(a)server-nexa.polito.it> > Subject: [nexa] invito per stasera > Message-ID: <684a6122-0718-45bb-993d-3c1855583e41(a)quintarelli.it> > Content-Type: text/plain; charset=UTF-8; format=flowed > > Nell’ambito del ciclo Dialoghi Copernicani, vi invito a partecipare oggi > martedì 25 giugno > alle 21:00 all’incontro “Quando a votare sono le Intelligenze artificiali” > con Enico > Fagnoni imprenditore, fondatore e CEO di LinkedData.Center, fondatore e > CTO di Mopso. > Durante l’ultima assemblea della Associazione Copernicani, Enrico Fagnoni > ha presentato > PolisOrbis, un innovativo strumento di sondaggi. Utilizzando algoritmi di > machine > learning, il sistema identifica in tempo reale opinioni, statement > divisivi e bipartisan. > Fagnoni ha sperimentato l’inclusione di un’Intelligenza Artificiale, che > ha votato e > proposto statement come un membro umano. > La diretta dell’incontro può essere seguita qui > https://us02web.zoom.us/j/86960645361?pwd=tmDt3wEq6Czb7N4hTQvwNOTPVgxaas.1 > Modera Nadia Fabrizio. > ciao, s. > >

June 25, 2024

OT Imperativi Categorici e dintorni (was Re: ...e che dire dell'etica dell'IA?)

by 380°

Buongiorno, grazie Maurizio della "provocazione". maurizio lana <maurizio.lana(a)uniupo.it> writes: > un caso limite su cui sto ragionando in queste settimane anche per gli > stimoli che vengono dagli scambi sul tema dell'(etica dell')IA > è questo, che riassumo in breve: per agire eticamente occorre essere > informati, occorre conoscere e poi occorre valutare come usare la > conoscenza. ma a volte si deve agire contro la conoscenza posseduta. direi che più che "agire contro la conoscenza posseduta" occorre "agire in scienza e coscienza"... ma è mica come dirlo, purtroppo in altre parole per agire eticamente occorre saper applicare la /ragione/, kantianamente (Kant sulla ragione ci ha scritto tre saggi IMO difficili, roba tosta). [...] > (qui sono andati contro Kant, perché non credo che pensassero che > disobbedire alle regole e ignorare la conoscenza dovessero diventare > leggi universali) non credo che negli esempi dati le persona abbiano (tecnicamente) /ignorato/ la conoscenza, credo piuttosto che avessero _più_ conoscenza rispetto ai sistemi di allerta che avevano a disposizione (conoscevano - intuivano? - le possibilità di errore dei sistemi) e hanno agito di conseguenza, come esseri dotati di _ragione_ (che notoriamente _manca_ alle macchine). per favore (intel)leggiamo quello che è successo nei due casi... "caso Slemon": --8<---------------cut here---------------start------------->8--- After the situation was explained, Slemon asked where Khrushchev was at that moment. Hull replied that he was in New York City attending the United Nations. Slemon considered it extremely unlikely that an attack would take place that would likely kill Khrushchev, and asked Hull if there were any intelligence indications that such an attack was being prepared. Hull answered no [...] After much confusion, it was discovered that the radar was detecting the rising Moon. On further exploration, it was found that the computer program that reported distances was dropping digits, so only the remainder of the digits were being displayed, leaving what appeared to be a credible measurement.[3] --8<---------------cut here---------------end--------------->8--- (https://en.wikipedia.org/wiki/Roy_Slemon) molto intelligente, signor Slemon! "caso Petrov": --8<---------------cut here---------------start------------->8--- Petrov considered the detection a computer error, since a first-strike nuclear attack by the United States was likely to involve hundreds of simultaneous missile launches in order to disable any Soviet means of a counterattack. Furthermore, the satellite system's reliability had been questioned in the past.[12] [...] It was subsequently determined that the false alarms were caused by a rare alignment of sunlight on high-altitude clouds and the satellites' Molniya orbits,[14] an error later corrected by cross-referencing a geostationary satellite.[15] In explaining the factors leading to his decision, Petrov cited his belief and training that any U.S. first strike would be massive, so five missiles seemed an illogical start.[11] In addition, the launch detection system was new and in his view not yet wholly trustworthy, while ground radar had failed to pick up corroborative evidence even after several minutes of the false alarm.[12] --8<---------------cut here---------------end--------------->8--- molto intelligente, signor Petrov! in entrambi i casi i due militari sono stati abbastanza _intelligenti_ da comprendere che gli strumenti SPARAVANO STRONZATE; _tecnicamente_ si trattava di errori piuttosto BANALI, ma errori banali inseriti in un sistema complesso - immutabile?!?! - progettato ad-minchiam diventano stronzate... ...e purtroppo di stronzate si muore fin troppo. in altre parole, disobbedire alle regole che sono /ragionevolmente/ _ingiuste_ è un Imperativo Categorico, _specialmente_ se queste regole sono codificate in un /programma/ e/o in un ALGORITMO! :-O non esiste proprio in filosofia morale la giustificazione "obbedivo a un ordine", con variante "era pure codificato in un algoritmo"! Non esiste manco nelle "regole della guerra", infatti esistono i "crimini di guerra" e _non_ contemplano lo "eseguivo gli ordini". ...e non esiste proprio in informatica il /contrario/: un computer può solo ESEGUIRE un ordine, ovvero un programma. Non esiste proprio in informatica un computer che grazie a un programma _ragiona_ in merito a un altro computer che esegue un programma. Punto. (Se volete, è l'Imperativo Categorico Informatico). banale eh? :-D saluti, 380° [...] -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 25, 2024

invito per stasera

by Stefano Quintarelli

Nell’ambito del ciclo Dialoghi Copernicani, vi invito a partecipare oggi martedì 25 giugno alle 21:00 all’incontro “Quando a votare sono le Intelligenze artificiali” con Enico Fagnoni imprenditore, fondatore e CEO di LinkedData.Center, fondatore e CTO di Mopso. Durante l’ultima assemblea della Associazione Copernicani, Enrico Fagnoni ha presentato PolisOrbis, un innovativo strumento di sondaggi. Utilizzando algoritmi di machine learning, il sistema identifica in tempo reale opinioni, statement divisivi e bipartisan. Fagnoni ha sperimentato l’inclusione di un’Intelligenza Artificiale, che ha votato e proposto statement come un membro umano. La diretta dell’incontro può essere seguita qui https://us02web.zoom.us/j/86960645361?pwd=tmDt3wEq6Czb7N4hTQvwNOTPVgxaas.1 Modera Nadia Fabrizio. ciao, s. -- You can reach me on Signal: @quinta.01 (no Whatsapp)

June 25, 2024

Re: [nexa] Assange libero (ha patteggiato) (l'accordo non è stato ancora formalizzato)

by 380°

Buongiorno, gran bella notizia, /pare/ che Assange non verrà più perseguitato, speriamo anche che il "metodo Assange" venga definitivamente accantonato; mah... i termini dell'accordo con gli aguzz... ops, il ministero della polizia mondiale sono _giustamente_ ancora riservati fino alla firma definitiva e non mi scandalizzerei se qualcosa rimanesse segreto e /muto/ ancora per un po' (poco :-) ), tanto non siamo deficienti Wikileaks nel suo profilo X parla di un «deal that has not yet been formally finalised»: https://x.com/wikileaks/status/1805390138945528183 --8<---------------cut here---------------start------------->8--- JULIAN ASSANGE IS FREE Julian Assange is free. He left Belmarsh maximum security prison on the morning of 24 June, after having spent 1901 days there. He was granted bail by the High Court in London and was released at Stansted airport during the afternoon, where he boarded a plane and departed the UK. This is the result of a global campaign that spanned grass-roots organisers, press freedom campaigners, legislators and leaders from across the political spectrum, all the way to the United Nations. This created the space for a long period of negotiations with the US Department of Justice, leading to a deal that has not yet been formally finalised. We will provide more information as soon as possible. After more than five years in a 2x3 metre cell, isolated 23 hours a day, he will soon reunite with his wife Stella Assange, and their children, who have only known their father from behind bars. [...] As he returns to Australia, we thank all who stood by us, fought for us, and remained utterly committed in the fight for his freedom. Julian's freedom is our freedom. [More details to follow] --8<---------------cut here---------------end--------------->8--- Andrea Trentini <andrea.trentini(a)unimi.it> writes: > https://www.theguardian.com/media/live/2024/jun/25/julian-assange-prison-re… --8<---------------cut here---------------start------------->8--- Assange is reportedly travelling to a US plea deal hearing on the island of Saipan in the Northern Mariana Islands [...] Stella Assange has said that the deal between US authorities that has led to the release of Julian Assange will be made public, but that details cannot be released until it is signed by a judge. Assange is at the moment on a stopover in Bangkok, and is reportedly travelling to a hearing on the island of Saipan in the Northern Mariana Islands, where he will be sentenced at 9am local time on Wednesday (11pm GMT on Tuesday). Stella Assange told listeners of the BBC Radio 4 Today programme in the UK that “there is an agreement in principle between Julian and the Department of Justice. And that has to be signed off by a judge”. She said she was limited in what she could say until that happens. She confirmed he would plead guilty to one charge “concerning the Espionage Act and obtaining and disclosing National Defence information”. Asked if it was difficult for her husband to accept the charge, she said “I don’t want to say too much until it has been signed off by a judge. But the important thing here is that the deal involves time served, and that if he signed it, he would be able to walk free.” She said that the deal had come as a direct result of Assange being granted leave to mount a fresh appeal against his extradition to the US at the high court in London in May. [...] Stella Assange has said that the deal made between US authorities and Julian Assange will be made public. She has described it as “a very interesting deal” and said “I can’t really talk about it in detail. I certainly have views about the deal, but I don’t want to jeopardise anything.” The former minister for foreign affairs of Australia, Alexander Downer [...] said: He has pleaded guilty. That is part of the plea bargain. So what he did was a criminal offence, and it was a terrible thing to do, morally as well, endangering people’s lives in that way. It is just completely inappropriate and I don’t think many Australians have sympathy for it. [...] Alan Rusbridger, editor-in-chief of the Guardian from 1995 to 2015, has commented on Julian Assange’s release, posting to social media: Good news that Assange is apparently free. Enough was enough. But his treatment was a warning to journalists and whistleblowers to keep quiet in future. And I suspect it will have worked. [...] * Under the deal, which must be approved by a judge, Assange is likely to be credited for the five years he has already served and face no new jail time. In a letter to a federal judge in the district court for the Northern Mariana Islands, a senior justice department official said that he was being sent to Saipan because of its “proximity to the defendant’s country of citizenship”. * Some experts warned that a conviction for Assange, even on a single count, could have a devastating and prolonged impact on investigative and national security journalism. Jameel Jaffer, executive director of the Knight First Amendment Institute at Columbia University warned that the outcome could “cast a long shadow over the most important kinds of journalism, not just in this country but around the world”. * Former US vice-president Mike Pence slammed the plea deal on Twitter as a “miscarriage of justice” that “dishonors the service and sacrifice of the men and women of our Armed Forces.” --8<---------------cut here---------------end--------------->8--- Saluti, 380° P.S.. non è un mistero che questo risultato è stato possibile /anche/ per la _resistenza_ dell'alta corte britannica alle incommensurabili pressioni politiche (incoraggiata anche da pezzi da novanta della diplomazia mondiale), che per l'UK non è roba da poco. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 25, 2024

MEMENTO | 115° Nexa Lunch Seminar | 26 giugno 2024, ore 13.00

by Nexa - Media

Gentilissime, gentilissimi, Vi ricordiamo che mercoledì 26 giugno, dalle ore 13.00 alle ore 14.00, si terrà il 115° Nexa Lunch Seminar con un incontro dal titolo: "La memoria dell'ingegneria alla luce delle Digital Humanities". Ospite dell'incontro: Marco Pozzi (Politecnico di Torino). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Per maggiori dettagli è possibile consultare la pagina web dell'evento: https://nexa.polito.it/lunch-115 Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

June 25, 2024