July 2024 - nexa - server-nexa.polito.it

Re: [nexa] Building Artificial Consciousness With GPT-3

by Fabio Alemagna

Il giorno gio 18 lug 2024 alle ore 15:42 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: > non falle nel sillogismo esposto in calce all'articolo menzionato. >> > Intendevo: non TROVO falle. Fabio >

July 18, 2024

Re: [nexa] Building Artificial Consciousness With GPT-3

by Fabio Alemagna

Il giorno mer 17 lug 2024 alle ore 16:24 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > On Wed, 17 Jul 2024 12:39:12 Fabio Alemagna <falemagn(a)gmail.com> wrote: > > > > I've developed Molly, a conversational agent with an inner > > > monologue, using OpenAI's Large Language Model (LLM). > > Ehm... no. > > L'autore ha sviluppato un agente che _simula_ un monologo interiore. > Ogni modello che viene elaborato da un computer è una simulazione, ma l'appunto appare irrilevante, specialmente nel contesto di questa specifica discussione in cui si parte dall'assunto che una simulazione di coscienza È essa stessa coscienza, come teorizzato dall'Attention Schema Theory. Ma... lool! :-D > > Quello non è il dialogo interiore di Molly, ma un testo generato da > GPT-3 sulla base di un prompt a partire da un dialogo di esempio. > Le due cose non si escludono a vicenda, fino a dimostrazione contraria. Puoi fornire questa dimostrazione? > > PS: ho replicato l'esperimento con ChatGPT-4. con risultati del tutto > > analoghi, se non migliori. > > Se vuoi possiamo fare lo stesso gioco via mail: riuscirò a convincerti > che Molly ha una coscienza se ti scrivo un po' di frasi che iniziano > con "Molly (to herself): " prima di una frase che inizia con "Molly: "? > (vedi https://github.com/marmelab/molly/blob/main/src/Discussion.tsx ) > 1. Non sono convinto che Molly abbia una coscienza, non salto così velocemente a conclusioni. La discussione però è affascinante, non falle nel sillogismo esposto in calce all'articolo menzionato. 2. Non mi è chiaro come un testo da te personalmente scritto dovrebbe convincermi dell'esistenza della coscienza di qualcun altro, che sia un agente artificial o naturale. E se cambiassimo il prompt descrivendo una Molly schizofrenica, > sosterresti che GPT è schizofrenico? Se la nostra Molly fosse > un'assassina psicopatica, crederesti GPT psicopatico? > Non vedo perché no, non mi stai dando alcuna ragione per non farlo. L'apparente assurdità di una conclusione, sulla base di una personale definizione di "assurdo", non è prova della erroneità di quella conclusione. Fabio

July 18, 2024

CfA Salerno Winter School on Internet Governance (SWING)

by Mauro SANTANIELLO

Dear Colleagues, We are pleased to announce that the Call for Applications for the Salerno Winter School on Internet Governance (SWING) 2025 is now open. SWING is a Winter School on Internet Governance designed to provide an advanced educational pathway for graduate students, early researchers, ICT professionals, and policymakers. The program aims to enhance the understanding of the themes and the stakeholders involved in the development, configuration, administration, and regulation of the Internet and digital technologies. Participants will gain comprehensive knowledge and skills on topics that have long been integral to the agendas of national and international policymakers. These topics include the governance of protocols and standards, of telecommunication systems, of platforms, data and applications. Policy principles and governance mechanisms will be explored, with in-depth discussions about multi-stakeholder governance, digital constitutionalism, digital sovereignty, digital cooperation and diplomacy, cybersecurity and cyber-intelligence. Situated in a Southern Italian university and represented by a department with a strong international focus, SWING distinguishes itself from other European initiatives by emphasizing the Euro-Mediterranean region and non-Western geopolitical areas. It seeks to address a gap in post-university study and training in this strategic sector. All the materials related to the school, including detailed information about the programme, can be accessed at the following link: https://www.internetpolicyresearch.eu/swing-2025/ All SWING’s fellow students will get a certificate of attendance at the end of the school. Moreover, the participation at SWING allows for the granting of 2 academic credits (CFU/ECTS), recognized by Italian and European universities, after a positive evaluation by the Scientific Committee. Application fee: 600,00 euro We kindly request your support in disseminating this call and the programme's details within your networks. Thank you. Best regards, Mauro Santaniello (PhD) ICPC <https://www.internetpolicyresearch.eu/> Director| GIG-ARTS <https://gig-arts.eu/> Coordinator| SWING <https://www.internetpolicyresearch.eu/swing-2025> Scientific Coordinator | UNU-CRIS <https://cris.unu.edu/people> Associate Research Fellow | PRIN on Digital Sovereignty <https://www.internetpolicyresearch.eu/internet-and-communication-policy-cen…> Principal Investigator *Latest publications* <https://docenti.unisa.it/023694/ricerca/pubblicazioni> <https://www.avast.com/sig-email?utm_medium=email&utm_source=link&utm_campai…> Privo di virus.www.avast.com <https://www.avast.com/sig-email?utm_medium=email&utm_source=link&utm_campai…> <#DAB4FAD8-2DD7-40BB-A1B8-4E2AA1F9FDF2>

July 18, 2024

Re: [nexa] Google Now Defaults to Not Indexing Your Content

by maurizio lana

grazie della segnalazione Giacomo mi preoccupa il fatto che questo "no longer trying to index the entire web"* alla lunga** mina l'affidamento che si fa(ceva) sulle ricerche con Google, a fronte del fatto che i sistemi di IA permettono (e sembrano invitare a) una modalità oracolare di ricerca di informazioni: chiedo all'IA e sto contento della risposta che mi dà. modalità oracolare che essendo uso di un sistema di IA in risposta ad un prompt, ha un costo energetico pari a circa 10x quello di una 'normale' ricerca Google. *già 'prima' Google non indicizzava l'intero web e Search Engines Showdown (ora https://notess.com/search/) analizzava in dettaglio dove e come mancava la copertura, anche in rapporto agli altri motori di ricerca. questa mossa di Google potrebbe ridare linfa agli altri motori meno usati perché hanno meno copertura? ma se Google si orienta a coprire meno, questo apre nuovi spazi per i motori che non si pongono questa limitazione? o la differenza di ampiezza dei database tra Google e i concorrenti è così grande che il primato di Google comunque non può essere insidiato? ** nel senso che ci vorrà un po' prima che diventi percepibile; o forse non lo diventerà mai perché non sapremo mai che cosa non viene indicizzato e quindi che cosa ci perdiamo? Maurizio Il 18/07/24 09:33, Giacomo Tesio ha scritto: > Google is no longer trying to index the entire web. In fact, it's become extremely selective, refusing to index most content. This isn't about content creators failing to meet some arbitrary standard of quality. Rather, it's a fundamental change in how Google approaches its role as a search engine. > > [...] > > Now, for each piece of content, Google decides if it's worth indexing, and more often than not, the answer seems to be "no." They might index content they perceive as truly unique or on topics that aren't covered at all. But if you write about a topic that Google considers even remotely addressed elsewhere, they likely won't index it. This can happen even if you're a well-respected writer with a substantial readership. > > Interestingly, I've noticed that when content does manage to get indexed, it often ranks surprisingly well. It's as if the hurdle of getting indexed has become so high that once you clear it, you're already most of the way to ranking. However, getting to that point has become exponentially more difficult. > > Importantly, this extreme selectivity isn't applied equally. Big, recognized brands often see most of their content indexed quickly, while small bloggers or niche websites face a much higher bar for inclusion. > > <https://www.vincentschmalbach.com/google-now-defaults-to-not-indexing-your-…> > > > Giacomo ------------------------------------------------------------------------ quanti nella loro vita si fecero custodi delle termopili, sono degni di più grande onore se prevedono (e molti lo prevedono) che all’ultimo comparirà un efialte e comunque i persiani passeranno kostantinos kavafis, termopili ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

July 18, 2024

Google Now Defaults to Not Indexing Your Content

by Giacomo Tesio

Google is no longer trying to index the entire web. In fact, it's become extremely selective, refusing to index most content. This isn't about content creators failing to meet some arbitrary standard of quality. Rather, it's a fundamental change in how Google approaches its role as a search engine. [...] Now, for each piece of content, Google decides if it's worth indexing, and more often than not, the answer seems to be "no." They might index content they perceive as truly unique or on topics that aren't covered at all. But if you write about a topic that Google considers even remotely addressed elsewhere, they likely won't index it. This can happen even if you're a well-respected writer with a substantial readership. Interestingly, I've noticed that when content does manage to get indexed, it often ranks surprisingly well. It's as if the hurdle of getting indexed has become so high that once you clear it, you're already most of the way to ranking. However, getting to that point has become exponentially more difficult. Importantly, this extreme selectivity isn't applied equally. Big, recognized brands often see most of their content indexed quickly, while small bloggers or niche websites face a much higher bar for inclusion. <https://www.vincentschmalbach.com/google-now-defaults-to-not-indexing-your-…> Giacomo

July 18, 2024

Re: [nexa] Building Artificial Consciousness With GPT-3

by Giacomo Tesio

Ciao Fabio, grazie per questa segnalazione assolutamente affascinante. On Wed, 17 Jul 2024 12:39:12 Fabio Alemagna <falemagn(a)gmail.com> wrote: > > I've developed Molly, a conversational agent with an inner > > monologue, using OpenAI's Large Language Model (LLM). Ehm... no. L'autore ha sviluppato un agente che _simula_ un monologo interiore. E trovo veramente affascinante che abbia compreso così poco di ChatGPT da non cogliere la differenza e concludere niente meno che: ``` It shows that a machine can have an inner monologue, and that this inner monologue looks like consciousness. And if Attention Schema Theory is right, then Molly is conscious. [...] Sentient beings may not be very far away. ``` Ma... lool! :-D Quello non è il dialogo interiore di Molly, ma un testo generato da GPT-3 sulla base di un prompt a partire da un dialogo di esempio. > PS: ho replicato l'esperimento con ChatGPT-4. con risultati del tutto > analoghi, se non migliori. Se vuoi possiamo fare lo stesso gioco via mail: riuscirò a convincerti che Molly ha una coscienza se ti scrivo un po' di frasi che iniziano con "Molly (to herself): " prima di una frase che inizia con "Molly: "? (vedi https://github.com/marmelab/molly/blob/main/src/Discussion.tsx ) E ciò che scriverò dopo "Molly (to herself): " sarà ciò che pensa Molly o ciò che penso io? Oppure ciò che io penso che Molly potrebbe pensare? Tendo a propendere per quest'ultima ipotesi, non foss'altro per il fatto che non esisterà alcuna Molly nella nostra simulazione via email e io non sono timido come richiesto dal prompt. ;-) Dunque se ciò che ti scrivo io non dimostra che Molly ha una coscienza, come potrebbe dimostrarlo l'output di Open AI? E se cambiassimo il prompt descrivendo una Molly schizofrenica, sosterresti che GPT è schizofrenico? Se la nostra Molly fosse un'assassina psicopatica, crederesti GPT psicopatico? E se eseguissimo il nostro simulatore in parallelo, tu con la Molly timida e io con una aggressiva, GPT avrebbe personalità multiple? Vedi Fabio, questo esperimento è VERAMENTE interessante perché dimostra che, sebbene sia sufficiente leggere il codice per osservare che GPT non sta rivelando alcunché della PROPRIA coscienza (che non ha), coloro che VOGLIONO CREDERE nella favola della "intelligenza artificiale" sono disposti ad accettare acriticamente a qualsiasi "fake experiment" che sembri dimostrare l'esistenza di qualcosa che non c'è. Ricorda "I want to believe" di Fox Mulder. Ma questo non è un film. D'altro canto, non è tutta colpa loro. Lo stesso creatore di Molly sottolinea come la APT: > introduces a concept called "attention", which is reminiscent > of the famous "Attention is all you need" that triggered the recent > spike in Language Model performance. Se avessero chiamato il meccanismo in questione "contextual token prioritization" invece di "attention" l'autore si sarebbe risparmiato una brutta figura (e il resto del mondo, un'allucinazione collettiva). Ma è un paper di Google, quindi... ¯\_(ツ)_/¯ Giacomo

July 17, 2024

AISA: premio per tesi sulla scienza aperta

by Maria Chiara Pievatolo

Salve. Visto che della scienza aperta è parte anche il software libero, inoltro anche qui la notizia del bando AISA. Chi è interessato a partecipare si ricordi che il termine per la presentazione è il 30 settembre 2024. https://aisa.sp.unipi.it/attivita/premio-per-tesi-sulla-scienza-aperta-2/pr… E buona fortuna, MCP -- Maria Chiara Pievatolo Dipartimento di Scienze politiche Università di Pisa Via Serafini 3 56126 Pisa (Italy) +39 050 2212479 https://btfp.sp.unipi.it @mcp@poliversity.it @mcp_@qoto.org https://unimap.unipi.it/cercapersone/dettaglio.php?ri=5829

July 17, 2024

Building Artificial Consciousness With GPT-3

by Fabio Alemagna

> I've developed Molly, a conversational agent with an inner monologue, using OpenAI's Large Language Model (LLM). > This experiment gives the illusion of artificial consciousness, and raises questions about the nature of consciousness. > > [...] > > One theory of consciousness called Attention Schema Theory, developed by neuroscientist Michael Graziano at Princeton University, > strikes me as particularly interesting. For one part, this theory introduces a concept called "attention", which is reminiscent > of the famous "Attention is all you need" that triggered the recent spike in Language Model performance. > But most interesting, Attention Schema Theory shares similarities with illusionism, and postulates that consciousness is an illusion. Qui: https://marmelab.com/blog/2023/06/06/artificial-consciousness.html PS: ho replicato l'esperimento con ChatGPT-4. con risultati del tutto analoghi, se non migliori. Fabio

July 17, 2024

Questionario su Linee Guida Etiche per l'IA

by Teresa SCANTAMBURLO

Gentilissime/gentilissimi vorrei segnalare un questionario rivolto a ricercatori e/o professionisti coinvolti nello sviluppo e/o valutazione di sistemi IA per una ricerca collaborativa sull'impatto delle lingue guida etiche sull'IA. Questo è il link <https://survey.tno.nl/hakjnpxlvb?l=en> per compilare il questionario. Il progetto è coordinato da Lode Lauwaert (KU Leuven) in collaborazione con Marc Steen (TNO), <https://www.linkedin.com/in/ACoAAAa9iasBmiDa1o_6BskQXYRz8_QqwEZDwH8>Teresa Scantamburlo (Ca’ Foscari University of Venice), e <https://www.linkedin.com/in/ACoAAAR7uZUBsubSm0-ZatKBco3Vfw7iPKUI0f0>Risto Uuk (Future of Life Institute) Ringrazio fin d'ora chi potrà dare un contributo compilando il questionario. Un caro saluto Teresa -- Teresa Scantamburlo, PhD Assistant Professor Department of Environmental Science, Informatics and Statistics (DAIS) Via Torino, 155 30172, Mestre-Venezia (Italy) url : www.dais.unive.it/~scantamburlo e-mail: teresa.scantamburlo(a)unive.it

July 16, 2024

Re: [nexa] i language model alle prove INVALSI

by Andrea Bolioli

Grazie mille per la segnalazione AB Il giorno lun 15 lug 2024 alle ore 12:15 Guido Vetere < vetere.guido(a)gmail.com> ha scritto: > Nexiane e nexiani, > > l'Università di Milano-Bicocca ha avuto l'idea di ricavare un benchmark > dalle prove INVALSI per valutare come se la cavano i language model con > italiano. > Ne hanno poi fatto una leaderboard Huggingface che è consultabile qui > <https://huggingface.co/spaces/Crisp-Unimib/INVALSIbenchmark>. > Tra i modelli XXL vince claude-sonnet per distacco, ma la cosa > interessante è filtrare i modelli per dimensione e 'apertura' (nel senso > del LLM, per cortesia non ricominciamo) > Tra i modelli aperti di taglia small gemma2 (DeepMind) svetta sulla > concorrenza. > I modelli 'italianissimi' annunciati e propagandati nei mesi scorsi cadono > in fondo alla classifica. > Se la cavano abbastanza bene i fine-tune di LLama3 > Modello Italia, su cui tanti e tante aveva messo la faccia, era anch'esso > in fondo alla leaderboard e ora pare sia stato ritirato. > Naturalmente, su questo non c'è da aspettarsi alcuna intervista su Wired > :-) > > Buona giornata, > G. > >

July 15, 2024