October 2023 - nexa - server-nexa.polito.it

Re: [nexa] Can Large Language Models reason?
by Giuseppe Attardi Oct. 13, 2023

Oct. 13, 2023

2 1

Can Large Language Models reason?
by Daniela Tafani Oct. 13, 2023

Oct. 13, 2023

Melanie Mitchell, Can Large Language Models reason? https://aiguide.substack.com/p/can-large-language-models-reason (non lo copio di seguito perchè immagini e formattazione servono)

2 1

Even Google Insiders Are Questioning Bard AI Chatbot’s Usefulness (una soluzione in cerca di un problema)
by Daniela Tafani Oct. 12, 2023

Oct. 12, 2023

https://www.bloomberg.com/news/articles/2023-10-11/google-insiders-question… Domanda: qual è la sfida più grande per la vostra azienda, riguardo a questo prodotto? Risposta: capire a cosa serva "can you tell us whats one of the biggest challenges the team is trying to tackle? perhaps a feature that you want to roll out some" CathyfromGoogle: “I think form the biggest challenge I’m still thinking of: what are LLMs truly useful for, in terms of helpfulness? Like really making a difference. TBD!” J. Weizenbaum, 1985: "the computer has almost since its beginning been basically a solution looking for a problem".

1 0

Re: [nexa] IA, lavoro, immaginari
by Giuseppe Attardi Oct. 12, 2023

Oct. 12, 2023

> On 12 Oct 2023, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > From: "M. Fioretti" <mfioretti(a)nexaima.net <mailto:mfioretti@nexaima.net>> > To: nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > Subject: Re: [nexa] IA, lavoro, immaginari > Message-ID: <ZSe3bmA66wUNz5Zr(a)nexaima.net <mailto:ZSe3bmA66wUNz5Zr@nexaima.net>> > Content-Type: text/plain; charset=utf-8 > > On Thu, Oct 12, 2023 10:26:32 AM +0200, Giuseppe Attardi wrote: > >> il termine spregiativo di “stochastic parrot” che è stato affibbiato >> ai LLM da Timnit Gebru e colleghi. L’articolo è molto controverso ed >> è costato a Gebru il posto a Google. Nell’articolo si sostiene che: >> >> An LM is a system for haphazardly stitching together sequences of linguistic >> forms it has observed in its vast training data, according to probabilistic >> information about how they combine, but without any reference to meaning: a >> stochastic parrot. >> >> Questa affermazione è superficiale e inesatta, perché non tiene conto di alcune >> cose: >> >> 1. Alla base dei LLMs ci sono i word embedding, un modo per assegnare un >> significato alle parole, un problema che ha eluso la filosofia e la linguistica >> per due millenni e che il Deep Learning ha risolto. Questo è quanto afferma >> Hinton in proposito: >> “Many people who think it’s just statistics are thinking in terms of program >> models or counting the co-occurrence frequencies of words. We think this >> process of creating features of the embeddings and then interactions between >> features is actually understanding. Once you’ve taken the raw data of symbol >> strings and you can now predict the next symbol not by things like trigrams, >> but the huge number of features interacting in very complicated way to predict >> the features of the next word and from that make a prediction about the >> probability of the next word, the point is that is understanding, at least I >> believe that is understanding. I believe that is what our brains are doing. But >> that’s an issue to be discussed by the research community and it would be great >> if we could convince people that they are not just stochastic parrots.” > > questa cosa mi confonde un po': a chi/a chi sta parlando Hinton? È tratto da una conversazione con Andrew Ng, che si dichiara d’accordo. > > Perche' le critiche a certi discorsi vengono da quelli che non hanno > alcun bisogno di essere convinti di non essere semplici pappagalli, ma > sono LORO a dire di essere molto di piu'. A dire che il cervello umano > e' solo un'altra macchina sono altri. E dimostrare che gli esseri > umani non sono pappagalli stocastici mica esclude che lo siano gli > LLM. Ambiguità della lingua: “they” in “they are not just stochastic parrots” non si riferisce a “people”, ma ai LLM. — Beppe > > Sicuramente questo sara' piu' chiaro nel dibattito. Ne sara' > disponibile una trascrizione? > > Grazie, > Marco > -- > https://mfioretti.substack.com <https://mfioretti.substack.com/>

1 0

perdere il controllo dei "propri" device [CDT:L3]
by Andrea Trentini Oct. 12, 2023

Oct. 12, 2023

1) 'I was kidnapped by my runaway electric car' - BBC News https://www.bbc.com/news/uk-scotland-67005620 2) https://www.lealternative.net/2023/10/12/il-televisore-nottambulo-una-stori… -- Andrea Trentini ⠠⠵ http://atrent.it public key ID: 0xA7A91E3B Dip.to di Informatica Università degli Studi di Milano

1 0

Do language models have an internal world model?
by Giuseppe Futia Oct. 11, 2023

Oct. 11, 2023

Cari Nexiani, Condivido con voi un interessante e controverso articolo scritto da due ricercatori del MIT intitolato "Language Models Represent Space and Time": https://arxiv.org/abs/2310.02207. I due ricercatori sostengono che gli LLMs sono in grado di acquisire una conoscenza strutturata di dimensioni fondamentali come lo spazio e il tempo. La sintesi dell'articolo e il dibattito che ne è scaturito è disponibile in questo thread Twitter: https://twitter.com/wesg52/status/1709551516577902782 . Ad arricchire il dibattito anche la pronta replica, come al solito molto netta, di Gary Marcus: https://garymarcus.substack.com/p/muddles-about-models. Un caro saluto, Giuseppe

1 0

Concorso in Agcm - data engineering e data science
by Luigi Scorca Oct. 11, 2023

Oct. 11, 2023

https://www.agcm.it/autorita-trasparente/dettaglio?parent=Bandi%20di%20conc…

1 0

Glovo + Sindacati + Reverse Engineering + GDPR = ecco il report.
by Claudio Agosti Oct. 11, 2023

Oct. 11, 2023

Buongiorno :) Oggi viene rilasciato un report piuttosto originale. E' pubblicato dello European Trade Union Institute (etui.org) che si occupa di coordinare e aggiornare i sindacati di tutta europa sulle nuove sfide, come AI, piattaforme di intermediazione, industria 4.0... E' originale perché si avvale di tecniche di reverse engineering, il mio obiettivo non troppo tacito è legittimare queste pratiche. Il reverse engineering è l'unica soluzione pratica ed efficace ad un business che fa della segretezza e dell'opacità la sua difesa principale. E' una tecnica osteggiata in ogni Termine di Servizio, ma i ToS non sono una legge, non devono essere per forza rispettati, e mi sento particolarmente giustificato se consideriamo che violarli era necessario per produrre evidenze, poi segnalate al Garante Privacy (che aveva già sanzionato nel 2021 Glovo per alcuni problemi simili). Si parla di (potenziali) violazioni in essere da almeno 2 anni, se non addirittura peggiorate nonostante le richieste di adeguamento fatte dall'autorità. Nella nostra analisi emergono trattamenti dei dati che rivelano parte del funzionamento di queste piattaforme (o sarà solo Glovo?), e problemi di mancata minimizzazione dei dati, di terze parti non dichiarate per chissà quali scopi, e il ranking dei lavoratori sulla base di criteri oscuri. E' un business che si basa su pratiche lesive per la riservatezza, e nonostante ci sia l'opt-in dei lavoratori, ci si dovrebbe iniziare a chiedere se questo consenso sia libero e informato... "Libero", potrebbe non essere, perché è necessario darlo per lavorare. e "Informato" di certo non lo è perché non c'è trasparenza sulle aziende che processano i dati personali, che cosa ne fanno, perchè lo fanno, e su come il lavoratore possa esercitare i suoi diritti. il GDPR è stato il framework di riferimento in questa denuncia, ma considerando che c'è una direttiva europea, che quindi dovrà essere recepita dell'Italia come da ogni stato membro ( Directive on improving working conditions in platform work), posso solo sperare che serva a meglio informare i regolatori su quali sono le criticità di queste piattaforme. Il progetto Tracking Exposed nel frattempo è stato ristrutturato, ed ha dato vita a diverse iniziative. Quella che seguirà questo sforzo si chiama Reverse Engineering Task Force ed il sito è https://reversing.works Articoli che ne parlano sono: italiano https://lavialibera.it/it-schede-1534-glovo_rider_localizzazione https://www.wired.it/article/glovo-app-traccia-rider-privacy/ inglese https://algorithmwatch.org/en/glovo-tracking-riders-location-infringements/ report https://www.etui.org/publications/exercising-workers-rights-algorithmic-man… Saluti, Claudio

1 0

Una domanda impossibile ad Artemisia Gentileschi - Filosofia interroga arte, AI sfida umano
by Antonio Vetro' Oct. 11, 2023

Oct. 11, 2023

Segnalo questa riedizione del test di Turing, ideata dal Prof. Adriano Fabris dell’Università di Pisa e con la collaborazione dell’attrice Pamela Villoresi: https://sites.google.com/unipi.it/filosofiasfidaai/home Il test sarà aperto alla raccolta delle risposte per ancora un paio di mesi circa. Un saluto Antonio

5 5

Call for Papers, International Conference "Big Tech as an Actor of Global Security and Geopolitical Conflicts", May 2-3, 2024, Paris
by Francesca Musiani Oct. 10, 2023

Oct. 10, 2023

Dear colleagues, We are pleased to share the call for papers from the international conference “Big Tech as an Actor of Global Security and Geopolitical Conflicts”, organized by the Center for Interdisciplinary Media Research and Analysis (CARISM, University Paris-Panthéon-Assas) and the Centre Internet et Société (CNRS), with the Strategic Research Institute of the Ecole Militaire(IRSEM) as a scientific partner. The conference will be held in English on May 2 and 3, 2024 at the Centre Panthéon in Paris. This conference aims to foster a reflection on the roles of large digital companies in matters of international security. Their services having become arenas of controversy, these firms are the subject of conflicts between powers and are even, in several cases, security actors, on their own initiative or in conjunction with public authorities. In order to bring together the various relevant approaches on this subject, communication proposals may fall within international relations, political science, information and communication sciences, security studies, science and technology studies (STS), and political economy. The full text of the call is available here https://cis.cnrs.fr/big-tech-as-an-actor-of-global-security-and-geopolitica… and as an attachment, and includes core themes, key dates and submission methods. Proposals are expected by December 5, 2023 at bigtechinsec(a)protonmail.com. Best regards, The organizing committee Marguerite Borelli (Carism, University Paris-Panthéon-Assas) Ksenia Ermoshina (Centre Internet et Société, CNRS) Francesca Musiani (Centre Internet et Société, CNRS) Gulnara Zakharova (Carism, University Paris-Panthéon-Assas) -- Francesca Musiani, Ph.D. Chargée de recherche | Associate Research Professor, CNRS <http://www.cnrs.fr> Directrice adjointe | Deputy Director, Centre for Internet and Society <https://cis.cnrs.fr> (UPR 2000 & GDR 2091 CNRS) Chercheuse associée | Associate Researcher, i3-CSI <http://www.csi.ensmp.fr/>, MINES ParisTech Global Fellow, Internet Governance Lab <https://internetgovernancelab.org>, American University I'm involved in: CPT-IAMCR <https://iamcr.org/s-wg/section/cpt> | Internet Policy Review <https://policyreview.info> | RESET <https://journals.openedition.org/reset/> | ISOC France <https://www.isoc.fr> | ResisTIC <https://www.resistic.org> On the Web <https://cis.cnrs.fr/francesca-musiani/> | On Twitter <https://twitter.com/franmusiani>

1 0