- nexa - server-nexa.polito.it

opinioni corrette Vs. scienza Vs. fogli di calcolo (was Re: IA, lavoro, immaginari)

by 380°

Bungiorno, Giacomo Tesio <giacomo(a)tesio.it> writes: [...] > Questa è la ragione per cui l'approccio attuale alle "explainable AI" > è irrimediabilmente fallato: come con tutto il resto deve ridefinire > la "spiegazione" con "giustificazione". ed è per questo che gran parte del discorso pubblico attorno alla c.d. AI è /sofistico/ e non /filosofico/ [1], in altre parole: determinismo (riduzionismo) tecnologico. Ovvero: per "spiegare" la cosiddetta AI è necessario far ricorso a massicce dosi di sofismi (il riduzuionismo è una forma di sofismo). [...] >> Infatti nessuno di noi applicherebbe pedissequamente le regole >> grammaticali per rispondere alla domanda: risponderebbe d’acchito. Sì ma i filosofi hanno da tempo chiaramente spiegato che /La Domanda/ non è _cosa_ ma *perché* :-O [...] > Insomma scopriamo l'acqua calda: GPT4 non comprende la grammatica, > né sa di non comprenderla semplicemente perché non è intelligente. MCP mi ha fatto notare che già Platone nel Menone ha scritto: --8<---------------cut here---------------start------------->8--- la correttezza dell'opinione di qualcuno può essere stabilita solo in virtù della scienza detenuta da altri. Mentre il modello dell'anamnesis - che comporta una ricerca in prima persona, indipendente, in linea di principio, dalla gerarchia sociale - reca in sé un potenziale di emancipazione, l'opinione corretta dipende da un sapere altrui. --8<---------------cut here---------------end--------------->8--- (https://btfp.sp.unipi.it/dida/menone/ar01s19.xhtml) Tutta la c.d. AI non è nient'altro che un generatore automatico di *opinioni*, la cui correttezza può essere stabilita solo in virtù della scienza detenuta da _umani_. Inoltre, l'opinione della c.d. AI *dipende* da /quale/ sapere _altrui_ viene /scelto/ da chi _programma_ la AI. Giusto per contestualizzare l'opera: --8<---------------cut here---------------start------------->8--- L'interlocutore principale di Socrate è Menone, un giovane aristocratico tessalo allievo del sofista Gorgia. [...] Dobbiamo tuttavia chiederci perché Platone, in un dialogo dedicato all'insegnamento dell'eccellenza, abbia evitato di confrontarsi direttamente con il maestro, Gorgia, e abbia preferito esaminare un suo allievo non particolarmente brillante e con un reputazione non molto limpida. --8<---------------cut here---------------end--------------->8--- (https://btfp.sp.unipi.it/dida/menone/index.xhtml) Non è quindi un caso che questo confronto (indiretto) sia tra filosofi e sofisti. [...] > Peraltro rifletti su questo: il modello stesso di Kahneman è basato su > ipotesi non verificate o verificabili, come lui stesso ammise dopo le > critiche sulla replicabilità degli studi da lui citati. [1] Quindi, il cosiddetto "modello Kahneman" era *solo* una opinione corretta, e per loro natura: --8<---------------cut here---------------start------------->8--- Anche le opinioni vere, finché permangono, sono una bella ricchezza, capace di realizzare tutto il bene possibile; solo che non acconsentono a rimanere per lungo tempo, e fuggono via dall’anima umana, per cui non hanno un gran significato, a meno che non s’incatenino con un ragionamento fondato sulla causalità. Ma proprio in questo, compagno Menone, consiste l’anamnesis, quella reminiscenza su cui sopra ci siamo accordati. Se collegate, esse dapprima divengono epistemai e, quindi, cognizioni stabili. Ecco perché la scienza vale più dell'opinione corretta: la differenza tra episteme e opinione corretta sta, appunto, nel collegamento. (98a) --8<---------------cut here---------------end--------------->8--- (https://btfp.sp.unipi.it/dida/menone/ar01s19.xhtml) In altre parole: i filosofi hanno da tempo chiaramente spiegato che /La Domanda/ non è _cosa_ ma *perché* :-O > Il fatto che l'interpretazione di LLM e altre tecniche di programmazione > statistica si basi su questa fuffa para-scientifica [2] è indicativo > di quanto sia ancora primitiva l'informatica. ...o di quanto sia in crisi La Scienza™? «Dunque non c'è virtù senza phronesis.» (Platone, migliaia di anni fa) Corollario: anche i premi nobel, a volte, possono sparare stronzate. Postilla: la scienza è entrata in un periodo di Grossa Crisi™ (Quelo) [2], *specialmente* in psicologia, medicina e economia; io ci andrei /molto/ cauto a usare La Scienza™ come viene fatto oggi: come una *clava* (e senza nemmeno un minimo di vergogna). Aneddoto: lo sapete che la politica di "austerity" implementata dalla EU fu frutto di un errore in un foglio di calcolo [3], vero? :-O ...già, i fogli di calcolo fanno già abbastanza danni, non è il caso di peggiorare la situazione con la c.d. AI (alimentata con dati gestiti su fogli di calcolo "on steroids", *aiuto*!): https://eusprig.org/research-info/horror-stories/ (è evidente che sono riportati solo lo 0.1% degli incidenti causati da "sphreadsheet errors") Cordiali saluti, 380° > [1] > https://retractionwatch.com/2017/02/20/placed-much-faith-underpowered-studi… > > [2] > https://replicationindex.com/2020/12/30/a-meta-scientific-perspective-on-th… [1] nei "manuali di filosofia" la /sofistica/ (l'insegnamento dei sofisti) è raccontata come una specie di "corrente" filosofica, ma non ci vuole molto a comprendere che invece è _esattamente_ la negazione della filosofia. [2] https://en.wikipedia.org/wiki/Replication_crisis NON è un caso che proprio gli studi di John Bargh (psicologo sociale?) sul "social priming" siano citate come "origine" (di questa istanza storica) della crisi di replicabilità scientifica. [3] https://www.newscientist.com/article/dn23448-how-to-stop-excel-errors-drivi… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 26, 2023

Re: [nexa] human Vs. IA agency (Re: IA, lavoro, immaginari) [CDT:L3]

by Giuseppe Attardi

Il software si usa quasi sempre per svolgere compiti in autonomia: questa mail ti arriva perché un insieme di vari software svolgono le funzioni loro assegnate. Il fatto è che non decidono loro quali funzioni svolgere, siamo noi che affidiamo loro quelle determinate funzioni. Più in generale le macchine non hanno né devono avere libero arbitrio, ossia la capacità di scegliere /cosa/ fare. Possono solo scegliere /come/ svolgere un determinato compito, all’interno delle possibilità che sono loro permesse. Capisco che la questione è sottile, e del resto sul libero arbitrio i filosofi si interrogano da secoli. Ma questa distinzione secondo me è quella su cui possiamo concentrarci. In particolare, come stabilire e fissare “le possibilità di scelta” delle macchine, che qualcuno chiama guardrail, è una questione anche tecnica importante. Ma secondo me è molto più promettente di quella dell’Explainable AI (XAI), che richiede solo di avere una spiegazione a posteriori delle scelte, magari errate. Tecnicamente, ci sono diversi approcci alla questione: 1. Inserire vincoli nella funzione obiettivo durante l’apprendimento. 2. Chain of Verification: assicurare che le risposte siano verificabili e accurate 3. Constitutional AI: garantire che le risposte aderiscano a dei principi generali (es. Dichiarazione Universale dei Diritti Umani) Sono attualmente soluzioni ancora premature, su cui si può lavorare. — Beppe > On 26 Oct 2023, at 10:44, 380° <g380(a)biscuolo.net> wrote: > > Buongiorno Giuseppe, > > torno su una cosa che hai detto per farti /la/ domanda. > > Giuseppe Attardi <attardi(a)di.unipi.it> writes: > > [...] > >> non sto proponendo di dare agli algoritmi la capacità di agire al >> posto degli umani, ma di dare loro dei suggerimenti. > > Innanzi tutto grazie della precisazione, secondo me dovrebbe essere > l'incipit di qualsiasi discorso (ricerca, articolo, convegno) degli > "addetti ai lavori", così sgombereremmo il campo da un sacco di > /equivoci/, che invece riempiono la piscina nella quale molti "addetti > ai lavori" sguazzano allegramente, profumatamente finanziati. > > Ma molto più importante della _proposizione_, è _risposta_ a *La > Domanda* /fondamentale/ (non è 42!): perché? > > Perché "gli algoritmi" - che in realtà andrebbero chiamati software [1], > anche la c.d. "IA" [2] - non dovrebbero avere la capacità di agire al > posto degli umani? > > In altre parole: da quali idee dovrebbe conseguire la pratica di evitare > di "far agire" gli "algoritmi" al posto degli umani? > > Grazie, 380° > > > > [1] è la complicità che c'è tra lo yin e yang della conoscenza, > l'idealismo e il pragmatismo (etimologicamente parlando), dove la > /pragmatica/ (https://www.treccani.it/enciclopedia/pragmatica/) > meriterebbe di essere adeguatamente (ri)valutata > > [2] quindi anche la General Artificial Intellicence, giusto?... che > comunque non esiste > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 26, 2023

human Vs. IA agency (Re: IA, lavoro, immaginari) [CDT:L3]

by 380°

Buongiorno Giuseppe, torno su una cosa che hai detto per farti /la/ domanda. Giuseppe Attardi <attardi(a)di.unipi.it> writes: [...] > non sto proponendo di dare agli algoritmi la capacità di agire al > posto degli umani, ma di dare loro dei suggerimenti. Innanzi tutto grazie della precisazione, secondo me dovrebbe essere l'incipit di qualsiasi discorso (ricerca, articolo, convegno) degli "addetti ai lavori", così sgombereremmo il campo da un sacco di /equivoci/, che invece riempiono la piscina nella quale molti "addetti ai lavori" sguazzano allegramente, profumatamente finanziati. Ma molto più importante della _proposizione_, è _risposta_ a *La Domanda* /fondamentale/ (non è 42!): perché? Perché "gli algoritmi" - che in realtà andrebbero chiamati software [1], anche la c.d. "IA" [2] - non dovrebbero avere la capacità di agire al posto degli umani? In altre parole: da quali idee dovrebbe conseguire la pratica di evitare di "far agire" gli "algoritmi" al posto degli umani? Grazie, 380° [1] è la complicità che c'è tra lo yin e yang della conoscenza, l'idealismo e il pragmatismo (etimologicamente parlando), dove la /pragmatica/ (https://www.treccani.it/enciclopedia/pragmatica/) meriterebbe di essere adeguatamente (ri)valutata [2] quindi anche la General Artificial Intellicence, giusto?... che comunque non esiste -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 26, 2023

Re: [nexa] Human-like systematic generalization through a meta-learning neural network

by Fabio Alemagna

Il mer 25 ott 2023, 23:57 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: > Su Nature è stato pubblicato un paper Open Access che mostra "how a > standard neural net, optimized for compositional skills, can mimic human > systematic generalization (SG) in a head-to-head comparison", per usare le > parole di Brenden Lake, autore principale del paper, culmine di una ricerca > di 5 anni con l'altro autore, Marco Baroni. > > Qui il paper: https://www.nature.com/articles/s41586-023-06668-3 > > Qui la discussione su X: > https://twitter.com/LakeBrenden/status/1717198382115221859 > E qui la breaking news su Nature: https://www.nature.com/articles/d41586-023-03272-3 AI ‘breakthrough’: neural net has human-like ability to generalize language A neural-network-based artificial intelligence outperforms ChatGPT at quickly folding new words into its lexicon, a key aspect of human intelligence.

Oct. 25, 2023

Human-like systematic generalization through a meta-learning neural network

by Fabio Alemagna

Su Nature è stato pubblicato un paper Open Access che mostra "how a standard neural net, optimized for compositional skills, can mimic human systematic generalization (SG) in a head-to-head comparison", per usare le parole di Brenden Lake, autore principale del paper, culmine di una ricerca di 5 anni con l'altro autore, Marco Baroni. Qui il paper: https://www.nature.com/articles/s41586-023-06668-3 Qui la discussione su X: https://twitter.com/LakeBrenden/status/1717198382115221859 Fabio

Oct. 25, 2023

Re: [nexa] Consiglio di Stato annulla l'assegnazione del PSN

by 380°

Buongiorno, ci voleva addirittura il Consiglio di Stato per stabilire che PSN è acronimo di Pollo Strategico Nazionale. Damiano Verzulli <damiano(a)verzulli.it> writes: > Il 25/10/23 10:32, Stefano Quintarelli ha scritto: >> Consiglio di Stato annulla l'assegnazione del PSN >> Sole 24 Ore pag. 31 > Grazie, Stefano. > > I primi dettagli, on-line: > > https://www.key4biz.it/psn-il-consiglio-di-stato-boccia-la-scelta-di-colao-… --8<---------------cut here---------------start------------->8--- Emergono le responsabilità politiche dell’ex ministro dell’Innovazione tecnologica Vittorio Colao, che ha guidato il progetto del PSN sin dall’inizio. Abbiamo, inoltre, già scritto che Fastweb e Aruba non possono prenderne il posto della cordata guidata da TIM per via di una norma “speciale”, la lex specialis di gara, il comma 4 dell’articolo 48 del decreto legge n.77 del 2021. La norma, in sostanza, non ammette ritardi nel percorso di realizzazione-accelerazione delle opere previste dal PNRR, per scongiurare la perdita dei relativi finanziamenti. “Tutto cambia perché nulla cambi”. Ma Aruba e Fastweb hanno diritto a un risarcimento del danno subìto, la cui cifra dovrà ora essere definita dalla magistratura competente. --8<---------------cut here---------------end--------------->8--- Dal punto di vista operativo la sentenza non sposta di una virgola il piano del Pollo (che tanto si sapeva _prima_ sarà cimunque in ritardo e probabilmente senza tutte le caratteristiche di progetto implementate). Solita morale della favola: i Competenti fanno il bello e cattivo tempo, la parola "diritto" esce direttamente dal Vocabolario della Neolingua (assieme a tutte quelle usate dai Competenti), i cittadini italiani pagano il conto dei danni... ...e la colpa come sempre è di mio nonno in carriola. [...] Saluti, 380° P.S.: Azzeccagarbugli non muore mai. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Oct. 25, 2023

How AI Can Be Regulated Like Nuclear Energy

by Daniela Tafani

How AI Can Be Regulated Like Nuclear Energy By Heidy Khlaaf October 24, 2023 11:48 AM Prominent AI researchers and figures have consistently dominated headlines by invoking comparisons that AI risk is on par with the existential and safety risks that were posed with the coming of the nuclear age. From statements that AI should be subject to regulation akin to nuclear energy, to declarations paralleling the risk of human extinction to that of nuclear war, the analogies drawn between AI and nuclear have been consistent. The argument for such extinction risk has hinged on the hypothetical and unproven risk of an Artificial General Intelligence (AGI) imminently arising from current Large Language Models (e.g., ChatGPT), necessitating increased caution with their creation and deployment. Sam Altman, the CEO of OpenAI, has even referenced to the well established nuclear practice of “licensing”, deemed anti-competitive by some. He has called on the creation of a federal agency that can grant licenses to create AI models above a certain threshold of capabilities. This is akin to how operators of nuclear facilities are required to be licensed by a nuclear regulator, such as the US Nuclear Regulatory Commission and the UK Office for Nuclear Regulation. As part of their licence conditions, nuclear operators must comply with regulatory safety guidelines and a legal duty to reduce risks so far as is reasonably practicable. The incessant references to nuclear safety should naturally lend urgency in applying nuclear-level regulations and assessments to the very AI systems being deliberated. Yet, there is only resistance to be met at the mention of the EU AI Act, a whittled down document compared to the intricacies and rigour of the regulations required for nuclear systems. Indeed Altman has previously noted that the EU AI Act would be “over-regulating”, specifically noting OpenAI's systems as they exist are not high-risk, and that OpenAI will cease to operate if they cannot comply with the upcoming EU AI Act. Two conflicting messages are thus being presented. One being that the future of AI capabilities present such a significant risk, that an exclusive nuclear-level regulatory licensing scheme is required, but also that existing systems do not warrant any regulation, despite well-documented harms, and deemed insignificant. And herein where the analogies to nuclear safety crumble. Safety Engineering, the discipline which assures the safety of nuclear systems, is built on the foundation that system failures or misbehaviours, no matter how small, can compound and lead to catastrophic events. Consider that all components of a nuclear system, that being uranium or plutonium, hardware, and software, down to literal concrete, are individually and rigorously regulated. These elements separately do not pose a threat of nuclear catastrophe, but in orchestration lead to the emergence of a controlled nuclear fission reaction. Conversely, failures in said orchestration can cascade into catastrophic or high-risk events. For example, a minuscule software bug known as a race condition led to the Northeast blackout of 2003. Our inability to prevent today’s AI harms, such as algorithmic discrimination and reducing the cost of disinformation or cybersecurity attacks, only entails that we are ill-prepared to trace and grasp any cascading implications and control of AI risks. And if we lack the technical and governing facilities to control or measure AI mechanisms which output these harms, then we would be mistaken to believe we have the technical foundation to resolve larger-scale avalanching risks that AI may hypothetically enable. Then why have AI labs shown resistance to following through with the nuclear-level rigour required to keep the predecessors (e.g., ChatGPT) of “extinction level” technology safe? In a blog post by the OpenAI founders, they note that “it would be important that such an [regulatory] agency focus on reducing existential risk and not issues that should be left to individual countries.” This statement attempts to not only detach the existing harms AI systems pose from hypothetical existential risks, but fails to recognise the fundamental engineering principle that harms compound. If current AI systems are indeed the foundations of a hypothetical AGI, as is often implied, then as they stand they too must be regulated to address current harms in preparation for further emergent behaviour, whether it be AGI or otherwise. A pattern emerges that invoking the analogy to nuclear war often serves to inflame specific narratives, whether it be exclusive licensing, or an attempt to divert the regulatory conversation to focus on speculative future threats instead. Both having potentially harmful impacts. For the former, AI-based systems do not possess any unique software components that warrant a generalized licensing scheme that would not heavily impede the use of software and hardware as a whole. Indeed, any implementation of such a scheme would likely result in significant overreach due to the broad definition and software components of AI systems, lending basic blocks for technological advancements to be available to a privileged few. After all, current AI systems are built using traditional hardware and software components. Even Generative AI technologies utilise Deep Neural Networks, a technique that dates back to the 1970’s. For the latter (abiding by the foundations of nuclear safety aside), current AI systems have demonstrated enough harms to warrant regulation even without an extinction threat. Nuclear-level regulation methodologies already exist for the very same hardware, software, and data components, ready to be adopted any day for AI labs to utilise for high-risk applications. Yet we have observed that the very pushback and lobbying by AI labs against the EU AI Act has proven to be fruitful, having already distracted from regulatory efforts relative to the harms posed by these AI systems today. A post by the European Commission reflected the exact wording of the extinction letter, "Mitigating the risk of extinction from AI should be a global priority”, a far cry from the risks outlined in the initial drafts of the act. If AI labs are to consistently invoke exaggerated fears through comparisons to nuclear hazards, then they must be willing to take the analogy to completion. Ironically, if they were to explore the readily available safety mechanisms for nuclear components, they would be pressed to find inflammatory language supporting the use of terminology such as “extinction” and “existential risks”. Indeed, nuclear catastrophe is supported by known scientific and geo-political capabilities that have been theoretically and meticulously studied even during the Manhattan Project. The risks identified are tethered to tractable and compounding risks. Meanwhile, there exists no scientific basis or evidence for how or when AGI will emerge (if ever), leaving us with only a hypothetical risk that has capitulated many of our regulatory efforts today. https://time.com/6327635/ai-needs-to-be-regulated-like-nuclear-weapons/

Oct. 25, 2023

Re: [nexa] Consiglio di Stato annulla l'assegnazione del PSN

by Stefano Quintarelli

da quanto ho capito - la partecipazione di sogei al raggruppamento, senza gara, era illecita - il dipartimento ha risposto a Tim che poteva fare una fornitura diversa da quella di Fastweb (che era il fornitore selezionato nella gara), bastava che avesse lo stesso prezzo mi pare di capire che queste sono le due censure principali. adesso ci sarà un risarcimento a Fweb. una sorpresa di natale nella legge di bilancio. On 25/10/23 11:39, Damiano Verzulli wrote: > Il 25/10/23 10:32, Stefano Quintarelli ha scritto: >> Consiglio di Stato annulla l'assegnazione del PSN >> Sole 24 Ore pag. 31 > Grazie, Stefano. > > I primi dettagli, on-line: > > https://www.key4biz.it/psn-il-consiglio-di-stato-boccia-la-scelta-di-colao-… > > Bye, > DV > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Oct. 25, 2023

Re: [nexa] Un caso di "intercettazione telematica", in Europa (Hetzner, Germania) [CDT:L0]

by Mario Sabatino

Il giorno mer, 25/10/2023 alle 08.49 +0200, 380° ha scritto: > Buongiorno Mario, > > Aggiungo che spesso ci può essere bisogno di riservatezza anche nelle > MUC: non uso XMPP da un sacco, non ricordo se è possibile avere MUC > e2e > con OMEMO... ma questo è un dettaglio. > Si, è possibile creare gruppi privati multiutente cirati sia con OMEMO che con PGP (con PGP teoricamente poiché non siamo riusciti ancora a farlo funzionare bene). Con Snikket, che è una versione modificata e user friendly di Prosody, vengono anche creati dei gruppi (cerchie) cifrati con OMEMO dove gli utenti risultano iscritti automaticamente (ottimo per i gruppi familiari per scambiare le foto dei compleanni). :-) Di vitale importanza è secondo me la modalità di verifica al momento della conferma delle chiavi. Si verifica sempre il dispositivo. Secondo me l'unico sistema sicuro è fare la verifica in presenza magari scambiando le chiavi PGP (in questo modo la chiave pubblica non passa dal server). Credo che sia possibile lo scambio delle chiavi pubbliche offline anche con OMEMO ma purtroppo non ho mai provato. Questo vale un po' per tutto, non solo per la messaggistica. Ciao Mario

Oct. 25, 2023

Re: [nexa] Consiglio di Stato annulla l'assegnazione del PSN

by Damiano Verzulli

Il 25/10/23 10:32, Stefano Quintarelli ha scritto: > Consiglio di Stato annulla l'assegnazione del PSN > Sole 24 Ore pag. 31 Grazie, Stefano. I primi dettagli, on-line: https://www.key4biz.it/psn-il-consiglio-di-stato-boccia-la-scelta-di-colao-… Bye, DV -- Damiano Verzulli e-mail: damiano(a)verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Oct. 25, 2023