October 2024 - nexa - server-nexa.polito.it

The OSI lacks competence to define Open Source AI
by Giacomo Tesio Oct. 15, 2024

Oct. 15, 2024

Salve Nexa, condivido con voi un articolo interessante che sintetizza gli sforzi dell'OSI a sostegno della Open Source AI definition (OSAID). https://samjohnston.org/2024/10/15/the-osi-lacks-competence-to-define-open-… Riporto qui solo due passaggi che non mi sono accessibili altrove. Il primo è un commento di Bruce Perens, co-fondatore dell'OSI """ I am the creator of the original Open Source Definition, and support Amanda’s view that the Open Source AI Definition is flawed, that OSI hasn’t done a great job and so weren’t necessarily the best team to do this. In my opinion, the result is less than Open Source. I have supported Amanda’s views for a year, since she walked off of the OSI board, and told me she felt they were going about it wrong and nobody would listen. You can apply the original Open Source Definition to machine learning and I feel it works better. You need to apply it to two pieces: the software (and possibly specialized hardware), and the training data. The training data is “source code” for the purposes of the Open Source definition. This is complicated because some models evolve with each question asked, etc., and thus the training data is ever changing and becomes very large. """ Chiaro e semplice. Il secondo è il post censurato dall'OSI che non avevo avuto modo di leggere e che l'autore ha ottenuto dalla pericolosissima Cora Papadakis: """ It turns out she had posted this reply to another community member: > > OSD cannot be defined by people who could not build software. > > OSAID cannot be defined by people who could not build AI. > > To be fair, OSI has acknowledged its ignorance on the subject many > times and has summoned various experts, including from Google, > Meta, and Microsoft, to help co-design OSAID. > > Which is a bit like 1998 Perens and ESR asking Balmer’s Microsoft > how to define open source, but without knowing how to program > themselves. """ ¯\_(ツ)_/¯ Giacomo

1 0

Google turns to nuclear to power AI data centres
by Daniela Tafani Oct. 15, 2024

Oct. 15, 2024

Come previsto in Reclaiming AI as a Theoretical Tool for Cognitive Science, <https://link.springer.com/article/10.1007/s42113-024-00217-5>, l'ostinazione a perseguire la costruzione di macchine intelligenti con sistemi statistici equivale a voler risolvere con risorse naturali finite un problema intrattabile e condurrà a esaurire le risorse naturali dell'intero pianeta ben prima di aver costruito sistemi intelligenti. Se non nelle considerazione sui diritti, vulnerabili allo scherno degli integrati, questo aspetto potrebbe forse pesare nelle valutazioni neoliberali su opportunità e rischi. Google turns to nuclear to power AI data centres João da Silva Google has signed a deal to use small nuclear reactors to generate the vast amounts of energy needed to power its artificial intelligence (AI) data centres. The company says the agreement with Kairos Power will see it start using the first reactor this decade and bring more online by 2035. The companies did not give any details about how much the deal is worth or where the plants will be built. Technology firms are increasingly turning to nuclear sources of energy to supply the electricity used by the huge data centres that drive AI. "The grid needs new electricity sources to support AI technologies," said Michael Terrell, senior director for energy and climate at Google. "This agreement helps accelerate a new technology to meet energy needs cleanly and reliably, and unlock the full potential of AI for everyone." The deal with Google "is important to accelerate the commercialisation of advanced nuclear energy by demonstrating the technical and market viability of a solution critical to decarbonising power grids,” said Kairos executive Jeff Olson. The plans still have to be approved by the US Nuclear Regulatory Commission as well as local agencies before they are allowed to proceed. Last year, US regulators gave California-based Kairos Power the first permit in 50 years to build a new type of nuclear reactor. In July, the company started construction of a demonstration reactor in Tennessee. The startup specialises in the development of smaller reactors that use molten fluoride salt as a coolant instead of water, which is used by traditional nuclear plants. Nuclear power, which is virtually carbon free and provides electricity 24 hours a day, has become increasingly attractive to the tech industry as it attempts to cut emissions even as it uses more energy. Global energy consumption by data centres is expected to more than double by the end of the decade, according to Wall Street banking giant Goldman Sachs. John Moore, Industry Editor for the TechTarget website told the BBC that AI data centres need large amounts of electricity to both power them and and keep equipment cool. "These data centres are equipped with specialised hardware... that require lots of power, that generate lots of heat". At a United Nations Climate Change Conference last year, the US joined a group of countries that want to triple their nuclear energy capacity by 2050 as part of efforts to move away from fossil fuels. However, critics say nuclear power is not risk-free and produces long-lasting radioactive waste. Last month, Microsoft reached a deal to restart operations at the Three Mile Island energy plant, the site of America's worst nuclear accident in 1979. In March, Amazon said it would buy a nuclear-powered data centre in the state of Pennsylvania. "Google’s partnership with Kairos Power signals another major step in tech’s embrace of nuclear energy," said Somnath Kansabanik from research firm Rystad Energy. <https://www.bbc.com/news/articles/c748gn94k95o>

1 0

Large language models reduce public knowledge sharing on online Q&A platforms
by Giacomo Tesio Oct. 15, 2024

Oct. 15, 2024

Large language models (LLMs) are a potential substitute for human-generated data and knowledge resources. This substitution, however, can present a significant problem for the training data needed to develop future models if it leads to a reduction of human-generated content. In this work, we document a reduction in activity on Stack Overflow coinciding with the release of ChatGPT, a popular LLM. To test whether this reduction in activity is specific to the introduction of this LLM, we use counterfactuals involving similar human-generated knowledge resources that should not be affected by the introduction of ChatGPT to such extent. Within 6 months of ChatGPT’s release, activity on Stack Overflow decreased by 25% relative to its Russian and Chinese counterparts, where access to ChatGPT is limited, and to similar forums for mathematics, where ChatGPT is less capable. We interpret this estimate as a lower bound of the true impact of ChatGPT on Stack Overflow. The decline is larger for posts related to the most widely used programming languages. We find no significant change in post quality, measured by peer feedback, and observe similar decreases in content creation by more and less experienced users alike. Thus, LLMs are not only displacing duplicate, low-quality, or beginner-level content. Our findings suggest that the rapid adoption of LLMs reduces the production of public data needed to train them, with significant consequences. https://academic.oup.com/pnasnexus/article/3/9/pgae400/7754871 Com'era la favoletta che i LLM non competono sul mercato con i contenuti usati per programmarli statisticamente? Giacomo

5 10

Il rapporto Draghi e il GDPR
by de petra giulio Oct. 14, 2024

Oct. 14, 2024

Su come il rapporto Draghi considera il GDPR e, più in generale, la regolamentazione europea che riguarda le tecnologie digitali, vi segnalo questo contributo di Maurizio Borghi appena pubblicato sul sito del Crs. G. https://centroriformastato.it/leuropa-futura-meno-diritti-per-piu-competiti…

2 1

Re: [nexa] Articolo Omini di burro. Scuole e università al Paese dei Balocchi dell'IA generativa
by alessandro marzocchi Oct. 14, 2024

Oct. 14, 2024

Date: Sat, 12 Oct 2024 17:04:47 +0000 From: Daniela Tafani < daniela.tafani(a)unipi.it> ha scritto ho appena pubblicato un articolo dal titolo Omini di burro. Scuole e università al Paese dei Balocchi dell'IA generativa < https://btfp.sp.unipi.it/it/2024/10/omini-di-burro-scuole-e-universita-al-p… > Vi sarò grata di qualsiasi osservazione, in questa lista o nei commenti, nella pagina del "Bollettino telematico di filosofia politica" *** Daniela scrive: I testi generati riproducono, come in uno specchio <https://academic.oup.com/book/56292>, il pensiero egemonico e le ingiustizie espresse nei dati di partenza, ma, così come gli specchi non producono corpi, i grandi modelli del linguaggio naturale non producono menti. *** (mia osservazione): Ognuno deve molto all'ambiente in cui è cresciuto, all'educazione ricevuta. Le scelte diverse che a volte facciamo, potrebbero essere criticate come allucinazioni? Riflettiamo sul titolo del manuale di riferimento sulla follia: DSM, diagnostic STATISTIC manual, paradossalmente esasperando la statistica, quando la maggioranza era quadrupede i bipedi erano folli. E' stato un caso fortunato che allora non esisteva il DSM ma la stessa evoluzione è una deviazione statistica? Al netto di tutto, la macchina è creata dagli umani, mi pare ovvio che riproduca l'umano, coi suoi difetti ed errori. In fin dei conti la macchina analizza un numero enorme di casi (dati, informazioni, frasi, immagini) e da essi cerca di dedurre significati, relazioni. Noi umani facciamo qualcosa di diverso quando impariamo a parlare, camminare, scrivere, quando impariamo ad imparare? In tempi antichi, ma tutto sommato recenti, il medico toccava il nostro corpo per dedurre lo stato di salute, ora non più e da malato ho sofferto la mancanza del contatto fisico col medico, ora si usano termometri e millemila analisi molto spesso affidate a macchine ... esternalizzate, avrebbe criticato Platone. A partire dal termometro, ogni macchina ci dà una conoscenza del reale sua, della macchina con un "linguaggio macchina" e questo non ci ha preoccupato. A parte meraviglia, sorpresa, non ci ha preoccupato più di tanto la sostituzione del cuore - trapianto o macchine varie - anche se nel cuore vedevamo la sede di affetti ed emozioni. Ora ci preoccupa che la macchina si occupi di mente. Voleva scuotere la nostra mente il surrealismo che aveva anticipato dubbi e suggestioni, confondendo ed ibridando linguaggi e sensi, Magritte ci ha mostrato l'immagine di una pipa con la scritta "ceci n'est pas une pipe", prima dell'IA abbastanza per aprirci a domande nuove in tema di realtà e linguaggio che la descrive. Come tutti sono molto preoccupato, anche per controlli degenerati denunciati da Stefano Quintarelli e Juan Carlos De Martin, degenerazioni che neppure esse sono nate ora, fascismo nazismo stalinismo e loro controlli sono presenti nelle memorie dirette delle generazioni umane tuttora viventi. Alla fine mi domando: non è ovvio che questa nuova "macchina" ci somigli? Ma l'aspetto più interessante è l'analisi della realtà che essa apre. ... se ci arriveremo da persone libere, e questa è la domanda che più mi preoccupa, non la riflessione che la realtà è altro da noi, nonostante noi siamo parte della realtà Grazie, Daniela, per le riflessioni con le quali cresce la mia gratitudine per quel che imparo da questa lista: chi l'ha inventata? Errando discitur, anche questa è statistica, siamo tutti un poco pappagalli stocastici? Duccio (Alessandro Marzocchi)

6 7

E dopo Giannini, De Rita, era: Smartworking
by M. Fioretti Oct. 14, 2024

Oct. 14, 2024

On Thu, Oct 10, 2024 07:03:25 AM +0200, Marco Fioretti wrote: > L'idea che la dimensione sociale del lavoro non sia sostituibile, > meglio, da famiglia, amici, volontariato... fa PAURA. Giannini, anzi > QUEL modo di pensare, e' fermo all'800. Prima si supera meglio e', > proprio e SOPRATTUTTO per non "tracannarsi il cervello". > ... > Momento finale complottista, giusto per ridere: > > Giannini e' contento per i dipendenti di Amazon che saranno meno soli > perche' il CEO li ha consegnati in ufficio 5 giorni a settimana. Le > malelingue dicono che quella mossa e' per non scatenare crolli > immobiliari generalizzati: De Rita, invece (*): > Recuperare e rafforzare il centro di Roma è fondamentale per > attirare turisti in cerca di esperienze autentiche, dove la storia e > la cultura locale possano essere vissute in prima persona. > ... > In conclusione, l’invito di De Rita è deciso: non possiamo cadere > nella trappola della facilità del lavoro da remoto. È essenziale > rivalutare e rinvigorire la presenza fisica nella capitale, per > mantenere viva l’essenza culturale e storica di Roma. Chiaro, no? Per attirare i turisti in cerca di esperienze AUTENTICHE (come e' noto, lo scopo primario dell'esistenza di una citta') non parliamo di come rendere gli appartamenti del centro affittabili a lungo termine da famiglie giovani con figli, tanto per dirne una. Evitiamo invece la "trappola della facilita' del lavoro da remoto", costringendo tutti quegli impiegati, rappresentanti, broker, manager, avvocati di una volta, quelli che ormai sono visibili solo nel Marchese del Grillo o in Rugantino, a perdere ore di vita ogni giorno per arrivare in ufficio, per poi pranzare con altrettanto genuinamente romani poke', panini preconfezionati, snack industriali eccetera. Io boh. Marco (*) Articolo completo, desolante: https://www.lacronacadiroma.it/2024/10/linfluenza-dello-smart-working-sul-t… -- https://mfioretti.substack.com

6 6

117° Nexa Lunch Seminar | 23 ottobre 2024, ore 13.00
by Nexa - Media Oct. 14, 2024

Oct. 14, 2024

Gentilissime, gentilissimi, Vi invitiamo a partecipare al 117° Nexa Lunch Seminar che si terrà mercoledì 23 ottobre, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo: "L'uomo senza proprietà: usi e abusi degli oggetti connessi negli ambienti domestici". Ospite dell'incontro: Jacopo Franchi (Cariplo Factory). L'incontro si terrà IN PRESENZA e ONLINE. SEDE FISICA dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate lungo il percorso. QUI<https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. STANZA VIRTUALE dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: https://nexa.polito.it/lunch-117<https://nexa.polito.it/lunch-117/> Cordiali saluti, -- Valeria Bergantino Communication Manager Nexa Center for Internet & Society Politecnico di Torino - DAUIN Via Pier Carlo Boggio, 65/A - 10138 Torino web: https://nexa.polito.it/ mail: valeria.bergantino(a)polito.it<mailto:valeria.bergantino@polito.it> tel: 3473443585

1 0

sempre più nervosismo all'OSI...
by Giacomo Tesio Oct. 13, 2024

Oct. 13, 2024

La censura dell'OSI si abbatte con sempre maggiore frequenza. Io sono stato nuovamente silenziato l'altro ieri con minaccia di essere bannato e oggi ho trovato due post censurati: - https://discuss.opensource.org/t/list-of-unaddressed-issues-of-osaid-rc1/65… - https://discuss.opensource.org/t/squaring-the-circle-of-open-source-ai-with… Il primo stamattina era visibile e non mi sembrava nulla di scandaloso: prendeva quasi le difese dell'OSI, attribuendone ingenuamente alla stupidità il comportamento. Evidentemente non vogliono che ci sia alcun dubbio sui propri moventi. Il secondo purtroppo non ho avuto modo di leggerlo. Intanto tutti i problemi [1] della definizione che OSI sta cercando di imporre non vengono né discussi né affrontati: - Prohibition to study - Constrained Modificability - Open Washing AI - Inherent user (in)security - Implicit or Unspecified formal requirements - OSI as a single point of failure - Unknown “OSI-approved terms” - Inability to use OSAI in Science - Paywalled data - Underspecified “substantial equivalence” - Arbitrary (lack of) transparency Diversi ricercatori chiedono che l'OSI li affronti [2] (in realtà da tempo), ma senza successo. Magari domani esce la RC2. E sono certo che gli sponsor ringrazieranno: https://opensource.org/sponsors Giacomo [1] https://discuss.opensource.org/t/list-of-unaddressed-issues-of-osaid-rc1/65… [2] https://discuss.opensource.org/t/request-to-review-community-guidelines/664…

1 0

Re: [nexa] bias da soluzionismo tecnologico
by alessandro marzocchi Oct. 13, 2024

Oct. 13, 2024

Date: Fri, 11 Oct 2024 20:25:14 +0200 Alberto Cammozzo ha scritto < ac+nexa(a)zeromx.net> Ho appena letto questo articolo che mi pare affronti il tema dei bias cognitivi da AI, anche se limitatamente al campo dell'intelligence. Anche i rimandi mi paiono altrettanto interessanti. Peccato non consideri il problema che dati di qualità saranno sempre più rari per via dell'inquinamento dell'ecosistema da parte dei LLM generativi. < https://warontherocks.com/2024/10/ai-and-intelligence-analysis-panacea-or-p… > *** "AI is ... a capability that continues to evolve", è il punto dell'argomento, non solo dell'articolo: c'è voluto del tempo, dai graffiti preistorici a Platone ed oltre. "AI can play a valuable role ... but only if humans are kept in the loop" è il centro della sfida, col "thinking about thinking" e con la consapevolezza che "it is a fallacy to believe that humans fully control their thought processes." Il tema che vedo è come evitare il peggioramento qualitativo dei dati di addestramento, perchè nel contesto della ricerca scientifica la qualità "asettica" dell'analisi della macchina è utile. *** Va comunque tenuta ben presente tutta la società oltre la sfera della ricerca scientifica e qui concordo con quanto ha ricordato Daniela Tafani a proposito dell'ultimo pensiero di Morozov - https://server-nexa.polito.it/pipermail/nexa/2024-October/053379.html - "Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato." < https://www.internazionale.it/magazine/evgeny-morozov/2023/08/17/la-vera-mi…> Cordialmente. Duccio (Alessandro Marzocchi)

4 5

Articolo Omini di burro. Scuole e università al Paese dei Balocchi dell'IA generativa
by Daniela Tafani Oct. 12, 2024

Oct. 12, 2024

Buonasera, ho appena pubblicato un articolo dal titolo Omini di burro. Scuole e università al Paese dei Balocchi dell'IA generativa <https://btfp.sp.unipi.it/it/2024/10/omini-di-burro-scuole-e-universita-al-p…> Vi sarò grata di qualsiasi osservazione, in questa lista o nei commenti, nella pagina del "Bollettino telematico di filosofia politica". Grazie. Un saluto, Daniela

1 0