nexa

By thread

nexa@server-nexa.polito.it

December 2024

37 participants
154 messages

Re: [nexa] Russiagate S2E03: Fermate le elezioni in Romania, sono manipolate dai russi via TikTok!

by 380°

"J.C. DE MARTIN" <juancarlos.demartin(a)polito.it> writes: > Un precedente potenzialmente pericolosissimo. > jc > > On 07/12/24 11:21, 380° via nexa wrote: >> Buongiorno, >> >> sta diventando uno schema ripetitivo, anche se (credo) mai prima d'ora >> usato per impedire le elezioni in uno stato, della EU per di più. effettivamente in termini di limitazione della sovranità (vi ricordate "l'Italia è un paese a sovranità limitata"?) è un salto di qualità, ma diciamo che è in linea con la strategia della tensione, Stay Behind (Gladio) e tutte le porcate annesse e connesse storicamente accertate (e il risultato si vede benissimo). ...comunque, la rivista "Analisi e Difesa" il 7 Maggio scorso scrisse un articolo che spiega perfettamente perché in Romania NON DEVE vincere "un filo-russo e anti-NATO" (per di più di estrema destra e complottista [1], manca solo che mangi i bambini e poi siamo a posto): «Nuove basi USA/NATO in Romania, Albania e forse Finlandia» https://www.analisidifesa.it/2024/05/nuove-basi-usa-nato-in-romania-albania… --8<---------------cut here---------------start------------->8--- [...] In marzo sono iniziati in Romania lavori per trasformare la base Mihail Kogqlniceanu, vicino a Costanza nel sud-est della Romania sulla costa del Mar Nero, nella più grande base militare NATO in Europa, destinata a superare per estensione quella di Ramstein, in Germania. La nuova base darà alla Romania un ruolo maggiore nell’architettura di sicurezza della NATO e una posizione di maggiore forza nel Mar Nero, rafforzando il progressivo spostamento a est dell’asse dell’Alleanza Atlantica e il trasferimento di forze statunitensi presso quei partner orientali che un tempo fecero parte del Patto di Varsavia. Entro il 2030 la base rumena potrà ospitare 10.000 militari e civili mentre USA e NATO vi trasferiranno risorse logistiche e personale Ramstein. --8<---------------cut here---------------end--------------->8--- ...la nuova Ramstein, sul _Mar Nero_: TikTok un par de ciunfoli! Saluti, 380° [1] secondo l'equlibratissimo articolo di Wikipedia, che cita Politico come fosse una fonte primaria... ROTFL! https://en.wikipedia.org/wiki/C%C4%83lin_Georgescu -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Dec. 7, 2024

Re: [nexa] Russiagate S2E03: Fermate le elezioni in Romania, sono manipolate dai russi via TikTok!

by J.C. DE MARTIN

Un precedente potenzialmente pericolosissimo. jc On 07/12/24 11:21, 380° via nexa wrote: > Buongiorno, > > sta diventando uno schema ripetitivo, anche se (credo) mai prima d'ora > usato per impedire le elezioni in uno stato, della EU per di più. > > «Romania. Un'elezione annullata sulla base di documenti che non provano nulla» > <https://giubberossenews.it/2024/12/07/romania-unelezione-annullata-sulla-ba…> > > --8<---------------cut here---------------start------------->8--- > >

Dec. 7, 2024

Russiagate S2E03: Fermate le elezioni in Romania, sono manipolate dai russi via TikTok!

by 380°

Buongiorno, sta diventando uno schema ripetitivo, anche se (credo) mai prima d'ora usato per impedire le elezioni in uno stato, della EU per di più. «Romania. Un'elezione annullata sulla base di documenti che non provano nulla» <https://giubberossenews.it/2024/12/07/romania-unelezione-annullata-sulla-ba…> --8<---------------cut here---------------start------------->8--- di [Arnaud Bertrand, X] Dunque, ho esaminato attentamente i documenti declassificati dell'intelligence rumena sulla base dei quali sono stati annullati i risultati delle elezioni. [Document CSAT Ministerul Afacerilor Interne] [Document CSAT Serviciul de Informații Externe] [Document CSAT Serviciul Român de Informații I] [Document CSAT Serviciul Român de Informații II] [Document CSAT Serviciul de Telecomunicații Speciale] La cosa più assurda di tutte è che, in realtà, questi documenti non provano alcuna interferenza o manipolazione straniera. Che cosa mostrano? Documentano una campagna sui social media a sostegno di Călin Georgescu, che ha coinvolto circa 25.000 account TikTok coordinati attraverso un canale Telegram, influencer pagati e messaggistica coordinata. Innanzitutto, se si considera la cosa razionalmente, si tratta in realtà di un numero relativamente piccolo di account TikTok per una campagna presidenziale nazionale. Inoltre, i documenti forniscono dati limitati sull'impatto effettivo: menzionano circa 130 account TikTok che hanno generato tra 1.000 e 500.000 visualizzazioni per video, ma non mostrano statistiche complete sul coinvolgimento o prove di una significativa influenza degli elettori. Inoltre, cosa importante, tutto ciò che è descritto in questi documenti potrebbe essere interpretato altrettanto facilmente come legittimo marketing digitale. I documenti non forniscono prove concrete del coinvolgimento o della manipolazione di uno stato straniero: suggeriscono semplicemente che la campagna /“è correlata alla modalità operativa di un attore statale”/ e traccia parallelismi con le presunte operazioni russe in Ucraina e Moldavia. Le tariffe di pagamento menzionate (400 lei per 20.000 follower, 1.000 euro per video promozionale) sono, in realtà, tariffe di mercato standard per l'influencer marketing, sebbene i documenti affermino che alcuni pagamenti siano stati effettuati illegalmente dopo il periodo della campagna (la persona presa di mira da queste accuse, un imprenditore rumeno di criptovalute chiamato Bogdan Peschir, nega queste accuse: *BOGDAN PECHIR, IL RE DI TIKTOK IN ROMANIA, NOTO CON LO PSEUDONIMO DI BOGPR SI DIFENDE E AFFERMA DI NON ESSERE LO SPONSOR DELLA CAMPAGNA ELETTORALE DEL CANDIDATO CALIN GEORGESCU* “Un commento relativo al documento declassificato e al linciaggio dei media: Il documento menziona che tra il 24.10 e il 24.11.2024 sono stati effettuati “pagamenti” per 381.000 dollari su conti coinvolti nella promozione di Călin Georgescu. Sebbene alcune donazioni siano state fatte anche ad account che sostenevano Călin Georgescu, ciò che non viene menzionato nel documento è che una parte sostanziale dell'importo donato è andato a casi sociali (bambini malati), ad account che non promuovevano contenuti politici e persino ad account che sostenevano altri candidati o account che pubblicavano post negativi su C.G. Le donazioni per un totale di circa 1 milione di dollari su TikTok sono iniziate un anno e mezzo fa, e quell'account è diventato come un “marchio”, essendo il più alto livello di donatori in Romania (livello 50). La maggior parte delle donazioni effettuate da quel conto sono avvenute molto prima dell'inizio della campagna elettorale in Romania. In conclusione, considero l'insinuazione che io abbia “finanziato la campagna” del signor Călin Georgescu come falsa/disinformazione. Come ho detto in un altro messaggio, non ho mai parlato con Călin Georgescu e non avevo alcun interesse nascosto a sostenerlo. Il mio sostegno è stato dato attraverso post, commenti e re-post sull'account dei social media, in modo completamente volontario. Chiedo alla stampa rumena di rivedere gli articoli che mi riguardano e di smettere di pubblicare informazioni false o diffamatorie. Ricordo loro l'articolo 30 della Costituzione rumena, in particolare il paragrafo 6, e annuncio che sto preparando cause sia nei tribunali rumeni che presso la CEDU, contro coloro che non rispettano i miei diritti fondamentali”, scrive Bogdan Pechir. Il coordinamento della campagna tramite i canali Telegram con linee guida specifiche per la pubblicazione è esattamente il modo in cui operano le campagne politiche moderne. Ciò che manca in modo notevole da questi documenti è una prova concreta del coinvolgimento o della manipolazione di uno stato straniero. Non ci sono prove tecniche di amplificazione artificiale, nessuna prova che gli account fossero falsi piuttosto che sostenitori reali, e nessuna chiara distinzione tra attività di campagna coordinata (che è normale) e manipolazione dolosa. I documenti cercano di tracciare parallelismi con le operazioni di influenza russa in Ucraina e Moldavia, ma le prove effettive presentate sono, nella migliore delle ipotesi, indiziarie. Fanno notare che alcuni account sono stati creati nel 2016, ma sono diventati attivi solo di recente. Tuttavia, questo è un comportamento del tutto normale quando le persone si impegnano politicamente durante le elezioni. Inoltre, mentre i documenti mostrano che la popolarità di Georgescu è aumentata durante questo periodo, non dimostrano che la campagna sui social media abbia causato questa crescita. Potrebbero esserci molti altri fattori in gioco: le sue posizioni politiche che rispecchiano il pensiero degli elettori, le attività tradizionali della campagna, la copertura mediatica, le apparizioni pubbliche o l'insoddisfazione generale degli elettori nei confronti di altri candidati. L'aspetto eclatante di questa vicenda è che un'intera elezione è stata annullata sulla base di quella che potrebbe essere semplicemente un'efficace strategia sui social media. Anzi, a dire il vero, non provano nemmeno che la strategia sui social media sia stata efficace; a ben guardare, l'accusa si basa semplicemente sulla mera esistenza di una campagna sui social media. In effetti, una volta tolta la patina, quello che è appena successo in Romania è che la corte suprema del Paese ha annullato un'intera elezione presidenziale a causa dell'esistenza di una campagna coordinata sui social media TikTok che, secondo i servizi segreti, assomigliava alle tattiche russe, senza prove concrete. Questo caso crea un precedente: le elezioni possono essere invalidate non sulla base di frodi o manipolazioni comprovate, ma sulla semplice esistenza di campagne organizzate sui social media che le autorità ritengono sospette. È un percorso pericoloso, in cui timori ampiamente infondati di interferenze straniere possono essere usati per ignorare le effettive scelte degli elettori, danneggiando ironicamente la democrazia molto più di qualsiasi campagna sui social media. [Arnaud Bertrand, X] <https://x.com/RnaudBertrand/status/1865246209339986002> [Document CSAT Ministerul Afacerilor Interne] <http://www.presidency.ro/files/userfiles/Documente%20CSAT/Document%20CSAT%2…> [Document CSAT Serviciul de Informații Externe] <http://www.presidency.ro/files/userfiles/Documente%20CSAT/Document%20CSAT%2…> [Document CSAT Serviciul Român de Informații I] <http://www.presidency.ro/files/userfiles/Documente%20CSAT/Document%20CSAT%2…> [Document CSAT Serviciul Român de Informații II] <http://www.presidency.ro/files/userfiles/Documente%20CSAT/Document%20CSAT%2…> [Document CSAT Serviciul de Telecomunicații Speciale] <http://www.presidency.ro/files/userfiles/Documente%20CSAT/Document%20CSAT%2…> --8<---------------cut here---------------end--------------->8--- Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Dec. 7, 2024

Re: [nexa] Boston Review: "The AI We Deserve"

by Giuseppe Attardi

È apprezzabile che qualcuno si esprima in termini positivi e non soltanto critici sulle potenzialità dell’AI. Morozov inizia raccontanto il suo stupore per la sua esperienza con la Generative AI: “Without knowing a line of code, I recently pieced together an app that taps into three different AI-powered services, creating custom short stories iwith native-speaker audio. These stories are packed with tricky vocabulary and idioms tailored to the gaps in my learning.” Poi inizia un lunghissimo discorso che riparte da prima delle origini dell’AI, per dimostrare l’asserto che l’AI è nata per scopi militari e che si porta dietro questo peccato originale per tutta la sua evoluzione fino ad oggi. Essa avrebbe uno specifico “telos”, l’obiettivo di rendere efficiente la burocrazia, eliminando il lavoro umano. Essa sarebbe lo strumento della Efficiency Lobby, che la utilizza per i fini di efficienza e di dominio dei mercati, diventando ai giorni nostri funzionale al neoliberismo. Secondo lui ci poteva essere un diverso percorso evolutivo e qui si dilunga in elucubrazioni in cui mescola di tutto, da Herbert Simon a John McCarthy, Jean Piaget (che lui crede sia un maschio), Seymour Papert, Terry Winograd, Fernando Flores, Nicholad Negroponte, Thorstein Veblen, legandoli attraverso un oscuro articoletto di uno sconosciuto Hans Otto Storm, che avrebbe proposto l’eolithism: “Eolithism posits no predefined problems to solve, no fixed goals to pursue.” Ossia le attività umane e il progresso tecnologico avvengono per esplorazione casuale della realtà. È vero che l’esplorazione e il serendipity hanno un ruolo importante, ma ampiamente sottovalutato nel modo con cui oggi si impostano i finanziamenti alla ricerca, finalizzati attraverso progetti con obiettivi predeterminati e valutati a priori con i vituperabili KPI. La lunghezza e articolazione del testo di Morozov, oltre alla difficoltà di riconoscere un chiaro filo conduttore, possono essere spiegati in due modi: a. Si tratta di un tipico scritto erudito da filosofo, il cui scopo è soprattutto dimostrare la propria erudizione infarcendolo di citazioni b. È stato scritto con ChatGPT. Francamente la tesi che l’AI si sia sviluppata per le finalità di efficienza e di dominio militare ipotizzate la trovo completamente assurda. Ho lavorato per 4 decenni sull’AI partecipando a congressi e incontrando tutte le generazioni di studiosi che ci hanno lavorato, conoscendo di persona John McCarthy, Marvin Minsky, Seymour Papert, Terry Winograd, Nicholas Negroponte, oltre ad Alan Kay, l’inventore del PC. Gli ultimi due furono i promotori del citato progetto “One Laptop Per Child”, che Alan Kay presentò in anteprima a Pisa quando gli conferimmo la laurea in Informatica Honoris Causa nel 2007. Posso garantire che nessuno ha mai pensato che l’AI avesse l’obiettivo primario dell’efficienza. L’impegno era quello di capire come fare ad ottenere macchine che svolgessero compiti intelligenti, affrontando questioni fondamentali di logica, rappresentazione della conoscenza, ragionamento, pianificazione, percezione, attuazione. In particolare proprio Alan Kay concepiva il PC come strumento per aumentare le capacità umane, pensandolo proprio come strumento da fornire proprio ai ragazzi per le loro esplorazioni e libera espressione, con precisi riferimenti a Piaget e Papert. Che i finanziamenti alla ricerca su AI venissero dalla DARPA, era dovuto proprio alla difficoltà di fare accettare la disciplina dagli altri settori che dominavano le commissioni di finanziamento della NSF. Senza dimenticare che fu proprio la pesante critica di Dreyfus che portò al primo AI Winter, col blocco dei finanziamenti alla ricerca. In seguito subentrarono le aziende a finanziare i progetti nel periodo degli Expert System, che erano sì visti da loro come mezzi per risolvere problemi complessi in applicazioni commerciali. Ma anche quella vena di finanziamento si esaurì provocando il secondo AI Winter. Ciononostante le ricerche continuarono, anche seppur sottofinanziate e spesso mascherate sotto altro nome: Knowledge Representation, Information Retrieval, Soft Computing ecc. Va anche ricordato che Geoff Hinton, oggi onorato col Nobel come padre delle reti neurali, dovette lasciare Carnegie Mellon perché non trovava finanziamenti per le sue ricerche, rifugiandosi in Canada. Di recente, sono subentrati i massicci finanziamenti delle Big Tech prima alla ricerca e poi alle infrastrutture per il training e il deployment dei LLM. Questa è la vera anomalia e preoccupante deriva dell’attuale AI: la concentraziine in pochi attori dominanti per potere tecnologico e finanziario. Non ha alcun senso parlare di eolithism come possibile percorso alternativo. L’unica strada è quella di democratizzare l’AI, ossia di mettere a disposizione di tutti la possibilità di svilupparla ed utilizzarla per i propri fini, non solo per quelli del mercato. Che le aziende si impadroniscano di ogni tecnologia per i loro propri fini che sono il profitto tramite l’efficienza è normale, ma si ribaltano i termini se si afferma che l’AI è stata orienata all’efficienza. L’AI è una disciplina scientifica che ha tra i suoi obiettivi quella di comprendere e replicare i meccanismi che la mente umana utilizza per svolgere le sue funzioni. Che sono funzioni disparate, che includono la percezione, il ragionamento, la comprensione, l’astrazione, la pianificazione, l’attuazione, ecc. ma anche compiti creativi come il racconto, la musica, il disegno, la programmazione. L’uomo stesso usa queste capacità per svolgere in maniera più efficiente i suoi compiti, ma non diremmo che il suo comportamento è guidato dalla Efficiency Lobby. Tra l’altro, Fernando Flores e Terry Einograd, dopo la tragica conclusione del governo Allende, collaborarono costituendo un’azienda di consulenza privata, che proponeva una metodologia di analisi e di riorganizzazione dei processi aziendali, basata sugli Speech Act, ossia sulla classificazione delle interazioni tra i vari ambiti dell’attività aziendale, come espressioni liguistiche di intenti. Anche in quel caso dunque il loro lavoro sarebbe stato da catalogare come asservito alla Efficiency Lobby. Comunque, mi sono sforzato di arrivare in fondo all’articolo di Morozov per capire quale sia la proposta di AI che lui vorrebbe. Purtroppo la conclusione è assolutamente deludente: “The real challenge lies in cultivating the right Weltanschauung—this app does wonders!—grounded in ecological reason. On this score, the ability of AI to run ideological interference for the prevailing order, whether bureaucracy in its early days or the market today, poses the greatest threat.” Qui addirittura si attribuisce all’AI dei poteri sulla realtà che non può avere nessuna tecnologia, ma al massimo chi la usa. Quale siano poi queste minacce, non è dato sapere. In tal caso bisogna additare chi sono i responsabili di tali minacce e a quali eventuali pericoli esse possano condurre. — > On 6 Dec 2024, at 10:37, nexa-request(a)server-nexa.polito.it wrote: > > https://www.bostonreview.net/forum/the-ai-we-deserve/ > > Critiques of artificial intelligence abound. Where’s the utopian vision > for what it could be? > > Evgeny Morozov >

Dec. 7, 2024

Re: [nexa] avvocature e tecnologie

by de petra giulio

dilettanti di tutto il mondo unitevi! Il giorno ven 6 dic 2024 alle 13:05 karlessi <karlessi(a)alekos.net> ha scritto: > buongiorno > > scorrendo i recenti thread della ml mi è sovvenuto di Feyerabend, > intendo il filosofo della scienza. appena editata questa breve raccolta > di saggi > > https://www.eleuthera.it/scheda_libro.php?idlib=603 > > non nascondo la mia ammirazione per Feyerabend. trovo magnifico il fatto > che... fa ridere, è molto divertente. una delle argomentazioni, da cui > l'oggetto della mail, riguarda la capacità della pratica dell'avvocatura > (quando esercitata nel senso anarco-dadaista propugnato da Feyerabend) > di smontare il "sapere degli esperti". Non solo il re è nudo, ma > l'esperto è nudo, come diceva un vecchio amico australiano; e chiunque > può vederlo. > > personalmente avverso gli esperti: non le persone di grande esperienza > (ci sono ancora, ma non si presentano come esperti), ma le persone che > fanno calare dall'alto il loro (presunto) sapere, e che per rimanere > esperti devono essere riconosciuti dai loro pari, ovvero da un qualche > sistema dominante che anche grazie a loro si auto-legittima. E chi non > si conforma viene come minimo dileggiato (si può anche finire sul rogo, > o lapidati, perché no, è già successo e succede tuttora). Poi ci sono le > idiosincrasie comportamentali, certo: e non mi piacciono gli > atteggiamenti di chi viene a spiegarmi come funziona il mondo, per > quanta "ragione" possa avere. > > le scienze, auspica Feyerabend, devono essere sottoposte al controllo > delle persone, del popolo, della democrazia. altrimenti sono come le > religioni. Ma così non è. Nemmeno per le tecnologie è così: vengono > spesso imposte, come ineluttabili e ovvie, tanto più quelle attuali che > non sono utensili ma trascinano con sé cambiamenti psico-sociali a > catena (solita argomentazione, diciamo simondoniana per far presto: non > sono utensili perché non si possono portare con sé: ogni paragone con il > sempiterno martello è fuori luogo: lo smartphone con annessa "IA" > richiede concatenazioni di macchine in rete per "funzionare"). > > Eppure persone abili nell'avvocatura possono smontare tutte le > argomentazioni degli esperti. Queste persone potrebbero insegnarci a > vedere le cose da altre prospettive, senza farsi portatrici degli > interessi del più forte. > > Esempio a cui ricorro spesso: energia nucleare. Sì o no? O forse? > Vogliamo lasciare la questione in mano agli esperti di nucleare? O > peggio ai politici che si basano su tali esperti? Spero di no, ma > purtroppo così avviene. > > Perché un fisico teorico dovrebbe avere un'opinione migliore della mia > su come gestire dei fondi per la ricerca accademica, se non per il > principio d'autorità in un settore esteso ad altri campi? > > Oggi sulla fantomatica IA sta avvenendo lo stesso. Si ammantano di > spiegazioni "scientifiche" interessi altri, ricorrendo a tutto > l'armamentario tipico della tradizione magico-alchemica, es. > l'esperienza. Che F. ricorda è tipica della caccia alle streghe (si > dimostra che una strega confessa di essere strega in seguito a > specifiche torture. come volevasi dimostrare: è l'esperienza che lo > dice!). Nella comunicazione "scientifica" odierna è assai peggiorata in > senso autoritario: F. mette a confronto il Malleus maleficarum e una > lettera di famosi e certificati scienziati contro l'astrologia, e gli > scienziati ne escono molto male: protervi, ignoranti dell'argomento, > saccenti, prevenuti, forti con i deboli e deboli con i forti... > > A chi tocca decidere come procedere con la ricerca spaziale? > antibiotici? biotecnologie? armi automatiche "chirurgiche"? sostanze per > "potenziare" gli umani, ormoni per trasformarli? ecc ecc ecc > > disgraziatamente si moltiplicano i panel di esperti > > Non sono gli esperti che mancano, tanto meno quelli prezzolati che > concorrono per nuove linee di finanziamento. sono i dilettanti, i buoni > dilettanti. Gli esempi di F. sono chiaramente Galileo e Copernico > (Contro il metodo), ma anche Einstein ecc. > > La mia convinzione (indimostrabile) è che ogni persona può diventare un > buon dilettante di un argomento qualsiasi, non importa quanto complesso. > Se è volutamente complicato (il caso della "IA" è lampante), ci sono in > ballo altre questioni. E non ci vuole certo un titolo accademico, o > un'istruzione "superiore", bensì persone attorno accoglienti e disposte > a condividere ciò che sanno. Gli umani "primitivi" erano in grado di > sopravvivere in ambienti nei quali qualunque "moderno armato di > razionalità scientifica" soccomberebbe rapidamente; e di tramandare le > loro culture! Non mi pare che le nostre culture che si spacciano per > superiori ed evolute stiano messe così bene: l'infrastruttura di > Internet è ridicolmente fragile, il cemento armato dura pochissimo, e > tutto il resto va di conseguenza. > > Non si tratta di semplificare i messaggi, ma di non perdersi nelle > dispute secondarie. > > meno sicumera, più scetticismo; meno fede nella tecnoscienza, più > fiducia nelle capacità delle persone > > più le persone intorno a noi saranno forti, capaci di non farsi > abbindolare, disposte a mettersi in gioco contro ogni supposta evidenza > scientifica tipo "le leggi del mercato" (scienza economica?), "il > diritto degli Stati" (scienza giuridica?), "la tecnologia migliore" > (mito del progresso che è regresso sociale), più avremo qualche > possibilità di limitare le catastrofi che ci attendono. > > servono tutte le capacità, e mescolarle fra loro, con la letizia del > dilettantismo, senza rigidità identitaria. e che ciascuno smetta di fare > come se nessun altro fosse in grado di capire e agire in maniera informata. > > buona giornata > > k. > > > > -- > "tecnologie conviviali - https://tc.eleuthera.it" > > "pedagogia hacker - https://circex.org" > > "tecnologie appropriate - https://alekos.net" >

Dec. 7, 2024

Opportunità di ricerca in un progetto di Scienza Aperta e infrastrutture dati

by Antonio Vetro'

Segnalo questa opportunità di ricerca nell’intersezione tra Scienza Aperta e infrastrutture dati. Si tratta di un assegno di ricerca “professionalizzante” categoria A presso il Dipartimento di Elettronica e Telecomunicazioni del Politecnico di Torino: https://careers.polito.it/default.aspx?id=410/2024-AR Content and finality of the research program Universities have a lot of data about their own research processes, which should be used to measure performance and to devise strategies to progress towards university’s goals. In this respect, institutional data sovereignty is instrumental. The Research Program aims at building a proof-of-concept institutional data lake consistent with the FAIR principles (Findability, Accessibility, Interoperability, Reusability) fed by the multiple university’s databases which store information on several research dimensions (projects, proposals, contracts, patents, publications and data, staff registry, etc.) to enable the creation of indicators and tools for research assessment and self-assessment which, in line with the COARA commitments, shall be multi-dimensional, inclusive, transparent and reproducible. Required activity The research fellow will be responsible for the technical activities of developing and validating a proof-of-concept institutional FAIR data lake built upon the integration of internal interoperable databases mapping all the relevant research activities and personnel information. The data lake will collect those type of data that today feed the univerty's data warehouse, with ad-hoc standardized metadata for the different types of information. It will implement preservation of historical data, controlled and secure protocols as well as anonymization levels tailored on the different stakeholders (e.g. governance, individual researcher), interoperability with internal and external databases and accessibility according to the “as open as possible as closed as necessary” philosophy; data will be equipped with appropriate licenses for reuse. The activity will be carried out in collaboration with three University's centres of study dedicated to open science, gender, and strategies and with the development area of the information system department. The detailed workplan of the overall project includes: [M1-M4] Analysis of the architecture of the current data warehouse and data lake design. MilestoneT1: Technical spec for data lake [M4]. [M5-M9] Implementation and testing phase on a subset of data to validate the functionality and usability. The subset of data will be identified in two parallel tasks devoted to 1) develop tools to monitor open science practices; 2) study gender bias issues of internal research assessment exercises the internal . Deliverable-T1.1: Proof-of-concept FAIR data lake available [M9]. [M11-M12] Design the complete FAIR data lake with a full set of research information data as identified by the other project tasks. Deliverable-T1.2: Design report and implementation plan [M12]. Qualifications and publications topics - Handling and modelling contexts (ETL/ELT, Data Lakehouse, DWH, Semantic Model). - Data lake and data warehouse technologies. - Programming languages such as SQL and Python. - Data visualisation and analysis tools such as Tableau. - Data security practices and regulatory compliance. Interview topics - Data lake and data warehouse solutions consistent with FAIR principles (findable, accessible, interoperable, reusable). - Creation and management of FAIR data and research data infrastructure. - Programming languages such as SQL and Python. - Data analytics and data visualization. - Data security and basic knowledge of relevant legislation Per maggiori informazioni: Prof.ssa Federica Cappelluti https://www.polito.it/personale?p=federica.cappelluti

Dec. 6, 2024

Re: [nexa] The Curious Case of David Mayer, the man ChatGPT cannot name

by Carlo Blengino

Solo a precisazione, a scanso di equivoci e imprecisioni: per finalità di ricerca il trattamento di dati personali anche "particolari" è ammesso ed anzi inventivato, con le dovute cautele. Tutto il GDPR e diverse normative UE spingono per l'apertura dei dati per la ricerca. Poi certo, nella complessità della catena del valore dei sistemi IA è tutto molto complesso... Il ven 6 dic 2024, 17:39 Stefano Borroni Barale <s.barale(a)erentil.net> ha scritto: > Gentile Carlo, > > anzitutto mille grazie per aver chiarito il punto legale. Da turista del > diritto avevo ovviamente compreso male, e credo che Nexa offra uno spazio > prezioso a tutte coloro che amano arricchirsi con le conoscenze che > provengono da campi che non sono il proprio. > A me piacciono le tecnologie, poi nello scrivere di queste cose ho > sviluppato una (malsana?) ammirazione per il lavoro dei cibernetici, che > sono i "colpevoli", a mio modo di vedere, dell'approccio sub-simbolico > all'Ai. Quindi provo a rispondere a questo specifico punto: > > *Possiamo decidere che quelle macchine e quelle tecnologie sono un male, > che i Salami non hanno alcun interesse per l'umanità, e che non meritano > tutela alcuna. Bene. Non ne so abbastanza per dirlo e conto molto su di voi > tecnici. Decidiamolo e lasciamole morire. Però non facciamolo usando il > GDPR come fosse il baluardo che difende l'umanità dall'AI cattiva e dai > cattivi che la governano. I problemi sono altri e necessitano di risposte > diverse.* > > Credo che metterla così rischi d'esser fuorviante. Ovviamente il problema > non è tecnologico bensì politico. L'attuale "modo di esistenza" dei LLM > crea quella che Lewis Mumford avrebbe definito "Authoritarian Technics". > Non è l'unico "modo di esistenza" possibile. > > Ce ne sono molti altri (TATA, al solito). Uno possibile, che comunque non > mi manderebbe in brodo di giuggiole, è l'approccio "democratico": la > creazione di modelli generalisti diviene monopolio pubblico, in quanto > -sotto stretto scrutinio della società con modi chiari e codificati > legalmente tra cui trasparenza e accountability- solo lo stato è > autorizzato a questo trattamento altamente pericoloso del dato *in deroga* > al GDPR ai soli fini di ricerca. > A tutte noi resterebbe la possibilità di cui è tanto preoccupata la OSI: > quella di modificare il "comportamento" di un *blob proprietario che tale > sempre resterà per via del suo modo di esistenza *inteso, sul piano > tecnico, come "modo con cui sono reperiti e utilizzati i dati che ne > inducono la programmazione statistica". Mi pare che sia l'idea che Morozov > attribuisce ai "realisti" dell'Ai (cfr. articolo sul Boston Review passato > in lista). > > Secondo me sarebbe una pessima idea dal punto di vista del software > libero, della concentrazione del potere, dell'innovazione e del creare > un'eccezione a un diritto che dovrebbe essere umano fondamentale (quello al > controllo dei propri dati), soprattutto alla luce dell'uso che l'accademia > fa del potere e visto quanto ormai sia prona agli appetiti dell'industria, > ma _ottima_ dal punto di vista del principio democratico dei "poteri e > contropoteri". A patto di chiamare le cose col loro nome: a quel punto > avremmo un *blob proprietario scaricabile ed eseguibile gratuitamente > fornito dal monopolio pubblico a fini di ricerca e sviluppo. *Sempre un > notevole passo avanti rispetto alla situazione attuale di appropriazione > indebita dei commons e dei dati privati da parte di (cinque/sei) privati > senza alcun contraddittorio politico o conflitto sociale. > > Il potere assoluto non può essere nelle mani di un solo uomo, soprattutto > se è un uomo con gravi problemi psichiatrici come Elon Musk o Sam Altman > (entrambi evidenti casi clinici, del primo sappiamo bene anche i motivi, > vista la biografia). > > Altra possibilità: provare a costruire dei LLM con dati interamente liberi > e trasparenti per vedere se davvero sono tanto meno performanti del *blob > proprietario. *In pratica partiremmo dal principio della libertà e del > rispetto del diritto umano alla protezione dei dati personali e vedremmo > cosa si può fare all'interno di quel contesto (guard-rail a priori invece > che a posteriori). Lo so che questa idea pone sfide tecniche notevoli e non > necessariamente destinate al successo ma... dove sta scritto che dev'essere > semplice? Quasi nulla che abbia valore è semplice da ottenere (vedi i > diritti dei lavoratori). > > Proseguendo poi la ricerca si potrebbe puntare a evitare la concentrazione > tout-court (questa ipotesi, invece, mi manderebbe in brodo di giuggiole), > sviluppando tecnologie che per funzionare non necessitino di masse così > ingenti di dati così "sensibili" (perdonate il termine desueto/sbagliato), > magari perché includono al loro interno un modello di mondo e affiancano > all'approccio sub-simbolico un approccio simbolico. > > E' la direzione di molta ricerca: Yann Le Cun con la sua JEPA, per > esempio, ma sono certo che in lista qualcuno sa fare altri esempi ancora > più interessanti. Ovviamente tali ricerche dovrebbero essere condotte con > il metodo scientifico (piena condivisione dei risultati, non mi dite "open" > perché se no mi arrabbio: "alla maniera di Galilei" è più che sufficiente) > cosa che al momento non mi pare essere la policy di Meta, Microsoft o > tantomeno "Open" Ai. > > Riassumendo: potrebbe anche essere che l'approccio LLM sia da abbandonare > del tutto. Ce lo potrebbe dire la ricerca pura, se la facessimo. > Attualmente i modelli generalisti tipo Llama su cui fare "fine tuning" mi > sembrano l'equivalente di quello che era il Kernel Unix per Stallman e il > primo nucleo del progetto GNU, salvo per il fatto che non è detto sia > possibile ottenere un Kernel interamente libero basato su questa > tecnologia. > > Almeno in parte, ci siamo già passati. Il futuro è tutto da scrivere. > > Stefano > > > > Inviato con l'email sicura Proton Mail <https://proton.me/mail/home>. > > giovedì 5 dicembre 2024 00:41, Carlo Blengino < > blengino(a)penalistiassociati.it> ha scritto: > > Sono molto d'accordo con Guido Vetere, e questo mi dà l'occasione di > chiarire la mia affermazione, forse un po' troppo secca, > sull'incompatibilità del GDPR, e anche di rispondere indirettamente alle > considerazioni che precedono. Non mi riferivo infatti solo al problema del > diritto alla cancellazione. > > Non sono sicuro che la cessione nel caso GEDI fosse per sperimentare > servizi basati su RAG, ma se anche così fosse, e i dati non fossero > utilizzati per addestramento, vi sarebbe comunque un trasferimento di dati > ad OpenAI, quanto meno per la vettorializzazione (credo si dica così) e si > aprirebbero comunque infinite diatribe sulla corretta attribuzione dei > ruoli di titolare e responsabile tra i diversi soggetti. Risolto > faticosamente quello, il problema per cui un archivio pubblico come > l'archivio di un grande quotidiano per il GDPR non sarà mai usabile da un > fornitore per l'addestramento è vera, quale che sia la modalità di > acquisizione (che sia con lo scraping o con accordi). Non ci sarà mai > infatti per fini commeriali/imprenditoriali una base giuridica che > legittimi il trattamento di archivi così rilevanti, almeno in UE, perchè > quel dataset contiene per forza dati particolari ex art.9 e dati giudiziari > ex art. 10, circostanza questa che esclude il legittimo interesse. Solo che > quella è l'unica possibilità di liceità del trattamento (il consenso > ovviamente non è neppure pensabile), ed è già stata piegata e forzata fin > troppo per i motori di ricerca dopo la sentenza Costeja Gonzales della ECJ. > Per salvare il trattamento dei motori di ricerca quali titolari del > trattamento sulla base del legittimo interesse si sono compiute capriole > interpretative notevoli là dove tale base è recessiva rispetto al divieto > di trattamento di dati particolari, ma lì era più facile e nessuno poteva > vietare Google Search. > Con gli LLM però non se ne esce, ed i tempi sono cambiati. > Eppure gli archivi sono una fonte credo fondamentale e viene usata a man > bassa, tant'è che adesso è oggetto di "licenze" e di monetizzazione. > E mi chiedo cosa intenda il Garante quando parla di "licenza", termine più > consono alle privative legate alla proprietà intellettuale (altra normativa > in frizione) che non al tema della protezione dati. Nel GDPR non esiste > nessuna "esclusiva" e nessuna licenza (c'è qualcosa di simile nel Data Act, > ma è riferito ad altro); i dati personali, a maggior ragione se pubblici, > non sono di nessuno (il titolare è il titolare del trattamento, non dei > dati, e l'interessato non possiede i suoi dati, può pretenderne la > protezione, a determinate condizioni). E bene che sia così, perchè i dati, > rectius le informazioni, anche personali devono circolare santo cielo! Sono > la base della conoscenza, anche quella delle macchine spara stronzate > (frankfurtianamente) > Aggiungo che, dal mio punto di vista, questo tipo di accordi sono un > disastro per tutti, ma non perchè violino chissà quale diritto fondamentale > dei cittadini o la protezione dei dati, ma perché generano delle privative > e delle barriere economiche distorsive basate sul nulla, almeno sotto il > profilo della data protection (a mio giudizio anche sotto il profilo della > proprietà intellettuale, ma li le privative esistono davvero!). > > E di situazioni così, di incompatibilità, è piena la strada delle > tecnologie dell'informazione che necessitano della ruminazione di molte > informazioni. > > Quando uscì il GDPR (2016) ricordo che in studio ci dicemmo: ma sta roba è > incompatibile con il BigData (in allora il termine era una buzzword). > Minimizzazione, limitazione della conservazione, stretta finalità...tutta > roba contraria al valore informativo dei dati, ma per fortuna c'erano mille > eccezioni, varianti e deroghe e soprattutto quei principi si potevano > piegare, adattare e soprattutto i pochi che si occupavano di protezione > dati dal 1995 sapevano che era un diritto dai confini incerti, bilanciabile > e recessivo, molto diverso dalla riservatezza (che quella sì se la passava > già davvero male). > > Possiamo decidere che quelle macchine e quelle tecnologie sono un male, > che i Salami non hanno alcun interesse per l'umanità, e che non meritano > tutela alcuna. Bene. Non ne so abbastanza per dirlo e conto molto su di voi > tecnici. Decidiamolo e lasciamole morire. Però non facciamolo usando il > GDPR come fosse il baluardo che difende l'umanità dall'AI cattiva e dai > cattivi che la governano. I problemi sono altri e necessitano di risposte > diverse. > > Forse ho peggiorato la mia posizione e temo gli sfottò del buon Tesio, ma > sono comunque sempre grato a tutti in questa lista per gli stimoli e le > riflessioni che mi suscitate. > CB > > ne fondi il trattamento > > > Il giorno mer 4 dic 2024 alle ore 22:40 Guido Vetere < > vetere.guido(a)gmail.com> ha scritto: > >> Credo che il rilievo del Garante sul caso GEDI sia un atto dovuto: non si >> possono cedere dati sensibili di cui si è responsabili, che i giornali >> pubblicano in base al diritto di cronaca, a soggetti terzi che ne vogliono >> farne usi diversi senza il consenso degli interessati. Quindi la cessione >> sarebbe illecita anche se OpenAI (o chi per essa) avesse modo di correggere >> e smentire le notizie 'on the fly' come possono fare i giornali. >> >> Il problema è che i LLM acquisiscono competenze linguistiche generali (ad >> es. quelle che servono per fare summarization) e fattuali (chi è David >> Mayer) allo stesso modo, e anche se sulla modularizzazione si sono fatti >> progressi, tutto è più o meno fuso in un sol blocco. >> >> Diverso è il caso in cui gli LLM sono usati per fare Retrieval Augmented >> Generation (RAG). In questi casi, le competenze fattuali si trovano nei >> documenti 'in chiaro' dove il RAG va a pescare, e alla componente LLM >> spetta solo il compito di mettere in bella prosa alcuni passaggi >> informativi che non si trovano nel modello ma appunto in qualche testo >> leggibile e emendabile. >> >> La notizia è che per questo esercizio bastano modelli relativamente >> piccoli, anche 'aperti', e non è impensabile che questi possano essere >> costruiti con dati 'puliti'. >> Nota a margine: quello che GEDI dice di voler fare, da quello che >> capisco, è esattamente un RAG, come quello che altre testate (es. >> Washington Post) stanno sperimentando. Non c'è davvero bisogno che OpenAI >> faccia training sul loro archivio. >> >> G. >> >> >> On Tue, 3 Dec 2024 at 12:04, Stefano Quintarelli via nexa < >> nexa(a)server-nexa.polito.it> wrote: >> >>> Ciao Carlo >>> >>> On 02/12/24 23:55, Carlo Blengino wrote: >>> > Grazie! >>> > Interessante leggere come da lontano vedano il GDPR e il diritto >>> > all'oblio (o quello che è). >>> > La cosa più certa, al di là del caso Mayer, è che, mi pare, il GDPR se >>> > interpretato restrittivamente non è compatibile con la tecnologia >>> degli >>> > LLM. Punto. Si possono fare un po' di accrocchi, ma di fondo c'è un >>> > totale contrasto, su più principi di base. E questo è un problema per >>> > l'Europa. >>> >>> non mi pare. >>> se non ricordo male c'e' un termine di 3 mesi, il che vorrebbe dire 4 >>> re-training del modello all'anno. >>> >>> per l'azienda si tratta di trovare il punto di equilibrio costi/benefici >>> rispetto alle dimensioni del proprio modello (e per il sistema, fare un >>> po' di ricerca su metodi di ottimizzazione) >>> >>> https://neuralmagic.com/blog/24-sparse-llama-smaller-models-for-efficient-g… >>> >>> d'altronde, anche il consorzio obbligatorio degli olii usati è una >>> maggiorazione di costi per i meccanici... >>> :-) >>> >>> >>> >>> > Il caso GEDI https://www.ilsole24ore.com/art/nel-mirino-garante-l- >>> > accordo-gedi-openai-AGJLoOTB <https://www.ilsole24ore.com/art/nel- >>> > mirino-garante-l-accordo-gedi-openai-AGJLoOTB> ne è ulteriore riprova >>> > (quell'accordo e tutti gli accordi in atto sono una pessima deriva, >>> sia >>> > chiaro, ma per altre ragioni) >>> > Aggiungo a scanso di equivoci, che questa considerazione non vuol dire >>> a >>> > mio parere che vi sia incompatibilità tra queste tecnologie ed il >>> > sacrosanto diritto fondamentale alla protezione dei dati personali. >>> > CB >>> > >>> > >>> > >>> > Il giorno lun 2 dic 2024 alle ore 22:32 Daniela Tafani >>> > <daniela.tafani(a)unipi.it <mailto:daniela.tafani@unipi.it>> ha scritto: >>> > >>> > Dec 01, 2024 - Georg Zoeller (AILTI) >>> > The Curious Case of David Mayer, the man ChatGPT cannot name. >>> > >>> > ChatGPT users have noticed a curious behavior: It refuses to talk >>> > about a 'David Mayer'. We have the explanation and point out less >>> > obvious implications. >>> > >>> > TL;DR: While not a juicy conspiracy, OpenAI cut some corners on >>> > regulatory compliance and the implications are less benign than they >>> > seem. In fact, they can be weaponized with unexpected consequences. >>> > >>> > ChatGPT is well known for not knowing when to stop talking - the >>> > underlying transformer architecture lends itself to hallucinations >>> > in situations when the model is asked to generate text beyond the >>> > context it was trained on. Even more curious, sometimes it starts >>> > giving a response, only to change its mind mid sentence, and >>> > terminating the conversation. >>> > >>> > So naturally, when the software stops and refuses to answer, users >>> > take notice. In this case, ChatGPT users found that mention of the >>> > name “David Mayer”, whenever included in a message, would >>> > consistently cause the model to terminate the conversation. >>> > >>> > It’s a conspiracy! >>> > Creating even more mystery, chatGPT rejection messages quickly move >>> > from unhelpful to ominously threatening when the user starts >>> > investigating the phenomenon. >>> > >>> > Continua qui: >>> > <https://centreforaileadership.org/resources/ >>> > analysis_the_curious_case_of_one_david_mayer/ <https:// >>> > centreforaileadership.org/resources/ >>> > analysis_the_curious_case_of_one_david_mayer/>> >>> > >>> > >>> > >>> > -- >>> > * >>> > * >>> > *Avv. Carlo Blengino* >>> > * >>> > * >>> > /Via Duchessa Jolanda n. 19,/ >>> <https://www.google.com/maps/search/Via+Duchessa+Jolanda+n.+19,%2F+%0D%0A+%2…> >>> >>> <https://www.google.com/maps/search/Via+Duchessa+Jolanda+n.+19,%2F+%0D%0A+%2…>> >>> /10138 Torino (TO) - Italy >>> <https://www.google.com/maps/search/Via+Duchessa+Jolanda+n.+19,%2F+%0D%0A+%2…> >>> / >>> > /tel. +39 011 4474035/ >>> > Penalistiassociati.it >>> > // >>> >>> -- >>> You can reach me on Signal: @quinta.01 (no Whatsapp, no Telegram) >>> >>> > > -- > *Avv. Carlo Blengino* > *Via Duchessa Jolanda n. 19, > <https://www.google.com/maps/search/Via+Duchessa+Jolanda+n.+19,+10138+Torino…>* > *10138 Torino (TO) - Italy > <https://www.google.com/maps/search/Via+Duchessa+Jolanda+n.+19,+10138+Torino…>* > *tel. +39 011 4474035* > Penalistiassociati.it > > >

Dec. 6, 2024

Re: [nexa] The Curious Case of David Mayer, the man ChatGPT cannot name

by Stefano Borroni Barale

Gentile Carlo, anzitutto mille grazie per aver chiarito il punto legale. Da turista del diritto avevo ovviamente compreso male, e credo che Nexa offra uno spazio prezioso a tutte coloro che amano arricchirsi con le conoscenze che provengono da campi che non sono il proprio. A me piacciono le tecnologie, poi nello scrivere di queste cose ho sviluppato una (malsana?) ammirazione per il lavoro dei cibernetici, che sono i "colpevoli", a mio modo di vedere, dell'approccio sub-simbolico all'Ai. Quindi provo a rispondere a questo specifico punto: Possiamo decidere che quelle macchine e quelle tecnologie sono un male, che i Salami non hanno alcun interesse per l'umanità, e che non meritano tutela alcuna. Bene. Non ne so abbastanza per dirlo e conto molto su di voi tecnici. Decidiamolo e lasciamole morire. Però non facciamolo usando il GDPR come fosse il baluardo che difende l'umanità dall'AI cattiva e dai cattivi che la governano. I problemi sono altri e necessitano di risposte diverse. Credo che metterla così rischi d'esser fuorviante. Ovviamente il problema non è tecnologico bensì politico. L'attuale "modo di esistenza" dei LLM crea quella che Lewis Mumford avrebbe definito "Authoritarian Technics". Non è l'unico "modo di esistenza" possibile. Ce ne sono molti altri (TATA, al solito). Uno possibile, che comunque non mi manderebbe in brodo di giuggiole, è l'approccio "democratico": la creazione di modelli generalisti diviene monopolio pubblico, in quanto -sotto stretto scrutinio della società con modi chiari e codificati legalmente tra cui trasparenza e accountability- solo lo stato è autorizzato a questo trattamento altamente pericoloso del dato in deroga al GDPR ai soli fini di ricerca. A tutte noi resterebbe la possibilità di cui è tanto preoccupata la OSI: quella di modificare il "comportamento" di un blob proprietario che tale sempre resterà per via del suo modo di esistenza inteso, sul piano tecnico, come "modo con cui sono reperiti e utilizzati i dati che ne inducono la programmazione statistica". Mi pare che sia l'idea che Morozov attribuisce ai "realisti" dell'Ai (cfr. articolo sul Boston Review passato in lista). Secondo me sarebbe una pessima idea dal punto di vista del software libero, della concentrazione del potere, dell'innovazione e del creare un'eccezione a un diritto che dovrebbe essere umano fondamentale (quello al controllo dei propri dati), soprattutto alla luce dell'uso che l'accademia fa del potere e visto quanto ormai sia prona agli appetiti dell'industria, ma _ottima_ dal punto di vista del principio democratico dei "poteri e contropoteri". A patto di chiamare le cose col loro nome: a quel punto avremmo un blob proprietario scaricabile ed eseguibile gratuitamente fornito dal monopolio pubblico a fini di ricerca e sviluppo. Sempre un notevole passo avanti rispetto alla situazione attuale di appropriazione indebita dei commons e dei dati privati da parte di (cinque/sei) privati senza alcun contraddittorio politico o conflitto sociale. Il potere assoluto non può essere nelle mani di un solo uomo, soprattutto se è un uomo con gravi problemi psichiatrici come Elon Musk o Sam Altman (entrambi evidenti casi clinici, del primo sappiamo bene anche i motivi, vista la biografia). Altra possibilità: provare a costruire dei LLM con dati interamente liberi e trasparenti per vedere se davvero sono tanto meno performanti del blob proprietario. In pratica partiremmo dal principio della libertà e del rispetto del diritto umano alla protezione dei dati personali e vedremmo cosa si può fare all'interno di quel contesto (guard-rail a priori invece che a posteriori). Lo so che questa idea pone sfide tecniche notevoli e non necessariamente destinate al successo ma... dove sta scritto che dev'essere semplice? Quasi nulla che abbia valore è semplice da ottenere (vedi i diritti dei lavoratori). Proseguendo poi la ricerca si potrebbe puntare a evitare la concentrazione tout-court (questa ipotesi, invece, mi manderebbe in brodo di giuggiole), sviluppando tecnologie che per funzionare non necessitino di masse così ingenti di dati così "sensibili" (perdonate il termine desueto/sbagliato), magari perché includono al loro interno un modello di mondo e affiancano all'approccio sub-simbolico un approccio simbolico. E' la direzione di molta ricerca: Yann Le Cun con la sua JEPA, per esempio, ma sono certo che in lista qualcuno sa fare altri esempi ancora più interessanti. Ovviamente tali ricerche dovrebbero essere condotte con il metodo scientifico (piena condivisione dei risultati, non mi dite "open" perché se no mi arrabbio: "alla maniera di Galilei" è più che sufficiente) cosa che al momento non mi pare essere la policy di Meta, Microsoft o tantomeno "Open" Ai. Riassumendo: potrebbe anche essere che l'approccio LLM sia da abbandonare del tutto. Ce lo potrebbe dire la ricerca pura, se la facessimo. Attualmente i modelli generalisti tipo Llama su cui fare "fine tuning" mi sembrano l'equivalente di quello che era il Kernel Unix per Stallman e il primo nucleo del progetto GNU, salvo per il fatto che non è detto sia possibile ottenere un Kernel interamente libero basato su questa tecnologia. Almeno in parte, ci siamo già passati. Il futuro è tutto da scrivere. Stefano Inviato con l'email sicura [Proton Mail](https://proton.me/mail/home). giovedì 5 dicembre 2024 00:41, Carlo Blengino <blengino(a)penalistiassociati.it> ha scritto: > Sono molto d'accordo con Guido Vetere, e questo mi dà l'occasione di chiarire la mia affermazione, forse un po' troppo secca, sull'incompatibilità del GDPR, e anche di rispondere indirettamente alle considerazioni che precedono. Non mi riferivo infatti solo al problema del diritto alla cancellazione. > > Non sono sicuro che la cessione nel caso GEDI fosse per sperimentare servizi basati su RAG, ma se anche così fosse, e i dati non fossero utilizzati per addestramento, vi sarebbe comunque un trasferimento di dati ad OpenAI, quanto meno per la vettorializzazione (credo si dica così) e si aprirebbero comunque infinite diatribe sulla corretta attribuzione dei ruoli di titolare e responsabile tra i diversi soggetti. Risolto faticosamente quello, il problema per cui un archivio pubblico come l'archivio di un grande quotidiano per il GDPR non sarà mai usabile da un fornitore per l'addestramento è vera, quale che sia la modalità di acquisizione (che sia con lo scraping o con accordi). Non ci sarà mai infatti per fini commeriali/imprenditoriali una base giuridica che legittimi il trattamento di archivi così rilevanti, almeno in UE, perchè quel dataset contiene per forza dati particolari ex art.9 e dati giudiziari ex art. 10, circostanza questa che esclude il legittimo interesse. Solo che quella è l'unica possibilità di liceità del trattamento (il consenso ovviamente non è neppure pensabile), ed è già stata piegata e forzata fin troppo per i motori di ricerca dopo la sentenza Costeja Gonzales della ECJ. Per salvare il trattamento dei motori di ricerca quali titolari del trattamento sulla base del legittimo interesse si sono compiute capriole interpretative notevoli là dove tale base è recessiva rispetto al divieto di trattamento di dati particolari, ma lì era più facile e nessuno poteva vietare Google Search. > Con gli LLM però non se ne esce, ed i tempi sono cambiati. > Eppure gli archivi sono una fonte credo fondamentale e viene usata a man bassa, tant'è che adesso è oggetto di "licenze" e di monetizzazione. > E mi chiedo cosa intenda il Garante quando parla di "licenza", termine più consono alle privative legate alla proprietà intellettuale (altra normativa in frizione) che non al tema della protezione dati. Nel GDPR non esiste nessuna "esclusiva" e nessuna licenza (c'è qualcosa di simile nel Data Act, ma è riferito ad altro); i dati personali, a maggior ragione se pubblici, non sono di nessuno (il titolare è il titolare del trattamento, non dei dati, e l'interessato non possiede i suoi dati, può pretenderne la protezione, a determinate condizioni). E bene che sia così, perchè i dati, rectius le informazioni, anche personali devono circolare santo cielo! Sono la base della conoscenza, anche quella delle macchine spara stronzate (frankfurtianamente) > Aggiungo che, dal mio punto di vista, questo tipo di accordi sono un disastro per tutti, ma non perchè violino chissà quale diritto fondamentale dei cittadini o la protezione dei dati, ma perché generano delle privative e delle barriere economiche distorsive basate sul nulla, almeno sotto il profilo della data protection (a mio giudizio anche sotto il profilo della proprietà intellettuale, ma li le privative esistono davvero!). > > E di situazioni così, di incompatibilità, è piena la strada delle tecnologie dell'informazione che necessitano della ruminazione di molte informazioni. > > Quando uscì il GDPR (2016) ricordo che in studio ci dicemmo: ma sta roba è incompatibile con il BigData (in allora il termine era una buzzword). Minimizzazione, limitazione della conservazione, stretta finalità...tutta roba contraria al valore informativo dei dati, ma per fortuna c'erano mille eccezioni, varianti e deroghe e soprattutto quei principi si potevano piegare, adattare e soprattutto i pochi che si occupavano di protezione dati dal 1995 sapevano che era un diritto dai confini incerti, bilanciabile e recessivo, molto diverso dalla riservatezza (che quella sì se la passava già davvero male). > > Possiamo decidere che quelle macchine e quelle tecnologie sono un male, che i Salami non hanno alcun interesse per l'umanità, e che non meritano tutela alcuna. Bene. Non ne so abbastanza per dirlo e conto molto su di voi tecnici. Decidiamolo e lasciamole morire. Però non facciamolo usando il GDPR come fosse il baluardo che difende l'umanità dall'AI cattiva e dai cattivi che la governano. I problemi sono altri e necessitano di risposte diverse. > > Forse ho peggiorato la mia posizione e temo gli sfottò del buon Tesio, ma sono comunque sempre grato a tutti in questa lista per gli stimoli e le riflessioni che mi suscitate. > CB > > ne fondi il trattamento > > Il giorno mer 4 dic 2024 alle ore 22:40 Guido Vetere <vetere.guido(a)gmail.com> ha scritto: > >> Credo che il rilievo del Garante sul caso GEDI sia un atto dovuto: non si possono cedere dati sensibili di cui si è responsabili, che i giornali pubblicano in base al diritto di cronaca, a soggetti terzi che ne vogliono farne usi diversi senza il consenso degli interessati. Quindi la cessione sarebbe illecita anche se OpenAI (o chi per essa) avesse modo di correggere e smentire le notizie 'on the fly' come possono fare i giornali. >> >> Il problema è che i LLM acquisiscono competenze linguistiche generali (ad es. quelle che servono per fare summarization) e fattuali (chi è David Mayer) allo stesso modo, e anche se sulla modularizzazione si sono fatti progressi, tutto è più o meno fuso in un sol blocco. >> >> Diverso è il caso in cui gli LLM sono usati per fare Retrieval Augmented Generation (RAG). In questi casi, le competenze fattuali si trovano nei documenti 'in chiaro' dove il RAG va a pescare, e alla componente LLM spetta solo il compito di mettere in bella prosa alcuni passaggi informativi che non si trovano nel modello ma appunto in qualche testo leggibile e emendabile. >> >> La notizia è che per questo esercizio bastano modelli relativamente piccoli, anche 'aperti', e non è impensabile che questi possano essere costruiti con dati 'puliti'. >> Nota a margine: quello che GEDI dice di voler fare, da quello che capisco, è esattamente un RAG, come quello che altre testate (es. Washington Post) stanno sperimentando. Non c'è davvero bisogno che OpenAI faccia training sul loro archivio. >> >> G. >> >> On Tue, 3 Dec 2024 at 12:04, Stefano Quintarelli via nexa <nexa(a)server-nexa.polito.it> wrote: >> >>> Ciao Carlo >>> >>> On 02/12/24 23:55, Carlo Blengino wrote: >>>> Grazie! >>>> Interessante leggere come da lontano vedano il GDPR e il diritto >>>> all'oblio (o quello che è). >>>> La cosa più certa, al di là del caso Mayer, è che, mi pare, il GDPR se >>>> interpretato restrittivamente non è compatibile con la tecnologia degli >>>> LLM. Punto. Si possono fare un po' di accrocchi, ma di fondo c'è un >>>> totale contrasto, su più principi di base. E questo è un problema per >>>> l'Europa. >>> >>> non mi pare. >>> se non ricordo male c'e' un termine di 3 mesi, il che vorrebbe dire 4 >>> re-training del modello all'anno. >>> >>> per l'azienda si tratta di trovare il punto di equilibrio costi/benefici >>> rispetto alle dimensioni del proprio modello (e per il sistema, fare un >>> po' di ricerca su metodi di ottimizzazione) >>> https://neuralmagic.com/blog/24-sparse-llama-smaller-models-for-efficient-g… >>> >>> d'altronde, anche il consorzio obbligatorio degli olii usati è una >>> maggiorazione di costi per i meccanici... >>> :-) >>> >>>> Il caso GEDI https://www.ilsole24ore.com/art/nel-mirino-garante-l- >>>> accordo-gedi-openai-AGJLoOTB <https://www.ilsole24ore.com/art/nel- >>>> mirino-garante-l-accordo-gedi-openai-AGJLoOTB> ne è ulteriore riprova >>>> (quell'accordo e tutti gli accordi in atto sono una pessima deriva, sia >>>> chiaro, ma per altre ragioni) >>>> Aggiungo a scanso di equivoci, che questa considerazione non vuol dire a >>>> mio parere che vi sia incompatibilità tra queste tecnologie ed il >>>> sacrosanto diritto fondamentale alla protezione dei dati personali. >>>> CB >>>> >>>> >>>> >>>> Il giorno lun 2 dic 2024 alle ore 22:32 Daniela Tafani >>>> <daniela.tafani(a)unipi.it <mailto:daniela.tafani@unipi.it>> ha scritto: >>>> >>>> Dec 01, 2024 - Georg Zoeller (AILTI) >>>> The Curious Case of David Mayer, the man ChatGPT cannot name. >>>> >>>> ChatGPT users have noticed a curious behavior: It refuses to talk >>>> about a 'David Mayer'. We have the explanation and point out less >>>> obvious implications. >>>> >>>> TL;DR: While not a juicy conspiracy, OpenAI cut some corners on >>>> regulatory compliance and the implications are less benign than they >>>> seem. In fact, they can be weaponized with unexpected consequences. >>>> >>>> ChatGPT is well known for not knowing when to stop talking - the >>>> underlying transformer architecture lends itself to hallucinations >>>> in situations when the model is asked to generate text beyond the >>>> context it was trained on. Even more curious, sometimes it starts >>>> giving a response, only to change its mind mid sentence, and >>>> terminating the conversation. >>>> >>>> So naturally, when the software stops and refuses to answer, users >>>> take notice. In this case, ChatGPT users found that mention of the >>>> name “David Mayer”, whenever included in a message, would >>>> consistently cause the model to terminate the conversation. >>>> >>>> It’s a conspiracy! >>>> Creating even more mystery, chatGPT rejection messages quickly move >>>> from unhelpful to ominously threatening when the user starts >>>> investigating the phenomenon. >>>> >>>> Continua qui: >>>> <https://centreforaileadership.org/resources/ >>>> analysis_the_curious_case_of_one_david_mayer/ <https:// >>>> centreforaileadership.org/resources/ >>>> analysis_the_curious_case_of_one_david_mayer/>> >>>> >>>> >>>> >>>> -- >>>> * >>>> * >>>> *Avv. Carlo Blengino* >>>> * >>>> * >>>> /Via Duchessa Jolanda n. 19,/ >>>> /10138 Torino (TO) - Italy/ >>>> /tel. +39 011 4474035/ >>>> Penalistiassociati.it >>>> // >>> >>> -- >>> You can reach me on Signal: @quinta.01 (no Whatsapp, no Telegram) > > -- > > Avv. Carlo Blengino > Via Duchessa Jolanda n. 19, > 10138 Torino (TO) - Italy > > tel. +39 011 4474035 > Penalistiassociati.it

Dec. 6, 2024

Re: [nexa] The Curious Case of David Mayer, the man ChatGPT cannot name

by alessandro marzocchi

Gli ultimi scambi centrano il tema centrale del digitale, inclusa AI e sue declinazioni. Il digitale è un linguaggio, funziona come tale e questa caratteristica emerge più volte, basta pensare ai "linguaggi" di programmazione. Lo ricorda Guido Vetere - Vol 188, Issue 6 - scrivendo "i LLM acquisiscono competenze linguistiche generali". Penso di non sbagliare affermando che ne è "drammaticamente" consapevole Giacomo Tesio che, più sotto, scrive "Le mie figlie vivranno nella società che contribuiamo a creare, anche con questi dibattiti." Sono queste convinzioni - è chiaro che possono essere sbagliate e dalle quali ognuno può dissentire - che ogni tanto ed anche ora mi spingono a chiedere l'impegno di Nexa per proporre una alfabetizzazione, educazione al digitale e col digitale. Come si impara la lingua madre - nessuno "nasce imparato" - man mano che la si impara è bene cominciare ad imparare anche il digitale, con juicio avrebbe scritto Manzoni. Poi, come pochi diventano grandi nelle arti e nelle scienze, anche nel digitale pochi saliranno oltre il minimo, ma Giacomo ha ben spiegato - vol 188, Issue 9 - che c'è una difficoltà a trattare argomenti ma spesso (penso a me stesso ed alla quasi totalità dei destinatari del digitale) c'è la difficoltà di nemmeno intuire quanto c'è sotto la superficie. L'educazione è lenta e difficile ma è l'unica soluzione, senza escludere tutte le altre azioni ben note a lista Nexa. Cordialmente. Duccio (Alessandro Marzocchi) ***** Il giorno ven 6 dic 2024 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > > Message: 1 > Date: Fri, 6 Dec 2024 10:38:57 +0100 > From: Carlo Blengino <blengino(a)penalistiassociati.it> > To: Giacomo Tesio <giacomo(a)tesio.it> > Cc: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] The Curious Case of David Mayer, the man ChatGPT > cannot name > Il giorno ven 6 dic 2024 alle ore 10:37 Giacomo Tesio <giacomo(a)tesio.it> > ha > scritto: > > > Caro Carlo, > > ... > > Ecco, questa è la condizione di qualsiasi informatico competente che ti > > ascolta: può decidere (come abbiamo fatto Stefano Quintarelli, Stefano > > Borroni Barale e Stefano Zacchiroli ed io) di metterti in discussione, > > può approfittare della tua ignoranza, usandoti per diffondere propaganda > > sul tema, o può ignorarti per scoramento. > > > > Personalmente oscillo fra la prima e la terza opzione perché a parlare > > a vanvera di informatica siete davvero in tanti. > > > > > Giacomo, Ti prego, opta per la terza opzione: ignorami, e lasciami nella > mia consapevole ignoranza. > Un abbraccio > CB > ------------------------------ > > Message: 2 > Date: Fri, 6 Dec 2024 10:57:34 +0100 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] The Curious Case of David Mayer, the man ChatGPT > > On Fri, 6 Dec 2024 10:38:57 +0100 Carlo Blengino wrote: > > > Giacomo, Ti prego, opta per la terza opzione: ignorami, e lasciami > > nella mia consapevole ignoranza. > > Lo faccio più spesso di quanto immagini (non solo con te, ovviamente). > > Talvolta però leggere certe sciocchezze mi risulta moralmente > intollerabile. Le mie figlie vivranno nella società che contribuiamo > a creare, anche con questi dibattiti. > > In tali occasioni, mi sento moralmente obbligato a rispondere. > > Se preferisci, però, posso tornare al consueto sarcasmo. ;-) > > Giacomo > >

Dec. 6, 2024

avvocature e tecnologie

by karlessi

buongiorno scorrendo i recenti thread della ml mi è sovvenuto di Feyerabend, intendo il filosofo della scienza. appena editata questa breve raccolta di saggi https://www.eleuthera.it/scheda_libro.php?idlib=603 non nascondo la mia ammirazione per Feyerabend. trovo magnifico il fatto che... fa ridere, è molto divertente. una delle argomentazioni, da cui l'oggetto della mail, riguarda la capacità della pratica dell'avvocatura (quando esercitata nel senso anarco-dadaista propugnato da Feyerabend) di smontare il "sapere degli esperti". Non solo il re è nudo, ma l'esperto è nudo, come diceva un vecchio amico australiano; e chiunque può vederlo. personalmente avverso gli esperti: non le persone di grande esperienza (ci sono ancora, ma non si presentano come esperti), ma le persone che fanno calare dall'alto il loro (presunto) sapere, e che per rimanere esperti devono essere riconosciuti dai loro pari, ovvero da un qualche sistema dominante che anche grazie a loro si auto-legittima. E chi non si conforma viene come minimo dileggiato (si può anche finire sul rogo, o lapidati, perché no, è già successo e succede tuttora). Poi ci sono le idiosincrasie comportamentali, certo: e non mi piacciono gli atteggiamenti di chi viene a spiegarmi come funziona il mondo, per quanta "ragione" possa avere. le scienze, auspica Feyerabend, devono essere sottoposte al controllo delle persone, del popolo, della democrazia. altrimenti sono come le religioni. Ma così non è. Nemmeno per le tecnologie è così: vengono spesso imposte, come ineluttabili e ovvie, tanto più quelle attuali che non sono utensili ma trascinano con sé cambiamenti psico-sociali a catena (solita argomentazione, diciamo simondoniana per far presto: non sono utensili perché non si possono portare con sé: ogni paragone con il sempiterno martello è fuori luogo: lo smartphone con annessa "IA" richiede concatenazioni di macchine in rete per "funzionare"). Eppure persone abili nell'avvocatura possono smontare tutte le argomentazioni degli esperti. Queste persone potrebbero insegnarci a vedere le cose da altre prospettive, senza farsi portatrici degli interessi del più forte. Esempio a cui ricorro spesso: energia nucleare. Sì o no? O forse? Vogliamo lasciare la questione in mano agli esperti di nucleare? O peggio ai politici che si basano su tali esperti? Spero di no, ma purtroppo così avviene. Perché un fisico teorico dovrebbe avere un'opinione migliore della mia su come gestire dei fondi per la ricerca accademica, se non per il principio d'autorità in un settore esteso ad altri campi? Oggi sulla fantomatica IA sta avvenendo lo stesso. Si ammantano di spiegazioni "scientifiche" interessi altri, ricorrendo a tutto l'armamentario tipico della tradizione magico-alchemica, es. l'esperienza. Che F. ricorda è tipica della caccia alle streghe (si dimostra che una strega confessa di essere strega in seguito a specifiche torture. come volevasi dimostrare: è l'esperienza che lo dice!). Nella comunicazione "scientifica" odierna è assai peggiorata in senso autoritario: F. mette a confronto il Malleus maleficarum e una lettera di famosi e certificati scienziati contro l'astrologia, e gli scienziati ne escono molto male: protervi, ignoranti dell'argomento, saccenti, prevenuti, forti con i deboli e deboli con i forti... A chi tocca decidere come procedere con la ricerca spaziale? antibiotici? biotecnologie? armi automatiche "chirurgiche"? sostanze per "potenziare" gli umani, ormoni per trasformarli? ecc ecc ecc disgraziatamente si moltiplicano i panel di esperti Non sono gli esperti che mancano, tanto meno quelli prezzolati che concorrono per nuove linee di finanziamento. sono i dilettanti, i buoni dilettanti. Gli esempi di F. sono chiaramente Galileo e Copernico (Contro il metodo), ma anche Einstein ecc. La mia convinzione (indimostrabile) è che ogni persona può diventare un buon dilettante di un argomento qualsiasi, non importa quanto complesso. Se è volutamente complicato (il caso della "IA" è lampante), ci sono in ballo altre questioni. E non ci vuole certo un titolo accademico, o un'istruzione "superiore", bensì persone attorno accoglienti e disposte a condividere ciò che sanno. Gli umani "primitivi" erano in grado di sopravvivere in ambienti nei quali qualunque "moderno armato di razionalità scientifica" soccomberebbe rapidamente; e di tramandare le loro culture! Non mi pare che le nostre culture che si spacciano per superiori ed evolute stiano messe così bene: l'infrastruttura di Internet è ridicolmente fragile, il cemento armato dura pochissimo, e tutto il resto va di conseguenza. Non si tratta di semplificare i messaggi, ma di non perdersi nelle dispute secondarie. meno sicumera, più scetticismo; meno fede nella tecnoscienza, più fiducia nelle capacità delle persone più le persone intorno a noi saranno forti, capaci di non farsi abbindolare, disposte a mettersi in gioco contro ogni supposta evidenza scientifica tipo "le leggi del mercato" (scienza economica?), "il diritto degli Stati" (scienza giuridica?), "la tecnologia migliore" (mito del progresso che è regresso sociale), più avremo qualche possibilità di limitare le catastrofi che ci attendono. servono tutte le capacità, e mescolarle fra loro, con la letizia del dilettantismo, senza rigidità identitaria. e che ciascuno smetta di fare come se nessun altro fosse in grado di capire e agire in maniera informata. buona giornata k. -- "tecnologie conviviali - https://tc.eleuthera.it" "pedagogia hacker - https://circex.org" "tecnologie appropriate - https://alekos.net"

Dec. 6, 2024

Jump to page: