- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.
by Giuseppe Attardi April 16, 2023

April 16, 2023

La storia della nascita di Unix me l’ha raccontata di persona Ken Thompson. Disse che gli serviva un computer per poter programmare un gioco di scacchi e trovò in un sottoscala un PDP-7 abbandonato e chiese il permesso di utilizzarlo. Tuttavia il sistema operativo della DEC che ci girava era totalmente inadeguato e quindi decise di scrivere il suo, basato su questi tre principi: 1. Tutto è un file 2. Ogni comando è un processo e i processi si combinano attraverso pipe 3. Usare sempre la tecnica più potente disponibile (es espressioni regolari per il file matching) Questo lo venne a raccontare a un seminario che organizzai al Politecnico di Milano nel 1981, insieme a Bill Joy a illustrare la prima installazione di Unix BSD 4.1 fuori dagli USA. Il ruolo di Space Travel viene attribuito all’esperienza acquisita del PDP-7: la versione di Ken era scritta in assembler. One of the factors that made this possible [writing UNIX in assembly] was the proficiency that he had gained with that system while writing an early computer game called Space Travel. — Beppe > On 16 Apr 2023, at 18:50, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > From: Antonio <antonio(a)piumarossa.it <mailto:antonio@piumarossa.it>> > To: nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > sospesa se OpenAI adotterà le misure richieste. > Message-ID: <20230416171953.1e96bd154d4b5aa479c7c607(a)piumarossa.it <mailto:20230416171953.1e96bd154d4b5aa479c7c607@piumarossa.it>> > Content-Type: text/plain; charset=ISO-8859-1 > >> Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il gioco degli scacchi. > > Che Thompson sia stato un grande appassionato di scacchi è cosa nota. > Suo (e di Joe Condon) il computer scacchistico Belle [1] che tra gli anni settanta e ottanta sbaragliava gli avversari /artificiali/. In un'epoca in cui i programmi scacchistici non andavano oltre le 5000 mosse al secondo, il suo Belle ne computava 160000. > Tuttavia, da quello che riporta Wikipedia, il gioco che avrebbe portato alla scrittura di un sistema operativo completamente nuovo e che è andato a costituire il nucleo di Unix è stato Space Travel [2] > > Antonio > > [1] https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230416165022062402…) > [2] https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230416165022062402… >

1 0

ChatGPT invented a sexual harassment scandal and named a real law prof as the accused
by Benedetto Ponti April 16, 2023

April 16, 2023

ChatGPT invented a sexual harassment scandal and named a real law prof as the accused The AI chatbot can misrepresent key facts with great flourish, even citing a fake Washington Post article as evidence April 5, 2023 at 2:07 p.m. EDT One night last week, the law professor Jonathan Turley got a troubling email. As part of a research study, a fellow lawyer in California had asked the AI chatbot ChatGPT to generate a list of legal scholars who had sexually harassed someone. Turley’s name was on the list. Tech is not your friend. We are. Sign up for The Tech Friend newsletter. The chatbot, created by OpenAI, said Turley had made sexually suggestive comments and attempted to touch a student while on a class trip to Alaska, citing a March 2018 article in The Washington Post as the source of the information. The problem: No such article existed. There had never been a class trip to Alaska. And Turley said he’d never been accused of harassing a student. A regular commentator in the media, Turley had sometimes asked for corrections in news stories. But this time, there was no journalist or editor to call — and no way to correct the record. (continua qui: https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/) --

11 24

Pause Giant AI Experiments: An Open Letter
by J.C. DE MARTIN April 16, 2023

April 16, 2023

Primi firmatari: Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak. jc* Pause Giant AI Experiments: An Open Letter** * /We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. / https://futureoflife.org/open-letter/pause-giant-ai-experiments/ // AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research^[1] and acknowledged by top AI labs.^[2] As stated in the widely-endorsed Asilomar AI Principles <https://futureoflife.org/open-letter/ai-principles/>, /Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources/. Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control. Contemporary AI systems are now becoming human-competitive at general tasks,^[3] and we must ask ourselves: /Should/ we let machines flood our information channels with propaganda and untruth? /Should/ we automate away all the jobs, including the fulfilling ones? /Should/ we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? /Should/ we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders. *Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable.* This confidence must be well justified and increase with the magnitude of a system's potential effects. OpenAI's recent statement regarding artificial general intelligence <https://openai.com/blog/planning-for-agi-and-beyond>, states that /"At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models."/ We agree. That point is now. Therefore, *we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4*. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium. AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.^[4] This does /not/ mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities. AI research and development should be refocused on making today's powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal. In parallel, AI developers must work with policymakers to dramatically accelerate development of robust AI governance systems. These should at a minimum include: new and capable regulatory authorities dedicated to AI; oversight and tracking of highly capable AI systems and large pools of computational capability; provenance and watermarking systems to help distinguish real from synthetic and to track model leaks; a robust auditing and certification ecosystem; liability for AI-caused harm; robust public funding for technical AI safety research; and well-resourced institutions for coping with the dramatic economic and political disruptions (especially to democracy) that AI will cause. Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an "AI summer" in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society.^[5] We can do so here. Let's enjoy a long AI summer, not rush unprepared into a fall.

8 15

Algorithmic Disgorgement: Destruction of Artificial Intelligence Models as the FTC's Newest Enforcement Tool for Bad Data
by Stefano Quintarelli April 15, 2023

April 15, 2023

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4382254 The Federal Trade Commission has recently begun to require algorithmic disgorgement in its enforcement of data protection laws – the deletion of not just the improperly obtained data itself, but artificial intelligence models and algorithms built using such data. This Article provides a brief overview of machine learning models and algorithms and the basic function and use of artificial intelligence and describes the FTC’s role in the regulation and enforcement of data collection rules. It then discusses recent enforcement actions brought by the FTC that utilized algorithmic disgorgement, analyzes the legality of the FTC’s authority to order destruction of computer data models and algorithms, and discusses the likelihood and possibility of future use of the new remedy, as well as the shape that any future use is likely to take. Finally, it deliberates on the legal, policy, and practical implications of algorithmic disgorgement and proposes some possible alternatives to and restraints on the FTC’s use of algorithmic destruction orders. non conoscevo queste due recenti sentenze dell'FTC. era quello che scrivevo qui https://blog.quintarelli.it/2023/04/on-chatgpt-and-the-decision-by-the-ital… sarà sempre di più così. ..

1 0

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.
by Giuseppe Attardi April 14, 2023

April 14, 2023

Sottoscrivo, per non lasciare Guido solo, nel suo sforzo di invitare a riflettere anche sugli aspetti tecnici, che sono rilevanti e innovativi, e non solo su quelli normativi. Ci sono stati 3 breakthrough scientifici nel campo dei LLM in soli 10 anni. Se non si affronta la questione tenendo conto della derivata e si guarda solo allo stato attuale, si perde di vista il quadro prospettico. Paradossalmente è più sensata la richiesta di fermare lo sviluppo dei LLM che quella di regolamentarli oggi con le scarse conoscenze che abbiamo del loro funzionamento e dei loro potenziali benefici. Anche se ovviamente fermare il progresso è oscurantista e pericoloso, se affidato solo ai governi o a coloro che essi scelgono. AStefano ribatto che rallentare il "progressivo sviluppo (di qualche megacorporate)” non è l'unica scelta possibile, ma c'è anche quella di accelerare lo sviluppo della scienza e della tecnologia da parte della comunità scientifica internazionale. Per l’energia atomica, abbiamo da una parte firmato trattati di non proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il CERN, con fondi pubblici, per permettere di studiare la scienza delle particelle e della costituzione dell’universo. — Beppe > On 13 Apr 2023, at 12:00, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > From: Guido Vetere <vetere.guido(a)gmail.com <mailto:vetere.guido@gmail.com>> > To: Stefano Quintarelli <stefano(a)quintarelli.it <mailto:stefano@quintarelli.it>> > Cc: Nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > sospesa se OpenAI adotterà le misure richieste. > Message-ID: > <CAD3hHB494OGr98BxTs7RDzz_Dem_O7JrsRzWpPKEikVE-W0A_w(a)mail.gmail.com <mailto:CAD3hHB494OGr98BxTs7RDzz_Dem_O7JrsRzWpPKEikVE-W0A_w@mail.gmail.com>> > Content-Type: text/plain; charset="utf-8" > > Caro Stefano, > queste facili ironie (per glissare sugli insulti) rivelano il sottofondo > ideologico della questione. > Si interpreta la vicenda come la difesa dei diritti contro il profitto, e > ci si compiace per la propria democraticità. > Benissimo. Questo però offusca una visione chiara della cosa, e rischia di > fornire l'alibi per continuare a non capire certi aspetti tecnici. > Il punto non è tanto che rifare il training ogni 6 mesi costa 80M (e > svariati gigawatt), il punto è che bonificare terabyte di dati testuali da > tutto ciò che può riguardare il sig, Mario Rossi che ha fatto opt-out è > un'impresa abbastanza ardua (cosa facciamo col Mario Rossi che ha fatto > opt-in?), e in ogni caso nulla garantisce che un sistema generativo basato > su trasformers non possa comunque inventare storielle su 'Mario Rossi' > sulla base di analogie ('somiglianze di famiglia' per usare una metafora > wittgensteiniana) > Non vorrei sembrare arrogante, e mi scuso in anticipo, ma credo davvero che > la questione vada studiata più a fondo. > G. > > > > > > On Thu, 13 Apr 2023 at 07:46, Stefano Quintarelli <stefano(a)quintarelli.it <mailto:stefano@quintarelli.it>> > wrote: > >> >> eh gia', quelle cose fastidiose chiamate regole, che impongono limiti al >> magnifico e >> progressivo sviluppo (di qualche megacorporate). non sono questi i veri >> problemi. il >> problema e' che magari ci sfugge di mano e schiavizza l'umanita'! di >> quello ci dovremmo >> occupare! mica di impatti sulla societa', sui lavoratori, fiscali, ecc. >> ecc. >> >> scusa la facile ironia, ma dissento. >> >> On 12/04/23 22:57, Guido Vetere wrote: >>> non credo che Google e Microsoft stiano lì a rivedere i loro piani sulla >> base degli >>> ultimatum del Garante italiano, più verosimilmente tutta questa vicenda >> sarà solo una >>> annoyance per chi in Italia continuerà a usare quei servizi per lavoro, >> del tutto >>> disinteressati alla tua e alla mia biografia >> >> premesso che la cosa non e' IT ma UE, ma anche mmettendo fosse solo IT, >> dipenderebbe solo >> se in IT fanno piu' soldi di quanto gli costerebbe >> e la risposta ovvia e' si. (e gia' successo e succedera' ancora) >> >> supponiamo il garante trovi proporzionale che l'opt out sia entro 60 >> giorni e non entro 30. >> >> supponiamo che >> - un retraining del modello costi 20M >> - ne facciano di per se' gia uno ogni sei mesi >> - sono 4 retraining aggiuntivi, pari a 80M >> >> bazzeccole. >> rinuncio al fatturato IT per bazzeccole ? (cosa che tra l'altro mi >> metterebbe al riparo da >> fastidi analoghi in altri paesi) >> >> ciao, s.

7 10

Open Source negli atenei: la nuova PoliTO Students App
by Fulvio Corno April 14, 2023

April 14, 2023

Buongiorno a tutti/e, in questi giorni di mirabolanti applicazioni della AI, vorrei condividere con questa lista, in quanto sensibile alle tematiche Open Source, una piccola novità (ma importante nel nostro piccolo): al Politecnico di Torino è in corso lo sviluppo di una nuova applicazione mobile ufficiale (che gradualmente sostituirà quella precedente, ormai obsoleta). La vera novità sta nel fatto che la nuova App è stata sviluppata con un team aperto (personale tecnico + studenti laureandi e laureati + docenti), è rilasciata con licenza open (EUPL), ed è in fase di "public beta" in cui il testing e lo sviluppo viene guidato anche dalle segnalazioni e dai suggerimenti degli utenti. Chi fosse interessato ad approfondire può vedere la news ufficiale (https://www.polito.it/ateneo/comunicazione-e-ufficio-stampa/poliflash/nasce…) oppure tuffarsi direttamente nel repository GitHub (https://github.com/polito) Cordialemnte, Fulvio Corno -- -- Fulvio Corno <Fulvio.Corno(a)polito.it> Referente del Rettore per le tecnologie a supporto della didattica Vice-coordinatore Collegio ing. Informatica, Cinema e Meccatronica <coord.icm(a)polito.it> Politecnico di Torino - Dip. di Automatica e Informatica C.so Duca degli Abruzzi 24, 10129 Torino (Italy) http://elite.polito.it/

1 0

ChatGPT: promesse e illusioni - Lunedì 17 aprile ore 16, Circolo dei lettori di Torino
by Guido Boella April 14, 2023

April 14, 2023

Carissime e carissimi segnalo evento di possibile interesse, anche in streaming, organizzato dal progetto AI Aware dell'Università di Torino e dalla Società Italiana per l'Etica dell'Intelligenza Artificiale ChatGPT: promesse e illusioni - Lunedì 17 aprile ore 16, Circolo dei lettori di Torino https://ai-aware.unito.it/2023/04/01/chatgpt-promesse-e-illusioni/ ChatGPT: promesse e illusioni Limiti e potenzialità del fenomeno informatico del momento Lunedì 17 aprile alle ore 16.00, il Circolo dei lettori di Torino (via Bogino 9) ospiterà in Sala Grande l’incontro ChatGPT: promesse e illusioni, con la partecipazione di Stefano Bartezzaghi, Elena Esposito, Roberto Navigli, Daniela Tafani e la moderazione di Guido Boella: un appuntamento multidisciplinare dedicato al fenomeno informatico del momento e ai miti, dubbi e paure che si sono rapidamente creati intorno al suo nome. “ChatGPT e gli altri cosiddetti Large Language Model rappresentano la frontiera dell’applicazione dell’AI nella nostra vita lavorativa e quotidiana”, spiega Guido Boella, informatico dell’Università degli Studi di Torino, cofondatore della Società Italiana per l’Etica dell’Intelligenza Artificiale e responsabile scientifico di FirstLife, il primo social network civico, co-progettato con la cittadinanza e le istituzioni del territorio torinese. “Sta a noi comprenderne le opportunità, i limiti e i rischi e supportare i legislatori, prima di tutto quelli Europei, nel costruire un quadro normativo che risponda alle nostre esigenze e non a quelle dei giganti di Silicon Valley che stanno introducendo prematuramente sul mercato tecnologie che possono avere un impatto profondo sulla nostra società, nel bene e nel male, come abbiamo visto succedere con i social network nel decennio che ci precede.” Cosa può fare? Come funziona? Potrà davvero sostituire l’essere umano? L’Intelligenza Artificiale e i suoi strumenti sono sulla bocca di tutti, la necessità di chiarirne le funzioni, gli utilizzi, le incognite e le potenzialità si fa sempre più urgente, soprattutto di fronte al rapido avanzamento di un chatbot basato su Intelligenza Artificiale che ha raccolto in pochi mesi più di 100 milioni di utenti. Per capire cosa sia ChatGPT, quali siano i rischi e i benefici del suo utilizzo, il 17 aprile al Circolo dei lettori interverranno Stefano Bartezzaghi, semiologo dell’Università IULM di Milano, Elena Esposito, sociologa dell’Università Alma Mater Studiorum di Bologna, Roberto Navigli, informatico dell’Università di Roma La Sapienza e Daniela Tafani, filosofa politica dell’Università di Pisa. L’evento sarà un’occasione per scandagliare insieme un tema caldo (e che promette di diventarlo sempre di più) da diversi e cruciali punti di vista - etico, politico, scientifico - per non cadere preda di facili entusiasmi ma nemmeno di paure infondate. L’incontro, organizzato con la Società Italiana per l'Etica dell'Intelligenza Artificiale (SIpEIA) e finanziato dal progetto AI Aware dell'Università di Torino, sarà disponibile anche in streaming al link https://tinyurl.com/5f8pn3kw. Ufficio Stampa Stilema Simona Oliva | simona.oliva(a)stilema-to.it | +39 389 488 6947 Federica Cucci | federica.cucci(a)stilema-to.it | +39 328 730 3718 Un cordiale saluto Guido [image: ChatGPT promesse e illusioni.png] -- Dipartimento di Informatica Università di Torino Cso Svizzera 185 10149 Torino Vice-Rettore Vicario dell'Università di Torino per la promozione dei rapporti con le imprese e le associazioni di categoria delle imprese e per il coordinamento con le iniziative di innovazione industriale sul territorio Vicepresidente del Competence Center CIM4.0 www.cim40.com Visitate i siti delle nostre iniziative www.firstlife.org www.commonshood.eu www.projectco3.eu www.sipeia.it www.chedih.eu

1 0

Re: [nexa] The principle of technological inevitability
by alessandro marzocchi April 13, 2023

April 13, 2023

Era inevitabile la parola, primo artefatto prima tecnologia? E' evitabile il digitale? Con l'imbarazzo di trovarmi in una posizione diversa da "tanti" nomi, nell'argomento trovo poca utilità, è arrivata la parola, il digitale ed altro, in sostanza "attrezzi" la cui direzione è nostra responsabilità. L'attrezzo nuovo, il digitale, conquista funzioni umane in numero e qualità crescenti, potrebbe incidere in profondità nel nostro (modo di) essere, fondamentalmente erodendo l'autonomia della nostra facoltà critica che è la caratteristica che distingue l'umano. Vedendo, temendo questa erosione spero di sbagliare. Sono ottimi molti suggerimenti che ho letto in listaNexa, praticamente tutti, ma - convinzione mia - l'unico rimedio radicale è rendere completamente verificabile e riproducibile l'intero processo di programmazione. ... se di fatto (parte de) il digitale ha l'efficacia imperativa di una legge ... quando il digitale non è conoscibile ci troviamo in una situazione di inconoscibilità della regola. E' una situazione scomoda, andava evitata, va avversata. Grazie per quanto mi insegnate. Duccio (Alessandro Marzocchi) Il giorno gio 13 apr 2023 alle ore 21:29 <nexa-request(a)server-nexa.polito.it> ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: ChatGPT disabled for users in Italy (alessandro marzocchi) > 2. Re: ChatGPT disabled for users in Italy (Stefano Quintarelli) > 3. The principle of technological inevitability [era: ChatGPT > disabled for users in Italy] (Daniela Tafani) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Thu, 13 Apr 2023 20:02:14 +0200 > From: alessandro marzocchi <alemarzoc(a)gmail.com> > To: nexa(a)server-nexa.polito.it, stefano(a)quintarelli.it > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Message-ID: > <CAG5xczfJnpbhJ= > x+hs5FhUKt0tr3nGvVJ9Cdz6NgUrgnFfqk_Q(a)mail.gmail.com> > Content-Type: text/plain; charset="utf-8" > > Puoi inviare il link alla proposta di legge cui ti riferisci? > Cosa intendi, a cosa riferisci "penso che questo sia una sorta di > inevitabilismo"? > Grazie e cordialità. > Duccio (Alessandro Marzocchi) > > > Date: Thu, 13 Apr 2023 17:53:56 +0200 > > From: Stefano Quintarelli <stefano(a)quintarelli.it> > > penso che questo sia una sorta di inevitabilismo > > quando ho fatto la mia PDL su device neutrality (arrivata in italia ad un > > voto > > dall'approvazione, come qualcuno di voi ricordera') ho toccato con mano > la > > paura che > > costoro avevano. > > in una lunga e spiacevole riunione con un capo delle relazioni > > istituzionali a Bruxelles > > mi fu prospettato per il post parlamento un futuro radioso per competenze > > come le mie, in > > silicon valley. > > si spesero molto in lobby per fare in modo che l'ultimo voto non > arrivasse > > mai. > > il potere dello stato e' grande e per loro era un forte rischio, tanto da > > spendersi > > cospicuamente in lobby. > > il voto finale al senato non arrivo' mai, termino' la legislatura. > > pero' le mie previsioni sono finite nel digital markets act. > > ciao, s. > > > > On 13/04/23 17:14, alessandro marzocchi wrote: > > > A me pare che lo stato di diritto sia in forte crisi avviata prima > > ancora della > > > transizione digitale, quest'ultima la accentua e potrebbe dargli il > > colpo finale. > > > [Qual'è il potere di un stato (Italia, ma anche Cina, Ue, Usa) di > fronte > > alla "fattualità" > > > dei colossi digitali? Parafrasando Manzoni, parlerei di "grida" che > > inutilmente cercano di > > > arginare i fatti] > > > Con questi timori si deve insistere per rendere completamente > > verificabile e riproducibile > > > l'intero processo di programmazione. > > > Cordialmente > > > Duccio (Alessandro Marzocchi) > > > > > > Date: Thu, 13 Apr 2023 10:49:17 +0000 > > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > > > To: Guido Vetere <vetere.guido(a)gmail.com <mailto: > > vetere.guido(a)gmail.com>>, 380° > > > <g380(a)biscuolo.net <mailto:g380@biscuolo.net>> > > > Il 12 Aprile 2023 14:28:03 UTC, Guido Vetere < > vetere.guido(a)gmail.com > > > <mailto:vetere.guido@gmail.com>> ha scritto: > > > >Giacomo, > > > >anche il LM più puri usati per il più innocente task di > > classificazione > > > >potrebbero essere stati addestrati con dati ottenuti senza il > > consenso > > > >esplicito di chi li ha condivisi, dunque in violazione del GDPR. > > > >Che vogliamo fare? > > > > > > Nella peggiore delle ipotesi, quello che si fa con l'Eternit, per > > esempio. > > > Possibilmente prima che faccia troppi danni alle persone e alla > > società. > > > Però la questione che poni sul dataset usato per la programmazione > > statistica ha una > > > soluzione > > > estremamente semplice. > > > Basta imporre che tutti i dataset utilizzati durante la > > programmazione statistica > > > ("training" nella vulgata), inclusi quelli usati per la cross > > validation e il test, > > > nonché tutti gli > > > altri dati necessari a riprodurre esattamente il processo ed > > ottenere esattamente il > > > modello > > > in produzione (e le sue alternative scartate), siano preservati per > > tutta la durata > > > della sua permanenza in produzione e diciamo 20 anni dopo (in caso > > di aggiornamento). [1] > > > Rendendo verficabilmente e completamente riproducibile il processo > > di programmazione > > > statistica, Open AI (come chiunque altro) potrà facilmente > > dimostrare di non aver > > > utilizzato dati > > > ottenuti in violazione di qualsisi Legge. > > > Più costoso (ma spesso possibile) sarà dimostrare che la selezione > > del dataset > > > o il processo di programnazione utilizzato non abbia prodotto > > specifiche discriminazioni. > > > Molto più complesso e costoso, dimostrare di non aver voluto > imporre > > al modello alcuna > > > discriminazione intenzionale. > > > Tuttavia parliamo di cose perfettamente fattibili sul piano > tecnico, > > ancorché costose. > > > Ma si sa: l'innovazione costa. > > > E al DARPA hanno un sacco di soldi per finanziarla. ;-) > > > L'importante è impedire che qualsiasi tecnologia possa essere usata > > per violare i > > > diritti delle persone > > > (a vantaggio di altre persone, per altro) > > > Perché se passasse questo principio, dovremmo dire addio allo Stato > > di Diritto, > > > con tutto ciò che questo comporta. > > > Inclusa, ad esempio, l'abolizione del diritto alla proprietà > privata. > > > Si può fare eh! > > > Ma sei sicuro che sia ciò a cui aspiri? > > > Giacomo > > > [1]: inclusi ovviamente vettori di inizializzazione, valori > ottenuti > > da sorgenti > > > randomiche, > > > ordine esatto e contenuto dei batch di vettori usati durante il > > processo di > > > programmazione statistica etc... tutto insomma ciò che serve a > > riottenere esattamente > > > quel binario codato come matrice. > > > > >

1 0

Assegno di ricerca
by de petra giulio April 13, 2023

April 13, 2023

Segnalo che nel progetto "FAIR - Future Artificial Research", partenariato PNRR la Scuola Normale di Firenze ha bandito un *assegno di ricerca di 2 anni* *sull'impatto sociale ed economico dell'intelligenza artificiale* e delle tecnologie digitali sulla democrazia sia politica che industriale Per informazioni contattare il responsabile del progetto Hans-Jorg Trenz hansjorg.trenz(a)sns.it il bando è qui *https://amministrazionetrasparente.sns.it/bando/fair-future-artificial-research <https://amministrazionetrasparente.sns.it/bando/fair-future-artificial-rese…>* La scadenza è il 2 maggio.

1 0

Re: [nexa] ChatGPT disabled for users in Italy
by alessandro marzocchi April 13, 2023

April 13, 2023

Puoi inviare il link alla proposta di legge cui ti riferisci? Cosa intendi, a cosa riferisci "penso che questo sia una sorta di inevitabilismo"? Grazie e cordialità. Duccio (Alessandro Marzocchi) Date: Thu, 13 Apr 2023 17:53:56 +0200 > From: Stefano Quintarelli <stefano(a)quintarelli.it> > penso che questo sia una sorta di inevitabilismo > quando ho fatto la mia PDL su device neutrality (arrivata in italia ad un > voto > dall'approvazione, come qualcuno di voi ricordera') ho toccato con mano la > paura che > costoro avevano. > in una lunga e spiacevole riunione con un capo delle relazioni > istituzionali a Bruxelles > mi fu prospettato per il post parlamento un futuro radioso per competenze > come le mie, in > silicon valley. > si spesero molto in lobby per fare in modo che l'ultimo voto non arrivasse > mai. > il potere dello stato e' grande e per loro era un forte rischio, tanto da > spendersi > cospicuamente in lobby. > il voto finale al senato non arrivo' mai, termino' la legislatura. > pero' le mie previsioni sono finite nel digital markets act. > ciao, s. > > On 13/04/23 17:14, alessandro marzocchi wrote: > > A me pare che lo stato di diritto sia in forte crisi avviata prima > ancora della > > transizione digitale, quest'ultima la accentua e potrebbe dargli il > colpo finale. > > [Qual'è il potere di un stato (Italia, ma anche Cina, Ue, Usa) di fronte > alla "fattualità" > > dei colossi digitali? Parafrasando Manzoni, parlerei di "grida" che > inutilmente cercano di > > arginare i fatti] > > Con questi timori si deve insistere per rendere completamente > verificabile e riproducibile > > l'intero processo di programmazione. > > Cordialmente > > Duccio (Alessandro Marzocchi) > > > > Date: Thu, 13 Apr 2023 10:49:17 +0000 > > From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> > > To: Guido Vetere <vetere.guido(a)gmail.com <mailto: > vetere.guido(a)gmail.com>>, 380° > > <g380(a)biscuolo.net <mailto:g380@biscuolo.net>> > > Il 12 Aprile 2023 14:28:03 UTC, Guido Vetere <vetere.guido(a)gmail.com > > <mailto:vetere.guido@gmail.com>> ha scritto: > > >Giacomo, > > >anche il LM più puri usati per il più innocente task di > classificazione > > >potrebbero essere stati addestrati con dati ottenuti senza il > consenso > > >esplicito di chi li ha condivisi, dunque in violazione del GDPR. > > >Che vogliamo fare? > > > > Nella peggiore delle ipotesi, quello che si fa con l'Eternit, per > esempio. > > Possibilmente prima che faccia troppi danni alle persone e alla > società. > > Però la questione che poni sul dataset usato per la programmazione > statistica ha una > > soluzione > > estremamente semplice. > > Basta imporre che tutti i dataset utilizzati durante la > programmazione statistica > > ("training" nella vulgata), inclusi quelli usati per la cross > validation e il test, > > nonché tutti gli > > altri dati necessari a riprodurre esattamente il processo ed > ottenere esattamente il > > modello > > in produzione (e le sue alternative scartate), siano preservati per > tutta la durata > > della sua permanenza in produzione e diciamo 20 anni dopo (in caso > di aggiornamento). [1] > > Rendendo verficabilmente e completamente riproducibile il processo > di programmazione > > statistica, Open AI (come chiunque altro) potrà facilmente > dimostrare di non aver > > utilizzato dati > > ottenuti in violazione di qualsisi Legge. > > Più costoso (ma spesso possibile) sarà dimostrare che la selezione > del dataset > > o il processo di programnazione utilizzato non abbia prodotto > specifiche discriminazioni. > > Molto più complesso e costoso, dimostrare di non aver voluto imporre > al modello alcuna > > discriminazione intenzionale. > > Tuttavia parliamo di cose perfettamente fattibili sul piano tecnico, > ancorché costose. > > Ma si sa: l'innovazione costa. > > E al DARPA hanno un sacco di soldi per finanziarla. ;-) > > L'importante è impedire che qualsiasi tecnologia possa essere usata > per violare i > > diritti delle persone > > (a vantaggio di altre persone, per altro) > > Perché se passasse questo principio, dovremmo dire addio allo Stato > di Diritto, > > con tutto ciò che questo comporta. > > Inclusa, ad esempio, l'abolizione del diritto alla proprietà privata. > > Si può fare eh! > > Ma sei sicuro che sia ciò a cui aspiri? > > Giacomo > > [1]: inclusi ovviamente vettori di inizializzazione, valori ottenuti > da sorgenti > > randomiche, > > ordine esatto e contenuto dei batch di vettori usati durante il > processo di > > programmazione statistica etc... tutto insomma ciò che serve a > riottenere esattamente > > quel binario codato come matrice. > >

3 2