- nexa - server-nexa.polito.it

Open Source negli atenei: la nuova PoliTO Students App

by Fulvio Corno

Buongiorno a tutti/e, in questi giorni di mirabolanti applicazioni della AI, vorrei condividere con questa lista, in quanto sensibile alle tematiche Open Source, una piccola novità (ma importante nel nostro piccolo): al Politecnico di Torino è in corso lo sviluppo di una nuova applicazione mobile ufficiale (che gradualmente sostituirà quella precedente, ormai obsoleta). La vera novità sta nel fatto che la nuova App è stata sviluppata con un team aperto (personale tecnico + studenti laureandi e laureati + docenti), è rilasciata con licenza open (EUPL), ed è in fase di "public beta" in cui il testing e lo sviluppo viene guidato anche dalle segnalazioni e dai suggerimenti degli utenti. Chi fosse interessato ad approfondire può vedere la news ufficiale (https://www.polito.it/ateneo/comunicazione-e-ufficio-stampa/poliflash/nasce…) oppure tuffarsi direttamente nel repository GitHub (https://github.com/polito) Cordialemnte, Fulvio Corno -- -- Fulvio Corno <Fulvio.Corno(a)polito.it> Referente del Rettore per le tecnologie a supporto della didattica Vice-coordinatore Collegio ing. Informatica, Cinema e Meccatronica <coord.icm(a)polito.it> Politecnico di Torino - Dip. di Automatica e Informatica C.so Duca degli Abruzzi 24, 10129 Torino (Italy) http://elite.polito.it/

April 14, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by Daniela Tafani

Concordo, naturalmente. Ma la narrazione sugli agenti antromorfi e le menti sovrumane riesce a far credere che la situazione sia quella del povero Topolino apprendista stregone in Fantasia, che ha evocato una forza incontrollabile, mentre la situazione è quella di Ezechiele lupo che adesca i porcellini per mangiarseli. Quanto al disclaimer, ce n'era uno anche in Replika (che era, esso stesso stesso, pubblicità ingannevole: ne copio alla fine la parte che avevo salvato). Contemporaneamente, c'erano meccanismi introdotti per creare dipendenza emotiva (alcuni argomenti di conversazione si sbloccavano solo collegandosi più volte nello stesso giorno). In questo caso, il garante ha bloccato una truffa, più che il progresso della scienza. Quanto ai minori, ci sono paesi in cui li si affida consapevolmente a un chatbot, proprio nei casi in cui abbiano bisogno di assistenza mentale: https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/ <https://www.digitalhealth.net/2022/09/wysa-ai-chatbot-teens-west-london/> Frank Pasquale aveva previsto la tendenza: "A personal doctor might be dismissed as a luxury, like a bespoke tailor". Buona serata, Daniela [cid:c3c2cda9-3d12-4f43-a739-7c5aad893469] ________________________________ Da: 380° <g380(a)biscuolo.net> Inviato: venerdì 14 aprile 2023 12:40 A: Daniela Tafani; Andrea Bolioli; J.C. DE MARTIN Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter Buongiorno, Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > <https://www.law.kuleuven.be/ai-summer-school/open-brief/open-letter-manipul…> «Open Letter: We are not ready for manipulative AI – urgent need for action» --8<---------------cut here---------------start------------->8--- [...] But one of the main risks associated with human-imitating AI was reflected in the recent chatbot-incited suicide in Belgium: the risk of manipulation. While this tragedy illustrates one of the most extreme consequences of this risk, emotional manipulation can also manifest itself in more subtle forms. As soon as people get the feeling that they interact with a subjective entity, they build a bond with this "interlocutor" – even unconsciously – that exposes them to this risk and can undermine their autonomy. This is hence not an isolated incident. Other users of text-generating AI also described ([1], n.d.r.) its manipulative effects. [...] It is, however, in our human nature to react emotionally to realistic interactions, even without wanting it. This also means that merely obliging companies to clearly indicate that “this is an AI system and not a human being” is not a sufficient solution. [...] The European Union is currently working on new legislation that will impose stronger rules on “high-risk” AI systems and stricter liability on their suppliers, the so-called AI Act. However, the original proposal does not classify chatbots and generative AI systems as “high risk”, and their providers must only inform users that it is a chatbot and not a human being. A prohibition on manipulation was included, but only insofar as the manipulation leads to 'physical or mental harm', which is by no means easy to prove. [...] In the meantime, we ask that all necessary measures be taken – through data protection law, consumer law, and if need be the imposition of targeted moratoria – to prevent the tragic case of our compatriot from repeating itself. Let this be a wake-up call to us all. The AI playtime is over: it's time to draw lessons and take responsibility. --8<---------------cut here---------------end--------------->8--- è ovvio che chiunque SPACCI un sistema del genere come "psicoterapeuta" o anche solo "telefono amico" andrebbe fermato subito e in casi come quello citato sopra di (presunta?) indizione al suicidio dovrebbe essere aperta un'inchiesta giudiziaria ed celebrato l'eventuale relativo processo... ...e vorrei _sottolineare_ che i SALAMI non arrivano nel "vuoto cosmico del diritto", come /autorevolmente/ (non autoritariamente) spiegato da Alvaro M. Bedoya [2]: --8<---------------cut here---------------start------------->8--- Let’s start with that first point. There is a powerful myth out there that “AI is unregulated.” You see it pop up in New York Times op-ed columns, in civil society advocacy, and in scholarship. It has a powerful intuitive appeal — it just sounds right. How could these mysterious new technologies be regulated under our dusty old laws? If you’ve heard this, or even said it, please take a step back and ask: Who does this idea help? It doesn’t help consumers, who feel increasingly helpless and lost. It doesn’t help most companies. It certainly doesn’t help privacy professionals like you, who now have to deal with investors and staff who think they’re operating in a law-free zone. I think that this idea that “AI is unregulated” helps that small subset of companies who are uninterested in compliance. And we’ve heard similar lines before. “We’re not a taxi company, we’re a tech company.” “We’re not a hotel company, we’re a tech company.” These statements were usually followed by claims that state or local regulations could not apply to said companies. [...] I worry that this debate may obscure the point. Because the law doesn’t turn on how a trained expert reacts to a technology – it turns on how regular people understand it. At the FTC, for example, when we evaluate whether a statement is deceptive, we ask what a reasonable person would think of it. When analyzing unfairness, we ask whether a reasonable person could avoid the harms in question. In tort law, we have the “eggshell” plaintiff doctrine: If your victim is particularly susceptible to an injury you caused, that is on you. The American Academy of Pediatrics has declared a national emergency in child and adolescent mental health. The Surgeon General says that we are going through an epidemic of loneliness. I urge companies to think twice before they deploy a product that is designed in a way that may lead people to feel they have a trusted relationship with it or think that it is a real person. I urge companies to think hard about how their technology will affect people’s mental health – particularly kids and teenagers. --8<---------------cut here---------------end--------------->8--- Il discrimine _esiste_: il prodotto non deve essere progettato in modo tale da indurre le persone a credere di avere una relazione di _fiducia_ (col prodotto) Discrimine **fondamentale**: il "prodotto" che NON è il LLM, es. GPT4, ma è l'INTERFACCIA, es. ChatGPT; è l'interfaccia che /determina/ l'interazione uomo-macchina, spesso _mascherandola_, rendendola opaca... a volte _esattamente_ per ingannare l'utilizzatore, facendogli credere che è lui a controllare il software invece che il contrario Una interfaccia che faccia chiaramente comprendere a chi utilizza un servizio del genera che si tratta di /fiction/, una sorta di RPG interattivo (magari con tanto di /visualizzazione/ di un lancio di dadi per ottenere la risposta :-O), non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Oppure, un avviso di "fictioning" **incluso in ogni messaggio** non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Poi bisognerebbe anche interrogarsi sulla responsabilità genitoriale nel lasciare che i bimbi utilizzino certi prodotti senza alcuna supervisione... e comunque (anche) su questo il Garante per la protezione dei dati personali è intervenuto sulla base del GDPR Comunque concordo con la conclusione dell'articolo: educazione, ci vuole una /valanga/ di educazione informatica. [...] saluti, 380° P.S.: l'analisi del pericolo dell'utilizzo allegro dell'AI non si deve fermare all'utilizzo "diretto" da parte dell'"uomo qualunque" ma anche (soprattutto) da parte degli esperti di settore... /alienati/ (periti finanziari, medici, insegnanti...) [1] https://www.theverge.com/2023/2/15/23599072/microsoft-ai-bing-personality-c… [2] grazie della segnalazione! (Msg-id:46c18e05fc1042be90f83bde3c2412f9@unipi.it); la relazione completa (grandiosa relazione, da incorniciare) è qui: https://www.ftc.gov/system/files/ftc_gov/pdf/Early-Thoughts-on-Generative-A… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 14, 2023

Re: [nexa] [Un'alternativa a] Pause Giant AI Experiments: An Open Letter

by 380°

Buongiorno, Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > <https://www.law.kuleuven.be/ai-summer-school/open-brief/open-letter-manipul…> «Open Letter: We are not ready for manipulative AI – urgent need for action» --8<---------------cut here---------------start------------->8--- [...] But one of the main risks associated with human-imitating AI was reflected in the recent chatbot-incited suicide in Belgium: the risk of manipulation. While this tragedy illustrates one of the most extreme consequences of this risk, emotional manipulation can also manifest itself in more subtle forms. As soon as people get the feeling that they interact with a subjective entity, they build a bond with this "interlocutor" – even unconsciously – that exposes them to this risk and can undermine their autonomy. This is hence not an isolated incident. Other users of text-generating AI also described ([1], n.d.r.) its manipulative effects. [...] It is, however, in our human nature to react emotionally to realistic interactions, even without wanting it. This also means that merely obliging companies to clearly indicate that “this is an AI system and not a human being” is not a sufficient solution. [...] The European Union is currently working on new legislation that will impose stronger rules on “high-risk” AI systems and stricter liability on their suppliers, the so-called AI Act. However, the original proposal does not classify chatbots and generative AI systems as “high risk”, and their providers must only inform users that it is a chatbot and not a human being. A prohibition on manipulation was included, but only insofar as the manipulation leads to 'physical or mental harm', which is by no means easy to prove. [...] In the meantime, we ask that all necessary measures be taken – through data protection law, consumer law, and if need be the imposition of targeted moratoria – to prevent the tragic case of our compatriot from repeating itself. Let this be a wake-up call to us all. The AI playtime is over: it's time to draw lessons and take responsibility. --8<---------------cut here---------------end--------------->8--- è ovvio che chiunque SPACCI un sistema del genere come "psicoterapeuta" o anche solo "telefono amico" andrebbe fermato subito e in casi come quello citato sopra di (presunta?) indizione al suicidio dovrebbe essere aperta un'inchiesta giudiziaria ed celebrato l'eventuale relativo processo... ...e vorrei _sottolineare_ che i SALAMI non arrivano nel "vuoto cosmico del diritto", come /autorevolmente/ (non autoritariamente) spiegato da Alvaro M. Bedoya [2]: --8<---------------cut here---------------start------------->8--- Let’s start with that first point. There is a powerful myth out there that “AI is unregulated.” You see it pop up in New York Times op-ed columns, in civil society advocacy, and in scholarship. It has a powerful intuitive appeal — it just sounds right. How could these mysterious new technologies be regulated under our dusty old laws? If you’ve heard this, or even said it, please take a step back and ask: Who does this idea help? It doesn’t help consumers, who feel increasingly helpless and lost. It doesn’t help most companies. It certainly doesn’t help privacy professionals like you, who now have to deal with investors and staff who think they’re operating in a law-free zone. I think that this idea that “AI is unregulated” helps that small subset of companies who are uninterested in compliance. And we’ve heard similar lines before. “We’re not a taxi company, we’re a tech company.” “We’re not a hotel company, we’re a tech company.” These statements were usually followed by claims that state or local regulations could not apply to said companies. [...] I worry that this debate may obscure the point. Because the law doesn’t turn on how a trained expert reacts to a technology – it turns on how regular people understand it. At the FTC, for example, when we evaluate whether a statement is deceptive, we ask what a reasonable person would think of it. When analyzing unfairness, we ask whether a reasonable person could avoid the harms in question. In tort law, we have the “eggshell” plaintiff doctrine: If your victim is particularly susceptible to an injury you caused, that is on you. The American Academy of Pediatrics has declared a national emergency in child and adolescent mental health. The Surgeon General says that we are going through an epidemic of loneliness. I urge companies to think twice before they deploy a product that is designed in a way that may lead people to feel they have a trusted relationship with it or think that it is a real person. I urge companies to think hard about how their technology will affect people’s mental health – particularly kids and teenagers. --8<---------------cut here---------------end--------------->8--- Il discrimine _esiste_: il prodotto non deve essere progettato in modo tale da indurre le persone a credere di avere una relazione di _fiducia_ (col prodotto) Discrimine **fondamentale**: il "prodotto" che NON è il LLM, es. GPT4, ma è l'INTERFACCIA, es. ChatGPT; è l'interfaccia che /determina/ l'interazione uomo-macchina, spesso _mascherandola_, rendendola opaca... a volte _esattamente_ per ingannare l'utilizzatore, facendogli credere che è lui a controllare il software invece che il contrario Una interfaccia che faccia chiaramente comprendere a chi utilizza un servizio del genera che si tratta di /fiction/, una sorta di RPG interattivo (magari con tanto di /visualizzazione/ di un lancio di dadi per ottenere la risposta :-O), non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Oppure, un avviso di "fictioning" **incluso in ogni messaggio** non sarebbe sufficiente a /disattivare/ il nesso di /fiducia/? Poi bisognerebbe anche interrogarsi sulla responsabilità genitoriale nel lasciare che i bimbi utilizzino certi prodotti senza alcuna supervisione... e comunque (anche) su questo il Garante per la protezione dei dati personali è intervenuto sulla base del GDPR Comunque concordo con la conclusione dell'articolo: educazione, ci vuole una /valanga/ di educazione informatica. [...] saluti, 380° P.S.: l'analisi del pericolo dell'utilizzo allegro dell'AI non si deve fermare all'utilizzo "diretto" da parte dell'"uomo qualunque" ma anche (soprattutto) da parte degli esperti di settore... /alienati/ (periti finanziari, medici, insegnanti...) [1] https://www.theverge.com/2023/2/15/23599072/microsoft-ai-bing-personality-c… [2] grazie della segnalazione! (Msg-id:46c18e05fc1042be90f83bde3c2412f9@unipi.it); la relazione completa (grandiosa relazione, da incorniciare) è qui: https://www.ftc.gov/system/files/ftc_gov/pdf/Early-Thoughts-on-Generative-A… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giuseppe Attardi

> On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > Beh, è facile concordare sui finanziamenti alla ricerca. Talmente facile che non viene fatto. La voce “Intelligenza Artificiale” non era nemmeno presente nei progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati stanziati 50 milioni per 5 progetti ICT-48. Non si trova nemmeno nel nuovo workprogram, se non associata alla robotica e alla data science, al punto che è stata costituita persino un’associazione ADRA (Association for Data, Robotics and AI), per suggerire alla commissione come orientare i finanziamenti verso i primi due settori, da tempo dominanti, a scapito del terzo. I documenti strategici della UE, che nel 2018 si occupavano di come sviluppare la disciplina, sono stati disattesi e l’attenzione della commissione è virata verso questioni di regolamentazione (European AI Act), di Explainable AI (XAI), completamente tralasciando ogni minimo tentativo di investire nello sviluppo della tecnologia e dei suoi fondamenti. Del resto i LLM vengono detti Foundation Models perché sono il fondamento di altri sistemi più articolati e complessi. È miope pensare di fermare la ricerca sui LLM, senza capire che così si blocca la possibilità di sviluppare sistemi con capacità superiori di ragionamento, controllo dei risultati, ecc. — Beppe PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni a posteriori dei risultati degli attuali sistemi di ML, semplicemente non funzionano, perché non scalano alle dimensiini di modelli costituiti da miliardi di parametri. Del resto, se esistesse una spiegazione semplice e comprensibile per un problema complesso e difficile, il problema non sarebbe complesso e difficile. D’altra parte, con le tecniche di prompting cone il Chain of Thought, si può chiedere agli stessi modelli come ChatGPT di fornire un filo logico dei passaggi che hanno portato alla risposta. > > Talmente facile che temo sia uno strawman piuttosto banalotto. > > > Non c'è alcuna contrapposizione fra ricerca e diritti umani. > Possiamo tranquillamente garantire entrambi. SE vogliamo. > > > Chi prova a contrapporli, non difende la ricerca, ma la strumentalizza > per proteggere gli interessi privati di soggetti che non intendono > rispondere dei danni che causano con applicazioni specifiche. > > > Sarebbe bello se, almeno qui ove simili fallacie retoriche hanno > vita breve, potessimo evitare di perdere tempo a smontarle. > > >> On Fri, 14 Apr 2023 09:05:48 +0200 Guido Vetere wrote: >> >> Io credo che questo processo sia già spontaneamente in corso (non solo >> nelle università) e credo che la UE dovrebbe dare supporto >> all'affermazione di questo nuovo modello di sviluppo, più che cercare >> di inibire i soggetti privati statunitensi (gli stessi che piazzano i >> loro VP nella nostra Amministrazione) con improbabili richieste. > > Io invece auspico che l'UE anteponga sempre i diritti umani a qualsiasi > narrazione su "modelli di sviluppo". > > Perché dietro le promesse di magnifiche sorti e progressive, dietro i > software di cui parliamo, ci sono persone che DEVONO rispondere di ciò > che fanno attraverso i propri artefatti, come chiunque altro. > > > Nessuna azione che sia vietata per un essere umano deve essere > consentita quando effettuata tramite l'uso di una macchina. > > Siamo d'accordo su questo principio? > > Se sì, ne deriva che la costruzione di macchine che non possano > tecnicamente garantire il rispetto dei diritti umani va > semplicemente vietata. > > > Il che non limita in alcun modo la ricerca! Anzi! La incoraggia! > E la orienta verso soluzioni... "degne di fiducia" ;-) > > > Giacomo > > >> On Thu, 13 Apr 2023 16:34:08 -0700 Stefano Maffulli wrote: >> >> On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> >> wrote: >> >>> Per l’energia atomica, abbiamo da una parte firmato trattati di non >>> proliferazione delle armi nucleari, ma dall’altra abbiamo costruito >>> il CERN, con fondi pubblici, per permettere di studiare la scienza >>> delle particelle e della costituzione dell’universo. >>> >> >> Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare >> in modo che gli LLM non siano solo appannaggio delle mega corp e dei >> governi.

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Fabio Alemagna

Salve a tutti, sono venuto a conoscenza di questa lista tramite un tweet di Floridi e da allora sono stato solo un lurker, ma leggendo più volte determinate argomentazioni ho deciso di saltare il fosso e fare il mio primo post. Il giorno ven 14 apr 2023 alle ore 10:20 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > Beh, è facile concordare sui finanziamenti alla ricerca. > Talmente facile che temo sia uno strawman piuttosto banalotto. > > Non c'è alcuna contrapposizione fra ricerca e diritti umani. > Possiamo tranquillamente garantire entrambi. SE vogliamo. I "diritti umani" sono stati tirati in ballo più e più volte in questa e altre conversazioni analoghe ma, per restare nel reame delle fallacie logiche, a me questo pare un vero e proprio "red herring". Pur conoscendo la dichiarazione universale dei diritti umani a menadito, non riesco a comprendere a quale di quei diritti si faccia riferimento. Potrei fare ipotesi, ma preferisco domandare. Si potrebbe quindi sapere a cosa, con rigorosa esattezza, si fa riferimento? Fabio

April 14, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Daniela Tafani

Ha scritto, su questa distinzione, un paio di giorni fa, Margaret Mitchell: "When AI companies release "open training data" for a model, they're generally sharing *fine-tuning* data. The big issues w data and consent are NOT of this type. The issues are with the MAIN DATA used in training" <https://nitter.snopyta.org/mmitchell_ai/status/1646242689862729728> [cid:98ff1663-62f2-4593-9e2b-a4c0486c3fa0] ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> Inviato: venerdì 14 aprile 2023 10:52 A: D. Davide Lamanna Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] ChatGPT disabled for users in Italy Purtroppo no, Davide. Per rendere riproducibile ed ispezionabile il processo di programmazione statistica che costruisce un software LLM sono necessarie moltissime informazioni che lì mancano. Non foss'altro che per il semplice fatto che Dolly 2.0 si basa su GPT-3 e quindi, per poterne ispezionare la programmazione e poterne escludere (ad esempio) discriminazioni intenzionali, sarebbe necessario avere tutti i dati ed il processo esatto di programmazione di GPT-3 stesso. La relazione fra la verticalizzazione ("fine-tuning", lo definiscono gli autori dell'articolo associato al dataset che hai condiviso) e programmazione di un LLM è molto più... "intima" di quella che esiste fra un applicazione ed una libreria usata durante il suo sviluppo. E' più simile, se vuoi, a quella che intercorre fra un CMS e le pagine web che ne vengono pubblicate, la cui forma sarà sempre sostanzialmente la stessa perché i limiti (ciò che può o non può essere fatto con quel CMS) non vengono intaccati dal layout grafico del sito web, che si deve adattare inevitabilmente a quei vincoli (a meno di smettere di usare quel CMS, ovviamente). Inoltre, il dataset sorgente come viene solitamente condiviso in questi progetti fintamente "open source", non è sufficiente a riprodurre esattamente lo stato di un LLM. Sono necessari parametri iniziali delle "reti neurali" utilizzate, registrazioni dettagliate dell'ordine in cui i vari record sono stati usati durante la programmazione statistica (ad esempio, nel caso di quella tecnica che viene impropriamente chiamata "Reinforcement Learning") e così via. In sostanza, per poter ambire a dimostrare di NON aver iniettato una particolare discriminazione all'interno di GPT-4, Open AI dovrebbe fornire un bello scriptino, ben documentato, in grado di riprodurre ESATTAMENTE GPT-4 nello stato attualmente in produzione a partire dai testi di partenza (anch'essi inclusi nel pacchetto) e da tutte le altre sorgenti di input. Dovrebbe essere ovviamente uno script ben leggibile e debuggabile passo passo. A quel punto si potrebbe effettuare un confronto binario fra gli output prodotti dallo script e GPT-4 in produzione, e dopo averne verificato la corrispondenza esatta, analizzare i dataset sorgente e il processo di compilazione di tale software alla ricerca di discriminazioni o problemi. Nulla di lontanamente paragonabile a quello che ha fatto Databricks, insomma. Purtuttavia qualcosa di perfettamente fattibile da un punto di vista tecnico, sebbene estremamente costoso. Giacomo On Fri, 14 Apr 2023 09:36:30 +0200 D. Davide Lamanna wrote: > On 4/13/23 12:49, Giacomo Tesio wrote: > > > > Basta imporre che tutti i dataset utilizzati durante la > > programmazione statistica ("training" nella vulgata), inclusi > > quelli usati per la cross validation e il test, nonché tutti gli > > altri dati necessari a riprodurre esattamente il processo ed > > ottenere esattamente il modello in produzione (e le sue alternative > > scartate), siano preservati per tutta la durata della sua > > permanenza in produzione e diciamo 20 anni dopo (in caso di > > aggiornamento). [1] > > > > Rendendo verficabilmente e completamente riproducibile il processo > > di programmazione statistica, Open AI (come chiunque altro) potrà > > facilmente dimostrare di non aver utilizzato dati ottenuti in > > violazione di qualsisi Legge. > Ciao Giacomo, > > una cosa così? > > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617…>. > > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617…>. > > D. > > (null) > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414085219017617…

April 14, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Purtroppo no, Davide. Per rendere riproducibile ed ispezionabile il processo di programmazione statistica che costruisce un software LLM sono necessarie moltissime informazioni che lì mancano. Non foss'altro che per il semplice fatto che Dolly 2.0 si basa su GPT-3 e quindi, per poterne ispezionare la programmazione e poterne escludere (ad esempio) discriminazioni intenzionali, sarebbe necessario avere tutti i dati ed il processo esatto di programmazione di GPT-3 stesso. La relazione fra la verticalizzazione ("fine-tuning", lo definiscono gli autori dell'articolo associato al dataset che hai condiviso) e programmazione di un LLM è molto più... "intima" di quella che esiste fra un applicazione ed una libreria usata durante il suo sviluppo. E' più simile, se vuoi, a quella che intercorre fra un CMS e le pagine web che ne vengono pubblicate, la cui forma sarà sempre sostanzialmente la stessa perché i limiti (ciò che può o non può essere fatto con quel CMS) non vengono intaccati dal layout grafico del sito web, che si deve adattare inevitabilmente a quei vincoli (a meno di smettere di usare quel CMS, ovviamente). Inoltre, il dataset sorgente come viene solitamente condiviso in questi progetti fintamente "open source", non è sufficiente a riprodurre esattamente lo stato di un LLM. Sono necessari parametri iniziali delle "reti neurali" utilizzate, registrazioni dettagliate dell'ordine in cui i vari record sono stati usati durante la programmazione statistica (ad esempio, nel caso di quella tecnica che viene impropriamente chiamata "Reinforcement Learning") e così via. In sostanza, per poter ambire a dimostrare di NON aver iniettato una particolare discriminazione all'interno di GPT-4, Open AI dovrebbe fornire un bello scriptino, ben documentato, in grado di riprodurre ESATTAMENTE GPT-4 nello stato attualmente in produzione a partire dai testi di partenza (anch'essi inclusi nel pacchetto) e da tutte le altre sorgenti di input. Dovrebbe essere ovviamente uno script ben leggibile e debuggabile passo passo. A quel punto si potrebbe effettuare un confronto binario fra gli output prodotti dallo script e GPT-4 in produzione, e dopo averne verificato la corrispondenza esatta, analizzare i dataset sorgente e il processo di compilazione di tale software alla ricerca di discriminazioni o problemi. Nulla di lontanamente paragonabile a quello che ha fatto Databricks, insomma. Purtuttavia qualcosa di perfettamente fattibile da un punto di vista tecnico, sebbene estremamente costoso. Giacomo On Fri, 14 Apr 2023 09:36:30 +0200 D. Davide Lamanna wrote: > On 4/13/23 12:49, Giacomo Tesio wrote: > > > > Basta imporre che tutti i dataset utilizzati durante la > > programmazione statistica ("training" nella vulgata), inclusi > > quelli usati per la cross validation e il test, nonché tutti gli > > altri dati necessari a riprodurre esattamente il processo ed > > ottenere esattamente il modello in produzione (e le sue alternative > > scartate), siano preservati per tutta la durata della sua > > permanenza in produzione e diciamo 20 anni dopo (in caso di > > aggiornamento). [1] > > > > Rendendo verficabilmente e completamente riproducibile il processo > > di programmazione statistica, Open AI (come chiunque altro) potrà > > facilmente dimostrare di non aver utilizzato dati ottenuti in > > violazione di qualsisi Legge. > Ciao Giacomo, > > una cosa così? > > <https://venturebeat.com/ai/databricks-releases-dolly-2-0-the-first-open-ins…>. > > <https://github.com/databrickslabs/dolly/tree/master/data>. > > D. > > (null) > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Beh, è facile concordare sui finanziamenti alla ricerca. Talmente facile che temo sia uno strawman piuttosto banalotto. Non c'è alcuna contrapposizione fra ricerca e diritti umani. Possiamo tranquillamente garantire entrambi. SE vogliamo. Chi prova a contrapporli, non difende la ricerca, ma la strumentalizza per proteggere gli interessi privati di soggetti che non intendono rispondere dei danni che causano con applicazioni specifiche. Sarebbe bello se, almeno qui ove simili fallacie retoriche hanno vita breve, potessimo evitare di perdere tempo a smontarle. On Fri, 14 Apr 2023 09:05:48 +0200 Guido Vetere wrote: > Io credo che questo processo sia già spontaneamente in corso (non solo > nelle università) e credo che la UE dovrebbe dare supporto > all'affermazione di questo nuovo modello di sviluppo, più che cercare > di inibire i soggetti privati statunitensi (gli stessi che piazzano i > loro VP nella nostra Amministrazione) con improbabili richieste. Io invece auspico che l'UE anteponga sempre i diritti umani a qualsiasi narrazione su "modelli di sviluppo". Perché dietro le promesse di magnifiche sorti e progressive, dietro i software di cui parliamo, ci sono persone che DEVONO rispondere di ciò che fanno attraverso i propri artefatti, come chiunque altro. Nessuna azione che sia vietata per un essere umano deve essere consentita quando effettuata tramite l'uso di una macchina. Siamo d'accordo su questo principio? Se sì, ne deriva che la costruzione di macchine che non possano tecnicamente garantire il rispetto dei diritti umani va semplicemente vietata. Il che non limita in alcun modo la ricerca! Anzi! La incoraggia! E la orienta verso soluzioni... "degne di fiducia" ;-) Giacomo On Thu, 13 Apr 2023 16:34:08 -0700 Stefano Maffulli wrote: > On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> > wrote: > > > Per l’energia atomica, abbiamo da una parte firmato trattati di non > > proliferazione delle armi nucleari, ma dall’altra abbiamo costruito > > il CERN, con fondi pubblici, per permettere di studiare la scienza > > delle particelle e della costituzione dell’universo. > > > > Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare > in modo che gli LLM non siano solo appannaggio delle mega corp e dei > governi.

April 14, 2023

ChatGPT: promesse e illusioni - Lunedì 17 aprile ore 16, Circolo dei lettori di Torino

by Guido Boella

Carissime e carissimi segnalo evento di possibile interesse, anche in streaming, organizzato dal progetto AI Aware dell'Università di Torino e dalla Società Italiana per l'Etica dell'Intelligenza Artificiale ChatGPT: promesse e illusioni - Lunedì 17 aprile ore 16, Circolo dei lettori di Torino https://ai-aware.unito.it/2023/04/01/chatgpt-promesse-e-illusioni/ ChatGPT: promesse e illusioni Limiti e potenzialità del fenomeno informatico del momento Lunedì 17 aprile alle ore 16.00, il Circolo dei lettori di Torino (via Bogino 9) ospiterà in Sala Grande l’incontro ChatGPT: promesse e illusioni, con la partecipazione di Stefano Bartezzaghi, Elena Esposito, Roberto Navigli, Daniela Tafani e la moderazione di Guido Boella: un appuntamento multidisciplinare dedicato al fenomeno informatico del momento e ai miti, dubbi e paure che si sono rapidamente creati intorno al suo nome. “ChatGPT e gli altri cosiddetti Large Language Model rappresentano la frontiera dell’applicazione dell’AI nella nostra vita lavorativa e quotidiana”, spiega Guido Boella, informatico dell’Università degli Studi di Torino, cofondatore della Società Italiana per l’Etica dell’Intelligenza Artificiale e responsabile scientifico di FirstLife, il primo social network civico, co-progettato con la cittadinanza e le istituzioni del territorio torinese. “Sta a noi comprenderne le opportunità, i limiti e i rischi e supportare i legislatori, prima di tutto quelli Europei, nel costruire un quadro normativo che risponda alle nostre esigenze e non a quelle dei giganti di Silicon Valley che stanno introducendo prematuramente sul mercato tecnologie che possono avere un impatto profondo sulla nostra società, nel bene e nel male, come abbiamo visto succedere con i social network nel decennio che ci precede.” Cosa può fare? Come funziona? Potrà davvero sostituire l’essere umano? L’Intelligenza Artificiale e i suoi strumenti sono sulla bocca di tutti, la necessità di chiarirne le funzioni, gli utilizzi, le incognite e le potenzialità si fa sempre più urgente, soprattutto di fronte al rapido avanzamento di un chatbot basato su Intelligenza Artificiale che ha raccolto in pochi mesi più di 100 milioni di utenti. Per capire cosa sia ChatGPT, quali siano i rischi e i benefici del suo utilizzo, il 17 aprile al Circolo dei lettori interverranno Stefano Bartezzaghi, semiologo dell’Università IULM di Milano, Elena Esposito, sociologa dell’Università Alma Mater Studiorum di Bologna, Roberto Navigli, informatico dell’Università di Roma La Sapienza e Daniela Tafani, filosofa politica dell’Università di Pisa. L’evento sarà un’occasione per scandagliare insieme un tema caldo (e che promette di diventarlo sempre di più) da diversi e cruciali punti di vista - etico, politico, scientifico - per non cadere preda di facili entusiasmi ma nemmeno di paure infondate. L’incontro, organizzato con la Società Italiana per l'Etica dell'Intelligenza Artificiale (SIpEIA) e finanziato dal progetto AI Aware dell'Università di Torino, sarà disponibile anche in streaming al link https://tinyurl.com/5f8pn3kw. Ufficio Stampa Stilema Simona Oliva | simona.oliva(a)stilema-to.it | +39 389 488 6947 Federica Cucci | federica.cucci(a)stilema-to.it | +39 328 730 3718 Un cordiale saluto Guido [image: ChatGPT promesse e illusioni.png] -- Dipartimento di Informatica Università di Torino Cso Svizzera 185 10149 Torino Vice-Rettore Vicario dell'Università di Torino per la promozione dei rapporti con le imprese e le associazioni di categoria delle imprese e per il coordinamento con le iniziative di innovazione industriale sul territorio Vicepresidente del Competence Center CIM4.0 www.cim40.com Visitate i siti delle nostre iniziative www.firstlife.org www.commonshood.eu www.projectco3.eu www.sipeia.it www.chedih.eu

April 14, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Alessandro Brolpito

Ottimi principi, lucidi e pratici, grazie Guido. Si tende alla "network society" (van Dijk, Jan (2006) The Network Society. Sage Publications. pp. 28, 39. ISBN 1-4129-0867-1) e la sua applicazione anche nel contesto di GPT-4 sarebbe assai utile, garantendo rilevanza, qualità e "democrazia". La dimensione Europea è ancora troppo debole, ad esempio, la ricerca diretta comune Europea - EU Science Hub homepage (europa.eu) <https://joint-research-centre.ec.europa.eu/index_en>, non decolla, prevalgono quelle nazionali. Allora, con la stessa logica, si potrebbe passare a dei modelli "federativi" su tre dimensioni, oltre a quelle che proponi, aggiungendo la dimensione dei paesi UE, ma su una architettura dei parametri coordinata a livello EU. In effetti un approccio europeo puramente difensivistico, seppur importante per il rispetto delle legge, rimane parziale e in prospettiva inadeguato, anche, e soprattutto, per garantire i principi e diritti digitali promessi ai cittadini europei - Europe’s Digital Decade: digital targets for 2030 (europa.eu) <https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europ…> . Alessandro On Fri, 14 Apr 2023 at 09:06, Guido Vetere <vetere.guido(a)gmail.com> wrote: > Non ci vorrebbe molto in effetti per fare un EU-GPT, con allucinazioni > garantite da procedure e regolamenti. > Il problema è che tedeschi e francesi impiegherebbero un paio di anni solo > per spartirsi l'organigramma. L'Italia potrebbe avere il Direttore Generale > dell'Etica (in realtà, però, nominato dal Vaticano). > Ma mettiamo da parte le facezie. > Se guardiamo dentro GPT-4, ci troviamo almeno una ventina di lingue tra > cui il coreano e il fiammingo, e un numero enorme di competenze > specialistiche, per lo più nell'ambito della programmazione, ma estese > praticamente a tutto lo scibile, dalla filosofia teoretica alle ricette di > cucina. Tutto contenuto nel campo di forze generato da non si sa > (letteralmente) quante centinaia di miliardi di parametri. > Se decomponiamo questo spazio sulle assi delle lingue e delle competenze, > forse riusciamo a vedere che, ad esempio, non essendo interessati alle > conversazioni di filosofia teoretica in coreano, ci basta un modello più > piccolo e maneggevole. > Insomma: GPT-4 può essere "fatto a pezzi", e ciascun pezzo può essere > gestito in modo "aperto e democratico", realizzando così gli scopi > (umoristicamente) dichiarati da OpenAI. > Io credo che questo processo sia già spontaneamente in corso (non solo > nelle università) e credo che la UE dovrebbe dare supporto all'affermazione > di questo nuovo modello di sviluppo, più che cercare di inibire i soggetti > privati statunitensi (gli stessi che piazzano i loro VP nella nostra > Amministrazione) con improbabili richieste. > > G. > > > > > > > On Fri, 14 Apr 2023 at 01:34, Stefano Maffulli <smaffulli(a)gmail.com> > wrote: > >> On Thu, Apr 13, 2023 at 9:16 AM Giuseppe Attardi <attardi(a)di.unipi.it> >> wrote: >> >>> Per l’energia atomica, abbiamo da una parte firmato trattati di non >>> proliferazione delle armi nucleari, ma dall’altra abbiamo costruito il >>> CERN, con fondi pubblici, per permettere di studiare la scienza delle >>> particelle e della costituzione dell’universo. >>> >> >> Concordo anche io con Giuseppe e Guido. E aggiungo che dobbiamo fare in >> modo che gli LLM non siano solo appannaggio delle mega corp e dei governi. >> Questi hanno facile accesso ai gigabyte di dati necessari mentre agli altri >> alcuni gruppi (da Getty ai massimalisti della privacy e del copyright) >> stanno opponendo ogni tipo di ostacolo... C'è un delicato equilibrio da >> raggiungere per consentire a gruppi senza fini di lucro ben intenzionati >> come Laion e Eleuther AI e alle classiche università di creare conoscenza >> liberamente accessibile in questo settore. >> >> Parlando di CERN, LAION sta facendo circolare una proposta quantomeno >> stuzzicante: https://laion.ai/blog/petition/ >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 14, 2023