April 2023 - nexa - server-nexa.polito.it

OpenForum Academy Symposium 2023 (TU Berlin)

by J.C. DE MARTIN

*28 November 2023 OpenForum Academy Symposium The Social, Political and Economic Impact of Open Source* As of today there is no academic conference covering questions relating to the social, political and economic impact of Open Source. This hampers the linking of research agendas, growth of the research area, and the societal understanding of the value of the Open Source ecosystem as a whole. The OpenForum Academy Symposium (OFA) fills this space. After a successful first, virtual edition in 2021, the OFA Symposium 2023 will bring together an interdisciplinary set of researchers, practitioners, and policymakers from around the world to Berlin, in order to explore the transformative power of Open Source Software and Hardware. At the OFA Symposium, we will examine the social, political, and economic implications of open source. We will explore how open source is changing the way we work, communicate, and interact with each other, and how it is shaping the future of technology and society. The Symposium will feature a diverse and group of speakers and participants, including researchers, policymakers, developers, and activists. We believe that the OFA Symposium will provide a unique and valuable opportunity for learning, collaboration, and networking. We hope you will join us for this exciting event, and look forward to exploring the social, political, and economic impact of Open Source together. /The OFA Symposium 2023 will be hosted by TU Berlin// / Call for paper, organizers and other information: https://symposium.openforumeurope.org/

April 19, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste

by Giuseppe Attardi

Faccio fatica a seguire il tuo ragionamento. Non era quindi un distinguo il tuo: >>>> Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la >>>> condividano. >>> >>> >>> Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o >>> anche d'accordo, perché no?) rispondano. in quanto adesso ti dichiari d’accordo con Tesio. Se volevi evitare di farci perdere tempo, potevi semplicemente stare zitto. — Beppe > On 17 Apr 2023, at 09:44, nexa-request(a)server-nexa.polito.it wrote: > > From: "Marco A. Calamari" <marcoc_maillist(a)marcoc.it <mailto:marcoc_maillist@marcoc.it>> > To: Giuseppe Attardi <attardi(a)di.unipi.it <mailto:attardi@di.unipi.it>> > Cc: nexa <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > sospesa se OpenAI adotterà le misure richieste. > Message-ID: <30f3307e59e5f58b6be236672aeaa5258adae837.camel(a)marcoc.it <mailto:30f3307e59e5f58b6be236672aeaa5258adae837.camel@marcoc.it>> > Content-Type: text/plain; charset="utf-8" > > On dom, 2023-04-16 at 20:01 +0200, Giuseppe Attardi wrote: >> >> >>> On 16 Apr 2023, at 11:58, Marco A. Calamari <marcoc_maillist(a)marcoc.it <mailto:marcoc_maillist@marcoc.it>> >>> wrote: >>> >>> >>> On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote: >>>> Questa risposta è talmente grossolana e offensiva che speravo qualcun >>>> altro rispondesse. >>>> >>>> Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la >>>> condividano. >>> >>> >>> Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o >>> anche d'accordo, perché no?) rispondano. >>> >>> Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca >>> dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di >>> tecnocontrollo e geopolitica. >>> >>> Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei >>> sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione >>> fredda” >> Ossia assimili l’AI alla “fusione fredda”, una tecnologia quella sì davvero >> inesistente. > > Caro Giuseppe, non credo che al mondo esista qualcuno che non abbia sentito che > la "Fusione Fredda" non esiste, ed > è stato un discorso parascientifico. > > Nemmeno credo che ti sfugga che non potrei permettermi, professionalmente, di > non conoscere la questione nei dettagli. > > Ma nella sostanza hai perfettamente ragione. > > Affermo proprio, ormai da tempo, che l'"Intelligenza" nel campo > dell'"Intelligenza Artificiale", e la "fusione fredda" > condividono la categoria della "non esistenza" > > Ed essendo il tempo prezioso, ritengo di essere stato chiaro, e di aver rubato > ai colleghi di lista anche troppo tempo. > > Grazie. Marco > >> >> — Beppe >> >>> >>> Il tempo è la risorsa più limitata al mondo. >>> >>> JM2EC. Buona domenica a tutti. Marco >>> >>> >>>> L’Artificial Intelligence esiste ed è una delle principali discipline >>>> della Computer Science. >>>> Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto >>>> il mondo. >>>> Il fatto che la Commissione Europea l’abbia ignorata nei suoi >>>> finanziamenti, dimostra la sua miopia, non la sua furbizia. >>>> Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il >>>> fiorire di innovazioni che sta portando l’AI. >>>> >>>> Occupandosi di uno dei problemi più complessi dell’informatica, ossia la >>>> riproduzione delle capacità della mente umana, l’AI si è dovuta spesso >>>> scontrare coi limiti della tecnologia. >>>> Ma chi se ne occupava si è sempre ingegnato per superarli. >>>> Infatti, gran parte delle tecnologie informatiche che oggi sono di uso >>>> comune, sono nate in ambito AI. >>>> Ad esempio: >>>> >>>> - linguaggi funzionali >>>> - garbage collection >>>> - linguaggi a oggetti >>>> - interfacce grafiche >>>> - interfacce di sviluppo integrate (IDE) >>>> - Map/reduce per elaborazione parallela >>>> - animazione 3D >>>> - sistemi operativi >>>> >>>> Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per >>>> il gioco degli scacchi. >>>> Il movimento del Free Software fu lanciato da Richard Stallman, che >>>> lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp >>>> Machine. >>>> >>>> Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere >>>> il rammarico che le più significative innovazioni dell’AI venissero spesso >>>> attribuite ad altri. >>>> >>>> Many of AI's greatest innovations have been reduced to the status >>>> of just another item in the tool chest of computer science. Nick Bostrom >>>> explains "A lot of cutting edge AI has filtered into general applications, >>>> often without being called AI because once something becomes useful enough >>>> and common enough it's not labeled AI anymore.” >>>> >>> >> https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230417074413013849… >>>> >>>>> la ricerca di cui abbiamo bisogno >>>>> non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come >>>>> allucinazione collettiva) ma sulla programmazione statistica >>>> L’AI copre aree più vaste della “programmazione statistica”. >>>> >>>> Il confronto con la blockchain è offensivo: quella è una tecnologia in >>>> cerca di applicazioni, basata su un singolo articolo. >>>> Non può essere comparata con una disciplina scientifica con 50 anni di >>>> ricerca alle spalle e migliaia di ricercatori coinvolti. >>>> >>>>> In Europa arranchiamo solo perché inseguiamo, invece di guidare. >>>>> >>>> Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui >>>> abbiamo scarso controllo? >>>> >>>> — Beppe >>>> >>>> >>>>> On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it <mailto:nexa-request@server-nexa.polito.it> wrote: >>>>> >>>>> From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> >>>>> To: Giuseppe Attardi <attardi(a)di.unipi.it <mailto:attardi@di.unipi.it>> >>>>> Cc: Stefano Maffulli <smaffulli(a)gmail.com <mailto:smaffulli@gmail.com>>, >>>>> "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> >>>>> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria >>>>> sospesa se OpenAI adotterà le misure richieste. >>>>> Message-ID: <20230414165246.00001237(a)tesio.it <mailto:20230414165246.00001237@tesio.it>> >>>>> Content-Type: text/plain; charset=utf-8 >>>>> >>>>> On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: >>>>> >>>>>>> On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> wrote: >>>>>>> >>>>>>> Beh, è facile concordare sui finanziamenti alla ricerca. >>>>>> >>>>>> Talmente facile che non viene fatto. >>>>>> >>>>>> La voce “Intelligenza Artificiale” non era nemmeno presente nei >>>>>> progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati >>>>>> stanziati 50 milioni per 5 progetti ICT-48. >>>>> >>>>> Vuoi dire che l'hanno messa? >>>>> Bah... che posso dire, farà il paio con la blockchain! >>>>> >>>>> Il fatto che la voce "Intelligenza Artificiale" non fosse presente >>>>> lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno >>>>> non riguarda l'"Intelligenza Artificiale" (che non esiste, se non >>>>> come allucinazione collettiva) ma sulla programmazione statistica >>>>> cui troppi, non comprendendone il funzionamento, attribuiscono >>>>> una qualche forma di "intelligenza". >>>>> >>>>> Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di >>>>> programmazione statistica che producano risultati più affidabili! >>>>> >>>>> Ma ben vengano anche finanziamenti alla ricerca di nuovi framework >>>>> interpretativi di queste tecnologie, un po' meno allucinati e >>>>> allucinogeni! :-D >>>>> >>>>> >>>>> Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha >>>>> presentato le tesi del suo libro "La rivoluzione informatica", Juan >>>>> Carlos ha detto una cosa importantissima: >>>>> >>>>> "sicuramente non esiste indipendenza, non esiste sovranità, senza la >>>>> possibilità di controllare, produrre e sviluppare tutte le tecnologie >>>>> fondamentali che servono per una società moderna" >>>>> >>>>> Condivido pienamente il concetto. >>>>> >>>>> Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa >>>>> significa "società moderna"? chi decide quali siano le tecnologie >>>>> fondamentali che servono per realizzarla? >>>>> >>>>> In Europa arranchiamo solo perché inseguiamo, invece di guidare. >>>>> >>>>> >>>>> I software della Silicon Valley sono progettati per realizzare una >>>>> specifica idea di società. Dobbiamo davvero competere con loro, solo >>>>> se vogliamo imporre all'Europa esattamente quella idea di società >>>>> (e vogliamo farlo meglio di loro). >>>>> >>>>> Ma se decidessimo invece di provare a creare una società democratica, >>>>> libera ed equa, di quali strumenti avremmo bisogno? >>>>> >>>>> >>>>>> PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni >>>>>> a posteriori dei risultati degli attuali sistemi di ML, semplicemente >>>>>> non funzionano, perché non scalano alle dimensiini di modelli >>>>>> costituiti da miliardi di parametri. Del resto, se esistesse una >>>>>> spiegazione semplice e comprensibile per un problema complesso e >>>>>> difficile, il problema non sarebbe complesso e difficile. >>>>> >>>>> Ecco un'evidenza concreta dei gravi danni che la narrazione della >>>>> "Intelligenza Artificiale" causa alla ricerca scientifica. >>>>> >>>>> Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice >>>>> (ancorché estremamente costoso) di non aver selezionato scientemente il >>>>> dataset in modo da causare specifiche discriminazione. >>>>> Non ho mai detto che ciò garantisca l'assenza di discriminazioni. >>>>> >>>>> Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, >>>>> ma non rimuove la responsabilità per i danni causati dal software. >>>>> >>>>>> D’altra parte, con le tecniche di prompting cone il Chain of Thought, >>>>>> si può chiedere agli stessi modelli come ChatGPT di fornire un filo >>>>>> logico dei passaggi che hanno portato alla risposta. >>>>> >>>>> Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. >>>>> >>>>> ChatGPT può sicuramente produrre una stringa di testo che la tua mente >>>>> interpreti come una valida GIUSTIFICAZIONE di un proprio output. >>>>> >>>>> Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale >>>>> output sia stato calcolato. >>>>> >>>>> Il calcolo effettuato potrebbe essere del tutto diverso: nessun >>>>> informatico (o scienziato) con un minimo di serietà potrebbe >>>>> accontentarsi di una tale giustificazione NON VERIFICABILE. >>>>> >>>>> >>>>> Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro >>>>> l'obiettivo: non ci interessa trovare un'argomentazione più o meno >>>>> soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli >>>>> si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato >>>>> preso in considerazione durante l'elaborazione E COSA NO, nonché capire >>>>> ESATTAMENTE come. >>>>> >>>>> >>>>> Giacomo >>>>> >>>>> >>>> >>> >> [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… >

April 19, 2023

Law, Regulation and Governance in the Information Society: Informational Rights and Informational Wrongs | 3 maggio 2023, ore 16.00

by Nexa Media

Carissime, carissimi, Vi segnaliamo che *mercoledì 3 maggio*, alle ore 16.00, sarà possibile partecipare alla presentazione del volume: /Law, Regulation and Governance in the Information Society: Informational Rights and Informational Wrongs/ <https://www.routledge.com/Law-Regulation-and-Governance-in-the-Information-…>, a cura di *Maurizio Borghi* (Università di Torino e co-direttore del Centro Nexa) e *Roger Brownsword* (King's College London and Bournemouth University), edito da Routledge, London, Copyright 2023. L'incontro, organizzato in collaborazione con l'Università degli Studi di Torino, avrà luogo nella *Sala Lauree Rossa *del *Campus Luigi Einaudi*, Lungo Dora Siena 100, Torino. Interverranno: 1. *Maurizio Borghi*,co-direttore del Centro Nexa; 2. *Marco Ricolfi*, co-direttore del Centro Nexa; 3. *Massimo Durante*, faculty fellow del Centro Nexa; 4. *Ugo Pagallo*, garante del Centro Nexa; 5. *Roger Brownsword*, King's College London and Bournemouth University; 6. *Arno Lodder*, Vrije Universiteit Amsterdam. Per maggiori informazioni consulta la pagina: https://nexa.polito.it/law-regulation-governance-in-information-society Grazie per l'attenzione, Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

April 18, 2023

Re: [nexa] la responsabilità per i vizi nel software (was Re: Sugli utilizzi degli LLM per scopi criminali)

by 380°

Buongiorno Alberto, Alberto Cammozzo <ac+nexa(a)zeromx.net> writes: [...] > Chi ha realizzato i dispositivi di Google Street view che raccoglievano > dati delle reti wifi e relativi payload sapeva di realizzare un > corporate wardriving. > Chi ha modificato le centraline dei diesel VW per superare i test non > poteva non sapere cosa stesse facendo. > Che 'obbedisse agli ordini' senza condividerli o condividesse le > intenzioni del management può al massimo costituire una attenuante o > aggravante. Ma certo, è /esattamente/ per quello che di parla di colpa grave o dolo in giurisprudenza... /anche/ in concorso: ci mancherebbe altro! Nel caso di Wysa, però, stiamo parlando di sviluppatori che applicano tecniche di machine "learning" per programmare statisticamente macchine all'applicazione della "tecnica CBT": sono loro che hanno deciso di "venderlo" come agente empatico per curare la tristezza del mondo? ...magari sì, ma andrebbe verificato caso per caso Nel frattempo, però, Wysa andrebbe chiuso **ieri**... e invece è _sponsorizzato_ dalla NHS britannica: direi che il comportamento (pseudo?) criminale è _altrove_ > Chi programma non è esente da responsabilità, sì ma questa responsabilità va qualificata > e molti whistleblowers si sono esposti per non condividere nemmeno la > responsabilità morale. chapeau! [...] Ciao, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 18, 2023

Re: [nexa] Proprietà emergenti e dove trovarle

by Guido Vetere

quindi con un po' di prompt engineering si potrebbe far emergere l'antico linguaggio dei Maya? a Pichai non sembra un po' sospetto che 'emerga' una lingua parlata da 300 milioni di persone? l'unica cosa che emerge è che in Google ci deve essere il panico :-)) grazie per la condivisione G. On Mon, 17 Apr 2023 at 23:30, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > One AI program spoke in a foreign language it was never trained to know. > This mysterious behavior, called emergent properties, has been happening – > where AI unexpectedly teaches itself a new skill > https://nitter.snopyta.org/60Minutes/status/1647742247444553732 > > *Sundar Pichai:* [...] Of the AI issues we talked about, the most > mysterious is called emergent properties. > Some AI systems are teaching themselves skills that they weren't expected > to have. > How this happens is not well understood. For example, one Google AI > program adapted, on its own, after it was prompted in the language of > Bangladesh, which it was not trained to know. > <https://nitter.snopyta.org/60Minutes/status/1647742247444553732> > https://www.cbsnews.com/news/google-artificial-intelligence-future-60-minut… > > <https://nitter.snopyta.org/60Minutes/status/1647742247444553732> > Qui Margaret Mitchell smaschera l'imbroglio: > https://nitter.snopyta.org/mmitchell_ai/status/1648029417497853953 > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 18, 2023

Re: [nexa] la responsabilità per i vizi nel software (was Re: Sugli utilizzi degli LLM per scopi criminali)

by Guido Vetere

> Mi fermo qui, ma questo è quello che intendo quando parlo di > inquinamento dell'ecosistema linguistico. Ti fermi sull'orlo di un abisso davanti al quale proviamo un senso di vertigine Il cambiamento linguistico che conosciamo, oltre ad essere una conseguenza degli scambi (anche violenti, tipo le invasioni), è una retroazione dell'uso individuale (la 'parole') sul sistema socializzato (la 'langue'). Qui siamo in effetti davanti alla prospettiva di un cambiamento linguistico di tipo nuovo. Il mio 'educated guess' (del momento) è che si tratterà del collasso della 'langue' su sé stessa, di una frana nella media. A questo cambiamento non avremo da opporre che arte, poesia e creatività industriale. Intendo dire: non lo fermeremo con l'AI-act *et similia*. G. On Mon, 17 Apr 2023 at 23:48, Alberto Cammozzo via nexa < nexa(a)server-nexa.polito.it> wrote: > Buona sera Giovanni, > > credo che la responsabilità maggiore sia indiscutibilmente del > management che progetta la macchina per specifici fini, specie > illegittimi, più di chi la realizza nel codice. > > Va ricordato però che una condotta illegale anche se in esecuzione di > ordine dato da un superiore gerarchico non esime dalla responsabilità, > se chi lo esegue è in possesso delle necessarie cognizioni tecniche per > avvedersi della illiceità. > > Chi ha realizzato i dispositivi di Google Street view che raccoglievano > dati delle reti wifi e relativi payload sapeva di realizzare un > corporate wardriving. > Chi ha modificato le centraline dei diesel VW per superare i test non > poteva non sapere cosa stesse facendo. > Che 'obbedisse agli ordini' senza condividerli o condividesse le > intenzioni del management può al massimo costituire una attenuante o > aggravante. > > Chi programma non è esente da responsabilità, e molti whistleblowers si > sono esposti per non condividere nemmeno la responsabilità morale. > > Come non penso che queste tecniche siano intrinsecamente malvagie, così > non penso nemmeno che ne vada censurato l'insegnamento o la ricerca, > anzi, va approfondita per limitarne al massimo la perniciosità. Nel > frattempo ne va limitata l'applicazione indiscriminata fino a che non si > sarà capito cosa va fatto con i dati in input e con gli output, per > rispettare chi li ha prodotti ed evitare l'inquinamento dello spazio > comunicativo umano. > > > Data la capacità produttiva degli LLM e la fulminea adozione globale, > molto presto vedremo che gli output automatici o ibridi supereranno in > volume quelli puramente umani e entreranno nei dati di training degli > LLM delle generazioni successive. Già ora non abbiamo certezza che una > pagina web abbia origine umana, tra non molto avremo interi siti si spam > molto ben scritto generati automaticamente, per favorire le economie dei > backlink (fenomeno già in atto [1]). > > Questo di sicuro perturberà i criteri SEO e i motori di ricerca, ma > quello che mi preoccupa di più è immaginare cosa accadrà allora alla > lingua. Verosimilmente con LLM autofertilizzanti (che producono più > testi di quanto ne consumano) si amplificheranno gli effetti di > allucinazione e le derive, quelle sì evolutive: assisteremo a una > proliferazione di testi con caratteristiche progressivamente proprie e > singolari, distanti dalla lingua usata comunemente dagli umani? Oppure i > padroni del web correranno ai ripari e le contromisure privilegeranno i > testi dei siti 'affidabili'? > > Mi fermo qui, ma questo è quello che intendo quando parlo di > inquinamento dell'ecosistema linguistico. > > Ciao, > > Alberto > > [1] <https://herman.bearblog.dev/the-chatgpt-vs-bear-blog-spam-war/> > > > On 17/04/23 17:01, 380° wrote: > > Buongiorno Alberto > > > > Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> writes: > > > > [...] > > > >> L'oggetto di per se non è responsabile di nulla, ma i vari attori che > >> costruiscono l'ecosistema del suo impiego lo sono: chi > >> progetta/programma/vende/impiega, ciascuno per la parte di azione > >> compiuta attraverso la macchina che gli compete. > > Sì ma analizziamo bene quale /azione/ ciascun attore compie e la > > relativa responsabilità che gli compete: che responsabilità ha chi > > definisce le specifiche? E chi programma il software? E chi lo propone > > al /mercato/ sotto forma di servizio adatto a uno scopo? > > > > Nel caso del LLM programmato statisticamente secondo le specifiche > > derivate dalle teorie della "Cognitive Behavioral Therapy" usato in > > Wysa, la responsabilità di esercizio abusivo di professione (giudizio > > mio) è dei programmatori? É di chi ha sviluppato lo specifico LLM? > > > > [...] > > > >> L'industria del software ha sempre sfuggito tale responsabilità (vedasi > >> i vari /standard disclaimers/ e l'argomento del "tech exceptionalism"). > >> > >> All'aumentare degli effetti sul mondo, chi progetta e vende queste > >> tecnologie non può esimersi dal considerarsi in una ragionevole misura > >> responsabile dei possibili impieghi di ciò che costruisce. > > Non nego che il software includa anche (soprattutto!) l'"intenzione > > politica" di chi lo /progetta/, ma vogliamo davvero fare un "processo > > alle intenzioni"? > > > > Se seguissimo fino in fondo questo ragionamento dovremmo seriamente > > pensare di chiamare /in giudizio/ "la scienza" (pseudoscienza?) che è > > alla base della progettazione dello specifico software (e non solo del > > software, ovviamente). > > > > «L’arte e la scienza sono libere e libero ne è l’insegnamento», per cui > > non credo sia il caso di perseguire questa strada assai pericolosa, così > > come non credo sia il caso di perseguire la strada opposta e altrettanto > > pericolosa di negare i diritti costituzionali in nome della libertà di > > ricerca o della asserita scientificità di alcune determinazioni. > > > > Se non c'è dolo o colpa grave [1] a nessuno sviluppatore software può > > essere chiesto conto dell'adeguatezza a tutti i possibili /impieghi/, a > > volte criminali, di ciò che ha sviluppato. (Lo stesso dovrebbe valere > > anche per gli scienziati, ma limitiamoci al software) > > > > É per quello che praticamente tutte le licenze d'uso (contratti > > _atipici_) del software contengono una clausola di "assenza di garanzia" > > o di "esclusione di responsabilità" [2] > > > > Anche nei contratti di sviluppo software c'è una piuttosto consolidata > > giurisprudenza (o solo prassi?) in merito alle garanzie con le quali > > tutelare l'acquirente in caso di presenza di vizi nel software [3]: > > > > --8<---------------cut here---------------start------------->8--- > > > > Nel caso dei contratti di appalto [...] il committente deve denunciare > > tali vizi all'appaltatore entro sessanta giorni dalla scoperta per > > godere della garanzia. Nel caso in cui il committente abbia accettato > > l'opera e le difformità o i vizi erano da lui conosciuti o erano > > facilmente riconoscibili, previa buona fede dell'appaltatore, non si può > > avvalere della garanzia. > > > > Nel caso in cui il contratto di sviluppo di software sia riconducibile > > ad un contratto di opera intellettuale, allora l'appaltatore non > > risponde della garanzia se non si verifica un caso di dolo o colpa > > grave. > > > > --8<---------------cut here---------------end--------------->8--- > > > > Sottolineo: «Nel caso in cui [...] i vizi [...] erano facilmente > > riconoscibili [...] non si può avvalere della garanzia.» > > > > Non è allo sviluppatore software che bisogna chiedere conto degli > > (ab)usi che vengono fatti del software che ha programmato, non è lui che > > decide che quel software, ANCHE SE (probabilmente) CONTIENE VIZI, viene > > utilizzato impropriamente e _soprattutto_ senza adeguate misure per > > minimizzare il rischio. > > > > Casomai, è l'utilizzatore del software che dovrà dimostrare al giudice > > (c'è un giudice?!?...) di aver condotto adeguate analisi di adeguatezza > > all'utilizzo, una adeguata analisi dei rischi e di aver adottato misure > > adeguate per minimizzare (al massimo possibile secondo lo stato > > dell'arte) i rischi residui non eliminabili. > > > > Ecco le parole magiche "minimizzare i rischi non eliminabili con misure > > adeguate", potendolo dimostrare /documentalmente/. > > > > Così si comincia a ragionare. O no? > > > > Poi, io voglio proprio vedere come può fare l'utilizzatore del software > > a condurre una l'analisi dei rischi senza poter analizzare il software > > (o almeno avvalersi di analisi pubbliche di terze parti) perché lo ha a > > disposizione solo in formato binario... o perché è una scatola nera > > "inesplicabile". > > > > Poi, non c'è solo la responsabilità da prodotto o servizio, c'è anche la > > pubblicità ingannevole... ma andrei OT e mi fermo qui > > > > [...] > > > > saluti, 380° > > > > > > > > [1] che sono da provare /in giudizio/, non possono essere > > pre-determinati anticipatamente, ovviamente > > > > [2] > https://it.wikiversity.org/wiki/Tutela_dei_beni_informatici_(software,_data…'uso > > > > [3] > https://it.wikiversity.org/wiki/Tutela_dei_beni_informatici_(software,_data… > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 18, 2023

Re: [nexa] la responsabilità per i vizi nel software (was Re: Sugli utilizzi degli LLM per scopi criminali)

by Alberto Cammozzo

Buona sera Giovanni, credo che la responsabilità maggiore sia indiscutibilmente del management che progetta la macchina per specifici fini, specie illegittimi, più di chi la realizza nel codice. Va ricordato però che una condotta illegale anche se in esecuzione di ordine dato da un superiore gerarchico non esime dalla responsabilità, se chi lo esegue è in possesso delle necessarie cognizioni tecniche per avvedersi della illiceità. Chi ha realizzato i dispositivi di Google Street view che raccoglievano dati delle reti wifi e relativi payload sapeva di realizzare un corporate wardriving. Chi ha modificato le centraline dei diesel VW per superare i test non poteva non sapere cosa stesse facendo. Che 'obbedisse agli ordini' senza condividerli o condividesse le intenzioni del management può al massimo costituire una attenuante o aggravante. Chi programma non è esente da responsabilità, e molti whistleblowers si sono esposti per non condividere nemmeno la responsabilità morale. Come non penso che queste tecniche siano intrinsecamente malvagie, così non penso nemmeno che ne vada censurato l'insegnamento o la ricerca, anzi, va approfondita per limitarne al massimo la perniciosità. Nel frattempo ne va limitata l'applicazione indiscriminata fino a che non si sarà capito cosa va fatto con i dati in input e con gli output, per rispettare chi li ha prodotti ed evitare l'inquinamento dello spazio comunicativo umano. Data la capacità produttiva degli LLM e la fulminea adozione globale, molto presto vedremo che gli output automatici o ibridi supereranno in volume quelli puramente umani e entreranno nei dati di training degli LLM delle generazioni successive. Già ora non abbiamo certezza che una pagina web abbia origine umana, tra non molto avremo interi siti si spam molto ben scritto generati automaticamente, per favorire le economie dei backlink (fenomeno già in atto [1]). Questo di sicuro perturberà i criteri SEO e i motori di ricerca, ma quello che mi preoccupa di più è immaginare cosa accadrà allora alla lingua. Verosimilmente con LLM autofertilizzanti (che producono più testi di quanto ne consumano) si amplificheranno gli effetti di allucinazione e le derive, quelle sì evolutive: assisteremo a una proliferazione di testi con caratteristiche progressivamente proprie e singolari, distanti dalla lingua usata comunemente dagli umani? Oppure i padroni del web correranno ai ripari e le contromisure privilegeranno i testi dei siti 'affidabili'? Mi fermo qui, ma questo è quello che intendo quando parlo di inquinamento dell'ecosistema linguistico. Ciao, Alberto [1] <https://herman.bearblog.dev/the-chatgpt-vs-bear-blog-spam-war/> On 17/04/23 17:01, 380° wrote: > Buongiorno Alberto > > Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> writes: > > [...] > >> L'oggetto di per se non è responsabile di nulla, ma i vari attori che >> costruiscono l'ecosistema del suo impiego lo sono: chi >> progetta/programma/vende/impiega, ciascuno per la parte di azione >> compiuta attraverso la macchina che gli compete. > Sì ma analizziamo bene quale /azione/ ciascun attore compie e la > relativa responsabilità che gli compete: che responsabilità ha chi > definisce le specifiche? E chi programma il software? E chi lo propone > al /mercato/ sotto forma di servizio adatto a uno scopo? > > Nel caso del LLM programmato statisticamente secondo le specifiche > derivate dalle teorie della "Cognitive Behavioral Therapy" usato in > Wysa, la responsabilità di esercizio abusivo di professione (giudizio > mio) è dei programmatori? É di chi ha sviluppato lo specifico LLM? > > [...] > >> L'industria del software ha sempre sfuggito tale responsabilità (vedasi >> i vari /standard disclaimers/ e l'argomento del "tech exceptionalism"). >> >> All'aumentare degli effetti sul mondo, chi progetta e vende queste >> tecnologie non può esimersi dal considerarsi in una ragionevole misura >> responsabile dei possibili impieghi di ciò che costruisce. > Non nego che il software includa anche (soprattutto!) l'"intenzione > politica" di chi lo /progetta/, ma vogliamo davvero fare un "processo > alle intenzioni"? > > Se seguissimo fino in fondo questo ragionamento dovremmo seriamente > pensare di chiamare /in giudizio/ "la scienza" (pseudoscienza?) che è > alla base della progettazione dello specifico software (e non solo del > software, ovviamente). > > «L’arte e la scienza sono libere e libero ne è l’insegnamento», per cui > non credo sia il caso di perseguire questa strada assai pericolosa, così > come non credo sia il caso di perseguire la strada opposta e altrettanto > pericolosa di negare i diritti costituzionali in nome della libertà di > ricerca o della asserita scientificità di alcune determinazioni. > > Se non c'è dolo o colpa grave [1] a nessuno sviluppatore software può > essere chiesto conto dell'adeguatezza a tutti i possibili /impieghi/, a > volte criminali, di ciò che ha sviluppato. (Lo stesso dovrebbe valere > anche per gli scienziati, ma limitiamoci al software) > > É per quello che praticamente tutte le licenze d'uso (contratti > _atipici_) del software contengono una clausola di "assenza di garanzia" > o di "esclusione di responsabilità" [2] > > Anche nei contratti di sviluppo software c'è una piuttosto consolidata > giurisprudenza (o solo prassi?) in merito alle garanzie con le quali > tutelare l'acquirente in caso di presenza di vizi nel software [3]: > > --8<---------------cut here---------------start------------->8--- > > Nel caso dei contratti di appalto [...] il committente deve denunciare > tali vizi all'appaltatore entro sessanta giorni dalla scoperta per > godere della garanzia. Nel caso in cui il committente abbia accettato > l'opera e le difformità o i vizi erano da lui conosciuti o erano > facilmente riconoscibili, previa buona fede dell'appaltatore, non si può > avvalere della garanzia. > > Nel caso in cui il contratto di sviluppo di software sia riconducibile > ad un contratto di opera intellettuale, allora l'appaltatore non > risponde della garanzia se non si verifica un caso di dolo o colpa > grave. > > --8<---------------cut here---------------end--------------->8--- > > Sottolineo: «Nel caso in cui [...] i vizi [...] erano facilmente > riconoscibili [...] non si può avvalere della garanzia.» > > Non è allo sviluppatore software che bisogna chiedere conto degli > (ab)usi che vengono fatti del software che ha programmato, non è lui che > decide che quel software, ANCHE SE (probabilmente) CONTIENE VIZI, viene > utilizzato impropriamente e _soprattutto_ senza adeguate misure per > minimizzare il rischio. > > Casomai, è l'utilizzatore del software che dovrà dimostrare al giudice > (c'è un giudice?!?...) di aver condotto adeguate analisi di adeguatezza > all'utilizzo, una adeguata analisi dei rischi e di aver adottato misure > adeguate per minimizzare (al massimo possibile secondo lo stato > dell'arte) i rischi residui non eliminabili. > > Ecco le parole magiche "minimizzare i rischi non eliminabili con misure > adeguate", potendolo dimostrare /documentalmente/. > > Così si comincia a ragionare. O no? > > Poi, io voglio proprio vedere come può fare l'utilizzatore del software > a condurre una l'analisi dei rischi senza poter analizzare il software > (o almeno avvalersi di analisi pubbliche di terze parti) perché lo ha a > disposizione solo in formato binario... o perché è una scatola nera > "inesplicabile". > > Poi, non c'è solo la responsabilità da prodotto o servizio, c'è anche la > pubblicità ingannevole... ma andrei OT e mi fermo qui > > [...] > > saluti, 380° > > > > [1] che sono da provare /in giudizio/, non possono essere > pre-determinati anticipatamente, ovviamente > > [2] https://it.wikiversity.org/wiki/Tutela_dei_beni_informatici_(software,_data…'uso > > [3] https://it.wikiversity.org/wiki/Tutela_dei_beni_informatici_(software,_data… >

April 17, 2023

Proprietà emergenti e dove trovarle

by Daniela Tafani

One AI program spoke in a foreign language it was never trained to know. This mysterious behavior, called emergent properties, has been happening – where AI unexpectedly teaches itself a new skill https://nitter.snopyta.org/60Minutes/status/1647742247444553732 Sundar Pichai: [...] Of the AI issues we talked about, the most mysterious is called emergent properties. Some AI systems are teaching themselves skills that they weren't expected to have. How this happens is not well understood. For example, one Google AI program adapted, on its own, after it was prompted in the language of Bangladesh, which it was not trained to know. <https://nitter.snopyta.org/60Minutes/status/1647742247444553732>https://www.cbsnews.com/news/google-artificial-intelligence-future-60-minut… <https://nitter.snopyta.org/60Minutes/status/1647742247444553732> Qui Margaret Mitchell smaschera l'imbroglio: https://nitter.snopyta.org/mmitchell_ai/status/1648029417497853953

April 17, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Norberto Patrignani

Caro Enrico, concordo pienamente con la tua connessione tra "computer professionals" e "social responsibility": >In effetti, forse la comunità "in-the-large" degli informatici dovrebbe smettere di "indossare i calzoni corti" ed assumersi le responsabilità per i propri prodotti come accade >negli altri settori tecnologici una volta c'era anche una fantastica organizzazione "Computer Professionals for Social Responsibility" purtroppo "dissolved" nel 2013 https://en.wikipedia.org/wiki/Computer_Professionals_for_Social_Responsibil… da quella straordinaria avventura sono pero' nate molte storie che continuano, per esempio nel ACM Code of Ethics, aggiornato nel 2018, che indica al punto 2.9: "In cases where misuse or harm are predictable or unavoidable, the best option may be to not implement the system." https://www.acm.org/code-of-ethics Come membro dell'ACM Committee on Professional Ethics ricordo le lunghe e interessanti discussioni sulla necessita' anche per gli informatici di "assumersi le responsabilita' dei propri prodotti" (come suggerisci tu) nella tua mail. Sullo stesso tema anche questa e' una lettura interessante: Deborah G.Johnson (2008). Computer Experts: Guns-For-Hire or Professionals? Communications of the ACM, October 2008, Vol. 51 No. 10, Pages 24-26. scusate per la lunghezza ... un caro saluto, Norberto ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Enrico Nardelli <nardelli(a)mat.uniroma2.it> Sent: Sunday, April 16, 2023 10:52 PM To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] China to require ‘security assessment’ for new AI products Sono d'accordo con te Stefano. Ero consapevole dell'eccezione costituita dal software ma non volevo complicare il ragionamento. In effetti, forse la comunità "in-the-large" degli informatici dovrebbe smettere di "indossare i calzoni corti" ed assumersi le responsabilità per i propri prodotti come accade negli altri settori tecnologici, per lo meno in quei casi in cui il prodotto software viene venduto o dato in licenza. (Se ti regalo una macchina rotta non ha senso che ti lamenti che sia rotta se ti ho avvisato che potrebbe essere rotta). Mi è chiaro l'enorme impatto (non solo economico) di un'affermazione di questo genere ma, per stemperare l'osservazione con una battuta, se vogliamo essere chiamati "ingegneri del software" dobbiamo fare gli ingegneri veri, che (normalmente) vanno in galera se il palazzo che hanno costruito crolla perché non hanno verificato adeguatamente i calcoli. Diciamo che in questo ambito l'arrivo di ChatGPT è stato il bambino è che ha gridato "il re è nudo" ... Ciao, Enrico Il 16/04/2023 18:09, Stefano Zacchiroli ha scritto: On Sun, Apr 16, 2023 at 12:13:20PM +0200, Enrico Nardelli wrote: QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. ... tranne il software. Certamente ci sarà qualche requisito che si applica in automatico anche al software --- e mi appello anche io ai giuristi in lista per precisarlo --- ma la barra di accesso al mercato del software è bassissima. Di default, chiunque può pubblicare prodotti software su svariati app store senza alcun controllo a monte (salvo quelli automatici implementati dagli app store dei vari GAFAM). Il CRA (Cyber Resilience Act) europeo va nella direzione di aggiungere tali controlli, sotto forma di (auto-)certificazioni e questo ha provocato una sollevata di scudi da parte del mondo free/open source software. (Ne abbiamo già parlato separatamente in lista.) Dico questo non per controbattere al tuo argomento, Enrico, che trovo in se ragionevole. Ma per osservare che qui siamo anche perché per decenni l'industria del software (compresa quella FOSS!, fatta anche di volontari/ non-profit/ etc. che non potrebbero permettersi l'overhead dei controlli) è fiorita grazie all'assenza dei controlli che ora si invocano. Trovare un giusto mezzo tra lo status quo ed il desiderio di regolamentare prodotti "che contengono AI" non sarà affatto banale. Saluti a tutti -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:part1.txthVD5p.SGc078mC@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 17, 2023

Tomorrow, launch of the European Centre for Algorithmic Transparency

by Alessandro Brolpito

Buonasera, Per chi fosse interessato, domani, in streaming Alessandro https://algorithmic-transparency.ec.europa.eu/presenting-ecat_en

April 17, 2023