May 2023 - nexa - server-nexa.polito.it

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Guido Vetere

Giacomo, non intendo replicare, ma mi corre l'obbligo di sollevare il Manifesto da qualsiasi responsabilità a riguardo delle mie personali opinioni Buona serata, G. On Tue, 23 May 2023 at 11:35, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Salve Guido, > > On Tue, May 23, 2023 at 06:54:31AM +0200, Guido Vetere wrote: > > Non so se ho capito correttamente il senso del tuo intervento, ma vorrei > > rispondere comunque al tuo invito di osservare e commentare. > > più che altro, mi chiedo se tu l'abbia letto... ;-) > > > Nel tuo ragionamento, che ha il pregio di esemplificare una posizione > > radicale [...] > > Immagino che Daniela appaia "radicale" perché tiene i piedi ben > saldi per terra, senza lanciarsi in fantasiosi voli pindarici sulle > magnifiche sorti e progressive della "intelligenza artificiale". > > Come darti torto: è radicale restare saldamente radicato alla realtà. > > > mi sembra di scorgere alcuni difetti logici, ideologici e materiali > > In tutta onestà, Guido, mi sembrano evidenti diversi errori logici e > informatici nella tua analisi dell'articolo di Daniela. > > Errori comprensibilissimi se interpretati come espressione di una > ideologia dai tratti quasi religiosi. > > > > Prendiamo ad esempio: > > > > > . Tra i prodotti di [intelligenza artificiale] – costitutivamente > > pericolosi e non funzionanti – ci sono le auto a guida autonoma, i > sistemi > > di ottimizzazione predittiva e i generatori di linguaggio naturale. > > > > Quel 'costitutivamente' è un giudizio categorico che esclude la > possibilità > > futura di avere auto a guida autonoma che si comportano meglio di certi > > miei concittadini (romani, ndr) > > No, esclude la possibilità di avere auto a guida autonoma che si > comportino meglio dei tuoi concittadini su una strada aperta ai > tuoi contittadini. Questo perché l'imprevedibilità del comportamento > umano e animale non può essere gestita da una macchina programmata > statisticamente. > > Se parlassimo propriamente di programmazione statistica invece che di > "intelligenza artificiale", il fatto che ad input poco frequenti o > inediti il software prodotto non possa rispondere in modo adeguato > apparirebbe evidente a tutti. > > Per QUESTO si continua a blaterare di "intelligenza artificiale": > per approfittare dell'ignoranza informatica diffusa. > > > Detto questo, su strade ad uso esclusivo dei veicoli a guida autonoma > e con torri di controllo che ne monitorino e coordininino gli > spostamenti, tali sistemi possono funzionare (fintanto che, comunque, > ci sia qualcuno a bordo in grado di prenderne efficacemente il > controllo e guidarli in caso di bug o anomalie di sensori/attuatori). > > Insomma, più o meno come avviene già nel traffico aereo. > > > > o che vi sia mai la possibilità di lanciare un'allerta meteo localizzato > > a breve termine in grado di salvare vite umane (tema di attualità), > > In nessun passaggio dell'articolo di Daniela compare la meteorologia. > > Daniela parla in modo inequivocabile di ottimizzazioni predittive del > comportamento umano. > > Dunque, se abbiamo letto lo stesso articolo, questo tuo argomento > fantoccio costituisce una fallacia logica piuttosto ingenua. > > E non solo perché su Nexa tutti hanno le competenze per riconoscerla! > > > La meteorologia ha migliaia di anni, migliaia di addetti in tutto il > mondo e notevoli applicazioni commerciali e MILITARI. > > Eppure non riesce a prevedere con precisione le precipitazioni entro > due o tre giorni, ECCETTO che in circostanze straordinarie. > > > E se non riusciamo a prevedere con precisione l'evoluzione di fluidi > e gas, che non godono di libero arbitrio, figurati prevedere il > comportamento di un essere umano! > > > Dunque il tuo strawman, paradossalmente, andrebbe aggiunto agli > argomenti di Daniela sulla costituitiva pericolosità di qualsiasi > sistema di ottimizzazione predittiva applicata ad esseri umani > > > > o ancora di avere sistemi di supporto linguistico che aiutano > > gli immigrati a comprendere certe gabole della nostra pubblica > > amministrazione. > > E perché diamine dovremmo affidare persone vulnerabili come i migranti > ad software che costituitivamente possibi dire stronzate? > > Chi risponderà degli illeciti eventualmente commessi in buona fede > da tali migranti su suggerimento di tali software? > > A chi credi che andrà a suonare il cambanello il Salvini di turno? > > > > Sul 'non funzionanti' ci sarebbe anche da dire. > > Concordo: un orologio fermo non funziona. > Una bomba a orologeria funziona benissimo: non deve stare sul mercato. > > > A quel che si vede nella comunità tecnico-scientifica, certe cose > > non funzionano, altre hanno difetti, ma altre vanno decisamente bene. > > Considera che se i nostri figli potranno guarire da certe malattie, > > qualcosa dovranno anche alle tecniche che stanno alla base di ciò che tu > > svaluti > > < > https://edisciplinas.usp.br/pluginfile.php/7689820/mod_resource/content/1/d… > >. > > Altro argomento fantoccio, Guido. > > > L'analisi di Daniela non è "categoricamente negativa", ma oggettiva: > riporta diverse evidenze (e altre se ne potrebbero aggiungere) di > prodotti e servizi che si sono rivelati dannosi, veicolando violazioni > normative e talvolta persino omicidi (si pensi alla povera Elaine > Hertzberg). > > > Daniela non "svaluta" alcuna tecnica, ma critica alcune PERSONE che > propagandano e vendono alcune applicazioni di determinate tecniche > analizzando alcuni PRODOTTI e SERVIZI. > > > Se abbiamo letto lo stesso articolo, potrebbe essere utile concentarci > su ciò che Daniela ha scritto, non credi? > > Non è mica l'output di ChatGPT, in fondo... ;-) > > > > Questa tua visione categoricamente negativa sta alla base - mi pare - del > > punto centrale del ragionamento: > > > > > Se la responsabilità per gli effetti ordinari di tali prodotti > ricadesse > > > sui produttori, la loro commercializzazione non sarebbe vantaggiosa. > > > > In quegli 'effetti ordinari' però c'è una grossa petizione di principio. > > Direi piuttosto che c'è una notevole comprensione del loro funzionamento. > > Gli effetti ordinari di una bomba atomica sono deleterei. > Gli effetti ordinari di una centrale atomica (ben costruita e manutenuta > in modo anti-economico, anteponendo la sicurezza al profitto) possono > non esserli. > > La fisica alla base di entrambi i prodotti è la stessa. > > > Analogamente, la programmazione statistica potrà facilmente migliorare > le previsioni meteorologiche (le ha migliorate, in effetti), ma non > potrà mai PREVEDERE il comportamento individuale sul lungo periodo > (pur potendolo influenzare probabilisticamente). > > > > Chi ha stabilito che tutte le applicazioni di AI abbiano 'effetti > ordinari' > > deleteri? Chi ha stabilito che non si possa in alcun modo ottenere > > un'applicazione ragionevolmente sicura di queste tecniche, così da poter > > distinguere normalmente tra potenzialità e attualità dell'uso? > > Nessuno. > > E infatti Daniela non lo esclude. > > Rileva che, le applicazioni su cui si stanno investendo miliardi OGGI > hanno effetti ordinari costitutivamente deleteri. > > > Tuttavia, se posso agganciarmi qui per una piccola critica all'articolo > di Daniela, direi piuttosto che quella frase è discutibile per l'uso del > termine "vantaggiosa". > > @Daniela: non è affatto detto che la commercializzazione di una > determinata tecnologia persegua un profitto economico. > In molti casi il vantaggio perseguito è di natura sociale e politica. > > Dunque se mi posso permettere una correzione, riformulerei quella frase > come "Se la responsabilità per gli effetti ordinari (aka esternalità) > di tali prodotti ricadesse interamente sui produttori, la loro > commercializzazione sarebbe antieconomica." > > > > > Questo assimilare la produzione di AI a quella - per dire - dell'iprite o > > dell'antrace mi sembra un po' ingenerosa. Più benevolmente > > Perché dovremmo essere benevoli con questa gente? > > Io direi piuttosto che dovremmo essere estremamente severi. > > > > potremmo convenire che si tratta di prodotti il cui uso va normato, > come > > quello di tutti gli altri. > > Su questo siamo assolutamente d'accordo: dovremmo normarli come normiamo > le droghe pesanti, come cocaina e allucinogeni, che producono (a livello > individuale) effetti paragonabili a quelli dei prodotti citati (a > livello sociale e collettivo). > > > Per usare una facile metafora: per evitare gli incidenti > > stradali non è ragionevole vietare la produzione di automobili, dobbiamo > > però far rispettare i limiti di velocità e perseguire severamente chi li > > eccede. > > Splendido esempio. > > E dovremmo anche arrestare per omicidio i consigli di amministrazione > delle auto a guida autonoma che causano incidendi mortali. > > Quando il consiglio di ammistrazione di Uber verrà arrestato per > l'omicidio di Elain Herzberg, potremo brindare insieme. > > > > Non è che l'AI vada accolta per la sua eccezionalità, ma proprio per la > sua > > ordinarietà. Certe narrazioni manipolatrici e interessate di aziende > grandi > > e piccole dobbiamo conoscerle, smontarle e contrastarle sul campo con la > > pratica. Il compito del tecno-intellettuale gramsciano dovrebbe essere > > questo :-) > > Non so cosa sia un tecno-intellettuale gramsciano. > > Ma dubito che Gramsci apprezzerebbe questa accozzaglia di argomenti > fantoccio in difesa della nuova tecnologia oppressiva dei padroni. ;-) > > > > D'altro canto, Daniela porta una asprissima critica ad un mondo > intellettuale (o forse tecno-intellettuali) che prende i soldi > dell'industria per svilupparne e diffonderne la propaganda > attraverso narrazioni che la giustifichino. > > > Ne è un esempio perfetto l'articolo che hai pubblicato sul Manifesto > > > PS colgo l'occasione per segnalarvi un mio articolo che potrebbe > > interessarvi: Serve Wittgenstein per capire ChatGPT > > <https://ilmanifesto.it/serve-wittgenstein-per-capire-chatgpt> (Il > > Manifesto) > > Il declino della stampa, la totale scomparsa di qualsiasi senso > critico, mi lascia sempre allibito. > > > "Al di là della responsabilità legale dell'esercizio di tali sistemi" > > Nessuno che abbia riletto il tuo testo prima di pubblicarlo si è > chiesto: "perché 'al di là'? non è una responsabilità fondamentale?" > > "chi si impegna quando l'automa parla? La risposta breve è: nessuno." > > Nessuno che abbia riletto il tuo testo si è chiesto chi si è impegnato > a programmamarlo quell'automa che parla? Si è programmata da sola? > Si è accesa da sola? Si paga le bollette da sola? > > > Ma soprattutto, nessuno in una testata storica come il Manifesto è stato > capace di chiedersi "Cui prodest?" > > > > > Questa seconda parte dell'articolo di Daniela mi sembra molto > interessante per Nexa: nessun commento sulla cattura culturale in corso? > > Daniela ne analizza i diversi strumenti retorici: > > - il principio di inevitabilità tecnologica > - il principio di innovazione > - la prospettiva soluzionistica > - l'antropomorfizzazione delle macchine a la deumanizzazione delle > persone > - i miti dell'eccezionalismo tecnologico e del vuoto giuridico > - gli allarmi su rischi e pericoli tratti dal futuro o dalla > fantascienza > - i messianesimi eugenetici > > > si tratta di narrazioni finalizzate alla conquista di una nuova > egemonia culturale, che deve essere sposata acriticamente. > > > La successiva trattazione dell'aspetto normativo è, secondo me, > ineccepibile: > > > L'eventuale impossibilità di risalire alla responsabilità dovrebbe > > perciò essere assimilata giuridicamente, anziché a un rebus > > filosofico, a una forma di negligenza del produttore. > > Non sono sicuro che la categoria della negligenza sia appropriata, > onestamente (il dolo è evidente), ma di certo non c'è alcun rebus > filosofico in atto, solo fumo negli occhi (evidentemnte ricco di THC) > > > Credo che, passato l'effetto del fumo, una lucida lettura > dell'articolo di Daniela potrebbe di grande aiuto ai pochi > politici che non si vogliano far manipolare dall'industria. > > > Speriamo abbia ampia diffusione. > > > Giacomo > >

May 23, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Giacomo Tesio

Salve Guido, On Tue, May 23, 2023 at 06:54:31AM +0200, Guido Vetere wrote: > Non so se ho capito correttamente il senso del tuo intervento, ma vorrei > rispondere comunque al tuo invito di osservare e commentare. più che altro, mi chiedo se tu l'abbia letto... ;-) > Nel tuo ragionamento, che ha il pregio di esemplificare una posizione > radicale [...] Immagino che Daniela appaia "radicale" perché tiene i piedi ben saldi per terra, senza lanciarsi in fantasiosi voli pindarici sulle magnifiche sorti e progressive della "intelligenza artificiale". Come darti torto: è radicale restare saldamente radicato alla realtà. > mi sembra di scorgere alcuni difetti logici, ideologici e materiali In tutta onestà, Guido, mi sembrano evidenti diversi errori logici e informatici nella tua analisi dell'articolo di Daniela. Errori comprensibilissimi se interpretati come espressione di una ideologia dai tratti quasi religiosi. > Prendiamo ad esempio: > > > . Tra i prodotti di [intelligenza artificiale] – costitutivamente > pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi > di ottimizzazione predittiva e i generatori di linguaggio naturale. > > Quel 'costitutivamente' è un giudizio categorico che esclude la possibilità > futura di avere auto a guida autonoma che si comportano meglio di certi > miei concittadini (romani, ndr) No, esclude la possibilità di avere auto a guida autonoma che si comportino meglio dei tuoi concittadini su una strada aperta ai tuoi contittadini. Questo perché l'imprevedibilità del comportamento umano e animale non può essere gestita da una macchina programmata statisticamente. Se parlassimo propriamente di programmazione statistica invece che di "intelligenza artificiale", il fatto che ad input poco frequenti o inediti il software prodotto non possa rispondere in modo adeguato apparirebbe evidente a tutti. Per QUESTO si continua a blaterare di "intelligenza artificiale": per approfittare dell'ignoranza informatica diffusa. Detto questo, su strade ad uso esclusivo dei veicoli a guida autonoma e con torri di controllo che ne monitorino e coordininino gli spostamenti, tali sistemi possono funzionare (fintanto che, comunque, ci sia qualcuno a bordo in grado di prenderne efficacemente il controllo e guidarli in caso di bug o anomalie di sensori/attuatori). Insomma, più o meno come avviene già nel traffico aereo. > o che vi sia mai la possibilità di lanciare un'allerta meteo localizzato > a breve termine in grado di salvare vite umane (tema di attualità), In nessun passaggio dell'articolo di Daniela compare la meteorologia. Daniela parla in modo inequivocabile di ottimizzazioni predittive del comportamento umano. Dunque, se abbiamo letto lo stesso articolo, questo tuo argomento fantoccio costituisce una fallacia logica piuttosto ingenua. E non solo perché su Nexa tutti hanno le competenze per riconoscerla! La meteorologia ha migliaia di anni, migliaia di addetti in tutto il mondo e notevoli applicazioni commerciali e MILITARI. Eppure non riesce a prevedere con precisione le precipitazioni entro due o tre giorni, ECCETTO che in circostanze straordinarie. E se non riusciamo a prevedere con precisione l'evoluzione di fluidi e gas, che non godono di libero arbitrio, figurati prevedere il comportamento di un essere umano! Dunque il tuo strawman, paradossalmente, andrebbe aggiunto agli argomenti di Daniela sulla costituitiva pericolosità di qualsiasi sistema di ottimizzazione predittiva applicata ad esseri umani > o ancora di avere sistemi di supporto linguistico che aiutano > gli immigrati a comprendere certe gabole della nostra pubblica > amministrazione. E perché diamine dovremmo affidare persone vulnerabili come i migranti ad software che costituitivamente possibi dire stronzate? Chi risponderà degli illeciti eventualmente commessi in buona fede da tali migranti su suggerimento di tali software? A chi credi che andrà a suonare il cambanello il Salvini di turno? > Sul 'non funzionanti' ci sarebbe anche da dire. Concordo: un orologio fermo non funziona. Una bomba a orologeria funziona benissimo: non deve stare sul mercato. > A quel che si vede nella comunità tecnico-scientifica, certe cose > non funzionano, altre hanno difetti, ma altre vanno decisamente bene. > Considera che se i nostri figli potranno guarire da certe malattie, > qualcosa dovranno anche alle tecniche che stanno alla base di ciò che tu > svaluti > <https://edisciplinas.usp.br/pluginfile.php/7689820/mod_resource/content/1/d…>. Altro argomento fantoccio, Guido. L'analisi di Daniela non è "categoricamente negativa", ma oggettiva: riporta diverse evidenze (e altre se ne potrebbero aggiungere) di prodotti e servizi che si sono rivelati dannosi, veicolando violazioni normative e talvolta persino omicidi (si pensi alla povera Elaine Hertzberg). Daniela non "svaluta" alcuna tecnica, ma critica alcune PERSONE che propagandano e vendono alcune applicazioni di determinate tecniche analizzando alcuni PRODOTTI e SERVIZI. Se abbiamo letto lo stesso articolo, potrebbe essere utile concentarci su ciò che Daniela ha scritto, non credi? Non è mica l'output di ChatGPT, in fondo... ;-) > Questa tua visione categoricamente negativa sta alla base - mi pare - del > punto centrale del ragionamento: > > > Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse > > sui produttori, la loro commercializzazione non sarebbe vantaggiosa. > > In quegli 'effetti ordinari' però c'è una grossa petizione di principio. Direi piuttosto che c'è una notevole comprensione del loro funzionamento. Gli effetti ordinari di una bomba atomica sono deleterei. Gli effetti ordinari di una centrale atomica (ben costruita e manutenuta in modo anti-economico, anteponendo la sicurezza al profitto) possono non esserli. La fisica alla base di entrambi i prodotti è la stessa. Analogamente, la programmazione statistica potrà facilmente migliorare le previsioni meteorologiche (le ha migliorate, in effetti), ma non potrà mai PREVEDERE il comportamento individuale sul lungo periodo (pur potendolo influenzare probabilisticamente). > Chi ha stabilito che tutte le applicazioni di AI abbiano 'effetti ordinari' > deleteri? Chi ha stabilito che non si possa in alcun modo ottenere > un'applicazione ragionevolmente sicura di queste tecniche, così da poter > distinguere normalmente tra potenzialità e attualità dell'uso? Nessuno. E infatti Daniela non lo esclude. Rileva che, le applicazioni su cui si stanno investendo miliardi OGGI hanno effetti ordinari costitutivamente deleteri. Tuttavia, se posso agganciarmi qui per una piccola critica all'articolo di Daniela, direi piuttosto che quella frase è discutibile per l'uso del termine "vantaggiosa". @Daniela: non è affatto detto che la commercializzazione di una determinata tecnologia persegua un profitto economico. In molti casi il vantaggio perseguito è di natura sociale e politica. Dunque se mi posso permettere una correzione, riformulerei quella frase come "Se la responsabilità per gli effetti ordinari (aka esternalità) di tali prodotti ricadesse interamente sui produttori, la loro commercializzazione sarebbe antieconomica." > Questo assimilare la produzione di AI a quella - per dire - dell'iprite o > dell'antrace mi sembra un po' ingenerosa. Più benevolmente Perché dovremmo essere benevoli con questa gente? Io direi piuttosto che dovremmo essere estremamente severi. > potremmo convenire che si tratta di prodotti il cui uso va normato, come > quello di tutti gli altri. Su questo siamo assolutamente d'accordo: dovremmo normarli come normiamo le droghe pesanti, come cocaina e allucinogeni, che producono (a livello individuale) effetti paragonabili a quelli dei prodotti citati (a livello sociale e collettivo). > Per usare una facile metafora: per evitare gli incidenti > stradali non è ragionevole vietare la produzione di automobili, dobbiamo > però far rispettare i limiti di velocità e perseguire severamente chi li > eccede. Splendido esempio. E dovremmo anche arrestare per omicidio i consigli di amministrazione delle auto a guida autonoma che causano incidendi mortali. Quando il consiglio di ammistrazione di Uber verrà arrestato per l'omicidio di Elain Herzberg, potremo brindare insieme. > Non è che l'AI vada accolta per la sua eccezionalità, ma proprio per la sua > ordinarietà. Certe narrazioni manipolatrici e interessate di aziende grandi > e piccole dobbiamo conoscerle, smontarle e contrastarle sul campo con la > pratica. Il compito del tecno-intellettuale gramsciano dovrebbe essere > questo :-) Non so cosa sia un tecno-intellettuale gramsciano. Ma dubito che Gramsci apprezzerebbe questa accozzaglia di argomenti fantoccio in difesa della nuova tecnologia oppressiva dei padroni. ;-) D'altro canto, Daniela porta una asprissima critica ad un mondo intellettuale (o forse tecno-intellettuali) che prende i soldi dell'industria per svilupparne e diffonderne la propaganda attraverso narrazioni che la giustifichino. Ne è un esempio perfetto l'articolo che hai pubblicato sul Manifesto > PS colgo l'occasione per segnalarvi un mio articolo che potrebbe > interessarvi: Serve Wittgenstein per capire ChatGPT > <https://ilmanifesto.it/serve-wittgenstein-per-capire-chatgpt> (Il > Manifesto) Il declino della stampa, la totale scomparsa di qualsiasi senso critico, mi lascia sempre allibito. "Al di là della responsabilità legale dell'esercizio di tali sistemi" Nessuno che abbia riletto il tuo testo prima di pubblicarlo si è chiesto: "perché 'al di là'? non è una responsabilità fondamentale?" "chi si impegna quando l'automa parla? La risposta breve è: nessuno." Nessuno che abbia riletto il tuo testo si è chiesto chi si è impegnato a programmamarlo quell'automa che parla? Si è programmata da sola? Si è accesa da sola? Si paga le bollette da sola? Ma soprattutto, nessuno in una testata storica come il Manifesto è stato capace di chiedersi "Cui prodest?" Questa seconda parte dell'articolo di Daniela mi sembra molto interessante per Nexa: nessun commento sulla cattura culturale in corso? Daniela ne analizza i diversi strumenti retorici: - il principio di inevitabilità tecnologica - il principio di innovazione - la prospettiva soluzionistica - l'antropomorfizzazione delle macchine a la deumanizzazione delle persone - i miti dell'eccezionalismo tecnologico e del vuoto giuridico - gli allarmi su rischi e pericoli tratti dal futuro o dalla fantascienza - i messianesimi eugenetici si tratta di narrazioni finalizzate alla conquista di una nuova egemonia culturale, che deve essere sposata acriticamente. La successiva trattazione dell'aspetto normativo è, secondo me, ineccepibile: > L'eventuale impossibilità di risalire alla responsabilità dovrebbe > perciò essere assimilata giuridicamente, anziché a un rebus > filosofico, a una forma di negligenza del produttore. Non sono sicuro che la categoria della negligenza sia appropriata, onestamente (il dolo è evidente), ma di certo non c'è alcun rebus filosofico in atto, solo fumo negli occhi (evidentemnte ricco di THC) Credo che, passato l'effetto del fumo, una lucida lettura dell'articolo di Daniela potrebbe di grande aiuto ai pochi politici che non si vogliano far manipolare dall'industria. Speriamo abbia ampia diffusione. Giacomo

May 23, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Daniela Tafani

Caro Guido, grazie dell'osservazione. Il fatto che tu abbia completamente frainteso la premessa del mio ragionamento mi fa capire che devo formularla più chiaramente. Non sto parlando del futuro, sto parlando del presente. E non sto parlando dei sistemi di IA simbolica. Ho scritto esplicitamente che sto parlando di alcuni (e ho scritto quali) sistemi di apprendimento automatico. Faccio un esempio: nel presente, i sistemi ML sono costitutivamente opachi e ordinariamente soggetti a tracciare correlazioni spurie. Questo rende oggi impossibile fornire una spiegazione dei loro output e garantire che non utilizzino elementi che un essere umano considererebbe non pertinenti. Per questa ragione, non dovrebbero essere usati nei casi in cui si tratti assumere decisioni rilevanti per la vita delle persone e in cui la legge preveda il diritto a una motivazione o a una spiegazione. Mi limito, su questo, ad aderire alla posizione della Federal Trade Commission statunitense. La mia posizione può essere perciò essere descritta come positiva (le leggi ci sono e si applicano: così rileva anche il CNIL francese), oppure negativa, se si ha in mente che positivo sia il diritto a un profitto eslege e meritevoli di tutela le bolle giuridiche (espressione di Marco Giraudo). Sto parlando esplicitamente di prodotti in commercio, non di fantascienza. Chi argomenti con esempi tratti dal futuro o dalla fantascienza, per discutere quali norme si applichino a prodotti attualmente in commercio, commette secondo me una fallacia logica. Grazie dell'occasione di chiarimento. Buona giornata, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Guido Vetere <vetere.guido(a)gmail.com> Inviato: martedì 23 maggio 2023 06:54 A: Nexa Oggetto: Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto Non so se ho capito correttamente il senso del tuo intervento, ma vorrei rispondere comunque al tuo invito di osservare e commentare. Nel tuo ragionamento, che ha il pregio di esemplificare una posizione radicale, mi sembra di scorgere alcuni difetti logici, ideologici e materiali Prendiamo ad esempio: > . Tra i prodotti di [intelligenza artificiale] – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale. Quel 'costitutivamente' è un giudizio categorico che esclude la possibilità futura di avere auto a guida autonoma che si comportano meglio di certi miei concittadini (romani, ndr), o che vi sia mai la possibilità di lanciare un'allerta meteo localizzato a breve termine in grado di salvare vite umane (tema di attualità), o ancora di avere sistemi di supporto linguistico che aiutano gli immigrati a comprendere certe gabole della nostra pubblica amministrazione. Sul 'non funzionanti' ci sarebbe anche da dire. A quel che si vede nella comunità tecnico-scientifica, certe cose non funzionano, altre hanno difetti, ma altre vanno decisamente bene. Considera che se i nostri figli potranno guarire da certe malattie, qualcosa dovranno anche alle tecniche che stanno alla base di ciò che tu svaluti<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230523045506066981…>. Questa tua visione categoricamente negativa sta alla base - mi pare - del punto centrale del ragionamento: > Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. In quegli 'effetti ordinari' però c'è una grossa petizione di principio. Chi ha stabilito che tutte le applicazioni di AI abbiano 'effetti ordinari' deleteri? Chi ha stabilito che non si possa in alcun modo ottenere un'applicazione ragionevolmente sicura di queste tecniche, così da poter distinguere normalmente tra potenzialità e attualità dell'uso? Questo assimilare la produzione di AI a quella - per dire - dell'iprite o dell'antrace mi sembra un po' ingenerosa. Più benevolmente, potremmo convenire che si tratta di prodotti il cui uso va normato, come quello di tutti gli altri. Per usare una facile metafora: per evitare gli incidenti stradali non è ragionevole vietare la produzione di automobili, dobbiamo però far rispettare i limiti di velocità e perseguire severamente chi li eccede. Non è che l'AI vada accolta per la sua eccezionalità, ma proprio per la sua ordinarietà. Certe narrazioni manipolatrici e interessate di aziende grandi e piccole dobbiamo conoscerle, smontarle e contrastarle sul campo con la pratica. Il compito del tecno-intellettuale gramsciano dovrebbe essere questo :-) Buona giornata, G. PS colgo l'occasione per segnalarvi un mio articolo che potrebbe interessarvi: Serve Wittgenstein per capire ChatGPT<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230523045506066981…> (Il Manifesto) On Sat, 20 May 2023 at 23:01, Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> wrote: Buonasera. Ho appena pubblicato un articolo che potrebbe essere di interesse per questa lista: <https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor…> Vi sarei grata di qualsiasi commento o osservazione. Qui <https://btfp.sp.unipi.it/it/front-page/> il riassunto: I sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani. Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno consentito questi genuini progressi, le grandi aziende tecnologiche hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti». Hanno diffuso e messo in commercio, con la formula di marketing «intelligenza artificiale», sistemi di apprendimento automatico, per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale. Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme profitto, i giganti della tecnologia hanno diffuso una famiglia di narrazioni che danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di qualsiasi discorso pubblico. Sono così entrati a far parte del senso comune, tra gli altri, il principio di inevitabilità tecnologica, il mito dell’eccezionalismo tecnologico, il principio di innovazione e il mito del vuoto giuridico. Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria. Un saluto, Daniela <https://btfp.sp.unipi.it/it/front-page/> _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230523045506066981…>

May 23, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Guido Vetere

Non so se ho capito correttamente il senso del tuo intervento, ma vorrei rispondere comunque al tuo invito di osservare e commentare. Nel tuo ragionamento, che ha il pregio di esemplificare una posizione radicale, mi sembra di scorgere alcuni difetti logici, ideologici e materiali Prendiamo ad esempio: > . Tra i prodotti di [intelligenza artificiale] – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale. Quel 'costitutivamente' è un giudizio categorico che esclude la possibilità futura di avere auto a guida autonoma che si comportano meglio di certi miei concittadini (romani, ndr), o che vi sia mai la possibilità di lanciare un'allerta meteo localizzato a breve termine in grado di salvare vite umane (tema di attualità), o ancora di avere sistemi di supporto linguistico che aiutano gli immigrati a comprendere certe gabole della nostra pubblica amministrazione. Sul 'non funzionanti' ci sarebbe anche da dire. A quel che si vede nella comunità tecnico-scientifica, certe cose non funzionano, altre hanno difetti, ma altre vanno decisamente bene. Considera che se i nostri figli potranno guarire da certe malattie, qualcosa dovranno anche alle tecniche che stanno alla base di ciò che tu svaluti <https://edisciplinas.usp.br/pluginfile.php/7689820/mod_resource/content/1/d…>. Questa tua visione categoricamente negativa sta alla base - mi pare - del punto centrale del ragionamento: > Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. In quegli 'effetti ordinari' però c'è una grossa petizione di principio. Chi ha stabilito che tutte le applicazioni di AI abbiano 'effetti ordinari' deleteri? Chi ha stabilito che non si possa in alcun modo ottenere un'applicazione ragionevolmente sicura di queste tecniche, così da poter distinguere normalmente tra potenzialità e attualità dell'uso? Questo assimilare la produzione di AI a quella - per dire - dell'iprite o dell'antrace mi sembra un po' ingenerosa. Più benevolmente, potremmo convenire che si tratta di prodotti il cui uso va normato, come quello di tutti gli altri. Per usare una facile metafora: per evitare gli incidenti stradali non è ragionevole vietare la produzione di automobili, dobbiamo però far rispettare i limiti di velocità e perseguire severamente chi li eccede. Non è che l'AI vada accolta per la sua eccezionalità, ma proprio per la sua ordinarietà. Certe narrazioni manipolatrici e interessate di aziende grandi e piccole dobbiamo conoscerle, smontarle e contrastarle sul campo con la pratica. Il compito del tecno-intellettuale gramsciano dovrebbe essere questo :-) Buona giornata, G. PS colgo l'occasione per segnalarvi un mio articolo che potrebbe interessarvi: Serve Wittgenstein per capire ChatGPT <https://ilmanifesto.it/serve-wittgenstein-per-capire-chatgpt> (Il Manifesto) On Sat, 20 May 2023 at 23:01, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > Buonasera. > > > Ho appena pubblicato un articolo che potrebbe essere di interesse per > questa lista: > > < > https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor… > > > > > Vi sarei grata di qualsiasi commento o osservazione. > > > Qui <https://btfp.sp.unipi.it/it/front-page/> il riassunto: > > > I sistemi di intelligenza artificiale sono oggi in grado di svolgere > alcuni specifici compiti, che erano stati, finora, prerogativa dei soli > esseri umani. > Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno > consentito questi genuini progressi, le grandi aziende tecnologiche hanno > colto l’opportunità per un’espansione illimitata di prodotti e servizi > «intelligenti». Hanno diffuso e messo in commercio, con la formula di > marketing «intelligenza artificiale», sistemi di apprendimento automatico, > per lo svolgimento di attività che tali sistemi non sono in grado di > svolgere o che semplicemente non sono possibili. Tra i prodotti di questo > genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a > guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di > linguaggio naturale. > > Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse > sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per > sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme > profitto, i giganti della tecnologia hanno diffuso una famiglia di > narrazioni che danno forma alla percezione pubblica del rapporto tra etica, > politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di > qualsiasi discorso pubblico. Sono così entrati a far parte del senso > comune, tra gli altri, il principio di inevitabilità tecnologica, il mito > dell’eccezionalismo tecnologico, il principio di innovazione e il mito del > vuoto giuridico. > > Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe > inapplicabili i sistemi normativi vigenti e gli ordinari criteri di > attribuzione della responsabilità, si oppone oggi una crescente > consapevolezza del fatto che i sistemi informatici sono artefatti, ossia > prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la > commercializzazione alla legislazione ordinaria. > > Un saluto, > Daniela > > > <https://btfp.sp.unipi.it/it/front-page/> > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

May 23, 2023

piccolo off-topic, tracking.exposed ha completato il suo viaggio

by Claudio Agosti

Ciao Nexa, Negli anni potreste aver sentito parlare del progetto https://tracking.exposed che si prefiggeva l'obiettivo di analizzare e raccontare il potere degli algoritmi di personalizzazione. Il progetto ha avuto tre fasi, dal 2016 al 2018 è stato un esperimento vissuto tra le diverse comunità hacker italiane. un po' di interesse da parte del giornalismo, quantomeno da quelli che non credevano che l'influenza di facebook potesse essere gestita dal solo "political ad transparency". Poi una fase accademica sviluppata insieme all'università di amsterdam, grazie ad un grant chiamato Proof of Concept dell'ERC datactive, che mi ha permesso di espandere le piattaforme supportate, dopo Facebook Youtube, Amazon, e di lavorare con 250 studenti negli anni La terza fase (2021-2022) è stata quella più vicina al mondo NGO. Cercare di usare i findings per realizzare litigation, campagne informative e strumenti che dessero più controllo agli utenti. Gli obiettivi di questo progetto erano molti di più, e mi piaceva vederli in diverse fasi. La prima era quella di rendere noto il potere degli algoritmi di personalizzazione e l'impatto che le piattaforme possono avere sulla percezione del discorso pubblico. Il secondo, quello di dare strumenti in mano alla cittadinanza connessa perché prendessero controllo di questi algoritmi. Poi una terza volta ad affrontare il problema dei monopoli digitali. Con l'arrivo del DSA e dell'AIAct, con la necessità di specializzare lo sforzo di questo gruppo, e con l'insorgere di complicazioni proporzionali alla crescita del progetto, nei mesi del 2023 abbiamo lavorato a completare una transizione verso una nuova NGO, https://aiforensics.org che si specializza sulla parte di algorithm accountability. TRex aveva molte decisioni incastonate nel suo comportamento che hanno pregiudicato i suoi successi ed anche causato i suoi problemi. Per menzionare uno per categoria: pro) fare scrapers passivi ha permesso alla realizzazione di tre metodologie diverse di algorithm analyisis con la stessa tecnologia. Mentre altre organizzazioni venivano bloccare e frustrate dalla mancata collaborazione delle piattaforme, mentre una pletora di esperti mi dicevano che lo scraping era solo un rischio, noi è solo grazie a quello se noi siamo andati avanti per anni a fare analisi indipendenti (lol: https://www.reddit.com/r/webscraping/comments/w1ve97/virgin_api_consumer_vs… ) contro) fare analisi pensate per produrre report per me non era sufficiente. Volevo che ogni persona affetta dagli algoritmi potesse fare le proprie analisi. E quindi vai di API, anonimizzazione, compromessi, disegnare interfacce, avere tre differenti target audience. Questa non specializzazione ha compromesso di molto l'usabilità e l'accessibilità finale dei tool, e la difficoltà di ogni sforzo comunicativo. Altri progetti corollari che seguivo come parte di TRex ora confluiscono in Hermes Center, altra NGO nota in italia di cui sono parte. Sul sito https://tracking.exposed trovate un 20 minuti di racconto/riassunto conclusivo. Dovrà avere ancora un paio di aggiornamenti perchè vanno aggiornati anche i siti specifici per le piattaforme supportate, tipo https://pornhub.tracking.exposed https://amazon.tracking.exposed https://youtube.tracking.exposed https://tiktok.tracking.exposed e https://facebook.tracking.exposed Con questo messaggio volevo ringraziare chi della lista ha contribuito alla discussione, è sempre utile avere un gruppo variegato in cui raccontare dei progressi. grazie dell'attenzione ed un caro saluto, C

May 22, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Alberto Cammozzo

Cara Daniela, grazie per aver condiviso la riflessione. Due cose: Uno- potrebbe essere utile spacchettare il "principio precuzionale" nelle diverse varianti ('statements') che contengono una pericolosa ambiguità semantica. Da Stewart, R.B. (2002). "Environmental Regulatory Decision Making Under Uncertainty". Research in Law and Economics. 20: 76. precautionary *approach*: 1. anticipate harm before it occurs 2. proportionality of the risk and the cost and feasibility of a proposed action precautionary principle *statements*: 1 /Non-Preclusion PP/ : Scientific uncertainty should not automatically preclude regulation of activities that pose a potential risk of significant harm. 2 /Margin of Safety PP/ : Regulatory controls should incorporate a margin of safety; activities should be limited below the level at which no adverse effect has been observed or predicted. 3 /Best Available Technology PP/ : Activities that present an uncertain potential for significant harm should be subject to best technology available requirements to minimise the risk of harm unless the proponent of the activity shows that they present no appreciable risk of harm. 4 /Prohibitory PP/: Activities that present an uncertain potential for significant harm should be prohibited unless the proponent of the activity shows that it presents no appreciable risk of harm. Se non ci si accorda su quale statement si usa, tutti possono dire di applicare un PP, ma non intendono la stessa cosa. Due- Forse può essere utile anche includere la _responsabilità di chi questa tecnologia e scienza la sviluppa e la insegna_. Continuare a non porsi domande e a lasciare agli altri il ruolo di "valutare l'impatto" delle tecnologie che noi tecnologi sviluppiamo non è più sostenibile. Quanti di noi sono impegnati a perfezionare "recommendation systems", che non sono altro che sistemi di persuasione pronti alla weaponization? Servono assunzioni di responsabilità, moratorie e obiezioni di coscienza dal basso: certe cose non si insegnano più finché il loro impiego non è regolato e sanzionato. Questo nell'interesse della collettività ma anche della scienza stessa, che tra non molto finirà in blocco sul banco degli imputati, con risultati che non credo possano essere positivi. Un saluto, Alberto On 20/05/23 23:01, Daniela Tafani wrote: > > Buonasera. > > > Ho appena pubblicato un articolo che potrebbe essere di interesse per > questa lista: > > <https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor… > <https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuor…>> > > > Vi sarei grata di qualsiasi commento o osservazione. > > > Qui <https://btfp.sp.unipi.it/it/front-page/> il riassunto: > > > I sistemi di intelligenza artificiale sono oggi in grado di svolgere > alcuni specifici compiti, che erano stati, finora, prerogativa dei > soli esseri umani. > Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno > consentito questi genuini progressi, le grandi aziende tecnologiche > hanno colto l’opportunità per un’espansione illimitata di prodotti e > servizi «intelligenti». Hanno diffuso e messo in commercio, con la > formula di marketing «intelligenza artificiale», sistemi di > apprendimento automatico, per lo svolgimento di attività che tali > sistemi non sono in grado di svolgere o che semplicemente non sono > possibili. Tra i prodotti di questo genere – costitutivamente > pericolosi e non funzionanti – ci sono le auto a guida autonoma, i > sistemi di ottimizzazione predittiva e i generatori di linguaggio > naturale. > > Se la responsabilità per gli effetti ordinari di tali prodotti > ricadesse sui produttori, la loro commercializzazione non sarebbe > vantaggiosa. Per sfuggire alle loro responsabilità senza rinunciare a > una fonte di enorme profitto, i giganti della tecnologia hanno diffuso > una famiglia di narrazioni che danno forma alla percezione pubblica > del rapporto tra etica, politica, diritto e tecnologia e costituiscono > gli assiomi indiscussi di qualsiasi discorso pubblico. Sono così > entrati a far parte del senso comune, tra gli altri, il principio di > inevitabilità tecnologica, il mito dell’eccezionalismo tecnologico, il > principio di innovazione e il mito del vuoto giuridico. > > Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe > inapplicabili i sistemi normativi vigenti e gli ordinari criteri di > attribuzione della responsabilità, si oppone oggi una crescente > consapevolezza del fatto che i sistemi informatici sono artefatti, > ossia prodotti, e che non c’è alcuna ragione per sottrarne la > distribuzione e la commercializzazione alla legislazione ordinaria. > > Un saluto, > Daniela > > > <https://btfp.sp.unipi.it/it/front-page/> > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

May 22, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Damiano Verzulli

Il 22/05/23 12:20, alessandro marzocchi ha scritto: > [...] > Darebbe un aiuto significativo una norma semplice: "" OGNI PROGRAMMA > DEVE ESSERE TOTALMENTE TRASPARENTE "" ? Esistono "sfumature" che non vengono colte da una tale semplificazione. La stessa parola "trasparente", si presta a molte letture. A me, ad esempio, basterebbe: - che per lo smartwatch cinese da 20€ che ho acquistato [1] (e sul quale gira un mini sistema operativo "customizzato" da qualcuno) fossero note le specifiche minime necessarie per consentirmi di sostituire il software esistente (N.B.: sarebbe banale [2], se il bootloader non fosse "chiuso" e se le specifiche d'uso di diversi componenti hardware non fossero "chiuse". E sarebbe un'alternativa migliore --come hardware-- rispetto a PineTime [3]). - che l'APP di home-banking (o quella di SPID), continuassero tranquillamente ad essere "proprietarie"... purché mi dessero la possibilita' (la mia banca, ed il mio provider SPID) di "autenticarmi" in modo diverso (scelto da me). Per farlo... dovrebbero pubblicare "le specifiche" di autenticazione.... (e non il codice dell'APP). Con le specifiche, io potrei costruirmi "la mia APP"... e fare cio' che mi pare (magari facendolo fare ad altri); - che quando una P.A. decide di sviluppare un software, non lasci le scelte tecnologiche in mano *SOLO* ai "tecnici", altrimenti finisce che nel codice ci finiscono componenti "problematiche" (come Firebase, per l'APP-IO [4]) che ne rendono impossibile un "utilizzo" in ambienti 100% liberi; - che quando una P.A. (come una scuola) decide di mandarmi un documento da firmare (o una presentazione che i miei figli *DEVONO* vedere), lo faccia utilizzando un atteggiamento "neutrale" (ossia senza farlo, come default, con Youtube e Word [e iPad]) o, meglio, lo faccia in modo da promuovere *ATTIVAMENTE* le alternative libere (es.: guidando gli studenti a creare comunita' Mastodon e Matrix, locali alla scuola... piuttosto che i blasonati Twitter e WhatsApp); ...e potrei continuare. "OGNI PROGRAMMA DEVE ESSERE TOTALMENTE TRASPARENTE ", ritengo sia un po' troppo generico. Quando, tempo fa, (Stallman) investi' del tempo a creare la licenza GPL (con il relativo copyleft), con l'obiettivo quantomeno di far in modo che il software che nasceva "libero", potesse restare "libero", lui stessi.... falli' (seppur parzialmente): arrivò TiVo e riuscì --di fatto-- a "bypassare" quelle restrizioni [5]. Da li, piu tardi, si parti' per arrivare alla GPL-v3 Elastic Inc [2000 dipendenti; 600 milioni di dollari di fatturato [6]], quando inizio' a sviluppare "elasticsearch", scelse la licenza libera da adottare (la "Apache 2.0", mi pare [7]) convinta di fare del bene...... Poi, nel 2021, dato che Amazon/AWS utilizzava quel software (elasticsearch) sui propri server (quelli di AWS) per vendere un servizio "cloud" ai propri utenti (quelli di AWS), senza pagare un € a Elastic... questa si accorse che la decisione iniziale fu affrettata e... cambio' licenza. Ma era tardi. AWS forko' il progetto e fece nascere OpenSearch. Tutto questo solo per dire che il tema è complesso, ed e' difficile proporre una soluzione "risolutiva". Soluzione che *NON* credo esista, tout-court. Secondo me l'unica soluzione è a lungo termine, ed è la "consapevolezza". Se ogni scuola primaria, ogni scuola secondaria di primo e secondo grado, ogni universita'... spendesse del tempo per "diffondere" quella cultura critica che porta gli studenti ad "inquadrare il problema" e "ipotizzare soluzioni", anche facendogli toccare con mano "progetti" e "infrastrutture" *REALI*.... sarebbe gia' un eccellente passo avanti. Ma temo non accadra'. Purtroppo. Il livello di benessere a cui siamo abituati e' tale per cui questo genere di problema... passa facilmente in secondo piano. A tutti i livelli. Anche su questa lista. Saluti, DV [1] https://www.aliexpress.com/item/1005002278750230.html?spm=a2g0o.order_list.… [2] https://asteroidos.org/watches/ [3] https://www.pine64.org/pinetime/ [4] https://github.com/pagopa/io-app/issues/1718 [5] https://en.wikipedia.org/wiki/Tivoization [6] https://en.wikipedia.org/wiki/Elastic_NV [7] https://www.elastic.co/pricing/faq/licensing -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

May 22, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by Marco Fioretti

On Mon, May 22, 2023 at 12:20, alessandro marzocchi wrote: Darebbe un aiuto significativo una norma semplice: "OGNI PROGRAMMA DEVE ESSERE TOTALMENTE TRASPARENTE "" ? Credo che lo darebbe in quei casi in cui anche gli INPUT del programma sono/possono essere totalmente trasparenti IN TEMPO UTILE. E' il problema "Algorithms and policies are nothing without data. COMPLETE data" di cui parlavo anni fa a proposito di Facebook: https://stop.zona-m.net/2018/01/er..-no-sorry-facebook-cannot-provide-trans… (https://stop.zona-m.net/2018/01/er..-no-sorry-facebook-cannot-provide-trans…) ma non credo che quello sia l'unica eccezione. Marco -- "I was using SOCIAL MEDIA to shut up my monkey mind" https://mfioretti.substack.com/p/i-was-using-social-media-to-shut (https://mfioretti.substack.com/p/i-was-using-social-media-to-shut)

May 22, 2023

Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

by alessandro marzocchi

Buongiorno, mi riferisco agli ultimi contributi di Michele Pinassi e Giacomo Tesio ed a quello iniziale di Daniela Tafani con oggetto "" Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto "" . Darebbe un aiuto significativo una norma semplice: "" OGNI PROGRAMMA DEVE ESSERE TOTALMENTE TRASPARENTE "" ? I tecnici sono certamente più bravi a scrivere meglio la prescrizione che però dovrebbe restare FACILE DA VERIFICARE, semplice e comprensibile per il maggior numero possibile degli otto miliardi di umani sul pianeta. Mi rendo conto della difficoltà di superare convinzioni e principi a tutela di proprietà intellettuale ed investimenti ma potrebbe cominciare l'Ue che è ancora un mercato importante. Grazie e cordialità. Duccio (Alessandro Marzocchi) Il giorno lun 22 mag 2023 alle ore 12:00 <nexa-request(a)server-nexa.polito.it> ha scritto: > Send nexa mailing list submissions to > nexa(a)server-nexa.polito.it > > To subscribe or unsubscribe via the World Wide Web, visit > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > or, via email, send a message with subject or body 'help' to > nexa-request(a)server-nexa.polito.it > > You can reach the person managing the list at > nexa-owner(a)server-nexa.polito.it > > When replying, please edit your Subject line so it is more specific > than "Re: Contents of nexa digest..." > > > Today's Topics: > > 1. Re: Sistemi fuori controllo o prodotti fuorilegge? La > cosiddetta «intelligenza artificiale» e il risveglio del > diritto (Giacomo Tesio) > 2. MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, ore > 13.00 (Nexa Media) > > > ---------------------------------------------------------------------- > > Message: 1 > Date: Mon, 22 May 2023 07:23:44 +0000 > From: Giacomo Tesio <giacomo(a)tesio.it> > To: Michele Pinassi <michele.pinassi(a)unisi.it>, Michele Pinassi via > nexa <nexa(a)server-nexa.polito.it>, Norberto Patrignani > <norberto.patrignani(a)polito.it> > Subject: Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La > cosiddetta «intelligenza artificiale» e il risveglio del diritto > Message-ID: <9FDC63A3-248D-4CF9-B12C-4B44A77F1830(a)tesio.it> > Content-Type: text/plain; charset=utf-8 > > Michele, pur conoscendo e apprezzando la tua storia, ciò che hai scritto > nella mail cui ho > risposto è gravissimo: "le normative nazionali dovranno, a mio > modestissimo parere, piegarsi." > > Quale che sia la tua storia, quel "dovranno" rivela una resa. > > Che sia consapevole o meno, sempre resa rimane. > > > Le mie parole sono state dure nella speranza di riscuoterti. > > > > La posta in gioco è altissima. > Aspettare che una popolazione manipolata 24 ore al giorno, 7 giorni su 7 > possa comprendere > il problema in tempi utili è arrendersi. > > Chiediti cosa puoi intanto fare tu, nella PA in cui lavori, per dare una > speranza di libertà ai tuoi figli. > > > Fai reclamo al Garante come interessato, causa alla PA come dipendente per > violazione dello Statuto dei Lavoratori, organizza scioperi bianchi etc... > etc... > > Fai TUTTO CIÒ CHE PUOI per rendere evidenti queste catene e distruggerle. > > > Oppure accetta la tua resa e inizia a pensare una scusa convincente per > ciò che non avrai fatto > quando i tuoi figli te ne chiederanno conto. > > > La Legge non si deve piegare al potere. > Quando lo fa, elimina ogni speranza di Giustizia. > E con essa, ogni possibilità di confronto politico civile e nonviolento. > > > Giacomo > > > Il 21 Maggio 2023 18:25:05 UTC, Michele Pinassi <michele.pinassi(a)unisi.it> > ha scritto: > >Mi sorprende, Giacomo, che tu possa imputarmi certe posizioni, > soprattutto conoscendo la mia storia sia personale che professionale. > > > >In ogni caso, temo che non sia passato il messaggio che intendevo > inviare, ovvero che quando questi soggetti privati diventano economicamente > troppo grandi ("too big to..."), purtroppo la politica tende a piegarsi > alle loro esigenze e non viceversa. > > > >Questo non significa né che lo debba accettare né, tantomeno, che lo > condivida. > > > >La coraggiosa emanazione del GDPR da parte dell'Unione Europea si è > scontrata con gli interessi dei GAFAM più volte ma la sensazione, > quantomeno quella mia squisitamente personale, è che a nessuna delle parti > in causa interessa arrivare a decisioni drastiche, che impatterebbero in > modo enorme sulla società. > > > >Del resto, l'esperienza di MonitoraPA mi pare che lo stia dimostrando. O > sbaglio? > > > >A questo punto sta a noi cittadini fare pressione politica per invertire > la tendenza. Se un manipolo di coraggiosi può innescare la scintilla, temo > serva però la consapevolezza di almeno un decina di punti percentuale della > popolazione per ricevere l'attenzione della classe politica. Un po' come > sta avvenendo per l'attacco ransomware della ASL 1 Aquila, dove per la > prima volta in Italia i cittadini si stanno rendendo conto del problema e > si sono attivati, politicamente e legalmente, a tutela dei loro diritti. > > > >Penso che la direzione sia quella giusta, ma la strada è ancora > terribilmente accidentata e impervia. > > > >MP > > > >Il 21/05/23 10:48, Giacomo Tesio ha scritto: > >> Il 21 Maggio 2023 06:47:18 UTC, Michele Pinassi via nexa < > nexa(a)server-nexa.polito.it> ha scritto: > >>> ChatGPT e l'AI arrivano in un contesto già profondamente polarizzato da > >>> questi grandi attori (GAFAM) ed è quindi praticamente inevitabile che > possa > >>> esserci una concentrazione di queste tecnologie nelle mani di pochi. > >>> > >>> A cui, obtorto collo o no, le normative nazionali dovranno, a mio > >>> modestissimo parere, piegarsi. > >> Quindi Michele, a tuo modesto parere, dobbiamo > >> piegarci e rinunciare alla democrazia. > >> > >> > >> Immagino che tu l'abbia già fatto, giusto? > >> Come sanno bene i tuoi burattinai, c'è un solo modo per vincere una > guerra: > >> convincere gli avversari di aver perso, che non valga più la pena > continuare a lottare. > >> > >> > >> Io resisto. > >> > >> Non posso fare diversamente, perché ho figlie che vivranno nel mondo > che state costruendo. > >> > >> > >> Giacomo > >> > >> PS: le alternative esistono e di fronte a chi sostiene il contrario mi > chiedo sempre > >> se sia incompetente o colluso > >> https://fuss.bz.it/post/2023-03-28_incontro-dirigenti-emilia-romagna/ > >> > >> Ma quandanche non esistessero alternative democratiche, si potrebbero > costruire. > >> E nel frattempo FARNE A MENO. > >> > >> Come si è fatto fino a solo 3 anni fa. > > > > > ------------------------------ > > Message: 2 > Date: Mon, 22 May 2023 10:23:09 +0200 > From: Nexa Media <media(a)nexa.polito.it> > To: nexa <nexa(a)server-nexa.polito.it> > Subject: [nexa] MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, > ore 13.00 > Message-ID: <7737e03c-e1a3-6ee3-ed53-365b3e7c5da3(a)nexa.polito.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > Gentilissime, gentilissimi, > > > Vi ricordiamo che *mercoledì 24 maggio*, dalle ore 13.00 alle ore 14.00, > si terrà il *106° Nexa Lunch Seminar* > con un incontro dal titolo: /*"L'"etica" come specchietto per le > allodole. Sistemi di intelligenza artificiale e violazioni dei diritti"*/. > > Ospite dell'incontro: *Daniela Tafani *(Università di Pisa). > > _L'incontro si terrà IN PRESENZA e ONLINE._ > > _SEDE FISICA dell'incontro_: Centro Nexa su Internet e Società, > Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). > Per accedere alla sala si raccomanda di suonare al citofono Portineria e > di seguire le indicazioni segnalate dai cartelli lungo il percorso. > QUI <https://nexa.polito.it/contatti> maggiori informazioni su come > raggiungerci. > > _STANZA VIRTUALE dell'incontro_: > https://didattica.polito.it/VClass/NexaEvent > > Maggiori informazioni alla pagina web: https://nexa.polito.it/lunch-106 > > > Cordiali saluti, > > -- > > Anita Botta > Communication Manager > > Nexa Center for Internet & Society > Politecnico di Torino – DAUIN > Corso Duca degli Abruzzi, 24 - 10129 Torino > > web: https://nexa.polito.it/ > mail: anita.botta(a)polito.it > tel: 011 090 7219 >

May 22, 2023

MEMENTO | 106° Nexa Lunch Seminar | 24 maggio 2023, ore 13.00

by Nexa Media

Gentilissime, gentilissimi, Vi ricordiamo che *mercoledì 24 maggio*, dalle ore 13.00 alle ore 14.00, si terrà il *106° Nexa Lunch Seminar* con un incontro dal titolo: /*"L'"etica" come specchietto per le allodole. Sistemi di intelligenza artificiale e violazioni dei diritti"*/. Ospite dell'incontro: *Daniela Tafani *(Università di Pisa). _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA dell'incontro_: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono Portineria e di seguire le indicazioni segnalate dai cartelli lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE dell'incontro_: https://didattica.polito.it/VClass/NexaEvent Maggiori informazioni alla pagina web: https://nexa.polito.it/lunch-106 Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

May 22, 2023