- nexa - server-nexa.polito.it

Re: [nexa] Sul principio di inevitabilità tecnologica

by Paolo Del Romano

Il giorno dom 16 apr 2023 alle ore 21:44 Maria Chiara Pievatolo < mariachiara.pievatolo(a)unipi.it> ha scritto: > On 16/04/23 19:03, Daniela Tafani wrote: > > > > The biggest lie tech people tell themselves — and the rest of us > > > > They see facial recognition, smart diapers, and surveillance devices as > > inevitable evolutions. They’re not > > > > Infatti disponiamo del precedente, di cui parla Lucio Russo in "La > rivoluzione dimenticata", di una civiltà - quella ellenistica - che > disponeva delle conoscenze scientifiche per fare una rivoluzione > industriale del tipo di quella del XVIII secolo e non l'ha fatta. Un > paio di citazioni dal X capitolo: > > (...OMISSIS...) > > "I Romani erano disinteressati alla scienza, ma non rifiutavano certo i > benefici della ricchezza e della tecnologia: pensavano però che fosse > compito degli individui inferiori procurarli e quello dell’aristocrazia > goderli. ...OMISSIS...." E' ancora cosi'. Le famiglie benestanti orientano (con metodi anche poco liberali) i loro figli in primo luogo all'iscrizione al liceo classico e solo in secondo ordine al liceo scientifico. Mai negli istituti tecnici/professionali. Paolo.

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Enrico Nardelli

Sono d'accordo con te Stefano. Ero consapevole dell'eccezione costituita dal software ma non volevo complicare il ragionamento. In effetti, forse la comunità "in-the-large" degli informatici dovrebbe smettere di "indossare i calzoni corti" ed assumersi le responsabilità per i propri prodotti come accade negli altri settori tecnologici, per lo meno in quei casi in cui il prodotto software viene venduto o dato in licenza. (Se ti regalo una macchina rotta non ha senso che ti lamenti che sia rotta se ti ho avvisato che potrebbe essere rotta). Mi è chiaro l'enorme impatto (non solo economico) di un'affermazione di questo genere ma, per stemperare l'osservazione con una battuta, se vogliamo essere chiamati "ingegneri del software" dobbiamo fare gli ingegneri veri, che (normalmente) vanno in galera se il palazzo che hanno costruito crolla perché non hanno verificato adeguatamente i calcoli. Diciamo che in questo ambito l'arrivo di ChatGPT è stato il bambino è che ha gridato "il re è nudo" ... Ciao, Enrico Il 16/04/2023 18:09, Stefano Zacchiroli ha scritto: > On Sun, Apr 16, 2023 at 12:13:20PM +0200, Enrico Nardelli wrote: >> QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare >> requisiti di sicurezza. > ... tranne il software. Certamente ci sarà qualche requisito che si > applica in automatico anche al software --- e mi appello anche io ai > giuristi in lista per precisarlo --- ma la barra di accesso al mercato > del software è bassissima. Di default, chiunque può pubblicare prodotti > software su svariati app store senza alcun controllo a monte (salvo > quelli automatici implementati dagli app store dei vari GAFAM). > > Il CRA (Cyber Resilience Act) europeo va nella direzione di aggiungere > tali controlli, sotto forma di (auto-)certificazioni e questo ha > provocato una sollevata di scudi da parte del mondo free/open source > software. (Ne abbiamo già parlato separatamente in lista.) > > Dico questo non per controbattere al tuo argomento, Enrico, che trovo in > se ragionevole. Ma per osservare che qui siamo anche perché per decenni > l'industria del software (compresa quella FOSS!, fatta anche di > volontari/ non-profit/ etc. che non potrebbero permettersi l'overhead > dei controlli) è fiorita grazie all'assenza dei controlli che ora si > invocano. > > Trovare un giusto mezzo tra lo status quo ed il desiderio di > regolamentare prodotti "che contengono AI" non sarà affatto banale. > > Saluti a tutti -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Enrico Nardelli

Scusa Guido, premesso che ammiro e rispetto Beppe Attardi che è certamente estremamente competente in termini di IA, se con "dare ascolto" intendi "credere", beh, temo che questo atteggiamento ci riporti all'ipse dixit. La discussione su fatti scientifici non può mai procedere per "fede". Ad esempio, in questo recente scambio avvenuto in lista Il 12/04/2023 14:15, Giuseppe Attardi ha scritto: >> On 11 Apr 2023, at 20:34, Antonio Casilli<antonio.casilli(a)telecom-paris.fr> wrote: >> >> >>> PS. I LLM sono tutt’altro che Stochastic Parrots: ripetere a pappagallo i testi da cui sono stati allenati è proprio ciò che non sanno fare. >> Beppe, "stochastic parrot" non è questo. >> Timnit Gebru et al. ne parlano nel senso di un dispositivo che "haphazardly stitch[es] together sequences of linguistic forms (...), according to probabilistic information about how they combine, but without any reference to meaning". L'accento è sullo "stochastic". > Ma non è questo quello che fanno i LLM della serie GPT: non attaccano affatto insieme “sequenze di forme linguistiche”. Questo riprodurrebbe appunto pezzi di frasi a pappagallo. > Invece il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza. ritengo che Beppe abbia male interpretato quanto Antonio ha scritto, nonostante Beppe sia certamente profondo conoscitore dell'IA mentre Antonio ha professionalmente un'altra preparazione. Antonio infatti dice "dispositivo che attacca insieme sequenze di forme linguistiche in base ad informazioni probabilistiche su come si combinano", cui Beppe ribatte che "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza". Io ritengo che Antonio abbia detto esattamente quello che dice Beppe, visto che "forme linguistiche di base" è un'espressione che comprende anche "la prossima parola". Aggiungo, sempre facendo riferimento a quello scambio, che forse non c'è bisogno di citare Giorgio Parisi, anche lui eminentissimo scienziato premiato col Nobel, per ricordare che comportamenti complessi emergono da leggi semplici. Non serve neanche che siano probabilistiche, come evidenziò tra i primi Henri Poincaré nell'Ottocento. Anche con equazioni deterministiche emerge quel caos al cui confine con l'ordine c'è la complessità del "significato", la complessità della vita biologica e della nostra esistenza. Insomma, se il dibattito deve essere di livello scientifico elevato, più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti e consistenti nella lettura degli altri e nell'esposizione delle nostre riflessioni. Ciao, Enrico -- Il 16/04/2023 18:32, Guido Vetere ha scritto: > > Quanti sanno "com'è"? > > sicuramente, una piccola frazione di quelli che presumono di saperlo :-) > > perché non diamo ascolto a chi su queste cose ha lavorato scientificamente a livello internazionale per una vita? > > sta qui in lista, si chiama @Giuseppe Attardi <mailto:giuseppe.attardi@unipi.it> > > G. > > > > > > On Sun, 16 Apr 2023 at 17:55, alessandro marzocchi <alemarzoc(a)gmail.com> wrote: > > Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona? > > questo sistema è lì così com'è, > > Quanti sanno "com'è"? > Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che già oggi funziona come il nostro cervello, indirizza la nostra mente, le nostre scelte, i nostri comportamenti. > Cordialmente > Duccio (Alessandro Marzocchi) > > Date: Sun, 16 Apr 2023 17:14:15 +0200 > > From: Guido Vetere <vetere.guido(a)gmail.com> > To: Roberto Dolci <rob.dolci(a)aizoon.us> > Cc: "delromano(a)gmail.com" <delromano(a)gmail.com>, Nexa > <nexa(a)server-nexa.polito.it> > Concordo. > Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o > ci piacerebbe che fosse (in sostanza: il front-end di una base di > conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece > su quello che è, su come usarlo e con quali cautele, sul non usarlo e > perché, o sulla opportunità giuridica di impedire del tutto il suo uso. > Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, > che le autovetture fossero alimentate a biada, offuscando però il dibattito > sulla necessità di installare semafori in città. Questo è il pericolo che > vedo nella posizione del Garante italiano. > E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza > globale collassi in un solo sistema proprietario, e per di più > *intrinsecamente* allucinato. > Ma questo sistema è lì così com'è, e più che levare contro di esso grida > manzoniane, dovremo pensare seriamente a come farci i conti. > G. > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] Sul principio di inevitabilità tecnologica

by Maria Chiara Pievatolo

On 16/04/23 19:03, Daniela Tafani wrote: > > The biggest lie tech people tell themselves — and the rest of us > > They see facial recognition, smart diapers, and surveillance devices as > inevitable evolutions. They’re not > Infatti disponiamo del precedente, di cui parla Lucio Russo in "La rivoluzione dimenticata", di una civiltà - quella ellenistica - che disponeva delle conoscenze scientifiche per fare una rivoluzione industriale del tipo di quella del XVIII secolo e non l'ha fatta. Un paio di citazioni dal X capitolo: "L’uso della tecnologia scientifica nella produzione non coincide necessariamente con l’innesco del processo nel quale siamo attualmente immersi. Chiarendo bene questa distinzione, credo che si debba riconoscere che la tecnologia scientifica ebbe nell’antichità rilevanti applicazioni ai processi produttivi. Il fatto che il ruolo economico del Museo non fosse simile a quello della Royal Society, come ha sottolineato Finley, non implica che sia stato irrilevante. L’innesco del processo esponenziale di sviluppo che è in genere chiamato rivoluzione industriale dipese da una complessa serie di fattori (economici, sociali, politici, culturali, demografici...) che non abbiamo ancora capito a fondo. Ha più senso cercare di capire cosa è avvenuto nell’Europa del XVIII secolo che non chiedersi perché lo stesso fenomeno non sia avvenuto duemila anni prima. Lo sviluppo scientifico ellenistico fu interrotto violentemente dalla conquista romana. Volendo speculare su cosa sarebbe potuto accadere in mancanza di tale arresto, nulla ci autorizza a pensare che gli sviluppi tecnologici ed economici sarebbero stati gli stessi sperimentati dall’Europa duemila anni dopo. Sappiamo però che nel decollo scientifico-industriale dell’epoca moderna un ruolo importante fu svolto dal recupero di una parte delle antiche conoscenze scientifiche e tecnologiche. " "I Romani erano disinteressati alla scienza, ma non rifiutavano certo i benefici della ricchezza e della tecnologia: pensavano però che fosse compito degli individui inferiori procurarli e quello dell’aristocrazia goderli. Il sistema romano era basato sullo sfruttamento di province in cui sopravviveva una tradizione culturale scientifica e tecnologica; così si risolse bene il problema di acquisire e controllare tecnici competenti, ma non quello di formarli. Al crollo del sistema politico di Roma si accompagnò il crollo culturale, economico e tecnologico dell’Occidente. Nell’VIII secolo il più grande matematico dell’Occidente è considerato Beda il Venerabile, che nel suo lavoro più impegnativo descrive un metodo per rappresentare i numeri con gesti delle mani. Molti sapevano farlo fino a dieci, ma Beda, usando una specie di alfabeto per sordomuti, riesce ad arrivare un po’ più in là." Se ci lasciamo vivere in un mondo di scatole nere, in cui ci facciamo fare le cose senza curarci di sapere come e perché si fanno, un esito simile è difficilmente evitabile. E buonanotte, MCP

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Ciao Roberto, mia moglie è un medico. Parliamo spesso dei problemi di compliance terapeutica e dei problemi di comunicazione con i pazienti (alcuni dei quali non parlano ne italiano né inglese, ma magari solo arabo, solo cinese, solo sardo, o solo piemontese etc...), nonché di come la tecnologia potrebbe migliorare il suo lavoro (e di come invece spesso lo rende più difficile). On Sun, 16 Apr 2023 14:25:20 +0000 Roberto Dolci wrote: > 1. Aiutare noi, non-medici, a descrivere in modo corretto i nostri > dolori, sintomi e tutto il quadro che aiuta il medico nel processo di > diagnosi, facendo le domande giuste ed usando i termini corretti. Un > bel passo avanti nella telemedicina. > > 2. All’opposto, usato dal medico nella prescrizione delle cure, > diete e specialmente nelle raccomandazioni comportamentali per > facilitare il processo di guarigione. Quello che chiamiamo “patient > compliance” e’ per molte patologie il fattore che piu’ pregiudica > tempi e modi di guarigione. Il suo commento ai casi d'uso che proponi è stato "questo deve essere un sostenitore di Immuni". Non è un complimento... ;-) Nella migliore delle ipotesi, gli usi che proponi farebbero perdere un sacco di tempo ai medici. Ma molto più probabilmente produrrebbero errori diagnostici o terapeutici e occasionalmente morti. Chi ne risponderebbe? > ChatGPT e’ un capo della retorica, e sa scrivere molto meglio della > media dei medici. :-) Non sai di cosa parli. E d'altro canto, il soluzionismo tecnologico si fonda sempre sulla scarsa comprensione della complessità dei "problemi" che si intende "risolvere". > Se invece vogliamo dar disinformazione e convincere la gente che i > maiali volano, facilissimo farlo, ma sarebbe l’uso sbagliato. Giusto o sbagliato che sia, l'importante è che qualcuno ne risponda. Giacomo

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giuseppe Attardi

La storia della nascita di Unix me l’ha raccontata di persona Ken Thompson. Disse che gli serviva un computer per poter programmare un gioco di scacchi e trovò in un sottoscala un PDP-7 abbandonato e chiese il permesso di utilizzarlo. Tuttavia il sistema operativo della DEC che ci girava era totalmente inadeguato e quindi decise di scrivere il suo, basato su questi tre principi: 1. Tutto è un file 2. Ogni comando è un processo e i processi si combinano attraverso pipe 3. Usare sempre la tecnica più potente disponibile (es espressioni regolari per il file matching) Questo lo venne a raccontare a un seminario che organizzai al Politecnico di Milano nel 1981, insieme a Bill Joy a illustrare la prima installazione di Unix BSD 4.1 fuori dagli USA. Il ruolo di Space Travel viene attribuito all’esperienza acquisita del PDP-7: la versione di Ken era scritta in assembler. One of the factors that made this possible [writing UNIX in assembly] was the proficiency that he had gained with that system while writing an early computer game called Space Travel. — Beppe > On 16 Apr 2023, at 18:50, <nexa-request(a)server-nexa.polito.it> <nexa-request(a)server-nexa.polito.it> wrote: > > From: Antonio <antonio(a)piumarossa.it <mailto:antonio@piumarossa.it>> > To: nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > sospesa se OpenAI adotterà le misure richieste. > Message-ID: <20230416171953.1e96bd154d4b5aa479c7c607(a)piumarossa.it <mailto:20230416171953.1e96bd154d4b5aa479c7c607@piumarossa.it>> > Content-Type: text/plain; charset=ISO-8859-1 > >> Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il gioco degli scacchi. > > Che Thompson sia stato un grande appassionato di scacchi è cosa nota. > Suo (e di Joe Condon) il computer scacchistico Belle [1] che tra gli anni settanta e ottanta sbaragliava gli avversari /artificiali/. In un'epoca in cui i programmi scacchistici non andavano oltre le 5000 mosse al secondo, il suo Belle ne computava 160000. > Tuttavia, da quello che riporta Wikipedia, il gioco che avrebbe portato alla scrittura di un sistema operativo completamente nuovo e che è andato a costituire il nucleo di Unix è stato Space Travel [2] > > Antonio > > [1] https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230416165022062402…) > [2] https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230416165022062402… >

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giuseppe Attardi

> On 16 Apr 2023, at 11:58, Marco A. Calamari <marcoc_maillist(a)marcoc.it> wrote: > > On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote: >> Questa risposta è talmente grossolana e offensiva che speravo qualcun altro rispondesse. >> >> Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la condividano. > > Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o anche d'accordo, perché no?) rispondano. > > Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di tecnocontrollo e geopolitica. > > Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione fredda”. Ossia assimili l’AI alla “fusione fredda”, una tecnologia quella sì davvero inesistente. — Beppe > > Il tempo è la risorsa più limitata al mondo. > > JM2EC. Buona domenica a tutti. Marco > > >> L’Artificial Intelligence esiste ed è una delle principali discipline della Computer Science. >> Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto il mondo. >> Il fatto che la Commissione Europea l’abbia ignorata nei suoi finanziamenti, dimostra la sua miopia, non la sua furbizia. >> Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il fiorire di innovazioni che sta portando l’AI. >> >> Occupandosi di uno dei problemi più complessi dell’informatica, ossia la riproduzione delle capacità della mente umana, l’AI si è dovuta spesso scontrare coi limiti della tecnologia. >> Ma chi se ne occupava si è sempre ingegnato per superarli. >> Infatti, gran parte delle tecnologie informatiche che oggi sono di uso comune, sono nate in ambito AI. >> Ad esempio: >> >> - linguaggi funzionali >> - garbage collection >> - linguaggi a oggetti >> - interfacce grafiche >> - interfacce di sviluppo integrate (IDE) >> - Map/reduce per elaborazione parallela >> - animazione 3D >> - sistemi operativi >> >> Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per il gioco degli scacchi. >> Il movimento del Free Software fu lanciato da Richard Stallman, che lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp Machine. >> >> Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere il rammarico che le più significative innovazioni dell’AI venissero spesso attribuite ad altri. >> >> Many of AI's greatest innovations have been reduced to the status of just another item in the tool chest of computer science. Nick Bostrom explains "A lot of cutting edge AI has filtered into general applications, often without being called AI because once something becomes useful enough and common enough it's not labeled AI anymore.” >> https://en.wikipedia.org/wiki/History_of_artificial_intelligence#AI_behind_… <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230416095857072054…> >> >>> la ricerca di cui abbiamo bisogno >>> non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come allucinazione collettiva) ma sulla programmazione statistica >> L’AI copre aree più vaste della “programmazione statistica”. >> >> Il confronto con la blockchain è offensivo: quella è una tecnologia in cerca di applicazioni, basata su un singolo articolo. >> Non può essere comparata con una disciplina scientifica con 50 anni di ricerca alle spalle e migliaia di ricercatori coinvolti. >> >>> In Europa arranchiamo solo perché inseguiamo, invece di guidare. >>> >> Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui abbiamo scarso controllo? >> >> — Beppe >> >> >>> On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it wrote: >>> >>> From: Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> >>> To: Giuseppe Attardi <attardi(a)di.unipi.it <mailto:attardi@di.unipi.it>> >>> Cc: Stefano Maffulli <smaffulli(a)gmail.com <mailto:smaffulli@gmail.com>>, >>> "nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>" <nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it>> >>> Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria >>> sospesa se OpenAI adotterà le misure richieste. >>> Message-ID: <20230414165246.00001237(a)tesio.it <mailto:20230414165246.00001237@tesio.it>> >>> Content-Type: text/plain; charset=utf-8 >>> >>> On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: >>> >>>>> On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it <mailto:giacomo@tesio.it>> wrote: >>>>> >>>>> Beh, è facile concordare sui finanziamenti alla ricerca. >>>> >>>> Talmente facile che non viene fatto. >>>> >>>> La voce “Intelligenza Artificiale” non era nemmeno presente nei >>>> progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati >>>> stanziati 50 milioni per 5 progetti ICT-48. >>> >>> Vuoi dire che l'hanno messa? >>> Bah... che posso dire, farà il paio con la blockchain! >>> >>> Il fatto che la voce "Intelligenza Artificiale" non fosse presente >>> lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno >>> non riguarda l'"Intelligenza Artificiale" (che non esiste, se non >>> come allucinazione collettiva) ma sulla programmazione statistica >>> cui troppi, non comprendendone il funzionamento, attribuiscono >>> una qualche forma di "intelligenza". >>> >>> Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di >>> programmazione statistica che producano risultati più affidabili! >>> >>> Ma ben vengano anche finanziamenti alla ricerca di nuovi framework >>> interpretativi di queste tecnologie, un po' meno allucinati e >>> allucinogeni! :-D >>> >>> >>> Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha >>> presentato le tesi del suo libro "La rivoluzione informatica", Juan >>> Carlos ha detto una cosa importantissima: >>> >>> "sicuramente non esiste indipendenza, non esiste sovranità, senza la >>> possibilità di controllare, produrre e sviluppare tutte le tecnologie >>> fondamentali che servono per una società moderna" >>> >>> Condivido pienamente il concetto. >>> >>> Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa >>> significa "società moderna"? chi decide quali siano le tecnologie >>> fondamentali che servono per realizzarla? >>> >>> In Europa arranchiamo solo perché inseguiamo, invece di guidare. >>> >>> >>> I software della Silicon Valley sono progettati per realizzare una >>> specifica idea di società. Dobbiamo davvero competere con loro, solo >>> se vogliamo imporre all'Europa esattamente quella idea di società >>> (e vogliamo farlo meglio di loro). >>> >>> Ma se decidessimo invece di provare a creare una società democratica, >>> libera ed equa, di quali strumenti avremmo bisogno? >>> >>> >>>> PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni >>>> a posteriori dei risultati degli attuali sistemi di ML, semplicemente >>>> non funzionano, perché non scalano alle dimensiini di modelli >>>> costituiti da miliardi di parametri. Del resto, se esistesse una >>>> spiegazione semplice e comprensibile per un problema complesso e >>>> difficile, il problema non sarebbe complesso e difficile. >>> >>> Ecco un'evidenza concreta dei gravi danni che la narrazione della >>> "Intelligenza Artificiale" causa alla ricerca scientifica. >>> >>> Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice >>> (ancorché estremamente costoso) di non aver selezionato scientemente il >>> dataset in modo da causare specifiche discriminazione. >>> Non ho mai detto che ciò garantisca l'assenza di discriminazioni. >>> >>> Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, >>> ma non rimuove la responsabilità per i danni causati dal software. >>> >>>> D’altra parte, con le tecniche di prompting cone il Chain of Thought, >>>> si può chiedere agli stessi modelli come ChatGPT di fornire un filo >>>> logico dei passaggi che hanno portato alla risposta. >>> >>> Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. >>> >>> ChatGPT può sicuramente produrre una stringa di testo che la tua mente >>> interpreti come una valida GIUSTIFICAZIONE di un proprio output. >>> >>> Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale >>> output sia stato calcolato. >>> >>> Il calcolo effettuato potrebbe essere del tutto diverso: nessun >>> informatico (o scienziato) con un minimo di serietà potrebbe >>> accontentarsi di una tale giustificazione NON VERIFICABILE. >>> >>> >>> Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro >>> l'obiettivo: non ci interessa trovare un'argomentazione più o meno >>> soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli >>> si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato >>> preso in considerazione durante l'elaborazione E COSA NO, nonché capire >>> ESATTAMENTE come. >>> >>> >>> Giacomo >>> >>> [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… >>> >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230416095857072054…>

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Caro Guido, credo che questo tuo messaggio sia veramente emblematico. On Sun, 16 Apr 2023 17:14:15 +0200 Guido Vetere wrote: > Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe > essere o ci piacerebbe che fosse (in sostanza: il front-end di una > base di conoscenza editabile, come d'altronde ce ne sono tanti) e > ragionare invece su quello che è, su come usarlo e con quali cautele, > sul non usarlo e perché, o sulla opportunità giuridica di impedire > del tutto il suo uso. Insomma, nel '900 qualcuno avrebbe potuto > chiedere, o addirittura esigere, che le autovetture fossero > alimentate a biada, offuscando però il dibattito sulla necessità di > installare semafori in città. Questo è il pericolo che vedo nella > posizione del Garante italiano. E' ovvio che siamo tutti a disagio > davanti al fatto che la conoscenza globale collassi in un solo > sistema proprietario, e per di più *intrinsecamente* allucinato. > Ma questo sistema è lì così com'è, e più che levare contro di esso > grida manzoniane, dovremo pensare seriamente a come farci i conti. La "posizione" del Garante italiano è semplice e chiara: la Legge è uguale per tutti. Niente di più (purtroppo) e niente di meno. Se un software viene scritto ed amministrato per interagire con esseri umani rispondendo a domande e richieste di questi ultimi, chi ha scritto ed esegue quel software deve rispondere del suo output esattamente come se lo avesse scritto personalmente. Tentare di eludere o aggirare questa responsabilità offende l'intelligenza di chi legge (o ne sfrutta l'ignoranza). Il funzionamento interno di un LLM, le cautele necessarie nel suo impiego, l'opportunità di vietarlo del tutto... sono tutte questioni interessanti, ciascuna delle quali potrebbe meritare un thread a sé. MA sono tutte questioni SECONDARIE rispetto alla questione fondamentale. La Legge deve rimanere uguale per tutti. A nessuno può essere concesso alcun salvacondotto, alcuna immunità, solo per aver impiegato, nel violarla, un automatismo di qualsivoglia natura. Se siamo d'accordo su questo, benissimo! Allora Open AI deve rispondere di ogni eventuale inesattezza nell'output di Chat GPT e deve trovare il modo di garantire la possibilità di rettificare EFFICACEMENTE qualsiasi errore e (se basa i trattamenti di dati personali sul legittimo interesse) deve garantire a ciascuno la possibilità di fare opt-out, rimuovendo tutti i contenuti che lo riguardano e rieseguendo la programmazione statistica (il "training", secondo la vulgata antropomorfica). Se non siamo d'accordo, possiamo discuterne apertamente! Mi piacerebbe molto sentire una chiara argomentazione a favore dell'immunità dalla Legge per coloro che la violano tramite automatismi. Magari mi convinci pure! In fondo a me basta che valga per tutti. Hacker inclusi! ;-) Ciò che però ti chiederei è di evitare argomenti fantoccio. Discutiamo nel merito. Giacomo

April 16, 2023

Sul principio di inevitabilità tecnologica

by Daniela Tafani

The biggest lie tech people tell themselves — and the rest of us They see facial recognition, smart diapers, and surveillance devices as inevitable evolutions. They’re not ... Evolution is a terrible metaphor for technology Technologists’ desire to make a parallel to evolution is flawed at its very foundation. Evolution is driven by random mutation — mistakes, not plans. (And while some inventions may indeed be the result of mishaps, the decision of a company to patent, produce, and market those inventions is not.) Evolution doesn’t have meetings about the market, the environment, the customer base. Evolution doesn’t patent things or do focus groups. Evolution doesn’t spend millions of dollars lobbying Congress to ensure that its plans go unfettered.<https://www.forbes.com/sites/ajdellinger/2019/04/30/how-the-biggest-tech-co…> In some situations, even if we can’t literally put a technological genie back in a bottle, we can artificially intervene to make sure the genie plays by specific rules. Evolution is driven by mistakes, not plans There are clear laws about what companies can and can’t do in the realm of biological weapons. The FDA ensures drugs are tested for efficacy and safety before they can be sold. The USDA ensures new food research is done with care. We don’t let anybody frack or drill for oil or build nuclear power plants wherever they like. We don’t let just anybody make and sell cars or airplanes or guns. So the assertion that technology companies can’t possibly be shaped or restrained with the public’s interest in mind is to argue that they are fundamentally different from any other industry. They’re not. ... https://www.vox.com/the-highlight/2019/10/1/20887003/tech-technology-evolut…

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by alessandro marzocchi

L'attenzione non va data a me, è ovvio, ma a chi ha più futuro, i giovani, i bambini abbandonati all'autoapprendimento. Chi sa aiuti a capire, non me ma i più indifesi e con più futuro davanti. Forse cè già tutto, o molto, selezionatelo integratelo per i vostri nipotini ai primi passi, ai primissimi anni di scuola. Grazie e cordialità. Duccio (Alessandro Marzocchi) Il giorno dom 16 apr 2023 alle ore 18:32 Guido Vetere < vetere.guido(a)gmail.com> ha scritto: > > Quanti sanno "com'è"? > > sicuramente, una piccola frazione di quelli che presumono di saperlo :-) > > perché non diamo ascolto a chi su queste cose ha lavorato scientificamente > a livello internazionale per una vita? > > sta qui in lista, si chiama @Giuseppe Attardi <giuseppe.attardi(a)unipi.it> > > G. > > > > > > On Sun, 16 Apr 2023 at 17:55, alessandro marzocchi <alemarzoc(a)gmail.com> > wrote: > >> Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non >> capisco come funziona? >> >> questo sistema è lì così com'è, >> >> Quanti sanno "com'è"? >> Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" >> che già oggi funziona come il nostro cervello, indirizza la nostra mente, >> le nostre scelte, i nostri comportamenti. >> Cordialmente >> Duccio (Alessandro Marzocchi) >> >> Date: Sun, 16 Apr 2023 17:14:15 +0200 >>> >>> From: Guido Vetere <vetere.guido(a)gmail.com> >>> To: Roberto Dolci <rob.dolci(a)aizoon.us> >>> Cc: "delromano(a)gmail.com" <delromano(a)gmail.com>, Nexa >>> <nexa(a)server-nexa.polito.it> >>> Concordo. >>> Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe >>> essere o >>> ci piacerebbe che fosse (in sostanza: il front-end di una base di >>> conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare >>> invece >>> su quello che è, su come usarlo e con quali cautele, sul non usarlo e >>> perché, o sulla opportunità giuridica di impedire del tutto il suo uso. >>> Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura >>> esigere, >>> che le autovetture fossero alimentate a biada, offuscando però il >>> dibattito >>> sulla necessità di installare semafori in città. Questo è il pericolo che >>> vedo nella posizione del Garante italiano. >>> E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza >>> globale collassi in un solo sistema proprietario, e per di più >>> *intrinsecamente* allucinato. >>> Ma questo sistema è lì così com'è, e più che levare contro di esso grida >>> manzoniane, dovremo pensare seriamente a come farci i conti. >>> G. >>> >>

April 16, 2023