April 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Marco A. Calamari

On dom, 2023-04-16 at 20:01 +0200, Giuseppe Attardi wrote: > > > > On 16 Apr 2023, at 11:58, Marco A. Calamari <marcoc_maillist(a)marcoc.it> > > wrote: > > > > > > On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote: > > > Questa risposta è talmente grossolana e offensiva che speravo qualcun > > > altro rispondesse. > > > > > > Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la > > > condividano. > > > > > > Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o > > anche d'accordo, perché no?) rispondano. > > > > Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca > > dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di > > tecnocontrollo e geopolitica. > > > > Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei > > sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione > > fredda” > Ossia assimili l’AI alla “fusione fredda”, una tecnologia quella sì davvero > inesistente. Caro Giuseppe, non credo che al mondo esista qualcuno che non abbia sentito che la "Fusione Fredda" non esiste, ed è stato un discorso parascientifico. Nemmeno credo che ti sfugga che non potrei permettermi, professionalmente, di non conoscere la questione nei dettagli. Ma nella sostanza hai perfettamente ragione. Affermo proprio, ormai da tempo, che l'"Intelligenza" nel campo dell'"Intelligenza Artificiale", e la "fusione fredda" condividono la categoria della "non esistenza" Ed essendo il tempo prezioso, ritengo di essere stato chiaro, e di aver rubato ai colleghi di lista anche troppo tempo. Grazie. Marco > > — Beppe > > > > > Il tempo è la risorsa più limitata al mondo. > > > > JM2EC. Buona domenica a tutti. Marco > > > > > > > L’Artificial Intelligence esiste ed è una delle principali discipline > > > della Computer Science. > > > Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto > > > il mondo. > > > Il fatto che la Commissione Europea l’abbia ignorata nei suoi > > > finanziamenti, dimostra la sua miopia, non la sua furbizia. > > > Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il > > > fiorire di innovazioni che sta portando l’AI. > > > > > > Occupandosi di uno dei problemi più complessi dell’informatica, ossia la > > > riproduzione delle capacità della mente umana, l’AI si è dovuta spesso > > > scontrare coi limiti della tecnologia. > > > Ma chi se ne occupava si è sempre ingegnato per superarli. > > > Infatti, gran parte delle tecnologie informatiche che oggi sono di uso > > > comune, sono nate in ambito AI. > > > Ad esempio: > > > > > > - linguaggi funzionali > > > - garbage collection > > > - linguaggi a oggetti > > > - interfacce grafiche > > > - interfacce di sviluppo integrate (IDE) > > > - Map/reduce per elaborazione parallela > > > - animazione 3D > > > - sistemi operativi > > > > > > Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per > > > il gioco degli scacchi. > > > Il movimento del Free Software fu lanciato da Richard Stallman, che > > > lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp > > > Machine. > > > > > > Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere > > > il rammarico che le più significative innovazioni dell’AI venissero spesso > > > attribuite ad altri. > > > > > > Many of AI's greatest innovations have been reduced to the status > > > of just another item in the tool chest of computer science. Nick Bostrom > > > explains "A lot of cutting edge AI has filtered into general applications, > > > often without being called AI because once something becomes useful enough > > > and common enough it's not labeled AI anymore.” > > > > > > https://en.wikipedia.org/wiki/History_of_artificial_intelligence#AI_behind_… > > > > > > > la ricerca di cui abbiamo bisogno > > > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come > > > > allucinazione collettiva) ma sulla programmazione statistica > > > L’AI copre aree più vaste della “programmazione statistica”. > > > > > > Il confronto con la blockchain è offensivo: quella è una tecnologia in > > > cerca di applicazioni, basata su un singolo articolo. > > > Non può essere comparata con una disciplina scientifica con 50 anni di > > > ricerca alle spalle e migliaia di ricercatori coinvolti. > > > > > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > > > > > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui > > > abbiamo scarso controllo? > > > > > > — Beppe > > > > > > > > > > On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it wrote: > > > > > > > > From: Giacomo Tesio <giacomo(a)tesio.it> > > > > To: Giuseppe Attardi <attardi(a)di.unipi.it> > > > > Cc: Stefano Maffulli <smaffulli(a)gmail.com>, > > > > "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > > > > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > > > > sospesa se OpenAI adotterà le misure richieste. > > > > Message-ID: <20230414165246.00001237(a)tesio.it> > > > > Content-Type: text/plain; charset=utf-8 > > > > > > > > On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > > > > > > > > > > On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > > > > > > > > > > Beh, è facile concordare sui finanziamenti alla ricerca. > > > > > > > > > > Talmente facile che non viene fatto. > > > > > > > > > > La voce “Intelligenza Artificiale” non era nemmeno presente nei > > > > > progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati > > > > > stanziati 50 milioni per 5 progetti ICT-48. > > > > > > > > Vuoi dire che l'hanno messa? > > > > Bah... che posso dire, farà il paio con la blockchain! > > > > > > > > Il fatto che la voce "Intelligenza Artificiale" non fosse presente > > > > lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno > > > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non > > > > come allucinazione collettiva) ma sulla programmazione statistica > > > > cui troppi, non comprendendone il funzionamento, attribuiscono > > > > una qualche forma di "intelligenza". > > > > > > > > Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di > > > > programmazione statistica che producano risultati più affidabili! > > > > > > > > Ma ben vengano anche finanziamenti alla ricerca di nuovi framework > > > > interpretativi di queste tecnologie, un po' meno allucinati e > > > > allucinogeni! :-D > > > > > > > > > > > > Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha > > > > presentato le tesi del suo libro "La rivoluzione informatica", Juan > > > > Carlos ha detto una cosa importantissima: > > > > > > > > "sicuramente non esiste indipendenza, non esiste sovranità, senza la > > > > possibilità di controllare, produrre e sviluppare tutte le tecnologie > > > > fondamentali che servono per una società moderna" > > > > > > > > Condivido pienamente il concetto. > > > > > > > > Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa > > > > significa "società moderna"? chi decide quali siano le tecnologie > > > > fondamentali che servono per realizzarla? > > > > > > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > > > > > > > > > > I software della Silicon Valley sono progettati per realizzare una > > > > specifica idea di società. Dobbiamo davvero competere con loro, solo > > > > se vogliamo imporre all'Europa esattamente quella idea di società > > > > (e vogliamo farlo meglio di loro). > > > > > > > > Ma se decidessimo invece di provare a creare una società democratica, > > > > libera ed equa, di quali strumenti avremmo bisogno? > > > > > > > > > > > > > PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni > > > > > a posteriori dei risultati degli attuali sistemi di ML, semplicemente > > > > > non funzionano, perché non scalano alle dimensiini di modelli > > > > > costituiti da miliardi di parametri. Del resto, se esistesse una > > > > > spiegazione semplice e comprensibile per un problema complesso e > > > > > difficile, il problema non sarebbe complesso e difficile. > > > > > > > > Ecco un'evidenza concreta dei gravi danni che la narrazione della > > > > "Intelligenza Artificiale" causa alla ricerca scientifica. > > > > > > > > Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice > > > > (ancorché estremamente costoso) di non aver selezionato scientemente il > > > > dataset in modo da causare specifiche discriminazione. > > > > Non ho mai detto che ciò garantisca l'assenza di discriminazioni. > > > > > > > > Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, > > > > ma non rimuove la responsabilità per i danni causati dal software. > > > > > > > > > D’altra parte, con le tecniche di prompting cone il Chain of Thought, > > > > > si può chiedere agli stessi modelli come ChatGPT di fornire un filo > > > > > logico dei passaggi che hanno portato alla risposta. > > > > > > > > Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. > > > > > > > > ChatGPT può sicuramente produrre una stringa di testo che la tua mente > > > > interpreti come una valida GIUSTIFICAZIONE di un proprio output. > > > > > > > > Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale > > > > output sia stato calcolato. > > > > > > > > Il calcolo effettuato potrebbe essere del tutto diverso: nessun > > > > informatico (o scienziato) con un minimo di serietà potrebbe > > > > accontentarsi di una tale giustificazione NON VERIFICABILE. > > > > > > > > > > > > Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro > > > > l'obiettivo: non ci interessa trovare un'argomentazione più o meno > > > > soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli > > > > si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato > > > > preso in considerazione durante l'elaborazione E COSA NO, nonché capire > > > > ESATTAMENTE come. > > > > > > > > > > > > Giacomo > > > > > > > > > > > > > > [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… > > > > > > > > > > _______________________________________________ > > > nexa mailing list > > > nexa(a)server-nexa.polito.it > > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 17, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

Caro Enrico, non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra che su questi LLM ci sia qualche problema di 'literacy', visto che alcuni insistono nel pensarli come database un po' strani. Si potrebbe allora chiedere a una persona competente di spiegarli per bene, e secondo me Beppe è il più titolato tra noi. Nel merito dello scambio che riporti, forse si tratta solo di 'nuances', ma fa bene Beppe a sgombrare il campo dall'immagine del 'pappagallo' che ricombina frammenti di frasi udite. No: GPT inventa di sana pianta. Dove può aver sentito ad esempio che io avrei scritto il romanzo "Il collezionista di venti" (2017), che non si trova neanche su Amazon? G. On Mon, 17 Apr 2023 at 01:11, 380° <g380(a)biscuolo.net> wrote: > Buongiorno, > > Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > > > premesso che ammiro e rispetto Beppe Attardi che è certamente > > estremamente competente in termini di IA, se con "dare ascolto" > > intendi "credere", beh > > [...] > > > Insomma, se il dibattito deve essere di livello scientifico elevato, > > mi permetto di far notare che il dibattito in (nel/di) merito a quanto > /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo > _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo > thread si è entrati /anche/ nel merito tecnico > > > più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti > > e consistenti nella lettura degli altri e nell'esposizione delle > > nostre riflessioni. > > e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più > limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno > /tentare/ di farlo se si vuole davvero confrontarsi > > ...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere > e starmene zitto, ma siccome credo che confrontarsi su queste cose sia > il modo migliore di esercitare la propria "cittadinanza digitale", mi > ostino :-) > > [...] > > saluti, 380° > > > > [1] voi non avete idea di quanto mi senta **stupido** a illudermi che > possa essere davvero così, visto che siamo nell'era in cui la scienza > stabilisce cos'è giusto o cos'è sbagliato in /tutto/ > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 17, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by 380°

Buongiorno, Stefano Zacchiroli <zack(a)upsilon.cc> writes: > On Sun, Apr 16, 2023 at 12:13:20PM +0200, Enrico Nardelli wrote: >> QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare >> requisiti di sicurezza. [...] > Trovare un giusto mezzo tra lo status quo ed il desiderio di > regolamentare prodotti "che contengono AI" non sarà affatto banale. Non esiste un "giusto mezzo", c'è solo e unicamente un modo per verificare se il software è adeguato all'uso [1]: avere a disposizione il sorgente (e nel caso dell'AI è un casino, come ha correttamente spiegato più volte Giacomo Tesio) ...altro che assessment, certificazioni o supercazzole eseguite avendo a disposizione solo il binario saluti, 380° [1] e questo lo deve fare l'utilizzatore, non lo sviluppaore... e l'utilizzatore è chi immette sul mercato il servizio [2] (o prodotto [3] che incopora software), non l'utente [2] servizi finanziari sono regolati, il servizio sanitario è regolato, la pubblicità ingannevole (rif. https://www.ftc.gov/system/files/ftc_gov/pdf/Early-Thoughts-on-Generative-A…) [3] quando il software è incorporato in un prodotto, esistono /tonnellate/ di norme in merito, a volte inapplicate /esattamente/ perché si _delega_ l'indelegabile al software -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by 380°

Buongiorno, Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > premesso che ammiro e rispetto Beppe Attardi che è certamente > estremamente competente in termini di IA, se con "dare ascolto" > intendi "credere", beh [...] > Insomma, se il dibattito deve essere di livello scientifico elevato, mi permetto di far notare che il dibattito in (nel/di) merito a quanto /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo thread si è entrati /anche/ nel merito tecnico > più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti > e consistenti nella lettura degli altri e nell'esposizione delle > nostre riflessioni. e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno /tentare/ di farlo se si vuole davvero confrontarsi ...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere e starmene zitto, ma siccome credo che confrontarsi su queste cose sia il modo migliore di esercitare la propria "cittadinanza digitale", mi ostino :-) [...] saluti, 380° [1] voi non avete idea di quanto mi senta **stupido** a illudermi che possa essere davvero così, visto che siamo nell'era in cui la scienza stabilisce cos'è giusto o cos'è sbagliato in /tutto/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Buona sera Giuseppe, On Sun, 16 Apr 2023 11:24:28 +0200 Giuseppe Attardi wrote: > Questa risposta è talmente grossolana e offensiva che speravo qualcun > altro rispondesse. Mi dispiace sinceramente di aver offeso la tua sensibilità. Me ne scuso e provo a chiarire meglio cosa intendessi. > L’Artificial Intelligence esiste ed è una delle principali discipline > della Computer Science. Ci sono riviste, congressi e istituti > dedicati alla ricerca in AI in tutto il mondo. L'Intelligenza Artificiale non è una tecnologia. E' una disciplina come lo sono state per secoli l'astrologia o l'alchimia. Discipline con studiosi del calibro di Isaac Newton. Scriveva Dijkstra nel 1984: ``` Two major streams can be distinguished, the quest for the Stone and the quest for the Elixir. The quest for the Stone is based on the assumption that our "programming tools" are too weak. One example is the belief that current programming languages lack the "features" we need. [...] In parallel we have the search for the Elixir. Here the programming problem is simply solved by doing away with the programmer. Wouldn't it be nice, for instance, to have programs in almost plain English, so that ordinary people could write and read them? [...] Since then we have had elixirs in a countless variety of tastes and colours. I have fond memories of a project of the early 70's that postulated that we did not need programs at all! All we needed was "intelligence amplification". If they have been able to design something that could "amplify" at all, they have probably discovered it would amplify stupidity as well; in any case I have not heard from it since. The major attraction of the modern elixirs is that they relieve their consumers from the obligation of being precise by presenting an interface too fuzzy to be precise in: by suppressing the symptoms of impotence they create an illusion of power. ``` https://www.cs.utexas.edu/users/EWD/transcriptions/EWD08xx/EWD898.html Nemmeno Dijkstra poteva immaginare che qualcuno prendesse talmente sul serio la ricerca di un elisir di lunga vita da immaginare di sterminare l'umanità per sostituirla con simulazioni eseguite dentro enormi calcolatori (transumanisti, longtermisti etc...) Ma ChatGPT (e GitHub CopyALot, prima) non è proprio l'ennesima incarnazione della ricerca dell'elisir di cui parlava EWD? Vero: diverse innovazioni INFORMATICHE sono state realizzate grazie agli enormi FINANZIAMENTI ottenuti dalla Intelligenza Artificiale. L'AI vende bene, non c'è dubbio. E sui curricula fa un figurone! Ma rimane una speranza, un'ambizione, un sogno... non una tecnologia. E nel momento in cui qualcuno la vende come tale, diventa un'allucinazione o una truffa. > Occupandosi di uno dei problemi più complessi dell’informatica, ossia > la riproduzione delle capacità della mente umana Ma questo non è affatto un problema dell'informatica, Giuseppe! La supply chain è un problema dell'informatica. La complessità accidentale e strumentale dei software moderni è un problema dell'informatica. La normalizzazione dell'insicurezza sistemica che tale complessità determina è un problema dell'informatica. La crittografia pienamente omomorfica è un problema dell'informatica. Ma riprodurre le capacità della mente umana NON è un problema che l'umanità abbia alcuna urgenza di risolvere. La mente umana è talmente efficiente... per sole trecento chilocalorie al giorno può fare molto più di quanto GPT-4 non farà mai! Dunque l'AI NON cerca di risolvere un problema informatico. E' invece uno strumento di propaganda. Per questo riceve tanti finanziamenti! Diffonde un messaggio politico: l'uomo può essere sostituito da cose. L'Intelligenza Artificiale serve letteralmente a legittimare il dominio dell'uomo sull'uomo. E serve ad applicarlo tramite macchine. Tutta l'urgenza di sottrarre Open AI alle proprie responsabilità legali rispetto all'output di ChatGPT mostra bene questa esigenza. Il messaggio è chiaro: si DEVE secrificare i diritti umani all'AI. > Marvin Minsky diceva: “When it works, it is no longer AI”, per > esprimere il rammarico che le più significative innovazioni dell’AI > venissero spesso attribuite ad altri. Minsky lo viveva con rammarico perché credeva sinceramente nella favola dell'Intelligenza Artificiale, non vedendone gli scopi politici. Io invece la vedo come progresso: quando finalmente uno strumento funziona, non ha più bisogno della fuffa AI per essere finanziato. > > la ricerca di cui abbiamo bisogno non riguarda l'"Intelligenza > > Artificiale" (che non esiste, se non come allucinazione collettiva) > > ma sulla programmazione statistica > > L’AI copre aree più vaste della “programmazione statistica”. Vero. Vende così bene, che ci mettono dentro un po' di tutto. Ma quella di cui stiamo parlando (GPT-4) è programmazione statistica. > Il confronto con la blockchain è offensivo: quella è una tecnologia > in cerca di applicazioni, basata su un singolo articolo. Ok, hai ragione: paragonare qualsiasi cosa alla blockchain è offensivo e me ne scuso sinceramente. > Non può essere comparata con una disciplina scientifica con 50 anni di > ricerca alle spalle e migliaia di ricercatori coinvolti. Intendevo semplicemente dire che la Commissione Europea non ha un minimo di comprensione delle tecnologie che finanzia, producendo sprechi ed disastri strategici enormi. I vari finanziamenti alla blockchain rientrano negli sprechi. Quelli alla "intelligenza artificiale" rientrano nei disastri strategici: dovrebbe finanziare l'informatica, lo sviluppo di software progettati per facilitare la comunicazione, la didattica etc... finanziare la ricerca di sistemi operativi sicuri, di protocolli peer to peer e robe simili... In altri termini, l'UE dovrebbe investire nella creazione di un'informatica DEMOCRATICA, alla portata di tutti. Gli LLM (giusto per fare un esempio on-topic) sono l'antitesi di tale informatica. E l'UE non dovrebbe sprecare soldi pubblici per essi. > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui > abbiamo scarso controllo? Non so a quale tecnologia tu faccia riferimento, ma il punto è proprio che non dovremmo inseguire. Dovremmo adottare un approccio top-down: 1. quali obiettivi sociali e politici vogliamo realizzare? 2. che tecnologia ci serve per realizzarli? Solo dopo aver deciso quale società vogliamo per i nostri figli, potremo iniziare a pensare quale infrastruttura tecnologica gli servirà. E potremo così anche realizzarla. Invece, inseguire l'elisir della AI significa accettare proni un modello di società deciso altrove, nell'interesse di altri. Possiamo fare di meglio. Giacomo

April 16, 2023

Re: [nexa] Sul principio di inevitabilità tecnologica

by Paolo Del Romano

Il giorno dom 16 apr 2023 alle ore 21:44 Maria Chiara Pievatolo < mariachiara.pievatolo(a)unipi.it> ha scritto: > On 16/04/23 19:03, Daniela Tafani wrote: > > > > The biggest lie tech people tell themselves — and the rest of us > > > > They see facial recognition, smart diapers, and surveillance devices as > > inevitable evolutions. They’re not > > > > Infatti disponiamo del precedente, di cui parla Lucio Russo in "La > rivoluzione dimenticata", di una civiltà - quella ellenistica - che > disponeva delle conoscenze scientifiche per fare una rivoluzione > industriale del tipo di quella del XVIII secolo e non l'ha fatta. Un > paio di citazioni dal X capitolo: > > (...OMISSIS...) > > "I Romani erano disinteressati alla scienza, ma non rifiutavano certo i > benefici della ricchezza e della tecnologia: pensavano però che fosse > compito degli individui inferiori procurarli e quello dell’aristocrazia > goderli. ...OMISSIS...." E' ancora cosi'. Le famiglie benestanti orientano (con metodi anche poco liberali) i loro figli in primo luogo all'iscrizione al liceo classico e solo in secondo ordine al liceo scientifico. Mai negli istituti tecnici/professionali. Paolo.

April 16, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by Enrico Nardelli

Sono d'accordo con te Stefano. Ero consapevole dell'eccezione costituita dal software ma non volevo complicare il ragionamento. In effetti, forse la comunità "in-the-large" degli informatici dovrebbe smettere di "indossare i calzoni corti" ed assumersi le responsabilità per i propri prodotti come accade negli altri settori tecnologici, per lo meno in quei casi in cui il prodotto software viene venduto o dato in licenza. (Se ti regalo una macchina rotta non ha senso che ti lamenti che sia rotta se ti ho avvisato che potrebbe essere rotta). Mi è chiaro l'enorme impatto (non solo economico) di un'affermazione di questo genere ma, per stemperare l'osservazione con una battuta, se vogliamo essere chiamati "ingegneri del software" dobbiamo fare gli ingegneri veri, che (normalmente) vanno in galera se il palazzo che hanno costruito crolla perché non hanno verificato adeguatamente i calcoli. Diciamo che in questo ambito l'arrivo di ChatGPT è stato il bambino è che ha gridato "il re è nudo" ... Ciao, Enrico Il 16/04/2023 18:09, Stefano Zacchiroli ha scritto: > On Sun, Apr 16, 2023 at 12:13:20PM +0200, Enrico Nardelli wrote: >> QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare >> requisiti di sicurezza. > ... tranne il software. Certamente ci sarà qualche requisito che si > applica in automatico anche al software --- e mi appello anche io ai > giuristi in lista per precisarlo --- ma la barra di accesso al mercato > del software è bassissima. Di default, chiunque può pubblicare prodotti > software su svariati app store senza alcun controllo a monte (salvo > quelli automatici implementati dagli app store dei vari GAFAM). > > Il CRA (Cyber Resilience Act) europeo va nella direzione di aggiungere > tali controlli, sotto forma di (auto-)certificazioni e questo ha > provocato una sollevata di scudi da parte del mondo free/open source > software. (Ne abbiamo già parlato separatamente in lista.) > > Dico questo non per controbattere al tuo argomento, Enrico, che trovo in > se ragionevole. Ma per osservare che qui siamo anche perché per decenni > l'industria del software (compresa quella FOSS!, fatta anche di > volontari/ non-profit/ etc. che non potrebbero permettersi l'overhead > dei controlli) è fiorita grazie all'assenza dei controlli che ora si > invocano. > > Trovare un giusto mezzo tra lo status quo ed il desiderio di > regolamentare prodotti "che contengono AI" non sarà affatto banale. > > Saluti a tutti -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Enrico Nardelli

Scusa Guido, premesso che ammiro e rispetto Beppe Attardi che è certamente estremamente competente in termini di IA, se con "dare ascolto" intendi "credere", beh, temo che questo atteggiamento ci riporti all'ipse dixit. La discussione su fatti scientifici non può mai procedere per "fede". Ad esempio, in questo recente scambio avvenuto in lista Il 12/04/2023 14:15, Giuseppe Attardi ha scritto: >> On 11 Apr 2023, at 20:34, Antonio Casilli<antonio.casilli(a)telecom-paris.fr> wrote: >> >> >>> PS. I LLM sono tutt’altro che Stochastic Parrots: ripetere a pappagallo i testi da cui sono stati allenati è proprio ciò che non sanno fare. >> Beppe, "stochastic parrot" non è questo. >> Timnit Gebru et al. ne parlano nel senso di un dispositivo che "haphazardly stitch[es] together sequences of linguistic forms (...), according to probabilistic information about how they combine, but without any reference to meaning". L'accento è sullo "stochastic". > Ma non è questo quello che fanno i LLM della serie GPT: non attaccano affatto insieme “sequenze di forme linguistiche”. Questo riprodurrebbe appunto pezzi di frasi a pappagallo. > Invece il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza. ritengo che Beppe abbia male interpretato quanto Antonio ha scritto, nonostante Beppe sia certamente profondo conoscitore dell'IA mentre Antonio ha professionalmente un'altra preparazione. Antonio infatti dice "dispositivo che attacca insieme sequenze di forme linguistiche in base ad informazioni probabilistiche su come si combinano", cui Beppe ribatte che "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza". Io ritengo che Antonio abbia detto esattamente quello che dice Beppe, visto che "forme linguistiche di base" è un'espressione che comprende anche "la prossima parola". Aggiungo, sempre facendo riferimento a quello scambio, che forse non c'è bisogno di citare Giorgio Parisi, anche lui eminentissimo scienziato premiato col Nobel, per ricordare che comportamenti complessi emergono da leggi semplici. Non serve neanche che siano probabilistiche, come evidenziò tra i primi Henri Poincaré nell'Ottocento. Anche con equazioni deterministiche emerge quel caos al cui confine con l'ordine c'è la complessità del "significato", la complessità della vita biologica e della nostra esistenza. Insomma, se il dibattito deve essere di livello scientifico elevato, più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti e consistenti nella lettura degli altri e nell'esposizione delle nostre riflessioni. Ciao, Enrico -- Il 16/04/2023 18:32, Guido Vetere ha scritto: > > Quanti sanno "com'è"? > > sicuramente, una piccola frazione di quelli che presumono di saperlo :-) > > perché non diamo ascolto a chi su queste cose ha lavorato scientificamente a livello internazionale per una vita? > > sta qui in lista, si chiama @Giuseppe Attardi <mailto:giuseppe.attardi@unipi.it> > > G. > > > > > > On Sun, 16 Apr 2023 at 17:55, alessandro marzocchi <alemarzoc(a)gmail.com> wrote: > > Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona? > > questo sistema è lì così com'è, > > Quanti sanno "com'è"? > Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che già oggi funziona come il nostro cervello, indirizza la nostra mente, le nostre scelte, i nostri comportamenti. > Cordialmente > Duccio (Alessandro Marzocchi) > > Date: Sun, 16 Apr 2023 17:14:15 +0200 > > From: Guido Vetere <vetere.guido(a)gmail.com> > To: Roberto Dolci <rob.dolci(a)aizoon.us> > Cc: "delromano(a)gmail.com" <delromano(a)gmail.com>, Nexa > <nexa(a)server-nexa.polito.it> > Concordo. > Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o > ci piacerebbe che fosse (in sostanza: il front-end di una base di > conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece > su quello che è, su come usarlo e con quali cautele, sul non usarlo e > perché, o sulla opportunità giuridica di impedire del tutto il suo uso. > Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, > che le autovetture fossero alimentate a biada, offuscando però il dibattito > sulla necessità di installare semafori in città. Questo è il pericolo che > vedo nella posizione del Garante italiano. > E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza > globale collassi in un solo sistema proprietario, e per di più > *intrinsecamente* allucinato. > Ma questo sistema è lì così com'è, e più che levare contro di esso grida > manzoniane, dovremo pensare seriamente a come farci i conti. > G. > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

April 16, 2023

Re: [nexa] Sul principio di inevitabilità tecnologica

by Maria Chiara Pievatolo

On 16/04/23 19:03, Daniela Tafani wrote: > > The biggest lie tech people tell themselves — and the rest of us > > They see facial recognition, smart diapers, and surveillance devices as > inevitable evolutions. They’re not > Infatti disponiamo del precedente, di cui parla Lucio Russo in "La rivoluzione dimenticata", di una civiltà - quella ellenistica - che disponeva delle conoscenze scientifiche per fare una rivoluzione industriale del tipo di quella del XVIII secolo e non l'ha fatta. Un paio di citazioni dal X capitolo: "L’uso della tecnologia scientifica nella produzione non coincide necessariamente con l’innesco del processo nel quale siamo attualmente immersi. Chiarendo bene questa distinzione, credo che si debba riconoscere che la tecnologia scientifica ebbe nell’antichità rilevanti applicazioni ai processi produttivi. Il fatto che il ruolo economico del Museo non fosse simile a quello della Royal Society, come ha sottolineato Finley, non implica che sia stato irrilevante. L’innesco del processo esponenziale di sviluppo che è in genere chiamato rivoluzione industriale dipese da una complessa serie di fattori (economici, sociali, politici, culturali, demografici...) che non abbiamo ancora capito a fondo. Ha più senso cercare di capire cosa è avvenuto nell’Europa del XVIII secolo che non chiedersi perché lo stesso fenomeno non sia avvenuto duemila anni prima. Lo sviluppo scientifico ellenistico fu interrotto violentemente dalla conquista romana. Volendo speculare su cosa sarebbe potuto accadere in mancanza di tale arresto, nulla ci autorizza a pensare che gli sviluppi tecnologici ed economici sarebbero stati gli stessi sperimentati dall’Europa duemila anni dopo. Sappiamo però che nel decollo scientifico-industriale dell’epoca moderna un ruolo importante fu svolto dal recupero di una parte delle antiche conoscenze scientifiche e tecnologiche. " "I Romani erano disinteressati alla scienza, ma non rifiutavano certo i benefici della ricchezza e della tecnologia: pensavano però che fosse compito degli individui inferiori procurarli e quello dell’aristocrazia goderli. Il sistema romano era basato sullo sfruttamento di province in cui sopravviveva una tradizione culturale scientifica e tecnologica; così si risolse bene il problema di acquisire e controllare tecnici competenti, ma non quello di formarli. Al crollo del sistema politico di Roma si accompagnò il crollo culturale, economico e tecnologico dell’Occidente. Nell’VIII secolo il più grande matematico dell’Occidente è considerato Beda il Venerabile, che nel suo lavoro più impegnativo descrive un metodo per rappresentare i numeri con gesti delle mani. Molti sapevano farlo fino a dieci, ma Beda, usando una specie di alfabeto per sordomuti, riesce ad arrivare un po’ più in là." Se ci lasciamo vivere in un mondo di scatole nere, in cui ci facciamo fare le cose senza curarci di sapere come e perché si fanno, un esito simile è difficilmente evitabile. E buonanotte, MCP

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Ciao Roberto, mia moglie è un medico. Parliamo spesso dei problemi di compliance terapeutica e dei problemi di comunicazione con i pazienti (alcuni dei quali non parlano ne italiano né inglese, ma magari solo arabo, solo cinese, solo sardo, o solo piemontese etc...), nonché di come la tecnologia potrebbe migliorare il suo lavoro (e di come invece spesso lo rende più difficile). On Sun, 16 Apr 2023 14:25:20 +0000 Roberto Dolci wrote: > 1. Aiutare noi, non-medici, a descrivere in modo corretto i nostri > dolori, sintomi e tutto il quadro che aiuta il medico nel processo di > diagnosi, facendo le domande giuste ed usando i termini corretti. Un > bel passo avanti nella telemedicina. > > 2. All’opposto, usato dal medico nella prescrizione delle cure, > diete e specialmente nelle raccomandazioni comportamentali per > facilitare il processo di guarigione. Quello che chiamiamo “patient > compliance” e’ per molte patologie il fattore che piu’ pregiudica > tempi e modi di guarigione. Il suo commento ai casi d'uso che proponi è stato "questo deve essere un sostenitore di Immuni". Non è un complimento... ;-) Nella migliore delle ipotesi, gli usi che proponi farebbero perdere un sacco di tempo ai medici. Ma molto più probabilmente produrrebbero errori diagnostici o terapeutici e occasionalmente morti. Chi ne risponderebbe? > ChatGPT e’ un capo della retorica, e sa scrivere molto meglio della > media dei medici. :-) Non sai di cosa parli. E d'altro canto, il soluzionismo tecnologico si fonda sempre sulla scarsa comprensione della complessità dei "problemi" che si intende "risolvere". > Se invece vogliamo dar disinformazione e convincere la gente che i > maiali volano, facilissimo farlo, ma sarebbe l’uso sbagliato. Giusto o sbagliato che sia, l'importante è che qualcuno ne risponda. Giacomo

April 16, 2023