- nexa - server-nexa.polito.it

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

Cara Daniela, possiamo essere in disaccordo sull'interpretazione dei fenomeni che emergono da questi sistemi, ma dovremmo concordare sulla natura di tali fenomeni Io ad esempio sono in disaccordo con Beppe sul fatto che ciò che emerge sia paragonabile alla significazione dei linguaggi naturali (se è ho compreso la sua posizione), ma riconosco come accurata la sua descrizione dei meccanismi interni al sistema Comunque, sarebbe interessante discutere del fatto che la teoria del significato sia sempre stato un bel rebus, e che l'anti-referenzialismo delle nuove macchine abbia tanti illustri predecessori umani in linguistica e filosofia G. On Mon, 17 Apr 2023 at 11:04, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > Un buon punto di partenza, per una spiegazione semplice e sintetica (già > segnalata su questa lista, se non ricordo male) > > mi sembra > > > *What Kind of Mind Does ChatGPT Have?* > > > https://www.newyorker.com/science/annals-of-artificial-intelligence/what-ki… > > > ------------------------------ > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Antonio < > antonio(a)piumarossa.it> > *Inviato:* lunedì 17 aprile 2023 10:48 > *A:* nexa(a)server-nexa.polito.it > *Oggetto:* Re: [nexa] ChatGPT disabled for users in Italy > > > Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non > > capisco come funziona? > > E allora proviamoci a capirlo assieme. > Partiamo dalla definizione data da Beppe Attardi: > "il loro meccanismo di base è quello del calcolo della distribuzione di > probabilità della prossima parola a seguire in una sequenza" > Accediamo ad uno dei tanti servizi online che mostrano in pratica il > meccanismo, ad esempio questo: > > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230417084813073881… > Nella casella sotto "Mask token" scriviamo: > "Parigi è la [MASK] della Francia". > Il risultato sarà: > Capitale 0.658 > citta 0.132 > patria 0.020 > culla 0.020 > migliore 0.012 > > Più quel numeretto si avvicina ad uno (e più distanza ci sarà con il > secondo), più sarà /probabile/. > > Proviamo con: "Torino è il capoluogo del [MASK]" > Il risultato sarà: > tutto 0.229 > mondo 0.206 > italia 0.163 > piemonte 0.125 > nord 0.043 > > Che significa? Che tra i dati di addestramento non ci sono sufficienti > informazioni che collegano univocamente, o quasi, Torino -> capoluogo -> > Piemonte. > Un'eventuale /chat/ basata su "alb3rt0" anziché su "gpt" avrebbe quindi > risposto: "Torino è il capoluogo di tutto" > > Antonio > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230417084813073881… > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 17, 2023

Re: [nexa] Sugli utilizzi degli LLM per scopi criminali

by Alberto Cammozzo

Carissimi, condivido quanto più volte sottolineato da diverse persone in lista riassunto da Enrico: "non ci sono strumenti e loro usi la responsabilità dei quali non sia riconducibile ad esseri umani". Mi pare possa essere il punto di partenza per evidenziare due aspetti critici attorno alle parole "responsabilità"e "umano", comparsi in vari interventi, che mi permetto di sintetizzare e discutere, sperando di contribuire alla ricerca di un discorso condiviso tra le posizioni opposte che vanno evidenziandosi. 1) L'umanizzazione della macchina. Spesso leggiamo che "la tecnologia X fa Y a Z" e non che "/tizio/ usa X per fare Y a Z.": questo linguaggio ostacola la attribuzione di responsabilità. Se vengo investito da un'auto, non dirò che la tecnologia automobilistica è responsabile del mio investimento, ma che sono stato investito perché tizio non ha rispettato il codice della strada, o che il costruttore ha progettato male la tal parte, o che la segnaletica era carente, ecc... L'oggetto di per se non è responsabile di nulla, ma i vari attori che costruiscono l'ecosistema del suo impiego lo sono: chi progetta/programma/vende/impiega, ciascuno per la parte di azione compiuta attraverso la macchina che gli compete. Se al contrario attribuiamo /alla tecnologia/ una data azione, deresponsabilizziamo questi attori, schivando la vera difficoltà che risiede nell'identificare e ripartire i profili di responsabilità tra loro. Il rendere intenzionalmente antropomorfa ('autonoma', 'intelligente'), o sfruttare l'inclinazione umana di considerare come tale qualsiasi tecnologia equivale a un esplicito tentativo di fuga dalla propria responsabilità, inducendo a credere che esista un /soggetto/ che di fatto non esiste come tale. L'industria del software ha sempre sfuggito tale responsabilità (vedasi i vari /standard disclaimers/ e l'argomento del "tech exceptionalism"). All'aumentare degli effetti sul mondo, chi progetta e vende queste tecnologie non può esimersi dal considerarsi in una ragionevole misura responsabile dei possibili impieghi di ciò che costruisce. Il che naturalmente porta anche a riflettere su cosa i vari attori di una determinata industria fanno collettivamente al resto della società. Mentre nel caso della mobilità ciò mi pare avvenga, nel caso delle ICT fatichiamo ancora a rendercene conto, nonostante le molteplici evidenze. 2) La reificazione (macchinizzazione) dell'umano Parliamo di dati, di dati personali, di trattamento, ma perdiamo di vista che stiamo parlando, in primo luogo ed in ultima istanza, sempre di /persone/. Dimentichiamo anche che gli attori che automatizzano la produzione linguistica sono gli stessi che compongono l'ecosistema dell'industria della sorveglianza, che usano l'esperienza umana come materia prima (S.Zuboff) per mettere sul mercato prodotti e servizi atti a condizionare altro comportamento umano, dalla pubblicità ai voti, secondo dun modello brutalmente skinneriano. E' logico aspettarsi che questi attori impieghino l'automazione della lingua per monetizzare analogamente gli stessi dati e la lingua stessa, vendendo ai propri clienti i comportamenti basati su determinati usi della lingua, basandoli sulla conoscenza estratta da testi messi a disposizione da altri utenti inconsapevoli di questi nuovi impieghi, che non hanno mai espressamente consentito all'uso della propria competenza linguistica a tali scopi. Questo business model basato sulla appropriazione dei contenuti messi online dagli utenti è contrastato solo dalle leggi sulla privacy (e il copyright?) che in buona parte si applicano a contesti in cui dati personali vengono condivisi per scopi specifici che non includono il training dei modelli statistici. Ancora una volta il far west? Le colonie? Ciò che va contestato è il diritto di appropriazione auto-attribuitosi da tali imprese all'uso dell'esperienza umana come se si trattasse di dati meteorologici o contabili, e l'uso del comportamento umano come mezzo. Le imprese di cui parliamo (come molte altre, del resto) vendono comportamenti umani, sfruttano i lavoratori, inibiscono la sindacalizzazione, non pagano le tasse, fuggono dalle loro responsabilità, mirano al monopolio, si inchinano a regimi autoritari e manipolano o mentono a quelli democratici, e tutto questo non incidentalmente, ma seguendo una presa di posizione ideologica in molti casi coordinata. Queste accuse sono passate in questa stessa lista in questi anni e comunque sono coerenti con i comportamenti di analoghe imprese in altri ambiti industriali (fossile, tabacco). Se si trattasse di persone, non esiteremmo a considerarle sociopatiche. Dare loro il potere di influenzare la lingua, che è ciò che regge letteralmente la società, non può che dar loro un altra enorme fetta di potere. E' ciò che vogliamo? Esempio grossolano: se un nostro governo richiedesse (anche pagando) la produzione algoritmica di testi che favorisca il "voi" al posto del "lei" non violerebbe né la legge né la grammatica, né il GDPR, ma i testi generati automaticamente cambierebbero progressivamente anche la lingua parlata. A queste imprese, e a chi lavora per loro direttamente o indirettamente, va detto: "Fermiamoci! Riflettiamo!". Dato che l'ambiente in cui operano è la lingua, e che la lingua è quanto di più umano ci sia, qual è la valutazione di impatto di un GPT*? Qual è il principio di precauzionalità usato? Queste due criticità diventano due fallacie del ragionamento, per cui da una parte demonizziamo le tecnologie invece di concentrarci sulla responsabilità delle imprese, dall'altra ammettiamo che quelli umani siano dati come gli altri e che l'esperienza umana e la società possa continuare ad essere una miniera da sfruttare industrialmente. Così accettiamo l'eccezionalismo IT e ammettiamo l'uso dell'umano come mezzo. L'industrializzazione del linguaggio, come ogni altro processo industriale non regolato, non può che degradare l'ambiente che tocca. Il modello culturale su cui si basa l'attuale 'progresso' è quello sul quale si sono basati molti dei progressi industriali precedenti: senza negarne i benefici, dobbiamo riconoscere che hanno comportato la svalutazione e lo sfruttamento della persona umana e la fuga dalle responsabilità. Per una volta, cerchiamo di evitare il percorso passato e non aspettiamo i danni ambientali e umani per regolare. Fermiamoci e facciamolo subito. Non invochiamo la scienza e il progresso per giustificare avidità di denaro e potere, come è avvenuto con imperialismo, colonialismo, schiavismo. Il progresso vero è assumersi la responsabilità, non 'move fast and break things'. La vasta polemica attorno agli LLM, che segue quella di Cambridge Analytica, quella sul riconoscimento facciale e molte altre riuscirà finalmente a rendere chi produce software responsabile in qualche misura di ciò che fa e rispettare le persone? Forse no, dovremo attendere un altro passo, mi azzardo a prevedere che forse sarà l'applicazione degli LLM alla produzione di oggetti, di cui anticipo un episodio: GPT9000: Cosa posso fare per te? Io: Vorrei costruire una automobile a tre posti e sei ruote di cui due anteriori e quattro motrici, con motore elettrico e pannelli solari. GPT9000: Certo ci sono molti progetti di automobili sui quali ho elaborato quello che cerchi. Avrai bisogno di una stampante 3d e di alcuni componenti che puoi trovare online. Troverai l'elenco dei negozi in cui comprare il tutto in area download, assieme al progetto e ai brevetti consultati: non dimenticarti di pagare le fees e di far omologare il veicolo nel tuo paese. IO: Wow, grazie. Avrei anche bisogno di una macchina per far scodinzolare i cani. GPT9000: Ho trovato solo un progetto in un vecchio libro francese ma dovrebbe andare bene. In compenso non ci sono fees per i brevetti da pagare. IO: Grazie. Avrei anche bisogno di una macchina del tempo. GPT9000: Sono spiacente, non ho progetti affidabili per una macchina del tempo, ma se ti interessa posso fornirti i progetti per una macchina per la criogenia, che alcuni considerano un efficace mezzo per viaggiare nel futuro. Devo metterti però in guardia: non è stata testata estesamente per questo scopo e non si può tornare al presente. IO: Fantastico! La voglio. Servono permessi? GPT9000: Dalle informazioni in mio possesso nel tuo paese la criogenesi non è regolata espressamente. IO: Benone! Cosa può andare storto? GPT9000: Mi spiace, solo solo un agente software, non posso fare previsioni su cosa può accadere se usi una macchina per la criogenia non testata per viaggiare nel futuro. Buona fortuna! ... Ciao, Alberto On 16/04/23 13:07, Enrico Nardelli wrote: > > Grazie Marco, molto bello! > > La riflessione finale > > «This is all an old story, though: It reminds us that many of the bad > uses of AI are a reflection of humanity more than they are a > reflection of AI technology itself. » > > sottolinea ancora una volta che non ci sono strumenti e loro usi la > responsabilità dei quali non sia riconducibile ad esseri umani (punto > che Giacomo Tesio giustissimamente enfatizza sempre). > > Ciao, Enrico > > Il 11/04/2023 10:02, Marco A. Calamari ha scritto: >> Un interessante saggio di Bruce Schneier sugli usi criminali e >> manipolatori degli LLM, >> che dovrebbe farci scendere ogni tanto dai ragionamenti troppo >> filosofici a quelli più pratici. >> >> Consigliato. >> >> https://www.schneier.com/blog/archives/2023/04/llms-and-phishing.html >> >> Marco >> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- > > -- EN > > https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html > ====================================================== > Prof. Enrico Nardelli > Presidente di "Informatics Europe" > Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI > Dipartimento di Matematica - Università di Roma "Tor Vergata" > Via della Ricerca Scientifica snc - 00133 Roma > home page: https://www.mat.uniroma2.it/~nardelli > blog: https://link-and-think.blogspot.it/ > tel: +39 06 7259.4204 fax: +39 06 7259.4699 > mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it > online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont > ====================================================== > > > -- > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 17, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Daniela Tafani

Un buon punto di partenza, per una spiegazione semplice e sintetica (già segnalata su questa lista, se non ricordo male) mi sembra What Kind of Mind Does ChatGPT Have? https://www.newyorker.com/science/annals-of-artificial-intelligence/what-ki… ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Antonio <antonio(a)piumarossa.it> Inviato: lunedì 17 aprile 2023 10:48 A: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] ChatGPT disabled for users in Italy > Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non > capisco come funziona? E allora proviamoci a capirlo assieme. Partiamo dalla definizione data da Beppe Attardi: "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza" Accediamo ad uno dei tanti servizi online che mostrano in pratica il meccanismo, ad esempio questo: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230417084813073881… Nella casella sotto "Mask token" scriviamo: "Parigi è la [MASK] della Francia". Il risultato sarà: Capitale 0.658 citta 0.132 patria 0.020 culla 0.020 migliore 0.012 Più quel numeretto si avvicina ad uno (e più distanza ci sarà con il secondo), più sarà /probabile/. Proviamo con: "Torino è il capoluogo del [MASK]" Il risultato sarà: tutto 0.229 mondo 0.206 italia 0.163 piemonte 0.125 nord 0.043 Che significa? Che tra i dati di addestramento non ci sono sufficienti informazioni che collegano univocamente, o quasi, Torino -> capoluogo -> Piemonte. Un'eventuale /chat/ basata su "alb3rt0" anziché su "gpt" avrebbe quindi risposto: "Torino è il capoluogo di tutto" Antonio _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230417084813073881…

April 17, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Antonio

> Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non > capisco come funziona? E allora proviamoci a capirlo assieme. Partiamo dalla definizione data da Beppe Attardi: "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza" Accediamo ad uno dei tanti servizi online che mostrano in pratica il meccanismo, ad esempio questo: https://huggingface.co/m-polignano-uniba/bert_uncased_L-12_H-768_A-12_itali… Nella casella sotto "Mask token" scriviamo: "Parigi è la [MASK] della Francia". Il risultato sarà: Capitale 0.658 citta 0.132 patria 0.020 culla 0.020 migliore 0.012 Più quel numeretto si avvicina ad uno (e più distanza ci sarà con il secondo), più sarà /probabile/. Proviamo con: "Torino è il capoluogo del [MASK]" Il risultato sarà: tutto 0.229 mondo 0.206 italia 0.163 piemonte 0.125 nord 0.043 Che significa? Che tra i dati di addestramento non ci sono sufficienti informazioni che collegano univocamente, o quasi, Torino -> capoluogo -> Piemonte. Un'eventuale /chat/ basata su "alb3rt0" anziché su "gpt" avrebbe quindi risposto: "Torino è il capoluogo di tutto" Antonio

April 17, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Daniela Tafani

Buongiorno. Io credo ci sia un legittimo e genuino disaccordo, non il mero scarto tra alfabetizzati e analfabeti. E, come ha già osservato Enrico qualche tempo fa, credo sia un disaccordo non nuovo, che riprende, nella sua versione stocastica, la questione della stanza cinese di Searle. "Pappagalli" è infatti utilizzato da Emily Bender per dare l'idea della mancanza di accesso, e quindi di riferimenti, al significato. Alcuni di coloro che ritengono impropria la qualifica di pappagalli sottoscrivono una delle obiezioni a Searle. Spesso, mi pare, quella del "sistema". Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Guido Vetere <vetere.guido(a)gmail.com> Inviato: lunedì 17 aprile 2023 09:20 A: Nexa; Enrico Nardelli Oggetto: Re: [nexa] ChatGPT disabled for users in Italy Caro Enrico, non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra che su questi LLM ci sia qualche problema di 'literacy', visto che alcuni insistono nel pensarli come database un po' strani. Si potrebbe allora chiedere a una persona competente di spiegarli per bene, e secondo me Beppe è il più titolato tra noi. Nel merito dello scambio che riporti, forse si tratta solo di 'nuances', ma fa bene Beppe a sgombrare il campo dall'immagine del 'pappagallo' che ricombina frammenti di frasi udite. No: GPT inventa di sana pianta. Dove può aver sentito ad esempio che io avrei scritto il romanzo "Il collezionista di venti" (2017), che non si trova neanche su Amazon? G. On Mon, 17 Apr 2023 at 01:11, 380° <g380(a)biscuolo.net<mailto:g380@biscuolo.net>> wrote: Buongiorno, Enrico Nardelli <nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> writes: > premesso che ammiro e rispetto Beppe Attardi che è certamente > estremamente competente in termini di IA, se con "dare ascolto" > intendi "credere", beh [...] > Insomma, se il dibattito deve essere di livello scientifico elevato, mi permetto di far notare che il dibattito in (nel/di) merito a quanto /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo thread si è entrati /anche/ nel merito tecnico > più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti > e consistenti nella lettura degli altri e nell'esposizione delle > nostre riflessioni. e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno /tentare/ di farlo se si vuole davvero confrontarsi ...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere e starmene zitto, ma siccome credo che confrontarsi su queste cose sia il modo migliore di esercitare la propria "cittadinanza digitale", mi ostino :-) [...] saluti, 380° [1] voi non avete idea di quanto mi senta **stupido** a illudermi che possa essere davvero così, visto che siamo nell'era in cui la scienza stabilisce cos'è giusto o cos'è sbagliato in /tutto/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230417072045063417…>>. _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230417072045063417…>

April 17, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Marco A. Calamari

On dom, 2023-04-16 at 20:01 +0200, Giuseppe Attardi wrote: > > > > On 16 Apr 2023, at 11:58, Marco A. Calamari <marcoc_maillist(a)marcoc.it> > > wrote: > > > > > > On dom, 2023-04-16 at 11:24 +0200, Giuseppe Attardi wrote: > > > Questa risposta è talmente grossolana e offensiva che speravo qualcun > > > altro rispondesse. > > > > > > Se nessuno lo ha fatto, mi inorridisce pensare a quanti su questa lista la > > > condividano. > > > > > > Per fortuna non è obbligatorio che tutti quelli che sono in disaccordo (o > > anche d'accordo, perché no?) rispondano. > > > > Nel mio caso, comunque, sono poco interessato all'AI come settore di ricerca > > dell'informatica, ma molto al suo ruolo come iniziativa commerciale, di > > tecnocontrollo e geopolitica. > > > > Se non fosse così, ad esempio, io in quanto ingegnere nucleare dovrei > > sentirmi obbligato ad intervenire ogni volta che qualcuno parla di "fusione > > fredda” > Ossia assimili l’AI alla “fusione fredda”, una tecnologia quella sì davvero > inesistente. Caro Giuseppe, non credo che al mondo esista qualcuno che non abbia sentito che la "Fusione Fredda" non esiste, ed è stato un discorso parascientifico. Nemmeno credo che ti sfugga che non potrei permettermi, professionalmente, di non conoscere la questione nei dettagli. Ma nella sostanza hai perfettamente ragione. Affermo proprio, ormai da tempo, che l'"Intelligenza" nel campo dell'"Intelligenza Artificiale", e la "fusione fredda" condividono la categoria della "non esistenza" Ed essendo il tempo prezioso, ritengo di essere stato chiaro, e di aver rubato ai colleghi di lista anche troppo tempo. Grazie. Marco > > — Beppe > > > > > Il tempo è la risorsa più limitata al mondo. > > > > JM2EC. Buona domenica a tutti. Marco > > > > > > > L’Artificial Intelligence esiste ed è una delle principali discipline > > > della Computer Science. > > > Ci sono riviste, congressi e istituti dedicati alla ricerca in AI in tutto > > > il mondo. > > > Il fatto che la Commissione Europea l’abbia ignorata nei suoi > > > finanziamenti, dimostra la sua miopia, non la sua furbizia. > > > Per fortuna altri paesi l’hanno sostenuta, altrimenti oggi non avremmo il > > > fiorire di innovazioni che sta portando l’AI. > > > > > > Occupandosi di uno dei problemi più complessi dell’informatica, ossia la > > > riproduzione delle capacità della mente umana, l’AI si è dovuta spesso > > > scontrare coi limiti della tecnologia. > > > Ma chi se ne occupava si è sempre ingegnato per superarli. > > > Infatti, gran parte delle tecnologie informatiche che oggi sono di uso > > > comune, sono nate in ambito AI. > > > Ad esempio: > > > > > > - linguaggi funzionali > > > - garbage collection > > > - linguaggi a oggetti > > > - interfacce grafiche > > > - interfacce di sviluppo integrate (IDE) > > > - Map/reduce per elaborazione parallela > > > - animazione 3D > > > - sistemi operativi > > > > > > Unix fu scritto da Ken Thompson per poter sviluppare il suo programma per > > > il gioco degli scacchi. > > > Il movimento del Free Software fu lanciato da Richard Stallman, che > > > lavorava al MIT AI Lab, dove partecipava al progetto della MIT Lisp > > > Machine. > > > > > > Marvin Minsky diceva: “When it works, it is no longer AI”, per esprimere > > > il rammarico che le più significative innovazioni dell’AI venissero spesso > > > attribuite ad altri. > > > > > > Many of AI's greatest innovations have been reduced to the status > > > of just another item in the tool chest of computer science. Nick Bostrom > > > explains "A lot of cutting edge AI has filtered into general applications, > > > often without being called AI because once something becomes useful enough > > > and common enough it's not labeled AI anymore.” > > > > > > https://en.wikipedia.org/wiki/History_of_artificial_intelligence#AI_behind_… > > > > > > > la ricerca di cui abbiamo bisogno > > > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come > > > > allucinazione collettiva) ma sulla programmazione statistica > > > L’AI copre aree più vaste della “programmazione statistica”. > > > > > > Il confronto con la blockchain è offensivo: quella è una tecnologia in > > > cerca di applicazioni, basata su un singolo articolo. > > > Non può essere comparata con una disciplina scientifica con 50 anni di > > > ricerca alle spalle e migliaia di ricercatori coinvolti. > > > > > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > > > > > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui > > > abbiamo scarso controllo? > > > > > > — Beppe > > > > > > > > > > On 14 Apr 2023, at 17:33, nexa-request(a)server-nexa.polito.it wrote: > > > > > > > > From: Giacomo Tesio <giacomo(a)tesio.it> > > > > To: Giuseppe Attardi <attardi(a)di.unipi.it> > > > > Cc: Stefano Maffulli <smaffulli(a)gmail.com>, > > > > "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > > > > Subject: Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria > > > > sospesa se OpenAI adotterà le misure richieste. > > > > Message-ID: <20230414165246.00001237(a)tesio.it> > > > > Content-Type: text/plain; charset=utf-8 > > > > > > > > On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > > > > > > > > > > On 14 Apr 2023, at 10:20, Giacomo Tesio <giacomo(a)tesio.it> wrote: > > > > > > > > > > > > Beh, è facile concordare sui finanziamenti alla ricerca. > > > > > > > > > > Talmente facile che non viene fatto. > > > > > > > > > > La voce “Intelligenza Artificiale” non era nemmeno presente nei > > > > > progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati > > > > > stanziati 50 milioni per 5 progetti ICT-48. > > > > > > > > Vuoi dire che l'hanno messa? > > > > Bah... che posso dire, farà il paio con la blockchain! > > > > > > > > Il fatto che la voce "Intelligenza Artificiale" non fosse presente > > > > lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno > > > > non riguarda l'"Intelligenza Artificiale" (che non esiste, se non > > > > come allucinazione collettiva) ma sulla programmazione statistica > > > > cui troppi, non comprendendone il funzionamento, attribuiscono > > > > una qualche forma di "intelligenza". > > > > > > > > Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di > > > > programmazione statistica che producano risultati più affidabili! > > > > > > > > Ma ben vengano anche finanziamenti alla ricerca di nuovi framework > > > > interpretativi di queste tecnologie, un po' meno allucinati e > > > > allucinogeni! :-D > > > > > > > > > > > > Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha > > > > presentato le tesi del suo libro "La rivoluzione informatica", Juan > > > > Carlos ha detto una cosa importantissima: > > > > > > > > "sicuramente non esiste indipendenza, non esiste sovranità, senza la > > > > possibilità di controllare, produrre e sviluppare tutte le tecnologie > > > > fondamentali che servono per una società moderna" > > > > > > > > Condivido pienamente il concetto. > > > > > > > > Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa > > > > significa "società moderna"? chi decide quali siano le tecnologie > > > > fondamentali che servono per realizzarla? > > > > > > > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > > > > > > > > > > I software della Silicon Valley sono progettati per realizzare una > > > > specifica idea di società. Dobbiamo davvero competere con loro, solo > > > > se vogliamo imporre all'Europa esattamente quella idea di società > > > > (e vogliamo farlo meglio di loro). > > > > > > > > Ma se decidessimo invece di provare a creare una società democratica, > > > > libera ed equa, di quali strumenti avremmo bisogno? > > > > > > > > > > > > > PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni > > > > > a posteriori dei risultati degli attuali sistemi di ML, semplicemente > > > > > non funzionano, perché non scalano alle dimensiini di modelli > > > > > costituiti da miliardi di parametri. Del resto, se esistesse una > > > > > spiegazione semplice e comprensibile per un problema complesso e > > > > > difficile, il problema non sarebbe complesso e difficile. > > > > > > > > Ecco un'evidenza concreta dei gravi danni che la narrazione della > > > > "Intelligenza Artificiale" causa alla ricerca scientifica. > > > > > > > > Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice > > > > (ancorché estremamente costoso) di non aver selezionato scientemente il > > > > dataset in modo da causare specifiche discriminazione. > > > > Non ho mai detto che ciò garantisca l'assenza di discriminazioni. > > > > > > > > Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, > > > > ma non rimuove la responsabilità per i danni causati dal software. > > > > > > > > > D’altra parte, con le tecniche di prompting cone il Chain of Thought, > > > > > si può chiedere agli stessi modelli come ChatGPT di fornire un filo > > > > > logico dei passaggi che hanno portato alla risposta. > > > > > > > > Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. > > > > > > > > ChatGPT può sicuramente produrre una stringa di testo che la tua mente > > > > interpreti come una valida GIUSTIFICAZIONE di un proprio output. > > > > > > > > Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale > > > > output sia stato calcolato. > > > > > > > > Il calcolo effettuato potrebbe essere del tutto diverso: nessun > > > > informatico (o scienziato) con un minimo di serietà potrebbe > > > > accontentarsi di una tale giustificazione NON VERIFICABILE. > > > > > > > > > > > > Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro > > > > l'obiettivo: non ci interessa trovare un'argomentazione più o meno > > > > soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli > > > > si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato > > > > preso in considerazione durante l'elaborazione E COSA NO, nonché capire > > > > ESATTAMENTE come. > > > > > > > > > > > > Giacomo > > > > > > > > > > > > > > [1]: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230414153357028623… > > > > > > > > > > _______________________________________________ > > > nexa mailing list > > > nexa(a)server-nexa.polito.it > > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 17, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

Caro Enrico, non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra che su questi LLM ci sia qualche problema di 'literacy', visto che alcuni insistono nel pensarli come database un po' strani. Si potrebbe allora chiedere a una persona competente di spiegarli per bene, e secondo me Beppe è il più titolato tra noi. Nel merito dello scambio che riporti, forse si tratta solo di 'nuances', ma fa bene Beppe a sgombrare il campo dall'immagine del 'pappagallo' che ricombina frammenti di frasi udite. No: GPT inventa di sana pianta. Dove può aver sentito ad esempio che io avrei scritto il romanzo "Il collezionista di venti" (2017), che non si trova neanche su Amazon? G. On Mon, 17 Apr 2023 at 01:11, 380° <g380(a)biscuolo.net> wrote: > Buongiorno, > > Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > > > premesso che ammiro e rispetto Beppe Attardi che è certamente > > estremamente competente in termini di IA, se con "dare ascolto" > > intendi "credere", beh > > [...] > > > Insomma, se il dibattito deve essere di livello scientifico elevato, > > mi permetto di far notare che il dibattito in (nel/di) merito a quanto > /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo > _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo > thread si è entrati /anche/ nel merito tecnico > > > più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti > > e consistenti nella lettura degli altri e nell'esposizione delle > > nostre riflessioni. > > e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più > limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno > /tentare/ di farlo se si vuole davvero confrontarsi > > ...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere > e starmene zitto, ma siccome credo che confrontarsi su queste cose sia > il modo migliore di esercitare la propria "cittadinanza digitale", mi > ostino :-) > > [...] > > saluti, 380° > > > > [1] voi non avete idea di quanto mi senta **stupido** a illudermi che > possa essere davvero così, visto che siamo nell'era in cui la scienza > stabilisce cos'è giusto o cos'è sbagliato in /tutto/ > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 17, 2023

Re: [nexa] China to require ‘security assessment’ for new AI products

by 380°

Buongiorno, Stefano Zacchiroli <zack(a)upsilon.cc> writes: > On Sun, Apr 16, 2023 at 12:13:20PM +0200, Enrico Nardelli wrote: >> QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare >> requisiti di sicurezza. [...] > Trovare un giusto mezzo tra lo status quo ed il desiderio di > regolamentare prodotti "che contengono AI" non sarà affatto banale. Non esiste un "giusto mezzo", c'è solo e unicamente un modo per verificare se il software è adeguato all'uso [1]: avere a disposizione il sorgente (e nel caso dell'AI è un casino, come ha correttamente spiegato più volte Giacomo Tesio) ...altro che assessment, certificazioni o supercazzole eseguite avendo a disposizione solo il binario saluti, 380° [1] e questo lo deve fare l'utilizzatore, non lo sviluppaore... e l'utilizzatore è chi immette sul mercato il servizio [2] (o prodotto [3] che incopora software), non l'utente [2] servizi finanziari sono regolati, il servizio sanitario è regolato, la pubblicità ingannevole (rif. https://www.ftc.gov/system/files/ftc_gov/pdf/Early-Thoughts-on-Generative-A…) [3] quando il software è incorporato in un prodotto, esistono /tonnellate/ di norme in merito, a volte inapplicate /esattamente/ perché si _delega_ l'indelegabile al software -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 16, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by 380°

Buongiorno, Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > premesso che ammiro e rispetto Beppe Attardi che è certamente > estremamente competente in termini di IA, se con "dare ascolto" > intendi "credere", beh [...] > Insomma, se il dibattito deve essere di livello scientifico elevato, mi permetto di far notare che il dibattito in (nel/di) merito a quanto /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo thread si è entrati /anche/ nel merito tecnico > più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti > e consistenti nella lettura degli altri e nell'esposizione delle > nostre riflessioni. e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno /tentare/ di farlo se si vuole davvero confrontarsi ...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere e starmene zitto, ma siccome credo che confrontarsi su queste cose sia il modo migliore di esercitare la propria "cittadinanza digitale", mi ostino :-) [...] saluti, 380° [1] voi non avete idea di quanto mi senta **stupido** a illudermi che possa essere davvero così, visto che siamo nell'era in cui la scienza stabilisce cos'è giusto o cos'è sbagliato in /tutto/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

April 16, 2023

Re: [nexa] ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste.

by Giacomo Tesio

Buona sera Giuseppe, On Sun, 16 Apr 2023 11:24:28 +0200 Giuseppe Attardi wrote: > Questa risposta è talmente grossolana e offensiva che speravo qualcun > altro rispondesse. Mi dispiace sinceramente di aver offeso la tua sensibilità. Me ne scuso e provo a chiarire meglio cosa intendessi. > L’Artificial Intelligence esiste ed è una delle principali discipline > della Computer Science. Ci sono riviste, congressi e istituti > dedicati alla ricerca in AI in tutto il mondo. L'Intelligenza Artificiale non è una tecnologia. E' una disciplina come lo sono state per secoli l'astrologia o l'alchimia. Discipline con studiosi del calibro di Isaac Newton. Scriveva Dijkstra nel 1984: ``` Two major streams can be distinguished, the quest for the Stone and the quest for the Elixir. The quest for the Stone is based on the assumption that our "programming tools" are too weak. One example is the belief that current programming languages lack the "features" we need. [...] In parallel we have the search for the Elixir. Here the programming problem is simply solved by doing away with the programmer. Wouldn't it be nice, for instance, to have programs in almost plain English, so that ordinary people could write and read them? [...] Since then we have had elixirs in a countless variety of tastes and colours. I have fond memories of a project of the early 70's that postulated that we did not need programs at all! All we needed was "intelligence amplification". If they have been able to design something that could "amplify" at all, they have probably discovered it would amplify stupidity as well; in any case I have not heard from it since. The major attraction of the modern elixirs is that they relieve their consumers from the obligation of being precise by presenting an interface too fuzzy to be precise in: by suppressing the symptoms of impotence they create an illusion of power. ``` https://www.cs.utexas.edu/users/EWD/transcriptions/EWD08xx/EWD898.html Nemmeno Dijkstra poteva immaginare che qualcuno prendesse talmente sul serio la ricerca di un elisir di lunga vita da immaginare di sterminare l'umanità per sostituirla con simulazioni eseguite dentro enormi calcolatori (transumanisti, longtermisti etc...) Ma ChatGPT (e GitHub CopyALot, prima) non è proprio l'ennesima incarnazione della ricerca dell'elisir di cui parlava EWD? Vero: diverse innovazioni INFORMATICHE sono state realizzate grazie agli enormi FINANZIAMENTI ottenuti dalla Intelligenza Artificiale. L'AI vende bene, non c'è dubbio. E sui curricula fa un figurone! Ma rimane una speranza, un'ambizione, un sogno... non una tecnologia. E nel momento in cui qualcuno la vende come tale, diventa un'allucinazione o una truffa. > Occupandosi di uno dei problemi più complessi dell’informatica, ossia > la riproduzione delle capacità della mente umana Ma questo non è affatto un problema dell'informatica, Giuseppe! La supply chain è un problema dell'informatica. La complessità accidentale e strumentale dei software moderni è un problema dell'informatica. La normalizzazione dell'insicurezza sistemica che tale complessità determina è un problema dell'informatica. La crittografia pienamente omomorfica è un problema dell'informatica. Ma riprodurre le capacità della mente umana NON è un problema che l'umanità abbia alcuna urgenza di risolvere. La mente umana è talmente efficiente... per sole trecento chilocalorie al giorno può fare molto più di quanto GPT-4 non farà mai! Dunque l'AI NON cerca di risolvere un problema informatico. E' invece uno strumento di propaganda. Per questo riceve tanti finanziamenti! Diffonde un messaggio politico: l'uomo può essere sostituito da cose. L'Intelligenza Artificiale serve letteralmente a legittimare il dominio dell'uomo sull'uomo. E serve ad applicarlo tramite macchine. Tutta l'urgenza di sottrarre Open AI alle proprie responsabilità legali rispetto all'output di ChatGPT mostra bene questa esigenza. Il messaggio è chiaro: si DEVE secrificare i diritti umani all'AI. > Marvin Minsky diceva: “When it works, it is no longer AI”, per > esprimere il rammarico che le più significative innovazioni dell’AI > venissero spesso attribuite ad altri. Minsky lo viveva con rammarico perché credeva sinceramente nella favola dell'Intelligenza Artificiale, non vedendone gli scopi politici. Io invece la vedo come progresso: quando finalmente uno strumento funziona, non ha più bisogno della fuffa AI per essere finanziato. > > la ricerca di cui abbiamo bisogno non riguarda l'"Intelligenza > > Artificiale" (che non esiste, se non come allucinazione collettiva) > > ma sulla programmazione statistica > > L’AI copre aree più vaste della “programmazione statistica”. Vero. Vende così bene, che ci mettono dentro un po' di tutto. Ma quella di cui stiamo parlando (GPT-4) è programmazione statistica. > Il confronto con la blockchain è offensivo: quella è una tecnologia > in cerca di applicazioni, basata su un singolo articolo. Ok, hai ragione: paragonare qualsiasi cosa alla blockchain è offensivo e me ne scuso sinceramente. > Non può essere comparata con una disciplina scientifica con 50 anni di > ricerca alle spalle e migliaia di ricercatori coinvolti. Intendevo semplicemente dire che la Commissione Europea non ha un minimo di comprensione delle tecnologie che finanzia, producendo sprechi ed disastri strategici enormi. I vari finanziamenti alla blockchain rientrano negli sprechi. Quelli alla "intelligenza artificiale" rientrano nei disastri strategici: dovrebbe finanziare l'informatica, lo sviluppo di software progettati per facilitare la comunicazione, la didattica etc... finanziare la ricerca di sistemi operativi sicuri, di protocolli peer to peer e robe simili... In altri termini, l'UE dovrebbe investire nella creazione di un'informatica DEMOCRATICA, alla portata di tutti. Gli LLM (giusto per fare un esempio on-topic) sono l'antitesi di tale informatica. E l'UE non dovrebbe sprecare soldi pubblici per essi. > > In Europa arranchiamo solo perché inseguiamo, invece di guidare. > > > Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui > abbiamo scarso controllo? Non so a quale tecnologia tu faccia riferimento, ma il punto è proprio che non dovremmo inseguire. Dovremmo adottare un approccio top-down: 1. quali obiettivi sociali e politici vogliamo realizzare? 2. che tecnologia ci serve per realizzarli? Solo dopo aver deciso quale società vogliamo per i nostri figli, potremo iniziare a pensare quale infrastruttura tecnologica gli servirà. E potremo così anche realizzarla. Invece, inseguire l'elisir della AI significa accettare proni un modello di società deciso altrove, nell'interesse di altri. Possiamo fare di meglio. Giacomo

April 16, 2023