- nexa - server-nexa.polito.it

Intanto, su Repubblica... era: ChatGPT disabled for users in Italy

by M. Fioretti

Q: Musk e altri mille hanno scritto una lettera preoccupati per lo sviluppo di questa tecnologia. Esagerano anche loro? A: “La loro preoccupazione la comprendo. Immaginano che se si dovesse continuare l’allenamento di ChatGpt a un certo punto potrebbe avere coscienza di se stesso”. Q: Cosa potrebbe succedere a qual punto? A: “Che magari pensa: perché dovrei stare qui a risponderei in modo ottimale a domande quando posso risolvere da solo le cose? Ad esempio, trovo un modo per risolvere il riscaldamento globale”. Skynet e' qui, insomma, e potrebbe ucciderci nei nostri letti... L'intervista completa e' qui: https://www.repubblica.it/tecnologia/2023/04/03/news/chatgpt_italia_blocco_… se a qualcuno interessa, la risposta mia a "AI will kill us" l'avevo gia' scritta la settimana scorsa: https://mfioretti.substack.com/p/you-are-all-getting-this-stop-ai Marco -- Vi aspetto su Substack: https://mfioretti.substack.com

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by M. Fioretti

On Tue, Apr 04, 2023 12:16:48 PM +0200, Guido Vetere wrote: > Propongo invece un piccolo sketch, forse ingenuo, che però può far > riflettere. Sono al ristorante con un amico, il menù comprende sei > piatti. Io li valuto e scelgo quello che preferisco. Il mio amico > estrae dalla tasca un dado, lo lancia e sceglie il piatto che > corrisponde al numero che esce. Domanda: io e il mio amico siamo > nella stessa relazione causale rispetto a ciò che mangerà? non ha importanza, perche' non e' un esempio calzante. Lo scenario di cui stiamo parlando sarebbe quello in cui il tuo amico chiede al proprietario del ristorante di dargli un parere disinteressato tirando LUI il dado, di nascosto, per poi dire al tuo amico che numero e' uscito. Marco -- La mia newsletter (anche) su questi argomenti: https://mfioretti.substack.com

April 4, 2023

Re: [nexa] fake journal papers

by Maria Chiara Pievatolo

On 30/03/23 21:02, Alberto Cammozzo via nexa wrote: > Questa mattina alla rassegna stampa di radio 3 un ascoltatore che si > definiva un fisico dava come abituale nel suo ambiente l'uso di chatGPT > nel 'supporto' alla generazione di paper scientifici. > > Discutendo la cosa un amico mi ha segnalato questo apparentemente > diffuso fenomeno dei 'paper mills': > > <https://sciencebusiness.net/news/us-lawmakers-turn-attention-plague-fake-jo…> (lo riporto di seguito) > > L'articolo e' datato ma non credo che nel frattempo i numeri dei paper > fasulli sia calato. > Forse con chatGPT i paper mills andranno in rovina: perché pagare? Il fenomeno è connesso alla valutazione amministrativa della ricerca che ha imposto varie forme di "publish or perish" bibliometricamente assistite - le quali incoraggiano a scrivere articoli triti e fungibili, prima a mano e ora a macchina (https://hal.science/hal-03596867v1/file/2107.06751.pdf) come sa bene chi ha avuto la sfortuna di essere commissario ASN e ha tentato di leggere i testi. Il "publish or perish" si autogiustifica e si autoalimenta: Critico: - Ma non faremmo meglio a leggere i testi? - Valutatore: - No, sono troppi: meglio contare le pubblicazione e le citazioni! - (Ex?) studioso: - Perché dovrei affannarmi a scrivere pochi testi originali che non saranno mai letti, invece di produrne molti di più perfettamente fungibili? - Se si pretende di valutare la ricerca in modo centralizzato e industriale, come se gli articoli scientifici fossero paragonabili agli spilli di Adam Smith e non invece pezzi unici, si ottiene esattamente quello che si desidera: ottusissimi spilli prodotti in serie. Il danno è di tali dimensioni che se ne preoccupano perfino gli amministratori https://commentbfp.sp.unipi.it/francesca-di-donato-una-questione-di-qualita… o almeno quelli fra loro in grado di rendersi conto che gli effetti delle armi di valutazione di massa - ammesso e non concesso che all'inizio misurassero qualcosa - sono governati dalla legge di Goodhart. I SALAMI scrittori si limitano ad amplificare una tendenza già in atto. A voler essere ottimisti, potrebbero anche convincere i valutatori a superare il criterio del publish or perish. Perfino proposte percepite come provocatorie come quella di questo anonimo indiano https://btfp.sp.unipi.it/it/2016/10/ex-oriente-lux/ ora meriterebbero di essere prese sul serio. A voler essere pessimisti, c'è però anche un esito alternativo, che illustro con un riformulazione del dialogo sopra: Critico: - Ma non faremmo meglio a leggere i testi? - Valutatore: - No, sono troppi. Ora è anche possibile produrli a macchina, citazioni comprese [*]: meglio usare le AI![**] - Ex-studioso: - Perché dovrei affannarmi a scrivere pochi testi originali che non saranno mai letti, invece di produrne molti di più perfettamente fungibili? - Il dialogo è fittizio, ma ho visto documenti italiani che accennano a proposte simili. Luciano Gallino (https://jacobinitalia.it/come-il-neoliberismo-arrivo-in-italia/) se fosse vivo, forse troverebbe questa soluzione tanto ideologica quanto quella degli economisti neoliberali che propongono più austerità come soluzione alla miseria provocata dall'austerità. Anche qui stiamo assistendo a un dibattito per alcuni aspetti ideologico e irto di contraddizioni, per il quale i SALAMI ora sono generatori stocastici di ciò che a noi pare letteratura (fiction) sintetica troppo complessi per essere controllati da chi li smercia - quando si tratta di trovare discutibili espedienti per esonerare i suoi produttori dalla responsabilità giuridica -, ora sono utilissimi informatori - quando si tratta di promuoverli. Nel nostro più ristretto ambito, riferendosi a testi ancora composti nel modo tradizionale, Lucio Russo (cito qui in fondo https://btfp.sp.unipi.it/it/2021/10/francesco-scotognella-la-comunita-scien… un brano di un suo libro che meriterebbe di essere letto per intero), criticando le armi di valutazione di massa bibliometriche sosteneva che esse trasformano il ricercatore-tipo da scettico organizzato a velocissimo conformista. Il matematico Alessandro Figà Talamanca, in un articolo oramai classico (https://www.roars.it/limpact-factor-nella-valutazione-della-ricerca-e-nello…) mostrava, fra l'altro, a vantaggio di *chi* è stato costruito un indice venduto come impersonale come il JIF, che ha la potenzialità "goodahartiana" di "essere utilizzato per rendere la realtà conforme alla propaganda dell’ISI". La questione, SALAMI o non SALAMI, rimane la stessa: quanto, per noi, passa per letteratura (non-fiction) scientifica può rimanere scientifico se è prodotto e valutato con sistemi statistici, ma senza scienza (cioè senza sapere)? Anche questo dibattito è avvenuto più volte. A presto, MCP [*] Si veda il caso, nemmeno recente, di Ike Antcare: https://www.roars.it/primo-capitolo-e-il-suo-h-index/ [**] Sì, c'è un margine di errore che penalizza soprattutto le istituzioni più piccole (https://blogs.lse.ac.uk/impactofsocialsciences/2023/01/16/can-artificial-in…) ma se accettiamo l'uso di armi di valutazione di massa qualcuno potrebbe trattarlo come irrilevante. È già stato fatto con la bibliometria: la risposta tipica a chi ne criticava i danni - quali la credibilità conferita all'articolo di Wakefield sul nesso fra autismo e vaccino trivalente dalla pubblicazione su una rivista ad altissimo JIF - era liquidarli come "aneddotica": https://btfp.sp.unipi.it/it/2018/10/una-scienza-senza-qualita/

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Alberto Cammozzo

Caro Guido, la "coraggiosa assertività" sarebbe arroganza se questo dibattito non fosse già avvenuto diverse volte in almeno 40 anni di ricerca in ambito socio-politico e non solo, nel tentativo di superare le posizioni semplicistiche tra i due estremi che vedono o la tecnologia come mera espressione della società o all'opposto come ciò che la plasma. Possono esservi divergenze anche sostanziose, ma nessuno più nega che gli artefatti incorporino normatività e al contrario afferma che non possano avere alcun bias, fosse solo culturale (di chi progetta e di coloro per cui sono progettati) o di modello economico e di business nel quale si inseriscono. Da Langdon Winner in poi si cerca di articolare la politicità dell'artefatto in uno spettro tra un estremo di politicità intrinseca per cui lo strumento richiede un certo tipo di relazioni di potere ed un altro che vede una prevalenza degli attori sociali nel determinare l'uso di una tecnologia. Addirittura per Bruno Latour gli artefatti si affiancano all'essere umano ed alle istituzioni nella co-creazione del contesto sociale. In ogni caso mi pare sia superata sia la visione di uno strumento tecnologico neutrale, che quella che lo vede sempre espressione di una intenzione politica: il buon ChatGPT dovrebbe prenderne atto invece che oracolare /pro domo sua/. In questo contesto non vedo nessun elemento di novità negli artefatti con comportamento stocastico che possa rimettere in discussione la loro neutralità. Forse mi sfugge qualcosa? Quanto è in discussione non è cosa cambia se una cosa la fa una macchina che copia gli umani o se uno deve farsela da solo, è l'equilibrio tra i vari elementi regolativi in una società: economia, legge, norme sociali, architettura/codice (per citare Lessig), sapendo che lo sviluppo troppo veloce di certe architetture e la lentezza di norme e leggi a stare dietro mette in difficoltà questi equilibri. Se ho compreso la tua allegoria, non si tratta di decidere come ordinare al ristorante, ma se ci sono ristoranti o si può solo ordinare online, chi può pagare o no, chi sta cucina, se le ricette sono anch'esse con ingredienti randomizzati... Buona giornata, Alberto On 04/04/23 12:16, Guido Vetere wrote: > Cari Giacomo e Alberto, > il vostro punto di vista è molto interessante e vi ringrazio per > averlo esposto con tanta coraggiosa assertività. Lo condivido > senz'altro per tutto ciò che riguarda la programmazione imperativa e > quella basata sulla rappresentazione della conoscenza e il > ragionamento automatico. > Se però consideriamo gli sviluppi dell'IA degli ultimi anni, e in > particolare i LLM, le cose sono a mio avviso più complesse. Non mi > inoltro in argomentazioni metafisiche per non tediare chi legge e > perché non ho molto tempo. Propongo invece un piccolo sketch, forse > ingenuo, che però può far riflettere. > Sono al ristorante con un amico, il menù comprende sei piatti. Io li > valuto e scelgo quello che preferisco. Il mio amico estrae dalla tasca > un dado, lo lancia e sceglie il piatto che corrisponde al numero che > esce. Domanda: io e il mio amico siamo nella stessa relazione causale > rispetto a ciò che mangerà? > Secondo me no, ma se ne può parlare. > Buona giornata. > G. > > > > On Tue, 4 Apr 2023 at 11:46, Alberto Cammozzo via nexa > <nexa(a)server-nexa.polito.it> wrote: > > Intervengo a conferma di quanto dice Giacomo sulla /presunzione di > neutralità/ degli artefatti tecnologici. > > Ho chiesto a phind.com <http://phind.com> cosa è successo in > piazza Tien An Men. > > Mi ha risposto citando i massacri e esponendo i diversi punti di > vista, incluso quello del governo cinese. > > Allora ho chiesto: > > Is this the same answer you give to users in China? > Answer: > > As an AI language model, I do not have the ability to > determine the location of the user or the restrictions on > information in their country. However, my answer is based on > factual information and sources that are publicly available. > The information I provided is objective and does not contain > any political bias. > > Con buona pace di decenni di dibattiti sulla politicità > (intrinseca o meno) degli artefatti tecnologici, sulla loro > agency, sulla normatività del codice... > > La pretesa di neutralità è ingannevole: ogni artefatto, specie > questi così complessi, incorporano normatività. > > I tecnologi che continuano a credere di costruire artefatti neutri > e consegnarli nelle mani di persone che ne saranno responsabili > negano (forse in primo luogo a se stessi) l'evidenza che gli > artefatti incorporano l'intenzionalità e la normatività di chi li > inventa e di chi paga chi li inventa. > > > Alberto > > > > > On 04/04/23 10:56, Giacomo Tesio wrote: >> Ciao Guido, >> >> trovo veramente affascinante (quanto inquietante) questo passaggio >> della tua email: >> >> On Tue, 4 Apr 2023 06:52:24 +0200 Guido Vetere wrote: >> >>> Tutto questo è corretto, tranne il riferimento alle "stronzate" >>> (*bullshit*) di Frankfurt: queste infatti sono affermazioni capziose >>> pronunciate con intento manipolatorio, insomma dietro una "stronzata" >>> c'è sempre uno "stronzo", cioè un soggetto dotato di intenzionalità, >>> cosa di cui ChatGPT dichiara onestamente di essere privo. >> Come diversi informatici in lista ti possono confermare, lo "stronzo" >> dietro un software è sempre chi lo programma e ne controlla >> l'esecuzione. >> >> Un software infatti applica all'ambiente SEMPRE e ANZITUTTO la volontà >> di chi l'ha programmato (e nel caso di un SaaS, eseguito), >> riproducendola ed imponendola a tutti coloro che sono parte, volenti o >> nolenti, della organizzazione cibernetica in cui tale software opera. >> >> Nel caso di ChatGPT, lo "stronzo" (nel senso di Frankfurt) è Open AI. >> Nel caso di GitHub Copilot, lo "stronzo" è GitHub. >> Entrambi si leggono "Microsoft". >> >> Nel caso di Google Assistant, lo "stronzo" è Google/Alphabet. >> Nel caso dei risultati di ricerca o delle news "personalizzate" fornite >> dai servizi di Google, lo "stronzo" è Google/Alphabet. >> >> Nel caso della timeline Instagram o Facebook, lo "stronzo" è Facebook. >> >> Nel caso della timeline TikTok, lo "stronzo" è TikTok. >> >> Nel caso dell'amica virtuale "Replika", lo "stronzo" è Luka, Inc. >> >> Nel caso dell'osservatorio di Monitora PA, lo "stronzo" sono io. >> (e con me i molti che contribuiscono al suo sviluppo...) >> >> >> Il punto è: che si tratti di bug (come può essere un falso positivo >> prodotto dall'osservatorio di Monitora PA) o di scelte progettuali >> c'è sempre almeno un essere umano di cui il software riproduce >> pedissequamente la volontà. >> >> >> Questa volontà può essere impressa nel software in modo relativamente >> trasparente tramite la programmazione linguistica (ad esempio in Python >> o in C) oppure essere impressa nel software in modo opaco, attraverso >> la selezione dei dati da utilizzare per la programmazione statistica >> e la progettazione della topologia della vector reducing machine che >> verrà programmata statisticamente. >> >> >> Ora, tutti gli "stronzi" qui presenti che abbiano mai realizzato un >> software in prima persona, potranno confermarti di esistere. >> >> >> Alcuni saranno ben lieti di non dover rispondere delle proprie >> creazioni, mentre altri si sentiranno oltraggiati dall'idea che >> qualcuno possa ignorare la propria esistenza come autori di quelle >> creazioni. >> >> >> Ma tutti saranno consapevoli di aver LAVORATO per realizzare la >> sequenza di bit che le macchine elaborano automaticamente per produrre >> gli effetti che loro desiderano. >> >> >> Il contributo dell'utente alla produzione dell'output di un software >> è completamente determinato dal programmatore e può variare moltissimo >> a seconda del software. >> Nel caso di ChatGPT, è oggettivamente trascurabile. >> >> Per questa ragione, la responsabilità dell'output NON PUO' essere >> scaricata sull'utente con un banale disclaimer! >> >> >> >> Quando leggo che "ChatGPT dichiara ONESTAMENTE di essere privo" di >> intenzionalità mi chiedo sinceramente se ci sia una qualche forza >> all'opera dietro questa allucinazione collettiva, dietro questa >> cancellazione delle persone che realizzano la macchina dalla >> tua coscienza, a cui gli sviluppatori siano talmente immuni >> da non percepirla. >> >> No: chi ha scritto quel disclaimer NON è onesto. >> E non è stato Chat GPT a scrivere quel disclaimer. >> >> Noti come Open AI sta manipolando la tua percezione della realtà? >> >> >> Forse il semplice fatto di essere capaci a programmare >> statisticamente un software (e magari averlo programmato), >> rende naturalmente immuni a questa allucinazione. >> >> >> Eppure si deve trattare di un'allucinazione molto forte se, come >> osservo qui, persone intelligenti ed in buona fede continuano a >> sostenerla NONOSTANTE altre persone, autorevoli, intelligenti ed >> altrettanto in buona fede, ma con una maggiore consapevolezza tecnica >> della questione, continuano a ripetere che il software è sempre >> realizzato da esseri umani e ne riproduce valori e interessi. >> >> >> Ti prego di riflettere sulla questione: io esisto, Open AI esiste, >> Microsoft esiste, Google esiste etc... cosa ti costringe a cancellare >> la nostra esistenza dalla tua coscienza quando guardi un artefatto che >> realizza pedissequamente la nostra volontà? >> >> >> Certo, una volta realizzato, un software diventa un agente cibernetico >> automatico, che "si muove da sé". Ma non è mai autonomo. >> >> Anche quando varia il proprio stato interno in funzione dell'input, >> tale variazione è sempre meccanicamente determinata dalla sua >> programmazione (per quanto complessa e opaca sia essa sia). >> >> Anche quando tale stato interno viene utilizzato insieme ad ogni >> nuovo input per calcolare nuovi output e nuove variazioni dello stato >> interno, ogni output e ogni variazione dello stato interno è >> meccanicamente determinato da chi ha programmato il software. >> >> >> Dunque l'agente cibernetico automatico non è MAI autonomo. >> >> >> On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: >> >>> La difficoltà qui risiede nel fatto di aver a che fare con oggetti >>> privi di intenzionalità che tuttavia producono locuzioni a cui, >>> antropologicamente, attribuiamo in effetti intenzionalità. Se gli >>> sviluppatori o gli esercenti di questi oggetti dovessero rispondere >>> di questa intenzionalità fittizia, farebbero bene a dedicarsi ad >>> altro. >> In assenza di tale autonomia, l'assenza di intenzionalità è >> irrilevante: il software riproduce le intenzioni di chi l'ha >> realizzato e ha deciso come deve essere usato. >> >> >> On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: >> >>> Ma se passasse questa linea dovremmo spegnere tutti i generatori >>> basati (solo) su LLM: anche se addestrati sui dati più puri del >>> mondo, la probabilità che generino 'utterances' censurabili non >>> sarebbe mai nulla. >> Beh non è detto: è sufficiente che ciascuno usi i LLM che realizza. >> >> In tal modo, l'intenzionalità (e la responsabilità legale) è tutta >> perfettamente determinata. >> >> >> Giacomo >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy (Marco A. Calamari)

by karlessi

> Message: 2 > Date: Tue, 04 Apr 2023 15:16:47 +0200 > From: "Marco A. Calamari" <marcoc_maillist(a)marcoc.it> > To: Diego Giorio <dgiorio(a)hotmail.com>, Guido Vetere > <vetere.guido(a)gmail.com>, Alberto Cammozzo <ac+nexa(a)zeromx.net> > Cc: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Message-ID: <d7c0b7da03c96316833b0d99ff2a79133c078b15.camel(a)marcoc.it> > Content-Type: text/plain; charset="utf-8" > [snip] > Non esistono solo le interessantissime questioni qui sollevate e discusse, che > io leggo assiduamente e > perlopiù in religioso silenzio, ma esiste anche l'uso concreto ed attuale di > questi oggetti come armi > di disinformazione di massa. > > Vedremo presto crollare l'infosfera, divorata dall'interno dai questi generatori > di stronzate; > se non è ora il momento di preoccuparsi, allora quando? > > "La paranoia è una virtù". > > Scusate lo sfogo. > > Marco > grazie, condivido. come diversi interventi hanno già sottolineato, al di là delle sottigliezze e delle discussioni (puntuali e arricchenti, grazie), il problema di fondo è che questi sistemi cibernetici, software + hardware + ideologie di fondo + come funzionano + brevetti + sorveglianza + marketing + gente che ci lavora, ecc ecc ecc, non solo non sono neutri (nessuna tecnologia è mai neutra), ma hanno dei padroni, con nomi, cognomi e interessi. padroni che già si fanno le leggi su misura, aggirano gran parte della tassazione e, peggio che in passato, spesso pretendono di agire per il bene comune! i buoni miliardari che ci salveranno! questa situazione rende questi sistemi di per sé irrecuperabili dal punto di vista di un'evoluzione conviviale, non-dominante, della tecnologia in questione. a proposito di esempi: possono armamenti nucleari essere gestiti in maniera orizzontale, condivisa, no copyright, fair use, ecc ecc? (qualcuno direbbe "come un common", preferisco: "al pari di usi civici di risorse condivise, come un bosco, una foresta, con cui le società umane sono in simbiosi") secondo me, no. Dal momento che la scala di questi sistemi e i loro metodi produttivi, organizzativi, di manutenzione, di costruzione e assemblaggio, di distribuzione, e così via implicano strutture gerarchiche di tipo militare-industriale, il problema si estende a ben altre tecnologie in uso nelle scuole, aziende, case, spazi pubblici di questo paese, in tutta Europa, in tutto il mondo. quello che vale per il nucleare vale anche per gli attuali LLM: si possono sviluppare, in questo momento, solo appoggiandosi a strutture gerarchiche di tipo militare-industriale. questo è il loro imprinting. nulla è per sempre, ma un imprinting che marchia così tanti attori non è cosa che si sciacqua via con un po' di "debiasing algoritmico" iper politicamente corretto. certamente il paragone è rozzo. ma mi sembra chiaro che se questi sistemi li producessero i cinesi, un altro stato autoritario, o un altro tipo di multinazionale dispotica non cambierebbe nulla ai fini del ragionamento (anzi, sarebbe molto probabilmente ancora peggio) cercare di "usarli bene" è fatica sprecata, anzi configura complicità de facto, perché sistemi del genere mirano all'egemonia, alla supremazia ad ogni costo. sono spacciati come "innovazioni" con tutto il corollario di marketing della disruption che "sconvolge" l'esistente e impone un nuovo paradigma. Si impone a partire dal fatto che non si può esimersi dal parlarne, il che è già molto fastidioso, soprattutto visto che ci sono questioni un attimo più concrete (la siccità, per dirne una). si impongono e saturano lo spazio pubblico e privato come fino a ieri accadeva per le blockchain, che l'Europa si è affrettata a finanziare con progetti di "blockchain for social good", per cui come ieri per vincere un progetto europeo ci voleva probabilmente un po' di "blockchain", oggi ci vuole un po' di "LLM", stessa fuffa (farebbe ridere e basta se non si trattasse di un enorme spreco di denaro pubblico, energie e risorse. proprio come i fondi del PNNR alle scuole, che serviranno purtroppo a far entrare ancora di più le Big Tech e i privati nelle scuole stesse, oltre che ad acquistare tecnologia chiusa, proprietaria, inutile e dannosa, da collocare in edifici perlopiù fatiscenti...) stasera alle 21 ne parleremo a doppioclick (radiopopolare) buon pomeriggio k. > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 168, Issue 38 > ************************************* -- "tecnologie appropriate - https://alekos.net" "pedagogia hacker - https://circex.org"

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Marco A. Calamari

On mar, 2023-04-04 at 10:43 +0000, Diego Giorio wrote: > Molto interessate e azzeccato questo esempio, credo che lo citerò quando mi > troverò a parlare di queste cose. ... > In questo momento, quindi, non ritengo tanto un problema che le risposte siano > sbagliate, quanto il fatto che molti le prendano per buone in modo acritico. > Le immagini del Papa con il piumino o di Trump arrestato erano state > dichiarate false apertamente dallo stesso autore, ma sono ugualmente > rimbalzate in tutto il mondo senza alcun filtro. Se Crozza o qualche altro > comico imita un personaggio, nessuno pensa che sia un servizio di cronaca del > TG, da prendere sul serio. Fino a quando le risposte dell'AI verranno prese > con lo stesso spirito, fin quando verranno usate per quello che valgono, si > potrà utilizzare serenamente l'AI, sfruttandola per quello che può dare di > buono e migliorandola nel tempo. Se invece un'AI apparentemente buona > contribuirà concretamente allo sviluppo dell'idiozia umana, allora meglio > fermarsi subito. Ciao Diego, il problema non è il tasso di esattezza delle risposte, generate a caso da un LLM, ma è il fatto che si fa **di tutto ** per ingannare il pubblico in generale, facendogli pensare che vi sia "Intelligenza" e "Comprensione", e che quindi abbia un senso fargli domande ed utilizzare le risposte. Il problema è che il suddetto pubblico sta cominciando a crederci in massa, e mentre quando crede alle cartomanti non c'è un pericolo globale, se comincia a credere a qualsiasi cosa sappia mettere in fila le parole, e la suddetta cosa ha un unico padrone globale, sarà nelle mani di chi controlla quella cosa. Non esistono solo le interessantissime questioni qui sollevate e discusse, che io leggo assiduamente e perlopiù in religioso silenzio, ma esiste anche l'uso concreto ed attuale di questi oggetti come armi di disinformazione di massa. Vedremo presto crollare l'infosfera, divorata dall'interno dai questi generatori di stronzate; se non è ora il momento di preoccuparsi, allora quando? "La paranoia è una virtù". Scusate lo sfogo. Marco > From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Guido Vetere > <vetere.guido(a)gmail.com> > Sent: Tuesday, April 4, 2023 10:16 AM > To: Alberto Cammozzo <ac+nexa(a)zeromx.net> > Cc: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] ChatGPT disabled for users in Italy > Cari Giacomo e Alberto, > il vostro punto di vista è molto interessante e vi ringrazio per averlo > esposto con tanta coraggiosa assertività. Lo condivido senz'altro per tutto > ciò che riguarda la programmazione imperativa e quella basata sulla > rappresentazione della conoscenza e il ragionamento automatico. > Se però consideriamo gli sviluppi dell'IA degli ultimi anni, e in particolare > i LLM, le cose sono a mio avviso più complesse. Non mi inoltro in > argomentazioni metafisiche per non tediare chi legge e perché non ho molto > tempo. Propongo invece un piccolo sketch, forse ingenuo, che però può far > riflettere. > Sono al ristorante con un amico, il menù comprende sei piatti. Io li valuto e > scelgo quello che preferisco. Il mio amico estrae dalla tasca un dado, lo > lancia e sceglie il piatto che corrisponde al numero che esce. Domanda: io e > il mio amico siamo nella stessa relazione causale rispetto a ciò che mangerà? > Secondo me no, ma se ne può parlare. > Buona giornata. > G. > > > > On Tue, 4 Apr 2023 at 11:46, Alberto Cammozzo via nexa > <nexa(a)server-nexa.polito.it> wrote: > > Intervengo a conferma di quanto dice Giacomo sulla presunzione di neutralità > > degli artefatti tecnologici. > > Ho chiesto a phind.com cosa è successo in piazza Tien An Men. > > Mi ha risposto citando i massacri e esponendo i diversi punti di vista, > > incluso quello del governo cinese. > > Allora ho chiesto: > > > Is this the same answer you give to users in China? > > > Answer: > > > As an AI language model, I do not have the ability to determine the > > > location of the user or the restrictions on information in their country. > > > However, my answer is based on factual information and sources that are > > > publicly available. The information I provided is objective and does not > > > contain any political bias. > > Con buona pace di decenni di dibattiti sulla politicità (intrinseca o meno) > > degli artefatti tecnologici, sulla loro agency, sulla normatività del > > codice... > > La pretesa di neutralità è ingannevole: ogni artefatto, specie questi così > > complessi, incorporano normatività. > > I tecnologi che continuano a credere di costruire artefatti neutri e > > consegnarli nelle mani di persone che ne saranno responsabili negano (forse > > in primo luogo a se stessi) l'evidenza che gli artefatti incorporano > > l'intenzionalità e la normatività di chi li inventa e di chi paga chi li > > inventa. > > > > Alberto > > > > > > > > > On 04/04/23 10:56, Giacomo Tesio wrote: > > > Ciao Guido, > > > > > > trovo veramente affascinante (quanto inquietante) questo passaggio > > > della tua email: > > > > > > On Tue, 4 Apr 2023 06:52:24 +0200 Guido Vetere wrote: > > > > > > > Tutto questo è corretto, tranne il riferimento alle "stronzate" > > > > (*bullshit*) di Frankfurt: queste infatti sono affermazioni capziose > > > > pronunciate con intento manipolatorio, insomma dietro una "stronzata" > > > > c'è sempre uno "stronzo", cioè un soggetto dotato di intenzionalità, > > > > cosa di cui ChatGPT dichiara onestamente di essere privo. > > > Come diversi informatici in lista ti possono confermare, lo "stronzo" > > > dietro un software è sempre chi lo programma e ne controlla > > > l'esecuzione. > > > > > > Un software infatti applica all'ambiente SEMPRE e ANZITUTTO la volontà > > > di chi l'ha programmato (e nel caso di un SaaS, eseguito), > > > riproducendola ed imponendola a tutti coloro che sono parte, volenti o > > > nolenti, della organizzazione cibernetica in cui tale software opera. > > > > > > Nel caso di ChatGPT, lo "stronzo" (nel senso di Frankfurt) è Open AI. > > > Nel caso di GitHub Copilot, lo "stronzo" è GitHub. > > > Entrambi si leggono "Microsoft". > > > > > > Nel caso di Google Assistant, lo "stronzo" è Google/Alphabet. > > > Nel caso dei risultati di ricerca o delle news "personalizzate" fornite > > > dai servizi di Google, lo "stronzo" è Google/Alphabet. > > > > > > Nel caso della timeline Instagram o Facebook, lo "stronzo" è Facebook. > > > > > > Nel caso della timeline TikTok, lo "stronzo" è TikTok. > > > > > > Nel caso dell'amica virtuale "Replika", lo "stronzo" è Luka, Inc. > > > > > > Nel caso dell'osservatorio di Monitora PA, lo "stronzo" sono io. > > > (e con me i molti che contribuiscono al suo sviluppo...) > > > > > > > > > Il punto è: che si tratti di bug (come può essere un falso positivo > > > prodotto dall'osservatorio di Monitora PA) o di scelte progettuali > > > c'è sempre almeno un essere umano di cui il software riproduce > > > pedissequamente la volontà. > > > > > > > > > Questa volontà può essere impressa nel software in modo relativamente > > > trasparente tramite la programmazione linguistica (ad esempio in Python > > > o in C) oppure essere impressa nel software in modo opaco, attraverso > > > la selezione dei dati da utilizzare per la programmazione statistica > > > e la progettazione della topologia della vector reducing machine che > > > verrà programmata statisticamente. > > > > > > > > > Ora, tutti gli "stronzi" qui presenti che abbiano mai realizzato un > > > software in prima persona, potranno confermarti di esistere. > > > > > > > > > Alcuni saranno ben lieti di non dover rispondere delle proprie > > > creazioni, mentre altri si sentiranno oltraggiati dall'idea che > > > qualcuno possa ignorare la propria esistenza come autori di quelle > > > creazioni. > > > > > > > > > Ma tutti saranno consapevoli di aver LAVORATO per realizzare la > > > sequenza di bit che le macchine elaborano automaticamente per produrre > > > gli effetti che loro desiderano. > > > > > > > > > Il contributo dell'utente alla produzione dell'output di un software > > > è completamente determinato dal programmatore e può variare moltissimo > > > a seconda del software. > > > Nel caso di ChatGPT, è oggettivamente trascurabile. > > > > > > Per questa ragione, la responsabilità dell'output NON PUO' essere > > > scaricata sull'utente con un banale disclaimer! > > > > > > > > > > > > Quando leggo che "ChatGPT dichiara ONESTAMENTE di essere privo" di > > > intenzionalità mi chiedo sinceramente se ci sia una qualche forza > > > all'opera dietro questa allucinazione collettiva, dietro questa > > > cancellazione delle persone che realizzano la macchina dalla > > > tua coscienza, a cui gli sviluppatori siano talmente immuni > > > da non percepirla. > > > > > > No: chi ha scritto quel disclaimer NON è onesto. > > > E non è stato Chat GPT a scrivere quel disclaimer. > > > > > > Noti come Open AI sta manipolando la tua percezione della realtà? > > > > > > > > > Forse il semplice fatto di essere capaci a programmare > > > statisticamente un software (e magari averlo programmato), > > > rende naturalmente immuni a questa allucinazione. > > > > > > > > > Eppure si deve trattare di un'allucinazione molto forte se, come > > > osservo qui, persone intelligenti ed in buona fede continuano a > > > sostenerla NONOSTANTE altre persone, autorevoli, intelligenti ed > > > altrettanto in buona fede, ma con una maggiore consapevolezza tecnica > > > della questione, continuano a ripetere che il software è sempre > > > realizzato da esseri umani e ne riproduce valori e interessi. > > > > > > > > > Ti prego di riflettere sulla questione: io esisto, Open AI esiste, > > > Microsoft esiste, Google esiste etc... cosa ti costringe a cancellare > > > la nostra esistenza dalla tua coscienza quando guardi un artefatto che > > > realizza pedissequamente la nostra volontà? > > > > > > > > > Certo, una volta realizzato, un software diventa un agente cibernetico > > > automatico, che "si muove da sé". Ma non è mai autonomo. > > > > > > Anche quando varia il proprio stato interno in funzione dell'input, > > > tale variazione è sempre meccanicamente determinata dalla sua > > > programmazione (per quanto complessa e opaca sia essa sia). > > > > > > Anche quando tale stato interno viene utilizzato insieme ad ogni > > > nuovo input per calcolare nuovi output e nuove variazioni dello stato > > > interno, ogni output e ogni variazione dello stato interno è > > > meccanicamente determinato da chi ha programmato il software. > > > > > > > > > Dunque l'agente cibernetico automatico non è MAI autonomo. > > > > > > > > > On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: > > > > > > > La difficoltà qui risiede nel fatto di aver a che fare con oggetti > > > > privi di intenzionalità che tuttavia producono locuzioni a cui, > > > > antropologicamente, attribuiamo in effetti intenzionalità. Se gli > > > > sviluppatori o gli esercenti di questi oggetti dovessero rispondere > > > > di questa intenzionalità fittizia, farebbero bene a dedicarsi ad > > > > altro. > > > In assenza di tale autonomia, l'assenza di intenzionalità è > > > irrilevante: il software riproduce le intenzioni di chi l'ha > > > realizzato e ha deciso come deve essere usato. > > > > > > > > > On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: > > > > > > > Ma se passasse questa linea dovremmo spegnere tutti i generatori > > > > basati (solo) su LLM: anche se addestrati sui dati più puri del > > > > mondo, la probabilità che generino 'utterances' censurabili non > > > > sarebbe mai nulla. > > > Beh non è detto: è sufficiente che ciascuno usi i LLM che realizza. > > > > > > In tal modo, l'intenzionalità (e la responsabilità legale) è tutta > > > perfettamente determinata. > > > > > > > > > Giacomo > > > _______________________________________________ > > > nexa mailing list > > > nexa(a)server-nexa.polito.it > > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > > nexa mailing list > > nexa(a)server-nexa.polito.it > > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Giacomo Tesio

Ciao Guido, Diego e Nexa, On Tue, 4 Apr 2023 12:16:48 +0200 Guido Vetere wrote: > il vostro punto di vista è molto interessante e vi ringrazio per > averlo esposto con tanta coraggiosa assertività. :-D Quando un hacker ti pone delle domande, non pensare di potertela cavare con una battuta! ;-) Comunque concordo con Diego: il tuo esempio è molto azzecato. Purtroppo la domanda che poni è irrilevante. (e conseguentemente, la risposta che proponi) > Sono al ristorante con un amico, il menù comprende sei piatti. Io li > valuto e scelgo quello che preferisco. Il mio amico estrae dalla > tasca un dado, lo lancia e sceglie il piatto che corrisponde al > numero che esce. > > Domanda: io e il mio amico siamo nella stessa relazione causale > rispetto a ciò che mangerà? La relazione causale rispetto a ciò che mangerete è irrilevante. Ciò che rileva è che entrambi avete scelto liberamente COME selezionare il vostro menù: tu alla luce di una valutazione gastronomica, lui sulla base di un automatismo di cui comprende pienamente il funzionamento. Il tuo amico decide il numero di facce, il numero di lanci, e conseguentemente la probabilità relativa dei diversi risultati, nonché l'interpretazione da attribuire a ciascun risultato (si conta dal fondo o dall'inizio? si sottrae il prodotto fra numero di dadi e lanci al risultato? etc..) Il dado è dunque solo uno strumento del tuo amico. Potrebbe farne tranquillamente a meno, accontentandosi di un numero pensato "a caso". Per fare un esempio più calzante, ipotiziamo che il cuoco decida gli ingredienti del vostro pasto sulla base del colore dei vostri vestiti e di lanci di un dado. Gli ingredienti sono infatti in barattoli colorati e numerati, ma senza etichetta. Prima di farvi accomodare, il cameriere robotizzato vi informa chiaramente che occasionalmente le pietanze potrebbero contenere combinazioni indigeste o persino tossiche degli ingredienti (ciascuno di per sé commestibile in isolamento), senza che il cuoco possa in alcun modo essere ritenuto responsabile per eventuali, occasionali, decessi. Voi vi sedete comunque, pensando si tratti di uno scherzo. In fondo il ristorante è pieno di persone che sembrano assaporare con grande soddisfazione piatti assolutamente deliziosi. Alla fine del pasto, il tuo ipotetico amico muore. Secondo te, il cuoco è responsabile della sua morte? Il fatto di avervi avvertito con un chiaro disclaimer, allevia la sua responsabilità penale? E se la preparazione e la cottura della pietanza fosse completamente meccanizzata? Ne risponderebbe il proprietario del locale? E se invece di morire alla fine del pranzo a causa delle sostanze ingerite, il tuo amico si ammalasse di cancro e gravasse sul servizio sanitario nazionale per decenni insieme al 5-10% degli avventori del ristorante? Laddove un'autorità competente chiedesse conto dei danni prodotti al proprietario, ti strapperesti le vesti? Il proprietario del ristorante potrebbe argomentare di che il suo robot-cuoco non aveva alcuna intenzionalità e che voi che l'avete usato (peraltro, gratuitamente) eravate stati avvertiti con un chiaro disclaimer dei rischi? > Se però consideriamo gli sviluppi dell'IA degli ultimi anni, e in > particolare i LLM, le cose sono a mio avviso più complesse. Non mi > inoltro in argomentazioni metafisiche... Non c'è niente di metafisico in un software programmato statisticamente. Cambia (in parte) il modo di programmare questi software rispetto alla programmazione linguistica (imperativa, funzionale, a oggetti etc...) ma non cambia il fatto che siano programmati: qualcuno li realizza per riprodurre automaticamente un certo comportamento. Il fatto che chi li programma dichiari di non avere piena comprensione del loro funzionamento, li rende semplicemente inutilizzabili. Ma non c'è alcuna ragione, etica, logica o metafisica, per cui dovremmo garantire a queste persone (e queste aziende) un salvacondotto dalla Legge per le violazioni compiute tramite questi agenti cibernetici automatici. Loro li costruiscono e li eseguono, dunque loro ne devono rispondere. Giacomo

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Diego Giorio

Molto interessate e azzeccato questo esempio, credo che lo citerò quando mi troverò a parlare di queste cose. Vorrei aggiungere un altro esempio concreto: l'altro giorno mia moglie è tornata dalla Finlandia con alcuni integratori: il contenuto e lo scopo erano reperibili su schede online in inglese, la posologia era disponibile solo in finlandese. Poco male: ho fotografato l'etichetta e me la sono fatta tradurre da Google. Naturalmente la traduzione non era perfetta, ma assolutamente comprensibile e di alto livello, e per arrivare a questi risultati si è inevitabilmente passati dalle prime traduzioni degli anni '90, che chi ha qualche capello bianco certamente ricorda con un sorriso. Certo Google non ha avuto nessuna consapevolezza di ciò che ha "letto" e risposto, ma ha raggiunto lo scopo. Anche se molti - anche in questa lista - non credono che potrà esserci un salto significativo nella qualità delle risposte delle AI, penso che solo pochi anni fa sarebbe stato impossibile che un computer generasse dei testi coerenti e gramaticalmente strutturati, anche in forme complesse, al di là della qualità e veridicità del contenuto. Qualità che peraltro a volte è elevata, a volte totalmente incosistente, ma sono convinto che negli anni mmigliorerà inevitabilmente, come sono migliorate le traduzioni (so che, dal punto di visto tecnico, si tratta di due tecnologie diverse, ma sto parlando di risultati). In questo momento, quindi, non ritengo tanto un problema che le risposte siano sbagliate, quanto il fatto che molti le prendano per buone in modo acritico. Le immagini del Papa con il piumino o di Trump arrestato erano state dichiarate false apertamente dallo stesso autore, ma sono ugualmente rimbalzate in tutto il mondo senza alcun filtro. Se Crozza o qualche altro comico imita un personaggio, nessuno pensa che sia un servizio di cronaca del TG, da prendere sul serio. Fino a quando le risposte dell'AI verranno prese con lo stesso spirito, fin quando verranno usate per quello che valgono, si potrà utilizzare serenamente l'AI, sfruttandola per quello che può dare di buono e migliorandola nel tempo. Se invece un'AI apparentemente buona contribuirà concretamente allo sviluppo dell'idiozia umana, allora meglio fermarsi subito. D. ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Guido Vetere <vetere.guido(a)gmail.com> Sent: Tuesday, April 4, 2023 10:16 AM To: Alberto Cammozzo <ac+nexa(a)zeromx.net> Cc: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] ChatGPT disabled for users in Italy Cari Giacomo e Alberto, il vostro punto di vista è molto interessante e vi ringrazio per averlo esposto con tanta coraggiosa assertività. Lo condivido senz'altro per tutto ciò che riguarda la programmazione imperativa e quella basata sulla rappresentazione della conoscenza e il ragionamento automatico. Se però consideriamo gli sviluppi dell'IA degli ultimi anni, e in particolare i LLM, le cose sono a mio avviso più complesse. Non mi inoltro in argomentazioni metafisiche per non tediare chi legge e perché non ho molto tempo. Propongo invece un piccolo sketch, forse ingenuo, che però può far riflettere. Sono al ristorante con un amico, il menù comprende sei piatti. Io li valuto e scelgo quello che preferisco. Il mio amico estrae dalla tasca un dado, lo lancia e sceglie il piatto che corrisponde al numero che esce. Domanda: io e il mio amico siamo nella stessa relazione causale rispetto a ciò che mangerà? Secondo me no, ma se ne può parlare. Buona giornata. G. On Tue, 4 Apr 2023 at 11:46, Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>> wrote: Intervengo a conferma di quanto dice Giacomo sulla presunzione di neutralità degli artefatti tecnologici. Ho chiesto a phind.com<http://phind.com> cosa è successo in piazza Tien An Men. Mi ha risposto citando i massacri e esponendo i diversi punti di vista, incluso quello del governo cinese. Allora ho chiesto: Is this the same answer you give to users in China? Answer: As an AI language model, I do not have the ability to determine the location of the user or the restrictions on information in their country. However, my answer is based on factual information and sources that are publicly available. The information I provided is objective and does not contain any political bias. Con buona pace di decenni di dibattiti sulla politicità (intrinseca o meno) degli artefatti tecnologici, sulla loro agency, sulla normatività del codice... La pretesa di neutralità è ingannevole: ogni artefatto, specie questi così complessi, incorporano normatività. I tecnologi che continuano a credere di costruire artefatti neutri e consegnarli nelle mani di persone che ne saranno responsabili negano (forse in primo luogo a se stessi) l'evidenza che gli artefatti incorporano l'intenzionalità e la normatività di chi li inventa e di chi paga chi li inventa. Alberto On 04/04/23 10:56, Giacomo Tesio wrote: Ciao Guido, trovo veramente affascinante (quanto inquietante) questo passaggio della tua email: On Tue, 4 Apr 2023 06:52:24 +0200 Guido Vetere wrote: Tutto questo è corretto, tranne il riferimento alle "stronzate" (*bullshit*) di Frankfurt: queste infatti sono affermazioni capziose pronunciate con intento manipolatorio, insomma dietro una "stronzata" c'è sempre uno "stronzo", cioè un soggetto dotato di intenzionalità, cosa di cui ChatGPT dichiara onestamente di essere privo. Come diversi informatici in lista ti possono confermare, lo "stronzo" dietro un software è sempre chi lo programma e ne controlla l'esecuzione. Un software infatti applica all'ambiente SEMPRE e ANZITUTTO la volontà di chi l'ha programmato (e nel caso di un SaaS, eseguito), riproducendola ed imponendola a tutti coloro che sono parte, volenti o nolenti, della organizzazione cibernetica in cui tale software opera. Nel caso di ChatGPT, lo "stronzo" (nel senso di Frankfurt) è Open AI. Nel caso di GitHub Copilot, lo "stronzo" è GitHub. Entrambi si leggono "Microsoft". Nel caso di Google Assistant, lo "stronzo" è Google/Alphabet. Nel caso dei risultati di ricerca o delle news "personalizzate" fornite dai servizi di Google, lo "stronzo" è Google/Alphabet. Nel caso della timeline Instagram o Facebook, lo "stronzo" è Facebook. Nel caso della timeline TikTok, lo "stronzo" è TikTok. Nel caso dell'amica virtuale "Replika", lo "stronzo" è Luka, Inc. Nel caso dell'osservatorio di Monitora PA, lo "stronzo" sono io. (e con me i molti che contribuiscono al suo sviluppo...) Il punto è: che si tratti di bug (come può essere un falso positivo prodotto dall'osservatorio di Monitora PA) o di scelte progettuali c'è sempre almeno un essere umano di cui il software riproduce pedissequamente la volontà. Questa volontà può essere impressa nel software in modo relativamente trasparente tramite la programmazione linguistica (ad esempio in Python o in C) oppure essere impressa nel software in modo opaco, attraverso la selezione dei dati da utilizzare per la programmazione statistica e la progettazione della topologia della vector reducing machine che verrà programmata statisticamente. Ora, tutti gli "stronzi" qui presenti che abbiano mai realizzato un software in prima persona, potranno confermarti di esistere. Alcuni saranno ben lieti di non dover rispondere delle proprie creazioni, mentre altri si sentiranno oltraggiati dall'idea che qualcuno possa ignorare la propria esistenza come autori di quelle creazioni. Ma tutti saranno consapevoli di aver LAVORATO per realizzare la sequenza di bit che le macchine elaborano automaticamente per produrre gli effetti che loro desiderano. Il contributo dell'utente alla produzione dell'output di un software è completamente determinato dal programmatore e può variare moltissimo a seconda del software. Nel caso di ChatGPT, è oggettivamente trascurabile. Per questa ragione, la responsabilità dell'output NON PUO' essere scaricata sull'utente con un banale disclaimer! Quando leggo che "ChatGPT dichiara ONESTAMENTE di essere privo" di intenzionalità mi chiedo sinceramente se ci sia una qualche forza all'opera dietro questa allucinazione collettiva, dietro questa cancellazione delle persone che realizzano la macchina dalla tua coscienza, a cui gli sviluppatori siano talmente immuni da non percepirla. No: chi ha scritto quel disclaimer NON è onesto. E non è stato Chat GPT a scrivere quel disclaimer. Noti come Open AI sta manipolando la tua percezione della realtà? Forse il semplice fatto di essere capaci a programmare statisticamente un software (e magari averlo programmato), rende naturalmente immuni a questa allucinazione. Eppure si deve trattare di un'allucinazione molto forte se, come osservo qui, persone intelligenti ed in buona fede continuano a sostenerla NONOSTANTE altre persone, autorevoli, intelligenti ed altrettanto in buona fede, ma con una maggiore consapevolezza tecnica della questione, continuano a ripetere che il software è sempre realizzato da esseri umani e ne riproduce valori e interessi. Ti prego di riflettere sulla questione: io esisto, Open AI esiste, Microsoft esiste, Google esiste etc... cosa ti costringe a cancellare la nostra esistenza dalla tua coscienza quando guardi un artefatto che realizza pedissequamente la nostra volontà? Certo, una volta realizzato, un software diventa un agente cibernetico automatico, che "si muove da sé". Ma non è mai autonomo. Anche quando varia il proprio stato interno in funzione dell'input, tale variazione è sempre meccanicamente determinata dalla sua programmazione (per quanto complessa e opaca sia essa sia). Anche quando tale stato interno viene utilizzato insieme ad ogni nuovo input per calcolare nuovi output e nuove variazioni dello stato interno, ogni output e ogni variazione dello stato interno è meccanicamente determinato da chi ha programmato il software. Dunque l'agente cibernetico automatico non è MAI autonomo. On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: La difficoltà qui risiede nel fatto di aver a che fare con oggetti privi di intenzionalità che tuttavia producono locuzioni a cui, antropologicamente, attribuiamo in effetti intenzionalità. Se gli sviluppatori o gli esercenti di questi oggetti dovessero rispondere di questa intenzionalità fittizia, farebbero bene a dedicarsi ad altro. In assenza di tale autonomia, l'assenza di intenzionalità è irrilevante: il software riproduce le intenzioni di chi l'ha realizzato e ha deciso come deve essere usato. On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: Ma se passasse questa linea dovremmo spegnere tutti i generatori basati (solo) su LLM: anche se addestrati sui dati più puri del mondo, la probabilità che generino 'utterances' censurabili non sarebbe mai nulla. Beh non è detto: è sufficiente che ciascuno usi i LLM che realizza. In tal modo, l'intenzionalità (e la responsabilità legale) è tutta perfettamente determinata. Giacomo _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Guido Vetere

Cari Giacomo e Alberto, il vostro punto di vista è molto interessante e vi ringrazio per averlo esposto con tanta coraggiosa assertività. Lo condivido senz'altro per tutto ciò che riguarda la programmazione imperativa e quella basata sulla rappresentazione della conoscenza e il ragionamento automatico. Se però consideriamo gli sviluppi dell'IA degli ultimi anni, e in particolare i LLM, le cose sono a mio avviso più complesse. Non mi inoltro in argomentazioni metafisiche per non tediare chi legge e perché non ho molto tempo. Propongo invece un piccolo sketch, forse ingenuo, che però può far riflettere. Sono al ristorante con un amico, il menù comprende sei piatti. Io li valuto e scelgo quello che preferisco. Il mio amico estrae dalla tasca un dado, lo lancia e sceglie il piatto che corrisponde al numero che esce. Domanda: io e il mio amico siamo nella stessa relazione causale rispetto a ciò che mangerà? Secondo me no, ma se ne può parlare. Buona giornata. G. On Tue, 4 Apr 2023 at 11:46, Alberto Cammozzo via nexa < nexa(a)server-nexa.polito.it> wrote: > Intervengo a conferma di quanto dice Giacomo sulla *presunzione di > neutralità* degli artefatti tecnologici. > > Ho chiesto a phind.com cosa è successo in piazza Tien An Men. > > Mi ha risposto citando i massacri e esponendo i diversi punti di vista, > incluso quello del governo cinese. > > Allora ho chiesto: > > Is this the same answer you give to users in China? > Answer: > > As an AI language model, I do not have the ability to determine the > location of the user or the restrictions on information in their country. > However, my answer is based on factual information and sources that are > publicly available. The information I provided is objective and does not > contain any political bias. > > Con buona pace di decenni di dibattiti sulla politicità (intrinseca o > meno) degli artefatti tecnologici, sulla loro agency, sulla normatività del > codice... > > La pretesa di neutralità è ingannevole: ogni artefatto, specie questi così > complessi, incorporano normatività. > > I tecnologi che continuano a credere di costruire artefatti neutri e > consegnarli nelle mani di persone che ne saranno responsabili negano (forse > in primo luogo a se stessi) l'evidenza che gli artefatti incorporano > l'intenzionalità e la normatività di chi li inventa e di chi paga chi li > inventa. > > > Alberto > > > > > On 04/04/23 10:56, Giacomo Tesio wrote: > > Ciao Guido, > > trovo veramente affascinante (quanto inquietante) questo passaggio > della tua email: > > On Tue, 4 Apr 2023 06:52:24 +0200 Guido Vetere wrote: > > > Tutto questo è corretto, tranne il riferimento alle "stronzate" > (*bullshit*) di Frankfurt: queste infatti sono affermazioni capziose > pronunciate con intento manipolatorio, insomma dietro una "stronzata" > c'è sempre uno "stronzo", cioè un soggetto dotato di intenzionalità, > cosa di cui ChatGPT dichiara onestamente di essere privo. > > Come diversi informatici in lista ti possono confermare, lo "stronzo" > dietro un software è sempre chi lo programma e ne controlla > l'esecuzione. > > Un software infatti applica all'ambiente SEMPRE e ANZITUTTO la volontà > di chi l'ha programmato (e nel caso di un SaaS, eseguito), > riproducendola ed imponendola a tutti coloro che sono parte, volenti o > nolenti, della organizzazione cibernetica in cui tale software opera. > > Nel caso di ChatGPT, lo "stronzo" (nel senso di Frankfurt) è Open AI. > Nel caso di GitHub Copilot, lo "stronzo" è GitHub. > Entrambi si leggono "Microsoft". > > Nel caso di Google Assistant, lo "stronzo" è Google/Alphabet. > Nel caso dei risultati di ricerca o delle news "personalizzate" fornite > dai servizi di Google, lo "stronzo" è Google/Alphabet. > > Nel caso della timeline Instagram o Facebook, lo "stronzo" è Facebook. > > Nel caso della timeline TikTok, lo "stronzo" è TikTok. > > Nel caso dell'amica virtuale "Replika", lo "stronzo" è Luka, Inc. > > Nel caso dell'osservatorio di Monitora PA, lo "stronzo" sono io. > (e con me i molti che contribuiscono al suo sviluppo...) > > > Il punto è: che si tratti di bug (come può essere un falso positivo > prodotto dall'osservatorio di Monitora PA) o di scelte progettuali > c'è sempre almeno un essere umano di cui il software riproduce > pedissequamente la volontà. > > > Questa volontà può essere impressa nel software in modo relativamente > trasparente tramite la programmazione linguistica (ad esempio in Python > o in C) oppure essere impressa nel software in modo opaco, attraverso > la selezione dei dati da utilizzare per la programmazione statistica > e la progettazione della topologia della vector reducing machine che > verrà programmata statisticamente. > > > Ora, tutti gli "stronzi" qui presenti che abbiano mai realizzato un > software in prima persona, potranno confermarti di esistere. > > > Alcuni saranno ben lieti di non dover rispondere delle proprie > creazioni, mentre altri si sentiranno oltraggiati dall'idea che > qualcuno possa ignorare la propria esistenza come autori di quelle > creazioni. > > > Ma tutti saranno consapevoli di aver LAVORATO per realizzare la > sequenza di bit che le macchine elaborano automaticamente per produrre > gli effetti che loro desiderano. > > > Il contributo dell'utente alla produzione dell'output di un software > è completamente determinato dal programmatore e può variare moltissimo > a seconda del software. > Nel caso di ChatGPT, è oggettivamente trascurabile. > > Per questa ragione, la responsabilità dell'output NON PUO' essere > scaricata sull'utente con un banale disclaimer! > > > > Quando leggo che "ChatGPT dichiara ONESTAMENTE di essere privo" di > intenzionalità mi chiedo sinceramente se ci sia una qualche forza > all'opera dietro questa allucinazione collettiva, dietro questa > cancellazione delle persone che realizzano la macchina dalla > tua coscienza, a cui gli sviluppatori siano talmente immuni > da non percepirla. > > No: chi ha scritto quel disclaimer NON è onesto. > E non è stato Chat GPT a scrivere quel disclaimer. > > Noti come Open AI sta manipolando la tua percezione della realtà? > > > Forse il semplice fatto di essere capaci a programmare > statisticamente un software (e magari averlo programmato), > rende naturalmente immuni a questa allucinazione. > > > Eppure si deve trattare di un'allucinazione molto forte se, come > osservo qui, persone intelligenti ed in buona fede continuano a > sostenerla NONOSTANTE altre persone, autorevoli, intelligenti ed > altrettanto in buona fede, ma con una maggiore consapevolezza tecnica > della questione, continuano a ripetere che il software è sempre > realizzato da esseri umani e ne riproduce valori e interessi. > > > Ti prego di riflettere sulla questione: io esisto, Open AI esiste, > Microsoft esiste, Google esiste etc... cosa ti costringe a cancellare > la nostra esistenza dalla tua coscienza quando guardi un artefatto che > realizza pedissequamente la nostra volontà? > > > Certo, una volta realizzato, un software diventa un agente cibernetico > automatico, che "si muove da sé". Ma non è mai autonomo. > > Anche quando varia il proprio stato interno in funzione dell'input, > tale variazione è sempre meccanicamente determinata dalla sua > programmazione (per quanto complessa e opaca sia essa sia). > > Anche quando tale stato interno viene utilizzato insieme ad ogni > nuovo input per calcolare nuovi output e nuove variazioni dello stato > interno, ogni output e ogni variazione dello stato interno è > meccanicamente determinato da chi ha programmato il software. > > > Dunque l'agente cibernetico automatico non è MAI autonomo. > > > On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: > > > La difficoltà qui risiede nel fatto di aver a che fare con oggetti > privi di intenzionalità che tuttavia producono locuzioni a cui, > antropologicamente, attribuiamo in effetti intenzionalità. Se gli > sviluppatori o gli esercenti di questi oggetti dovessero rispondere > di questa intenzionalità fittizia, farebbero bene a dedicarsi ad > altro. > > In assenza di tale autonomia, l'assenza di intenzionalità è > irrilevante: il software riproduce le intenzioni di chi l'ha > realizzato e ha deciso come deve essere usato. > > > On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: > > > Ma se passasse questa linea dovremmo spegnere tutti i generatori > basati (solo) su LLM: anche se addestrati sui dati più puri del > mondo, la probabilità che generino 'utterances' censurabili non > sarebbe mai nulla. > > Beh non è detto: è sufficiente che ciascuno usi i LLM che realizza. > > In tal modo, l'intenzionalità (e la responsabilità legale) è tutta > perfettamente determinata. > > > Giacomo > _______________________________________________ > nexa mailing listnexa@server-nexa.polito.ithttps://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

April 4, 2023

Re: [nexa] ChatGPT disabled for users in Italy

by Alberto Cammozzo

Intervengo a conferma di quanto dice Giacomo sulla /presunzione di neutralità/ degli artefatti tecnologici. Ho chiesto a phind.com cosa è successo in piazza Tien An Men. Mi ha risposto citando i massacri e esponendo i diversi punti di vista, incluso quello del governo cinese. Allora ho chiesto: Is this the same answer you give to users in China? Answer: As an AI language model, I do not have the ability to determine the location of the user or the restrictions on information in their country. However, my answer is based on factual information and sources that are publicly available. The information I provided is objective and does not contain any political bias. Con buona pace di decenni di dibattiti sulla politicità (intrinseca o meno) degli artefatti tecnologici, sulla loro agency, sulla normatività del codice... La pretesa di neutralità è ingannevole: ogni artefatto, specie questi così complessi, incorporano normatività. I tecnologi che continuano a credere di costruire artefatti neutri e consegnarli nelle mani di persone che ne saranno responsabili negano (forse in primo luogo a se stessi) l'evidenza che gli artefatti incorporano l'intenzionalità e la normatività di chi li inventa e di chi paga chi li inventa. Alberto On 04/04/23 10:56, Giacomo Tesio wrote: > Ciao Guido, > > trovo veramente affascinante (quanto inquietante) questo passaggio > della tua email: > > On Tue, 4 Apr 2023 06:52:24 +0200 Guido Vetere wrote: > >> Tutto questo è corretto, tranne il riferimento alle "stronzate" >> (*bullshit*) di Frankfurt: queste infatti sono affermazioni capziose >> pronunciate con intento manipolatorio, insomma dietro una "stronzata" >> c'è sempre uno "stronzo", cioè un soggetto dotato di intenzionalità, >> cosa di cui ChatGPT dichiara onestamente di essere privo. > Come diversi informatici in lista ti possono confermare, lo "stronzo" > dietro un software è sempre chi lo programma e ne controlla > l'esecuzione. > > Un software infatti applica all'ambiente SEMPRE e ANZITUTTO la volontà > di chi l'ha programmato (e nel caso di un SaaS, eseguito), > riproducendola ed imponendola a tutti coloro che sono parte, volenti o > nolenti, della organizzazione cibernetica in cui tale software opera. > > Nel caso di ChatGPT, lo "stronzo" (nel senso di Frankfurt) è Open AI. > Nel caso di GitHub Copilot, lo "stronzo" è GitHub. > Entrambi si leggono "Microsoft". > > Nel caso di Google Assistant, lo "stronzo" è Google/Alphabet. > Nel caso dei risultati di ricerca o delle news "personalizzate" fornite > dai servizi di Google, lo "stronzo" è Google/Alphabet. > > Nel caso della timeline Instagram o Facebook, lo "stronzo" è Facebook. > > Nel caso della timeline TikTok, lo "stronzo" è TikTok. > > Nel caso dell'amica virtuale "Replika", lo "stronzo" è Luka, Inc. > > Nel caso dell'osservatorio di Monitora PA, lo "stronzo" sono io. > (e con me i molti che contribuiscono al suo sviluppo...) > > > Il punto è: che si tratti di bug (come può essere un falso positivo > prodotto dall'osservatorio di Monitora PA) o di scelte progettuali > c'è sempre almeno un essere umano di cui il software riproduce > pedissequamente la volontà. > > > Questa volontà può essere impressa nel software in modo relativamente > trasparente tramite la programmazione linguistica (ad esempio in Python > o in C) oppure essere impressa nel software in modo opaco, attraverso > la selezione dei dati da utilizzare per la programmazione statistica > e la progettazione della topologia della vector reducing machine che > verrà programmata statisticamente. > > > Ora, tutti gli "stronzi" qui presenti che abbiano mai realizzato un > software in prima persona, potranno confermarti di esistere. > > > Alcuni saranno ben lieti di non dover rispondere delle proprie > creazioni, mentre altri si sentiranno oltraggiati dall'idea che > qualcuno possa ignorare la propria esistenza come autori di quelle > creazioni. > > > Ma tutti saranno consapevoli di aver LAVORATO per realizzare la > sequenza di bit che le macchine elaborano automaticamente per produrre > gli effetti che loro desiderano. > > > Il contributo dell'utente alla produzione dell'output di un software > è completamente determinato dal programmatore e può variare moltissimo > a seconda del software. > Nel caso di ChatGPT, è oggettivamente trascurabile. > > Per questa ragione, la responsabilità dell'output NON PUO' essere > scaricata sull'utente con un banale disclaimer! > > > > Quando leggo che "ChatGPT dichiara ONESTAMENTE di essere privo" di > intenzionalità mi chiedo sinceramente se ci sia una qualche forza > all'opera dietro questa allucinazione collettiva, dietro questa > cancellazione delle persone che realizzano la macchina dalla > tua coscienza, a cui gli sviluppatori siano talmente immuni > da non percepirla. > > No: chi ha scritto quel disclaimer NON è onesto. > E non è stato Chat GPT a scrivere quel disclaimer. > > Noti come Open AI sta manipolando la tua percezione della realtà? > > > Forse il semplice fatto di essere capaci a programmare > statisticamente un software (e magari averlo programmato), > rende naturalmente immuni a questa allucinazione. > > > Eppure si deve trattare di un'allucinazione molto forte se, come > osservo qui, persone intelligenti ed in buona fede continuano a > sostenerla NONOSTANTE altre persone, autorevoli, intelligenti ed > altrettanto in buona fede, ma con una maggiore consapevolezza tecnica > della questione, continuano a ripetere che il software è sempre > realizzato da esseri umani e ne riproduce valori e interessi. > > > Ti prego di riflettere sulla questione: io esisto, Open AI esiste, > Microsoft esiste, Google esiste etc... cosa ti costringe a cancellare > la nostra esistenza dalla tua coscienza quando guardi un artefatto che > realizza pedissequamente la nostra volontà? > > > Certo, una volta realizzato, un software diventa un agente cibernetico > automatico, che "si muove da sé". Ma non è mai autonomo. > > Anche quando varia il proprio stato interno in funzione dell'input, > tale variazione è sempre meccanicamente determinata dalla sua > programmazione (per quanto complessa e opaca sia essa sia). > > Anche quando tale stato interno viene utilizzato insieme ad ogni > nuovo input per calcolare nuovi output e nuove variazioni dello stato > interno, ogni output e ogni variazione dello stato interno è > meccanicamente determinato da chi ha programmato il software. > > > Dunque l'agente cibernetico automatico non è MAI autonomo. > > > On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: > >> La difficoltà qui risiede nel fatto di aver a che fare con oggetti >> privi di intenzionalità che tuttavia producono locuzioni a cui, >> antropologicamente, attribuiamo in effetti intenzionalità. Se gli >> sviluppatori o gli esercenti di questi oggetti dovessero rispondere >> di questa intenzionalità fittizia, farebbero bene a dedicarsi ad >> altro. > In assenza di tale autonomia, l'assenza di intenzionalità è > irrilevante: il software riproduce le intenzioni di chi l'ha > realizzato e ha deciso come deve essere usato. > > > On Mon, 3 Apr 2023 20:18:55 +0200 Guido Vetere wrote: > >> Ma se passasse questa linea dovremmo spegnere tutti i generatori >> basati (solo) su LLM: anche se addestrati sui dati più puri del >> mondo, la probabilità che generino 'utterances' censurabili non >> sarebbe mai nulla. > Beh non è detto: è sufficiente che ciascuno usi i LLM che realizza. > > In tal modo, l'intenzionalità (e la responsabilità legale) è tutta > perfettamente determinata. > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

April 4, 2023