Re: [nexa] ChatGPT disabled for users in Italy
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona? questo sistema è lì così com'è, Quanti sanno "com'è"? Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che già oggi funziona come il nostro cervello, indirizza la nostra mente, le nostre scelte, i nostri comportamenti. Cordialmente Duccio (Alessandro Marzocchi) Date: Sun, 16 Apr 2023 17:14:15 +0200
From: Guido Vetere <vetere.guido@gmail.com> To: Roberto Dolci <rob.dolci@aizoon.us> Cc: "delromano@gmail.com" <delromano@gmail.com>, Nexa <nexa@server-nexa.polito.it> Concordo. Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o ci piacerebbe che fosse (in sostanza: il front-end di una base di conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece su quello che è, su come usarlo e con quali cautele, sul non usarlo e perché, o sulla opportunità giuridica di impedire del tutto il suo uso. Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, che le autovetture fossero alimentate a biada, offuscando però il dibattito sulla necessità di installare semafori in città. Questo è il pericolo che vedo nella posizione del Garante italiano. E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza globale collassi in un solo sistema proprietario, e per di più *intrinsecamente* allucinato. Ma questo sistema è lì così com'è, e più che levare contro di esso grida manzoniane, dovremo pensare seriamente a come farci i conti. G.
Quanti sanno "com'è"?
sicuramente, una piccola frazione di quelli che presumono di saperlo :-) perché non diamo ascolto a chi su queste cose ha lavorato scientificamente a livello internazionale per una vita? sta qui in lista, si chiama @Giuseppe Attardi <giuseppe.attardi@unipi.it> G. On Sun, 16 Apr 2023 at 17:55, alessandro marzocchi <alemarzoc@gmail.com> wrote:
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona?
questo sistema è lì così com'è,
Quanti sanno "com'è"? Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che già oggi funziona come il nostro cervello, indirizza la nostra mente, le nostre scelte, i nostri comportamenti. Cordialmente Duccio (Alessandro Marzocchi)
Date: Sun, 16 Apr 2023 17:14:15 +0200
From: Guido Vetere <vetere.guido@gmail.com> To: Roberto Dolci <rob.dolci@aizoon.us> Cc: "delromano@gmail.com" <delromano@gmail.com>, Nexa <nexa@server-nexa.polito.it> Concordo. Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o ci piacerebbe che fosse (in sostanza: il front-end di una base di conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece su quello che è, su come usarlo e con quali cautele, sul non usarlo e perché, o sulla opportunità giuridica di impedire del tutto il suo uso. Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, che le autovetture fossero alimentate a biada, offuscando però il dibattito sulla necessità di installare semafori in città. Questo è il pericolo che vedo nella posizione del Garante italiano. E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza globale collassi in un solo sistema proprietario, e per di più *intrinsecamente* allucinato. Ma questo sistema è lì così com'è, e più che levare contro di esso grida manzoniane, dovremo pensare seriamente a come farci i conti. G.
L'attenzione non va data a me, è ovvio, ma a chi ha più futuro, i giovani, i bambini abbandonati all'autoapprendimento. Chi sa aiuti a capire, non me ma i più indifesi e con più futuro davanti. Forse cè già tutto, o molto, selezionatelo integratelo per i vostri nipotini ai primi passi, ai primissimi anni di scuola. Grazie e cordialità. Duccio (Alessandro Marzocchi) Il giorno dom 16 apr 2023 alle ore 18:32 Guido Vetere < vetere.guido@gmail.com> ha scritto:
Quanti sanno "com'è"?
sicuramente, una piccola frazione di quelli che presumono di saperlo :-)
perché non diamo ascolto a chi su queste cose ha lavorato scientificamente a livello internazionale per una vita?
sta qui in lista, si chiama @Giuseppe Attardi <giuseppe.attardi@unipi.it>
G.
On Sun, 16 Apr 2023 at 17:55, alessandro marzocchi <alemarzoc@gmail.com> wrote:
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona?
questo sistema è lì così com'è,
Quanti sanno "com'è"? Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che già oggi funziona come il nostro cervello, indirizza la nostra mente, le nostre scelte, i nostri comportamenti. Cordialmente Duccio (Alessandro Marzocchi)
Date: Sun, 16 Apr 2023 17:14:15 +0200
From: Guido Vetere <vetere.guido@gmail.com> To: Roberto Dolci <rob.dolci@aizoon.us> Cc: "delromano@gmail.com" <delromano@gmail.com>, Nexa <nexa@server-nexa.polito.it> Concordo. Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o ci piacerebbe che fosse (in sostanza: il front-end di una base di conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece su quello che è, su come usarlo e con quali cautele, sul non usarlo e perché, o sulla opportunità giuridica di impedire del tutto il suo uso. Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, che le autovetture fossero alimentate a biada, offuscando però il dibattito sulla necessità di installare semafori in città. Questo è il pericolo che vedo nella posizione del Garante italiano. E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza globale collassi in un solo sistema proprietario, e per di più *intrinsecamente* allucinato. Ma questo sistema è lì così com'è, e più che levare contro di esso grida manzoniane, dovremo pensare seriamente a come farci i conti. G.
The biggest lie tech people tell themselves — and the rest of us They see facial recognition, smart diapers, and surveillance devices as inevitable evolutions. They’re not ... Evolution is a terrible metaphor for technology Technologists’ desire to make a parallel to evolution is flawed at its very foundation. Evolution is driven by random mutation — mistakes, not plans. (And while some inventions may indeed be the result of mishaps, the decision of a company to patent, produce, and market those inventions is not.) Evolution doesn’t have meetings about the market, the environment, the customer base. Evolution doesn’t patent things or do focus groups. Evolution doesn’t spend millions of dollars lobbying Congress to ensure that its plans go unfettered.<https://www.forbes.com/sites/ajdellinger/2019/04/30/how-the-biggest-tech-com...> In some situations, even if we can’t literally put a technological genie back in a bottle, we can artificially intervene to make sure the genie plays by specific rules. Evolution is driven by mistakes, not plans There are clear laws about what companies can and can’t do in the realm of biological weapons. The FDA ensures drugs are tested for efficacy and safety before they can be sold. The USDA ensures new food research is done with care. We don’t let anybody frack or drill for oil or build nuclear power plants wherever they like. We don’t let just anybody make and sell cars or airplanes or guns. So the assertion that technology companies can’t possibly be shaped or restrained with the public’s interest in mind is to argue that they are fundamentally different from any other industry. They’re not. ... https://www.vox.com/the-highlight/2019/10/1/20887003/tech-technology-evoluti...
On 16/04/23 19:03, Daniela Tafani wrote:
The biggest lie tech people tell themselves — and the rest of us
They see facial recognition, smart diapers, and surveillance devices as inevitable evolutions. They’re not
Infatti disponiamo del precedente, di cui parla Lucio Russo in "La rivoluzione dimenticata", di una civiltà - quella ellenistica - che disponeva delle conoscenze scientifiche per fare una rivoluzione industriale del tipo di quella del XVIII secolo e non l'ha fatta. Un paio di citazioni dal X capitolo: "L’uso della tecnologia scientifica nella produzione non coincide necessariamente con l’innesco del processo nel quale siamo attualmente immersi. Chiarendo bene questa distinzione, credo che si debba riconoscere che la tecnologia scientifica ebbe nell’antichità rilevanti applicazioni ai processi produttivi. Il fatto che il ruolo economico del Museo non fosse simile a quello della Royal Society, come ha sottolineato Finley, non implica che sia stato irrilevante. L’innesco del processo esponenziale di sviluppo che è in genere chiamato rivoluzione industriale dipese da una complessa serie di fattori (economici, sociali, politici, culturali, demografici...) che non abbiamo ancora capito a fondo. Ha più senso cercare di capire cosa è avvenuto nell’Europa del XVIII secolo che non chiedersi perché lo stesso fenomeno non sia avvenuto duemila anni prima. Lo sviluppo scientifico ellenistico fu interrotto violentemente dalla conquista romana. Volendo speculare su cosa sarebbe potuto accadere in mancanza di tale arresto, nulla ci autorizza a pensare che gli sviluppi tecnologici ed economici sarebbero stati gli stessi sperimentati dall’Europa duemila anni dopo. Sappiamo però che nel decollo scientifico-industriale dell’epoca moderna un ruolo importante fu svolto dal recupero di una parte delle antiche conoscenze scientifiche e tecnologiche. " "I Romani erano disinteressati alla scienza, ma non rifiutavano certo i benefici della ricchezza e della tecnologia: pensavano però che fosse compito degli individui inferiori procurarli e quello dell’aristocrazia goderli. Il sistema romano era basato sullo sfruttamento di province in cui sopravviveva una tradizione culturale scientifica e tecnologica; così si risolse bene il problema di acquisire e controllare tecnici competenti, ma non quello di formarli. Al crollo del sistema politico di Roma si accompagnò il crollo culturale, economico e tecnologico dell’Occidente. Nell’VIII secolo il più grande matematico dell’Occidente è considerato Beda il Venerabile, che nel suo lavoro più impegnativo descrive un metodo per rappresentare i numeri con gesti delle mani. Molti sapevano farlo fino a dieci, ma Beda, usando una specie di alfabeto per sordomuti, riesce ad arrivare un po’ più in là." Se ci lasciamo vivere in un mondo di scatole nere, in cui ci facciamo fare le cose senza curarci di sapere come e perché si fanno, un esito simile è difficilmente evitabile. E buonanotte, MCP
Il giorno dom 16 apr 2023 alle ore 21:44 Maria Chiara Pievatolo < mariachiara.pievatolo@unipi.it> ha scritto:
On 16/04/23 19:03, Daniela Tafani wrote:
The biggest lie tech people tell themselves — and the rest of us
They see facial recognition, smart diapers, and surveillance devices as inevitable evolutions. They’re not
Infatti disponiamo del precedente, di cui parla Lucio Russo in "La rivoluzione dimenticata", di una civiltà - quella ellenistica - che disponeva delle conoscenze scientifiche per fare una rivoluzione industriale del tipo di quella del XVIII secolo e non l'ha fatta. Un paio di citazioni dal X capitolo:
(...OMISSIS...)
"I Romani erano disinteressati alla scienza, ma non rifiutavano certo i benefici della ricchezza e della tecnologia: pensavano però che fosse compito degli individui inferiori procurarli e quello dell’aristocrazia goderli. ...OMISSIS...."
E' ancora cosi'. Le famiglie benestanti orientano (con metodi anche poco liberali) i loro figli in primo luogo all'iscrizione al liceo classico e solo in secondo ordine al liceo scientifico. Mai negli istituti tecnici/professionali. Paolo.
Scusa Guido, premesso che ammiro e rispetto Beppe Attardi che è certamente estremamente competente in termini di IA, se con "dare ascolto" intendi "credere", beh, temo che questo atteggiamento ci riporti all'ipse dixit. La discussione su fatti scientifici non può mai procedere per "fede". Ad esempio, in questo recente scambio avvenuto in lista Il 12/04/2023 14:15, Giuseppe Attardi ha scritto:
On 11 Apr 2023, at 20:34, Antonio Casilli<antonio.casilli@telecom-paris.fr> wrote:
PS. I LLM sono tutt’altro che Stochastic Parrots: ripetere a pappagallo i testi da cui sono stati allenati è proprio ciò che non sanno fare. Beppe, "stochastic parrot" non è questo. Timnit Gebru et al. ne parlano nel senso di un dispositivo che "haphazardly stitch[es] together sequences of linguistic forms (...), according to probabilistic information about how they combine, but without any reference to meaning". L'accento è sullo "stochastic". Ma non è questo quello che fanno i LLM della serie GPT: non attaccano affatto insieme “sequenze di forme linguistiche”. Questo riprodurrebbe appunto pezzi di frasi a pappagallo. Invece il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza.
ritengo che Beppe abbia male interpretato quanto Antonio ha scritto, nonostante Beppe sia certamente profondo conoscitore dell'IA mentre Antonio ha professionalmente un'altra preparazione. Antonio infatti dice "dispositivo che attacca insieme sequenze di forme linguistiche in base ad informazioni probabilistiche su come si combinano", cui Beppe ribatte che "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza". Io ritengo che Antonio abbia detto esattamente quello che dice Beppe, visto che "forme linguistiche di base" è un'espressione che comprende anche "la prossima parola". Aggiungo, sempre facendo riferimento a quello scambio, che forse non c'è bisogno di citare Giorgio Parisi, anche lui eminentissimo scienziato premiato col Nobel, per ricordare che comportamenti complessi emergono da leggi semplici. Non serve neanche che siano probabilistiche, come evidenziò tra i primi Henri Poincaré nell'Ottocento. Anche con equazioni deterministiche emerge quel caos al cui confine con l'ordine c'è la complessità del "significato", la complessità della vita biologica e della nostra esistenza. Insomma, se il dibattito deve essere di livello scientifico elevato, più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti e consistenti nella lettura degli altri e nell'esposizione delle nostre riflessioni. Ciao, Enrico -- Il 16/04/2023 18:32, Guido Vetere ha scritto:
Quanti sanno "com'è"?
sicuramente, una piccola frazione di quelli che presumono di saperlo :-)
perché non diamo ascolto a chi su queste cose ha lavorato scientificamente a livello internazionale per una vita?
sta qui in lista, si chiama @Giuseppe Attardi <mailto:giuseppe.attardi@unipi.it>
G.
On Sun, 16 Apr 2023 at 17:55, alessandro marzocchi <alemarzoc@gmail.com> wrote:
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona?
questo sistema è lì così com'è,
Quanti sanno "com'è"? Qui origina "il disagio di collasso" perchè non è un'auto ma un "coso" che già oggi funziona come il nostro cervello, indirizza la nostra mente, le nostre scelte, i nostri comportamenti. Cordialmente Duccio (Alessandro Marzocchi)
Date: Sun, 16 Apr 2023 17:14:15 +0200
From: Guido Vetere <vetere.guido@gmail.com> To: Roberto Dolci <rob.dolci@aizoon.us> Cc: "delromano@gmail.com" <delromano@gmail.com>, Nexa <nexa@server-nexa.polito.it> Concordo. Bisognerebbe smetterla di ragionare su quello che ChatGPT dovrebbe essere o ci piacerebbe che fosse (in sostanza: il front-end di una base di conoscenza editabile, come d'altronde ce ne sono tanti) e ragionare invece su quello che è, su come usarlo e con quali cautele, sul non usarlo e perché, o sulla opportunità giuridica di impedire del tutto il suo uso. Insomma, nel '900 qualcuno avrebbe potuto chiedere, o addirittura esigere, che le autovetture fossero alimentate a biada, offuscando però il dibattito sulla necessità di installare semafori in città. Questo è il pericolo che vedo nella posizione del Garante italiano. E' ovvio che siamo tutti a disagio davanti al fatto che la conoscenza globale collassi in un solo sistema proprietario, e per di più *intrinsecamente* allucinato. Ma questo sistema è lì così com'è, e più che levare contro di esso grida manzoniane, dovremo pensare seriamente a come farci i conti. G.
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa --
-- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --
Buongiorno, Enrico Nardelli <nardelli@mat.uniroma2.it> writes:
premesso che ammiro e rispetto Beppe Attardi che è certamente estremamente competente in termini di IA, se con "dare ascolto" intendi "credere", beh
[...]
Insomma, se il dibattito deve essere di livello scientifico elevato,
mi permetto di far notare che il dibattito in (nel/di) merito a quanto /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo thread si è entrati /anche/ nel merito tecnico
più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti e consistenti nella lettura degli altri e nell'esposizione delle nostre riflessioni.
e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno /tentare/ di farlo se si vuole davvero confrontarsi ...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere e starmene zitto, ma siccome credo che confrontarsi su queste cose sia il modo migliore di esercitare la propria "cittadinanza digitale", mi ostino :-) [...] saluti, 380° [1] voi non avete idea di quanto mi senta **stupido** a illudermi che possa essere davvero così, visto che siamo nell'era in cui la scienza stabilisce cos'è giusto o cos'è sbagliato in /tutto/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
Caro Enrico, non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra che su questi LLM ci sia qualche problema di 'literacy', visto che alcuni insistono nel pensarli come database un po' strani. Si potrebbe allora chiedere a una persona competente di spiegarli per bene, e secondo me Beppe è il più titolato tra noi. Nel merito dello scambio che riporti, forse si tratta solo di 'nuances', ma fa bene Beppe a sgombrare il campo dall'immagine del 'pappagallo' che ricombina frammenti di frasi udite. No: GPT inventa di sana pianta. Dove può aver sentito ad esempio che io avrei scritto il romanzo "Il collezionista di venti" (2017), che non si trova neanche su Amazon? G. On Mon, 17 Apr 2023 at 01:11, 380° <g380@biscuolo.net> wrote:
Buongiorno,
Enrico Nardelli <nardelli@mat.uniroma2.it> writes:
premesso che ammiro e rispetto Beppe Attardi che è certamente estremamente competente in termini di IA, se con "dare ascolto" intendi "credere", beh
[...]
Insomma, se il dibattito deve essere di livello scientifico elevato,
mi permetto di far notare che il dibattito in (nel/di) merito a quanto /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo thread si è entrati /anche/ nel merito tecnico
più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti e consistenti nella lettura degli altri e nell'esposizione delle nostre riflessioni.
e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno /tentare/ di farlo se si vuole davvero confrontarsi
...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere e starmene zitto, ma siccome credo che confrontarsi su queste cose sia il modo migliore di esercitare la propria "cittadinanza digitale", mi ostino :-)
[...]
saluti, 380°
[1] voi non avete idea di quanto mi senta **stupido** a illudermi che possa essere davvero così, visto che siamo nell'era in cui la scienza stabilisce cos'è giusto o cos'è sbagliato in /tutto/
-- 380° (Giovanni Biscuolo public alter ego)
«Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché»
Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>. _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Buongiorno. Io credo ci sia un legittimo e genuino disaccordo, non il mero scarto tra alfabetizzati e analfabeti. E, come ha già osservato Enrico qualche tempo fa, credo sia un disaccordo non nuovo, che riprende, nella sua versione stocastica, la questione della stanza cinese di Searle. "Pappagalli" è infatti utilizzato da Emily Bender per dare l'idea della mancanza di accesso, e quindi di riferimenti, al significato. Alcuni di coloro che ritengono impropria la qualifica di pappagalli sottoscrivono una delle obiezioni a Searle. Spesso, mi pare, quella del "sistema". Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Guido Vetere <vetere.guido@gmail.com> Inviato: lunedì 17 aprile 2023 09:20 A: Nexa; Enrico Nardelli Oggetto: Re: [nexa] ChatGPT disabled for users in Italy Caro Enrico, non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra che su questi LLM ci sia qualche problema di 'literacy', visto che alcuni insistono nel pensarli come database un po' strani. Si potrebbe allora chiedere a una persona competente di spiegarli per bene, e secondo me Beppe è il più titolato tra noi. Nel merito dello scambio che riporti, forse si tratta solo di 'nuances', ma fa bene Beppe a sgombrare il campo dall'immagine del 'pappagallo' che ricombina frammenti di frasi udite. No: GPT inventa di sana pianta. Dove può aver sentito ad esempio che io avrei scritto il romanzo "Il collezionista di venti" (2017), che non si trova neanche su Amazon? G. On Mon, 17 Apr 2023 at 01:11, 380° <g380@biscuolo.net<mailto:g380@biscuolo.net>> wrote: Buongiorno, Enrico Nardelli <nardelli@mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it>> writes:
premesso che ammiro e rispetto Beppe Attardi che è certamente estremamente competente in termini di IA, se con "dare ascolto" intendi "credere", beh
[...]
Insomma, se il dibattito deve essere di livello scientifico elevato,
mi permetto di far notare che il dibattito in (nel/di) merito a quanto /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo thread si è entrati /anche/ nel merito tecnico
più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti e consistenti nella lettura degli altri e nell'esposizione delle nostre riflessioni.
e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno /tentare/ di farlo se si vuole davvero confrontarsi ...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere e starmene zitto, ma siccome credo che confrontarsi su queste cose sia il modo migliore di esercitare la propria "cittadinanza digitale", mi ostino :-) [...] saluti, 380° [1] voi non avete idea di quanto mi senta **stupido** a illudermi che possa essere davvero così, visto che siamo nell'era in cui la scienza stabilisce cos'è giusto o cos'è sbagliato in /tutto/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170720450634179&URLID=5&ESV=10.0.19.7431&IV=AB3AEB3BDDEA5E8B4B5122C4F4EFA36F&TT=1681716046279&ESN=OOjKuRau1HmZzs3Wzysf9FJ0ad8tE97jZh%2BeULFTbN0%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9zdGFsbG1hbnN1cHBvcnQub3Jn&HK=55DF1B470300908138853E836D586FC4CFF1A747BC99DE48416B939C58EAF448>>. _______________________________________________ nexa mailing list nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170720450634179&URLID=2&ESV=10.0.19.7431&IV=4288A6129F48E5720E8E7DABD0735A98&TT=1681716046279&ESN=mmBGThpUAUrS4tkD1jUls0niqnzwuhysgsWSFf9bxnE%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9zZXJ2ZXItbmV4YS5wb2xpdG8uaXQvY2dpLWJpbi9tYWlsbWFuL2xpc3RpbmZvL25leGE&HK=0B705EA051B186F5CDC2F3D881E008B6924425624E8842A9440CCFE7499A78BB>
Caro Guido a me pare che la maggior parte di chi è intervenuto in questo dibattito ha un'idea abbastanza precisa di cosa sono in grado di esibire sistemi tipo ChatGPT & Co. : competenze che appaiono sovrapponibili in alcuni casi (p.es.: superamento di test) a quelle degli esseri umani, e al tempo stesso tendenza a inventare, "allucinare". E ritengo che sia anche abbastanza chiaro a tutti che questo viene raggiunto attraverso meccanismi probabilistici messi a punto mediante analisi statistiche estremamente sofisticate condotte su quantità enormi di dati (e su quantità ignote di lavoro umano sotto pagato) Quello che varia, ma è "il dettaglio che fa la differenza", sono, almeno, i seguenti tre elementi: 1. se le competenze siano o no segno di comprensione (nel senso che noi umani diamo a questa parola) del dominio in cui tale competenza viene esibita (punto che avevo sollevato tempo addietro richiamando l'esperimento mentale della "stanza cinese" di Searle) 2. se le allucinazioni (che sono un costo, un aspetto negativo) siano tutto sommato trascurabili, in termini di impatto sociale, rispetto ai benefici 3. se sia corretto consentire l'accesso al pubblico di tali sistemi, che al momento attuale appaiono contravvenire (non solo in Italia) a norme di legge, mentre vengono messi a punto alcuni correttivi Per me le risposte sono tre NO. Mentre i punti 2. e 3. sono sostanzialmente di natura sociale, quindi politica (che visione della società abbiamo? quanta tutela e quanta competizione?) il punto 1. è di natura più tecnica e penso sia quello più "appassionante" per informatici e filosofi in lista... d'altro canto ne stiamo discutendo da una cinquantina d'anni - decennio più o decenniomeno... :-) Sul fatto che sia opportuno continuare a fare ricerca in quest'ambito mi pare ci sia un sostanziale convergenza. Così come sul fatto che sia necessario avere maggiore trasparenza sui meccanismi dello sviluppo e addestramento di questi sistemi. Ciao, Enrico Il 17/04/2023 09:20, Guido Vetere ha scritto:
Caro Enrico, non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra che su questi LLM ci sia qualche problema di 'literacy', visto che alcuni insistono nel pensarli come database un po' strani. Si potrebbe allora chiedere a una persona competente di spiegarli per bene, e secondo me Beppe è il più titolato tra noi. Nel merito dello scambio che riporti, forse si tratta solo di 'nuances', ma fa bene Beppe a sgombrare il campo dall'immagine del 'pappagallo' che ricombina frammenti di frasi udite. No: GPT inventa di sana pianta. Dove può aver sentito ad esempio che io avrei scritto il romanzo "Il collezionista di venti" (2017), che non si trova neanche su Amazon?
G.
On Mon, 17 Apr 2023 at 01:11, 380° <g380@biscuolo.net> wrote:
Buongiorno,
Enrico Nardelli <nardelli@mat.uniroma2.it> writes:
> premesso che ammiro e rispetto Beppe Attardi che è certamente > estremamente competente in termini di IA, se con "dare ascolto" > intendi "credere", beh
[...]
> Insomma, se il dibattito deve essere di livello scientifico elevato,
mi permetto di far notare che il dibattito in (nel/di) merito a quanto /in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo _tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo thread si è entrati /anche/ nel merito tecnico
> più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti > e consistenti nella lettura degli altri e nell'esposizione delle > nostre riflessioni.
e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno /tentare/ di farlo se si vuole davvero confrontarsi
...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere e starmene zitto, ma siccome credo che confrontarsi su queste cose sia il modo migliore di esercitare la propria "cittadinanza digitale", mi ostino :-)
[...]
saluti, 380°
[1] voi non avete idea di quanto mi senta **stupido** a illudermi che possa essere davvero così, visto che siamo nell'era in cui la scienza stabilisce cos'è giusto o cos'è sbagliato in /tutto/
-- 380° (Giovanni Biscuolo public alter ego)
«Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché»
Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>. _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli@mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona?
E allora proviamoci a capirlo assieme. Partiamo dalla definizione data da Beppe Attardi: "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza" Accediamo ad uno dei tanti servizi online che mostrano in pratica il meccanismo, ad esempio questo: https://huggingface.co/m-polignano-uniba/bert_uncased_L-12_H-768_A-12_italia... Nella casella sotto "Mask token" scriviamo: "Parigi è la [MASK] della Francia". Il risultato sarà: Capitale 0.658 citta 0.132 patria 0.020 culla 0.020 migliore 0.012 Più quel numeretto si avvicina ad uno (e più distanza ci sarà con il secondo), più sarà /probabile/. Proviamo con: "Torino è il capoluogo del [MASK]" Il risultato sarà: tutto 0.229 mondo 0.206 italia 0.163 piemonte 0.125 nord 0.043 Che significa? Che tra i dati di addestramento non ci sono sufficienti informazioni che collegano univocamente, o quasi, Torino -> capoluogo -> Piemonte. Un'eventuale /chat/ basata su "alb3rt0" anziché su "gpt" avrebbe quindi risposto: "Torino è il capoluogo di tutto" Antonio
Un buon punto di partenza, per una spiegazione semplice e sintetica (già segnalata su questa lista, se non ricordo male) mi sembra What Kind of Mind Does ChatGPT Have? https://www.newyorker.com/science/annals-of-artificial-intelligence/what-kin... ________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it> per conto di Antonio <antonio@piumarossa.it> Inviato: lunedì 17 aprile 2023 10:48 A: nexa@server-nexa.polito.it Oggetto: Re: [nexa] ChatGPT disabled for users in Italy
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona?
E allora proviamoci a capirlo assieme. Partiamo dalla definizione data da Beppe Attardi: "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza" Accediamo ad uno dei tanti servizi online che mostrano in pratica il meccanismo, ad esempio questo: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170848130738819... Nella casella sotto "Mask token" scriviamo: "Parigi è la [MASK] della Francia". Il risultato sarà: Capitale 0.658 citta 0.132 patria 0.020 culla 0.020 migliore 0.012 Più quel numeretto si avvicina ad uno (e più distanza ci sarà con il secondo), più sarà /probabile/. Proviamo con: "Torino è il capoluogo del [MASK]" Il risultato sarà: tutto 0.229 mondo 0.206 italia 0.163 piemonte 0.125 nord 0.043 Che significa? Che tra i dati di addestramento non ci sono sufficienti informazioni che collegano univocamente, o quasi, Torino -> capoluogo -> Piemonte. Un'eventuale /chat/ basata su "alb3rt0" anziché su "gpt" avrebbe quindi risposto: "Torino è il capoluogo di tutto" Antonio _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170848130738819...
Cara Daniela, possiamo essere in disaccordo sull'interpretazione dei fenomeni che emergono da questi sistemi, ma dovremmo concordare sulla natura di tali fenomeni Io ad esempio sono in disaccordo con Beppe sul fatto che ciò che emerge sia paragonabile alla significazione dei linguaggi naturali (se è ho compreso la sua posizione), ma riconosco come accurata la sua descrizione dei meccanismi interni al sistema Comunque, sarebbe interessante discutere del fatto che la teoria del significato sia sempre stato un bel rebus, e che l'anti-referenzialismo delle nuove macchine abbia tanti illustri predecessori umani in linguistica e filosofia G. On Mon, 17 Apr 2023 at 11:04, Daniela Tafani <daniela.tafani@unipi.it> wrote:
Un buon punto di partenza, per una spiegazione semplice e sintetica (già segnalata su questa lista, se non ricordo male)
mi sembra
*What Kind of Mind Does ChatGPT Have?*
https://www.newyorker.com/science/annals-of-artificial-intelligence/what-kin...
------------------------------ *Da:* nexa <nexa-bounces@server-nexa.polito.it> per conto di Antonio < antonio@piumarossa.it> *Inviato:* lunedì 17 aprile 2023 10:48 *A:* nexa@server-nexa.polito.it *Oggetto:* Re: [nexa] ChatGPT disabled for users in Italy
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona?
E allora proviamoci a capirlo assieme. Partiamo dalla definizione data da Beppe Attardi: "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza" Accediamo ad uno dei tanti servizi online che mostrano in pratica il meccanismo, ad esempio questo:
https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170848130738819... Nella casella sotto "Mask token" scriviamo: "Parigi è la [MASK] della Francia". Il risultato sarà: Capitale 0.658 citta 0.132 patria 0.020 culla 0.020 migliore 0.012
Più quel numeretto si avvicina ad uno (e più distanza ci sarà con il secondo), più sarà /probabile/.
Proviamo con: "Torino è il capoluogo del [MASK]" Il risultato sarà: tutto 0.229 mondo 0.206 italia 0.163 piemonte 0.125 nord 0.043
Che significa? Che tra i dati di addestramento non ci sono sufficienti informazioni che collegano univocamente, o quasi, Torino -> capoluogo -> Piemonte. Un'eventuale /chat/ basata su "alb3rt0" anziché su "gpt" avrebbe quindi risposto: "Torino è il capoluogo di tutto"
Antonio _______________________________________________ nexa mailing list nexa@server-nexa.polito.it
https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170848130738819... _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
Caro Guido, temo che non sarà possibile discutere di che cosa emerga, in senso tecnico, data la assoluta mancanza di trasparenza. Come ha osservato Sasha Luccioni, per quanto ne sappiamo, dietro a GPT-4 potrebbero esserci anche tre procioni con l'impermeabile: https://arstechnica.com/gadgets/2023/04/generative-ai-is-cool-but-lets-not-f... Un saluto, Daniela ________________________________ Da: Guido Vetere <vetere.guido@gmail.com> Inviato: lunedì 17 aprile 2023 12:06 A: Daniela Tafani Cc: Antonio; nexa@server-nexa.polito.it Oggetto: Re: [nexa] ChatGPT disabled for users in Italy Cara Daniela, possiamo essere in disaccordo sull'interpretazione dei fenomeni che emergono da questi sistemi, ma dovremmo concordare sulla natura di tali fenomeni Io ad esempio sono in disaccordo con Beppe sul fatto che ciò che emerge sia paragonabile alla significazione dei linguaggi naturali (se è ho compreso la sua posizione), ma riconosco come accurata la sua descrizione dei meccanismi interni al sistema Comunque, sarebbe interessante discutere del fatto che la teoria del significato sia sempre stato un bel rebus, e che l'anti-referenzialismo delle nuove macchine abbia tanti illustri predecessori umani in linguistica e filosofia G. On Mon, 17 Apr 2023 at 11:04, Daniela Tafani <daniela.tafani@unipi.it<mailto:daniela.tafani@unipi.it>> wrote: Un buon punto di partenza, per una spiegazione semplice e sintetica (già segnalata su questa lista, se non ricordo male) mi sembra What Kind of Mind Does ChatGPT Have? https://www.newyorker.com/science/annals-of-artificial-intelligence/what-kind-of-mind-does-chatgpt-have<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304171007220639540&URLID=13&ESV=10.0.19.7431&IV=D8C90EC73B00DF0D9179BF40FFEDE023&TT=1681726043878&ESN=tM%2FYbagqQByafwa%2B28Bg8NZ4LacKmiGFz8h%2BucD2mdw%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly93d3cubmV3eW9ya2VyLmNvbS9zY2llbmNlL2FubmFscy1vZi1hcnRpZmljaWFsLWludGVsbGlnZW5jZS93aGF0LWtpbmQtb2YtbWluZC1kb2VzLWNoYXRncHQtaGF2ZQ&HK=37530E0DF8768A4C65306B0400112D3D6682757AA79B2086B646B8188B7EABE5> ________________________________ Da: nexa <nexa-bounces@server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di Antonio <antonio@piumarossa.it<mailto:antonio@piumarossa.it>> Inviato: lunedì 17 aprile 2023 10:48 A: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: Re: [nexa] ChatGPT disabled for users in Italy
Facile essere d'accordo ma ... come "fare i conti" con qualcosa che non capisco come funziona?
E allora proviamoci a capirlo assieme. Partiamo dalla definizione data da Beppe Attardi: "il loro meccanismo di base è quello del calcolo della distribuzione di probabilità della prossima parola a seguire in una sequenza" Accediamo ad uno dei tanti servizi online che mostrano in pratica il meccanismo, ad esempio questo: https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170848130738819... Nella casella sotto "Mask token" scriviamo: "Parigi è la [MASK] della Francia". Il risultato sarà: Capitale 0.658 citta 0.132 patria 0.020 culla 0.020 migliore 0.012 Più quel numeretto si avvicina ad uno (e più distanza ci sarà con il secondo), più sarà /probabile/. Proviamo con: "Torino è il capoluogo del [MASK]" Il risultato sarà: tutto 0.229 mondo 0.206 italia 0.163 piemonte 0.125 nord 0.043 Che significa? Che tra i dati di addestramento non ci sono sufficienti informazioni che collegano univocamente, o quasi, Torino -> capoluogo -> Piemonte. Un'eventuale /chat/ basata su "alb3rt0" anziché su "gpt" avrebbe quindi risposto: "Torino è il capoluogo di tutto" Antonio _______________________________________________ nexa mailing list nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304170848130738819... _______________________________________________ nexa mailing list nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304171007220639540&URLID=2&ESV=10.0.19.7431&IV=189D20053694A99E47C014249ACD1484&TT=1681726043878&ESN=lBwWhT4KYqZo2G5XV5P8CLtByWyVcog0Whjq6AKLpvU%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9zZXJ2ZXItbmV4YS5wb2xpdG8uaXQvY2dpLWJpbi9tYWlsbWFuL2xpc3RpbmZvL25leGE&HK=D239064BB3D0151993B5EC36DAEA9DB7262C4593E5F01D8F5C91966B1D15AA54>
participants (8)
-
380° -
alessandro marzocchi -
Antonio -
Daniela Tafani -
Enrico Nardelli -
Guido Vetere -
Maria Chiara Pievatolo -
Paolo Del Romano