January 2023 - nexa - server-nexa.polito.it

Re: [nexa] ChatGpt e la scuola

by Daniela Tafani

Hai ragione, Giacomo, la tua osservazione è ineccepibile. Temo però che "risposte scelte dai programmatori" sia fuorviante, per i non addetti ai lavori: fa pensare a un sottostante catalogo di domande e risposte. Non dà conto, cioè, del carattere probabilistico, che è invece fondamentale presentare chiaramente (se non vogliamo continuare a sentire repliche, che ho ricevuto anche da colleghi, quali: "Se ci sono errori, li correggeranno. Gli errori non sono certo una ragione per non utilizzare sistemi di IA per le decisioni giudiziarie, considerato che sbaglieranno di certo meno dei giudici umani, che ti condannano se sono affamati'") Il risultato dipende dai dati e dal processo di calibrazione statistica; il modello prodotto dal sistema è l'esito di una serie di aggiustamenti di pesi e parametri che dipendono da una serie di scelte (vuoi abbassare il tasso di falsi positivi, rispetto al target, accettando, con ciò, che diminuisca il tasso dei falsi positivi?). Ma è un esito non trasparente, su cui non si può intervenire correggendo gli errori come in un sistema simbolico. Ci riflettiamo e troviamo una nuova versione? ________________________________ Da: Giacomo Tesio <giacomo(a)tesio.it> Inviato: sabato 21 gennaio 2023 12:31 A: Daniela Tafani; maurizio lana Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] ChatGpt e la scuola Perdonami la noiosa pedanteria, Daniela ma anche parlare di risposte "corrette" non è... corretto. Propongo: ``` ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. ChatGPT non è programmato per produrre risposte corrette, ma sequenze di parole che siano statisticamente simili alle risposte scelte dai programmatori. ``` Qualcuno obietterà che i programnatori in questione (pomposamente definiti "data scientists" per promuovere un framework interpretativo deresponsabilizzante nei confronti delle aziende che li pagano) non "scelgono" i dati utilizzati durante la programmazione statistica ma al massimo li "selezionano" (da cui l'espressione "selection bias"). Balle. Non c'è nulla di neutrale o scientifico nella scelta dei dati su cui basare un processo di programmazione statistica. Persino la scelta di sbattersene e prendere qualsiasi testo disponibile, è una scelta politica. La scelta di imporre meccanicamente il mantenimento dello status quo. Anzi, si tratta di una scelta molto più politica rispetto alla selezione di un linguaggio di programmazione per un processo di programmazione intellettuale. I linguaggi di programmazione turing complete sono intercambiabili: è sempre possibile (ancorché costoso) riscrivere un software in un altro linguaggio. Lo stesso non si può mai affermare con i software programmati statisticamente. La scelta dei dati da utilizzare è la modalità di questa forma di programmazione. I dati sono infatti il codice sorgente dei software programmati statisticamente (impropriamente detti "modelli AI"). Tale software viene programmato (e spesso eseguito) tramite macchine virtuali a loro volta programmate in un linguaggio di programmazione (tipicamente R o Python) e dunque espresse in un diverso codice sorgente (questa volta intellegibile). Ma si tratta semplicemente di due codici sorgenti diversi che non vanno confusi: - quello della macchina virtuale programmabile statisticamente (scritto in Python o R o altro) ed eseguito su una architettura nota (x86_64, ARM, RISC, GPU etc...) - quello del software eseguibile da tale macchina virtuale, "scritto" tramite la scelta dei dataset di partenza e compilato attraverso il processo di programmazione statistica per l'architettura della macchina virtuale precedentemente programmata. Sempre programmazione è. Sempre opera dell'uomo che deve rispondere di ogni output prodotto. Giacomo Il 21 Gennaio 2023 10:38:44 CET, Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: Scusate, anche "risposte" non è corretto, rispetto a ChatGPT: ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. ChatGPT non è programmato per produrre risposte corrette, ma sequenze di parole che siano statisticamente simili alle risposte corrette. (le due righe sono citazioni a memoria da tweet di Emily Bender e Jon Ayre) ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Daniela Tafani <daniela.tafani(a)unipi.it> Inviato: sabato 21 gennaio 2023 10:31 A: Giacomo Tesio; maurizio lana Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] ChatGpt e la scuola Grazie a entrambi della definizione. La utilizzerò senz'altro, aggiungendo una riga o due che sono scontate solo per chi sappia di cosa si tratta (le persone sono abituate a considerare affidabile, ad esempio, un'operazione matematica svolta da una macchina, sebbene questa non ne conosca il significato, e un sistema probabilistico darà invece allegramente1 risultati corretti e scorretti inestricabilmente combinati): ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. ChatGPT non è programmato per produrre risposte corrette, ma risposte che siano statisticamente simili alle risposte corrette. L'automazione del lavoro ha luogo comunque, semplicemente perché costa meno, e dunque genera maggior profitto, non perché funzioni; perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e abbiamo già psicoterapeuti chatbot, a pagamento), a meno che non intervenga il diritto (e qui si spiega l'utilità di una cattura culturale, con le narrazioni magiche, per tenere alla larga la regolazione giuridica): <https://t.co/ESv9Z1IgKm<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121093109092287…>> Buon fine settimana, Daniela 1 "Una locomotiva condurrà il treno attraverso un ponte levatoio aperto tanto allegramente quanto verso qualsiasi altra destinazione." (William James) ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> Inviato: sabato 21 gennaio 2023 01:44 A: maurizio lana Cc: nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] ChatGpt e la scuola On Sat, 21 Jan 2023 01:34:31 +0100 Giacomo Tesio wrote: > > chatGPT produce testo 'finito' combinando chunks testuali del cui > > significato non sa nulla, in modo statisticamente coerente con l'uso > > di questi chunks nei testi da cui ha appreso. > > Credo che non avrei saputo dirlo meglio. Mi correggo: posso. ``` chatGPT produce testo 'finito' combinando chunks testuali del cui significato non sa nulla, in modo statisticamente coerente con l'uso di questi chunks nei testi con cui è stato programmato. ``` I software NON apprendono. La programmazione statistica NON è apprendimento. L'apprendimento è una esperienza umana. Non va proiettata sulle macchine, pena l'alienazione cibernetica, la riduzione ad ingranaggi nelle mani di chi controlla quelle macchine. L'informazione è un esperienza soggettiva di pensiero comunicabile, per cui il linguaggio utilizzato determina lo spazio delle interpretazioni possibili della realtà per ciascuna mente umana. Per questo le parole sono importanti... Giacomo _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739…

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola

by Daniela Tafani

Caro Alessandro, grazie dell'osservazione, che coglie un aspetto importante: i testi prodotti da ChatGPT hanno il significato che attribuiscono loro gli esseri umani che li leggono, come ha appena ricordato Enrico Nardelli. Il valore informativo di questi testi, invece, è nullo, perché si trovano mescolate inestricabilmente, nel medesimo testo, stringhe di testo o di codice valutate dagli esseri umani come corrette e stringhe che che gli esseri umani, unanimemente e a buon diritto, considerano sbagliate (sorvolando qui sulle questioni opinabili). Gary Marcus ha riciclato una metafora disgustosa, ma abbastanza efficace: i testi prodotti da ChatGPT sono come una raffinata pietanza (aspetto da non sottovalutare) in cui ogni volta sia stata mescolata una palla più o meno piccola di escrementi. A differenza di quanto accadrebbe col cibo, tuttavia, nei testi prodotti da ChatGPT possiamo separare le parti corrette da quelle sbagliate, ma solo nei casi in cui possediamo già, indipendentemente da ChatGPT, tutte le informazioni necessarie: solo per fare un paio di esempi tra i tanti, in alcune prove dei miei studenti, alla richiesta di scrivere una breve biografia di Pelé, è stato prodotto un testo plausibile, salvo che lo dava per morto nel 2020; alla richiesta di scrivere qualche riga sulla figura di don Rodrigo, è stato prodotto un testo corretto, salvo che per la frase "don Rodrigo è il padre di Lucia". Si tratta di una caratteristica ormai ampiamente documentata e del tutto coerente con la natura di questi sistemi, che ricuciono le stringhe di testo rilevate nei dati di partenza sulla base di informazioni probabilistiche su come si combinano. E, punto che sfugge a chi non conosca la natura di questi sistemi (me lo ha fatto notare qualche tempo fa Giuseppe Attardi e se ne occupa diffusamente Louise Amoore, Cloud Ethics, 2020), "don Rodrigo è il padre di Lucia" non è un errore: è anzi il momento in cui possiamo intravedere il modo in cui il sistema funziona. Dal punto di vista tecnico, la morte di Elaine Herzberg - uccisa da un veicolo "autonomo" - non è un errore: è, come è stato osservato da un CEO, l'aggiunta di un nuovo "data point" (lo racconta Jack Stilgoe in Who's driving innovation?, 2020). Il problema è che ormai si dà per buono un modo di produzione impregnato di determinismo e soluzionismo tecnologici, che risolve senza averla prima esaminata la questione sull'opportunità, l'utilità e i costi dello sviluppo di alcuni sistemi. Anzi, li rilascia anzitempo, per far compiere gratuitamente alla collettività tutto il lavoro di test. Non a caso, si parla di colonialismo digitale, per l'esproprio del nostro lavoro, oltre che di quello, di cui abbiamo parlato nei giorni scorsi, delle persone la cui salute mentale sarà distrutta dalla visione o lettura ininterrotta di video e testi su stupri, torture e violenze di ogni genere. Non si tratta solo della questione (fondamentale) della retribuzione o gratuità del lavoro o delle conseguenze di simili attività (agli ignari compratori della Tesla erano tacitamente affidati i test per lo sviluppo di un prodotto al momento inesistente - come riportano le recenti cronache giudiziarie - e ad alcuni di loro il test è costato la vita). Si tratta anche dell'agenda della ricerca, per usare un termine in voga: come osserva Timnit Gebru, le energie dei ricercatori sono tutte convogliate verso una truffa colossale - e con ciò distolte da un lavoro su ricerche diverse - sia che essi siano complici, sia che debbano lavorare per mostrare puntualmente, ogni volta esaminando un sistema nuovo ma con i medesimi effetti dei precedenti, le conseguenze indesiderate e i danni sociali. Di certo ho scritto troppo. Spero di aver almeno risposto alla domanda. Un saluto, Daniela ______________________________ Da: Alessandro Brolpito <abrolpito(a)gmail.com> Inviato: sabato 21 gennaio 2023 11:20 A: Daniela Tafani Cc: Giacomo Tesio; maurizio lana; nexa(a)server-nexa.polito.it Oggetto: Re: [nexa] ChatGpt e la scuola Grazie Daniela, Mi chiedo solo se il valore informativo non dipenda anche da chi legge e che sia difficile affermare questo in assoluto, domanda "vera" per capire meglio i limiti dell'AI... Alessandro On Sat, 21 Jan 2023 at 10:38, Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> wrote: Scusate, anche "risposte" non è corretto, rispetto a ChatGPT: ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. ChatGPT non è programmato per produrre risposte corrette, ma sequenze di parole che siano statisticamente simili alle risposte corrette. (le due righe sono citazioni a memoria da tweet di Emily Bender e Jon Ayre) ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> Inviato: sabato 21 gennaio 2023 10:31 A: Giacomo Tesio; maurizio lana Cc: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: Re: [nexa] ChatGpt e la scuola Grazie a entrambi della definizione. La utilizzerò senz'altro, aggiungendo una riga o due che sono scontate solo per chi sappia di cosa si tratta (le persone sono abituate a considerare affidabile, ad esempio, un'operazione matematica svolta da una macchina, sebbene questa non ne conosca il significato, e un sistema probabilistico darà invece allegramente1 risultati corretti e scorretti inestricabilmente combinati): ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. ChatGPT non è programmato per produrre risposte corrette, ma risposte che siano statisticamente simili alle risposte corrette. L'automazione del lavoro ha luogo comunque, semplicemente perché costa meno, e dunque genera maggior profitto, non perché funzioni; perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e abbiamo già psicoterapeuti chatbot, a pagamento), a meno che non intervenga il diritto (e qui si spiega l'utilità di una cattura culturale, con le narrazioni magiche, per tenere alla larga la regolazione giuridica): <https://t.co/ESv9Z1IgKm<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121093109092287…>> Buon fine settimana, Daniela 1 "Una locomotiva condurrà il treno attraverso un ponte levatoio aperto tanto allegramente quanto verso qualsiasi altra destinazione." (William James) ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di Giacomo Tesio <giacomo(a)tesio.it<mailto:giacomo@tesio.it>> Inviato: sabato 21 gennaio 2023 01:44 A: maurizio lana Cc: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: Re: [nexa] ChatGpt e la scuola On Sat, 21 Jan 2023 01:34:31 +0100 Giacomo Tesio wrote: > > chatGPT produce testo 'finito' combinando chunks testuali del cui > > significato non sa nulla, in modo statisticamente coerente con l'uso > > di questi chunks nei testi da cui ha appreso. > > Credo che non avrei saputo dirlo meglio. Mi correggo: posso. ``` chatGPT produce testo 'finito' combinando chunks testuali del cui significato non sa nulla, in modo statisticamente coerente con l'uso di questi chunks nei testi con cui è stato programmato. ``` I software NON apprendono. La programmazione statistica NON è apprendimento. L'apprendimento è una esperienza umana. Non va proiettata sulle macchine, pena l'alienazione cibernetica, la riduzione ad ingranaggi nelle mani di chi controlla quelle macchine. L'informazione è un esperienza soggettiva di pensiero comunicabile, per cui il linguaggio utilizzato determina lo spazio delle interpretazioni possibili della realtà per ciascuna mente umana. Per questo le parole sono importanti... Giacomo _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739… _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121102044016496…>

Jan. 21, 2023

Hyperconnected Culture And Its Discontents

by Federico Guerrini

Carissimi, volevo segnalarvi questo interessante pezzo su Noema. In sintesi, il tema è come la sovrabbondanza di contenuti, lungi dal "democratizzare" la scelta rendendo gli utenti parte attiva di un processo di curatela, si sia risolta di fatto più in un consumo passivoe in un "addestramento" dell'utente da parte degli algoritmi. "For most, the pleasures of digital cultural consumption are uncoupled from the exertions of curatorship. Today’s digital consumers are no longer being fed a limited diet of standardized cultural products, but they are still being fed. Consumption may be personalized, but it would be a stretch, in most cases, to call it self-directed — and it is not necessarily more active than pre-digital forms of “mass” cultural consumption. (...) Cultural populists, to be sure, tell a different story about the democratization of consumption. They are less concerned with self-directed, active consumption than emancipating people from elite cultural tutelage. If the TikTok algorithm delivers what people like and want, that makes it democratic in their eyes. (...) Moreover, as the critic Rob Horning has argued with respect to TikTok, algorithms do not simply discern what we want and serve it to us; they train us to want what they can serve us. Successful platforms do not just discover what consumers want — they produce the consumers and the forms of consumer desire that they need. " https://www.noemamag.com/hyperconnected-culture-and-its-discontents/ KR Fed. ---------- http://www.forbes.com/sites/federicoguerrini/ https://reutersinstitute.politics.ox.ac.uk/our-research/newsroom-curators-a… My latest book: Content Curation (Italian): http://www.amazon.it/Content-Curation-Federico-Guerrini/dp/8820366126

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola

by Alessandro Brolpito

>Tale software viene programmato (e spesso eseguito) tramite macchine virtuali a loro >volta programmate in un linguaggio di programmazione (tipicamente R o Python) >e dunque espresse in un diverso codice sorgente (questa volta intellegibile). E non solo... Intelligenza artificiale, sfruttamento autentico. Africani per addestrare ChatGpt, che ammette: "Bassi salari e condizioni inadeguate" - Il Fatto Quotidiano <https://www.ilfattoquotidiano.it/2023/01/20/intelligenza-artificiale-sfrutt…> Alessandro On Sat, 21 Jan 2023 at 12:31, Giacomo Tesio <giacomo(a)tesio.it> wrote: > Perdonami la noiosa pedanteria, Daniela ma anche parlare di risposte > "corrette" non è... corretto. > > Propongo: > ``` > ChatGPT produce testo 'finito' combinando stringhe di testo del > cui significato non sa nulla, > in modo statisticamente coerente con l'uso di queste stringhe nei testi > con cui è stato programmato. > > Il testo prodotto non ha perciò alcun valore informativo o intento > comunicativo. > > ChatGPT non è programmato per produrre risposte corrette, ma sequenze di > parole che siano statisticamente simili alle risposte scelte dai > programmatori. > ``` > > Qualcuno obietterà che i programnatori in questione (pomposamente definiti > "data scientists" per promuovere un framework interpretativo > deresponsabilizzante nei > confronti delle aziende che li pagano) non "scelgono" i dati utilizzati > durante la > programmazione statistica ma al massimo li "selezionano" (da cui > l'espressione "selection bias"). > > > Balle. > > Non c'è nulla di neutrale o scientifico nella scelta dei dati su cui > basare un processo di > programmazione statistica. > Persino la scelta di sbattersene e prendere qualsiasi testo disponibile, è > una scelta politica. > La scelta di imporre meccanicamente il mantenimento dello status quo. > > > Anzi, si tratta di una scelta molto più politica rispetto alla selezione > di un linguaggio > di programmazione per un processo di programmazione intellettuale. > > I linguaggi di programmazione turing complete sono intercambiabili: è > sempre possibile > (ancorché costoso) riscrivere un software in un altro linguaggio. > > Lo stesso non si può mai affermare con i software programmati > statisticamente. > > La scelta dei dati da utilizzare è la modalità di questa forma di > programmazione. > > I dati sono infatti il codice sorgente dei software programmati > statisticamente > (impropriamente detti "modelli AI"). > > Tale software viene programmato (e spesso eseguito) tramite macchine > virtuali a loro > volta programmate in un linguaggio di programmazione (tipicamente R o > Python) > e dunque espresse in un diverso codice sorgente (questa volta > intellegibile). > > Ma si tratta semplicemente di due codici sorgenti diversi che non vanno > confusi: > > - quello della macchina virtuale programmabile statisticamente (scritto in > Python o R o altro) > ed eseguito su una architettura nota (x86_64, ARM, RISC, GPU etc...) > > - quello del software eseguibile da tale macchina virtuale, "scritto" > tramite la scelta > dei dataset di partenza e compilato attraverso il processo di > programmazione statistica > per l'architettura della macchina virtuale precedentemente programmata. > > > Sempre programmazione è. > Sempre opera dell'uomo che deve rispondere di ogni output prodotto. > > > > Giacomo > > > > Il 21 Gennaio 2023 10:38:44 CET, Daniela Tafani <daniela.tafani(a)unipi.it> > ha scritto: >> >> Scusate, anche "risposte" non è corretto, rispetto a ChatGPT: >> >> >> ChatGPT produce testo 'finito' combinando stringhe di testo del cui >> significato non sa nulla, >> >> in modo statisticamente coerente con l'uso di queste stringhe nei testi >> con cui è stato programmato. >> >> Il testo prodotto non ha perciò alcun valore informativo o intento >> comunicativo. >> >> ChatGPT non è programmato per produrre risposte corrette, ma *sequenze >> di parole* che siano statisticamente simili alle risposte corrette. >> >> (le due righe sono citazioni a memoria da tweet di Emily Bender e Jon >> Ayre) >> >> >> >> ------------------------------ >> *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Daniela >> Tafani <daniela.tafani(a)unipi.it> >> *Inviato:* sabato 21 gennaio 2023 10:31 >> *A:* Giacomo Tesio; maurizio lana >> *Cc:* nexa(a)server-nexa.polito.it >> *Oggetto:* Re: [nexa] ChatGpt e la scuola >> >> >> Grazie a entrambi della definizione. >> >> La utilizzerò senz'altro, aggiungendo una riga o due che sono scontate >> solo per chi sappia di cosa si tratta >> (le persone sono abituate a considerare affidabile, ad esempio, >> un'operazione matematica svolta da una macchina, >> sebbene questa non ne conosca il significato, >> e un sistema probabilistico darà invece allegramente1 risultati corretti >> e scorretti inestricabilmente combinati): >> >> >> ChatGPT produce testo 'finito' combinando stringhe di testo del cui >> significato non sa nulla, >> >> in modo statisticamente coerente con l'uso di queste stringhe nei testi >> con cui è stato programmato. >> >> Il testo prodotto non ha perciò alcun valore informativo o intento >> comunicativo. >> >> ChatGPT non è programmato per produrre risposte corrette, ma risposte >> che siano statisticamente simili alle risposte corrette. >> >> >> L'automazione del lavoro ha luogo comunque, semplicemente perché costa >> meno, e dunque genera maggior profitto, non perché funzioni; >> perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e >> abbiamo già psicoterapeuti chatbot, a pagamento), >> a meno che non intervenga il diritto (e qui si spiega l'utilità di una >> cattura culturale, con le narrazioni magiche, per tenere alla larga la >> regolazione giuridica): >> >> <https://t.co/ESv9Z1IgKm >> <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121093109092287…> >> > >> >> Buon fine settimana, >> Daniela >> >> >> 1 "Una locomotiva condurrà il treno attraverso un ponte levatoio aperto >> tanto allegramente quanto verso qualsiasi altra destinazione." (William >> James) >> >> >> >> >> ------------------------------ >> *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo >> Tesio <giacomo(a)tesio.it> >> *Inviato:* sabato 21 gennaio 2023 01:44 >> *A:* maurizio lana >> *Cc:* nexa(a)server-nexa.polito.it >> *Oggetto:* Re: [nexa] ChatGpt e la scuola >> >> On Sat, 21 Jan 2023 01:34:31 +0100 Giacomo Tesio wrote: >> >> > > chatGPT produce testo 'finito' combinando chunks testuali del cui >> > > significato non sa nulla, in modo statisticamente coerente con l'uso >> > > di questi chunks nei testi da cui ha appreso. >> > >> > Credo che non avrei saputo dirlo meglio. >> >> Mi correggo: posso. >> >> ``` >> chatGPT produce testo 'finito' combinando chunks testuali del cui >> significato non sa nulla, in modo statisticamente coerente con l'uso >> di questi chunks nei testi con cui è stato programmato. >> ``` >> >> I software NON apprendono. >> >> La programmazione statistica NON è apprendimento. >> L'apprendimento è una esperienza umana. >> >> Non va proiettata sulle macchine, pena l'alienazione cibernetica, >> la riduzione ad ingranaggi nelle mani di chi controlla quelle macchine. >> >> >> L'informazione è un esperienza soggettiva di pensiero comunicabile, >> per cui il linguaggio utilizzato determina lo spazio delle >> interpretazioni possibili della realtà per ciascuna mente umana. >> >> Per questo le parole sono importanti... >> >> >> Giacomo >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> >> https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739… >> > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola (Maria Chiara Pievatolo)

by karlessi

> 2. Re: ChatGpt e la scuola (Maria Chiara Pievatolo) > > > ---------------------------------------------------------------------- > > On 21/01/23 01:34, Giacomo Tesio wrote: > >> >> E' questo il futuro che Google auspica con Classroom nelle scuole. >> Il futuro per cui lavora a tutti i livelli da anni. >> > > Mi pare infatti che meriti ripetere che usare ChatGPT a scuola significa > esporre docenti e studenti a una scatola nera occhiuta a proprietaria > che certo trae vantaggio dall'uso dei loro dati, ma che con la libertà > di un ambiente di apprendimento dovrebbe avere dalla manipolazione e > dalla sorveglianza non ha proprio nulla a che vedere. E sì, sono cose > che sa anche il gatto, ma dalla zelo con cui moltissimi fanno da cavie > e da propagandisti all'esperimento aziendale in corso, su un prodotto > finanziato da Microsoft, Peter Thiel, Elon Musk, sembra che le sappia > *soltanto* il gatto. > > L'ultimo numero di Guerre di Rete (https://guerredirete.substack.com/) > parla proprio dell'hype dell'AI e segnala fra l'altro (non so se sia già > passato qui): > > https://irisvanrooijcogsci.com/2023/01/14/stop-feeding-the-hype-and-start-r… > > Aggiungo, in italiano, un piccolo commento precedente di .mau. > https://xmau.com/wp/notiziole/2023/01/04/sfruttati-da-chatgpt/ > > Felinamente, > MCP > Grazie per la ripetizione. Mi pare che sia un aspetto estremamente sottovalutato. Aggiungo, al di là della sorveglianza e manipolazione, un elemento sistemico. Avvalersi di strumenti proprietari e gestiti da organizzazioni militaro-industriali globali (i datacenter dei GAFAM ecc. sono protetti da ritrovati e procedure di livello militare, giova ripetere) non è la stessa cosa rispetto ad avvalersi di sistemi F/LOSS gestiti da organizzazioni differentemente organizzate, con obiettivi politico-sociali diversi, scale diverse, ecc. La metafora del cibo mi sembra adeguata. La filiera alimentare è sotto pressione, non solo nella ricca Europa, per fornire alimenti bio-equo-sostenibili-vegan a km 0 ecc. - è auspicabile che accada qualcosa di analogo nel digitale. La varietà dei sistemi biotecnici è l'unica garanzia ragionevole di evoluzione biotecnica non autoritaria e non oppressiva, come accade in qualsiasi altro ambito (agricoltura, tecniche costruttive adatte a diversi ecosistemi, lingue, ecc.). Alleanze, collaborazioni e meticciati con gli esseri tecnici dovrebbero essere guidate da una visione politica esplicita, che può essere di qualsiasi orientamento, ma almeno che sia esplicita. Invece viene presentata come una novità neutra, l'avvento di ChatGpt per esempio, monopolizza la discussione in ambiti diversi (monopolio radicale, avrebbe detto Illich), e tende a polarizzare posizioni "reazionarie" di chi non vuole "innovazioni" tecniche e posizioni "progressiste" di chi abbraccia queste "innovazioni" come occasioni irrinunciabili. Posizioni diversamente deleterie. però non c'è bisogno di sperimentare su di sé l'eroina per conoscerne gli effetti. Un nuovo oppiaceo sintetico difficilmente si allontanerà molto dai propri antenati. Quindi, non mi pare sia il caso di aiutare qualche miliardario convinto di essere il salvatore del mondo nutrendo le "sue" creazioni tecniche e giocando al suo gioco. Il fatto è che non si può cambiare facilmente l'imprinting di un sistema tecnico. Da chi e come è stato concepito, costruito (da dove vengono le materie prime per farlo funzionare? Come è fatto il software? Quali convinzioni stanno dietro le sue norme funzionali? ecc.) sono elementi dell'imprinting tecnico che tende a determinarne l'evoluzione. Questa dovrebbe essere una consapevolezza di base. Se gli algoritmi di riconoscimento facciale generano output classificabili come "razzisti" o "sessisti", non sarà facendo de-biasing e nutrendoli con dati "migliori" (migliori per chi??? per una qualche elite auto-nominata come consapevole e migliore del resto degli umani?) che si risolverà la questione. il razzismo o il sessismo non sono bias: sono ideologie più o meno esplicite che, al limite, sfruttano bias cognitivi. Ma dal bias di gruppo al razzismo ce ne passano parecchie di iterazioni perverse. Inoltre i bias cognitivi sono stati evoluti come euristiche fondamentali e volerli eliminare sfiora il suprematismo. vabbè mi sono perso, scusate, grazie ancora per la ripetizione: le scatole nere create per sorveglianza+manipolazione+profitto NON sono un buon viatico per strutturare ambienti di apprendimento (se si vogliono liberi e consapevoli). Sono ottime per l'addestramento e l'omologazione, questo sì. A breve mi aspetto versioni un po' gamificate, della dopamina in aggiunta renderà la routine ancora più irrinunciabile. buona giornata k. -- "tecnologie appropriate - https://alekos.net" "pedagogia hacker - https://circex.org"

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola

by Giacomo Tesio

Perdonami la noiosa pedanteria, Daniela ma anche parlare di risposte "corrette" non è... corretto. Propongo: ``` ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. ChatGPT non è programmato per produrre risposte corrette, ma sequenze di parole che siano statisticamente simili alle risposte scelte dai programmatori. ``` Qualcuno obietterà che i programnatori in questione (pomposamente definiti "data scientists" per promuovere un framework interpretativo deresponsabilizzante nei confronti delle aziende che li pagano) non "scelgono" i dati utilizzati durante la programmazione statistica ma al massimo li "selezionano" (da cui l'espressione "selection bias"). Balle. Non c'è nulla di neutrale o scientifico nella scelta dei dati su cui basare un processo di programmazione statistica. Persino la scelta di sbattersene e prendere qualsiasi testo disponibile, è una scelta politica. La scelta di imporre meccanicamente il mantenimento dello status quo. Anzi, si tratta di una scelta molto più politica rispetto alla selezione di un linguaggio di programmazione per un processo di programmazione intellettuale. I linguaggi di programmazione turing complete sono intercambiabili: è sempre possibile (ancorché costoso) riscrivere un software in un altro linguaggio. Lo stesso non si può mai affermare con i software programmati statisticamente. La scelta dei dati da utilizzare è la modalità di questa forma di programmazione. I dati sono infatti il codice sorgente dei software programmati statisticamente (impropriamente detti "modelli AI"). Tale software viene programmato (e spesso eseguito) tramite macchine virtuali a loro volta programmate in un linguaggio di programmazione (tipicamente R o Python) e dunque espresse in un diverso codice sorgente (questa volta intellegibile). Ma si tratta semplicemente di due codici sorgenti diversi che non vanno confusi: - quello della macchina virtuale programmabile statisticamente (scritto in Python o R o altro) ed eseguito su una architettura nota (x86_64, ARM, RISC, GPU etc...) - quello del software eseguibile da tale macchina virtuale, "scritto" tramite la scelta dei dataset di partenza e compilato attraverso il processo di programmazione statistica per l'architettura della macchina virtuale precedentemente programmata. Sempre programmazione è. Sempre opera dell'uomo che deve rispondere di ogni output prodotto. Giacomo Il 21 Gennaio 2023 10:38:44 CET, Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: >Scusate, anche "risposte" non è corretto, rispetto a ChatGPT: > > >ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, > >in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. > >Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. > >ChatGPT non è programmato per produrre risposte corrette, ma sequenze di parole che siano statisticamente simili alle risposte corrette. > > >(le due righe sono citazioni a memoria da tweet di Emily Bender e Jon Ayre) > > >________________________________ >Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Daniela Tafani <daniela.tafani(a)unipi.it> >Inviato: sabato 21 gennaio 2023 10:31 >A: Giacomo Tesio; maurizio lana >Cc: nexa(a)server-nexa.polito.it >Oggetto: Re: [nexa] ChatGpt e la scuola > > >Grazie a entrambi della definizione. > >La utilizzerò senz'altro, aggiungendo una riga o due che sono scontate solo per chi sappia di cosa si tratta >(le persone sono abituate a considerare affidabile, ad esempio, un'operazione matematica svolta da una macchina, >sebbene questa non ne conosca il significato, >e un sistema probabilistico darà invece allegramente1 risultati corretti e scorretti inestricabilmente combinati): > > >ChatGPT produce testo 'finito' combinando stringhe di testo del cui significato non sa nulla, > >in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. > >Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. > >ChatGPT non è programmato per produrre risposte corrette, ma risposte che siano statisticamente simili alle risposte corrette. > > >L'automazione del lavoro ha luogo comunque, semplicemente perché costa meno, e dunque genera maggior profitto, non perché funzioni; >perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e abbiamo già psicoterapeuti chatbot, a pagamento), >a meno che non intervenga il diritto (e qui si spiega l'utilità di una cattura culturale, con le narrazioni magiche, per tenere alla larga la regolazione giuridica): > ><https://t.co/ESv9Z1IgKm<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121093109092287…>> > >Buon fine settimana, >Daniela > > >1 "Una locomotiva condurrà il treno attraverso un ponte levatoio aperto >tanto allegramente quanto verso qualsiasi altra destinazione." (William James) > > > > >________________________________ >Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> >Inviato: sabato 21 gennaio 2023 01:44 >A: maurizio lana >Cc: nexa(a)server-nexa.polito.it >Oggetto: Re: [nexa] ChatGpt e la scuola > >On Sat, 21 Jan 2023 01:34:31 +0100 Giacomo Tesio wrote: > >> > chatGPT produce testo 'finito' combinando chunks testuali del cui >> > significato non sa nulla, in modo statisticamente coerente con l'uso >> > di questi chunks nei testi da cui ha appreso. >> >> Credo che non avrei saputo dirlo meglio. > >Mi correggo: posso. > >``` >chatGPT produce testo 'finito' combinando chunks testuali del cui >significato non sa nulla, in modo statisticamente coerente con l'uso >di questi chunks nei testi con cui è stato programmato. >``` > >I software NON apprendono. > >La programmazione statistica NON è apprendimento. >L'apprendimento è una esperienza umana. > >Non va proiettata sulle macchine, pena l'alienazione cibernetica, >la riduzione ad ingranaggi nelle mani di chi controlla quelle macchine. > > >L'informazione è un esperienza soggettiva di pensiero comunicabile, >per cui il linguaggio utilizzato determina lo spazio delle >interpretazioni possibili della realtà per ciascuna mente umana. > >Per questo le parole sono importanti... > > >Giacomo >_______________________________________________ >nexa mailing list >nexa(a)server-nexa.polito.it >https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739…

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola

by Enrico Nardelli

Il significato di ogni sequenza di segni (e quindi l'informazione che essi portano) è sempre il risultato di una convenzione sociale, e questa è possibile solo in una comunità di persone. Però, dal momento che gli esseri umani, per loro natura biologica, sono INTRINSECAMENTE delle "meaning seeking creatures" (secondo la definizione di Irvin Yalom https://www.goodreads.com/quotes/8768078-we-humans-appear-to-be-meaning-see… ), essi cadono invariabilmente nella trappola di vedere un significato là dove non ce n'è alcuno. Questo è ciò che stiamo vedendo con ChatGPT. È una macchina, nient'altro che una macchina, ma le persone tendono a rivestirla di valore umano. Su questo inganno smisurati interessi commerciali e di potere fanno il resto (come diversi hanno già ricordato). La rivoluzione industriale ci ha portato l'automazione del lavoro fisico. La rivoluzione informatica ci ha portato l'automazione del lavoro cognitivo (https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html) Non se ne esce se non iniziamo ad insegnare informatica a scuola dalla prima elementare (come scrive Giacomo Tesio). Non riusciremo a tenere la situazione sotto controllo se non la regolamentiamo col diritto (come scrive Daniela Tafani). Ciao, Enrico Il 21/01/2023 10:31, Daniela Tafani ha scritto: > > Grazie a entrambi della definizione. > > La utilizzerò senz'altro, aggiungendo una riga o due che sono scontate solo per chi sappia di cosa si tratta > (le persone sono abituate a considerare affidabile, ad esempio, un'operazione matematica svolta da una macchina, > sebbene questa non ne conosca il significato, > e un sistema probabilistico darà invece allegramente^1 risultati corretti e scorretti inestricabilmente combinati): > > > ChatGPT produce testo 'finito' combinando stringhe di testo del cuisignificato non sa nulla, > > in modo statisticamente coerente con l'uso di queste stringhe nei testi con cui è stato programmato. > > Il testo prodotto non ha perciò alcun valore informativo o intento comunicativo. > > ChatGPT non è programmato per produrre risposte corrette, ma risposte che siano statisticamente simili alle risposte corrette. > > > L'automazione del lavoro ha luogo comunque, semplicemente perché costa meno, e dunque genera maggior profitto, non perché funzioni; > perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e abbiamo già psicoterapeuti chatbot, a pagamento), > a meno che non intervenga il diritto (e qui si spiega l'utilità di una cattura culturale, con le narrazioni magiche, per tenere alla larga la regolazione giuridica): > > <https://t.co/ESv9Z1IgKm <https://t.co/ESv9Z1IgKm>> > > Buon fine settimana, > Daniela > > > ^1 "Una locomotiva condurrà il treno attraverso un ponte levatoio aperto > tanto allegramente quanto verso qualsiasi altra destinazione." (William James) > > > > > ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------ > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo Tesio <giacomo(a)tesio.it> > *Inviato:* sabato 21 gennaio 2023 01:44 > *A:* maurizio lana > *Cc:* nexa(a)server-nexa.polito.it > *Oggetto:* Re: [nexa] ChatGpt e la scuola > On Sat, 21 Jan 2023 01:34:31 +0100 Giacomo Tesio wrote: > > > > chatGPT produce testo 'finito' combinando chunks testuali del cui > > > significato non sa nulla, in modo statisticamente coerente con l'uso > > > di questi chunks nei testi da cui ha appreso. > > > > Credo che non avrei saputo dirlo meglio. > > Mi correggo: posso. > > ``` > chatGPT produce testo 'finito' combinando chunks testuali del cui > significato non sa nulla, in modo statisticamente coerente con l'uso > di questi chunks nei testi con cui è stato programmato. > ``` > > I software NON apprendono. > > La programmazione statistica NON è apprendimento. > L'apprendimento è una esperienza umana. > > Non va proiettata sulle macchine, pena l'alienazione cibernetica, > la riduzione ad ingranaggi nelle mani di chi controlla quelle macchine. > > > L'informazione è un esperienza soggettiva di pensiero comunicabile, > per cui il linguaggio utilizzato determina lo spazio delle > interpretazioni possibili della realtà per ciascuna mente umana. > > Per questo le parole sono importanti... > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739… <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739…> > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola

by Benedetto Ponti

Il 21/01/2023 10:31, Daniela Tafani ha scritto: > L'automazione del lavoro ha luogo comunque, semplicemente perché costa > meno, e dunque genera maggior profitto, non perché funzioni; > perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e > abbiamo già psicoterapeuti chatbot, a pagamento), > a meno che non intervenga il diritto (e qui si spiega l'utilità di > una cattura culturale, con le narrazioni magiche, per tenere alla > larga la regolazione giuridica) Cara Daniela, ti sono grato per questa perfetta e dolorosa sintesi. Benedetto Ponti Il 21/01/2023 10:31, Daniela Tafani ha scritto: > > Grazie a entrambi della definizione. > > La utilizzerò senz'altro, aggiungendo una riga o due che sono scontate > solo per chi sappia di cosa si tratta > (le persone sono abituate a considerare affidabile, ad esempio, > un'operazione matematica svolta da una macchina, > sebbene questa non ne conosca il significato, > e un sistema probabilistico darà invece allegramente^1 risultati > corretti e scorretti inestricabilmente combinati): > > > ChatGPT produce testo 'finito' combinando stringhe di testo del > cuisignificato non sa nulla, > > in modo statisticamente coerente con l'uso di queste stringhe nei > testi con cui è stato programmato. > > Il testo prodotto non ha perciò alcun valore informativo o intento > comunicativo. > > ChatGPT non è programmato per produrre risposte corrette, ma risposte > che siano statisticamente simili alle risposte corrette. > > > L'automazione del lavoro ha luogo comunque, semplicemente perché costa > meno, e dunque genera maggior profitto, non perché funzioni; > perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e > abbiamo già psicoterapeuti chatbot, a pagamento), > a meno che non intervenga il diritto (e qui si spiega l'utilità di > una cattura culturale, con le narrazioni magiche, per tenere alla > larga la regolazione giuridica): > > <https://t.co/ESv9Z1IgKm <https://t.co/ESv9Z1IgKm>> > > Buon fine settimana, > Daniela > > > ^1 "Una locomotiva condurrà il treno attraverso un ponte levatoio aperto > tanto allegramente quanto verso qualsiasi altra destinazione." > (William James) > > > > > ------------------------------------------------------------------------ > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo > Tesio <giacomo(a)tesio.it> > *Inviato:* sabato 21 gennaio 2023 01:44 > *A:* maurizio lana > *Cc:* nexa(a)server-nexa.polito.it > *Oggetto:* Re: [nexa] ChatGpt e la scuola > On Sat, 21 Jan 2023 01:34:31 +0100 Giacomo Tesio wrote: > > > > chatGPT produce testo 'finito' combinando chunks testuali del cui > > > significato non sa nulla, in modo statisticamente coerente con l'uso > > > di questi chunks nei testi da cui ha appreso. > > > > Credo che non avrei saputo dirlo meglio. > > Mi correggo: posso. > > ``` > chatGPT produce testo 'finito' combinando chunks testuali del cui > significato non sa nulla, in modo statisticamente coerente con l'uso > di questi chunks nei testi con cui è stato programmato. > ``` > > I software NON apprendono. > > La programmazione statistica NON è apprendimento. > L'apprendimento è una esperienza umana. > > Non va proiettata sulle macchine, pena l'alienazione cibernetica, > la riduzione ad ingranaggi nelle mani di chi controlla quelle macchine. > > > L'informazione è un esperienza soggettiva di pensiero comunicabile, > per cui il linguaggio utilizzato determina lo spazio delle > interpretazioni possibili della realtà per ciascuna mente umana. > > Per questo le parole sono importanti... > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739… > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739…> > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola

by Maria Chiara Pievatolo

On 21/01/23 01:34, Giacomo Tesio wrote: > > E' questo il futuro che Google auspica con Classroom nelle scuole. > Il futuro per cui lavora a tutti i livelli da anni. > Mi pare infatti che meriti ripetere che usare ChatGPT a scuola significa esporre docenti e studenti a una scatola nera occhiuta a proprietaria che certo trae vantaggio dall'uso dei loro dati, ma che con la libertà di un ambiente di apprendimento dovrebbe avere dalla manipolazione e dalla sorveglianza non ha proprio nulla a che vedere. E sì, sono cose che sa anche il gatto, ma dalla zelo con cui moltissimi fanno da cavie e da propagandisti all'esperimento aziendale in corso, su un prodotto finanziato da Microsoft, Peter Thiel, Elon Musk, sembra che le sappia *soltanto* il gatto. L'ultimo numero di Guerre di Rete (https://guerredirete.substack.com/) parla proprio dell'hype dell'AI e segnala fra l'altro (non so se sia già passato qui): https://irisvanrooijcogsci.com/2023/01/14/stop-feeding-the-hype-and-start-r… Aggiungo, in italiano, un piccolo commento precedente di .mau. https://xmau.com/wp/notiziole/2023/01/04/sfruttati-da-chatgpt/ Felinamente, MCP

Jan. 21, 2023

Re: [nexa] ChatGpt e la scuola

by Alessandro Brolpito

Grazie Daniela, Mi chiedo solo se il valore informativo non dipenda anche da chi legge e che sia difficile affermare questo in assoluto, domanda "vera" per capire meglio i limiti dell'AI... Alessandro On Sat, 21 Jan 2023 at 10:38, Daniela Tafani <daniela.tafani(a)unipi.it> wrote: > Scusate, anche "risposte" non è corretto, rispetto a ChatGPT: > > > ChatGPT produce testo 'finito' combinando stringhe di testo del cui > significato non sa nulla, > > in modo statisticamente coerente con l'uso di queste stringhe nei testi > con cui è stato programmato. > > Il testo prodotto non ha perciò alcun valore informativo o intento > comunicativo. > > ChatGPT non è programmato per produrre risposte corrette, ma *sequenze di > parole* che siano statisticamente simili alle risposte corrette. > > (le due righe sono citazioni a memoria da tweet di Emily Bender e Jon Ayre) > > > > ------------------------------ > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Daniela > Tafani <daniela.tafani(a)unipi.it> > *Inviato:* sabato 21 gennaio 2023 10:31 > *A:* Giacomo Tesio; maurizio lana > *Cc:* nexa(a)server-nexa.polito.it > *Oggetto:* Re: [nexa] ChatGpt e la scuola > > > Grazie a entrambi della definizione. > > La utilizzerò senz'altro, aggiungendo una riga o due che sono scontate > solo per chi sappia di cosa si tratta > (le persone sono abituate a considerare affidabile, ad esempio, > un'operazione matematica svolta da una macchina, > sebbene questa non ne conosca il significato, > e un sistema probabilistico darà invece allegramente1 risultati corretti > e scorretti inestricabilmente combinati): > > > ChatGPT produce testo 'finito' combinando stringhe di testo del cui > significato non sa nulla, > > in modo statisticamente coerente con l'uso di queste stringhe nei testi > con cui è stato programmato. > > Il testo prodotto non ha perciò alcun valore informativo o intento > comunicativo. > > ChatGPT non è programmato per produrre risposte corrette, ma risposte che > siano statisticamente simili alle risposte corrette. > > > L'automazione del lavoro ha luogo comunque, semplicemente perché costa > meno, e dunque genera maggior profitto, non perché funzioni; > perciò, come prevede da tempo Frank Pasquale, avremo medici chatbot (e > abbiamo già psicoterapeuti chatbot, a pagamento), > a meno che non intervenga il diritto (e qui si spiega l'utilità di una > cattura culturale, con le narrazioni magiche, per tenere alla larga la > regolazione giuridica): > > <https://t.co/ESv9Z1IgKm > <https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121093109092287…> > > > > Buon fine settimana, > Daniela > > > 1 "Una locomotiva condurrà il treno attraverso un ponte levatoio aperto > tanto allegramente quanto verso qualsiasi altra destinazione." (William > James) > > > > > ------------------------------ > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di Giacomo > Tesio <giacomo(a)tesio.it> > *Inviato:* sabato 21 gennaio 2023 01:44 > *A:* maurizio lana > *Cc:* nexa(a)server-nexa.polito.it > *Oggetto:* Re: [nexa] ChatGpt e la scuola > > On Sat, 21 Jan 2023 01:34:31 +0100 Giacomo Tesio wrote: > > > > chatGPT produce testo 'finito' combinando chunks testuali del cui > > > significato non sa nulla, in modo statisticamente coerente con l'uso > > > di questi chunks nei testi da cui ha appreso. > > > > Credo che non avrei saputo dirlo meglio. > > Mi correggo: posso. > > ``` > chatGPT produce testo 'finito' combinando chunks testuali del cui > significato non sa nulla, in modo statisticamente coerente con l'uso > di questi chunks nei testi con cui è stato programmato. > ``` > > I software NON apprendono. > > La programmazione statistica NON è apprendimento. > L'apprendimento è una esperienza umana. > > Non va proiettata sulle macchine, pena l'alienazione cibernetica, > la riduzione ad ingranaggi nelle mani di chi controlla quelle macchine. > > > L'informazione è un esperienza soggettiva di pensiero comunicabile, > per cui il linguaggio utilizzato determina lo spazio delle > interpretazioni possibili della realtà per ciascuna mente umana. > > Per questo le parole sono importanti... > > > Giacomo > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230121004423015739… > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Jan. 21, 2023