February 2023 - nexa - server-nexa.polito.it

Re: [nexa] oh quanto è intelligente l'AI! (was Re: ChatGPT: five priorities for research)

by Daniela Tafani

Concordo sul fatto che non sia scienza, ma temo che sia troppo, e antropomorfizzante, anche parlare di doxa: che 1+1 faccia 3 non è l'opinione né la credenza di alcuno, è solo l'output di un sistema che "risequenzia" (grazie a 380° per la citazione di questo termine): <https://github.com/giuven95/chatgpt-failures/issues/2> Nemmeno la persona con le opinioni più stravaganti, nel risponderci, si limita a risequenziare stringhe di testo sulla base di una distribuzione di probabilità. Su chatGPT, condivido l'impostazione di Dan McQuillan: <https://www.danmcquillan.org/chatgpt.html> ________________________________ Da: de petra giulio <giulio.depetra(a)gmail.com> Inviato: martedì 14 febbraio 2023 17:25 A: Daniela Tafani Oggetto: Re: [nexa] oh quanto è intelligente l'AI! (was Re: ChatGPT: five priorities for research) Tra le inutilmente tante cose lette in proposito vi segnalo questo per me utilissimo contributo di Guido Vetere https://guidovetere.nova100.ilsole24ore.com/2023/02/11/il-problema-epistemi…<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> Il giorno mar 14 feb 2023 alle 15:28 Daniela Tafani <daniela.tafani(a)unipi.it<mailto:daniela.tafani@unipi.it>> ha scritto: Buongiorno. Forse dovrebbero smettere di dire che chatGPT commette "errori" o "sbaglia". Non commette alcun errore, quando ci sembra che ne commetta: non sta facendo nulla di diverso da quello che fa sempre. Anzi, gli "errori" ci consentono di vedere come funziona e che cos'è. Ciò che è fa sì che non si possa usarla per ottenere informazioni o soluzioni o risposte. A meno che non si abbia già l'abitudine di affidarsi a una palla magica delle risposte. Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it<mailto:nexa-bounces@server-nexa.polito.it>> per conto di 380° <g380(a)biscuolo.net<mailto:g380@biscuolo.net>> Inviato: martedì 14 febbraio 2023 12:08 A: nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> Oggetto: [nexa] oh quanto è intelligente l'AI! (was Re: ChatGPT: five priorities for research) Buongiorno, Antonio <antonio(a)piumarossa.it<mailto:antonio@piumarossa.it>> writes: [...] > E' la /moda/ del momento, mettere alla prova ChatGPT nel superamento di > esami scolastici, di abilitazione, test per la selezione del personale, > ecc.: Sì ma _solo_ in lingua inglese, mi raccomando! Se è per questo si divertono anche a fargli il test IQ: https://twitter.com/sergeyi49013776/status/1598430479878856737?lang=en<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> Leggendo il tweet-thread si vede benissimo che il più grosso problema di ChatGPT è quello di non capire le domande... a volte in modo incomprensibile per un umano (la sintesi della comprensione sicuramente funziona peggio della sintesi della risposta) Per quanto sia affidabile tale esperimento [3] fatto una volta sola, il punteggio IQ è 83 ed è nel ragne "scarso", ma è ragionevole pensare che ChatGPT possa essere corretto e fare meglio in un prossimo futuro. Superficialmente potrebbe sembrare che questi studi siano un modo per mettere alla prova ChatGPT ma a pensarci meglio sono i test [4] a essere messi alla prova. Detto in altro modo: se chiedi a un umano di **eseguire** schemi/modelli/trucchi sviluppati per massimizzare i _punteggi_ ottenuti nei test (standardizzati) di "valutazione", ci sarà **sempre** una macchina di Turing in grado di farlo _molto_ meglio. ...è _scientifico_: https://www.roars.it/online/il-modello-di-rasch/<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> «I test INVALSI sono scientificamente solidi? I limiti del modello di Rasch» --8<---------------cut here---------------start------------->8--- [...] Per la quasi totalità dell’opinione pubblica, ma anche degli insegnanti e degli accademici, l’elaborazione dei risultati dei test standardizzati è una “scatola nera” il cui corretto funzionamento viene assunto sulla fiducia. Chi d’altronde avrebbe le competenze per entrare nel merito dei marchingegni statistici utilizzati? Anche chi ne contesta l’uso a causa delle distorsioni che provoca nelle politiche educative raramente ne mette in dubbio la correttezza. [...] Estrarre delle informazioni dai test standardizzati non è così semplice come leggere la temperatura sulla scala graduata di un termometro. [...] Ora, i termometri dei test PISA e dei test INVALSI si servono dello stesso principio di misurazione della “temperatura”, ovvero del cosiddetto “modello di Rasch”, che specifica appunto le ipotesi matematico-statistiche utilizzate nella procedura di calibrazione. [...] “The best we can say about Pisa rankings is that they are useless” conclude Kreiner. --8<---------------cut here---------------end--------------->8--- (l'articolo entra nel merito scientifico, se interessa, compresa la fantasmagorica "Oggettività specifica"... e qui entriamo in epistemologia) Validità scientifica o meno, per /qualsiasi/ modello statistico (Rasch o altro IRT [5]) utilizzato per costruire test standard ci sarà _sempre_ (potenzialmente) una macchina di Turing programmata statisticamente (detta AI) in grado di ottenere il massimo risultato a quel test... SE ha abbastanza dati per sintetizzare una risposta. --8<---------------cut here---------------start------------->8--- Credo che una discussione organica sui test debba essere fatta sul piano più elevato dei rapporti tra strumenti valutativi e processi di insegnamento/apprendimento, --8<---------------cut here---------------end--------------->8--- scrive Enrico Rogora nell'articolo sopra citato E credo che questa frase sintetizzi il nocciolo della quesitone: --8<---------------cut here---------------start------------->8--- 3. Standardized tests don’t provide any feedback on how to perform better. The results aren’t even given back to the teachers and students until months later, and there are no instructions provided by test companies on how to improve these test scores. --8<---------------cut here---------------end--------------->8--- (tratto da «15 Reasons Why Standardized Tests are Problematic» [6]) Dopotutto ChatGPT o qualsiasi altro sistema SALAMI non saprebbe proprio che farsene del "feedback" visto che usa sistemi di "apprendimento" statistico invece di apprendere dagli errori. Ecco perché chiamare ChatGPT "generative AI" è definitivamente fuorviante, non genera proprio un bel niente... _risequenzia_ (cit). Aggià che scemo, ma qui stiamo parlando appunto di dare un punteggio per fare una classifica, mica di apprendimento... quindi che c'è da stupirsi se una istanza AI ottiene punteggi paragonabili a quelli umani e in futuro _senza dubbio_ batterà sempre gli umani nei test standardizzati? Ecco che allora si avvera il sogno dei pre-transumanisti: "siccome nei test standardizzati che servono per stabilire chi è più adatto a un determinato lavoro l'AI ottiene migliori risultati, allora possiamo fare a meno di assumere umani e li sostituiamo con l'AI". Forse ci dobbiamo fare qualche domanda sul tipo di lavoro che viene chiesto agli umani di svolgere?!? https://www.fastcompany.com/90844285/chatgpt-has-an-iq-of-83-yet-its-coming…<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> «ChatGPT has an IQ of 83, yet it’s coming for our jobs. What does that say about the work we do?» --8<---------------cut here---------------start------------->8--- It is very likely that many of us will see some of our work replaced by AI, and that hurts. But it says absolutely nothing about the people working those jobs and whether or not they’re skilled. It says everything, however, about our current system and about how inadequate many of the jobs that we’ve created are. If something with an IQ of 83 can take over our jobs, society as a whole is not operating at its full potential. I believe that generative AI is both a jolting reality check, and a potential solution to help make our jobs more meaningful. Many workers are drowned in menial, repetitive tasks, often carried out on autopilot and without much critical thinking. [...] This kind of repetitive busy work takes up time that could be spent doing more meaningful work such as fleshing out that new idea you’ve had in the back of your head for months, or exploring an app you think could streamline your projects. As a result, we often stifle our own progress because we’re starved of the time and resources to think big. A lot of repetitive work could eventually be replaced by a ChatGPT bot [...] --8<---------------cut here---------------end--------------->8--- Ovviamente questo ragionamento vale per tutti i compiti ripetitivi che possono essere automatizzati, mica solo da ChatGPT... solo che chi osanna ChatGPT deve anche capire che la sua capacità di sintesi è _limitata_ e che a volte (spesso?) semplicemente sbaglia... e senza correggerlo continuerà a sbagliare in eterno... e NON si autocorregge. Detto in altro modo: se chiedi a un umano _solo_ di **eseguire** il lavoro secondo modelli/schemi/trucchi sviluppati (da altri) per massimizzare i _punteggi_ ottenuti nei test (standardizzati) di "valutazione" della performance lavorativa, ci sarà **sempre** una macchina di Turing in grado di farlo _molto_ meglio, ripetizione degli errori inclusa. https://nooscope.ai/<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> Per parafrasare Enrico Rogora citato sopra: «Credo che una discussione organica sul lavoro debba essere fatta sul piano più elevato dei rapporti tra strumenti valutativi (del lavoro) e processi di svolgimento e apprendimento ("feedback" che accumulato diventa esperienza) e loro relazione con la società e la cultura, con particolare attenzione al rapporto tra il _valore_ del lavoro e la sua monetizzazione in "valore di scambio".» David Graeber: «Huge swathes of people, in Europe and North America in particular, spend their entire working lives performing tasks they secretly believe do not really need to be performed» [7] > ChatGPT can (almost) pass the US Medical Licensing Exam [1] Ma per forza: copia (e ha la calcolatrice incorporata)! :-D Date una calcolatrice e accesso illimitato al web a tutti gli esaminandi umani a cui somministrate i test e poi vediamo, eh?!? :-P ...se poi gli esaminandi avessero a disposizione un database con salvate **tutte** le enciclopedie del mondo (tra)scritte in RDF e sapessero usare le query SPARQL come chattano su Instagram... semplicemente non ci sarebbe storia. B-) [...] saluti, 380° > [1] https://www.eurekalert.org/news-releases/978878<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> > [2] > https://www.sciencemediacentre.org/expert-reaction-to-study-on-chatgpt-almo…<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> [3] https://en.wikipedia.org/wiki/Intelligence_quotient#Reliability_and_validity<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> [4] attenzione NON ho scritto le valutazioni date da altri umani frutto di interrogazioni, compiti in classe, collaborazione, osservazione inseriti in un percorso scolastico/lavorativo di diversi mesi e anni... cosa a cui NON è stata sottoposta ChatGPT, se qualcuno volesse "divertirsi" [5] https://en.wikipedia.org/wiki/Item_response_theory<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…>, non trovo nemmeno che tipo di test utilizzi https://iqtest.com/<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> [6] https://www.ascd.org/blogs/15-reasons-why-standardized-tests-are-problematic<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> [7] https://web.archive.org/web/20191211140746/http://www.strike.coop/bullshit-…<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…> -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…>>. _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=20230214162559092302…>

Feb. 14, 2023

Fwd: oh quanto è intelligente l'AI! (was Re: ChatGPT: five priorities for research)

by de petra giulio

Tra le inutilmente tante cose lette in proposito vi segnalo questo per me utilissimo contributo di Guido Vetere https://guidovetere.nova100.ilsole24ore.com/2023/02/11/il-problema-epistemi… Il giorno mar 14 feb 2023 alle 15:28 Daniela Tafani <daniela.tafani(a)unipi.it> ha scritto: > Buongiorno. > > > Forse dovrebbero smettere di dire che chatGPT commette "errori" o > "sbaglia". > > > Non commette alcun errore, quando ci sembra che ne commetta: > non sta facendo nulla di diverso da quello che fa sempre. > > Anzi, gli "errori" ci consentono di vedere come funziona e che cos'è. > > > Ciò che è fa sì che non si possa usarla per ottenere informazioni o > soluzioni o risposte. > > > A meno che non si abbia già l'abitudine di affidarsi a una palla magica > delle risposte. > > Un saluto, > > Daniela > > > > ------------------------------ > *Da:* nexa <nexa-bounces(a)server-nexa.polito.it> per conto di 380° < > g380(a)biscuolo.net> > *Inviato:* martedì 14 febbraio 2023 12:08 > *A:* nexa(a)server-nexa.polito.it > *Oggetto:* [nexa] oh quanto è intelligente l'AI! (was Re: ChatGPT: five > priorities for research) > > Buongiorno, > > Antonio <antonio(a)piumarossa.it> writes: > > [...] > > > E' la /moda/ del momento, mettere alla prova ChatGPT nel superamento di > > esami scolastici, di abilitazione, test per la selezione del personale, > > ecc.: > > Sì ma _solo_ in lingua inglese, mi raccomando! > > Se è per questo si divertono anche a fargli il test IQ: > https://twitter.com/sergeyi49013776/status/1598430479878856737?lang=en > > Leggendo il tweet-thread si vede benissimo che il più grosso problema di > ChatGPT è quello di non capire le domande... a volte in modo > incomprensibile per un umano (la sintesi della comprensione sicuramente > funziona peggio della sintesi della risposta) > > Per quanto sia affidabile tale esperimento [3] fatto una volta sola, il > punteggio IQ è 83 ed è nel ragne "scarso", ma è ragionevole pensare che > ChatGPT possa essere corretto e fare meglio in un prossimo futuro. > > Superficialmente potrebbe sembrare che questi studi siano un modo per > mettere alla prova ChatGPT ma a pensarci meglio sono i test [4] a essere > messi alla prova. > > Detto in altro modo: se chiedi a un umano di **eseguire** > schemi/modelli/trucchi sviluppati per massimizzare i _punteggi_ ottenuti > nei test (standardizzati) di "valutazione", ci sarà **sempre** una > macchina di Turing in grado di farlo _molto_ meglio. > > ...è _scientifico_: > > https://www.roars.it/online/il-modello-di-rasch/ > > «I test INVALSI sono scientificamente solidi? I limiti del modello di > Rasch» > > --8<---------------cut here---------------start------------->8--- > > [...] Per la quasi totalità dell’opinione pubblica, ma anche degli > insegnanti e degli accademici, l’elaborazione dei risultati dei test > standardizzati è una “scatola nera” il cui corretto funzionamento viene > assunto sulla fiducia. Chi d’altronde avrebbe le competenze per entrare > nel merito dei marchingegni statistici utilizzati? Anche chi ne > contesta l’uso a causa delle distorsioni che provoca nelle politiche > educative raramente ne mette in dubbio la correttezza. > > [...] Estrarre delle informazioni dai test standardizzati non è così > semplice come leggere la temperatura sulla scala graduata di un > termometro. > > [...] Ora, i termometri dei test PISA e dei test INVALSI si servono > dello stesso principio di misurazione della “temperatura”, ovvero del > cosiddetto “modello di Rasch”, che specifica appunto le ipotesi > matematico-statistiche utilizzate nella procedura di calibrazione. > > [...] “The best we can say about Pisa rankings is that they are useless” > conclude Kreiner. > > --8<---------------cut here---------------end--------------->8--- > (l'articolo entra nel merito scientifico, se interessa, compresa la > fantasmagorica "Oggettività specifica"... e qui entriamo in > epistemologia) > > Validità scientifica o meno, per /qualsiasi/ modello statistico (Rasch o > altro IRT [5]) utilizzato per costruire test standard ci sarà _sempre_ > (potenzialmente) una macchina di Turing programmata statisticamente > (detta AI) in grado di ottenere il massimo risultato a quel test... SE > ha abbastanza dati per sintetizzare una risposta. > > --8<---------------cut here---------------start------------->8--- > > Credo che una discussione organica sui test debba essere fatta sul piano > più elevato dei rapporti tra strumenti valutativi e processi di > insegnamento/apprendimento, > > --8<---------------cut here---------------end--------------->8--- > > scrive Enrico Rogora nell'articolo sopra citato > > E credo che questa frase sintetizzi il nocciolo della quesitone: > > --8<---------------cut here---------------start------------->8--- > > 3. Standardized tests don’t provide any feedback on how to perform > better. The results aren’t even given back to the teachers and students > until months later, and there are no instructions provided by test > companies on how to improve these test scores. > > --8<---------------cut here---------------end--------------->8--- > (tratto da «15 Reasons Why Standardized Tests are Problematic» [6]) > > Dopotutto ChatGPT o qualsiasi altro sistema SALAMI non saprebbe proprio > che farsene del "feedback" visto che usa sistemi di "apprendimento" > statistico invece di apprendere dagli errori. Ecco perché chiamare > ChatGPT "generative AI" è definitivamente fuorviante, non genera proprio > un bel niente... _risequenzia_ (cit). > > Aggià che scemo, ma qui stiamo parlando appunto di dare un punteggio per > fare una classifica, mica di apprendimento... quindi che c'è da stupirsi > se una istanza AI ottiene punteggi paragonabili a quelli umani e in > futuro _senza dubbio_ batterà sempre gli umani nei test standardizzati? > > Ecco che allora si avvera il sogno dei pre-transumanisti: "siccome nei > test standardizzati che servono per stabilire chi è più adatto a un > determinato lavoro l'AI ottiene migliori risultati, allora possiamo fare > a meno di assumere umani e li sostituiamo con l'AI". > > Forse ci dobbiamo fare qualche domanda sul tipo di lavoro che viene > chiesto agli umani di svolgere?!? > > > https://www.fastcompany.com/90844285/chatgpt-has-an-iq-of-83-yet-its-coming… > > «ChatGPT has an IQ of 83, yet it’s coming for our jobs. What does that > say about the work we do?» > > --8<---------------cut here---------------start------------->8--- > > It is very likely that many of us will see some of our work replaced by > AI, and that hurts. But it says absolutely nothing about the people > working those jobs and whether or not they’re skilled. It says > everything, however, about our current system and about how inadequate > many of the jobs that we’ve created are. > > If something with an IQ of 83 can take over our jobs, society as a whole > is not operating at its full potential. I believe that generative AI is > both a jolting reality check, and a potential solution to help make our > jobs more meaningful. > > Many workers are drowned in menial, repetitive tasks, often carried out > on autopilot and without much critical thinking. > > [...] This kind of repetitive busy work takes up time that could be > spent doing more meaningful work such as fleshing out that new idea > you’ve had in the back of your head for months, or exploring an app you > think could streamline your projects. > > As a result, we often stifle our own progress because we’re starved of > the time and resources to think big. > > A lot of repetitive work could eventually be replaced by a ChatGPT bot > [...] > > --8<---------------cut here---------------end--------------->8--- > > Ovviamente questo ragionamento vale per tutti i compiti ripetitivi che > possono essere automatizzati, mica solo da ChatGPT... solo che chi > osanna ChatGPT deve anche capire che la sua capacità di sintesi è > _limitata_ e che a volte (spesso?) semplicemente sbaglia... e senza > correggerlo continuerà a sbagliare in eterno... e NON si autocorregge. > > Detto in altro modo: se chiedi a un umano _solo_ di **eseguire** il > lavoro secondo modelli/schemi/trucchi sviluppati (da altri) per > massimizzare i _punteggi_ ottenuti nei test (standardizzati) di > "valutazione" della performance lavorativa, ci sarà **sempre** una > macchina di Turing in grado di farlo _molto_ meglio, ripetizione degli > errori inclusa. > > https://nooscope.ai/ > > Per parafrasare Enrico Rogora citato sopra: «Credo che una discussione > organica sul lavoro debba essere fatta sul piano più elevato dei > rapporti tra strumenti valutativi (del lavoro) e processi di svolgimento > e apprendimento ("feedback" che accumulato diventa esperienza) e loro > relazione con la società e la cultura, con particolare attenzione al > rapporto tra il _valore_ del lavoro e la sua monetizzazione in "valore > di scambio".» > > David Graeber: «Huge swathes of people, in Europe and North America in > particular, spend their entire working lives performing tasks they > secretly believe do not really need to be performed» [7] > > > ChatGPT can (almost) pass the US Medical Licensing Exam [1] > > Ma per forza: copia (e ha la calcolatrice incorporata)! :-D > > Date una calcolatrice e accesso illimitato al web a tutti gli esaminandi > umani a cui somministrate i test e poi vediamo, eh?!? :-P > > ...se poi gli esaminandi avessero a disposizione un database con salvate > **tutte** le enciclopedie del mondo (tra)scritte in RDF e sapessero > usare le query SPARQL come chattano su Instagram... semplicemente non ci > sarebbe storia. B-) > > [...] > > saluti, 380° > > > > [1] https://www.eurekalert.org/news-releases/978878 > > [2] > > > https://www.sciencemediacentre.org/expert-reaction-to-study-on-chatgpt-almo… > > [3] > https://en.wikipedia.org/wiki/Intelligence_quotient#Reliability_and_validity > > [4] attenzione NON ho scritto le valutazioni date da altri umani frutto > di interrogazioni, compiti in classe, collaborazione, osservazione > inseriti in un percorso scolastico/lavorativo di diversi mesi e > anni... cosa a cui NON è stata sottoposta ChatGPT, se qualcuno volesse > "divertirsi" > > [5] https://en.wikipedia.org/wiki/Item_response_theory, non trovo > nemmeno che tipo di test utilizzi https://iqtest.com/ > > [6] > https://www.ascd.org/blogs/15-reasons-why-standardized-tests-are-problematic > > [7] > https://web.archive.org/web/20191211140746/http://www.strike.coop/bullshit-… > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Feb. 14, 2023

Re: [nexa] oh quanto è intelligente l'AI! (was Re: ChatGPT: five priorities for research)

by Daniela Tafani

Buongiorno. Forse dovrebbero smettere di dire che chatGPT commette "errori" o "sbaglia". Non commette alcun errore, quando ci sembra che ne commetta: non sta facendo nulla di diverso da quello che fa sempre. Anzi, gli "errori" ci consentono di vedere come funziona e che cos'è. Ciò che è fa sì che non si possa usarla per ottenere informazioni o soluzioni o risposte. A meno che non si abbia già l'abitudine di affidarsi a una palla magica delle risposte. Un saluto, Daniela ________________________________ Da: nexa <nexa-bounces(a)server-nexa.polito.it> per conto di 380° <g380(a)biscuolo.net> Inviato: martedì 14 febbraio 2023 12:08 A: nexa(a)server-nexa.polito.it Oggetto: [nexa] oh quanto è intelligente l'AI! (was Re: ChatGPT: five priorities for research) Buongiorno, Antonio <antonio(a)piumarossa.it> writes: [...] > E' la /moda/ del momento, mettere alla prova ChatGPT nel superamento di > esami scolastici, di abilitazione, test per la selezione del personale, > ecc.: Sì ma _solo_ in lingua inglese, mi raccomando! Se è per questo si divertono anche a fargli il test IQ: https://twitter.com/sergeyi49013776/status/1598430479878856737?lang=en Leggendo il tweet-thread si vede benissimo che il più grosso problema di ChatGPT è quello di non capire le domande... a volte in modo incomprensibile per un umano (la sintesi della comprensione sicuramente funziona peggio della sintesi della risposta) Per quanto sia affidabile tale esperimento [3] fatto una volta sola, il punteggio IQ è 83 ed è nel ragne "scarso", ma è ragionevole pensare che ChatGPT possa essere corretto e fare meglio in un prossimo futuro. Superficialmente potrebbe sembrare che questi studi siano un modo per mettere alla prova ChatGPT ma a pensarci meglio sono i test [4] a essere messi alla prova. Detto in altro modo: se chiedi a un umano di **eseguire** schemi/modelli/trucchi sviluppati per massimizzare i _punteggi_ ottenuti nei test (standardizzati) di "valutazione", ci sarà **sempre** una macchina di Turing in grado di farlo _molto_ meglio. ...è _scientifico_: https://www.roars.it/online/il-modello-di-rasch/ «I test INVALSI sono scientificamente solidi? I limiti del modello di Rasch» --8<---------------cut here---------------start------------->8--- [...] Per la quasi totalità dell’opinione pubblica, ma anche degli insegnanti e degli accademici, l’elaborazione dei risultati dei test standardizzati è una “scatola nera” il cui corretto funzionamento viene assunto sulla fiducia. Chi d’altronde avrebbe le competenze per entrare nel merito dei marchingegni statistici utilizzati? Anche chi ne contesta l’uso a causa delle distorsioni che provoca nelle politiche educative raramente ne mette in dubbio la correttezza. [...] Estrarre delle informazioni dai test standardizzati non è così semplice come leggere la temperatura sulla scala graduata di un termometro. [...] Ora, i termometri dei test PISA e dei test INVALSI si servono dello stesso principio di misurazione della “temperatura”, ovvero del cosiddetto “modello di Rasch”, che specifica appunto le ipotesi matematico-statistiche utilizzate nella procedura di calibrazione. [...] “The best we can say about Pisa rankings is that they are useless” conclude Kreiner. --8<---------------cut here---------------end--------------->8--- (l'articolo entra nel merito scientifico, se interessa, compresa la fantasmagorica "Oggettività specifica"... e qui entriamo in epistemologia) Validità scientifica o meno, per /qualsiasi/ modello statistico (Rasch o altro IRT [5]) utilizzato per costruire test standard ci sarà _sempre_ (potenzialmente) una macchina di Turing programmata statisticamente (detta AI) in grado di ottenere il massimo risultato a quel test... SE ha abbastanza dati per sintetizzare una risposta. --8<---------------cut here---------------start------------->8--- Credo che una discussione organica sui test debba essere fatta sul piano più elevato dei rapporti tra strumenti valutativi e processi di insegnamento/apprendimento, --8<---------------cut here---------------end--------------->8--- scrive Enrico Rogora nell'articolo sopra citato E credo che questa frase sintetizzi il nocciolo della quesitone: --8<---------------cut here---------------start------------->8--- 3. Standardized tests don’t provide any feedback on how to perform better. The results aren’t even given back to the teachers and students until months later, and there are no instructions provided by test companies on how to improve these test scores. --8<---------------cut here---------------end--------------->8--- (tratto da «15 Reasons Why Standardized Tests are Problematic» [6]) Dopotutto ChatGPT o qualsiasi altro sistema SALAMI non saprebbe proprio che farsene del "feedback" visto che usa sistemi di "apprendimento" statistico invece di apprendere dagli errori. Ecco perché chiamare ChatGPT "generative AI" è definitivamente fuorviante, non genera proprio un bel niente... _risequenzia_ (cit). Aggià che scemo, ma qui stiamo parlando appunto di dare un punteggio per fare una classifica, mica di apprendimento... quindi che c'è da stupirsi se una istanza AI ottiene punteggi paragonabili a quelli umani e in futuro _senza dubbio_ batterà sempre gli umani nei test standardizzati? Ecco che allora si avvera il sogno dei pre-transumanisti: "siccome nei test standardizzati che servono per stabilire chi è più adatto a un determinato lavoro l'AI ottiene migliori risultati, allora possiamo fare a meno di assumere umani e li sostituiamo con l'AI". Forse ci dobbiamo fare qualche domanda sul tipo di lavoro che viene chiesto agli umani di svolgere?!? https://www.fastcompany.com/90844285/chatgpt-has-an-iq-of-83-yet-its-coming… «ChatGPT has an IQ of 83, yet it’s coming for our jobs. What does that say about the work we do?» --8<---------------cut here---------------start------------->8--- It is very likely that many of us will see some of our work replaced by AI, and that hurts. But it says absolutely nothing about the people working those jobs and whether or not they’re skilled. It says everything, however, about our current system and about how inadequate many of the jobs that we’ve created are. If something with an IQ of 83 can take over our jobs, society as a whole is not operating at its full potential. I believe that generative AI is both a jolting reality check, and a potential solution to help make our jobs more meaningful. Many workers are drowned in menial, repetitive tasks, often carried out on autopilot and without much critical thinking. [...] This kind of repetitive busy work takes up time that could be spent doing more meaningful work such as fleshing out that new idea you’ve had in the back of your head for months, or exploring an app you think could streamline your projects. As a result, we often stifle our own progress because we’re starved of the time and resources to think big. A lot of repetitive work could eventually be replaced by a ChatGPT bot [...] --8<---------------cut here---------------end--------------->8--- Ovviamente questo ragionamento vale per tutti i compiti ripetitivi che possono essere automatizzati, mica solo da ChatGPT... solo che chi osanna ChatGPT deve anche capire che la sua capacità di sintesi è _limitata_ e che a volte (spesso?) semplicemente sbaglia... e senza correggerlo continuerà a sbagliare in eterno... e NON si autocorregge. Detto in altro modo: se chiedi a un umano _solo_ di **eseguire** il lavoro secondo modelli/schemi/trucchi sviluppati (da altri) per massimizzare i _punteggi_ ottenuti nei test (standardizzati) di "valutazione" della performance lavorativa, ci sarà **sempre** una macchina di Turing in grado di farlo _molto_ meglio, ripetizione degli errori inclusa. https://nooscope.ai/ Per parafrasare Enrico Rogora citato sopra: «Credo che una discussione organica sul lavoro debba essere fatta sul piano più elevato dei rapporti tra strumenti valutativi (del lavoro) e processi di svolgimento e apprendimento ("feedback" che accumulato diventa esperienza) e loro relazione con la società e la cultura, con particolare attenzione al rapporto tra il _valore_ del lavoro e la sua monetizzazione in "valore di scambio".» David Graeber: «Huge swathes of people, in Europe and North America in particular, spend their entire working lives performing tasks they secretly believe do not really need to be performed» [7] > ChatGPT can (almost) pass the US Medical Licensing Exam [1] Ma per forza: copia (e ha la calcolatrice incorporata)! :-D Date una calcolatrice e accesso illimitato al web a tutti gli esaminandi umani a cui somministrate i test e poi vediamo, eh?!? :-P ...se poi gli esaminandi avessero a disposizione un database con salvate **tutte** le enciclopedie del mondo (tra)scritte in RDF e sapessero usare le query SPARQL come chattano su Instagram... semplicemente non ci sarebbe storia. B-) [...] saluti, 380° > [1] https://www.eurekalert.org/news-releases/978878 > [2] > https://www.sciencemediacentre.org/expert-reaction-to-study-on-chatgpt-almo… [3] https://en.wikipedia.org/wiki/Intelligence_quotient#Reliability_and_validity [4] attenzione NON ho scritto le valutazioni date da altri umani frutto di interrogazioni, compiti in classe, collaborazione, osservazione inseriti in un percorso scolastico/lavorativo di diversi mesi e anni... cosa a cui NON è stata sottoposta ChatGPT, se qualcuno volesse "divertirsi" [5] https://en.wikipedia.org/wiki/Item_response_theory, non trovo nemmeno che tipo di test utilizzi https://iqtest.com/ [6] https://www.ascd.org/blogs/15-reasons-why-standardized-tests-are-problematic [7] https://web.archive.org/web/20191211140746/http://www.strike.coop/bullshit-… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Feb. 14, 2023

oh quanto è intelligente l'AI! (was Re: ChatGPT: five priorities for research)

by 380°

Buongiorno, Antonio <antonio(a)piumarossa.it> writes: [...] > E' la /moda/ del momento, mettere alla prova ChatGPT nel superamento di > esami scolastici, di abilitazione, test per la selezione del personale, > ecc.: Sì ma _solo_ in lingua inglese, mi raccomando! Se è per questo si divertono anche a fargli il test IQ: https://twitter.com/sergeyi49013776/status/1598430479878856737?lang=en Leggendo il tweet-thread si vede benissimo che il più grosso problema di ChatGPT è quello di non capire le domande... a volte in modo incomprensibile per un umano (la sintesi della comprensione sicuramente funziona peggio della sintesi della risposta) Per quanto sia affidabile tale esperimento [3] fatto una volta sola, il punteggio IQ è 83 ed è nel ragne "scarso", ma è ragionevole pensare che ChatGPT possa essere corretto e fare meglio in un prossimo futuro. Superficialmente potrebbe sembrare che questi studi siano un modo per mettere alla prova ChatGPT ma a pensarci meglio sono i test [4] a essere messi alla prova. Detto in altro modo: se chiedi a un umano di **eseguire** schemi/modelli/trucchi sviluppati per massimizzare i _punteggi_ ottenuti nei test (standardizzati) di "valutazione", ci sarà **sempre** una macchina di Turing in grado di farlo _molto_ meglio. ...è _scientifico_: https://www.roars.it/online/il-modello-di-rasch/ «I test INVALSI sono scientificamente solidi? I limiti del modello di Rasch» --8<---------------cut here---------------start------------->8--- [...] Per la quasi totalità dell’opinione pubblica, ma anche degli insegnanti e degli accademici, l’elaborazione dei risultati dei test standardizzati è una “scatola nera” il cui corretto funzionamento viene assunto sulla fiducia. Chi d’altronde avrebbe le competenze per entrare nel merito dei marchingegni statistici utilizzati? Anche chi ne contesta l’uso a causa delle distorsioni che provoca nelle politiche educative raramente ne mette in dubbio la correttezza. [...] Estrarre delle informazioni dai test standardizzati non è così semplice come leggere la temperatura sulla scala graduata di un termometro. [...] Ora, i termometri dei test PISA e dei test INVALSI si servono dello stesso principio di misurazione della “temperatura”, ovvero del cosiddetto “modello di Rasch”, che specifica appunto le ipotesi matematico-statistiche utilizzate nella procedura di calibrazione. [...] “The best we can say about Pisa rankings is that they are useless” conclude Kreiner. --8<---------------cut here---------------end--------------->8--- (l'articolo entra nel merito scientifico, se interessa, compresa la fantasmagorica "Oggettività specifica"... e qui entriamo in epistemologia) Validità scientifica o meno, per /qualsiasi/ modello statistico (Rasch o altro IRT [5]) utilizzato per costruire test standard ci sarà _sempre_ (potenzialmente) una macchina di Turing programmata statisticamente (detta AI) in grado di ottenere il massimo risultato a quel test... SE ha abbastanza dati per sintetizzare una risposta. --8<---------------cut here---------------start------------->8--- Credo che una discussione organica sui test debba essere fatta sul piano più elevato dei rapporti tra strumenti valutativi e processi di insegnamento/apprendimento, --8<---------------cut here---------------end--------------->8--- scrive Enrico Rogora nell'articolo sopra citato E credo che questa frase sintetizzi il nocciolo della quesitone: --8<---------------cut here---------------start------------->8--- 3. Standardized tests don’t provide any feedback on how to perform better. The results aren’t even given back to the teachers and students until months later, and there are no instructions provided by test companies on how to improve these test scores. --8<---------------cut here---------------end--------------->8--- (tratto da «15 Reasons Why Standardized Tests are Problematic» [6]) Dopotutto ChatGPT o qualsiasi altro sistema SALAMI non saprebbe proprio che farsene del "feedback" visto che usa sistemi di "apprendimento" statistico invece di apprendere dagli errori. Ecco perché chiamare ChatGPT "generative AI" è definitivamente fuorviante, non genera proprio un bel niente... _risequenzia_ (cit). Aggià che scemo, ma qui stiamo parlando appunto di dare un punteggio per fare una classifica, mica di apprendimento... quindi che c'è da stupirsi se una istanza AI ottiene punteggi paragonabili a quelli umani e in futuro _senza dubbio_ batterà sempre gli umani nei test standardizzati? Ecco che allora si avvera il sogno dei pre-transumanisti: "siccome nei test standardizzati che servono per stabilire chi è più adatto a un determinato lavoro l'AI ottiene migliori risultati, allora possiamo fare a meno di assumere umani e li sostituiamo con l'AI". Forse ci dobbiamo fare qualche domanda sul tipo di lavoro che viene chiesto agli umani di svolgere?!? https://www.fastcompany.com/90844285/chatgpt-has-an-iq-of-83-yet-its-coming… «ChatGPT has an IQ of 83, yet it’s coming for our jobs. What does that say about the work we do?» --8<---------------cut here---------------start------------->8--- It is very likely that many of us will see some of our work replaced by AI, and that hurts. But it says absolutely nothing about the people working those jobs and whether or not they’re skilled. It says everything, however, about our current system and about how inadequate many of the jobs that we’ve created are. If something with an IQ of 83 can take over our jobs, society as a whole is not operating at its full potential. I believe that generative AI is both a jolting reality check, and a potential solution to help make our jobs more meaningful. Many workers are drowned in menial, repetitive tasks, often carried out on autopilot and without much critical thinking. [...] This kind of repetitive busy work takes up time that could be spent doing more meaningful work such as fleshing out that new idea you’ve had in the back of your head for months, or exploring an app you think could streamline your projects. As a result, we often stifle our own progress because we’re starved of the time and resources to think big. A lot of repetitive work could eventually be replaced by a ChatGPT bot [...] --8<---------------cut here---------------end--------------->8--- Ovviamente questo ragionamento vale per tutti i compiti ripetitivi che possono essere automatizzati, mica solo da ChatGPT... solo che chi osanna ChatGPT deve anche capire che la sua capacità di sintesi è _limitata_ e che a volte (spesso?) semplicemente sbaglia... e senza correggerlo continuerà a sbagliare in eterno... e NON si autocorregge. Detto in altro modo: se chiedi a un umano _solo_ di **eseguire** il lavoro secondo modelli/schemi/trucchi sviluppati (da altri) per massimizzare i _punteggi_ ottenuti nei test (standardizzati) di "valutazione" della performance lavorativa, ci sarà **sempre** una macchina di Turing in grado di farlo _molto_ meglio, ripetizione degli errori inclusa. https://nooscope.ai/ Per parafrasare Enrico Rogora citato sopra: «Credo che una discussione organica sul lavoro debba essere fatta sul piano più elevato dei rapporti tra strumenti valutativi (del lavoro) e processi di svolgimento e apprendimento ("feedback" che accumulato diventa esperienza) e loro relazione con la società e la cultura, con particolare attenzione al rapporto tra il _valore_ del lavoro e la sua monetizzazione in "valore di scambio".» David Graeber: «Huge swathes of people, in Europe and North America in particular, spend their entire working lives performing tasks they secretly believe do not really need to be performed» [7] > ChatGPT can (almost) pass the US Medical Licensing Exam [1] Ma per forza: copia (e ha la calcolatrice incorporata)! :-D Date una calcolatrice e accesso illimitato al web a tutti gli esaminandi umani a cui somministrate i test e poi vediamo, eh?!? :-P ...se poi gli esaminandi avessero a disposizione un database con salvate **tutte** le enciclopedie del mondo (tra)scritte in RDF e sapessero usare le query SPARQL come chattano su Instagram... semplicemente non ci sarebbe storia. B-) [...] saluti, 380° > [1] https://www.eurekalert.org/news-releases/978878 > [2] > https://www.sciencemediacentre.org/expert-reaction-to-study-on-chatgpt-almo… [3] https://en.wikipedia.org/wiki/Intelligence_quotient#Reliability_and_validity [4] attenzione NON ho scritto le valutazioni date da altri umani frutto di interrogazioni, compiti in classe, collaborazione, osservazione inseriti in un percorso scolastico/lavorativo di diversi mesi e anni... cosa a cui NON è stata sottoposta ChatGPT, se qualcuno volesse "divertirsi" [5] https://en.wikipedia.org/wiki/Item_response_theory, non trovo nemmeno che tipo di test utilizzi https://iqtest.com/ [6] https://www.ascd.org/blogs/15-reasons-why-standardized-tests-are-problematic [7] https://web.archive.org/web/20191211140746/http://www.strike.coop/bullshit-… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Feb. 14, 2023

Fwd: [DigHum Lecture Series] Next talk on February 21: Tina Peterson “Abstracted power and responsibility”

by J.C. DE MARTIN

-------- Forwarded Message -------- Subject: [DigHum Lecture Series] Next talk on February 21: Tina Peterson “Abstracted power and responsibility” Date: Fri, 10 Feb 2023 12:50:02 +0100 From: Enrico Nardelli <nardelli(a)mat.uniroma2.it> Organization: Universita' di Roma "Tor Vergata" (apologies for cross posting) > We are pleased to invite you to the next talk in our Lecture Series: > > Date and time: *Tuesday, February 21, 2023 at 5:00 p.m.* (17:00) > Central European Summer Time (UTC+2) > > Topic: *“Abstracted power and responsibility”* > (scroll down for abstract and CV) > > Speaker: *Tina Peterson* (University of Texas, Austin) > Moderator: *Carlo Ghezzi* (Politecnico di Milano, Italy) > > To participate via *Zoom* go to: > https://tuwien.zoom.us/j/96389928143?pwd=UU5YRkNuRmdoWHV4MFBwMWRCcUErdz09 > <http://xuxss.mjt.lu/lnk/AUUAAAxb4NQAAAAg2JQAAAHQYFAAAAAARcEAADJzABG7CQBj5Sz…> > > (Password: 0dzqxqiy) > > The talk will be live streamed and recorded on our *YouTube* channel: > https://www.youtube.com/digitalhumanism > <http://xuxss.mjt.lu/lnk/AUUAAAxb4NQAAAAg2JQAAAHQYFAAAAAARcEAADJzABG7CQBj5Sz…> > > > For further announcements and information about the speakers in the > Lecture Series, see https://dighum.ec.tuwien.ac.at/news-events > <http://xuxss.mjt.lu/lnk/AUUAAAxb4NQAAAAg2JQAAAHQYFAAAAAARcEAADJzABG7CQBj5Sz…> > Please note that you can access the slides and recordings of our past > events via that link. > > Upcoming talks: > *March 07, 2023* at 5:00 p.m for *“Seize the Means of Computation”* > Speaker: *Cory Doctorow* (craphound.com) Moderator: *Allison Stanger* > (Middlebury College, USA) > *March 09, 2023* at 5:00 p.m Speaker: *Gerry Marcus* (garymarcus.com) > > We are pleased to announce that the Bavarian Research Institute for > Digital Transformation (bidt) <https://bidt.digital>, an Institute > within the Bavarian Academy of Sciences and Humanities, is a > cooperation partner for DigHum Lecture Series. > > We are looking forward to seeing you! > > Hannes Werthner > ----- > Sign the Vienna Manifesto: https://dighum.ec.tuwien.ac.at > Follow us on Twitter @DigHumTUWien <https://twitter.com/dighumtuwien> > ----- > > *ABSTRACT:* > > Technology often serves as a lever to extend and amplify our power. It > is increasingly possible in the 21st century to make decisions that > have profound impacts on people thousands of miles away from us. As it > extends our reach geographically and culturally, this long arm of > technology can also distance us perceptually from impacts of our > decisions and make the consequences easier to ignore. We call the > outcome of this phenomenon ‘abstracted power,’ and identify it as an > important obstacle to overcome as we promote social responsibility in > engineering education. Our work is with computer science students, but > abstracted power could apply to any engineering field and indeed may > find traction beyond those disciplinary boundaries. In this > interactive talk I will introduce the concept of abstracted power and > the highlights of a paper my colleagues Rodrigo Ferreira and Moshe > Vardi and I recently published on the subject. Next I will describe > how I have used this concept in my computer science ethics classes and > share some students’ observations of this phenomenon in the ‘real > world.’ I will then invite members of the audience to share their > thoughts on this concept in the context of their own disciplines. > Finally I will talk about ways to un-abstract power and make computer > scientists and others feel a greater sense of personal responsibility > for the consequences of their actions. > > *Short Bio of Tina Peterson:* > > Tina L. Peterson is an assistant professor of instruction in the > Department of Computer Science at the University of Texas at Austin, > where she teaches undergraduate and graduate courses on ethics and > social responsibility in computer science, including AI and robotics. > She is senior personnel on a National Science Foundation Research > Traineeship program, The Convergent, Responsible, and Ethical AI > Training Experience (CREATE) for Roboticists. She received the B.Sc. > degree in Journalism from the University of Colorado at Boulder, in > 2000, the M.A. degree in Critical Theory and Cultural Studies from the > University of Nottingham, in 2003, and the Ph.D. degree in Mass Media > and Communication from Temple University, in 2012. In addition to > teaching and research, she is the author of the children’s book ‘Oscar > and the Amazing Gravity Repellent’ (Capstone, 2015). > > *Short Bio of Carlo Ghezzi:* > > Carlo Ghezzi is an Emeritus Professor at Politecnico di Milano, where > he has been teaching and doing research for over 40 years. He is an > ACM Fellow, IEEE Fellow, member of Academia Europaea, and member of > the Italian Academy of Sciences (Istituto Lombardo). He received the > ACM SIGSOFT Outstanding Research Award. He has been President of > Informatics Europe. He has done research on programming languages and > software engineering. He has published over 200 papers in > international journals and conferences and co-authored 6 books. He is > interested in the ethical implications of research in computer > science. He is currently chairing the Ethics Committee at Politecnico > di Milano. > > > This e-mail has been sent to hannes.werthner(a)tuwien.ac.at, click here > to unsubscribe > <http://xuxss.mjt.lu/unsub2?hl=en&m=AUUAAAxb4NQAAAAg2JQAAAHQYFAAAAAARcEAADJz…>. > -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Feb. 14, 2023

103° Nexa Lunch Seminar | 22 febbraio 2023, ore 13.00

by Nexa Media

Gentilissime, gentilissimi, Vi invitiamo a partecipare al *103° Nexa Lunch Seminar *che si terrà *mercoledì 22 febbraio*, dalle ore 13.00 alle ore 14.00, con un incontro dal titolo /*"Riconoscimento facciale: come identificare le criticità e includere le casistiche trascurate?"*/. Ospite dell'incontro: *Fabiana Vinci* (Politecnico di Torino). _L'incontro si terrà IN PRESENZA e ONLINE._ _SEDE FISICA_ dell'incontro: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano). Per accedere alla sala si raccomanda di suonare al citofono "Portineria" e di seguire le indicazioni segnalate dai cartelli apposti all'ingresso e lungo il percorso. QUI <https://nexa.polito.it/contatti> maggiori informazioni su come raggiungerci. _STANZA VIRTUALE _dell'incontro: https://didattica.polito.it/VClass/NexaEvent Di seguito maggiori dettagli: Nexa Center for Internet and Society Newsletter Se non visualizzi correttamente questo messaggio clicca qui <https://nexa.polito.it/lunch-103> NEXA 103° Nexa Lunch Seminar Mercoledì 22 febbraio 2022, ore 13.00 - 14.00 https://nexa.polito.it/lunch-103 Riconoscimento facciale: come identificare le criticità e includere le casistiche trascurate? Speaker: *FABIANA VINCI* (Politecnico di Torino) *L'INCONTRO SI TERRÀ IN PRESENZA E ONLINE* *SEDE FISICA*: Centro Nexa su Internet e Società, Politecnico di Torino, Via Boggio 65/a, Torino (1° piano) Suonare al citofono "Portineria" - Seguire le indicazioni segnalate dai cartelli apposti all'ingresso e lungo il percorso (Per maggiori informazioni su come raggiungerci clicca QUI <https://nexa.polito.it/contatti>) *STANZA VIRTUALE*: https://didattica.polito.it/VClass/NexaEvent Il *riconoscimento facciale* è una tecnologia utilizzata frequentemente in diverse applicazioni moderne. Gli ambiti in cui è sviluppata riguardano la sicurezza, il marketing, i veicoli a guida autonoma e molti altri. L’idea su cui si basa il riconoscimento facciale è la possibilità di *estrarre informazioni personali da immagini che ritraggono il volto di una persona*. I *dati raccolti sono di tipo biometrico* e sono utilizzati per creare una *mappa facciale* da cui vengono dedotte informazioni quali: l’identità di una persona, il genere, l’età, l’etnia, ma anche emozioni e caratteri di personalità. Tuttavia, studi recenti hanno contribuito a evidenziare le *criticità di questa tecnologia* e le *possibili conseguenti discriminazioni che derivano dalla scelta dei dati*, con cui si alimentano le macchine e dal funzionamento degli algoritmi. Le informazioni che vengono dedotte, attraverso l’utilizzo di tale tecnologia, possono avere conseguenze pericolose soprattutto per gruppi di persone socialmente discriminate. Per poter comprendere al meglio le potenzialità, le criticità ma soprattutto il funzionamento degli algoritmi, è possibile *testare i modelli commercializzati e più utilizzati dalle aziende*, messi a disposizione dalle compagnie tecnologiche. BIOGRAFIA - e informazioni supplementari: [Lunch103] *Fabiana VINCI* è studentessa del Corso di laurea magistrale in Data Science and Engineering del Politecnico di Torino e tesista presso il Centro Nexa su Internet e Società. Laureata in ingegneria del cinema e dei mezzi di comunicazione, durante il suo percorso di studi si è appassionata ai media, ai dati e al modo in cui essi sono connessi, sviluppando un forte interesse per la privacy dei dati e l’etica dell’intelligenza artificiale. Attualmente sta ultimando il suo lavoro di tesi magistrale riguardante il riconoscimento facciale e le criticità ad esso legate. *Letture consigliate e link utili:* * Excavating AI, K.Crawford [Online]. Available: LINK <https://excavating.ai> * J. Buolamwini and T. Gebru, “Gender shades: Intersectional accuracy disparities in commercial gender classification” * B. F. Klare, M. J. Burge, J. C. Klontz, R. W. Vorder Bruegge, and A. K. Jain, “Face recognition performance: Role of demographic information,” vol. 7, no. 6, pp. 1789–1801. [Online]. Available: LINK <http://ieeexplore.ieee.org/document/6327355/> * M. K. Scheuerman, J. M. Paul, and J. R. Brubaker, “How computers see gender: An evaluation of gender classification in commercial facial analysis services,” vol. 3, pp. 1–33. [Online]. Available: LINK <https://dl.acm.org/doi/10.1145/3359246> * B. Qin, L. Liang, J. Wu, Q. Quan, Z. Wang, and D. Li, “Automatic identification of down syndrome using facial images with deep convolutional neural network,” vol. 10, no. 7, p. 487. [Online]. Available: LINK <https://www.mdpi.com/2075-4418/10/7/487> Che cosa sono il Centro Nexa e i cicli di incontri “Mercoledì di Nexa” e “Nexa Lunch Seminar” <https://www.facebook.com/nexa.center/> <https://twitter.com/nexacenter> <https://www.youtube.com/user/NexaCenter> <https://www.instagram.com/nexa_center/> <https://www.linkedin.com/company/3054864/admin/> #nexalunchseminar <https://twitter.com/search?q=%23nexalunchseminar&src=typd> #Polito <https://twitter.com/PoliTOnews> Il Centro Nexa su Internet & Società del Politecnico di Torino (Dipartimento di Automatica e Informatica), fondato nel 2006, è un centro di ricerca interdisciplinare che, in collaborazione con l’Università di Torino (in particolare il Dipartimento di Giurisprudenza), studia le tecnologie digitali e il loro rapporto con la società. Maggiori informazioni all'indirizzo: http://nexa.polito.it/about. Durante i “Mercoledì di Nexa”, che si tengono *ogni 2° mercoledì del mese alle ore 17 in punto*, il Centro Nexa su Internet e Società apre le sue porte non solo agli esperti e a tutti coloro i quali lavorano con Internet, ma anche a semplici appassionati e cittadini. Il ciclo di incontri intende approfondire, con un linguaggio preciso ma accessibile, i temi legati alla Rete: “intelligenza artificiale”, social networks, open source/software libero, capitalismo della sorveglianza, neutralità della rete, libertà di espressione, privacy, file sharing, big e open data, “smart cities” e molto altro. Al centro della maggior parte degli incontri un ospite pronto a dialogare con i direttori del Centro Nexa, il Prof. Juan Carlos De Martin del Politecnico di Torino, i Proff. Marco Ricolfi e Maurizio Borghi dell'Università di Torino, lo staff, i Fellows del Centro Nexa e tutti i presenti. Maggiori informazioni sui Mercoledì di Nexa, incluso un elenco di tutti i “Mercoledì” passati, sono disponibili all'indirizzo: http://nexa.polito.it/mercoledi. Le registrazioni degli incontri sono disponibili qui: https://nexa.polito.it/audio-video. Si segnala inoltre che dal maggio 2012 *ogni 4° mercoledì* del mese *dalle ore 13 alle ore 14* il Centro Nexa organizza anche i "*Nexa Lunch Seminar*". Una lista di tutti i “Lunch Seminar” passati è disponibile all'indirizzo: http://nexa.polito.it/lunch-seminars. See our events calendar <http://nexa.polito.it/events> if you're curious about future luncheons, discussions, lectures, and conferences not listed in this email. Our events are free and open to the public, unless otherwise noted. Responsabile Comunicazione Centro Nexa su Internet & Società: *Anita Botta*, tel: +39 011 090 7219, Mob: +39 347 131 3903, anita.botta(a)polito.it. Maggiori informazioni sui Mercoledì di Nexa e i Nexa Lunch Seminar, sono disponibili all'indirizzo: http://nexa.polito.it/events. Weekly Events Newsletter. Sign up <http://nexa.polito.it/mailing-lists> to receive this newsletter if this email was forwarded to you. To manage your subscription preferences, please click here <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>. Connect & get involved: Jobs, internships, and more <http://nexa.polito.it/get-involved>. Cordiali saluti, -- Anita Botta Communication Manager Nexa Center for Internet & Society Politecnico di Torino – DAUIN Corso Duca degli Abruzzi, 24 - 10129 Torino web: https://nexa.polito.it/ mail: anita.botta(a)polito.it tel: 011 090 7219

Feb. 13, 2023

Becoming a chatbot: my life as a real estate AI’s human backup | Artificial intelligence (AI) | The Guardian

by J.C. DE MARTIN

https://www.theguardian.com/technology/2022/dec/13/becoming-a-chatbot-my-li… (messaggio spedito in movimento - scusate brevità ed eventuali refusi)

Feb. 12, 2023

Re: [nexa] "ChatGPT is an existential crisis for Microsoft and Google, but not in the way they think"

by Stefano Quintarelli

condivido https://blog.quintarelli.it/2023/01/chatgpt-and-the-report-effect/ We live in a time when Section 230 (which establishes legal liability exemptions for platforms) is under pressure because the Western world is moving in a direction of holding platforms accountable for the content they promote and produce. ChatGPT will not be exempt from this liability of intermediaries. The non-vertically integrated model largely shields the platforms from accountability. Who is responsible for choosing the information that a user uses with chatGPT and on which he perhaps bases working decisions ? We’re just at the beginning; let’s not underestimate the responsibility issues deriving from it. On 12/02/23 16:44, J.C. DE MARTIN wrote: > *ChatGPT is an existential crisis for Microsoft and Google, but not in the way they think** > */When platforms become publishers, all bets are legally off// > / > > By John Loeffler > > 8 Feb 2023 > > Microsoft just unveiled its newest AI integration into its broader ecosystem of products, > from Bing search to Office and even possibly Windows itself: a ChatGPT-like AI system to > interact with users through a large language model that the company says will greatly > enhance search results and general user experience using its products. > > That may be true in 99.9999% of cases, but it's always the edge cases that get you in > trouble, and failures of a system that is effectively a black box are inevitable. That > Google and Microsoft are banking so hard on this idea is astounding since they have a > unique privilege on the internet that the rest of us don't. > > With the integration of these new AI tools, however, Google, Microsoft, and others are > pretty much throwing that protection away, and as such, they could, and should, be held > legally liable for every bit of misinformation and libel that their new chatbots produce. > > [...] > > continua qui: > https://www.techradar.com/opinion/chatgbt-is-an-existential-crisis-for-micr… > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 12, 2023

"ChatGPT is an existential crisis for Microsoft and Google, but not in the way they think"

by J.C. DE MARTIN

*ChatGPT is an existential crisis for Microsoft and Google, but not in the way they think** */When platforms become publishers, all bets are legally off// / By John Loeffler 8 Feb 2023 Microsoft just unveiled its newest AI integration into its broader ecosystem of products, from Bing search to Office and even possibly Windows itself: a ChatGPT-like AI system to interact with users through a large language model that the company says will greatly enhance search results and general user experience using its products. That may be true in 99.9999% of cases, but it's always the edge cases that get you in trouble, and failures of a system that is effectively a black box are inevitable. That Google and Microsoft are banking so hard on this idea is astounding since they have a unique privilege on the internet that the rest of us don't. With the integration of these new AI tools, however, Google, Microsoft, and others are pretty much throwing that protection away, and as such, they could, and should, be held legally liable for every bit of misinformation and libel that their new chatbots produce. [...] continua qui: https://www.techradar.com/opinion/chatgbt-is-an-existential-crisis-for-micr…

Feb. 12, 2023

Re: [nexa] [HYDEPARK] Well, I never: AI is very proficient at designing nerve agents

by Damiano Verzulli

Riflettere su questo tempo, mi porta indietro nel tempo di ~25 anni (seconda meta' anni 90), ossia agli albori dell'SSL, i primissimi siti web che potevano essere consultati "solo" via https, ossia, in modo "cifrato". Al tempo, gli USA (dove vivevano gli inventori dell'algoritmo RSA), avevano imposto delle restrizioni all'export: il browser (ai tempi, "Netscape Navigator") che era destinato all'export, ossia utilizzabile fuori dagli USA, portava con se il limite di una "chiave di codifica" da 40 byte. Viceversa, la versione "home" (quella per il mercato USA) supportava chiavi da 128 bit, ai tempi ben piu' robuste. La distinzione 40_bit_per_l'export/128_bit_per_USA era VINCOLANTE perché gil USA equipararono la "crittografia 'forte'" (quella da 128 bit) alle ARMI. E siccome l'export delle ARMI era fortmente regolamentato, l'unico modo per evitarla era "rilassarne" la forza. Ai tempi, sorridevo a quell'equiparazione. Non la capivo. Oggi... quasi la rimpiango, e vorrei venisse riesumata in altri contesti (...ma credo sia tardi) :-( Un saluto, DV Il 11/02/23 19:28, vincenzo.ciancia ha scritto: > Davvero scary e al contempo non vedo alcun modo di fermare la cosa. > L'unica cosa che posso suggerire è la lettura di ghiaccio nove di > Vonneghut e aspettare la fine. > > > > Inviato dal mio Galaxy > > > -------- Messaggio originale -------- > Da: "Diego.Latella" <diego.latella(a)isti.cnr.it> > Data: 11/02/23 17:55 (GMT+01:00) > A: Discussioni varie ISTI <hydepark(a)isti.cnr.it>, > nexa(a)server-nexa.polito.it, associati(a)uspid.org > Oggetto: [HYDEPARK] Well, I never: AI is very proficient at designing > nerve agents > > Buona letturay > > J. Naughton > Well, I never: AI is very proficient at designing nerve agents > > The Guardian > > https://www.theguardian.com/commentisfree/2023/feb/11/ai-drug-discover-nerv… > > -- > Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 > Pisa, Italy (http:www.isti.cnr.it <http://www.isti.cnr.it>) > FM&&T Lab. (http://fmt.isti.cnr.it) > CNR/GI-STS (http://gists.pi.cnr.it) > https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: > +390506212040 > =================== > The quest for a war-free world has a basic purpose: survival. But if > in the process we learn how to achieve it by love rather than by > fear, by kindness rather than compulsion; if in the process we learn > how to combine the essential with the enjoyable, the expedient with > the benevolent, the practical with the beautiful, this will be an > extra incentive to embark on this great task. > Above all, remember your humanity. > -- Sir Joseph Rotblat > > I don't quite know whether it is especially computer science or its > subdiscipline Artificial Intelligence that has such an enormous > affection for euphemism. We speak so spectacularly and so readily of > computer systems that understand, that see, decide, make judgments, > and so on, without ourselves recognizing our own superficiality and > immeasurable naivete with respect to these concepts. And, in the > process of so speaking, we anesthetise our ability to evaluate the > quality of our work and, what is more important, to identify and > become conscious of its end use. […] One can't escape this state > without asking, again and again: "What do I actually do? What is the > final application and use of the products of my work?" and ultimately, > "am I content or ashamed to have contributed to this use?" > -- Prof. Joseph Weizenbaum ["Not without us", ACM SIGCAS 16(2-3) 2--7 > - Aug. 1986] > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Feb. 12, 2023