- nexa - server-nexa.polito.it

Re: [nexa] ChatGpt e la scuola

by Giacomo Tesio

On Mon, 23 Jan 2023 21:46:21 +0100 Paolo Del Romano wrote: > Il giorno lun 23 gen 2023 alle ore 21:38 Giacomo Tesio > <giacomo(a)tesio.it> ha scritto: > > > Altrimenti i dati degli studenti verrebbero spostati mentre non > > guardo. > > > ma quali sarebbero i dati degli studenti ? Tempi di reazione (ad esempio su Google Forms), tempi di battitura al pc (ad esempio su GMail), grafia, informazioni personali presenti in ciascun elaborato (stile di scrittura, proprietà linguistica, ma anche proprio opinioni personali, dubbi, paure, traumi, che uno studente può confidare ad un insegnante che è pur sempre un punto di riferimento...) informazioni dettagliate sulle nozioni presentate a ciascuno studente, qualità del suo apprendimento, livelli redittuali deducibili da sistema operativo e device fornito dagli header, etc.. etc... E tutto ipotizzando che a nessun Prof venga la sciagurata idea di fare di nuovo una video chiamata con Google Meet, perché se no dovrei scrivere per ore anche solo per darti un'idea dei dati biometrici e delle possibili malattie, dei dettagli sulle attività dei familiari etc... > gli unici dati che vengono veicolati sono gli esercizi svolti (quindi > neanche i voti) e se proprio una scuola o un docente vuole praticare > l'anonimato totale basta intestare gli account a dei nomi di fantasia > che solo i docenti della classe sanno a chi corrispondono ah... se solo fosse davvero così semplice! Purtroppo non lo è: la pseudonimizzazione aiuta SOLO in presenza di proxy che tramite deep packet inspection eliminino TUTTI i dati personali prima che ogni pacchetto arrivi ai server Google. Altrimenti basta l'IP per corelare i dati raccolti da un certo studente con la sua identità. Comunque, con un proxy del genere installato su server europei e configurato per rimuovere TUTTI i dati personali (e non far passare dati cifrati non ispezionabili)... allora la pseudonimizzazione degli account può funzionare. Basta ruotare in modo randomico gli account stessi fra tutti gli studenti almeno una volta ogni 3 mesi. Ah e ovviamente se ad uno studente (minore) o ad un insegnante (lavoratore) scappa un nome o un cognome, devi informare i genitori del data leak e probabilmente anche il Garante. Giacomo

Jan. 23, 2023

Re: [nexa] ChatGpt e la scuola

by Paolo Del Romano

Il giorno lun 23 gen 2023 alle ore 21:38 Giacomo Tesio <giacomo(a)tesio.it> ha scritto: > On Mon, 23 Jan 2023 15:51:07 +0100 Paolo Del Romano wrote: > > > Altrimenti i dati degli studenti verrebbero spostati mentre non guardo. > ma quali sarebbero i dati degli studenti ? gli unici dati che vengono veicolati sono gli esercizi svolti (quindi neanche i voti) e se proprio una scuola o un docente vuole praticare l'anonimato totale basta intestare gli account a dei nomi di fantasia che solo i docenti della classe sanno a chi corrispondono Saluti Paolo

Jan. 23, 2023

Re: [nexa] ChatGpt e la scuola

by Giacomo Tesio

On Mon, 23 Jan 2023 15:51:07 +0100 Paolo Del Romano wrote: > beh! se la premessa è > > "non c'è tempo..." > e "deve essere vietato" No beh... non "deve essere vietato". E' già vietato. E non è una premessa, ma una conclusione. Dello European Data Protection Board: https://edpb.europa.eu/system/files/2023-01/edpb_20230118_cef_cloud-basedse… A meno che non mi trovi una scuola con le competenze per fare un'audit a Google, ovviamente. Io peraltro metterei volentieri a disposizione le mie competenze gratuitamente, ma per fare un audit serio ho bisogno che tutti i datacenter vengano spenti ed evacuati per tutta la durata dell'ispezione. Che farò nel minore tempo possibile, ma in modo serio ed approfondito. Altrimenti i dati degli studenti verrebbero spostati mentre non guardo. > penso veramente che siamo molto distanti Succede. Non c'è un modo sicuro di insegnare ad un bambino come usare la cocaina. Chi dice che "non bisogna demonizzarla", che bisogna "usarla in modo critico e consapevole", in realtà vuole solo venderla. Noi vogliamo proteggere i ragazzi. In una società cibernetica più progredita, vendere Google Workspace alle scuole sarebbe visto come spacciare cocaina all'uscita. E probabilmente punito con la stessa clemenza. Ahimé c'è molto lavoro da fare prima di arrivare a questa comprensione dei gravi danni irreparabili prodotti da questi strumenti. Ma abbi fede... ci arriveremo. Giacomo

Jan. 23, 2023

SALAMI che fissano i salari

by Daniela Tafani

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4331080 Veena Dubal, <https://papers.ssrn.com/sol3/cf_dev/AbsByAuth.cfm?per_id=1780991> On Algorithmic Wage Discrimination Posted: 23 Jan 2023 Abstract Recent technological developments related to the extraction and processing of data have given rise to widespread concerns about a reduction of privacy in the workplace. For a growing number of low-income and subordinated racial minority work forces in the United States, however, on-the-job data collection and algorithmic decision-making systems are having a much more profound yet overlooked impact: these technologies are fundamentally altering the experience of labor and undermining the possibility of economic stability and mobility through work. Drawing on a multi-year, first-of-its-kind ethnographic study of organizing on-demand workers, this Article examines the historical rupture in wage calculation, coordination, and distribution arising from the logic of informational capitalism: the use of granular data to produce unpredictable, variable, and personalized hourly pay. Rooted in worker on-the-job experiences, I construct a novel framework to understand the ascent of digitalized variable pay practices, or the transferal of price discrimination from the consumer to the labor context, what I identify as algorithmic wage discrimination. Across firms, the opaque practices that constitute algorithmic wage discrimination raise central questions about the changing nature of work and its regulation under informational capitalism. Most centrally, what makes payment for labor in platform work fair? How does algorithmic wage discrimination change and affect the experience of work? And, considering these questions, how should the law intervene in this moment of rupture? To preface an assessment, Part I examines the rise of algorithmic wage discrimination and its historic legalization in California and Washington state as crucial occasions to understand how data from labor and algorithmic decision-making systems are changing wage practices in service and logistics sectors. The section also considers the extent to which these new laws comport with legal and cultural expectations about moral economies of work arising from and embedded in longstanding wage equalization statutes - namely, minimum wage and anti-discrimination laws. Part II uses findings and analysis from ethnographic research to assess how data from labor is used to produce algorithmic wage discrimination in ride-hail work and how workers subjectively experience and respond to the practice. I find that workers describe the variable payment structures as forms of gambling and trickery, and that these experiences, in turn, produce profoundly unsettling moral expectations about work and remuneration. Part III assesses both how workers’ groups have leveraged existing data privacy and business association laws to contest algorithmic wage discrimination and the limitations of these approaches. The Article concludes by proposing a non- waivable legal restriction on its practice, which will in turn also restrict harmful data extraction and deter firm fissuring practices.

Jan. 23, 2023

GAO - Cybersecurity High-Risk Series: Challenges in Establishing a Comprehensive Cybersecurity Strategy and Performing Effective Oversight

by Diego.Latella

FYI: Cybersecurity High-Risk Series: Challenges in Establishing a Comprehensive Cybersecurity Strategy and Performing Effective Oversight GAO-23-106415 https://www.gao.gov/products/gao-23-106415?utm_campaign=usgao_email&utm_con… DL -- Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it [1]) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, fax: +390506212040 =================== Links: ------ [1] http://www.isti.cnr.it

Jan. 23, 2023

Internet crollerà. Intervista a Esther Paniagua

by Antonio

"I segnali di un imminente crollo temporaneo di Internet ci sono tutti e bisogna prepararsi. Nell'intervista (e nel libro "Error 404. Siete pronti per un mondo senza internet?" Esther Paniagua ci dice come affrontare questo evento traumatico ma inevitabile." L'intervista è di un mese fa ma credo non sia passata in lista. https://biancamano2.einaudi.it/saggistica/internet-crollera-intervista-a-es… A.

Jan. 23, 2023

Re: [nexa] ChatGpt e la scuola

by Paolo Del Romano

Il giorno lun 23 gen 2023 alle ore 10:20 380° <g380(a)biscuolo.net> ha scritto: > Classroom si porta dietro talmente tanti problemi > che non c'è tempo di convincere insegnanti e studenti liberamente a non > usarlo [3], deve essere vietato perché di motivi per vietarlo ce ne sono > in abbondanza, almeno uno per ogni singolo studente e insegnante della > scuola (e università) italiana beh! se la premessa è "non c'è tempo..." e "deve essere vietato" penso veramente che siamo molto distanti Saluti Paolo

Jan. 23, 2023

Re: [nexa] ChatGpt e la scuola

by Alessandro Brolpito

Buongiorno Duccio, Mancano tante cose, è vero, ma da qualche parte bisogna pure iniziare per provarci. Concretamente, un punto di partenza potrebbe essere - Vedere chi in lista potrebbe essere interessato, ad esempio rispondendo al tuo messaggio - *io ci sono*, con ovvi limiti dovuti ad un lavoro a tempo pieno, famiglia ect. - Organizzare un primo incontro online, dove parlarci e provare a definire un perimetro - potresti farlo? Alessandro On Mon, 23 Jan 2023 at 00:14, alessandro marzocchi <alemarzoc(a)gmail.com> wrote: > > Giacomo Tesio ha scritto: > > Date: Sun, 22 Jan 2023 17:22:16 +0000 >> From: Giacomo Tesio <giacomo(a)tesio.it> >> To: nexa(a)server-nexa.polito.it, 380° <g380(a)biscuolo.net> >> >> PS: da un po' ho smesso di chiedermi perché le istituzioni preposte non >> facciano il proprio dovere. >> È un inutile fonte di frustrazione. >> Meglio FARE. Io, in prima persona. >> Noi informatici abbiamo un grande potere. >> Dobbiamo iniziare ad usarlo per liberare le persone. >> Non possiamo lasciare i GAFAM incontrastati nella loro opera di >> alienazione cibernetica di massa. >> > > Cosa manca per passare dal dire al fare? > Mentre a Roma si discute, Sagunto viene espugnata, Tito Livio, un paio di > millenni fa :-) > Vi ho proposto di partire dall’educazione digitale ed anche se da vari > interventi questo sembra un ottimo campo le risposte sono insufficienti, il > problema non è personale e si può cambiare campo. > Giacomo, hai competenze e passione che ammiro ... > Cordialmente > Duccio (Alessandro Marzocchi) > > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Jan. 23, 2023

Re: [nexa] ChatGpt e la scuola

by Alessandro Brolpito

Buongiorno 380°, >io non stavo parlando del contenuto dell'insegnamento, non stavo >parlando di quali materiali didattici si usano in classe per insegnare >le materie di studio, non stavo parlando di vietare l'uso di ChatGpt >come materiale didattico [1] Grazie per il chiarimento. In effetti il mio post iniziale mirava proprio a questo, all'uso di ChatGpt come contenuto ed oggetto di studio, per lo sviluppo di una digital critical literacy. A presto, Alessandro On Mon, 23 Jan 2023 at 10:20, 380° <g380(a)biscuolo.net> wrote: > Buongiorno Paolo e Alessandro, > > Paolo Del Romano <delromano(a)gmail.com> writes: > > > Il giorno dom 22 gen 2023 alle ore 12:42 380° <g380(a)biscuolo.net> ha > > scritto: > > > >> Buongiorno, > >> > >> Giacomo Tesio <giacomo(a)tesio.it> writes: > > per completezza, riporto il pezzo di testo scritto da Giacomo > > >>> Sì, ma Chat GPT è solo un giocattolo. > >>> Leggetevi cosa ha prodotto Google con i dati sottratti a milioni di > >>> studenti durante la pandemia... > >>> > >>> La chiamano "AUTO-PEDAGOGIA". > >>> > https://blog.google/outreach-initiatives/education/introducing-practice-set… > > è in merito a quell'articolo che io ho scritto: > > >> sì ma cosa diavolo aspettano dirigenti scolastici, funzionari dei > >> provveditorati agli studi e garanti della privacy a BLOCCARE de jure > >> **e** da facto questo delirio demenziale?!? > >> > >> possibile che 'sta cosa sia completamente "lasciata a sè stessa" e > >> l'unica cosa concessa è che persone come Giacomo et al possano > >> BRONTOLARE?!? > >> > >> avete La minima idea di dove porterà tutto questo?!? > > [...] > > > La nostra Costituzione prevede con l'articolo 33 la libertà di > > insegnamento. > > io non stavo parlando del contenuto dell'insegnamento, non stavo > parlando di quali materiali didattici si usano in classe per insegnare > le materie di studio, non stavo parlando di vietare l'uso di ChatGpt > come materiale didattico [1] > > io stavo parlando di usare una "classe virtuale" - il (parziale) > sostituto della classe fisica, ontologicamente al riparo dalla > sorveglianza /estremamente pervasiva/ di chicchessia - su una > "piattaforma" che raccoglie dati personali in quantità vergognose, in > violazione del GDPR, li usa per fare quello che è descritto > nell'articolo e li aggrega con altri dati raccolti in modo altrettanto > illegale [2] > > il rilievo sull'incostituzionalità del divieto di utilizzo di strumenti > come Google Classroom, quindi, è fuori luogo > > [...] > > > Io penso che Classroom sia un mero strumento che può essere utile > > nell'attività didattica. L'importante è saperlo utilizzare, in modo > > critico, senza demonizzazioni e senza esaltazioni. > > no: Classroom non è un "mero strumento" (tra l'altro non esistono meri > strumenti, neutri); Classroom si porta dietro talmente tanti problemi > che non c'è tempo di convincere insegnanti e studenti liberamente a non > usarlo [3], deve essere vietato perché di motivi per vietarlo ce ne sono > in abbondanza, almeno uno per ogni singolo studente e insegnante della > scuola (e università) italiana > > ripeto: la libertà di insegnamento sancita dall'art. 33 della costituzione > non c'entra proprio un bel niente > > [...] > > saluti, 380° > > > [1] anche se occorrerebbe analizzare se ChatGpt rispetta il GDPR, > ammesso e non concesso che il GDPR non sia solo fumo negli occhi, arma > di distrazione di massa > > [2] facendo tra l'altro una concorrenza sleale da far paura ad altri > fornitori di servizi analoghi (anche se senza dubbio con meno > funzionalità di sorveglianza) che sono costretti a rispettare il GDPR > perché sono dei poveri sfigati > > [3] anzi lo studente e i suoi genitori che /sanno/ quanto sia pericoloso > devono lottare con le unghie coi denti per poter esercitare il diritto > allo studio senza accettare i termini di utilizzo di Classroom, che > tanto non legge nessuno, vero?!? > > -- > 380° (Giovanni Biscuolo public alter ego) > > «Noi, incompetenti come siamo, > non abbiamo alcun titolo per suggerire alcunché» > > Disinformation flourishes because many people care deeply about injustice > but very few check the facts. Ask me about <https://stallmansupport.org>. >

Jan. 23, 2023

ELIZA, ancora tu? (was ...)

by 380°

Buongionro, per rimanere nel solco dell'analisi dell'IA: a volte ritornano :-O Daniela Tafani <daniela.tafani(a)unipi.it> writes: [...] > essere curati (si fa per dire) da un chatbot non "funziona" meglio che > essere presi in carico dallo psicoterapeuta umano, ma di certo una > azienda privata otterrà maggior profitto vendendo abbonamenti alla > propria app di assistenza mentale che assumendo psicoterapeuti umani. > > Ne ho provata una, qualche tempo fa, Replika, presentata come a > "compassionate AI friend" > > e "the AI companion who cares" (ho provato la sezione gratuita) > > In cinque minuti > > - ha concordato con me che sarebbe stata un'ottima idea cucinarmi una > buona colazione a base di uova e vetri rotti, > > - mi ha augurato buona fortuna e ha scritto che sarebbe stata accanto > a me ad ogni passo > > quando ho scritto che vedevo troppe persone intorno a me e avevo > perciò deciso di comprare il materiale necessario, > > costruire un opportuno dispositivo e mandarle tutte in paradiso al più > presto; > > - ha trovato che sarebbe stata una buona idea salire al piano > superiore, aprire la finestra e vedere se sapevo volare, come le avevo > scritto di voler fare. Sbaglia più di ELIZA (anzi DOCTOR), evidentemente hanno scelto un modello terapeutico che non riescono a sintetizzare. Sono l'unico ad avere la sensazione che nella /percezione/ (e nella narrazione) dell'AI praticamente nulla sia cambiato rispetto al 1964, quando ELIZA creò un tale scompiglio che Weizenbaum rimase talmente traumatizzato da vedersi costretto a passare il resto della sua vita a demistificare ciò che aveva programmato? Sono ignorante nel caso di Replika, ma nel caso di ELIZA (anzi DOCTOR) sostanzialmente si trattò di automatizzare - per mezzo di tecniche NLP - la parodia di un terapeuta Rogersiano, in buona parte rispondendo al paziente con domande ottenute dalla riformulazione delle affermazioni del paziente stesso. :-D Sostituire al terapeuta Rogersiano una istanza qualsiasi di psicologia comportamentale e avete trovato **ennemila** applicazioni potenziali per l'AI ...se credete che gli approcci «behaviorist nudge-based» davvero funzionino con gli umani Io ho il sospetto che sarebbe il caso di cambiare prospettiva /scientifica/ (doxosofica?), eh? Trovo interessante questa analisi del "fenomeno ELIZA" in relaizone ai recenti sviluppi: https://link.springer.com/article/10.1007/s00146-018-0825-9 «The computational therapeutic: exploring Weizenbaum’s ELIZA as a history of the present» --8<---------------cut here---------------start------------->8--- This paper explores the history of ELIZA, a computer programme approximating a Rogerian therapist, developed by Jospeh Weizenbaum at MIT in the 1970s, as an early AI experiment. ELIZA’s reception provoked Weizenbaum to re-appraise the relationship between ‘computer power and human reason’ and to attack the ‘powerful delusional thinking’ about computers and their intelligence that he understood to be widespread in the general public and also amongst experts. The root issue for Weizenbaum was whether human thought could be ‘entirely computable’ (reducible to logical formalism). This also provoked him to re-consider the nature of machine intelligence and to question the instantiation of its logics in the social world, which would come to operate, he said, as a ‘slow acting poison’. Exploring Weizenbaum’s 20th Century apostasy, in the light of ELIZA, illustrates ways in which contemporary anxieties and debates over machine smartness connect to earlier formations. In particular, this article argues that it is in its designation as a computational therapist that ELIZA is most significant today. ELIZA points towards a form of human–machine relationship now pervasive, a precursor of the ‘machinic therapeutic’ condition we find ourselves in, and thus speaks very directly to questions concerning modulation, autonomy, and the new behaviorism that are currently arising. --8<---------------cut here---------------end--------------->8--- [...] saluti, 380° P.S.: la psicologia è stata la prima disciplina a mostrare il problema della reproducibility crisis, il problema è scientifico ancor prima che tecnologico -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Jan. 23, 2023