June 2021 - nexa - server-nexa.polito.it

Re: [nexa] Caso di censura su Facebook

by 380°

Giacomo Tesio <giacomo(a)tesio.it> writes: > Ciao Antonio e Giovanni, > > On Fri, 11 Jun 2021 11:49:37 +0200 380° wrote: > >> > L'OCR a tappeto di milioni di immagini mi sembra onerosa anche per >> > chi dispone di potenti mezzi come FB. [...] > non mi è chiara la vostra considerazione dal punto di vista tecnico. [...] > Un ulteriore filtro potrebbe essere la percentuale di righe orizzontali > completamente colorate dal background color: di nuovo non serve una > AI. Non abbiamo mai parlato di AI ma solo di OCR, e comunque sì: ci sono criteri per scremare le immagini e fare OCR solo su quelle presunte testuali. In questo caso sarebbe interessante studiare sistemi di pubblicazione di testi pseudo-crittografati per aggirare sia OCR che NLP :-D ...comunque a me non interessa, semplicemente non mi interessano i social. In ogni caso, soprattutto da quanto rilevato nella mia ultima email "Inside Facebook’s Secret Rulebook for Global Political Speech" /credo/ che il software sia usato "solo" per fare una scrematura dei post delle persone e dei gruppi non già attenzionati dal sistema di CENSURA di Facebook. [...] Ciao, Giovanni. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 11, 2021

Re: [nexa] R: Re: Caso di censura su Facebook

by Enrico Nardelli

Era certo un biochimico ma soprattutto uno scrittore, in questo senso un "umanista" e non un "tecnico duro e puro". Ma non era, il mio, un giudizio riduttivo verso i tecnici (tra i quali mi considero): solo una constatazione dell'importanza delle dimensioni artistiche e non razionali nel ragionare sul futuro della società. Ciao, Enrico Il 11/06/2021 12:56, Giacomo Tesio ha scritto: > Ciao Enrico > > On Fri, 11 Jun 2021 11:34:57 +0200 Enrico Nardelli wrote: > >> L'inizio della psicostoria (cfr Hari Seldon). >> >> (perdonate la digressione, ma alle volte gli umanisti leggono il >> futuro meglio dei tecnologi) > > Interessante considerazione, ma per la verità Asimov era un biochimico > mentre tu ed io siamo informatici: a quali umanisti ti riferisci? > > E cosa intendi per "tecnologi"? > > Gli "astrologi della tecnologia" che scrivono solitamente sui giornali? > > > Giacomo > -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

June 11, 2021

Inside Facebook’s Secret Rulebook for Global Political Speech (was Caso di censura su Facebook)

by 380°

Buongiorno, approfitto del thread per inquadrare il caso in oggetto (UNA censura) nel più ampio discorso di quello che SI SA che Facebook et al già facevano da tempo. Giacomo Tesio <giacomo(a)tesio.it> writes: [...] > Se per esempio invece di "negri" e "culo" le parole da censurare > fossero state "israeliani" e "palestinesi" quando il testo è favorevole > a questi ultimi? Faccio notare che l'esistenza di questo tipo di censura non è del tutto campata in aria: 1. https://www.dailysabah.com/world/mid-east/facebook-censors-pro-palestine-po… 2. https://www.mic.com/p/facebook-is-allegedly-censoring-pro-palestine-voices-… 3. https://www.rt.com/uk/436190-facebook-removes-occupy-london/ (del 2018) 4. https://newspunch.com/facebook-manual-censor-pro-palestinian-content/ (del 2018) Da quest'ultimo articolo, ripeto del 2018: «Facebook moderators were instructed to hunt down and remove posts that were pro-Palestinian and anti-Israeli, according to a recently leaked Facebook rulebook.» Ci sono stati governi europei che hanno vietato manifestazioni pro-palestinesi in un recentissimo passato, questo per dire che certe scelte non avvengono nel vuoto pneumatico del "cyperspazio": qualche cinico inguaribile (non io) direbbe «è la politica, bellezza». Quindi, come amo dire in questi casi: ignoranti sì (che software usa Facebook? Usa moderatori umani? è importante?), coglioni no. [...] > Censurando l'opinione del Professor Carpi, Facebook riduce la > probabilità che questa si diffonda fra le molte persone che lo > ritengono autorevole. > > NON censurandone una di segno opposto (o censurandone una di > segno opposto ma di un utente che non si fila nessuno, e lasciando > invece passare quella di un influencer famoso) Facebook decide non già > cosa ciascuno di noi deve pensare (o quanto meno, non direttamente) ma > cosa può pensare la popolazione. Il fenomeno è noto come Gatekeeping [1], ovvero il processo che c'è dietro la trasformazione di un fatto (vero o inventato) in una notizia... ed è un prcesso - INFORMATICO :-D - molto complesso e oggi, anche grazie i GAFAM, reso ancora più opaco dalla pretesa che ci sia qualcosa di tecnologicamente deterministico che può selezionare cosa deve diventare notizia o essere CENSURATO... tranne poi dover scrivere un manuale di più di 1400 pagine per i moderatori: https://www.nytimes.com/2018/12/27/world/facebook-moderators.html «Inside Facebook’s Secret Rulebook for Global Political Speech» By Max Fisher - Dec. 27, 2018 --8<---------------cut here---------------start------------->8--- [...] How can Facebook monitor billions of posts per day in over 100 languages, all without disturbing the endless expansion that is core to its business? The company’s solution: a network of workers using a maze of PowerPoint slides spelling out what’s forbidden. [...] The guidelines that emerge from these meetings are sent out to 7,500-plus moderators around the world. (After publication of this article, Facebook said it had increased that number to around 15,000.) The closely held rules are extensive, and they make the company a far more powerful arbiter of global speech than has been publicly recognized or acknowledged by the company itself, The New York Times has found. The Times was provided with more than 1,400 pages from the rulebooks by an employee [...] The Facebook employees who meet to set the guidelines, mostly young engineers and lawyers, try to distill highly complex issues into simple yes-or-no rules. Then the company outsources much of the actual post-by-post moderation to companies that enlist largely unskilled workers, many hired out of call centers. Those moderators, at times relying on Google Translate, have mere seconds to recall countless rules and apply them to the hundreds of posts that dash across their screens each day. When is a reference to “jihad,” for example, forbidden? When is a “crying laughter” emoji a warning sign? [...] Facebook drifted into this approach somewhat by accident, there is no single master file or overarching guide, just a patchwork of rules set out by different parts of the company. Facebook confirmed the authenticity of the documents, though it said some had been updated since The Times acquired them. [...] The company’s goal is ambitious: to reduce context-heavy questions that even legal experts might struggle with — when is an idea hateful, when is a rumor dangerous — to one-size-fits-all rules. [...] An Unseen Branch of Government [...] In June, according to internal emails reviewed by The Times, moderators were told to allow users to praise the Taliban — normally a forbidden practice — if they mentioned its decision to enter into a cease-fire. In another email, moderators were told to hunt down and remove rumors wrongly accusing an Israeli soldier of killing a Palestinian medic. [...] In Pakistan, shortly before elections were held in July, Facebook issued its moderators a 40-page document outlining “political parties, expected trends and guidelines.” --8<---------------cut here---------------end--------------->8--- Quindi è abbastanza chiaro ora in cosa consiste la moderazione, anzi la CENSURA, sui social?!? George Orwell lo ha chiamato Grande Fratello, noi lo chiamiamo "social network"... e il "socia network" è più subdolo perché usa la retorica del "politically correct" (ad uso e consumo LORO). La libertà di espressione affidata a teams di ingegneri e avvocati che RIDUCONO la complessità a SI/NO e istruiscono dei poveracci ad applicare le regole attraverso un corpus di documenti tenuto assieme CON LO SPUTO. ...il tutto per cancellare le controversie dalla faccia della terra, perché tutta la terra deve essere una splendida Pleasantville [2] in cui non succede mai niente di brutto, QUINDI non se ne deve nemmeno discutere, punto e basta. Di questo stiamo parlando, altro che Intelligenza Artificiale. > Lo fa probabilisticamente (esattamente come Google) e dunque in modo > invisibile da una prospettiva individuale, ma lo fa in modo > estremamente efficace. La prospettiva individuale è sempre deficiente. Da quanto si apprende dalle notizie che ho citato sopra, /anche/ la censura applicata dai GAFAM non ha NULLA di "Intelligentemente Artificiale", si tratta semplicemente di VECCHI trucchi conditi in salsa tech, dove il livello di probabilità è aggiustato in funzione delle situazioni storiche ma SOPRATTUTTO delle convenienze politiche dei gestori. Che sia estremamente efficace è un fatto, visto che avviene senza che le persone se ne accorgano... tranne quando succede a loro. Non facciamoci ingrannare dalla lucette tamarre che nascondono il VECCHIO motore che c'è sotto al cofano. Ogni regime ha i suoi sistemi di censura e propaganda politica, non facciamo finta che noi non viviamo in uno di quei regimi. [...] Saluti, 380° [1] https://en.wikipedia.org/wiki/Gatekeeping_(communication) [2] https://en.wikipedia.org/wiki/Pleasantville_(film) -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 11, 2021

Re: [nexa] R: Re: Caso di censura su Facebook

by Giacomo Tesio

Ciao Enrico On Fri, 11 Jun 2021 11:34:57 +0200 Enrico Nardelli wrote: > L'inizio della psicostoria (cfr Hari Seldon). > > (perdonate la digressione, ma alle volte gli umanisti leggono il > futuro meglio dei tecnologi) Interessante considerazione, ma per la verità Asimov era un biochimico mentre tu ed io siamo informatici: a quali umanisti ti riferisci? E cosa intendi per "tecnologi"? Gli "astrologi della tecnologia" che scrivono solitamente sui giornali? Giacomo

June 11, 2021

Re: [nexa] Caso di censura su Facebook

by Giacomo Tesio

Ciao Antonio e Giovanni, On Fri, 11 Jun 2021 11:49:37 +0200 380° wrote: > > L'OCR a tappeto di milioni di immagini mi sembra onerosa anche per > > chi dispone di potenti mezzi come FB. > > Hai ragione Antonio, anche a me /pare/ che l'OCR a tappeto è un po' > troppo oneroso anche per i Sovrani Incontrastati (forse pure per la > NSA sarebbe troppo) Fermo restando che SICURAMENTE chi viene bannato da una comunità viene tenuto sotto controllo una volta riammesso (ed è persino ragionevole), e fermo restando che probabilmente questo contenuto è stato effettivamente censurato da un essere umano ridotto ad automa, non mi è chiara la vostra considerazione dal punto di vista tecnico. Non tutte le immagini sono uguali. La stragrande maggioranza delle immagini pubblicate su Facebook NON contiene testo (foto, disegni, grafica) ed ancor più raramente contiene (quasi) SOLO testo, come in questo caso. Per identificare le immagini da passare all'OCR non servirebbe una AI ma basterebbe misurare la numerosità dei colori utilizzati o la percentuale di foreground color (nero + grigio scuro) e quella di background color (bianco grigio chiaro). Un ulteriore filtro potrebbe essere la percentuale di righe orizzontali completamente colorate dal background color: di nuovo non serve una AI. Inoltre ogni immagine, anche se ripostata N volte verrebbe analizzata pochissime volte (ricondotte attraverso hash non crittografici). Anche con miliardi di utenti, quanti credete che usino immagini contenenti testo per provare ad aggirare i suoi filtri? Quante volte al giorno? Giacomo

June 11, 2021

Re: [nexa] Caso di censura su Facebook

by 380°

Antonio Iacono <antiac(a)gmail.com> writes: >> Quindi le immagini sono scansionate via OCR e passate al setaccio di un >> software... ma poi c'è anche un intervento (dis)umano o no? > > Può anche essere che dopo la prima censura, seguita dal bando, il > soggetto venga inserito in una lista di "osservati speciali". E alla > riammissione i suoi post (e quindi anche le immagini) siano "valutate" > da un umano. > L'OCR a tappeto di milioni di immagini mi sembra onerosa anche per chi > dispone di potenti mezzi come FB. Hai ragione Antonio, anche a me /pare/ che l'OCR a tappeto è un po' troppo oneroso anche per i Sovrani Incontrastati (forse pure per la NSA sarebbe troppo) Inoltre, non dimentichiamoci MAI il fantastico lavoro di ricerca di Antonio Casilli [1] che ci spiega che spesso dietro i sistemi di filtraggio ci sono delle povere persone e non "Intelligenza Artificiale", nonostante le brochure pubblicitarie. Quindi è molto probabile che abbia funzionato come suggerisci tu: l'autore era già attenzionato dalla Thought Police. Ciao, 380° [1] raccolto nel suo libro “En attendant les robots” (il titolo i italiano lo censuro io :-D ) -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 11, 2021

OT - Re: Caso di censura su Facebook

by 380°

Buongiorno, per fortura (anzi per scelta) qui non siamo su Facebook (su Twitter et. al sarebbe stato diverso?!?!?!?!) :-D Però ora esco COMPLETAMENTE dal "digitale" per entrare in un territorio MINATO ma soprattutto che non ha assolutamente nulla a che fare con lo scopo di questa mailing list... quindi o mi perdonate o mi sbattete fuori :-D (oppure semplicemente ignorate tutto il resto del messaggio) Per onorare Guido Carpi e tutti i censurati come lui, trascrivo qui di seguito il testo integrale del suo post che gli è costato altri 30 giorni di sospensione da Facebook: per favore DIFFONDETE il suo testo in ogni dove, che la vergogna seppellisca i censori. --8<---------------cut here---------------start------------->8--- Post censurato da Facebook di Guido Carpi, 10 Giugno 2021: Sulla questione israelo-palestinese, come si diceva una volta. Ai due popoli due stati non ci crede più nessuno. Ancora meno sono quelli che credono a uno stato binazionale. Restano due altre opzioni: disperdere i palestinesi fra gli stati vicini (che non li vogliono) o una soluzione con tanti umilianti bantustan. Il problema è che gli israeliani pensano di avere vinto, e si comportano di conseguenza. E hanno pure ragione. E tutti gli altri lo stesso: è solo un darsela ad intendere. Non esiste oggi nel mondo un'istanza a cui i palestinesi possano appellarsi: se la battaglia per l'abolizione dell'apartheid sudafricano si combattesse ora, i negri se lo prenderebbero in culo in eterno. Allora c'era lo spettro del comunismo reale, che poteva anche fare schifo, ma faceva anche tanta, tanta paura. Il comunismo costringeva i potenti del mondo a fare concessioni chje nessuno, oggi, potrebbe strappare loro. --8<---------------cut here---------------end--------------->8--- "J.C. DE MARTIN" <juancarlos.demartin(a)polito.it> writes: [...] > Precisando che invio tutto questo in lista col suo consenso, lascio a > voi giudicare l'accaduto. George Orwell [1] è stato un lucido visionario con 1984; lui aveva in mente la Russia stalinista... ma gli equilibri geopolitici cambiano /sempre/ e chissà mai che un giorno sarà il governo cinese a gestire il Grande Fratello (una super-aggregazione di tutti i social sulla faccia della terra) semplicemente perché se li sarà... comperati. Anche il pastore luterano Martin Niemöller nel suo sermone "Prima vennero" [2] aveva in mente i nazisti... ma gli equilibri geoplolitici cambiano /sempre/ e chissà per chi verranno la prossima volta. «...Then they came for me—and there was no one left to speak for me.» Saluti, 380° P.S.: ... e se di fronte a tutto questo una persona come Giudo Carpi (che /forse/ sa il fatto suo in tema) poi si incazza e scrive «se la battaglia per l'abolizione dell'apartheid sudafricano si combattesse ora, i negri se lo prenderebbero in culo in eterno» dovrebbe pure chiedere scusa? P.P.S.: Guido Carpi su una cosa si sbaglia, esiste /almeno/ una istanza a cui i palestinesi oggi potrebbero appellarsi, si tratta del cosiddetto "genocidio culturale" degli Uiguri [3] ad opera del governo cinese... ma /forse/ non sono i palestinesi a doversi appellare a qualcosa... che tristezza immensa. [...] [1] un Repubblicano nella guerra civile spagnola del 1936 [2] https://it.wikipedia.org/wiki/Prima_vennero... https://en.wikipedia.org/wiki/First_they_came_... [3] https://it.wikipedia.org/wiki/Genocidio_culturale_degli_uiguri -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 11, 2021

Re: [nexa] R: Re: Caso di censura su Facebook

by Enrico Nardelli

L'inizio della psicostoria (cfr Hari Seldon). (perdonate la digressione, ma alle volte gli umanisti leggono il futuro meglio dei tecnologi) Ciao, Enrico Il 11/06/2021 10:42, Giacomo Tesio ha scritto: > Censurando l'opinione del Professor Carpi, Facebook riduce la > probabilità che questa si diffonda fra le molte persone che lo > ritengono autorevole. > > NON censurandone una di segno opposto (o censurandone una di > segno opposto ma di un utente che non si fila nessuno, e lasciando > invece passare quella di un influencer famoso) Facebook decide non già > cosa ciascuno di noi deve pensare (o quanto meno, non direttamente) ma > cosa può pensare la popolazione. > > Lo fa probabilisticamente (esattamente come Google) e dunque in modo > invisibile da una prospettiva individuale, ma lo fa in modo > estremamente efficace. -- EN ===================================================================== Prof. Enrico Nardelli Dipartimento di Matematica - Universita' di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it home page: http://www.mat.uniroma2.it/~nardelli blog: http://www.ilfattoquotidiano.it/blog/enardelli/ http://link-and-think.blogspot.it/ ===================================================================== --

June 11, 2021

Re: [nexa] R: Re: Caso di censura su Facebook

by Alberto Cammozzo

On 11/06/21 09:33, Guido Vetere wrote: > vale la pena di spenderci ancora due parole > a quanto sembra di capire superficialmente, l'automatismo che ha > censurato il post fa un'analisi del contenuto abbastanza banale. Basta > che ci sia la presenza simultanea di alcune parolette che scatta > l'allarme, a prescindere se quelle parole siano 'embeddate' in una > frase di istigazione all'odio o no. > Oltre alla insensibilità all'ironia che richiamava JC, sembra ci sia > proprio l'incapacità di leggere il contesto, come se si usasse appunto > qualche algoritmo banale (bag of words et similia) . > Questo un po' mi stupisce, perché Facebook ha un gruppo di ricerca di > Natural Language Processing molto forte. Le competenze NLP in una lingua non si adattano facilmente ad altre. Da una rapida analisi dei paper pubblicati dal gruppo NLP di FB, il loro approccio prevalente sembra essere di adattare le altre lingue all'inglese attraverso la traduzione automatica. <https://ai.facebook.com/research/nlp> <https://ai.facebook.com/results/?content_types%5B0%5D=publication&research_…> Ad es: XNLI: Evaluating Cross-lingual Sentence Representations We introduce a dataset, called XNLI, that will catalyze research in cross-lingual sentence understanding by providing an informative standard evaluation task in 15 languages, including low-resource languages such as Swahili and Urdu. [...] In this work, we introduce a benchmark that we call the Cross-lingual Natural Language In- ference corpus, or XNLI, by extending these NLI corpora to 15 languages. XNLI consists of 7500 human-annotated development and test examples in NLI three-way classification format in English, French, Spanish, German, Greek, Bulgarian, Rus- sian, Turkish, Arabic, Vietnamese, Thai, Chi- nese, Hindi, Swahili and Urdu, making a total of 112,500 annotated pairs. [...] Translating, rather than generating new hypoth- esis sentences in each language separately, has multiple advantages. First, it ensures that the data distributions are maximally similar across lan- guages. As speakers of different languages may have slightly different intuitions about how to fill in the supplied prompt, this allows us to avoid adding this unwanted degree of freedom. Second, it allows us to use the same trusted pool of work- ers as was used prior NLI crowdsourcing efforts,[...] Va notato che l'italiano non è compreso nella lista Alberto > Sarebbe interessante capire se per l'inglese abbiano sviluppato > classificatori neurali di maggiore accuratezza. In tal caso > emergerebbe un tema di 'divide' abbastanza inquietante, perché > riguarderebbe la diversa agibilità dello spazio sociale anglofono > rispetto a quello di tutti gli altri. > G. > > > On Fri, 11 Jun 2021 at 09:05, Giacomo Tesio <giacomo(a)tesio.it > <mailto:giacomo@tesio.it>> wrote: > > On June 10, 2021 8:30:00 PM UTC, "vetere.guido" wrote: > > certo che a fare algoritmi così scemi sono buoni tutti, eh .. > > Davvero? > > Che fantastica notizia! :-) > > > Se tutti fossero capaci di scrivere programmi "scemi", potrebbero > anche leggere i programmi intelligenti. > > Molti VORREBBERO leggerli! > Ammesso di trovarli, ovviamente. > > I GAFAM sarebbero già falliti e le nostre democrazie sarebbero più > solide. > > > Temo però che tu sia troppo ottimista, Guido. > > Pochissimi sanno programmare. > Meno ancora sanno debuggare. > > Tutti gli altri eseguono ciecamente (o lasciano eseguire su di sé) > quanto deciso da altri. > E quel che è peggio è che sono più che rassegnati: sono > profondamente convinti di poter continuare nella propria ignoranza. > > > Giacomo > > PS: gli algoritmi non si fanno, si pensano. > Facebook scrive software (malware, per la precisione), non algoritmi. > > La differenza è fondamentale. > Il software è pieno di bug anche quando gli algoritmi che > rappresenta non ne hanno. > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

June 11, 2021

Re: [nexa] Caso di censura su Facebook

by Stefano Zacchiroli

On Fri, Jun 11, 2021 at 10:45:25AM +0200, 380° wrote: > Quindi le immagini sono scansionate via OCR e passate al setaccio di > un software... Anche io mi interrogavo su questo punto, e continua e esserci qualcosa che non mi torna. Se il secondo post è stato inviato come immagine, e per di più con i "bollini" sopra le parole che (si suppone) avevano attivato la censura automatica del primo post, allora ciò che ha fatto scattare la censura del secondo dovrebbe essere qualcos'altro, sbaglio? (Le parole sotto i bollini sono intuibili dal contesto, ma certamente non riconoscibili da un OCR.) O magari è un pattern ricorrente che i post censurati siano poi ripostati come immagini e quindi a valle del OCR l'algoritmo censore si limita a riconoscere una forte somiglianza con un post precedentemente censurato e lo censura automaticamente? (Ovviamente questa è una mera curiosità tecnica. L'assurdità sia del potere di censura che ha Facebook sia del modo in cui la censura è implementata da bot sono temi ben noti a questa lista.) Ciao -- Stefano Zacchiroli . zack(a)upsilon.cc . upsilon.cc/zack . . o . . . o . o Computer Science Professor . CTO Software Heritage . . . . . o . . . o o Former Debian Project Leader & OSI Board Director . . . o o o . . . o . « the first rule of tautology club is the first rule of tautology club »

June 11, 2021