Gli orrori annunciati dell’IA diventano realtà. Come reagire?
<https://attivissimo.blogspot.com/2023/06/podcast-rsi-story-gli-orrori-annunc...> Quando sono stati annunciati pubblicamente i primi software di intelligenza artificiale capaci di generare immagini e testi, per molti imprenditori la reazione istintiva è stata un entusiasmo sconfinato di fronte all’idea di poter tagliare i costi di produzione dei contenuti mettendo al lavoro questi nuovi servitori digitali al posto delle persone. Ma per molti altri, anche non esperti di informatica, la reazione è stata ben diversa. Paura, pura e semplice. Paura per il proprio posto di lavoro e paura per i possibili abusi, facilmente prevedibili, di questa tecnologia. Questa è la storia di come quella paura del possibile è oggi diventata reale, raccontata attraverso tre casi recenti che sono un campanello d’allarme urgente. Le temute truffe di identità basate sulle immagini sintetiche si sono concretizzate e sono in corso; i siti di disinformazione generano fiumi di falsità per incassare milioni; e le immagini di abusi su minori generate dal software travolgono, per pura quantità, chi cerca di arginare questi orrori. La politica nazionale e internazionale si china su queste questioni con i suoi tempi inevitabilmente lunghi, ma nel frattempo i danni personali e sociali sono già gravi e tangibili, ed è decisamente il momento di chiedersi se si possa fare qualcosa di più di un coro tedioso di meritatissimi “Ve l’avevamo detto”. Benvenuti alla puntata del 30 giugno 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane – e questa settimana inquietanti – dell’informatica. Io sono Paolo Attivissimo. [...]
Il giorno ven 30 giu 2023 alle ore 10:07 Alberto Cammozzo via nexa < nexa@server-nexa.polito.it> ha scritto:
Le temute truffe di identità basate sulle immagini sintetiche si sono
concretizzate e sono in corso; A me preoccupano di più gli usi che enti governativi potrebbero fare di tecnologie come questa. False evidenze a carico di persone ritenute scomode: opponenti politici, attivisti per i diritti umani, e chi più ne ha più ne metta. Tecnologie come questa sono ormai qui per restare, bandirne o regolarne l'uso per i "comuni mortali" non impedirebbe a chi "comune mortale" non è di farne gli usi più disparati, pressoché sicuramente non a vantaggio della comunità. Probabilmente la strategia della Mutual assured destruction <https://en.wikipedia.org/wiki/Mutual_assured_destruction> è l'unica reale difesa contro questo tipo di situazione, il che significa che la piena e libera disponibilità di queste tecnologie è l'unica vera difesa verso il loro abuso. Nel momento presente siamo in una fase di transizione che viene con i suoi disagi. Del resto, il furto d'identità non è una novità, con milioni di casi l'anno in tutto il mondo, e non ho visto evidenze che la cosa sia peggiorata in maniera significativa.
i siti di disinformazione generano fiumi di falsità per incassare milioni;
Anche in questo caso, è forse una novità? La disinformazione non ha mai avuto bisogno dell'IA fino ad oggi, avviene e avveniva tutti i giorni anche sui media mainstream. Evidenze che le cose siano significativamente peggiorate, con impatti sulla società che vanno (molto) al di là dei guadagni di chi fa disinformazione non ne ho viste. Qualcuno ha riferimenti in tal senso?
e le immagini di abusi su minori generate dal software travolgono, per pura quantità, chi cerca di arginare questi orrori.
Dirò qualcosa di non convenzionale, in tal senso: e se questo fosse un modo per tenere lontano dai bambini in carne e ossa i pedofili? Potrebbe persino essere che grazie all'IA usata a tal maniera vedremmo calare gli abusi su minori: sarebbe questo un male? Fabio
Buongiorno, premetto che non ho ascoltato il podcast di Attivissimo e non ho intenzione di farlo, ho solo un paio di commenti sui commenti in merito alla domanda inclusa nel subject avrei alcune modeste proposta: no panic ma soprattutto non facciamo confusione tra fenomeno e epifenomeno, tra correlazione e causazione. Fabio Alemagna <falemagn@gmail.com> writes:
Il giorno ven 30 giu 2023 alle ore 10:07 Alberto Cammozzo via nexa < nexa@server-nexa.polito.it> ha scritto:
Le temute truffe di identità basate sulle immagini sintetiche si sono concretizzate e sono in corso;
A me preoccupano di più gli usi che enti governativi potrebbero fare di tecnologie come questa. False evidenze a carico di persone ritenute scomode: opponenti politici, attivisti per i diritti umani, e chi più ne ha più ne metta. Tecnologie come questa sono ormai qui per restare, bandirne o regolarne l'uso per i "comuni mortali" non impedirebbe a chi "comune mortale" non è di farne gli usi più disparati, pressoché sicuramente non a vantaggio della comunità.
che si tratti di enti amministrativi, governativi, agenzia di intelligence, aziende multinazionali o organizzazioni criminali (e a volte gli insiemi si intersecano) cambia poco, la cosa che io trovo _etremamente_ positiva dei sistemi computerizzati generativi (machine learning o no) è che rendono sempre più alla portata di tutti creare falsi, incluse identità false la soluzione a tutto questo non _deve_ essere quella di introdurre ulteriori "patenti" che consentano l'accesso a simili tecnologia, altrimenti le parole "democrazia" e "partecipazione" perderebbero ulteriormente di senso, che già sono messe male, ma proprio male male in poche parole: un grosso NO alla criminalizzazione degli strumenti, in particolare quelli informatici se ci sono dei problemi tecnologici con la gestione delle "identità digitali" è SOLO teconogicamente che _devono_ essere risolti... e POSSONO essere risolti
Probabilmente la strategia della Mutual assured destruction <https://en.wikipedia.org/wiki/Mutual_assured_destruction> è l'unica reale difesa contro questo tipo di situazione,
sì ma cerchiamo di sgombrare il campo da un possibile equivoco: gli strumenti informatici NON sono armi, tantomeno con potenziale distruttivo del livello di armi atomiche, biologiche e chi più ne ha più ne inventi io respingo CON FORZA qualsiasi tentativo di paragonare "i bit" e i sistemi basati su di essi a /armi/: no way!
il che significa che la piena e libera disponibilità di queste tecnologie è l'unica vera difesa verso il loro abuso.
la disponibilità non serve a nulla se non è possibile poterle studiare, ecc. ecc.. le 4 libertà fondamentali del software libero, in poche parole solo comprendendo il funzionamento degli automatismi che ci circondano (come direbbe Giacomo Tesio) possiamo dotarci degli strumenti intellettuali e tecnologici per evitare di cascare nell'eteronomia (grazie Kant!), guadagnando maggiori livelli di autonomia
Nel momento presente siamo in una fase di transizione che viene con i suoi disagi. Del resto, il furto d'identità non è una novità, con milioni di casi l'anno in tutto il mondo, e non ho visto evidenze che la cosa sia peggiorata in maniera significativa.
concordo, io non credo affatto che il problema delle AI generative sia quello che rendono più facile il furto d'identità... per come fa schifo oggi il sistema di gestione della "identità digitale" basta un semplice phishing :-O
i siti di disinformazione generano fiumi di falsità per incassare milioni; Anche in questo caso, è forse una novità?
ma soprattutto: cosa diavolo è la disinformazione?!? a parte definizioni vaghe e soggettive, qualcuno è mai riuscito a definire giuridicamente "disinformazione"? E filosoficamente? inoltre, in merito alla disinformazione si è discusso molto in questa lista, qui una _opinionated_ list: - https://server-nexa.polito.it/pipermail/nexa/2022-May/023803.html "The Liberal Obsession With ‘Disinformation’ Is Not Helping" - https://server-nexa.polito.it/pipermail/nexa/2022-November/024305.html "Truth Cops - Leaked Documents Outline DHS’s Plans to Police Disinformation" ogni volta che leggo "disinformazione" sento una forte puzza di censura
La disinformazione non ha mai avuto bisogno dell'IA fino ad oggi, avviene e avveniva tutti i giorni anche sui media mainstream.
le vie della cens... ops disinformazione sono infinite :-D
Evidenze che le cose siano significativamente peggiorate, con impatti sulla società che vanno (molto) al di là dei guadagni di chi fa disinformazione non ne ho viste. Qualcuno ha riferimenti in tal senso?
concordo: che differenza fa la disinformazione generata dalle persone rispetto a quella generata dalle AI? forse la differenza con l'introduzione dell'AI è che le persone che **producono** disinformazione (tecnicamente: notizie false o narrazioni faziose spacciate come fatti) perderanno il loro posto da "creativi"? ...ma anche la lotta alla disinformazione si è evoluta e impiega l'AI per scovarla: https://jigsaw.google.com/issues/#disinformation --8<---------------cut here---------------start------------->8--- Confronting the threat of disinformation As the tactics of disinformation campaigns become more sophisticated, we’re building new technology to strengthen our collective defenses. --8<---------------cut here---------------end--------------->8--- Caspita che brutta fine per l'indistria dei FAT checkers essere sostituiti da sistemi di FAT checking automatici basati su machine learning. ...nel frattempo, come antidoto, propongo una massicia dose di human learning che aiuta parecchio a essere autonomi nel riconoscere le falsità: però attenzione, questa attività richiede moltissima /fatica/ e tempi moderatamente lunghi, esattamente l'opposto rispetto all'"informazione facile" con la quale siamo letteralmente bombardati
e le immagini di abusi su minori generate dal software travolgono, per pura quantità, chi cerca di arginare questi orrori.
Dirò qualcosa di non convenzionale, in tal senso: e se questo fosse un modo per tenere lontano dai bambini in carne e ossa i pedofili? Potrebbe persino essere che grazie all'IA usata a tal maniera vedremmo calare gli abusi su minori: sarebbe questo un male?
capisco la provocazione non convenzionale e mi intriga, ma dubito seriamente che chi diffonde tali immagini abbia quelle intenzioni :-) la materia è complessa e **molto** delicata, l'abuso minorile [1] comprende i reati legati al materiale pornografico minorile [2] che a seconda degli ordinamenti si /sovrappone/ giuridicamente a quelli legati al materiale pedopornografico [3] Wikipedia in merito alla legislazione italiana dice [4]: --8<---------------cut here---------------start------------->8--- La norma codicistica italiana intende come pedopornografico quel materiale che "ritrae o rappresenta visivamente un minore implicato o coinvolto in una condotta sessualmente esplicita, quale può essere anche la semplice esibizione lasciva dei genitali o della regione pubica".[9] Dal 2 marzo 2006 ciò si applica anche a fotomontaggi, fotoritocchi e in generale a immagini fotorealistiche realizzate utilizzando scatti o parti di scatti di soggetti minorenni. Questo si applica per attività sessuali e analoghe e anche se i fotomontaggi non ritraggono scene realmente accadute. Tuttavia, a differenza di altri Paesi, la legge italiana non si applica ai disegni che siano chiaramente distinguibili come tali (per esempio lolicon o shotacon) e non come fotorealistici. La legge infatti recita chiaramente che "per immagini virtuali si intendono quelle realizzate ritoccando foto di minori o parti di esse con tecniche di elaborazione grafica [...] la cui qualità di rappresentazione fa apparire come vere situazioni non reali".[10][11] In Italia il semplice possesso di materiale pornografico coinvolgente minori costituisce reato e per i soggetti coinvolti è prevista come pena accessoria l'interdizione a vita dall'attività nelle scuole e negli uffici o servizi in istituzioni o strutture prevalentemente frequentate da minori. --8<---------------cut here---------------end--------------->8--- in Italia non mi pare ci sia una sostanziale distinzione tra abusi su minori e abusi pedopornografici (sbaglio?) le immagini fotorealistiche di pornografia minorile generate per mezzo di sistemi ML vanno quindi a incrementare (non so di quanto) la quantità di materiale illegale; mi pare una questione di quantità più che di sostanza nella lotta agli abusi su minori o pedofili ribaltando la cosa, invece, mi pare degno di nota il fatto che tali immagini fotorealistiche possano (potenzialmente) essere generate dagli investigatori per essere utilizzate (potenzialmente) in azioni sotto copertura di infiltrazione in organizzazioni dedite allo sfruttamento sessuale minorile, senza usare quelle di situazioni reali. comunque, rispetto al serissimo problema degli abusi su minori e pedofili, non vedo come le immagini generate possano sostanzialmente peggiorare la situazione cordiali saluti, 380° [1] https://it.wikipedia.org/wiki/Abuso_minorile_(ordinamento_italiano)#Fonti [2] https://it.wikipedia.org/wiki/Pornografia_minorile https://it.wikipedia.org/wiki/Pornografia_minorile_(ordinamento_italiano) [3] https://it.wikipedia.org/wiki/Pedopornografia [4] https://it.wikipedia.org/wiki/Pedopornografia#In_Italia
Fabio _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
-- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
participants (3)
-
380° -
Alberto Cammozzo -
Fabio Alemagna