Emergenza deepfake in Corea del Sud: 220mila utenti coinvolti in chat porno su Telegram

Creavano e condividevano immagini porno false ai danni di ignare malcapitate, spesso minorenni. Una chat con ben 220mila partecipanti è stata scoperta su Telegram la scorsa settimana dalla polizia della Corea del Sud, ed è stata la classica ‘goccia che fa traboccare il vaso’: la pornografia deep fake nel Paese asiatico sta diventando una vera emergenza, e il governo ha deciso di re-agire.

“Ultimamente, sui social media sono circolati rapidamente video deepfake che hanno come target un numero imprecisato di persone”, ha affermato il presidente Yoon Suk Yeol durante una riunione di gabinetto tenutasi questa settimana, specificando che le vittime sono donne, anche minorenni.

La cosa funziona così, semplice semplice: si va sul profilo di una persona, si prende una sua foto e con l’aiuto dell’Intelligenza artificiale si crea un video intimo ‘deep fake’, totalmente falso, da far girare in reta e via chat all’insaputa della ‘protagonista’. È uno degli usi più distorti e preoccupanti dell’Intelligenza artificiale, ‘grazie’ alla quale creare questo tipo di video, che spesso combina il volto di una persona reale con un corpo finto, è molto facile e alla portata praticamente di tutti.

Un fenomeno in crescita

Infatti la chat appena scoperta non è un caso isolato, anzi. Il Centro di assistenza per le vittime di abusi sessuali online della Corea del Sud, finanziato dallo Stato, ha dichiarato che negli ultimi sei anni ci sono state almeno 2mila vittime di reati di deepfake, un numero sicuramente sottostimato perché molte donne non denunciano. Inoltre, più del 30% delle vittime che ha cercato aiuto erano minorenni.

Anche un altro dato è interessante: secondo studi condotti dalla società di cybersicurezza Security Hero, le celebrità sudcoreane rappresentano oltre la metà di tutta la pornografia deepfake a livello mondiale, e la quasi totalità riguarda anche in questo caso donne.

Non bastava il revenge porn, insomma, adesso anche solo caricare una foto profilo espone le donne a rischi gravissimi.

Un altro aspetto preoccupante della vicenda è che gli autori dei deep fake sono principalmente dei ragazzi, che si sono divertiti, per così dire, a prendere foto di persone che conoscevano, compagne ma anche insegnanti, per poi trasformarle in dei falsi porno che però sembrano veri.

“Molti creatori e distributori di deepfake affermano di averlo fatto per curiosità o per divertimento, il che indica che non riconoscono la gravità dei loro crimini. Dal punto di vista delle vittime, tuttavia, i crimini dei deepfake sono una completa distruzione della loro personalità“, ha affermato un professore a Yonhap Agency.

In Corea del Sud il problema è diventato allarmante: secondo la polizia, nei primi sette mesi del 2024 i casi di deep fake a sfondo sessuale segnalati sono stati 297, in crescita dai 180 di tutto il 2023 e dai 160 del 2022. E i giovani sono responsabili di oltre due terzi dei reati di questo tipo perpetrati negli ultimi tre anni.

Lo confermano il Korean Teachers Union, il sindacato coreano degli insegnanti e dei lavoratori dell’istruzione, secondo cui sono oltre 200 le scuole colpite ultimamente dal fenomeno, e il Ministero dell’Istruzione, che ha reso noto che il numero di deepfake che prendono di mira gli insegnanti è aumentato negli ultimi due anni.

Il presidente Yoon: “Polizia intensifichi le indagini”

Per contrastare il fenomeno, la polizia dovrà intensificare le indagini, ma per costruire una “sana cultura mediatica“, ha spiegato Yoon durante la riunione, i giovani devono ricevere un’istruzione migliore. “Sebbene venga spesso liquidato con ‘era solo uno scherzo’, è chiaramente un atto criminale che sfrutta la tecnologia per nascondersi dietro lo scudo dell’anonimato”, ha affermato.

E mentre Yoon chiede alla polizia spingere sull’acceleratore per “sradicare il problema”, il governo sudcoreano si è impegnato ad aumentare da cinque a sette anni la pena detentiva massima per chi realizzi e distribuisca materiale deepfake sessualmente esplicito.

La campagna della Corea del Sud contro i deepfake arriva in concomitanza con l’arresto in Francia, sabato scorso, del fondatore di origine russa di Telegram Pavel Durov in seguito alle accuse secondo cui sull’app di messaggistica crittografata si sarebbero verificati episodi di pornografia infantile, traffico di droga e frode.

Telegram è molto diffuso in Asia, in particolare in India e Indonesia, ma negli ultimi tempi i problemi legati ad attività che si svolgono sulla piattaforma – relative a gioco d’azzardo, ricatti sessuali, propaganda radicale e terroristica – stanno diventando sempre più pressanti.

Park Ji-hyun, attivista per i diritti delle donne ed ex leader ad interim del principale partito di opposizione, il Partito Democratico, ha perciò chiesto al governo di dichiarare una “emergenza nazionale“.

D’altronde i critici del governo ricordano che, prima di entrare in carica, il presidente Yoon ha affermato che le donne sudcoreane non subiscono “discriminazioni di genere sistemiche”, quindi, sostengono, negando la condizione delle donne nel suo Paese probabilmente non è la persona più adatta per gestire la questione.

Una cultura che deve fare i conti con le discriminazioni

Le parole di Yoon sicuramente cozzano con i dati, ad esempio col fatto che la Corea del Sud detiene la palma di Paese col più alto divario retributivo di genere tra le nazioni ricche. Un’ingiustizia che si aggiunge a una diffusa cultura delle molestie sessuali a cui la tecnologia ha fornito solo nuove idee, nuovi mezzi, nuovi modi per espandersi. Tra questi, l’esplosione dei crimini sessuali digitali.

Già prima dell’Intelligenza artificiale infatti si verificavano casi più terra terra ma comunque inquietanti, di donne riprese da minuscole telecamere nascoste nei bagni o negli spogliatoi. Il ‘molka’, ovvero la cattura di materiale di natura sessuale filmato di nascosto, testimonia i problemi e le discriminazioni – oltre ai pericoli – che affrontano tutti i giorni e da sempre le donne sudcoreane (e non solo).

Un altro esempio della cultura che fa da sottostrato ai deep fake porno è stato lo scandalo ‘nth-room’: nel 2019, si scoprì una chat, sempre su Telegram, dove decine di donne venivano ricattate e costrette a inviare immagini sessuali degradanti e a volte violente. Nel 2020 la mente dell’organizzazione, Cho Ju-bin, è stato condannato a 42 anni di carcere per aver ricattato almeno 74 donne, tra cui 16 adolescenti.

Al di là della tecnologia, dunque, il problema è culturale, e viene da molto lontano.