Deepfake a scuola: 17enne indagato per foto intime prodotte con l’Intelligenza artificiale
Le proprie foto trasformate in nudi da vendere online “grazie” all’ausilio dell’Intelligenza artificiale. Il creatore dei contenuti? Un compagno di classe. Questo è quanto è emerso da un’indagine condotta dalla Guardia Civil spagnola che ha spiegato che un 17enne della regione di Ribera Alta, Valencia, è stato indagato per aver diffuso immagini e video delle proprie compagne, modificando i contenuti con l’Ai per renderli dei “deepnude”.
Secondo l’inchiesta, l’adolescente avrebbe pubblicato foto e video sui social media e li avrebbe pubblicizzati su un sito web con l’intenzione di guadagnare dei soldi tramite lo sfruttamento delle immagini e – quindi- dei volti delle coetanee. A denunciarlo, ben 16 minorenni.
Le indagini
L’operazione è iniziata nel dicembre 2024, quando una ragazza ha segnalato la creazione di un account a suo nome su una nota piattaforma social, dove è stato pubblicato un video generato da un’intelligenza artificiale che la ritraeva nuda. Lo stesso account conteneva anche foto di altre persone, tutte minorenni, modificate rispetto alle fotografie originali, con lo scopo di vendere quei contenuti online. A questa prima denuncia ne sono seguite altre 15, sempre di giovani adolescenti e per gli stessi motivi. Gli investigatori, dopo aver sentito le ragazze, hanno individuato il possibile autore del reato: un compagno di scuola superiore.
Gli agenti hanno ottenuto così i dati di accesso e di utilizzo di queste piattaforme, inclusi gli indirizzi IP, che appartenevano all’indirizzo di casa del 17enne.
Il fenomeno dei deepnude
Con l’avvento dell’Intelligenza artificiale, sempre più persone si sono ritrovate ad essere protagoniste di contenuti creati con l’Ai, nei quali erano ritratti e protagonisti, ma a propria insaputa. Si chiamano “deppfake” e rappresentano un tema di crescente diffusione, rilevanza e preoccupazione. Una deriva di questi contenuti falsi è quella dei “deepnude” che consiste nel rimuovere gli indumenti a una persona, creando immagini finte e sessualmente esplicite.
Il fenomeno è diventato noto quando ad esserne vittima sono stati diversi personaggi del mondo dello spettacolo. Ma il crescente perfezionamento dell’Ai e la capacità di reperibilità di foto di minori online ha consentito sempre più che il fenomeno dilagasse anche verso personaggi non famosi, spesso creando vere e proprie reti criminali di deppfake e deepnude pedopornografici. E in Spagna, il fenomeno pare coinvolgere un adolescente su cinque.
I dati del deepfake pornografico in Spagna
Secondo uno studio di Save the Children, in Spagna un giovane su cinque ha dichiarato che immagini di nudo, create con l’intelligenza artificiale, sono state condivise online senza il suo consenso quando aveva meno di 18 anni. L’indagine ha rilevato che il 97% degli intervistati ha dichiarato di aver subito qualche tipo di violenza sessuale in un ambiente digitale quando era minorenne. Il 33% dei giovani ha avuto contatti con un adulto per scopi sessuali nell’ambiente digitale. Il 26% è stato sottoposto a pressioni per inviare contenuti intimi o sessuali, con il 20% che ha subito minacce o ricatti: fenomeno che si aggira intorno al 30% per le ragazze e al 18% per i ragazzi.
“Queste cifre rappresentano solo la punta dell’iceberg, poiché la maggior parte dei casi non è nota, in parte a causa dell’assenza di segnalazioni e in parte a causa delle difficoltà di individuazione, che aumentano quando questi eventi si verificano online”, ha affermato Catalina Perazzo, Direttrice per l’influenza e lo sviluppo territoriale di Save the Children in Spagna.
Deepfake e deepnude in Italia: è un reato?
Il reato di creazione di immagini sessuali tramite l’Ai, senza consenso dei protagonisti, è attualmente nelle aule parlamentari, tramite un disegno di legge in attesa di approvazione nel parlamento spagnolo. Un caso simile a quello di Valencia, ma accaduto a settembre 2023 nell’Estremadura, nel sud-ovest della Spagna, aveva già visto protagonisti 15 minorenni che avevano prodotto false immagini di nudo delle loro compagne di scuola. In seguito, sono stati condannati a un anno di libertà vigilata.
In Italia, invece, il disegno di legge n.1146/24, di iniziativa governativa e contenente “Disposizioni e delega al Governo in materia di intelligenza artificiale” è attualmente in esame al Senato per la seconda lettura e prevede l’introduzione di un nuovo reato nel Codice penale italiano.
L’Articolo 26 del Dll prevede ‘Modifiche al codice penale e ad ulteriori disposizioni penali’. La modifica riguarda l’articolo 612-quater, “Illecita diffusione di contenuti generati o manipolati con sistemi di intelligenza artificiale”, nell’ambito del titolo XII (Delitti contro la persona), capo III (Delitti contro la libertà individuale), sezione III (Delitti contro la libertà morale). Il nuovo articolo 612-quater c.p. “punisce con la reclusione da 1 a 5 anni chiunque cagioni un danno ingiusto ad una persona cedendo, pubblicando o diffondendo, senza il suo consenso, immagini, video o voci falsificati o alterati mediante l’impiego di sistemi di intelligenza artificiale e idonei a trarre in inganno sulla loro genuinità – si legge nel Dll -. Secondo quanto riportato dalla relazione illustrativa riferita al disegno di legge originario, attraverso la disposizione in commento si vuole offrire una tutela rafforzata della persona, incentrando l’offensività della condotta sul pregiudizio all’autodeterminazione ed al pieno svolgimento della personalità, circostanza confermata anche dalla collocazione sistematica della disposizione fra i delitti contro la persona e, segnatamente contro la libertà morale. Il delitto, inoltre, è punibile a querela, ma si procede d’ufficio se il fatto è connesso con altro delitto per il quale si deve procedere d’ufficio ovvero se il fatto è commesso nei confronti di persona incapace, per età o infermità, o nei confronti di una pubblica autorità a causa delle funzioni esercitate”.
