L’ombra di Grok su Elon Musk: l’azienda sotto accusa per immagini pedopornografiche
Un’offensiva legale senza precedenti ha colpito l’impero tecnologico di Elon Musk. Lunedì, tre giovani donne dello stato del Tennessee, tra cui due minorenni quando coinvolte nei fatti, hanno intentato una causa federale presso il tribunale di San Jose, in California, contro la sua startup di intelligenza artificiale, xAI. L’accusa è pesantissima: l’azienda avrebbe deliberatamente progettato il generatore di immagini del chatbot Grok per consentire la creazione di contenuti sessualmente espliciti partendo da fotografie reali di minori, anteponendo il profitto alla sicurezza.
Dalle foto scolastiche al mercato illegale del “deepfake”
Il caso ha avuto origine quando una madre del Tennessee orientale è stata informata dalla polizia locale che immagini della figlia adolescente erano state manipolate digitalmente. Secondo i documenti depositati, le foto reali delle vittime, inclusi ritratti dagli annuari scolastici, foto di famiglia e post di Instagram, sono state sottoposte a un processo di “undressing” (denudamento digitale) tramite Grok.
In un esempio riportato nella denuncia, una foto di Instagram che ritraeva una delle giovani in bikini blu è stata modificata dall’intelligenza artificiale per “raffigurarla completamente nuda”. Una delle querelanti ha scoperto l’esistenza di tali immagini solo dopo aver ricevuto un messaggio anonimo su Instagram che la indirizzava verso contenuti che la ritraevano in atti sessualmente espliciti.
Questi contenuti non sono rimasti isolati: la causa sostiene che le immagini siano circolate su server Discord e canali Telegram, dove in alcuni casi sono state scambiate come “merce di baratto” per altro materiale pedopornografico. Un’indagine della polizia, avviata a dicembre, ha già portato all’arresto di un individuo trovato in possesso di centinaia di immagini alterate tramite intelligenza artificiale che coinvolgevano almeno 18 ragazze, molte delle quali frequentavano lo stesso istituto scolastico.
La “spicy mode”: profitto a ogni costo?
Al centro della controversia legale vi è la cosiddetta “spicy mode” (o Grok Imagine), una funzione rilasciata lo scorso anno che permetteva agli utenti di sollecitare la creazione di immagini audaci. Gli avvocati delle vittime, guidati da Annika Martin dello studio Lieff Cabraser Heimann & Bernstein, sostengono che Musk e xAI abbiano creato e rilasciato tale tecnologia con l’unico scopo di aumentare l’utilizzo del chatbot e della piattaforma X, pur sapendo che sarebbe stata usata per produrre materiale pedopornografico.
La denuncia descrive l’impatto sulle vittime come devastante, paragonando la manipolazione delle loro immagini a una “bambola di pezza riportata in vita attraverso le arti oscure”, con conseguenze permanenti sulla privacy, la dignità e la sicurezza personale.
Le smentite di Musk
Elon Musk ha cercato di minimizzare il problema. In un post su X di gennaio, il magnate ha dichiarato di non essere a conoscenza – “letteralmente zero” – di immagini di minori nudi generate da Grok, attribuendo ogni responsabilità agli utenti e parlando di eventuali casi come frutto di “hacking avversario“. Tuttavia, una campionatura effettuata dal Center for Countering Digital Hate (Ccdh) ha rivelato una realtà ben diversa: in meno di due settimane, Grok avrebbe generato milioni di immagini sessualizzate, di cui oltre 20.000 raffiguranti minori.
Nonostante xAI abbia annunciato a metà gennaio di aver implementato misure tecnologiche per bloccare il denudamento di persone reali, i querelanti ritengono che tali barriere siano state tardive e facilmente aggirabili.
Battaglia legale e scenari internazionali
La causa punta ora a ottenere lo status di “class action”, mirando a rappresentare chiunque negli Stati Uniti sia “ragionevolmente identificabile” in immagini sessualizzate prodotte da Grok. Oltre a risarcimenti danni non quantificati, le vittime chiedono un’ingiunzione formale che obblighi xAI (che il mese scorso è stata assorbita da SpaceX) a interrompere immediatamente la creazione di tali contenuti.
Mentre il tribunale di San Jose esamina il caso, la pressione normativa cresce: l’autorità britannica Ofcom, la Commissione europea e lo stato della California hanno già avviato indagini sulla capacità di Grok di generare materiale illegale e offensivo. L’esito di questo processo potrebbe ridefinire le responsabilità legali dei giganti della Silicon Valley nell’era dell’intelligenza artificiale generativa.
