La ministra tedesca propone sanzioni più severe contro le immagini erotiche create con IA

La ministra della Giustizia tedesca Stefanie Hubig (SPD) ha annunciato l’intenzione di introdurre sanzioni più rigorose contro la creazione di contenuti sessualizzati mediante intelligenza artificiale. In una dichiarazione alla testata Neue Osnabrücker Zeitung, Hubig ha parlato di un intervento mirato attraverso modifiche al diritto penale. “Dobbiamo proteggere ancora meglio le persone interessate da tali manipolazioni di immagini da parte dell’intelligenza artificiale”, ha affermato. L’iniziativa prevede l’introduzione di fattispecie penali specifiche per affrontare il fenomeno della manipolazione digitale che crea immagini erotiche di persone reali utilizzando l’IA per “spogliare” foto trovate su internet. Il riferimento è alla recente tendenza degli utenti di Grok, l’intelligenza artificiale di X (ex Twitter) a chiedere all’algoritmo di generare immagini “in bikini” di persone che non hanno dato il loro consenso. Spesso queste immagini hanno molteplici profili di illegalità.

Il caso Grok e la diffusione di immagini erotiche non consensuali generate con IA e diffuse su X

Grok è noto da tempo come l’algoritmo di intelligenza artificiale con meno censure, dal punto di vista dei contenuti sessualizzati. Il sistema consente infatti agli utenti di richiedere la sessualizzazione di fotografie pubblicate online e gli utenti ne hanno fatto largo uso. Non sorprenderà scoprire che la stragrande maggioranza delle immagini sessualizzate senza consenso siano foto di donne e minori, perfino neonati. Recentemente, qualcuno ha chiesto e ottenuto dall’intelligenza artificiale di Elon Musk un’immagine che toglieva gli abiti al cadavere di Renee Good, assassinata a Minneapolis da un’agente dell’ICE mentre cercava di allontanarsi in auto, per sostituirli con un bikini. L’autorità britannica Ofcom ha avviato verifiche sull’utilizzo improprio di questa tecnologia.

Che cosa dice la legge

Le normative vigenti prevedono già strumenti di contrasto di questo fenomeno. Le immagini di minori generate artificialmente possono configurare reati di pedopornografia, mentre per contenuti riguardanti adulti esistono possibilità di azione legale da parte delle persone le cui immagini sono state acquisite e utilizzate senza consenso. Tuttavia, secondo Hubig, gli strumenti attuali risultano insufficienti. Il ministero sta elaborando una normativa sulla protezione dalla violenza digitale che prevede sanzioni specifiche per i deepfake lesivi dei diritti della personalità.

La proposta include meccanismi di tutela rafforzati: le vittime dovrebbero poter ottenere rapidamente la rimozione dei contenuti dalle piattaforme e l’interruzione della diffusione. Nei casi di violazioni ripetute e gravi, il provvedimento potrebbe comportare il blocco temporaneo degli account responsabili.

Elon Musk: “indagini fasciste”

Nel Regno Unito, Musk ha reagito alle indagini di Ofcom sulla propria piattaforma, definendole “fasciste”. Secondo il miliardario sudafricano, le autorità che intendono regolare l’uso di Grok da parte degli utenti sarebbero colpevoli di tentativi di “censura”.

Hubig ha respinto le critiche relative a potenziali limitazioni della libertà di espressione. “Non ha nulla a che vedere con la censura”, ha affermato, specificando che i diritti di espressione trovano un limite nella violazione dei diritti della personalità. La ministra ha escluso intenzioni di vietare software o chiudere piattaforme, precisando che è prevalentemente l’Unione Europea ad avere il potere di regolamentare questo tipo di attività. L’iniziativa sostiene le verifiche avviate anche dalla presidente della Commissione europea Ursula von der Leyen nei confronti di X e Grok.

Elon Musk monetizza i contenuti sessuali su Grok

In risposta alle polemiche sull’ampia diffusione di contenuti sessualizzati di donne e bambini creati da Grok, X ha modificato l’accesso alla funzione di generazione immagini, limitandola agli utenti con abbonamento a pagamento. Non sorprende che Musk sia stato accusato di cercare di “monetizzare gli abusi”, più che di contrastarli. Vale però la pena di notare che l’applicazione autonoma Grok, ovvero la versione che funziona indipendentemente da X, continua, per il momento, a consentire la generazione di immagini senza abbonamento.

Wolfram Weimer, ministro tedesco della cultura, ha descritto il fenomeno come “l’industrializzazione delle molestie sessuali”. La Commissione Europea ha classificato tali contenuti come illegali. L’autorità britannica per la protezione dei dati ha richiesto a X chiarimenti sulle modalità di rispetto delle normative vigenti. Musk ha dichiarato che chi utilizza Grok per contenuti illegali affronterà conseguenze equivalenti a quelle previste per il caricamento diretto di materiale vietato. xAI, startup di proprietà di Musk, ha risposto a richieste di commento di varie testate con la frase “Legacy Media Lies” ovvero “I media tradizionali mentono”.