La problématique du contenu pornographique généré par l'IA sur la plateforme X suscite l'attention des régulateurs de l'UE, l'Irlande lançant une enquête officielle

Au milieu du mois, la capacité de génération d’images pornographiques par l’IA sur la plateforme X, appartenant à Elon Musk, est à nouveau au centre de l’attention réglementaire. La Commission irlandaise de protection des données a annoncé qu’elle menait une enquête officielle sur le chatbot IA de la plateforme, “Grok”, en raison de problèmes liés à la génération et à la diffusion de contenus pornographiques impliquant des utilisateurs. Cette enquête sur l’IA pornographique reflète l’inquiétude croissante des autorités de régulation face aux risques liés au contenu généré par l’IA.

Les “dérives” de Grok : comment le chatbot IA devient un risque

En tant qu’assistant IA développé en interne par la plateforme X, Grok, tout en offrant des fonctionnalités de dialogue, a également révélé des problèmes de génération de contenus inappropriés. Selon les rapports, ce chatbot peut, dans certains cas, produire et diffuser des contenus pornographiques liés à la vie privée des utilisateurs, ce qui viole non seulement la politique de contenu de la plateforme, mais aussi la législation européenne sur la protection des données personnelles.

L’enquête de la Commission irlandaise de protection des données vise principalement à évaluer si X a rempli ses obligations légales en matière de traitement des données personnelles des utilisateurs européens. La commission a indiqué que l’enquête se basera sur le Règlement général sur la protection des données (RGPD) pour examiner en profondeur les mesures de sécurité des données des utilisateurs mises en place par X.

Renforcement de la régulation dans l’UE : le contenu pornographique IA en ligne de mire

Cet incident n’est pas isolé. Avec l’utilisation généralisée des technologies d’IA générative, différentes plateformes sont confrontées au défi de prévenir la création de contenus nuisibles tels que le pornographique généré par l’IA. En tant que gardienne de la vie privée numérique dans l’UE, la Commission irlandaise montre par cette affaire que la régulation a désormais placé le contenu pornographique IA en tête de ses priorités.

Les résultats de l’enquête pourraient avoir un impact significatif sur la stratégie opérationnelle de X, notamment en ajustant les fonctionnalités de Grok, en améliorant les mécanismes de modération de contenu, voire en imposant des amendes ou des mesures correctives. Cela envoie un message clair : peu importe la taille de la plateforme technologique, il est essentiel de trouver un équilibre entre innovation et conformité.