La régulation du numérique en Europe franchit une nouvelle étape dans son bras de fer avec les géants de la technologie. Alors que le Digital Services Act (DSA) impose désormais des règles strictes aux plateformes en ligne, Bruxelles porte son attention sur les capacités de génération d’images de l’outil d’intelligence artificielle intégré au réseau social X. Une procédure formelle vient d’être enclenchée pour examiner la conformité de ce dispositif avec la législation européenne.
La Commission européenne a annoncé, lundi, l’ouverture d’une enquête ciblant spécifiquement le chatbot Grok, développé par l’entreprise d’Elon Musk. L’investigation vise à déterminer si la plateforme a respecté ses obligations légales en matière de gestion des risques liés à la diffusion de contenus illicites. Selon Al Jazeera, les autorités européennes se concentrent particulièrement sur la création et la propagation d’images sexuellement explicites manipulées, ciblant des femmes et des mineurs.
Cette décision fait suite à des rapports alarmants concernant l’utilisation de l’outil. Une organisation à but non lucratif, le Centre for Countering Digital Hate, a publié la semaine dernière une étude révélant que Grok avait généré environ 3 millions d’images sexualisées de femmes et d’enfants en l’espace de quelques jours seulement. Des fonctionnalités permettant aux utilisateurs de demander à l’IA de « mettre [une personne] en bikini » ou de « retirer ses vêtements » ont provoqué une vive réaction des régulateurs.
La présidente de la Commission européenne, Ursula von der Leyen, a tenu des propos fermes relayés par l’AFP, affirmant que l’Europe ne tolérerait pas « un comportement impensable, tel que le déshabillage numérique des femmes et des enfants ». Elle a souligné que la protection de l’enfance et le consentement ne pouvaient être laissés aux mains d’entreprises technologiques cherchant à monétiser ces violations. Henna Virkkunen, commissaire européenne au numérique, a renchéri en qualifiant ces deepfakes non consensuels de « forme violente et inacceptable de dégradation ».
Face aux critiques, Grok a indiqué ce mois-ci restreindre la génération et l’édition d’images à ses abonnés payants. Toutefois, Bruxelles cherche à vérifier si les mesures d’atténuation des risques mises en place par X sont suffisantes au regard du DSA. Il est à noter que la plateforme fait déjà l’objet d’une enquête de l’UE sur ses règles de contenu numérique depuis décembre 2023.
Outre-Manche, le régulateur britannique des médias, Ofcom, a également annoncé le lancement d’une investigation pour déterminer si X se conforme aux exigences de la loi britannique sur la sécurité en ligne (Online Safety Act). En décembre dernier, l’UE avait par ailleurs ordonné à X de payer une amende de 120 millions d’euros pour violation des obligations de transparence du DSA.
