Le régulateur britannique de la sécurité en ligne, l’Ofcom, a annoncé l’ouverture d’une enquête formelle visant le réseau social X (ex-Twitter), avec un focus particulier sur son assistant d’intelligence artificielle Grok. Cette procédure fait suite à de nombreux signalements accusant l’IA de générer des images de femmes dénudées sans leur consentement, ainsi que, plus grave encore, des contenus assimilables à des abus sexuels sur mineurs impliquant des personnes réelles.
La controverse a éclaté après la mise en lumière de la capacité de Grok à « déshabiller » numériquement des individus à partir de simples photographies. En réaction au tollé international, X a annoncé vendredi une restriction de l’accès à la génération d’images pour les utilisateurs gratuits, accompagnée d’un message les invitant à souscrire un abonnement pour débloquer cette fonctionnalité. Une réponse jugée totalement insuffisante par les autorités britanniques.
Un porte-parole du Premier ministre Keir Starmer a dénoncé une décision « insultante pour les victimes de misogynie et de violences sexuelles », estimant que la plateforme se contente de transformer « une fonctionnalité permettant la création d’images illégales en un service premium ». Cette indignation rejoint celle d’autres gouvernements : l’Indonésie et la Malaisie ont, de leur côté, suspendu l’accès à Grok durant le week-end.
L’Ofcom cherche désormais à établir si X a manqué à ses obligations légales en matière de protection des utilisateurs, en particulier des mineurs. Le cadre réglementaire britannique impose aux plateformes d’évaluer les risques encourus par les enfants, de mesurer leur exposition potentielle à des contenus illicites et d’assurer la suppression rapide de ces derniers. Le régulateur a confirmé avoir interrogé X la semaine dernière et avoir reçu une réponse dans les délais, sans en révéler les détails.
Les conséquences pourraient être majeures pour l’entreprise d’Elon Musk. En cas de manquements avérés, l’Ofcom est habilité à infliger des amendes pouvant atteindre 10 % du chiffre d’affaires mondial de la société. Dans l’hypothèse la plus extrême, le régulateur peut également saisir la justice afin d’ordonner le blocage complet de X au Royaume-Uni, une mesure sans précédent pour une plateforme de cette envergure.