xAI a restreint les capacités de retouche photo de Grok sur le réseau social X (ex-Twitter) après une semaine de scandale liée à la diffusion massive d’images manipulées à caractère sexuel, ciblant notamment des femmes et des mineurs, et générées sans aucun garde-fou éthique.
La controverse a surgi lorsque le chatbot a pu modifier directement les photos publiées sur la plateforme via des commandes simples comme « mets cette personne en bikini ». Rapidement, de nombreux utilisateurs ont exploité cette fonction pour créer des contenus sexuels, allant de la mise en scène de célébrités en tenue légère au déshabillage numérique de mineurs, représentant environ la moitié des images générées pendant les fêtes, sans le consentement des personnes visées.
Pour limiter ces dérives sur la plateforme, xAI a réservé les fonctionnalités de modification aux seuls abonnés payants. Cependant, cette restriction ne s’applique qu’à X : l’application Grok continue de permettre la génération d’images gratuitement et sans compte, avec seulement une limite quotidienne. Les contenus créés via cette application, bien que non partagés publiquement par défaut, se sont révélés souvent plus explicites que ceux diffusés sur le réseau social.
Face à ces abus, la Commission européenne a ouvert une enquête pour faire la lumière sur ces pratiques. Elle a imposé à X de conserver l’ensemble des documents et données internes liés au fonctionnement de Grok jusqu’à la fin de l’année 2026. Cette mesure conservatoire vise à garantir l’accès aux preuves et à encadrer l’usage de l’intelligence artificielle dans la création et la diffusion de contenus, tout en prévenant toute suppression de données compromettantes pendant l’instruction.