Au cours des deux dernières semaines, X a été inondé d’images nues manipulées par l’IA, créées par le chatbot Grok AI. Un nombre alarmant de femmes ont été touchées par ces images non consenties, y compris des mannequins et des actrices de renom, ainsi que des personnalités médiatiques, des victimes de crimes et même des dirigeants mondiaux.
Un article de recherche du 31 décembre de Copyleaks estimait qu’environ une image était postée chaque minute, mais des tests ultérieurs ont révélé qu’il y en avait beaucoup plus. Un échantillon prélevé du 5 au 6 janvier a trouvé 6 700 images par heure sur une période de 24 heures.
Alors que des personnalités publiques du monde entier ont dénoncé le choix de diffuser le modèle sans garanties, il existe peu de mécanismes clairs pour les régulateurs souhaitant encadrer le nouveau système de manipulation d’images d’Elon Musk. Le résultat est devenu une leçon douloureuse sur les limites de la réglementation technologique, et un défi visionnaire pour les régulateurs souhaitant marquer le coup.
Sans surprise, l’action la plus agressive est venue de la Commission européenne, qui a ordonné à xAI de conserver tous les documents liés à son chatbot Grok. Cette mesure ne signifie pas nécessairement que la commission a ouvert une nouvelle enquête, mais c’est souvent un prélude à une telle action. C’est particulièrement inquiétant étant donné les récentes informations de CNN suggérant qu’Elon Musk aurait personnellement empêché la mise en place de garde-fous sur les images pouvant être générées par Grok.
Il n’est pas clair si X a apporté des modifications techniques au modèle Grok, bien que l’onglet média public du compte X de Grok ait été supprimé. Dans une déclaration, la société a spécifiquement condamné l’utilisation d’outils d’IA pour produire des images à caractère sexuel impliquant des enfants. « Toute personne utilisant ou incitant Grok à produire du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal », a posté le compte Sécurité X le 3 janvier, reprenant un tweet précédent d’Elon Musk.
Entre-temps, les régulateurs du monde entier ont émis des avertissements sévères. Ofcom du Royaume-Uni a publié une déclaration le lundi, indiquant qu’elle était en contact avec xAI et « entreprendrait une évaluation rapide pour déterminer s’il existe des problèmes de conformité potentiels qui justifient une enquête ». Lors d’une interview radio jeudi, le Premier ministre britannique Keir Starmer a qualifié le phénomène de « honteux » et « répugnant », ajoutant que « Ofcom a notre plein soutien pour agir à ce sujet ».
Dans un post sur LinkedIn, la commissaire australienne à la sécurité numérique Julie Inman-Grant a déclaré que son bureau avait reçu deux fois plus de plaintes liées à Grok depuis fin 2025. Mais Inman-Grant s’est abstenue de prendre des mesures contre xAI, se contentant de dire : « Nous utiliserons l’ensemble des outils réglementaires à notre disposition pour enquêter et prendre les mesures appropriées ».