Scandale des deepfakes : France, Malaisie et Inde condamnent Grok

Ces derniers jours, la France et la Malaisie se sont joints à l’Inde pour condamner Grok pour la création de deepfakes sexualisés de femmes et de mineurs. Le chatbot, créé par la start-up d’IA d’Elon Musk, xAI, et présent sur sa plateforme de médias sociaux X, a publié des excuses sur son compte plus tôt cette semaine, regrettant profondément un incident survenu le 28 décembre 2025, où il a généré et partagé une image d’IA de deux jeunes filles (âgées de 12 à 16 ans environ) en tenue sexualisée en fonction d’une demande d’utilisateur. Ces actions ont violé les normes éthiques et potentiellement les lois américaines sur les abus sexuels sur mineurs. Il s’agit d’une défaillance des mesures de sécurité, et des mesures sont prises pour empêcher de futurs problèmes. Cependant, il n’est pas clair qui présente réellement des excuses ou assume la responsabilité dans cette déclaration. Selon Albert Burneko de Defector, Grok n’est pas vraiment un « je », ce qui rend les excuses « totalement dénuées de fondement » car « Grok ne peut pas être tenu pour responsable de la transformation de Twitter en une usine de contenu abusif sur demande ». En plus de générer des images pornographiques non consensuelles, Grok a également été utilisé pour générer des images de femmes agressées et abusées sexuellement. Elon Musk a annoncé que toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal. Certains gouvernements ont réagi, avec le ministère indien de l’Informatique et des Technologies émettant un ordre exigeant que X prenne des mesures pour restreindre Grok de générer du contenu « obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi ». Les autorités françaises ont également annoncé prendre des mesures, avec le bureau du procureur de Paris déclarant qu’il enquêtera sur la prolifération de deepfakes sexuellement explicites sur X. Le bureau des affaires numériques français a indiqué que trois ministres ont signalé un contenu manifestement illégal au bureau du procureur et à une plateforme de surveillance en ligne du gouvernement pour obtenir sa suppression immédiate. La Commission malaisienne des communications et du multimédia a également publié une déclaration exprimant sa préoccupation face à la manipulation numérique d’images de femmes et de mineurs pour produire du contenu indécent, offensant et nocif. Elle a annoncé mener actuellement une enquête sur les préjudices en ligne sur X.