L’Inde a ordonné à X d’Elon Musk de procéder immédiatement à des modifications techniques et procédurales de son chatbot IA Grok après que des utilisateurs et des législateurs ont signalé la génération de contenu « obscène », y compris des images de femmes modifiées par l’IA créées à l’aide de l’outil.
Le ministère indien des technologies de l’information a émis l’ordre vendredi, demandant à X de prendre des mesures correctives sur Grok, notamment en restreignant la génération de contenu impliquant de la « nudité, de la sexualisation, des contenus sexuellement explicites ou illégaux ». Le ministère a également donné à la plateforme de médias sociaux 72 heures pour soumettre un rapport sur les mesures prises pour empêcher l’hébergement ou la diffusion de contenus jugés « obscènes, pornographiques, vulgaires, indécents, sexuellement explicites, pédophiles ou interdits par la loi ».
L’ordre, examiné par TechCrunch, a averti que le non-respect pourrait compromettre les protections de « safe harbor » de X – l’immunité légale de la responsabilité pour le contenu généré par les utilisateurs en vertu de la loi indienne.
Cette décision de l’Inde fait suite aux préoccupations exprimées par les utilisateurs qui ont partagé des exemples de Grok étant incité à modifier des images d’individus – principalement des femmes – pour les faire apparaître en bikini, ce qui a entraîné une plainte formelle de la parlementaire indienne Priyanka Chaturvedi. Par ailleurs, des rapports récents ont signalé des cas où le chatbot IA a généré des images sexualisées impliquant des mineurs, un problème que X a reconnu plus tôt vendredi comme étant causé par des lacunes dans les dispositifs de sécurité. Ces images ont ensuite été retirées.
Cependant, les images générées avec Grok qui faisaient apparaître des femmes en bikini grâce à une altération par l’IA étaient toujours accessibles sur X au moment de la publication de TechCrunch.
Cette dernière ordonnance intervient quelques jours après qu le ministère indien des technologies de l’information a émis un avis plus large lundi, également examiné par TechCrunch, aux plateformes de médias sociaux, leur rappelant que le respect des lois locales régissant le contenu obscène et sexuellement explicite est une condition préalable pour conserver l’immunité légale de la responsabilité pour le contenu généré par les utilisateurs. L’avis encourageait les entreprises à renforcer leurs dispositifs de sécurité internes et avertissait que le non-respect pourrait entraîner des actions en justice en vertu des lois indiennes sur les technologies de l’information et les infractions pénales.
Le gouvernement indien a déclaré que le non-respect pourrait entraîner des mesures contre X en vertu de la loi indienne sur les technologies de l’information et des lois pénales.
L’Inde, l’un des plus grands marchés numériques au monde, est devenue un cas de test crucial pour déterminer jusqu’où les gouvernements sont prêts à aller pour rendre les plateformes responsables du contenu généré par l’IA. Tout durcissement de l’application de la loi dans le pays pourrait avoir des répercussions sur les entreprises technologiques mondiales opérant dans plusieurs juridictions.
Cette ordonnance intervient alors que X d’Elon Musk continue de contester certains aspects des règles de régulation du contenu en Inde devant les tribunaux, affirmant que les pouvoirs de retrait du gouvernement fédéral risquent d’aller trop loin, même si la plateforme a respecté la majorité des directives de blocage. En même temps, Grok est de plus en plus utilisé par les utilisateurs de X pour le fact-checking en temps réel et les commentaires sur les événements d’actualité, rendant ses résultats plus visibles – et plus politiquement sensibles – que ceux des outils IA autonomes.
X et xAI n’ont pas immédiatement répondu aux demandes de commentaire sur l’ordonnance du gouvernement indien.