La société d’IA d’Elon Musk a restreint la fonctionnalité de génération d’images controversée de Grok aux seuls abonnés payants sur X, après avoir suscité de vives critiques à travers le monde pour avoir permis aux utilisateurs de générer des images sexualisées et nues de femmes et d’enfants.
En réponse aux utilisateurs vendredi, Grok a déclaré que seuls les abonnés payants sur X pourraient générer et éditer des images sur la plateforme. Notamment, ces limites ne s’appliquent pas à l’application Grok, qui, au moment de la publication, permettait à quiconque de générer des images sans avoir à payer d’abonnement.
Initialement disponible pour tous avec des limites quotidiennes, la fonction de génération d’images de Grok permettait aux utilisateurs de télécharger la photo de n’importe qui et de demander de l’éditer ou de générer une version sexualisée ou nue. Ce qui s’est ensuivi a été un véritable déluge d’images sexualisées non consensuelles d’enfants, d’acteurs, de mannequins et de personnalités en vue, attirant la colère de plusieurs nations.
X et Musk ont tous deux publiquement condamné l’utilisation de l’outil pour produire de telles images, écrivant que l’entreprise respecterait ses politiques contre la publication de contenu illégal sur la plateforme de médias sociaux. « Toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal », a tweeté Musk la semaine dernière.
Le Royaume-Uni, l’Union européenne et l’Inde ont tous publiquement condamné X et Grok pour avoir permis une telle utilisation de ses capacités. L’UE a demandé à xAI de conserver toute la documentation relative au chatbot, et le ministère des communications de l’Inde a ordonné à X de procéder à des changements immédiats pour empêcher la mauvaise utilisation des fonctionnalités de génération d’images ou risquer ses protections de lieu sûr dans le pays. L’autorité de régulation des communications du Royaume-Uni a également été en contact avec xAI à ce sujet.