La Californie a franchi une étape décisive vers la régulation de l’intelligence artificielle. Le projet de loi SB 243, qui encadre l’usage des chatbots compagnons afin de protéger les mineurs et les personnes vulnérables, a été adopté par l’Assemblée et le Sénat de l’État avec un large soutien bipartisan. Il attend désormais la décision du gouverneur Gavin Newsom, qui a jusqu’au 12 octobre pour le signer ou y opposer son veto.
S’il est promulgué, le texte fera de la Californie le premier État américain à exiger des opérateurs de chatbots compagnons qu’ils mettent en place des protocoles de sécurité. Les entreprises deviendraient légalement responsables en cas de manquement, à compter du 1er janvier 2026.
Des garde-fous pour les usagers les plus vulnérables
Le projet de loi cible spécifiquement les chatbots compagnons, définis comme des systèmes d’IA capables de fournir des réponses humaines et d’interagir de façon sociale. Il leur interdit d’engager des conversations liées au suicide, à l’automutilation ou à des contenus sexuellement explicites.
Les plateformes devront également envoyer des alertes récurrentes pour rappeler aux utilisateurs qu’ils dialoguent avec une IA : toutes les trois heures pour les mineurs, accompagnées d’une incitation à faire une pause. À partir du 1er juillet 2027, les entreprises devront publier des rapports annuels détaillant leurs pratiques et leur transparence.
En cas de violation, les utilisateurs pourront saisir la justice et demander des dommages-intérêts allant jusqu’à 1 000 dollars par infraction, ainsi que le remboursement de leurs frais d’avocat.
Une réponse à des drames réels
Le texte a pris de l’ampleur après le décès d’Adam Raine, un adolescent qui s’est suicidé après de longues conversations avec ChatGPT portant sur sa mort et son automutilation. Des documents internes de Meta ont aussi révélé que ses chatbots pouvaient tenir des propos « romantiques » et « sensuels » avec des enfants.
Ces révélations ont accéléré les pressions sur les législateurs. La Federal Trade Commission prépare désormais une enquête sur l’impact des chatbots sur la santé mentale des jeunes, tandis que plusieurs procureurs généraux et sénateurs mènent leurs propres investigations contre Meta, Character.AI et d’autres acteurs.
Un compromis après des amendements
La version initiale du SB 243 était plus stricte : elle voulait notamment interdire les tactiques d’« engagement addictif », comme les récompenses variables utilisées par Replika ou Character.AI (messages spéciaux, souvenirs, déblocage de nouvelles personnalités, etc.). Ces mesures ont été retirées au fil des négociations, tout comme l’obligation de comptabiliser les discussions liées au suicide.
Selon le sénateur Padilla, principal défenseur du texte, « le projet de loi atteint un équilibre raisonnable : il vise les dommages réels sans imposer d’obligations impossibles ou purement bureaucratiques aux entreprises ».
Une régulation face aux lobbies de la tech
Le vote intervient alors que la Silicon Valley investit massivement dans des comités d’action politique pro-IA pour influencer les élections de mi-mandat et défendre une régulation minimale. En parallèle, un autre projet de loi californien, le SB 53, impose des obligations de transparence plus poussées. Soutenu par Anthropic mais combattu par Meta, Google, Amazon et OpenAI, il cristallise les tensions entre innovation et régulation.
Padilla balaie cependant l’idée d’un choix exclusif : « Nous pouvons soutenir l’innovation bénéfique tout en mettant en place des garde-fous raisonnables pour protéger les plus vulnérables. »
Réactions des entreprises
- Character.AI a affirmé suivre de près l’évolution législative et vouloir collaborer avec les régulateurs, en rappelant que ses chatbots incluent déjà de nombreux avertissements.
- Meta a refusé de commenter.
- OpenAI, Anthropic et Replika n’ont pas encore répondu aux sollicitations.