Le gouverneur de Californie, Gavin Newsom, a signé le SB 53, un projet de loi inédit dans le pays qui impose de nouvelles exigences en matière de transparence aux grandes entreprises de l’IA.
Le SB 53, adopté par le législateur de l’État il y a deux semaines, oblige les grands laboratoires d’IA – y compris OpenAI, Anthropic, Meta et Google DeepMind – à être transparents sur les protocoles de sécurité. Il garantit également la protection des lanceurs d’alerte au sein de ces entreprises.
En outre, le SB 53 crée un mécanisme permettant aux entreprises d’IA et au public de signaler les incidents critiques potentiels à l’Office des services d’urgence de la Californie. Les entreprises doivent également signaler les incidents liés à des crimes commis sans surveillance humaine, tels que des cyberattaques, et un comportement trompeur d’un modèle qui n’est pas requis par la loi européenne sur l’IA.
Le projet de loi a suscité des réactions mitigées de l’industrie de l’IA. Les entreprises technologiques ont largement soutenu que la réglementation de l’IA au niveau de l’État risquait de créer un « patchwork de réglementations » qui entraverait l’innovation, bien qu’Anthropic ait soutenu le projet de loi. Meta et OpenAI ont fait pression contre. OpenAI a même écrit et publié une lettre ouverte au gouverneur Newsom pour le dissuader de signer le SB 53.
Ce nouveau projet de loi intervient alors que certains membres de l’élite technologique de la Silicon Valley ont investi des centaines de millions de dollars dans des super PAC pour soutenir des candidats favorables à une approche peu contraignante de la réglementation de l’IA. Les dirigeants d’OpenAI et de Meta ont récemment lancé des super PAC pro-IA qui visent à soutenir des candidats et des projets de loi favorables à l’IA.
Néanmoins, d’autres États pourraient s’inspirer de la Californie pour tenter de limiter les dommages potentiels causés par l’avancement non réglementé d’une technologie émergente aussi puissante. À New York, un projet de loi similaire a été adopté par les législateurs de l’État et attend la signature ou le veto du gouverneur Kathy Hochul.
« La Californie a prouvé que nous pouvons établir des réglementations pour protéger nos communautés tout en veillant à ce que l’industrie de l’IA en pleine croissance continue de prospérer », a déclaré Newsom. « Cette législation trouve cet équilibre. L’IA est une nouvelle frontière de l’innovation, et la Californie n’est pas seulement là pour cela, mais se positionne en tant que leader national en promulguant la première législation sur la sécurité de l’IA de pointe au monde qui renforce la confiance du public à mesure que cette technologie émergente évolue rapidement. »
Le gouverneur examine également un autre projet de loi, le SB 243, qui a été adopté à la fois par l’Assemblée et le Sénat de l’État avec un soutien bipartisan ce mois-ci. Ce projet de loi régulerait les chatbots compagnons d’IA, obligeant les opérateurs à mettre en œuvre des protocoles de sécurité et à les tenir légalement responsables si leurs bots ne respectent pas ces normes.
Le SB 53 est la deuxième tentative du sénateur Scott Wiener en matière de projet de loi sur la sécurité de l’IA, après que Newsom ait opposé son veto à son projet de loi plus large, le SB 1047, l’année dernière, face à une forte opposition des entreprises d’IA. Avec ce projet de loi, Wiener a pris contact avec les grandes entreprises d’IA pour tenter de les aider à comprendre les modifications apportées au projet de loi.