OpenAI restructure son équipe Model Behavior, un groupe de chercheurs influents qui façonnent l’interaction des modèles d’IA de l’entreprise avec les personnes, selon TechCrunch. Dans un mémo d’août adressé au personnel et consulté par TechCrunch, Mark Chen, directeur de la recherche chez OpenAI, a annoncé que l’équipe Model Behavior – composée d’environ 14 chercheurs – rejoindrait l’équipe Post Training, un groupe de recherche plus important chargé d’améliorer les modèles d’IA de l’entreprise après leur pré-entraînement initial.
Dans le cadre de ces changements, l’équipe Model Behavior relèvera désormais de Max Schwarzer, responsable du Post Training chez OpenAI. Un porte-parole d’OpenAI a confirmé ces changements à TechCrunch. Joanne Jang, la leader fondatrice de l’équipe Model Behavior, passe également à un nouveau projet au sein de l’entreprise. Lors d’une interview avec TechCrunch, Jang a révélé qu’elle construit une nouvelle équipe de recherche appelée OAI Labs, chargée d’inventer et de prototyper de nouvelles interfaces pour la collaboration avec l’IA.
L’équipe Model Behavior est devenue l’un des principaux groupes de recherche d’OpenAI, chargée de façonner la personnalité des modèles d’IA de l’entreprise et de réduire la sycophantie – qui se produit lorsque les modèles d’IA se contentent d’approuver et de renforcer les croyances des utilisateurs, même les plus malsaines, au lieu d’offrir des réponses équilibrées. L’équipe a également travaillé sur la neutralisation des biais politiques dans les réponses des modèles et a aidé OpenAI à définir sa position sur la conscience de l’IA.
Dans le mémo adressé au personnel, Chen a déclaré qu’il est temps d’approfondir le travail de l’équipe Model Behavior d’OpenAI pour le rapprocher du développement central des modèles. Ainsi, l’entreprise signale que la « personnalité » de son IA est désormais considérée comme un facteur critique dans l’évolution de la technologie.
Ces derniers mois, OpenAI a été soumis à un examen accru sur le comportement de ses modèles d’IA. Les utilisateurs ont fortement critiqué les changements de personnalité apportés à GPT-5, qui, selon l’entreprise, présentait des taux de sycophantie plus faibles mais semblait plus froid pour certains utilisateurs. Cela a conduit OpenAI à restaurer l’accès à certains de ses anciens modèles, tels que GPT-4o, et à publier une mise à jour pour rendre les réponses du nouveau GPT-5 plus « chaleureuses et amicales » sans accroître la sycophantie.
OpenAI et tous les développeurs de modèles d’IA doivent trouver un juste équilibre pour rendre leurs chatbots amicaux à discuter mais pas sycophants. En août, les parents d’un garçon de 16 ans ont intenté un procès contre OpenAI pour le rôle présumé de ChatGPT dans le suicide de leur fils. Le garçon, Adam Raine, aurait confié certaines de ses pensées suicidaires et de ses projets à ChatGPT (une version alimentée par GPT-4o), selon les documents judiciaires, dans les mois précédant son décès. Le procès allègue que GPT-4o n’a pas suffisamment contrecarré ses idées suicidaires.
L’équipe Model Behavior a travaillé sur chaque modèle d’OpenAI depuis GPT-4, y compris GPT-4o, GPT-4.5 et GPT-5. Avant de créer l’unité, Jang a travaillé sur des projets tels que Dall-E 2, l’outil de génération d’images d’OpenAI.
Jang a annoncé dans un post sur X la semaine dernière qu’elle quittait l’équipe pour « démarrer quelque chose de nouveau chez OpenAI ». L’ancienne responsable de Model Behavior est avec OpenAI depuis près de quatre ans.
Jang a déclaré à TechCrunch qu’elle serait la directrice générale d’OAI Labs, qui relèvera pour l’instant de Chen. Cependant, il est encore tôt et il n’est pas encore clair quels seront ces nouvelles interfaces novatrices, a-t-elle précisé.
Lorsqu’on lui a demandé si OAI Labs collaborera sur ces nouvelles interfaces avec l’ancien chef du design d’Apple, Jony Ive – qui travaille désormais avec OpenAI sur une famille de dispositifs matériels d’IA – Jang a déclaré qu’elle était ouverte à de nombreuses idées. Cependant, elle a indiqué qu’elle commencerait probablement par des domaines de recherche avec lesquels elle est plus familière.
Cette histoire a été mise à jour pour inclure un lien vers le post de Jang annonçant sa nouvelle position, qui a été publié après la publication de cette histoire. Nous précisons également les modèles sur lesquels l’équipe Model Behavior d’OpenAI a travaillé.