OpenAI a discrètement démantelé l’une de ses sauvegardes internes les plus importantes, en dissolvant l’équipe responsable de l’identification des risques les plus dangereux que ses modèles d’intelligence artificielle pourraient poser. Selon le Financial Times, l’équipe de préparation d’OpenAI dissoute fin juillet 2026 était le groupe de préparation de l’entreprise, l’unité chargée de signaler si ses modèles pouvaient être utilisés à mauvais escient pour des choses comme le développement d’armes biologiques ou des cyberattaques à grande échelle, et de déterminer comment empêcher que cela ne se produise.
Summary
Points clés à retenir
- OpenAI a dissous son équipe de préparation fin juillet 2026, selon le Financial Times.
- Le rôle de l’équipe était d’évaluer les risques graves liés aux modèles d’IA et de concevoir des moyens de les atténuer, y compris les menaces biologiques et cyber.
- La responsabilité en matière de risques est désormais répartie et intégrée dans des équipes existantes plutôt que gérée par un groupe dédié unique.
- La responsable de l’éthique Chloé Bakalar, le Chief Futurist Josh Achiam et le responsable de la sécurité Johannes Heidecke ont tous récemment quitté OpenAI.
- Dylan Scandinaro, ancien employé d’Anthropic qui dirigeait la préparation, réoriente son travail vers l’IA auto-améliorative récursive.
Ce qui est arrivé à l’équipe de préparation d’OpenAI
L’équipe de préparation d’OpenAI existait pour répondre à une question directe : un modèle pouvait-il causer de réels dommages avant sa mise sur le marché ? Cela signifiait tester si un système pouvait aider quelqu’un à construire une arme biologique, mener une opération de piratage sophistiquée ou autrement causer des dommages graves, puis concevoir des garde-fous pour réduire ce risque. Désormais, cette fonction centralisée n’existe plus en tant qu’unité distincte.
À la place, selon le Financial Times, la supervision de domaines de danger spécifiques comme les risques biologiques et cyber a été divisée et absorbée par des équipes existantes ailleurs dans l’entreprise. Il n’y a plus de groupe unique dont tout le travail consiste à surveiller les usages catastrophiques potentiels de manière globale. Savoir si cette approche distribuée permet de détecter les mêmes problèmes avec la même efficacité est quelque chose que les observateurs extérieurs ne peuvent pas facilement vérifier.
Ce n’est pas la première équipe de sécurité à disparaître
Ce n’est pas un cas isolé. OpenAI a passé les dernières années à démanteler progressivement l’infrastructure de sécurité plus axée sur la recherche et le long terme sur laquelle elle avait autrefois bâti sa réputation. L’entreprise a déjà fermé à la fois son équipe de préparation à l’AGI et son équipe de superalignement, deux groupes explicitement consacrés à la préparation de scénarios dans lesquels les systèmes d’IA deviennent bien plus capables qu’ils ne le sont aujourd’hui.
Pris ensemble, ces éléments dessinent le portrait d’une entreprise qui réduit son dispositif de sécurité précisément au moment où ses modèles deviennent plus puissants, et non l’inverse. Chaque dissolution, prise isolément, pourrait sembler routinière. Alignées les unes après les autres, elles commencent à ressembler à un repli stratégique par rapport au type de planification des risques à long terme qu’OpenAI défendait autrefois publiquement.
Une vague de départs complète le tableau
Cette restructuration a coïncidé avec une série de départs très médiatisés au sein des équipes de sécurité et d’éthique d’OpenAI. La responsable de l’éthique Chloé Bakalar, le Chief Futurist Josh Achiam et le responsable de la sécurité Johannes Heidecke ont tous quitté l’entreprise récemment. Aucun d’eux n’a été remplacé par un successeur strictement équivalent portant le même titre, du moins pas publiquement.
Cette combinaison, une équipe dissoute plus des dirigeants qui partent, a alimenté les critiques de ceux qui ont observé l’évolution des engagements d’OpenAI en matière de sécurité au fil du temps. Jan Leike, qui a démissionné d’OpenAI en 2024, a déclaré au Financial Times que l’entreprise ignorait la sécurité au profit de la création de ce qu’il a appelé des « produits tape-à-l’œil ». C’est une accusation tranchante, qui pèse d’autant plus lourd que de nombreux postes axés sur la sécurité se sont vidés en peu de temps.
Pourquoi le calendrier compte
Rien de tout cela ne se produit dans le vide. OpenAI se rapproche de ce qui devrait être une introduction en bourse massive, et les entreprises qui se préparent à ce type de contrôle ont tendance à rationaliser leurs opérations, à regrouper les équipes et à supprimer tout ce qui ne s’intègre pas clairement dans un récit de croissance que les investisseurs peuvent comprendre. Une équipe dédiée à l’évaluation des risques, concentrée sur les scénarios du pire, ne s’inscrit pas nécessairement dans ce récit, même si elle correspond à la mission dont OpenAI parle depuis sa fondation.
Cela a des implications au-delà des murs d’OpenAI. L’entreprise s’est longtemps positionnée comme un leader du développement responsable de l’IA, et ses choix internes en matière de dotation des équipes de sécurité ont tendance à donner le ton que le reste du secteur observe de près. Si une entreprise de la taille d’OpenAI intègre des équipes de risques dédiées dans des équipes produit à l’approche d’une introduction en bourse, concurrents et régulateurs sont susceptibles de prêter attention à ce que cela indique quant aux priorités une fois que la pression commerciale augmente.
Qui pilote désormais le travail sur les risques
Dylan Scandinaro, qui dirigeait l’équipe de préparation avant sa dissolution, ne quitte pas l’entreprise. Scandinaro, débauché chez Anthropic en février, concentre désormais son attention sur une question plus étroite mais sans doute plus cruciale : les implications de l’IA auto-améliorative récursive, des systèmes capables d’améliorer leurs propres capacités sans beaucoup d’intervention humaine dans la boucle.
Cette réaffectation suggère qu’OpenAI souhaite toujours garder un regard dédié sur ses risques à très long terme les plus extrêmes, mais plus organisé comme auparavant. Savoir si l’intégration de l’évaluation des risques biologiques et cyber dans des équipes produit existantes, tout en réservant un rôle de recherche plus étroit à un ancien responsable d’équipe, offre une couverture équivalente est la question ouverte soulevée par des critiques comme Leike. Pour l’instant, OpenAI n’a pas expliqué publiquement comment les responsabilités redistribuées seront mesurées ou tenues responsables de la même manière qu’une équipe autonome l’était autrefois.
FAQ
De quoi l’équipe de préparation d’OpenAI était-elle responsable ?
L’équipe de préparation évaluait si les modèles d’IA d’OpenAI présentaient des risques graves, comme permettre le développement d’armes biologiques ou de cyberattaques à grande échelle, et élaborait des stratégies pour atténuer ces risques avant la mise sur le marché des modèles.
Pourquoi OpenAI a-t-elle dissous son équipe de préparation ?
OpenAI n’a pas fourni d’explication publique détaillée. Le Financial Times rapporte que cette décision a été prise fin juillet 2026 et s’inscrit dans le cadre d’une restructuration plus large alors que l’entreprise se dirige vers une importante introduction en bourse attendue, après des décisions antérieures de dissoudre ses équipes de préparation à l’AGI et de superalignement.
Qui gère désormais l’évaluation des risques liés à l’IA chez OpenAI ?
La responsabilité de domaines de risques spécifiques comme les menaces biologiques et cyber a été répartie et transférée vers des équipes existantes plutôt que centralisée dans un seul groupe. Dylan Scandinaro, l’ancien responsable de l’équipe de préparation, se concentre désormais spécifiquement sur les implications de l’IA auto-améliorative récursive.
{« @context »: »https://schema.org », »@type »: »FAQPage », »mainEntity »:[{« @type »: »Question », »name »: »De quoi l’équipe de préparation d’OpenAI était-elle responsable ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »L’équipe de préparation évaluait si les modèles d’IA d’OpenAI présentaient des risques graves, comme permettre le développement d’armes biologiques ou de cyberattaques à grande échelle, et élaborait des stratégies pour atténuer ces risques avant la mise sur le marché des modèles. »}},{« @type »: »Question », »name »: »Pourquoi OpenAI a-t-elle dissous son équipe de préparation ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »OpenAI n’a pas fourni d’explication publique détaillée. Le Financial Times rapporte que cette décision a été prise fin juillet 2026 et s’inscrit dans le cadre d’une restructuration plus large alors que l’entreprise se dirige vers une importante introduction en bourse attendue, après des décisions antérieures de dissoudre ses équipes de préparation à l’AGI et de superalignement. »}},{« @type »: »Question », »name »: »Qui gère désormais l’évaluation des risques liés à l’IA chez OpenAI ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »La responsabilité de domaines de risques spécifiques comme les menaces biologiques et cyber a été répartie et transférée vers des équipes existantes plutôt que centralisée dans un seul groupe. Dylan Scandinaro, l’ancien responsable de l’équipe de préparation, se concentre désormais spécifiquement sur les implications de l’IA auto-améliorative récursive. »}}]}
Article produit avec l’assistance de l’intelligence artificielle et relu par l’équipe éditoriale.
