Un ancien ingénieur de Google DeepMind est apparu sur la scène publique avec un message brutal : l’intelligence artificielle représente une menace existentielle de l’IA pour l’humanité, et la fenêtre pour l’empêcher pourrait se refermer rapidement. Bilal Chughtai, qui a passé des années à travailler sur la recherche en sûreté et en alignement au sein de l’un des laboratoires d’IA les plus influents au monde, a partagé son avertissement sur les réseaux sociaux cette semaine, ajoutant sa voix à un débat qui a rapidement quitté les laboratoires de recherche pour entrer dans la politique grand public.
Sommaire
Points clés à retenir
- Bilal Chughtai, un ancien chercheur en sûreté chez Google DeepMind qui a quitté l’entreprise en juillet 2026, affirme que l’IA « a le potentiel de tous nous tuer ».
- Il travaille désormais chez BlueDot Impact, une organisation à but non lucratif qui forme des professionnels aux enjeux de sûreté de l’IA.
- Le scientifique d’Anthropic Evan Hubinger estime à plus de 10 % la probabilité que l’IA puisse anéantir l’humanité au cours des dix prochaines années.
- Le PDG d’Anthropic, Dario Amodei, a publié une déclaration de 3 800 mots appelant à ralentir le rythme du développement de l’IA, soutenue publiquement par Sam Altman et Elon Musk.
- Le président Donald Trump a rejeté les avertissements en matière de sûreté comme un « canular » et comme faisant partie d’une « conspiration malsaine », refusant toute nouvelle régulation de l’IA.
Un ancien ingénieur de Google DeepMind alerte sur une menace existentielle de l’IA
L’affirmation centrale de Chughtai est simple et brutale : la société pourrait être en train de manquer de temps pour empêcher l’IA de causer des dommages catastrophiques et irréversibles. « Je crois sincèrement que l’IA a le potentiel de tous nous tuer, et que nous pourrions manquer de temps pour éviter cette issue », a-t-il écrit sur X et LinkedIn plus tôt cette semaine.
Pendant qu’il travaillait chez Google DeepMind, Chughtai a concentré ses recherches sur la sûreté et l’alignement de l’intelligence artificielle générale, une discipline visant à garantir que les systèmes d’IA avancés fonctionnent conformément aux intentions humaines plutôt que d’agir contre elles. Il a quitté l’organisation en juillet 2026, après avoir contribué à plusieurs publications de recherche avant son départ. Google n’a publié aucune déclaration publique en réponse au départ de Chughtai ni à ses avertissements ultérieurs, laissant ses affirmations largement sans réponse de la part de l’entreprise pour laquelle il travaillait auparavant.
Chughtai a depuis rejoint BlueDot Impact, une organisation à but non lucratif qui forme des professionnels de divers secteurs aux concepts de sûreté de l’IA. Malgré la gravité de son avertissement, il affirme rester optimiste quant au fait qu’il est encore possible de construire une IA véritablement sûre, présentant son travail actuel comme axé sur la gestion des risques plutôt que sur la tentative d’arrêter complètement le développement de l’IA.
Préoccupations croissantes et appels à ralentir le développement de l’IA
L’avertissement de Chughtai n’est pas apparu isolément. Un groupe plus large de chercheurs ayant une expérience directe au sein des principales entreprises d’IA a commencé à s’exprimer publiquement, et leurs estimations du danger sont particulièrement précises.
Jacob Coxon, qui a auparavant contribué au développement de l’IA chez Anthropic et OpenAI, a quitté son poste et accusé ces organisations de « jouer avec nos vies » dans leur course à la construction d’une superintelligence artificielle. Evan Hubinger, un scientifique toujours chez Anthropic, a appuyé l’évaluation de Coxon avec un chiffre : il estime qu’il y a plus de 10 % de probabilité que l’IA puisse éliminer l’humanité au cours des dix prochaines années. Ce type d’estimation de probabilité, provenant de l’intérieur d’un grand laboratoire plutôt que d’un critique externe, a aiguisé un débat qui était déjà en train de devenir inhabituellement public au sein de l’industrie de l’IA.
L’appel de Dario Amodei à ralentir
Le PDG d’Anthropic, Dario Amodei, a fait monter la conversation d’un cran avec une déclaration publique de 3 800 mots plaidant pour une réduction délibérée du rythme de développement de l’IA avancée. Son avertissement s’articulait autour d’une crainte précise : sans intervention, les systèmes d’IA pourraient finir par échapper totalement à toute supervision humaine significative. Cette préoccupation concernant la sûreté de l’IA anthropique est depuis devenue un point de référence pour d’autres acteurs du secteur qui s’expriment sur le même risque.
Un consensus inhabituel des leaders technologiques sur la sûreté de l’IA
Ce qui a rendu la déclaration d’Amodei remarquable, ce n’est pas seulement sa longueur — c’est aussi ceux qui y ont adhéré. Sam Altman d’OpenAI et Elon Musk de SpaceXAI se sont tous deux publiquement alignés sur le message d’Amodei, un moment inhabituel de consensus entre trois dirigeants qui sont généralement en forte concurrence et reprennent rarement les positions publiques les uns des autres sur les préoccupations de sûreté de l’IA impliquant Sam Altman et Elon Musk.
Cet alignement s’est étendu au-delà de la direction d’Anthropic.
Rythmer le développement pour gérer le risque
Chughtai a réaffirmé l’importance d’une prudence coordonnée dans tout le secteur, mettant en garde contre ce qu’il a qualifié de « course maniaque entre les entreprises d’IA ». « Nous devons rythmer le développement de l’IA à une vitesse que la société peut supporter, où les risques émergents peuvent être traités avant que des dommages extrêmes ne se réalisent », a-t-il écrit. Ce cadrage met moins l’accent sur l’arrêt pur et simple de l’IA et davantage sur l’adaptation de sa vitesse à la capacité de la société à réagir, une distinction qui sépare la plupart de ces chercheurs des appels à interrompre totalement la recherche en IA.
Rejet politique au milieu d’un débat intensifié sur la sûreté de l’IA
Tout le monde n’est pas convaincu que le danger soit réel, et le sceptique le plus bruyant détient un pouvoir considérable. Le président Donald Trump a rejeté les avertissements en matière de sûreté via les réseaux sociaux, qualifiant la volonté de l’industrie de l’IA en faveur de la régulation de « canular ». Il est allé plus loin dans des publications ultérieures, décrivant les craintes que l’IA puisse « prendre le contrôle du monde » ou « détruire l’humanité » comme faisant partie d’une « conspiration malsaine » contre la réussite américaine, et affirmant que les États-Unis n’ont pas besoin de nouveaux garde-fous au-delà du droit existant.
La réponse politique n’a toutefois pas été entièrement uniforme.
Ce fossé entre des dirigeants de l’industrie qui tirent la sonnette d’alarme et une Maison-Blanche qui résiste à la régulation illustre pourquoi ce débat dépasse le seul secteur technologique. Si les entreprises qui construisent les systèmes d’IA les plus puissants au monde demandent elles-mêmes des limitations de vitesse, et que le gouvernement qui les supervise qualifie ces demandes de canular, la question de savoir qui décide en fin de compte de la vitesse à laquelle l’IA progresse reste totalement ouverte. Plusieurs chercheurs, dont Chughtai et Coxon, ont désormais quitté de grands laboratoires d’IA précisément en raison de ces préoccupations de sûreté, un schéma qui montre que le désaccord n’est plus confiné aux réunions de recherche privées mais est devenu un débat public permanent qui façonne la manière dont l’industrie est perçue.
FAQ
Quels risques existentiels spécifiques Bilal Chughtai pense-t-il que l’IA pose ?
Chughtai pense que l’IA a le potentiel de tuer tous les humains et que la société pourrait manquer de temps pour empêcher cette issue.
Quels autres experts en IA partagent des inquiétudes concernant les risques liés à l’IA ?
Jacob Coxon, un ancien développeur chez Anthropic et OpenAI, et Evan Hubinger d’Anthropic expriment eux aussi de vives inquiétudes concernant les risques liés au développement de l’IA.
Quelle est la position de grandes figures technologiques comme Sam Altman et Elon Musk sur la sûreté de l’IA ?
Sam Altman et Elon Musk soutiennent tous deux publiquement les appels du PDG d’Anthropic, Dario Amodei, à ralentir le développement de l’IA afin d’éviter une perte potentielle de contrôle humain.
Comment les responsables politiques ont-ils réagi aux avertissements sur la sûreté de l’IA ?
L’ancien président américain Donald Trump a rejeté les préoccupations relatives à la sûreté de l’IA comme un « canular » et a critiqué le plaidoyer en faveur d’une régulation de l’IA, tandis que d’autres responsables, dont le vice-président JD Vance, ont affiché une position plus ouverte, quoique toujours prudente, à l’égard d’une éventuelle régulation.
Article produit avec l’aide de l’intelligence artificielle et relu par l’équipe éditoriale.




