La tension croissante entre un laboratoire d’intelligence artificielle de premier plan et l’établissement de défense américain s’est intensifiée en un affrontement à enjeux élevés concernant l’utilisation de l’AI anthropique sur le champ de bataille.
Sommaire
Anthropic résiste à la pression du Pentagone
Anthropic a refusé les demandes du Département de la Défense des États-Unis de supprimer les limites de sécurité clés de l’IA de ses systèmes, bien que son contrat de 200 millions de dollars soit désormais en péril. La société a clairement indiqué qu’elle ne céderait pas dans son différend avec le DoD sur la manière dont ses modèles avancés peuvent être déployés sur les réseaux militaires.
Les rivaux de la startup, OpenAI, Google et xAI, ont obtenu des contrats similaires du DoD allant jusqu’à 200 millions de dollars en 2023. Cependant, ces entreprises ont accepté de laisser le Pentagone utiliser leurs systèmes pour toutes les missions légales dans les environnements non classifiés de l’armée, offrant au gouvernement une flexibilité opérationnelle plus large.
En revanche, Anthropic a signé son propre contrat de 200 millions de dollars avec le DoD en juillet et est devenu le premier laboratoire d’IA à intégrer directement ses modèles dans les flux de travail des missions sur des réseaux classifiés. De plus, ses outils ont été intégrés dans des opérations de défense sensibles, plaçant l’entreprise au centre du développement de l’IA de sécurité nationale des États-Unis.
Les négociations avec les responsables du Pentagone sont devenues de plus en plus tendues ces dernières semaines. Une personne familière avec les discussions a déclaré que les frictions « remontent à plusieurs mois », bien avant qu’il ne devienne public que Claude avait été utilisé dans une opération américaine liée à la saisie du président vénézuélien Nicolás Maduro.
Conflit sur la surveillance et les armes autonomes
Au cœur de l’affrontement se trouve la question de savoir jusqu’où les autorités militaires peuvent pousser les puissants modèles d’IA vers la surveillance et l’autonomie. Anthropic cherche à obtenir des garanties contraignantes que sa technologie ne sera pas utilisée pour des armes entièrement autonomes ou pour une surveillance domestique massive des Américains, tandis que le DoD souhaite éviter de telles limites.
Cela dit, il ne s’agit pas d’un simple désaccord commercial, mais d’un différend de haut niveau sur les garanties de l’IA avec des implications directes pour l’automatisation future des champs de bataille. Le Pentagone insiste sur une latitude légale maximale, tandis qu’Anthropic soutient que les systèmes actuels ne peuvent pas encore être dignes de confiance pour des décisions de vie ou de mort à grande échelle.
Dans une déclaration détaillée, le PDG Dario Amodei a averti que dans un « ensemble restreint de cas », l’intelligence artificielle peut « saper, plutôt que défendre, les valeurs démocratiques. » Il a souligné que certaines applications sont « simplement en dehors des limites de ce que la technologie actuelle peut faire de manière sûre et fiable », mettant en évidence les risques d’une mauvaise utilisation lors d’opérations militaires complexes.
En élargissant les préoccupations de surveillance, Amodei a soutenu que les systèmes puissants permettent désormais de « rassembler ces données éparses et individuellement anodines en un tableau complet de la vie de n’importe quelle personne, automatiquement et à grande échelle. » De plus, il a averti qu’une telle capacité, si elle est dirigée vers l’intérieur, pourrait fondamentalement remodeler la relation entre les citoyens et l’État.
Amodei a réitéré qu’Anthropic soutient l’utilisation de l’IA pour la collecte légale de renseignements étrangers. Cependant, il a ajouté que « l’utilisation de ces systèmes pour une surveillance domestique massive est incompatible avec les valeurs démocratiques, » traçant une ligne éthique stricte entre le renseignement à l’étranger et la surveillance interne des personnes aux États-Unis.
Menaces, délais et pression légale
La lutte de pouvoir s’est intensifiée lors d’une réunion mardi au Pentagone entre Amodei et le secrétaire à la Défense Pete Hegseth. Hegseth a menacé de qualifier Anthropic de « risque pour la chaîne d’approvisionnement » ou d’invoquer le Defense Production Act pour forcer la conformité. Mercredi soir, le DoD a présenté ce qu’il a appelé sa « dernière et ultime offre », donnant à l’entreprise jusqu’à 17h01 ET vendredi pour répondre.
Une porte-parole d’Anthropic a reconnu avoir reçu le langage révisé du contrat mercredi, mais a déclaré qu’il représentait « pratiquement aucun progrès. » Selon elle, le nouveau libellé présenté comme un compromis était accompagné d’une formulation légale qui permettrait effectivement de « ne pas tenir compte à volonté » des garanties critiques, sapant ainsi les protections déclarées.
Répondant à la pression croissante, Amodei a déclaré : « Le Département de la Guerre a déclaré qu’il ne contractera qu’avec des entreprises d’IA qui acceptent ‘tout usage légal’ et suppriment les garanties dans les cas mentionnés ci-dessus. » Il a ajouté que les responsables avaient menacé de couper Anthropic de leurs systèmes et de désigner l’entreprise comme un « risque pour la chaîne d’approvisionnement » si elle refusait ; néanmoins, il a insisté, « nous ne pouvons pas en toute conscience accéder à leur demande. »
Pour le Pentagone, la question est présentée différemment. Le porte-parole en chef Sean Parnell a déclaré jeudi que le DoD n’a « aucun intérêt » à utiliser les systèmes d’Anthropic pour des armes entièrement autonomes ou pour mener une surveillance massive des Américains, notant que de telles pratiques seraient illégales. Au lieu de cela, il a soutenu que le département souhaite simplement que l’entreprise permette l’utilisation de sa technologie pour « tous les objectifs légaux », décrivant cela comme une « demande simple et de bon sens. »
Attaques personnelles et soutien public
Le différend est également devenu personnel à des niveaux élevés. Jeudi soir, le sous-secrétaire américain à la défense Emil Michael a attaqué Amodei sur X, affirmant que le dirigeant « ne veut rien de plus que tenter de contrôler personnellement l’armée américaine. » Michael est allé plus loin, écrivant, « C’est une honte que Dario Amodei soit un menteur et ait un complexe de Dieu. »
Cependant, Anthropic a obtenu un soutien significatif de la part de certains secteurs de la technologie. Dans une lettre ouverte, plus de 200 travailleurs de Google et OpenAI ont publiquement soutenu la position de l’entreprise. De plus, un ancien responsable du DoD a déclaré à la BBC que la justification de Hegseth pour utiliser l’étiquette de « risque pour la chaîne d’approvisionnement » semblait « extrêmement fragile », soulevant des questions sur la solidité du dossier du Pentagone.
La confrontation est également devenue un point de référence dans le débat plus large sur la politique éthique de l’IA militaire. Les chercheurs en IA et les défenseurs des libertés civiles observent de près, voyant le cas comme un premier test de la mesure dans laquelle les agences de défense peuvent pousser les laboratoires privés à assouplir les restrictions intégrées sur les systèmes avancés.
Enjeux stratégiques pour l’IA de défense américaine
Malgré la rhétorique croissante, Amodei a souligné qu’il est « profondément convaincu de l’importance existentielle d’utiliser l’IA pour défendre les États-Unis. » Il a présenté la question comme une question de déploiement responsable, et non d’opposition à la défense nationale, arguant que la crédibilité à long terme des capacités d’IA américaines dépend du respect des normes démocratiques.
Un représentant d’Anthropic a déclaré que l’organisation reste « prête à poursuivre les discussions et engagée à assurer la continuité opérationnelle pour le Département et les combattants américains. » Cependant, avec l’échéance du Pentagone qui approche et les menaces de désignation de la chaîne d’approvisionnement toujours sur la table, les deux parties sont sous pression pour résoudre l’impasse sans compromettre l’innovation critique.
En fin de compte, l’affrontement entre Anthropic et le Pentagone sur les garanties, la surveillance et l’autonomie est devenu un cas précurseur dans la gouvernance de l’IA militaire. Son issue façonnera probablement la manière dont les futurs modèles d’IA anthropique et les systèmes rivaux seront contractés, contraints et déployés dans les opérations de défense américaines.




