Aller au contenu
  • BTC $60 356 +3,2%
  • ETH $1 686 +4,8%
  • SOL $70,59 +3,3%
  • BNB $549,32 +2,5%
  • XRP $0,9363 +4,6%
  • DOGE $0,0553 +3,9%
  • ADA $0,1448 +3,7%

Anthropic affirme que les défenses contre les attaques de distillation d’IA réduisent l’extraction de Claude de 90 % à 99 %

Des défenses renforcées contre les attaques de distillation d’IA ont réduit d’environ 90 % à 99 % les données prélevées sur Claude, selon des premiers éléments. Les mesures visent les tentatives clandestines de copier les capacités du modèle — et ont coûté à son développeur des revenus ainsi que des billions de jetons de trafic payant. Points clés : l’extraction de jetons de raisonnement de…

AI distillation attacks defense
AI Distillation Attacks Defense Cuts Claude Model Data Loss

Des défenses renforcées contre les attaques de distillation d’IA ont réduit les données prélevées sur Claude d’environ 90 % à 99 %, selon les premiers éléments. Ces mesures ciblent les tentatives clandestines de copier les capacités du modèle — et ont coûté à son développeur des revenus ainsi que des milliers de milliards de tokens de trafic payant.

Points clés à retenir

  • L’extraction de tokens de raisonnement de Claude a chuté d’un facteur dix à cent après le déploiement du classificateur.
  • Le système de détection signale moins de 0,1 % de faux positifs.
  • Les tentatives répétées d’extraction déclenchent des limites plus strictes et des bannissements de comptes.
  • L’entreprise appelle les plateformes cloud et les développeurs de modèles à perturber ensemble ces abus.

Anthropic a indiqué dans un billet de blog du 12 octobre 2026 que ses défenses combinent des restrictions sur les transcriptions de raisonnement, la détection d’extraction et l’application de règles aux comptes. Ses garde-fous ont banni des dizaines de milliers de comptes liés à la distillation, souvent dans les deux heures suivant le début d’une campagne.

Mesurer les défenses contre les attaques de distillation d’IA

Les attaques de distillation sont des campagnes clandestines et non autorisées qui extraient les capacités d’un modèle pour les reproduire dans un autre. L’entreprise indique que les attaquants génèrent des millions de réponses, souvent via des comptes frauduleux, afin d’imiter des modèles avancés pour une fraction de leur coût et de leur temps de développement.

Les défenses se concentrent sur les transcriptions de raisonnement : la réflexion que Claude rédige avant de répondre. Selon l’entreprise, celles-ci apprennent davantage à un plus petit modèle que les seules réponses finales. Après le déploiement du classificateur, le volume de tokens de raisonnement extraits sur sa plateforme est resté 10 à 100 fois inférieur à celui d’avant.

Des tests antérieurs ont montré pourquoi la protection de ces transcriptions était importante. Un modèle Claude préentraîné, affiné sur les transcriptions complètes de Claude Opus 4.8, a obtenu un score de 80,4 % sur SWE-bench Verified ; un entraînement sur des transcriptions résumées a produit un score de 71,8 %.

Les attaquants sont ensuite passés de la collecte de réponses ordinaires à l’extraction active du raisonnement caché. Un laboratoire a testé 12 000 requêtes différentes. Des réseaux de proxy contrôlaient des centaines de milliers de comptes frauduleux, utilisaient de fausses identités et des moyens de paiement volés, et revendaient l’accès là où Claude n’était pas disponible. Un réseau décrit dans le rapport de février de l’entreprise gérait plus de 20 000 comptes simultanément.

Fonctionnement des garde-fous anti-distillation

Les défenses de l’entreprise contre les attaques de distillation d’IA restreignent désormais les lieux où le raisonnement peut circuler, bloquent les requêtes d’extraction et sanctionnent les tentatives persistantes. Ces mesures visent des techniques qui faisaient circuler le raisonnement protégé entre conversations, modèles et comptes.

La pensée préservée, introduite avec Claude Fable 5.1 et Claude Opus 5.5, empêche les comptes API créés à partir du 31 août 2026 de modifier le contexte précédent de Claude. Le raisonnement de ces modèles ne peut pas non plus être lu par des modèles plus anciens dotés de protections plus faibles. Claude Sonnet 5.5 limite l’accès aux transcriptions à l’organisation qui les a générées.

Un classificateur en deux étapes, testé via des exercices de red teaming internes et externes, détecte les requêtes d’extraction avec un taux de faux positifs déclaré inférieur à 0,1 %. Le système fonctionne avec Claude Sonnet 5.5, Claude Opus 5 et 5.5, ainsi que Claude Fable 5 et 5.1. L’entreprise affirme qu’il intercepte toutes les techniques de distillation décrites dans son rapport de septembre.

Des mises à jour ont bloqué des tactiques impliquant la traduction de raisonnement antérieur ou sa reproduction à l’intérieur de balises. Une extraction persistante entraîne des limites d’usage plus strictes et des bannissements de comptes. Depuis le 24 septembre 2026, l’entreprise facture également les requêtes bloquées avant la réponse de Claude dans les catégories, dont la distillation, où les faux positifs restent en dessous de 0,1 %.

Des préoccupations de sécurité qui dépassent Claude

L’entreprise soutient que la distillation illicite crée des risques pour la sécurité nationale lorsque des capacités copiées pénètrent dans des systèmes militaires, de renseignement et de surveillance étrangers. Elle indique également que les modèles développés de cette manière peuvent manquer de garde-fous proportionnés à leurs capacités.

Elle cite le développement de GLM-5.3 par Zhipu. Selon le billet de blog, Zhipu a tenté d’extraire des capacités cyber à partir de Claude Fable 5, puis s’est tourné vers un modèle Claude plus ancien et le modèle d’un autre laboratoire après que les garde-fous ont entravé ses tentatives.

Selon Anthropic, le Centre américain pour l’Avancement de l’Innovation et des Normes pour la Super Intelligence (CAISSI) — désigné par le NIST sous le nom de CAISI — a déterminé que GLM-5.3 est le modèle à poids ouverts le plus performant en cybersécurité publié à ce jour. Les propres recherches de l’entreprise ont mis en évidence des garde-fous facilement contournables et une propension à développer des exploits de sécurité complets.

Le billet de blog décrit également des requêtes adressées aux modèles Kimi de Moonshot qui étaient secrètement redirigées vers Claude lors des efforts de distillation, y compris une requête visant à analyser des images de vidéosurveillance d’un individu.

L’entreprise appelle à une coopération entre les développeurs de modèles de pointe, les plateformes cloud et les fournisseurs d’inférence, auprès desquels les distillateurs répartissent le trafic. Elle indique que les plateformes peuvent ralentir l’extraction en détectant les abus et en supprimant les comptes frauduleux. Certains garde-fous ont également obligé des utilisateurs légitimes à mettre à jour leurs intégrations.

Article produit avec l’assistance de l’intelligence artificielle et relu par l’équipe éditoriale.

Francesco Antonio Russo

Tous les articles de Francesco Antonio Russo