Les grands modèles de langage peuvent se tromper sur une question à choix multiple affichée sur la page tout en conservant la bonne réponse quelque part dans leurs propres circuits. C’est le postulat frappant d’une nouvelle étude sur l’alignement requête-clé, qui montre que le décalage entre ce qu’un modèle « sait » et ce qu’il produit réellement en réponse à des questions à choix multiple (MCQA) n’est pas une impasse — c’est un signal qui peut être lu directement à partir du mécanisme d’attention du modèle avant même qu’un seul token ne soit décodé.
Sommaire
Points clés à retenir
- Les grands modèles de langage encodent souvent en interne la bonne réponse MCQA même lorsque leur sortie finale est erronée.
- Une nouvelle métrique appelée score Query-Key, ou score QK, mesure l’alignement entre la requête du dernier token du modèle et la clé associée à chaque option de réponse, calculé avant l’application de l’encodage positionnel rotatoire (RoPE).
- Testé sur 24 modèles allant de 1,5B à 72B de paramètres, le score QK d’une seule tête d’attention a dépassé la précision zero-shot propre au modèle de jusqu’à +27,4 points de pourcentage sur HellaSwag et +49,8 points sur HaluDialogue.
- Un outil non supervisé appelé HeadScore peut trouver ces têtes critiques sans aucune donnée annotée, en égalant les résultats des méthodes supervisées sur chaque modèle testé.
- Les chercheurs ont publié un script HeadScore prêt à l’emploi en une seule ligne ainsi que les indices de têtes pour chaque modèle, de sorte que les résultats puissent être reproduits avec une seule commande.
Découvrir la connaissance latente dans les grands modèles de langage
Le résultat central est simple à énoncer mais d’une portée considérable : les LLM échouent régulièrement à produire la bonne option dans des tâches MCQA alors même que la bonne réponse est encodée quelque part dans leurs représentations internes. Cet écart entre la « connaissance » interne et la sortie externe intrigue depuis longtemps les chercheurs qui étudient le comportement des modèles, et il soulève une question pratique — si la réponse est là-dedans, peut-elle être extraite sans attendre que le modèle génère du texte ?
Cela importe parce que les benchmarks MCQA sont un étalon de mesure standard pour évaluer les performances des grands modèles de langage en MCQA, des classements académiques aux évaluations en production. Si les modèles sous-estiment leur compétence réelle en raison de bizarreries de sortie plutôt que de véritables échecs de raisonnement, alors des scores de précision basés uniquement sur le texte généré peuvent induire en erreur tout le domaine quant à ce que ces systèmes comprennent réellement.
Score Query-Key et têtes d’attention « sélectionner-et-copier »
Pour révéler cette information latente, les chercheurs introduisent une métrique qu’ils appellent le score Query-Key, ou score QK, qui pour une tête d’attention spécifique est calculé comme le produit scalaire entre la requête du token final et la clé correspondant au token de fin de ligne suivant une option de réponse donnée, ce calcul étant effectué avant l’application de l’encodage positionnel rotatoire. En termes pratiques, c’est une manière de plonger dans la machinerie d’attention du modèle pour voir vers quelle option le modèle penche discrètement, indépendamment de tout texte qu’il finit par imprimer.
Prendre l’argmax de ce score parmi les options révèle ce que l’article décrit comme une classe universelle de têtes d’attention de type sélectionner-et-copier situées dans les couches intermédiaires de ces modèles. Ces têtes effectuent la sélection d’options via un alignement sémantique requête-clé, et elles se comportent de manière à les distinguer mécaniquement des têtes d’induction et de suppression de copie déjà documentées.
Deux propriétés ressortent. Premièrement, ces têtes sont invariantes aux symboles d’étiquette — ce qui signifie qu’elles ne se contentent pas de suivre quelle lettre ou quel chiffre correspond à une réponse, mais quelque chose de plus proche du contenu sémantique de l’option elle-même. Deuxièmement, elles résolvent une tâche synthétique sans aucun chevauchement de surface, un test conçu de sorte qu’aucune explication par copie positionnelle ne puisse rendre compte du comportement. Les deux propriétés, note l’étude, exigent de manière critique de retirer RoPE pour être observées — sans supprimer cette couche d’encodage positionnel, le signal d’alignement sous-jacent reste caché.
Améliorations de performance sur plusieurs modèles
L’ampleur des tests à l’appui de ces affirmations est large. Les chercheurs ont mené leur analyse sur 24 modèles allant de 1,5B à 72B de paramètres, dont LLaMA-2, LLaMA-3, LLaMA-3.1, LLaMA-3.3, Qwen-2.5, Gemma, Phi-3.5 et DeepSeek-R1-Distill. Sur cet ensemble, le score QK d’une seule tête a systématiquement surpassé la précision zero-shot propre à chaque modèle — jusqu’à +27,4 points de pourcentage sur le benchmark HellaSwag et +49,8 points de pourcentage sur HaluDialogue.
Ce deuxième chiffre mérite qu’on s’y arrête. Près de 50 points d’écart entre ce qu’un modèle produit et ce que sa tête d’attention interne « dit » via l’alignement requête-clé constitue un fossé substantiel — suffisamment grand pour suggérer que, sur certaines tâches, le goulot d’étranglement n’est pas du tout la capacité de raisonnement, mais quelque chose de plus proche d’un problème de sortie ou de décodage.
Pour confirmer que ces têtes ne sont pas seulement corrélées aux bonnes réponses mais réellement responsables de leur production, les chercheurs ont mené des expériences d’ablation causale zéro — en désactivant délibérément les têtes identifiées. Résultat : la précision MCQA s’est effondrée à des niveaux quasi aléatoires, ce qui constitue une forte preuve que ces têtes spécifiques jouent un rôle causal réel dans le processus de sélection de la réponse plutôt que de simplement le refléter.
HeadScore non supervisé et reproductibilité
Identifier les bonnes têtes à étudier nécessite généralement des données de validation annotées, ce qui limite la praticité d’une méthode en dehors d’un laboratoire de recherche. Pour résoudre ce problème, l’équipe a introduit une méthode non supervisée appelée HeadScore qui classe les têtes d’attention en utilisant uniquement des entrées non annotées. Malgré l’absence totale d’accès aux étiquettes de vérité terrain, HeadScore a réussi à retrouver les mêmes têtes les plus performantes que celles identifiées par l’approche supervisée — et ce pour chaque modèle testé.
L’étude situe également le score QK aux côtés des techniques existantes de dé-biaisage positionnel telles que PriDe, Wiegrefe et Wang, conçues pour corriger la tendance des modèles à favoriser certaines positions de réponse indépendamment du contenu. L’article présente le score QK comme complémentaire plutôt que concurrent de ces références : les méthodes de dé-biaisage fonctionnent en réajustant les logits de sortie après coup, tandis que le score QK lit la sélection du modèle directement à partir d’une tête de couche intermédiaire avant tout décodage. Cette distinction — intervenir au niveau de la sortie versus lire le signal avant décodage — positionne les deux approches comme des outils qui pourraient, en principe, être utilisés ensemble.
Pour la reproductibilité, les chercheurs ont publié un script HeadScore prêt à l’emploi en une ligne ainsi que les indices de têtes pour chaque modèle, rendant possible la reproduction de chaque résultat avec une seule commande sur l’ensemble des 24 modèles et des quatre benchmarks testés dans l’étude.
Pourquoi cette ligne de recherche est importante
Les travaux d’interprétabilité mécaniste de ce type visent moins à construire un meilleur chatbot qu’à comprendre ce qui se passe réellement à l’intérieur de systèmes déjà déployés à grande échelle. Si la sélection de têtes d’attention peut révéler des réponses que le décodage standard manque, cela a des implications pour la manière dont les benchmarks d’évaluation sont interprétés — un modèle obtenant un mauvais score sur un classement pourrait tout de même calculer en interne la bonne réponse, mais échouer à la faire émerger via la génération normale.
Cela ouvre aussi la voie à un audit de modèle plus efficace. Un outil non supervisé comme HeadScore signifie que les chercheurs étudiant la sélection de têtes d’attention n’ont pas besoin de jeux de données annotés et soigneusement préparés pour identifier quelles parties d’un modèle effectuent le gros du travail sur une tâche donnée — un raccourci pratique significatif pour quiconque tente d’examiner les entrailles d’un modèle sans construire des jeux d’évaluation sur mesure pour chaque architecture.
Article produit avec l’assistance de l’intelligence artificielle et relu par l’équipe éditoriale.




