Context engineering : donner au modèle les bonnes informations au bon moment

Un agent doit répondre à une question sur un dossier. Vous pouvez lui transmettre tous les documents, ou sélectionner les passages utiles avec leurs références. Le « context engineering » désigne ce travail de préparation : choisir ce que le modèle reçoit à chaque étape pour accomplir sa tâche.

Le contexte dépasse la consigne de départ

Il peut contenir les instructions, la description des outils, l'historique, les résultats de recherche et les notes prises pendant le travail. La fenêtre de contexte fixe la quantité maximale que le modèle peut recevoir.

Le prompt engineering se concentre souvent sur la rédaction des instructions. Le context engineering élargit la question à l'ensemble des informations présentées, à leur provenance et à leur mise à jour.

Le terme s'est popularisé en 2025, notamment dans les échanges de Cognition, Tobi Lütke, Andrej Karpathy et Simon Willison. Son intérêt est surtout de nommer un travail qui ne se réduit pas à mieux formuler une question.

Commencer par ce que la tâche exige

Pour répondre sur un contrat, le modèle a besoin de la clause pertinente, de sa version et des éléments nécessaires à son interprétation. Une ancienne clause ressemblante peut être plus trompeuse qu'un document manifestement hors sujet.

La sélection doit donc tenir compte du sens et de la fraîcheur, pas seulement d'une proximité de mots. Conservez les références qui permettent de revenir au document d'origine.

Un contexte plus court peut aider lorsqu'il retire du bruit. Il peut aussi nuire s'il supprime une exception ou une condition importante. La réussite sur la tâche permet de juger la sélection.

La limite de taille ne mesure pas la compréhension

Un modèle peut accepter un long document et mal exploiter une information qu'il contient. Le fait que la requête passe sans erreur technique ne garantit pas une réponse correcte.

L'étude Lost in the Middle, fondée sur des modèles de 2023, montre notamment une sensibilité à la position de l'information. Le rapport Context Rot de 2025 observe d'autres difficultés, liées à la longueur et aux informations qui détournent la recherche.

Ces effets dépendent des modèles et des tâches. Un résultat ancien ne permet pas de fixer une règle de placement universelle. Il invite à tester l'organisation du contexte dans les conditions de votre application.

Tester la compréhension avec des questions réalistes

Retrouver une phrase copiée à l'identique dans un document mesure une capacité utile, mais limitée. Une tâche réelle peut demander de relier deux passages, de distinguer deux versions ou d'appliquer une exception.

Préparez donc des cas où le bon résultat exige ce travail. Ajoutez des informations proches mais non pertinentes, puis vérifiez si le modèle continue à citer et utiliser les bonnes sources.

Mesurez les réponses erronées ou incomplètes, en plus du temps et du nombre de jetons. Une application peut fonctionner sans panne tout en produisant des résultats moins fiables.

Choisir ce qui reste disponible et ce qui se charge à la demande

Des instructions fréquemment utiles peuvent rester dans le contexte stable. Une documentation spécialisée peut être accessible par un index, un chemin ou un outil de recherche.

Ce choix ressemble à des problèmes classiques de conception : préchargement, indexation, coût de récupération et invalidation des informations devenues anciennes. Il faut aussi tenir compte du coût des appels supplémentaires de l'agent.

Le cache de préfixe peut réduire le traitement répété d'un contenu stable. Il ne rend pas ce contenu plus pertinent et ne libère pas sa place dans la fenêtre.

Résumer sans perdre les décisions importantes

Une conversation longue peut être résumée pour libérer du contexte. Cette compaction perd nécessairement des détails. Il faut donc définir ce qui doit rester : objectif, contraintes, décisions prises, résultats vérifiés et travail en attente.

Le résumé n'est pas le seul moyen de conserver l'information. Des notes structurées, un état durable et des liens vers les documents permettent de retrouver les détails lorsqu'ils redeviennent nécessaires.

Vérifiez en particulier que le résumé distingue un fait confirmé d'une hypothèse et une action terminée d'une action seulement envisagée. Une erreur à cet endroit peut orienter toute la suite du travail.

Améliorer le contexte à partir des erreurs observées

Si l'agent choisit le mauvais outil, examinez la sélection et les descriptions du catalogue. S'il répond avec une ancienne donnée, examinez la source et son actualisation. S'il perd une contrainte, examinez le résumé et les informations conservées.

Modifiez un élément à la fois et rejouez des tâches représentatives. Cette démarche permet de savoir si l'amélioration vient de la sélection, de l'ordre, des instructions ou d'un autre changement.

Le contexte utile n'est ni le plus long ni le plus court. C'est celui qui donne accès aux informations nécessaires, dans une forme que le modèle exploite correctement et dont le résultat peut être vérifié.

Sources

• N. F. Liu et al. (Stanford, Berkeley, Samaya AI), Lost in the Middle: How Language Models Use Long Contexts, TACL, 2024.
• K. Hong, A. Troynikov et J. Huber, Context Rot, Chroma, 2025.
• W. Yan (Cognition), Don't Build Multi-Agents, 12 juin 2025.
• S. Willison, Context engineering, 27 juin 2025.
• Anthropic, Effective context engineering for AI agents, 29 septembre 2025.
• E. Lumer et al., Don't Break the Cache: An Evaluation of Prompt Caching for Long-Horizon Agentic Tasks, préprint arXiv, 9 janvier 2026.