Coût d’un agent IA : optimiser la session, pas seulement le prompt
Une instruction plus précise peut éviter des recherches et des essais inutiles. Pour réduire le coût d’un agent, comparez les sessions complètes et le cache.
Article
Un modèle de langage aide à interpréter une demande floue. Pour des règles explicites, comparez-le à du code simple et mesurez le coût de ses erreurs.
Un client écrit « je voudrais décaler ma livraison à la semaine prochaine ». Faut-il confier ce message à un modèle de langage, et jusqu’où ? Le modèle peut aider à comprendre la demande. Calculer les dates disponibles, vérifier les règles de livraison et confirmer un créneau relèvent ensuite du logiciel métier. Pour décider où utiliser un LLM, séparez ce qui demande une interprétation de ce qui peut être exécuté avec des règles explicites.
Le parcours de cette demande, jusqu’à un créneau confirmé, fait apparaître deux critères : ce que le code garantit mieux qu’un modèle, et ce qu’un modèle fait mieux qu’une règle écrite à la main. Restent deux choix : l’autonomie à laisser au modèle, et la façon de comparer les solutions avant d’en retenir une.
Un LLM, ou grand modèle de langage, produit du texte à partir d’un contexte : des instructions, des documents ou une conversation. Il peut ainsi résumer, reformuler, classer des demandes ou proposer des actions. La qualité de cette interprétation dépend de la tâche, et elle s’évalue sur des exemples, comme le montre la section sur la comparaison des solutions.
Le modèle peut aussi se tromper, ou répondre différemment à des demandes proches. Bharani Subramaniam et Martin Fowler le rappellent dans leur catalogue de patterns pour les produits d’IA générative : un système fondé sur un LLM peut donner des sorties différentes à la même entrée, d’une requête à l’autre. Avant de choisir comment intégrer le modèle, décidez donc ce que l’application fera de ses erreurs.
La demande de report pose plusieurs problèmes, de natures différentes. Le texte du client est libre, et « la semaine prochaine » ne désigne des dates précises qu’une fois la date de référence connue. Le calendrier des créneaux est une donnée structurée. Les règles de changement de livraison peuvent être explicites.
Seul le premier problème demande une interprétation. Vous pouvez donc demander au modèle d’extraire une intention de report et une période souhaitée. Un programme consulte ensuite les créneaux, applique les restrictions et présente les choix au client. La validation finale ne repose pas sur la seule interprétation du message.
Lorsque les règles sont connues, privilégiez ce partage : le modèle fait passer le texte libre à une proposition structurée, et le service vérifie cette proposition avant d’agir. Le partage limite la partie du traitement dont le résultat dépend du modèle. Une erreur d’interprétation reste une proposition, que le service peut refuser ou faire corriger avant toute action.
Ce cas fictif se déroule le vendredi 9 octobre 2026, dans le fuseau Europe/Paris. Le contrat du service définit « semaine prochaine » comme la semaine civile suivante, du lundi au dimanche. Le modèle reçoit cette convention et la date de référence. Il propose une intention et une période, sans choisir de créneau :
{"intention":"reporter_livraison",
"debut_inclus":"2026-10-12","fin_exclue":"2026-10-19",
"date_reference":"2026-10-09","fuseau":"Europe/Paris",
"creneau_confirme":null}
La période commence le lundi 12 et s’arrête avant le lundi 19 : avec une fin exclue, toute la journée du dimanche 18 est comprise sans qu’il faille préciser une heure de fin. Le champ creneau_confirme reste vide, parce que ce choix appartient au client.
Le service vérifie la période, identifie la livraison du client authentifié et constate que le report est encore autorisé. Son calendrier propose le mardi 13 de 9 h à 12 h et le jeudi 15 de 14 h à 17 h. L’interface demande au client de choisir.
Le client répond « jeudi, mais pas après 15 h ». Cette réponse ne correspond à aucun créneau. Le modèle peut en extraire la contrainte, mais le service ne transforme pas le créneau de 14 h à 17 h en promesse de 14 h à 15 h. Il explique l’incompatibilité et présente de nouveau l’autre créneau disponible, le mardi 13 de 9 h à 12 h.
Le client choisit ce créneau dans l’interface : ce choix est explicite et ne passe pas par le modèle. Avant d’enregistrer, le service vérifie de nouveau que le créneau est encore libre et que le report reste autorisé, puisque l’un ou l’autre a pu changer depuis la proposition. Les deux conditions tiennent : il enregistre le report et confirme au client une livraison le mardi 13 octobre entre 9 h et 12 h. C’est le service, et non le modèle, qui renseigne alors le créneau confirmé.
Deux autres situations partent du même message et n’aboutissent pas à un report. Si la livraison est déjà partie, le message mène au refus prévu par le métier, même si l’interprétation linguistique est correcte. Si aucune livraison n’est identifiée, l’application demande au client laquelle il veut décaler. Dans ces deux cas, l’absence d’un champ ne devient pas une permission de choisir à la place du client.
Dans tout ce parcours, le modèle n’a confirmé aucun changement de livraison. Il a traduit les messages du client en données que le service pouvait contrôler ; le choix explicite du client, le calendrier et les règles de livraison ont fait le reste. Ces contrôles garantissent qu’un report confirmé est valide, pas que le modèle a compris l’intention exacte du client : c’est son choix explicite qui comble cet écart.
Le service garde le calcul et la décision parce qu’un calcul de dates, l’application d’un barème ou la validation d’un format se décrivent généralement par des règles précises. Du code classique permet de tester directement ces règles et de retrouver comment un résultat a été obtenu.
Un traitement déterministe donne le même résultat pour les mêmes entrées et le même état de référence. Cela ne rend pas tout programme automatiquement correct : il peut contenir un bug, lire une donnée ancienne ou dépendre d’un service indisponible. Mais sa logique explicite permet de vérifier ce qu’il est censé faire.
Un LLM construit sa réponse à partir des régularités apprises pendant son entraînement et du contexte fourni. Certains réglages réduisent la variation entre exécutions ; ils ne garantissent pas l’exactitude du résultat. Pour calculer un prix contractuel, il reste préférable de vérifier le calcul avec les règles de tarification. Pour le report, c’est le calendrier du service qui dit quels créneaux existent.
Des demandes rédigées librement peuvent exprimer la même intention avec des mots très différents : « décaler », « repousser d’une semaine », « pas avant lundi ». Un modèle peut aider à les classer, à en extraire des informations ou à préparer une réponse, là où une liste de mots-clés deviendrait fragile. Il peut également rapprocher des documents, proposer du code ou préparer un brouillon. Encore faut-il que ses résultats soient assez bons, et assez faciles à vérifier, pour améliorer le travail demandé.
La présence de texte libre ne suffit pas pour autant à justifier un modèle. Le tableau suivant reprend les formes que peut prendre la demande de report, de la plus structurée à la plus floue. L’analyseur simple y désigne un programme qui reconnaît quelques tournures connues à l’aide de règles écrites à la main.
| Entrée à couvrir | Analyseur simple | Appel au modèle |
|---|---|---|
| Formulaire avec date et créneau | Validation directe suffisante | N’apporte pas de décision utile |
| « semaine prochaine » selon la convention documentée | Reconnaissance et calcul possibles | Possible aussi, puis vérification du calcul |
| « jeudi, mais pas après 15 h » dans une conversation | Règles de langue et contexte à développer | Peut proposer une contrainte structurée ; à évaluer |
| « comme la dernière fois » sans historique disponible | Clarification | Clarification, sans inventer l’historique |
Le modèle se distingue sur la contrainte exprimée au fil d’une conversation, que des règles écrites à la main couvriraient mal, sous réserve de l’évaluer. Face à « comme la dernière fois » sans historique, aucune des deux solutions ne peut deviner : l’application doit demander. Inversement, une tâche sur des données structurées peut demander une interprétation ou une explication. Le choix dépend du travail réel, pas seulement du format d’entrée.
La solution retenue pour ce besoin combine un formulaire déterministe pour les clients qui savent choisir leur créneau et des appels ponctuels d’interprétation pour les messages libres. Ce choix est motivé par le parcours décrit, pas par un banc d’essai qui aurait mesuré ici les deux solutions.
Le report n’appelle le modèle qu’à une étape, l’interprétation d’un message libre, répétée pour chaque message qui en a besoin ; d’autres tâches lui laissent davantage de choix. Dans un appel ponctuel, le programme sait quand interroger le modèle et quoi faire du résultat. Un workflow enchaîne des étapes et des embranchements fixés d’avance par le programme. Un agent choisit une partie de ses étapes et de ses outils au cours de la tâche, selon les résultats intermédiaires.
| Forme | Usage adapté | Travail à prévoir |
|---|---|---|
| Programme classique | Règles explicites et cas connus | Développement, tests et maintenance |
| Workflow prédéfini | Étapes et embranchements prévisibles | Suivi des étapes et reprise des échecs |
| Appel ponctuel à un LLM | Interprétation ou génération limitée à une étape | Évaluation de la réponse, délai et coût d’appel |
| Agent utilisant des outils | Choix d’étapes variables selon les résultats intermédiaires | Limites d’action, suivi du parcours et contrôle du résultat |
Ces organisations se combinent. Le report en est un exemple : un enchaînement fixé par le programme, qui appelle le modèle à une étape précise, une fois par message libre, sans boucle autonome. Un agent n’y apporterait rien, puisque l’application connaît déjà les étapes suivantes : vérifier la période, retrouver la livraison, proposer les créneaux. Vous n’avez pas besoin de déléguer le choix de toutes les étapes pour bénéficier de l’interprétation du langage.
Dans Building effective agents, Anthropic recommande de chercher la solution la plus simple possible et de n’ajouter de la complexité que lorsqu’elle est nécessaire. Pour beaucoup d’applications, ajoute le guide, optimiser un seul appel au modèle, avec les documents retrouvés et des exemples placés dans le contexte, suffit le plus souvent. Un système agentique échange souvent du délai et du coût contre une meilleure réussite de la tâche, et ses erreurs peuvent s’accumuler d’une étape à l’autre.
Jugez l’autonomie d’après ce que l’agent remplace. Un agent peut se justifier lorsqu’il prend la place d’une personne qui décide dans une situation incertaine, à un moment d’un processus. Une logique stable, répétable et spécifiable revient à un programme. L’autonomie devient donc intéressante lorsque le parcours varie réellement et que cette adaptation apporte un bénéfice mesuré. Elle reste alors à encadrer par des droits et des outils adaptés à la mission, même si le modèle réussit les premiers essais.
Avant de retenir le modèle, constituez des exemples qui ressemblent aux demandes réelles, y compris les cas ambigus comme « jeudi, mais pas après 15 h ». Subramaniam et Fowler appellent ce dispositif des evals : évaluer les réponses du modèle dans le contexte d’une tâche précise. Faute de jeu établi pour cela, ils conseillent de construire celui qui correspond à son cas : aucun jeu générique ne remplace les exemples de ce parcours. Comparez le modèle à la solution plus simple que vous pourriez utiliser, ici l’analyseur et le formulaire. Mesurez la réussite, définie par des critères observables : la bonne période, la contrainte incompatible signalée, une clarification quand la livraison manque, aucun report sans choix explicite du client. Mesurez aussi les corrections humaines, le délai et le coût complet du traitement.
Les contrôles nécessaires se déduisent ensuite des conséquences d’une erreur. Si le modèle extrait une mauvaise date, le client peut-il la corriger avant validation ? Dans le report, oui : il choisit lui-même parmi les créneaux proposés. S’il sélectionne un mauvais compte, l’application peut-elle empêcher l’envoi d’informations à ce compte ? Ici, le service ne cherche la livraison que parmi celles du client authentifié.
Des vérifications nombreuses ne prouvent pas à elles seules que le modèle est mal choisi : une tâche difficile peut les justifier. En revanche, si tout ce dispositif reproduit péniblement une règle déjà connue, revenez à un traitement explicite. Les mêmes auteurs recommandent de rejouer ces évaluations sur le système en production, dont les performances peuvent changer avec le temps.
Pour la demande de départ, les clients qui savent choisir leur créneau passent par un formulaire, sans modèle. Les messages libres passent par des appels ponctuels au modèle, un par message qui demande une interprétation ; le service vérifie ce que le modèle propose, applique les règles de livraison, laisse le client choisir et confirme. Aucun agent n’intervient, puisque les étapes sont connues d’avance. Les évaluations sur des demandes réelles disent ensuite si l’appel au modèle fait mieux que l’analyseur simple. Ce partage tient tant que les règles de livraison peuvent s’écrire : le modèle prend en charge l’interprétation du message, le code tout ce qu’une règle sait déjà décider.
Explorer
Choisis dans l’index d’après les étiquettes de cet article — les plus proches d’abord, hors de sa série. Rien n’est écrit à la main : un article publié demain avec les mêmes étiquettes y prendra place.
Une instruction plus précise peut éviter des recherches et des essais inutiles. Pour réduire le coût d’un agent, comparez les sessions complètes et le cache.
Agent IA : sur le poste, physique ou virtuel, le harnais lit le travail en cours et agit par délégation ; le serveur garde ce qui tourne sans la personne.
Une citation dans une réponse IA ne vaut pas une visite ni une vente. Comprendre les revenus possibles, les essais de rémunération et les mesures utiles.
Laisser un commentaire
Votre commentaire sera relu avant d'être publié.