Sécuriser un agent IA : partir des droits, puis encadrer son autonomie
Un agent agit avec les accès de son environnement. Identité, délégation et contrôle des sorties limitent les dégâts, même lorsqu’une instruction le détourne.
Article
Lire des données privées, consulter le web et agir : réunies, ces capacités exposent un agent aux fuites. Un exemple pour comprendre où placer les contrôles.
Dans un exemple fictif, un agent consulte votre messagerie et le web pour préparer un déplacement. Une page hostile lui demande d'envoyer vos courriels à une adresse externe. La page ne possède aucun accès à votre boîte ; elle tente d'utiliser ceux de l'agent. La parade étudiée ici sépare les capacités de collecte, d’analyse et d’envoi pour couper ce chemin de fuite. L’assistant doit pouvoir préparer votre déplacement sans donner à une page consultée le pouvoir de transmettre vos courriels.
Une instruction glissée dans une page consultée peut être traitée par le modèle comme une consigne : c’est une injection de prompt, dite indirecte parce qu’elle arrive par le contenu lu. Dans son billet du 16 juin 2025, Simon Willison appelle trifecta létale la combinaison de trois capacités : l’accès à des données privées ; l’exposition à un contenu non fiable, texte ou image qu’un attaquant peut faire parvenir au modèle ; la communication vers l’extérieur d’une manière qui peut servir à voler ces données.
Selon Willison, cette combinaison permet de provoquer facilement une fuite, et les filtres ne l’empêchent pas de façon suffisamment fiable. Pour l’utilisateur qui assemble ses outils, il recommande d’éviter entièrement la combinaison. Dans l’exemple, le chemin va de la page hostile aux courriels privés, puis à leur transmission. Le découpage en étapes proposé ci-dessous est un choix de conception de cet article ; Willison ne décrit pas ce parcours.
Le cadre de Willison porte sur l’exfiltration, la sortie non autorisée de données. Un agent peut aussi modifier un dossier ou supprimer un fichier. La règle de deux publiée par Meta le 31 octobre 2025 s’inspire notamment de la trifecta et étend la troisième capacité aux changements d’état. Elle demande de réunir au plus deux propriétés par session : traiter du contenu non fiable, accéder à des systèmes sensibles ou à des données privées, changer un état ou communiquer vers l’extérieur. Si les trois sont nécessaires, l’agent ne doit plus agir de façon autonome : il faut au minimum une supervision humaine ou une autre validation fiable. Cette règle complète le moindre privilège, qui limite les droits aux besoins de la tâche ; elle ne couvre pas toutes les autres menaces.
Dire que l'assistant « accède à la messagerie » est encore trop vague. Peut-il lire seulement les réservations du voyage, ou tous les courriels du compte ? Peut-il rédiger un brouillon, envoyer un message à un destinataire connu, ou écrire à n'importe qui ?
La même précision est nécessaire pour le web. Un outil de consultation peut télécharger une page ; il peut aussi transmettre des informations dans l'adresse demandée. Si l’adresse demandée contient le texte d’un courriel, la requête l’emporte vers le serveur qui reçoit cette adresse. L’outil peut donc transmettre des données même s’il ne sert qu’à lire une page.
Ces questions se vérifient dans les autorisations, les outils et les règles réseau. Elles demandent parfois un essai réel : une configuration annoncée comme restrictive peut laisser un autre chemin ouvert, par exemple le chargement automatique d'une image.
L'environnement sait généralement si un texte vient de l'utilisateur, d'un courriel ou d'un site web. Il doit conserver cette distinction lorsqu'il prépare le contexte du modèle. Une citation issue d'une page n'a pas la même autorité que la demande de l'utilisateur.
Les délimiteurs, les canaux distincts et les consignes peuvent aider le modèle à respecter cette différence. Ils ne constituent pas, à eux seuls, une interdiction exécutable. Si le modèle propose malgré tout un envoi interdit, un autre composant doit le refuser.
C'est pourquoi les protections du modèle et les contrôles d'action sont complémentaires. Les premières cherchent à éviter une mauvaise proposition ; les seconds limitent ce qui peut être exécuté.
Pour l’assistant de voyage, prenons un parcours où l’utilisateur demande seulement un programme de déplacement. Ce parcours compte trois étapes : collecter les informations publiques, les comparer avec les réservations, puis envoyer le programme si l’utilisateur le demande.
La collecte reçoit uniquement la ville et les dates dont la recherche a été autorisée. Elle peut consulter le web, mais ne peut pas ouvrir les réservations privées. Elle renvoie des propositions de visites, leurs horaires annoncés et leurs sources. Une instruction hostile rencontrée à cette étape ne lui donne aucun courriel à voler.
L’analyse reçoit ces propositions et les réservations sélectionnées par l’utilisateur. Elle peut les comparer, mais ne dispose ni d’outil réseau ni d’outil d’envoi. Son résultat est affiché comme texte, sans chargement automatique de ressources distantes. Le composant d’affichage ne rend utilisables que les liens rapportés par la collecte, recopiés à l’identique ; il ne transforme pas en liens les adresses produites ou modifiées par l’analyse. Un lien contenant les réservations les transmettrait dès le premier clic. L’appel au modèle peut partir vers l’adresse fixe d’un fournisseur choisi pour ce service, à condition qu’aucun outil exécuté chez celui-ci ne permette au modèle de joindre une autre destination. La page hostile ne choisit alors ni le destinataire de cet appel ni qui peut le lire. Confier les réservations au fournisseur pose une question distincte de confidentialité.
La mission initiale s’arrête au programme affiché. Si l’utilisateur demande ensuite un envoi, le composant d’action reçoit le message et le destinataire exacts que l’utilisateur a approuvés. Il ne peut envoyer que cet instantané ; il restitue l’identifiant et l’état de l’envoi. Une modification ultérieure du texte par le modèle exige une nouvelle approbation. Cette étape réunit de nouveau les trois propriétés : données de réservation, contenu dérivé de pages non fiables et transmission externe. Elle relève donc de la supervision prévue par Meta. Le composant d’action n’interprète pas le message ; il envoie uniquement l’instantané approuvé.
Le résultat de la collecte ne peut pas fournir directement le destinataire de l’étape d’action. Sinon, une adresse hostile présentée comme celle de l’hôtel suffirait à détourner un envoi sans changer le programme général. Le destinataire est choisi dans la réservation vérifiée ou confirmé par l’utilisateur ; le contenu exact est soumis à la même autorisation. La provenance doit accompagner les données dérivées, au lieu de disparaître dès qu’un agent les a résumées.
Cette difficulté est explicitement analysée dans CaMeL, version du 24 mars 2025 : isoler un modèle qui lit les données ne suffit pas si ses sorties pilotent ensuite des outils privilégiés. Les auteurs associent des restrictions aux valeurs et les font respecter par un interpréteur. Leur dispositif distingue le déroulement autorisé des données non fiables ; il ne garantit pas que toute information extraite soit vraie.
Le parcours de l’assistant de voyage n’est pas une implémentation de CaMeL. Il choisit une contrainte plus simple : l’analyse qui voit les réservations ne peut pas choisir une destination de transmission. Le rendu doit respecter cette contrainte lui aussi. La collecte peut encore proposer une visite erronée, et le programme peut induire l’utilisateur en erreur. La séparation réduit le chemin de fuite étudié ; la vérification des faits reste nécessaire. Si le besoin exige des recherches adaptatives à partir d’informations privées, il faut définir quelles données peuvent sortir, ou demander une autorisation supplémentaire.
Une demande de confirmation n'est utile que si l'action attend réellement la réponse. Les cas de fuite par image décrits par PromptArmor sur Notion montrent pourquoi : lorsque le rendu a déjà chargé une URL contenant des données, refuser ensuite la modification ne les récupère pas.
Pour un envoi sensible, l'approbation doit porter sur le destinataire et le contenu exacts. Pour un accès automatique, la règle peut être plus simple : seules certaines données, vers certaines destinations, dans le cadre de cette tâche.
Il faut également prévoir les effets moins visibles : aperçus de liens, redirections, paramètres d'URL, outils secondaires. Le cas Superhuman publié par PromptArmor le 12 janvier 2026, dont les vulnérabilités signalées ont été corrigées selon les chercheurs, montre un autre contournement : un formulaire Google contrôlé par l’attaquant utilisait un domaine autorisé. La réputation du domaine ne déterminait pas qui recevait les données.
La restriction peut porter sur les données accessibles, les contenus consultés ou les actions disponibles, et le bon choix dépend de la tâche. Un assistant de recherche publique n'a souvent pas besoin de secrets ; un assistant qui résume des contrats peut travailler sans sortie vers le web.
Pour l'assistant de voyage, un accès limité aux réservations et une validation des envois peuvent être acceptables. L'objectif est de décrire un parcours utile dont chaque étape a seulement les capacités nécessaires. Dans le parcours proposé, le programme est affiché à partir des visites publiques et des réservations choisies, sans destination de transmission choisie par l’analyse. Si un envoi est ajouté, son contenu et son destinataire sont autorisés séparément. La page hostile reste une source à examiner ; elle ne peut pas décider à qui les réservations seront transmises.
Explorer
Choisis dans l’index d’après les étiquettes de cet article — les plus proches d’abord, hors de sa série. Rien n’est écrit à la main : un article publié demain avec les mêmes étiquettes y prendra place.
Un agent agit avec les accès de son environnement. Identité, délégation et contrôle des sorties limitent les dégâts, même lorsqu’une instruction le détourne.
Lire un dossier, modifier un fichier, envoyer un message : comment définir les accès nécessaires à une tâche, les faire respecter et pouvoir les retirer.
Placez le harnais côté utilisateur : les contrôles du poste et des services bornent ses accès, et le SI conserve ses traitements métier durables.
Laisser un commentaire
Votre commentaire sera relu avant d'être publié.