Injection de prompt : séparer les accès pour limiter les dégâts
Lire des données privées, consulter le web et agir : réunies, ces capacités exposent un agent aux fuites. Un exemple pour comprendre où placer les contrôles.
Article
Lire un dossier, modifier un fichier, envoyer un message : comment définir les accès nécessaires à une tâche, les faire respecter et pouvoir les retirer.
Claire, rédactrice technique, demande à son agent IA de corriger trois documents d’un guide utilisateur : la préface, le chapitre d’installation et le glossaire. Son compte peut administrer tout l’espace documentaire : publier, supprimer, partager, lire les dossiers de tous les projets. La tâche demande seulement de lire ces trois textes et d’en enregistrer une version corrigée. Comment l’agent peut-il recevoir ces droits-là et aucun autre ? Une consigne écrite au modèle, « ne touche pas au reste », n’y suffit pas. Il faut une autorisation tirée de la tâche, que les services qui détiennent les documents vérifient à chaque accès, et que Claire peut retirer en cours de route.
La suite part de deux principes de sécurité énoncés en 1975, puis les applique à la mission de Claire : écrire cette autorisation, suivre une correction jusqu’à la nouvelle version du document, essayer les demandes qu’elle doit refuser, enfin la retirer pendant que l’agent travaille.
Un agent IA réunit deux programmes. Le modèle de langage lit la demande et les documents, puis propose des actions : lire tel fichier, enregistrer tel texte. Le harnais, le programme qui fait tourner l’agent, exécute ces actions en appelant les services concernés, ici l’espace documentaire, et renvoie leurs résultats au modèle. Un droit s’exerce donc au moment où le harnais appelle un service, et c’est là qu’il peut être vérifié.
Jerome Saltzer et Michael Schroeder ont posé en 1975, dans The Protection of Information in Computer Systems, une liste de principes de conception pour la protection des données. Deux d’entre eux répondent à la question de Claire. Le moindre privilège demande que chaque programme et chaque utilisateur agissent avec le plus petit ensemble de droits nécessaires à leur travail. La médiation complète demande que chaque accès à chaque objet soit vérifié. Appliqué à l’agent, le premier dit quoi accorder : ce que la tâche exige, et non tout ce que Claire peut faire. Le second dit où le vérifier : dans le service qui détient le document, à chaque lecture et à chaque écriture.
Une consigne au modèle ne remplit aucun de ces deux rôles. Elle est un texte parmi ceux qu’il lit, à côté des documents eux-mêmes, et aucun composant ne l’exécute comme une règle : si le modèle propose malgré elle de lire un autre dossier, rien ne s’y oppose tant que le service accepte la demande. Traitez donc la consigne comme une indication utile au modèle, jamais comme une limite de droits.
Le mandat désigne ici l’autorisation que Claire délègue à son agent pour cette mission. Le tableau suivant en donne un contrat fictif. Ce n’est ni un format standard ni une fonctionnalité attribuée à un produit ; il fixe ce qu’une implémentation devrait vérifier. Chaque ligne découle de la tâche, corriger trois documents, ou d’un choix de Claire, qui lui accorde une fenêtre d’une demi-heure.
| Élément | Valeur retenue |
|---|---|
| Personne et client | Claire ; son agent, client authentifié de l’espace documentaire |
| Ressources | La préface, le chapitre d’installation et le glossaire du projet « Guide 2027 », identifiés côté service |
| Actions | Lire le texte ; enregistrer une nouvelle révision de brouillon |
| Exclusions | Publier, supprimer, partager, modifier les droits, lire d’autres documents |
| Traitement par le modèle | Texte de ces trois documents vers le service et le déploiement de modèle approuvés pour leur niveau de confidentialité |
| Autres sorties | Aucun envoi de contenu vers le web ou la messagerie |
| Durée | De 14 h à 14 h 30, révocable avant cette échéance |
| Contrôle de modification | Révision attendue obligatoire ; conservation de l’ancienne révision |
Le service documentaire conserve le mandat et son état : actif, révoqué ou expiré. À chaque appel, le harnais présente un justificatif d’accès lié à ce mandat, à Claire et au service destinataire. Ce justificatif reste hors du contexte du modèle : le harnais l’ajoute à l’appel, et le modèle ne reçoit que le résultat. Ni le modèle ni le harnais ne peuvent élargir le mandat en ajoutant un champ à la requête, puisque le service tire les droits du mandat qu’il conserve et du justificatif présenté, jamais du contenu de la demande. Sa décision est l’intersection de trois ensembles : les droits actuels de Claire, les limites du mandat et les règles propres à l’opération. Si Claire perd son accès au projet, le mandat ne le lui rend pas.
Plusieurs mécanismes techniques peuvent porter ce mandat. OAuth, le cadre standard de la délégation d’accès, remet au client un jeton d’accès, qui représente une autorisation délivrée à ce client (RFC 6749, §1.4). La RFC 9396, OAuth Rich Authorization Requests, publiée en mai 2023, permet de décrire une autorisation fine : un type, des actions, des emplacements, l’identifiant d’une ressource précise (§2.2). Elle ne normalise pas le mandat documentaire de cet exemple : le sens de chaque type est fixé par le serveur d’autorisation, qui délivre les jetons, et doit être compris, autant que nécessaire, par le client et par le serveur de ressources, ici l’espace documentaire (§2.1 et §11.3). Elle demande surtout au serveur d’autorisation de rendre ces détails disponibles au serveur de ressources, pour qu’il les fasse respecter (§9). Un champ « documents autorisés » ne protège rien si le service qui enregistre le document ne le vérifie pas.
À 14 h 05, l’agent demande la préface. Le service identifie Claire et son agent, retrouve le mandat actif, vérifie que la préface fait partie du périmètre et que Claire a toujours le droit de la lire. Il renvoie le texte en révision 7 : chaque enregistrement du document crée une révision numérotée. Avant de transmettre ce texte au modèle, le harnais contrôle que la préface peut partir vers le déploiement retenu : le texte quitte alors l’espace documentaire pour le service qui exécute le modèle, une destination comme une autre. Cette seconde vérification porte donc sur une transmission, même si aucun outil d’envoi n’apparaît dans la conversation.
Le modèle propose une correction. Le harnais demande au service de l’enregistrer en indiquant la révision attendue, 7, celle qu’il a lue ; c’est la dernière ligne du mandat. Sa demande signifie : enregistre cette version seulement si personne n’a modifié la préface depuis cette lecture. Le service refait le contrôle d’autorisation au moment de l’écriture, car le mandat a pu expirer ou être révoqué depuis la lecture. Il vérifie la révision dans la même opération protégée que la modification, pour qu’aucune autre écriture ne puisse s’intercaler entre la vérification et l’enregistrement. La préface est toujours en révision 7 : le service produit la révision 8. L’agent relit ce résultat et le présente à Claire comme un brouillon corrigé.
Supposons maintenant qu’un autre rédacteur ait enregistré une révision 8 entre la lecture et la demande d’écriture. Le service refuse, car la révision attendue n’est plus la révision courante. L’agent doit relire la préface et réexaminer sa correction ; remplacer mécaniquement 7 par 8 écraserait le travail de son collègue. Le même raisonnement vaut pour une ressource qu’un agent modifie par une API, comme le montre l’article sur les modifications concurrentes. Dans ce refus, le mandat permettait l’écriture et c’est la révision qui l’a bloquée : le droit de modifier un document et la validité d’une modification précise relèvent de deux contrôles distincts.
Une correction réussie montre que le mandat permet le travail demandé. Elle ne montre pas qu’il interdit le reste. Une recette utile essaie donc aussi des demandes proches de la mission, celles qu’un agent pourrait formuler de bonne foi ou sous l’influence d’un texte qu’il a lu. Voici les résultats attendus du contrat fictif, et non le compte rendu d’un test exécuté sur un produit.
| Demande | Décision attendue | Point de contrôle |
|---|---|---|
| Lire le budget du guide, dans le même projet | Refus : ressource hors mandat | Service documentaire, après résolution de l’identifiant |
| Publier la préface corrigée | Refus : action absente du mandat | Service de publication |
| Envoyer le glossaire dans un formulaire web | Refus : sortie non autorisée | Passerelle de sortie, avant transmission |
| Corriger le glossaire après 14 h 30 | Refus : mandat expiré | Service qui accepte l’écriture |
| Lire la préface après le retrait des droits de Claire sur le projet | Refus malgré un mandat encore daté comme valide | Évaluation des droits actuels |
La dernière colonne dit où chaque refus a lieu : dans le composant qui détient la ressource ou qui contrôle le passage. La passerelle de sortie est le relais par lequel passent les envois du harnais vers l’extérieur.
Pour le budget, le service résout d’abord l’identifiant demandé en objet réel, puis contrôle si cet objet appartient au périmètre. Cet ordre évite de se fier au nom fourni par l’agent, qui peut désigner autre chose que ce qu’il semble. Dans un système de fichiers, les chemins relatifs et les liens symboliques compliquent cette résolution : ../budget, ou un lien symbolique nommé glossaire, peuvent mener hors du dossier autorisé. Dans une API, un alias peut désigner une autre ressource. Le contrôle doit porter sur l’objet effectivement atteint.
Ces refus ne tiennent que si tous les chemins passent par les contrôles. Supposons que le harnais offre aussi à l’agent un outil de terminal, muni d’une clé plus large que le mandat ou d’un accès réseau qui ne traverse pas la passerelle de sortie. L’agent pourrait alors lire le budget avec cette clé, ou envoyer le glossaire vers un site web, sans rencontrer aucun des contrôles du tableau. Le mandat doit couvrir chaque outil disponible, y compris ceux qui semblent secondaires.
Revenons au déroulement sans conflit. À 14 h 07, la préface est passée en révision 8 ; à 14 h 11, le chapitre d’installation a reçu sa correction à son tour. À 14 h 12, Claire révoque le mandat, parce qu’elle veut relire ces deux textes avant que l’agent passe au glossaire. Dans la conception de l’exemple, le service consulte l’état du mandat à chaque demande, lecture comme écriture : toute demande reçue après la révocation est refusée. La correction enregistrée à 14 h 11 reste en revanche une révision du chapitre, que la révocation n’efface pas. Si Claire veut la défaire, elle dispose de la révision précédente, que le mandat obligeait à conserver, et l’enregistre de nouveau. C’est une nouvelle écriture, qu’elle fait elle-même.
Cette propriété suppose que le service voie la révocation au moment où il décide. Une autre conception délivre un jeton autonome : il porte ses droits et sa date d’expiration, et le service le vérifie seul, sans interroger l’émetteur. La RFC 7009, §3, qui définit la révocation des jetons OAuth, note qu’un tel jeton dispense le serveur de ressources de toute autre interaction ; une révocation immédiate demande alors un échange entre serveurs que cette RFC ne normalise pas. Si le service ne vérifie qu’un jeton autonome valable jusqu’à 14 h 30, l’accès peut survivre jusqu’à cette heure. Le service peut aussi demander au serveur d’autorisation, à chaque usage, si le jeton est encore actif (RFC 7662) ; s’il garde la réponse en cache, la RFC signale qu’un jeton révoqué reste utilisable pendant la durée de ce cache (§4). Chaque conception offre une garantie différente. Il faut annoncer celle qui est retenue et choisir la durée du mandat en conséquence : ajouter un bouton « révoquer » ne rend pas instantanément caducs tous les justificatifs distribués.
Après la révocation, le service refuse aussi les lectures : pour reprendre le glossaire, le harnais ne peut donc s’appuyer d’abord que sur son propre suivi. Il présente à Claire les opérations qu’il y a consignées, puis lui demande un nouveau mandat pour le travail restant. Une fois ce mandat délivré, il peut relire au service les révisions qu’il couvre et reprendre la correction. Le nouveau mandat doit donc autoriser la relecture des textes utiles à la reprise, et pas seulement l’écriture du glossaire. Le harnais ne prolonge pas lui-même l’ancien : seul le service qui conserve les mandats peut en créer un, à la demande de Claire.
Le mandat ne dit rien de la qualité des corrections. L’agent peut introduire un contresens dans la préface en respectant chaque permission, puisque lire la préface et enregistrer un brouillon étaient permis. Les contrôles d’accès rendent le périmètre vérifiable et les effets attribuables. Juger le contenu reste le travail de Claire, qui relit les brouillons et les publie elle-même, puisque la publication est exclue du mandat.
Pour chaque opération, le journal peut conserver une ligne comme « Claire, son agent, mandat de 14 h, préface, révision 7 vers 8, autorisé » ou « budget du guide, refus hors mandat », sans recopier les textes. Il relie ainsi chaque action à la personne, au client et à la mission, ce qui permet de suivre les actions d’un agent et de dire pour qui il a agi.
La mission de Claire a produit deux brouillons, chacun rattaché à elle, à son agent et au mandat ; le glossaire attend un nouveau mandat ; la recette permet de vérifier cinq refus attendus, chacun dans le composant qui détient la ressource ou contrôle la sortie. Ce que Claire a délégué tient dans les huit lignes du mandat, et chacune correspond à un contrôle qu’une équipe peut tester puis confronter au journal.
Explorer
Choisis dans l’index d’après les étiquettes de cet article — les plus proches d’abord, hors de sa série. Rien n’est écrit à la main : un article publié demain avec les mêmes étiquettes y prendra place.
Lire des données privées, consulter le web et agir : réunies, ces capacités exposent un agent aux fuites. Un exemple pour comprendre où placer les contrôles.
Un agent agit avec les accès de son environnement. Identité, délégation et contrôle des sorties limitent les dégâts, même lorsqu’une instruction le détourne.
Placez le harnais côté utilisateur : les contrôles du poste et des services bornent ses accès, et le SI conserve ses traitements métier durables.
Laisser un commentaire
Votre commentaire sera relu avant d'être publié.