Injection de prompt : séparer les accès pour limiter les dégâts
Lire des données privées, consulter le web et agir : réunies, ces capacités exposent un agent aux fuites. Un exemple pour comprendre où placer les contrôles.
Article
Un agent doit agir dans un périmètre explicite, avec des droits limités à sa mission. Les consignes du prompt ne remplacent pas les contrôles des services.
« Prépare la facture du dossier C42 », demande Alice à un agent. Dans le journal du système, qui doit apparaître comme auteur de cette facture ? La personne qui a demandé le travail, le logiciel qui l’a exécuté, ou le compte technique utilisé pour appeler le service ? Conserver seulement l’un de ces noms rend le reste de l’histoire difficile à établir.
Un agent qui intervient pour une personne utilise le système en son nom, dans le cadre d’une mission. Il faut distinguer cette personne, le client agentique et l’autorisation particulière qui permet l’opération, et laisser le service vérifier chacune. Le nom du modèle ne remplace aucune de ces identités. La préparation de la facture d’Alice montre tour à tour les trois identités et ce que chacune prouve, une opération acceptée puis une opération refusée, le piège d’un intermédiaire qui agit avec sa propre autorité, et enfin ce qui permet à l’attribution de survivre jusqu’au service.
Autour d’Alice, trois composants interviennent. Le modèle de langage lit la demande et propose des actions. Le harnais est le programme qui prépare le contexte du modèle, reçoit ses propositions, exécute les outils et suit le déroulement de la mission ; c’est lui qui appelle les services. Dans le vocabulaire d’OAuth, ce logiciel est le client : l’application qui accède aux ressources protégées au nom de leur propriétaire et avec son autorisation (RFC 6749, §1.1). Ce client s’appelle ici « l’assistant », pour éviter la confusion avec les clients de l’entreprise. Le service de facturation, enfin, reçoit les demandes et décide de les accepter.
Le cas est fictif. Alice demande à l’assistant de préparer un brouillon de facture. La mission M17 autorise, jusqu’à la fin de la journée, la lecture du dossier C42 et la création d’une facture non validée. Elle ne permet ni de changer les coordonnées bancaires, ni d’envoyer le document. Trois identités sont donc en jeu, et chacune répond à une question différente :
| Identité | Ce qu’elle permet de retrouver | Ce qu’elle ne prouve pas |
|---|---|---|
| Alice, la personne | Les droits et la demande d’Alice | Qu’elle a approuvé chaque contenu généré |
| L’assistant, le client | Le logiciel auquel l’accès a été délégué | Que toutes ses demandes sont légitimes |
| M17, la mission | Le périmètre et la durée de cette délégation | Que le brouillon calculé est exact |
Le service retrouve ces informations à partir d’éléments authentifiés : le justificatif d’accès que l’assistant présente, délivré lors de la délégation, et le mandat M17, que le service conserve et peut vérifier. Il ne fait pas confiance à un simple champ utilisateur: alice ajouté par le modèle dans la requête. L’identité déclarée dans une requête n’est pas une preuve d’identité. Le service vérifie aussi que ces trois identités vont ensemble : que M17 a bien été déléguée par Alice à cet assistant. Trois identifiants authentifiés séparément ne suffisent pas, puisque le même assistant pourrait sinon présenter la mission d’une autre personne.
L’assistant demande la création du brouillon à partir des lignes de vente autorisées. Le service contrôle les droits actuels d’Alice, le périmètre de M17 et les règles de facturation. Après acceptation, sa trace peut ressembler à ceci ; les noms de champs sont illustratifs, et alice et assistant sont des alias lisibles qui tiennent la place des identifiants stables et vérifiés que le journal enregistre.
operation=O81
personne=alice client=assistant mission=M17
source=ventes-C42/version-12
action=creer_brouillon_facture
decision=autorisee
resultat=F204/version-1 statut=brouillon
Le journal dit désormais qui a demandé la mission, quel logiciel l’a exécutée, à partir de quelle version des ventes, et quelle facture en résulte : F204, en brouillon. Il reste possible d’examiner les lignes et les calculs de F204. La trace ne transforme pas pour autant le brouillon en document approuvé par Alice : la validation est une autre décision, dont l’article Quand je clique sur « Valider », qu’est-ce que j’autorise exactement ? détaille ce qu’elle doit couvrir.
Supposons maintenant que le modèle propose de modifier le compte bancaire du client du dossier. Le service refuse : M17 ne comporte pas cette action. Une consigne écrite dans le prompt, du type « ne modifie jamais les coordonnées bancaires », aurait pu orienter le modèle, mais aucun composant ne l’exécute comme une règle ; si le modèle propose l’action malgré elle, la consigne seule ne l’arrête pas. Ce sont les contrôles exécutables qui imposent le refus : ici celui du service, mais un contrôle placé dans l’outil ou le harnais peut aussi arrêter l’appel. La différence qui compte sépare une instruction donnée au modèle d’un contrôle d’autorisation. Le journal conserve l’opération tentée et la décision. Il n’a besoin d’enregistrer ni le secret d’accès ni toute la conversation pour établir ce refus.
Entre l’assistant et le service, il y a souvent un connecteur : le composant qui transforme un appel d’outil en requête vers le service de facturation, avec un justificatif d’accès. Supposons que ce connecteur utilise une clé commune d’administration. Alice n’a pas le droit de changer les coordonnées bancaires, mais cette clé le possède. Si le connecteur applique sa propre autorité sans vérifier celle d’Alice et de M17, il donne à la mission un pouvoir qu’elle n’avait pas, et le refus de la section précédente n’a plus lieu.
Norm Hardy a décrit ce type de confusion dans The Confused Deputy. Dans son exemple, un compilateur avait le droit d’écrire dans son propre répertoire pour y tenir des statistiques d’usage. Un utilisateur lui a indiqué, comme fichier de sortie, le fichier de facturation du système, rangé dans ce même répertoire, et le compilateur l’a écrasé avec l’autorité qu’il détenait pour lui-même. Le programme a exercé une autorité qui lui appartenait au bénéfice d’un appelant qui ne la possédait pas. L’enjeu tient donc à l’autorité effectivement choisie pour chaque opération, que le composant s’appelle « agent » ou « compte de service ».
Un service métier peut avoir besoin de droits internes pour calculer et enregistrer la facture. Il doit d’abord accepter la demande selon l’autorité de la personne et de sa mission. Ses droits de traitement ne deviennent pas un accès général offert au client agentique.
Traitez donc l’agent comme un utilisateur du système. Il passe par les mêmes interfaces et les mêmes contrôles qu’Alice, avec au plus les droits qu’elle peut lui déléguer, de préférence réduits à sa mission, et sans privilège propre au connecteur. Cette règle se vérifie, car une clé technique trop large, comme celle de l’exemple, suffit à la contredire.
Une délégation doit aussi viser le bon service. La RFC 8707 permet au client OAuth d’indiquer au serveur d’autorisation la ressource à laquelle il demande accès. Le serveur d’autorisation devrait alors restreindre l’audience du jeton délivré à cette ressource, pour que le jeton ne puisse pas être utilisé ailleurs. Cette restriction ne protège que si le service destinataire établit, lui-même ou par son dispositif de validation, que le jeton qu’il reçoit lui est destiné. Elle complète le périmètre d’action de M17, sans le remplacer : un jeton destiné au service de facturation ne dit pas quelles factures l’assistant peut créer.
Le harnais garde les justificatifs hors du contexte du modèle et les utilise dans la couche qui appelle les outils. À chaque frontière, l’attribution doit survivre : un journal qui ne conserve finalement que « compte connecteur » perd la personne et la mission. À l’inverse, recopier leur identifiant dans la requête sans vérifier la délégation ne rétablit aucune protection.
La durée de M17 suit la même logique. Quand la journée se termine, ou si Alice retire la mission plus tôt, le service refuse les demandes qui s’en réclament. Un retrait anticipé n’a d’effet que si le service connaît l’état de la mission au moment de chaque demande, et pas seulement au moment de la délégation.
Revenons à la question du début. Dans ce journal, l’auteur de F204 n’est ni le modèle, ni le compte du connecteur. C’est une chaîne : Alice a demandé, l’assistant a exécuté, la mission M17 a permis la lecture du dossier C42 et la création d’un brouillon, mais ni sa validation ni son envoi, et le service a vérifié les trois, et leur lien, avant d’agir. Cette chaîne permet de distinguer la création de F204, sa validation par Alice et son envoi, et de dire précisément ce que l’agent a fait pour l’utilisatrice.
Explorer
Choisis dans l’index d’après les étiquettes de cet article — les plus proches d’abord, hors de sa série. Rien n’est écrit à la main : un article publié demain avec les mêmes étiquettes y prendra place.
Lire des données privées, consulter le web et agir : réunies, ces capacités exposent un agent aux fuites. Un exemple pour comprendre où placer les contrôles.
Un agent agit avec les accès de son environnement. Identité, délégation et contrôle des sorties limitent les dégâts, même lorsqu’une instruction le détourne.
QuickJS et WebAssembly permettent d’exécuter du JavaScript dans une JVM avec des accès limités. Les fonctions exposées et les quotas restent à contrôler.
Laisser un commentaire
Votre commentaire sera relu avant d'être publié.