Article

Agent IA : définir ses droits et suivre ses actions

Un agent doit agir dans un périmètre explicite, avec des droits limités à sa mission. Les consignes du prompt ne remplacent pas les contrôles des services.

« Prépare la facture du dossier C42 », demande Alice à un agent. Dans le journal du système, qui doit apparaître comme auteur de cette facture ? La personne qui a demandé le travail, le logiciel qui l’a exécuté, ou le compte technique utilisé pour appeler le service ? Conserver seulement l’un de ces noms rend le reste de l’histoire difficile à établir.

Un agent qui intervient pour une personne utilise le système en son nom, dans le cadre d’une mission. Il faut distinguer cette personne, le client agentique et l’autorisation particulière qui permet l’opération, et laisser le service vérifier chacune. Le nom du modèle ne remplace aucune de ces identités. La préparation de la facture d’Alice montre tour à tour les trois identités et ce que chacune prouve, une opération acceptée puis une opération refusée, le piège d’un intermédiaire qui agit avec sa propre autorité, et enfin ce qui permet à l’attribution de survivre jusqu’au service.

Trois identités derrière une facture

Autour d’Alice, trois composants interviennent. Le modèle de langage lit la demande et propose des actions. Le harnais est le programme qui prépare le contexte du modèle, reçoit ses propositions, exécute les outils et suit le déroulement de la mission ; c’est lui qui appelle les services. Dans le vocabulaire d’OAuth, ce logiciel est le client : l’application qui accède aux ressources protégées au nom de leur propriétaire et avec son autorisation (RFC 6749, §1.1). Ce client s’appelle ici « l’assistant », pour éviter la confusion avec les clients de l’entreprise. Le service de facturation, enfin, reçoit les demandes et décide de les accepter.

Le cas est fictif. Alice demande à l’assistant de préparer un brouillon de facture. La mission M17 autorise, jusqu’à la fin de la journée, la lecture du dossier C42 et la création d’une facture non validée. Elle ne permet ni de changer les coordonnées bancaires, ni d’envoyer le document. Trois identités sont donc en jeu, et chacune répond à une question différente :

IdentitéCe qu’elle permet de retrouverCe qu’elle ne prouve pas
Alice, la personneLes droits et la demande d’AliceQu’elle a approuvé chaque contenu généré
L’assistant, le clientLe logiciel auquel l’accès a été déléguéQue toutes ses demandes sont légitimes
M17, la missionLe périmètre et la durée de cette délégationQue le brouillon calculé est exact

Le service retrouve ces informations à partir d’éléments authentifiés : le justificatif d’accès que l’assistant présente, délivré lors de la délégation, et le mandat M17, que le service conserve et peut vérifier. Il ne fait pas confiance à un simple champ utilisateur: alice ajouté par le modèle dans la requête. L’identité déclarée dans une requête n’est pas une preuve d’identité. Le service vérifie aussi que ces trois identités vont ensemble : que M17 a bien été déléguée par Alice à cet assistant. Trois identifiants authentifiés séparément ne suffisent pas, puisque le même assistant pourrait sinon présenter la mission d’une autre personne.

Une opération acceptée, une opération refusée

L’assistant demande la création du brouillon à partir des lignes de vente autorisées. Le service contrôle les droits actuels d’Alice, le périmètre de M17 et les règles de facturation. Après acceptation, sa trace peut ressembler à ceci ; les noms de champs sont illustratifs, et alice et assistant sont des alias lisibles qui tiennent la place des identifiants stables et vérifiés que le journal enregistre.

operation=O81
personne=alice  client=assistant  mission=M17
source=ventes-C42/version-12
action=creer_brouillon_facture
decision=autorisee
resultat=F204/version-1  statut=brouillon

Le journal dit désormais qui a demandé la mission, quel logiciel l’a exécutée, à partir de quelle version des ventes, et quelle facture en résulte : F204, en brouillon. Il reste possible d’examiner les lignes et les calculs de F204. La trace ne transforme pas pour autant le brouillon en document approuvé par Alice : la validation est une autre décision, dont l’article Quand je clique sur « Valider », qu’est-ce que j’autorise exactement ? détaille ce qu’elle doit couvrir.

Supposons maintenant que le modèle propose de modifier le compte bancaire du client du dossier. Le service refuse : M17 ne comporte pas cette action. Une consigne écrite dans le prompt, du type « ne modifie jamais les coordonnées bancaires », aurait pu orienter le modèle, mais aucun composant ne l’exécute comme une règle ; si le modèle propose l’action malgré elle, la consigne seule ne l’arrête pas. Ce sont les contrôles exécutables qui imposent le refus : ici celui du service, mais un contrôle placé dans l’outil ou le harnais peut aussi arrêter l’appel. La différence qui compte sépare une instruction donnée au modèle d’un contrôle d’autorisation. Le journal conserve l’opération tentée et la décision. Il n’a besoin d’enregistrer ni le secret d’accès ni toute la conversation pour établir ce refus.

Le piège du connecteur plus puissant que l’appelant

Entre l’assistant et le service, il y a souvent un connecteur : le composant qui transforme un appel d’outil en requête vers le service de facturation, avec un justificatif d’accès. Supposons que ce connecteur utilise une clé commune d’administration. Alice n’a pas le droit de changer les coordonnées bancaires, mais cette clé le possède. Si le connecteur applique sa propre autorité sans vérifier celle d’Alice et de M17, il donne à la mission un pouvoir qu’elle n’avait pas, et le refus de la section précédente n’a plus lieu.

Norm Hardy a décrit ce type de confusion dans The Confused Deputy. Dans son exemple, un compilateur avait le droit d’écrire dans son propre répertoire pour y tenir des statistiques d’usage. Un utilisateur lui a indiqué, comme fichier de sortie, le fichier de facturation du système, rangé dans ce même répertoire, et le compilateur l’a écrasé avec l’autorité qu’il détenait pour lui-même. Le programme a exercé une autorité qui lui appartenait au bénéfice d’un appelant qui ne la possédait pas. L’enjeu tient donc à l’autorité effectivement choisie pour chaque opération, que le composant s’appelle « agent » ou « compte de service ».

Un service métier peut avoir besoin de droits internes pour calculer et enregistrer la facture. Il doit d’abord accepter la demande selon l’autorité de la personne et de sa mission. Ses droits de traitement ne deviennent pas un accès général offert au client agentique.

Traitez donc l’agent comme un utilisateur du système. Il passe par les mêmes interfaces et les mêmes contrôles qu’Alice, avec au plus les droits qu’elle peut lui déléguer, de préférence réduits à sa mission, et sans privilège propre au connecteur. Cette règle se vérifie, car une clé technique trop large, comme celle de l’exemple, suffit à la contredire.

Alice délègue M17 à l’assistant. Le service vérifie les identités et leur lien, autorise le brouillon F204 et refuse le changement bancaire ; la trace conserve personne, client, mission, décision et résultat.
Les consignes orientent le modèle ; les contrôles des outils et des services font respecter les droits. La trace relie chaque action à l’identité et à la délégation utilisées.

Conserver la bonne identité jusqu’au service destinataire

Une délégation doit aussi viser le bon service. La RFC 8707 permet au client OAuth d’indiquer au serveur d’autorisation la ressource à laquelle il demande accès. Le serveur d’autorisation devrait alors restreindre l’audience du jeton délivré à cette ressource, pour que le jeton ne puisse pas être utilisé ailleurs. Cette restriction ne protège que si le service destinataire établit, lui-même ou par son dispositif de validation, que le jeton qu’il reçoit lui est destiné. Elle complète le périmètre d’action de M17, sans le remplacer : un jeton destiné au service de facturation ne dit pas quelles factures l’assistant peut créer.

Le harnais garde les justificatifs hors du contexte du modèle et les utilise dans la couche qui appelle les outils. À chaque frontière, l’attribution doit survivre : un journal qui ne conserve finalement que « compte connecteur » perd la personne et la mission. À l’inverse, recopier leur identifiant dans la requête sans vérifier la délégation ne rétablit aucune protection.

La durée de M17 suit la même logique. Quand la journée se termine, ou si Alice retire la mission plus tôt, le service refuse les demandes qui s’en réclament. Un retrait anticipé n’a d’effet que si le service connaît l’état de la mission au moment de chaque demande, et pas seulement au moment de la délégation.

Relier la facture à Alice, à l’assistant et à M17

Revenons à la question du début. Dans ce journal, l’auteur de F204 n’est ni le modèle, ni le compte du connecteur. C’est une chaîne : Alice a demandé, l’assistant a exécuté, la mission M17 a permis la lecture du dossier C42 et la création d’un brouillon, mais ni sa validation ni son envoi, et le service a vérifié les trois, et leur lien, avant d’agir. Cette chaîne permet de distinguer la création de F204, sa validation par Alice et son envoi, et de dire précisément ce que l’agent a fait pour l’utilisatrice.

Sources

Explorer

Sur le même sujet

Choisis dans l’index d’après les étiquettes de cet article — les plus proches d’abord, hors de sa série. Rien n’est écrit à la main : un article publié demain avec les mêmes étiquettes y prendra place.

Laisser un commentaire

Elle n'est jamais affichée ni publiée. Elle sert à regrouper vos commentaires et, si vous vous inscrivez un jour avec elle, à vous les rendre.

Votre commentaire sera relu avant d'être publié.