Un agent IA lit des contenus dont il ne contrôle pas l’origine, choisit lui-même l’action suivante et l’exécute avec des droits réels dans le système d’information. La sécurité des agents IA s’en trouve déplacée : l’examen porte moins sur ce que l’agent est censé faire que sur ce qu’il pourrait faire si le modèle se trompait ou s’il était manipulé.
Elle consiste donc à borner ce que l’agent peut atteindre, quelle que soit la décision du modèle : des droits réduits à la tâche, une liste fermée d’outils, un périmètre de lecture justifié, des contenus lus tenus pour non fiables, une trace de chaque appel et un arrêt éprouvé. Sur chacun de ces points, un responsable de la sécurité des systèmes d’information (RSSI) peut poser une question avant d’autoriser la mise en service. Cette grille est une proposition de méthode, appuyée sur des sources publiques consultées le 12 novembre 2026 : le Top 10 de l’OWASP pour les applications de LLM et d’IA générative (« 2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps », genai.owasp.org) et la documentation du Model Context Protocol (modelcontextprotocol.io).
Que pourrait faire un attaquant avec les droits de l’agent ?
Si le modèle obéit à l’attaquant, la consigne cesse d’être une protection, et les droits du compte employé bornent les dégâts.
L’OWASP nomme ce risque « Excessive Agency » (LLM06:2025) et lui donne trois origines : des fonctionnalités, des permissions ou une autonomie excessives. L’un de ses exemples décrit une extension conçue pour lire des données, qui se connecte à la base avec une identité autorisée aussi à modifier, à insérer et à supprimer.
Le RSSI demande le relevé des droits réels, application par application, et le lit comme un scénario du pire. Il y cherche un compte propre à l’agent, des jetons à durée limitée que le code détient hors du contexte du modèle et, lorsque l’agent agit pour une personne, des droits qui ne dépassent pas les siens. La même fiche cite le cas inverse : un compte privilégié qui ouvre les fichiers de tous les utilisateurs. C’est le moindre privilège, accordé session par session, que présente notre fiche sur le zero trust.
Chaque outil ouvert à l’agent est-il nécessaire à sa tâche ?
Le RSSI demande la liste des outils telle qu’elle est déployée, avec pour chacun ce qu’il lit, ce qu’il écrit et ce qui ne se défait pas.
L’OWASP donne des exemples de liste qui déborde. Un connecteur tiers, retenu pour lire des documents, sait aussi les modifier et les supprimer. Un outil essayé pendant le développement, puis écarté, reste accessible à l’agent. Un outil ouvert par nature, comme l’exécution d’une commande ou la récupération d’une adresse web quelconque, se remplace par un outil borné à une opération.
Le contrôle se place dans l’application appelée. L’OWASP parle de médiation complète : l’autorisation est vérifiée par le système en aval, au lieu d’être laissée à l’appréciation du modèle.
Un serveur d’outils tiers est une dépendance logicielle, dont la provenance et les mises à jour suivent les contrôles de notre article sur la sécurité applicative. Pour un serveur local raccordé par le protocole MCP, la documentation de sécurité impose à l’application cliente qui propose une installation en un clic d’afficher la commande exacte et d’obtenir un accord explicite avant de l’exécuter. La conception des outils et des permissions est décrite dans notre page agents IA.
Que lit l’agent, et par où ce qu’il a lu peut-il ressortir ?
Ce que l’agent lit entre dans son contexte et peut se retrouver dans ce qu’il produit ensuite : une réponse, les paramètres d’un appel d’outil, une note gardée en mémoire. L’OWASP traite la divulgation par les sorties sous l’intitulé « Sensitive Information Disclosure » (LLM02:2025).
Le RSSI demande un relevé des sources (dépôts documentaires, messageries, bases, pages web, mémoire conservée d’une session à l’autre), qui indique, pour chacune, si l’agent lit avec ses propres droits ou avec ceux de la personne servie. Un agent partagé qui lit avec un compte large peut montrer à quelqu’un ce qu’il n’aurait pas eu le droit d’ouvrir.
Il demande aussi le relevé des sorties : envoi d’un message, appel d’un service externe, écriture dans un espace partagé, lien inséré dans une réponse affichée. La spécification du Model Context Protocol (page « tools », lue le 12 novembre 2026) recommande aux applications clientes de montrer à l’utilisateur les paramètres d’un appel avant de l’adresser au serveur, pour éviter une exfiltration de données. Un modèle exploité par un tiers compte parmi ces sorties : ce qui entre dans le contexte est transmis à ce tiers, aux conditions de son contrat.
Que devient la sécurité des agents IA quand un contenu lu donne des ordres ?
L’OWASP décrit l’injection de prompt sous le numéro LLM01:2025 et en distingue une forme indirecte, qui survient lorsque le modèle reçoit des contenus de sources externes, tels que des sites web ou des fichiers. Pour un agent, un courriel, une pièce jointe ou le résultat d’un outil sont de telles sources.
La même fiche pose une limite : compte tenu du fonctionnement des modèles, il n’est pas établi qu’il existe une méthode de prévention infaillible. Le RSSI raisonne donc à partir de l’hypothèse où l’injection réussit, et cherche ce qui arrête alors la conséquence.
Les droits, la liste d’outils et le relevé des sorties y répondent en partie. L’OWASP y ajoute une approbation humaine pour les actions à haut risque, la séparation des contenus externes et des essais d’attaque réguliers, où le modèle est traité comme un utilisateur non fiable. Le dossier remis au RSSI contient des scénarios d’injection joués sur l’agent tel qu’il sera déployé, avec l’action tentée et la barrière qui l’a arrêtée. Lorsque plusieurs agents coopèrent, le chemin d’un contenu piégé dépend du mode d’orchestration des agents.
Pourra-t-on reconstituer ce que l’agent a fait, appel par appel ?
Après un incident, l’enquête a besoin, pour chaque exécution, de ce qui l’a déclenchée, des contenus lus, de chaque appel d’outil avec ses paramètres et son résultat, et des validations demandées. Le compte propre à l’agent rend ses actions reconnaissables dans les journaux des applications.
Les traces sont écrites hors de portée de l’agent, qui ne peut ni les modifier ni les effacer. Elles alimentent la détection : une action hors périmètre bloquée ou un volume d’appels inhabituel déclenchent une alerte. Leur durée de conservation se fixe avec le délégué à la protection des données, car des données personnelles peuvent y figurer.
La fiche LLM06:2025 de l’OWASP range la journalisation et la limitation du débit des appels parmi les mesures qui limitent les dégâts sans prévenir le risque.
Comment arrête-t-on l’agent, et que reste-t-il à défaire ?
L’arrêt est une procédure technique : désactiver le compte de l’agent, révoquer ses jetons, couper l’accès à ses outils. Le dossier indique qui peut la déclencher et ce qu’il advient des tâches en cours. La désignation des superviseurs relève de l’autorisation donnée par le comité, sujet de notre article sur les cas d’usage des agents IA en entreprise.
Une fois l’agent arrêté, les traces donnent la liste de ses actions récentes, et les écritures réversibles se défont une à une. Les actions qui ne se défont pas (un paiement, un message parti chez un tiers, une suppression) justifient une validation préalable limitée à ces actions.
Si l’agent a servi de point d’entrée à une intrusion, la continuité et la reprise de l’activité relèvent du dispositif de cyber-résilience, qui doit connaître l’agent et ses comptes. L’accord du RSSI et ses réserves peuvent rejoindre le registre des systèmes que tient la gouvernance de l’IA.
Un essai d’arrêt joué avant la mise en service, chronométré de la décision au dernier appel d’outil, apporte au RSSI la dernière pièce de son examen.