Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Intelligence artificielle

Droits, outils, contenus lus : la sécurité des agents IA telle qu'un RSSI l'interroge

L'essentiel

La sécurité des agents IA consiste à borner ce qu'un agent peut atteindre, quelle que soit la décision du modèle : droits réduits à la tâche, liste fermée d'outils, lectures justifiées, contenus lus tenus pour non fiables, trace de chaque appel et arrêt éprouvé. Management Square passe en revue les questions qu'un responsable de la sécurité pose avant d'autoriser un agent, à partir de sources publiques nommées.

Sommaire de la page

Un agent IA lit des contenus dont il ne contrôle pas l’origine, choisit lui-même l’action suivante et l’exécute avec des droits réels dans le système d’information. La sécurité des agents IA s’en trouve déplacée : l’examen porte moins sur ce que l’agent est censé faire que sur ce qu’il pourrait faire si le modèle se trompait ou s’il était manipulé.

Elle consiste donc à borner ce que l’agent peut atteindre, quelle que soit la décision du modèle : des droits réduits à la tâche, une liste fermée d’outils, un périmètre de lecture justifié, des contenus lus tenus pour non fiables, une trace de chaque appel et un arrêt éprouvé. Sur chacun de ces points, un responsable de la sécurité des systèmes d’information (RSSI) peut poser une question avant d’autoriser la mise en service. Cette grille est une proposition de méthode, appuyée sur des sources publiques consultées le 12 novembre 2026 : le Top 10 de l’OWASP pour les applications de LLM et d’IA générative (« 2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps », genai.owasp.org) et la documentation du Model Context Protocol (modelcontextprotocol.io).

Que pourrait faire un attaquant avec les droits de l’agent ?

Si le modèle obéit à l’attaquant, la consigne cesse d’être une protection, et les droits du compte employé bornent les dégâts.

L’OWASP nomme ce risque « Excessive Agency » (LLM06:2025) et lui donne trois origines : des fonctionnalités, des permissions ou une autonomie excessives. L’un de ses exemples décrit une extension conçue pour lire des données, qui se connecte à la base avec une identité autorisée aussi à modifier, à insérer et à supprimer.

Le RSSI demande le relevé des droits réels, application par application, et le lit comme un scénario du pire. Il y cherche un compte propre à l’agent, des jetons à durée limitée que le code détient hors du contexte du modèle et, lorsque l’agent agit pour une personne, des droits qui ne dépassent pas les siens. La même fiche cite le cas inverse : un compte privilégié qui ouvre les fichiers de tous les utilisateurs. C’est le moindre privilège, accordé session par session, que présente notre fiche sur le zero trust.

Chaque outil ouvert à l’agent est-il nécessaire à sa tâche ?

Le RSSI demande la liste des outils telle qu’elle est déployée, avec pour chacun ce qu’il lit, ce qu’il écrit et ce qui ne se défait pas.

L’OWASP donne des exemples de liste qui déborde. Un connecteur tiers, retenu pour lire des documents, sait aussi les modifier et les supprimer. Un outil essayé pendant le développement, puis écarté, reste accessible à l’agent. Un outil ouvert par nature, comme l’exécution d’une commande ou la récupération d’une adresse web quelconque, se remplace par un outil borné à une opération.

Le contrôle se place dans l’application appelée. L’OWASP parle de médiation complète : l’autorisation est vérifiée par le système en aval, au lieu d’être laissée à l’appréciation du modèle.

Un serveur d’outils tiers est une dépendance logicielle, dont la provenance et les mises à jour suivent les contrôles de notre article sur la sécurité applicative. Pour un serveur local raccordé par le protocole MCP, la documentation de sécurité impose à l’application cliente qui propose une installation en un clic d’afficher la commande exacte et d’obtenir un accord explicite avant de l’exécuter. La conception des outils et des permissions est décrite dans notre page agents IA.

Que lit l’agent, et par où ce qu’il a lu peut-il ressortir ?

Ce que l’agent lit entre dans son contexte et peut se retrouver dans ce qu’il produit ensuite : une réponse, les paramètres d’un appel d’outil, une note gardée en mémoire. L’OWASP traite la divulgation par les sorties sous l’intitulé « Sensitive Information Disclosure » (LLM02:2025).

Le RSSI demande un relevé des sources (dépôts documentaires, messageries, bases, pages web, mémoire conservée d’une session à l’autre), qui indique, pour chacune, si l’agent lit avec ses propres droits ou avec ceux de la personne servie. Un agent partagé qui lit avec un compte large peut montrer à quelqu’un ce qu’il n’aurait pas eu le droit d’ouvrir.

Il demande aussi le relevé des sorties : envoi d’un message, appel d’un service externe, écriture dans un espace partagé, lien inséré dans une réponse affichée. La spécification du Model Context Protocol (page « tools », lue le 12 novembre 2026) recommande aux applications clientes de montrer à l’utilisateur les paramètres d’un appel avant de l’adresser au serveur, pour éviter une exfiltration de données. Un modèle exploité par un tiers compte parmi ces sorties : ce qui entre dans le contexte est transmis à ce tiers, aux conditions de son contrat.

Que devient la sécurité des agents IA quand un contenu lu donne des ordres ?

L’OWASP décrit l’injection de prompt sous le numéro LLM01:2025 et en distingue une forme indirecte, qui survient lorsque le modèle reçoit des contenus de sources externes, tels que des sites web ou des fichiers. Pour un agent, un courriel, une pièce jointe ou le résultat d’un outil sont de telles sources.

La même fiche pose une limite : compte tenu du fonctionnement des modèles, il n’est pas établi qu’il existe une méthode de prévention infaillible. Le RSSI raisonne donc à partir de l’hypothèse où l’injection réussit, et cherche ce qui arrête alors la conséquence.

Les droits, la liste d’outils et le relevé des sorties y répondent en partie. L’OWASP y ajoute une approbation humaine pour les actions à haut risque, la séparation des contenus externes et des essais d’attaque réguliers, où le modèle est traité comme un utilisateur non fiable. Le dossier remis au RSSI contient des scénarios d’injection joués sur l’agent tel qu’il sera déployé, avec l’action tentée et la barrière qui l’a arrêtée. Lorsque plusieurs agents coopèrent, le chemin d’un contenu piégé dépend du mode d’orchestration des agents.

Pourra-t-on reconstituer ce que l’agent a fait, appel par appel ?

Après un incident, l’enquête a besoin, pour chaque exécution, de ce qui l’a déclenchée, des contenus lus, de chaque appel d’outil avec ses paramètres et son résultat, et des validations demandées. Le compte propre à l’agent rend ses actions reconnaissables dans les journaux des applications.

Les traces sont écrites hors de portée de l’agent, qui ne peut ni les modifier ni les effacer. Elles alimentent la détection : une action hors périmètre bloquée ou un volume d’appels inhabituel déclenchent une alerte. Leur durée de conservation se fixe avec le délégué à la protection des données, car des données personnelles peuvent y figurer.

La fiche LLM06:2025 de l’OWASP range la journalisation et la limitation du débit des appels parmi les mesures qui limitent les dégâts sans prévenir le risque.

Comment arrête-t-on l’agent, et que reste-t-il à défaire ?

L’arrêt est une procédure technique : désactiver le compte de l’agent, révoquer ses jetons, couper l’accès à ses outils. Le dossier indique qui peut la déclencher et ce qu’il advient des tâches en cours. La désignation des superviseurs relève de l’autorisation donnée par le comité, sujet de notre article sur les cas d’usage des agents IA en entreprise.

Une fois l’agent arrêté, les traces donnent la liste de ses actions récentes, et les écritures réversibles se défont une à une. Les actions qui ne se défont pas (un paiement, un message parti chez un tiers, une suppression) justifient une validation préalable limitée à ces actions.

Si l’agent a servi de point d’entrée à une intrusion, la continuité et la reprise de l’activité relèvent du dispositif de cyber-résilience, qui doit connaître l’agent et ses comptes. L’accord du RSSI et ses réserves peuvent rejoindre le registre des systèmes que tient la gouvernance de l’IA.

Un essai d’arrêt joué avant la mise en service, chronométré de la décision au dernier appel d’outil, apporte au RSSI la dernière pièce de son examen.

Insights

À lire sur le sujet

Tous les insights
Composer le budget d'un projet IA, des postes de coût au choix entre construire et acheter

Le budget d'un projet IA peut se décomposer en six postes : cadrage, données, construction, évaluation, exploitation et conformité, dont une part se dépense une fois et une autre revient tant que le service existe. Management Square décrit ici chaque poste par sa nature et par ce qui le fait varier, puis ce que change le choix entre construire, adapter un modèle existant et acheter un service.

Lire l'analyse
Qui décide de l'étape suivante ? L'orchestration d'agents IA, du code figé au passage de relais

L'orchestration d'agents IA désigne la manière dont une application décide quels agents s'exécutent, dans quel ordre et qui choisit l'étape suivante : le code, un agent orchestrateur ou l'agent qui tient la tâche. Management Square compare ces modes d'orchestration, ce que chacun coûte en appels de modèle, en tests et en traçabilité, et les situations où chacun convient.

Lire l'analyse
Un centre d'excellence IA, pour quoi faire et jusqu'à quand ?

Un centre d'excellence IA est une équipe transverse qui met en commun ce que plusieurs projets d'intelligence artificielle n'ont pas intérêt à refaire séparément : compétences rares, socle technique, méthode d'évaluation. Management Square examine ici les questions qu'un comité de direction se pose avant d'en créer un : son utilité, son rattachement, ce qu'il centralise, le risque de goulet et sa durée.

Lire l'analyse

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Qu'est-ce qu'une injection de prompt indirecte ?

Selon la fiche LLM01:2025 du Top 10 de l'OWASP pour les applications de LLM, une injection de prompt indirecte survient lorsqu'un modèle de langage reçoit des contenus de sources externes, tels que des sites web ou des fichiers, et que ces contenus modifient son comportement de manière non voulue. L'instruction n'a pas besoin d'être visible pour une personne. Pour un agent, un courriel, une pièce jointe ou le résultat renvoyé par un outil peuvent en être le véhicule.

Un filtre sur les contenus suffit-il à protéger un agent IA contre l'injection ?

L'OWASP écrit, dans sa fiche LLM01:2025, qu'il n'est pas établi qu'il existe une méthode de prévention infaillible contre l'injection de prompt, en raison du fonctionnement même des modèles. Un filtre réduit donc le risque sans le fermer. Les mesures que la même fiche recommande portent aussi sur les conséquences : accès limités au minimum nécessaire, approbation humaine des actions à haut risque, séparation des contenus externes et essais d'attaque réguliers.

Existe-t-il un référentiel public sur la sécurité des agents IA ?

Plusieurs documents publics peuvent servir d'appui. L'OWASP publie un Top 10 des risques des applications de LLM et d'IA générative, dont l'édition 2025 comprend les fiches Prompt Injection (LLM01) et Excessive Agency (LLM06), ainsi qu'un « OWASP Top 10 for Agentic Applications for 2026 », daté du 9 décembre 2025. Le NIST publie un cadre de gestion des risques de l'IA d'usage volontaire, complété le 26 juillet 2024 par un profil consacré à l'IA générative (NIST-AI-600-1). Ces pages ont été consultées le 12 novembre 2026.

La sécurité des agents IA relève-t-elle de la sécurité applicative ?

En partie. Un agent est aussi une application : son code, ses dépendances et sa configuration appellent les mêmes contrôles que tout logiciel, et la fiche LLM06:2025 de l'OWASP renvoie elle-même au référentiel ASVS et aux analyses de code. S'y ajoutent les risques qui tiennent au modèle, qui décide de l'action suivante et peut être influencé par les contenus qu'il lit. Les deux examens se complètent.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.