Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Intelligence artificielle

Mettre en place la gouvernance de l'IA agentique à partir d'une gouvernance de l'IA existante

L'essentiel

La gouvernance de l'IA agentique réunit les règles et les rôles par lesquels une organisation sait quels agents IA agissent dans ses applications, avec quels droits, quel degré d'autonomie et sous la responsabilité de quelle personne. Management Square propose ici une méthode pour l'ajouter à une gouvernance de l'IA existante : inventaire, niveaux d'autonomie, responsable désigné, traces, revue périodique, arrêt.

Sommaire de la page

Un registre des systèmes d’IA décrit, pour chaque système, une finalité, un fournisseur, des données et un classement. Un agent IA y ajoute ce qu’aucune de ces rubriques ne porte : un compte technique, des droits dans des applications, des actions qu’il choisit et exécute lui-même. La gouvernance de l’IA agentique a pour objet ce supplément.

Elle s’obtient en étendant le dispositif en place (registre, classement, rôles, circuit de validation) par six ajouts, dans cet ordre : l’inventaire des agents et de leurs droits, un niveau d’autonomie par action avec sa validation humaine, un responsable désigné, des traces, une revue périodique et une procédure d’arrêt. Chaque étape livre une pièce dont la suivante se sert. « IA agentique » et « niveau d’autonomie » sont des termes d’usage, et cette méthode est une proposition, que nous ne tirons d’aucun référentiel. Elle suppose une gouvernance installée selon notre article sur la mise en œuvre de la gouvernance de l’IA.

L’inventaire recense les agents avec leurs droits

Le registre existant donne un point de départ. Un agent peut y figurer comme un simple assistant, ou en être absent s’il a été relié à des outils internes par un collaborateur, forme que relève notre fiche sur le shadow AI. L’inventaire croise donc d’autres sources : les comptes techniques et les clés d’accès créés pour des applications d’IA, les serveurs d’outils raccordés, par exemple par le protocole MCP, les plateformes d’automatisation.

Le critère d’inscription est celui de la fiche de lexique : le modèle choisit l’action suivante et l’exécute par un outil. La fiche de chaque agent porte ses outils, le compte employé, les droits ouverts dans chaque application, les sources qu’il lit et le modèle sur lequel il repose.

L’OWASP, dans la fiche « Excessive Agency » (LLM06:2025) de son Top 10 pour les applications de LLM (genai.owasp.org), lue le 12 novembre 2026, rattache en général l’excès de pouvoir d’un agent à une ou plusieurs de trois causes : trop de fonctionnalités, trop de permissions, trop d’autonomie. L’inventaire consigne les deux premières ; l’étape suivante traite la troisième. L’examen de sécurité de ces droits suit notre article sur la sécurité des agents IA.

Il en sort une section « agents » du registre, avec, pour chacun, la matrice de ses outils et de ses droits.

Un niveau d’autonomie par action, et la validation humaine associée

Le niveau se fixe pour chaque action : un même agent peut lire, proposer et exécuter. Nous proposons une convention à quatre niveaux. D’autres découpages circulent, et nous n’en attribuons aucun à un organisme.

Niveau L’agent Validation humaine Qui autorise ce niveau
Lecture Consulte et restitue, sans rien écrire Relecture par le destinataire du résultat Le responsable de l’agent
Proposition Prépare une action qu’une personne accomplit Accord donné avant chaque action Le responsable de l’agent
Exécution réversible Écrit dans une application interne, sous des plafonds Contrôle d’un échantillon, reprise en main hors périmètre Le responsable de l’agent et le propriétaire de l’application
Exécution engageante Accomplit une action irréversible ou tournée vers un tiers Accord préalable à chaque action, sauf dérogation écrite L’instance de gouvernance de l’IA

Ces niveaux s’appuient sur les classes d’actions de notre article sur les cas d’usage des agents IA en entreprise ; la convention y ajoute la personne qui autorise chacun. L’action de niveau le plus élevé fixe le circuit que suit le dossier de l’agent.

Faire monter une action d’un niveau est une décision datée, inscrite au registre et prise sur des relevés : proportion des propositions validées telles quelles, motifs des reprises en main. Les garde-fous techniques qui font respecter ces niveaux sont conçus selon notre page agents IA, qui renvoie aussi au règlement (UE) 2024/1689 pour le contrôle humain d’un agent classé à haut risque.

Cette étape livre la grille des niveaux, reportée dans la matrice de l’inventaire.

Un responsable désigné, et des traces qui lui parviennent

Le registre nomme déjà un responsable métier par système. Un agent traverse plusieurs applications, et la désignation se complète : son responsable décide de la tâche confiée et propose le niveau d’autonomie, chaque propriétaire d’application accorde les droits qui le concernent, une personne tient le compte technique. Lorsque plusieurs agents coopèrent, nous proposons qu’un seul responsable couvre la chaîne entière, quel que soit le mode retenu parmi ceux de notre article sur l’orchestration d’agents IA. La désignation est écrite, acceptée, et prévoit un suppléant.

Les traces sont la matière de ce responsable. La gouvernance fixe ce qu’elles contiennent (ce qui a déclenché l’exécution, chaque appel d’outil, chaque validation demandée et la personne qui l’a donnée), qui les lit et à quel rythme. Les mesures qui s’en tirent sont décrites dans notre article sur l’observabilité de l’IA générative. Comme elles peuvent reprendre des données personnelles, leur durée de conservation s’arrête avec le délégué à la protection des données.

Deux pièces rejoignent le dossier : l’acte de désignation et la règle de journalisation.

La revue périodique de la gouvernance de l’IA agentique

La revue compare, pour chaque agent, ce qui a été autorisé et ce qui s’est produit. Elle examine les droits accordés et ceux que l’agent a réellement employés, pour retirer les droits restés sans usage. Elle relit le niveau de chaque action au vu des relevés. Elle recense les changements (version du modèle, outil ajouté, consigne modifiée), les incidents et les reprises en main.

Certains événements la déclenchent sans attendre l’échéance : un outil ajouté, un changement de modèle, le départ du responsable, un incident. Sa fréquence se règle sur le niveau le plus élevé de l’agent.

Des référentiels peuvent structurer l’exercice. Le cadre de gestion des risques de l’IA du NIST (AI Risk Management Framework), d’usage volontaire, est en cours de révision selon la page que lui consacre l’institut, consultée le 12 novembre 2026. La norme présentée dans notre fiche ISO 42001 porte sur le système de management de l’organisme. Nous ne leur attribuons aucune des étapes proposées ici.

La revue se conclut par un compte rendu et par un registre mis à jour.

L’arrêt se prépare comme une décision, avec ses titulaires

La coupure technique (désactiver le compte, révoquer les jetons, fermer l’accès aux outils) est décrite dans notre article sur la sécurité des agents. La gouvernance règle ce qui l’entoure : les personnes habilitées à suspendre un agent, y compris hors des heures ouvrées, les constats qui y conduisent, le sort des tâches en cours, les personnes prévenues, à commencer par les propriétaires des applications touchées. Elle fixe aussi le retour : qui autorise la remise en service, et après quelle revue. Le retrait définitif s’y ajoute : comptes et clés supprimés, traces archivées, ligne du registre close.

Le registre et le circuit de validation qui accueillent ces ajouts sont décrits dans notre page gouvernance de l’IA. Une fois les six étapes menées, la fiche d’un agent y porte :

  • ses outils, son compte et ses droits dans chaque application ;
  • le niveau de chaque action et la validation associée ;
  • son responsable, le suppléant et les propriétaires d’applications qui ont accordé les droits ;
  • la règle de journalisation et la durée de conservation des traces ;
  • la date de la dernière revue et celle de la prochaine ;
  • les personnes habilitées à l’arrêter, et la date du dernier essai d’arrêt.

Insights

À lire sur le sujet

Tous les insights
Les défis éthiques de l'IA générative lus dans les textes publics de référence

Un défi éthique de l'IA générative est, par convention, une question que la loi ne suffit pas à trancher : biais, contenus trompeurs, droit d'auteur, transparence, travail, empreinte environnementale. Management Square lit ce qu'en disent la Recommandation de l'OCDE sur l'IA, les lignes directrices européennes de 2019 et le droit de l'Union, puis propose une manière d'en tirer des choix motivés pour chaque usage.

Lire l'analyse
Faut-il essayer la méthode BMAD pour organiser le développement assisté par IA ?

La méthode BMAD est un projet ouvert tiers, publié sur GitHub sous licence MIT, qui organise le développement assisté par IA autour d'agents spécialisés par rôle produisant des documents que les suivants reprennent. Management Square en présente le contenu, ce qu'elle suppose, les cas où l'essayer et une manière de juger un essai, d'après le dépôt et la documentation du projet.

Lire l'analyse
RGPD et intelligence artificielle dans un même projet, les articles à lire dans le texte

RGPD et intelligence artificielle se croisent dès qu'un projet d'IA comporte un traitement de données à caractère personnel, à l'entraînement comme à l'usage. Management Square lit ici les articles du règlement (UE) 2016/679 que ce projet rencontre (5, 6, 13 à 15, 22, 25 et 35), ce qu'ils disent, ce qu'ils laissent à qualifier, et leur articulation avec le règlement sur l'IA.

Lire l'analyse

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Qu'est-ce que la gouvernance de l'IA agentique ?

La gouvernance de l'IA agentique désigne les règles, les rôles et les contrôles qu'une organisation applique à ses agents IA, c'est-à-dire aux systèmes où un modèle de langage choisit lui-même ses actions et les exécute par des outils. Elle traite ce que la fiche d'un système d'IA ordinaire ne porte pas : les droits de l'agent dans les applications, son degré d'autonomie, la personne désignée comme responsable, ses traces et son arrêt. L'expression relève de l'usage.

Faut-il une gouvernance distincte pour les agents IA ?

Non, selon la méthode proposée ici. Un agent est un système d'IA : il entre au registre, reçoit un classement et passe par le circuit de validation comme les autres. La gouvernance existante s'étend par des rubriques et des règles propres aux agents (droits, niveau d'autonomie, traces, arrêt), ce qui évite de tenir deux registres et de réunir deux instances pour un même système.

Existe-t-il une échelle de référence des niveaux d'autonomie d'un agent IA ?

Plusieurs découpages circulent, et nous n'en attribuons aucun à un organisme ou à un éditeur. La convention proposée dans cet article compte quatre niveaux, fixés pour chaque action : lecture, proposition, exécution réversible, exécution engageante. Pour la gouvernance, l'essentiel est que la convention soit écrite, que chaque action de chaque agent en relève et que le passage au niveau supérieur soit une décision datée.

Qui désigner comme responsable d'un agent IA ?

Nous proposons de désigner la personne du métier qui a confié la tâche à l'agent : elle propose le niveau d'autonomie de chaque action, lit les traces et demande la suspension. Les propriétaires des applications accordent les droits qui les concernent, et une personne tient le compte technique. Cette désignation organise le travail ; la responsabilité juridique de l'organisation s'apprécie avec ses juristes.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.