Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Intelligence artificielle

Agents IA : concevoir, encadrer et superviser des agents autonomes

Un agent n'écrit pas seulement, il agit dans vos applications. Nos consultants aident vos équipes à le concevoir à partir de ce qu'il a le droit de faire, de ce qui doit rester validé par un humain et de ce qui doit être tracé.

Nos principes

  • Le degré d'autonomie le plus faible qui rend le service
  • Des garde-fous inscrits dans le système
  • Une trace complète de chaque action
L'essentiel

Les agents IA sont des systèmes qui utilisent un modèle de langage pour poursuivre un objectif en enchaînant des actions dans des applications, au moyen d'outils. Les consultants de Management Square contribuent à leur conception au sein des équipes de leurs clients : degré d'autonomie, définition des outils et des permissions, garde-fous techniques, supervision humaine et traçabilité de chaque action.

Périmètre

Nos interventions

  1. Qualification des processus candidats

    Analyse des tâches envisagées : fréquence, possibilité de vérifier le résultat, gravité et réversibilité d'une erreur. Nous écartons les processus que personne ne sait décrire.

  2. Choix du degré d'autonomie

    Arbitrage entre flux orchestré, agent à outils et système multi-agents, selon la variabilité de la tâche et le niveau de contrôle attendu.

  3. Conception des outils et des permissions

    Définition des outils exposés à l'agent, séparation de la lecture et de l'écriture, identité technique propre et droits limités à la tâche.

  4. Garde-fous techniques

    Listes d'actions autorisées, plafonds de montant et de volume, limite d'étapes et de budget, exécution isolée, filtrage des contenus lus par l'agent.

  5. Dispositif de supervision humaine

    Définition, action par action, de ce qui exige une validation préalable, un contrôle par échantillon ou une escalade, et conception du poste de supervision.

  6. Tests, traçabilité et exploitation

    Scénarios de test en environnement simulé, y compris des tentatives de détournement, journal complet des décisions et procédure d'arrêt.

Sommaire de la page

Un agent qui agit n’échoue pas comme un assistant qui répond

Les agents IA portent une attente forte : confier à un système non plus une question, mais un objectif. Traiter une demande de bout en bout, rapprocher des factures et des bons de commande, préparer un dossier en interrogeant plusieurs applications. La promesse est réelle. La marche à franchir est plus haute qu’elle n’y paraît.

Un assistant qui se trompe produit un texte faux, qu’une personne peut relire avant de s’en servir. Un agent qui se trompe exécute : il envoie un message, modifie un enregistrement, déclenche une commande. L’erreur a produit son effet dans le système d’information avant que quiconque ne l’ait vue.

Trois propriétés rendent le sujet difficile. Les erreurs se cumulent : une tâche en dix étapes, dont chacune réussit le plus souvent, échoue bien plus fréquemment qu’une tâche en une étape. Le comportement n’est pas déterministe : le même objectif peut être traité par deux chemins différents. Enfin, l’agent lit des contenus que vous ne contrôlez pas (courriels, pages web, pièces jointes), et ces contenus peuvent renfermer des instructions destinées à le détourner.

Boucle, outils, mémoire : ce qui fait un agent, et jusqu’où le laisser décider

Un agent IA est un modèle de langage placé dans une boucle. Il reçoit un objectif, décide d’une action, appelle un outil (une interface de programmation, une requête dans une base, une recherche), observe le résultat, puis décide de l’action suivante. La boucle s’arrête lorsque l’objectif est atteint ou qu’une condition d’arrêt se déclenche. Les outils définissent ce que l’agent peut faire. La mémoire définit ce qu’il retient d’une étape ou d’une session à l’autre.

Les systèmes dits « agentiques » n’ont pas tous le même degré d’autonomie. Ce choix est la première décision de conception.

Forme Qui décide de l’enchaînement Usage type Niveau de contrôle
Flux orchestré Le code : les étapes sont fixées, le modèle traite chacune Processus stable et bien décrit Élevé, comportement prévisible
Agent à outils Le modèle choisit les outils et leur ordre, dans un périmètre borné Tâches variables, cas impossibles à énumérer à l’avance Dépend des garde-fous
Système multi-agents Un orchestrateur répartit le travail entre agents spécialisés Tâches longues mêlant plusieurs compétences Plus difficile à tester et à tracer

Notre règle est de retenir le degré d’autonomie le plus faible qui rend le service attendu. Beaucoup de besoins présentés comme des projets d’agents se traitent mieux par un flux orchestré, plus simple à tester. Et lorsque le besoin est de répondre à partir de documents, sans agir, un assistant d’IA générative suffit.

Concevoir les agents IA à partir de leurs permissions

Nos consultants travaillent au sein de vos équipes ; les décisions restent les vôtres.

Choisir un processus qui s’y prête. Un bon candidat est une tâche fréquente, dont le résultat se vérifie et dont les erreurs se rattrapent. Un processus que personne ne sait décrire ne sera pas mieux exécuté par un agent.

Définir les outils comme des contrats. Chaque outil exposé à l’agent a une description précise, des paramètres typés et des messages d’erreur explicites. Nous séparons les outils de lecture des outils d’écriture. L’agent dispose de sa propre identité technique et de droits limités à sa tâche : il n’emprunte pas le compte d’un utilisateur. Cela suppose que vos applications exposent des interfaces propres, ce qui renvoie à l’architecture du système d’information. Des protocoles ouverts tels que le Model Context Protocol (MCP) standardisent ce raccordement entre agents et outils.

Inscrire les garde-fous dans le système, pas dans la consigne. Demander à un modèle de « ne jamais » faire quelque chose ne constitue pas un contrôle. Les limites sont techniques : liste fermée d’actions autorisées, plafonds de montant et de volume, nombre maximal d’étapes, budget par tâche, exécution du code en environnement isolé, filtrage des contenus entrants.

Graduer la supervision humaine. Trois régimes coexistent. La validation préalable : l’agent prépare, une personne approuve avant toute action irréversible. Le contrôle a posteriori : l’agent agit, une personne vérifie un échantillon. L’escalade : l’agent rend la main dès qu’il sort de son périmètre ou qu’une règle de doute se déclenche. Le régime se choisit action par action, selon la gravité d’une erreur.

Tracer et tester des trajectoires. Chaque décision, chaque appel d’outil et chaque résultat sont journalisés, afin de pouvoir expliquer après coup ce que l’agent a fait et dans quel ordre. Les tests portent sur l’état final obtenu dans un environnement simulé, et pas seulement sur le texte produit. Ils incluent des tentatives de détournement par injection d’instructions.

Lorsque l’agent constitue un système d’IA à haut risque au sens de l’article 6 du règlement (UE) 2024/1689, le contrôle humain est une exigence du texte (article 14). Le dispositif de supervision s’inscrit alors dans votre gouvernance de l’IA.

Ce qui fait dérailler un projet d’agents

  • Commencer par plusieurs agents. Un système multi-agents multiplie les échanges à tracer et les causes d’échec. Il se justifie après avoir stabilisé un agent unique, rarement avant.
  • Accorder des droits larges « pour que cela fonctionne ». Un agent qui peut tout faire peut tout abîmer. Chaque droit supplémentaire se justifie par une étape précise de la tâche.
  • Retirer la validation humaine trop tôt. L’autonomie s’élargit sur la base de mesures, par exemple la part des propositions de l’agent acceptées sans modification, et non sur une impression.
  • Mettre en service sans procédure d’arrêt. Un agent doit pouvoir être suspendu immédiatement, et ses actions récentes doivent pouvoir être retrouvées.
  • Oublier ceux dont le travail change. Superviser un agent n’est pas le même métier qu’exécuter la tâche. Les critères de validation, la charge de contrôle et les responsabilités se définissent avec les équipes concernées.

Les indicateurs de réussite d’un agent en exploitation

Un agent se pilote comme un service, avec des mesures relevées en continu :

  • la part des tâches menées à leur terme sans intervention humaine, et dont le résultat est correct ;
  • la fréquence des escalades et leurs motifs, pour distinguer la prudence utile du blocage ;
  • la part des actions corrigées ou annulées par un superviseur ;
  • le nombre d’étapes et le coût par tâche, qui signalent les boucles et les dérives ;
  • les tentatives d’action hors périmètre bloquées par les garde-fous ;
  • le délai de traitement de bout en bout, comparé à celui du processus antérieur.

La lecture conjointe de ces mesures oriente les décisions. Un taux d’achèvement élevé accompagné de nombreuses corrections a posteriori indique un agent trop autonome pour sa fiabilité réelle. Des escalades très fréquentes indiquent un périmètre mal défini ou des outils insuffisants.

Travaux types

Ce à quoi nos consultants contribuent

Fiche de qualification du processus

Tâche visée, résultat attendu, erreurs possibles et degré d'autonomie retenu, avec sa justification.

Matrice des outils et des permissions

Liste des outils, droits associés, plafonds et régime de supervision applicable à chaque action.

Campagne de tests

Scénarios nominaux, cas limites et scénarios d'attaque, avec l'état final attendu et les résultats obtenus.

Dossier d'exploitation

Indicateurs suivis, format des journaux, procédure de suspension et rôles des superviseurs.

Insights

À lire sur le sujet

Tous les insights
Faut-il essayer la méthode BMAD pour organiser le développement assisté par IA ?

La méthode BMAD est un projet ouvert tiers, publié sur GitHub sous licence MIT, qui organise le développement assisté par IA autour d'agents spécialisés par rôle produisant des documents que les suivants reprennent. Management Square en présente le contenu, ce qu'elle suppose, les cas où l'essayer et une manière de juger un essai, d'après le dépôt et la documentation du projet.

Lire l'analyse
Mettre en place la gouvernance de l'IA agentique à partir d'une gouvernance de l'IA existante

La gouvernance de l'IA agentique réunit les règles et les rôles par lesquels une organisation sait quels agents IA agissent dans ses applications, avec quels droits, quel degré d'autonomie et sous la responsabilité de quelle personne. Management Square propose ici une méthode pour l'ajouter à une gouvernance de l'IA existante : inventaire, niveaux d'autonomie, responsable désigné, traces, revue périodique, arrêt.

Lire l'analyse
Qui décide de l'étape suivante ? L'orchestration d'agents IA, du code figé au passage de relais

L'orchestration d'agents IA désigne la manière dont une application décide quels agents s'exécutent, dans quel ordre et qui choisit l'étape suivante : le code, un agent orchestrateur ou l'agent qui tient la tâche. Management Square compare ces modes d'orchestration, ce que chacun coûte en appels de modèle, en tests et en traçabilité, et les situations où chacun convient.

Lire l'analyse

Management Square en chiffres

+ 300
projets menés
+ 43
clients accompagnés
Depuis2015
au service de nos clients
  • Allianz
  • Euler Hermes
  • Groupe BPCE
  • ODDO BHF
  • Candriam
  • Ledger
  • Saur
  • Veolia
  • Voltalia
  • emeis
  • Bonpoint
  • Legal Suite

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Qu'est-ce qu'un agent IA ?

Un agent IA est un système qui utilise un modèle de langage pour atteindre un objectif en plusieurs étapes. Il décide d'une action, appelle un outil (une interface applicative, une base de données, un moteur de recherche), observe le résultat et choisit l'étape suivante. Il se distingue d'un assistant conversationnel par sa capacité à agir sur des applications, et pas seulement à produire un texte.

Quelle différence entre un agent IA et un chatbot ?

Un chatbot répond à un message par un texte, et l'utilisateur décide de ce qu'il en fait. Un agent IA reçoit un objectif et exécute lui-même une suite d'actions pour l'atteindre, par exemple consulter un dossier, mettre à jour un enregistrement puis notifier un interlocuteur. La conséquence d'une erreur n'est donc pas la même : un texte faux se relit, une action erronée a déjà produit son effet.

Quels processus confier à des agents IA ?

Les bons candidats sont des tâches fréquentes, dont le résultat se vérifie objectivement et dont les erreurs se rattrapent : préparation de dossiers, rapprochements, tri et routage de demandes, collecte d'informations dans plusieurs applications. Les décisions aux conséquences lourdes pour une personne ou difficilement réversibles demandent au minimum une validation humaine avant action.

Comment éviter qu'un agent IA exécute une action indésirable ?

En plaçant les limites dans le système et non dans la consigne donnée au modèle. L'agent ne dispose que des outils et des droits nécessaires à sa tâche, les actions irréversibles passent par une validation humaine, des plafonds bornent les montants, les volumes et le nombre d'étapes, et chaque appel d'outil est journalisé. Une procédure d'arrêt permet de suspendre l'agent immédiatement.

Faut-il un système multi-agents ?

Pas pour commencer. Un système multi-agents répartit une tâche entre plusieurs agents spécialisés coordonnés par un orchestrateur, ce qui le rend plus difficile à tester et à tracer. Il se justifie lorsque la tâche est longue et mêle des compétences distinctes. Dans beaucoup de cas, un flux orchestré ou un agent unique doté de quelques outils rend le même service avec moins de risques.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.