Un agent qui agit n’échoue pas comme un assistant qui répond
Les agents IA portent une attente forte : confier à un système non plus une question, mais un objectif. Traiter une demande de bout en bout, rapprocher des factures et des bons de commande, préparer un dossier en interrogeant plusieurs applications. La promesse est réelle. La marche à franchir est plus haute qu’elle n’y paraît.
Un assistant qui se trompe produit un texte faux, qu’une personne peut relire avant de s’en servir. Un agent qui se trompe exécute : il envoie un message, modifie un enregistrement, déclenche une commande. L’erreur a produit son effet dans le système d’information avant que quiconque ne l’ait vue.
Trois propriétés rendent le sujet difficile. Les erreurs se cumulent : une tâche en dix étapes, dont chacune réussit le plus souvent, échoue bien plus fréquemment qu’une tâche en une étape. Le comportement n’est pas déterministe : le même objectif peut être traité par deux chemins différents. Enfin, l’agent lit des contenus que vous ne contrôlez pas (courriels, pages web, pièces jointes), et ces contenus peuvent renfermer des instructions destinées à le détourner.
Boucle, outils, mémoire : ce qui fait un agent, et jusqu’où le laisser décider
Un agent IA est un modèle de langage placé dans une boucle. Il reçoit un objectif, décide d’une action, appelle un outil (une interface de programmation, une requête dans une base, une recherche), observe le résultat, puis décide de l’action suivante. La boucle s’arrête lorsque l’objectif est atteint ou qu’une condition d’arrêt se déclenche. Les outils définissent ce que l’agent peut faire. La mémoire définit ce qu’il retient d’une étape ou d’une session à l’autre.
Les systèmes dits « agentiques » n’ont pas tous le même degré d’autonomie. Ce choix est la première décision de conception.
| Forme | Qui décide de l’enchaînement | Usage type | Niveau de contrôle |
|---|---|---|---|
| Flux orchestré | Le code : les étapes sont fixées, le modèle traite chacune | Processus stable et bien décrit | Élevé, comportement prévisible |
| Agent à outils | Le modèle choisit les outils et leur ordre, dans un périmètre borné | Tâches variables, cas impossibles à énumérer à l’avance | Dépend des garde-fous |
| Système multi-agents | Un orchestrateur répartit le travail entre agents spécialisés | Tâches longues mêlant plusieurs compétences | Plus difficile à tester et à tracer |
Notre règle est de retenir le degré d’autonomie le plus faible qui rend le service attendu. Beaucoup de besoins présentés comme des projets d’agents se traitent mieux par un flux orchestré, plus simple à tester. Et lorsque le besoin est de répondre à partir de documents, sans agir, un assistant d’IA générative suffit.
Concevoir les agents IA à partir de leurs permissions
Nos consultants travaillent au sein de vos équipes ; les décisions restent les vôtres.
Choisir un processus qui s’y prête. Un bon candidat est une tâche fréquente, dont le résultat se vérifie et dont les erreurs se rattrapent. Un processus que personne ne sait décrire ne sera pas mieux exécuté par un agent.
Définir les outils comme des contrats. Chaque outil exposé à l’agent a une description précise, des paramètres typés et des messages d’erreur explicites. Nous séparons les outils de lecture des outils d’écriture. L’agent dispose de sa propre identité technique et de droits limités à sa tâche : il n’emprunte pas le compte d’un utilisateur. Cela suppose que vos applications exposent des interfaces propres, ce qui renvoie à l’architecture du système d’information. Des protocoles ouverts tels que le Model Context Protocol (MCP) standardisent ce raccordement entre agents et outils.
Inscrire les garde-fous dans le système, pas dans la consigne. Demander à un modèle de « ne jamais » faire quelque chose ne constitue pas un contrôle. Les limites sont techniques : liste fermée d’actions autorisées, plafonds de montant et de volume, nombre maximal d’étapes, budget par tâche, exécution du code en environnement isolé, filtrage des contenus entrants.
Graduer la supervision humaine. Trois régimes coexistent. La validation préalable : l’agent prépare, une personne approuve avant toute action irréversible. Le contrôle a posteriori : l’agent agit, une personne vérifie un échantillon. L’escalade : l’agent rend la main dès qu’il sort de son périmètre ou qu’une règle de doute se déclenche. Le régime se choisit action par action, selon la gravité d’une erreur.
Tracer et tester des trajectoires. Chaque décision, chaque appel d’outil et chaque résultat sont journalisés, afin de pouvoir expliquer après coup ce que l’agent a fait et dans quel ordre. Les tests portent sur l’état final obtenu dans un environnement simulé, et pas seulement sur le texte produit. Ils incluent des tentatives de détournement par injection d’instructions.
Lorsque l’agent constitue un système d’IA à haut risque au sens de l’article 6 du règlement (UE) 2024/1689, le contrôle humain est une exigence du texte (article 14). Le dispositif de supervision s’inscrit alors dans votre gouvernance de l’IA.
Ce qui fait dérailler un projet d’agents
- Commencer par plusieurs agents. Un système multi-agents multiplie les échanges à tracer et les causes d’échec. Il se justifie après avoir stabilisé un agent unique, rarement avant.
- Accorder des droits larges « pour que cela fonctionne ». Un agent qui peut tout faire peut tout abîmer. Chaque droit supplémentaire se justifie par une étape précise de la tâche.
- Retirer la validation humaine trop tôt. L’autonomie s’élargit sur la base de mesures, par exemple la part des propositions de l’agent acceptées sans modification, et non sur une impression.
- Mettre en service sans procédure d’arrêt. Un agent doit pouvoir être suspendu immédiatement, et ses actions récentes doivent pouvoir être retrouvées.
- Oublier ceux dont le travail change. Superviser un agent n’est pas le même métier qu’exécuter la tâche. Les critères de validation, la charge de contrôle et les responsabilités se définissent avec les équipes concernées.
Les indicateurs de réussite d’un agent en exploitation
Un agent se pilote comme un service, avec des mesures relevées en continu :
- la part des tâches menées à leur terme sans intervention humaine, et dont le résultat est correct ;
- la fréquence des escalades et leurs motifs, pour distinguer la prudence utile du blocage ;
- la part des actions corrigées ou annulées par un superviseur ;
- le nombre d’étapes et le coût par tâche, qui signalent les boucles et les dérives ;
- les tentatives d’action hors périmètre bloquées par les garde-fous ;
- le délai de traitement de bout en bout, comparé à celui du processus antérieur.
La lecture conjointe de ces mesures oriente les décisions. Un taux d’achèvement élevé accompagné de nombreuses corrections a posteriori indique un agent trop autonome pour sa fiabilité réelle. Des escalades très fréquentes indiquent un périmètre mal défini ou des outils insuffisants.