Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Intelligence artificielle

Dans quel ordre conduire la mise en œuvre de la gouvernance de l'IA ?

L'essentiel

La mise en œuvre de la gouvernance de l'IA est la suite d'étapes par laquelle une organisation recense ses systèmes d'IA, les classe par niveau de risque, désigne qui en répond, installe un circuit de validation et organise leur suivi. Management Square décrit ici ces étapes dans l'ordre, ce que chacune produit et qui en répond, au regard du règlement (UE) 2024/1689.

Sommaire de la page

Au paragraphe 2 de son article 26, le règlement (UE) 2024/1689 sur l’intelligence artificielle écrit : « Les déployeurs confient le contrôle humain à des personnes physiques qui disposent des compétences, de la formation et de l’autorité nécessaires ainsi que du soutien nécessaire. » Cette disposition, lue dans la version consolidée après le règlement (UE) 2026/1744, vise les systèmes d’IA à haut risque. Elle suffit à montrer ce que demande la mise en œuvre de la gouvernance de l’IA.

Pour l’appliquer, une organisation doit savoir quels systèmes elle utilise, lesquels sont à haut risque, qui en répond, qui a autorisé leur mise en service et qui les suit. Ces réponses s’établissent dans cet ordre : inventaire, classement, rôles, circuit de validation, suivi. Chaque étape produit un document vérifiable et a un responsable nommé. Le contenu du dispositif est présenté dans notre page gouvernance de l’IA ; cet article en décrit le déroulement.

Mise en œuvre de la gouvernance de l’IA : l’ordre des étapes et sa raison

L’ordre tient à une dépendance : chaque étape consomme ce que la précédente a produit. Seuls des systèmes recensés peuvent être classés. Un responsable se désigne pour un système dont le niveau d’exigence est connu. Un circuit de validation sans rôles n’a personne à convoquer.

Un préalable précède l’inventaire : le mandat. La direction générale désigne par écrit la personne qui conduit la démarche, son rattachement et l’instance devant laquelle elle rend compte. Sans ce mandat, les directions sollicitées pour l’inventaire n’ont pas de raison de répondre.

Étape Ce qu’elle produit Qui en répond Critère de passage proposé
Inventaire Le registre des systèmes d’IA Le responsable de la démarche Une source supplémentaire ne révèle plus de système inconnu
Classement Pour chaque système, le rôle de l’organisation et le niveau de risque, justifiés par écrit Le responsable métier du système, avec la fonction juridique ou de conformité Chaque ligne du registre porte un classement daté
Rôles La matrice des responsabilités et les désignations La direction dont relève l’usage Chaque système a un responsable nommé, qui a accepté sa mission
Circuit de validation La procédure, le modèle de dossier et le relevé de décisions Le président de l’instance Un premier dossier réel a été instruit de bout en bout
Suivi Les comptes rendus de revue et le journal des incidents Le responsable de chaque système, puis le responsable de la démarche pour la consolidation Une première revue a conduit à modifier le registre

Ce tableau est une proposition de méthode : l’ordre des étapes, la répartition des responsabilités et les critères de passage ne sont pas tirés du règlement, et s’ajustent à la taille et aux instances de chaque organisation.

L’inventaire ouvre le registre des systèmes

L’inventaire part des listes que l’organisation possède déjà : contrats logiciels, référentiel des applications, portefeuille de projets. Un questionnaire court est ensuite adressé aux directions, pour les usages qui n’apparaissent dans aucune de ces listes.

Une définition commune évite de débattre de chaque cas. Celle de l’article 3, point 1, du règlement décrit un système automatisé qui « déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions ». La reprendre telle quelle dispense d’inventer un périmètre propre à l’organisation.

Chaque ligne du registre est déclarée par une personne nommée. La rubrique consacrée aux données traitées se remplit avec les propriétaires que désigne la gouvernance des données. Dès cette étape, une voie de déclaration est ouverte pour les nouveaux systèmes, faute de quoi le registre vieillit dès sa clôture.

Le classement attribue à chaque système un rôle et un niveau de risque

Deux questions se posent pour chaque ligne, dans cet ordre. La première porte sur le rôle : l’organisation est-elle fournisseur ou déployeur, au sens de l’article 3, points 3 et 4 ? L’article 25, paragraphe 1, ajoute des cas où un déployeur est considéré comme fournisseur d’un système à haut risque, par exemple lorsqu’il modifie la destination d’un système de telle manière que celui-ci devient à haut risque. La seconde porte sur le niveau : pratique interdite (article 5), système à haut risque (article 6, annexes I et III), obligation de transparence (article 50), ou aucun de ces régimes. Les modèles d’IA à usage général suivent un régime distinct, au chapitre V, qui pèse sur leurs fournisseurs. Notre fiche sur l’AI Act présente ces catégories.

Le règlement donne lui-même l’exemple d’un classement motivé. Selon son article 6, paragraphe 4, « un fournisseur qui considère qu’un système d’IA visé à l’annexe III n’est pas à haut risque documente son évaluation avant que ce système ne soit mis sur le marché ou mis en service ». La méthode étend cette discipline à toutes les lignes du registre : un classement écrit, daté, assorti des événements qui le feraient rouvrir.

Le responsable métier remplit la grille. La fonction juridique ou de conformité valide, avec le délégué à la protection des données lorsque des données personnelles sont traitées. La qualification juridique appartient à l’organisation et à ses conseils. Les dates d’application propres à chaque catégorie se lisent à l’article 113 de la version consolidée et se reportent dans le registre.

Les rôles se désignent système par système

Chaque système reçoit un responsable métier, qui répond de son usage et de sa finalité, et un responsable technique, qui répond de son exploitation et de la conservation des journaux.

Pour un système à haut risque s’ajoutent les personnes chargées du contrôle humain. La désignation reprend un à un les termes de l’article 26, paragraphe 2 : les compétences attendues, la formation reçue, l’autorité, c’est-à-dire le pouvoir d’écarter une sortie du système, et le soutien, c’est-à-dire le temps et les recours dont la personne dispose.

D’autres responsabilités se fixent au niveau de l’organisation. L’article 4 demande aux fournisseurs et aux déployeurs de prendre des mesures pour favoriser le développement de la maîtrise de l’IA par leur personnel : une fonction en est chargée. L’article 26, paragraphe 7, demande aux déployeurs qui sont des employeurs d’informer les représentants des travailleurs et les travailleurs concernés avant de mettre en service un système à haut risque sur le lieu de travail : la matrice indique qui s’en acquitte.

Le circuit de validation s’accroche aux jalons existants

Le circuit se branche sur les décisions que l’organisation prend déjà : le jalon d’engagement d’un projet, la signature d’un contrat par les achats, l’activation d’une fonction d’IA dans un logiciel en service, un changement de finalité. Les cas d’usage retenus par la stratégie IA y arrivent avec leur business case. Le circuit y ajoute le classement et les conditions d’emploi.

Le dossier se proportionne au classement. Pour un système hors des régimes du règlement, la fiche du registre et son classement suffisent, et la décision se prend par délégation. Pour un système à haut risque, le dossier réunit la documentation du fournisseur, la désignation du contrôle humain et les analyses requises : l’analyse d’impact relative à la protection des données de l’article 35 du RGPD lorsqu’elle s’applique, et l’analyse d’impact sur les droits fondamentaux que l’article 27 du règlement demande à certains déployeurs.

Chaque passage se conclut par l’une de quatre décisions : autorisé, autorisé sous conditions, refusé, renvoyé au classement. Le relevé en conserve le motif et les conditions.

Le suivi ramène aux étapes précédentes

Le responsable de chaque système relit sa ligne du registre à intervalle fixé et tient le journal des incidents. Pour un système à haut risque, l’article 26, paragraphe 5, demande au déployeur de surveiller le fonctionnement sur la base de la notice d’utilisation. S’il détecte un incident grave, il en informe immédiatement le fournisseur, puis l’importateur ou le distributeur et les autorités de surveillance du marché. La procédure nomme la personne qui s’en charge.

Le suivi sert aussi à relancer les étapes antérieures. Un système découvert hors registre rouvre l’inventaire. Un changement de finalité, de modèle, de données ou de conditions du fournisseur rouvre le classement. Le départ d’un responsable rouvre les rôles. Des demandes qui contournent l’instance conduisent à revoir le circuit. Les indicateurs qui objectivent ces constats figurent dans notre page de service.

Le registre peut s’ouvrir dès le mandat signé, à partir de deux listes que l’organisation possède déjà : ses contrats logiciels en cours et ses applications en service.

Insights

À lire sur le sujet

Tous les insights
Les obligations de l'AI Act pour les entreprises, lues avec leur calendrier d'application

Les obligations de l'AI Act pour les entreprises dépendent du rôle tenu pour chaque système d'IA, fournisseur ou déployeur, et du niveau de risque de ce système ; leur calendrier se lit à l'article 113 du règlement (UE) 2024/1689, modifié par le règlement (UE) 2026/1744. Management Square lit ici ces dispositions dans la version consolidée du 27 juillet 2026 et en tire les conséquences pour un projet.

Lire l'analyse
Différence entre IA et IA générative : quand retenir un modèle prédictif, quand retenir un modèle génératif

La différence entre IA et IA générative tient à ce que le système produit : l'IA désigne le domaine entier, dont les modèles prédictifs qui estiment une valeur ou classent un cas, alors que l'IA générative, qui en est une branche, produit un contenu nouveau. Management Square compare ici les deux familles et indique dans quelles situations chacune est le bon choix.

Lire l'analyse
Une architecture de RAG souverain se juge à l'endroit où s'exécute chaque brique

Une architecture de RAG souverain est un dispositif de génération augmentée par récupération dont chaque brique (modèles, index vectoriel, corpus, journaux) s'exécute dans un environnement vérifié sur le lieu du traitement, le droit applicable au prestataire et la maîtrise de l'exploitation. Management Square indique où placer chaque brique, selon quels critères, et quand cette contrainte ne se justifie pas.

Lire l'analyse

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Par quelle étape commencer la mise en œuvre de la gouvernance de l'IA ?

Par l'inventaire des systèmes d'IA, une fois obtenu le mandat par lequel la direction générale désigne le responsable de la démarche. Le classement, les rôles et le circuit de validation portent sur des systèmes recensés : engagés avant l'inventaire, ils s'appliqueraient à un périmètre inconnu. L'inventaire s'ouvre à partir des contrats logiciels, du référentiel des applications et du portefeuille de projets.

Le règlement européen sur l'IA impose-t-il de tenir un registre interne des systèmes d'IA ?

La version consolidée du règlement (UE) 2024/1689 ne comporte pas d'article imposant, sous ce nom, un registre interne à l'organisation. Son article 49 prévoit en revanche un enregistrement dans la base de données de l'UE, notamment pour les fournisseurs de systèmes à haut risque énumérés à l'annexe III et pour les déployeurs qui sont des autorités publiques. Le registre interne reste une nécessité pratique : un système qui n'y figure pas ne peut être ni classé ni attribué à un responsable.

Qui répond de la gouvernance de l'IA dans une organisation ?

Trois niveaux se partagent la responsabilité. La direction générale donne le mandat et désigne le responsable de la démarche, chaque système a un responsable métier nommé, et une instance tranche les cas sensibles. Pour les systèmes à haut risque, l'article 26, paragraphe 2, du règlement (UE) 2024/1689 demande en outre au déployeur de confier le contrôle humain à des personnes disposant des compétences, de la formation, de l'autorité et du soutien nécessaires.

Faut-il s'appuyer sur la norme ISO/IEC 42001 ou sur le cadre du NIST ?

Le cadre de gestion des risques de l'IA du NIST (AI RMF 1.0), publié le 26 janvier 2023, est d'usage volontaire et s'organise en quatre fonctions : gouverner, cartographier, mesurer et gérer. Le NIST indique qu'il est en cours de révision. Ce cadre, comme la norme ISO/IEC 42001, peut servir de structure à la démarche, sans dispenser de l'inventaire ni du classement au regard du règlement européen.

L'obligation de maîtrise de l'IA fait-elle partie de la gouvernance ?

L'article 4 du règlement (UE) 2024/1689, dans sa rédaction issue du règlement (UE) 2026/1744, demande aux fournisseurs et aux déployeurs de prendre des mesures pour favoriser le développement de la maîtrise de l'IA par leur personnel. Le même article précise que cette obligation ne les contraint pas à garantir un niveau spécifique de maîtrise par un individu. Dans la mise en œuvre, l'étape des rôles désigne la fonction chargée de ces mesures et la manière d'en garder la trace.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.