Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Intelligence artificielle

Gouvernance de l'IA : conformité AI Act, risques et registre des systèmes

Savoir quels systèmes d'IA vous utilisez, à quel niveau de risque ils se rattachent et qui en répond : c'est le socle de la conformité, et la condition pour autoriser vite ce qui peut l'être.

Nos principes

  • Un registre qui couvre aussi l'IA achetée
  • Un contrôle proportionné au risque
  • Un dispositif relié au RGPD et à la sécurité
L'essentiel

La gouvernance de l'IA est l'ensemble des rôles, des règles et des contrôles par lesquels une organisation sait quels systèmes d'IA elle utilise, à quel niveau de risque ils se rattachent et qui en répond. Les consultants de Management Square aident vos équipes à mettre en place ce dispositif : registre des systèmes, classification selon l'AI Act, circuit de validation proportionné et articulation avec le RGPD.

Périmètre

Nos interventions

  1. Inventaire et registre des systèmes d'IA

    Recensement des systèmes développés, achetés ou intégrés à des logiciels du marché, y compris les usages non déclarés, et mise en place d'un registre tenu à jour.

  2. Classification par niveau de risque

    Grille de questions fondée sur le règlement (UE) 2024/1689, détermination du rôle de l'organisation pour chaque système et justification écrite du classement.

  3. Rôles et circuit de validation

    Responsable nommé pour chaque système, instance de décision, voie rapide pour les usages à faible risque et examen approfondi pour les usages sensibles.

  4. Gestion des risques sur le cycle de vie

    Évaluation avant mise en service, suivi en exploitation, traitement des incidents et réexamen lorsque la finalité, les données ou le modèle changent.

  5. Articulation avec le RGPD et la sécurité

    Coordination avec le délégué à la protection des données et le responsable de la sécurité : analyses d'impact, registre des traitements, exigences contractuelles envers les fournisseurs.

  6. Règles d'usage pour les collaborateurs

    Politique d'utilisation des outils d'IA rédigée pour être appliquée : outils autorisés, données à ne pas saisir, vérifications attendues.

Sommaire de la page

Une gouvernance qui arrive souvent après les usages

La gouvernance de l’IA est rarement le premier chantier ouvert. Elle arrive quand les usages sont déjà là : des fonctions d’IA activées dans des logiciels du marché, des assistants construits par des équipes métier, des collaborateurs qui saisissent des données de l’organisation dans des outils grand public. Personne n’a la liste complète, et personne ne sait dire lesquels de ces systèmes créent une obligation.

Deux réponses classiques échouent. La première est la charte : un texte de principes, signé, que rien ne relie aux décisions de projet. La seconde est le comité unique par lequel tout doit passer : il sature, les délais s’allongent, et les équipes apprennent à le contourner. Dans les deux cas, l’usage non déclaré progresse.

Une gouvernance utile fait autre chose. Elle sait quels systèmes existent, classe chacun selon son risque, désigne un responsable et applique un niveau de contrôle proportionné. Un usage à faible risque doit pouvoir être autorisé vite. Un système qui pèse sur l’accès d’une personne à un emploi ou à un crédit doit être examiné à fond.

Ce que demandent l’AI Act et le RGPD

Le règlement (UE) 2024/1689 du 13 juin 2024, dit AI Act, est entré en vigueur le 1er août 2024. Il a été modifié par le règlement (UE) 2026/1744 du 8 juillet 2026, qui a notamment revu son calendrier. Son application est échelonnée selon les catégories d’obligations. Le texte raisonne par niveaux de risque.

Niveau Ce que vise le règlement Conséquence pour votre organisation
Pratiques interdites (article 5) Des usages prohibés Vérifier qu’aucun système, y compris acheté, n’en relève
Systèmes à haut risque (article 6, annexes I et III) Des exigences sur le système et des obligations pour les fournisseurs et les déployeurs Identifier ces systèmes, déterminer votre rôle, organiser le contrôle humain et la documentation
Obligations de transparence (article 50) L’information des personnes pour certains systèmes, par exemple ceux qui interagissent directement avec elles Repérer les interfaces et les contenus concernés
Modèles d’IA à usage général (chapitre V) Des obligations pesant sur les fournisseurs de ces modèles Savoir sur quels modèles reposent vos systèmes et quelle documentation leur fournisseur met à disposition

Deux notions structurent le travail de classification. La première est le rôle. Le règlement distingue notamment le fournisseur, qui développe ou fait développer un système et le met sur le marché ou en service sous son nom, et le déployeur, qui l’utilise sous sa propre autorité dans un cadre professionnel. Une même organisation peut tenir les deux rôles selon les systèmes. L’article 25 prévoit en outre des cas où un déployeur est considéré comme fournisseur d’un système à haut risque, par exemple lorsqu’il lui apporte une modification substantielle. La seconde notion est la finalité : c’est l’usage prévu qui détermine le classement, pas la technologie employée. L’annexe III vise des domaines tels que l’emploi et la gestion des travailleurs ou l’accès à certains services essentiels.

Pour les systèmes à haut risque, l’article 26 fixe les obligations des déployeurs, notamment : utiliser le système conformément à sa notice d’utilisation, confier le contrôle humain à des personnes compétentes, surveiller son fonctionnement et conserver les journaux qui sont sous leur contrôle. L’article 4, dans sa rédaction issue du règlement (UE) 2026/1744, demande par ailleurs aux fournisseurs et aux déployeurs de prendre des mesures pour favoriser le développement de la maîtrise de l’IA par leur personnel.

Le RGPD (règlement (UE) 2016/679) s’applique dès qu’un système traite des données personnelles, à l’entraînement comme à l’usage. Base légale, minimisation, information des personnes, analyse d’impact lorsque le traitement est susceptible d’engendrer un risque élevé (article 35), encadrement des décisions individuelles automatisées (article 22) : ces exigences se cumulent avec celles de l’AI Act. Un système qui ne relève d’aucune ligne du tableau n’est donc pas hors cadre.

Notre approche : quatre chantiers pour une gouvernance de l’IA applicable

Nos consultants travaillent au sein de vos équipes ; les décisions restent les vôtres.

Le registre des systèmes. Nous recensons les systèmes développés en interne, les solutions achetées et les fonctions d’IA intégrées à des logiciels déjà en place. Les sources sont croisées : portefeuille de projets, achats, référentiel applicatif, entretiens avec les métiers. Chaque fiche décrit la finalité, le responsable, le fournisseur, les données traitées et les personnes concernées. Le registre des systèmes d’IA est relié au registre des activités de traitement prévu à l’article 30 du RGPD.

La classification. Une grille de questions permet à un chef de projet de situer son système : finalité, personnes concernées, degré d’automatisation de la décision, rôle de l’organisation. Chaque classement est justifié par écrit. Les cas douteux sont instruits avec vos juristes et votre délégué à la protection des données. La qualification juridique finale revient à votre organisation et à ses conseils juridiques.

Les rôles et le circuit de validation. Chaque système a un responsable métier nommé. Le circuit comporte plusieurs voies : une autorisation rapide pour les usages à faible risque, un examen approfondi pour les systèmes sensibles. Les achats sont associés, car une part des obligations se traite dans les contrats : documentation remise par le fournisseur, conditions d’usage des données, notification des incidents.

La gestion des risques dans la durée. Évaluation avant la mise en service, suivi en exploitation, traitement des incidents, réexamen lorsque la finalité, les données ou le modèle changent. Des référentiels tels que la norme ISO/IEC 42001 (système de management de l’IA) ou le cadre de gestion des risques de l’IA publié par le NIST peuvent servir de structure, sans constituer une fin en soi.

Ce dispositif s’appuie sur ce qui existe. Les règles de classification, de qualité et d’accès aux données relèvent de la gouvernance des données : une gouvernance de l’IA bâtie à côté d’elle crée des doublons et des contradictions.

Les erreurs que nous aidons à éviter

  • Limiter l’inventaire aux projets de la DSI. Les fonctions d’IA activées par un éditeur dans un logiciel déjà déployé et les outils adoptés directement par les métiers représentent souvent la part la moins visible du parc.
  • Classer une fois pour toutes. Un système peut changer de niveau de risque lorsque sa finalité évolue. Un assistant utilisé pour résumer des comptes rendus de réunion n’appelle pas le même examen que le même outil employé pour trier des candidatures.
  • Réduire la conformité à un dossier. Une documentation exacte le jour de sa rédaction et jamais mise à jour ne protège pas. Les contrôles doivent être inscrits dans le fonctionnement courant des projets.
  • Tout interdire par défaut. L’interdiction générale déplace l’usage vers des outils personnels, hors de toute visibilité. Proposer une solution autorisée est une mesure de maîtrise des risques.

Comment savoir si la gouvernance fonctionne

Les indicateurs portent sur la couverture, la rapidité et la tenue dans le temps :

  • la part des systèmes en service qui figurent au registre, vérifiée par recoupement avec les achats et le référentiel applicatif ;
  • la part des systèmes classés avec une justification écrite et un responsable nommé ;
  • le délai de décision du circuit de validation, pour chaque voie ;
  • la part des systèmes à haut risque dotés d’un contrôle humain attribué et d’une documentation fournisseur complète ;
  • le nombre d’incidents déclarés et leur délai de traitement ;
  • le nombre de systèmes découverts hors registre lors des revues périodiques.

Le dernier indicateur est le plus parlant. Tant que des systèmes apparaissent hors registre, le circuit de validation est perçu comme un obstacle. Sa baisse montre que les équipes déclarent leurs usages parce qu’elles y trouvent un intérêt : une réponse rapide et un cadre clair.

Travaux types

Ce à quoi nos consultants contribuent

Registre des systèmes d'IA

Inventaire structuré, avec pour chaque système sa finalité, son responsable, son fournisseur, ses données et son classement.

Grille de classification

Questionnaire de qualification et règles de décision, utilisables par les chefs de projet sans expertise juridique préalable.

Cadre de gouvernance

Rôles, instances, circuit de validation à plusieurs voies et modèle de dossier pour les systèmes sensibles.

Plan de mise en conformité

Écarts constatés par système, actions à mener, responsables et ordre de traitement.

Insights

À lire sur le sujet

Tous les insights
Mettre en place la gouvernance de l'IA agentique à partir d'une gouvernance de l'IA existante

La gouvernance de l'IA agentique réunit les règles et les rôles par lesquels une organisation sait quels agents IA agissent dans ses applications, avec quels droits, quel degré d'autonomie et sous la responsabilité de quelle personne. Management Square propose ici une méthode pour l'ajouter à une gouvernance de l'IA existante : inventaire, niveaux d'autonomie, responsable désigné, traces, revue périodique, arrêt.

Lire l'analyse
Les défis éthiques de l'IA générative lus dans les textes publics de référence

Un défi éthique de l'IA générative est, par convention, une question que la loi ne suffit pas à trancher : biais, contenus trompeurs, droit d'auteur, transparence, travail, empreinte environnementale. Management Square lit ce qu'en disent la Recommandation de l'OCDE sur l'IA, les lignes directrices européennes de 2019 et le droit de l'Union, puis propose une manière d'en tirer des choix motivés pour chaque usage.

Lire l'analyse
RGPD et intelligence artificielle dans un même projet, les articles à lire dans le texte

RGPD et intelligence artificielle se croisent dès qu'un projet d'IA comporte un traitement de données à caractère personnel, à l'entraînement comme à l'usage. Management Square lit ici les articles du règlement (UE) 2016/679 que ce projet rencontre (5, 6, 13 à 15, 22, 25 et 35), ce qu'ils disent, ce qu'ils laissent à qualifier, et leur articulation avec le règlement sur l'IA.

Lire l'analyse

Management Square en chiffres

+ 300
projets menés
+ 43
clients accompagnés
Depuis2015
au service de nos clients
  • Allianz
  • Euler Hermes
  • Groupe BPCE
  • ODDO BHF
  • Candriam
  • Ledger
  • Saur
  • Veolia
  • Voltalia
  • emeis
  • Bonpoint
  • Legal Suite

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Qu'est-ce que la gouvernance de l'IA ?

La gouvernance de l'IA est l'ensemble des rôles, des règles et des contrôles par lesquels une organisation maîtrise ses systèmes d'intelligence artificielle. Elle répond à trois questions : quels systèmes sont utilisés, quel niveau de risque chacun présente, et qui en est responsable. Elle se matérialise par un registre, une méthode de classification et un circuit de validation.

L'AI Act s'applique-t-il à une entreprise qui utilise des outils d'IA sans les développer ?

Oui. Le règlement (UE) 2024/1689 distingue plusieurs rôles, dont celui de déployeur, qui désigne l'organisation utilisant un système d'IA sous sa propre autorité dans un cadre professionnel. Pour les systèmes à haut risque, l'article 26 fixe des obligations propres aux déployeurs. L'article 4, relatif à la maîtrise de l'IA, vise lui aussi les fournisseurs comme les déployeurs.

Que contient un registre des systèmes d'IA ?

Pour chaque système, le registre indique sa finalité, son responsable métier, son fournisseur et le modèle sous-jacent, les données traitées, les personnes concernées, le rôle de l'organisation, le classement retenu avec sa justification, les mesures de contrôle humain et la date de la dernière revue. Il inclut les fonctions d'IA intégrées aux logiciels achetés, qui échappent souvent au recensement.

Comment l'AI Act s'articule-t-il avec le RGPD ?

Les deux textes se cumulent. Le RGPD (règlement (UE) 2016/679) s'applique dès qu'un système d'IA traite des données personnelles, quel que soit son niveau de risque au sens de l'AI Act. En pratique, le registre des systèmes d'IA et le registre des activités de traitement doivent se répondre, et l'analyse d'impact relative à la protection des données s'instruit en même temps que la classification du système.

Faut-il créer un comité dédié à l'IA ?

Une instance de décision est nécessaire, mais elle ne doit pas examiner chaque cas d'usage. Un circuit à plusieurs voies fonctionne mieux : les usages à faible risque sont autorisés rapidement sur la base d'une grille, et seuls les systèmes sensibles passent devant l'instance. Celle-ci réunit en général les métiers, la DSI, le juridique, la protection des données et la sécurité.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.