Une gouvernance qui arrive souvent après les usages
La gouvernance de l’IA est rarement le premier chantier ouvert. Elle arrive quand les usages sont déjà là : des fonctions d’IA activées dans des logiciels du marché, des assistants construits par des équipes métier, des collaborateurs qui saisissent des données de l’organisation dans des outils grand public. Personne n’a la liste complète, et personne ne sait dire lesquels de ces systèmes créent une obligation.
Deux réponses classiques échouent. La première est la charte : un texte de principes, signé, que rien ne relie aux décisions de projet. La seconde est le comité unique par lequel tout doit passer : il sature, les délais s’allongent, et les équipes apprennent à le contourner. Dans les deux cas, l’usage non déclaré progresse.
Une gouvernance utile fait autre chose. Elle sait quels systèmes existent, classe chacun selon son risque, désigne un responsable et applique un niveau de contrôle proportionné. Un usage à faible risque doit pouvoir être autorisé vite. Un système qui pèse sur l’accès d’une personne à un emploi ou à un crédit doit être examiné à fond.
Ce que demandent l’AI Act et le RGPD
Le règlement (UE) 2024/1689 du 13 juin 2024, dit AI Act, est entré en vigueur le 1er août 2024. Il a été modifié par le règlement (UE) 2026/1744 du 8 juillet 2026, qui a notamment revu son calendrier. Son application est échelonnée selon les catégories d’obligations. Le texte raisonne par niveaux de risque.
| Niveau | Ce que vise le règlement | Conséquence pour votre organisation |
|---|---|---|
| Pratiques interdites (article 5) | Des usages prohibés | Vérifier qu’aucun système, y compris acheté, n’en relève |
| Systèmes à haut risque (article 6, annexes I et III) | Des exigences sur le système et des obligations pour les fournisseurs et les déployeurs | Identifier ces systèmes, déterminer votre rôle, organiser le contrôle humain et la documentation |
| Obligations de transparence (article 50) | L’information des personnes pour certains systèmes, par exemple ceux qui interagissent directement avec elles | Repérer les interfaces et les contenus concernés |
| Modèles d’IA à usage général (chapitre V) | Des obligations pesant sur les fournisseurs de ces modèles | Savoir sur quels modèles reposent vos systèmes et quelle documentation leur fournisseur met à disposition |
Deux notions structurent le travail de classification. La première est le rôle. Le règlement distingue notamment le fournisseur, qui développe ou fait développer un système et le met sur le marché ou en service sous son nom, et le déployeur, qui l’utilise sous sa propre autorité dans un cadre professionnel. Une même organisation peut tenir les deux rôles selon les systèmes. L’article 25 prévoit en outre des cas où un déployeur est considéré comme fournisseur d’un système à haut risque, par exemple lorsqu’il lui apporte une modification substantielle. La seconde notion est la finalité : c’est l’usage prévu qui détermine le classement, pas la technologie employée. L’annexe III vise des domaines tels que l’emploi et la gestion des travailleurs ou l’accès à certains services essentiels.
Pour les systèmes à haut risque, l’article 26 fixe les obligations des déployeurs, notamment : utiliser le système conformément à sa notice d’utilisation, confier le contrôle humain à des personnes compétentes, surveiller son fonctionnement et conserver les journaux qui sont sous leur contrôle. L’article 4, dans sa rédaction issue du règlement (UE) 2026/1744, demande par ailleurs aux fournisseurs et aux déployeurs de prendre des mesures pour favoriser le développement de la maîtrise de l’IA par leur personnel.
Le RGPD (règlement (UE) 2016/679) s’applique dès qu’un système traite des données personnelles, à l’entraînement comme à l’usage. Base légale, minimisation, information des personnes, analyse d’impact lorsque le traitement est susceptible d’engendrer un risque élevé (article 35), encadrement des décisions individuelles automatisées (article 22) : ces exigences se cumulent avec celles de l’AI Act. Un système qui ne relève d’aucune ligne du tableau n’est donc pas hors cadre.
Notre approche : quatre chantiers pour une gouvernance de l’IA applicable
Nos consultants travaillent au sein de vos équipes ; les décisions restent les vôtres.
Le registre des systèmes. Nous recensons les systèmes développés en interne, les solutions achetées et les fonctions d’IA intégrées à des logiciels déjà en place. Les sources sont croisées : portefeuille de projets, achats, référentiel applicatif, entretiens avec les métiers. Chaque fiche décrit la finalité, le responsable, le fournisseur, les données traitées et les personnes concernées. Le registre des systèmes d’IA est relié au registre des activités de traitement prévu à l’article 30 du RGPD.
La classification. Une grille de questions permet à un chef de projet de situer son système : finalité, personnes concernées, degré d’automatisation de la décision, rôle de l’organisation. Chaque classement est justifié par écrit. Les cas douteux sont instruits avec vos juristes et votre délégué à la protection des données. La qualification juridique finale revient à votre organisation et à ses conseils juridiques.
Les rôles et le circuit de validation. Chaque système a un responsable métier nommé. Le circuit comporte plusieurs voies : une autorisation rapide pour les usages à faible risque, un examen approfondi pour les systèmes sensibles. Les achats sont associés, car une part des obligations se traite dans les contrats : documentation remise par le fournisseur, conditions d’usage des données, notification des incidents.
La gestion des risques dans la durée. Évaluation avant la mise en service, suivi en exploitation, traitement des incidents, réexamen lorsque la finalité, les données ou le modèle changent. Des référentiels tels que la norme ISO/IEC 42001 (système de management de l’IA) ou le cadre de gestion des risques de l’IA publié par le NIST peuvent servir de structure, sans constituer une fin en soi.
Ce dispositif s’appuie sur ce qui existe. Les règles de classification, de qualité et d’accès aux données relèvent de la gouvernance des données : une gouvernance de l’IA bâtie à côté d’elle crée des doublons et des contradictions.
Les erreurs que nous aidons à éviter
- Limiter l’inventaire aux projets de la DSI. Les fonctions d’IA activées par un éditeur dans un logiciel déjà déployé et les outils adoptés directement par les métiers représentent souvent la part la moins visible du parc.
- Classer une fois pour toutes. Un système peut changer de niveau de risque lorsque sa finalité évolue. Un assistant utilisé pour résumer des comptes rendus de réunion n’appelle pas le même examen que le même outil employé pour trier des candidatures.
- Réduire la conformité à un dossier. Une documentation exacte le jour de sa rédaction et jamais mise à jour ne protège pas. Les contrôles doivent être inscrits dans le fonctionnement courant des projets.
- Tout interdire par défaut. L’interdiction générale déplace l’usage vers des outils personnels, hors de toute visibilité. Proposer une solution autorisée est une mesure de maîtrise des risques.
Comment savoir si la gouvernance fonctionne
Les indicateurs portent sur la couverture, la rapidité et la tenue dans le temps :
- la part des systèmes en service qui figurent au registre, vérifiée par recoupement avec les achats et le référentiel applicatif ;
- la part des systèmes classés avec une justification écrite et un responsable nommé ;
- le délai de décision du circuit de validation, pour chaque voie ;
- la part des systèmes à haut risque dotés d’un contrôle humain attribué et d’une documentation fournisseur complète ;
- le nombre d’incidents déclarés et leur délai de traitement ;
- le nombre de systèmes découverts hors registre lors des revues périodiques.
Le dernier indicateur est le plus parlant. Tant que des systèmes apparaissent hors registre, le circuit de validation est perçu comme un obstacle. Sa baisse montre que les équipes déclarent leurs usages parce qu’elles y trouvent un intérêt : une réponse rapide et un cadre clair.