Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Data

La gouvernance des données pour l'IA, vue du comité qui autorise un cas d'usage

L'essentiel

La gouvernance des données pour l'IA applique aux jeux de données et aux documents consommés par un système d'IA les rôles et les règles qui établissent qui répond d'une donnée, qui peut l'employer et à quelles conditions. Management Square passe ici en revue les questions qu'un comité pose avant d'autoriser un cas d'usage : droits d'usage, qualité, traçabilité, données personnelles et responsabilités.

Sommaire de la page

Un cas d’usage d’IA hérite des données qu’il consomme. Leurs conditions d’emploi, leurs défauts, leur origine et l’absence éventuelle de responsable le suivent jusque dans ses résultats, que le modèle soit entraîné sur ces données ou qu’il se borne à les lire pour répondre.

La gouvernance des données pour l’IA applique aux jeux de données et aux documents qu’un système d’IA consomme les rôles et les règles par lesquels une organisation sait qui répond d’une donnée, qui peut l’employer et à quelles conditions. Elle se vérifie avant l’autorisation d’un cas d’usage, sur cinq sujets que le comité fait documenter : le droit d’employer les données, leur qualité au regard de l’usage, leur traçabilité, les données personnelles et les responsabilités. Cette grille est une proposition de méthode, qu’aucun des textes cités n’impose sous cette forme. Les rôles eux-mêmes sont décrits dans notre page gouvernance des données.

Avons-nous le droit d’employer ces données à cette fin ?

Une donnée a été collectée, achetée ou reçue pour un usage. Le cas d’usage d’IA en propose un autre, et la réponse dépend de l’origine de la donnée.

Pour une donnée achetée ou reçue d’un partenaire, elle se lit dans le contrat : périmètre d’emploi permis, droit d’en tirer un modèle, durée. Pour une donnée saisie dans un service d’IA du marché, elle se lit dans les conditions du fournisseur, en particulier sur la réutilisation des entrées.

Pour une donnée personnelle, le RGPD, règlement (UE) 2016/679, pose à son article 5, paragraphe 1, point b), le principe de limitation des finalités : les données sont collectées pour des finalités « déterminées, explicites et légitimes » et ne sont pas traitées ultérieurement d’une manière incompatible avec elles. L’article 6, paragraphe 4, énumère ce dont le responsable du traitement tient compte pour apprécier cette compatibilité, dont le lien entre les finalités, le contexte de la collecte et les conséquences possibles pour les personnes.

Le comité attend, pour chaque jeu, sa source, le contrat qui en règle l’emploi et, pour des données personnelles, la base légale du traitement et la finalité initiale. Notre article sur la provenance et le lignage des données décrit la fiche qui les réunit.

Ces données suffisent-elles à ce que le système doit en faire ?

La qualité s’apprécie au regard de l’usage, et l’usage par un modèle ajoute un critère que les contrôles de complétude ou d’unicité ne mesurent pas : la représentativité. Un fichier complet et sans doublon peut ne contenir presque aucun cas d’une population que le système devra pourtant traiter.

Pour les systèmes à haut risque, le règlement (UE) 2024/1689, dit AI Act, en fait une exigence. Son article 10, paragraphe 3, demande des jeux de données d’entraînement, de validation et de test « pertinents, suffisamment représentatifs et, dans toute la mesure possible, exempts d’erreurs et complets au regard de la destination ». Cette exigence incombe au fournisseur. Le déployeur a la sienne : selon l’article 26, paragraphe 4, pour autant qu’il exerce un contrôle sur les données d’entrée, il veille à ce qu’elles soient pertinentes et suffisamment représentatives au regard de la destination du système. Les dates d’application figurent dans notre article sur les obligations de l’AI Act pour les entreprises.

Pour un assistant qui lit une base documentaire, la question porte sur les documents : versions périmées, doublons, textes contradictoires, que le système peut restituer sans les signaler. Notre fiche sur le RAG en expose le mécanisme.

La pièce attendue est un état mesuré des données, comparé à une attente écrite par leur propriétaire. Les règles et les contrôles correspondants relèvent de notre offre de qualité des données.

Saurons-nous dire, dans un an, ce qui est entré dans le système ?

La traçabilité se prépare avant la mise en service, car elle se reconstitue mal après coup.

Elle commence par la liste des jeux de données qui ont servi à entraîner et à évaluer le modèle, chacun avec sa version. Sans cette liste, un résultat contesté ne peut pas être reproduit, et un nouvel entraînement ne peut pas être comparé au précédent.

Elle se poursuit par le parcours de ces jeux : leur origine, puis les traitements qui les ont préparés. Ce parcours sert aussi à répondre à une demande de rectification ou d’effacement, en indiquant quels jeux contiennent la donnée visée.

Reste ce que le système reçoit et produit en exploitation. Pour les systèmes à haut risque, l’article 12, paragraphe 1, du règlement (UE) 2024/1689 demande qu’ils permettent, techniquement, l’enregistrement automatique des événements tout au long de leur durée de vie.

Le dossier indique où ces traces sont tenues, par qui, et pendant combien de temps.

Des personnes sont-elles reconnaissables dans ces données ?

Si la réponse est oui, le RGPD s’applique au cas d’usage, que le règlement sur l’IA le classe ou non à haut risque. Le comité entend alors le délégué à la protection des données.

L’article 5, paragraphe 1, point c), demande des données « adéquates, pertinentes et limitées à ce qui est nécessaire » : chaque colonne confiée au modèle se justifie par la finalité. L’article 35, paragraphe 1, impose une analyse d’impact avant le traitement lorsque celui-ci, « en particulier par le recours à de nouvelles technologies », est susceptible d’engendrer un risque élevé pour les droits et libertés des personnes.

L’article 22, paragraphe 1, reconnaît à la personne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui produit des effets juridiques la concernant ou l’affecte de manière significative de façon similaire. Le dossier décrit donc la part que le système prend dans la décision et celle qui revient à une personne.

Un jeu présenté comme anonymisé se vérifie avant d’être tenu pour tel, comme l’explique notre article sur l’anonymisation des données. La qualification appartient au responsable du traitement.

Qui sera prévenu le jour où les données changeront ?

Lorsque les deux gouvernances sont en place, un système d’IA a un responsable, inscrit au registre que décrit notre page gouvernance de l’IA, et chaque jeu de données a un propriétaire. La question du comité porte sur le lien entre les deux.

Une source peut changer sans que ses consommateurs en soient avertis : un champ reçoit un autre sens, une application est remplacée, un contrat de fourniture arrive à son terme, une durée de conservation expire. Le propriétaire des données doit savoir qu’un système d’IA en dépend, et le responsable du système doit savoir qui décide alors de réentraîner, de restreindre ou d’arrêter.

Le dossier nomme le propriétaire de chaque jeu, porte son accord écrit pour cet emploi et décrit la voie par laquelle un changement lui est signalé.

La gouvernance des données pour l’IA se lit dans le dossier remis au comité

Sujet Qui répond Pièce jointe au dossier
Droit d’employer les données Le propriétaire des données, avec la fonction juridique Source, contrat ou base légale, finalité initiale
Qualité au regard de l’usage Le propriétaire des données et l’équipe du projet État mesuré, comparé à une attente écrite
Traçabilité L’équipe qui exploite la plateforme Jeux versionnés, parcours, journaux prévus
Données personnelles Le responsable du traitement, après avis du délégué à la protection des données Avis, et analyse d’impact lorsqu’elle est requise
Responsabilités Le responsable du système Propriétaires nommés, accords écrits, voie de signalement

Dans cette méthode, une pièce manquante n’a pas la même portée selon la ligne. Sur le droit d’employer les données et sur les données personnelles, elle fait obstacle à l’autorisation, puisque la réponse relève de la loi ou d’un contrat. Sur les trois autres lignes, et hors exigence propre à un système à haut risque, le comité peut autoriser un périmètre réduit, en écrivant la condition posée et la date à laquelle elle sera vérifiée.

L’autorisation vaut pour les données décrites au dossier : un jeu ajouté, une source remplacée ou une finalité élargie ramènent le cas d’usage devant le comité.

Insights

À lire sur le sujet

Tous les insights
Par où commencer une stratégie de gouvernance des données

Une stratégie de gouvernance des données fixe les usages à servir, l'ordre dans lequel les domaines de données sont pris en charge, les personnes qui en répondent, leurs moyens et la mesure de l'effet obtenu. Elle commence par un seul domaine, retenu sur des critères explicites : Management Square détaille ici ces critères, ce qu'imposent les textes et les cas où il vaut mieux différer.

Lire l'analyse
Méthodes de test de qualité des données : ce que chaque famille détecte, et ce qu'elle laisse passer

Les méthodes de test de qualité des données sont des vérifications automatisées qui comparent un jeu de données à une attente explicite : schéma, complétude, unicité, fraîcheur, cohérence entre sources, volumétrie et distribution. Chacune détecte un type de défaut et en laisse passer d'autres : Management Square compare ici ces familles de tests et leur place dans les chaînes d'alimentation.

Lire l'analyse
Un pilotage de la qualité des données tranche là où le tableau de bord constate

Le pilotage de la qualité des données désigne, par convention de travail, l'instance et les règles par lesquelles une organisation choisit les données qu'elle suit, attribue chaque écart à une personne qui tranche et décide où le corriger. Management Square propose ici un guide des décisions que ce pilotage doit rendre, et précise l'écart qui le sépare d'un tableau de bord.

Lire l'analyse

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Qu'est-ce que la gouvernance des données pour l'IA ?

La gouvernance des données pour l'IA est l'application, aux jeux de données et aux documents qu'un système d'IA consomme, des rôles et des règles de la gouvernance des données : qui répond d'une donnée, qui peut l'employer, à quelles conditions. Elle y ajoute des sujets propres à l'IA, comme la représentativité des jeux d'entraînement, la conservation de leurs versions et la qualité des bases documentaires lues par un assistant. Elle se vérifie avant l'autorisation de chaque cas d'usage.

Quelle différence entre gouvernance des données et gouvernance de l'IA ?

La gouvernance des données porte sur les données : leur définition, leur propriétaire, leurs règles d'accès et le niveau de qualité attendu. La gouvernance de l'IA porte sur les systèmes : lesquels sont utilisés, à quel niveau de risque ils se rattachent et qui en répond. Les deux se rejoignent dans la description des données que chaque système consomme, que le responsable du système renseigne avec les propriétaires des données.

L'article 10 du règlement européen sur l'IA s'applique-t-il à tous les systèmes d'IA ?

Non. L'article 10 du règlement (UE) 2024/1689 figure parmi les exigences applicables aux systèmes d'IA à haut risque, et le respect de ces exigences incombe au fournisseur selon l'article 16. D'après l'article 113, troisième alinéa, point c), de la version consolidée du 27 juillet 2026, il s'applique à partir du 2 décembre 2027 pour les usages de l'annexe III et du 2 août 2028 pour les systèmes liés aux produits de l'annexe I.

Un assistant fondé sur un modèle du marché, non entraîné sur nos données, est-il concerné ?

Oui, pour les données qu'il lit et qu'il reçoit. Un assistant qui interroge une base documentaire interne peut en restituer les versions périmées et les contradictions, et les questions des utilisateurs peuvent contenir des données personnelles ou confidentielles. Le droit d'employer ces contenus, leur qualité, leur traçabilité et leur responsable se vérifient donc comme pour un modèle entraîné en interne.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.