Un cas d’usage d’IA hérite des données qu’il consomme. Leurs conditions d’emploi, leurs défauts, leur origine et l’absence éventuelle de responsable le suivent jusque dans ses résultats, que le modèle soit entraîné sur ces données ou qu’il se borne à les lire pour répondre.
La gouvernance des données pour l’IA applique aux jeux de données et aux documents qu’un système d’IA consomme les rôles et les règles par lesquels une organisation sait qui répond d’une donnée, qui peut l’employer et à quelles conditions. Elle se vérifie avant l’autorisation d’un cas d’usage, sur cinq sujets que le comité fait documenter : le droit d’employer les données, leur qualité au regard de l’usage, leur traçabilité, les données personnelles et les responsabilités. Cette grille est une proposition de méthode, qu’aucun des textes cités n’impose sous cette forme. Les rôles eux-mêmes sont décrits dans notre page gouvernance des données.
Avons-nous le droit d’employer ces données à cette fin ?
Une donnée a été collectée, achetée ou reçue pour un usage. Le cas d’usage d’IA en propose un autre, et la réponse dépend de l’origine de la donnée.
Pour une donnée achetée ou reçue d’un partenaire, elle se lit dans le contrat : périmètre d’emploi permis, droit d’en tirer un modèle, durée. Pour une donnée saisie dans un service d’IA du marché, elle se lit dans les conditions du fournisseur, en particulier sur la réutilisation des entrées.
Pour une donnée personnelle, le RGPD, règlement (UE) 2016/679, pose à son article 5, paragraphe 1, point b), le principe de limitation des finalités : les données sont collectées pour des finalités « déterminées, explicites et légitimes » et ne sont pas traitées ultérieurement d’une manière incompatible avec elles. L’article 6, paragraphe 4, énumère ce dont le responsable du traitement tient compte pour apprécier cette compatibilité, dont le lien entre les finalités, le contexte de la collecte et les conséquences possibles pour les personnes.
Le comité attend, pour chaque jeu, sa source, le contrat qui en règle l’emploi et, pour des données personnelles, la base légale du traitement et la finalité initiale. Notre article sur la provenance et le lignage des données décrit la fiche qui les réunit.
Ces données suffisent-elles à ce que le système doit en faire ?
La qualité s’apprécie au regard de l’usage, et l’usage par un modèle ajoute un critère que les contrôles de complétude ou d’unicité ne mesurent pas : la représentativité. Un fichier complet et sans doublon peut ne contenir presque aucun cas d’une population que le système devra pourtant traiter.
Pour les systèmes à haut risque, le règlement (UE) 2024/1689, dit AI Act, en fait une exigence. Son article 10, paragraphe 3, demande des jeux de données d’entraînement, de validation et de test « pertinents, suffisamment représentatifs et, dans toute la mesure possible, exempts d’erreurs et complets au regard de la destination ». Cette exigence incombe au fournisseur. Le déployeur a la sienne : selon l’article 26, paragraphe 4, pour autant qu’il exerce un contrôle sur les données d’entrée, il veille à ce qu’elles soient pertinentes et suffisamment représentatives au regard de la destination du système. Les dates d’application figurent dans notre article sur les obligations de l’AI Act pour les entreprises.
Pour un assistant qui lit une base documentaire, la question porte sur les documents : versions périmées, doublons, textes contradictoires, que le système peut restituer sans les signaler. Notre fiche sur le RAG en expose le mécanisme.
La pièce attendue est un état mesuré des données, comparé à une attente écrite par leur propriétaire. Les règles et les contrôles correspondants relèvent de notre offre de qualité des données.
Saurons-nous dire, dans un an, ce qui est entré dans le système ?
La traçabilité se prépare avant la mise en service, car elle se reconstitue mal après coup.
Elle commence par la liste des jeux de données qui ont servi à entraîner et à évaluer le modèle, chacun avec sa version. Sans cette liste, un résultat contesté ne peut pas être reproduit, et un nouvel entraînement ne peut pas être comparé au précédent.
Elle se poursuit par le parcours de ces jeux : leur origine, puis les traitements qui les ont préparés. Ce parcours sert aussi à répondre à une demande de rectification ou d’effacement, en indiquant quels jeux contiennent la donnée visée.
Reste ce que le système reçoit et produit en exploitation. Pour les systèmes à haut risque, l’article 12, paragraphe 1, du règlement (UE) 2024/1689 demande qu’ils permettent, techniquement, l’enregistrement automatique des événements tout au long de leur durée de vie.
Le dossier indique où ces traces sont tenues, par qui, et pendant combien de temps.
Des personnes sont-elles reconnaissables dans ces données ?
Si la réponse est oui, le RGPD s’applique au cas d’usage, que le règlement sur l’IA le classe ou non à haut risque. Le comité entend alors le délégué à la protection des données.
L’article 5, paragraphe 1, point c), demande des données « adéquates, pertinentes et limitées à ce qui est nécessaire » : chaque colonne confiée au modèle se justifie par la finalité. L’article 35, paragraphe 1, impose une analyse d’impact avant le traitement lorsque celui-ci, « en particulier par le recours à de nouvelles technologies », est susceptible d’engendrer un risque élevé pour les droits et libertés des personnes.
L’article 22, paragraphe 1, reconnaît à la personne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui produit des effets juridiques la concernant ou l’affecte de manière significative de façon similaire. Le dossier décrit donc la part que le système prend dans la décision et celle qui revient à une personne.
Un jeu présenté comme anonymisé se vérifie avant d’être tenu pour tel, comme l’explique notre article sur l’anonymisation des données. La qualification appartient au responsable du traitement.
Qui sera prévenu le jour où les données changeront ?
Lorsque les deux gouvernances sont en place, un système d’IA a un responsable, inscrit au registre que décrit notre page gouvernance de l’IA, et chaque jeu de données a un propriétaire. La question du comité porte sur le lien entre les deux.
Une source peut changer sans que ses consommateurs en soient avertis : un champ reçoit un autre sens, une application est remplacée, un contrat de fourniture arrive à son terme, une durée de conservation expire. Le propriétaire des données doit savoir qu’un système d’IA en dépend, et le responsable du système doit savoir qui décide alors de réentraîner, de restreindre ou d’arrêter.
Le dossier nomme le propriétaire de chaque jeu, porte son accord écrit pour cet emploi et décrit la voie par laquelle un changement lui est signalé.
La gouvernance des données pour l’IA se lit dans le dossier remis au comité
| Sujet | Qui répond | Pièce jointe au dossier |
|---|---|---|
| Droit d’employer les données | Le propriétaire des données, avec la fonction juridique | Source, contrat ou base légale, finalité initiale |
| Qualité au regard de l’usage | Le propriétaire des données et l’équipe du projet | État mesuré, comparé à une attente écrite |
| Traçabilité | L’équipe qui exploite la plateforme | Jeux versionnés, parcours, journaux prévus |
| Données personnelles | Le responsable du traitement, après avis du délégué à la protection des données | Avis, et analyse d’impact lorsqu’elle est requise |
| Responsabilités | Le responsable du système | Propriétaires nommés, accords écrits, voie de signalement |
Dans cette méthode, une pièce manquante n’a pas la même portée selon la ligne. Sur le droit d’employer les données et sur les données personnelles, elle fait obstacle à l’autorisation, puisque la réponse relève de la loi ou d’un contrat. Sur les trois autres lignes, et hors exigence propre à un système à haut risque, le comité peut autoriser un périmètre réduit, en écrivant la condition posée et la date à laquelle elle sera vérifiée.
L’autorisation vaut pour les données décrites au dossier : un jeu ajouté, une source remplacée ou une finalité élargie ramènent le cas d’usage devant le comité.