Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Intelligence artificielle

Les défis éthiques de l'IA générative lus dans les textes publics de référence

L'essentiel

Un défi éthique de l'IA générative est, par convention, une question que la loi ne suffit pas à trancher : biais, contenus trompeurs, droit d'auteur, transparence, travail, empreinte environnementale. Management Square lit ce qu'en disent la Recommandation de l'OCDE sur l'IA, les lignes directrices européennes de 2019 et le droit de l'Union, puis propose une manière d'en tirer des choix motivés pour chaque usage.

Sommaire de la page

Nous appelons ici défi éthique une question que la loi ne suffit pas à trancher : le droit en fixe le cadre ou une partie, et il reste à l’organisation un choix à motiver. Cette convention rejoint les lignes directrices en matière d’éthique pour une IA digne de confiance du groupe d’experts de haut niveau constitué par la Commission européenne, selon lesquelles la législation « ne suit pas toujours le rythme des évolutions technologiques, ne correspond parfois pas à des normes éthiques ou peut simplement s’avérer inadaptée face à certaines questions » (paragraphe 26). Les défis éthiques de l’IA générative se lisent avec cette grille.

Nous en retenons six, que les textes publics consultés le 12 novembre 2026 abordent : les biais, les contenus trompeurs et la désinformation, le droit d’auteur et les données d’entraînement, la transparence envers les personnes, les effets sur le travail et l’empreinte environnementale. Pour chacun, nous lisons la Recommandation de l’OCDE, ces lignes directrices et, pour ce que le droit a tranché, le règlement (UE) 2024/1689, dit AI Act, dans sa version consolidée du 27 juillet 2026. Cette lecture n’est pas un avis d’éthicien : elle situe des questions que chaque organisation tranche.

Des textes de principes et des textes de droit

La Recommandation du Conseil de l’OCDE sur l’intelligence artificielle (OECD/LEGAL/0449) a été adoptée le 22 mai 2019, puis révisée le 8 novembre 2023 et le 3 mai 2024. Selon ses informations générales, la révision de 2024 visait notamment à refléter « l’importance croissante de la lutte contre la mésinformation et la désinformation » dans le contexte de l’IA générative, et à ajouter « une référence explicite à la durabilité environnementale ».

Les lignes directrices européennes, publiées le 8 avril 2019 selon la page de la Commission, décrivent une IA digne de confiance comme licite, éthique et robuste. Aucun de leurs éléments ne peut « créer des droits ou imposer des obligations juridiques vis-à-vis de tiers » (paragraphe 25). Le règlement sur l’IA cite les « lignes directrices de l’Union en matière d’éthique pour une IA digne de confiance » parmi les éléments de codes de conduite volontaires (article 95, paragraphe 2, point a)) ; y voir ce document est notre lecture.

La Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle n’est pas citée, faute d’avoir pu être lue.

Biais et contenus trompeurs

Selon le paragraphe 80 des lignes directrices, les ensembles de données utilisés pour l’entraînement comme pour l’exploitation « peuvent être biaisés par des partis pris historiques accidentels, des omissions et des modèles de gouvernance défectueux ». Le principe 1.5 de l’OCDE range parmi les risques à gérer ceux « liés aux biais préjudiciables ». L’organisation qui utilise tel quel un grand modèle de langage fourni par un tiers n’a la main ni sur son entraînement ni sur sa conception, seulement sur la tâche confiée et l’usage des sorties. Un usage qui touche au recrutement peut relever des systèmes à haut risque, présentés dans notre article sur l’article 6 du règlement.

Contre les contenus trompeurs, l’article 50 demande aux fournisseurs de systèmes générant des contenus de synthèse de marquer les sorties « dans un format lisible par machine » (paragraphe 2). Il demande aux déployeurs de signaler les hypertrucages et les textes « publiés dans le but d’informer le public sur des questions d’intérêt public », sauf, pour ces textes, examen humain et responsabilité éditoriale assumée (paragraphe 4). Le principe 1.2 de l’OCDE vise « la lutte contre la mésinformation et la désinformation amplifiées par l’IA ». Selon notre lecture, à soumettre aux juristes, une note interne ou une réponse à un client produites avec l’outil échappent au paragraphe 4 ; leur exactitude dépend de la relecture prévue.

Droit d’auteur et données d’entraînement

La directive (UE) 2019/790 du 17 avril 2019 définit la fouille de textes et de données comme « toute technique d’analyse automatisée visant à analyser des textes et des données sous une forme numérique afin d’en dégager des informations » (article 2, point 2). Son article 3 réserve une exception aux organismes de recherche et aux institutions du patrimoine culturel, à des fins de recherche scientifique. Son article 4 en ouvre une pour les œuvres « accessibles de manière licite », sauf si leur utilisation a été « expressément réservée par leurs titulaires de droits de manière appropriée, notamment par des procédés lisibles par machine » (paragraphe 3).

L’article 53, paragraphe 1, du règlement demande aux fournisseurs de modèles d’IA à usage général une politique de respect du droit d’auteur, qui identifie et respecte cette réservation (point c), et un résumé public « suffisamment détaillé » du contenu d’entraînement (point d).

Ces textes ne disent pas, à notre lecture, si l’entraînement d’un modèle sur des œuvres protégées relève dans tous les cas de l’article 4. La question, ouverte, appartient aux juristes. L’organisation peut lire ce résumé, demander cette politique et vérifier ses droits sur les documents confiés à un assistant.

Transparence envers les personnes et effets sur le travail

L’article 50, paragraphe 1, demande aux fournisseurs que les personnes soient informées qu’elles interagissent avec un système d’IA, « sauf si cela ressort clairement » du contexte, et « au plus tard » à la première interaction (paragraphe 5). Les lignes directrices ajoutent que la possibilité de préférer une interaction humaine « devrait être proposée le cas échéant » (paragraphe 78). L’article 50 ne la prévoit pas. Le principe 1.3 de l’OCDE étend l’information sur ces interactions à « la sphère professionnelle ».

Sur le travail, la recommandation 2.4 de l’OCDE s’adresse aux pouvoirs publics. Les lignes directrices, adressées à toutes les parties prenantes, écrivent que les systèmes « devraient aider les êtres humains dans l’environnement de travail » (paragraphe 50) et citent « l’information, la consultation et la participation des travailleurs » (paragraphe 82). Le règlement tranche un cas : selon son article 26, paragraphe 7, l’employeur informe les représentants des travailleurs et les travailleurs concernés avant de mettre en service un système à haut risque sur le lieu de travail. Hors de cette catégorie, le règlement se tait ; le droit du travail reste à examiner.

L’empreinte environnementale, une information à demander

Le principe 1.1 de l’OCDE vise la « durabilité environnementale ». Les lignes directrices citent en exemple un « examen critique de l’utilisation des ressources et de la consommation d’énergie au cours de l’entraînement » (paragraphe 84). Le règlement inscrit « la consommation d’énergie connue ou estimée du modèle » dans la documentation que le fournisseur d’un modèle d’IA à usage général fournit, sur demande, au Bureau de l’IA et aux autorités nationales (annexe XI, section 1, point 2, e)). Le déployeur n’en est pas le destinataire.

L’organisation peut inscrire la question dans son choix : l’information que le fournisseur accepte de communiquer, la taille du modèle au regard de la tâche, les traitements qui se passent de génération. Notre page IA générative en entreprise traite ce choix.

Une fiche par usage pour motiver les choix

Les lignes directrices décrivent les arbitrages au paragraphe 90 : les intérêts en jeu sont recensés, et « toute décision concernant un arbitrage à faire devrait être raisonnée et correctement documentée ».

Nous proposons d’en tirer une fiche par usage : pour chaque défi, ce que le droit impose selon les juristes, la décision prise au-delà, son motif et sa date. Elle complète le registre des systèmes de notre page gouvernance de l’IA ; les règles des utilisateurs relèvent de la charte IA d’entreprise, et les dates d’application de l’article 50, de notre article sur les obligations de l’AI Act.

La première fiche peut porter sur l’usage dont les sorties quittent l’organisation, textes envoyés à des clients ou publiés, parce que transparence et exactitude s’y jouent devant des tiers.

Insights

À lire sur le sujet

Tous les insights
RGPD et intelligence artificielle dans un même projet, les articles à lire dans le texte

RGPD et intelligence artificielle se croisent dès qu'un projet d'IA comporte un traitement de données à caractère personnel, à l'entraînement comme à l'usage. Management Square lit ici les articles du règlement (UE) 2016/679 que ce projet rencontre (5, 6, 13 à 15, 22, 25 et 35), ce qu'ils disent, ce qu'ils laissent à qualifier, et leur articulation avec le règlement sur l'IA.

Lire l'analyse
Mettre en place la gouvernance de l'IA agentique à partir d'une gouvernance de l'IA existante

La gouvernance de l'IA agentique réunit les règles et les rôles par lesquels une organisation sait quels agents IA agissent dans ses applications, avec quels droits, quel degré d'autonomie et sous la responsabilité de quelle personne. Management Square propose ici une méthode pour l'ajouter à une gouvernance de l'IA existante : inventaire, niveaux d'autonomie, responsable désigné, traces, revue périodique, arrêt.

Lire l'analyse
Ce qu'une charte IA d'entreprise doit trancher, ce qu'elle laisse à d'autres documents et qui la signe

Une charte IA d'entreprise est le document qui dit à chaque utilisateur quels outils d'IA il peut employer, quelles données il ne doit pas y saisir, ce qu'il doit relire et à qui signaler un écart. Management Square indique ce que cette charte doit trancher, ce qui relève d'autres documents (registre des systèmes, politique de sécurité, contrats) et qui la signe, sans la tenir pour un moyen de conformité suffisant.

Lire l'analyse

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Quels sont les principaux défis éthiques liés aux IA génératives ?

Nous en retenons six, abordés par les textes publics lus pour cet article : les biais, les contenus trompeurs et la désinformation, le droit d'auteur et les données d'entraînement, la transparence envers les personnes, les effets sur le travail et l'empreinte environnementale. La révision du 3 mai 2024 de la Recommandation de l'OCDE sur l'IA compte la désinformation et la durabilité environnementale parmi ses objets. Cette liste n'est pas un classement : les lignes directrices européennes de 2019 présentent leurs principes « sans imposer de hiérarchie ».

Le règlement européen sur l'IA règle-t-il les questions éthiques de l'IA générative ?

Il en tranche une partie. Son article 50 impose le marquage des contenus de synthèse, le signalement des hypertrucages et l'information des personnes qui interagissent avec un système d'IA ; son article 53 demande aux fournisseurs de modèles d'IA à usage général une politique de respect du droit d'auteur. Son article 95 cite les lignes directrices de l'Union en matière d'éthique parmi les éléments de codes de conduite volontaires ; y voir celles de 2019 est notre lecture. Le reste relève d'autres textes ou des choix de chaque organisation, et la qualification d'un usage revient à ses juristes.

L'entraînement d'un modèle d'IA sur des œuvres protégées est-il licite ?

Les textes lus ne répondent pas à cette question dans tous les cas, et elle relève des juristes. L'article 4 de la directive (UE) 2019/790 demande aux États membres une exception pour la fouille de textes et de données sur des œuvres accessibles de manière licite, sauf réservation expresse par les titulaires de droits. L'article 53 du règlement (UE) 2024/1689 demande aux fournisseurs de modèles d'IA à usage général de respecter cette réservation et de publier un résumé du contenu d'entraînement.

Faut-il signaler qu'un contenu a été produit avec une IA générative ?

Le règlement (UE) 2024/1689 l'impose dans des cas précis : son article 50 oblige le déployeur à signaler les hypertrucages et les textes publiés pour informer le public sur des questions d'intérêt public, sauf, pour ces textes, examen humain assorti d'une responsabilité éditoriale. Le fournisseur marque en outre les contenus de synthèse dans un format lisible par machine. Hors de ces cas, et sous réserve d'autres textes que l'article 50 laisse en place, la mention relève d'un choix de l'organisation. Les principes de l'OCDE et les lignes directrices européennes plaident pour l'information des personnes, les premiers y compris dans la sphère professionnelle.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.