Aller au contenu
Cabinet d'expertise en transformation technologique · ARDIANE Group Innover, sécuriser, réussir

Intelligence artificielle

Fine-tuning LLM : faut-il ajuster le modèle, ou s'en tenir au prompt et au RAG ?

L'essentiel

Le fine-tuning d'un LLM poursuit l'entraînement d'un modèle de langage existant sur des exemples choisis pour en modifier durablement le comportement : un format, un registre, une tâche étroite. Il n'apporte ni connaissances à jour ni sources vérifiables : Management Square donne ici les critères qui justifient un ajustement et les cas où la consigne ou le RAG suffisent.

Sommaire de la page

Votre assistant fondé sur un modèle de langage fait à peu près ce que vous attendez, et c’est cet « à peu près » qui vous occupe. Le format des réponses dérive, le vocabulaire du métier reste approximatif, la consigne s’allonge à chaque correction. Quelqu’un propose alors le fine-tuning du LLM.

Le fine-tuning d’un LLM, ou ajustement du modèle, poursuit l’entraînement d’un modèle existant sur vos propres exemples et en modifie les paramètres. Il change durablement un comportement : un format, un registre, une tâche étroite. Il n’apporte pas de connaissances à jour et ne cite aucune source. La décision se prend donc dans un ordre précis : travailler la consigne, fournir les bons documents, et n’ajuster le modèle que si un écart de comportement, mesuré sur un jeu d’évaluation, résiste aux deux premiers leviers.

Prompt, RAG ou ajustement : situer le problème avant de choisir le levier

Les trois leviers n’agissent pas au même endroit. La consigne (prompt) change ce qui est demandé au modèle. La recherche documentaire change ce qu’il lit avant de répondre. L’ajustement change le modèle lui-même. Nos fiches de lexique décrivent le fonctionnement d’un LLM et celui du RAG, comparaison avec l’ajustement comprise. Reste le diagnostic : de quelle nature est l’écart que vous constatez ?

Ce que vous observez Nature du problème Levier à essayer d’abord
L’assistant ignore un fait interne ou récent Connaissance manquante Recherche documentaire (RAG)
Il s’appuie sur une version périmée d’une procédure Corpus mal tenu Correction du fonds documentaire
Le format de sortie varie malgré une consigne précise Comportement Exemples dans la consigne, sortie structurée imposée, puis ajustement
Le vocabulaire ou le registre du métier est mal tenu Comportement Exemples dans la consigne, puis ajustement si l’écart persiste
La consigne, très longue, est renvoyée à chaque appel sur un volume élevé Coût et délai de réponse Allègement de la consigne, puis ajustement d’un modèle plus petit ou distillation
Le raisonnement échoue sur les cas complexes Capacité du modèle Décomposition de la tâche ou changement de modèle

La dernière ligne mérite une précision. Un ajustement spécialise un modèle sur ce que montrent ses exemples. Lorsque les cas difficiles échouent faute de capacité de raisonnement, il apporte rarement la réponse : elle se trouve plus souvent dans le découpage de la tâche ou dans le choix du modèle.

Fine-tuning d’un LLM : ajustement complet, LoRA, distillation

Le terme recouvre plusieurs techniques, qui n’engagent ni les mêmes moyens ni la même exploitation.

L’ajustement complet met à jour tous les paramètres du modèle à partir de paires associant une entrée et la sortie attendue. Il produit une copie entière du modèle et demande la capacité de calcul la plus importante. Il expose aussi à l’oubli : en se spécialisant, le modèle peut perdre une partie de ses aptitudes générales.

Les méthodes à faible nombre de paramètres figent le modèle de base et n’entraînent qu’un petit ensemble de paramètres ajoutés. LoRA (low-rank adaptation) en est un exemple courant. La correction apportée à certaines couches du modèle y est représentée par le produit de deux matrices de faible rang, seules entraînées. Le résultat est un adaptateur de petite taille, chargé au-dessus du modèle de base. Un même modèle peut ainsi servir plusieurs tâches, avec un adaptateur par tâche.

La distillation répond à une autre question. Un modèle « élève », plus petit, est entraîné à reproduire les sorties d’un modèle « professeur », plus grand, sur la tâche visée. Le but est de conserver un comportement acquis sur un périmètre délimité avec un modèle plus léger à héberger. Hors de ce périmètre, l’élève n’hérite pas des aptitudes du professeur. Lorsque le professeur est le modèle d’un fournisseur, ses conditions d’utilisation sont à lire avant d’en réemployer les sorties pour un entraînement.

Ces techniques s’appliquent soit par le service d’ajustement d’un fournisseur, pour les modèles qu’il ouvre à cette possibilité, soit sur un modèle à poids ouverts que vous hébergez. Le choix détermine qui détient le modèle ajusté et qui en assure la continuité.

Les critères qui justifient d’ajuster le modèle

La nature de l’écart. L’ajustement se justifie pour un écart de comportement : format, registre, respect d’une convention, tâche répétitive et étroite telle qu’un classement ou une extraction. Il ne se justifie pas pour un écart de connaissance.

Une référence mesurée. Vous disposez d’un jeu d’évaluation et d’un résultat de départ, obtenu avec le modèle de base, une consigne soignée et quelques exemples. Sans cette référence, rien ne permet de dire que l’ajustement améliore quoi que ce soit.

Des exemples que vous pouvez produire et utiliser. L’entraînement demande des paires d’entrées et de sorties attendues, validées par des experts du métier et représentatives des demandes réelles, cas limites compris. Une part en est mise de côté pour l’évaluation et ne sert jamais à l’entraînement. Lorsque ces exemples proviennent d’échanges réels, ils contiennent souvent des données personnelles : leur usage relève du RGPD, règlement (UE) 2016/679, et un modèle peut restituer des éléments de ses données d’entraînement. Notre article sur l’anonymisation des données traite ce point.

Une tâche stable. Un modèle ajusté fige ce qu’il a appris. Si les règles du métier changent souvent, chaque changement appelle un nouvel entraînement, alors qu’une consigne ou un document se corrigent sans entraînement.

Une équipe pour l’exploiter. L’ajustement ajoute un artefact à maintenir. La dernière section de cet article en donne la mesure.

Les cas où il vaut mieux s’abstenir

  • Le besoin porte sur des faits, des procédures ou des tarifs qui évoluent. Un modèle ajusté ne cite pas de source et ne se met pas à jour sans réentraînement.
  • Les informations n’ont pas vocation à être lues par tous. Ce qu’un modèle a appris, il peut le restituer à n’importe quel utilisateur. Un dispositif de RAG peut filtrer les documents selon les habilitations au moment de la recherche ; un modèle ajusté n’offre aucun filtrage équivalent.
  • Aucun jeu d’évaluation n’existe. L’ajustement devient alors un pari, et son résultat une impression.
  • Les exemples sont rares, hétérogènes ou contestés par les experts eux-mêmes. Le modèle apprend les défauts de ses exemples avec la même application que leurs qualités.
  • La consigne n’a pas été sérieusement travaillée. Des instructions réécrites, quelques exemples bien choisis et une sortie structurée lèvent souvent les écarts de format.
  • Personne n’est désigné pour reprendre l’entraînement lorsque le modèle de base sera retiré ou remplacé.

Après la mise en service : un artefact de plus à exploiter

Un modèle ajusté est lié à une version précise de son modèle de base. Lorsque celle-ci est remplacée, l’adaptateur ne se transporte pas : il faut réentraîner, puis réévaluer. Le jeu d’entraînement, l’adaptateur et les résultats d’évaluation se versionnent ensemble, et chaque évolution rejoue le jeu de référence. Deux contrôles s’ajoutent à ceux d’un assistant ordinaire : la comparaison avec le modèle de base sur les mêmes cas, pour vérifier le gain, et un essai sur des demandes générales, pour repérer ce que le modèle aurait désappris. Cette discipline relève de la chaîne décrite dans notre page MLOps et LLMOps.

L’ajustement peut aussi déplacer votre position au regard du règlement (UE) 2024/1689, qui prévoit un régime propre aux modèles d’IA à usage général. La question s’instruit avec la gouvernance de l’IA avant le premier entraînement.

La prochaine étape ne demande aucun entraînement. Constituez le jeu d’évaluation avec les experts du métier, mesurez ce que donnent la consigne enrichie d’exemples puis la recherche documentaire, et classez les écarts restants selon leur nature. C’est la démarche que nous suivons pour concevoir un assistant, décrite dans notre page IA générative en entreprise. Si l’écart qui subsiste relève du comportement, vous saurez sur quels exemples entraîner le modèle et à quelle mesure juger le résultat.

Insights

À lire sur le sujet

Tous les insights
Différence entre IA et IA générative : quand retenir un modèle prédictif, quand retenir un modèle génératif

La différence entre IA et IA générative tient à ce que le système produit : l'IA désigne le domaine entier, dont les modèles prédictifs qui estiment une valeur ou classent un cas, alors que l'IA générative, qui en est une branche, produit un contenu nouveau. Management Square compare ici les deux familles et indique dans quelles situations chacune est le bon choix.

Lire l'analyse
Construire la feuille de route IA d'une entreprise, les étapes dans l'ordre

Une feuille de route IA d'entreprise est, par convention de travail, le document qui ordonne dans le temps les cas d'usage d'intelligence artificielle qu'une organisation a retenus, les chantiers de données et les socles dont ils dépendent, et les points de décision où chacun est poursuivi, repris ou arrêté. Management Square propose ici un ordre de construction, avec la pièce que livre chaque étape et son répondant.

Lire l'analyse
Dans quel ordre conduire la mise en œuvre de la gouvernance de l'IA ?

La mise en œuvre de la gouvernance de l'IA est la suite d'étapes par laquelle une organisation recense ses systèmes d'IA, les classe par niveau de risque, désigne qui en répond, installe un circuit de validation et organise leur suivi. Management Square décrit ici ces étapes dans l'ordre, ce que chacune produit et qui en répond, au regard du règlement (UE) 2024/1689.

Lire l'analyse

FAQ

Questions fréquentes

Une autre question ? Posez-la-nous

Faut-il choisir entre le fine-tuning d'un LLM et le RAG ?

Non, les deux se combinent parce qu'ils ne traitent pas le même problème. Le RAG fournit au modèle les documents à lire au moment de la question. Le fine-tuning modifie la manière dont le modèle répond. Un modèle ajusté pour tenir un format de sortie strict peut très bien recevoir ses faits d'une recherche documentaire.

Combien d'exemples faut-il pour ajuster un modèle de langage ?

Il n'existe pas de seuil universel : le besoin dépend de la tâche, de la technique et de l'écart à combler. La qualité et la représentativité des exemples comptent davantage que leur nombre. La méthode prudente consiste à commencer par un jeu restreint, validé par des experts du métier, puis à en ajouter tant que le résultat progresse sur le jeu d'évaluation.

Qu'est-ce que LoRA ?

LoRA (low-rank adaptation) est une méthode d'ajustement à faible nombre de paramètres. Le modèle de base reste figé. Seules de petites matrices ajoutées à certaines de ses couches sont entraînées. Le résultat est un adaptateur léger, chargé au-dessus du modèle de base, qui se stocke et se versionne séparément.

Peut-on ajuster un modèle propriétaire ?

Cela dépend du fournisseur. Certains proposent un service d'ajustement pour une partie de leurs modèles : le modèle ajusté reste alors hébergé chez eux et vous n'en détenez pas les paramètres. Les conditions d'usage des exemples transmis, la durée de disponibilité du modèle de base et la réversibilité sont à vérifier dans le contrat. Un modèle à poids ouverts hébergé par vos soins lève ces dépendances, au prix de l'infrastructure et de l'exploitation.

Le fine-tuning réduit-il les hallucinations ?

Pas sur les faits. Un modèle ajusté continue de produire le texte le plus plausible, et il ne cite pas ses sources. Il peut apprendre à mieux respecter une consigne de refus ou un format, ce qui limite certaines erreurs de comportement. Pour des réponses fondées sur des faits vérifiables, le levier reste la recherche documentaire, complétée par un contrôle des sorties.

Un projet à faire aboutir ?

Un premier échange suffit pour situer votre enjeu, identifier les bons interlocuteurs et vous dire franchement ce que nous pouvons apporter.