Votre assistant fondé sur un modèle de langage fait à peu près ce que vous attendez, et c’est cet « à peu près » qui vous occupe. Le format des réponses dérive, le vocabulaire du métier reste approximatif, la consigne s’allonge à chaque correction. Quelqu’un propose alors le fine-tuning du LLM.
Le fine-tuning d’un LLM, ou ajustement du modèle, poursuit l’entraînement d’un modèle existant sur vos propres exemples et en modifie les paramètres. Il change durablement un comportement : un format, un registre, une tâche étroite. Il n’apporte pas de connaissances à jour et ne cite aucune source. La décision se prend donc dans un ordre précis : travailler la consigne, fournir les bons documents, et n’ajuster le modèle que si un écart de comportement, mesuré sur un jeu d’évaluation, résiste aux deux premiers leviers.
Prompt, RAG ou ajustement : situer le problème avant de choisir le levier
Les trois leviers n’agissent pas au même endroit. La consigne (prompt) change ce qui est demandé au modèle. La recherche documentaire change ce qu’il lit avant de répondre. L’ajustement change le modèle lui-même. Nos fiches de lexique décrivent le fonctionnement d’un LLM et celui du RAG, comparaison avec l’ajustement comprise. Reste le diagnostic : de quelle nature est l’écart que vous constatez ?
| Ce que vous observez | Nature du problème | Levier à essayer d’abord |
|---|---|---|
| L’assistant ignore un fait interne ou récent | Connaissance manquante | Recherche documentaire (RAG) |
| Il s’appuie sur une version périmée d’une procédure | Corpus mal tenu | Correction du fonds documentaire |
| Le format de sortie varie malgré une consigne précise | Comportement | Exemples dans la consigne, sortie structurée imposée, puis ajustement |
| Le vocabulaire ou le registre du métier est mal tenu | Comportement | Exemples dans la consigne, puis ajustement si l’écart persiste |
| La consigne, très longue, est renvoyée à chaque appel sur un volume élevé | Coût et délai de réponse | Allègement de la consigne, puis ajustement d’un modèle plus petit ou distillation |
| Le raisonnement échoue sur les cas complexes | Capacité du modèle | Décomposition de la tâche ou changement de modèle |
La dernière ligne mérite une précision. Un ajustement spécialise un modèle sur ce que montrent ses exemples. Lorsque les cas difficiles échouent faute de capacité de raisonnement, il apporte rarement la réponse : elle se trouve plus souvent dans le découpage de la tâche ou dans le choix du modèle.
Fine-tuning d’un LLM : ajustement complet, LoRA, distillation
Le terme recouvre plusieurs techniques, qui n’engagent ni les mêmes moyens ni la même exploitation.
L’ajustement complet met à jour tous les paramètres du modèle à partir de paires associant une entrée et la sortie attendue. Il produit une copie entière du modèle et demande la capacité de calcul la plus importante. Il expose aussi à l’oubli : en se spécialisant, le modèle peut perdre une partie de ses aptitudes générales.
Les méthodes à faible nombre de paramètres figent le modèle de base et n’entraînent qu’un petit ensemble de paramètres ajoutés. LoRA (low-rank adaptation) en est un exemple courant. La correction apportée à certaines couches du modèle y est représentée par le produit de deux matrices de faible rang, seules entraînées. Le résultat est un adaptateur de petite taille, chargé au-dessus du modèle de base. Un même modèle peut ainsi servir plusieurs tâches, avec un adaptateur par tâche.
La distillation répond à une autre question. Un modèle « élève », plus petit, est entraîné à reproduire les sorties d’un modèle « professeur », plus grand, sur la tâche visée. Le but est de conserver un comportement acquis sur un périmètre délimité avec un modèle plus léger à héberger. Hors de ce périmètre, l’élève n’hérite pas des aptitudes du professeur. Lorsque le professeur est le modèle d’un fournisseur, ses conditions d’utilisation sont à lire avant d’en réemployer les sorties pour un entraînement.
Ces techniques s’appliquent soit par le service d’ajustement d’un fournisseur, pour les modèles qu’il ouvre à cette possibilité, soit sur un modèle à poids ouverts que vous hébergez. Le choix détermine qui détient le modèle ajusté et qui en assure la continuité.
Les critères qui justifient d’ajuster le modèle
La nature de l’écart. L’ajustement se justifie pour un écart de comportement : format, registre, respect d’une convention, tâche répétitive et étroite telle qu’un classement ou une extraction. Il ne se justifie pas pour un écart de connaissance.
Une référence mesurée. Vous disposez d’un jeu d’évaluation et d’un résultat de départ, obtenu avec le modèle de base, une consigne soignée et quelques exemples. Sans cette référence, rien ne permet de dire que l’ajustement améliore quoi que ce soit.
Des exemples que vous pouvez produire et utiliser. L’entraînement demande des paires d’entrées et de sorties attendues, validées par des experts du métier et représentatives des demandes réelles, cas limites compris. Une part en est mise de côté pour l’évaluation et ne sert jamais à l’entraînement. Lorsque ces exemples proviennent d’échanges réels, ils contiennent souvent des données personnelles : leur usage relève du RGPD, règlement (UE) 2016/679, et un modèle peut restituer des éléments de ses données d’entraînement. Notre article sur l’anonymisation des données traite ce point.
Une tâche stable. Un modèle ajusté fige ce qu’il a appris. Si les règles du métier changent souvent, chaque changement appelle un nouvel entraînement, alors qu’une consigne ou un document se corrigent sans entraînement.
Une équipe pour l’exploiter. L’ajustement ajoute un artefact à maintenir. La dernière section de cet article en donne la mesure.
Les cas où il vaut mieux s’abstenir
- Le besoin porte sur des faits, des procédures ou des tarifs qui évoluent. Un modèle ajusté ne cite pas de source et ne se met pas à jour sans réentraînement.
- Les informations n’ont pas vocation à être lues par tous. Ce qu’un modèle a appris, il peut le restituer à n’importe quel utilisateur. Un dispositif de RAG peut filtrer les documents selon les habilitations au moment de la recherche ; un modèle ajusté n’offre aucun filtrage équivalent.
- Aucun jeu d’évaluation n’existe. L’ajustement devient alors un pari, et son résultat une impression.
- Les exemples sont rares, hétérogènes ou contestés par les experts eux-mêmes. Le modèle apprend les défauts de ses exemples avec la même application que leurs qualités.
- La consigne n’a pas été sérieusement travaillée. Des instructions réécrites, quelques exemples bien choisis et une sortie structurée lèvent souvent les écarts de format.
- Personne n’est désigné pour reprendre l’entraînement lorsque le modèle de base sera retiré ou remplacé.
Après la mise en service : un artefact de plus à exploiter
Un modèle ajusté est lié à une version précise de son modèle de base. Lorsque celle-ci est remplacée, l’adaptateur ne se transporte pas : il faut réentraîner, puis réévaluer. Le jeu d’entraînement, l’adaptateur et les résultats d’évaluation se versionnent ensemble, et chaque évolution rejoue le jeu de référence. Deux contrôles s’ajoutent à ceux d’un assistant ordinaire : la comparaison avec le modèle de base sur les mêmes cas, pour vérifier le gain, et un essai sur des demandes générales, pour repérer ce que le modèle aurait désappris. Cette discipline relève de la chaîne décrite dans notre page MLOps et LLMOps.
L’ajustement peut aussi déplacer votre position au regard du règlement (UE) 2024/1689, qui prévoit un régime propre aux modèles d’IA à usage général. La question s’instruit avec la gouvernance de l’IA avant le premier entraînement.
La prochaine étape ne demande aucun entraînement. Constituez le jeu d’évaluation avec les experts du métier, mesurez ce que donnent la consigne enrichie d’exemples puis la recherche documentaire, et classez les écarts restants selon leur nature. C’est la démarche que nous suivons pour concevoir un assistant, décrite dans notre page IA générative en entreprise. Si l’écart qui subsiste relève du comportement, vous saurez sur quels exemples entraîner le modèle et à quelle mesure juger le résultat.