Le budget d’un projet IA se répartit sur deux horizons : celui du projet, qui a une date de fin, et celui du service, qui court jusqu’à son retrait. Le premier porte le cadrage et la construction. Le second porte l’usage du modèle, la réévaluation des réponses et la mise à jour des données.
Ce budget peut se décomposer en six postes : le cadrage, les données, la construction, l’évaluation, l’exploitation et la conformité. Le cadrage et la construction se dépensent pour l’essentiel une fois. L’exploitation revient à chaque période. Les données, l’évaluation et la conformité ont une part de chaque nature. Le poids de chaque poste dépend de l’option retenue : construire, adapter un modèle existant ou acheter un service. Nous décrivons ces postes par leur nature et par ce qui les fait varier, sans montant : un chiffre s’établit projet par projet, à partir d’hypothèses écrites. La mesure des gains fait l’objet de notre article sur le ROI de l’intelligence artificielle.
Les postes du budget d’un projet IA et ce qui les fait varier
| Poste | Ce qu’il finance | Ponctuel ou récurrent | Ce qui le fait varier |
|---|---|---|---|
| Cadrage | Choix du cas d’usage, relevé du processus actuel, critères de réussite et d’arrêt | Ponctuel, repris à chaque extension de périmètre | Nombre de directions concernées, degré de description du processus |
| Données | Accès aux sources, préparation, droits, mise à jour du corpus ou des jeux d’exemples | Ponctuel pour la préparation, récurrent pour la mise à jour | État des sources, nombre de propriétaires, présence de données personnelles |
| Construction | Développement, intégration aux applications, sécurité des accès | Ponctuel | Nombre d’applications reliées, option d’approvisionnement |
| Évaluation | Jeu de cas de référence, temps des experts du métier, campagnes rejouées | Ponctuel pour la constitution, récurrent à chaque changement | Fréquence des changements de modèle, de consigne ou de corpus, part de jugement humain |
| Exploitation | Usage du modèle ou capacité de calcul, supervision, support, maintenance | Récurrent | Volume de demandes, longueur des textes traités, nombre d’appels par réponse |
| Conformité | Classement du système, analyses, documentation, contrôle humain | Ponctuel pour l’instruction, récurrent pour la tenue à jour | Niveau de risque du système, rôle de l’organisation, données personnelles |
Le temps des équipes métier traverse plusieurs lignes : les experts qui constituent le jeu de référence, les responsables qui jugent les réponses, les utilisateurs qui prennent l’outil en main. S’il n’est compté sur aucune ligne, il se prend sur l’activité courante sans avoir été décidé.
Le poste de conformité se chiffre une fois le système classé. Le règlement (UE) 2024/1689 attache ses obligations au rôle de l’organisation et au niveau de risque du système. Ce classement s’instruit au cadrage, avec vos juristes, dans le cadre que décrit notre page sur la gouvernance de l’IA.
La part ponctuelle et la part récurrente de la dépense
La part ponctuelle a la forme d’un budget de projet : un début, une fin, un livrable. La part récurrente commence à la mise en service et se reconduit à chaque exercice, jusqu’au retrait du service.
Pour un service fondé sur un modèle de langage facturé à l’usage, la ligne d’exploitation suit trois grandeurs : le nombre de demandes, le volume de texte lu et produit à chaque demande, compté en jetons, et le nombre d’appels au modèle nécessaires pour une réponse. Ces grandeurs se relèvent dans les traces d’exploitation, selon les pratiques du LLMOps.
Prenons une hypothèse de calcul, qui n’est pas un relevé. Un assistant reçoit 1 500 demandes par jour ouvré et transmet au modèle 4 000 jetons par demande, consigne et passages compris : le volume lu atteint 6 millions de jetons par jour. Si une seconde passe de vérification, de même volume, est ajoutée à chaque réponse, ce volume double sans qu’un utilisateur de plus soit servi. La ligne d’exploitation s’écrit donc comme une formule, dont chaque hypothèse reste visible et se remplace par une mesure dès le pilote.
Lorsque le modèle est hébergé par l’organisation, la formule change : la dépense tient à la capacité de calcul réservée et à l’équipe qui l’exploite, et elle court même lorsque les demandes sont peu nombreuses.
Certaines dépenses récurrentes suivent un événement plutôt que le calendrier. Le fournisseur retire une version du modèle : le jeu de référence est rejoué et la consigne reprise. Une source documentaire est refondue : le corpus est préparé de nouveau. La finalité s’élargit : le classement est réexaminé. Une réserve inscrite au budget évite de traiter chacun de ces événements comme un dépassement.
Reste à désigner la direction qui portera la ligne récurrente une fois le projet clos. Le suivi de cette dépense à l’usage emprunte les pratiques de notre page FinOps : un propriétaire pour chaque coût, et un coût unitaire suivi d’une période à l’autre.
Construire, adapter un modèle existant ou acheter un service
Le choix entre ces options se fait cas d’usage par cas d’usage, selon les critères de notre page stratégie IA. Ce qui suit décrit seulement la manière dont chacune déplace les postes.
Acheter un service, qu’il s’agisse d’une fonction d’IA dans un logiciel déjà en place ou d’un assistant du marché, réduit la construction au paramétrage et à l’intégration. L’exploitation prend la forme d’un abonnement ou d’une facturation à l’usage, fixés par le contrat. Trois postes restent à la charge de l’acheteur : la préparation des données que le service lira, l’évaluation sur ses propres cas, et la conformité attachée à son rôle. Une ligne s’ajoute, celle de la sortie : reprendre ses données et ses paramétrages le jour où le service est remplacé.
Adapter un modèle existant recouvre plusieurs degrés. Une consigne travaillée pèse peu sur la construction. Une recherche documentaire, selon le principe du RAG, grossit le poste des données : le corpus se prépare, puis se tient à jour. L’ajustement du modèle ajoute des exemples à produire, un entraînement et un artefact à réentraîner lorsque le modèle de base change, ce que détaille notre article sur le fine-tuning d’un LLM.
Construire mobilise tous les postes, et y ajoute des compétences à garder dans la durée ainsi qu’une chaîne de mise en production et de surveillance, objet de notre page MLOps et LLMOps.
L’arbitrage que nous proposons se fait sur le coût complet. Une option légère à construire peut devenir lourde à exploiter lorsque le volume croît, puisqu’une facturation à l’usage suit les demandes. Une option lourde à construire peut coûter peu par demande une fois la capacité installée, à condition que cette capacité soit employée. La comparaison demande donc une hypothèse de volume à plusieurs horizons, écrite avant le choix.
Un budget demandé par tranches, hypothèses à l’appui
Nous proposons une méthode : présenter le budget par tranches, chacune assortie d’un critère de poursuite et d’un critère d’arrêt.
La première tranche finance le cadrage et une preuve sur des données réelles : un périmètre de données, un jeu de référence, un prototype mesuré. Elle produit les mesures de volume et de qualité qui manquaient aux hypothèses. La deuxième finance la construction, et n’est engagée qu’au vu de ces mesures. Vient ensuite la ligne d’exploitation, présentée avec sa formule, sa réserve et la direction qui la porte.
Certaines situations justifient de s’en tenir à la première tranche : aucune direction n’accepte de porter la ligne récurrente, l’accès aux données n’est pas acquis, ou le métier ne sait pas encore écrire ce qu’est une bonne réponse. Le budget de construction serait alors demandé sur des hypothèses que rien ne permet de vérifier.
Le premier document à établir est le tableau des postes, rempli pour un seul cas d’usage, avec en face de la ligne d’exploitation ses hypothèses de volume et le nom de la direction qui en répondra.