Le coût d’un agent IA ne se résume pas au tarif d’un million de tokens. Une tâche peut déclencher plusieurs appels au modèle, des recherches, un sandbox, du stockage, des outils SaaS et une validation humaine. Le prix unitaire du modèle ne décrit donc ni le coût complet, ni la valeur obtenue.
Une approche FinOps relie l’usage technique à un produit, une équipe et un résultat métier. Elle ne cherche pas seulement à réduire la facture : elle aide à choisir où dépenser pour obtenir un meilleur résultat.
Définir l’unité de valeur avant le tableau de bord
Choisissez une unité liée au cas d’usage : ticket résolu, document validé, pull request acceptée, test réparé ou alerte qualifiée. Le coût par tâche lancée est insuffisant si une partie des sorties doit être reprise ou abandonnée.
Mesurez donc le coût par résultat accepté. Incluez le temps de revue et les relances. Un modèle moins cher peut devenir plus coûteux s’il multiplie les boucles ou les corrections humaines.
Calculer le coût complet d’une exécution
Additionnez les tokens d’entrée et de sortie, le cache éventuel, les appels d’outils, le calcul du sandbox, la recherche vectorielle, le stockage et les services externes. Ajoutez une estimation du temps humain lorsqu’il varie fortement entre les solutions.
Conservez le tarif applicable au moment de l’exécution. Les prix et remises évoluent ; recalculer l’historique avec le tarif actuel fausse les comparaisons. Distinguez le prix catalogue, le prix négocié et le coût réellement amorti.
Allouer chaque coût
Un appel partagé entre plusieurs produits doit porter des métadonnées : équipe, environnement, cas d’usage, version d’agent et centre de coût. Sans allocation, la facture globale augmente alors que personne ne peut expliquer quelle expérimentation crée de la valeur.
Imposez ces dimensions dans la couche d’accès aux modèles plutôt que de compter sur chaque développeur. Prévoyez une catégorie contrôlée pour les usages inconnus et traitez-la comme une anomalie à corriger.
Budgéter avec des garde-fous progressifs
Définissez un budget par environnement et par cas d’usage. Un seuil d’alerte prévient l’équipe ; un second réduit la concurrence ou choisit un modèle moins coûteux ; un plafond dur arrête les tâches non critiques. Les opérations sensibles doivent échouer proprement plutôt que poursuivre avec une configuration improvisée.
Ajoutez des limites par tâche : nombre maximal de boucles, d’appels d’outils, de tokens et de minutes. Un agent qui tourne en rond est à la fois un incident de qualité et un incident financier.
Détecter les anomalies avec le contexte du produit
Une hausse de dépense peut être saine si le volume ou le taux de réussite progresse. Comparez coût, volume et résultat. Surveillez notamment le coût par réussite, les tokens par tâche, les reprises, la latence et le taux d’intervention humaine.
Segmentez les alertes par version. Une nouvelle instruction système, un outil plus bavard ou une modification de RAG peut augmenter brutalement le contexte envoyé sans changer le nombre de requêtes.
Optimiser dans le bon ordre
- Supprimer les appels inutiles et les boucles évitables.
- Réduire le contexte sans perdre les informations déterminantes.
- Mettre en cache les résultats stables et autorisés.
- Router les tâches simples vers un modèle adapté.
- Batcher les traitements asynchrones lorsque le fournisseur le permet.
- Négocier les tarifs après avoir stabilisé le profil d’usage.
Le changement de modèle ne doit pas précéder la mesure de qualité. Comparez les options sur un jeu de tâches reproductible, comme dans notre méthode de benchmark des agents IA.
Relier expérimentation et production
Un prototype a besoin de liberté, mais aussi d’une date de décision. Identifiez chaque initiative comme exploration, preuve de valeur ou production. À chaque étape correspondent un budget, des indicateurs et une exigence de fiabilité différents.
Fermez les ressources oubliées, les abonnements redondants et les index de test. Une expérimentation terminée continue sinon à générer une dépense sans propriétaire.
Tableau de bord minimal
- Dépense totale et prévision par produit.
- Coût par résultat accepté.
- Taux de réussite et reprise humaine.
- Tokens, outils et durée par tâche.
- Répartition par modèle et environnement.
- Anomalies et budget restant.
- Évolution de la qualité après optimisation.
Organiser la responsabilité
Les développeurs comprennent les choix techniques, le produit définit la valeur et la finance apporte les règles d’allocation et de prévision. Une revue régulière de ces trois perspectives évite deux extrêmes : couper une expérimentation prometteuse trop tôt ou laisser une dépense croître sans preuve d’utilité.
