Ressources/Entraînement du modèle/Test et déploiement d'un modèle

Concept

Coûts : interpréter les chiffres

Le travail des modèles est facturé de plusieurs manières différentes. Ainsi, chaque coût affiché par Scalata comporte un état — Définitif, Estimé, En attente ou Non facturé — qui indique sur quoi le chiffre est basé.

Chapitre 95 min de lecture5 références

Présentation

Un projet peut impliquer une tâche de réglage fin facturée par jeton, une exécution de distillation sur des GPU loués facturée à la minute, une tâche de renforcement facturée par heure d'entraînement, et des évaluations facturées par jeton plus des frais horaires pour un déploiement temporaire. Certains de ces coûts sont connus avec exactitude à la fin de la tâche ; certains fournisseurs ne transmettent jamais de facture pour une tâche. Un chiffre unique par élément masquerait cette différence.

Chaque coût comporte donc un état. L'état vous indique le niveau de Confiance à accorder au chiffre : s'il s'agit d'un montant mesuré, d'une estimation qui ne sera jamais confirmée, ou d'un chiffre encore en évolution.

Les quatre états

Une tâche qui s'exécute
Démarréestimation et prix sauvegardés→En attentecoût à ce jour, ou l'estimation→Définitifchiffre du fournisseur, ou utilisation mesurée × prix de départEstiméaucune facture signalée : le milieu de la fourchette est maintenu
Une tâche arrêtée avant toute facturation
Démarréestimation et prix sauvegardés→Non facturépar exemple, rejetée lors de la soumission
Chaque coût commence par une estimation. Pendant l'exécution de la tâche, il est En attente ; lorsqu'elle se termine, il devient Définitif si un chiffre réel existe, ou reste Estimé si le fournisseur n'en signale aucun. Une tâche arrêtée avant toute facturation est Non facturée.
ÉtatBase de calculExemple
DéfinitifLe propre chiffre du fournisseur (son montant facturé, ou le temps de GPU mesuré × le prix), ou l'utilisation mesurée par Scalata (jetons, temps d'hébergement) × les prix indiqués au démarrage de la tâcheUne tâche GPU qui a tourné 6 minutes à 1,00 $/h = 0,10 $
EstiméLa tâche est terminée, mais le fournisseur ne transmet aucune facture pour ce type de tâche, l'estimation faite au démarrage est donc maintenue (le milieu de sa fourchette basse–haute)Une tâche de réglage des préférences dont le fournisseur ne renvoie aucun coût
En attenteToujours en cours : le coût à ce stade lorsqu'il peut être mesuré, sinon l'estimation. Il est arrêté à la fin de la tâcheUne tâche de renforcement facturée par heure d'entraînement, en cours d'exécution
Non facturéArrêté avant que quoi que ce soit ne soit facturéUne tâche rejetée par le fournisseur lors de la soumission

Comment les principaux types sont facturés

les quatre modèles de facturation
per training token   dataset tokens × epochs × price per token
per GPU minute       run time × the GPU's hourly rate
per training hour    training hours × hourly rate          (hosted RFT)
per token, inference input + output tokens × the model's price
                     + hours deployed × hosting rate       (temporary endpoints)
  • Par jeton d'entraînement (la plupart des réglages fins gérés) : jetons du jeu de données × époques × prix. Connu bien à l'avance, à l'exception du nombre d'époques choisi par le mode « auto ».
  • Par minute de GPU (tâches sur des GPU loués) : temps × le taux horaire du GPU. Cela dépend de la taille du modèle, de la taille des données et de la méthode ; les méthodes on-policy telles que la distillation et le renforcement passent la majeure partie de leur temps à générer des réponses.
  • Par heure d'entraînement (réglage fin par renforcement hébergé) : heures × un taux horaire élevé. Les fournisseurs ne publient aucune estimation de durée, les chiffres initiaux sont donc des fourchettes basées sur une hypothèse déclarée.
  • Par jeton à l'inférence (évaluations, juges, enseignants, chats de test) : jetons d'entrée et de sortie × le prix du modèle, plus l'hébergement horaire lorsqu'un point de terminaison temporaire est déployé. L'hébergement est facturé tant que le déploiement existe, qu'il soit utilisé ou non.
Exemple pratique : une semaine sur la page Coûts (prix à titre indicatif)
  1. Une tâche supervisée : 1,5 million de jetons de jeu de données × 3 époques × 3 $ par million de jetons = 13,50 $, Définitif — jetons mesurés au prix enregistré lors de son lancement.
  2. Une exécution de distillation sur un GPU loué : 42 minutes à 2,40 $ l'heure = 1,68 $, Définitif.
  3. Une tâche d'ajustement des préférences chez un fournisseur qui ne renvoie aucun coût pour celle-ci : l'estimation de départ était de 4 à 6 $, elle affiche donc 5,00 $, Estimé, et reste ainsi.
  4. Une tâche de renforcement hébergée, en cours depuis 1,5 heure à 100 $ l'heure d'entraînement : 150 $ à ce stade, En attente. Le montant est fixé à la fin de la tâche.
  5. Une évaluation : 0,12 $ de jetons de réponse et de jugement, plus deux déploiements temporaires de 25 minutes chacun à 1,70 $ l'heure (1,42 $) = 1,54 $, Définitif. L'essentiel correspond à l'hébergement.
  6. Une tâche rejetée par le fournisseur lors de la soumission : 0 $, Non facturé.

Comprendre la page Coûts

  • Les dates correspondent au début de chaque élément. Une tâche qui a commencé le 31 et s'est terminée le 1er est comptabilisée dans le mois de son démarrage.
  • Le résumé couvre l'ensemble de la plage de dates ; le tableau suit les filtres. Le pied de page du tableau ne totalise que ce qui est affiché, un pied de page filtré ne représente donc pas vos dépenses totales.
  • Les éléments archivés sont inclus, car l'argent a été dépensé. L'archivage permet de nettoyer les listes ; il ne rembourse rien.

En cas de différence avec la facture

Les prix sont les prix publiés par chaque fournisseur, et le prix indiqué au début d'une exécution est le taux sur lequel son coût final est calculé. La facture du fournisseur reste la source de vérité : elle peut arrondir différemment, ajouter des taxes, appliquer des crédits ou des frais minimums, et les prix évoluent avec le temps. De petites différences sont normales ; une grande différence signifie généralement que quelque chose a continué de tourner — le plus souvent un déploiement inactif.

États des coûts

DéfinitifTypique la plupart des tâches terminées, des évaluations et des chats de test#

Basé sur le propre chiffre du fournisseur, ou sur l'utilisation mesurée par Scalata (jetons, temps d'hébergement, temps de GPU) aux prix indiqués au démarrage de la tâche. Le chiffre ne changera pas.

EstiméTypique tâches dont le fournisseur ne renvoie aucun coût#

La tâche est terminée, mais le fournisseur ne transmet aucune facture pour ce type de tâche, l'estimation faite au démarrage est donc maintenue : le milieu de sa fourchette basse–haute. Vérifiez la facture pour connaître le montant réel.

En attenteTypique tout ce qui est encore en cours#

La tâche est toujours en cours. Affiche le coût à ce stade lorsqu'il peut être mesuré, sinon l'estimation, et est arrêté à la fin de la tâche.

Non facturéTypique 0 $#

La tâche s'est arrêtée avant que quoi que ce soit ne soit facturé, par exemple parce que le fournisseur l'a rejetée lors de la soumission.

Erreurs courantes

  • Considérer un chiffre Estimé comme une facture plutôt que de vérifier la facture du fournisseur.
  • Considérer un chiffre En attente pour une tâche facturée par heure d'entraînement comme son coût final.
  • Considérer le pied de page d'un tableau filtré comme la dépense totale.
  • Faire correspondre les coûts à la facture selon le jour où une tâche s'est terminée au lieu du jour où elle a commencé.
  • Oublier qu'un déploiement coûte de l'argent chaque heure de son existence, même lorsqu'il est inactif.

Références et lectures complémentaires

Les sources externes s'ouvrent dans un nouvel onglet.

  1. 01Plan and Manage Costs - Microsoft FoundryMicrosoft Learn · learn.microsoft.comModèles avec réglage fin facturés de trois manières : entraînement, hébergement horaire même lorsqu'ils sont inutilisés, et jetons d'inférence.
  2. 02Understand Cost Management dataMicrosoft Learn · learn.microsoft.comPourquoi les données de coût dans un tableau de bord et la facture définitive peuvent différer.
  3. 03Review your individual Azure subscription billMicrosoft Learn · learn.microsoft.comLire une facture : frais, crédits et taxes.
  4. 04Amazon Bedrock PricingAmazon Web Services · aws.amazon.comPrix de personnalisation et débit provisionné horaire pour les modèles personnalisés chez un fournisseur.
  5. 05PricingOpenAI API docs · developers.openai.comPrix du réglage fin par jeton et par heure, y compris le réglage fin par renforcement.

Transformez des semaines de travail d'expert en quelques minutes

Découvrez comment Scalata s'adapte à votre équipe, à vos données et à vos contrôles.

Contacter le service commercial