Was es ist
Ein Projekt kann einen nach Token abgerechneten Fine-Tuning-Job, einen nach Minuten abgerechneten Destillationslauf auf gemieteten GPUs, einen nach Trainingsstunden abgerechneten Reinforcement-Job sowie Evaluierungen umfassen, die nach Token zuzüglich einer stündlichen Gebühr für ein temporäres Deployment abgerechnet werden. Einige dieser Kosten sind bei Abschluss des Jobs exakt bekannt; manche Anbieter stellen für einen Job überhaupt keine Rechnung aus. Eine einzige Zahl pro Position würde diesen Unterschied verbergen.
Daher ist jeder Kostenpunkt mit einem Status versehen. Der Status gibt an, wie viel Vertrauen Sie in die Zahl setzen können: ob es sich um einen gemessenen Betrag, eine Schätzung, die nie bestätigt wird, oder um eine Zahl handelt, die sich noch ändert.
Die vier Status
| Status | Berechnungsgrundlage | Beispiel |
|---|---|---|
| Endgültig | Die eigene Zahl des Anbieters (sein abgerechneter Betrag oder gemessene GPU-Zeit × Preis) oder die von Scalata gemessene Nutzung (Token, Hosting-Zeit) × die beim Start des Jobs angegebenen Preise | Ein GPU-Job, der 6 Minuten zu 1,00 $/h lief = 0,10 $ |
| Geschätzt | Der Job ist abgeschlossen, aber der Anbieter weist für diese Art von Job keine Rechnung aus, sodass die beim Start vorgenommene Schätzung bestehen bleibt (die Mitte der Spanne zwischen niedrigstem und höchstem Wert) | Ein Preference-Tuning-Job, dessen Anbieter keine Kosten zurückmeldet |
| Ausstehend | Läuft noch: die bisherigen Kosten, sofern sie gemessen werden können, andernfalls die Schätzung. Der Betrag wird bei Abschluss des Jobs endgültig festgelegt | Ein nach Trainingsstunden abgerechneter Reinforcement-Job, während des Durchlaufs |
| Nicht abgerechnet | Gestoppt, bevor Kosten angefallen sind | Ein Job, der vom Anbieter bei der Einreichung abgelehnt wurde |
Wie die wichtigsten Arten abgerechnet werden
per training token dataset tokens × epochs × price per token
per GPU minute run time × the GPU's hourly rate
per training hour training hours × hourly rate (hosted RFT)
per token, inference input + output tokens × the model's price
+ hours deployed × hosting rate (temporary endpoints)- Pro Trainings-Token (die meisten Managed-Fine-Tuning-Dienste): Datensatz-Token × Epochen × Preis. Weit im Voraus bekannt, abgesehen davon, wie viele Epochen bei „auto“ gewählt werden.
- Pro GPU-Minute (Jobs auf gemieteten GPUs): Zeit × Stundensatz der GPU. Die Kosten hängen von Modellgröße, Datenmenge und Methode ab; On-Policy-Methoden wie Destillation und Reinforcement verbringen die meiste Zeit mit der Generierung von Antworten.
- Pro Trainingsstunde (gehostetes Reinforcement-Fine-Tuning): Stunden × ein hoher Stundensatz. Anbieter veröffentlichen keine Schätzungen zur Dauer, daher sind die im Voraus genannten Zahlen Spannen, die auf einer bestimmten Annahme beruhen.
- Pro Token bei der Inferenz (Evaluierungen, Judges, Teachers, Test-Chats): Eingabe- und Ausgabe-Token × Preis des Modells, zuzüglich stündlicher Hosting-Kosten, wenn ein temporärer Endpunkt bereitgestellt wird. Hosting wird berechnet, solange das Deployment existiert, unabhängig davon, ob es genutzt wird oder nicht.
- Ein Supervised-Job: 1,5 Millionen Datensatz-Token × 3 Epochen × 3 $ pro Million Token = 13,50 $, Endgültig — gemessene Token zum Preis, der beim Start hinterlegt war.
- Ein Distillation-Lauf auf einer gemieteten GPU: 42 Minuten zu 2,40 $ pro Stunde = 1,68 $, Endgültig.
- Ein Preference-Tuning-Job bei einem Anbieter, der dafür keine Kosten zurückmeldet: Die anfängliche Schätzung lag bei 4–6 $, daher wird 5,00 $, Geschätzt angezeigt, und das bleibt auch so.
- Ein gehosteter Reinforcement-Job, 1,5 Stunden Laufzeit bei 100 $ pro Trainingsstunde: Bisher 150 $, Ausstehend. Die endgültige Abrechnung erfolgt nach Abschluss des Jobs.
- Eine Evaluierung: 0,12 $ für Antwort- und Judge-Token, plus zwei temporäre Deployments für jeweils 25 Minuten zu 1,70 $ pro Stunde (1,42 $) = 1,54 $, Endgültig. Der Großteil davon sind Hosting-Kosten.
- Ein Job, den der Anbieter bei der Übermittlung abgelehnt hat: 0 $, Nicht abgerechnet.
Die Seite „Kosten“ verstehen
- Die Daten beziehen sich auf den Startzeitpunkt der jeweiligen Position. Ein Job, der am 31. begonnen und am 1. beendet wurde, zählt zu dem Monat, in dem er gestartet wurde.
- Die Zusammenfassung deckt den gesamten Datumsbereich ab; die Tabelle richtet sich nach den Filtern. Die Fußzeile der Tabelle summiert nur das, was angezeigt wird. Eine gefilterte Fußzeile entspricht also nicht Ihren Gesamtausgaben.
- Archivierte Elemente sind enthalten, da das Geld ausgegeben wurde. Die Archivierung sorgt für übersichtlichere Listen; sie führt nicht zu einer Rückerstattung.
Wenn es Abweichungen zur Rechnung gibt
Die Preise entsprechen den veröffentlichten Preisen des jeweiligen Anbieters, und der beim Start eines Durchlaufs angegebene Preis ist der Satz, nach dem die endgültigen Kosten berechnet werden. Die Rechnung des Anbieters bleibt die maßgebliche Quelle: Sie kann anders runden, Steuern hinzufügen, Gutschriften oder Mindestgebühren anwenden, und Preise ändern sich im Laufe der Zeit. Kleine Abweichungen sind normal; eine große Abweichung bedeutet meist, dass etwas weiterlief — am häufigsten ein Deployment im Leerlauf.
Kostenstatus
Basierend auf der eigenen Zahl des Anbieters oder auf der von Scalata gemessenen Nutzung (Token, Hosting-Zeit, GPU-Zeit) zu den beim Start des Jobs angegebenen Preisen. Diese Zahl ändert sich nicht mehr.
Der Job ist abgeschlossen, aber der Anbieter weist für diese Art von Job keine Rechnung aus, sodass die beim Start vorgenommene Schätzung bestehen bleibt: die Mitte der Spanne zwischen niedrigstem und höchstem Wert. Überprüfen Sie die Rechnung auf den tatsächlichen Betrag.
Der Job läuft noch. Zeigt die bisherigen Kosten an, sofern sie gemessen werden können, andernfalls die Schätzung. Der Betrag wird bei Abschluss des Jobs endgültig festgelegt.
Der Auftrag wurde gestoppt, bevor Kosten anfielen, beispielsweise weil der Anbieter ihn bei der Übermittlung abgelehnt hat.
Häufige Fehler
- Einen geschätzten Wert als Rechnung zu betrachten, anstatt die Rechnung des Anbieters zu prüfen.
- Einen ausstehenden Betrag für einen nach Trainingsstunden abgerechneten Job als endgültige Kosten zu interpretieren.
- Die Fußzeile einer gefilterten Tabelle als Gesamtausgaben zu interpretieren.
- Kosten mit der Rechnung abzugleichen, basierend auf dem Tag, an dem ein Job beendet wurde, anstatt auf dem Tag, an dem er gestartet wurde.
- Zu vergessen, dass ein Deployment jede Stunde Geld kostet, in der es existiert, selbst wenn es im Leerlauf ist.
Quellen und weiterführende Literatur
Externe Quellen werden in einem neuen Tab geöffnet.
- 01Plan and Manage Costs - Microsoft FoundryMicrosoft Learn · learn.microsoft.comFine-Tuning-Modelle, die auf drei Arten abgerechnet werden: Training, stündliches Hosting (auch bei Nichtnutzung) und Inferenz-Token.
- 02Understand Cost Management dataMicrosoft Learn · learn.microsoft.comWarum Kostendaten in einem Dashboard und auf der endgültigen Rechnung abweichen können.
- 03Review your individual Azure subscription billMicrosoft Learn · learn.microsoft.comEine Rechnung lesen: Gebühren, Gutschriften und Steuern.
- 04Amazon Bedrock PricingAmazon Web Services · aws.amazon.comPreise für Anpassungen und stündlicher Provisioned Throughput für benutzerdefinierte Modelle bei einem Anbieter.
- 05PricingOpenAI API docs · developers.openai.comPreise für Fine-Tuning pro Token und pro Stunde, einschließlich Reinforcement-Fine-Tuning.