リソース/モデルのトレーニング/モデルの試行とサービング

概念

コストについて:数値の読み方

モデルの作業は複数の異なる方法で請求されるため、Scalataが表示するすべてのコストには、その数値の根拠を示すステータス(確定、見積り、保留中、または請求なし)が付与されます。

第9章読了時間 2分参考文献 5件

概要

1つのプロジェクトには、トークン単位で課金されるファインチューニングジョブ、分単位で課金されるレンタルGPUでの蒸留の実行、トレーニングの時間単位で課金される強化学習ジョブ、そしてトークン単位の課金に加えて一時的なデプロイメントの時間単位の課金が発生する評価が含まれる場合があります。これらのコストの中には、ジョブ終了時に正確に判明するものもあれば、プロバイダーがジョブの請求額を一切報告しないものもあります。項目ごとに単一の数値を示すだけでは、そのような違いが隠れてしまいます。

そのため、各コストにはステータスが設定されています。ステータスは、その数値の信頼性を示します。つまり、それが実測値なのか、確定することのない見積もりなのか、あるいはまだ変動している数値なのかを示します。

4つのステータス

実行されるジョブ
開始保存された見積もりと価格→保留中これまでのコスト、または見積もり→確定プロバイダーの数値、または測定された使用量 × 開始価格見積もり請求の報告なし: 範囲の中央値が適用されます
課金前に停止されたジョブ
開始保存された見積もりと価格→請求なし例: 送信時に拒否された場合
すべてのコストは見積もりとして開始されます。ジョブの実行中は「保留中」となり、終了時に実際の数値が存在する場合は「確定」になります。プロバイダーから報告がない場合は「見積もり」のままとなります。課金される前に停止されたジョブは「請求なし」となります。
ステータス算出基準例
確定プロバイダー独自の数値 (請求額、または測定されたGPU時間 × 単価)、あるいは Scalata が測定した使用量 (トークン数、ホスティング時間) × ジョブ開始時に提示された単価$1.00/時で6分間実行されたGPUジョブ = $0.10
見積もりジョブは終了しましたが、プロバイダーから当該ジョブの請求が報告されていないため、開始時の見積もり (下限から上限の範囲の中央値) が適用されますプロバイダーからコストが返されない選好チューニングジョブ
保留中実行中: 測定可能な場合はこれまでのコスト、それ以外の場合は見積もり。ジョブ終了時に確定しますトレーニングの時間単位で課金される強化学習ジョブ (実行途中)
請求なし課金が発生する前に停止されました送信時にプロバイダーによって拒否されたジョブ

主な種類の課金方法

4つの課金モデル
per training token   dataset tokens × epochs × price per token
per GPU minute       run time × the GPU's hourly rate
per training hour    training hours × hourly rate          (hosted RFT)
per token, inference input + output tokens × the model's price
                     + hours deployed × hosting rate       (temporary endpoints)
  • トレーニングトークン単位 (ほとんどのマネージドファインチューニング): データセットのトークン数 × エポック数 × 単価。「auto」が選択するエポック数を除き、事前に正確に把握できます。
  • GPUの分単位 (レンタルGPUでのジョブ): 時間 × GPUの時間単価。モデルのサイズ、データサイズ、手法に依存します。蒸留や強化学習などのオンポリシー手法では、時間の大部分を回答の生成に費やします。
  • トレーニングの時間単位 (ホスト型強化学習ファインチューニング): 時間 × 高額な時間単価。プロバイダーは所要時間の見積もりを公開していないため、事前の数値は一定の前提条件に基づく範囲で示されます。
  • 推論時のトークン単位 (評価、判定、ティーチャー、テストチャット): 入出力トークン数 × モデルの単価。さらに、一時的なエンドポイントがデプロイされている場合は時間単位のホスティング費用が加算されます。ホスティング費用は、使用の有無にかかわらず、デプロイメントが存在する間は課金されます。
具体例:コストページでの1週間(価格は例示)
  1. 教師ありジョブ:150万データセットトークン × 3エポック × 100万トークンあたり$3 = $13.50、最終 — 開始時に保存された価格での測定トークン数。
  2. レンタルGPUでの蒸留実行:1時間あたり$2.40で42分 = $1.68、最終。
  3. コストを返さないプロバイダーでの選好チューニングジョブ:開始時の見積もりが$4–6であったため、$5.00、見積もりと表示され、そのまま維持されます。
  4. ホスト型強化学習ジョブ、トレーニング1時間あたり$100で1.5時間経過:現在$150、保留中。ジョブ終了時に確定します。
  5. 評価:回答および判定トークンで$0.12、さらに1時間あたり$1.70で各25分間の2つの一時的なデプロイ($1.42) = $1.54、最終。大部分はホスティング費用です。
  6. 提出時にプロバイダーによって拒否されたジョブ:$0、請求なし。

コストページの見方

  • 日付は各項目の開始日です。 31日に開始し、1日に終了したジョブは、開始した月に計上されます。
  • サマリーは対象期間全体をカバーし、表はフィルターに従います。 表のフッターには表示されている内容のみの合計が記載されるため、フィルター適用後のフッターの数値は総支出額ではありません。
  • アーカイブされた項目も含まれます。 費用がすでに発生しているためです。アーカイブはリストを整理するためのものであり、返金されるわけではありません。

請求書と異なる場合

価格は各プロバイダーが公開している価格であり、実行開始時に提示された価格が最終的なコストを算出する際のレートとなります。プロバイダーの請求書が引き続き正となる情報源となります。端数処理の違い、税金の加算、クレジットや最低料金の適用がある場合があり、価格は時間の経過とともに変動します。わずかな差異は正常ですが、大きな差異がある場合は通常、何かが実行され続けていたことを意味します。最も多いのはアイドル状態のデプロイメントです。

コストのステータス

確定一般的 ほとんどの終了したジョブ、評価、テストチャット#

プロバイダー独自の数値、またはジョブ開始時に提示された単価に基づく Scalata が測定した使用量 (トークン数、ホスティング時間、GPU時間) に基づきます。この数値は変動しません。

見積もり一般的 プロバイダーからコストが返されないジョブ#

ジョブは終了しましたが、プロバイダーから当該ジョブの請求が報告されていないため、開始時の見積もりが適用されます (下限から上限の範囲の中央値)。実際の金額については請求書をご確認ください。

保留中一般的 現在実行中のもの#

ジョブは現在も実行中です。測定可能な場合はこれまでのコストを、それ以外の場合は見積もりを表示し、ジョブ終了時に確定します。

請求なし一般的 $0#

プロバイダーが送信時に拒否したなどの理由で、課金が発生する前にジョブが停止しました。

よくある間違い

  • プロバイダーの請求書を確認せず、Estimated (見積もり) の数値を請求額として扱うこと。
  • トレーニングの時間単位で課金されるジョブの Pending (保留中) の数値を、最終的なコストとして読み取ること。
  • フィルター適用後の表のフッターを総支出額として読み取ること。
  • ジョブの開始日ではなく、終了日を基準にしてコストを請求書と照合すること。
  • アイドル状態であっても、デプロイメントが存在する限り1時間ごとに費用が発生することを忘れること。

参考文献および関連資料

外部ソースは新しいタブで開きます。

  1. 01Plan and Manage Costs - Microsoft FoundryMicrosoft Learn · learn.microsoft.comファインチューニングされたモデルの3つの課金方法: トレーニング、未使用時でも発生する時間単位のホスティング、および推論トークン。
  2. 02Understand Cost Management dataMicrosoft Learn · learn.microsoft.comダッシュボードのコストデータと最終的な請求書に差異が生じる理由。
  3. 03Review your individual Azure subscription billMicrosoft Learn · learn.microsoft.com請求書の読み方: 請求額、クレジット、税金。
  4. 04Amazon Bedrock PricingAmazon Web Services · aws.amazon.comあるプロバイダーにおけるカスタムモデルのカスタマイズ料金と時間単位のプロビジョンドスループット。
  5. 05PricingOpenAI API docs · developers.openai.com強化学習ファインチューニングを含む、トークン単位および時間単位のファインチューニング料金。

専門家が数週間かける作業を数分に短縮します

Scalataがお客様のチーム、データ、および統制にどのように適合するかをご確認ください。

営業へのお問い合わせ