基盤モデル
あらゆるモデルを導入。
データを保持。
ルールを設定。
すでに料金を支払っているモデルや、自社ネットワーク内で稼働しているモデルを接続し、すべての呼び出しを管理します。誰がどのモデルを使用できるか、キーの保管場所、各リクエストのコスト、およびそれらすべての記録を統制します。
自社モデルの導入
稼働場所を問わず、自社モデルを活用
Scalataを任意のモデルエンドポイント（自社サーバー、プライベートクラウド、または社内ゲートウェイの背後にあるモデル）に接続します。エンドポイントが提供するモデルを読み取り、それぞれの機能をテストした上で、ワークスペース内の他のモデルと同様に扱います。
- データはモデルのある場所へ
モデルが自社ネットワーク内で稼働している場合、プロンプトと回答は自社のエンドポイントにのみ送信され、他の場所には送信されません。サードパーティのAIプロバイダーがそれらを見ることはありません。
- あらゆるモデル、あらゆるホスト
自社で提供するオープンウェイトモデル、ファインチューニングしたモデル、リストにない商用プロバイダー、またはプラットフォームチームがすでに運用しているゲートウェイなど、チャットAPIを提供するものであれば接続可能です。
- 使用前のテスト
接続を構築する際、エンドポイントに対してライブテストを実行し、ストリーミング、ツール呼び出し、JSON出力、画像など、モデルがサポートする機能を記録します。
- 自社のコストとして管理
100万トークンあたりの価格を独自に設定できるため、使用量とコストのレポートには、モデルの実行に実際に要したコストが反映されます。
連携可能なサービス
- meta-llama/Llama-3.3-70B-Instruct
- Qwen/Qwen2.5-72B-Instruct
- mistralai/Mixtral-8x22B-Instruct
- deepseek-ai/DeepSeek-R1-Distill-70B
プロバイダー
または、すでに使用しているプロバイダー
自社の契約に基づく自社アカウントで接続します。Scalataはアカウントがアクセスできるモデルを検出するため、入力するのではなく選択するだけで追加できます。
AnthropicClaude models, with your own API key.
OpenAIGPT models, with your own API key.
Google GeminiGemini models, with a Google AI key.
Mistral AIMistral, Magistral and Codestral models.
Azure AI FoundryYour deployments, read from your endpoint.
AWS BedrockEvery model enabled in your account.
Google Vertex AIEnabled models, found across your regions.
Hugging FaceAny model with a live inference provider.
xAIGrok models, with your xAI key.
DeepSeekDeepSeek chat and reasoning models.
Fireworks AIOpen-weight models, served by Fireworks.
セキュリティとアクセス
すべてのモデルに所有者とゲストリストを設定
許可された担当者のみがモデルを追加でき、各モデルには独自の権限が設定されます。誰が使用できるか、temperature（温度）の変更、編集、削除の権限を個別に管理できます。
部門にアクセス権を付与すると、その部門の全員がアクセスできるようになります。外部ユーザーには、チャットボットを通じたモデルの使用のみを許可することが可能です。キーは保存された瞬間に暗号化され、二度と表示されることはありません。同僚はキーを見ることなく、名前で保存された接続を再利用できます。アクセス権のないユーザーはリクエストを送信でき、その旨が所有者に通知されます。
トークンとコスト
すべてのトークンを把握
各呼び出しは、トークン、コスト、速度、結果とともにログに記録されるため、請求書が届く前に支出の行き先を確認できます。
使用量を個人や部門ごとに分類し、成功率や応答時間を追跡して、すべてをスプレッドシートにエクスポートします。月間の許容量と1分あたりのレート制限により、特定のチームやワークフローが割り当てを超えて使用することを防ぎます。
エンタープライズ向けに構築
モデル資産に必要なすべてを
モデルの接続は簡単な部分にすぎません。チーム、地域、ベンダーをまたいで数十のモデルを安全かつ予算内で運用することこそが、このプラットフォームの真の目的です。
モデル、プロバイダー、またはリージョンが利用できない場合、ユーザーに意識させることなく、リクエストは選択したバックアップへ自動的に移行します。
モデルごとに、社内ポリシーや規制当局が許可するリージョン内でのみ処理を実行します。
自社のキー管理サービスで保持するキーを使用して、保存された認証情報を保護し、必要に応じて無効化できます。
プライベート接続を介してホストするモデルにアクセスするため、トラフィックがパブリックインターネットを経由することはありません。
プロンプトが送信される前に個人情報を墨塗りし、ポリシーで禁止されている内容をブロックします。さらに、返される内容もチェックします。
チーム、プロジェクト、またはモデルごとに支出上限を設定し、上限に達する前にアラートで通知します。
各部門、リージョン、またはクライアントが閲覧できるモデルをポリシーによって決定します。
すべての呼び出しを、実行者とコストの情報とともに、SIEMやデータウェアハウスにストリーミングします。