Foundation Models
Integrieren Sie jedes beliebige Modell.
Behalten Sie Ihre Daten.
Bestimmen Sie die Regeln.
Binden Sie die Modelle an, für die Sie bereits bezahlen, oder das Modell, das in Ihrem eigenen Netzwerk läuft, und verwalten Sie jeden Aufruf: wer welches Modell nutzen darf, wo die Schlüssel liegen, was jede Anfrage kostet – inklusive einer vollständigen Protokollierung.
Bring Your Own Model
Ihr Modell, wo auch immer es läuft
Verbinden Sie Scalata mit einem beliebigen Modell-Endpunkt: einem Modell auf Ihren eigenen Servern, in Ihrer Private Cloud oder hinter Ihrem internen Gateway. Es erfasst die Modelle, die dieser Endpunkt bereitstellt, testet deren jeweilige Fähigkeiten und behandelt sie wie jedes andere Modell im Workspace.
- Ihre Daten fließen nur dorthin, wo sich Ihr Modell befindet
Wenn das Modell in Ihrem Netzwerk läuft, werden Prompts und Antworten ausschließlich an Ihren Endpunkt übertragen und nirgendwohin sonst. Kein externer KI-Anbieter kann sie einsehen.
- Jedes Modell, jeder Host
Open-Weight-Modelle, die Sie selbst hosten, Modelle, die Sie feinabgestimmt haben, ein kommerzieller Anbieter, den wir nicht auflisten, oder ein Gateway, das Ihr Plattform-Team bereits betreibt. Wenn es eine Chat-API bereitstellt, lässt es sich anbinden.
- Getestet, bevor es jemand nutzt
Beim Einrichten der Verbindung werden Live-Tests gegen Ihren Endpunkt ausgeführt und es wird erfasst, was das Modell unterstützt: Streaming, Tool Calling, JSON-Ausgabe, Bilder.
- Ihre Kosten, nicht unsere
Legen Sie Ihren eigenen Preis pro Million Token fest, damit Nutzungs- und Kostenberichte widerspiegeln, was Sie der Betrieb des Modells tatsächlich kostet.
Funktioniert mit
- meta-llama/Llama-3.3-70B-Instruct
- Qwen/Qwen2.5-72B-Instruct
- mistralai/Mixtral-8x22B-Instruct
- deepseek-ai/DeepSeek-R1-Distill-70B
Anbieter
Oder die Anbieter, die Sie bereits nutzen
Verbinden Sie sich mit Ihrem eigenen Konto, unter Ihrem eigenen Vertrag. Scalata findet die Modelle, auf die Ihr Konto zugreifen kann, sodass Sie diese durch Auswählen und nicht durch Eintippen hinzufügen.
AnthropicClaude models, with your own API key.
OpenAIGPT models, with your own API key.
Google GeminiGemini models, with a Google AI key.
Mistral AIMistral, Magistral and Codestral models.
Azure AI FoundryYour deployments, read from your endpoint.
AWS BedrockEvery model enabled in your account.
Google Vertex AIEnabled models, found across your regions.
Hugging FaceAny model with a live inference provider.
xAIGrok models, with your xAI key.
DeepSeekDeepSeek chat and reasoning models.
Fireworks AIOpen-weight models, served by Fireworks.
Sicherheit und Zugriff
Jedes Modell hat einen Eigentümer und eine Zugriffsliste
Nur von Ihnen autorisierte Personen können ein Modell hinzufügen, und jedes Modell verfügt über eigene Berechtigungen: wer es nutzen, seine Temperatur ändern, es bearbeiten oder löschen darf.
Gewähren Sie einer Abteilung Zugriff, und alle Mitarbeiter darin erhalten ihn. Externen Nutzern kann die Nutzung eines Modells ausschließlich über den Chatbot gestattet werden. Schlüssel werden im Moment der Speicherung verschlüsselt und nie wieder angezeigt; Kollegen können eine gespeicherte Verbindung über ihren Namen wiederverwenden, ohne den Schlüssel jemals zu sehen. Jeder ohne Zugriff kann diesen anfragen, woraufhin der Eigentümer benachrichtigt wird.
Token und Kosten
Jeder Token wird erfasst
Jeder Aufruf wird mit seinen Token, Kosten, der Geschwindigkeit und dem Ergebnis protokolliert, sodass Sie sehen können, wohin die Ausgaben fließen, bevor die Rechnung eintrifft.
Schlüsseln Sie die Nutzung nach Person und Abteilung auf, verfolgen Sie Erfolgsquoten und Antwortzeiten und exportieren Sie alles in eine Tabelle. Monatliche Kontingente und Ratenlimits pro Minute verhindern, dass ein einzelnes Team oder ein einzelner Workflow mehr als seinen Anteil verbraucht.
Für Unternehmen entwickelt
Alles, was eine Modelllandschaft braucht
Ein Modell anzubinden, ist der einfache Teil. Dutzende davon über Teams, Regionen und Anbieter hinweg sicher und im Rahmen des Budgets zu betreiben – dafür ist der Rest der Plattform da.
Wenn ein Modell, Anbieter oder eine Region nicht verfügbar ist, werden Anfragen auf das von Ihnen gewählte Backup umgeleitet, ohne dass es jemand bemerkt.
Beschränken Sie die Verarbeitung modellweise auf die Regionen, die Ihre Richtlinien und Aufsichtsbehörden zulassen.
Schützen Sie gespeicherte Zugangsdaten mit Schlüsseln, die in Ihrem eigenen Key Management Service verwaltet werden, und widerrufen Sie diese dort.
Greifen Sie über private Verbindungen auf die von Ihnen gehosteten Modelle zu, sodass der Datenverkehr niemals über das öffentliche Internet fließt.
Schwärzen Sie personenbezogene Daten und blockieren Sie, was Ihre Richtlinien verbieten, bevor ein Prompt gesendet wird, und überprüfen Sie die Antworten.
Ausgabenlimits pro Team, Projekt oder Modell, mit Warnmeldungen, bevor diese erreicht werden – und nicht erst danach.
Legen Sie per Richtlinie fest, welche Modelle die jeweilige Abteilung, Region oder der Kunde überhaupt sehen darf.
Übertragen Sie jeden Aufruf, samt Urheber und Kosten, in Ihr SIEM oder Data Warehouse.
Verwandeln Sie wochenlange Expertenarbeit in Minuten
Erfahren Sie, wie Scalata zu Ihrem Team, Ihren Daten und Ihren Kontrollen passt.