Modelos Fundacionais
Traga qualquer modelo.
Mantenha seus dados.
Defina as regras.
Conecte os modelos pelos quais você já paga, ou aquele executado dentro da sua própria rede, e governe cada chamada: quem pode usar qual modelo, onde as chaves ficam armazenadas, quanto custa cada solicitação e um registro de tudo isso.
Traga o seu próprio modelo
Seu modelo, onde quer que seja executado
Aponte a Scalata para qualquer endpoint de modelo: um modelo em seus próprios servidores, em sua nuvem privada ou atrás do seu gateway interno. Ela lê os modelos que esse endpoint atende, testa o que cada um pode fazer e o trata como qualquer outro modelo no espaço de trabalho.
- Seus dados vão para onde o seu modelo está
Quando o modelo é executado na sua rede, os prompts e as respostas viajam para o seu endpoint e para nenhum outro lugar. Nenhum provedor de IA terceirizado os vê.
- Qualquer modelo, qualquer host
Modelos de pesos abertos que você mesmo hospeda, modelos que você ajustou, um provedor comercial que não listamos ou um gateway que a sua equipe de plataforma já executa. Se ele fornece uma API de chat, ele se conecta.
- Testado antes que alguém o utilize
A criação da conexão executa testes em tempo real no seu endpoint e registra o que o modelo suporta: streaming, chamada de ferramentas, saída em JSON, imagens.
- Seus custos, não os nossos
Defina o seu próprio preço por milhão de tokens, para que os relatórios de uso e custo reflitam o que o modelo realmente custa para você executar.
Funciona com
- meta-llama/Llama-3.3-70B-Instruct
- Qwen/Qwen2.5-72B-Instruct
- mistralai/Mixtral-8x22B-Instruct
- deepseek-ai/DeepSeek-R1-Distill-70B
Provedores
Ou os provedores que você já utiliza
Conecte-se com a sua própria conta, sob o seu próprio contrato. A Scalata encontra os modelos que a sua conta pode acessar, para que você os adicione selecionando, não digitando.
AnthropicClaude models, with your own API key.
OpenAIGPT models, with your own API key.
Google GeminiGemini models, with a Google AI key.
Mistral AIMistral, Magistral and Codestral models.
Azure AI FoundryYour deployments, read from your endpoint.
AWS BedrockEvery model enabled in your account.
Google Vertex AIEnabled models, found across your regions.
Hugging FaceAny model with a live inference provider.
xAIGrok models, with your xAI key.
DeepSeekDeepSeek chat and reasoning models.
Fireworks AIOpen-weight models, served by Fireworks.
Segurança e acesso
Cada modelo tem um proprietário e uma lista de convidados
Apenas as pessoas que você permitir podem adicionar um modelo, e cada modelo carrega suas próprias permissões: quem pode usá-lo, alterar sua temperatura, editá-lo ou excluí-lo.
Conceda acesso a um departamento e todos nele o terão. Usuários externos podem receber permissão de uso de um modelo através do chatbot, e nada mais. As chaves são criptografadas no momento em que são salvas e nunca mais são exibidas; os colegas podem reutilizar uma conexão salva pelo nome sem nunca ver a chave. Qualquer pessoa sem acesso pode solicitá-lo, e o proprietário é notificado.
Tokens e custo
Cada token contabilizado
Cada chamada é registrada com os seus tokens, custo, velocidade e resultado, para que você possa ver para onde vai o gasto antes que a fatura chegue.
Detalhe o uso por pessoa e departamento, acompanhe as taxas de sucesso e os tempos de resposta, e exporte tudo para uma planilha. Franquias mensais e limites de taxa por minuto impedem que qualquer equipe ou fluxo de trabalho utilize mais do que a sua cota.
Desenvolvido para o mercado corporativo
Tudo o que um parque de modelos precisa
Conectar um modelo é a parte fácil. Executar dezenas deles em diferentes equipes, regiões e fornecedores, com segurança e dentro do orçamento, é para isso que serve o restante da plataforma.
Se um modelo, provedor ou região estiver indisponível, as solicitações são transferidas para o backup que você escolheu, sem que ninguém perceba.
Mantenha o processamento nas regiões que suas políticas e reguladores permitem, modelo por modelo.
Proteja as credenciais salvas com chaves mantidas em seu próprio serviço de gerenciamento de chaves e revogue-as por lá.
Acesse os modelos que você hospeda por meio de conexões privadas, para que o tráfego nunca passe pela internet pública.
Oculte dados pessoais e bloqueie o que sua política proíbe antes que um prompt seja enviado, e verifique o que retorna.
Limites de gastos por equipe, projeto ou modelo, com alertas antes de serem atingidos, em vez de depois.
Decida por política quais modelos cada departamento, região ou cliente pode sequer visualizar.
Transmita cada chamada, com quem a fez e quanto custou, para o seu SIEM ou data warehouse.
Transforme semanas de trabalho especializado em minutos
Veja como o Scalata se adapta à sua equipe, aos seus dados e aos seus Controles.