O que é
Durante o treinamento, o provedor salva o modelo em alguns pontos — alguns provedores ao final de cada época, outros em etapas fixas, como a etapa 5 e a etapa 10 de uma execução de 10 etapas. Cada cópia salva é um checkpoint: um modelo completo com ajuste fino que pode ser implantado e questionado como qualquer outro. O último checkpoint geralmente é idêntico ao modelo final.
Os checkpoints são mais importantes quando a avaliação normal deixa de funcionar. Uma avaliação lado a lado precisa que o modelo base e o modelo treinado sejam executados ao mesmo tempo. Os provedores descontinuam os modelos de acordo com um cronograma e, assim que um modelo é marcado como em descontinuação, nenhuma nova implantação dele é permitida — muitas vezes, semanas antes de sua data oficial de descontinuação. Os modelos já treinados nele ainda podem ser implantados; a base em si, não. A comparação direta com a base deixa de existir, restando duas alternativas: comparar com um checkpoint anterior ou pontuar o modelo isoladamente.
Como a comparação funciona
O modelo final e um checkpoint anterior da mesma execução respondem às mesmas perguntas reservadas, e o avaliador os compara às cegas, exatamente como compararia o modelo ajustado e a base. A diferença é o que o resultado significa. O checkpoint inicial já contém a primeira parte do treinamento, portanto, a comparação isola as etapas entre o checkpoint e o final.
| Comparação | Respostas | Não responde |
|---|---|---|
| Final vs. base | O treinamento ajudou em algo? | Qual parte do treinamento ajudou |
| Checkpoint final vs. inicial | As etapas posteriores ajudaram? | Se o modelo supera o original |
| Checkpoint final vs. último checkpoint | Quase nada: geralmente são o mesmo modelo | Qualquer coisa útil — espere principalmente empates |
| Avaliado isoladamente | Quão boas são as respostas, em termos absolutos? | Qualquer melhoria em relação a outro modelo |
Interpretando o resultado
- O final vence claramente. As etapas posteriores agregaram algo real. A duração total da execução valeu a pena.
- Maioria de empates, médias quase iguais. As etapas posteriores mudaram pouco. Uma execução mais curta — menos etapas ou épocas — provavelmente teria o mesmo desempenho por uma fração do custo de treinamento. Se as verificações reservadas durante o treinamento também tiverem se estabilizado no checkpoint, os dois sinais concordam.
- O checkpoint vence. O treinamento além desse ponto piorou as respostas, um sinal clássico de overfitting: o modelo melhorou no início e depois começou a memorizar. Na próxima vez, treine por menos etapas ou épocas.
Custo e tempo
Cada checkpoint é um modelo com ajuste fino próprio, portanto, precisa de sua própria implantação hospedada. Durante a avaliação, tanto o modelo final quanto o checkpoint são implantados, cada um faturado por hora, de modo que a hospedagem é paga duas vezes. Para uma avaliação pequena, a fatura é composta principalmente pelo tempo de hospedagem, não por tokens.
Modelos de raciocínio respondem lentamente. Os modelos que pensam antes de responder podem levar cerca de um minuto por par de perguntas, enquanto um modelo de chat comum responde a uma pequena avaliação inteira em um ou dois minutos. Vinte perguntas podem, então, manter duas implantações em execução por quinze minutos ou mais — e o tempo de hospedagem, assim como o custo, cresce com isso.
- Uma execução de reforço de 10 etapas foi concluída em um modelo de raciocínio que, desde então, foi marcado como em descontinuação. O modelo treinado ainda pode ser implantado; o modelo base, não.
- O provedor salvou checkpoints na etapa 5 e na etapa 10. A etapa 10 é o modelo final, portanto a comparação é final vs. etapa 5, em 24 perguntas de teste reservadas.
- Resultado: o final vence 6, a etapa 5 vence 7, 11 empates. As pontuações médias do avaliador são 3,6 para ambos.
- Leitura: as etapas de 6 a 10 quase não mudaram nada, e as verificações reservadas durante o treinamento também haviam se estabilizado na etapa 5. Uma execução de 5 etapas provavelmente teria o mesmo desempenho, com cerca da metade do custo de treinamento.
- Custo: duas implantações foram executadas por cerca de 25 minutos, pois o modelo de raciocínio responde lentamente. A maior parte do custo da avaliação é a hospedagem. Para saber a qualidade do modelo em termos absolutos, a próxima etapa é pontuá-lo isoladamente.
Configurações
Qual ponto salvo da mesma execução atua como a "base". Um checkpoint inicial ou intermediário isola o que as etapas posteriores adicionaram; o último checkpoint geralmente é o modelo final e resulta principalmente em empates.
Erros comuns
- Comparar com o último checkpoint e interpretar os empates como “o treinamento não fez nada”.
- Interpretar uma vitória sobre um checkpoint inicial como prova de que o modelo supera a base original.
- Esquecer que ambos os lados estão implantados: a hospedagem é paga duas vezes.
- Adiar a avaliação até que o modelo base seja descontinuado — compare com a base enquanto ela ainda puder ser implantada.
- Ignorar um empate com o checkpoint em vez de encurtar a próxima execução.
Referências e leitura complementar
Fontes externas abrem em uma nova aba.
- 01Supervised fine-tuningOpenAI API docs · developers.openai.comComo um provedor salva checkpoints utilizáveis durante o treinamento, e por que um anterior pode ser o melhor modelo.
- 02Foundry Models lifecycle and support policyMicrosoft Learn · learn.microsoft.comO que "descontinuado" e "retirado" significam para a criação de novas implantações de um modelo.
- 03DeprecationsOpenAI API docs · developers.openai.comO cronograma publicado por um provedor sobre o encerramento de modelos.
- 04Early stoppingWikipedia · en.wikipedia.orgPor que treinar por mais tempo pode piorar um modelo em novos dados, e como saber quando parar.