Hiperparâmetros

Quantas passagens completas o treinamento faz sobre seus dados. Muito poucas e o modelo quase não muda; muitas e ele começa a reproduzir seus exemplos palavra por palavra (sobreajuste), o que se reflete no aumento da perda de validação enquanto a perda de treinamento continua caindo. Conjuntos de dados pequenos podem suportar algumas épocas a mais; os grandes geralmente precisam de apenas uma. O ajuste de preferência geralmente precisa de menos épocas do que o treinamento supervisionado. Cada época também aumenta o custo.

O tamanho de cada atualização de peso. É a configuração mais sensível: se for muito alta, as atualizações ultrapassam o limite, a perda torna-se irregular e o modelo pode perder habilidades que já possuía; se for muito baixa, a execução termina antes que o modelo tenha aprendido o suficiente. Modelos hospedados frequentemente expõem um multiplicador em vez de uma taxa bruta: a taxa padrão do próprio provedor para aquele modelo e seus dados é multiplicada pelo seu valor, de modo que 1 mantém o padrão, 2 o duplica e 0,5 o reduz pela metade. Modelos abertos aceitam uma taxa bruta, como cerca de 1e-4 para um adaptador LoRA ou 1e-5 para um fine-tuning completo.

Quantos exemplos são calculados em média em cada atualização de peso. Lotes maiores fornecem atualizações mais suaves e confiáveis, mas em menor quantidade por época, e exigem mais memória; lotes menores são atualizados com mais frequência, mas com mais ruído. Ao alterar o tamanho do lote, reconsidere também a taxa de aprendizado: um lote maior geralmente tolera, e precisa de, uma taxa maior. Em um conjunto de dados pequeno, um lote muito grande deixa poucas etapas para o aprendizado.

Para o treinamento de adaptadores em modelos abertos. O rank das duas pequenas matrizes que o LoRA treina ao lado de cada camada, o que define o quanto o adaptador pode aprender. Um rank de 4–16 é suficiente para tom, estilo e formato; conjuntos de dados maiores e com muito conhecimento podem utilizar mais. Ranks mais altos custam mais memória e tempo, e deixam de ajudar assim que o adaptador atinge capacidade suficiente. A página do LoRA aborda alfa, módulos de destino e dropout.

Para os primeiros passos do treinamento, a taxa de aprendizado aumenta de quase zero até o seu valor total, em vez de começar com força total. No início, as estatísticas de execução do otimizador baseiam-se em muito poucos gradientes, portanto, passos de tamanho total correm o risco de um mau primeiro movimento; um aquecimento curto evita um início instável. É definido como um número de passos ou uma proporção de todos os passos. Após o aquecimento, a taxa geralmente decai em direção a zero durante o restante da execução.