O que cada abordagem altera
Cada resposta que um modelo fornece depende de duas coisas: seus pesos, fixados quando foi treinado, e o contexto que ele lê no momento da solicitação. O prompting e a recuperação atuam no contexto. O fine-tuning atua nos pesos.
Alteração instantânea. As instruções são enviadas, e cobradas, a cada solicitação.
O conhecimento permanece fora do modelo, para que possa ser atualizado e citado. A forma como o modelo responde não é alterada.
O comportamento é aprendido uma única vez, com antecedência. Exige bons exemplos e uma nova execução quando o comportamento precisar ser alterado.
Prompting
O prompting significa escrever instruções e, muitas vezes, alguns exemplos práticos na solicitação. Ele não exige treinamento, tem efeito imediato e é fácil de alterar, o que o torna o ponto de partida ideal. Seus custos são por chamada: um prompt de 2.000 tokens é pago a cada solicitação, adiciona latência e ocupa espaço na janela de contexto. Prompts longos também são seguidos de forma imperfeita — quanto mais regras houver, maior a probabilidade de algumas serem ignoradas ou aplicadas de forma inconsistente.
Geração aumentada por recuperação (RAG)
A geração aumentada por recuperação adiciona uma etapa de pesquisa. Seus documentos são indexados com antecedência; para cada pergunta, as passagens mais relevantes são buscadas e colocadas no prompt, e o modelo responde a partir delas. O termo vem de um artigo de 2020 de Lewis e colegas. Como o conhecimento reside fora do modelo, você o atualiza atualizando os documentos, e as respostas podem citar suas fontes. No entanto, a forma de responder do modelo permanece inalterada: ele ainda escreve em seu próprio estilo e formato.
Quando o objetivo é o conhecimento, a recuperação tende a vencer. Uma comparação de 2023 feita por Ovadia e colegas descobriu que a recuperação superou consistentemente o fine-tuning não supervisionado na inserção de fatos nas respostas de um modelo, tanto para fatos que o modelo já tinha visto quanto para fatos inteiramente novos.
Fine-tuning
O fine-tuning continua o treinamento do modelo com seus exemplos, para que o comportamento desejado se torne o padrão. As instruções que você repetiria em cada prompt — o tom, a estrutura de uma resposta, o nível de detalhe a fornecer, o que fazer com uma pergunta pouco clara — são aprendidas uma única vez. O resultado responde dessa forma mesmo com um prompt curto, o que pode tornar cada solicitação mais barata e rápida, e pode permitir que um modelo pequeno execute uma tarefa específica tão bem quanto um modelo maior com um prompt cuidadoso.
Seus custos são antecipados: você precisa de bons exemplos, uma execução de treinamento, uma avaliação e uma nova execução sempre que o comportamento desejado mudar. Os fatos aprendidos dessa forma são congelados no momento do treinamento e são lembrados com menos confiabilidade do que os fatos fornecidos no prompt.
Como escolher
| Se a pergunta for… | Isso aponta para |
|---|---|
| O modelo precisa de fatos que mudam semanalmente ou de uma grande coleção de documentos? | Recuperação |
| As respostas devem mostrar de onde veio um fato? | Recuperação |
| O problema é como ele responde — tom, formato, tamanho, consistência? | Fine-tuning |
| Seus prompts são longos e repetidos em cada chamada? | O fine-tuning pode absorvê-los |
| Um modelo menor e mais barato deve se igualar a um maior em uma tarefa? | Fine-tuning ou destilação |
| Você ainda está definindo como é uma boa resposta? | Prompting primeiro |
- Semana 1 — prompting. Um prompt de sistema descreve o produto e o tom. Funciona, mas as respostas variam no formato, e o prompt cresce para 1.800 tokens à medida que regras são adicionadas.
- Semana 3 — recuperação. Artigos da central de ajuda são indexados e os três mais relevantes são adicionados a cada solicitação. As respostas sobre funcionalidades tornam-se precisas e atualizadas.
- Semana 6 — fine-tuning. Trezentos chats de suporte revisados ensinam o formato e o tom. O prompt de sistema é reduzido a duas frases; a recuperação continua a fornecer os fatos.
- Resultado. Cada solicitação carrega muito menos tokens de instrução, as respostas são consistentes e alterar uma política ainda significa editar um documento em vez de treinar novamente.
Erros comuns
- Fazer o fine-tuning para ensinar fatos que mudam e, então, treinar novamente sempre que eles mudarem.
- Comparar um modelo com fine-tuning a um modelo base com um prompt ruim; compare com o melhor prompt que você tiver.
- Esperar que a recuperação corrija o tom ou o formato; ela altera apenas o que o modelo lê.
- Abandonar o prompt de sistema após o fine-tuning quando o modelo foi treinado com um.
- Fazer o fine-tuning antes de saber como é uma boa resposta, de modo que os exemplos entrem em conflito entre si.
Referências e leitura complementar
Fontes externas abrem em uma nova aba.
- 01Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksLewis et al., 2020 · arXiv · arxiv.orgO artigo que nomeou e introduziu o RAG.
- 02Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMsOvadia et al., 2023 · arXiv · arxiv.orgUma comparação direta dos dois para adicionar conhecimento.
- 03Model optimizationOpenAI API docs · developers.openai.comA visão de um provedor sobre quando fazer o prompting, avaliar e fazer o fine-tuning.
- 04Prompt engineering overviewClaude Platform Docs · platform.claude.comAté onde um prompting cuidadoso pode ir antes que o treinamento seja necessário.