Qué cambia cada enfoque
Cada respuesta que da un modelo depende de dos factores: sus pesos, fijados durante su entrenamiento, y el contexto que lee en el momento de la solicitud. El prompting y la recuperación actúan sobre el contexto. El ajuste actúa sobre los pesos.
Cambio instantáneo. Las instrucciones se envían, y se pagan, en cada solicitud.
El conocimiento permanece fuera del modelo, por lo que puede actualizarse y citarse. La forma en que el modelo responde no cambia.
El comportamiento se aprende una sola vez por adelantado. Requiere buenos ejemplos y una nueva ejecución cuando el comportamiento deba cambiar.
Prompting
El prompting consiste en escribir instrucciones y, a menudo, algunos ejemplos resueltos en la solicitud. No requiere entrenamiento, surte efecto de inmediato y es fácil de modificar, lo que lo convierte en el punto de partida ideal. Sus costes son por llamada: un prompt de 2000 tokens se paga en cada solicitud, añade latencia y ocupa espacio en la ventana de contexto. Además, los prompts largos se siguen de manera imperfecta: cuantas más reglas haya, más probable será que algunas se omitan o se apliquen de forma inconsistente.
Generación aumentada por recuperación (RAG)
La generación aumentada por recuperación añade un paso de búsqueda. Sus documentos se indexan con antelación; para cada pregunta, se extraen los pasajes más relevantes, se incluyen en el prompt y el modelo responde a partir de ellos. El término proviene de un artículo de 2020 de Lewis y sus colaboradores. Dado que el conocimiento reside fuera del modelo, se actualiza al actualizar los documentos, y las respuestas pueden citar sus fuentes. Sin embargo, la forma de responder del modelo no cambia: sigue escribiendo con su propio estilo y formato.
Cuando el objetivo es el conocimiento, la recuperación suele ganar. Una comparación realizada en 2023 por Ovadia y sus colaboradores reveló que la recuperación superaba sistemáticamente al ajuste no supervisado a la hora de incorporar datos en las respuestas de un modelo, tanto para los datos que el modelo ya había visto como para los completamente nuevos.
Ajuste fino
El ajuste continúa el entrenamiento del modelo con sus ejemplos, de modo que el comportamiento deseado se convierta en el predeterminado. Las instrucciones que de otro modo repetiría en cada prompt —el tono, la estructura de una respuesta, el nivel de detalle, qué hacer ante una pregunta ambigua— se aprenden una sola vez. El resultado responde de esa manera incluso con un prompt corto, lo que puede hacer que cada solicitud sea más barata y rápida, y permite que un modelo pequeño realice un trabajo específico tan bien como uno más grande con instrucciones detalladas.
Sus costes son iniciales: necesita buenos ejemplos, una ejecución de entrenamiento, una evaluación y una nueva ejecución cada vez que cambie el comportamiento deseado. Los datos aprendidos de esta manera se congelan en el momento del entrenamiento y se recuerdan de forma menos fiable que los datos proporcionados en el prompt.
Cómo elegir
| Si la pregunta es… | Apunta a |
|---|---|
| ¿Necesita el modelo datos que cambian semanalmente o una gran colección de documentos? | Recuperación |
| ¿Deben las respuestas mostrar de dónde proviene un dato? | Recuperación |
| ¿El problema es cómo responde: tono, formato, longitud, consistencia? | Ajuste |
| ¿Sus prompts son largos y se repiten en cada llamada? | El ajuste puede absorberlos |
| ¿Debería un modelo más pequeño y barato igualar a uno más grande en una tarea? | Ajuste o destilación |
| ¿Aún está definiendo cómo es una buena respuesta? | Prompting primero |
- Semana 1 — prompting. Un prompt del sistema describe el producto y el tono. Funciona, pero las respuestas varían en formato y el prompt crece hasta los 1800 tokens a medida que se añaden reglas.
- Semana 3 — recuperación. Los artículos del centro de ayuda se indexan y los tres más relevantes se añaden a cada solicitud. Las respuestas sobre las características pasan a ser precisas y actualizadas.
- Semana 6 — ajuste fino. Trescientos chats de soporte revisados enseñan el formato y el tono. El prompt del sistema se reduce a dos oraciones; la recuperación sigue proporcionando los datos.
- Resultado. Cada solicitud conlleva muchos menos tokens de instrucción, las respuestas son coherentes y cambiar una política sigue implicando editar un documento en lugar de volver a entrenar el modelo.
Errores comunes
- Ajustar para enseñar datos que cambian y, luego, volver a entrenar cada vez que lo hacen.
- Comparar un modelo ajustado con un modelo base con prompts deficientes; compare con el mejor prompt que tenga.
- Esperar que la recuperación corrija el tono o el formato; solo cambia lo que el modelo lee.
- Omitir el prompt del sistema después del ajuste cuando el modelo se entrenó con uno.
- Ajustar antes de saber cómo es una buena respuesta, de modo que los ejemplos se contradicen entre sí.
Referencias y lecturas adicionales
Las fuentes externas se abren en una pestaña nueva.
- 01Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksLewis et al., 2020 · arXiv · arxiv.orgEl artículo que dio nombre y presentó RAG.
- 02Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMsOvadia et al., 2023 · arXiv · arxiv.orgUna comparación directa de ambos para añadir conocimiento.
- 03Model optimizationOpenAI API docs · developers.openai.comLa perspectiva de un proveedor sobre cuándo usar prompts, evaluar y ajustar.
- 04Prompt engineering overviewClaude Platform Docs · platform.claude.comHasta dónde puede llegar un prompting cuidadoso antes de necesitar entrenamiento.