PróximamenteEl Entrenamiento de modelos estará disponible pronto en Scalata Enterprise. Enseñe a un modelo a responder como lo hace su equipo.Ver próximas novedades

Recursos/Entrenamiento de modelos/Preparación de datos

Configuración

Prompt del sistema

El prompt del sistema es una instrucción permanente que se coloca antes de cada conversación. Al añadirse durante el entrenamiento, el modelo aprende su comportamiento en presencia de ese prompt exacto, por lo que debe mantenerse igual cuando se utilice el modelo.

Capítulo 54 min de lectura3 referencias

Qué es

Un chat tiene tres roles: usuario, asistente y sistema. El mensaje del sistema aparece primero y no lo pronuncia nadie en la conversación; es una instrucción permanente — quién es el asistente, qué debe y no debe hacer, con qué longitud y en qué formato responde. En el uso diario, es la forma de dirigir un modelo sin volver a entrenarlo.

En la preparación de datos, el prompt del sistema es un ajuste opcional que se inserta al principio de cada registro de entrenamiento. Convierte un montón de chats individuales en ejemplos de un asistente coherente.

Cómo funciona durante el entrenamiento

systemUsted es el asistente de soporte de Scalata.leído · enmascarado
user¿Cómo restablezco mi contraseña?leído · enmascarado
assistantAbra Configuración → Seguridad y elija Restablecer contraseña.evaluado · pérdida contabilizada
El modelo lee cada token, pero su error solo se mide en la respuesta objetivo. El contexto da forma a la predicción; nunca se evalúa por sí mismo.

Al igual que el mensaje del usuario, el prompt del sistema es contexto: el modelo lo lee al predecir la respuesta objetivo, pero el error se mide únicamente en los tokens objetivo. Por lo tanto, el entrenamiento no enseña al modelo a escribir el prompt; le enseña cómo son las respuestas cuando ese prompt está presente.

Ese condicionamiento es la parte importante. Antes de llegar al modelo, un chat se aplana en una única secuencia de tokens utilizando la plantilla de chat del modelo, con tokens especiales que marcan dónde empiezan las partes del sistema, del usuario y del asistente. El comportamiento aprendido del modelo se asocia a esa secuencia exacta. Si más adelante utiliza un prompt del sistema diferente — o ninguno en absoluto —, la entrada ya no se parecerá a aquello con lo que se entrenó el modelo, y el comportamiento aprendido solo se transferirá parcialmente. Esta es la misma razón por la que la documentación de Hugging Face hace hincapié en formatear los datos de entrenamiento con la misma plantilla de chat que el modelo verá durante su uso.

un registro de entrenamiento con un prompt del sistema
{"messages": [
  {"role": "system",    "content": "You are the support assistant for Acme Billing. Answer in two to four short sentences. Name the exact menu path. If you are not sure, say so and offer to connect a human."},
  {"role": "user",      "content": "How do I download last month's invoice?"},
  {"role": "assistant", "content": "Go to Billing → Invoices, pick last month and choose Download PDF. Invoices appear on the 2nd of each month."}
]}

Qué incluir en él

  • Identidad y alcance: de quién es el asistente y en qué ayuda.
  • Estilo de respuesta: longitud, estructura, si debe usar listas y qué hacer cuando no esté seguro.
  • Reglas estrictas que los ejemplos podrían no cubrir, como no dar nunca precios o siempre ofrecer hablar con un humano.
  • No conocimiento. Los datos pertenecen a los ejemplos (o a la recuperación en tiempo de ejecución); un prompt lleno de detalles del producto es largo, costoso y se queda obsoleto.

Asegúrese de que el prompt y las respuestas objetivo concuerden. Si el prompt dice «responda en dos oraciones» pero la mitad de los objetivos son tutoriales largos, el modelo aprende que la instrucción no significa mucho — y puede que también la ignore en otros lugares.

Ejemplo práctico: qué ocurre al cambiar el prompt
  1. Un modelo se entrena con 1500 chats de soporte utilizando el prompt de aproximadamente 50 tokens anterior. Sus respuestas son breves, indican la ruta del menú y ofrecen hablar con un humano cuando hay dudas.
  2. Durante su uso, alguien sustituye el prompt por uno de 400 tokens que enumera todas las características del producto. Las respuestas se vuelven más largas y el hábito de «ofrecer un humano» aparece con menos frecuencia: la entrada ya no coincide con el entrenamiento.
  3. Al restaurar el prompt original, se recupera el comportamiento entrenado. Si las nuevas instrucciones son realmente necesarias, añádalas al prompt de entrenamiento y vuelva a entrenar.
  4. Coste: 50 tokens × 1500 registros × 3 épocas = 225 000 tokens de entrenamiento solo para el prompt. La versión de 400 tokens costaría 1,8 millones.
Prompt del sistemaTípico 1–5 frases#

Texto opcional que se añade antes de cada conversación. Por lo general, bastan unas pocas frases sobre la identidad, el alcance y el estilo de respuesta; déjelo en blanco solo si el modelo se utilizará siempre sin él.

Errores comunes

  • Entrenar con un prompt del sistema y desplegar con otro, para luego concluir que el ajuste fino «no funcionó».
  • Incluir datos en el prompt que pertenecen a los ejemplos o a la recuperación.
  • Un prompt que contradice las respuestas objetivo, lo que enseña al modelo que sus instrucciones son opcionales.
  • Olvidar el coste de los tokens: un prompt largo se paga en cada registro, en cada época y en cada solicitud posterior.

Referencias y lecturas adicionales

Las fuentes externas se abren en una pestaña nueva.

  1. 01Chat templatesHugging Face Transformers docs · huggingface.coCómo los mensajes del sistema, del usuario y del asistente se convierten en una única secuencia de tokens, y por qué el entrenamiento y el uso deben coincidir.
  2. 02Supervised fine-tuningOpenAI API docs · developers.openai.comEjemplos de entrenamiento en formato de chat, incluido el mensaje del sistema.
  3. 03Prepare data for fine-tuning your modelsAmazon Bedrock User Guide · docs.aws.amazon.comUn formato con un campo de sistema independiente por registro.
ConceptoRoles de los mensajesCómo se almacena una conversación como mensajes del sistema, del usuario y del asistente, y cómo esos roles se convierten en el flujo único de tokens que un modelo lee realmente.ConceptoEnmascaramiento de pérdidaPor qué un modelo se puntúa solo sobre los tokens objetivo de cada registro, cómo se hace en la práctica y qué cambia y qué no.ConceptoPrompting, recuperación o ajusteTres formas de adaptar un modelo a su caso de uso: qué cambia cada una, cuánto cuesta y cómo elegir entre ellas o combinarlas.ConfiguraciónLímites de tokens y recortesCada proveedor limita la cantidad de tokens que puede contener un ejemplo de entrenamiento. Las conversaciones largas que superan el límite se recortan —eliminando primero los intercambios más antiguos— o se descartan.ConceptoArchivos de entrenamiento JSONLJSONL (JSON Lines) es un archivo de texto con un objeto JSON completo por línea. Es el formato estándar para los datos de ajuste fino: una línea equivale a un registro de entrenamiento.

Convierta semanas de trabajo experto en minutos

Vea cómo Scalata se adapta a su equipo, a sus datos y a sus Controles.

Contactar con ventas