PróximamenteEl Entrenamiento de modelos estará disponible pronto en Scalata Enterprise. Enseñe a un modelo a responder como lo hace su equipo.Ver próximas novedades

Recursos/Entrenamiento de modelos/Preparación de datos

Configuración

Límites de tokens y recortes

Cada proveedor limita la cantidad de tokens que puede contener un ejemplo de entrenamiento. Las conversaciones largas que superan el límite se recortan —eliminando primero los intercambios más antiguos— o se descartan.

Capítulo 54 min de lectura3 referencias

Qué es

Un modelo lee el texto como tokens, y el entrenamiento procesa cada ejemplo como una secuencia de tokens. Los proveedores establecen un límite de tokens por ejemplo: la secuencia más larga que puede contener un único registro de entrenamiento. A menudo es menor que la ventana de contexto del modelo en uso normal, porque el entrenamiento necesita memoria no solo para leer los tokens, sino también para calcular cómo debe cambiar cada peso.

La mayoría de los chats de soporte encajan fácilmente. Los que no lo hacen son hilos largos de resolución de problemas, conversaciones donde alguien pegó un archivo de registro o chats que se prolongaron durante toda una tarde. Cada uno de ellos requiere una decisión.

Cómo funciona

el presupuesto
record tokens = system prompt + every earlier turn + the target reply
fits          = record tokens ≤ per-example limit

rough estimate: tokens ≈ characters ÷ 4   (English text)

Recortar funciona hacia atrás desde la respuesta objetivo. El prompt del sistema y el objetivo siempre se conservan, luego se eliminan los intercambios comenzando desde el principio de la conversación hasta que el total encaje. Los intercambios se eliminan enteros —un mensaje del usuario junto con su respuesta— para que el registro nunca comience con una respuesta suelta a una pregunta que ha desaparecido.

systemUsted es el asistente de soporte de…250 · conservado
user · asstIntercambio 1: configuración de la cuenta1,500 · recortado
user · asstIntercambio 2: importación de los datos del año pasado1,300 · recortado
user · asstIntercambio 3: la importación falló en la fila 2121,200 · conservado
userEntonces, ¿cómo soluciono la fila 212?350 · conservado
assistantLa fila 212 tiene una fecha en el formato incorrecto. Cámbiela a…600 · objetivo, conservado
Una conversación de 5200 tokens y un límite de 3000 tokens. El recorte elimina intercambios completos desde el extremo más antiguo hasta que el registro encaja, de modo que el prompt del sistema, el contexto reciente y la respuesta objetivo sobreviven intactos.

¿Por qué el extremo más antiguo? Para la mayoría de los chats, el contexto más relevante es el más reciente: la pregunta que se está respondiendo, el mensaje de error que se acaba de citar, lo último que sugirió el asistente. Las investigaciones sobre entradas largas también muestran que los modelos utilizan mejor la información al principio y al final de su contexto que el material enterrado en el medio (Liu et al., 2023), por lo que un registro más corto y enfocado pierde menos de lo que sugiere el recuento de tokens.

Descartar excluye el registro. Úselo cuando la primera parte de una conversación sea esencial para la respuesta; por ejemplo, cuando el usuario indica su tipo de cuenta o una restricción clave en el primer mensaje y la respuesta objetivo depende de ello. Una versión recortada de dicho chat le enseñaría al modelo a responder sin la información que realmente necesitaba, lo cual es una forma silenciosa de enseñarle a adivinar.

RecortarTípico Predeterminado#

Elimine los intercambios más antiguos hasta que el registro encaje, conservando el prompt del sistema, el contexto más reciente y el objetivo. Mantiene todos los ejemplos en el conjunto de datos.

Descartar#

Excluya cualquier registro que supere el límite. Elíjalo cuando las respuestas dependan de detalles proporcionados al principio de conversaciones largas, o cuando solo unos pocos registros se vean afectados.

Ejemplo práctico: un hilo de 5.200 tokens y un límite de 3.000 tokens
  1. El registro contiene un prompt del sistema de 250 tokens, tres intercambios anteriores de 1.500, 1.300 y 1.200 tokens, la pregunta del usuario (350) y la respuesta objetivo (600): 5.200 tokens.
  2. Eliminar el intercambio 1: 3.700 tokens. Sigue por encima del límite.
  3. Eliminar el intercambio 2: 2.400 tokens. Entra en el límite, y sobran 600.
  4. El registro entrenado conserva el prompt del sistema, el intercambio 3 (donde se citó el error de importación), la pregunta y la respuesta — todo a lo que el objetivo hace referencia realmente.
  5. Si el usuario hubiera dicho “Estoy en el plan heredado” en el intercambio 1 y la respuesta dependiera de ello, Descartar habría sido la opción más segura.

Por qué los recuentos son estimaciones

Cada familia de modelos tiene su propio tokenizador, por lo que la misma oración puede tener 20 tokens para un modelo y 24 para otro. Por lo tanto, los recuentos que se muestran antes del entrenamiento son estimaciones (el inglés promedia aproximadamente cuatro caracteres por token); el proveedor cuenta exactamente cuando recibe el archivo. El código, los números, las URL y el texto que no está en inglés suelen requerir más tokens por carácter que el inglés simple, así que deje margen cuando sus datos contengan muchos de estos elementos.

Errores comunes

  • Olvidar que el prompt del sistema se cuenta en cada registro: un prompt de 600 tokens deja 600 tokens menos para la conversación.
  • Recortar chats cuya respuesta depende de algo dicho al principio y luego preguntarse por qué el modelo inventa los detalles de la cuenta.
  • Asumir que la estimación es exacta y llegar justo hasta el límite con datos repletos de código o números.
  • Ignorar cuántos registros se recortaron: si son la mayoría, es posible que el conjunto de datos se adapte mejor a un modelo con un límite superior.

Referencias y lecturas adicionales

Las fuentes externas se abren en una pestaña nueva.

  1. 01Lost in the Middle: How Language Models Use Long ContextsLiu et al., 2023 · arXiv · arxiv.orgLos modelos utilizan mejor la información al principio y al final de las entradas largas que en el medio.
  2. 02Prepare data for fine-tuning your modelsAmazon Bedrock User Guide · docs.aws.amazon.comLímites reales de tokens por ejemplo para varios modelos, uno al lado del otro.
  3. 03Prepare supervised fine-tuning data for Gemini modelsGoogle Cloud documentation · docs.cloud.google.comRequisitos del conjunto de datos de otro proveedor, incluidos los límites de tamaño.
ConceptoTokensLos fragmentos de texto que un modelo realmente lee y escribe — cómo se crean, por qué los recuentos difieren entre modelos y por qué cada límite y precio en el entrenamiento se mide en ellos.ConceptoVentana de contextoEl número máximo de tokens que un modelo puede tener en cuenta a la vez, cómo se comparte ese espacio y cómo difiere del límite por ejemplo que se aplica durante el entrenamiento.ConceptoConversaciones de múltiples turnos y ponderacionesCómo una conversación con varias respuestas del asistente se convierte en datos de entrenamiento, los dos formatos que utilizan los proveedores para ello y el efecto secundario que se debe tener en cuenta.ConfiguraciónPrompt del sistemaEl prompt del sistema es una instrucción permanente que se coloca antes de cada conversación. Al añadirse durante el entrenamiento, el modelo aprende su comportamiento en presencia de ese prompt exacto, por lo que debe mantenerse igual cuando se utilice el modelo.ConceptoPor qué los tokens determinan el costeCómo los recuentos de tokens se convierten en el precio de entrenamiento y de uso de un modelo, con números calculados, y qué factores reducen realmente la factura.

Convierta semanas de trabajo experto en minutos

Vea cómo Scalata se adapta a su equipo, a sus datos y a sus Controles.

Contactar con ventas