PróximamenteEl Entrenamiento de modelos estará disponible pronto en Scalata Enterprise. Enseñe a un modelo a responder como lo hace su equipo.Ver próximas novedades

Recursos/Entrenamiento de modelos/Prueba y despliegue de un modelo

Concepto

Cuánto cuesta: cómo interpretar las cifras

El trabajo de los modelos se factura de varias formas distintas, por lo que cada coste que muestra Scalata incluye un estado —Final, Estimado, Pendiente o No facturado— que indica en qué se basa la cifra.

Capítulo 95 min de lectura5 referencias

Qué es

Un proyecto puede implicar un trabajo de ajuste fino facturado por token, una ejecución de destilación en GPU alquiladas facturada por minuto, un trabajo de refuerzo facturado por hora de entrenamiento y evaluaciones facturadas por token más un cargo por hora por una implementación temporal. Algunos de esos costes se conocen con exactitud cuando termina el trabajo; algunos proveedores nunca emiten una factura por un trabajo. Una única cifra por elemento ocultaría esa diferencia.

Por lo tanto, cada coste conlleva un estado. El estado le indica cuánta Confianza tener en la cifra: si se trata de una cantidad medida, una estimación que nunca se confirmará o un número que aún está cambiando.

Los cuatro estados

Un trabajo que se ejecuta
Iniciadoestimación y precios guardados→Pendientecosto hasta el momento, o la estimación→Finalcifra del proveedor, o uso medido × precios inicialesEstimadosin factura reportada: se mantiene el punto medio del rango
Un trabajo detenido antes de cualquier cargo
Iniciadoestimación y precios guardados→No facturadopor ejemplo, rechazado al enviarse
Todo costo comienza como una estimación. Mientras el trabajo se ejecuta, está Pendiente; cuando termina, pasa a ser Final si existe una cifra real, o se mantiene como Estimado si el proveedor no reporta ninguna. Un trabajo detenido antes de que se cobre algo es No facturado.
EstadoEn qué se basaEjemplo
FinalLa propia cifra del proveedor (su importe facturado, o el tiempo de GPU medido × el precio), o el uso que Scalata midió (tokens, tiempo de alojamiento) × los precios cotizados cuando comenzó el trabajoUn trabajo de GPU que se ejecutó 6 minutos a $1.00/h = $0.10
EstimadoEl trabajo terminó, pero el proveedor no reporta ninguna factura para ese tipo de trabajo, por lo que se mantiene la estimación realizada al inicio (el punto medio de su rango bajo-alto)Un trabajo de ajuste de preferencias cuyo proveedor no devuelve ningún coste
PendienteAún en ejecución: el coste hasta el momento cuando se puede medir, de lo contrario, la estimación. Se liquida cuando termina el trabajoUn trabajo de refuerzo facturado por hora de entrenamiento, a mitad de ejecución
No facturadoDetenido antes de que se cobrara nadaUn trabajo que el proveedor rechazó en el momento del envío

Cómo se facturan los tipos principales

los cuatro modelos de facturación
per training token   dataset tokens × epochs × price per token
per GPU minute       run time × the GPU's hourly rate
per training hour    training hours × hourly rate          (hosted RFT)
per token, inference input + output tokens × the model's price
                     + hours deployed × hosting rate       (temporary endpoints)
  • Por token de entrenamiento (la mayoría de los ajustes finos gestionados): tokens del conjunto de datos × épocas × precio. Se conoce con mucha antelación, salvo por la cantidad de épocas que elija la opción «auto».
  • Por minuto de GPU (trabajos en GPU alquiladas): tiempo × tarifa por hora de la GPU. Depende del tamaño del modelo, el tamaño de los datos y el método; los métodos on-policy como la destilación y el refuerzo pasan la mayor parte del tiempo generando respuestas.
  • Por hora de entrenamiento (ajuste fino por refuerzo alojado): horas × una tarifa por hora elevada. Los proveedores no publican estimaciones de duración, por lo que las cifras iniciales son rangos con una suposición declarada.
  • Por token en inferencia (evaluaciones, jueces, maestros, chats de prueba): tokens de entrada y salida × el precio del modelo, más el alojamiento por hora cuando se implementa un endpoint temporal. El alojamiento se cobra mientras exista la implementación, se use o no.
Ejemplo práctico: una semana en la página de Costes (precios ilustrativos)
  1. Un trabajo supervisado: 1,5 millones de tokens del conjunto de datos × 3 épocas × $3 por millón de tokens = $13,50, Final — tokens medidos al precio fijado al inicio.
  2. Una ejecución de destilación en una GPU alquilada: 42 minutos a $2,40 la hora = $1,68, Final.
  3. Un trabajo de ajuste de preferencias en un proveedor que no devuelve ningún coste por ello: la estimación inicial era de $4–6, por lo que muestra $5,00, Estimado, y se mantiene así.
  4. Un trabajo de refuerzo alojado, tras 1,5 horas a $100 por hora de entrenamiento: $150 hasta ahora, Pendiente. Se liquida cuando finaliza el trabajo.
  5. Una evaluación: $0,12 en tokens de respuesta y juez, más dos despliegues temporales de 25 minutos cada uno a $1,70 la hora ($1,42) = $1,54, Final. La mayor parte corresponde al alojamiento.
  6. Un trabajo que el proveedor rechazó al enviarlo: $0, No facturado.

Cómo interpretar la página de Costes

  • Las fechas corresponden al inicio de cada elemento. Un trabajo que comenzó el día 31 y terminó el día 1 se contabiliza en el mes en que comenzó.
  • El resumen abarca todo el rango de fechas; la tabla obedece a los filtros. El pie de la tabla solo suma lo que se muestra, por lo que un pie de tabla filtrado no representa su gasto total.
  • Se incluyen los elementos archivados, porque el dinero ya se gastó. Archivar sirve para ordenar las listas; no reembolsa nada.

Cuándo difiere de la factura

Los precios son los publicados por cada proveedor, y el precio cotizado cuando comienza una ejecución es la tarifa con la que se calcula su coste final. La factura del proveedor sigue siendo la única fuente de la verdad: puede redondear de forma diferente, añadir impuestos, aplicar créditos o cargos mínimos, y los precios cambian con el tiempo. Las pequeñas diferencias son normales; una grande suele significar que algo siguió ejecutándose, casi siempre una implementación inactiva.

Estados de los costes

FinalTípico la mayoría de los trabajos terminados, evaluaciones y chats de prueba#

Basado en la propia cifra del proveedor, o en el uso que Scalata midió (tokens, tiempo de alojamiento, tiempo de GPU) a los precios cotizados cuando comenzó el trabajo. La cifra no cambiará.

EstimadoTípico trabajos cuyo proveedor no devuelve ningún coste#

El trabajo terminó, pero el proveedor no reporta ninguna factura para ese tipo de trabajo, por lo que se mantiene la estimación realizada al inicio: el punto medio de su rango bajo-alto. Compruebe la factura para ver el importe real.

PendienteTípico cualquier tarea que siga en ejecución#

El trabajo aún está en ejecución. Muestra el coste hasta el momento cuando se puede medir, de lo contrario, la estimación, y se liquida cuando termina el trabajo.

No facturadoTípico $0#

El trabajo se detuvo antes de generar cargos, por ejemplo, porque el proveedor lo rechazó al momento de enviarlo.

Errores comunes

  • Tratar una cifra Estimada como una factura en lugar de comprobar la factura del proveedor.
  • Interpretar una cifra Pendiente de un trabajo facturado por hora de entrenamiento como su coste final.
  • Interpretar el pie de una tabla filtrada como el gasto total.
  • Cuadrar los costes con la factura según el día en que terminó un trabajo en lugar del día en que comenzó.
  • Olvidar que una implementación cuesta dinero cada hora que existe, incluso cuando está inactiva.

Referencias y lecturas adicionales

Las fuentes externas se abren en una pestaña nueva.

  1. 01Plan and Manage Costs - Microsoft FoundryMicrosoft Learn · learn.microsoft.comModelos con ajuste fino facturados de tres maneras: entrenamiento, alojamiento por hora incluso cuando no se usan y tokens de inferencia.
  2. 02Understand Cost Management dataMicrosoft Learn · learn.microsoft.comPor qué los datos de costes en un panel de control y la factura final pueden diferir.
  3. 03Review your individual Azure subscription billMicrosoft Learn · learn.microsoft.comCómo leer una factura: cargos, créditos e impuestos.
  4. 04Amazon Bedrock PricingAmazon Web Services · aws.amazon.comPrecios de personalización y rendimiento aprovisionado por hora para modelos personalizados en un proveedor.
  5. 05PricingOpenAI API docs · developers.openai.comPrecios de ajuste fino por token y por hora, incluido el ajuste fino por refuerzo.
ConceptoCómo se factura el entrenamientoLa mayor parte del ajuste fino gestionado se factura por token procesado: los tokens del archivo de entrenamiento multiplicados por las épocas y por un precio. En cambio, los trabajos en GPU alquiladas se facturan por tiempo. El uso posterior del modelo supone un coste aparte.ConceptoPor qué los tokens determinan el costeCómo los recuentos de tokens se convierten en el precio de entrenamiento y de uso de un modelo, con números calculados, y qué factores reducen realmente la factura.ConceptoServerless frente a dedicadoEl servicio Serverless factura por token en capacidad compartida sin costo de inactividad; una implementación dedicada reserva GPU para su modelo y factura por cada hora que existe. Cuál resulta más económico depende de cuánto lo utilice.ConceptoInferencia y despliegueLa inferencia consiste en utilizar un modelo para generar respuestas. Un modelo entrenado debe desplegarse primero —cargando sus pesos en el hardware detrás de un endpoint—, lo cual puede tardar minutos, y luego cuesta dinero por token o por hora.Mejor prácticaArchivar ejecucionesArchivar oculta un conjunto de datos, preparación, modelo o evaluación de las listas y selectores diarios sin eliminar nada, de modo que el registro de lo que se intentó — y por qué fracasó — permanece disponible y se puede restaurar.ConfiguraciónAjustes de RFTLos seis ajustes de una ejecución de ajuste fino por refuerzo: qué puntúa las respuestas, cuántas respuestas escribe el modelo y qué longitud pueden tener, y cuán grande y anclada es cada actualización.

Convierta semanas de trabajo experto en minutos

Vea cómo Scalata se adapta a su equipo, a sus datos y a sus Controles.

Contactar con ventas