ProssimamenteL'Addestramento Modelli sarà presto disponibile in Scalata Enterprise. Insegni a un modello a rispondere come il Suo team.Scoprire le novità in arrivo

Risorse/Addestramento del modello/Cosa accade durante l'addestramento

Concetto

Come viene fatturato l'addestramento

La maggior parte del fine-tuning gestito viene fatturata per token elaborato: token nel file di addestramento moltiplicati per le epoche e per un prezzo. I job su GPU a noleggio vengono invece fatturati a tempo. L'utilizzo successivo del modello rappresenta un costo separato.

Capitolo 6Lettura di 5 min3 riferimenti

I principali modelli di fatturazione

FatturatoFormulaTipico per
Per token di addestramentoToken nel file di addestramento × epoche × prezzo per tokenLa maggior parte dei servizi di fine-tuning gestiti
Per tempo GPUTempo di esecuzione × tariffa oraria × numero di GPUJob su GPU a noleggio, solitamente modelli aperti
Per ora di addestramentoOre × una tariffa oraria (elevata)Alcuni servizi di fine-tuning con rinforzo in hosting
Per token di inferenzaToken di input e output × il prezzo del modelloValutazioni, giudici, modelli insegnante, chat di test
Per token di addestramento
2,000,000token nel file di addestramento×3epoche=6,000,000token di addestramento fatturati×$3.00per milione di token (esempio)=$18.00costo di addestramento
Per tempo GPU
45 minutitempo di esecuzione del job×$1.20per ora GPU (esempio)=$0.90costo di addestramento
I due metodi comuni con cui viene fatturato l'addestramento, con prezzi illustrativi. Il prezzo per token è noto prima dell'inizio del job, una volta fissato il numero di epoche. Il prezzo per GPU dipende dalla durata del job, che a sua volta dipende dalle dimensioni del modello, dalla quantità di dati e dal metodo.

Addestramento per token

I servizi di fine-tuning gestiti contano i token nel file di addestramento e addebitano ogni token elaborato durante l'addestramento. Ogni epoca elabora nuovamente l'intero file, quindi il costo è dato dai token del file moltiplicati per il numero di epoche e per il prezzo, solitamente indicato per milione di token. Leggere attentamente il listino prezzi: alcuni servizi addebitano anche i token di validazione, applicano una tariffa minima per job, prezzano il preference tuning più dell'addestramento supervisionato, o addebitano un canone mensile per l'archiviazione del modello addestrato.

Le due formule
per training token:  cost = tokens in the training file × epochs × price per token
per GPU time:        cost = runtime in hours × hourly rate × number of GPUs
Stima di un lavoro per token
  1. Dati: 1.500 conversazioni con una media di 1.200 token ciascuna dopo la preparazione: 1.800.000 token.
  2. Epoche: 3, quindi vengono elaborati 5.400.000 token di addestramento.
  3. Prezzo: a un prezzo di esempio di $3,00 per milione di token di addestramento, 5,4 × $3,00 = $16,20.
  4. Con epoche Auto: se il provider avesse scelto 2 o 4 epoche, lo stesso lavoro sarebbe costato $10,80 o $21,60. Questo divario è il motivo per cui una cifra iniziale è solo una stima.
  5. Conteggio dei token: il provider effettua il conteggio con il proprio tokenizer, quindi una stima basata sulla lunghezza del testo può variare di qualche punto percentuale in entrambe le direzioni.

Addestramento a tempo GPU

Quando l'addestramento viene eseguito su GPU a noleggio, pratica tipica per i modelli aperti, si paga a tempo: il tempo di esecuzione del job moltiplicato per la tariffa oraria della GPU, moltiplicato per il numero di GPU. Il tempo di esecuzione aumenta con le dimensioni del modello, il numero di token, le epoche e il metodo. I metodi che generano testo durante l'addestramento, come la distillazione on-policy e l'apprendimento per rinforzo, impiegano gran parte del tempo a scrivere risposte token per token, rendendoli più lenti per singolo esempio rispetto all'addestramento supervisionato. Un modello più grande potrebbe inoltre richiedere una GPU più potente, o più di una, a una tariffa oraria superiore.

Stima di un job su GPU
  1. Lavoro: fine-tuning LoRA di un piccolo modello aperto eseguito per 45 minuti su una GPU.
  2. Tariffa: a una tariffa di esempio di $1,20 per ora-GPU, 0,75 h × $1,20 = $0,90.
  3. Un modello di dimensioni doppie potrebbe richiedere una GPU con maggiore memoria a una tariffa più elevata, e ha tempi di esecuzione più lunghi: i due fattori si moltiplicano.
  4. I costi operativi incidono: l'avvio, il caricamento del modello e il salvataggio dei risultati rientrano solitamente nel tempo fatturato, un aspetto che pesa maggiormente sui job brevi.

Altri costi da considerare

  • Valutazione: la generazione di risposte dai modelli di base e ottimizzati, e un modello giudice che assegna loro un punteggio, viene fatturata per token.
  • Modelli insegnante nella distillazione: le risposte dell'insegnante vengono fatturate per token di input e di output, in aggiunta all'addestramento dello studente.
  • Serving: la capacità condivisa (serverless) viene fatturata per token utilizzato; un deployment dedicato viene fatturato all'ora per tutta la sua durata, anche in caso di inattività.
  • Archiviazione: alcuni provider addebitano costi per conservare i modelli addestrati o i file caricati.

Ogni dato sui costi è valido tanto quanto gli elementi su cui si basa, motivo per cui ciascuno è accompagnato da uno stato — Definitivo, Stimato, In sospeso o Non fatturato — che indica se si tratta della cifra del provider, della stima effettuata all'avvio, di un job ancora in esecuzione o di un job interrotto prima di qualsiasi addebito.

Come contenere i costi

  • Pulire i dati prima dell'addestramento. Duplicati, risposte di errore e conversazioni eccessivamente lunghe aggiungono token fatturati senza aggiungere segnale.
  • Iniziare in piccolo. Una prima esecuzione su un sottoinsieme, o con meno epoche, mostra se l'approccio funziona prima di pagare per l'intero job.
  • Utilizzare il modello di base più piccolo che supera la valutazione. Sia l'addestramento che il serving diventano più economici.
  • Preferire LoRA sui modelli aperti: meno memoria, GPU più piccole, esecuzioni più rapide.
  • Eliminare i deployment dedicati al termine dei test; vengono fatturati all'ora.

Errori comuni

  • Dimenticare che le epoche moltiplicano il costo: quattro epoche costano quattro volte una singola epoca.
  • Prevedere a budget solo l'addestramento, per poi lasciare in esecuzione un deployment dedicato per giorni.
  • Confrontare i prezzi per token tra i provider senza confrontare le rispettive epoche, le tariffe minime e i costi di archiviazione.
  • Addestrare su dati non puliti e pagare per token che insegnano solo rumore.
  • Considerare una stima preventiva come un preventivo vincolante. Il conteggio dei token del provider e le epoche scelte determinano la cifra finale.

Riferimenti e letture di approfondimento

Le fonti esterne si aprono in una nuova scheda.

  1. 01Amazon Bedrock PricingAmazon Web Services · aws.amazon.comUn listino prezzi del provider che specifica i token addestrati come token del corpus × epoche, oltre ai costi di archiviazione e alle tariffe orarie.
  2. 02PricingTogether AI · together.aiPrezzi del fine-tuning per token in base alle dimensioni del modello, con tariffe minime e tariffe separate per il preference tuning.
  3. 03GPU memory usageHugging Face Transformers docs · huggingface.coPerché le dimensioni del modello determinano quale GPU, e di conseguenza quale tariffa oraria, è necessaria per un job.
ConcettoPerché i token determinano i costiCome i conteggi dei token si traducono nel prezzo di addestramento e di utilizzo di un modello, con esempi numerici pratici, e quali leve riducono effettivamente i costi.ConcettoI costi: come leggere i numeriL'attività del modello viene fatturata in diversi modi, pertanto ogni costo mostrato da Scalata presenta uno stato — Definitivo, Stimato, In sospeso o Non fatturato — che indica su cosa si basa la cifra.ConcettoTokenI frammenti di testo che un modello effettivamente legge e scrive — come vengono creati, perché i conteggi differiscono tra i modelli e perché ogni limite e prezzo nell'addestramento viene misurato in essi.ConcettoEpoca, batch e stepUn batch è il gruppo di esempi alla base di un aggiornamento dei pesi, uno step è un singolo aggiornamento e un'epoca è un passaggio completo sui dati di addestramento. Insieme determinano la frequenza con cui il modello cambia e quante volte analizza ciascun esempio.ConcettoServerless vs dedicatoIl serving serverless fattura per token su capacità condivisa senza costi di inattività; un deployment dedicato riserva le GPU per il modello e fattura per ogni ora di esistenza. La convenienza dipende dall'utilizzo.MetodoLoRA e adattatori (PEFT)LoRA congela il modello di base e addestra due piccole matrici accanto a layer selezionati, il cui prodotto viene aggiunto ai pesi congelati. Riduce drasticamente i pesi addestrabili e la memoria e, se ben configurato, eguaglia il fine-tuning completo sui tipici set di dati di fine-tuning.

Trasformate settimane di lavoro esperto in pochi minuti

Scoprite come Scalata si adatta al vostro team, ai vostri dati e ai vostri Controlli.

Contatta il team vendite