Bald verfügbarModelltraining ist bald in Scalata Enterprise verfügbar. Bringen Sie einem Modell bei, so zu antworten wie Ihr Team.Erfahren Sie, was kommt

Ressourcen/Modelltraining/Was während des Trainings passiert

Einstellung

Lernrate

Die Lernrate legt fest, wie weit sich die Gewichte bei jeder Aktualisierung bewegen. Sie ist die empfindlichste Trainingseinstellung: Ist sie zu hoch, schießt sie über das Ziel hinaus und kann Fähigkeiten löschen; ist sie zu niedrig, verändert sie das Modell kaum. Ein Lernratenplan wärmt sie normalerweise auf und lässt sie dann im Laufe des Durchlaufs abfallen.

Kapitel 64 Min. Lesezeit5 Quellen

Was es ist

Jeder Trainingsschritt berechnet für jedes Gewicht, welche Richtung den Verlust verringern würde. Die Lernrate bestimmt, wie weit in diese Richtung gegangen wird. Sie ist eine einzelne Zahl, die meist in wissenschaftlicher Notation geschrieben wird: 1e-5 bedeutet 0,00001. Sie wirkt winzig, da ein Modell Milliarden von Gewichten hat und jeder Schritt alle gleichzeitig bewegt; kleine individuelle Änderungen summieren sich zu einer großen Verhaltensänderung.

Die Aktualisierung und wie die Notation zu lesen ist
new weight = old weight − learning rate × (gradient, as scaled by the optimizer)

1e-4 = 0.0001      2e-5 = 0.00002      1e-5 = 0.00001

Bei Adam und AdamW wird der Gradient zunächst pro Gewicht normalisiert, sodass die Lernrate nahe an der tatsächlichen Größe der Änderung jedes Gewichts pro Schritt liegt, unabhängig von der absoluten Größe des Gradienten. Aus diesem Grund lassen sich typische Raten gut zwischen Modellen ähnlicher Größe übertragen, und deshalb ist eine zehnmal zu hohe Rate ein ernsthaftes Problem und kein kleines.

Zu niedrig, genau richtig, zu hoch

TrainingsverlustTrainingsschritte →zu niedriggenau richtigzu hochhochniedrig
Dieselben Daten, trainiert mit drei Lernraten. Zu niedrig: Der Verlust schleicht nach unten und der Durchlauf endet, bevor das Modell viel gelernt hat. Genau richtig: ein schneller Abfall, dann eine stetige Abflachung. Zu hoch: ein schneller Start, dann eine gezackte Kurve, die wieder ansteigt, da die Aktualisierungen über das Ziel hinausschießen.
Was Sie sehenWahrscheinliche UrsacheVersuchen Sie
Der Verlust sinkt sehr langsam; die Antworten unterscheiden sich kaum vom BasismodellZu niedrigErhöhen Sie sie, z. B. mit einem Multiplikator von 1,5–2
Ein schneller Abfall, dann eine sanfte Abflachung, der der Validierungsverlust folgtUngefähr richtigBeibehalten
Der Verlust ist zackig, weist Spitzen auf oder steigt wieder an; die Antworten werden repetitiv oder seltsamZu hochHalbieren Sie sie; fügen Sie ein Warm-up hinzu oder verlängern Sie es
Der Trainingsverlust sinkt schnell, aber der Validierungsverlust steigt früh anZu hoch für diese Datenmenge oder zu viele EpochenSenken Sie die Rate oder die Anzahl der Epochen
Der Verlust wird zu NaN (Not a Number)Viel zu hoch oder ein numerisches ProblemSenken Sie sie deutlich

Eine zu hohe Rate verschlimmert auch das Vergessen: Große Aktualisierungen überschreiben allgemeine Fähigkeiten, die das Basismodell besaß, selbst wenn der Verlust bei Ihren Daten gut aussieht.

Zeitpläne: Warm-up und Abfall

  • Warm-up. In den ersten Prozent der Schritte steigt die Rate linear von fast null auf ihren Höchstwert. Zu Beginn basieren die gleitenden Durchschnitte von Adam auf sehr wenigen Gradienten, sodass Schritte in voller Größe einen schlechten ersten Zug riskieren. Das schrittweise Warm-up wurde für das Training mit großen Batches populär gemacht und ist heute Standardpraxis.
  • Decay. Nach dem Höchstwert sinkt die Rate in Richtung null, sodass späte Aktualisierungen feine Anpassungen vornehmen, anstatt um eine gute Lösung herumzuspringen. Linearer Decay senkt sie in einer geraden Linie und ist der Standard im Trainer von Hugging Face. Kosinusförmiger Decay folgt einer halben Kosinuswelle: Er bleibt länger hoch und flacht dann ab.
  • Konstant. Einige kurze Durchläufe halten die Rate nach dem Warm-up flach. Das ist einfach und völlig ausreichend, wenn es nur wenige Schritte gibt.
AUFWÄRMPHASEmaximale LernrateKosinus-Abfalllinearer AbfallLernrateTrainingsschritte →010%100%
Ein typischer Lernraten-Verlauf. Die Aufwärmphase erhöht die Rate über die ersten Prozent der Schritte von nahezu null auf ihren Höchstwert, sodass die ersten, rauschstärksten Aktualisierungen klein ausfallen. Danach fällt die Rate entlang einer Kosinuskurve oder einer geraden Linie gegen null ab, sodass die letzten Aktualisierungen feine Anpassungen anstelle großer Sprünge vornehmen.
Warm-up, gefolgt von linearem oder kosinusförmigem Abfall
warm-up (step < W):  lr = peak × step / W
linear decay:        lr = peak × (T − step) / (T − W)
cosine decay:        lr = peak × ½ × (1 + cos(π × (step − W) / (T − W)))

W = warm-up steps,  T = total steps

Typische Werte

Art des TrainingsTypische Lernrate
Vollständiges Fine-Tuning eines Sprachmodells (AdamW)Etwa 1e-5
LoRA-AdapterEtwa 1e-4 bis 2e-4, ungefähr das 10-Fache der Rate für vollständiges Fine-Tuning
Präferenz-Tuning (DPO)Niedriger als der entsprechende überwachte Durchlauf
Reinforcement Fine-TuningDeutlich kleinere Schritte; etwa 1e-5 mit LoRA
Gehostete Modelle mit einem MultiplikatorAnbieter-Standardwert × 0,5–2

Dies sind Ausgangspunkte, keine Regeln. Die beste Rate hängt vom Modell, den Daten und der Batch-Größe ab. Der einzige zuverlässige Weg, sie zu finden, sind einige Durchläufe, die hinsichtlich Validierungsverlust und Evaluierung verglichen werden.

Warum Präferenz- und RL-Methoden kleinere Schritte verwenden

Überwachtes Training lernt aus festen, korrekten Antworten. Preference Tuning und Reinforcement Learning lernen aus Vergleichen und Bewertungen der eigenen Ausgaben des Modells – einem verrauschteren Signal – und ihr Zweck ist es meist, ein bereits funktionierendes Modell zu verfeinern. Große Schritte würden es weit von diesem Ausgangspunkt entfernen, wodurch Antworten abdriften, länger werden oder beginnen könnten, das zu manipulieren, was das Signal belohnt. Kleinere Raten halten jede Aktualisierung moderat.

Was ein Multiplikator in der Praxis bedeutet
  1. Angenommen, die Standardrate des Anbieters für dieses Modell und diesen Datensatz beträgt 2e-5. Gehostete Anbieter zeigen diese in der Regel nicht an.
  2. Multiplikator 1: Der Durchlauf verwendet 2e-5.
  3. Multiplikator 2: 4e-5. Einen Versuch wert, wenn ein vollständiger Durchlauf das Modell kaum verändert hat.
  4. Multiplikator 0.5: 1e-5. Einen Versuch wert, wenn der Validierungsverlust früh angestiegen ist oder die Antworten auf allgemeine Fragen schlechter wurden als die des Basismodells.
  5. Verändern Sie die Werte in Faktoren von etwa 2. Kleinere Anpassungen gehen meist im Rauschen zwischen den Durchläufen unter.

Häufige Fehler

  • Die Lernrate zu erhöhen, um aus einem kleinen Datensatz mehr zu lernen. Dies führt meist nur zu Instabilität; mehr oder bessere Daten helfen mehr.
  • Die Verwendung einer Rate für vollständiges Fine-Tuning bei LoRA oder einer LoRA-Rate für vollständiges Fine-Tuning: Bei der einen lernt das Modell kaum, bei der anderen kann es beschädigt werden.
  • Das Überspringen der Warm-up-Phase bei einer hohen Rate, wodurch die ersten Aktualisierungen am größten und am wenigsten fundiert sind.
  • Die Rate nur anhand des Trainingsverlusts zu beurteilen. Eine zu hohe Rate kann immer noch einen sinkenden Trainingsverlust aufweisen, während sich der Validierungsverlust und die Antworten verschlechtern.

Quellen und weiterführende Literatur

Externe Quellen werden in einem neuen Tab geöffnet.

  1. 01OptimizationHugging Face Transformers docs · huggingface.coAdamW und die Standard-Lernratenpläne (linear, kosinusförmig, konstant mit Warm-up) wie implementiert.
  2. 02SGDR: Stochastic Gradient Descent with Warm RestartsLoshchilov & Hutter, 2016 · arXiv · arxiv.orgFührte den kosinusförmigen Lernratenplan ein, der heute beim Training von Sprachmodellen verwendet wird.
  3. 03Accurate, Large Minibatch SGD: Training ImageNet in 1 HourGoyal et al., 2017 · arXiv · arxiv.orgWarum ein schrittweises Warm-up den Trainingsbeginn stabilisiert.
  4. 04LoRA Without RegretThinking Machines Lab, 2025 · thinkingmachines.aiMisst die beste LoRA-Lernrate bei etwa dem Zehnfachen der Rate für vollständiges Fine-Tuning.
  5. 05Learning rateWikipedia · en.wikipedia.org
EinstellungHyperparameterHyperparameter sind die von Ihnen gewählten Trainingseinstellungen, wie Epochen, Lernrate, Batch-Größe und Adapter-Rang, im Gegensatz zu den Gewichten, die das Modell lernt. Die Auto-Funktion wählt diese anhand Ihrer Daten aus und sorgt für einen guten ersten Durchlauf; diese Seite erklärt jede einzelne Einstellung, damit Sie von dort aus weitere Anpassungen vornehmen können.KonzeptDie TrainingsschleifeFine-Tuning ist ein kurzer Vorgang, der tausendfach wiederholt wird: die Zielantwort vorhersagen, messen, wie falsch die Vorhersage war, berechnen, in welche Richtung sich jedes Gewicht bewegen sollte, und es ein wenig verschieben.MetrikVerlustkurven interpretierenDer Trainingsverlust zeigt, wie gut das Modell zu den Beispielen passt, aus denen es lernt; der Validierungsverlust zeigt, wie gut es zurückgehaltene Beispiele vorhersagt, mit denen es nie trainiert wurde. Die Lücke zwischen den beiden Kurven ist das nützlichste Signal, das Ihnen ein Trainingsdurchlauf liefert.MethodeLoRA und Adapter (PEFT)LoRA friert das Basismodell ein und trainiert zwei kleine Matrizen neben ausgewählten Schichten, deren Produkt zu den eingefrorenen Gewichten addiert wird. Es reduziert die trainierbaren Gewichte und den Speicherbedarf drastisch und erreicht bei guter Konfiguration die Leistung eines vollständigen Fine-Tunings auf typischen Fine-Tuning-Datensätzen.MetrikOverfitting und UnderfittingOverfitting tritt auf, wenn ein Modell seine Trainingsbeispiele auswendig lernt, anstatt das dahinterliegende Muster zu verstehen. Dadurch schneidet es bei diesen Beispielen gut, bei neuen jedoch schlechter ab. Underfitting ist das Gegenteil: Das Modell hat das Muster überhaupt nicht gelernt.MethodePreference Tuning (DPO)Direct Preference Optimization trainiert ein Modell mit Antwortpaaren, von denen eine besser und eine schlechter ist, sodass es lernt, die bessere Variante zu bevorzugen – ohne das Reward-Modell und die Reinforcement-Learning-Schleife, die klassisches RLHF benötigt.

Verwandeln Sie wochenlange Expertenarbeit in Minuten

Erfahren Sie, wie Scalata zu Ihrem Team, Ihren Daten und Ihren Kontrollen passt.

Vertrieb kontaktieren