Test-Time Training
Ein trainiertes Modell erhält eine Aufgabe anderer Art als jene, bei denen es gut funktionierte. Man kann ihm mehr Versuche mit denselben Einstellungen geben oder versuchen, seine Gewichte während der Arbeit an der neuen Aufgabe anzupassen. Das sind zwei unterschiedliche Vorgänge.
Test-time Training (TTT) bezeichnet das Training eines Modells während der Anpassung an Testdaten oder Testprobleme. Die Gewichte — Zahlen, die Berechnungen steuern — verändern sich anhand eines verfügbaren Signals. Das Signal kann eine aus den Daten abgeleitete Hilfsaufgabe oder eine automatisch gewonnene Bewertung sein; ein manueller Lösungsschlüssel muss nicht vorhanden sein.
Beispielsweise erstellt das System mehrere Lösungen, vergleicht ihre Antworten und verwendet den Vergleich für eine Modellaktualisierung. TTPO, §3, beschreibt eine konkrete Variante für das Schlussfolgern. Damit werden nicht alle TTT-Methoden definiert.
Test-time Scaling erhöht das Arbeitsbudget, ohne zwingend Gewichte zu verändern. TTT verändert das Modell selbst und erfordert Trainingsaufwand. Ist das Anpassungssignal falsch, kann es Fehler festigen; zusätzliches Training allein garantiert daher keine Verbesserung. Bei der Bewertung muss klar angegeben werden, welche Daten das System nutzen durfte.