Test-Time Compute
Test-Time Compute
Das Modell soll ein schwieriges Problem lösen. Du kannst um einen kurzen Versuch bitten oder mehr Arbeit für Vorschläge und ihre Prüfung einplanen. Um diese Kosten zu beschreiben, brauchst du ein Rechenbudget nach Abschluss des Trainings.
Test-time Compute bezeichnet Berechnungen beim Lösen neuer Aufgaben. Es umfasst die Arbeit zum Erhalten einer Antwort; bei der Diskussion über die Erhöhung dieses Budgets geht es etwa um zusätzliche Schritte des Schlussfolgerns, viele Versuche oder Prüfungen.
Bei acht Lösungsvorschlägen bezahlst du auch für ihre Erzeugung und Auswahl. Längerer Text ist nicht die einzige Form der Budgeterhöhung, und zusätzliche Versuche helfen nicht, wenn wir den guten nicht erkennen können.
Test-time Scaling untersucht den Einfluss der Vergrößerung dieses Budgets auf das Ergebnis. Snell und Mitautoren, §3–5, zeigen die Abhängigkeit von der Aufgabe und der Arbeitsaufteilung. Ein universelles Versprechen einer vierfachen Verbesserung gibt es nicht. Das Trainieren der Gewichte während einer neuen Aufgabe ist das gesonderte Test-time Training.