Cómputo en tiempo de inferencia
Cómputo en tiempo de prueba
El modelo tiene que resolver un problema difícil. Puedes pedir un intento breve o dedicar más trabajo a proponer soluciones y comprobarlas. Para describir ese coste necesitas un presupuesto de cálculos posteriores al entrenamiento.
Test-time Compute designa los cálculos realizados al resolver tareas nuevas. Incluye el trabajo para obtener una respuesta; al hablar de ampliar ese presupuesto, nos referimos, por ejemplo, a pasos adicionales de razonamiento, múltiples intentos o verificación.
Con ocho propuestas de solución también pagas por generarlas y seleccionarlas. Un texto más largo no es la única forma de ampliar el presupuesto, y los intentos adicionales no ayudan si no sabemos reconocer uno bueno.
Test-time scaling estudia cómo ampliar ese presupuesto afecta al resultado. Snell y colaboradores, §3–5, muestran que depende de la tarea y de cómo se reparte el trabajo. No existe una promesa universal de mejorar cuatro veces. Entrenar los pesos durante una tarea nueva es una operación distinta: Test-time training.