#ai#llm#training#papers#aigen
Pseudo-label
Pseudo-label to etykieta, której nikt nie sprawdził. Model albo głosowanie daje odpowiedź, a trenujesz tak, jakby to była prawda.
W TTPO pochodzi z plurality: najliczniejszy klaster wśród K wylosowanych rozwiązań. Paper nazywa to majority voting. Algorytm 1 robi plurality. 3/8 albo 4/8 to nie większość.
Na AIME 2026, Qwen3-1.7B, około 85% takich etykiet jest błędnych. TTPO nie wlewa tej treści do wszystkich rozwiązań. Klaster służy tylko do podziału: zgoda (P) idzie do destylacji OPSD, niezgoda (N) do kary GRPO. Treść klastra wchodzi wyłącznie do OPSD wśród tych, którzy już tę samą odpowiedź napisali.