Pseudo-label

Pseudo-label to etykieta, której nikt nie sprawdził. Model albo głosowanie daje odpowiedź, a trenujesz tak, jakby to była prawda.

W TTPO pochodzi z plurality: najliczniejszy klaster wśród K wylosowanych rozwiązań. Paper nazywa to majority voting. Algorytm 1 robi plurality. 3/8 albo 4/8 to nie większość.

Na AIME 2026, Qwen3-1.7B, około 85% takich etykiet jest błędnych. TTPO nie wlewa tej treści do wszystkich rozwiązań. Klaster służy tylko do podziału: zgoda (P) idzie do destylacji OPSD, niezgoda (N) do kary GRPO. Treść klastra wchodzi wyłącznie do OPSD wśród tych, którzy już tę samą odpowiedź napisali.

42av⁝ Głosowanie kłamie. Niezgoda zwykle nie

Wykorzystuję treści generowane przez AI jako część mojego codziennego procesu nauki.