Pseudo-label
Masz wiele przykładów do uczenia, ale nikt nie podał poprawnych odpowiedzi. Zlecasz więc modelowi ich oszacowanie i wykorzystujesz te oszacowania jako wskazówki do dalszej nauki. Co właściwie trafia wtedy do danych?
Pseudo-label to etykieta uzyskana automatycznie, na przykład przez przewidywanie modelu lub głosowanie kilku jego odpowiedzi. Etykieta oznacza wynik, na którym opiera się uczenie. „Pseudo” przypomina, że nie jest niezależnie potwierdzonym kluczem prawdy.
W ilustracyjnym głosowaniu osiem rozwiązań daje odpowiedzi: trzy razy A, dwa razy B i trzy różne inne wyniki. A występuje najczęściej, choć nie popiera go większość. Taki wybór najliczniejszej grupy nazywa się plurality. Częste występowanie odpowiedzi nie dowodzi jej poprawności.
TTPO, §3.1 i §4, używa wybranego wyniku do rozdzielenia odpowiedzi między różne procedury uczenia. To konkretny sposób pracy z pseudo-label, a nie ogólna własność tego pojęcia. Główne ryzyko jest proste: jeśli uczymy model na własnych błędnych odpowiedziach jak na prawdzie, możemy wzmacniać błąd.