Greedy Decoding

Greedy Decoding wybiera w każdym kroku token o największym prawdopodobieństwie dla aktualnego prefiksu. Dopisuje go do wejścia i powtarza operację. Nie losuje ani nie wraca do odrzuconych możliwości. To jedna ze strategii używania modelu opisanego w Autoregressive Language Modeling.

Regułę przedstawia dokumentacja Hugging Face, „Greedy search”. Matematycznie wybieramy $\arg\max_v p(v\mid x_{<t})$: spośród tokenów $v$ bierzemy maksimum przy dotychczasowym ciągu $x_{<t}$. Remis wymaga ustalonej reguły rozstrzygania. Brak losowania nie jest obietnicą identycznego wyniku przy zmianie modelu, obliczeń lub konfiguracji.

Lokalny zwycięzca może przegrać całą sekwencję

Własny przykład ma dokładnie dwa kroki. Na początku A ma prawdopodobieństwo 0,6, a B — 0,4. Po A najlepsza kontynuacja ma szansę 0,51; po B — 0,99. Greedy wybierze A, a następnie jego najlepsze rozwinięcie: $0{,}6\cdot0{,}51=0{,}306$. Pominięta ścieżka przez B ma jednak $0{,}4\cdot0{,}99=0{,}396$. Wszystkie podane rozkłady są wymyślone i sumują się do 1; koniec następuje po dwóch tokenach.

Beam Search zachowuje kilka częściowych sekwencji, aby odroczyć taki wybór. Top-k Sampling ogranicza natomiast kandydatów do losowania następnego tokena. Przy jednym jednoznacznym maksimum i $k=1$ wybór tokena pokrywa się z greedy.

Najbardziej prawdopodobny tekst nie musi być prawdziwy ani użyteczny. Holtzman et al., §2.2–3 rozdzielają maksymalizację prawdopodobieństwa i jakość otwartych kontynuacji. To osobny problem od błędu przeszukiwania pokazanego wyżej.

Wykorzystuję treści generowane przez AI jako część mojego codziennego procesu nauki.