Negative Transfer

Firma uczy model rozpoznawać pilne wiadomości klientów. „Paczka nie dotarła, potrzebuję jej na jutro” wymaga szybkiej reakcji. Dodajemy drugie zadanie: wybór działu, np. dostawy albo zwroty. Liczymy, że wspólna nauka pomoże lepiej czytać tekst. Tymczasem model częściej przeocza pilne sprawy. Jak sprawdzić, czy dodatkowe zadanie zaszkodziło?

Negative Transfer to pogorszenie wyniku na interesującym nas zadaniu wskutek wykorzystania wiedzy, danych lub wspólnej nauki z innego zadania. Trzeba wskazać punkt odniesienia: jak działa porównywalne uczenie bez tego dodatku. Wang et al., Characterizing and Avoiding Negative Transfer, §3, równania 3–4 formalizują takie porównanie dla przenoszenia wiedzy z danych źródłowych do zadania docelowego. Tutaj pokazujemy pokrewne zjawisko we wspólnej nauce dwóch zadań, opisanej także przez Yu et al., §1–2.2.

Co mogło pójść źle?

Wspólna część modelu zamienia wiadomość na listę liczb opisujących przydatne cechy tekstu. Korzystają z niej oba zadania. Podczas nauki błędne odpowiedzi powodują korekty wspólnych ustawień, czyli liczb sterujących przetwarzaniem.

Dla wyboru działu ważna jest paczka; termin „na jutro” może nie mieć znaczenia. Jeśli nauka tego zadania przesunie wspólne przetwarzanie w stronę samego tematu, ocena pilności może stracić dostęp do informacji o terminie. To możliwy mechanizm w naszym przykładzie, nie odczyt rzeczywistego wnętrza modelu. Sama różnica potrzeb zadań jeszcze nie dowodzi szkody — liczy się wynik porównania.

Porównaj tę samą umiejętność

Przygotuj dwa warianty: naukę samej pilności oraz pilności razem z działem. Zachowaj te same wiadomości i oznaczenia pilności, porównywalną wielkość modelu oraz budżet obliczeń. Zmieniasz obecność dodatkowego zadania, zamiast porównywać dwa dowolnie różne modele.

Załóżmy następujący wymyślony wynik edukacyjny na tych samych 100 nowych wiadomościach, nieużytych do treningu ani wyboru ustawień:

Wariant nauki	Błędne oceny pilności
Tylko pilność	10 ze 100
Pilność i dział wspólnie	18 ze 100

Błąd wzrósł z 10% do 18%, czyli o 8 punktów procentowych. W tym porównaniu dodatkowe zadanie zaszkodziło pilności, nawet jeśli dobrze wybiera dział. Pojęcie pozwala więc nazwać szkodę, której nie ujawni sam dobry wynik zadania dodatkowego.

Ograniczenie: pojedynczy trening i 100 wiadomości nie wystarczą do pewnego wniosku. Wyniki mogą się wahać. Powtórz treningi i sprawdź, czy różnica utrzymuje się na danych odpowiadających rzeczywistym wiadomościom. Wniosek dotyczy badanego sposobu nauki; nie oznacza, że każde połączenie tych zadań musi szkodzić.

Powiązane pojęcia

• Multi-task Learning łączy naukę zadań; Negative Transfer jest możliwym niepożądanym skutkiem tego połączenia.
• Validation Set to odłożone dane do wyboru ustawień, np. zakresu wspólnej części modelu.
• Test Set służy do końcowej oceny po zamknięciu wyboru ustawień. Na takim zbiorze liczymy błędy z tabeli.
• Catastrophic Forgetting opisuje utratę dawnych umiejętności podczas dalszej nauki. Negative Transfer nie wymaga, by zadanie było wcześniej opanowane, a potem zapomniane.

Tekst i ilustrację przygotowano z pomocą AI. Wiadomość, mechanizm utraty cechy oraz liczby w tabeli są własnym przykładem edukacyjnym, nie wynikiem przytoczonych badań.