Negative Transfer

Ein Unternehmen trainiert ein Modell darauf, dringende Kundennachrichten zu erkennen. „Mein Paket ist nicht angekommen, ich brauche es morgen“ erfordert eine schnelle Reaktion. Wir ergänzen eine zweite Aufgabe: die Auswahl einer Abteilung, etwa Lieferung oder Rücksendung. Wir hoffen, dass gemeinsames Lernen beim Verstehen des Textes hilft. Stattdessen übersieht das Modell häufiger dringende Fälle. Wie lässt sich prüfen, ob die zusätzliche Aufgabe geschadet hat?

Negative Transfer bezeichnet eine Verschlechterung bei der interessierenden Aufgabe, die durch Wissen, Daten oder gemeinsames Lernen aus einer anderen Aufgabe entsteht. Dafür braucht es einen Bezugspunkt: Wie funktioniert ein vergleichbares Lernen ohne diesen Zusatz? Wang et al., Characterizing and Avoiding Negative Transfer, §3, Gleichungen 3–4 formalisieren diesen Vergleich für die Übertragung von Wissen aus Quelldaten auf eine Zielaufgabe. Hier zeigen wir ein verwandtes Phänomen beim gemeinsamen Lernen zweier Aufgaben, das auch Yu et al., §1–2.2 beschreiben.

Was könnte schiefgegangen sein?

Der gemeinsame Teil des Modells wandelt eine Nachricht in eine Liste von Zahlen um, die nützliche Textmerkmale beschreiben. Beide Aufgaben nutzen diese Liste. Beim Lernen führen falsche Antworten zu Korrekturen gemeinsamer Einstellungen, also jener Zahlen, die die Verarbeitung steuern.

Für die Auswahl der Abteilung ist das Paket wichtig; die Frist „morgen“ muss keine Rolle spielen. Wenn das Lernen dieser Aufgabe die gemeinsame Verarbeitung vor allem auf das Thema ausrichtet, kann die Dringlichkeitsbewertung den Zugriff auf die Frist verlieren. Das ist ein möglicher Mechanismus unseres Beispiels, kein Einblick in das Innere eines realen Modells. Unterschiedliche Anforderungen der Aufgaben allein beweisen noch keinen Schaden — entscheidend ist das Vergleichsergebnis.

Vergleiche dieselbe Fähigkeit

Bereite zwei Varianten vor: das Lernen der Dringlichkeit allein und gemeinsam mit der Abteilung. Behalte dieselben Nachrichten und Dringlichkeitskennzeichnungen, eine vergleichbare Modellgröße und ein vergleichbares Rechenbudget bei. Du veränderst das Vorhandensein der zusätzlichen Aufgabe, statt zwei beliebig unterschiedliche Modelle zu vergleichen.

Nehmen wir folgendes erfundenes Lehrbeispiel mit denselben 100 neuen Nachrichten an, die weder zum Training noch zur Auswahl von Einstellungen verwendet wurden:

Lernvariante	Falsche Dringlichkeitsbewertungen
Nur Dringlichkeit	10 von 100
Dringlichkeit und Abteilung gemeinsam	18 von 100

Die Fehlerquote stieg von 10% auf 18%, also um 8 Prozentpunkte. In diesem Vergleich hat die zusätzliche Aufgabe der Dringlichkeitsbewertung geschadet, selbst wenn sie die Abteilung gut auswählt. Der Begriff benennt damit einen Schaden, den ein gutes Ergebnis der zusätzlichen Aufgabe allein nicht erkennen ließe.

Eine Einschränkung: Ein einzelner Trainingslauf und 100 Nachrichten reichen nicht für einen sicheren Schluss. Ergebnisse können schwanken. Wiederhole das Training und prüfe, ob der Unterschied auf Daten bestehen bleibt, die den tatsächlichen Nachrichten entsprechen. Die Aussage gilt für das untersuchte Lernverfahren; sie bedeutet nicht, dass jede Kombination dieser Aufgaben schaden muss.

Verwandte Begriffe

• Multi-task Learning verbindet das Lernen mehrerer Aufgaben; Negative Transfer ist eine mögliche unerwünschte Folge dieser Verbindung.
• Validation Set sind zurückgehaltene Daten zur Auswahl von Einstellungen, etwa wie viel des Modells gemeinsam genutzt wird.
• Test Set dient der abschließenden Bewertung, nachdem die Auswahl der Einstellungen abgeschlossen ist. Auf einem solchen Datensatz zählen wir die Fehler aus der Tabelle.
• Catastrophic Forgetting [Polski] beschreibt den Verlust früherer Fähigkeiten beim weiteren Lernen. Negative Transfer setzt nicht voraus, dass eine Aufgabe zuvor beherrscht und dann vergessen wurde.

Text und Illustration wurden mit KI-Unterstützung erstellt. Die Nachricht, der Mechanismus des Merkmalsverlusts und die Tabellenwerte sind ein eigenes Lehrbeispiel, keine Ergebnisse der zitierten Studien.