Multi-task Learning

Ein Unternehmen möchte Kundennachrichten an die richtige Abteilung weiterleiten und dringende Fälle kennzeichnen. „Das Paket ist nicht angekommen; ich brauche es bis morgen“ sollte mit einer Dringlichkeitsmarkierung an die Lieferabteilung gehen. Man könnte zwei getrennte Modelle trainieren: Eines wählt die Abteilung, das andere die Dringlichkeit. Beide lernen jedoch unabhängig, ähnliche Nachrichten zu lesen. Wenn Dringlichkeitsbewertungen dabei helfen, die Bedeutung von „ich brauche es bis morgen“ zu erkennen, kann das Modell zur Abteilungswahl dieses Lernen nicht nutzen.

Multi-task Learning (MTL) bedeutet, mehrere Aufgaben gemeinsam zu trainieren, damit sie einen Teil dessen nutzen können, was die anderen lernen. Bei einer einfachen Variante eines neuronalen Netzes, also eines Modells aus verbundenen, anpassbaren Rechenoperationen, teilen sich die Aufgaben einen Teil zur Verarbeitung der Eingabe und haben getrennte Ausgaben. Rich Caruana, Multitask Learning, §1.3, Abbildungen 1–2 beschreibt diesen Aufbau.

Zwei Bewertungen verändern das gemeinsame Lesen

In unserem Beispiel hat jede Nachricht zwei von einem Menschen festgehaltene richtige Antworten: Abteilung und Dringlichkeit. Der gemeinsame Modellteil wandelt den Text in eine Liste von Zahlen um, die nützliche Merkmale der Nachricht beschreiben. Zwei getrennte Endstücke nutzen dieselbe Liste: Eines wählt die Abteilung, das andere die Dringlichkeit. Das ist eine vereinfachte MTL-Variante, nicht der einzig mögliche Aufbau.

Beim Training prüfen wir beide Ergebnisse. Wählt das Modell „Lieferungen“, hält den Fall aber für nicht dringend, kann der Fehler der zweiten Aufgabe auch den gemeinsamen Teil verändern. Seine neue Art, Nachrichten zu beschreiben, steht dann ebenfalls der Abteilungswahl zur Verfügung. Das Training des gemeinsamen Teils anhand beider Bewertungen ermöglicht den Wissensaustausch (Caruana, §3.2). Zwei unabhängige Modelle gleichzeitig auszuführen bewirkt das nicht. „Gemeinsam“ verlangt nicht, beide Aufgaben im selben Augenblick zu berechnen: Ihre Beispiele können innerhalb eines Trainings abwechselnd verwendet werden (Kirkpatrick et al., §1).

Das angestrebte Ergebnis ist, neue Nachrichten dank zusätzlicher Hinweise beim Lernen besser zu erkennen. Eine Verbesserung ist nicht garantiert. Stellen wir uns vor, der gemeinsame Teil behält vor allem das Paketthema bei, verliert aber die Frist „bis morgen“: Die Abteilungswahl funktioniert weiterhin, doch der Dringlichkeitsbewertung fehlt benötigte Information. Zu stark erzwungene gemeinsame Merkmale können schaden; Caruana behandelt dies in §7.5. Deshalb müssen beide Fähigkeiten getrennt an Nachrichten geprüft werden, die nicht zum Training dienten. Diese Grenze zeigt, warum zwei Aufgaben nicht automatisch den doppelten Nutzen bedeuten.

Gemeinsam oder nacheinander?

• Continual Learning betrifft das Lernen aus nacheinander eintreffenden Daten unter Erhalt früherer Fähigkeiten. Beim hier beschriebenen MTL stehen beide Aufgaben während des gemeinsamen Trainings zur Verfügung.
• Experience Replay ermöglicht die Rückkehr zu einer gespeicherten Stichprobe früherer Beispiele, wenn das vollständige Archiv nicht mehr verfügbar ist. Das ist eine andere Bedingung des Datenzugriffs.
• Fine-tuning ist das weitere Training eines bereits trainierten Modells. Es kann mehrere Aufgaben umfassen; es bezeichnet die Phase, während MTL beschreibt, wie Aufgaben verbunden werden.

Text und Illustration wurden mit KI-Unterstützung erstellt. Nachricht und Merkmalsbeschreibung sind ein eigenes Lernbeispiel; sie stellen weder eine Messung noch das tatsächliche Innere eines Modells dar.