Neural Feature Ansatz
Neural Feature Ansatz
Das Modell erkennt ein Bild, aber wir wissen nicht, welche Änderungen der Eingabe die Antwort tatsächlich beeinflussen. Verstärken die gelernten Gewichte genau die Änderungsrichtungen, auf die das Ergebnis am empfindlichsten reagiert? Das ist die Frage, wie das Modell Merkmale auswählt.
Neural Feature Ansatz (NFA) ist eine Hypothese, die die Gewichtsstruktur mit der Empfindlichkeit des Ergebnisses gegenüber der Eingabe verbindet. „Ansatz“ bezeichnet eine vorgeschlagene Beziehung, die begründet oder geprüft werden muss. Gewichte sind die Zahlen, die Berechnungen steuern; ihre Anordnung lässt sich mit den für die Vorhersage wichtigen Richtungen vergleichen.
Anschauliches Beispiel: Verändert eine kleine Änderung eines Bildfragments das Ergebnis stark, kann diese Richtung ein wichtiges Merkmal sein. Forscher sammeln solche lokalen Empfindlichkeiten, die Gradienten genannt werden. Daraus bilden sie eine Zahlentabelle, die beschreibt, welche Richtungen der Eingabeänderungen gemeinsam das Ergebnis beeinflussen. Sie vergleichen sie mit einer Tabelle, die aus den Netzgewichten berechnet wurde. Die Hypothese sagt eine bestimmte Beziehung zwischen diesen Tabellen voraus; sie reduziert sich nicht auf die Frage „schaut das Modell auf die richtige Stelle?“.
Die Arbeit über Merkmalslernen, §3, stellt NFA und eine Methode zu ihrer Prüfung vor. Es ist weder ein allgemeines Gesetz jedes Netzes noch die Aussage, dass jede seiner Schichten identisch arbeitet. Der Geltungsbereich der Hypothese hängt vom untersuchten Aufbau ab.