Frobeniusnorm

Du hast eine Gewichtstabelle mit Tausenden Zahlen und möchtest ihre Gesamtgröße mit einer einzigen Zahl beschreiben. Eine einfache Summe ist irreführend: 3 und −3 heben sich auf, obwohl beide Werte groß sind. Du brauchst ein Maß, das alle Einträge ohne dieses Aufheben berücksichtigt.

Die Frobeniusnorm ist die Quadratwurzel aus der Summe der Quadrate aller Zahlen einer Matrix. Eine Matrix ist einfach eine rechteckige Zahlentabelle. Die Quadrate sorgen dafür, dass positive und negative Einträge das Ergebnis erhöhen.

Für eine Tabelle mit 3, 4 und zwei Nullen erhalten wir √(3² + 4²) = 5. Das ist dieselbe Berechnung wie für die Länge eines Vektors, nur auf alle Tabellenfelder angewendet. Die NumPy-Dokumentation gibt diese Definition an.

Multiplizieren wir jedes Gewicht mit zwei, verdoppelt sich auch die Norm. Bei Hyperball dient sie dem Bewahren einer festgelegten Gewichtsgröße; in der Untersuchung des effektiven Lernschritts ist sie Bestandteil des Maßes für die Aktualisierungsskala. Die Norm allein sagt weder, wie gut das Modell ist, noch welche konkreten Gewichte nützlich sind: Zwei unterschiedliche Tabellen können dieselbe Norm haben.

Verbindungen

Die Lernrate allein reicht nicht. Entscheidend ist ELR [Polski]