Norma Frobeniusa
Masz tabelę wag z tysiącami liczb i chcesz jedną liczbą opisać ich łączną wielkość. Zwykła suma jest myląca: 3 i −3 się znoszą, choć obie wartości są duże. Potrzebujesz miary, która uwzględni wszystkie wpisy bez takiego znoszenia.
Frobenius Norm, czyli norma Frobeniusa, to pierwiastek z sumy kwadratów wszystkich liczb w macierzy. Macierz jest po prostu prostokątną tabelą liczb. Kwadraty sprawiają, że dodatnie i ujemne wpisy zwiększają wynik.
Dla tabeli zawierającej 3, 4 i dwa zera otrzymujemy √(3² + 4²) = 5. To ten sam sposób liczenia co długość wektora, tylko zastosowany do wszystkich pól tabeli. Dokumentacja NumPy podaje tę definicję.
Jeżeli pomnożymy każdą wagę przez dwa, norma też podwoi się. W Hyperball służy do utrzymywania ustalonej wielkości wag, a w badaniu efektywnego kroku uczenia jest składnikiem wskaźnika skali aktualizacji. Sama norma nie mówi, jak dobry jest model ani które konkretne wagi są użyteczne: dwie różne tabele mogą mieć identyczną normę.