Neural Feature Ansatz
Neural Feature Ansatz
El modelo reconoce una imagen, pero no sabemos qué cambios de la entrada influyen realmente en la respuesta. ¿Los pesos aprendidos refuerzan precisamente las direcciones de cambio a las que el resultado es más sensible? Es una pregunta sobre cómo elige el modelo sus características.
Neural Feature Ansatz (NFA) es una hipótesis que relaciona la estructura de los pesos con la sensibilidad del resultado a la entrada. «Ansatz» significa una relación propuesta que hay que justificar o comprobar. Los pesos son números que controlan los cálculos, y su estructura puede compararse con las direcciones importantes para la predicción.
Un ejemplo intuitivo: si un pequeño cambio en una parte de la imagen altera mucho el resultado, esa dirección puede ser una característica importante. Los investigadores recogen estas sensibilidades locales, llamadas gradientes. Con ellas crean una tabla de números que describe qué direcciones de cambio de la entrada influyen conjuntamente en el resultado. La comparan con una tabla calculada a partir de los pesos de la red. La hipótesis predice una relación determinada entre ambas tablas; no se reduce a preguntar «¿mira el modelo el lugar correcto?».
El trabajo sobre aprendizaje de características, §3 presenta NFA y cómo comprobarla. No es una ley general de todas las redes ni una afirmación de que cualquiera de sus capas se comporta igual. El alcance de la hipótesis depende de la estructura estudiada.