Glosario

Término del glosario · · 3 min de lectura

Heteroscedastic Uncertainty

Una empresa de mensajería prevé entregar dos paquetes a las 12:00. En el centro, para direcciones y horas de envío similares, las horas reales suelen estar cerca de la previsión. Fuera de la ciudad, la dispersión es mayor: faltan datos sobre algunos retrasos locales. Una única medida de dispersión para todos los paquetes oculta esa diferencia. La misma previsión no implica necesariamente la misma previsibilidad.

Heteroscedastic Uncertainty significa modelar el nivel de ruido como dependiente de la entrada. Aquí, ruido es la variación del resultado que los datos disponibles no permiten explicar. El modelo puede así asignar distintas dispersiones a distintas direcciones, en lugar de usar un valor común como en Homoscedastic Uncertainty. Kendall y Gal, §2.2 describen la distinción y cómo entrenar un modelo de este tipo.

Dos paquetes idénticos sobre rutas pintadas con tinta: un trazo compacto junto a edificios y otro ancho y difuminado fuera de la ciudad simbolizan distintas dispersiones de las previsiones de entrega.

La hora y la dispersión son dos informaciones

Supongamos, como ejemplo, una distribución de errores simétrica y con forma de campana, llamada distribución normal: las desviaciones pequeñas son más frecuentes y las grandes, más raras. Su anchura se describe con la desviación estándar, representada por σ. Ahora el modelo devuelve tanto una hora como un valor positivo de σ para ese paquete.

DirecciónPrevisiónDispersión prevista
Centro12:00σ = 0,5 horas
Fuera de la ciudad12:00σ = 2 horas

Las horas y las cifras son un ejemplo propio, no mediciones de una empresa. La segunda dispersión es cuatro veces mayor, aunque el centro de ambas previsiones sigue siendo el mismo. Ningún valor de σ es un error máximo ni una garantía de entrega dentro del intervalo «hora ± σ».

¿De dónde obtiene el modelo el segundo número?

Durante el entrenamiento, el modelo ve datos de paquetes anteriores y sus horas reales de entrega. Ajusta tanto las previsiones como la dispersión. En el método descrito, un error grande con σ pequeño aumenta mucho la pérdida, una puntuación numérica del desajuste. Aumentar σ suaviza ese componente, pero un segundo componente de la pérdida penaliza una dispersión excesiva. Por tanto, no basta con declarar una incertidumbre enorme para cada paquete (§3.1, ecuación 8, y §3.2). Es una regla para predecir números bajo una distribución concreta, no una puntuación de confianza arbitraria de un chatbot.

Limitación: una dispersión dependiente de la dirección no garantiza reconocer un país completamente nuevo que el modelo nunca vio durante el entrenamiento. Describe el ruido y, por sí sola, no mide la incertidumbre sobre los ajustes del modelo; los autores distinguen estas fuentes de incertidumbre en §2.2–3.1. En la práctica, conviene comprobar en un Test Set, ejemplos reservados para la evaluación final, si la dispersión anunciada corresponde a los errores reales. El artículo estudia imágenes; los paquetes son una analogía, no un resultado sobre LLM.

El texto y la ilustración se prepararon con ayuda de IA. El ejemplo de las entregas es una simplificación educativa.

Utilizo contenido generado por IA como parte de mi proceso diario de aprendizaje.