Early stopping
Tema: Deep Learning · Catálogo de recetas · temario: Syllabus IOAI
📍 Dónde se aprende: módulo 11 de la Ruta de Aprendizaje.
Qué hace
Corta el entrenamiento cuando la métrica de validación deja de mejorar durante paciencia épocas.
Cuándo usarla
Cuando entrenas por épocas y tienes una validación adecuada para decidir cuándo parar. También puede ahorrar tiempo; revisa qué ejecuciones cubre el límite de tu tarea.
Implementación
Necesita: solo la biblioteca estándar.
class EarlyStopping:
"""Corta el entrenamiento cuando la validación deja de mejorar.
`paciencia` es cuántas épocas sin mejora se toleran antes de parar. En la
IOAI no es solo una defensa contra el sobreajuste: es una defensa contra el
reloj, porque el límite de tiempo cubre también la re-ejecución del
notebook sobre los datos ocultos.
"""
def __init__(self, paciencia=3, minima_mejora=0.0, modo="min"):
self.paciencia = paciencia
self.minima_mejora = minima_mejora
self.signo = 1.0 if modo == "min" else -1.0
self.mejor = None
self.sin_mejorar = 0
self.mejor_epoca = -1
self.epoca = -1
def paso(self, valor):
"""Registra el valor de una época. Devuelve True si hay que parar."""
self.epoca += 1
v = self.signo * valor
if self.mejor is None or v < self.mejor - self.minima_mejora:
self.mejor = v
self.mejor_epoca = self.epoca
self.sin_mejorar = 0
else:
self.sin_mejorar += 1
return self.sin_mejorar >= self.paciencia⚠️ Notas
Para vigilar generalización, se mide sobre validación. La pérdida de entrenamiento puede seguir bajando mientras el modelo se sobreajusta; tampoco tiene por qué bajar en cada época, debido al muestreo o a la optimización.
Esta receta detecta cuándo parar, pero no guarda los pesos. En serio hay que quedarse con el modelo de la mejor época (mejor_epoca), porque la última no necesariamente es la mejor según validación.
🔗 Relacionadas
Verificada
Este código se ejecuta en cada publicación, contra una referencia obviamente correcta, en
herramientas/pruebas/basicas.py. Si se rompe, el sitio no se actualiza.
Las otras puertas del vault: Ruta de Aprendizaje · Referencia · IOAI