Definición
El olvido catastrófico es un problema que aparece cuando un modelo, después de aprender una nueva tarea, pierde de forma notable su rendimiento en tareas anteriores. Dicho de manera simple, este concepto ayuda a entrenar modelos, comparar enfoques y reducir el riesgo de errores con datos nuevos. En la práctica, sirve para entender qué capacidades necesita realmente la herramienta, qué datos requerirá y qué limitaciones conviene revisar antes de implementarla.
Ejemplo
El modelo se reentrenó con documentos nuevos y empezó a responder peor sobre la base de conocimiento anterior.
Por qué importa
Es importante para sistemas que deben aprender de forma progresiva sin romper habilidades que ya funcionan. Ayuda a elegir herramientas de IA no por promesas llamativas, sino por cómo se comportan en una tarea real.
Cómo funciona
Primero, el problema se traduce a datos y métricas; después, el modelo se entrena, se prueba en un conjunto independiente y se compara con alternativas. En el caso del término «olvido catastrófico», es importante revisar por separado los datos, los criterios de calidad y las condiciones de uso.
Dónde se usa
- Se usa en el entrenamiento, la prueba y el ajuste de modelos, en la selección automática de parámetros, en sistemas de predicción, clasificación y recomendación.
Limitaciones
La principal limitación es la dependencia de los datos, las métricas y las condiciones de verificación. Un buen resultado en una prueba no siempre significa un rendimiento fiable en un producto real.
FAQ
¿Por qué conviene conocer el olvido catastrófico al elegir una herramienta de IA?
Entender este concepto ayuda a evaluar si la herramienta se adapta a la tarea, qué datos necesita y dónde pueden aparecer errores o costes extra.
¿Qué es importante revisar en la práctica?
Conviene comprobar la calidad de los datos, si el método encaja con tu caso, sus limitaciones, el coste de implementación y cómo se controlarán los resultados después del despliegue.