Definición
La vigilancia es el monitoreo de personas, lugares, comportamiento o sistemas, a menudo mediante sensores, datos y análisis automatizado. En el trabajo práctico con IA, ayuda a los equipos a relacionar un concepto con los datos, el comportamiento del modelo, las decisiones de producto, la evaluación y el riesgo. La pregunta útil no es solo qué significa el término, sino cómo afecta la calidad, el costo, la fiabilidad, la seguridad y las decisiones en un flujo de trabajo real.
Ejemplo
Un equipo de producto revisa la vigilancia antes de lanzar una función de IA que puede afectar la confianza, la equidad o los datos sensibles.
Por qué importa
La vigilancia importa porque el monitoreo de personas, lugares, comportamiento o sistemas, a menudo mediante sensores, datos y análisis automatizado, puede cambiar la forma en que los equipos construyen, evalúan, eligen o gobiernan sistemas de IA. Ayuda a valorar la seguridad, la confianza, la responsabilidad y el riesgo de daño antes de que un sistema de IA llegue a usuarios reales.
Cómo funciona
Los equipos definen el escenario de riesgo, inspeccionan los datos y el comportamiento del modelo, prueban casos de fallo, documentan las decisiones y deciden quién puede revisar o anular el sistema. En vigilancia, lo clave es conectar la definición con las entradas, los supuestos, los resultados medibles y los límites de despliegue.
Dónde se usa
- Se usa en gobernanza de IA, revisión de producto, protección de datos, auditorías, cumplimiento, trabajo de políticas y aprobaciones de despliegue.
Limitaciones
La respuesta correcta depende de la jurisdicción, el dominio, el grupo de usuarios y el diseño real del sistema, por lo que puede seguir siendo necesaria una revisión legal y sectorial.
FAQ
¿Por qué es útil conocer vigilancia?
La vigilancia es útil de conocer porque afecta decisiones prácticas sobre la calidad del modelo, el costo, la fiabilidad, la seguridad o la elección de herramientas.
¿Cómo se debe evaluar la vigilancia en la práctica?
Empieza por la tarea concreta y luego revisa los datos, los supuestos, las métricas, las limitaciones y el costo de los errores antes de confiar en el resultado.