Definición
Data Poisoning es un ataque o un error en el que datos dañinos se introducen en el entrenamiento y degradan el comportamiento del modelo. Dicho de forma simple, este concepto ayuda a evaluar riesgos, responsabilidad, seguridad y cumplimiento. En la práctica, sirve para entender qué capacidades necesita realmente la herramienta, qué datos requerirá y qué limitaciones conviene revisar antes de implementarla.
Ejemplo
El atacante añade ejemplos deliberadamente distorsionados al conjunto de entrenamiento para que el modelo se equivoque en los casos adecuados.
Por qué importa
Data Poisoning es importante para la seguridad de la IA, especialmente cuando el modelo aprende de contenido de usuarios. Ayuda a elegir herramientas de IA no por promesas llamativas, sino por cómo funcionan en una tarea real.
Cómo funciona
Primero se identifican las partes interesadas, los datos y el posible daño; después se introducen controles, restricciones, auditorías y responsabilidades. En el caso del término “Data Poisoning”, es importante analizar por separado los datos, los criterios de calidad y las condiciones de uso.
Dónde se usa
- Importante en productos donde la IA influye en personas, datos personales, seguridad, riesgos legales o la toma de decisiones.
Limitaciones
Los riesgos cambian con las leyes, los productos y los datos, por lo que estas páginas requieren revisión editorial periódica.
FAQ
¿Por qué es útil conocer “Data Poisoning”?
Data Poisoning es importante para la seguridad de la IA, especialmente cuando el modelo aprende a partir de contenido de usuarios. Ayuda a elegir herramientas de IA no por grandes promesas, sino por cómo funcionan en un problema real.