Definición
Los derechos humanos son los derechos y libertades básicos que los sistemas de IA deben respetar en el diseño, el despliegue y la gobernanza. En el trabajo práctico con IA, ayudan a los equipos a conectar un concepto con los datos, el comportamiento del modelo, las decisiones del producto y la evaluación. La pregunta útil no es solo qué significa el término, sino cómo afecta a la calidad, el coste, la fiabilidad y el riesgo en un flujo de trabajo real.
Ejemplo
Antes de lanzar una función de IA, un equipo de producto usa Derechos humanos como parte de una revisión de riesgo por daño a los usuarios, privacidad, cumplimiento y rendición de cuentas.
Por qué importa
Los Derechos humanos importan porque los sistemas de IA afectan a las personas, sus derechos, la seguridad, la privacidad y la confianza, no solo a las métricas técnicas.
Cómo funciona
Los equipos identifican a las personas afectadas, mapean los posibles daños, establecen salvaguardas, documentan las decisiones y revisan los resultados después del despliegue. En Derechos humanos, la clave es conectar la definición con los datos de entrada, los supuestos, los resultados medibles y los límites del despliegue.
Dónde se usa
- Se usa en gobernanza de IA, revisión de políticas, evaluación de riesgos, privacidad, integridad de contenidos y despliegue responsable.
Limitaciones
Las etiquetas éticas o legales no demuestran por sí solas que un sistema sea seguro; los equipos siguen necesitando evidencia, rendición de cuentas y revisión continua.
FAQ
¿Por qué es útil conocer Derechos humanos?
Los derechos humanos importan porque los sistemas de IA afectan a las personas, sus derechos, la seguridad, la privacidad y la confianza, no solo a las métricas técnicas.
¿Cómo se debe evaluar Derechos humanos en la práctica?
Empieza por la tarea concreta y después revisa los datos, los supuestos, las métricas, las limitaciones y el coste de los errores antes de confiar en el resultado.