Definición
La responsabilidad algorítmica significa que un sistema automatizado no debe ser una “caja negra” sin responsable. Hay que entender quién desarrolló el algoritmo, qué datos usa, cómo se comprueban los errores, cómo se registran las decisiones y cómo una persona puede impugnar el resultado.
Ejemplo
Si el algoritmo asigna solicitudes de servicio, la empresa debe explicar por qué algunas personas reciben prioridad mientras otras esperan más tiempo.
Por qué importa
El término es importante para todos los sistemas que influyen en las personas: préstamos, contratación, medicina, educación, moderación, publicidad y servicios gubernamentales.
Cómo funciona
La responsabilidad se construye mediante documentación, métricas, auditorías, registros, evaluación de impacto, responsables de proceso y la posibilidad de revisión humana.
Dónde se usa
- soluciones automáticas
- evaluación del impacto de los algoritmos
- control corporativo de IA
Limitaciones
La responsabilidad es difícil de aplicar si el algoritmo se compra a un proveedor externo y la empresa no tiene acceso a los datos, los registros o las explicaciones.
FAQ
¿Por qué es útil conocer “Responsabilidad algorítmica”?
El término es importante para todos los sistemas que influyen en las personas: préstamos, contratación, medicina, educación, moderación, publicidad y servicios gubernamentales.