Definición
Reducir la sesgo no empieza por el modelo, sino por entender el problema y los datos. Hay que examinar qué grupos están infrarrepresentados, qué atributos pueden llevar a la discriminación, cómo se distribuyen los errores y qué criterios de equidad son importantes. Después se aplican limpieza de datos, balanceo, restricciones, auditoría y monitorización.
Ejemplo
En el modelo de contratación, el equipo comprueba si la calidad de las recomendaciones para candidatos de distintas regiones, grupos de edad o trayectorias educativas se degrada.
Por qué importa
El término es importante para la IA responsable: un modelo puede ser preciso en promedio, pero injusto para ciertos grupos.
Cómo funciona
Los enfoques pueden aplicarse antes del entrenamiento, durante el entrenamiento y después: mejora de los datos, cambio de la función de pérdida, calibración de resultados y auditorías periódicas.
Dónde se usa
- contratación y RR. HH.
- scoring crediticio
- moderación y recomendaciones
Limitaciones
No basta con “eliminar un atributo sensible” y dar el problema por resuelto: otras señales pueden reproducirlo de forma indirecta.
FAQ
¿Por qué es útil conocer «Algorithmic Bias Mitigation»?
El término es importante para la IA responsable: un modelo puede ser preciso en promedio, pero injusto para ciertos grupos.