Definición
La sesgo de la IA surge por los datos, la definición del problema, las métricas, el etiquetado o el contexto de uso. El modelo puede reproducir errores del pasado, aumentar la desigualdad o rendir peor en grupos poco frecuentes. Esto no siempre implica mala intención, pero las consecuencias pueden ser graves.
Ejemplo
Si el sistema de contratación se entrenó con el historial de la empresa, donde antes se contrataba más a personas de un mismo perfil, puede infravalorar a candidatos con otra experiencia.
Por qué importa
El término es importante para empresas y usuarios: un servicio de IA atractivo puede dar resultados injustos si no se prueba en distintos grupos y escenarios.
Cómo funciona
El sesgo se busca mediante auditorías de datos, comparaciones de calidad entre segmentos, análisis de errores, pruebas de características y tests de efectos discriminatorios.
Dónde se usa
- comprobación de modelos para evaluar la equidad
- auditoría de datos
- evaluación de riesgos en contratación, préstamos y moderación
Limitaciones
Es difícil eliminar por completo el sesgo porque la propia definición de justicia depende de la tarea. Es importante elegir criterios de forma explícita y documentar los compromisos.
FAQ
¿Por qué es útil conocer el término «AI and Bias»?
El término es importante para empresas y usuarios: un servicio de IA atractivo puede dar resultados injustos si no se prueba en distintos grupos y escenarios.