Что такое справедливость в ИИ
Оценка того, не ухудшает ли модель результаты для отдельных групп людей без разумного основания
Определение
Справедливость в ИИ — это оценка того, не ухудшает ли модель результаты для отдельных групп людей без разумного основания. Проще говоря, важна, потому что высокая средняя точность может скрывать вред для конкретных групп. Для страницы глоссария важно показать не только принцип, но и реальные риски, границы применения и вопросы ответственности.
Пример
Модель найма чаще отклоняет кандидатов из одной группы из-за перекоса исторических данных
Почему важно
Важна, потому что высокая средняя точность может скрывать вред для конкретных групп
Как работает
Сначала описывают возможный вред, группы риска, данные и решения, на которые влияет система. Затем вводят проверки, ограничения, документацию, человеческий контроль и процедуры пересмотра после запуска.
Где применяется
Используется в оценке рисков, аудитах, политике ИИ, безопасности, приватности, доверии пользователей и ответственной автоматизации.
Ограничения
Заявления об ответственности не заменяют проверок. Нужны конкретные метрики, владельцы процесса, документация и возможность пересмотра решений. Для «Справедливость в ИИ» это значит: пример и метрики нужно проверять на своей задаче, а не переносить выводы из демонстрации напрямую.