Предвзятость в алгоритмах

Преодоление предвзятости данных

Konstantinos Kattidis

Data Analytics Lead

ИИ и предвзятость данных

ИИ применяется в самых разных областях:

Персонализированные рекомендации
Навигация по маршруту

Что происходит, если алгоритмы становятся предвзятыми по отношению к определённым группам, например по полу или расовому признаку?

Сферы применения ИИ

Алгоритмическая предвзятость

Алгоритмическая предвзятость возникает, когда алгоритмы допускают систематические и воспроизводимые ошибки, приводящие к несправедливым результатам и предоставляющие преимущество одной группе над другой

Она охватывает различные виды предвзятости, которые могут проявляться при разработке и использовании алгоритмов

Предвзятость при обучении алгоритма

Алгоритмическая предвзятость нередко берёт начало в предвзятости при сборе данных
Если обучающие данные не репрезентативны или искажены, алгоритм может усвоить и закрепить эту предвзятость
Например: недостаточная представленность различных групп в алгоритме распознавания лиц

Предвзятость выборки

Предвзятость при отборе признаков

Предвзятость при отборе признаков возникает, когда признаки выбираются по критериям, способным привести к несправедливым или дискриминационным результатам
К таким признакам относятся раса, пол и другие охраняемые характеристики
Например, алгоритм прогнозирования одобрения кредита может считать доход единственным значимым фактором

Предвзятость оценки

Использование нерепрезентативного набора данных на этапе тестирования алгоритма может привести к предвзятости оценки
Например:
- Алгоритм рекомендации фильмов
- Тестирование на основе только одного жанра
- Упускается из виду, что алгоритм может плохо работать с другими жанрами — например, мелодрамами или комедиями

Предвзятость оценки: тестирование только на одном жанре

Предвзятость автоматизации

Автоматизация диагностики МРТ

Склонность людей чрезмерно полагаться на автоматизированные системы

Например:
- Медицинская диагностическая система используется для анализа медицинских изображений, например МРТ
- Предвзятость автоматизации возникает, если результатам системы доверяют без проверки и подтверждения выводов
- Это может привести к неверным диагнозам

Давайте потренируемся!

Преодоление предвзятости данных