Автоматизированное принятие решений и профилирование
Понимание GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
Статья 22
- Обязательства по соблюдению справедливости и недискриминации
- Статья 22 — автоматизированное принятие решений в отношении физических лиц, включая профилирование
- Право на вмешательство человека и получение разъяснений
1 Источник изображения: flaticon.com
Профилирование
- Анализ и прогнозирование поведения, масштабная обработка данных с применением ИИ/машинного обучения
- Выявление и связывание поведения и атрибутов
- Создание профилей и прогнозирование поведения на их основе
- Примеры:
- Успешность лечения
- Риск повторного правонарушения
1 Управление уполномоченного по информации (Information Commissioner's Office)
Этические проблемы профилирования
- Распространение и усиление предвзятости
- Дизайн, данные, присущая им сложность / «чёрный ящик»
- Дискриминация по признаку пола и расы
1 Источники изображений: bbc.com, propublica.com и techcrunch.com
Знаменитый пример профилирования
- 320 000 пользователей прошли онлайн-тест личности якобы в «научных целях»
- Собраны персональные данные друзей пользователей — до 50 млн записей без согласия
- Составление личностных и политических профилей, таргетированная реклама для тех, кто склонен менять мнение
- Использовалось на выборах в США, Великобритании и других странах
1 Источник изображения: The Guardian
Автоматизированное принятие решений
- Решения, принимаемые автоматически без участия человека
- Может включать профилирование или нет
- Любые типы данных — опросы, геолокация, профилирование
- Пример: автоматизированный отбор резюме
1 Рабочая группа по статье 29. Руководящие принципы по автоматизированному принятию индивидуальных решений и профилированию в целях Регламента 2016/679
Пример из банковской сферы
- Автоматизированное решение по ипотеке
- Как правило, ИИ даёт ответ «да» или «нет» — необходимы объяснения и возможность вмешательства человека
- Механизмы предотвращения предвзятости, корректировки и улучшения решений ИИ
