Автоматизоване ухвалення рішень і профілювання
Розуміння GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
Стаття 22
- Обов'язки щодо справедливості та недискримінації
- Стаття 22 — автоматизоване індивідуальне ухвалення рішень, включно з профілюванням
- Право на втручання людини та пояснення
1 Джерело зображення: flaticon.com
Профілювання
- Аналіз і прогноз поведінки, масштабна обробка, використання AI/машинного навчання
- Виявляти та пов'язувати поведінку й атрибути
- Створювати профілі та прогнозувати поведінку на їх основі
- Приклади:
- Успішність лікування
- Ризик повторного правопорушення
1 Information Commissioner's Office
Етичні ризики профілювання
- Поширювати або підсилювати упередження
- Дизайн, дані, їхня складність/ «чорна скринька»
- Дискримінація за статтю, расою
1 Джерела зображень: bbc.com, propublica.com і techcrunch.com
Відомий приклад профілювання
- 320 000 користувачів пройшли онлайн‑тест на особистість для «академічного дослідження»
- Зібрано персональні дані друзів користувачів, до 50 млн записів без згоди
- Профілювання особистості/політичних поглядів, таргетована реклама тим, хто може змінити думку
- Використано на багатьох виборах у США, Великій Британії та світі
1 Джерело зображення: The Guardian
Автоматизоване ухвалення рішень
- Рішення автоматизованими засобами без участі людини
- Може включати або не включати профілювання
- Будь‑які дані — опитування, місцеперебування, профілювання
- Приклад: автоматизований відбір резюме
1 ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679
Банківський приклад
- Автоматизоване рішення щодо іпотеки
- Зазвичай AI дає відповіді «так/ні», потрібні пояснення й втручання людини
- Механізми запобігання упередженості, а також виправлення й поліпшення рішень AI
