Не навреди
Введение в этику данных
Shalini Kurapati, PhD
Co-founder and CEO, Clearbox AI
Законно или этично?
1 Иконка создана Freepik с сайта www.flaticon.com
Уроки прошлого
Клетки HeLa
- Бессмертные клетки человека, сыгравшие ключевую роль в онкологических исследованиях
- Взяты у Генриетты Лакс без её согласия — в ходе биопсии
- Неприкосновенность, достоинство, уважение — этические нарушения
Таскигийское исследование сифилиса
- Изучение нелеченого сифилиса, 1932–1972
- Афроамериканские участники не были должным образом проинформированы и лишены доступа к лечению
- Более 100 человек погибли, несмотря на наличие методов лечения
Основные этические принципы
- Не навреди — минимизируйте риски для людей
- Благодеяние — максимизируйте пользу для других и общества
- Уважение, автономия, субъектность — согласие, конфиденциальность, информирование, контроль
- Справедливость — законность, беспристрастность, недискриминация
- IEEE и ACM регулируют этику данных — ответственное использование и предотвращение злоупотреблений
1 Иконка создана Freepik с сайта www.flaticon.com 2 https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/index.html 3 http://ethics.acm.org/code-of-ethics/ 4 https://www.ieee.org/about/corporate/governance/p7-8.html
Этика данных: старые проблемы в новом обличии
Эксперимент Facebook по эмоциональному заражению
- Специалисты по данным искусственно изменяли ленты новостей 700 000 пользователей для влияния на их поведение
- Пользователи не были уведомлены о характере исследования и целях сбора данных
Проект Google «Nightingale»
- Обращение Google с конфиденциальными данными
- Сбор медицинских данных в большом масштабе без согласия пациентов и ведома врачей
1 https://www.theatlantic.com/technology/archive/2014/06/everything-we-know-about-facebooks-secret-mood-manipulation-experiment/373648/ https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7059004/
Этика данных в законодательстве
- Законы о защите данных — GDPR, CCPA — закрепляют принципы этики данных
- Конфиденциальность, безопасность, прозрачность, информированное согласие, недискриминация, подотчётность
- Не рекомендации, а обязательные нормы
- Штрафы по GDPR
- 20 млн евро или 4% мирового годового оборота
1 Иконка создана Leremy с сайта www.flaticon.com
Бизнес-аргументы в пользу этики данных
Соответствие требованиям и репутация
- Регуляторы реагируют на небрежное обращение с данными — FTC, итальянский регулятор
- Высокие стандарты этики данных упрощают соблюдение требований
- Повышает привлекательность для клиентов и сотрудников
Ответственные инновации
- LinkedIn Economic Graph — совместный проект с правительствами и политиками
- Приносит пользу клиентам, обществу и самой компании
1 https://economicgraph.linkedin.com/
