Конфиденциальность по умолчанию и технологии защиты приватности

Понимание GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Обзор

Конфиденциальность по замыслу
- Проактивный системный подход к защите приватности
Суть статьи 25 GDPR
Технологии повышения приватности (PETs)
Новые PETs

Защита данных по замыслу и по умолчанию

По замыслу

Рука человека, рисующего схему процессов на бумаге.

Проактивный системный подход
Приватность встроена в процессы и системы

По умолчанию

Иллюстрация с набором иконок, обозначающих настройки.

Настройки приватности по умолчанию, минимизация данных
Оба подхода могут казаться абстрактными, но существуют способы их реализации.

Технологии повышения приватности

Что такое PETs?

Программные и аппаратные решения, процессы, методы или знания для защиты приватности и снижения связанных рисков

Распространённые PETs:

Анонимизация и псевдонимизация
Шифрование
Дифференциальная приватность (новый подход)

Передовые и перспективные технологии:

Синтетические данные, федеративное обучение

Синтетические данные

Искусственно генерируемые данные
Сохраняют статистическую и прогностическую ценность реальных данных, обеспечивая при этом защиту приватности

¹ https://www.jpmorgan.com/synthetic-data

Примеры использования синтетических данных

Защита приватности и повышение качества данных
Открытые инновационные проекты, тестирование моделей ИИ, «песочницы» данных и обмен данными между организациями

¹ https://www.gartner.com/en/newsroom/press-releases/2022-08-22-gartner-data-analytics-summit-2022-orlando-day-1-highlights

Федеративное обучение

Иллюстрация процесса федеративного обучения.

Обычно данные «покидают» устройство и передаются на внешние серверы для обучения моделей ИИ — это небезопасно с точки зрения приватности
Федеративное обучение обучает модели на удалённых устройствах, не передавая данные
Передаётся модель, а не данные

¹ P. Kairouz et al, Advances and Open Problems in Federated Learning, Foundations and Trends in Machine Learning Vol 4 Issue 1, 2021.

Пример федеративного обучения

Иллюстрация примера федеративного обучения: алгоритм предсказания следующего слова, обучаемый на нескольких мобильных устройствах.

¹ Li, T., Sahu, A. K., Talwalkar, A., & Smith, V. (2020). Federated learning: Challenges, methods, and future directions. IEEE Signal Processing Magazine, 37(3), 50-60.

Подведём итоги

Идеального метода или технологии защиты приватности не существует
Учитывайте область применения и контекст
Соразмерность: риск и польза
Выбирайте меры защиты на основе анализа рисков и выгод

Давайте потренируемся!

Понимание GDPR