Риски и возможности

Понимание GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Огромные возможности ИИ и больших данных

Скриншот заголовка блога Всемирного экономического форума о прогнозе вклада ИИ в мировую экономику к 2030 году.

  • Прорывная технология XXI века
  • Инновации на основе доступности данных и вычислительных ресурсов
  • Конкурентное преимущество
Понимание GDPR

ИИ во благо

Иллюстрация целей устойчивого развития ООН, которые может ускорить внедрение ИИ; надпись AI for Good Gateway.

  • Не только экономические выгоды: AI for Good для ЦУР
  • Изменение климата, здравоохранение, доступность образования
  • Осведомлённость о рисках и выгодах для решений в соответствии с GDPR
1 https://aiforgood.itu.int/
Понимание GDPR

Штрафы по GDPR: дискриминирующий ИИ

Итальянский регулятор оштрафовал сервис доставки за алгоритмическую дискриминацию Иллюстрация с логотипом итальянского надзорного органа.

  • Сервис доставки: профилирование курьеров, дискриминация при распределении заказов
  • Штраф 2,6 млн евро за нарушения GDPR
  • Минимизация данных, прозрачность, качество данных, предвзятость и дискриминация при автоматизированном принятии решений и профилировании
1 https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en
Понимание GDPR

Защита данных и не только

Риск раскрытия данных

  • Раскрытие персональных данных
  • Даже при использовании агрегированных данных
  • DPIA — остаточные риски
  • Отсутствие объяснимости

Пример

  • Медицинская визуализация с помощью ИИ
  • Предсказание расовой принадлежности (особо чувствительные данные)
  • Проблема конфиденциальности и предвзятости
1 Gichoya, Judy Wawira, et al. AI recognition of patient race in medical imaging: a modelling study, The Lancet Digital Health, Volume 4, Issue 6, 2022,
Понимание GDPR

Поиск баланса

  • Системы ИИ должны соответствовать принципам GDPR
  • Специальные меры защиты
  • Специальные категории данных
  • Ограничения на автоматизированное принятие решений и профилирование
  • Исключения:
    • Исполнение договора
    • Общественный интерес
    • Явное согласие
  • GDPR совместим с ИИ, но охватывает не все аспекты
  • Готовящийся Акт об ИИ
Понимание GDPR

Давайте потренируемся!

Понимание GDPR

Preparing Video For Download...