Оценка рисков ИИ

Стратегия искусственного интеллекта (ИИ)

Vidhi Chugh

AI strategist and ethicist

Этические ограничители

 

• UNESCO
  • Необходимость ограничителей
  • Предотвращение рисков: предвзятость и дискриминация
  • Основные права человека

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Риски ИИ

 

• Национальный институт стандартов и технологий (NIST)

  

 

• Вероятность возникновения
• Степень последствий

¹ https://www.nist.gov/artificial-intelligence

Риски данных

• Конфиденциальность данных
  • Чувствительная информация

• Предвзятость данных
  • Воспроизводство социальных предубеждений  

Когда ИИ ошибается

 

• Гендерная предвзятость

 

• Расовая дискриминация

Нарушение конфиденциальности данных

• Крупный штраф за несоблюдение GDPR
• Незаконная обработка данных
• Сбор изображений для распознавания лиц

 

Последствия для бизнеса

Правовые последствия

Последствия для бизнеса

Правовые и репутационные последствия

Последствия для бизнеса

Правовые, репутационные и финансовые потери.

Этические системы

Этические системы

Этические системы

Ключевые принципы оценки рисков

                Конфиденциальность

                Справедливость

             Прозрачность

             Ответственность

Нормативное регулирование и соответствие

• Жизненный цикл проекта ИИ

• Нормативное регулирование и соответствие требованиям
  • Ответственность требует управления
  • Определение ролей и обязанностей
  • Соблюдение норм защиты данных
  • Согласие пользователей и анонимизация данных

Сбор и подготовка данных

Оценка

• Внутренние ресурсы или внешние источники?
• Содержит ли данные персонального характера (PII)?
• Репрезентативная выборка?

Снижение рисков

• Процессы обеспечения целостности данных
• Шифрование идентификаторов, генерация синтетических данных
• Создание сбалансированных данных

Разработка и оценка модели

• Объяснение результатов модели
  • Интерпретация и выявление предвзятости
  • Равное отношение ко всем категориям

Развёртывание и мониторинг модели

 

• Степень воздействия

• Разработка стратегий снижения рисков

 

 

• Высокие издержки в здравоохранении и финансах

• Корректировка поведения модели

 

Давайте потренируемся!

Стратегия искусственного интеллекта (ИИ)