Дополнительные инструменты для ОИИ

Ответственный ИИ: практики и принципы

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Оценка рисков и воздействия

 

РИСК

  • Предвидеть потенциальные проблемы
  • Негативное воздействие

 

ВЛИЯНИЕ

  • Предвидеть потенциальные угрозы и риски
  • Позитивное и негативное воздействие
Ответственный ИИ: практики и принципы

Оценки рисков помогают:

  • предвидеть возможный вред
  • заблаговременно его снизить

 

Примеры:

  • NIST Artificial Intelligence Risk Management Framework (AI RMF) и AI RMF Playbook
  • Местный закон № 144 города Нью-Йорка
  • CNIL (Франция)
  • Система оценки рисков ИИ ОЭСР

Единого универсального подхода к оценке рисков ИИ пока не существует.

Ответственный ИИ: практики и принципы

Оценки воздействия ИИ помогают организациям:

  • Выявлять более широкие последствия
  • Обеспечивать соответствие человекоцентричным ценностям
  • Укреплять доверие и прозрачность

Примеры:

  • Нидерландская оценка воздействия ИИ (AIIA)
  • Стандарт оценки воздействия ответственного ИИ Microsoft
  • IBM® watsonx
  • Оценка воздействия на права человека (HRIA)
  • Эталоны RAISE Института ответственного ИИ
Ответственный ИИ: практики и принципы

Типичные ошибки

  • Этические слепые пятна: неявные предубеждения
  • «Голубое отмывание», или этический камуфляж: имитация ответственности
  • «AI-шопинг»: коммерческие интересы в ущерб этике
  • Теневой ИИ: без явного одобрения и надзора

Сочетание оценок воздействия и рисков ИИ:

  • обеспечивает всестороннюю оценку систем ИИ
  • помогает избежать вреда и приносить реальную пользу обществу

Изображение глаза на тёмном фоне как символ слепого пятна

1 DALL·E
Ответственный ИИ: практики и принципы

Давайте потренируемся!

Ответственный ИИ: практики и принципы

Preparing Video For Download...