Оцінювання ризиків ШІ

Стратегія штучного інтелекту (AI)

Vidhi Chugh

AI strategist and ethicist

Етичні запобіжники

 

• UNESCO
  • Потрібні запобіжники
  • Запобігати ризикам, як-от упередження й дискримінація
  • Базові права людини

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Ризики ШІ

 

• National Institute of Standards and Technology (NIST)

  

 

• Ймовірність настання
• Ступінь наслідків

¹ https://www.nist.gov/artificial-intelligence

Ризики даних

• Конфіденційність даних
  • Чутлива інформація

• Упередженість даних
  • Відтворює суспільні упередження  

Коли ШІ помиляється

 

• Гендерна упередженість

 

• Расова дискримінація

Порушення конфіденційності даних

• Високий штраф за недотримання GDPR
• Неправомірна обробка даних
• Збирання зображень для розпізнавання облич

 

Наслідки для бізнесу

Юридичні

Наслідки для бізнесу

Юридичні, репутаційні

Наслідки для бізнесу

Юридичні, репутаційні та фінансові збитки.

Етичні каркаси

Етичні каркаси

Етичні каркаси

Ключові засади оцінювання ризиків

                Конфіденційність

                Справедливість

             Прозорість

             Підзвітність

Регуляції та комплаєнс

• Життєвий цикл проєкту ШІ

• Регуляції та комплаєнс
  • Підзвітність потребує врядування
  • Визначте ролі й обов'язки
  • Дотримуйтеся норм приватності даних
  • Отримуйте згоду користувачів і анонімізуйте дані

Збирання та підготовка даних

Оцініть

• Доступні всередині чи купувати зовні?
• Є чутлива інформація, наприклад Personal Identifiable Information (PII)?
• Населення добре представлене?

Зменшуйте ризики

• Процеси забезпечення цілісності даних
• Шифрування ідентифікаторів, створення синтетичних даних
• Формуйте збалансовані дані

Розробка та оцінювання моделі

• Пояснюйте результати моделі
  • Пояснення та виявлення упереджень
  • Справедливе ставлення у різних категоріях

Розгортання та моніторинг моделі

 

• Ступінь впливу

• Визначте стратегії пом'якшення

 

 

• Вартість висока в охороні здоров'я та фінансах

• Скоригуйте поведінку моделі

 

Давайте потренуємось!

Стратегія штучного інтелекту (AI)