Визначення ризиків ШІ

Відповідальні практики ШІ

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Стейкґолдери, на яких впливає ШІ

 

  • Окремі люди
  • Групи
  • Держави
  • Суспільство

Зображення рук у колі кольорів веселки

1 Midjourney
Відповідальні практики ШІ

Design, development і deployment

 

Життєвий цикл ШІ має три етапи:

  • Design
  • Development
  • Deployment

 

Діаграма з трьох елементів: Design, Develop, Deploy

Відповідальні практики ШІ

Design

 

  • Визначити цілі
  • Бізнес-цінність
  • Спланувати архітектуру даних
  • Оцінити бюджетний вплив
  • Перевірити підтримку внутрішніх і зовнішніх стейкґолдерів

  Діаграма з трьох елементів Design, Develop, Deploy, де зверху Design

Відповідальні практики ШІ

Develop

 

  • Побудувати
  • Навчити
  • Протестувати

 

  • Ризики: переобучення та недообучення

  Діаграма з трьох елементів Design, Develop, Deploy, де зверху Develop

Відповідальні практики ШІ

Deploy

 

  • Інтеграція у продакшн-середовище
  • Запуск обробки живих даних
  • Моніторинг
  • Поліпшення
  • Адаптація

  Діаграма з трьох елементів Design, Develop і Deploy, де зверху Deploy

Відповідальні практики ШІ

Спектр ризиків ШІ

  • Ризики безпеки та операційні:

    • Галюцинації
    • Отруєння та пошкодження даних
    • Витік і порушення безпеки даних

  • Ризики для приватності

  • Бізнес-ризики:

    1. Репутаційні
    2. Фінансові

 

Ключові складові — ретельне тестування, етичні стандарти та комплаєнс.

Відповідальні практики ШІ

Давайте потренуємось!

Відповідальні практики ШІ

Preparing Video For Download...