Определение рисков ИИ

Ответственный ИИ: практики и принципы

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Кого затрагивает ИИ

 

  • Частные лица
  • Группы
  • Государства
  • Общество

Изображение рук в круге с радужными цветами

1 Midjourney
Ответственный ИИ: практики и принципы

Проектирование, разработка и развёртывание

 

Жизненный цикл ИИ включает три фазы:

  • Проектирование
  • Разработка
  • Развёртывание

 

Диаграмма из трёх элементов: проектирование, разработка, развёртывание

Ответственный ИИ: практики и принципы

Проектирование

 

  • Определение целей
  • Бизнес-ценность
  • Планирование архитектуры данных
  • Оценка бюджета
  • Проверка поддержки внутренних и внешних заинтересованных сторон

  Диаграмма из трёх элементов: проектирование, разработка, развёртывание — проектирование выделено

Ответственный ИИ: практики и принципы

Разработка

 

  • Построение
  • Обучение
  • Тестирование

 

  • Риски: переобучение и недообучение

  Диаграмма из трёх элементов: проектирование, разработка, развёртывание — разработка выделена

Ответственный ИИ: практики и принципы

Развёртывание

 

  • Интеграция в производственную среду
  • Запуск обработки реальных данных
  • Мониторинг
  • Доработка
  • Адаптация

  Диаграмма из трёх элементов: проектирование, разработка, развёртывание — развёртывание выделено

Ответственный ИИ: практики и принципы

Спектр рисков ИИ

  • Риски безопасности и операционные риски:

    • Галлюцинации
    • Отравление и повреждение данных
    • Утечка и компрометация данных

  • Риски конфиденциальности

  • Бизнес-риски:

    1. Репутационные
    2. Финансовые

 

Ключевую роль играют тщательное тестирование, этические стандарты и соответствие требованиям.

Ответственный ИИ: практики и принципы

Давайте потренируемся!

Ответственный ИИ: практики и принципы

Preparing Video For Download...