Риски моделей
Безопасность ИИ и управление рисками
Angeline Corvaglia
Founder and Digital Transformation Expert
Мониторинг рисков на протяжении жизненного цикла
В процессе разработки
- Честные и точные данные
- Эффективное обучение
- Риски развёртывания несовершенной системы
После развёртывания
- Модели могут изменяться (дрейфовать) со временем
- Это ведёт к смещённым или неточным результатам
Семь распространённых рисков моделей
Прозрачность
- Как модели ИИ принимают решения
Интерпретируемость
- Почему модель выдаёт те или иные результаты
В чувствительных областях — здравоохранении или финансах
- Процесс принятия решения
- Так же важен, как само решение
Смещение (Bias)
Галлюцинации
Дрейф модели
Эффективное и точное обучение
Переобучение
- Модель запоминает слишком много деталей
Недообучение
- Модель слишком проста для обучения
Утечка данных
- Внешние данные попадают в обучающую выборку
Объяснимый ИИ (XAI)
Более надёжные, честные и безопасные системы ИИ
- Меры безопасности
- Ответственная разработка
- Долгосрочное воздействие
Должно быть полезным для всех
