Внешние риски ИИ
Безопасность ИИ и управление рисками
Angeline Corvaglia
Founder and Digital Transformation Expert
Внутренние риски
Связаны с проектированием или данными
Внешние риски
Сторонние злоумышленники
- Манипулируют моделью
- Атакуют разные аспекты
Распространённые внешние риски
Атаки на входные данные
- Влияют на фазу вывода (при работе с новыми данными)
- Воздействуют на принятие решений
Пример
- Незначительно изменить изображение
- Вызвать неверную классификацию
Искажение и отравление данных
- Влияют на фазу обучения
- Подрывают целостность обучения
Пример
- Поддельные отзывы о товарах
- Влияют на систему рекомендаций интернет-магазина
Кража и инверсия модели
- Нацелены на конфиденциальные данные
- Эксплуатируют саму модель
Пример
- Использовать специально созданные входные данные для извлечения приватных обучающих данных
Атаки на инфраструктуру
- Нацелены на физическую и виртуальную среду
- Атакуют инфраструктуру
Пример
- Перегрузить серверы ИИ запросами, чтобы сделать их недоступными
Атаки на цепочку поставок
- Компрометируют компоненты или библиотеки
- Эксплуатируют строительные блоки моделей ИИ
Пример
- Внедрить уязвимость в широко используемую библиотеку
Лучшие практики безопасности
Ещё несколько практик
Риски меняются быстро
