Зовнішні ризики в ШІ
Безпека ШІ та управління ризиками
Angeline Corvaglia
Founder and Digital Transformation Expert
Внутрішні ризики
У межах дизайну чи даних
Зовнішні ризики
Зовнішні зловмисники
- Маніпулюють моделлю
- Націлюються на різні аспекти
Поширені зовнішні ризики
Ворожі атаки через вхідні дані
- Впливають на фазу інференсу (коли надходять нові дані)
- Впливають на ухвалення рішень
Приклад
- Трохи змінити зображення
- Спричинити хибну класифікацію
Псування та отруєння даних
- Впливають на фазу навчання
- Б'ють по цілісності навчання
Приклад
- Підроблені відгуки про товари
- Впливають на рекомендаційну систему e-commerce
Викрадення моделі та інверсія
- Націлені на чутливу інформацію
- Експлуатують саму модель
Приклад
- Використати маніпульовані входи, щоб виявити приватні дані, що були в навчанні
Атаки на інфраструктуру
- Націлюються на фізичні та віртуальні середовища
- Атакують інфраструктуру
Приклад
- Залити сервери ШІ запитами, щоб перевантажити й зробити їх недоступними
Атаки на ланцюг постачання
- Компрометація компонентів або бібліотек
- Експлуатація базових блоків моделей ШІ
Приклад
- Впровадити вразливість у широко вживану бібліотеку
Найкращі практики безпеки
Додаткові найкращі практики
Ризики швидко змінюються
