Ризики моделей
Безпека ШІ та управління ризиками
Angeline Corvaglia
Founder and Digital Transformation Expert
Моніторинг ризиків упродовж життєвого циклу
Під час розробки
- Справедливі та точні дані
- Ефективне навчання
- Шкода від впровадження хибної системи
Після впровадження
- Моделі можуть змінюватися (drift) з часом
- Це веде до упереджених або неточних результатів
Сім поширених ризиків моделі
Прозорість
- Як моделі ШІ ухвалюють рішення
Інтерпретованість
- Чому модель отримує певні результати
У чутливих сферах, як-от охорона здоров'я чи фінанси
- Процес ухвалення рішень
- Не менш важливий, ніж саме рішення
Упередженість
Галюцинації
Зсув моделі
Ефективне й точне навчання
Перенавчання
- Вчить занадто багато деталей
Недонавчання
- Надто проста, щоб навчитися
Витік даних
- Зовнішні дані включені в тренування
Пояснюваний ШІ (XAI)
Більш надійні, справедливі й безпечні системи ШІ
- Заходи безпеки
- Відповідальна розробка
- Довгостроковий вплив
Має бути корисним для всіх
