Ризики безпеки, притаманні ШІ

Безпека ШІ та управління ризиками

Angeline Corvaglia

Founder and Digital Transformation Specialist

Важливість управління ризиками

• Використовуйте переваги безпечно й відповідально
• Підхід до безпеки має змінитися
• Традиційних стратегій безпеки недостатньо

Подумайте про наслідки інтеграції ШІ як про монету:

• Потенціал
• Ризики безпеки

Непомітні, але небезпечні ризики

• Упередженість
• Галюцинації
• Отруєння даних
• Атаки противника
• Розкриття конфіденційних даних

Упередженість ШІ в системі найму

1. Навчання ШІ на історичних даних
2. Відтворення минулих упереджень
3. Посилення упередженості
4. Падіння довіри до організації

Маніпулювання платформою онлайн-покупок

1. Платформа з рекомендаційною системою ШІ
2. Внесено фальшиві дані
3. ШІ радить непопулярні чи шкідливі товари
4. Безліч потенційних наслідків

Упередженість ШІ

Блискавичні рішення посилюють вплив упередженості

Несправедливо сприяють або шкодять

Нерівні результати з тривожною швидкістю

Галюцинації

• Подання неправильної або оманливої інформації як правди

Може призвести до:

• Хибних рішень
• Дезінформації та втрати довіри

Отруєння даних

Умисне втручання у навчальні дані

Спричиняє, що система ШІ збивається з курсу

• Хибні прогнози або рішення
• Вагомі наслідки

Ворожі атаки

Подання оманливих вхідних даних

• Під час роботи системи
• Важко виявити
• Підриває цілісність

Розкриття конфіденційних даних

Великі обсяги даних для навчання та роботи.

Ризик розкриття конфіденційних даних, якщо захист недостатній

Розумійте ризики, щоб керувати ними

Проактивне зниження ризиків

• Передбачайте ризики
• Знайте екосистему безпеки ШІ
• Захистіть наперед безпеку ШІ
• Формуйте культуру, чутливу до безпеки
• Розумійте ризики моделі та зовнішні ризики
• Узгоджуйте безпеку ШІ з цілями організації

Почнімо!

Безпека ШІ та управління ризиками