Риски безопасности, характерные для ИИ

Безопасность ИИ и управление рисками

Angeline Corvaglia

Founder and Digital Transformation Specialist

Важность управления рисками

• Использовать возможности безопасно и ответственно
• Подход к безопасности должен измениться
• Традиционных стратегий безопасности недостаточно

Представьте последствия внедрения ИИ как монету:

• Потенциал
• Риски безопасности

Скрытые, но опасные риски

• Предвзятость
• Галлюцинации
• Отравление данных
• Состязательные атаки
• Утечка конфиденциальных данных

Предвзятость ИИ в системе найма

1. Обучение ИИ на исторических данных
2. Отражение накопленных предубеждений
3. Усиление предвзятости
4. Снижение доверия к организации

Манипуляция платформой онлайн-торговли

1. Платформа с рекомендательной системой на основе ИИ
2. Внедрение поддельных данных
3. ИИ рекомендует непопулярные или вредные товары
4. Многочисленные потенциальные последствия

Предвзятость ИИ

Молниеносные решения усиливают влияние предвзятости

Несправедливо благоприятствуют или наносят вред

Неравномерные результаты с угрожающей скоростью

Галлюцинации

• Представляет недостоверную или вводящую в заблуждение информацию как истину

Может приводить к:

• Ошибочным решениям
• Дезинформации и потере доверия

Отравление данных

Намеренное искажение обучающих данных

Приводит к сбоям в работе системы ИИ

• Неверные прогнозы или решения
• Серьёзные последствия

Состязательные атаки

Подача вводящих в заблуждение входных данных

• В процессе работы
• Сложно обнаружить
• Компрометирует целостность

Утечка конфиденциальных данных

Большие объёмы данных для обучения и работы.

Риск утечки конфиденциальных данных при недостаточной защите

Понять риски — значит научиться управлять ими

Проактивное снижение рисков

• Предвидеть риски
• Знать экосистему безопасности ИИ
• Обеспечить устойчивость безопасности ИИ
• Сформировать культуру безопасности
• Понимать риски модели и внешние риски
• Согласовать безопасность ИИ с целями организации

Давайте потренируемся!

Безопасность ИИ и управление рисками