Rủi ro bên ngoài trong AI
Bảo mật và Quản lý Rủi ro AI
Angeline Corvaglia
Founder and Digital Transformation Expert
Rủi ro nội bộ
Nằm trong thiết kế hoặc dữ liệu
Rủi ro bên ngoài
Tác nhân bên ngoài
- Thao túng mô hình
- Nhắm vào khía cạnh khác nhau
Rủi ro bên ngoài phổ biến
Tấn công đầu vào đối kháng
- Ảnh hưởng giai đoạn suy luận (khi gặp dữ liệu mới)
- Ảnh hưởng ra quyết định
Ví dụ
- Thay đổi nhẹ hình ảnh
- Phân loại sai
Hỏng và đầu độc dữ liệu
- Ảnh hưởng giai đoạn huấn luyện
- Nhắm vào tính toàn vẹn học tập
Ví dụ
- Đánh giá sản phẩm giả
- Ảnh hưởng hệ thống gợi ý thương mại điện tử
Đánh cắp và đảo ngược mô hình
- Nhắm vào thông tin nhạy cảm
- Khai thác chính mô hình
Ví dụ
- Dùng đầu vào bị thao túng để lộ dữ liệu riêng tư dùng khi huấn luyện
Tấn công hạ tầng
- Nhắm vào môi trường vật lý và ảo
- Tấn công hạ tầng
Ví dụ
- Gửi ồ ạt yêu cầu tới máy chủ AI để quá tải và làm gián đoạn truy cập
Tấn công chuỗi cung ứng
- Xâm phạm thành phần hoặc thư viện
- Khai thác các khối xây dựng của mô hình AI
Ví dụ
- Cấy lỗ hổng vào thư viện dùng rộng rãi
Thực hành bảo mật tốt
Thực hành tốt khác
Rủi ro tiến hóa nhanh
