Rủi ro bảo mật đặc thù của AI

Bảo mật và Quản lý Rủi ro AI

Angeline Corvaglia

Founder and Digital Transformation Specialist

Tầm quan trọng của quản trị rủi ro

• Khai thác lợi ích an toàn, có trách nhiệm
• Cách tiếp cận bảo mật phải thay đổi
• Chiến lược bảo mật truyền thống không đủ

Hãy coi tác động tích hợp AI như một đồng xu:

• Tiềm năng
• Rủi ro bảo mật

Rủi ro tinh vi nhưng nguy hiểm

• Thiên lệch
• Ảo giác
• Làm bẩn dữ liệu
• Tấn công đối kháng
• Lộ dữ liệu nhạy cảm

Thiên lệch AI trong hệ thống tuyển dụng

1. Huấn luyện AI bằng dữ liệu lịch sử
2. Phản chiếu thiên lệch quá khứ
3. Khuếch đại thiên lệch
4. Niềm tin vào tổ chức suy giảm

Thao túng nền tảng mua sắm trực tuyến

1. Nền tảng có hệ thống gợi ý AI
2. Nạp dữ liệu giả
3. AI gợi ý sản phẩm kém phổ biến hoặc gây hại
4. Nhiều hệ quả tiềm ẩn

Thiên lệch của AI

Quyết định siêu nhanh, khuếch đại tác động của thiên lệch

Ưu ái hoặc gây hại một cách bất công

Kết quả lệch lạc với tốc độ đáng lo

Ảo giác

• Trình bày thông tin sai hoặc gây hiểu lầm như sự thật

Dẫn đến:

• Quyết định sai lệch
• Tin giả và mất niềm tin

Làm bẩn dữ liệu

Cố ý can thiệp vào dữ liệu huấn luyện

Khiến hệ AI đi chệch hướng

• Dự đoán hoặc quyết định sai
• Hậu quả nghiêm trọng

Tấn công đối kháng

Đưa vào đầu vào gây hiểu lầm

• Trong khi vận hành
• Khó phát hiện
• Làm suy giảm tính toàn vẹn

Lộ dữ liệu nhạy cảm

Khối lượng dữ liệu lớn cho huấn luyện và vận hành.

Nguy cơ lộ dữ liệu nhạy cảm nếu không được bảo mật đầy đủ

Hiểu rủi ro để quản lý hiệu quả

Giảm thiểu rủi ro chủ động

• Chủ động dự báo rủi ro
• Hiểu hệ sinh thái an ninh AI
• Chuẩn bị cho tương lai bảo mật AI
• Xây dựng văn hóa đề cao bảo mật
• Hiểu rủi ro mô hình và bên ngoài
• Căn chỉnh bảo mật AI với mục tiêu tổ chức

Cùng bắt đầu!

Bảo mật và Quản lý Rủi ro AI