Rủi ro của mô hình

Bảo mật và Quản lý Rủi ro AI

Angeline Corvaglia

Founder and Digital Transformation Expert

Giám sát rủi ro theo vòng đời

vòng đời AI

Trong phát triển

Dữ liệu công bằng và chính xác
Học hiệu quả
Tác hại khi triển khai hệ thống lỗi

chấm

Sau triển khai

Mô hình có thể thay đổi (drift) theo thời gian
Dẫn đến đầu ra thiên lệch hoặc không chính xác

Bảy rủi ro mô hình phổ biến

bàn cờ tượng trưng rủi ro mô hình

Thiếu minh bạch và khả năng diễn giải của mô hình
Thiên lệch
Ảo giác
Drift mô hình
Quá khớp
Thiếu khớp
Rò rỉ dữ liệu

hình ảnh biểu thị tính minh bạch

Minh bạch

Cách mô hình AI ra quyết định

Khả năng diễn giải

Vì sao mô hình tạo ra đầu ra nhất định

dấu chấm than

Trong lĩnh vực nhạy cảm như y tế hoặc tài chính

Quy trình ra quyết định
Quan trọng như quyết định

Thiên lệch

Ưa thích hoặc định kiến không công bằng

Dữ liệu huấn luyện thiên lệch
Thuật toán
Dữ liệu không đại diện hoặc có lỗi
Giả định của con người

Phát hiện và giảm thiểu để hệ thống AI công bằng và đạo đức

Thiên lệch AI

Ảo giác

biểu tượng biểu thị ảo giác

Xảy ra vì nhiều lý do:

Dữ liệu huấn luyện thiếu
Giả định sai
Thiên lệch trong dữ liệu

Drift mô hình

Từng chính xác

Mất liên quan
Giảm độ chính xác

Mô hình bị rối khi:

Dữ liệu khác
Mẫu hình khác trong dữ liệu

biểu diễn drift mô hình

Học hiệu quả và chính xác

biểu diễn học tập

Quá khớp (overfitting)

Học quá nhiều chi tiết

bóng đèn

Thiếu khớp (underfitting)

Quá đơn giản để học

bóng đèn

Rò rỉ dữ liệu

Dữ liệu ngoài bị đưa vào huấn luyện

AI có khả năng giải thích (XAI)

Phương pháp và kỹ thuật
Quyết định dễ hiểu với con người
Giải thích lập luận phía sau đầu ra của mô hình

biểu diễn XAI

Hệ thống AI vững chắc, công bằng và an toàn hơn

Biện pháp an ninh
Phát triển có trách nhiệm
Tác động dài hạn

Nên mang lợi ích cho mọi người

biểu diễn AI vững chắc, công bằng & an toàn

Laten we oefenen!

Bảo mật và Quản lý Rủi ro AI