Đánh giá rủi ro AI

Chiến lược Trí tuệ Nhân tạo (AI)

Vidhi Chugh

AI strategist and ethicist

Hàng rào đạo đức

 

• UNESCO
  • Cần hàng rào bảo vệ
  • Ngăn rủi ro như thiên lệch và phân biệt đối xử
  • Quyền con người cơ bản

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Rủi ro AI

 

• National Institute of Standards and Technology (NIST)

  

 

• Xác suất xảy ra
• Mức độ hậu quả

¹ https://www.nist.gov/artificial-intelligence

Rủi ro dữ liệu

• Quyền riêng tư dữ liệu
  • Thông tin nhạy cảm

• Thiên lệch dữ liệu
  • Duy trì thiên lệch xã hội  

AI sai lệch

 

• Thiên lệch giới

 

• Phân biệt chủng tộc

Rò rỉ quyền riêng tư dữ liệu

• Phạt nặng nếu không tuân thủ GDPR
• Xử lý dữ liệu trái phép
• Thu thập ảnh để nhận diện khuôn mặt

 

Hệ quả kinh doanh

Pháp lý

Hệ quả kinh doanh

Pháp lý, danh tiếng

Hệ quả kinh doanh

Tác hại pháp lý, danh tiếng và tài chính.

Khung đạo đức

Khung đạo đức

Khung đạo đức

Trụ cột chính của đánh giá rủi ro

                Quyền riêng tư

                Công bằng

             Minh bạch

             Trách nhiệm giải trình

Quy định và tuân thủ

• Vòng đời dự án AI

• Quy định và tuân thủ
  • Trách nhiệm gắn với quản trị
  • Xác định vai trò và trách nhiệm
  • Tuân thủ quy định bảo mật dữ liệu
  • Xin ý kiến người dùng và ẩn danh dữ liệu

Thu thập và chuẩn bị dữ liệu

Đánh giá

• Dùng nội bộ hay mua ngoài?
• Có thông tin nhạy cảm như PII (Personal Identifiable Information)?
• Quần thể được đại diện tốt?

Giảm thiểu

• Quy trình đảm bảo toàn vẹn dữ liệu
• Mã hóa định danh, tạo dữ liệu tổng hợp
• Tạo dữ liệu cân bằng

Phát triển và đánh giá mô hình

• Giải thích đầu ra mô hình
  • Giải thích và phát hiện thiên lệch
  • Đối xử công bằng giữa các nhóm

Triển khai và giám sát mô hình

 

• Mức độ tác động

• Lập chiến lược giảm thiểu

 

 

• Chi phí cao trong y tế và tài chính

• Điều chỉnh lại hành vi mô hình

 

Ayo berlatih!

Chiến lược Trí tuệ Nhân tạo (AI)