AI có thể giải thích

Đạo đức AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

AI có thể giải thích là gì?

• Hệ thống AI có cơ chế bên trong được con người hiểu
• Mục tiêu: Làm rõ, dễ hiểu và giải thích được cách AI ra quyết định
• Giúp hiểu vì sao và như thế nào AI quyết định
• Bước quan trọng hướng tới sử dụng AI có đạo đức

¹ Biểu tượng do vectorsmarket15 tạo từ www.flaticon.com

Trụ cột chính

• Minh bạch, công bằng, trách nhiệm là cốt lõi
• Kết luận của AI phải dễ tiếp cận và hợp lý với con người

• Mô hình được xây dựng với khả năng giải thích là trọng tâm
• Dùng mô hình dễ diễn giải như cây quyết định hoặc hồi quy tuyến tính
• Sức mạnh ở việc thấy quy trình, dù hiệu suất có thể thấp hơn

¹ Biểu tượng do juicy_fish & Becris tạo từ www.flaticon.com

Hoạt động như thế nào?

Hoạt động như thế nào?

Giải thích cục bộ, độc lập mô hình (LIME)

• LIME như một trình phiên dịch giúp mô hình giao tiếp
• Tạo phiên bản đơn giản hóa của quy trình quyết định cho một dự đoán cụ thể
• Ví dụ:
  • Giải thích dự đoán phim ăn khách dựa trên độ nổi tiếng của đạo diễn và ngân sách cao

¹ Biểu tượng do Freepik tạo từ www.flaticon.com

Giải thích cộng tính theo giá trị Shapley (SHAP)

• SHAP: như thám tử AI, làm rõ tầm quan trọng đặc trưng
• SHAP trong thực tế
  • Đạo diễn: 50%
  • Diễn viên: 30%
  • Thể loại: 15%
  • Ngân sách: 5%

Tương lai của XAI

• Còn nhiều kỹ thuật và cách tiếp cận khác trong XAI
• Khoảng cách giữa XAI và AI truyền thống đang thu hẹp
• Nghiên cứu liên tục nâng cao khả năng diễn giải của AI

Ayo berlatih!

Đạo đức AI