Bảo vệ AI: Trách nhiệm giải trình

Đạo đức AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Định nghĩa trách nhiệm giải trình

• Trách nhiệm giải trình:
  • Quy định ai chịu trách nhiệm cho kết quả AI
• Quan trọng trong phát triển, triển khai và sử dụng AI
• AI không phải “đũa thần” để né tránh trách nhiệm

Tính trọng yếu của trách nhiệm giải trình

• Mọi người tin tưởng hệ thống AI hơn khi có trách nhiệm giải trình
• Trách nhiệm giải trình đảm bảo dùng AI có đạo đức và giảm rủi ro
• Trách nhiệm giải trình không miễn trừ trách nhiệm con người

             

Nghịch lý của trách nhiệm giải trình

• Tăng trách nhiệm giải trình AI có thể tăng niềm tin
• Nhưng tin tưởng quá mức có thể dẫn đến quyết định sai
• Ví dụ:
  • Nghiên cứu Georgia Tech: người tham gia nghe theo hướng dẫn sai của robot

Câu chuyện Tesla

• Người dùng hiểu sai khả năng tự lái
• Chỉ trích Tesla vì biện pháp bảo vệ chưa đủ
• Tesla và người dùng cùng chịu trách nhiệm

Đạt trách nhiệm giải trình

• Nhà sản xuất AI:
  • Đạt trách nhiệm giải trình đòi hỏi minh bạch và giải quyết vấn đề “hộp đen”
  • Quy kết trách nhiệm là then chốt

• Người dùng AI:
  • “Tin nhưng phải kiểm chứng”
• Cả nhà sản xuất và người dùng cùng góp phần tạo AI đạo đức
• Thách thức là cơ hội đổi mới

¹ Biểu tượng bởi Eucalyp & Sumitsaengtong từ www.flaticon.com

Không có một khuôn mẫu chung

• Trách nhiệm giải trình trong AI là một hành trình liên tục
• Mỗi bước tiến của AI làm cuộc thảo luận về trách nhiệm giải trình tiến hóa
• Không có cách tiếp cận chung; khác nhau theo ngành

¹ Biểu tượng bởi Freepik từ www.flaticon.com

Luyện tập nào!

Đạo đức AI