Các khía cạnh kỹ thuật của XAI

Khái niệm Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Tính giải thích

• Người từ các bối cảnh khác nhau sẽ diễn giải kết quả khác nhau

Tính giải thích

• Người từ các bối cảnh khác nhau sẽ diễn giải kết quả khác nhau

Chấp nhận các giới hạn của XAI

 

• Mô hình tinh vi hơn vốn dĩ phức tạp: mô hình hộp đen
• Mô hình hộp đen: loại mô hình có quá trình ra quyết định khó được con người hiểu
• Đánh đổi giữa hiệu suất và khả năng giải thích

Cân bằng giữa độ phức tạp và khả năng diễn giải

• Không phải mọi mô hình mạnh đều đánh đổi khả năng diễn giải
• Một số kỹ thuật kém chính xác hơn chút nhưng dễ diễn giải hơn

Các kỹ thuật trong XAI

• Mô hình dễ diễn giải theo thiết kế: cây quyết định, hồi quy tuyến tính
• Kỹ thuật giải thích: ước lượng điều đã xảy ra trong quá trình ra quyết định

Ayo berlatih!

Khái niệm Explainable Artificial Intelligence (XAI)