AI ที่อธิบายได้

จริยธรรม AI

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Explainable AI คืออะไร?

• ระบบ AI ที่มนุษย์เข้าใจกระบวนการทำงานภายในได้
• เป้าหมาย: ทำให้การตัดสินใจของ AI ชัดเจนและอธิบายได้
• ช่วยให้เข้าใจว่า AI ตัดสินใจอย่างไรและเพราะอะไร
• ก้าวสำคัญสู่การใช้ AI อย่างมีจริยธรรม

¹ Icon made by vectorsmarket15 from www.flaticon.com

เสาหลักสำคัญ

• ความโปร่งใส ความเป็นธรรม ความรับผิดชอบ คือหลักสำคัญ
• ผลลัพธ์ของ AI ควรเข้าใจได้และมีเหตุผลสำหรับมนุษย์

• โมเดลที่สร้างขึ้นโดยให้ความสำคัญกับการอธิบายได้ตั้งแต่ต้น
• ใช้โมเดลที่ตีความได้ง่าย เช่น decision tree หรือ linear regression
• จุดเด่นอยู่ที่มองเห็นกระบวนการ แม้ประสิทธิภาพอาจต่ำกว่า

¹ Icons made by juicy_fish & Becris from www.flaticon.com

ทำงานอย่างไร?

ทำงานอย่างไร?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME ทำหน้าที่เป็น ล่าม ที่ช่วยให้โมเดล สื่อสาร ได้
• สร้างเวอร์ชันที่เรียบง่ายของกระบวนการตัดสินใจสำหรับการพยากรณ์แต่ละครั้ง
• ตัวอย่าง:
  • อธิบายการพยากรณ์ว่าภาพยนตร์จะฮิตหรือไม่ โดยอิงจากปัจจัย เช่น ความนิยมของผู้กำกับและงบประมาณสูง

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: นักสืบของ AI ที่เปิดเผย ความสำคัญของฟีเจอร์
• SHAP ในทางปฏิบัติ
  • ผู้กำกับ: 50%
  • นักแสดง: 30%
  • ประเภท: 15%
  • งบประมาณ: 5%

อนาคตของ XAI

• XAI มีเทคนิคและแนวทางอีกมากมาย
• ช่องว่างระหว่าง XAI กับ AI แบบดั้งเดิมกำลังแคบลง
• งานวิจัยที่ดำเนินอยู่กำลังพัฒนาความสามารถในการตีความ AI

มาฝึกกันเถอะ!

จริยธรรม AI