ความเสี่ยงของโมเดล
AI Security and Risk Management
Angeline Corvaglia
Founder and Digital Transformation Expert
การติดตามความเสี่ยงตลอดวงจรชีวิต
ระหว่างการพัฒนา
- ข้อมูลที่ยุติธรรมและถูกต้อง
- เรียนรู้ได้อย่างมีประสิทธิภาพ
- ความเสี่ยงจากการนำระบบที่บกพร่องไปใช้
หลังการนำไปใช้งาน
- โมเดลอาจเปลี่ยนแปลง (drift) ไปตามเวลา
- ส่งผลให้ผลลัพธ์มีอคติหรือไม่ถูกต้อง
ความเสี่ยงของโมเดล 7 ประเภทที่พบบ่อย
ความโปร่งใส (Transparency)
- โมเดล AI ตัดสินใจอย่างไร
การตีความได้ (Interpretability)
- เหตุใดโมเดลจึงให้ผลลัพธ์เช่นนั้น
ในด้านที่ละเอียดอ่อน เช่น การแพทย์หรือการเงิน
- กระบวนการตัดสินใจ
- สำคัญไม่แพ้ ผลการตัดสินใจ
อคติ (Bias)
Hallucination
Model drift
การเรียนรู้ที่มีประสิทธิภาพและแม่นยำ
Overfitting
- เรียนรู้รายละเอียดมากเกินไป
Underfitting
- โมเดลง่ายเกินไปจนเรียนรู้ไม่ได้
Data leakage
- นำข้อมูลภายนอกเข้ามาในการฝึกสอน
Explainable AI (XAI)
ระบบ AI ที่แข็งแกร่ง ยุติธรรม และปลอดภัยยิ่งขึ้น
- มาตรการด้านความปลอดภัย
- การพัฒนาอย่างรับผิดชอบ
- ผลกระทบระยะยาว
ควรเป็นประโยชน์ต่อทุกคน
