ความเสี่ยงด้านความปลอดภัยที่เฉพาะเจาะจงกับ AI

AI Security and Risk Management

Angeline Corvaglia

Founder and Digital Transformation Specialist

ความสำคัญของการจัดการความเสี่ยง

• ใช้ประโยชน์อย่างปลอดภัยและรับผิดชอบ
• แนวทางด้านความปลอดภัยต้องเปลี่ยนแปลง
• กลยุทธ์ความปลอดภัยแบบเดิมไม่เพียงพออีกต่อไป

ลองมองผลกระทบจากการนำ AI มาใช้เหมือนเหรียญสองด้าน:

• ศักยภาพ
• ความเสี่ยงด้านความปลอดภัย

ความเสี่ยงที่แนบเนียนแต่อันตราย

• ความเอนเอียง (Bias)
• การหลอน (Hallucination)
• การวางยาข้อมูล (Data poisoning)
• การโจมตีเชิงปฏิปักษ์ (Adversarial attacks)
• การเปิดเผยข้อมูลละเอียดอ่อน (Sensitive data exposure)

ความเอนเอียงของ AI ในระบบสรรหาบุคลากร

1. ฝึก AI ด้วยข้อมูลในอดีต
2. สะท้อนอคติจากอดีต
3. ขยายอคติให้รุนแรงขึ้น
4. ความเชื่อถือในองค์กรลดลง

การโจมตีแพลตฟอร์มช้อปปิ้งออนไลน์

1. แพลตฟอร์มที่มีระบบแนะนำสินค้าด้วย AI
2. ป้อนข้อมูลปลอมเข้าไป
3. AI แนะนำสินค้าที่ไม่เป็นที่นิยมหรือเป็นอันตราย
4. ผลกระทบที่ตามมามากมาย

ความเอนเอียงของ AI

ตัดสินใจรวดเร็ว ขยายผลกระทบของความเอนเอียง

เอื้อประโยชน์หรือสร้างความเสียหายอย่างไม่เป็นธรรม

ผลลัพธ์ที่ไม่เท่าเทียมด้วยความเร็วน่าตกใจ

Hallucination

• นำเสนอข้อมูลที่ผิดพลาดหรือเข้าใจผิดราวกับเป็นความจริง

อาจนำไปสู่:

• การตัดสินใจที่บกพร่อง
• ข้อมูลผิดพลาดและขาดความเชื่อถือ

การวางยาข้อมูล (Data Poisoning)

การแทรกแซงข้อมูลฝึกอบรมโดยเจตนา

ทำให้ระบบ AI เบี่ยงเบนออกจากแนวทางที่ถูกต้อง

• การทำนายหรือการตัดสินใจที่ผิดพลาด
• ผลกระทบร้ายแรง

การโจมตีเชิงปฏิปักษ์ (Adversarial Attacks)

ป้อนข้อมูลนำเข้าที่ทำให้เข้าใจผิด

• ระหว่างการทำงาน
• ตรวจจับได้ยาก
• บั่นทอนความน่าเชื่อถือ

การเปิดเผยข้อมูลละเอียดอ่อน

ข้อมูลปริมาณมากสำหรับการฝึกและดำเนินงาน

ความเสี่ยงต่อการเปิดเผยข้อมูลละเอียดอ่อนหากไม่มีการรักษาความปลอดภัยที่เพียงพอ

เข้าใจความเสี่ยงเพื่อจัดการได้อย่างมีประสิทธิภาพ

การลดความเสี่ยงเชิงรุก

• คาดการณ์ความเสี่ยงล่วงหน้า
• รู้จักระบบนิเวศความปลอดภัย AI
• วางรากฐานความปลอดภัย AI ให้พร้อมรับอนาคต
• สร้างวัฒนธรรมที่ตระหนักด้านความปลอดภัย
• เข้าใจความเสี่ยงของโมเดลและปัจจัยภายนอก
• ปรับแนวทางความปลอดภัย AI ให้สอดคล้องกับเป้าหมายองค์กร

มาเริ่มกันเลย!

AI Security and Risk Management