ความเสี่ยงภายนอกใน AI
AI Security and Risk Management
Angeline Corvaglia
Founder and Digital Transformation Expert
ความเสี่ยงภายใน
อยู่ภายใน การออกแบบหรือข้อมูล
ความเสี่ยงภายนอก
ผู้กระทำจากภายนอก
- ควบคุมโมเดล
- มุ่งเป้าไปที่ แง่มุมที่แตกต่างกัน
ความเสี่ยงภายนอกที่พบบ่อย
การโจมตีด้วยข้อมูลนำเข้าเชิงปฏิปักษ์
- ส่งผลต่อ ขั้นตอนการอนุมาน (เมื่อโมเดลพบข้อมูลใหม่)
- มีอิทธิพลต่อ การตัดสินใจ
ตัวอย่าง
- ปรับเปลี่ยนภาพเพียงเล็กน้อย
- จำแนกประเภทผิดพลาด
การทำให้ข้อมูลเสียหายและเป็นพิษ
- ส่งผลต่อ ขั้นตอนการฝึก
- มุ่งเป้าที่ ความถูกต้องของการเรียนรู้
ตัวอย่าง
- รีวิวสินค้าปลอม
- ส่งผลต่อระบบแนะนำสินค้าในอีคอมเมิร์ซ
การขโมยและการกลับด้านโมเดล
- มุ่งเป้าที่ ข้อมูลที่ละเอียดอ่อน
- ใช้ประโยชน์จาก ตัวโมเดลเอง
ตัวอย่าง
- ใช้ ข้อมูลนำเข้าที่ถูกดัดแปลง เพื่อเปิดเผยข้อมูลส่วนตัวที่ใช้ในการฝึก
การโจมตีโครงสร้างพื้นฐาน
- มุ่งเป้าที่ สภาพแวดล้อมทางกายภาพและเสมือน
- โจมตี โครงสร้างพื้นฐาน
ตัวอย่าง
- ส่งคำขอจำนวนมากไปยังเซิร์ฟเวอร์ AI เพื่อทำให้ระบบล่มและไม่สามารถเข้าถึงได้
การโจมตีห่วงโซ่อุปทาน
- บ่อนทำลาย ส่วนประกอบหรือไลบรารี
- โจมตีองค์ประกอบพื้นฐาน ของโมเดล AI
ตัวอย่าง
- แทรกช่องโหว่ ในไลบรารีที่ใช้กันอย่างแพร่หลาย
แนวปฏิบัติที่ดีด้านความปลอดภัย
แนวปฏิบัติที่ดีเพิ่มเติม
ความเสี่ยงพัฒนาอย่างรวดเร็ว
