ข้อผูกพันของผู้ให้บริการระบบ AI ความเสี่ยงสูง

ทำความเข้าใจ EU AI Act

Dan Nechita

Lead Technical Negotiator, EU AI Act

แนวคิดเรื่องวัตถุประสงค์ที่ตั้งใจไว้

AI Act สร้างสมดุลระหว่างข้อผูกพันของผู้สร้างและผู้ใช้งาน
อิงแนวคิด "วัตถุประสงค์ที่ตั้งใจไว้"

ภาพแสดงการสร้างสมดุลระหว่างผู้สร้างและผู้ใช้งาน

แนวคิดเรื่องวัตถุประสงค์ที่ตั้งใจไว้

ตัวอย่าง:

AI สำหรับระบุชนิดสัตว์

ภาพการใช้ AI สำหรับระบุชนิดสัตว์

แนวคิดเรื่องวัตถุประสงค์ที่ตั้งใจไว้

ตัวอย่าง:

AI สำหรับระบุชนิดสัตว์
นำไปใช้กำหนดราคาประกันชีวิต
การใช้งานในทางที่ผิดนี้ไม่แนะนำและมักไม่ได้ผล
บริษัทที่สร้างระบบไม่มีข้อผูกพันภายใต้ AI Act
- สร้างระบบ AI ที่ไม่มีความเสี่ยง
ข้อผูกพันตกอยู่กับผู้ใช้งาน

ภาพการใช้ AI สำหรับกำหนดราคาประกันชีวิต

แนวคิดเรื่องวัตถุประสงค์ที่ตั้งใจไว้

การปรับผลิตภัณฑ์ให้ตรงกับความต้องการ

การประเมินความสอดคล้อง

ผู้ให้บริการระบบ AI ความเสี่ยงสูงต้องดำเนินการและจัดทำเอกสาร "การประเมินความสอดคล้อง" เพื่อรับรองความปลอดภัยและการปฏิบัติตามกฎระเบียบ ซึ่งสามารถประเมินได้ด้วยตนเอง

การบริหารความเสี่ยงและการกำกับดูแล

ผู้ให้บริการต้องมีระบบบริหารความเสี่ยงเพื่อระบุและลดความเสี่ยง

มาตรการกำกับดูแลข้อมูลต้องรับรองว่าข้อมูลฝึกสอนไม่มีอคติและเหมาะสมกับวัตถุประสงค์ โดยคำนึงถึงผลกระทบต่อกลุ่มต่าง ๆ

การจัดทำเอกสาร

CleanShot 2024-07-31 at 11.34.15.png

ผู้ให้บริการต้องจัดทำเอกสารโดยละเอียดและเปิดใช้งานการบันทึกข้อมูลเพื่อการปฏิบัติตามกฎระเบียบและความสามารถในการตรวจสอบย้อนหลัง
จัดเตรียมข้อมูลเกี่ยวกับคุณสมบัติ การใช้งานที่ถูกต้อง ข้อจำกัด และการใช้งานในทางที่ผิดให้แก่ผู้ใช้งาน
รับรองการกำกับดูแลโดยมนุษย์และดำเนินมาตรการด้านความแม่นยำ ความทนทาน และความมั่นคงปลอดภัยทางไซเบอร์

ข้อผูกพันอื่น ๆ

การรับรองการปฏิบัติตามกฎระเบียบ

มาฝึกกันเลย!

ทำความเข้าใจ EU AI Act