高風險部署者的義務

認識 EU AI 法案

Dan Nechita

Lead Technical Negotiator, EU AI Act

部署者的義務

部署者與提供者共同負有義務，確保 AI 系統不會危及健康、安全與基本權利。

具體有哪些義務？

 

• 部署者必須依說明使用 AI 系統
• 維護自動化日誌並監測故障
• 將重大事故通報提供者與主管機關

須進行告知

 

• 若以 AI 分派任務或監測績效，部署者需告知員工。
• 使用高風險 AI 作決策時，須告知受影響個人。
• 例如：人壽保費、學校入學審查。

公部門義務

 

• 公部門與關鍵服務的部署者須進行基本權利影響評估（FRIA）。
• FRIA 確保 AI 不侵害權利，類似 GDPR 的 DPIA。
• 公部門使用高風險 AI 必須登錄於 EU 資料庫。

部署者也可能成為提供者！

 

• 當對 AI 有重大修改時，提供者與部署者角色可能重疊。
• 若改變 AI 的預期用途，部署者即成為提供者並承擔其義務。
• 例：用 GPT-4 進行招募決策，該公司即為高風險 AI 提供者。

重點回顧

謝謝！

認識 EU AI 法案