高风险部署者的义务

解读欧盟《人工智能法案》

Dan Nechita

Lead Technical Negotiator, EU AI Act

部署者的义务

部署者与提供者共同承担义务，确保 AI 系统不危害健康、安全与基本权利。

具体有哪些义务？

 

• 部署者须确保按说明使用 AI
• 维护自动化日志并监测故障
• 向提供者与主管机关报告严重事故

需通知

 

• 在任务分配或绩效监控中使用 AI 时，需告知员工。
• 使用高风险 AI 作出决定时，需告知受影响个人。
• 例如：人寿保险保费、学校录取。

公共机构

 

• 公共机构与关键服务的部署者必须进行基本权利影响评估（FRIA）。
• FRIA 确保 AI 不侵害权利，类似 GDPR 的 DPIA。
• 公共机构使用高风险 AI 须在欧盟数据库登记。

部署者可能成为提供者！

 

• 重大修改 AI 时，提供者与部署者角色可能重叠。
• 改变 AI 预期用途会使部署者成为提供者并承担其义务。
• 例：用 GPT-4 进行招聘决策，使公司成为高风险 AI 提供者。

回顾

谢谢！

解读欧盟《人工智能法案》