高风险提供方义务

解读欧盟《人工智能法案》

Dan Nechita

Lead Technical Negotiator, EU AI Act

“预期用途”概念

• 《AI 法案》平衡构建方与使用方义务
• 依赖“预期用途”概念

“预期用途”概念

示例：

• 动物识别 AI

 

“预期用途”概念

示例：

• 动物识别 AI
• 被用于人寿保险定价
• 属于误用，不建议，且可能无效
• 构建该系统的公司在《AI 法案》下无义务
  • 构建的是无风险 AI 系统
• 义务由部署方承担

 

“预期用途”概念

合规评估

 

高风险 AI 系统的提供方必须开展并记录“合规评估”，以确保安全与合规；该评估可自我评估。

风险管理与治理

 

• 提供方需建立风险管理体系，用于识别与减轻风险

 

• 数据治理须确保训练数据公正、适配用途，并考虑对各群体的影响

 

文档要求

• 提供方须编制详尽文档，并实现留痕以确保合规与可追溯
• 向部署方提供功能、正确使用、限制与潜在误用的信息
• 确保人工监督，并实施准确性、稳健性与网络安全措施

其他义务

确保合规

让我们来练习！

解读欧盟《人工智能法案》