通用型 AI 模型

解读欧盟《人工智能法案》

Dan Nechita

Lead Technical Negotiator, EU AI Act

系统 vs. 模型

 

AI 系统

• 有限的 AI 产品
• 可部署
• 输入与输出明确

 

 

AI 模型

• 系统的“大脑”
• GPT-3.5、GPT-4 和 GPT-4o

 

 

通用型 AI 模型

 

《AI 法案》涵盖大多数 AI 系统，也对强大的通用型 AI 模型设有单独规则。

• 可支持数百万个 AI 系统
• 模型失效时可能造成重大影响
• 在《AI 法案》中被定义为“系统性风险”

规模与范围

AI 的分类指标：

• 模型参数量，近似规模
• 浮点运算次数（FLOPs），近似性能

 

欧盟《AI 法案》的指标用途：

• 用于确定 GPAI 开发者的义务等级

¹ 数据来源：Epoch（2024）

适用于所有 GPAI 模型的义务

通用型 AI 模型：

• 超过十亿参数的模型
• 简称“低风险 GPAI 模型”

 

提供方义务：

• 轻量义务
• 确保下游安全
• 遵守欧洲法律

适用于所有 GPAI 模型的义务

 

• 编写并维护模型训练与评估的技术文档
• 向集成方提供安全集成文档
• 尊重版权并总结训练内容
• 总结用于模型训练的内容

系统性风险

 

• 部分模型可能强大到引发广泛问题，造成系统性风险。

 

• 系统性风险与 GPAI 的门槛为 10^25 浮点运算，约为 GPT‑4 的 10 倍。

GPAI 的义务

 

义务：

• 立即通知欧盟委员会
• 开展模型评估
• 报告任何严重事故
• 确保足够的网络安全水平

让我们来练习！

解读欧盟《人工智能法案》