模型风险

AI 安全与风险管理

Angeline Corvaglia

Founder and Digital Transformation Expert

全生命周期的风险监控

开发阶段

• 数据需公平、准确
• 模型应有效学习
• 部署有缺陷系统的危害

部署后

• 模型可能随时间变化（漂移）
• 导致偏见或不准输出

七大常见模型风险

 

 

• 模型缺乏透明性与可解释性
• 偏见
• 幻觉
• 模型漂移
• 过拟合
• 欠拟合
• 数据泄漏

 

 

透明性

• AI 模型如何做出决策

可解释性

• 为何模型产生特定输出

在医疗、金融等敏感领域

• 决策过程
• 与决策结果本身同样重要

偏见

不公平偏好或偏见

• 训练数据偏差
• 算法
• 数据不具代表性或有缺陷
• 人为假设

需检测并缓解，确保 公平、合乎伦理 的 AI 系统

幻觉

原因多样：

• 训练数据不足
• 假设不当
• 数据中存在偏见

模型漂移

先前准确 的模型

• 失去相关性
• 降低准确性

模型会困惑：

• 数据变化
• 数据内模式变化

有效且准确的学习

过拟合

• 学到过多细节

欠拟合

• 过于简单，无法学到规律

数据泄漏

• 训练中包含了不应出现的外部数据

可解释 AI（XAI）

 

• 方法与技术
• 让决策对人类可理解
• 为模型输出提供理由解释

更健壮、公平且安全的 AI 系统

 

• 安全措施
• 负责任的开发
• 长期影响

应惠及所有人

 

让我们来练习！

AI 安全与风险管理