AI 特有的安全风险

AI 安全与风险管理

Angeline Corvaglia

Founder and Digital Transformation Specialist

风险管理的重要性

• 安全、负责地利用收益
• 安全方法必须转变
• 传统安全策略不足够

将集成 AI 的影响想象成一枚硬币：

• 潜力
• 安全风险

隐蔽却危险的风险

• 偏见
• 幻觉
• 数据投毒
• 对抗性攻击
• 敏感数据暴露

招聘系统中的 AI 偏见

1. 用历史数据训练 AI
2. 反映既有偏见
3. 偏见被放大
4. 组织信任度下降

操纵网购平台

1. 具备 AI 推荐系统的平台
2. 投入伪造数据
3. AI 推荐不受欢迎或有害产品
4. 可能造成多种后果

AI 偏见

闪电般决策，放大偏见影响

可能不公偏袒或伤害

以惊人速度造成不均等结果

幻觉（Hallucination）

• 将错误或误导信息当作事实呈现

可能导致：

• 决策失误
• 虚假信息与信任缺失

数据投毒

故意篡改训练数据

使 AI 系统偏离正轨

• 错误预测或决策
• 严重后果

对抗性攻击

投喂误导性输入

• 在运行过程中
• 难以检测
• 破坏完整性

敏感数据暴露

训练与运行需大量数据。

若安全不足，存在敏感数据泄露风险

理解风险，方能管理

主动缓解风险

• 前瞻风险
• 了解 AI 安全生态
• 面向未来的 AI 安全
• 建立安全意识文化
• 理解模型与外部风险
• 对齐组织目标与 AI 安全

让我们开始！

AI 安全与风险管理