AI 风险评估框架

AI 安全与风险管理

Angeline Corvaglia

Founder and Digital Transformation Expert

正式风险评估

• 包含哪些内容
• 为何重要
• 如何指导工作

结合持续的内部制衡机制

有哪些益处？

• 对潜在风险的基线认知
• 全局视角
• 随环境变化的适应性
• 法律与监管合规

风险评估的要素

1. 识别可能的风险
2. 分析风险
3. 评估严重性与容忍度
4. 制定策略以管理、降低或消除风险

欧盟《AI 法》

风险评估是基石

• 不可接受风险
• 高风险
• 有限风险
• 最小风险

针对高风险 AI 系统

• 风险评估
• 风险管理体系

内部制衡机制

• 捕捉新兴风险或意外行为
• 基于风险评估设定
• 充当预警系统

示例：

• 定期偏差测试
• 性能退化

不只是走流程

• 风险评估提供路径

• 内部制衡机制充当护栏

有效的风险管理

• 持续警惕
• 依托正式控制

Vamos praticar!

AI 安全与风险管理