AI 风险评估

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

伦理护栏

 

• UNESCO
  • 需要护栏
  • 预防偏见与歧视等风险
  • 维护基本人权

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

AI 风险

 

• 美国国家标准与技术研究院（NIST）

  

 

• 发生概率
• 后果程度

¹ https://www.nist.gov/artificial-intelligence

数据风险

• 数据隐私
  • 敏感信息

• 数据偏见
  • 延续社会偏见  

AI 失误案例

 

• 性别偏见

 

• 种族歧视

数据隐私泄露

• 不符合 GDPR 的高额罚款
• 非法处理数据
• 抓取人脸识别用图像

 

业务影响

法律

业务影响

法律、声誉

业务影响

法律、声誉与财务损害。

伦理框架

伦理框架

伦理框架

风险评估关键支柱

                隐私

                公平

             透明性

             问责

法规与合规

• AI 项目全生命周期

• 法规与合规
  • 问责需治理机制
  • 明确角色与职责
  • 遵守数据隐私法规
  • 征得用户同意并匿名化数据

数据收集与准备

评估

• 内部可得还是外采？
• 是否含敏感信息，如个人可识别信息（PII）？
• 人群是否代表性充分？

缓解

• 数据完整性流程
• 标识符加密、合成数据生成
• 构建均衡数据

模型开发与评估

• 解释模型结果
  • 解释与偏见识别
  • 各类别一视同仁

模型部署与监控

 

• 影响程度

• 制定缓解策略

 

 

• 医疗与金融成本高

• 重新校准模型行为

 

Vamos praticar!

Artificial Intelligence (AI) Strategy