可解释人工智能

AI 伦理

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

什么是可解释 AI？

  • 其内部机理可被人类理解的 AI 系统
  • 目标：使 AI 的决策过程清晰、可理解、可解释
  • 帮助理解 AI 为何及如何做出决策
  • 迈向伦理 AI 的重要一步

展示 AI 系统的图标。

1 Icon made by vectorsmarket15 from www.flaticon.com
AI 伦理

核心支柱

  • 透明性、公平性、问责性是核心
  • 结论应对人类可获取且合乎逻辑

展示逻辑思维的图标。

展示决策树的图标。

  • 从核心即强调可解释性的模型
  • 采用可解释模型，如决策树或线性回归
  • 即使性能略低，仍因过程可见而具价值
1 Icons made by juicy_fish & Becris from www.flaticon.com
AI 伦理

如何运作？

XAI 工作原理示意图。

AI 伦理

如何运作？

一个人在思考预算、类型、演员和导演等特征。

AI 伦理

局部可解释的与模型无关的解释（LIME）

  • LIME 如同翻译器，帮助模型表达
  • 为特定预测构建更简单的决策过程
  • 例：
    • 基于导演热度和高预算等因素解释电影爆款预测

展示翻译过程的图标。

1 Icon made by Freepik from www.flaticon.com
AI 伦理

Shapley 加性解释（SHAP）

  • SHAP：像侦探一样揭示特征重要性
  • SHAP 实例
    • 导演：50%
    • 演员阵容：30%
    • 类型：15%
    • 预算：5%

展示 SHAP 实例的饼图。

AI 伦理

XAI 的未来

  • XAI 还有更多技术与方法
  • XAI 与传统 AI 的差距在缩小
  • 持续研究正提升可解释性
AI 伦理

Ayo berlatih!

AI 伦理

Preparing Video For Download...