从设计入手的隐私与隐私增强技术

读懂 GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

概览

  • 从设计入手保护隐私
    • 面向隐私的前瞻性系统方法
  • GDPR第25条核心要义
  • 隐私增强技术（PETs）
  • 新兴PETs
读懂 GDPR

按设计与按默认进行数据保护

按设计

一只手在纸上绘制流程图。

  • 前瞻性系统方法
  • 将隐私嵌入流程与系统

按默认

多个代表设置的图标插画。

  • 隐私优先的默认设置，数据最小化
  • 二者看似抽象，但有可实施的方法。
读懂 GDPR

隐私增强技术

什么是 PET？

  • 用于保护隐私或规避隐私风险的软件/硬件、流程、方法或知识

常用PET：

  • 匿名化与假名化
  • 加密
  • 差分隐私（较新）

前沿/新兴技术：

  • 合成数据、联邦学习
读懂 GDPR

合成数据

  • 人工生成的数据

  • 在保护隐私的同时保留真实数据的统计与预测能力

    典型合成数据生成流程示意图。

1 https://www.jpmorgan.com/synthetic-data
读懂 GDPR

合成数据的用例

  • 保护隐私并提升数据质量
  • 开放式创新、AI模型测试、数据沙箱、跨机构数据共享
1 https://www.gartner.com/en/newsroom/press-releases/2022-08-22-gartner-data-analytics-summit-2022-orlando-day-1-highlights
读懂 GDPR

联邦学习

联邦学习流程示意图。

  • 传统做法需将数据"发送"到外部服务器训练模型，隐私风险高
  • 联邦学习在终端设备上训练模型，数据本地不出域
  • 传模型，不传数据
1 P. Kairouz et al, Advances and Open Problems in Federated Learning, Foundations and Trends in Machine Learning Vol 4 Issue 1, 2021.
读懂 GDPR

联邦学习示例

联邦学习示例：在多部手机上训练下一词预测算法的示意图。

1 Li, T., Sahu, A. K., Talwalkar, A., & Smith, V. (2020). Federated learning: Challenges, methods, and future directions. IEEE Signal Processing Magazine, 37(3), 50-60.
读懂 GDPR

结束前

  • 没有完美的隐私方法或技术
  • 考量适用范围与情境
  • 比例性：风险 vs. 受益
  • 基于风利权衡选择合适措施
读懂 GDPR

让我们来练习！

读懂 GDPR

Preparing Video For Download...