差分隐私简介

Python 中的数据隐私与匿名化

Rebeca Gonzalez

Instructor

什么是差分隐私（DP）？

你会染发吗？

$$ $$ 一只手在两个按钮中选择带对号的那个

金发女性插画

什么是差分隐私（DP）？

硬币图片

什么是差分隐私（DP）？

硬币示意图，分支左侧指向正面。

什么是差分隐私（DP）？

硬币示意图，分支左侧指向正面，随后是"真实答案"一词

什么是差分隐私（DP）？

硬币示意图，分支右侧指向反面。

什么是差分隐私（DP）？

硬币示意图，分支右侧指向反面，随后是正面与反面选项

什么是差分隐私（DP）？

硬币示意图，分支右侧指向反面，随后是正面与反面选项。正面对应"否"，反面对应"是"

什么是差分隐私（DP）？

差分隐私是隐私的数学定义。

半张人脸的绘图，右侧有问号

谁在使用差分隐私（DP）？

Apple 的表情符号关键词

全局差分隐私

可信管护方保护数据
向输出添加噪声

全局差分隐私示意图

本地差分隐私

无需可信第三方
共享前先加噪声

本地差分隐私示意图

ε-差分隐私

希腊字母 ε：衡量发布数据的隐私与噪声。

ε 越大，数据越准确、越不私密
低 ε 系统给出高度随机的数据

ε 的指数效应

例如 ε = 1。

e^1=2.72

比 ε = 2 几乎隐私高三倍。
- e^2=7.39
比 ε = 10 隐私高逾 8,000 倍。
- e^10=22000

k-匿名与差分隐私

k-匿名提供"语法级"保障

仍被广泛使用
许多情形下不足

差分隐私是事实上的主流模型

被 Apple、Uber、Google 采用
可精确量化发布的隐私衰减

diffprivlib 简介

IBM 的 diffprivlib v0.3

IBM 标志

直方图

# Get counts and bars for non-private histogram of salaries
counts, bins = np.histogram(salaries)


# Normalize counts to get proportions of the height
proportions = counts / counts.sum()


# Draw the histogram of proportions
plt.bar(bins[:-1], height=proportions, width=(bins[1] - bins[0]))
plt.show()

直方图

非私有直方图结果

私有直方图

import diffprivlib.tools


# Get counts and bars for private histogram of salaries with epsilon of 0.1
dp_counts, dp_bins = tools.histogram(salaries, epsilon=0.1)


# Normalize counts to get proportions
dp_proportions = dp_counts / dp_counts.sum()


# Draw the histogram of proportions and see differences
plt.bar(dp_bins[:-1], dp_proportions, width=(dp_bins[1] - dp_bins[0]))
plt.show()

私有直方图

非私有直方图非私有直方图结果

私有直方图结果

Passons à la pratique !

Python 中的数据隐私与匿名化