Giới thiệu về quyền riêng tư vi sai

Bảo mật dữ liệu và Ẩn danh trong Python

Rebeca Gonzalez

Instructor

Quyền riêng tư vi sai (DP) là gì?

Bạn có nhuộm tóc không?

$$ $$ Hình bàn tay chọn một trong hai nút, chọn nút có dấu kiểm

Vẽ người phụ nữ tóc vàng

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai (DP) là gì?

Hình ảnh đồng xu

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai (DP) là gì?

Sơ đồ đồng xu chỉ vào từ ngửa ở một nhánh bên trái

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai (DP) là gì?

Sơ đồ đồng xu chỉ vào ngửa ở nhánh bên trái. Sau đó là cụm từ "câu trả lời thật"

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai (DP) là gì?

Sơ đồ đồng xu chỉ vào mặt sấp ở nhánh bên phải.

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai (DP) là gì?

Sơ đồ đồng xu chỉ vào mặt sấp ở nhánh bên phải. Theo sau là tùy chọn sấp và ngửa

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai (DP) là gì?

Sơ đồ đồng xu chỉ vào mặt sấp ở nhánh bên phải. Theo sau là tùy chọn sấp và ngửa. Ngửa kết thúc bằng từ "không", sấp là "có"

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai (DP) là gì?

Quyền riêng tư vi sai là một định nghĩa toán học về quyền riêng tư.

Vẽ khuôn mặt chia đôi. Bên phải có dấu hỏi

Bảo mật dữ liệu và Ẩn danh trong Python

Ai dùng quyền riêng tư vi sai (DP)?

Logo của Apple

Bảo mật dữ liệu và Ẩn danh trong Python

Ai dùng quyền riêng tư vi sai (DP)?

Từ khóa biểu tượng cảm xúc của Apple

Logo của Apple

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai toàn cục

  • Bên giữ liệu tin cậy bảo vệ dữ liệu
  • Thêm nhiễu vào đầu ra

Sơ đồ quyền riêng tư vi sai toàn cục

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai cục bộ

  • Không có bên tin cậy.
  • Thêm nhiễu trước khi chia sẻ.

Sơ đồ quyền riêng tư vi sai cục bộ

Bảo mật dữ liệu và Ẩn danh trong Python

Quyền riêng tư vi sai với epsilon

Chữ Hy Lạp epsilon $\epsilon$: Mức riêng tư và mức nhiễu của công bố dữ liệu.

  • $\epsilon$ cao: chính xác hơn, kém riêng tư hơn
  • Hệ thống $\epsilon$ thấp cho dữ liệu rất ngẫu nhiên
Bảo mật dữ liệu và Ẩn danh trong Python

Epsilon theo hàm mũ

Ví dụ $\epsilon$ = 1.

$\epsilon^1=2.72$

  • Gần gấp ba lần riêng tư hơn so với $\epsilon$ = 2.
    • $\epsilon^2=7.39$
  • Và riêng tư hơn hơn 8.000 lần so với $\epsilon$ = 10.
    • $\epsilon^10=22000$
Bảo mật dữ liệu và Ẩn danh trong Python

K-anonymity và quyền riêng tư vi sai

k-anonymity đưa ra đảm bảo “cú pháp”

  • Vẫn được dùng rộng rãi
  • Thường không đủ

Quyền riêng tư vi sai là mô hình chuẩn hiện nay

  • Được Apple, Uber, Google ưa chuộng
  • Có thể định lượng chính xác suy giảm riêng tư qua mỗi lần công bố
Bảo mật dữ liệu và Ẩn danh trong Python

Giới thiệu diffprivlib

diffprivlib v0.3 của IBM

Logo IBM

Bảo mật dữ liệu và Ẩn danh trong Python

Biểu đồ tần suất (Histogram)

# Get counts and bars for non-private histogram of salaries
counts, bins = np.histogram(salaries)


# Normalize counts to get proportions of the height
proportions = counts / counts.sum()


# Draw the histogram of proportions
plt.bar(bins[:-1], height=proportions, width=(bins[1] - bins[0]))
plt.show()
Bảo mật dữ liệu và Ẩn danh trong Python

Biểu đồ tần suất (Histogram)

Biểu đồ tần suất không riêng tư

Bảo mật dữ liệu và Ẩn danh trong Python

Biểu đồ tần suất riêng tư

import diffprivlib.tools


# Get counts and bars for private histogram of salaries with epsilon of 0.1
dp_counts, dp_bins = tools.histogram(salaries, epsilon=0.1)


# Normalize counts to get proportions
dp_proportions = dp_counts / dp_counts.sum()


# Draw the histogram of proportions and see differences
plt.bar(dp_bins[:-1], dp_proportions, width=(dp_bins[1] - dp_bins[0]))
plt.show()
Bảo mật dữ liệu và Ẩn danh trong Python

Biểu đồ tần suất riêng tư

Biểu đồ tần suất không riêng tư Biểu đồ tần suất không riêng tư

Biểu đồ tần suất riêng tư Biểu đồ tần suất riêng tư

Bảo mật dữ liệu và Ẩn danh trong Python

Vamos praticar!

Bảo mật dữ liệu và Ẩn danh trong Python

Preparing Video For Download...