Ngân sách quyền riêng tư

Bảo mật dữ liệu và Ẩn danh trong Python

Rebeca Gonzalez

Instructor

Định nghĩa quyền riêng tư vi sai

  • Cynthia Dwork trình bày quyền riêng tư vi sai bằng định nghĩa toán học.

Sơ đồ cho thấy đầu ra của cơ chế riêng tư vi sai gần như không đổi dù một người có trong dữ liệu gốc hay không

  • Epsilon và độ chính xác là hai đại lượng quan trọng nhất.
Bảo mật dữ liệu và Ẩn danh trong Python

$\epsilon$ — tham số riêng tư

  • Thước đo tổn thất riêng tư
  • Giá trị càng nhỏ, bảo vệ càng tốt
Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư

Hình vẽ người phụ trách dữ liệu ở bên trái

Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư

Hình người phụ trách dữ liệu bên trái và một người bên thứ ba. Mũi tên chỉ vào người phụ trách với giá trị epsilon 1 phía trên, biểu thị một truy vấn tới cơ sở dữ liệu

Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư

Hình người phụ trách dữ liệu bên trái và một người bên thứ ba. Một mũi tên khác chỉ vào người phụ trách với giá trị epsilon 1 phía trên, biểu thị một truy vấn khác tới cơ sở dữ liệu Thực hiện cùng truy vấn riêng tư với $\epsilon$ = 1 hai lần tương đương một truy vấn với $\epsilon$ = 2

Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư

Hình vẽ bên thứ ba thực hiện tính toán trên dữ liệu đã yêu cầu trước đó Bên thứ ba có thể lấy trung bình các câu trả lời, lọc bỏ nhiễu.

Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư

  • Giới hạn tổn thất riêng tư mà mỗi cá nhân/nhóm được phép tích lũy
  • Theo dõi các truy vấn vào dữ liệu

Sơ đồ một nhóm trích xuất dữ liệu vào cơ sở dữ liệu thêm nhiễu trước khi trả lời truy vấn

Bảo mật dữ liệu và Ẩn danh trong Python

Mức riêng tư bao nhiêu là đủ?

  • Chất lượng phụ thuộc vào truy vấn và dữ liệu
  • Phạm vi giá trị epsilon rất rộng
Bảo mật dữ liệu và Ẩn danh trong Python

Mức riêng tư bao nhiêu là đủ?

Epsilon $\epsilon$

  • Giá trị từ 0 đến 1: rất tốt
  • Trên 10: không tốt
  • Từ 1 đến 10: "còn hơn không"

Nhớ rằng epsilon mang tính lũy thừa.

  • Hệ thống với $\epsilon$ = 1 riêng tư hơn $\epsilon$ = 10 hơn 8.000 lần.
Bảo mật dữ liệu và Ẩn danh trong Python

Mức riêng tư bao nhiêu là đủ?

Hình thanh biểu diễn số lần dùng emoji cạnh logo Apple

1 Ảnh chụp màn hình emoji phổ biến nhất cho người dùng tiếng Anh (Mỹ) theo dữ liệu do Apple thu thập.
Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư: cách theo dõi

from diffprivlib import BudgetAccountant


acc = BudgetAccountant(epsilon=5)
acc

BudgetAccountant(epsilon=5)
Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư: cách theo dõi

# Compute a private mean of the salaries using epsilon of 0.5
# Use the Budget Accountant acc and set bounds to be from 0 to 230000
dp_mean = tools.mean(salaries, epsilon=0.5, accountant=acc, bounds=(0, 230000))


# Print the resulting private mean 
print("Private mean: ", dp_mean)

Private mean: 82524.72611901595
Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư: cách theo dõi

# Total privacy spent 
print("Total spent: ", acc.total())


# Privacy budget remaining
print("Remaining budget: ", acc.remaining())


# Total number of queries done so far
print("Number of queries recorded: ", len(acc))

Total spent: (epsilon=0.5, delta=0.0)

Remaining budget: (epsilon=4.5, delta=1.0)

Number of queries recorded: 1
Bảo mật dữ liệu và Ẩn danh trong Python

Ngân sách quyền riêng tư: cách theo dõi

# Privacy budget remaining for 2 queries
print("Remaining budget for 2 queries: ", acc.remaining(2))

Remaining budget for 2 queries: (epsilon=2.25, delta=1.0)
Bảo mật dữ liệu và Ẩn danh trong Python

Ayo berlatih!

Bảo mật dữ liệu và Ẩn danh trong Python

Preparing Video For Download...