Anggaran privasi

Privasi Data dan Anonimisasi di Python

Rebeca Gonzalez

Instructor

Definisi privasi diferensial

Cynthia Dwork memperkenalkan privasi diferensial dengan definisi matematis.

Diagram yang menunjukkan keluaran mekanisme privat diferensial pada dasarnya sama, baik seseorang ada di dataset awal atau tidak

Epsilon dan akurasi adalah kuantitas terpenting.

$\epsilon$ parameter privasi

Metrik kehilangan privasi
Nilai lebih kecil = perlindungan privasi lebih baik

Anggaran privasi

Gambar kurator data di kiri

Anggaran privasi

Gambar kurator data di kiri dan pihak ketiga. Sebuah panah mengarah ke kurator data dengan nilai epsilon 1 di atas panah, mewakili kueri ke database

Anggaran privasi

Gambar kurator data di kiri dan pihak ketiga. Panah lain mengarah ke kurator data dengan nilai epsilon 1 di atas panah, mewakili kueri lain ke database Melakukan kueri privat dengan $\epsilon$ = 1 dua kali sama seperti kueri dengan $\epsilon$ = 2

Anggaran privasi

Gambar pihak ketiga melakukan perhitungan pada data yang sebelumnya diminta Pihak ketiga dapat merata-ratakan jawaban, menyaring noise.

Anggaran privasi

Batas kehilangan privasi yang boleh ditanggung individu atau kelompok
Melacak kueri ke data

Diagram tim melakukan ekstraksi data ke database yang menambahkan noise sebelum menjawab kueri

Seberapa privat sudah cukup?

Kualitasnya bergantung pada kueri dan data
Nilai epsilon bisa sangat beragam

Seberapa privat sudah cukup?

Epsilon $\epsilon$

Nilai antara 0 dan 1 sangat baik
Nilai di atas 10 buruk
Nilai antara 1 dan 10 "lebih baik daripada tidak sama sekali"

Ingat epsilon bersifat eksponensial.

Sistem dengan $\epsilon$ = 1 >8.000× lebih privat daripada $\epsilon$ = 10.

Seberapa privat sudah cukup?

Apple diduga memakai anggaran privasi epsilon = 14 per hari pada 2017.
Untuk saran emoji, Apple memakai anggaran privasi dengan epsilon 4, dan mengirim satu kontribusi per hari.

¹ Tangkapan layar emoji teratas untuk penutur bahasa Inggris AS menurut data yang dikumpulkan Apple.

Anggaran privasi: cara melacaknya

from diffprivlib import BudgetAccountant


acc = BudgetAccountant(epsilon=5)
acc

BudgetAccountant(epsilon=5)

Anggaran privasi: cara melacaknya

# Compute a private mean of the salaries using epsilon of 0.5
# Use the Budget Accountant acc and set bounds to be from 0 to 230000
dp_mean = tools.mean(salaries, epsilon=0.5, accountant=acc, bounds=(0, 230000))


# Print the resulting private mean 
print("Private mean: ", dp_mean)

Private mean: 82524.72611901595

Anggaran privasi: cara melacaknya

# Total privacy spent 
print("Total spent: ", acc.total())


# Privacy budget remaining
print("Remaining budget: ", acc.remaining())


# Total number of queries done so far
print("Number of queries recorded: ", len(acc))

Total spent: (epsilon=0.5, delta=0.0)

Remaining budget: (epsilon=4.5, delta=1.0)

Number of queries recorded: 1

Anggaran privasi: cara melacaknya

# Privacy budget remaining for 2 queries
print("Remaining budget for 2 queries: ", acc.remaining(2))

Remaining budget for 2 queries: (epsilon=2.25, delta=1.0)

Ayo berlatih!

Privasi Data dan Anonimisasi di Python