Bugete de confidențialitate

Confidențialitatea datelor și anonimizarea în Python

Rebeca Gonzalez

Instructor

Definiția confidențialității diferențiale

Cynthia Dwork prezintă confidențialitatea diferențială cu o definiție matematică.

Diagramă care ilustrează că rezultatul unui mecanism diferențial privat este practic același indiferent dacă o persoană se află sau nu în setul de date original

Epsilon și acuratețea sunt cele mai importante mărimi.

$\epsilon$ parametrul de confidențialitate

O măsură a pierderii de confidențialitate
Cu cât valoarea este mai mică, cu atât protecția este mai bună

Buget de confidențialitate

Desen al unui curator de date în stânga

Buget de confidențialitate

Desen al unui curator de date în stânga și al unui terț. O săgeată indică spre curatorul de date cu o valoare epsilon de 1 deasupra săgeții, reprezentând o interogare la baza de date

Buget de confidențialitate

Desen al unui curator de date în stânga și al unui terț. O altă săgeată indică spre curatorul de date cu o valoare epsilon de 1 deasupra săgeții, reprezentând o altă interogare la baza de date Efectuând aceeași interogare privată cu $\epsilon$ = 1 de două ori, este echivalent cu o interogare cu $\epsilon$ = 2

Buget de confidențialitate

Desen al unui terț care efectuează calcule pe datele solicitate anterior Terții pot face media răspunsurilor, filtrând zgomotul.

Buget de confidențialitate

Limită a pierderii de confidențialitate acumulate de un individ sau grup
Urmărește interogările către date

Diagramă a unei echipe care extrage date dintr-o bază de date ce adaugă zgomot înainte de a răspunde la interogări

Ce este suficient de privat?

Calitatea depinde atât de interogare, cât și de date
Epsilon poate lua o gamă largă de valori

Ce este suficient de privat?

Epsilon $\epsilon$

Valorile între 0 și 1 sunt considerate foarte bune
Valorile peste 10 nu sunt bune
Valorile între 1 și 10 sunt „mai bine decât nimic"

Rețineți că epsilon este exponențial.

Un sistem cu $\epsilon$ = 1 este de peste 8.000 de ori mai privat decât $\epsilon$ = 10.

Ce este suficient de privat?

Se presupune că Apple folosea bugete de confidențialitate cu epsilon = 14 pe zi în 2017.
Pentru sugestii de emoji, Apple folosește un buget de confidențialitate cu epsilon de 4 și trimite o contribuție pe zi.

¹ Captură de ecran cu cele mai utilizate emoji pentru vorbitorii de engleză americană, conform datelor colectate de Apple.

Buget de confidențialitate: cum se urmărește

from diffprivlib import BudgetAccountant


acc = BudgetAccountant(epsilon=5)
acc

BudgetAccountant(epsilon=5)

Buget de confidențialitate: cum se urmărește

# Compute a private mean of the salaries using epsilon of 0.5
# Use the Budget Accountant acc and set bounds to be from 0 to 230000
dp_mean = tools.mean(salaries, epsilon=0.5, accountant=acc, bounds=(0, 230000))


# Print the resulting private mean 
print("Private mean: ", dp_mean)

Private mean: 82524.72611901595

Buget de confidențialitate: cum se urmărește

# Total privacy spent 
print("Total spent: ", acc.total())


# Privacy budget remaining
print("Remaining budget: ", acc.remaining())


# Total number of queries done so far
print("Number of queries recorded: ", len(acc))

Total spent: (epsilon=0.5, delta=0.0)

Remaining budget: (epsilon=4.5, delta=1.0)

Number of queries recorded: 1

Buget de confidențialitate: cum se urmărește

# Privacy budget remaining for 2 queries
print("Remaining budget for 2 queries: ", acc.remaining(2))

Remaining budget for 2 queries: (epsilon=2.25, delta=1.0)

Să exersăm!

Confidențialitatea datelor și anonimizarea în Python