Úvod do diferenciálního soukromí

Ochrana soukromí a anonymizace dat v Pythonu

Rebeca Gonzalez

Instructor

Co je diferenciální soukromí (DP)?

Barvíte si vlasy?

$$ $$ Ruka ukazující na jedno ze dvou tlačítek, vybírá to se zaškrtnutím

Kresba blond ženy

Co je diferenciální soukromí (DP)?

Obrázek mince

Co je diferenciální soukromí (DP)?

Diagram mince ukazující na slovo „orel" v levé větvi

Co je diferenciální soukromí (DP)?

Diagram mince ukazující na „orel" v levé větvi, následovaný frází „skutečná odpověď"

Co je diferenciální soukromí (DP)?

Diagram mince ukazující na stranu „panna" v pravé větvi.

Co je diferenciální soukromí (DP)?

Diagram mince ukazující na stranu „panna" v pravé větvi, následovaný možnostmi orel a panna

Co je diferenciální soukromí (DP)?

Diagram mince ukazující na stranu „panna" v pravé větvi, s možnostmi orel a panna. Orel vede k „ne", panna k „ano"

Co je diferenciální soukromí (DP)?

Diferenciální soukromí je matematická definice ochrany soukromí.

Kresba obličeje rozdělená na poloviny. Pravá polovina má otazník

Kdo používá diferenciální soukromí (DP)?

Klávesnice emoji Apple

Globální diferenciální soukromí

Důvěryhodný správce chrání data
Šum je přidán do výstupu

Diagram globálního diferenciálního soukromí

Lokální diferenciální soukromí

Žádná důvěryhodná třetí strana.
Šum je přidán před sdílením dat.

Diagram lokálního diferenciálního soukromí

Epsilon-diferenciální soukromí

Řecké písmeno epsilon $\epsilon$: Míra soukromí a šumu při zveřejnění dat.

Vyšší hodnoty $\epsilon$ znamenají přesnější a méně soukromá data
Systémy s nízkým $\epsilon$ poskytují vysoce náhodná data

Epsilon je exponenciální

Například $\epsilon$ = 1.

$\epsilon^1=2.72$

Je téměř třikrát soukromější než $\epsilon$ = 2.
- $\epsilon^2=7.39$
A více než 8 000krát soukromější než $\epsilon$ = 10.
- $\epsilon^10=22000$

K-anonymita a diferenciální soukromí

k-anonymita poskytuje „syntaktické" záruky

Stále hojně využívána
V mnoha případech nedostačující

Diferenciální soukromí je aktuálním de facto modelem ochrany soukromí

Preferováno společnostmi: Apple, Uber, Google
Úbytek soukromí při zveřejnění lze přesně kvantifikovat

Úvod do diffprivlib

diffprivlib v0.3 od IBM

Logo IBM

Histogramy

# Get counts and bars for non-private histogram of salaries
counts, bins = np.histogram(salaries)


# Normalize counts to get proportions of the height
proportions = counts / counts.sum()


# Draw the histogram of proportions
plt.bar(bins[:-1], height=proportions, width=(bins[1] - bins[0]))
plt.show()

Histogramy

Výsledný nesoukromý histogram

Soukromý histogram

import diffprivlib.tools


# Get counts and bars for private histogram of salaries with epsilon of 0.1
dp_counts, dp_bins = tools.histogram(salaries, epsilon=0.1)


# Normalize counts to get proportions
dp_proportions = dp_counts / dp_counts.sum()


# Draw the histogram of proportions and see differences
plt.bar(dp_bins[:-1], dp_proportions, width=(dp_bins[1] - dp_bins[0]))
plt.show()

Soukromý histogram

Nesoukromý histogram Výsledný nesoukromý histogram

Výsledný soukromý histogram

Pojďme si procvičit!

Ochrana soukromí a anonymizace dat v Pythonu