Introduktion till differentiell integritet

Dataintegritet och anonymisering i Python

Rebeca Gonzalez

Instructor

Vad är differentiell integritet (DP)?

Färgar du ditt hår?

$$ $$ Bild på en hand som pekar på en av två knappar och väljer den med en bockmarkering

Teckning av en blond kvinna

Vad är differentiell integritet (DP)?

Bild på ett mynt

Vad är differentiell integritet (DP)?

Diagram över ett mynt som pekar mot ordet krona i den vänstra grenen

Vad är differentiell integritet (DP)?

Diagram över ett mynt som pekar mot krona i den vänstra grenen, följt av frasen "verkligt svar"

Vad är differentiell integritet (DP)?

Diagram över ett mynt som pekar mot klave i den högra grenen.

Vad är differentiell integritet (DP)?

Diagram över ett mynt som pekar mot klave i den högra grenen, följt av alternativen krona och klave

Vad är differentiell integritet (DP)?

Diagram över ett mynt som pekar mot klave i den högra grenen, följt av alternativen krona och klave. Krona slutar med "nej" och klave med "ja"

Vad är differentiell integritet (DP)?

Differentiell integritet är en matematisk definition av integritet.

Teckning av ett ansikte delat i hälften. Den högra halvan har ett frågetecken

Vem använder differentiell integritet (DP)?

Apples emojitangentbord

Global differentiell integritet

En betrodd kurator skyddar data
Brus läggs till i utdata

Diagram över global differentiell integritet

Lokal differentiell integritet

Ingen betrodd part.
Brus läggs till innan data delas.

Diagram över lokal differentiell integritet

Epsilon-differentiell integritet

Den grekiska bokstaven epsilon $\epsilon$: anger hur privat och hur brusig en datapublicering är.

Högre värden på $\epsilon$ innebär mer exakta och mindre privata data
Lågt $\epsilon$ ger mycket slumpmässiga data

Epsilon är exponentiellt

Till exempel $\epsilon$ = 1.

$\epsilon^1=2.72$

Det är nästan tre gånger mer privat än $\epsilon$ = 2.
- $\epsilon^2=7.39$
Och över 8 000 gånger mer privat än $\epsilon$ = 10.
- $\epsilon^10=22000$

K-anonymitet och differentiell integritet

k-anonymitet ger "syntaktiska" garantier

Fortfarande vanligt förekommande
Inte tillräckligt i många fall

Differentiell integritet är den nuvarande de facto-integritetsmodellen

Används av företag som Apple, Uber och Google
Integritetsförsämringen vid publicering kan kvantifieras exakt

Introduktion till diffprivlib

diffprivlib v0.3 från IBM

IBMs logotyp

Histogram

# Get counts and bars for non-private histogram of salaries
counts, bins = np.histogram(salaries)


# Normalize counts to get proportions of the height
proportions = counts / counts.sum()


# Draw the histogram of proportions
plt.bar(bins[:-1], height=proportions, width=(bins[1] - bins[0]))
plt.show()

Histogram

Resulterende icke-privat histogram

Privat histogram

import diffprivlib.tools


# Get counts and bars for private histogram of salaries with epsilon of 0.1
dp_counts, dp_bins = tools.histogram(salaries, epsilon=0.1)


# Normalize counts to get proportions
dp_proportions = dp_counts / dp_counts.sum()


# Draw the histogram of proportions and see differences
plt.bar(dp_bins[:-1], dp_proportions, width=(dp_bins[1] - dp_bins[0]))
plt.show()

Privat histogram

Icke-privat histogram Resulterande icke-privat histogram

Resulterande privat histogram

Nu kör vi en övning!

Dataintegritet och anonymisering i Python