Farklılaşmalı gizliliğe giriş

Python ile Veri Gizliliği ve Anonimleştirme

Rebeca Gonzalez

Instructor

Farklılaşmalı gizlilik (DP) nedir?

Saçınızı boyuyor musunuz?

$$ $$ İki düğmeden biri üzerinde onay işareti olan butona basan bir el görseli

Sarışın kadın çizimi

Farklılaşmalı gizlilik (DP) nedir?

Bir madeni para görseli

Farklılaşmalı gizlilik (DP) nedir?

Dalların solunda yazıya işaret eden bir madeni para diyagramı

Farklılaşmalı gizlilik (DP) nedir?

Dalların solunda yazıya işaret eden bir madeni para diyagramı. Ardından "gerçek cevap" ifadesi gelir

Farklılaşmalı gizlilik (DP) nedir?

Dalların sağ tarafında tura işaret eden bir madeni para diyagramı.

Farklılaşmalı gizlilik (DP) nedir?

Dalların sağ tarafında tura işaret eden bir madeni para diyagramı. Ardından yazı ve tura seçenekleri gelir

Farklılaşmalı gizlilik (DP) nedir?

Dalların sağ tarafında tura işaret eden bir madeni para diyagramı. Ardından yazı ve tura seçenekleri gelir. Yazının sonunda "hayır", turanın sonunda "evet" yazar

Farklılaşmalı gizlilik (DP) nedir?

Farklılaşmalı gizlilik gizliliğin matematiksel bir tanımıdır.

Yarısı soru işareti olan ikiye bölünmüş bir yüz çizimi

Farklılaşmalı gizliliği (DP) kim kullanır?

Apple'ın emoji klavyesi

Küresel farklılaşmalı gizlilik

Güvenilir küratör veriyi korur
Çıktıya gürültü eklenir

Küresel farklılaşmalı gizlilik diyagramı

Yerel farklılaşmalı gizlilik

Güvenilen taraf yok.
Paylaşmadan önce gürültü eklenir.

Yerel farklılaşmalı gizlilik diyagramı

Epsilon-farklılaşmalı gizlilik

Yunan harfi epsilon $\epsilon$: Bir yayının ne kadar gizli ve ne kadar gürültülü olduğunu belirtir.

$\epsilon$ yükseldikçe veri daha doğru, daha az gizli olur
Düşük $\epsilon$ sistemler çok rastgele veri üretir

Epsilon üstel artar

Örneğin $\epsilon$ = 1.

$\epsilon^1=2.72$

$\epsilon$ = 2'ye göre neredeyse üç kat daha gizlidir.
- $\epsilon^2=7.39$
$\epsilon$ = 10'a göre 8.000'den fazla kez daha gizlidir.
- $\epsilon^10=22000$

K-anonimlik ve farklılaşmalı gizlilik

k-anonimlik "sentaktik" güvenceler sağlar

Hâlâ yaygın
Birçok durumda yetersiz

Farklılaşmalı gizlilik güncel fiili modeldir

Şirketlerin tercihi: Apple, Uber, Google
Yayınlardaki gizlilik kaybı tam ölçülebilir

diffprivlib'e giriş

IBM'den diffprivlib v0.3

IBM logosu

Histogramlar

# Get counts and bars for non-private histogram of salaries
counts, bins = np.histogram(salaries)


# Normalize counts to get proportions of the height
proportions = counts / counts.sum()


# Draw the histogram of proportions
plt.bar(bins[:-1], height=proportions, width=(bins[1] - bins[0]))
plt.show()

Histogramlar

Ortaya çıkan gizli olmayan histogram

Gizli histogram

import diffprivlib.tools


# Get counts and bars for private histogram of salaries with epsilon of 0.1
dp_counts, dp_bins = tools.histogram(salaries, epsilon=0.1)


# Normalize counts to get proportions
dp_proportions = dp_counts / dp_counts.sum()


# Draw the histogram of proportions and see differences
plt.bar(dp_bins[:-1], dp_proportions, width=(dp_bins[1] - dp_bins[0]))
plt.show()

Gizli histogram

Gizli olmayan histogram Ortaya çıkan gizli olmayan histogram

Ortaya çıkan gizli histogram

Hadi pratik yapalım!

Python ile Veri Gizliliği ve Anonimleştirme