Differential privacy का परिचय

Python में डेटा प्राइवेसी और अज्ञातिकरण

Rebeca Gonzalez

Instructor

Differential privacy (DP) क्या है?

क्या आप बालों में डाई लगाते हैं?

$$ $$ दो बटनों में से एक पर इशारा करती उंगली, चेकमार्क वाले बटन को चुनते हुए

सुनहरे बालों वाली महिला का चित्र

Differential privacy (DP) क्या है?

सिक्के की तस्वीर

Differential privacy (DP) क्या है?

एक शाखा पर "heads" शब्द की ओर इशारा करता सिक्के का आरेख, बाईं ओर

Differential privacy (DP) क्या है?

एक शाखा पर heads की ओर इशारा करता सिक्के का आरेख, बाईं ओर। फिर "real answer" वाक्यांश आता है

Differential privacy (DP) क्या है?

शाखाओं की दाईं ओर tails की ओर इशारा करता सिक्के का आरेख.

Differential privacy (DP) क्या है?

शाखाओं की दाईं ओर tails की ओर इशारा करता सिक्के का आरेख. आगे विकल्प head और tails

Differential privacy (DP) क्या है?

शाखाओं की दाईं ओर tails की ओर इशारा करता सिक्के का आरेख. आगे विकल्प head और tails. Heads के अंत में "no" और tails के साथ "yes"

Differential privacy (DP) क्या है?

Differential privacy गोपनीयता की एक गणितीय परिभाषा है.

आधे हिस्सों में बँटा चेहरा। दाईं ओर प्रश्नचिह्न

Differential privacy (DP) कौन उपयोग करता है?

Apple का इमोजी कीवर्ड

Global differential privacy

विश्वसनीय क्यूरेटर डेटा की सुरक्षा करता है
आउटपुट में noise जोड़ा जाता है

Global differential privacy का आरेख

Local differential privacy

कोई विश्वसनीय पक्ष नहीं.
साझा करने से पहले noise जोड़ना.

Local differential privacy का आरेख

Epsilon-differential privacy

ग्रीक अक्षर epsilon $\epsilon$: किसी data release की privacy और noise का माप.

$\epsilon$ के उच्च मान का मतलब ज्यादा सही और कम private डेटा
कम-$\epsilon$ सिस्टम काफी यादृच्छिक डेटा देते हैं

Epsilon घातांकीय है

उदाहरण के लिए $\epsilon$ = 1.

$\epsilon^1=2.72$

यह $\epsilon$ = 2 से लगभग तीन गुना अधिक private है.
- $\epsilon^2=7.39$
और $\epsilon$ = 10 से 8,000 गुना से अधिक private.
- $\epsilon^10=22000$

K-anonymity और differential privacy

k-anonymity "syntactic" गारंटी देता है

आज भी व्यापक रूप से उपयोग होता है
कई स्थितियों में पर्याप्त नहीं

Differential privacy मौजूदा de-facto privacy मॉडल है

कंपनियों की पसंद: Apple, Uber, Google
रिलीज़ की privacy गिरावट को ठीक-ठीक मापा जा सकता है

diffprivlib का परिचय

diffprivlib v0.3 (IBM से)

IBM का लोगो

Histograms

# Get counts and bars for non-private histogram of salaries
counts, bins = np.histogram(salaries)


# Normalize counts to get proportions of the height
proportions = counts / counts.sum()


# Draw the histogram of proportions
plt.bar(bins[:-1], height=proportions, width=(bins[1] - bins[0]))
plt.show()

Histograms

नॉन-प्राइवेट histogram का परिणाम

प्राइवेट histogram

import diffprivlib.tools


# Get counts and bars for private histogram of salaries with epsilon of 0.1
dp_counts, dp_bins = tools.histogram(salaries, epsilon=0.1)


# Normalize counts to get proportions
dp_proportions = dp_counts / dp_counts.sum()


# Draw the histogram of proportions and see differences
plt.bar(dp_bins[:-1], dp_proportions, width=(dp_bins[1] - dp_bins[0]))
plt.show()

प्राइवेट histogram

Non-private histogram नॉन-प्राइवेट histogram का परिणाम

Resulting private histogram प्राइवेट histogram का परिणाम

अभ्यास करते हैं!

Python में डेटा प्राइवेसी और अज्ञातिकरण