प्राइवेसी बजट

Python में डेटा प्राइवेसी और अज्ञातिकरण

Rebeca Gonzalez

Instructor

Differential privacy की परिभाषा

Cynthia Dwork ने differential privacy को गणितीय परिभाषा से समझाया।

डायग्राम, जो दिखाता है कि differentially private मैकेनिज़्म का आउटपुट मूल डेटासेट में किसी के होने या न होने पर लगभग एक-सा रहता है

Epsilon और सटीकता सबसे अहम मात्राएँ हैं।

$\epsilon$ प्राइवेसी पैरामीटर

प्राइवेसी लॉस का एक मीट्रिक
मान जितना छोटा, प्राइवेसी सुरक्षा उतनी बेहतर

प्राइवेसी बजट

बाएँ तरफ़ डेटा क्यूरेटर का चित्र

प्राइवेसी बजट

बाएँ डेटा क्यूरेटर और एक थर्ड-पार्टी व्यक्ति। डेटाबेस पर क्वेरी दर्शाने वाले तीर के ऊपर epsilon का मान 1

प्राइवेसी बजट

बाएँ डेटा क्यूरेटर और एक थर्ड-पार्टी व्यक्ति। एक और तीर, जिसके ऊपर epsilon = 1 है, दूसरी क्वेरी दर्शाता हुआ एक ही निजी क्वेरी $\epsilon$ = 1 के साथ दो बार करने पर, यह $\epsilon$ = 2 की प्राइवेसी वाली एक क्वेरी जैसा प्रभाव देता है।

प्राइवेसी बजट

थर्ड-पार्टी द्वारा पहले लिए गए डेटा पर गणना करते हुए चित्र थर्ड-पार्टी कई उत्तरों का औसत लेकर शोर घटा सकती है।

प्राइवेसी बजट

किसी भी व्यक्ति या समूह पर अनुमत कुल प्राइवेसी लॉस की सीमा
डेटा पर की गई क्वेरियों को ट्रैक करें

एक टीम द्वारा डेटाबेस से डेटा निकालना, जो उत्तर देने से पहले शोर जोड़ता है, का डायग्राम

कितनी प्राइवेसी काफ़ी है?

इसकी गुणवत्ता क्वेरी और डेटा दोनों पर निर्भर करती है
epsilon के मानों की रेंज काफ़ी बड़ी हो सकती है

कितनी प्राइवेसी काफ़ी है?

Epsilon $\epsilon$

0 से 1 के बीच के मान बहुत अच्छे माने जाते हैं
10 से ऊपर के मान अच्छे नहीं हैं
1 से 10 के बीच के मान "कुछ न होने से बेहतर" हैं

याद रखें, epsilon एक्सपोनेंशियल है।

$\epsilon$ = 1 वाला सिस्टम, $\epsilon$ = 10 की तुलना में 8,000 गुना से अधिक निजी है।

कितनी प्राइवेसी काफ़ी है?

2017 में, कहा गया कि Apple प्रतिदिन epsilon = 14 का प्राइवेसी बजट इस्तेमाल कर रहा था।
Emoji सुझावों के लिए, Apple epsilon = 4 का प्राइवेसी बजट उपयोग करता है और प्रति दिन एक योगदान भेजता है।

¹ Apple द्वारा एकत्र किए गए डेटा के अनुसार US English बोलने वालों के शीर्ष इमोजी का स्क्रीनशॉट।

प्राइवेसी बजट: इसे कैसे ट्रैक करें

from diffprivlib import BudgetAccountant


acc = BudgetAccountant(epsilon=5)
acc

BudgetAccountant(epsilon=5)

प्राइवेसी बजट: इसे कैसे ट्रैक करें

# Compute a private mean of the salaries using epsilon of 0.5
# Use the Budget Accountant acc and set bounds to be from 0 to 230000
dp_mean = tools.mean(salaries, epsilon=0.5, accountant=acc, bounds=(0, 230000))


# Print the resulting private mean 
print("Private mean: ", dp_mean)

Private mean: 82524.72611901595

प्राइवेसी बजट: इसे कैसे ट्रैक करें

# Total privacy spent 
print("Total spent: ", acc.total())


# Privacy budget remaining
print("Remaining budget: ", acc.remaining())


# Total number of queries done so far
print("Number of queries recorded: ", len(acc))

Total spent: (epsilon=0.5, delta=0.0)

Remaining budget: (epsilon=4.5, delta=1.0)

Number of queries recorded: 1

প্রाइवेसी बजट: इसे कैसे ट्रैक करें

# Privacy budget remaining for 2 queries
print("Remaining budget for 2 queries: ", acc.remaining(2))

Remaining budget for 2 queries: (epsilon=2.25, delta=1.0)

अभ्यास करते हैं!

Python में डेटा प्राइवेसी और अज्ञातिकरण