차등 개인정보 보호 소개

Python으로 배우는 데이터 프라이버시와 익명화

Rebeca Gonzalez

Instructor

차등 개인정보 보호(DP)란?

염색을 하시나요?

$$ $$ 두 버튼 중 체크된 것을 가리키는 손 이미지

금발 여성 그림

차등 개인정보 보호(DP)란?

동전 이미지

차등 개인정보 보호(DP)란?

가지 왼쪽에서 앞면을 가리키는 동전 다이어그램

차등 개인정보 보호(DP)란?

가지 왼쪽에서 앞면을 가리키는 동전 다이어그램. 이어서 "실제 답" 문구

차등 개인정보 보호(DP)란?

가지 오른쪽에서 뒷면을 가리키는 동전 다이어그램.

차등 개인정보 보호(DP)란?

가지 오른쪽에서 뒷면을 가리키는 동전 다이어그램. 이어서 앞면과 뒷면 옵션

차등 개인정보 보호(DP)란?

가지 오른쪽에서 뒷면을 가리키는 동전 다이어그램. 이어서 앞면과 뒷면 옵션. 앞면은 "아니오", 뒷면은 "예"

차등 개인정보 보호(DP)란?

차등 개인정보 보호는 개인정보 보호를 수학적으로 정의한 개념입니다.

반으로 나뉜 얼굴 그림. 오른쪽에 물음표

차등 개인정보 보호를 누가 사용하나요?

Apple의 이모지 키워드

전역 차등 개인정보 보호

신뢰 가능한 큐레이터가 데이터 보호
출력에 노이즈 추가

전역 차등 개인정보 보호 다이어그램

로컬 차등 개인정보 보호

신뢰 주체 없음
공유 전 노이즈 추가

로컬 차등 개인정보 보호 다이어그램

엡실론-차등 개인정보 보호

그리스 문자 엡실론 $\epsilon$: 공개 데이터의 프라이버시·노이즈 수준.

$\epsilon$이 클수록 정확도↑, 프라이버시↓
낮은 $\epsilon$은 무작위성↑

엡실론은 지수적으로 작동함

예: $\epsilon$ = 1

$\epsilon^1=2.72$

$\epsilon$ = 2보다 거의 3배 더 프라이버시 높음
- $\epsilon^2=7.39$
$\epsilon$ = 10보다 8,000배 이상 더 프라이버시 높음
- $\epsilon^10=22000$

k-익명성과 차등 개인정보 보호

k-익명성은 "구문적" 보장을 제공

여전히 널리 사용됨
많은 경우에 불충분함

차등 개인정보 보호는 사실상 표준 모델

기업 선호: Apple, Uber, Google
공개로 인한 프라이버시 저하를 정밀 계량 가능

diffprivlib 소개

IBM의 diffprivlib v0.3

IBM 로고

히스토그램

# Get counts and bars for non-private histogram of salaries
counts, bins = np.histogram(salaries)


# Normalize counts to get proportions of the height
proportions = counts / counts.sum()


# Draw the histogram of proportions
plt.bar(bins[:-1], height=proportions, width=(bins[1] - bins[0]))
plt.show()

히스토그램

비공개 히스토그램 결과

프라이빗 히스토그램

import diffprivlib.tools


# Get counts and bars for private histogram of salaries with epsilon of 0.1
dp_counts, dp_bins = tools.histogram(salaries, epsilon=0.1)


# Normalize counts to get proportions
dp_proportions = dp_counts / dp_counts.sum()


# Draw the histogram of proportions and see differences
plt.bar(dp_bins[:-1], dp_proportions, width=(dp_bins[1] - dp_bins[0]))
plt.show()

프라이빗 히스토그램

비공개 히스토그램 비공개 히스토그램 결과

프라이빗 히스토그램 결과

Ayo berlatih!

Python으로 배우는 데이터 프라이버시와 익명화