階層によるデータの一般化

Pythonで学ぶデータプライバシーと匿名化

Rebeca Gonzalez

Data engineer

データの一般化

データ値をより粗い値に置き換えます。

"Dancer" -> "Artist"
"Archaeologist" -> "Scientist"
"Allergist" -> "Doctor"

階層によるデータ一般化

左に職業一覧、右に上位カテゴリを示す画像。

難民ステータスのデータセット

# データセットを確認
refugee_df.head()

     Nationality    Gender    RefugeeStatus    Year
0    russian        F         0                2010
1    colombian      M         0                2008
2    vietnamese     F         1                2008
3    korean         M         0                2010
4    ethiopian      F         1                2012

データセットの確認

# k を 4 に設定
k = 4


# Nationality × Gender の一意組み合わせ数を算出
df_count = df.groupby(['Nationality', 'Gender']).size().reset_index(name='Count')


# 出現回数が k 未満の行を抽出
df_count[df_count['Count'] < k]

      Nationality   Gender    Count
4     colombian     F         2
7     cuban         M         2
12    liberian      F         2
14    mexican       F         3
15    mexican       M         3
17    russian       M         1
20    ukranian      F         3
21    ukranian      M         1

階層によるデータ一般化

# 組み合わせの頻度を確認
df['Nationality'].value_counts()

belarusian    14
korean        14
ethiopian     10
chinese       10
vietnamese     9
taiwanese      9
colombian      6
cuban          6
russian        6
mexican        6
liberian       6
ukranian       4
Name: Nationality, dtype: int64

階層によるデータ一般化

# 原産国の階層を作成
hierarchies = {'Europe': ['ukranian','russian','belarusian'], 
               'America':['mexican','colombian','cuban'],
               'Asia': ['taiwanese','korean','chinese'],
               'Africa': ['ethiopian','liberian']}

階層によるデータ一般化

# 各国の親階層を作成
origin_hierarchy = {}
for (key, countries) in hierarchies.items():
    for country in countries:
        origin_hierarchy[country] = key

origin_hierarchy

{'belarusian': 'Europe',
 'chinese': 'Asia',
 'colombian': 'America',
 'cuban': 'America',
 'ethiopian': 'Africa',
 'korean': 'Asia',
 'liberian': 'Africa',
 'mexican': 'America',
 'russian': 'Europe',
 'taiwanese': 'Asia',
 'ukranian': 'Europe'}

階層によるデータ一般化

# Nationality に origin_hierarchy の一般化を適用
df['Nationality_generalized'] = df['Nationality'].map(origin_hierarchy)


# 結果データを確認
df.head()

     Nationality   Gender    RefugeeStatus    Year    Nationality_generalized
0    korean        M         1                2019    Asia
1    ethiopian     M         1                2003    Africa
2    cuban         M         0                2015    America
3    cuban         F         0                2001    America
4    korean        M         0                2013    Asia

階層によるデータ一般化

# Nationality_generalized × Gender の一意組み合わせ数を算出
df_count = df.groupby(['Nationality_generalized', 'Gender']).size()
                                                            .reset_index(name='Count')

# 出現回数が k 未満の組み合わせを抽出
df_count[df_count['Count'] < k]

    Nationality_generalized    Gender    Count

K-匿名化の詳細

種類:

制約アプローチ
Mondrian 多次元アプローチ

K-匿名化は安全か？

データ内の機微情報に多様性がないとプライバシー侵害が起きうる表の例。Bob が表にいて、同じ病気の k 人グループに属すため、特定の病気と断定できる例。

練習に進みましょう！

Pythonで学ぶデータプライバシーと匿名化