PCA для анонимизации
Конфиденциальность данных и анонимизация в Python
Rebeca Gonzalez
Data engineer
Метод главных компонент (PCA)
$$ $$ Метод снижения размерности, который часто применяется для работы с большими наборами данных.
Маскирование данных с PCA
PCA создаёт новые «главные компоненты» путём линейных преобразований исходных признаков.
В наборе данных о пиве PCA строит новые признаки. Например:
$$ 2\times AlcoholicVolume - BitternessLevel$$
Маскирование данных с PCA
Новые проекции данных
Маскирование данных с PCA
PCA без снижения размерности
$$
- Это лишь поворот исходного пространства в наборе данных.
- Расстояния при этом сохраняются.
- Что даёт преимущество для прогностических задач и алгоритмов.
Маскирование данных с PCA
- Если опубликовать полученные значения без пояснений, алгоритмы по-прежнему смогут на них обучаться и делать точные прогнозы.
- Злоумышленники не смогут интерпретировать замаскированные значения.
Маскирование данных с PCA
# Explore the dataset
heart_df.head()
age sex cp trestbps chol fbs restecg thalach exang oldpeak slope ca thal target
0 63 1 3 145 233 1 0 150 0 2.3 0 0 1 1
1 37 1 2 130 250 0 1 187 0 3.5 0 0 2 1
2 41 0 1 130 204 0 0 172 0 1.4 2 0 2 1
3 56 1 1 120 236 0 1 178 0 0.8 2 0 2 1
4 57 0 0 120 354 0 1 163 1 0.6 2 0 2 1
Маскирование данных с PCA и Scikit-learn
# Obtain the data without the target column x_data = df.drop(['target'], axis = 1)# Target column as array of values y = df.target.values
Маскирование данных с PCA и Scikit-learn
# Import PCA from Scikit-learn from sklearn.decomposition import PCA# Initialize PCA with number of components to be the same as the number of columns pca = PCA(n_components=len(x_data.columns))# Apply PCA to the data x_data_pca = pca.fit_transform(x_data)
Маскирование данных с PCA и Scikit-learn
# See the data
x_data_pca
array([[-1.22673448e+01, 2.87383781e+00, 1.49698788e+01, ...,
7.31102828e-01, -2.90393586e-01, 5.12575925e-01],
[ 2.69013712e+00, -3.98713736e+01, 8.77882303e-01, ...,
4.04206943e-01, -4.25920179e-01, -1.48124511e-01],
[-4.29502141e+01, -2.36368199e+01, 1.75944589e+00, ...,
-9.15397287e-01, 2.17828257e-01, 7.97593843e-02],
...,
Маскирование данных с PCA и Scikit-learn
# Create a DataFrame from the resulting PCA transformed data df_x_data_pca = pd.DataFrame(x_data_pca)# Inspect the shape of the dataset df_x_data_pca.shape
(1213, 13)
Полезность данных после маскирования с PCA
- Выполните классификацию с помощью логистической регрессии и оцените потерю точности, сравнив исходные и преобразованные данные.
$$
- Логистическая регрессия — алгоритм классификации, предназначенный для предсказания бинарного результата на основе набора независимых переменных.
Полезность данных после маскирования с PCA
Выполните классификацию с помощью логистической регрессии и оцените потерю точности.
# Split the resulting dataset into training and test data x_train, x_test, y_train, y_test = train_test_split(x_data_pca, y, test_size=0.2)# Create the model lr = LogisticRegression(max_iter=200)# Fit train the model lr.fit(x_train,y_train)# Run the model and perform predictions to obtain accuracy score acc = lr.score(x_test, y_test) * 100 print("Test Accuracy is ", acc)
Test Accuracy is 85.24590163934425
Полезность данных до маскирования с PCA
Выполните классификацию с помощью логистической регрессии и посмотрите результат на исходных данных
# Split the resulting dataset into training and test data
x_train, x_test, y_train, y_test = train_test_split(x_data.to_numpy(),y,test_size = 0.2)
# Create the model
lr = LogisticRegression(max_iter=200)
# Fit train the model
lr.fit(x_train,y_train)
# Run the model and perform predictions to obtain accuracy score
acc = lr.score(x_test,y_test) * 100
print("Test Accuracy is ", acc)
Test Accuracy is 85.24590163934425
Давайте потренируемся!
Конфиденциальность данных и анонимизация в Python
