PCA för anonymisering
Dataintegritet och anonymisering i Python
Rebeca Gonzalez
Data engineer
Principalkomponentanalys (PCA)
$$ $$ En dimensionsreduktionsmetod som ofta används för att minska dimensionaliteten hos stora datamängder.
Datamaskering med PCA
PCA skapar nya "principalkomponenter" via linjära transformationer av de ursprungliga särdragen.
I en datamängd med öl konstruerar PCA nya särdrag. Till exempel:
$$ 2\times AlcoholicVolume - BitternessLevel$$
Datamaskering med PCA
Nya projektioner av data
Datamaskering med PCA
PCA utan dimensionsreduktion
$$
- Det är enbart en rotation av det ursprungliga utrymmet i datamängden.
- Avstånden bevaras därför.
- En fördel vid prediktiva uppgifter och algoritmer.
Datamaskering med PCA
- Om dessa värden publiceras utan förklaring kan algoritmer fortfarande tränas på dem och göra korrekta prediktioner.
- Angripare skulle inte kunna tolka de maskerade värdena.
Datamaskering med PCA
# Explore the dataset
heart_df.head()
age sex cp trestbps chol fbs restecg thalach exang oldpeak slope ca thal target
0 63 1 3 145 233 1 0 150 0 2.3 0 0 1 1
1 37 1 2 130 250 0 1 187 0 3.5 0 0 2 1
2 41 0 1 130 204 0 0 172 0 1.4 2 0 2 1
3 56 1 1 120 236 0 1 178 0 0.8 2 0 2 1
4 57 0 0 120 354 0 1 163 1 0.6 2 0 2 1
Datamaskering med PCA och Scikit-learn
# Obtain the data without the target column x_data = df.drop(['target'], axis = 1)# Target column as array of values y = df.target.values
Datamaskering med PCA och Scikit-learn
# Import PCA from Scikit-learn from sklearn.decomposition import PCA# Initialize PCA with number of components to be the same as the number of columns pca = PCA(n_components=len(x_data.columns))# Apply PCA to the data x_data_pca = pca.fit_transform(x_data)
Datamaskering med PCA och Scikit-learn
# See the data
x_data_pca
array([[-1.22673448e+01, 2.87383781e+00, 1.49698788e+01, ...,
7.31102828e-01, -2.90393586e-01, 5.12575925e-01],
[ 2.69013712e+00, -3.98713736e+01, 8.77882303e-01, ...,
4.04206943e-01, -4.25920179e-01, -1.48124511e-01],
[-4.29502141e+01, -2.36368199e+01, 1.75944589e+00, ...,
-9.15397287e-01, 2.17828257e-01, 7.97593843e-02],
...,
Datamaskering med PCA och Scikit-learn
# Create a DataFrame from the resulting PCA transformed data df_x_data_pca = pd.DataFrame(x_data_pca)# Inspect the shape of the dataset df_x_data_pca.shape
(1213, 13)
Datanyttighet efter PCA-datamaskering
- Utför klassificering med logistisk regression och undersök noggrannhetsförlust genom att jämföra ursprungliga och transformerade data.
$$
- Logistisk regression är en klassificeringsalgoritm som används för att förutsäga ett binärt utfall baserat på en uppsättning oberoende variabler.
Datanyttighet efter PCA-datamaskering
Utför klassificering med logistisk regression och undersök noggrannhetsförlust.
# Split the resulting dataset into training and test data x_train, x_test, y_train, y_test = train_test_split(x_data_pca, y, test_size=0.2)# Create the model lr = LogisticRegression(max_iter=200)# Fit train the model lr.fit(x_train,y_train)# Run the model and perform predictions to obtain accuracy score acc = lr.score(x_test, y_test) * 100 print("Test Accuracy is ", acc)
Test Accuracy is 85.24590163934425
Datanyttighet före PCA-datamaskering
Utför klassificering med logistisk regression och se noggrannheten med de ursprungliga data
# Split the resulting dataset into training and test data
x_train, x_test, y_train, y_test = train_test_split(x_data.to_numpy(),y,test_size = 0.2)
# Create the model
lr = LogisticRegression(max_iter=200)
# Fit train the model
lr.fit(x_train,y_train)
# Run the model and perform predictions to obtain accuracy score
acc = lr.score(x_test,y_test) * 100
print("Test Accuracy is ", acc)
Test Accuracy is 85.24590163934425
Nu kör vi en övning!
Dataintegritet och anonymisering i Python
