Redukcja wymiarowości: techniki wizualizacji

Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Lisa Stuart

Data Scientist

Po co redukować wymiarowość?

Przyspieszenie trenowania modeli ML
Wizualizacja
Poprawa dokładności

Techniki wizualizacji

PCA
t-SNE

Wizualizacja za pomocą PCA

Wykres PCA

¹ https://districtdatalabs.silvrback.com/principal-component-analysis-with-python

Wykres osypiska

¹ https://towardsdatascience.com/a-step-by-step-explanation-of-principal-component-analysis-b836fb9c97e2

t-SNE

Probabilistyczna
Pary punktów danych
Osadzanie w niskim wymiarze
Wykres osadzeń

Wizualizacja za pomocą t-SNE

# t-sne with loan data
from sklearn.manifold import TSNE
import seaborn as sns

loans =  pd.read_csv('loans_dataset.csv')

# Feature matrix
X = loans.drop('Loan Status', axis=1)

tsne = TSNE(n_components=2, verbose=1, perplexity=40)
tsne_results = tsne.fit_transform(X)

loans['t-SNE-PC-one'] = tsne_results[:,0]
loans['t-SNE-PC-two'] = tsne_results[:,1]


# t-sne viz
plt.figure(figsize=(16,10))
sns.scatterplot(
    x="t-SNE-PC-one", y="t-SNE-PC-two",
    hue="Loan Status",
    palette=sns.color_palette(["grey","blue"]),
    data=loans,
    legend="full",
    alpha=0.3
)

¹ https://scikit-learn.org/stable/modules/generated/sklearn.manifold.TSNE.html

Wizualizacja za pomocą t-SNE

Wykres t-SNE

PCA vs t-SNE – dane o cyfrach

PCA i t-SNE na zbiorze cyfr

¹ https://towardsdatascience.com/visualising-high-dimensional-datasets-using-pca-and-t-sne-in-python-8ef87e7915b

Czas na ćwiczenia!

Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie