Curățarea și accesarea datelor

Lucrul cu date categoriale în Python

Kasey Jones

Research Data Scientist

Probleme posibile cu datele categoriale

1) Valori inconsistente: "Ham", "ham", " Ham"

2) Valori greșit scrise: "Ham", "Hma"

3) dtype incorect: df['Our Column'].dtype

dtype('O')
Lucrul cu date categoriale în Python

Identificarea problemelor

Utilizați una dintre:

  • Series.cat.categories
  • Series.value_counts()
dogs["get_along_cats"].value_counts()
No     2503
yes     275
no      156
Noo       2
 NO       1
Lucrul cu date categoriale în Python

Corectarea problemelor: spații

Eliminarea spațiilor: .strip()

dogs["get_along_cats"] = dogs["get_along_cats"].str.strip()

Verificarea frecvențelor:

dogs["get_along_cats"].value_counts()
No     2503
yes     275
no      156
Noo       2
NO        1   # < ---- no more whitespace
Lucrul cu date categoriale în Python

Corectarea problemelor: majuscule

Majuscule: .title(), .upper(), .lower()

dogs["get_along_cats"] = dogs["get_along_cats"].str.title()

Verificarea frecvențelor:

dogs["get_along_cats"].value_counts()
No     2660 
Yes     275
Noo       2
Lucrul cu date categoriale în Python

Corectarea problemelor: cuvinte greșit scrise

Corectarea unei greșeli cu .replace()

replace_map = {"Noo": "No"}
dogs["get_along_cats"].replace(replace_map, inplace=True)

Verificarea frecvențelor:

dogs["get_along_cats"].value_counts()
No     2662
Yes     275
Lucrul cu date categoriale în Python

Verificarea tipului de date

Verificarea dtype

dogs["get_along_cats"].dtype
dtype('O')

Convertire înapoi la categorie

dogs["get_along_cats"] = dogs["get_along_cats"].astype("category")
Lucrul cu date categoriale în Python

Utilizarea obiectului accessor str

Căutarea unui șir de caractere

dogs["breed"].str.contains("Shepherd", regex=False)
0        False
1        False
2        False
...
2935     False
2936     True
Lucrul cu date categoriale în Python

Accesarea datelor cu loc

Accesarea valorilor din Series după categorie

dogs.loc[dogs["get_along_cats"] == "Yes", "size"]

Nr. de apariții în Series:

dogs.loc[dogs["get_along_cats"] == "Yes", "size"].value_counts(sort=False)
small      69
medium    169
large      37
Lucrul cu date categoriale în Python

Exersați curățarea și accesarea

Lucrul cu date categoriale în Python

Preparing Video For Download...