Pulire i dati testuali
Pulizia dei dati in R
Maggie Matsui
Content Developer @ DataCamp
Che cosa sono i dati testuali?
| Tipo di dato | Valori di esempio |
|---|---|
| Nomi | "Veronica Hopkins", "Josiah", ... |
| Numeri di telefono | "6171679912", "(868) 949-4489", ... |
"[email protected]", "[email protected]", ... |
|
| Password | "JZY46TVG8SM", "iamjosiah21", ... |
| Commenti/Recensioni | "great service!", "This product broke after 2 days", ... |
Problemi dei dati non strutturati
- Incoerenze di formattazione
"6171679912"vs"(868) 949-4489""9239 5849 3712 0039"vs"4490459957881031"
- Incoerenze informative
+1 617-167-9912vs617-167-9912"Veronica Hopkins"vs"Josiah"
- Dati non validi
- Numero di telefono
"0492"troppo corto - CAP
"19888"inesistente
- Numero di telefono
Dati dei clienti
customers
# A tibble: 99 x 3
name company credit_card
<chr> <chr> <chr>
1 Galena In Magna Associates 5171 5854 8986 1916
2 MacKenzie Iaculis Ltd 5128-5078-8008-5824
3 Megan Acosta Semper LLC 5502 4529 0732 1744
4 Phoebe Delacruz Sit Amet Nulla Limited 5419-7308-7424-0944
5 Jessica Pellentesque Sed Ltd 5419 2949 5508 9530
# ... con altre 95 righe
Rilevare numeri di carta con trattini
str_detect(customers$credit_card, "-")
FALSE TRUE FALSE TRUE FALSE TRUE TRUE FALSE FALSE TRUE TRUE TRUE FALSE ...
customers %>%
filter(str_detect(credit_card, "-"))
name company credit_card
1 MacKenzie Iaculis Ltd 5128-5078-8008-5824
2 Phoebe Delacruz Sit Amet Nulla Limited 5419-7308-7424-0944
3 Abel Lorem PC 5211-6023-0805-0217
...
Sostituire i trattini
customers %>%mutate(credit_card_spaces = str_replace_all(credit_card, "-", " "))
name company credit_card_spaces
1 Galena In Magna Associates 5171 5854 8986 1916
2 MacKenzie Iaculis Ltd 5128 5078 8008 5824
3 Megan Acosta Semper LLC 5502 4529 0732 1744
4 Phoebe Delacruz Sit Amet Nulla Limited 5419 7308 7424 0944
5 Jessica Pellentesque Sed Ltd 5419 2949 5508 9530
...
Rimuovere trattini e spazi
credit_card_clean <- customers$credit_card %>%str_remove_all("-") %>% str_remove_all(" ")customers %>% mutate(credit_card = credit_card_clean)
name company credit_card
1 Galena In Magna Associates 5171585489861916
2 MacKenzie Iaculis Ltd 5128507880085824
3 Megan Acosta Semper LLC 5502452907321744
...
Trovare carte non valide
str_length(customers$credit_card)
16 16 16 16 16 16 16 16 16 16 16 16 12 16 16 16 16 16 16 16 16 16 16 16 16 ...
customers %>%
filter(str_length(credit_card) != 16)
name company credit_card
1 Jerry Russell Sed Eu Company 516294099537
2 Ivor Christian Ut Tincidunt Incorporated 544571330015
3 Francesca Drake Etiam Consulting 517394144089
Rimuovere le carte non valide
customers %>%
filter(str_length(credit_card) == 16)
name company credit_card
1 Galena In Magna Associates 5171585489861916
2 MacKenzie Iaculis Ltd 5128507880085824
3 Megan Acosta Semper LLC 5502452907321744
4 Phoebe Delacruz Sit Amet Nulla Limited 5419730874240944
5 Jessica Pellentesque Sed Ltd 5419294955089530
...
Problemi testuali più complessi
- Una espressione regolare è una sequenza di caratteri che permette ricerche robuste in una stringa.
- Alcuni caratteri sono trattati in modo speciale nelle espressioni regolari:
(,),[,],$,.,+,*, e altri
- Le funzioni di
stringrusano espressioni regolari - Per cercare questi caratteri usa
fixed():str_detect(column, fixed("$"))
Approfondisci in String Manipulation with stringr in R e Intermediate Regular Expressions in R
Esercitiamoci!
Pulizia dei dati in R
