Dividindo dados de colunas

Limpeza de dados em bancos de dados PostgreSQL

Darryl Reeves, Ph.D.

Industry Assistant Professor, New York University

Dividindo colunas

 camis    | inspection_date |                    violation                    | ... 
 ---------+-----------------+-------------------------------------------------+-----
 ...      | ...             | ...                                             | ...
 50038736 | 03/29/2018      | 09B Thawing procedures                          | ...
 50033304 | 12/18/2019      | 02B Hot food item not held at or above 140º ... | ...
 50081658 | 12/13/2018      | 06F Wiping cloths soiled or not stored in sa... | ...
 50033733 | 02/12/2019      | 10B Plumbing not properly installed or maint... | ...
 40559634 | 08/22/2017      | 04N Filth flies or food/refuse/sewage-associ... | ...
 ...      | ...             | ...                                             | ...
Limpeza de dados em bancos de dados PostgreSQL

Encontrando a posição inicial com STRPOS()

STRPOS(source_string, search_string)

Um diagrama de uma string de violação "09B Thawing procedures". O diagrama inclui números de índice abaixo: 1 no 0 do texto, 4 no primeiro espaço e 22 no s que encerra a string.

SELECT
  STRPOS('09B Thawing procedures', ' ');

4
Limpeza de dados em bancos de dados PostgreSQL

Encontrando a posição inicial com STRPOS()

Um diagrama de uma string de violação "09B Thawing procedures". O diagrama inclui números de índice abaixo: 1 no 0 do texto, 4 no primeiro espaço e 22 no s que encerra a string.

SELECT
  STRPOS('09B Thawing procedures', '?');

0
Limpeza de dados em bancos de dados PostgreSQL

Encontrando a posição inicial com STRPOS()

Um diagrama de uma string de violação "09B Thawing procedures". O diagrama inclui números de índice abaixo: 1 no 0 do texto, 4 no primeiro espaço e 22 no s que encerra a string.

SELECT
  STRPOS('09B Thawing procedures', ' ');

4
Limpeza de dados em bancos de dados PostgreSQL

Extraindo uma substring com SUBSTRING()

SUBSTRING(source_string FROM start_pos FOR num_chars)

Limpeza de dados em bancos de dados PostgreSQL

Extraindo uma substring com SUBSTRING()

SUBSTRING('Homerun' FROM 1 FOR 4) → Home

Um diagrama de uma string de violação "09B Thawing procedures". O diagrama inclui números de índice abaixo: 1 no 0 do texto, 4 no primeiro espaço e 22 no s que encerra a string.

SELECT
  SUBSTRING(
      '09B Thawing procedures'
      FROM 1
      FOR STRPOS('09B Thawing procedures', ' ') - 1
  );

09B
Limpeza de dados em bancos de dados PostgreSQL

Extraindo uma substring com SUBSTRING()

Um diagrama de uma string de violação "09B Thawing procedures". O diagrama inclui números de índice abaixo. Um par de setas azuis indica onde fica a descrição da violação, cobrindo só essa parte da string.

Requisitos:

  • Posição inicial da descrição da violação
  • Número de caracteres na descrição
SELECT
  STRPOS('09B Thawing procedures', ' ') + 1;

5
Limpeza de dados em bancos de dados PostgreSQL

Calculando o tamanho de uma string com LENGTH()

Um diagrama de uma string de violação "09B Thawing procedures". O diagrama inclui números de índice abaixo. A string "number of characters?" aparece acima da parte da descrição da violação.

LENGTH(string) → INTEGER

SELECT LENGTH('hello')

5
Limpeza de dados em bancos de dados PostgreSQL

Calculando o tamanho de uma string com LENGTH()

LENGTH('09B Thawing procedures') → 22

STRPOS('09B Thawing procedures', ' ') → 4

LENGTH('09B Thawing procedures') - STRPOS('09B Thawing procedures', ' ') → 18

LENGTH('Thawing procedures') → 18

Limpeza de dados em bancos de dados PostgreSQL

Calculando o tamanho de uma string com LENGTH()

SELECT 
    LENGTH('09B Thawing procedures') - 
    STRPOS('09B Thawing procedures', ' ');

18

Um diagrama de uma string de violação "09B Thawing procedures". O diagrama inclui números de índice abaixo. Um par de setas azuis indica onde fica a descrição da violação, cobrindo só essa parte da string.

Limpeza de dados em bancos de dados PostgreSQL

Juntando as peças

SELECT 
    SUBSTRING(
      '09B Thawing procedures'
      FROM
        STRPOS('09B Thawing procedures', ' ')
        + 1
      FOR
        LENGTH('09B Thawing procedures')
        - STRPOS('09B Thawing procedures', ' ')
    );

Thawing procedures
Limpeza de dados em bancos de dados PostgreSQL

Dividindo a coluna violation

SELECT 
    camis, 
    inspection_date, 

    SUBSTRING(
      violation 
      FROM 1 
      FOR STRPOS(violation, ' ') - 1
    ) AS violation_code, 

    SUBSTRING(
      violation 
      FROM STRPOS(violation, ' ') + 1 
      FOR LENGTH(violation) - STRPOS(violation, ' ')
    ) AS violation_description 
FROM 
    restaurant_inspection;
Limpeza de dados em bancos de dados PostgreSQL

Dividindo a coluna violation

 camis    | inspection_date |                    violation                    | ... 
 ---------+-----------------+-------------------------------------------------+-----
 ...      | ...             | ...                                             | ...
 50038736 | 03/29/2018      | 09B Thawing procedures                          | ...
 50033304 | 12/18/2019      | 02B Hot food item not held at or above 140º ... | ...
 50081658 | 12/13/2018      | 06F Wiping cloths soiled or not stored in sa... | ...
 50033733 | 02/12/2019      | 10B Plumbing not properly installed or maint... | ...
 40559634 | 08/22/2017      | 04N Filth flies or food/refuse/sewage-associ... | ...
 ...      | ...             | ...                                             | ...
Limpeza de dados em bancos de dados PostgreSQL

Dividindo a coluna violation

 camis    | inspection_date | violation_code |            violation_description            | ... 
 ---------+-----------------+----------------+---------------------------------------------+-----
 ...      | ...             | ...            | ...                                         | ...
 50038736 | 03/29/2018      | 09B            | Thawing procedures                          | ...
 50033304 | 12/18/2019      | 02B            | Hot food item not held at or above 140º ... | ...
 50081658 | 12/13/2018      | 06F            | Wiping cloths soiled or not stored in sa... | ...
 50033733 | 02/12/2019      | 10B            | Plumbing not properly installed or maint... | ...
 40559634 | 08/22/2017      | 04N            | Filth flies or food/refuse/sewage-associ... | ...
 ...      | ...             | ...            | ...                                         | ...
Limpeza de dados em bancos de dados PostgreSQL

Vamos praticar!

Limpeza de dados em bancos de dados PostgreSQL

Preparing Video For Download...