Scinder les données de colonnes

Nettoyer des données dans des bases PostgreSQL

Darryl Reeves, Ph.D.

Industry Assistant Professor, New York University

Scinder des colonnes

 camis    | inspection_date |                    violation                    | ... 
 ---------+-----------------+-------------------------------------------------+-----
 ...      | ...             | ...                                             | ...
 50038736 | 03/29/2018      | 09B Thawing procedures                          | ...
 50033304 | 12/18/2019      | 02B Hot food item not held at or above 140º ... | ...
 50081658 | 12/13/2018      | 06F Wiping cloths soiled or not stored in sa... | ...
 50033733 | 02/12/2019      | 10B Plumbing not properly installed or maint... | ...
 40559634 | 08/22/2017      | 04N Filth flies or food/refuse/sewage-associ... | ...
 ...      | ...             | ...                                             | ...
Nettoyer des données dans des bases PostgreSQL

Trouver la position de début avec STRPOS()

STRPOS(source_string, search_string)

Un schéma d'une chaîne d'infraction « 09B Thawing procedures ». Le schéma indique des index en dessous : 1 au 0 du texte, 4 au premier espace, et 22 au s final.

SELECT
  STRPOS('09B Thawing procedures', ' ');
4
Nettoyer des données dans des bases PostgreSQL

Trouver la position de début avec STRPOS()

Un schéma d'une chaîne d'infraction « 09B Thawing procedures ». Le schéma indique des index en dessous : 1 au 0 du texte, 4 au premier espace, et 22 au s final.

SELECT
  STRPOS('09B Thawing procedures', '?');
0
Nettoyer des données dans des bases PostgreSQL

Trouver la position de début avec STRPOS()

Un schéma d'une chaîne d'infraction « 09B Thawing procedures ». Le schéma indique des index en dessous : 1 au 0 du texte, 4 au premier espace, et 22 au s final.

SELECT
  STRPOS('09B Thawing procedures', ' ');
4
Nettoyer des données dans des bases PostgreSQL

Extraire une sous-chaîne avec SUBSTRING()

SUBSTRING(source_string FROM start_pos FOR num_chars)

Nettoyer des données dans des bases PostgreSQL

Extraire une sous-chaîne avec SUBSTRING()

SUBSTRING('Homerun' FROM 1 FOR 4) → Home

Un schéma d'une chaîne d'infraction « 09B Thawing procedures ». Le schéma indique des index en dessous : 1 au 0 du texte, 4 au premier espace, et 22 au s final.

SELECT
  SUBSTRING(
      '09B Thawing procedures'
      FROM 1
      FOR STRPOS('09B Thawing procedures', ' ') - 1
  );
09B
Nettoyer des données dans des bases PostgreSQL

Extraire une sous-chaîne avec SUBSTRING()

Un schéma d'une chaîne d'infraction « 09B Thawing procedures ». Le schéma indique des index en dessous : 1 au 0 du texte, 4 au premier espace, et 22 au s final. Deux flèches bleues indiquent la description d'infraction correspondant à cette partie de la chaîne.

Pré-requis :

  • Position de départ de la description
  • Nombre de caractères de la description
SELECT
  STRPOS('09B Thawing procedures', ' ') + 1;
5
Nettoyer des données dans des bases PostgreSQL

Calculer la longueur d'une chaîne avec LENGTH()

Un schéma d'une chaîne d'infraction « 09B Thawing procedures ». Le schéma indique des index en dessous : 1 au 0 du texte, 4 au premier espace, et 22 au s final. Le texte « number of characters? » figure au-dessus de la partie description de l'infraction.

LENGTH(string) → INTEGER

SELECT LENGTH('hello')
5
Nettoyer des données dans des bases PostgreSQL

Calculer la longueur d'une chaîne avec LENGTH()

LENGTH('09B Thawing procedures') → 22

STRPOS('09B Thawing procedures', ' ') → 4

LENGTH('09B Thawing procedures') - STRPOS('09B Thawing procedures', ' ') → 18

LENGTH('Thawing procedures') → 18

Nettoyer des données dans des bases PostgreSQL

Calculer la longueur d'une chaîne avec LENGTH()

SELECT 
    LENGTH('09B Thawing procedures') - 
    STRPOS('09B Thawing procedures', ' ');
18

Un schéma d'une chaîne d'infraction « 09B Thawing procedures ». Le schéma indique des index en dessous : 1 au 0 du texte, 4 au premier espace, et 22 au s final. Deux flèches bleues indiquent la description d'infraction correspondant à cette partie de la chaîne.

Nettoyer des données dans des bases PostgreSQL

Assembler les éléments

SELECT 
    SUBSTRING(
      '09B Thawing procedures'
      FROM
        STRPOS('09B Thawing procedures', ' ')
        + 1
      FOR
        LENGTH('09B Thawing procedures')
        - STRPOS('09B Thawing procedures', ' ')
    );
Thawing procedures
Nettoyer des données dans des bases PostgreSQL

Scinder la colonne violation

SELECT 
    camis, 
    inspection_date, 

    SUBSTRING(
      violation 
      FROM 1 
      FOR STRPOS(violation, ' ') - 1
    ) AS violation_code, 

    SUBSTRING(
      violation 
      FROM STRPOS(violation, ' ') + 1 
      FOR LENGTH(violation) - STRPOS(violation, ' ')
    ) AS violation_description 
FROM 
    restaurant_inspection;
Nettoyer des données dans des bases PostgreSQL

Scinder la colonne violation

 camis    | inspection_date |                    violation                    | ... 
 ---------+-----------------+-------------------------------------------------+-----
 ...      | ...             | ...                                             | ...
 50038736 | 03/29/2018      | 09B Thawing procedures                          | ...
 50033304 | 12/18/2019      | 02B Hot food item not held at or above 140º ... | ...
 50081658 | 12/13/2018      | 06F Wiping cloths soiled or not stored in sa... | ...
 50033733 | 02/12/2019      | 10B Plumbing not properly installed or maint... | ...
 40559634 | 08/22/2017      | 04N Filth flies or food/refuse/sewage-associ... | ...
 ...      | ...             | ...                                             | ...
Nettoyer des données dans des bases PostgreSQL

Scinder la colonne violation

 camis    | inspection_date | violation_code |            violation_description            | ... 
 ---------+-----------------+----------------+---------------------------------------------+-----
 ...      | ...             | ...            | ...                                         | ...
 50038736 | 03/29/2018      | 09B            | Thawing procedures                          | ...
 50033304 | 12/18/2019      | 02B            | Hot food item not held at or above 140º ... | ...
 50081658 | 12/13/2018      | 06F            | Wiping cloths soiled or not stored in sa... | ...
 50033733 | 02/12/2019      | 10B            | Plumbing not properly installed or maint... | ...
 40559634 | 08/22/2017      | 04N            | Filth flies or food/refuse/sewage-associ... | ...
 ...      | ...             | ...            | ...                                         | ...
Nettoyer des données dans des bases PostgreSQL

Passons à la pratique !

Nettoyer des données dans des bases PostgreSQL

Preparing Video For Download...