Correspondência de padrões

Limpeza de dados em bancos de dados PostgreSQL

Darryl Reeves, Ph.D.

Industry Assistant Professor, New York University

Identificando padrões: um exemplo

 camis    |              name               | inspection_date | score | nta  | ... 
 ---------+---------------------------------+-----------------+-------+------+-----
 ...      | ...                             | ...             | ...   | ...  | ...
 41659848 | LA BRISA DEL CIBAO              | 01/30/2018      | 20    | QN26 | ...
 40961447 | MESON SEVILLA RESTAURANT        | 03/19/2019      | 50    | MN15 | ...
 50063071 | WA BAR                          | 05/23/2018      | 15    | MN17 | ...
 50034992 | EMPANADAS MONUMENTAL            | 06/21/2019      | 17    | MN35 | ...
 50095871 | ALPHONSO'S PIZZERIA & TRATTORIA | 01/16/2020      | 10    | MN28 | ...
 41104041 | THE SPARROW TAVERN              | 09/17/2019      | 13    | QN72 | ...
 50016937 | BURGER KING                     | 09/14/2018      | 12    | QN55 | ...
 50066469 | DARBAR'S CHICKEN & RIBS         | 08/07/2017      | 11    | QN55 | ...
 41195691 | F & J PINE RESTAURANT           | 05/02/2019      | 26    | BX49 | ...
 50015706 | EL RINCONCITO DE LOS SABORES    | 12/18/2019      | 20    | QN35 | ...
 ...      | ...                             | ...             | ..    | ...  | ...

¹ https://www1.nyc.gov/site/planning/data-maps/open-data/dwn-nynta.page

Identificando padrões: um exemplo

Prefixos válidos do código NTA

MN - Manhattan
BK - Brooklyn
BX - Bronx
QN - Queens
SI - Staten Island

Identificando padrões: um exemplo

Resultados da tabela com uma caixa vermelha destacando um código NTA inválido

O operador LIKE

SELECT * FROM restaurant_inspection WHERE nta LIKE 'QN544';

SELECT * FROM restaurant_inspection WHERE nta = 'QN544';

O operador LIKE

Caracteres de correspondência

% - corresponde a qualquer sequência de zero ou mais caracteres
_ (sublinhado) - corresponde a um único caractere

SELECT 
* 
FROM 
restaurant_inspection 
WHERE nta LIKE 'QN%';

SELECT 
* 
FROM 
restaurant_inspection 
WHERE nta LIKE 'QN%' 
AND nta NOT LIKE 'QN__';

Expressões regulares (REs)

Correspondência com LIKE é limitada
Padrões mais específicos podem ajudar
Expressões Regulares (REs) permitem padrões mais expressivos

O operador SIMILAR TO

Oferece recursos extras de correspondência de padrões

SELECT 
  camis, name, inspection_date, score, nta 
FROM 
  restaurant_inspection 
WHERE nta SIMILAR TO 'QN%' AND nta NOT SIMILAR TO 'QN__';

Noções básicas de REs

Metacaractere	Uso	Exemplo de RE	Exemplo de correspondência
`\d`	corresponde a um dígito (0-9)	`\d\d\d`	'345'
`?`	corresponde a 0 ou 1 do caractere anterior	`x\d?`	'x5'
`+`	corresponde a um ou mais do caractere anterior	`\d+`	'10'
`*`	corresponde a qualquer caractere 0 ou mais vezes	`\d*`	'3081'
`[]`	corresponde a qualquer caractere dentro dos colchetes	`[a-z]`	'f'

Usando REs com SIMILAR TO

SELECT 
    camis, name, inspection_date, score, nta 
FROM 
    restaurant_inspection 
WHERE nta SIMILAR TO 'QN%' AND nta NOT SIMILAR TO 'QN__';

SELECT 
    camis, name, inspection_date, score, nta 
FROM 
    restaurant_inspection 
WHERE 
    nta NOT SIMILAR TO '[A-Z][A-Z]\d\d';

 camis    |        name        | inspection_date | score | nta  
 ---------+--------------------+-----------------+-------+------
 41659848 | LA BRISA DEL CIBAO | 01/30/2018      | 20    | Q26
 41104041 | THE SPARROW TAVERN | 09/17/2019      | 13    | QN723

Vamos praticar!

Limpeza de dados em bancos de dados PostgreSQL