Сопоставление с шаблоном

Очистка данных в базах данных PostgreSQL

Darryl Reeves, Ph.D.

Industry Assistant Professor, New York University

Поиск закономерностей: пример

 camis    |              name               | inspection_date | score | nta  | ... 
 ---------+---------------------------------+-----------------+-------+------+-----
 ...      | ...                             | ...             | ...   | ...  | ...
 41659848 | LA BRISA DEL CIBAO              | 01/30/2018      | 20    | QN26 | ...
 40961447 | MESON SEVILLA RESTAURANT        | 03/19/2019      | 50    | MN15 | ...
 50063071 | WA BAR                          | 05/23/2018      | 15    | MN17 | ...
 50034992 | EMPANADAS MONUMENTAL            | 06/21/2019      | 17    | MN35 | ...
 50095871 | ALPHONSO'S PIZZERIA & TRATTORIA | 01/16/2020      | 10    | MN28 | ...
 41104041 | THE SPARROW TAVERN              | 09/17/2019      | 13    | QN72 | ...
 50016937 | BURGER KING                     | 09/14/2018      | 12    | QN55 | ...
 50066469 | DARBAR'S CHICKEN & RIBS         | 08/07/2017      | 11    | QN55 | ...
 41195691 | F & J PINE RESTAURANT           | 05/02/2019      | 26    | BX49 | ...
 50015706 | EL RINCONCITO DE LOS SABORES    | 12/18/2019      | 20    | QN35 | ...
 ...      | ...                             | ...             | ..    | ...  | ...

¹ https://www1.nyc.gov/site/planning/data-maps/open-data/dwn-nynta.page

Поиск закономерностей: пример

Допустимые префиксы кода NTA

MN - Manhattan
BK - Brooklyn
BX - Bronx
QN - Queens
SI - Staten Island

Поиск закономерностей: пример

Результаты запроса с красной рамкой, выделяющей недопустимый код NTA

Оператор LIKE

SELECT * FROM restaurant_inspection WHERE nta LIKE 'QN544';

SELECT * FROM restaurant_inspection WHERE nta = 'QN544';

Оператор LIKE

Символы сопоставления с шаблоном

% — соответствует любой последовательности из нуля и более символов
_ (подчёркивание) — соответствует одному символу

SELECT 
* 
FROM 
restaurant_inspection 
WHERE nta LIKE 'QN%';

SELECT 
* 
FROM 
restaurant_inspection 
WHERE nta LIKE 'QN%' 
AND nta NOT LIKE 'QN__';

Регулярные выражения

Сопоставление с шаблоном через LIKE имеет ограничения
Иногда требуются более точные шаблоны
Регулярные выражения обеспечивают расширенные возможности поиска

Оператор SIMILAR TO

Расширяет возможности сопоставления с шаблоном

SELECT 
  camis, name, inspection_date, score, nta 
FROM 
  restaurant_inspection 
WHERE nta SIMILAR TO 'QN%' AND nta NOT SIMILAR TO 'QN__';

Основы регулярных выражений

Метасимвол	Назначение	Пример РВ	Пример совпадения
`\d`	соответствует цифре (0–9)	`\d\d\d`	'345'
`?`	соответствует 0 или 1 вхождению предыдущего символа	`x\d?`	'x5'
`+`	соответствует одному или нескольким вхождениям предыдущего символа	`\d+`	'10'
`*`	соответствует любому числу вхождений предыдущего символа	`\d*`	'3081'
`[]`	соответствует любому символу внутри скобок	`[a-z]`	'f'

Использование регулярных выражений с SIMILAR TO

SELECT 
    camis, name, inspection_date, score, nta 
FROM 
    restaurant_inspection 
WHERE nta SIMILAR TO 'QN%' AND nta NOT SIMILAR TO 'QN__';

SELECT 
    camis, name, inspection_date, score, nta 
FROM 
    restaurant_inspection 
WHERE 
    nta NOT SIMILAR TO '[A-Z][A-Z]\d\d';

 camis    |        name        | inspection_date | score | nta  
 ---------+--------------------+-----------------+-------+------
 41659848 | LA BRISA DEL CIBAO | 01/30/2018      | 20    | Q26
 41104041 | THE SPARROW TAVERN | 09/17/2019      | 13    | QN723

Давайте потренируемся!

Очистка данных в базах данных PostgreSQL