BigQuery의 특수 집계

BigQuery 입문

Matthew Forrest

Field CTO

특수 집계 소개

Function	Category	Description
`APPROX_COUNT_DISTINCT`, `APPROX_QUANTILES`, `APPROX_TOP_COUNT`, `APPROX_TOP_SUM`	근사 집계	일부 계산을 추정하여 처리 시간과 자원 사용을 줄입니다.
`ARRAY_CONCAT_AGG`, `STRING_AGG`	배열/문자열 처리	배열과 문자열을 수집·연결·조작합니다.
`LOGICAL_AND`, `LOGICAL_OR`	논리 연산	불리언 식 집합에 AND/OR를 평가합니다.

ARRAY_CONCAT_AGG

ARRAY_CONCAT_AGG()는 ARRAY_AGG()의 한계를 보완합니다

SELECT
  order_id,
  ARRAY_CONCAT_AGG(order_items) AS all_items
FROM sales_data
GROUP BY order_id;

| order_id | all_items                          |
|----------|------------------------------------|
| 1        | [shoes, electronics]               |
| 2        | [electronics, household, clothing] |

STRING_AGG

STRING_AGG()는 문자열을 하나로 연결합니다

SELECT STRING_AGG(customer_id, ', ') AS all_customers
FROM sales_data
WHERE delivery_date 
BETWEEN CURRENT_TIMESTAMP() 
AND TIMESTAMP_ADD(CURRENT_TIMESTAMP(), INTERVAL 3 DAY) ;

| all_customers   |
|-----------------|
| 123, 456, 789   |

APPROX_COUNT_DISTINCT

APPROX_COUNT_DISTINCT()는 고유값 개수를 빠르게 추정합니다

SELECT
  customer_id,
  APPROX_COUNT_DISTINCT(order_id) AS unique_orders
FROM sales_data
GROUP BY customer_id;

| customer_id | unique_orders |
|-------------|---------------|
| 1           | 5             |
| 2           | 2             |

APPROX_QUANTILES

APPROX_QUANTILES()는 분위수를 근사합니다

SELECT
  category,
  APPROX_QUANTILES(value, 4) AS quartiles
FROM sales_data
GROUP BY category;

| category    | quartiles         |
|-------------|-------------------|
| shoes       | [25, 40, 55, 100] |
| electronics | [10, 40, 95, 300] |

APPROX_TOP_COUNT

APPROX_TOP_COUNT()는 발생 빈도로 상위 K개 요소를 찾습니다

SELECT
  category,
  APPROX_TOP_COUNT(customer_id, 3) AS customers
FROM sales_data
GROUP BY category;

| category    | customers   |
|-------------|-------------|
| shoes       | [1, 7, 19]  |
| electronics | [8, 19, 22] |

APPROX_TOP_SUM

APPROX_TOP_SUM(el, weight, K)는 weight 기준으로 상위 K개 요소 el을 찾습니다

SELECT
  seller_id,
  APPROX_TOP_SUM(item_id, cost, 3) AS top_items
FROM sales_data
GROUP BY seller_id;

| seller_id | top_items                                    |
|-----------|----------------------------------------------|
| 1         | [[1024, 5000], [1567, 3000], [3489, 2000]]   |
| 2         | [[5647, 6500], [9867, 3500], [1074, 2100]]   |

LOGICAL_AND 및 LOGICAL_OR

SELECT
  customer_id,
  -- 모두 true이면 true
  LOGICAL_AND(order_status = 'shipped') AS all_shipped,
  -- 하나라도 true이면 true
  LOGICAL_OR(order_status = 'shipped') AS one_shipped
FROM sales_data
GROUP BY customer_id;

| customer_id | all_shipped | one_shipped |
|-------------|-------------|-------------|
| 1           | false       | true        |
| 2           | true        | true        |

연습해 봅시다!

BigQuery 입문