데이터 서빙

현대 데이터 아키텍처 이해하기

Miller Trujillo

Senior Software Engineer

서빙 레이어

데이터 소스, 수집, 저장, 처리, 오케스트레이션, 거버넌스, 서빙, 분석 저장 및 리포팅을 포함한 일반 빅데이터 아키텍처

  • 처리된 데이터를 어디에 저장할까
  • 소비 프로토콜은?
현대 데이터 아키텍처 이해하기

어떤 데이터가 있나?

  • 어떤 데이터가 있나?
    • 구조화되었나?
    • 시계열인가?
  • 데이터는 어떻게 소비될까?

데이터 저장소

  • 데이터 웨어하우스
    • 자동화 리포팅/대시보드
    • BI/데이터 분석
    • 직접 쿼리
  • 블롭 스토리지
  • 시계열 데이터베이스
  • NoSQL 데이터베이스
현대 데이터 아키텍처 이해하기

데이터는 어떻게 소비될까?

  • 데이터 웨어하우스
    • 자동화 리포팅/대시보드
    • BI/데이터 분석
    • 직접 쿼리
  • 머신러닝 모델
  • 애플리케이션
    • 요약 정보
    • 개별 레코드
  • 만능 해법은 없음!

Python & R

API/Compute

현대 데이터 아키텍처 이해하기

사용 사례에 맞춘 데이터 서빙

시스템 데이터 유형 소비 용도 도구
데이터 웨어하우스 구조화 데이터, 반정형도 가능 분석 쿼리, BI/분석, 리포팅/대시보드 BigQuery, Redshift, Snowflake
블롭 스토리지 모든 데이터 유형 영상/이미지 처리 ML 모델, 아카이빙 S3, Cloud Storage, Azure Storage
NoSQL 데이터베이스 반정형 데이터, 시계열 API 노출, 고부하 BigTable, DataStore, DynamoDB, CosmosDB
RDMBS 구조화 데이터, 반정형도 가능 개별 레코드 소비, API 노출, 저부하 Postgres, MySQL, Oracle
현대 데이터 아키텍처 이해하기

서빙 vs. 소비

데이터 서빙 vs. 소비

현대 데이터 아키텍처 이해하기

연습해 봅시다!

현대 데이터 아키텍처 이해하기

Preparing Video For Download...