오케스트레이션

현대 데이터 아키텍처 이해하기

Miller Trujillo

Senior Software Engineer

오케스트레이션이란?

5개 테이블 처리의 상위 수준 워크플로우

  • 여러 작업을 조정
  • 복잡한 워크플로우의 구성과 조정을 자동화

Airflow 샘플 DAG

  • 인력 소모를 줄임
1 https://airflow.apache.org/docs/apache-airflow/stable/core-concepts/dags.html
현대 데이터 아키텍처 이해하기

오케스트레이션 vs 스케줄링

스케줄링

  • 지정한 간격/시간에 작업 실행
  • 오케스트레이션된 워크플로우의 기동점

스케줄링 예시

오케스트레이션

복잡한 워크플로우를 자동화하고 조정

오케스트레이션 예시

현대 데이터 아키텍처 이해하기

Apache Airflow

Apache Airflow 로고

  • Python으로 복잡한 워크플로우 조정
현대 데이터 아키텍처 이해하기

오케스트레이션의 핵심 개념

  • 작업(Tasks):
    • 실행의 기본 단위
  • 의존성(Dependencies):
    • 작업 순서 결정
  • DAG(Directed Acyclic Graph):
    • 작업과 의존성의 워크플로우

Airflow DAG 예시

현대 데이터 아키텍처 이해하기

오케스트레이션의 핵심 개념

  • 오퍼레이터(Operators):
    • 작업의 성격 결정
    • BashOperator
    • PythonOperator
  • 센서(Sensors):
    • 특정 조건을 대기
  • 스케줄러
    • 작업 트리거를 자동화
현대 데이터 아키텍처 이해하기

연습해 봅시다!

현대 데이터 아키텍처 이해하기

Preparing Video For Download...