Оркестрация

Современные архитектуры данных

Miller Trujillo

Senior Software Engineer

Что такое оркестрация?

Общая схема обработки 5 таблиц

  • Координация нескольких задач
  • Автоматизированная настройка и координация сложных рабочих процессов.

Пример DAG в Airflow

  • Освобождает человеческие ресурсы
1 https://airflow.apache.org/docs/apache-airflow/stable/core-concepts/dags.html
Современные архитектуры данных

Оркестрация и планирование

Планирование

  • Запуск задач в заданные моменты времени
  • Инициирует оркестрированные рабочие процессы

Пример планирования

Оркестрация

Автоматизация и координация сложных рабочих процессов

Пример оркестрации

Современные архитектуры данных

Apache Airflow

Логотип Apache Airflow

  • Координация сложных рабочих процессов с помощью Python
Современные архитектуры данных

Ключевые понятия оркестрации

  • Задачи:
    • Базовая единица выполнения
  • Зависимости:
    • Определяют порядок выполнения задач
  • Направленный ациклический граф (DAG):
    • Рабочий процесс из задач и зависимостей

Пример DAG в Airflow

Современные архитектуры данных

Ключевые понятия оркестрации

  • Операторы:
    • Определяют тип задачи
    • BashOperator
    • PythonOperator
  • Сенсоры:
    • Ожидают выполнения определённых условий
  • Планировщик
    • Автоматически запускает задачи.
Современные архитектуры данных

Давайте потренируемся!

Современные архитектуры данных

Preparing Video For Download...