Fabric データパイプライン入門

Microsoft Fabric によるデータ取り込みとセマンティック モデル

Alex Kuntz

Head of Cloud Curriculum, DataCamp

Microsoft Fabric の Data Pipelines

Data Factory の主要機能(高レベル):

  1. Data Pipelines — データ移動をオーケストレーション。 Data Pipelines
  2. Dataflows — UI ベースで 300+ の変換をサポート。 Dataflows

Microsoft Fabric の Data Pipelines:

  • 低/ノーコードで ETL を自動化
  • 多様なデータソースとシームレスに統合
  • データ取り込み・変換の豊富なアクティビティ
  • 手動実行またはトリガーでスケジュール
1 https://learn.microsoft.com/en-us/fabric/data-factory/data-factory-overview
Microsoft Fabric によるデータ取り込みとセマンティック モデル

データパイプラインのアクティビティ

アクティビティはパイプライン内のタスクで、データ処理とワークフロー自動化を担います。 データパイプラインのアクティビティを示す自動車組立ライン

1 https://learn.microsoft.com/en-us/fabric/data-factory/activity-overview
Microsoft Fabric によるデータ取り込みとセマンティック モデル

アクティビティの種類

  1. 移動と変換:
  2. メタデータと検証:
    • 品質チェックとメタデータ取得を実施。
    • (例: LookupLookup)。
  3. 制御フロー:
    • 条件やループでタスク順序を制御。
    • (例: If condition If condition, ForEach If condition)。
1 https://learn.microsoft.com/en-us/fabric/data-factory/activity-overview
Microsoft Fabric によるデータ取り込みとセマンティック モデル

アクティビティの種類

  1. オーケストレーション:

  2. 通知:

    • メールやメッセージでアラート・更新を送信
    • (例: 365 Outlook365 Outlook, TeamsTeams)。
  3. 変換:

    • ビジネスロジックに沿ってデータを処理
    • (例: NotebookNotebook, Stored ProcedureStored Procedure)。
Microsoft Fabric によるデータ取り込みとセマンティック モデル

パイプラインの Parameters と Variables

Parameters と Variables は、パイプラインの動作を動的に制御・管理します。

Parameters:

  • 実行時に設定: 外部入力で動作を調整。
  • グローバルスコープ: パイプライン全体に影響。

Variables:

  • 動的トラッキング: 実行中に値を変更可能。
  • ローカルスコープ: 特定アクティビティ内のデータを管理。
1 https://learn.microsoft.com/en-us/fabric/data-factory/parameters 2 https://learn.microsoft.com/en-us/fabric/data-factory/set-variable-activity
Microsoft Fabric によるデータ取り込みとセマンティック モデル

パイプライン実行

パイプライン実行は、パイプライン内のアクティビティを完了まで実行します。

  • オンデマンド: Fabric UI から直接開始。 オンデマンド実行
  • スケジュール: 指定頻度で開始。 スケジュール実行

監視:

  • Monitor タブで一意の Run ID を使って各実行を追跡・確認。

検証:

  • 実行前に Validate で設定を確認。
1 https://learn.microsoft.com/en-us/fabric/data-factory/pipeline-runs
Microsoft Fabric によるデータ取り込みとセマンティック モデル

Let's practice!

Microsoft Fabric によるデータ取り込みとセマンティック モデル

Preparing Video For Download...