Медленно меняющиеся измерения

Преобразование и анализ данных с Microsoft Fabric

Luis Silva

Solution Architect - Data & AI

Как часто меняется измерение?

Таблица с характеристиками измерения, которое никогда не меняется

Преобразование и анализ данных с Microsoft Fabric

Как часто меняется измерение?

Таблица с характеристиками измерения, которое никогда не меняется, и быстро меняющегося измерения

Преобразование и анализ данных с Microsoft Fabric

Как часто меняется измерение?

Таблица с характеристиками неизменного, быстро меняющегося и медленно меняющегося измерений

Преобразование и анализ данных с Microsoft Fabric

Медленно меняющиеся измерения

  • Типы SCD основаны на разных подходах к управлению изменениями данных:
    • Тип 0 (без изменений)
    • Тип 1 (перезапись)
    • Тип 2 (полная история)
    • Тип 3 (ограниченная история)
    • Прочие типы (4, 5, 6, 7)
Преобразование и анализ данных с Microsoft Fabric

SCD Тип 0: без изменений

  • Изменения не принимаются
  • Новые значения отбрасываются
  • Данные всегда отражают исходное состояние
  • Применяется, когда данные не должны изменяться после первоначальной загрузки

Диаграмма: запись о человеке в таблице измерений. При поступлении новой записи для того же человека с другой датой рождения изменение игнорируется и исходная запись сохраняется

Преобразование и анализ данных с Microsoft Fabric

SCD Тип 1: перезапись

  • Существующая запись перезаписывается новыми данными
  • Данные всегда отражают актуальные значения
  • Применяется для вспомогательных атрибутов, история которых не нужна, например номера телефона

Диаграмма: запись о человеке в таблице измерений. При поступлении новой записи для того же человека с другим номером телефона запись обновляется новым номером

Преобразование и анализ данных с Microsoft Fabric

SCD Тип 2: полная история

  • Исходная запись сохраняется, а для новых данных создаётся новая запись
  • Вся история изменений хранится
  • Дополнительные столбцы фиксируют даты применения изменений

Диаграмма: запись о менеджере по продажам в таблице измерений. При поступлении новой записи с другим регионом продаж исходная запись получает дату начала и окончания действия и помечается как неактуальная; создаётся новая запись с новыми значениями и пометкой «актуальная»

Преобразование и анализ данных с Microsoft Fabric

SCD Тип 3: частичная история

  • Хранится история только одного или нескольких атрибутов.
  • Для каждого атрибута добавляется дополнительный столбец с предыдущим значением.
  • Применяется, когда требуется ограниченная история (текущее и предыдущее значение) без добавления новых строк.

Диаграмма: запись о менеджере по продажам в таблице измерений. При поступлении новой записи с другой должностью запись обновляется: в ней указываются новая и предыдущая должности, а также дата изменения

Преобразование и анализ данных с Microsoft Fabric

Прочие типы SCD

  • Прочие типы (4, 5, 6, 7) — вариации базовых типов 1, 2 и 3
  • Из-за сложности они редко используются на практике
  • Наиболее распространены Тип 1 и Тип 2. Используйте их при возможности:
    • SCD Тип 1 — если история не нужна.
    • SCD Тип 2 — если история необходима.
Преобразование и анализ данных с Microsoft Fabric

Давайте потренируемся!

Преобразование и анализ данных с Microsoft Fabric

Preparing Video For Download...