Implementar melhorias de desempenho

Transforme e analise dados com o Microsoft Fabric

Luis Silva

Solution Architect - Data & AI

Estratégias de otimização

  • Otimize o design dos itens do Fabric
  • Scale up
  • Scale out
Transforme e analise dados com o Microsoft Fabric

Otimização de SQL

  • Limite as consultas apenas às colunas e operações necessárias

Exemplo de instrução SQL SELECT reduzida de selecionar todas as colunas para apenas colunas específicas

Transforme e analise dados com o Microsoft Fabric

Otimização de SQL

  • Limite as consultas apenas às colunas e operações necessárias
  • Use os menores tipos de dados possíveis

Exemplo de CREATE TABLE onde o tipo de dados de uma coluna numérica muda de BIGINT para INT

Transforme e analise dados com o Microsoft Fabric

Otimização de SQL

  • Limite as consultas apenas às colunas e operações necessárias
  • Use os menores tipos de dados possíveis
  • Use o design em estrela (star schema)

Diagrama de um star schema com uma tabela fato e tabelas de dimensões relacionadas

Transforme e analise dados com o Microsoft Fabric

Otimização de SQL

  • Limite as consultas apenas às colunas e operações necessárias
  • Use os menores tipos de dados possíveis
  • Use o design em estrela (star schema)
  • Use visões de sistema para monitorar o uso de consultas
SELECT *
FROM sys.dm_exec_requests;
Transforme e analise dados com o Microsoft Fabric

Otimização de Notebooks

  • Aproveite o Spark History Server

Captura de tela da página web da Spark UI

Transforme e analise dados com o Microsoft Fabric

Otimização de Notebooks

  • Aproveite o Spark History Server
  • Pare sessões ativas do Spark quando não estiver usando
Transforme e analise dados com o Microsoft Fabric

Otimização de Notebooks

  • Aproveite o Spark History Server
  • Pare sessões ativas do Spark quando não estiver usando
  • Ao fazer joins, reduza os dados em memória antes de executar o join
Transforme e analise dados com o Microsoft Fabric

Otimização de dataflows

  • Minimize operações caras como ordenação

Exemplo de dataflow onde uma operação de ordenação é eliminada se não for necessária

Transforme e analise dados com o Microsoft Fabric

Otimização de dataflows

  • Minimize operações caras como ordenação
  • Query folding
    • Desloque o processamento para a fonte de dados

Etapa de dataflow. Sem query folding, a avaliação ocorre fora da fonte. Com query folding, a operação é avaliada pela fonte de dados

Transforme e analise dados com o Microsoft Fabric

Otimização de dataflows

  • Minimize operações caras como ordenação
  • Query folding
    • Desloque o processamento para a fonte de dados
  • Staging On/Off
    • Desabilite para cargas pequenas ou transformações simples
    • Habilite para cargas grandes ou transformações complexas

Captura de tela mostrando a opção Enable Staging em uma consulta de dataflow

Transforme e analise dados com o Microsoft Fabric

Scale Up

  • Aumente o tamanho da SKU
  • SKU maior = mais capacidade de computação

Tabela com as várias SKUs do Fabric Azure disponíveis, da menor F2 à maior F2048 v

Transforme e analise dados com o Microsoft Fabric

Scale Up

Ilustração de scale up de uma capacidade do Fabric aumentando o número de v-cores

Exemplo: fazer scale up de F64 (8 v-cores) para F128 (16 v-cores)

Transforme e analise dados com o Microsoft Fabric

Scale Out

  • Mova alguns itens para outra capacidade do Fabric.
  • Isole cargas de trabalho
    • Produção vs. não produção
    • Áreas diferentes do negócio, por exemplo, uma capacidade separada para relatórios executivos
Transforme e analise dados com o Microsoft Fabric

Scale Out

Ilustração de scale out adicionando uma segunda capacidade e movendo uma carga de trabalho para ela

Transforme e analise dados com o Microsoft Fabric

Vamos praticar!

Transforme e analise dados com o Microsoft Fabric

Preparing Video For Download...