Motivação para versionamento de dados

Introdução ao Controle de Versão de Dados com DVC

Ravi Bhadauria

Machine Learning Engineer

O que é versionamento de dados?

  • Definição
    • Monitora mudanças nos dados ao longo do tempo
    • Tira snapshots dos dados por iteração
    • Semelhante ao versionamento de código
  • Benefícios
    • Recuperação e análise
    • Consistência, responsabilização e linhagem dos dados
  • Aplicações
    • Data Science e Machine Learning
    • Engenharia de Dados
    • Análise Financeira, Auditoria e Compliance
Introdução ao Controle de Versão de Dados com DVC

Versionamento de dados vs. código

Versionamento de código

  • Bem conhecido em desenvolvimento de software
  • Usa ferramentas como Git para controle de versão descentralizado
  • Mais fácil de gerenciar, pois bases de código são pequenas

Versionamento de dados

  • Relativamente novo (SciDB proposto em 2012)
  • Toolchains como DVC são usadas junto com Git
  • Relativamente difícil de gerenciar devido ao grande tamanho dos conjuntos de dados
1 doi: 10.1109/ICDE.2012.102
Introdução ao Controle de Versão de Dados com DVC

Por que versionar dados em ML?

Imagem da constituição de um modelo de ML como Código, Hiperparâmetros e Dados

Introdução ao Controle de Versão de Dados com DVC

Influência do dataset

Dataset A Imagem do head de um dataframe do dataset A

Dataset B Imagem do head de um dataframe do dataset B

Introdução ao Controle de Versão de Dados com DVC

Influência do dataset

 

Hiperparâmetros mantidos, dataset alterado

 

Métrica Dataset A Dataset B
Precision 0.78 0.79
Recall 0.54 0.57
F1 Score 0.64 0.66
Accuracy 0.80 0.81
Introdução ao Controle de Versão de Dados com DVC

Influência dos hiperparâmetros

 

Dataset mantido, hiperparâmetros alterados

 

Métrica n_estimators=5 n_estimators=10
Precision 0.78 0.85
Recall 0.54 0.52
F1 Score 0.64 0.65
Accuracy 0.80 0.81
Introdução ao Controle de Versão de Dados com DVC

Layout dos exercícios no editor

Imagem anotada do layout do exercício no editor mostrando pasta, arquivo e terminal.

Introdução ao Controle de Versão de Dados com DVC

Vamos praticar!

Introdução ao Controle de Versão de Dados com DVC

Preparing Video For Download...