O framework moderno de MLOps

Implantação e ciclo de vida em MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Sobre mim

 

Foto de perfil

 

  • Senior Machine Learning Engineer
  • Experiência em desenvolver, implantar e manter modelos de Machine Learning em produção
  • Foco atual: implantação e ciclo de vida de ML
1 www.linkedin.com/in/radojkovic
Implantação e ciclo de vida em MLOps

Curso conceitual

SIM: Visão de alto nível

fluxo conceitual

NÃO: Habilidades práticas

codificação prática

Implantação e ciclo de vida em MLOps

MLOps

Machine Learning Operations

  • Princípios
  • Práticas
  • Ferramentas

Objetivo: fluxos e serviços de ML

  • Automatizados
  • Reproduzíveis
  • Integrados
Implantação e ciclo de vida em MLOps

ops parte 1

Implantação e ciclo de vida em MLOps

ops parte 2

Implantação e ciclo de vida em MLOps

mlops de dev

Implantação e ciclo de vida em MLOps

Capítulo I

Valor e necessidade do MLOps

valor

Etapas do ciclo de vida do modelo

ciclo de vida

 

Componentes do framework de MLOps

blocos de construção

Implantação e ciclo de vida em MLOps

apenas devops

Implantação e ciclo de vida em MLOps

devops com mlops

Implantação e ciclo de vida em MLOps

Alto custo de ML sem o Ops

 

PONTO DE PARTIDA USUAL

  • Fluxos de ML manuais
  • Implantação manual
  • Monitoramento ad hoc

 

=> Acúmulo de dívida técnica

Implantação e ciclo de vida em MLOps

Dívida técnica

o custo implícito de retrabalho adicional causado por escolher agora uma solução fácil (limitada) em vez de uma abordagem melhor que levaria mais tempo

~ Wikipedia[1]

 

Artigo famoso do Google sobre o tema:

"Machine Learning: The high-interest credit card of technical debt"[2]

 

MAIS TEMPO E MODELOS IMPLANTADOS

  • Mais dívida técnica e risco de modelo
  • Processo mais lento, frustrante e propenso a erros
  • Capacidade de entregar valor prejudicada
1 https://en.wikipedia.org/wiki/Technical_debt 2 https://research.google/pubs/pub43146/
Implantação e ciclo de vida em MLOps

Fluxos de ML

  • Coleta e preparação de dados
  • Rotulagem de dados
  • Seleção do modelo
  • Treinamento do modelo
  • Empacotamento do modelo
  • Implantação do modelo
  • Monitoramento e manutenção do modelo

 

Automação do fluxo de ML == maturidade em MLOps

Implantação e ciclo de vida em MLOps

MLOps implementado

  • Automatizado
  • Rápido
  • Reproduzível
  • Explicável
Implantação e ciclo de vida em MLOps

estamos aqui

Implantação e ciclo de vida em MLOps

não linear

Implantação e ciclo de vida em MLOps

linear

Implantação e ciclo de vida em MLOps

holofote 1

Implantação e ciclo de vida em MLOps

todos os olhos em mim

Implantação e ciclo de vida em MLOps

Implantação e ciclo de vida em MLOps

A seguir!

 

Ciclo de vida do modelo

ciclo de vida

Arquitetura de MLOps

fluxo conceitual

Implantação e ciclo de vida em MLOps

Vamos praticar!

Implantação e ciclo de vida em MLOps

Preparing Video For Download...