Estágios do ciclo de vida

Implantação e ciclo de vida em MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Ciclos de vida em Machine Learning

 

  1. Ciclo de vida de projeto de ML
  2. Ciclo de vida de aplicação de ML
  3. Ciclo de vida de modelo de ML
Implantação e ciclo de vida em MLOps

Projeto de ML simples

Implantação e ciclo de vida em MLOps

Projeto de ML com resultados

Implantação e ciclo de vida em MLOps

estimador puro

Implantação e ciclo de vida em MLOps

aplicação de ML

Implantação e ciclo de vida em MLOps

regras de negócio

Implantação e ciclo de vida em MLOps

banco de dados

Implantação e ciclo de vida em MLOps

interface gráfica

Implantação e ciclo de vida em MLOps

API

Implantação e ciclo de vida em MLOps

modelo e app juntos

Implantação e ciclo de vida em MLOps

modelo preso

Implantação e ciclo de vida em MLOps

separação I

Implantação e ciclo de vida em MLOps

cada um segue

Implantação e ciclo de vida em MLOps

linhas do tempo separadas

Implantação e ciclo de vida em MLOps

ciclo de vida da aplicação

Implantação e ciclo de vida em MLOps

ciclo de vida do modelo

Implantação e ciclo de vida em MLOps

estamos aqui

Implantação e ciclo de vida em MLOps

Um modelo é...

NÃO é algo abstrato e/ou teórico

Um modelo É

  • um modelo treinado e concreto
  • pronto para uso
Implantação e ciclo de vida em MLOps

Deploy

 

  • Objeto do modelo + recursos de deploy = pacote de deploy do modelo
  • Colocar o modelo em uso = deploy

 

largada do deploy

Implantação e ciclo de vida em MLOps

Monitoramento do modelo

 

  • O servidor de modelo está rodando?
  • As entradas e saídas do modelo estão como esperado?
  • Também chamado de monitoramento pós-deploy

 

monitoramento do modelo

Implantação e ciclo de vida em MLOps

Desativação

 

desligar

 

Possíveis motivos

  • Modelo melhor descoberto
  • Features mais informativas criadas
  • Processo modelado mudou, invalidando o modelo atual

 

=> Sai o antigo, entra o novo

Implantação e ciclo de vida em MLOps

Arquivamento de modelos

  • Importante em setores regulados.

    Por que seu modelo de risco de crédito aprovou este empréstimo em 2020?

 

  • Reprodutibilidade: capacidade de recriar, recarregar e usar uma versão antiga do modelo
    • Não é um requisito trivial

 

arquivo de modelos

Implantação e ciclo de vida em MLOps

Vamos praticar!

Implantação e ciclo de vida em MLOps

Preparing Video For Download...