Estratégias de deployment de modelos

Implantação e ciclo de vida em MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Deployment bem-sucedido!

  • App de ML em execução
  • API lida com milhares de requisições/hora
  • Um mês depois:
    • Novos recursos melhores encontrados
    • Novo lote de dados de treino coletado
    • Pipeline de build do modelo executado
    • Novo pacote de modelo criado
Implantação e ciclo de vida em MLOps

troca

Implantação e ciclo de vida em MLOps

predição offline

Implantação e ciclo de vida em MLOps

janela de mudança

Implantação e ciclo de vida em MLOps

tempo de inatividade em tempo real

Implantação e ciclo de vida em MLOps

tempo de inatividade caro

Implantação e ciclo de vida em MLOps

configuração blue/green

Implantação e ciclo de vida em MLOps

um clique

Implantação e ciclo de vida em MLOps

termo blue/green

Implantação e ciclo de vida em MLOps

vantagem desvantagem

Implantação e ciclo de vida em MLOps

rollback

Implantação e ciclo de vida em MLOps

canary deployment

Implantação e ciclo de vida em MLOps

divisão de requisições

Implantação e ciclo de vida em MLOps

etapa dois

Implantação e ciclo de vida em MLOps

resultado final

Implantação e ciclo de vida em MLOps

Implantação e ciclo de vida em MLOps

validação

Implantação e ciclo de vida em MLOps

desvantagem

Implantação e ciclo de vida em MLOps

mitigação de risco

Implantação e ciclo de vida em MLOps

Vamos praticar!

Implantação e ciclo de vida em MLOps

Preparing Video For Download...