Como equipes de MLOps operam com sucesso

MLOps para Negócios

Arne Jonas Warnke

Head of Emerging Curriculum

Impacto limitado de machine learning (no passado)

Antes, as empresas usavam uma abordagem experimental para machine learning.

Problemas incluíam:

  • Silos
  • Modelos raramente iam para produção
  • Longo tempo de desenvolvimento
  • Pouca ou nenhuma automação
  • Falta de reprodutibilidade

Uma foto em preto e branco de uma pessoa diante de um computador de 1980

MLOps para Negócios

Como equipes de MLOps operam com sucesso

$$

Neste vídeo

  • Menos foco em tecnologias
  • Olhar para práticas bem-sucedidas de DevOps
MLOps para Negócios

Lembrete: DevOps

DevOps busca

  • Aumentar a colaboração entre desenvolvimento e operações

Desenvolvimento trata de

  • Melhorar a experiência do usuário
  • Novas demandas de negócio

Operações busca

  • Estabilidade e manutenibilidade

DevOps

1 Kim et al. (2021). The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
MLOps para Negócios

Práticas comuns de DevOps

  • Entrega contínua
    • Lançamentos de código frequentes, pequenos e confiáveis
    • Ex.: adicionar pequenas funcionalidades (ou mudanças de código) continuamente
  • Automação de testes e releases
  • Monitoramento, "rollbacks" fáceis
  • Integração contínua

$$ Um blueprint de release de software

1 Leite et al. (2019). A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1-35.
MLOps para Negócios

Lidando com falhas

Círculo DevOps $$ Uma tela azul

  • Ciclos de feedback
    • Testes automatizados
    • Identificar falhas cedo
  • Se algo der errado
    • Análise de causa raiz
    • Post-mortems sem culpados
    • Aprendizado, compartilhamento de conhecimento e melhoria
MLOps para Negócios

Pessoas e times

MLOps / DevOps é sobre colaboração

  • Empresas desenham times de formas diferentes

$$

Recursos comuns

  • Autonomia
  • Incentivos compartilhados
  • Ciclos de feedback e aprendizado
  • Confiança
  • Valorizar a tomada de risco

$$ Pessoas colaborando

MLOps para Negócios

Experimentação

Busque alta qualidade por meio de experimentação

  • Testes A/B (experimentos randomizados)
  • Injeção deliberada de falhas

$$ Um experimento de laboratório

MLOps para Negócios

Vamos praticar!

MLOps para Negócios

Preparing Video For Download...