Escalando além dos PoCs

Estratégia de inteligência artificial (IA)

Vidhi Chugh

AI strategist and ethicist

O que é escalar?

 

 

• Escalabilidade:
  • Lidar com mais dados, usuários e tarefas
  • Mantendo desempenho, qualidade e custo

 

• Escalar IA = 3x mais retorno!
  • Integrar aos processos do negócio

Plataformas de nuvem

 

• De PoC a produção em escala

 

• Plataforma de computação em nuvem
  • Conformidade com leis de dados
  • Segurança
  • Suporte a multi-cloud e híbrida

 

Fatores de deploy

• Análise de custo e desempenho
• Governança; facilidade de deploy e gestão

Construir vs. comprar

 

• Modelo pronto vs. algoritmo customizado

• Mais controle sobre o desempenho

 

• Cronogramas do projeto

• Algoritmo customizado leva mais tempo que um disponível

Escalabilidade e desempenho

 

• Escalar = previsões de qualidade sem perder desempenho

 

• Desempenho:
  • Acurácia
  • Latência: tempo para prever
  • Throughput: número de previsões por período

 

 

Dados em escala

• Núcleo dos modelos de ML

• Gerenciar o ciclo de vida dos dados

  • Preparar e manter

Acesso aos dados

 

• Acesso só a alguns departamentos; isolado do resto
  • Gera silos
  • Reduz transparência
  • Modelos ineficientes

 

• Fontes diferentes = formatos diferentes
  • Padronizar

 

Arquitetura que escala

 

 

• Projetar a arquitetura certa

 

• Microsserviços
  • Escalam de forma independente
  • Flexibilidade
  • Responsividade

 

• Coordenar a interação é difícil

Infraestrutura para escalar

 

• Computações intensivas
• GPUs aceleram, mas com custo maior

 

• Pese os benefícios
  • Treino mais rápido
  • Desempenho melhor
  • Com custo adicional

Agilize processos de IA

• Plano de implementação e desenho de arquitetura detalhados
• Padronizar e agilizar
  • Construção, deploy e monitoramento de modelos

Vamos praticar!

Estratégia de inteligência artificial (IA)