Questões de negócios, operacionais e éticas

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Transparência

  • Transparência sobre LLMs
  • Empresas precisam saber como o LLM chega à resposta
  • Essencial para gerar confiança

As palavras "Truth" e "Trust" sendo formadas com blocos de madeira

Large Language Models for Business

Responsabilização

Imagem mostrando bonecos de madeira em círculo, com uma figura de cor diferente no meio

  • Se as recomendações do LLM não funcionam
    • Quem é responsável?
  • Desenvolvedores de software que criaram o modelo?
  • A empresa que o implementou?
Large Language Models for Business

Riscos com LLMs

  • Risco inerente de propagar desinformação
  • Possíveis impactos para empresas:
    • Decisões baseadas em dados incorretos
    • Afeta o resultado financeiro
    • Danos à reputação
  • Perigo de LLMs serem usados como arma:
    • Enganar, manipular, induzir stakeholders ao erro
    • Gera riscos reputacionais e operacionais

Desenho de um homem em blocos escrevendo "Risk" enquanto mede a altura do risco

Large Language Models for Business

LLMs e o meio ambiente

  • Treinar LLMs exige muita energia computacional
  • Gera grande pegada de carbono
  • Empresas devem entender e mitigar impactos ambientais

Uma mão robótica segurando o planeta Terra, com uma árvore brotando no topo

Large Language Models for Business

Como construir LLMs?

  • Empresas têm decisões pragmáticas a pesar
  • Construir LLMs internamente ou usar terceiros?
Large Language Models for Business

Recursos tecnológicos

Interno

  • Exige muitos recursos: infraestrutura computacional e dados
  • Dá pra investir? Dinheiro e tempo?

Terceiros

  • Acesso imediato e escalabilidade
  • Sem custos de desenvolvimento

Imagem de desenho de um homem empilhando moedas em cima de um grande despertador

Imagem de um caderno mostrando despesas operacionais em queda, com uma caneca de café e os braços de um homem aparecendo

Large Language Models for Business

LLMs personalizados

Interno

  • Ajuste os LLMs às necessidades específicas
  • Modelos refinados com dados da empresa

Terceiros

  • Desempenho sofisticado
  • Modelos mais genéricos, a menos que customizados

Imagem mostrando a palavra "customization" sendo tocada por um dedo humano

Imagem mostrando produtos genéricos empilhados em um supermercado, com produtos em tons diferentes da mesma cor

Large Language Models for Business

Updates e manutenção

Interno

  • Manutenção mantém LLMs eficazes e seguros
  • Custo contínuo para a empresa

Terceiros

  • Empresa não é responsável
  • Fornecedor cuida de updates e manutenção

Desenho de uma mulher no celular, com ícones de manutenção e updates ao fundo

Imagem das palavras "Third Party Service" em uma prancheta

Large Language Models for Business

Tratamento de dados

Interno

  • Mantém controle sobre os dados
  • Importante com dados sensíveis

Terceiros

  • Pode exigir compartilhar dados
  • Riscos de segurança e privacidade

Desenho de um homem usando laptop enquanto aperta a mão de outro homem dentro da tela

Desenhos de diferentes personagens roubando e obtendo informações de um laptop

Large Language Models for Business

Eficiência de custos

Interno

  • Equilibrar custos recorrentes para ser custo-efetivo
  • Custos iniciais altos

Terceiros

  • Custos recorrentes
  • Custos iniciais baixos

Desenho de um homem segurando um plugue e tomada que conectam dinheiro a uma lâmpada

Desenho de um homem carregando um cartão em frente a uma data específica em um calendário

Large Language Models for Business

A escolha é sua!

Uma placa com duas direções possíveis - terceirizar ou interno

Large Language Models for Business

Vamos praticar!

Large Language Models for Business

Preparing Video For Download...