Engenharia de prompts

Conceitos de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclo de vida de LLM: engenharia de prompts

Visão geral das fases do ciclo de vida de apps com LLM

Conceitos de LLMOps

O ciclo de desenvolvimento

Visão inicial do ciclo de desenvolvimento, que será refinada ao longo do capítulo

Conceitos de LLMOps

Por que engenharia de prompts é importante?

 

Um desenho animado brincalhão ensinando sobre prompts

 

 

  • Melhorar desempenho
  • Controlar a saída
  • Evitar vieses e alucinações
Conceitos de LLMOps

Elementos de um prompt

 

 

  1. Instrução
  2. Exemplos / Contexto
  3. Dados de entrada
  4. Indicador de saída

Exemplo de um prompt mostrando instrução, exemplos, entrada e saída

Conceitos de LLMOps

Encontrando o prompt ideal

 

 

Imagem de dois personagens de desenho brincando em um parquinho

 

Experimente com:

  • Configurações do LLM, como temperature e max tokens
  • Aprendizado em contexto e outros padrões de prompt

 

Use um playground para testar!

Conceitos de LLMOps

Gestão de prompts

 

 

Um personagem brincalhão arquivando prompts numa caixa de arquivo

  • Crucial para eficiência, reprodutibilidade e colaboração
  • Importante rastrear:
    • Prompt
    • Saída
    • Modelo e configurações
  • Use um gerenciador de prompts ou controle de versão
  • Comece a criar um acervo de bons pares entrada–saída para avaliação
Conceitos de LLMOps

Templates de prompt para reuso

Imagem de um prompt à esquerda e um template de prompt à direita, destacando a diferença entre eles

Conceitos de LLMOps

O ciclo de desenvolvimento

Visão inicial do ciclo de desenvolvimento, que será refinada ao longo do capítulo

Conceitos de LLMOps

O ciclo de desenvolvimento

Ciclo de desenvolvimento com a atividade de engenharia de prompts adicionada

Conceitos de LLMOps

Vamos praticar!

Conceitos de LLMOps

Preparing Video For Download...