Ingeniería de prompts

Conceptos de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclo de vida de LLM: ingeniería de prompts

Resumen de las fases del ciclo de vida de una app LLM

Conceptos de LLMOps

El ciclo de desarrollo

Vista inicial del ciclo de desarrollo, que se irá afinando en este capítulo

Conceptos de LLMOps

¿Por qué es importante la ingeniería de prompts?

 

Un dibujo animado enseñando sobre prompts

 

 

  • Mejora el rendimiento
  • Controla la salida
  • Evita sesgos y alucinaciones
Conceptos de LLMOps

Elementos de un prompt

 

 

  1. Instrucción
  2. Ejemplos / Contexto
  3. Datos de entrada
  4. Indicador de salida

Ejemplo de prompt con instrucción, ejemplos, entrada y salida

Conceptos de LLMOps

Encontrar el prompt perfecto

 

 

Imagen de dos personajes de dibujos jugando en un parque

 

Experimenta con:

  • Ajustes del LLM, como temperatura o tokens máx.
  • Aprendizaje en contexto y otros patrones de prompts

 

Usa un playground para experimentar.

Conceptos de LLMOps

Gestión de prompts

 

 

Un personaje archivando prompts en una caja

  • Clave para eficiencia, reproducibilidad y colaboración
  • Importa registrar:
    • Prompt
    • Salida
    • Modelo y ajustes
  • Usa gestor de prompts o control de versiones
  • Empieza a crear un conjunto de buenos pares entrada–salida para evaluación
Conceptos de LLMOps

Plantillas de prompts reutilizables

Imagen de un prompt a la izquierda y una plantilla de prompt a la derecha, destacando la diferencia

Conceptos de LLMOps

El ciclo de desarrollo

Vista inicial del ciclo de desarrollo, que se irá afinando en este capítulo

Conceptos de LLMOps

El ciclo de desarrollo

Ciclo de desarrollo con la actividad de ingeniería de prompts añadida

Conceptos de LLMOps

¡Vamos a practicar!

Conceptos de LLMOps

Preparing Video For Download...