Fase de ideación

Conceptos de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclo de vida de un LLM: fase de ideación

Resumen de las fases del ciclo de vida de una app LLM

Conceptos de LLMOps

Obtención de datos

 

Imagen divertida de un dibujo animado sosteniendo distintas fuentes de datos

 

  • Identificar necesidades

 

  • Buscar fuentes

 

  • Garantizar accesibilidad
Conceptos de LLMOps

Obtención de datos

 

Imagen divertida de un dibujo animado sosteniendo distintas fuentes de datos

  1. ¿Los datos son relevantes?
  2. ¿Los datos están disponibles?
    • Transformar los datos
    • Configurar bases de datos adicionales
    • Evaluar costes
    • Considerar otras limitaciones de acceso
  3. ¿Cumplen estándares?
    • Calidad y gobierno del dato
Conceptos de LLMOps

Elegir el modelo base

  • Modelos preentrenados:

Imagen de un modelo preentrenado

  • ¿Propietarios o de código abierto?
Conceptos de LLMOps

Modelos propietarios (de titularidad privada)

Ventajas:

  • Fácil de configurar y usar
  • Control de calidad
  • Fiabilidad, rapidez y disponibilidad

 

Limitaciones:

  • Requiere exponer datos
  • Personalización

Ejemplos:

Logotipos de modelos LLM propietarios

Conceptos de LLMOps

Código abierto (acceso público)

Ventajas:

  • Alojamiento interno
  • Transparencia
  • Total personalización

 

Limitaciones:

  • Soporte
  • Uso comercial

 

Ejemplo: Logotipo de Meta Llama 3

 

Descargable desde: Logotipo de Hugging Face

Conceptos de LLMOps

Factores para elegir modelo

1. Rendimiento ⭐

  • Calidad de respuesta
  • Velocidad

Iconos relacionados con el rendimiento

2. Características del modelo ⭐

  • Datos usados para entrenarlo
  • Tamaño de ventana de contexto
  • Posibilidad de ajuste fino

Iconos relacionados con las características del modelo

Conceptos de LLMOps

Factores para elegir modelo

3. Aspectos prácticos ⭐

  • Licencia
  • Coste
  • Impacto ambiental

Iconos relacionados con aspectos prácticos

4. Factores secundarios

  • Número de parámetros
  • Popularidad

Iconos relacionados con factores secundarios

Conceptos de LLMOps

¡Vamos a practicar!

Conceptos de LLMOps

Preparing Video For Download...