Resumen de LLMOps

Conceptos de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Qué aprenderás en este curso

LLMOps ayuda a gestionar, desplegar y mantener aplicaciones de modelos de lenguaje
Veremos:
- Fundamentos
- Ciclo de vida de aplicaciones LLM
- Retos y consideraciones

¹ Ilustraciones de Manfred Steger @ Pixabay

Un flujo simple que muestra una consulta entrando a un LLM y generando una salida

Esto da lugar a lo que llamaremos aplicaciones LLM en todo el curso

Imagen de una canalización LLM compleja

Integración sin fricciones

Transiciones fluidas del ciclo de vida

Gestión eficiente y escalable

Algunas diferencias:

	LLMOps	MLOps
Tamaño del modelo	Grande	Normalmente menor
Datos	Texto	Cualquier dato
Modelos preentrenados	Normalmente sí	Normalmente no
Mejora del modelo	Prompt engineering y fine-tuning	Feature engineering y selección de modelos
Generalización	Propósito general	Alcance fijo
Imprevisibilidad	Alta	Baja
Salida	Principalmente texto	Específica de la tarea

Conceptos de LLMOps