Ciclo di vita degli LLM

Concetti di LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Le diverse fasi

La fase di ideazione

La fase di ideazione

La fase operativa

Fasi di ideazione, sviluppo e operativa con frecce bidirezionali tra loro

Fasi di ideazione, sviluppo e operativa con freccia dallo sviluppo all'ideazione

Fase di ideazione, sviluppo e operativa con freccia dall'operativa allo sviluppo

Fasi di ideazione, sviluppo e operativa con frecce bidirezionali tra loro

Raccolta dati

Scelta del modello base

Prompt engineering

Chain e agent

RAG vs fine-tuning

Test

Deployment

Monitoraggio e osservabilità

Gestione dei costi

Governance e sicurezza

Panoramica di tutte le fasi con tutti i temi

Concetti di LLMOps