Siklus hidup LLM

Konsep LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Fase-fase utama

Fase ideasi

Fase ideasi

Fase operasional

Fase ideasi, pengembangan, dan operasional dengan panah dua arah di antara ketiganya

Fase ideasi, pengembangan, dan operasional dengan panah dari pengembangan ke ideasi

Fase ideasi, pengembangan, dan operasional dengan panah dari operasional ke pengembangan

Fase ideasi, pengembangan, dan operasional dengan panah dua arah di antara ketiganya

Sumber data

Pemilihan model dasar

Rekayasa prompt

Rantai dan agen

RAG versus fine-tuning

Pengujian

Deploy

Pemantauan dan observabilitas

Manajemen biaya

Tata kelola dan keamanan

Ikhtisar semua fase dengan semua topik

Konsep LLMOps