Ciclul de viață al LLM-urilor

Concepte LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Fazele diferite

Faza de ideare

Faza de ideare

Faza operațională

Faza de ideare, dezvoltare și operațională cu săgeți bidirecționale între ele

Faza de ideare, dezvoltare și operațională cu săgeată de la dezvoltare la ideare

Faza de ideare, dezvoltare și operațională cu săgeată de la operațional la dezvoltare

Faza de ideare, dezvoltare și operațională cu săgeți bidirecționale între ele

Colectarea datelor

Selecția modelului de bază

Ingineria prompturilor

Lanțuri și agenți

RAG versus fine-tuning

Testare

Implementare

Monitorizare și observabilitate

Gestionarea costurilor

Guvernanță și securitate

Prezentare generală a tuturor fazelor cu toate subiectele

Concepte LLMOps