Vòng đời của LLM

Các khái niệm về LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Các giai đoạn

Giai đoạn ý tưởng

Giai đoạn ý tưởng

Giai đoạn vận hành

Giai đoạn ý tưởng, phát triển và vận hành với mũi tên hai chiều giữa chúng

Giai đoạn ý tưởng, phát triển và vận hành với mũi tên từ phát triển sang ý tưởng

Giai đoạn ý tưởng, phát triển và vận hành với mũi tên từ vận hành quay lại phát triển

Giai đoạn ý tưởng, phát triển và vận hành với mũi tên hai chiều giữa chúng

Thu thập dữ liệu

Chọn mô hình nền tảng

Kỹ thuật nhắc lệnh (prompt)

Chuỗi và tác tử

RAG và tinh chỉnh

Kiểm thử

Triển khai

Giám sát và khả năng quan sát

Quản lý chi phí

Quản trị và bảo mật

Tổng quan tất cả giai đoạn và chủ đề

Các khái niệm về LLMOps