Khung MLOps hiện đại

Triển khai và Vòng đời MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Giới thiệu

Ảnh hồ sơ

Kỹ sư Machine Learning cao cấp
Kinh nghiệm phát triển, triển khai và vận hành mô hình ML trong sản xuất
Trọng tâm hiện tại: triển khai và vòng đời ML

¹ www.linkedin.com/in/radojkovic

Khóa học khái niệm

CÓ: Hiểu ở mức khái quát

lưu đồ khái niệm

KHÔNG: Kỹ năng thực hành

coding hands-on

MLOps

Machine Learning Operations

Nguyên tắc
Thực hành
Công cụ

Mục tiêu: quy trình và dịch vụ ML

Tự động
Tái lập
Tích hợp

phần vận hành 1

phần vận hành 2

mlops từ phát triển

Chương I

Giá trị và sự cần thiết của MLOps

giá trị

Các giai đoạn vòng đời mô hình

vòng đời

Thành phần của khung MLOps

khối xây dựng

chỉ devops

devops với mlops

Chi phí cao khi ML thiếu Ops

ĐIỂM KHỞI ĐẦU PHỔ BIẾN

Quy trình ML thủ công
Triển khai thủ công
Giám sát chắp vá

=> Tích lũy nợ kỹ thuật

Nợ kỹ thuật

chi phí ngầm của việc phải làm lại do chọn giải pháp dễ (hạn chế) bây giờ thay vì cách tốt hơn nhưng tốn thời gian hơn

~ Wikipedia[1]

Bài báo nổi tiếng của Google về chủ đề này:

"Machine Learning: Thẻ tín dụng lãi suất cao của nợ kỹ thuật"[2]

CÀNG NHIỀU THỜI GIAN VÀ MÔ HÌNH TRIỂN KHAI

Nợ kỹ thuật và rủi ro mô hình tăng
Quy trình chậm hơn, dễ bực và dễ lỗi
Khả năng tạo giá trị bị giảm

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

Quy trình ML

Thu thập và chuẩn bị dữ liệu
Gán nhãn dữ liệu
Chọn mô hình
Huấn luyện mô hình
Đóng gói mô hình
Triển khai mô hình
Giám sát và bảo trì mô hình

Tự động hóa quy trình ML == Mức độ trưởng thành MLOps

Đã triển khai MLOps

Tự động
Nhanh
Tái lập
Giải thích được

chúng ta đang ở đây

phi tuyến tính

tuyến tính

tâm điểm 1

mọi ánh nhìn

Tiếp theo!

Vòng đời mô hình

vòng đời

Kiến trúc MLOps

lưu đồ khái niệm

Ayo berlatih!

Triển khai và Vòng đời MLOps