Giới thiệu tự động hóa toàn phần và thực hành tốt trong MLOps

MLOps Tự động hoá Hoàn toàn

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Vòng đời MLOps

Hình vòng đời MLOps: Ba vòng tròn nối nhau, từ trái sang phải: Thiết kế, Phát triển, Triển khai.

Các mức độ trưởng thành trong MLOps

Các mức độ trưởng thành gồm:

Quy trình ML thủ công
Quy trình ML bán tự động
Quy trình ML tự động hoàn toàn

Quy trình ML thủ công - Thử nghiệm ad hoc

Hình minh họa mô hình được chuyển thủ công từ phát triển sang sản xuất bằng quy trình thủ công.

Quy trình ML bán tự động

Hình dữ liệu được đưa vào pipeline thí nghiệm có điều phối.

Quy trình ML bán tự động

Hình trước được mở rộng với mã được đẩy lên kho nguồn và kho đặc trưng cung cấp dữ liệu cho hệ thống.

Quy trình ML bán tự động

Hình trước được mở rộng với thành phần triển khai. Thành phần này triển khai các pipeline ML tự động trong kiến trúc. Ngoài ra, kho siêu dữ liệu ML nhận metadata do pipeline tự động tạo.

Quy trình ML bán tự động

Kiến trúc trước được mở rộng. Mô hình do pipeline tự động tạo được đẩy vào sổ đăng ký mô hình, rồi phân phối đến mô-đun phục vụ mô hình. Mô-đun phục vụ mô hình kết nối với dịch vụ dự đoán trong kiến trúc.

Quy trình ML bán tự động

Mô-đun dịch vụ dự đoán trong kiến trúc được nối với thành phần giám sát hiệu năng, thành phần này nối với bộ kích hoạt tự động. Bộ kích hoạt có thể khởi chạy pipeline tự động trong hệ thống.