Thực hành tốt và cạm bẫy trong MLOps

MLOps cho Doanh nghiệp

Arne Jonas Warnke

Head of Emerging Curriculum

Nội dung video này

MLOps

Thực hành tốt
Cạm bẫy cần tránh

Thực hành tốt

Thực hành tốt khi thiết kế ứng dụng MLOps

Tập trung vào dữ liệu tốt hơn
- Hơn là mô hình tốt hơn
- Cách tiếp cận lấy dữ liệu làm trung tâm

Bắt đầu từ bài toán kinh doanh
- Cân nhắc PoC nếu chưa rõ khả thi
- Đánh giá sớm các nút thắt cổ chai
- Đảm bảo học được điều gì đó ngay cả khi thất bại

Tờ dữ liệu số

Hạ tầng

Thực hành tốt về hạ tầng

Nhu cầu tính toán thay đổi
- Đặc biệt cao lúc huấn luyện
- Hạ tầng phải sẵn sàng cho việc đó
Lưu ý chi phí liên quan

Đồng nghiệp trong phòng máy chủ

Thực hành tốt về mô hình hóa

Dưới đây là một số thực hành tốt trong MLOps:

Bắt đầu với mô hình đơn giản
- Phát triển nhanh, làm mốc so sánh
- Dễ hiểu hơn

Khi thêm mô hình mới:

Mô hình có tốt hơn hiện trạng không?

Người lai rô-bốt viết mã

Kiểm thử

Kiểm thử tự động

Xuyên suốt vòng đời

Mã
Mô hình
Chất lượng dữ liệu
Toàn bộ pipeline

Kiểm thử tự động

Chất lượng mã và khả năng tái lập

Mọi kết quả

Dễ hiểu
Tái lập được

=> Kiểm thử chất lượng mã

Hai lập trình viên cùng cải thiện mã

Chuyển giao tri thức

Phiên bản hóa

Mô hình và mã
(Lưu trữ) dữ liệu

Duy trì văn hóa

Tài liệu
Mã sạch
Chuyển giao tri thức

Hình ảnh động não

Ghi chép insight thu được

Ghi lại kiến thức thu được

Dù không dùng trong ứng dụng cuối cùng

Bóng đèn

Thực hành tốt về vận hành

Tự động hóa

Ghi log
Giám sát thực hành

Đào tạo đội ngũ

Để phản ứng nhanh khi có lỗi

Continuous Monitoring / -Training

Phòng giám sát

Ayo berlatih!

MLOps cho Doanh nghiệp