Giám sát dịch vụ ML

Triển khai và Vòng đời MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Duy trì chất lượng

• Khách hàng trả phí => kỳ vọng chất lượng
• Đảm bảo chất lượng bắt đầu từ kiểm soát chất lượng
• Giám sát

Chỉ số hiệu năng

Chỉ số sức khỏe cơ bản

• Dịch vụ có chạy ổn?
• Số yêu cầu theo thời gian?
• Phân bố độ trễ?

 

Chỉ số chất lượng tối thượng

• Hiệu năng dự đoán

Mô hình ML xuống cấp thế nào?

Ayo berlatih!

Triển khai và Vòng đời MLOps