Giám sát, huấn luyện lại và thay thế ứng dụng MLOps

MLOps cho Doanh nghiệp

Arne Jonas Warnke

Head of Emerging Curriculum

Vận hành mô hình machine learning

$$ Các bước của giai đoạn vận hành

MLOps cho Doanh nghiệp

Tiền triển khai

$$ Giai đoạn tiền triển khai

MLOps cho Doanh nghiệp

Tiền triển khai

  • Đảm bảo mô hình cho kết quả nhất quán ở mọi nơi
    • Gồm đóng gói bằng container
  • Kiểm tra bổ sung
    • Bảo mật

$$

Thường do

  • Kỹ sư phần mềm hoặc kỹ sư machine learning phụ trách

$$

Ảnh container ở cảng

MLOps cho Doanh nghiệp

Triển khai ứng dụng MLOps

$$ Giai đoạn triển khai

MLOps cho Doanh nghiệp

Triển khai ứng dụng MLOps

Triển khai (qua CI/CD)

  • Chủ yếu tự động
  • Gồm nhiều bài kiểm thử (tự động)
  • Cho phép đảo ngược thay đổi nhanh

$$

Thường do

  • Kỹ sư phần mềm hoặc kỹ sư machine learning phụ trách

$$

Một phụ nữ nhận đồ ăn giao tận nơi

MLOps cho Doanh nghiệp

Giám sát ứng dụng MLOps

Giai đoạn giám sát

MLOps cho Doanh nghiệp

Giám sát ứng dụng MLOps

Mô hình đã chạy thực tế và

  • Tạo ra giá trị kinh doanh
  • Ngừng hoạt động/sự cố gây tốn kém
  • Cần giám sát chặt chẽ
    • Chủ yếu tự động

Nếu mô hình lỗi

  • Có thể cần nhiều người tham gia xử lý

Lưu ý chất lượng mô hình sẽ giảm dần theo thời gian.

$$

Phòng giám sát tương lai

MLOps cho Doanh nghiệp

Huấn luyện lại các mô hình machine learning

Giai đoạn huấn luyện lại

MLOps cho Doanh nghiệp

Huấn luyện lại các mô hình machine learning

Hiệu suất mô hình thường suy giảm

  • Thay đổi kinh tế
  • Khách hàng đổi sở thích

Do đó cần huấn luyện lại mô hình định kỳ

  • Có thể tự động một phần

Chủ yếu do

  • Nhà khoa học dữ liệu / kỹ sư machine learning thực hiện

$$

Hình ảnh một vòng tròn

MLOps cho Doanh nghiệp

Ayo berlatih!

MLOps cho Doanh nghiệp

Preparing Video For Download...