Doanh nghiệp trở nên sẵn sàng MLOps hoàn toàn như thế nào

MLOps cho Doanh nghiệp

Arne Jonas Warnke

Head of Emerging Curriculum

Chúng ta đang ở đâu về MLOps?

$$

Nâng cao năng lực MLOps đòi hỏi

  • Đánh giá
  • Đo lường

Làm thế nào để thực hiện?

$$

Dùng kính lúp xem tài liệu

MLOps cho Doanh nghiệp

Các mô hình trưởng thành MLOps

Microsoft:

  • 5 cấp

liên quan tới

  • Quy trình, công nghệ, con người

Google:

  • 3 cấp

liên quan tới

  • Mức độ tự động hóa

$$

Logo Microsoft

$$

Logo Google

MLOps cho Doanh nghiệp

Mô hình trưởng thành MLOps của Microsoft - cấp 0

$$

Cấp Mô tả Điểm nổi bật
0 Chưa có MLOps Nhóm rời rạc, quy trình thủ công
1 https://learn.microsoft.com/en-us/azure/architecture/example-scenario/mlops/mlops-maturity-model
MLOps cho Doanh nghiệp

Mô hình trưởng thành MLOps của Microsoft - cấp 1

$$

Cấp Mô tả Điểm nổi bật
0 Chưa có MLOps Nhóm rời rạc, quy trình thủ công
1 DevOps, chưa có MLOps Nhóm rời rạc, tự động thu thập dữ liệu, bắt đầu kiểm thử tự động
1 https://learn.microsoft.com/en-us/azure/architecture/example-scenario/mlops/mlops-maturity-model
MLOps cho Doanh nghiệp

Mô hình trưởng thành MLOps của Microsoft - cấp 2

$$

Cấp Mô tả Điểm nổi bật
0 Chưa có MLOps Nhóm rời rạc, quy trình thủ công
1 DevOps, chưa có MLOps Nhóm rời rạc, tự động thu thập dữ liệu, bắt đầu kiểm thử tự động
2 Huấn luyện tự động Hợp tác tốt hơn, tái lập được, triển khai dễ hơn
1 https://learn.microsoft.com/en-us/azure/architecture/example-scenario/mlops/mlops-maturity-model
MLOps cho Doanh nghiệp

Mô hình trưởng thành MLOps của Microsoft - cấp 3

$$

Cấp Mô tả Điểm nổi bật
0 Chưa có MLOps Nhóm rời rạc, quy trình thủ công
1 DevOps, chưa có MLOps Nhóm rời rạc, tự động thu thập dữ liệu, bắt đầu kiểm thử tự động
2 Huấn luyện tự động Hợp tác tốt hơn, tái lập được, triển khai dễ hơn
3 Triển khai tự động Hợp tác tốt, tái lập đầy đủ, truy vết, kiểm thử tự động
1 https://learn.microsoft.com/en-us/azure/architecture/example-scenario/mlops/mlops-maturity-model
MLOps cho Doanh nghiệp

Mô hình trưởng thành MLOps của Microsoft - cấp 4

$$

Cấp Mô tả Điểm nổi bật
0 Chưa có MLOps Nhóm rời rạc, quy trình thủ công
1 DevOps, chưa có MLOps Nhóm rời rạc, tự động thu thập dữ liệu, bắt đầu kiểm thử tự động
2 Huấn luyện tự động Hợp tác tốt hơn, tái lập được, triển khai dễ hơn
3 Triển khai tự động Hợp tác tốt, tái lập đầy đủ, truy vết, kiểm thử tự động
4 Tái huấn luyện tự động Hợp tác đầy đủ, vận hành thuần thục, rất ít thời gian ngừng
1 https://learn.microsoft.com/en-us/azure/architecture/example-scenario/mlops/mlops-maturity-model
MLOps cho Doanh nghiệp

Đo lường tiến độ hướng tới MLOps

$$

Mô hình trưởng thành rất hữu ích

  • Nhưng đo tiến độ liên tục thế nào?
  • Có KPI cho MLOps?

Hình ảnh quy trình KPI

MLOps cho Doanh nghiệp

Các KPI MLOps khả dĩ

$$

  • Tần suất triển khai
    • Mỗi tuần phát hành bao nhiêu lần?
  • Thời gian phản hồi sự cố
    • Khi lỗi xảy ra, cần bao lâu để khôi phục ứng dụng?
  • Thời gian dẫn cho yêu cầu thay đổi
    • Ví dụ: thời gian thêm tính năng mới.
1 https://cloud.google.com/blog/products/devops-sre/using-the-four-keys-to-measure-your-devops-performance
MLOps cho Doanh nghiệp

Ayo berlatih!

MLOps cho Doanh nghiệp

Preparing Video For Download...