Các giai đoạn vòng đời MLOps

MLOps Tự động hoá Hoàn toàn

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Vòng đời MLOps

Vòng đời MLOps gồm ba giai đoạn chính:

Hình vòng đời MLOps. Ba vòng tròn nối nhau, từ trái sang phải: Design, Development, Deployment.

  • Ba giai đoạn là lặp
  • Ba giai đoạn liên kết và phụ thuộc nhau
  • Việc chuyển qua lại giữa các giai đoạn là bình thường
MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Thiết kế

Giai đoạn Thiết kế gồm:

  • Hiểu bài toán kinh doanh
    $$
  • Hiểu dữ liệu
    $$
  • Thiết kế giải pháp ML

$$

Hình vòng tròn với chu kỳ, chữ Design ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Thiết kế

Giai đoạn Thiết kế gồm:

  • Hiểu bài toán kinh doanh
    $$
    • Hiểu bối cảnh kinh doanh
    • Xác lập mục tiêu kinh doanh

$$

Hình vòng tròn với chu kỳ, chữ Design ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Thiết kế

Giai đoạn Thiết kế gồm:

  • Hiểu dữ liệu
    $$
    • Khám phá dữ liệu
    • Trực quan hóa dữ liệu

$$

Hình vòng tròn với chu kỳ, chữ Design ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Thiết kế

Giai đoạn Thiết kế gồm:

  • Thiết kế hệ thống
    $$
    • Thiết kế kiến trúc
      • Bảo mật dữ liệu
      • Quyền riêng tư dữ liệu

$$

Hình vòng tròn với chu kỳ, chữ Design ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Thiết kế

Giai đoạn Thiết kế gồm:

  • Hiểu bài toán kinh doanh
    $$
  • Hiểu dữ liệu
    $$
  • Thiết kế giải pháp ML

$$

Phần lớn giai đoạn thiết kế không thể tự động hóa

$$

Hình vòng tròn với chu kỳ, chữ Design ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Phát triển

Giai đoạn thử nghiệm và phát triển ML gồm: $$

  • Phát triển Proof-of-Concept (PoC)
    $$
  • Kỹ thuật dữ liệu
    $$
  • Phát triển mô hình

$$

Hình vòng tròn với chu kỳ, chữ Development ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Phát triển

Giai đoạn thử nghiệm và phát triển ML gồm:

  • Phát triển Proof-of-Concept (PoC)
    $$
    • Kết hợp quy trình & tự động hóa
    • Sử dụng framework

$$

Hình vòng tròn với chu kỳ, chữ Development ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Phát triển

Giai đoạn thử nghiệm và phát triển ML gồm:

  • Kỹ thuật dữ liệu (PoC)
    $$
    • Dùng tự động hóa → Đảm bảo chất lượng

$$

Hình vòng tròn với chu kỳ, chữ Development ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Phát triển

Giai đoạn thử nghiệm và phát triển ML gồm:

  • Phát triển mô hình (PoC)
    $$
    • Theo dõi thí nghiệm
    • Huấn luyện tự động
    • Tối ưu siêu tham số tự động

$$

Hình vòng tròn với chu kỳ, chữ Development ở giữa

MLOps Tự động hoá Hoàn toàn

MLOps trong vòng đời ML - Triển khai

Giai đoạn triển khai và vận hành ML gồm:

  • Đưa vào sản xuất
    • Kiểm thử
    • Quản lý phiên bản
    • Phân phối liên tục
    • Giám sát

$$

Hình vòng tròn với chu kỳ, chữ Deployment ở giữa

MLOps Tự động hoá Hoàn toàn

Xây dựng để mở rộng: Ưu tiên tự động hóa

Chúng ta dùng tinh gọn quy trình, thực hành tốt và tự động hóa

Hình vòng đời MLOps. Ba vòng tròn nối nhau, từ trái sang phải: Design, Development, Deployment.

Khi không tự động hóa, tinh gọn quy trình:

  • CRISP-DM
  • TDSP [1]
1 https://www.ibm.com/docs/en/spss-modeler/saas?topic=dm-crisp-help-overview
MLOps Tự động hoá Hoàn toàn

Tinh gọn quy trình và thực hành tốt

$$

Giai đoạn thiết kế

$$

  • Thực hành tốt

    • Bao gồm chuyên gia miền

    • Tham gia các bên liên quan kinh doanh

    • Lấy phản hồi từ người dùng cuối

$$

Giai đoạn phát triển

$$

  • Thực hành tốt

    • Viết mã sạch
    • Ghi chép công việc
MLOps Tự động hoá Hoàn toàn

Ayo berlatih!

MLOps Tự động hoá Hoàn toàn

Preparing Video For Download...