Giới thiệu về MLOps tự động hoàn toàn

MLOps Tự động hoá Hoàn toàn

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps trong môi trường công nghiệp

Doanh nghiệp thường hướng đến mục tiêu gì khi dùng machine learning?

  • Phát triển công cụ/sản phẩm ML dùng dữ liệu để
    • Phục vụ khách hàng tốt hơn
    • Tối ưu quy trình

Hình cho thấy doanh nghiệp dùng hệ thống machine learning để nâng cấp quy trình nội bộ hoặc cải thiện dịch vụ hướng khách hàng.

MLOps Tự động hoá Hoàn toàn

Tối ưu hóa tạo giá trị

Doanh nghiệp hướng tới tối đa hóa lợi nhuận

  • Machine learning có thể tăng lợi nhuận
  • Phân tích chi phí và doanh thu giúp ước tính lợi nhuận tiềm năng
  • Triển khai số lượng use case ML phù hợp có thể tạo lợi nhuận

Đồ thị với đường cong. Trục x: số dự án machine learning. Trục y: doanh thu từ dự án. Đường cong tăng đến điểm bão hòa tại 6 dự án và ~25 triệu, sau đó doanh thu giảm dần và không tăng lại.

MLOps Tự động hoá Hoàn toàn

Chi phí trong phát triển phần mềm

Chi phí kỳ vọng trong dự án phát triển phần mềm truyền thống:

  • Chi phí phát triển
  • Quản lý dự án
  • Thiết kế UI/UX
  • Đảm bảo chất lượng
MLOps Tự động hoá Hoàn toàn

Nợ kỹ thuật trong phát triển phần mềm

Nợ kỹ thuật hay nợ thiết kế:

  • Chi phí làm lại do thiết kế kém

Hình hai kỹ sư trước ngôi nhà xây kém. Một người nói: “Tôi không hiểu sao thêm cửa sổ mới lại lâu thế.”

1 https://vincentdnl.com/drawings/
MLOps Tự động hoá Hoàn toàn

Nợ kỹ thuật ẩn trong hệ thống ML

Machine Learning: “Thẻ tín dụng lãi suất cao của nợ kỹ thuật”[1].

Nợ kỹ thuật ẩn có thể liên quan đến:

  1. Dữ liệu dùng để huấn luyện mô hình ML
  2. Các mô hình vận hành hệ thống ML
  3. Hạ tầng dùng bởi hệ thống ML
  4. Giám sát hệ thống ML
1 https://research.google/pubs/pub43146/
MLOps Tự động hoá Hoàn toàn

Chi phí của dự án machine learning

Lợi nhuận giảm do nợ kỹ thuật trong hệ thống ML: $$ $$

Hình cho thấy hai đồ thị, mỗi đồ thị một đường cong. Ở hình đầu, doanh thu ước tính là $25M. Ở hình thứ hai, doanh thu giảm còn $10M.

MLOps Tự động hoá Hoàn toàn

Thẻ tín dụng lãi cao của nợ kỹ thuật

Hệ thống ML có thể phức tạp và khó kiểm soát.

Hình minh họa nhiều thành phần trong hệ thống ML. Mã ML là phần nhỏ ở giữa. Xung quanh gồm cấu hình, thu thập dữ liệu, xác thực dữ liệu, quản lý tài nguyên máy, hạ tầng serving, giám sát, công cụ phân tích, công cụ quản trị quy trình, trích xuất đặc trưng.

MLOps Tự động hoá Hoàn toàn

MLOps: Cách trả hiệu quả nhất

Nếu ML là “thẻ tín dụng lãi cao” của nợ kỹ thuật, thì MLOps là cách trả nợ tốt nhất.

MLOps có thể bao gồm:

  • Kiểm thử tự động
  • Theo dõi thí nghiệm tự động
  • Giám sát tự động

Để giảm thiểu nợ kỹ thuật

MLOps Tự động hoá Hoàn toàn

Ayo berlatih!

MLOps Tự động hoá Hoàn toàn

Preparing Video For Download...