Thách thức kinh doanh và rủi ro liên quan đến MLOps

MLOps cho Doanh nghiệp

Arne Jonas Warnke

Head of Emerging Curriculum

Nội dung chương 3

Video Thách thức kinh doanh và rủi ro liên quan đến MLOps:

  • Business challenges and risks related to MLOps

$$

Video Cách đội ngũ MLOps vận hành hiệu quả:

  • How MLOps teams successfully operate

$$

Video Thực trạng MLOps hiện nay

  • The state of MLOps today
MLOps cho Doanh nghiệp

MLOps là thách thức

$$ Nhiều công ty gặp khó khăn

  • Đưa vào vận hành
  • Tự động hóa thiết kế và phát triển
  • Tối ưu quy trình và mở rộng

các bài toán ML của họ

$$

Thử thách

MLOps cho Doanh nghiệp

MLOps đòi hỏi kỹ năng đa dạng

MLOps nằm giao giữa Machine Learning, Kỹ thuật Dữ liệu và Kỹ thuật Phần mềm

MLOps cho Doanh nghiệp

Thách thức MLOps: kỹ năng

Các đội thường

  • Thiếu một số kỹ năng cần thiết
    • Thường liên quan tới kỹ thuật phần mềm

$$

Dẫn đến

  • Nợ kỹ thuật
  • Thiếu chuẩn hóa
  • Tái lập chưa đủ

Mọi người cùng giải một mảnh ghép

MLOps cho Doanh nghiệp

Thách thức MLOps: hợp tác và văn hóa

Hợp tác là chìa khóa để đảm bảo

  • Chỉ số thống kê phù hợp với mục tiêu kinh doanh
  • Tất cả bên liên quan hiểu cách đội ngũ MLOps vận hành

$$

Văn hóa và thói quen

  • Học hỏi liên tục
  • Thừa nhận thất bại có thể xảy ra
  • Ghi chép và chia sẻ tri thức

$$

Mọi người hợp tác trước máy tính

MLOps cho Doanh nghiệp

Thách thức MLOps: công nghệ

Công nghệ

  • Phát triển nhanh
  • Chưa có bộ công cụ MLOps chung
    • Mỗi đội dùng cách tiếp cận công nghệ rất khác nhau
    • Ít thông lệ tốt được chấp nhận rộng rãi

$$

Sai lầm thường gặp

  • Quá chú trọng vào công nghệ

$$ Đồ thị mạng thông minh

MLOps cho Doanh nghiệp

Thách thức MLOps: rủi ro

Rủi ro khi vận hành mô hình máy học:

  • Rủi ro kinh doanh và tài chính
    • Ứng dụng/mô hình có thể không sẵn sàng
    • Chất lượng dự đoán có thể suy giảm
    • Rủi ro bảo trì
  • Rủi ro quản trị
    • Dự đoán có thể sai lệch hoàn toàn
    • Có thể có thiên lệch (bias)
  • Rủi ro an toàn (an ninh mạng)

$$

Minh họa các loại rủi ro

MLOps cho Doanh nghiệp

Dự án phần mềm truyền thống vs. MLOps

Phần mềm truyền thống

  • Kiểm thử, gỡ lỗi ...

MLOps

  • Kiểm thử, gỡ lỗi ...
  • Giám sát dữ liệu
  • Giám sát đầu ra mô hình
  • ...

$$ Người đang viết mã

$$ Người–robot lai đang viết mã

MLOps cho Doanh nghiệp

Ayo berlatih!

MLOps cho Doanh nghiệp

Preparing Video For Download...