MLOps

Chiến lược Trí tuệ Nhân tạo (AI)

Vidhi Chugh

AI strategist and ethicist

Vận hành hóa

Đưa các mô hình AI tiên tiến vào hoạt động thường nhật.

Mô hình AI tiên tiến

Chiến lược Trí tuệ Nhân tạo (AI)

Quản lý phiên bản mã và dữ liệu

  • Thử nghiệm tạo ra nhiều phiên bản mã

Thử nghiệm tạo ra nhiều phiên bản mã

  • Duy trì bằng hệ thống quản lý phiên bản
  • Phiên bản dữ liệu

Phiên bản dữ liệu

  • Dữ liệu mới hoặc đặc trưng mới
Chiến lược Trí tuệ Nhân tạo (AI)

Tính di động

  • Môi trường của dự án ML
    • Huấn luyện
    • Thẩm định
    • Sản xuất

 

  • Nhất quán trong suốt vòng đời

    • Thư viện
    • Framework
    • Phiên bản

 

Thư viện, framework và phiên bản

Chiến lược Trí tuệ Nhân tạo (AI)

Thời điểm cần suy nghĩ!

  • Quản lý phiên bản và phụ thuộc khác nhau

Tập trung vào giá trị kinh doanh tức thì

  • Tập trung vào giá trị kinh doanh tức thì
  • Khả năng mở rộng và kiến trúc bị xem nhẹ

Khả năng mở rộng và kiến trúc

  • Cách làm ad-hoc gây thách thức
Chiến lược Trí tuệ Nhân tạo (AI)

Quản lý dữ liệu tự động

  • Nỗ lực chuẩn bị lại dữ liệu huấn luyện
  • Lỗi, thay đổi hoặc cập nhật
  • Quản lý dữ liệu tự động để đảm bảo chất lượng
  • Kiểm tra chất lượng và cảnh báo

Lỗi, thay đổi hoặc cập nhật

Quản lý dữ liệu tự động để đảm bảo chất lượng

Kiểm tra chất lượng và cảnh báo

Chiến lược Trí tuệ Nhân tạo (AI)

Nhu cầu tự động hóa

  • Can thiệp thủ công = chậm trễ
    • Hiệu năng mô hình suy giảm
    • Phân tích lỗi
    • Hành động khắc phục

Can thiệp thủ công

Hiệu năng mô hình

 

  • Mất nhiều thời gian
  • Dự đoán sai
  • Hệ quả tiêu cực
Chiến lược Trí tuệ Nhân tạo (AI)

Tái cấu trúc mã

 

Tái cấu trúc mã ban đầu

 

  • Thiếu thực hành kỹ thuật cốt lõi

 

  • Cần tái cấu trúc mã ban đầu
    • Rủi ro lớn
    • Hiểu sai hoặc diễn giải sai logic gốc
Chiến lược Trí tuệ Nhân tạo (AI)

Đặc tính của kiến trúc hiệu quả

 

  • Hệ thống tin cậy cần nỗ lực
  • MLOps = chuẩn hóa quy trình và pipeline tự động

 

  • Tự động hóa:
    • Mô-đun tái sử dụng - data product, mã
    • Khung kiểm thử tự động
    • Giảm rủi ro khi tái cấu trúc

 

Tự động hóa

Chiến lược Trí tuệ Nhân tạo (AI)

Đặc tính của kiến trúc hiệu quả

 

Docker đóng gói mô hình cùng môi trường

 

  • Docker đóng gói mô hình cùng môi trường

  • Ít can thiệp thủ công = vòng đời hiệu quả

  • Duy trì hiệu năng mô hình là thách thức

 

  • MLOps để giám sát mô hình
    • Giảm 30% mô hình bị ngưng dùng
    • Tăng 60% giá trị
Chiến lược Trí tuệ Nhân tạo (AI)

Ayo berlatih!

Chiến lược Trí tuệ Nhân tạo (AI)

Preparing Video For Download...