Mẫu tự động hóa, giám sát, ứng phó sự cố

MLOps Tự động hoá Hoàn toàn

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Mẫu thiết kế phần mềm là gì?

$$

Một giải pháp tổng quát, có thể tái sử dụng cho một vấn đề thường gặp...

$$

$$

Hình bản vẽ thiết kế.

MLOps Tự động hoá Hoàn toàn

Tự động hóa, giám sát, ứng phó

$$

$$

Hình minh họa quy trình: Tự động hóa, Giám sát, Ứng phó sự cố.

  • Nâng cao độ tin cậy của hệ thống ML chúng ta thiết kế
MLOps Tự động hoá Hoàn toàn

Ba ví dụ về mẫu thiết kế trong MLOps

$$

  1. Huấn luyện lại mô hình tự động
  2. Rollback mô hình
  3. Bù khuyết đặc trưng

$$

Hình bản vẽ thiết kế.

MLOps Tự động hoá Hoàn toàn

1. Huấn luyện lại mô hình tự động

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn.

MLOps Tự động hoá Hoàn toàn

1. Huấn luyện lại mô hình tự động - chạy dự đoán

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Dịch vụ dự đoán được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

1. Huấn luyện lại mô hình tự động - Giám sát

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Mô-đun giám sát hiệu năng được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

1. Huấn luyện lại mô hình tự động - Kích hoạt

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Thành phần kích hoạt được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

1. Huấn luyện lại mô hình tự động - Pipeline tự động

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Pipeline tự động được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

1. Huấn luyện lại mô hình tự động - Triển khai

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Thành phần phân phối liên tục được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

2. Rollback mô hình

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Pipeline tự động được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

2. Rollback mô hình - Kiểm định thất bại

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Các bước đánh giá và kiểm định mô hình được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

2. Rollback mô hình - Mô hình hoạt động gần nhất

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Sổ đăng ký mô hình được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

2. Rollback mô hình - Triển khai lại

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Thành phần triển khai liên tục được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

3. Bù khuyết đặc trưng - Pipeline nặng dữ liệu

Tổng quan cấp cao về kiến trúc MLOps tự động hoàn toàn. Các thành phần dữ liệu trong pipeline tự động được làm nổi bật.

MLOps Tự động hoá Hoàn toàn

3. Bù khuyết đặc trưng - Chất lượng dữ liệu

$$

Hình bảng với cột dữ liệu có giá trị thiếu.

$$

  • Mức chất lượng dữ liệu khác nhau
  • Một số đặc trưng có thể dưới ngưỡng QA
MLOps Tự động hoá Hoàn toàn

3. Bù khuyết đặc trưng - Đặc trưng lỗi

$$

Các cột trong bảng trước được tô sáng và đánh dấu lỗi.

$$

  • Phát hiện đặc trưng lỗi
  • Áp dụng bù khuyết đặc trưng
MLOps Tự động hoá Hoàn toàn

3. Bù khuyết đặc trưng - Cách khắc phục

  • Giá trị số

    $$

    • Bù khuyết theo trung bình/trung vị

    • Bù khuyết KNN

$$

  • Giá trị phân loại

    $$

  • Bù khuyết hạng mục phổ biến

  • Thêm hạng mục "Missing"

MLOps Tự động hoá Hoàn toàn

Ayo berlatih!

MLOps Tự động hoá Hoàn toàn

Preparing Video For Download...