Giám sát và cảnh báo

Triển khai và Vòng đời MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

thế giới bên ngoài

Triển khai và Vòng đời MLOps

lỗi trong dịch vụ

Triển khai và Vòng đời MLOps

bắt lỗi

Triển khai và Vòng đời MLOps

nhiều thành phần chuyển động

Triển khai và Vòng đời MLOps

điểm lỗi 2

Triển khai và Vòng đời MLOps

cảnh báo

Triển khai và Vòng đời MLOps

xem ở đây

Triển khai và Vòng đời MLOps

ghi log 1

Triển khai và Vòng đời MLOps

ghi log 2

Triển khai và Vòng đời MLOps

ghi log 3

Triển khai và Vòng đời MLOps

pipeline dữ liệu 1

Triển khai và Vòng đời MLOps

xác thực dữ liệu 2

Triển khai và Vòng đời MLOps

hồ sơ dữ liệu xác thực

Triển khai và Vòng đời MLOps

Xác thực thống kê

Có thể:

  • quá nhạy
  • thiếu thông tin

 

Rủi ro

  • Quá nhiều cảnh báo
  • "Mệt mỏi cảnh báo"
  • Bỏ lỡ cảnh báo quan trọng
Triển khai và Vòng đời MLOps

thông báo cho mọi người

Triển khai và Vòng đời MLOps

Học từ lịch sử của bạn

Sau khi xử lý sự cố => Ghi lại nguyên nhân gốc và các bước khắc phục

Ví dụ từ Google[1]:

  • 10 năm sự cố được ghi lại và phân tích
  • > 2/3 không liên quan đến ML!
1 How ML Breaks: A Decade of Outages for One Large ML Pipeline, https://www.usenix.org/conference/opml20/presentation/papasian
Triển khai và Vòng đời MLOps

giám sát tập trung

Triển khai và Vòng đời MLOps

Ayo berlatih!

Triển khai và Vòng đời MLOps

Preparing Video For Download...