การมอนิเตอร์บริการ ML

MLOps Deployment and Life Cycling

Nemanja Radojkovic

Senior Machine Learning Engineer

การรักษาคุณภาพ

  • ลูกค้าที่ชำระเงิน == ความคาดหวังด้านคุณภาพ
  • การรับประกันคุณภาพเริ่มต้นที่การควบคุมคุณภาพ
  • การมอนิเตอร์
MLOps Deployment and Life Cycling

ตัวชี้วัดประสิทธิภาพ

ตัวชี้วัดสุขภาพพื้นฐาน

  • บริการทำงานอยู่หรือไม่?
  • จำนวน request ในช่วงเวลาหนึ่ง?
  • การกระจาย latency?

 

ตัวชี้วัดคุณภาพหลัก

  • ประสิทธิภาพการพยากรณ์

โมเดล ML เสื่อมประสิทธิภาพได้อย่างไร?

MLOps Deployment and Life Cycling

classifier อย่างง่าย

MLOps Deployment and Life Cycling

boundary ที่เรียนรู้แล้ว

MLOps Deployment and Life Cycling

โมเดลที่ฝึกแล้ว

MLOps Deployment and Life Cycling

โลกกำลังเปลี่ยนแปลง

MLOps Deployment and Life Cycling

การเปลี่ยนแปลง 2

MLOps Deployment and Life Cycling

boundary ที่เลื่อนไป

MLOps Deployment and Life Cycling

concept drift

MLOps Deployment and Life Cycling

การไม่เปลี่ยนแปลงทำให้เสื่อมประสิทธิภาพ

MLOps Deployment and Life Cycling

วิธีตรวจจับ

MLOps Deployment and Life Cycling

MLOps Deployment and Life Cycling

ข้อจำกัดที่พบ

MLOps Deployment and Life Cycling

แยกตาม use case

MLOps Deployment and Life Cycling

ไม่มีอะไรได้มาฟรี

MLOps Deployment and Life Cycling

ใช้สิ่งที่มีอยู่

MLOps Deployment and Life Cycling

การเปลี่ยนแปลงของ input feature

MLOps Deployment and Life Cycling

covariate shift

MLOps Deployment and Life Cycling

ข้อจำกัดของการมอนิเตอร์ input

MLOps Deployment and Life Cycling

การมอนิเตอร์ output

MLOps Deployment and Life Cycling

มาฝึกกันเถอะ!

MLOps Deployment and Life Cycling

Preparing Video For Download...