ขั้นตอนของวงจรชีวิต

MLOps Deployment and Life Cycling

Nemanja Radojkovic

Senior Machine Learning Engineer

วงจรชีวิตของ Machine Learning

 

  1. วงจรชีวิตโปรเจกต์ ML
  2. วงจรชีวิตแอปพลิเคชัน ML
  3. วงจรชีวิตโมเดล ML
MLOps Deployment and Life Cycling

ML project bare

MLOps Deployment and Life Cycling

ML project with outcomes

MLOps Deployment and Life Cycling

pure estimator

MLOps Deployment and Life Cycling

ml application

MLOps Deployment and Life Cycling

business rules

MLOps Deployment and Life Cycling

database

MLOps Deployment and Life Cycling

graphical user interface

MLOps Deployment and Life Cycling

API

MLOps Deployment and Life Cycling

model and app together

MLOps Deployment and Life Cycling

locked in model

MLOps Deployment and Life Cycling

separation I

MLOps Deployment and Life Cycling

fly away

MLOps Deployment and Life Cycling

separate timelines

MLOps Deployment and Life Cycling

app life cycle

MLOps Deployment and Life Cycling

model life cycle

MLOps Deployment and Life Cycling

we are here

MLOps Deployment and Life Cycling

โมเดลคืออะไร...

ไม่ใช่ สิ่งที่เป็นนามธรรมหรือทฤษฎีเท่านั้น

โมเดลคือ

  • โมเดลที่ผ่านการฝึกฝนจริง
  • พร้อมนำไปใช้งาน
MLOps Deployment and Life Cycling

Deployment

 

  • ออบเจกต์โมเดล + ทรัพยากรสำหรับ deploy = แพ็กเกจ deployment ของโมเดล
  • การนำโมเดลไปใช้งาน = deployment

 

deployment race start

MLOps Deployment and Life Cycling

การติดตามโมเดล

 

  • เซิร์ฟเวอร์โมเดลทำงานอยู่หรือไม่?
  • input และ output ของโมเดลเป็นไปตามที่คาดไว้หรือไม่?
  • รู้จักในชื่อ post-deployment monitoring

 

model monitoring

MLOps Deployment and Life Cycling

การปลดระวาง

 

power off

 

สาเหตุที่เป็นไปได้

  • พบโมเดลที่ดีกว่า
  • สร้าง feature ที่มีประสิทธิภาพมากขึ้น
  • กระบวนการที่โมเดลจำลองเปลี่ยนไป ทำให้โมเดลเดิมใช้ไม่ได้

 

=> ปลดระวางของเก่า นำของใหม่เข้ามาแทน

MLOps Deployment and Life Cycling

การเก็บถาวรโมเดล

  • สำคัญในอุตสาหกรรมที่มีกฎระเบียบเข้มงวด

    ทำไมโมเดลประเมินความเสี่ยงสินเชื่อของคุณถึงอนุมัติเงินกู้นี้ในปี 2020?

 

  • การ Reproduce ซ้ำ: ความสามารถในการสร้างใหม่ โหลดซ้ำ และใช้งานโมเดลเวอร์ชันเก่า
    • ไม่ใช่ข้อกำหนดที่ทำได้ง่าย

 

model archive

MLOps Deployment and Life Cycling

มาฝึกกันเถอะ!

MLOps Deployment and Life Cycling

Preparing Video For Download...