กลยุทธ์การ deploy โมเดล

MLOps Deployment and Life Cycling

Nemanja Radojkovic

Senior Machine Learning Engineer

Deploy สำเร็จ!

แอป ML กำลังทำงาน
API รับคำขอหลายพันรายการต่อชั่วโมง
หนึ่งเดือนต่อมา:
- พบ feature ใหม่ที่ดีกว่าเดิม
- รวบรวมข้อมูล training ชุดใหม่
- รัน pipeline สร้างโมเดลแล้ว
- ได้แพ็กเกจโมเดลใหม่

การสลับโมเดล

การทำนายแบบ offline

ช่วงเวลาเปลี่ยนระบบ

ระบบหยุดทำงานแบบ real-time

downtime ที่มีต้นทุนสูง

การตั้งค่า blue-green

กดปุ่มเดียว

คำศัพท์ blue-green

ข้อดีและข้อเสีย

การย้อนกลับ

canary deployment

การแบ่ง request

ขั้นตอนที่สอง

ผลลัพธ์สุดท้าย

การตรวจสอบ

ข้อเสีย

การลดความเสี่ยง

มาฝึกกันเถอะ!

MLOps Deployment and Life Cycling

Preparing Video For Download...