กรอบงาน MLOps สมัยใหม่

MLOps Deployment and Life Cycling

Nemanja Radojkovic

Senior Machine Learning Engineer

เกี่ยวกับผู้สอน

รูปโปรไฟล์

Senior Machine Learning Engineer
มีประสบการณ์พัฒนา นำไปใช้งาน และดูแลโมเดล Machine Learning ในระบบ Production
โฟกัสปัจจุบัน: การ Deploy และวงจรชีวิตของ ML

¹ www.linkedin.com/in/radojkovic

คอร์สเชิงแนวคิด

ใช่: ความเข้าใจในระดับภาพรวม

แผนภาพแนวคิด

ไม่ใช่: ทักษะปฏิบัติ

การเขียนโค้ดเชิงปฏิบัติ

MLOps

Machine Learning Operations

หลักการ
แนวปฏิบัติ
เครื่องมือ

เป้าหมาย: Workflow และบริการ ML

อัตโนมัติ
ทำซ้ำได้
บูรณาการ

ops ส่วนที่ 1

ops ส่วนที่ 2

MLOps จากฝั่ง Dev

บทที่ I

คุณค่าและความจำเป็นของ MLOps

คุณค่า

ขั้นตอนวงจรชีวิตของโมเดล

วงจรชีวิต

องค์ประกอบของกรอบงาน MLOps

ส่วนประกอบหลัก

DevOps เพียงอย่างเดียว

DevOps ร่วมกับ MLOps

ต้นทุนสูงของ ML ที่ขาด Ops

จุดเริ่มต้นที่พบบ่อย

Workflow ML แบบ Manual
การ Deploy แบบ Manual
การ Monitor แบบ Ad hoc

=> การสะสม Technical Debt

Technical Debt

ต้นทุนแฝงจากการแก้ไขงานเพิ่มเติม อันเกิดจากการเลือกวิธีแก้ปัญหาที่ง่ายแต่จำกัดในตอนนี้ แทนที่จะใช้แนวทางที่ดีกว่าซึ่งต้องใช้เวลามากกว่า

~ Wikipedia[1]

บทความของ Google ที่มีชื่อเสียงในหัวข้อนี้:

"Machine Learning: The high-interest credit card of technical debt"[2]

เวลาผ่านไปและโมเดล Deploy มากขึ้น

Technical Debt และความเสี่ยงของโมเดลเพิ่มขึ้น
กระบวนการช้าลง ยุ่งยากขึ้น และเกิดข้อผิดพลาดได้ง่ายขึ้น
ความสามารถในการสร้างคุณค่าลดลง

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

ML Workflows

การเก็บและเตรียมข้อมูล
การติดป้ายกำกับข้อมูล
การเลือกโมเดล
การเทรนโมเดล
การบรรจุโมเดล
การ Deploy โมเดล
การ Monitor และบำรุงรักษาโมเดล

การทำ ML Workflow อัตโนมัติ == ความสมบูรณ์ของ MLOps

MLOps ที่นำไปใช้แล้ว

อัตโนมัติ
รวดเร็ว
ทำซ้ำได้
อธิบายได้

เราอยู่ตรงนี้

ไม่เป็นเส้นตรง

เป็นเส้นตรง

จุดสนใจ 1

ทุกสายตามองมา

ต่อไป!

วงจรชีวิตของโมเดล

วงจรชีวิต

สถาปัตยกรรม MLOps

แผนภาพแนวคิด

มาฝึกกันเถอะ!

MLOps Deployment and Life Cycling