การทำ MLOps แบบอัตโนมัติเต็มรูปแบบและแนวปฏิบัติที่ดี

MLOps แบบอัตโนมัติเต็มรูปแบบ

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

วงจรชีวิต MLOps

ภาพวงจรชีวิต MLOps ประกอบด้วยวงกลมสามวงเชื่อมต่อกัน ชื่อของแต่ละวงจากซ้ายไปขวา ได้แก่ Design, Development, Deployment

MLOps แบบอัตโนมัติเต็มรูปแบบ

ระดับความเป็นผู้ใหญ่ใน MLOps

$$

ระดับความเป็นผู้ใหญ่ประกอบด้วย:

  • ML workflow แบบ Manual

  • ML workflow แบบกึ่งอัตโนมัติ

  • ML workflow แบบอัตโนมัติเต็มรูปแบบ

MLOps แบบอัตโนมัติเต็มรูปแบบ

ML workflow แบบ Manual - การทดลองแบบ Ad hoc

ภาพแสดงการส่งโมเดลจาก Development ไปยัง Production แบบ Manual

MLOps แบบอัตโนมัติเต็มรูปแบบ

ML workflow แบบกึ่งอัตโนมัติ

ภาพแสดงข้อมูลที่ถูกส่งเข้า Pipeline การทดลองแบบ Orchestrated

MLOps แบบอัตโนมัติเต็มรูปแบบ

ML workflow แบบกึ่งอัตโนมัติ

ภาพก่อนหน้าถูกขยายโดยเพิ่ม Code ที่ Push ไปยัง Source Repository และ Feature Store ที่ป้อนข้อมูลเข้าสู่ระบบ

MLOps แบบอัตโนมัติเต็มรูปแบบ

ML workflow แบบกึ่งอัตโนมัติ

ภาพก่อนหน้าถูกขยายโดยเพิ่ม Deployment Component ซึ่ง Deploy ML Pipeline อัตโนมัติในสถาปัตยกรรม นอกจากนี้ยังมี ML Metadata Store ที่รับ Metadata จาก Pipeline อัตโนมัติ

MLOps แบบอัตโนมัติเต็มรูปแบบ

ML workflow แบบกึ่งอัตโนมัติ

ภาพก่อนหน้าถูกขยายเพิ่มเติม โดยโมเดลที่ได้จาก Pipeline อัตโนมัติจะถูก Push ไปยัง Model Registry ซึ่งส่งต่อโมเดลไปยัง Model Serving Module และ Module นี้เชื่อมต่อกับ Prediction Service ในสถาปัตยกรรม

MLOps แบบอัตโนมัติเต็มรูปแบบ

ML workflow แบบกึ่งอัตโนมัติ

Module Prediction Service ในสถาปัตยกรรมเชื่อมต่อกับ Performance Monitoring Component ซึ่งต่อกับ Automated Trigger โดย Trigger นี้สามารถเริ่มต้น Pipeline อัตโนมัติในระบบได้

MLOps แบบอัตโนมัติเต็มรูปแบบ

ML workflow แบบอัตโนมัติเต็มรูปแบบ

ภาพแสดงภาพรวมระดับสูงของสถาปัตยกรรมอ้างอิง MLOps แบบอัตโนมัติเต็มรูปแบบ

MLOps แบบอัตโนมัติเต็มรูปแบบ

การทำให้เป็นอัตโนมัติในวงจรชีวิต ML - Design

ตารางแสดงว่ากิจกรรมในขั้นตอน Design และ Planning ไม่สามารถทำให้เป็นอัตโนมัติได้

แนวปฏิบัติที่ดี:

  • ใช้กระบวนการที่ทำซ้ำได้
  • จัดทำเอกสารอย่างละเอียด
MLOps แบบอัตโนมัติเต็มรูปแบบ

การทำให้เป็นอัตโนมัติในวงจรชีวิต ML - Development

ตารางแสดงว่ากิจกรรมในขั้นตอน Development ไม่สามารถทำให้เป็นอัตโนมัติได้ทั้งหมด

แนวปฏิบัติที่ดี:

  • ระลึกว่าเรากำลังพัฒนาซอฟต์แวร์
  • ใช้ Version Control
  • ใช้เครื่องมือ Orchestration
MLOps แบบอัตโนมัติเต็มรูปแบบ

การทำให้เป็นอัตโนมัติในวงจรชีวิต ML - Operations

ตารางแสดงว่ากิจกรรมในขั้นตอน Operations ส่วนใหญ่สามารถทำให้เป็นอัตโนมัติได้

ใช้:

  • Automated Testing
  • CI/CD/CT/CM
MLOps แบบอัตโนมัติเต็มรูปแบบ

มาฝึกกันเถอะ!

MLOps แบบอัตโนมัติเต็มรูปแบบ

Preparing Video For Download...