Orchestration ใน MLOps

MLOps แบบอัตโนมัติเต็มรูปแบบ

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

องค์ประกอบหลักในระบบ MLOps

ภาพสถาปัตยกรรมอ้างอิง MLOps ที่เน้นสองส่วน ได้แก่ การทดลองแบบ orchestrated ในสภาพแวดล้อมพัฒนา และ automated pipeline ในระบบ production

MLOps แบบอัตโนมัติเต็มรูปแบบ

Modularity & Reusability

ภาพ ML pipeline สองชุด ชุดบนอยู่ในสภาพแวดล้อมพัฒนาและทดลอง ชุดล่างอยู่ใน production

MLOps แบบอัตโนมัติเต็มรูปแบบ

Orchestration & Automation

ML pipeline ถูกใช้ใน:

  • การพัฒนาและทดลอง

ภาพองค์ประกอบ: orchestrated experiment

  • Production

ภาพ automated ML pipeline

MLOps แบบอัตโนมัติเต็มรูปแบบ

Directed Acyclic Graph ใน MLOps

$$

  • แสดง pipeline ในรูปแบบกราฟ
  • ขั้นตอนใน pipeline แทนด้วย node
  • การพึ่งพาระหว่างขั้นตอนแทนด้วย edge

ภาพ DAG อย่างง่ายที่แสดงขั้นตอนที่เชื่อมต่อกันใน ML pipeline

MLOps แบบอัตโนมัติเต็มรูปแบบ

Orchestration ใน MLOps คืออะไร?

$$

  • จัดการและทำให้ task flow เป็นอัตโนมัติ

$$

  • กำหนดเวลาและติดตามการทำงานของ task

$$

  • จัดการการไหลและการพึ่งพาของข้อมูล
MLOps แบบอัตโนมัติเต็มรูปแบบ

ML pipeline — การพัฒนาและทดลอง

ภาพ ML pipeline แบบ orchestrated ในสภาพแวดล้อมพัฒนาและทดลอง pipeline ถูกเรียกใช้โดยนักวิทยาศาสตร์ข้อมูลและควบคุมโดย orchestrator

  • จัดการ task แบบ end-to-end ในการเทรนโมเดล
  • ควบคุม flow ที่ถูกต้องพร้อมบันทึก log
  • รองรับการทดลองแบบขนาน
MLOps แบบอัตโนมัติเต็มรูปแบบ

ML pipeline — Production

ภาพ automated ML pipeline ในสภาพแวดล้อม production pipeline ถูกเรียกใช้โดย automated trigger และควบคุมโดย orchestrator

  • ช่วยให้การ deploy โมเดลเป็นอัตโนมัติ
  • จัดการและรันขั้นตอนใน pipeline
  • การ deploy ที่สม่ำเสมอและเชื่อถือได้
MLOps แบบอัตโนมัติเต็มรูปแบบ

มาฝึกกันเถอะ!

MLOps แบบอัตโนมัติเต็มรูปแบบ

Preparing Video For Download...