สถาปัตยกรรมอ้างอิง: MLOps แบบอัตโนมัติเต็มรูปแบบ

MLOps แบบอัตโนมัติเต็มรูปแบบ

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

สถาปัตยกรรมอ้างอิงคืออะไร?

$$

สถาปัตยกรรมอ้างอิงคือเทมเพลตที่ใช้ออกแบบโซลูชันในโดเมน IT ต่าง ๆ

ชุดเอกสารที่ประกอบด้วย:

  • โครงสร้างและการผสานรวมของส่วนประกอบ IT

  • รูปแบบที่พบบ่อยในระบบ IT รวมถึงระบบ ML

  • นำประสบการณ์และแนวปฏิบัติที่ดีจากอุตสาหกรรมมาใช้

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรม MLOps แบบอัตโนมัติเต็มรูปแบบ

ภาพแสดงภาพรวมระดับสูงของสถาปัตยกรรมอ้างอิง MLOps แบบอัตโนมัติเต็มรูปแบบ

1 https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning
MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Orchestrated experiments

ภาพแสดงภาพรวมระดับสูงของสถาปัตยกรรมอ้างอิง MLOps แบบอัตโนมัติเต็มรูปแบบ โดยซูมเข้าไปที่กลุ่มกล่องที่เชื่อมต่อกัน จากซ้ายไปขวา ได้แก่ data analysis, orchestrated experiment, source code, source code repository

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Source code และ CI

ภาพเลื่อนไปทางซ้าย หลัง source code repository จะแสดงบล็อก continuous integration ซึ่งมีกล่อง build ที่ผลิต packages เป็นผลลัพธ์

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Artifacts และ CD

ภาพเลื่อนลงเพื่อแสดงบล็อก continuous delivery

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - การ deploy ML pipeline

ภาพเลื่อนไปทางซ้ายเพื่อแสดง ML pipeline อัตโนมัติที่มีขั้นตอนต่าง ๆ ได้แก่ data extraction, data validation, data preparation, model training, model evaluation, model validation

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Metadata store

ภาพเลื่อนลงเพื่อแสดง Metadata Store ที่รวบรวม log ที่สร้างโดย ML pipeline

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Model registry

ภาพเลื่อนขึ้นและไปทางขวาเพื่อแสดงว่าโมเดลที่เทรนโดย ML pipeline ถูกส่งไปยัง model registry

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Prediction services

ภาพเลื่อนลงเพื่อแสดงว่าโมเดลที่เทรนโดย ML pipeline ถูกส่งแบบต่อเนื่องไปยังโมดูล prediction service ในสถาปัตยกรรม

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Continuous monitoring

ภาพเลื่อนไปทางซ้ายเพื่อแสดงส่วนประกอบ performance monitoring ที่ติดตามประสิทธิภาพของการพยากรณ์จาก prediction service

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Automated trigger

ภาพเลื่อนไปทางซ้ายมากขึ้นเพื่อแสดงส่วนประกอบ trigger ที่เชื่อมต่อกับโมดูล performance monitoring

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - การเทรนใหม่อัตโนมัติ

ภาพเลื่อนขึ้นเพื่อแสดงว่า trigger สามารถเปิดใช้งาน ML pipeline อัตโนมัติในระบบได้

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง

ภาพซูมออกเพื่อแสดงภาพรวมระดับสูงของสถาปัตยกรรมอ้างอิงทั้งหมด

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Feature store

ภาพแสดงภาพรวมระดับสูงของสถาปัตยกรรมอ้างอิง MLOps แบบอัตโนมัติเต็มรูปแบบ โดยซูมเข้าไปที่ส่วนประกอบ feature store

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Feature store

ภาพเลื่อนลงเพื่อแสดงว่า feature store ยังส่งข้อมูลไปยัง ML pipeline อัตโนมัติในสภาพแวดล้อม staging, preproduction และ production ด้วย

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Feature store

ภาพซูมเข้าไปที่ส่วนประกอบ feature store ซึ่งส่งข้อมูลไปยังโมดูล orchestrated experiment ในสภาพแวดล้อม experiment และ development

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรมอ้างอิง - Feature store

ภาพซูมเข้าไปที่ส่วนประกอบ feature store ซึ่งส่งข้อมูลไปยัง prediction service ในระบบ

MLOps แบบอัตโนมัติเต็มรูปแบบ

สถาปัตยกรรม MLOps แบบอัตโนมัติเต็มรูปแบบ

ภาพแสดงภาพรวมระดับสูงของสถาปัตยกรรมอ้างอิง MLOps แบบอัตโนมัติเต็มรูปแบบ

MLOps แบบอัตโนมัติเต็มรูปแบบ

มาฝึกกันเถอะ!

MLOps แบบอัตโนมัติเต็มรูปแบบ

Preparing Video For Download...