ทีม MLOps ดำเนินงานอย่างมีประสิทธิภาพได้อย่างไร

MLOps สำหรับธุรกิจ

Arne Jonas Warnke

Head of Emerging Curriculum

ผลกระทบของ machine learning ที่จำกัด (ในอดีต)

ในอดีต องค์กรต่าง ๆ ใช้แนวทางเชิงทดลองกับ machine learning

ปัญหาที่พบ ได้แก่

  • การทำงานแบบแยกส่วน (Silos)
  • โมเดลมักไม่ถูกนำไปใช้งานจริงใน production
  • ระยะเวลาพัฒนานาน
  • ระบบอัตโนมัติมีน้อยหรือไม่มีเลย
  • ขาดความสามารถในการทำซ้ำผลลัพธ์

ภาพขาวดำของบุคคลหนึ่งคนนั่งอยู่หน้าคอมพิวเตอร์ยุค 1980

MLOps สำหรับธุรกิจ

ทีม MLOps ดำเนินงานอย่างมีประสิทธิภาพได้อย่างไร

$$

ในวิดีโอนี้

  • เน้นน้อยลงที่เทคโนโลยี
  • ศึกษาแนวทาง DevOps ที่ประสบความสำเร็จ
MLOps สำหรับธุรกิจ

ทบทวน DevOps

DevOps มุ่งเน้น

  • เพิ่มความร่วมมือระหว่างนักพัฒนาและทีมปฏิบัติการ

ฝ่ายพัฒนาให้ความสำคัญกับ

  • การยกระดับประสบการณ์ผู้ใช้
  • ความต้องการทางธุรกิจใหม่ ๆ

ฝ่ายปฏิบัติการมุ่งเน้น

  • ความเสถียรและความสามารถในการบำรุงรักษา

DevOps

1 Kim et al. (2021). The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
MLOps สำหรับธุรกิจ

แนวทาง DevOps ที่พบบ่อย

  • การส่งมอบอย่างต่อเนื่อง (Continuous delivery)
    • การปล่อยโค้ดบ่อย ขนาดเล็ก และเชื่อถือได้
    • เช่น การเพิ่มฟีเชอร์เล็ก ๆ (หรือการเปลี่ยนแปลงโค้ด) อย่างต่อเนื่อง
  • ระบบอัตโนมัติสำหรับการทดสอบและการปล่อยโค้ด
  • การมอนิเตอร์และการ "roll-back" ที่ทำได้ง่าย
  • การรวมโค้ดอย่างต่อเนื่อง (Continuous integration)

$$ แผนผังการปล่อย software

1 Leite et al. (2019). A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1-35.
MLOps สำหรับธุรกิจ

การรับมือกับความล้มเหลว

วงจร DevOps $$ หน้าจอสีน้ำเงิน

  • Feedback loops
    • การทดสอบอัตโนมัติ
    • ตรวจพบความผิดพลาดตั้งแต่เนิ่น ๆ
  • เมื่อเกิดปัญหาขึ้น
    • การวิเคราะห์หาสาเหตุที่แท้จริง
    • การสรุปบทเรียนโดยไม่โทษกัน
    • การเรียนรู้และแบ่งปันความรู้เพื่อพัฒนา
MLOps สำหรับธุรกิจ

ผู้คนและทีมงาน

MLOps / DevOps เน้นความร่วมมือเป็นหลัก

  • แต่ละบริษัทออกแบบทีมต่างกัน

$$

ลักษณะร่วมที่พบบ่อย

  • ความเป็นอิสระในการทำงาน
  • แรงจูงใจร่วมกัน
  • Feedback loops และการเรียนรู้
  • ความไว้วางใจ
  • การให้รางวัลกับการกล้าเสี่ยง

$$ ผู้คนกำลังทำงานร่วมกัน

MLOps สำหรับธุรกิจ

การทดลอง

มุ่งสู่คุณภาพสูงผ่านการทดลอง

  • การทดสอบ A/B (การทดลองแบบสุ่ม)
  • การจงใจสร้างความล้มเหลวเพื่อทดสอบระบบ

$$ การทดลองในห้องปฏิบัติการ

MLOps สำหรับธุรกิจ

มาฝึกกันเถอะ!

MLOps สำหรับธุรกิจ

Preparing Video For Download...