Tiến trình triển khai và kiểm thử

Triển khai và Vòng đời MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Khoan đã!

 

giới hạn tốc độ

 

 

 

  • Đừng vội triển khai khi chưa kiểm thử kỹ!
Triển khai và Vòng đời MLOps

Chương trình

CÁC LOẠI KIỂM THỬ

  • Unit tests
  • Integration tests
  • Smoke tests
  • Load tests
  • Acceptance tests

MÔI TRƯỜNG DEV, DEPLOY, TEST

  • Development
  • Test
  • Staging
  • Production

 

KHÔNG BAO GỒM: Hiệu năng mô hình dự đoán

BAO GỒM: Kiểm thử toàn bộ ứng dụng ML

Triển khai và Vòng đời MLOps

định nghĩa môi trường

Triển khai và Vòng đời MLOps

Kiểm thử đơn vị

Kiểm tra xem các đơn vị mã độc lập có hoạt động đúng kỳ vọng không

VÍ DỤ

Hàm cần kiểm thử:

def add_two_numbers(x, y):
    return x + y

Unit test:

add_two_numbers(1, 1) == 2
add_two_numbers(2, 3) == 5
Triển khai và Vòng đời MLOps

dev thay đổi

Triển khai và Vòng đời MLOps

liên tục thay đổi

Triển khai và Vòng đời MLOps

Triển khai và Vòng đời MLOps

Triển khai và Vòng đời MLOps

môi trường kiểm thử 1

Triển khai và Vòng đời MLOps

tài nguyên rảnh

Triển khai và Vòng đời MLOps

kiểm thử tích hợp 1

Triển khai và Vòng đời MLOps

kiểm thử API

Triển khai và Vòng đời MLOps

kiểm thử tích hợp

Triển khai và Vòng đời MLOps

môi trường staging

Triển khai và Vòng đời MLOps

bản sao prod

Triển khai và Vòng đời MLOps

bản sao prod 2

Triển khai và Vòng đời MLOps

phiên bản chính xác

Triển khai và Vòng đời MLOps

dữ liệu sao từ prod

Triển khai và Vòng đời MLOps

smoke tests

Triển khai và Vòng đời MLOps

load tests

Triển khai và Vòng đời MLOps

stress tests

Triển khai và Vòng đời MLOps

uat

Triển khai và Vòng đời MLOps

Một mắt xích yếu có thể làm hỏng hệ thống

Ta phải cẩn trọng với mọi thứ đưa vào sản xuất.

vòng cao su

 

 

 

Thảm họa tàu con thoi Challenger năm 1986 do vòng đệm cao su hỏng

Triển khai và Vòng đời MLOps

ưu tiên

Triển khai và Vòng đời MLOps

Ayo berlatih!

Triển khai và Vòng đời MLOps

Preparing Video For Download...