Mở rộng vượt qua PoC

Chiến lược Trí tuệ Nhân tạo (AI)

Vidhi Chugh

AI strategist and ethicist

Mở rộng nghĩa là gì?

 

 

• Khả năng mở rộng:
  • Quản lý dữ liệu, người dùng, tác vụ tăng dần
  • Duy trì hiệu năng, chất lượng và chi phí hợp lý

 

• Mở rộng AI = lợi nhuận cao gấp 3!
  • Tích hợp vào quy trình kinh doanh hiện có

Nền tảng điện toán đám mây

 

• Từ PoC đến phát triển toàn diện

 

• Nền tảng điện toán đám mây
  • Tuân thủ quy định dữ liệu
  • Bảo mật
  • Hỗ trợ kiến trúc multi-cloud và hybrid-cloud

 

Lưu ý khi triển khai

• Phân tích chi phí và hiệu năng
• Quản trị, dễ triển khai và quản lý

Tự xây hay mua

 

• Mô hình đóng gói sẵn vs. thuật toán tùy chỉnh

• Kiểm soát hiệu năng hệ thống tốt hơn

 

• Tiến độ dự án

• Thuật toán tùy chỉnh mất thời gian hơn so với thuật toán có sẵn

Khả năng mở rộng và hiệu năng

 

• Mở rộng = dự đoán chất lượng mà không hy sinh hiệu năng

 

• Hiệu năng:
  • Độ chính xác
  • Độ trễ: thời gian mô hình dự đoán
  • Thông lượng: số dự đoán trong một khoảng thời gian

 

 

Dữ liệu ở quy mô lớn

• Lõi của mô hình học máy

• Quản lý vòng đời dữ liệu

  • Chuẩn bị và duy trì

Quyền truy cập dữ liệu

 

• Chỉ bộ phận cụ thể truy cập; tách biệt phần còn lại
  • Dẫn đến silo
  • Giảm minh bạch
  • Mô hình kém hiệu quả

 

• Nguồn khác nhau = định dạng khác nhau
  • Chuẩn hóa

 

Kiến trúc có thể mở rộng

 

 

• Thiết kế kiến trúc phù hợp

 

• Microservices
  • Mở rộng độc lập
  • Linh hoạt
  • Phản hồi nhanh

 

• Khó điều phối tương tác

Hạ tầng để mở rộng

 

• Tính toán dữ liệu lớn
• GPU tăng tốc nhưng chi phí cao hơn

 

• Cân nhắc lợi ích
  • Rút ngắn huấn luyện
  • Cải thiện hiệu năng
  • Đổi lại chi phí bổ sung

Tinh gọn quy trình AI

• Kế hoạch triển khai chi tiết và thiết kế kiến trúc
• Chuẩn hóa và tinh gọn
  • Xây dựng, triển khai và giám sát mô hình

Ayo berlatih!

Chiến lược Trí tuệ Nhân tạo (AI)