Nguyên tắc thiết kế cho tác tử có khả năng mở rộng

Xây dựng Hệ thống Agentic có thể mở rộng

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Khả năng mở rộng hay không?

Khả năng mở rộng hay không?

Khả năng mở rộng hay không?

Khả năng mở rộng hay không?

Trụ cột của hệ tác tử có khả năng mở rộng

Hạ tầng và công cụ vững chắc

• Tính toán: Tài nguyên để chạy mã

 

• Lưu trữ: Lưu trạng thái, log và lịch sử

Hạ tầng và công cụ vững chắc

Pipeline triển khai tin cậy

Bộ công cụ tác tử hoàn thiện

Tính mô-đun

Thiết kế hệ thống thành các thành phần độc lập để tạo thành một tổng thể lớn hơn

• Cho phép thiết kế, phát triển, bảo trì độc lập

Tính mô-đun

Thiết kế hệ thống thành các thành phần độc lập để tạo thành một tổng thể lớn hơn

• Cho phép thiết kế, phát triển, bảo trì độc lập

Tính mô-đun

Thiết kế hệ thống thành các thành phần độc lập để tạo thành một tổng thể lớn hơn

• Cho phép thiết kế, phát triển, bảo trì độc lập

Mô-đun trong tác tử: Mô-đun phần mềm

Mô-đun trong tác tử: Đa tác tử

Mô-đun trong tác tử: Đa tác tử

Ví dụ: Đa tác tử hỗ trợ khách hàng

Xem trước Nâng cao ở Chương 2

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

Đánh giá liên tục và vòng phản hồi

 

• Giám sát toàn diện

 

Đánh giá liên tục và vòng phản hồi

 

• Giám sát toàn diện
• Chỉ số phổ biến:
  • Tỷ lệ thành công
  • Độ trễ
  • Lỗi

 

Đánh giá liên tục và vòng phản hồi

 

• Giám sát toàn diện
• Chỉ số phổ biến:
  • Tỷ lệ thành công
  • Độ trễ
  • Lỗi
• Thu thập phản hồi người dùng

 

Ayo berlatih!

Xây dựng Hệ thống Agentic có thể mở rộng