Xử lý lỗi khéo léo: Giảm thiểu rủi ro

Xây dựng Hệ thống Agentic có thể mở rộng

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Lỗi gọi công cụ

Giải pháp

 

  • Xác định rõ tham số và cách dùng

 

  • Xác thực đầu ra công cụ (unit test)

 

  • Kiểm tra khi chọn công cụ

 

  • MCP!
Vấn đề

Lỗi gọi công cụ

Xây dựng Hệ thống Agentic có thể mở rộng

Lỗi gọi công cụ - cơ chế thử lại

 

  • Dịch vụ ngoài có thể hỏng hoặc tạm thời chậm

 

  • Thử lại

    • Exponential backoff → giảm dần tần suất thử lại
    • Báo cho người dùng qua callback

Xây dựng Hệ thống Agentic có thể mở rộng

Lỗi gọi công cụ - bộ nhớ đệm

 

  • Cache đầu ra công cụ làm phương án dự phòng

 

  • Hợp với: dữ liệu tĩnh, ít cập nhật

 

  • Không hợp với: công cụ thông tin thời gian thực

Bộ nhớ đệm

Xây dựng Hệ thống Agentic có thể mở rộng

Lỗi gọi công cụ - quản lý hàng đợi

 

  • Lời gọi công cụ có thể phụ thuộc lẫn nhau

 

  • Ví dụ: phải đặt vé máy bay trước taxi

 

  • Lời gọi thất bại có thể chuyển xuống cuối hàng đợi

 

Quản lý hàng đợi

Xây dựng Hệ thống Agentic có thể mở rộng

Xác thực

Xác thực CNTT

 

  • Công cụ có thể cần quyền truy cập và phân quyền tới dữ liệu riêng tư

 

  • Ví dụ: nhân viên hỗ trợ CNTT
    • Truy cập hợp lệ: nhật ký hệ thống
    • Bị chặn: mật khẩu, vị trí, v.v.
Xây dựng Hệ thống Agentic có thể mở rộng

Xác thực - định danh tác nhân duy nhất

Định danh tác nhân duy nhất

Xây dựng Hệ thống Agentic có thể mở rộng

Xác thực - môi trường tách biệt

Môi trường tách biệt

Xây dựng Hệ thống Agentic có thể mở rộng

Xác thực - rào chắn và hạn chế hành động

Rào chắn và hạn chế hành động

Xây dựng Hệ thống Agentic có thể mở rộng

Luyện tập nào!

Xây dựng Hệ thống Agentic có thể mở rộng

Preparing Video For Download...