優雅失敗：風險緩解

打造可擴充的 Agentic 系統

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

工具呼叫失敗

解法

 

• 明確定義參數與使用方式

 

• 工具輸出驗證（單元測試！）

 

• 工具選擇的驗證檢查

 

• MCP！

問題

工具呼叫失敗－重試機制

 

• 外部服務可能會_故障或暫時變慢_

 

• 重試

  • 指數退避 → 逐步拉長 重試間隔
  • 透過 callbacks 通知使用者問題

工具呼叫失敗－快取

 

• 將工具輸出快取作為退回方案

 

• 適用於：更新不頻繁的靜態資料

 

• 不適用於：提供即時資訊的工具

工具呼叫失敗－佇列管理

 

• 工具呼叫之間可能相互依賴

 

• 例：先訂機票，才能叫計程車

 

• 失敗的工具呼叫可往佇列後移

 

驗證（Authentication）

 

• 工具可能需要對私有資料的_存取_與_權限_

 

• 例：IT 支援人員
  • 允許存取：系統記錄
  • 禁止存取：密碼、位置等

驗證－代理識別碼唯一化

驗證－隔離環境

驗證－護欄與行動限制

一起來練習吧！

打造可擴充的 Agentic 系統