拡張性のあるエージェント設計

拡張性のあるエージェントシステム構築

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

拡張性があるか、ないか

scalability1.jpg

拡張性のあるエージェントシステム構築

拡張性があるか、ないか

scalability2.jpg

拡張性のあるエージェントシステム構築

拡張性があるか、ないか

scalability3.jpg

拡張性のあるエージェントシステム構築

拡張性があるか、ないか

scalability4.jpg

拡張性のあるエージェントシステム構築

AIエージェント拡張における3つの基本原則

scalable_pillars.jpg

拡張性のあるエージェントシステム構築

頑丈なインフラとツール

  • 処理能力: コードを実行するためのリソース

compute.png

  • ストレージ: ステイタス、ログ、履歴の保存

storage.png

拡張性のあるエージェントシステム構築

頑丈なインフラとツール

安定した本番反映の仕組み

deploy_pipeline.png

実績あるエージェントツール

agent_tooling.png

拡張性のあるエージェントシステム構築

モジュール化

システムを独立したコンポーネントとして設計し、大きな全体を作り上げる

  • 各コンポーネントの設計・開発・保守ができる

lego1.gif

拡張性のあるエージェントシステム構築

モジュール化

システムを独立したコンポーネントとして設計し、大きな全体を作り上げる

  • 各コンポーネントの設計・開発・保守ができる

lego1.jpg

拡張性のあるエージェントシステム構築

モジュール化

システムを独立したコンポーネントとして設計し、大きな全体を作り上げる

  • 各コンポーネントの設計・開発・保守ができる

lego2.jpg

拡張性のあるエージェントシステム構築

エージェントにおけるモジュール性: ソフトウェア

software_modularity.jpg

拡張性のあるエージェントシステム構築

エージェントにおけるモジュール性: マルチエージェント

single_agent2.jpg

拡張性のあるエージェントシステム構築

エージェントにおけるモジュール性: マルチエージェント

multi_agent1.jpg

拡張性のあるエージェントシステム構築

例: カスタマーサポートのマルチエージェント

customer_multi_agent.jpg

拡張性のあるエージェントシステム構築

第2章で取り扱う内容

1 https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures
拡張性のあるエージェントシステム構築

継続的な評価とフィードバックループ

  • 総合的なモニタリング

observability.png

拡張性のあるエージェントシステム構築

継続的な評価とフィードバックループ

  • 総合的なモニタリング
  • 一般的な指標:
    • 成功率
    • レイテンシ
    • エラー

tracking.png

拡張性のあるエージェントシステム構築

継続的な評価とフィードバックループ

  • 総合的なモニタリング
  • 一般的な指標:
    • 成功率
    • レイテンシー
    • エラー
  • ユーザーフィードバックを収集する

ratings.png

拡張性のあるエージェントシステム構築

練習しましょう!

拡張性のあるエージェントシステム構築

Preparing Video For Download...