확장 가능한 에이전트 설계 원칙

확장 가능한 Agentic 시스템 구축

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

확장 가능한가, 아닌가?

확장 가능한가, 아닌가?

확장 가능한가, 아닌가?

확장 가능한가, 아닌가?

확장 가능한 에이전트 시스템의 핵심 요소

견고한 인프라와 도구

• 컴퓨팅: 코드 실행 리소스

 

• 스토리지: 상태, 로그, 히스토리 저장

견고한 인프라와 도구

신뢰할 수 있는 배포 파이프라인

검증된 에이전트 도구

모듈성

더 큰 전체를 구성하기 위해 시스템을 별도의 독립적인 컴포넌트로 설계

• 독립적인 설계, 개발, 유지보수 가능

모듈성

더 큰 전체를 구성하기 위해 시스템을 별도의 독립적인 컴포넌트로 설계

• 독립적인 설계, 개발, 유지보수 가능

모듈성

더 큰 전체를 구성하기 위해 시스템을 별도의 독립적인 컴포넌트로 설계

• 독립적인 설계, 개발, 유지보수 가능

에이전트의 모듈성: 소프트웨어 모듈성

에이전트의 모듈성: 멀티 에이전트

에이전트의 모듈성: 멀티 에이전트

예시: 고객 지원 멀티 에이전트

2장 미리보기

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

지속적인 평가와 피드백 루프

 

• 종합적인 모니터링

 

지속적인 평가와 피드백 루프

 

• 종합적인 모니터링
• 주요 지표:
  • 성공률
  • 지연 시간
  • 오류

 

지속적인 평가와 피드백 루프

 

• 종합적인 모니터링
• 주요 지표:
  • 성공률
  • 지연 시간
  • 오류
• 사용자 피드백 수집

 

연습해 봅시다!

확장 가능한 Agentic 시스템 구축