체인과 에이전트

LLMOps 개념

Max Knobbout, PhD

Applied Scientist, Uber

LLM 수명주기: 체인과 에이전트

프롬프트에서 애플리케이션으로

 

• 이 템플릿을 사용하려면:
  • 예시
  • 입력
• 단계는 다음과 같습니다:
  1. 입력 수신
  2. 예시 검색
  3. 프롬프트 생성
  4. 출력 획득
  5. 출력 파싱

템플릿을 사용하는 체인

 

체인이 필요한 이유

 

 

 

• 고도화된 애플리케이션 개발
• 모듈형 설계로 확장성과 운영 효율 향상
• 무한한 커스터마이즈 가능성 확보

에이전트

 

 

 

• 에이전트 구성:
  • 여러 동작(또는 도구)
  • 어떤 동작을 선택할지 결정하는 LLM

 

• 유용한 경우:
  • 동작이 많을 때
  • 최적 순서가 불명확할 때
  • 입력이 불확실할 때

에이전트

에이전트

에이전트

체인과 에이전트의 차이

 

 

	체인 🔗	에이전트 🤖
특성	결정적	적응적
복잡도	낮음	높음
유연성	낮음	높음
위험	낮음(예측 가능성)	높음(적응성)

개발 주기

개발 주기

개발 주기

연습해 봅시다!

LLMOps 개념