프롬프트 엔지니어링

LLMOps 개념

Max Knobbout, PhD

Applied Scientist, Uber

LLM 수명주기: 프롬프트 엔지니어링

개발 주기

왜 프롬프트 엔지니어링이 중요할까요?

 

 

 

• 성능 향상
• 출력 제어
• 편향과 환각 방지

프롬프트의 구성 요소

 

 

1. 지시문
2. 예시/컨텍스트
3. 입력 데이터
4. 출력 지시자

완벽한 프롬프트 찾기

 

 

 

다음을 실험해 보세요:

• 온도, 최대 토큰 등 LLM 설정
• 인컨텍스트 러닝 및 기타 프롬프트 설계 패턴

 

실험에는 플레이그라운드를 사용하세요!

프롬프트 관리

 

 

• 효율성, 재현성, 협업에 핵심
• 추적할 항목:
  • 프롬프트
  • 출력
  • 모델과 설정
• 프롬프트 매니저 또는 버전 관리 사용
• 평가용 우수 입력-출력 쌍을 모으기 시작

재사용성을 위한 프롬프트 템플릿

개발 주기

개발 주기

연습해 봅시다!

LLMOps 개념