아이디어 발굴 단계

LLMOps 개념

Max Knobbout, PhD

Applied Scientist, Uber

LLM 라이프사이클: 아이디어 발굴 단계

데이터 소싱

 

 

• 필요 사항 파악

 

• 출처 탐색

 

• 접근성 확보

데이터 소싱

 

1. 데이터가 적절한가?
2. 데이터를 사용할 수 있는가?
   • 데이터 변환
   • 추가 데이터베이스 구축
   • 비용 평가
   • 기타 접근 제한 검토
3. 데이터가 기준을 충족하는가?
   • 품질 및 거버넌스 관련

기본 모델 선택

• 사전 학습 모델:

• 독점 또는 오픈 소스?

독점 모델 (사유 소유)

장점:

• 설정 및 사용 용이성
• 품질 보증
• 안정성, 속도, 가용성

 

제한 사항:

• 데이터 노출 필요
• 커스터마이징

예시:

오픈 소스 (공개 접근 가능)

장점:

• 자체 호스팅
• 투명성
• 완전한 커스터마이징

 

제한 사항:

• 지원
• 상업적 이용

 

예시:

 

다운로드 경로:

모델 선택 기준

1. 성능 ⭐

• 응답 품질
• 속도

2. 모델 특성 ⭐

• 모델 학습 데이터
• 컨텍스트 윈도우 크기
• 파인튜닝 가능 여부

모델 선택 기준

3. 실용적 고려 사항 ⭐

• 라이선스
• 비용
• 환경적 영향

4. 부차적 요소

• 파라미터 수
• 인기도

연습해 봅시다!

LLMOps 개념