비즈니스, 운영, 윤리적 고려사항

비즈니스를 위한 Large Language Models

Iason Prassides

Content Developer, DataCamp

투명성

LLM의 투명성
기업은 LLM의 응답 도출 과정을 알아야 함
신뢰 형성에 필수

나무 블록으로 "Truth"와 "Trust"를 쓰는 이미지

책임소재

한가운데 다른 색 피규어를 두고 원을 이룬 나무 피규어들 이미지

LLM의 권고가 효과가 없을 때
- 누가 책임을 질까?
모델을 설계한 소프트웨어 개발자?
이를 배포한 회사?

LLM의 위험

허위정보 확산의 내재적 위험
기업에 미치는 파급효과:
- 잘못된 데이터에 근거한 의사결정
- 손익에 영향
- 평판 훼손
LLM의 악용 위험:
- 이해관계자를 속이거나 조작, 오도
- 평판·운영 리스크 초래

"Risk" 블록 위에 선 남자가 위험 높이를 재는 만화

LLM과 환경

LLM 학습에는 막대한 연산력이 필요해 에너지 소모가 큼
큰 탄소 배출을 유발
기업은 환경 영향을 파악하고 완화해야 함

로봇 손이 지구를 들고 있고, 위에 나무가 자라는 이미지

LLM은 어떻게 구축할까?

기업은 실용적 고려사항을 검토해야 함
자체 LLM 구축 vs. 서드파티 사용?

기술 자원

자체 구축

막대한 자원 필요: 연산 인프라와 데이터
투자 가능성? 비용과 시간?

서드파티

즉시 액세스와 확장성 제공
개발 오버헤드 없음

거대한 알람시계 위에서 동전을 쌓는 남자의 만화 이미지

운영비 감소를 보여주는 노트와 커피잔, 남자의 팔이 보이는 이미지

맞춤형 LLM

자체 구축

필요에 맞게 LLM 맞춤화
사내 데이터로 파인튜닝

서드파티

높은 성능
커스터마이즈 없으면 일반적 모델

사람의 손가락이 "customization" 단어를 터치하는 이미지

슈퍼마켓에 동일 색조의 일반 제품이 진열된 이미지

업데이트와 유지보수

자체 구축

유지보수로 효과와 보안 유지
지속 비용 발생

서드파티

기업은 책임 없음
공급자가 업데이트·유지보수 담당

휴대폰을 보는 여성과 유지보수·업데이트 아이콘의 만화 이미지

차트 클립보드에 "Third Party Service"가 적힌 이미지

데이터 처리

자체 구축

데이터 통제 유지
민감정보 사용 시 중요

서드파티

데이터 공유 요구 가능
보안·프라이버시 위험 가능

노트북을 쓰는 남자가 화면 속 남자와 악수하는 만화 이미지

여러 인물이 노트북에서 정보를 훔치는 만화 이미지

비용 효율성

자체 구축

반복 비용을 균형화해 비용 효율성 확보
초기 비용이 큼

서드파티

반복 비용 발생
초기 비용이 낮음

플러그와 소켓으로 돈과 전구를 연결하려는 남자의 만화 이미지

달력의 특정 날짜 앞에서 카드를 들고 있는 남자의 만화 이미지

선택은 여러분의 몫입니다!

외주 또는 인하우스 두 방향을 가리키는 이정표

Lass uns üben!

비즈니스를 위한 Large Language Models