LLM을 언제 신뢰해야 할까?

비즈니스를 위한 Large Language Models

Iason Prassides

Content Developer, DataCamp

Duolingo 극대화

  • Duolingo Max
    • ChatGPT를 활용하여 실제와 같은 대화 제공

Duolingo Max 제품 로고 이미지

1 https://blog.duolingo.com/duolingo-max/
비즈니스를 위한 Large Language Models

Duolingo 극대화

  • Duolingo Max
    • ChatGPT를 활용하여 실제와 같은 대화 제공
  • 학습자가 언어를 연습함
    • GPT가 다양한 역할을 수행함
    • 즉각적인 피드백 제공

모바일 애플리케이션에서 Duolingo Max 사용 화면 이미지

1 https://blog.duolingo.com/duolingo-max/
비즈니스를 위한 Large Language Models

LLM 이해하기

  • 비즈니스 리더는 LLM을 정확히 이해해야 함
  • LLM은 마법이 아님!
    • 주로 시퀀스의 다음 부분을 예측하는 방식으로 작동
  • 인간처럼 언어를 이해하지 못함

마법 지팡이로 마술을 부리는 마법사

비즈니스를 위한 Large Language Models

LLM의 상식?

"상식"이라고 적힌 라벨을 들고 있는 남성

  • LLM은 "사실"이 무엇인지 인식하지 못함
  • 상식이 부재함
  • 모든 사용 사례에서 인간의 감독이 필수적
  • LLM에만 의존하면 의도치 않은 결과 초래 가능
비즈니스를 위한 Large Language Models

학습 데이터 감독

  • LLM은 학습 데이터에 의존함
  • LLM은 편향이나 사회적 불평등을 증폭시킬 수 있음
    • 유해한 출력 여부를 응답 검토를 통해 확인

높이가 다른 동전 더미 위에 서로 다른 색의 게임 말이 놓인 이미지

비즈니스를 위한 Large Language Models

편향이 존재하는가?

  • LLM은 혐오 댓글을 학습 데이터로 사용함
    • 응답 또한 혐오적으로 나타남
  • 편향이 포함된 데이터셋
    • 체계적인 출력 편향을 가진 LLM 생성
  • 편견, 고정관념, 허위 정보 확산으로 이어질 수 있음
  • 개발자들은 이를 방지하기 위한 조치를 추가함
  • 기업은 안전장치 인식 및 확보 필요

"허위 정보"라는 단어가 표시된 이미지

비즈니스를 위한 Large Language Models

유연성과 그 결과

  • 동일한 프롬프트 -> 다른 응답
  • 창의적 활용에는 유용하나 다른 용도에는 문제가 될 수 있음
  • 마케팅 팀이 LLM으로 제품 설명 작성 시:
    • 고객마다 다른 설명을 보게 됨
    • 브랜드 이미지 훼손 가능

슈퍼마켓에서 포장 색상만 다른 두 제품을 바라보는 남성

비즈니스를 위한 Large Language Models

보안 경고!

  • LLM은 복잡하지만 여전히 취약점이 존재함
  • 공격자는 웹사이트에 유해한 프롬프트를 삽입할 수 있음
    • LLM의 출력을 왜곡할 수 있음
  • 프롬프트 인젝션으로 알려져 있음
  • 평판 손상으로 이어질 수 있음

보안 경고를 나타내는 삼각형 안의 빨간 느낌표 이미지

비즈니스를 위한 Large Language Models

LLM의 과제

  • 많은 과제는 산업별로 다름
  • 오픈 월드와이드 애플리케이션 보안 프로젝트(OWASP)
    • 과제의 정량화
  • 기업은 관련 우려 사항을 인식해야 함
  • LLM의 복잡성을 이해해야 함
  • 인간의 감독 보장
  • 교육 및 보안에 투자

"Challenges Ahead"라는 문구와 허들을 넘는 사람이 그려진 도로 표지판

1 https://owasp.org/
비즈니스를 위한 Large Language Models

연습해 봅시다!

비즈니스를 위한 Large Language Models

Preparing Video For Download...