LLM의 설명 가능성

설명 가능한 인공지능(XAI) 개념

Folkert Stijnman

ML Engineer

대규모 언어 모델(LLM)

• 인간 언어의 이해·생성·해석
• ChatGPT, Bard
• 방대한 텍스트 데이터로 학습
• 기사, 시, 코드 작성
• 의사결정을 어떻게 이해할까?

 

LLM과 설명 가능성

• 복잡한 이유:
  • 모델 내부 신경망 층의 깊이와 규모
  • 테라바이트급의 대량 텍스트 데이터

LLM 설명 가능성 방법

개발자

• 학습 데이터의 투명성
• 더 단순한 모델 사용
• 인간 피드백 반영

최종 사용자

• 자기 설명 유도
• 입력 조정

LLM의 미래 활용

• 설명 가능성 강화는 계속 요구됨
• 신뢰와 확신 형성

연습해 봅시다!

설명 가능한 인공지능(XAI) 개념