AI 위험 완화하기

업무를 위한 AI 입문

James Chapman

AI Curriculum Manager, DataCamp

정보 조작 위험 완화하기

신뢰하되 검증하라는 마음가짐

• 중요한 정보는 항상 교차 검증하세요
  • 📈 수치 및 주요 데이터
  • 📖 출처 및 참고 문헌
  • 🏛 역사적 사실 및 날짜
  • 💻 기술적 세부 사항

AI가 과장 주장하는 이유

• AI 모델은 가장 가능성 높은 다음 단어{{1}}를 생성합니다
• 그들의 학습 데이터에서 "모르겠어요"는 통계적으로 드뭅니다

¹ https://openai.com/index/why-language-models-hallucinate/

AI에게 불확실성을 인정하도록 지도하기

🤝 기권 허용: "확신이 없다면, 추측하기보다는 '모르겠습니다'라고 말하세요."

🎯 Calibration: "각 주장에 다음 중 하나로 표시하세요: 확신 / 불확실 / 추론."

📚 인용 또는 레이블: "모든 사실 주장에는 출처를 제공하거나 레이블이 없는 것으로 표시하세요."

🧹 셀프 체크 통과: "문제가 있거나 가정한 사항을 모두 리스트로 작성하세요."

🧭 범위 한정: "입력에 명시된 내용으로만 답변을 제한하세요. 확장하지 마세요."

최신 정보 결여 방지하기

• 항상 지식 마감 시점을 확인

• 마감일 이후 발생한 내용은 직접 교차 검증

  • 💰 가격
  • 🏛 규정
  • 👷 인사 변동
  • 📰 뉴스

• 🌐 웹 브라우징 기능 활용하기

편향된 출력 방지하기

• 결과물을 비판적으로 검토

  • 🤝 채용 관련 자료
  • ✨ 마케팅 콘텐츠
  • 👉 핵심 의사결정

• ❗ 편향 감지 도구 활용

편향 동조 출력 완화하기

• 🧭 AI가 객관성과 비판적 분석을 유지하도록 가이드
• 🤔 AI의 출력 결과를 맹신하지 않고 비판적 태도 유지
• 💬 비판적인 피드백을 명확하게 요구
  • 이 접근 방식의 잠재적 문제점은?
  • 이 문제에 대한 다른 대안적 관점은 무엇이 있을까?

프라이버시 및 데이터 유출 방지하기

• 절대 공유하지 마세요:
  • 🔑 비밀번호 또는 자격 증명
  • 🔍 고객 개인 데이터(예: PII)
  • 📣 회사 기밀 정보
  • 📜 기밀 전략 또는 계획

• 기본 원칙: 공개적으로 게시하지 않을 내용이라면, 일반 AI 도구에도 입력하지 마세요

AI 안전 체크리스트

AI 안전 체크리스트

AI 안전 체크리스트

AI 안전 체크리스트

AI 안전 체크리스트

AI 안전 체크리스트

연습해 봅시다!

업무를 위한 AI 입문