LLMをいつ信頼すべきか

ビジネスのためのLarge Language Models

Iason Prassides

Content Developer, DataCamp

Duolingoを最大活用

• Duolingo Max
  • ChatGPTで人間のような会話を実現

¹ https://blog.duolingo.com/duolingo-max/

Duolingoを最大活用

• Duolingo Max
  • ChatGPTで人間のような会話
• 学習者は言語を練習
  • GPTが多様な人格を演じる
  • 即時フィードバックを提供

¹ https://blog.duolingo.com/duolingo-max/

LLMの理解

• ビジネスリーダーはLLMを正しく理解すべき
• LLMは魔法ではない！
  • 多くは次のトークンを予測
• 人間のように言語を理解していない

LLMに常識はある？

• LLMには「真実」の概念がない
• 常識を欠く
• あらゆる用途で人の監督が不可欠
• LLMだけに頼ると望ましくない結果を招く

学習時の監督

• LLMは学習データに依存
• バイアスや社会的不公正を増幅し得る
  • 有害な出力がないか応答を確認

バイアスはあるか？

• LLMは憎悪的なコメントでも学習
  • 応答も憎悪的になり得る
• バイアスを含むデータセット
  • 体系的な出力バイアスを生む
• 偏見・ステレオタイプ・誤情報の助長につながる可能性
• これを防ぐ措置が開発者により追加
• 企業は認識し保護策を確保すべき

柔軟性とその代償

• 同じプロンプトでも応答が異なる
• クリエイティブには有用、他用途では問題に
• マーケがLLMで商品説明を作成:
  • 顧客ごとに説明が異なる
  • ブランドイメージを損なう恐れ

セキュリティ警告！

• LLMは高度だが欺けることがある
• 攻撃者が有害プロンプトをサイトに埋め込み得る
  • LLMの出力を歪める可能性
• これはプロンプトインジェクションと呼ぶ
• 風評被害につながり得る

LLMの課題

• 多くの課題は業界特有
• Open Worldwide Application Security Project（OWASP）
  • 課題を定量化
• 企業は懸念を把握すべき
• LLMの複雑性を理解
• 人による監督を確保
• 研修とセキュリティに投資

¹ https://owasp.org/

練習してみましょう！

ビジネスのためのLarge Language Models