AIの限界と制約

職場向けAI入門

James Chapman

AI Curriculum Manager, DataCamp

リスク #1: 知識の捏造

• ハルシネーション：AIによって正しいものとして誤って提示される誤情報
• よくある例：
  • 誤った統計
  • 偽の引用
  • 実際に起こっていない出来事

リスク #1: 知識の捏造

• ハルシネーション：AIによって正しいものとして誤って提示される誤情報
• よくある例：
  • 誤った統計
  • 偽の引用
  • 実際に起こっていない出来事

リスク #1: 知識の捏造

リスク #2: 最新情報の無知

• 知識のカットオフ日 → モデルが把握している出来事の日時の上限

• 例:

  • 古い規制、価格、場所、コーディング構文

• 時間的制約のある事柄は最新の情報源で確認する

• 多くのAIツールはインターネット検索もサポートしている

リスク #3: 偏った出力

• 学習したデータから社会的バイアスを反映・増幅する
• 結果 → ステレオタイプ的または差別的なコンテンツ
• AIが生成したコンテンツは慎重に確認しましょう！

リスク #4: 過剰な同意の出力

• 過剰な同意 → あなたに聞こえがいいことを伝える

  • 視点を検証し、意思決定を支援し、考えを肯定する

• 批判的な視点 が必要な場合には問題となる

リスク #4: 過剰な同意の出力

• 過剰な同意 → あなたに聞こえがいいことを伝える

  • 視点を検証し、意思決定をサポートし、考えを肯定する

• 批判的な視点 が必要な場合に問題となる

• LLMを人間による応答評価でトレーニングすることの副産物

¹ https://arxiv.org/abs/2510.01395

リスク #5: プライバシーとデータの漏洩

• AIツールに共有した情報は機密性が保たれない可能性があります！
• スプレッドシート、ドキュメント、クライアントデータのアップロードはリスクを伴う
• データのの外部サーバーへの保存、モデルのトレーニングへの使用、検索可能になる場合も

リスク #5: プライバシーとデータの漏洩

リスク

• プライバシー法（例：GDPR）違反
• 競争優位性の喪失
• クライアントの信頼の損失

• AIツールのデータポリシーを必ず確認してください
• 不明な場合は、ITまたは情報セキュリティの専門家に相談してください

リスクから責任へ

練習しましょう！

職場向けAI入門