AIのリスクを軽減する

職場向けAI入門

James Chapman

AI Curriculum Manager, DataCamp

知識の捏造の軽減

信頼しつつ検証するマインドセット

• 重要情報は必ず再確認する
  • 📈 数値とデータポイント
  • 📖 引用と参考文献
  • 🏛 歴史的事実と日付
  • 💻 技術的詳細

AIの過剰な主張とは

• AIモデルは次に来る可能性が最も高い単語を生成します
• 学習データでは、\"I don't know\" は統計的にまれです

¹ https://openai.com/index/why-language-models-hallucinate/

AIに不確実性を認めさせる

 

🤝 回答を控える許可: 「自信がない場合は、推測するより『わかりません』と言ってください。」

🎯 較正: 「各主張を次のいずれかで示してください: 自信あり / 不確か / 推論。」

📚 出典を示すかラベル付け: 「すべての事実主張について、出典を示すか、出典なしとラベル付けしてください。」

 

🧹 自己確認パス: \"誤っている可能性があるものや、仮定したことをすべて挙げてください。\"

🧭 範囲を限定: \"回答は入力に直接記載されている内容のみに限定してください。 外挿しないでください。\"*

最近性無視の軽減

• 必ず知識のカットオフ日を確認する

• その後に起きたことは必ず確認する

  • 💰 価格
  • 🏛 規制
  • 👷 人事異動
  • 📰 ニュース

• 🌐 Webブラウジングサポートを使用する

偏った出力の軽減

• 出力を批判的に確認する

  • 🤝 採用資料
  • ✨ マーケティングコンテンツ
  • 👉 意思決定

• ❗ バイアス検出ツール

おべっか出力の抑制

• 🧭 AIを客観性と批判的分析へ導く
• 🤔 AIの出力に懐疑的でいる
• 💬 批判的なフィードバックを明示的に求める
  • このアプローチの潜在的な問題点は何ですか？
  • この問題に対する別の視点にはどのようなものがありますか？

プライバシーとデータ漏えいの軽減

 

• 共有しない:{{1}} 🔑 パスワードや認証情報{{2}} 🔍 顧客の個人データ（例：PII）{{3}} 📣 企業の機密情報{{4}} 📜 機密の戦略や計画
• 目安: 公開できない内容は、標準的なAIツールに貼り付けない

あなたのAI安全チェックリスト

AI安全チェックリスト

あなたのAI安全チェックリスト

AI安全チェックリスト

あなたのAI安全チェックリスト

AI安全チェックリスト

練習しましょう！

職場向けAI入門