倫理面とガードレール

Amazon Bedrock入門

Nikhil Rangarajan

Data Scientist

倫理的AIが重要な理由

  • AIモデルは偏りを助長し、有害な内容を生成し得る

ジェンダーバイアスを表す、ピンク色の2人の女性のアイコン

Amazon Bedrock入門

倫理的AIが重要な理由

  • AIモデルは偏りを助長し、有害な内容を生成し得る

  • 機微データの取扱いに伴うプライバシー懸念

ジェンダーバイアスとプライバシーを表すアイコン

Amazon Bedrock入門

倫理的AIが重要な理由

  • AIモデルは偏りを助長し、有害な内容を生成し得る

  • 機微データの取扱いに伴うプライバシー懸念

  • 法令・規制順守の要件

ジェンダーバイアス、プライバシー、法令順守を表すアイコン

Amazon Bedrock入門

倫理的AIが重要な理由

  • AIモデルは偏りを助長し、有害な内容を生成し得る

  • 機微データの取扱いに伴うプライバシー懸念

  • 法令・規制順守の要件

  • 誤情報拡散への悪用リスク

ジェンダーバイアス、プライバシー、法令順守、誤情報を表すアイコン

Amazon Bedrock入門

倫理的AIが重要な理由

  • AIモデルは偏りを助長し、有害な内容を生成し得る

  • 機微データの取扱いに伴うプライバシー懸念

  • 法令・規制順守の要件

  • 誤情報拡散への悪用リスク

  • 企業の評判と利害関係者の信頼

ジェンダーバイアス、プライバシー、法令順守、誤情報、信頼を表すアイコン

Amazon Bedrock入門

ガードレールでモデルを保護

  • ガードレール: 保護策
    • コンテンツフィルタリング
    • バイアス検知
    • 厳格な利用ポリシー
  • まず最も厳しいレベルから開始
  • 有害コンテンツの標準スクリーニング水準

 

AIの安全対策とコンテンツフィルタリングを示す、黄支柱で支えられた2本の灰色の水平バリアの図

Amazon Bedrock入門

コンテンツモデレーション

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Amazon Bedrock入門

監視と保守

  • 自動監視を設定
  • フィルタ済みコンテンツを定期レビュー
  • 応答パターンの異常を追跡
  • フィルタ要求のログを保存

 

監視を表す、グラフ上の虫眼鏡のアイコン

Amazon Bedrock入門

対応計画

  • モデルの不正動作に備える
  • エスカレーション手順を定義
  • 代替モデルを用意
  • 事象を記録し改善に活用

  エラー時の計画を示すチェックリストのアイコン

Amazon Bedrock入門

倫理的AIの要点

🛑 安全第一

  • 常にコンテンツフィルタとバイアス検知を有効化

 

🚦 実装

  • Bedrockの組み込みセーフガードを使用

 

🔦 継続的改善

  • 監視・分析を継続
  • ベストプラクティスを更新
Amazon Bedrock入門

練習してみましょう!

Amazon Bedrock入門

Preparing Video For Download...