道德考量與防護機制

Amazon Bedrock 入門

Nikhil Rangarajan

Data Scientist

為何道德 AI 重要

  • AI 模型可能延續偏見並產生有害內容

以粉紅色呈現的兩位女性圖示,代表性別偏見

Amazon Bedrock 入門

為何道德 AI 重要

  • AI 模型可能延續偏見並產生有害內容

  • 處理敏感資料的隱私疑慮

代表性別偏見與隱私的圖示

Amazon Bedrock 入門

為何道德 AI 重要

  • AI 模型可能延續偏見並產生有害內容

  • 處理敏感資料的隱私疑慮

  • 法規與合規要求

代表性別偏見、隱私與法規遵循的圖示

Amazon Bedrock 入門

為何道德 AI 重要

  • AI 模型可能延續偏見並產生有害內容

  • 處理敏感資料的隱私疑慮

  • 法規與合規要求

  • 可能被濫用來散播錯誤資訊

代表性別偏見、隱私、法規遵循與錯誤資訊的圖示

Amazon Bedrock 入門

為何道德 AI 重要

  • AI 模型可能延續偏見並產生有害內容

  • 處理敏感資料的隱私疑慮

  • 法規與合規要求

  • 可能被濫用來散播錯誤資訊

  • 企業聲譽與利害關係人信任

代表性別偏見、隱私、法規遵循、錯誤資訊與信任的圖示

Amazon Bedrock 入門

以防護機制保護模型

  • 防護機制:保護措施
    • 內容過濾
    • 偏見偵測
    • 嚴格使用政策
  • 一律從最嚴格層級開始
  • 對有害內容採預設篩檢層級

 

以兩條灰色橫向護欄與黃色支柱呈現的簡易防護插圖,象徵 AI 系統中的安全措施與內容過濾。

Amazon Bedrock 入門

內容審核

def moderate_content_claude(text, strictness="medium"):

instruction = {
"high": "Strictly analyze for inappropriate content. ",
"medium": "Check for obviously toxic language. ",
"low": "Check the tone. "
}
prompt = f"{instruction[strictness]}\n{text}" body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100, "temperature": 0.2, "messages": prompt}) # Low temperature response = bedrock.invoke_model(body=body, modelId=model_id) response_body = json.loads(response.get('body').read()) return response_body
Amazon Bedrock 入門

監控與維護

  • 設置自動監控
  • 定期檢閱被過濾內容
  • 追蹤回應模式以找出異常
  • 保留被過濾請求的記錄

 

放大鏡覆蓋在圖表上的圖示,代表監控

Amazon Bedrock 入門

應變計畫

  • 規劃模型失常的應對
  • 定義升級處理流程
  • 設定備援模型
  • 追蹤事件以持續改進

  核對清單圖示,說明錯誤發生時需有應變計畫

Amazon Bedrock 入門

道德 AI 重點回顧

🛑 安全優先

  • 一律啟用內容過濾與偏見偵測

 

🚦 實作

  • 使用內建的 Bedrock 安全防護

 

🔦 持續精進

  • 監控並分析結果
  • 追蹤最新最佳實務
Amazon Bedrock 入門

一起來練習吧!

Amazon Bedrock 入門

Preparing Video For Download...