存取 Amazon Bedrock

Amazon Bedrock 入門

Nikhil Rangarajan

Data Scientist

認識你的講師！

機器學習工程師
雲端技術（AWS、Azure）
資料、雲端與電腦工程

講師的大頭照

什麼是 Amazon Bedrock？

Amazon 的服務

AWS 與 Amazon Bedrock 標誌

什麼是 Amazon Bedrock？

Amazon 的服務
透過 API 呼叫的 AI 模型
- API：軟體系統之間的「信使」
Bedrock 可使用 Anthropic、Meta 等公司的模型
無需安裝或訓練模型，照用量計費

AWS、Amazon Bedrock 標誌與 API 示意圖。

生成式 AI 的基礎模型（Foundation Models）

預先訓練的模型
作為多種 AI 任務的基礎
依提示產生文字、程式碼、影像
- 文字／聊天：Claude、Jurassic
- 影像：Stable Diffusion
- 嵌入向量：Titan

中心為 Foundation Model，向外連到 Text/Chat、Embeddings、Code、Images 能力的示意圖。

了解如何存取 Amazon Bedrock

注意：本課程中已預先載入 Access Key 與 Secret Key。

在 AWS 啟用 Bedrock 存取：
- 於 AWS Console 建立 IAM 使用者
- 新增 Amazon Bedrock Full Access 權限
- 取得你的存取憑證：
  - Access Key
  - Secret Key
  - Region（例如：'us-east-1'）

流程圖：Step 1 建立 IAM User、Step 2 新增 Bedrock Access、Step 3 取得憑證。

設定 Bedrock 執行階段（runtime）存取

在你的環境設定 AWS 憑證

# Not secure for production, only for teaching purposes
AWS_REGION = 'us-east-1'

AWS_ACCESS_KEY = 'your-access-key'

AWS_SECRET_KEY = 'your-secret-key'

初始化 Bedrock 用戶端

進行推論請使用 'bedrock-runtime'

import boto3 
bedrock = boto3.client('bedrock-runtime', # use -runtime
  region_name=AWS_REGION,
  aws_access_key_id=AWS_ACCESS_KEY,
  aws_secret_access_key=AWS_SECRET_KEY)

設定 Bedrock 存取

檢查用戶端初始化狀態
營運操作請用 'bedrock'

# Verify Bedrock client configuration
import boto3
bedrock_client = boto3.client('bedrock', region_name='us-east-1')

models = bedrock_client.list_foundation_models()
print(f"Connected successfully! 
      Found {len(models['modelSummaries'])} available models.")

Connected successfully!  Found 13 available models.

基礎模型的資訊

使用 get_foundation_model() 取得模型詳細資訊

需要 ModelID（唯一識別碼）
- 範例：amazon.nova-2-lite-v1:0、anthropic.claude-sonnet-4-5-20250929-v1:0

response = bedrock_client.get_foundation_model
    (modelIdentifier='anthropic.claude-sonnet-4-5-20250929-v1:0')

print(response['modelDetails'])

基礎模型的資訊

{'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-sonnet-4-5...',
 'modelId': 'anthropic.claude-sonnet-4-5-20250929-v1:0',
 'modelName': 'Claude Sonnet 4.5',
 'providerName': 'Anthropic',
 'inputModalities': ['TEXT', 'IMAGE'],
 'outputModalities': ['TEXT'],
 'responseStreamingSupported': True,
 'customizationsSupported': [],
 'inferenceTypesSupported': ['INFERENCE_PROFILE'],
 'modelLifecycle': {'status': 'ACTIVE', 'startOfLifeTime': ...}

一起來練習吧！

Amazon Bedrock 入門