选择基础模型

Amazon Bedrock 入门

Nikhil Rangarajan

Data Scientist

在 Amazon Bedrock 启用模型访问

访问模型设置——本课无需手动启用模型

一张截图，显示在 AWS 控制台中已启用 Claude 和 Nova 模型。

轻量 vs. 高级基础模型

轻量模型
- 适用：问答、摘要
- 响应快、成本低
- 示例：Nova Micro、Claude Haiku

Amazon 标志。

高级模型
- 适用：复杂推理、分析
- 全面的分析能力
- 示例：Nova Plus、Claude Sonnet

Amazon Bedrock 的其他基础模型

Amazon Bedrock 中的其他模型：

Meta 的 Llama
- 📝 开源通用文本 LLM
Stability AI 的 Stable Diffusion
- 🖼 专注于图像生成
AI21 的 Jurassic
- 📈 文本生成与分析

Meta 的 Llama 标志。

调用 Bedrock 模型

基本结构：

import json

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.invoke_model(modelId='amazon.nova-lite-v1:0',

body=json.dumps(input_dictionary)

)

以 JSON 返回模型响应

调用 Claude

Anthropic Claude

response = bedrock.invoke_model(
    modelId='anthropic.claude-3-5-sonnet-v2:0',
    body=json.dumps(

      {"anthropic_version": "bedrock-2023-05-31",

       "max_tokens": 100,

       "messages": [{
            "role": "user",
            "content": [{"type": "text", "text": "your prompt here"}],
        }],

    }

))

调用 Nova

Amazon Nova

response = bedrock.invoke_model(
    modelId='amazon.nova-lite-v1:0', 
    body=json.dumps(

      {"messages":

                  [{"role": "user", 
                    "content": [{"text": "your prompt here"}]
                   }]

      }

))

提取模型响应

读取 API 响应体
将 JSON 转为 Python 字典
用键提取输出

print("Claude:",

      json.loads(
          claude_response['body'].read()
        )

      ["content"][0]["text"]

     )

Hello! It's nice to meet you. How can I assist you today?

提取模型响应

读取 API 响应体
将 JSON 转为 Python 字典
用键提取输出

print("Nova:",

      json.loads(
        nova_response.get("body").read().decode()
      )

      ["output"]["message"]["content"][0]["text"]

     )

Hello! How can I assist you today?

Passons à la pratique !

Amazon Bedrock 入门