การเลือก foundation model

Amazon Bedrock เบื้องต้น

Nikhil Rangarajan

Data Scientist

การเปิดใช้งานโมเดลใน Amazon Bedrock

เข้าถึงการตั้งค่าโมเดล — ไม่ต้องเปิดใช้งานโมเดลสำหรับคอร์สนี้

ภาพหน้าจอแสดงโมเดล Claude และ Nova ที่เปิดใช้งานบน AWS Console

โมเดลขนาดเล็ก vs. โมเดลขั้นสูง

โมเดลขนาดเล็ก
- เหมาะสำหรับ: Q&A, การสรุปความ
- ตอบสนองเร็วและประหยัดค่าใช้จ่าย
- ตัวอย่าง: Nova Micro, Claude Haiku

โลโก้ Amazon

โมเดลขั้นสูง
- เหมาะสำหรับ: การให้เหตุผลซับซ้อน, การวิเคราะห์
- ความสามารถวิเคราะห์เชิงลึก
- ตัวอย่าง: Nova Plus, Claude Sonnet

Foundation model อื่นใน Amazon Bedrock

โมเดลอื่นที่มีใน Amazon Bedrock:

Meta's Llama
- 📝 LLM โอเพนซอร์สสำหรับงานข้อความทั่วไป
Stability AI's Stable Diffusion
- 🖼 เชี่ยวชาญด้านการสร้างภาพ
AI21's Jurassic
- 📈 การสร้างและวิเคราะห์ข้อความ

โลโก้ Llama ของ Meta

การเรียกใช้โมเดล Bedrock

โครงสร้างพื้นฐาน:

import json

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.invoke_model(modelId='amazon.nova-lite-v1:0',

body=json.dumps(input_dictionary)

)

คืนค่าผลลัพธ์ของโมเดลในรูปแบบ JSON

การเรียกใช้ Claude

Anthropic Claude

response = bedrock.invoke_model(
    modelId='anthropic.claude-3-5-sonnet-v2:0',
    body=json.dumps(

      {"anthropic_version": "bedrock-2023-05-31",

       "max_tokens": 100,

       "messages": [{
            "role": "user",
            "content": [{"type": "text", "text": "your prompt here"}],
        }],

    }

))

การเรียกใช้ Nova

Amazon Nova

response = bedrock.invoke_model(
    modelId='amazon.nova-lite-v1:0', 
    body=json.dumps(

      {"messages":

                  [{"role": "user", 
                    "content": [{"text": "your prompt here"}]
                   }]

      }

))

การดึงผลลัพธ์จากโมเดล

อ่าน body ของ API response
แปลงจาก JSON เป็น Python dictionary
ดึงผลลัพธ์ด้วย key

print("Claude:",

      json.loads(
          claude_response['body'].read()
        )

      ["content"][0]["text"]

     )

Hello! It's nice to meet you. How can I assist you today?

การดึงผลลัพธ์จากโมเดล

อ่าน body ของ API response
แปลงจาก JSON เป็น Python dictionary
ดึงผลลัพธ์ด้วย key

print("Nova:",

      json.loads(
        nova_response.get("body").read().decode()
      )

      ["output"]["message"]["content"][0]["text"]

     )

Hello! How can I assist you today?

มาฝึกกันเถอะ!

Amazon Bedrock เบื้องต้น