Bir temel model seçme

Amazon Bedrock'a Giriş

Nikhil Rangarajan

Data Scientist

Amazon Bedrock'ta model erişimini etkinleştirme

Model ayarlarına erişin - kurs için modelleri etkinleştirmenize gerek yok

AWS Konsolu'nda etkin Claude ve Nova modellerini gösteren ekran görüntüsü.

Hafif vs. ileri seviye temel modeller

Hafif modeller
- En uygun: Soru-cevap, özetleme
- Hızlı yanıt, maliyet-etkin
- Örnek: Nova Micro, Claude Haiku

Amazon logosu.

İleri seviye modeller
- En uygun: Karmaşık akıl yürütme, analiz
- Kapsamlı analiz yetenekleri
- Örnek: Nova Plus, Claude Sonnet

Amazon Bedrock’taki diğer temel modeller

Amazon Bedrock’taki diğer modeller:

Meta'nın Llama'sı
- 📝 Genel metin görevleri için açık kaynak LLM
Stability AI'nin Stable Diffusion'ı
- 🖼 Görüntü üretimine özel
AI21'in Jurassic'i
- 📈 Metin üretimi ve analizi

Meta'nın Llama logosu.

Bedrock modellerini çağırma

Temel yapı:

import json

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.invoke_model(modelId='amazon.nova-lite-v1:0',

body=json.dumps(input_dictionary)

)

Model yanıtını JSON biçiminde döndürür

Claude'u çağırma

Anthropic Claude

response = bedrock.invoke_model(
    modelId='anthropic.claude-3-5-sonnet-v2:0',
    body=json.dumps(

      {"anthropic_version": "bedrock-2023-05-31",

       "max_tokens": 100,

       "messages": [{
            "role": "user",
            "content": [{"type": "text", "text": "your prompt here"}],
        }],

    }

))

Nova'yı çağırma

Amazon Nova

response = bedrock.invoke_model(
    modelId='amazon.nova-lite-v1:0', 
    body=json.dumps(

      {"messages":

                  [{"role": "user", 
                    "content": [{"text": "your prompt here"}]
                   }]

      }

))

Model yanıtını çıkarma

API yanıt gövdesini okuyun
JSON'u Python sözlüğüne dönüştürün
Anahtarlarla çıktıyı alın

print("Claude:",

      json.loads(
          claude_response['body'].read()
        )

      ["content"][0]["text"]

     )

Merhaba! Tanıştığımıza memnun oldum. Bugün size nasıl yardımcı olabilirim?

Model yanıtını çıkarma

API yanıt gövdesini okuyun
JSON'u Python sözlüğüne dönüştürün
Anahtarlarla çıktıyı alın

print("Nova:",

      json.loads(
        nova_response.get("body").read().decode()
      )

      ["output"]["message"]["content"][0]["text"]

     )

Merhaba! Bugün size nasıl yardımcı olabilirim?

Hadi pratik yapalım!

Amazon Bedrock'a Giriş