फाउंडेशन मॉडल चुनना

Amazon Bedrock परिचय

Nikhil Rangarajan

Data Scientist

Amazon Bedrock में मॉडल एक्सेस सक्षम करना

मॉडल सेटिंग्स तक पहुँचें - कोर्स के लिए मॉडल सक्षम करने की ज़रूरत नहीं

AWS कंसोल पर Claude और Nova मॉडल सक्षम दिखाने वाला स्क्रीनशॉट.

लाइटवेट बनाम एडवांस्ड फाउंडेशन मॉडल

लाइटवेट मॉडल
- उपयुक्त: Q&A, सारांशण
- तेज़ प्रतिक्रिया, कम खर्च
- उदाहरण: Nova Micro, Claude Haiku

Amazon का लोगो.

एडवांस्ड मॉडल
- उपयुक्त: जटिल रीज़निंग, विश्लेषण
- व्यापक विश्लेषण क्षमता
- उदाहरण: Nova Plus, Claude Sonnet

Amazon Bedrock के अन्य फाउंडेशन मॉडल

Amazon Bedrock में अन्य मॉडल:

Meta का Llama
- 📝 सामान्य टेक्स्ट टास्क के लिए ओपन-सोर्स LLM
Stability AI का Stable Diffusion
- 🖼 इमेज जनरेशन में विशेषज्ञ
AI21 का Jurassic
- 📈 टेक्स्ट जनरेशन और विश्लेषण

Meta के Llama का लोगो.

Bedrock मॉडल इनवोक करना

बेसिक स्ट्रक्चर:

import json

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.invoke_model(modelId='amazon.nova-lite-v1:0',

body=json.dumps(input_dictionary)

)

मॉडल का जवाब JSON फॉर्मेट में रिटर्न होता है

Claude इनवोक करना

Anthropic Claude

response = bedrock.invoke_model(
    modelId='anthropic.claude-3-5-sonnet-v2:0',
    body=json.dumps(

      {"anthropic_version": "bedrock-2023-05-31",

       "max_tokens": 100,

       "messages": [{
            "role": "user",
            "content": [{"type": "text", "text": "your prompt here"}],
        }],

    }

))

Nova इनवोक करना

Amazon Nova

response = bedrock.invoke_model(
    modelId='amazon.nova-lite-v1:0', 
    body=json.dumps(

      {"messages":

                  [{"role": "user", 
                    "content": [{"text": "your prompt here"}]
                   }]

      }

))

मॉडल रिस्पॉन्स निकालना

API रिस्पॉन्स का body पढ़ें
JSON से Python डिक्शनरी में कन्वर्ट करें
कीज़ से आउटपुट निकालें

print("Claude:",

      json.loads(
          claude_response['body'].read()
        )

      ["content"][0]["text"]

     )

Hello! It's nice to meet you. How can I assist you today?

मॉडल रिस्पॉन्स निकालना

API रिस्पॉन्स का body पढ़ें
JSON से Python डिक्शनरी में कन्वर्ट करें
कीज़ से आउटपुट निकालें

print("Nova:",

      json.loads(
        nova_response.get("body").read().decode()
      )

      ["output"]["message"]["content"][0]["text"]

     )

Hello! How can I assist you today?

अभ्यास करते हैं!

Amazon Bedrock परिचय