Choisir un modèle de base

Introduction à Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Activer l'accès aux modèles dans Amazon Bedrock

Accéder aux paramètres des modèles – inutile d'activer des modèles pour le cours

Une capture d'écran montrant les modèles Claude et Nova activés dans la console AWS.

Modèles de base légers vs avancés

Modèles légers
- Idéal pour : questions-réponses, synthèse
- Réponses rapides et économiques
- Exemples : Nova Micro, Claude Haiku

Logo d'Amazon.

Modèles avancés
- Idéal pour : raisonnement complexe, analyse
- Capacités d'analyse complètes
- Exemples : Nova Plus, Claude Sonnet

Autres modèles de base dans Amazon Bedrock

Autres modèles offerts dans Amazon Bedrock :

Llama de Meta
- 📝 LLM libre pour les tâches textuelles générales
Stable Diffusion de Stability AI
- 🖼 Spécialisé en génération d'images
Jurassic d'AI21
- 📈 Génération et analyse de texte

Logo de Llama de Meta.

Appeler des modèles Bedrock

Structure de base :

import json

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.invoke_model(modelId='amazon.nova-lite-v1:0',

body=json.dumps(input_dictionary)

)

Retourne la réponse du modèle en format JSON

Appeler Claude

Anthropic Claude

response = bedrock.invoke_model(
    modelId='anthropic.claude-3-5-sonnet-v2:0',
    body=json.dumps(

      {"anthropic_version": "bedrock-2023-05-31",

       "max_tokens": 100,

       "messages": [{
            "role": "user",
            "content": [{"type": "text", "text": "your prompt here"}],
        }],

    }

))

Appeler Nova

Amazon Nova

response = bedrock.invoke_model(
    modelId='amazon.nova-lite-v1:0', 
    body=json.dumps(

      {"messages":

                  [{"role": "user", 
                    "content": [{"text": "your prompt here"}]
                   }]

      }

))

Extraire la réponse du modèle

Lire le corps de la réponse de l'API
Convertir de JSON à un dictionnaire Python
Extraire la sortie avec les clés

print("Claude:",

      json.loads(
          claude_response['body'].read()
        )

      ["content"][0]["text"]

     )

Hello! It's nice to meet you. How can I assist you today?

Extraire la réponse du modèle

Lire le corps de la réponse de l'API
Convertir de JSON à un dictionnaire Python
Extraire la sortie avec les clés

print("Nova:",

      json.loads(
        nova_response.get("body").read().decode()
      )

      ["output"]["message"]["content"][0]["text"]

     )

Hello! How can I assist you today?

Passons à la pratique !

Introduction à Amazon Bedrock