Gérer les conversations IA

Introduction à Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Gestion de l'état de conversation dans Bedrock

Gestion des conversations : clé pour des interactions IA naturelles et cohérentes
Contexte de conversation : inclut historique et métadonnées
Les modèles Claude prennent en compte le contexte

Une illustration montrant des cercles avec un élément de la conversation chacun : le message, l'historique et les métadonnées.

Implémenter la gestion de conversation

La classe ConversationManager gère les fonctions clés de conversation
L'historique stocke messages utilisateur et assistant avec rôles
Approche structurée pour évolutivité et maintenabilité

class ConversationManager:

  def __init__(self):
    self.bedrock = 
        boto3.client('bedrock-runtime')

    self.conversation_history = []
    self.max_tokens = 8000


  def add_message(self, role, content):
      self.conversation_history
      .append({"role": role,

        "content": content

  })

Utiliser ConversationManager en pratique

Ajouter de nouveaux messages au journal
Veiller à consigner l'entrée de l'utilisateur
Aider le modèle à garder le contexte

conversation_manager = ConversationManager()
conversation_manager.add_message("user", "What's the weather like?")

Utiliser ConversationManager en pratique

Formater en message
Limiter le texte envoyé
Envoyer la conversation formatée au modèle

# Send the latest context to the model
conversation_history = conversation_manager.conversation_history
messages = "\n\n".join(
    f"{msg['role']}: {msg['content']}" 
    for msg in conversation_history[-2:]) # Only most recent exchanges


# Send the full message to the model
response = conversation_manager.bedrock.invoke_model(
    modelId="amazon.nova-micro-v1:0", body=messages)

Passons à la pratique !

Introduction à Amazon Bedrock