AI वार्तालाप प्रबंधन

Amazon Bedrock परिचय

Nikhil Rangarajan

Data Scientist

Bedrock में वार्तालाप स्टेट प्रबंधन

बातचीत प्रबंधन: प्राकृतिक, सुसंगत AI इंटरैक्शन के लिए जरूरी
वार्तालाप संदर्भ: इतिहास और मेटाडाटा शामिल
Claude मॉडल संदर्भ को ध्यान में रख सकते हैं

एक चित्र जिसमें वार्तालाप के तत्व दिखते हैं: संदेश, इतिहास, और मेटाडाटा।

वार्तालाप प्रबंधन लागू करना

ConversationManager क्लास मुख्य वार्तालाप फंक्शनैलिटी संभालती है
मैसेज हिस्ट्री, roles के साथ user और assistant दोनों के संदेश रखती है
स्ट्रक्चर्ड तरीका स्केलेबिलिटी और मेंटेनबिलिटी सुनिश्चित करता है

class ConversationManager:

  def __init__(self):
    self.bedrock = 
        boto3.client('bedrock-runtime')

    self.conversation_history = []
    self.max_tokens = 8000


  def add_message(self, role, content):
      self.conversation_history
      .append({"role": role,

        "content": content

  })

व्यवहार में ConversationManager का उपयोग

नए संदेशों को बातचीत लॉग में जोड़ें
यूज़र का इनपुट लॉग होना चाहिए
मॉडल को संदर्भ बनाए रखने में मदद दें

conversation_manager = ConversationManager()
conversation_manager.add_message("user", "What's the weather like?")

व्यवहार में ConversationManager का उपयोग

संदेश के रूप में फॉर्मैट करें
भेजे गए टेक्स्ट की मात्रा सीमित करें
फॉर्मैटेड वार्तालाप मॉडल को भेजें

# Send the latest context to the model
conversation_history = conversation_manager.conversation_history
messages = "\n\n".join(
    f"{msg['role']}: {msg['content']}" 
    for msg in conversation_history[-2:]) # Only most recent exchanges


# Send the full message to the model
response = conversation_manager.bedrock.invoke_model(
    modelId="amazon.nova-micro-v1:0", body=messages)

अभ्यास करते हैं!

Amazon Bedrock परिचय