Language models से टेक्स्ट जनरेट करना

Amazon Bedrock परिचय

Nikhil Rangarajan

Data Scientist

Language models को prompts भेजना

Prompt: वह इनपुट टेक्स्ट जो आप मॉडल को भेजते हैं
- "Explain how AWS Lambda works"

Prompt को दर्शाता एक आइकन.

Language models को prompts भेजना

Prompt: वह इनपुट टेक्स्ट जो आप मॉडल को भेजते हैं
- "Explain how AWS Lambda works"
Completion: मॉडल द्वारा जनरेट किया गया टेक्स्ट
- "AWS Lambda is a serverless compute service that..."

Prompt और completion दर्शाते आइकन.

Language models को prompts भेजना

Prompt: वह इनपुट टेक्स्ट जो आप मॉडल को भेजते हैं
- "Explain how AWS Lambda works"
Completion: मॉडल द्वारा जनरेट किया गया टेक्स्ट
- "AWS Lambda is a serverless compute service that..."
Response:
- Generated text (completion)
- Metadata (tokens, model info)
- Status जानकारी

Prompt, completion, और response को क्रम में दिखाते तीन आइकन.

Basic prompt engineering तकनीक लागू करना

बेहतर परिणामों की तकनीकें:
- स्पष्टता और विशिष्टता: निर्देश विस्तार से और सटीक लिखें
- Role assignment: संदर्भ समझ बढ़ाने को persona दें
- Formatting निर्देश: प्रतिक्रिया निर्देशित करने को constraints जोड़ें

"Explain the benefits of exercise 
in simple terms."

"You are a nutritionist. Explain the 
benefits of a balanced diet."

"List the top 3 benefits of cloud 
computing in bullet points."

एडवांस्ड text parsing तकनीकें

Missing या अप्रत्याशित keys को संभालें

data = json.loads(response['body'].read())
if 'completion' in data:
    output = data['completion']

else:
    output = "Key not found"

गहराई से nested संरचनाओं के लिए Multi-Level JSON Parsing

try:
    nova_output = data.decode()["output"]

except (KeyError, IndexError) as e:
    nova_output = f"Error: {str(e)}"

Response प्रोसेसिंग और text handling

Unicode या encoding समस्याएँ: टेक्स्ट responses में विशेष अक्षर संभालें
```
# Ensure proper encoding
output = data['completion'].encode('utf-8').decode('unicode_escape')
print(output)
```
बड़े responses प्रोसेस करना: उपयोगिता हेतु बड़े आउटपुट को split या truncate करें
```
# Truncate response for display
output = data['completion'][:500]  # Limit to 500 characters
print(output)
```

Bedrock के साथ category extraction

उदाहरण: text data classify करना
स्पष्ट श्रेणी विकल्पों के साथ structured prompts दें
single-category आउटपुट के लिए स्पष्ट निर्देश दें
मॉडल responses कुशलता से प्रोसेस करें

परिणाम: सटीक text categorization

Text classification दर्शाने वाले आइकन

Bedrock के साथ category extraction

def categorize_ticket(ticket, categories):
  prompt = f"Categorize into one: {', '.join(categories)}. 
  Ticket: {ticket}"
  response = bedrock.invoke_model(
    modelId='amazon.nova-micro-v1:0',
    body=json.dumps({"messages": [{"role": "user", "content": 
                                   [{"text": prompt}]}]}))

  return json.loads(nova_response.get("body").read().decode())["output"]

{"output": {"message": {"role": "assistant","content": [
        {
          "text": "Customer Service"
        }]}, "stop_reason": "stop_sequence"}}

अभ्यास करते हैं!

Amazon Bedrock परिचय