Amazon Bedrock परिचय
Nikhil Rangarajan
Data Scientist
मॉडलों में उनके व्यवहार को नियंत्रित करने के लिए पैरामीटर होते हैं
temperature: भविष्यवाणियों में रैंडमनेस नियंत्रित करता है
top_p: टॉप-रैंक्ड टोकन चुनकर आउटपुट की विविधता नियंत्रित करता हैmax_tokens: आउटपुट की अधिकतम लंबाई सेट करता है
प्रतिक्रिया की रैंडमनेस और क्रिएटिविटी
कम temperature (0 के पास): ज़्यादा फोकस्ड, निर्धारक प्रतिक्रियाएँ
अधिक temperature (1 के पास): ज़्यादा विविध, क्रिएटिव आउटपुट
अधिकतर Bedrock मॉडल का डिफ़ॉल्ट 0.7 होता है
prompt = "Write a headline for a
tech article"
request = {
"temperature": 0.2,
"messages": [
{
"role": "user",
"content": [{"type": "text",
"text": prompt}],
}
],
...
}
Temperature = मॉडल की 'risk appetite'
कम temperature सावधान निर्णयकर्ता जैसा होता है
अधिक temperature रचनात्मक, जोखिम लेने वाला सोचकर्ता जैसा होता है

top_p 0.1 होने पर मॉडल सिर्फ सबसे संभावित अगले शब्दों के टॉप 10% पर विचार करता हैprompt = "Explain quantum computing"
# Focused response
request["top_p"] = 0.1
# Diverse response
request["top_p"] = 0.9
max_tokens प्रतिक्रिया की लंबाई लिमिट करता है:

prompt = "Explain quantum computing"
# Focused shorter response
request["top_p"] = 0.1
request["max_tokens"] = 100
# Diverse longer response
request["top_p"] = 0.9
request["max_tokens"] = 500
top_p (0.1-0.3)top_p (0.7-0.9)max_tokens (150-300)max_tokens (1000+)
Amazon Bedrock परिचय