चेन और एजेंट्स

LLMOps Concepts

Max Knobbout, PhD

Applied Scientist, Uber

LLM लाइफसाइकल: चेन और एजेंट्स

LLM एप्लिकेशन लाइफसाइकल चरणों का ओवरव्यू

LLMOps Concepts

प्रॉम्प्ट से एप्लिकेशन तक

डिश कैलोरी वर्गीकरण के लिए प्रॉम्प्ट टेम्पलेट

 

  • इस टेम्पलेट का उपयोग करने के लिए चाहिए:
    • Examples
    • Input
  • हम कुछ चरणों से गुजरते हैं:
    1. इनपुट प्राप्त करना
    2. उदाहरण खोजना
    3. प्रॉम्प्ट बनाना
    4. आउटपुट प्राप्त करना
    5. आउटपुट पार्स करना
LLMOps Concepts

हमारे टेम्पलेट का उपयोग करती एक चेन

 

एक LLM एप्लिकेशन जो चेन का उपयोग करता है और डेटाबेस से मिलते-जुलते डिश ढूँढता है

LLMOps Concepts

चेन की जरूरत क्यों

 

तीन कार्टून किरदार चेन बनाते हुए, एक खेलभावना वाली छवि

 

 

  • उन्नत एप्लिकेशन विकसित करें
  • मॉड्यूलर डिज़ाइन अपनाएँ, स्केलेबिलिटी और दक्षता बढ़ाएँ
  • कस्टमाइज़ेशन की असीम संभावनाएँ खोलें
LLMOps Concepts

एजेंट्स

 

 

एक कार्टून जो रोबोट चूहे की सवारी कर रहा है, एक खेलभावना वाली छवि

 

  • एजेंट्स में होते हैं:
    • कई actions (या tools)
    • कौन सा action लेना है, यह तय करने वाला LLM

 

  • उपयोगी जब:
    • actions बहुत हों
    • चरणों का सही क्रम अज्ञात हो
    • इनपुट को लेकर अनिश्चितता हो
LLMOps Concepts

एजेंट्स

दो actions वाले एक एजेंट आर्किटेक्चर

LLMOps Concepts

एजेंट्स

दो actions वाले एक एजेंट आर्किटेक्चर

LLMOps Concepts

एजेंट्स

दो actions वाले एक एजेंट आर्किटेक्चर

LLMOps Concepts

चेन और एजेंट्स में अंतर

 

 

चेन 🔗 एजेंट्स 🤖
प्रकृति निर्धारक अनुकूलनशील
जटिलता   कम ज़्यादा
लचीलापन कम ज़्यादा
जोखिम कम (पूर्वानुमेयता के कारण)                 अधिक (अनुकूलनशीलता के कारण)                
LLMOps Concepts

डेवलपमेंट साइकिल

डेवलपमेंट साइकिल जिसमें प्रॉम्प्ट इंजीनियरिंग जोड़ी गई है

LLMOps Concepts

डेवलपमेंट साइकिल

चेन और एजेंट्स के साथ डेवलपमेंट साइकिल.

LLMOps Concepts

डेवलपमेंट साइकिल

डेवलपमेंट साइकिल जिसमें चेन और एजेंट डेवलपमेंट जोड़ा गया है

LLMOps Concepts

अभ्यास करते हैं!

LLMOps Concepts

Preparing Video For Download...