सुव्यवस्थित विफलता: जोखिम कम करना

स्केलेबल एजेंटिक सिस्टम बनाना

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

टूल कॉल विफलताएँ

समाधान

 

  • स्पष्ट पैरामीटर और उपयोग परिभाषित करें

 

  • टूल आउटपुट वैलिडेशन (यूनिट टेस्टिंग!)

 

  • टूल चयन पर वेरिफिकेशन चेक्स

 

  • MCP!
समस्याएँ

टूल कॉल विफलताएँ

स्केलेबल एजेंटिक सिस्टम बनाना

टूल कॉल विफलताएँ - रीट्राई मैकेनिज़्म

 

  • बाहरी सेवाएँ फेल हो सकती हैं या अस्थायी रूप से धीमी हो सकती हैं

 

  • रीट्राई

    • एक्सपोनेंशियल बैकऑफ → धीरे-धीरे कम होती रीट्राईज़
    • Callbacks से उपयोगकर्ताओं को समस्याओं की सूचना दें

स्केलेबल एजेंटिक सिस्टम बनाना

टूल कॉल विफलताएँ - कैशिंग

 

  • टूल आउटपुट्स को फॉलबैक के रूप में कैश किया जाता है

 

  • किसके लिए ठीक: स्टैटिक डेटा जिनमें कम अपडेट हों

 

  • किसके लिए नहीं: रीयल-टाइम जानकारी देने वाले टूल्स

कैशिंग

स्केलेबल एजेंटिक सिस्टम बनाना

टूल कॉल विफलताएँ - कतार प्रबंधन

 

  • टूल कॉल्स एक-दूसरे पर निर्भर हो सकते हैं

 

  • उदाहरण: टैक्सी से पहले फ्लाइट बुक होनी चाहिए

 

  • असफल कॉल्स को कतार में नीचे शिफ्ट किया जा सकता है

 

कतार प्रबंधन

स्केलेबल एजेंटिक सिस्टम बनाना

Authentication

प्रमाणीकरण आईटी

 

  • टूल्स को प्राइवेट डेटा के लिए एक्सेस और permissions चाहिए हो सकते हैं

 

  • उदाहरण: IT सपोर्ट एजेंट
    • मान्य एक्सेस: सिस्टम लॉग्स
    • ब्लॉक्ड एक्सेस: पासवर्ड, लोकेशन, आदि
स्केलेबल एजेंटिक सिस्टम बनाना

Authentication - यूनिक एजेंट आइडेंटिफ़ायर्स

एजेंट यूनिक आईडी

स्केलेबल एजेंटिक सिस्टम बनाना

Authentication - आइसोलेटेड एन्वायरनमेंट्स

आइसोलेटेड एन्वायरनमेंट्स

स्केलेबल एजेंटिक सिस्टम बनाना

Authentication - गार्डरेल्स और एक्शन रिस्ट्रेंट्स

गार्डरेल्स और प्रतिबंध

स्केलेबल एजेंटिक सिस्टम बनाना

अभ्यास करते हैं!

स्केलेबल एजेंटिक सिस्टम बनाना

Preparing Video For Download...