LLMs पर कब भरोसा करें

बिज़नेस के लिए Large Language Models

Iason Prassides

Content Developer, DataCamp

Duolingo को अधिकतम करना

• Duolingo Max
  • इंसानी-सी बातचीत के लिए ChatGPT का उपयोग करता है

¹ https://blog.duolingo.com/duolingo-max/

Duolingo को अधिकतम करना

• Duolingo Max
  • इंसानी-सी बातचीत के लिए ChatGPT का उपयोग करता है
• लर्नर्स भाषाओं का अभ्यास करते हैं
  • GPT अलग-अलग व्यक्तित्व अपनाता है
  • तुरंत फीडबैक देता है

¹ https://blog.duolingo.com/duolingo-max/

LLMs को समझना

• बिजनेस लीडर्स को LLMs सच में समझना चाहिए
• LLMs जादू नहीं हैं!
  • अक्सर सीक्वेंस के अगले हिस्से की भविष्यवाणी करते हैं
• वे भाषा को इंसानों की तरह नहीं समझते

LLMs में common sense?

• LLMs के पास "सत्य" की कोई अवधारणा नहीं होती
• इनमें common sense की कमी है
• हर उपयोग केस में मानव निगरानी ज़रूरी है
• सिर्फ LLMs पर निर्भरता अवांछित परिणाम दे सकती है

ट्रेनिंग की निगरानी

• LLMs उस डेटा पर निर्भर हैं जिनसे इन्हें ट्रेन किया गया है
• पूर्वाग्रह या सामाजिक अन्याय LLMs से बढ़ सकता है
  • हानिकारक आउटपुट पहचानने के लिए प्रतिक्रियाएँ जाँचें

क्या बायस है?

• LLMs हेटफुल कमेंट्स पर भी ट्रेन होते हैं
  • तो जवाब भी हेटफुल हो सकते हैं
• बायस वाले डेटासेट
  • सिस्टमेटिक आउटपुट बायस वाले LLMs बनाते हैं
• इससे पूर्वाग्रह, स्टीरियोटाइप या गलत सूचना कायम रह सकती है
• डेवलपर्स ने इसे रोकने के उपाय जोड़े हैं
• बिजनेस को जागरूक रहना और सेफगार्ड सुनिश्चित करना चाहिए

लचीलापन और उसके परिणाम

• एक ही प्रॉम्प्ट -> अलग-अलग प्रतिक्रियाएँ
• क्रिएटिव कामों में मददगार, अन्य में समस्याग्रस्त
• मार्केटिंग टीम LLMs से प्रोडक्ट डिस्क्रिप्शन बनाती है:
  • कस्टमर्स को अलग डिस्क्रिप्शन दिखते हैं
  • ब्रांड इमेज को नुकसान हो सकता है

Security alert!

• LLMs जटिल हैं, फिर भी इन्हें छल किया जा सकता है
• अटैकर्स वेबसाइट्स पर हानिकारक प्रॉम्प्ट एम्बेड कर सकते हैं
  • LLMs के आउटपुट को विकृत कर सकते हैं
• इसे prompt injection कहते हैं
• इससे साख को नुकसान हो सकता है

LLMs की चुनौती

• कई चुनौतियाँ इंडस्ट्री-विशिष्ट हैं
• Open Worldwide Application Security Project (OWASP)
  • चुनौतियों को मात्रात्मक रूप देता है
• बिजनेस को चिंताओं से अवगत रहना चाहिए
• LLMs की बारीकियाँ समझना ज़रूरी है
• मानव निगरानी सुनिश्चित करें
• ट्रेनिंग और सिक्योरिटी में निवेश करें

¹ https://owasp.org/

अभ्यास करते हैं!

बिज़नेस के लिए Large Language Models