LLMOps का ओवरव्यू

LLMOps Concepts

Max Knobbout, PhD

Applied Scientist, Uber

इस कोर्स में आप क्या सीखेंगे

LLMOps बड़े भाषा मॉडल ऐप्स को प्रभावी रूप से manage, deploy, और maintain करने में मदद करता है
हम कवर करेंगे:
- Fundamentals
- LLM ऐप्स का लाइफसाइकल
- चुनौतियाँ और विचार

¹ Illustrations by Manfred Steger @ Pixabay

एक साधारण पाइपलाइन जिसमें एक क्वेरी LLM में जाती है और आउटपुट बनता है

इससे बनते हैं जिन्हें हम इस कोर्स में LLM applications कहेंगे

एक जटिल LLM पाइपलाइन का चित्र

सीमलेस इंटीग्रेशन

लाइफसाइकल के सुगम बदलाव

कुशल, स्केलेबल प्रबंधन

कुछ अंतर:

	LLMOps	MLOps
Model size	बड़ा	आमतौर पर छोटा
Data	टेक्स्ट	कोई भी डेटा
Pre-trained models	अक्सर हाँ	अक्सर नहीं
Model improvement	प्रॉम्प्ट इंजीनियरिंग और फाइन-ट्यूनिंग	फीचर इंजीनियरिंग और मॉडल चयन
Generalization	जनरल-पर्पज़	निश्चित स्कोप
Unpredictability	अधिक	कम
Output	मुख्यतः टेक्स्ट	टास्क-विशिष्ट

LLMOps Concepts