Llama क्या है?

Llama 3 के साथ काम करना

Imtihan Ahmed

Machine Learning Engineer

इंस्ट्रक्टर से मिलें

 

  • इम्तिहान अहमद
  • मशीन लर्निंग इंजीनियर
  • छह साल का अनुभव
  • स्केल पर AI

  इंस्ट्रक्टर की प्रोफाइल फोटो

Llama 3 के साथ काम करना

Llama 3 क्या है?

 

  • सारांश बनाना

Screenshot 2025-02-19 at 11.01.25.png

Llama 3 के साथ काम करना

Llama 3 क्या है?

 

  • सारांश बनाना

 

  • डेटा विश्लेषण

Screenshot 2025-02-19 at 11.01.16.png

Llama 3 के साथ काम करना

Llama 3 क्या है?

 

  • सारांश बनाना

 

  • डेटा विश्लेषण

 

  • कोडिंग असिस्टेंट

Screenshot 2025-02-19 at 11.01.07.png

Llama 3 के साथ काम करना

Llama 3 क्या है?

Screenshot 2025-02-19 at 11.32.24.png

Llama 3:

  • Meta द्वारा विकसित
Llama 3 के साथ काम करना

Llama 3 क्या है?

Screenshot 2025-02-19 at 11.32.18.png

Llama 3:

  • Meta द्वारा विकसित
  • टेक्स्ट जनरेशन
Llama 3 के साथ काम करना

Llama 3 क्या है?

Screenshot 2025-02-19 at 11.32.12.png

  • Meta द्वारा विकसित
  • टेक्स्ट जनरेशन
  • बहुत बड़े डेटासेट पर प्रशिक्षित
    • 2000 विकिपीडिया के बराबर
  • ओपन-सोर्स
Llama 3 के साथ काम करना

Llama 3 लोकली क्यों चलाएँ

  • उदाहरण: औद्योगिक स्वचालन
    • Llama मेंटेनेंस की ज़रूरतें प्रेडिक्ट करता है

3.jpg

1 https://ai.meta.com/blog/aitomatic-built-with-llama/
Llama 3 के साथ काम करना

Llama 3 लोकली क्यों चलाएँ

 

  • गोपनीयता और सुरक्षा

Screenshot 2025-02-19 at 11.48.10.png

Llama 3 के साथ काम करना

Llama 3 लोकली क्यों चलाएँ

 

  • गोपनीयता और सुरक्षा

 

  • किफायती लागत

Screenshot 2025-02-19 at 11.48.03.png

Llama 3 के साथ काम करना

Llama 3 लोकली क्यों चलाएँ

 

  • गोपनीयता और सुरक्षा

 

  • किफायती लागत

 

  • कस्टमाइज़ेशन

Screenshot 2025-02-19 at 11.47.54.png

Llama 3 के साथ काम करना

Llama को लोकली उपयोग करना

  • Python इंस्टॉल हो तो लोकली उपलब्ध

Screenshot 2025-02-19 at 11.54.07.png

  • llama-cpp-python लाइब्रेरी से उपयोग कर सकते हैं
  • pip install चलाएँ
pip install llama-cpp-python
Llama 3 के साथ काम करना

Llama से प्रश्न पूछना

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")

output = llm("What are some ways to improve customer retention?")
  • Llama क्लास इम्पोर्ट करें
  • LLM इनिशियलाइज़ करें
    • प्रॉम्प्ट भेज सकते हैं और रिस्पॉन्स पा सकते हैं
    • मॉडल GGUF फॉर्मेट में
  • LLM को प्रश्न पास करें
Llama 3 के साथ काम करना

Llama से प्रश्न पूछना

 

  • मॉडल प्रॉम्प्ट प्राप्त करता है
  • प्रॉम्प्ट प्रोसेस करता है
  • एक रिस्पॉन्स लौटाता है

prompting.jpg

Llama 3 के साथ काम करना

आउटपुट को समझना

  • रिस्पॉन्स डिक्शनरी फॉर्मेट में होता है
output

{'id': 'cmpl-af88304f-97b0-49f5-ba20-db87f86c4068',
 'object': 'text_completion',
 'created': 1715222298,
 'model': './Llama3-gguf-unsloth.Q4_K_M.gguf',
 'choices': [{'text': 'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings...'},
 ...]
}
Llama 3 के साथ काम करना

आउटपुट को समझना

  • "choices" के 0 एलिमेंट से "text" एक्सेस करें
output["choices"][0]["text"]

'Improving customer retention is crucial for any business, as 
 it leads to increased revenue, positive word-of-mouth, and cost savings. 
 Here are some effective ways to boost customer retention:
 1. Personalize the Customer Experience
 Tailor your interactions with customers based on their preferences, behaviors, and 
 purchase history. Use data and analytics to create personalized offers, 
 recommendations, and communications.
 2. Foster Strong Relationships
 Build strong, human connections with your customers. Train your...'
Llama 3 के साथ काम करना

अभ्यास करते हैं!

Llama 3 के साथ काम करना

Preparing Video For Download...