Llama फाइन-ट्यूनिंग लाइब्रेरीज़

Llama 3 के साथ फाइन-ट्यूनिंग

Francesca Donadoni

Curriculum Manager, DataCamp

Fine-tuning कब करें

Pre-trained मॉडल
विशेष डेटा का उपयोग

एक AI इंजीनियर जो मॉडल पैरामीटर्स के रिप्रेजेंटेशन को देख रहा है.

सटीकता बढ़ाएँ
बायस घटाएँ
नॉलेज बेस सुधारें

Fine-tuning कैसे करें

डेटा की गुणवत्ता
मॉडल की क्षमता
टास्क परिभाषा

फाइन-ट्यूनिंग प्रक्रिया

ट्रेनिंग लूप. ट्रेनिंग से फाइन-ट्यून किया मॉडल बनता है. इवैल्यूएशन फाइन-ट्यून मॉडल और इवैल्यूएशन डेटासेट से होता है.

Fine-tuning कैसे करें

डेटा की गुणवत्ता
मॉडल की क्षमता
टास्क परिभाषा

फाइन-ट्यूनिंग प्रक्रिया

ट्रेनिंग लूप. ट्रेनिंग डेटासेट से ट्रेनिंग शुरू होती है, जो फाइन-ट्यून मॉडल बनाती है. इवैल्यूएशन फाइन-ट्यून मॉडल और इवैल्यूएशन डेटासेट से होता है.

Fine-tuning कैसे करें

डेटा की गुणवत्ता
मॉडल की क्षमता
टास्क परिभाषा

फाइन-ट्यूनिंग प्रक्रिया

ट्रेनिंग लूप. ट्रेनिंग डेटासेट, मॉडल, और टोकनाइज़र से ट्रेनिंग शुरू होती है, जो फाइन-ट्यून मॉडल बनाती है. इवैल्यूएशन फाइन-ट्यून मॉडल और इवैल्यूएशन डेटासेट से होता है.

Fine-tuning कैसे करें

डेटा की गुणवत्ता
मॉडल की क्षमता
टास्क परिभाषा

फाइन-ट्यूनिंग प्रक्रिया

ट्रेनिंग लूप. ट्रेनिंग डेटासेट, आर्ग्युमेंट्स, मॉडल, और टोकनाइज़र से ट्रेनिंग शुरू होती है, जो फाइन-ट्यून मॉडल बनाती है. इवैल्यूएशन फाइन-ट्यून मॉडल और इवैल्यूएशन डेटासेट से होता है.

Fine-tuning कैसे करें

डेटा की गुणवत्ता
मॉडल की क्षमता
टास्क परिभाषा

फाइन-ट्यूनिंग प्रक्रिया
नया मॉडल
इवैल्यूएशन

ट्रेनिंग लूप. ट्रेनिंग डेटासेट, आर्ग्युमेंट्स, मॉडल, टोकनाइज़र, और फाइन-ट्यूनिंग क्लास से ट्रेनिंग शुरू होती है, जो फाइन-ट्यून मॉडल बनाती है. इवैल्यूएशन फाइन-ट्यून मॉडल और इवैल्यूएशन डेटासेट से होता है.

Llama फाइन-ट्यूनिंग लाइब्रेरीज़

📚 फाइन-ट्यूनिंग के लिए कई लाइब्रेरीज़

🦙 Llama फाइन-ट्यूनिंग के लिए TorchTune

🚀 TorchTune से फाइन-ट्यूनिंग टास्क लॉन्च करें

Llama फाइन-ट्यूनिंग के विकल्प

TorchTune
- कॉन्फिगरेबल टेम्पलेट्स पर आधारित
- उपयुक्त: तेज़ी से स्केल करना

तेज़ एक्सपेरिमेंटेशन दर्शाती घड़ी का आइकन.

Hugging Face का SFTTrainer
- अन्य LLMs तक पहुँच
- उपयुक्त: कई मॉडलों को फाइन-ट्यून करना

एकाधिक मॉडलों का प्रतिनिधित्व करता आइकन.

Unsloth
- मेमोरी का दक्ष उपयोग
- उपयुक्त: सीमित हार्डवेयर

CPU हार्डवेयर दर्शाता आइकन.

Axolotl
- मॉड्यूलर अप्रोच
- उपयुक्त: बिना भारी री-कॉन्फिगरेशन

कॉन्फिगरेशन दर्शाता गियर और हाथ का आइकन.

TorchTune और फाइन-ट्यूनिंग रेसिपीज़

TorchTune रेसिपीज़:
- मॉड्यूलर टेम्पलेट्स
- अलग प्रोजेक्ट्स के अनुरूप कॉन्फ़िगर करें
- कोड ऑर्गनाइज़ रखें
- रीप्रोड्यूसिबिलिटी सुनिश्चित करें

रेसिपी की अवधारणा दिखाने के लिए सूप बनते हुए का चित्रण.

TorchTune list

टर्मिनल से चलाएँ
Python वाला एनवायरनमेंट
TorchTune इंस्टॉल करें
```
pip3 install torchtune
```
उपलब्ध रेसिपीज़ लिस्ट करें
```
tune ls
```
! यदि IPython उपयोग कर रहे हैं
```
!tune ls
```

TorchTune list

!tune ls

आउटपुट:

RECIPE                                   CONFIG                                  
full_finetune_single_device              llama3/8B_full_single_device            
                                         llama3_1/8B_full_single_device          
                                         llama3_2/1B_full_single_device          
                                         llama3_2/3B_full_single_device       
full_finetune_distributed                llama3/8B_full                          
                                         llama3_1/8B_full                        
                                         llama3_2/1B_full                          
                                         ...

TorchTune run

रेसिपी + --config + कॉन्फ़िगरेशन का उपयोग करें

फाइन-ट्यूनिंग चलाएँ

tune run full_finetune_single_device --config \
llama3_1/8B_lora_single_device

पैरामीटर्स device=cpu या device=cuda
epochs=<int> (<int> 0 या धनात्मक पूर्णांक)

अभ्यास करते हैं!

Llama 3 के साथ फाइन-ट्यूनिंग