Llama ince ayar kütüphaneleri

Llama 3 ile İnce Ayar (Fine-Tuning)

Francesca Donadoni

Curriculum Manager, DataCamp

İnce ayar ne zaman kullanılır

  • Önceden eğitilmiş model
  • Özel veriler kullanır

Model parametrelerinin bir temsilini inceleyen bir Yapay Zekâ Mühendisi.

  • Doğruluğu artırır
  • Önyargıyı azaltır
  • Bilgi tabanını geliştirir
Llama 3 ile İnce Ayar (Fine-Tuning)

İnce ayar nasıl kullanılır

  • Veri kalitesi
  • Model kapasitesi
  • Görev tanımı

 

  • İnce ayar süreci

Eğitim döngüsü. Eğitim, ince ayarlı bir model üretir. Değerlendirme, ince ayarlı model ve bir değerlendirme veri kümesiyle yapılır.

Llama 3 ile İnce Ayar (Fine-Tuning)

İnce ayar nasıl kullanılır

  • Veri kalitesi
  • Model kapasitesi
  • Görev tanımı

 

  • İnce ayar süreci

Eğitim döngüsü. Eğitim veri kümesiyle eğitim başlatılır ve ince ayarlı bir model üretilir. Değerlendirme, ince ayarlı model ve bir değerlendirme veri kümesiyle yapılır.

Llama 3 ile İnce Ayar (Fine-Tuning)

İnce ayar nasıl kullanılır

  • Veri kalitesi
  • Model kapasitesi
  • Görev tanımı

 

  • İnce ayar süreci

Eğitim döngüsü. Eğitim veri kümesi, model ve belirteçleyiciyle eğitim başlatılır ve ince ayarlı bir model üretilir. Değerlendirme, ince ayarlı model ve bir değerlendirme veri kümesiyle yapılır.

Llama 3 ile İnce Ayar (Fine-Tuning)

İnce ayar nasıl kullanılır

  • Veri kalitesi
  • Model kapasitesi
  • Görev tanımı

 

  • İnce ayar süreci

Eğitim döngüsü. Eğitim veri kümesi, argümanlar, model ve belirteçleyiciyle eğitim başlatılır ve ince ayarlı bir model üretilir. Değerlendirme, ince ayarlı model ve bir değerlendirme veri kümesiyle yapılır.

Llama 3 ile İnce Ayar (Fine-Tuning)

İnce ayar nasıl kullanılır

  • Veri kalitesi
  • Model kapasitesi
  • Görev tanımı

 

  • İnce ayar süreci
  • Yeni model
  • Değerlendirme

Eğitim döngüsü. Eğitim veri kümesi, argümanlar, model, belirteçleyici ve ince ayar sınıfıyla eğitim başlatılır ve ince ayarlı bir model üretilir. Değerlendirme, ince ayarlı model ve bir değerlendirme veri kümesiyle yapılır.

Llama 3 ile İnce Ayar (Fine-Tuning)

Llama ince ayar kütüphaneleri

 

  • 📚 İnce ayar için çeşitli kütüphaneler

 

  • 🦙 Llama ince ayarı için TorchTune

 

  • 🚀 TorchTune ile bir ince ayar görevi başlatma
Llama 3 ile İnce Ayar (Fine-Tuning)

Llama ince ayarı için seçenekler

  • TorchTune
    • Yapılandırılabilir şablonlara dayalı
    • Şunlar için ideal: hızla ölçekleme

Hızlı denemeyi temsil eden bir saat simgesi.

  • Hugging Face SFTTrainer
    • Diğer LLM’lere erişim
    • Şunlar için ideal: birden çok modeli ince ayar yapmak

Birden çok modeli temsil eden bir simge.

  • Unsloth
    • Verimli bellek kullanımı
    • Şunlar için ideal: sınırlı donanım

CPU donanımını temsil eden bir simge.

  • Axolotl
    • Modüler yaklaşım
    • Şunlar için ideal: kapsamlı yeniden yapılandırma olmadan

Yapılandırmayı temsil eden bir dişli ve el simgesi.

Llama 3 ile İnce Ayar (Fine-Tuning)

TorchTune ve ince ayar tarifleri

 

 

  • TorchTune tarifleri:

    • Modüler şablonlar
    • Farklı projelere uyarlanabilir yapılandırma
    • Kodu düzenli tutar
    • Tekrarlanabilirliği sağlar

Tarif kavramını betimlemek için hazırlanan bir çorba illüstrasyonu.

Llama 3 ile İnce Ayar (Fine-Tuning)

TorchTune listesi

 

  • Terminalden çalıştırın
  • Python’lı bir ortam
  • TorchTune’u kurun
    pip3 install torchtune

  • Mevcut tarifleri listeleyin

    tune ls

  • ! IPython kullanıyorsanız

    !tune ls
Llama 3 ile İnce Ayar (Fine-Tuning)

TorchTune listesi

!tune ls
  • Çıktı:
RECIPE                                   CONFIG                                  
full_finetune_single_device              llama3/8B_full_single_device            
                                         llama3_1/8B_full_single_device          
                                         llama3_2/1B_full_single_device          
                                         llama3_2/3B_full_single_device       
full_finetune_distributed                llama3/8B_full                          
                                         llama3_1/8B_full                        
                                         llama3_2/1B_full                          
                                         ...
Llama 3 ile İnce Ayar (Fine-Tuning)

TorchTune çalıştırma

 

  • Tarif + --config + yapılandırma kullanın

  • İnce ayarı çalıştırın

    tune run full_finetune_single_device --config \
llama3_1/8B_lora_single_device

  • Parametreler: device=cpu veya device=cuda

  • epochs=<int> (<int> 0 veya pozitif bir tamsayıdır)
Llama 3 ile İnce Ayar (Fine-Tuning)

Hadi pratik yapalım!

Llama 3 ile İnce Ayar (Fine-Tuning)

Preparing Video For Download...