Boru hattı görevleri ve değerlendirmeler

Hugging Face ile Multi-Modal Modeller

James Chapman

Curriculum Manager, DataCamp

Pipelines ve model bileşenleri

Mevcut yaklaşım

from transformers import BlipProcessor, BlipForConditionalGeneration
checkpoint = "Salesforce/blip-image-captioning-base"
processor = BlipProcessor.from_pretrained(checkpoint)
model = BlipForConditionalGeneration.from_pretrained(checkpoint)

Pipelines

from transformers import pipeline
pipe = pipeline("image-to-text", model=checkpoint)

Örnek karşılaştırma

Önişleyici ve model doğrudan

inputs = processor(images=image, 
                   return_tensors="pt")
gen = model.generate(**inputs)
processor.decode(gen[0])

Pipeline

pipe(image)

[{'generated_text': 
'a man wearing a black shirt'}]

datapoint5

Modelleri ve görevleri bulma

API ile bir boru hattı için model bulun:

from huggingface_hub import HfApi
model = list(api.list_models(task="text-to-image", limit=5))
pipe = pipeline("text-to-image", model[0].id)

Hugging Face'te model ana sayfasının ekran görüntüsü

Modellere seçenek geçirme

Kaput altında MusicgenForConditionalGeneration

pipe = pipeline(task="text-to-audio", 
                model="facebook/musicgen-small", framework="pt")

generate_kwargs = {"temperature": 0.8, "max_new_tokens": 20}

outputs = pipe("Classic rock riff", generate_kwargs=generate_kwargs)

temperature (0-1): rastgelelik ve yaratıcılığı kontrol eder
max_new_tokens: üretilecek yeni belirteç sayısını sınırlar

Boru hattı performansını değerlendirme

Doğruluk (Accuracy): doğru sınıflandırmaların toplam oranı
Kesinlik (Precision): tahmin edilen sınıfın ne sıklıkla doğru olduğu
Duyarlılık (Recall): gerçek sınıfların ne kadarının doğru bulunduğu
F1 Skoru: kesinlik ve duyarlılığı birleştirir

from evaluate import evaluator

task_evaluator = evaluator("image-classification")

metrics_dict = {
    "precision": "precision",
    "recall": "recall",
    "f1": "f1",
}

label_map = pipe.model.config.label2id

Boru hattı performansını değerlendirme

eval_results = task_evaluator.compute(
  model_or_pipeline=pipe,

  data=dataset,

  metric=evaluate.combine(metrics_dict),

  label_mapping=label_map)

print(eval_results)

{'precision': 0.999001923076923, 
'recall': 0.999, 
'f1': 0.9989999609405906, ...}

pipe = pipeline(task="image-classification",
model="ideepankarsharma2003/AI_ImageClassi
fication_MidjourneyV6_SDXL"
)
dataset = load_dataset("ideepankarsharma2003/
Midjourney_v6_Classification_small_shuffled")

veri setinden su altında bir köpeğin yapay zekâ üretimi görseli örneği

Haydi pratik yapalım!

Hugging Face ile Multi-Modal Modeller