Hızı, maliyeti ve kaliteyi optimize etme

Geliştiriciler için Yapay Zeka Destekli Kodlama

Francesca Donadoni

AI Curriculum Manager, DataCamp

Metrikler

124.png

  • Gecikme (yanıt süresi): Modelin yanıt üretme süresi
Geliştiriciler için Yapay Zeka Destekli Kodlama

Metrikler

135.png

  • Gecikme (yanıt süresi): Modelin yanıt üretme süresi

$$

  • Token maliyeti (1M token başına): AI modelinin maliyeti
Geliştiriciler için Yapay Zeka Destekli Kodlama

Metrikler

126.png

  • Gecikme (yanıt süresi): Modelin yanıt üretme süresi

$$

  • Token maliyeti (1M token başına): AI modelinin maliyeti

$$

  • Kalite (test geçme oranı/kapsam): Üretilen kodun istenildiği gibi çalışması
Geliştiriciler için Yapay Zeka Destekli Kodlama

Model karşılaştırması

$$

110.png

1 https://github.com/openai/human-eval
Geliştiriciler için Yapay Zeka Destekli Kodlama

Model karşılaştırması

$$

111.png

1 https://github.com/bigcode-project/bigcodebench
Geliştiriciler için Yapay Zeka Destekli Kodlama

Model karşılaştırması

$$

112.png

1 https://github.com/SWE-bench/SWE-bench
Geliştiriciler için Yapay Zeka Destekli Kodlama

Model karşılaştırması

$$

113.png

1 https://github.com/JohnnyPeng18/Coffe
Geliştiriciler için Yapay Zeka Destekli Kodlama

İstem sürümlendirme

115.png

Geliştiriciler için Yapay Zeka Destekli Kodlama

İstem sürümlendirme

118.png

Geliştiriciler için Yapay Zeka Destekli Kodlama

İstem sürümlendirme

119.png

Geliştiriciler için Yapay Zeka Destekli Kodlama

İstem önbellekleme

  • Önbellekleme şu şekilde çalışır:
    • İstem
    • Girdi
    • Model
    • Sıcaklık

prompt_caching.png

Geliştiriciler için Yapay Zeka Destekli Kodlama

Haydi pratik yapalım!

Geliştiriciler için Yapay Zeka Destekli Kodlama

Preparing Video For Download...