Mengoptimalkan AI untuk kecepatan, biaya, dan kualitas

Pengembangan Kode dengan Bantuan AI untuk Developer

Francesca Donadoni

AI Curriculum Manager, DataCamp

Metrik

124.png

  • Latensi (waktu respons): Waktu yang dibutuhkan model untuk menghasilkan respons
Pengembangan Kode dengan Bantuan AI untuk Developer

Metrik

135.png

  • Latensi (waktu respons): Waktu yang dibutuhkan model untuk menghasilkan respons

$$

  • Biaya token (per 1M token): Biaya penggunaan model AI
Pengembangan Kode dengan Bantuan AI untuk Developer

Metrik

126.png

  • Latensi (waktu respons): Waktu yang dibutuhkan model untuk menghasilkan respons

$$

  • Biaya token (per 1M token): Biaya penggunaan model AI

$$

  • Kualitas (tingkat keberhasilan pada tes/cakupan): Seberapa sering kode yang dihasilkan berfungsi sesuai harapan
Pengembangan Kode dengan Bantuan AI untuk Developer

Pembandingan model

$$

110.png

1 https://github.com/openai/human-eval
Pengembangan Kode dengan Bantuan AI untuk Developer

Pembandingan model

$$

111.png

1 https://github.com/bigcode-project/bigcodebench
Pengembangan Kode dengan Bantuan AI untuk Developer

Pembandingan model

$$

112.png

1 https://github.com/SWE-bench/SWE-bench
Pengembangan Kode dengan Bantuan AI untuk Developer

Pembandingan model

$$

113.png

1 https://github.com/JohnnyPeng18/Coffe
Pengembangan Kode dengan Bantuan AI untuk Developer

Versi prompt

115.png

Pengembangan Kode dengan Bantuan AI untuk Developer

Versi prompt

118.png

Pengembangan Kode dengan Bantuan AI untuk Developer

Versi prompt

119.png

Pengembangan Kode dengan Bantuan AI untuk Developer

Caching prompt

  • Caching bekerja dengan menyimpan:
    • Prompt
    • Input
    • Model
    • Suhu

prompt_caching.png

Pengembangan Kode dengan Bantuan AI untuk Developer

Ayo berlatih!

Pengembangan Kode dengan Bantuan AI untuk Developer

Preparing Video For Download...