การปรับ AI ให้เหมาะสมด้านความเร็ว ต้นทุน และคุณภาพ

การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

Francesca Donadoni

AI Curriculum Manager, DataCamp

เมตริก

124.png

  • Latency (เวลาตอบสนอง): เวลาที่โมเดลใช้ในการสร้างคำตอบ
การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

เมตริก

135.png

  • Latency (เวลาตอบสนอง): เวลาที่โมเดลใช้ในการสร้างคำตอบ

$$

  • Token cost (ต่อ 1 ล้าน token): ค่าใช้จ่ายในการใช้งานโมเดล AI
การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

เมตริก

126.png

  • Latency (เวลาตอบสนอง): เวลาที่โมเดลใช้ในการสร้างคำตอบ

$$

  • Token cost (ต่อ 1 ล้าน token): ค่าใช้จ่ายในการใช้งานโมเดล AI

$$

  • Quality (อัตราผ่านการทดสอบ): ความถี่ที่โค้ดที่สร้างขึ้นทำงานได้ตามที่ต้องการ
การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

การเปรียบเทียบประสิทธิภาพโมเดล

$$

110.png

1 https://github.com/openai/human-eval
การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

การเปรียบเทียบประสิทธิภาพโมเดล

$$

111.png

1 https://github.com/bigcode-project/bigcodebench
การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

การเปรียบเทียบประสิทธิภาพโมเดล

$$

112.png

1 https://github.com/SWE-bench/SWE-bench
การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

การเปรียบเทียบประสิทธิภาพโมเดล

$$

113.png

1 https://github.com/JohnnyPeng18/Coffe
การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

การจัดเวอร์ชันของ prompt

115.png

การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

การจัดเวอร์ชันของ prompt

118.png

การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

การจัดเวอร์ชันของ prompt

119.png

การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

Prompt caching

  • การแคชทำงานโดยจัดเก็บ:
    • Prompt
    • Input
    • Model
    • Temperature

prompt_caching.png

การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

มาฝึกกันเถอะ!

การเขียนโค้ดด้วยความช่วยเหลือของ AI สำหรับนักพัฒนา

Preparing Video For Download...