Menguasai Parameter Respons

Bekerja dengan OpenAI Responses API

James Chapman

AI Curriculum Manager, DataCamp

Pemilihan Model

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

¹ https://platform.openai.com/docs/models

Pemilihan Model

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

Aturan praktis: gunakan model termurah yang memenuhi kebutuhan lain

Model	Kecepatan	Biaya	Terbaik Untuk
gpt-5.4-mini	Cepat	Rendah	Tugas sederhana, tanya jawab
gpt-5.5	Sedang	Lebih tinggi	Penalaran kompleks

¹ https://platform.openai.com/docs/models

LLM dan Token

Token: unit teks yang membantu AI memahami dan menafsirkan teks

Kalimat, "How can the OpenAI API deliver business value?" dengan tiap token disorot warna berbeda.

¹ https://platform.openai.com/tokenizer

LLM dan Token

LLM tanpa penalaran: Menghasilkan token dengan probabilitas tertinggi mengikuti prompt

LLM dan Token

Upaya Penalaran

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",

    reasoning={"effort": "none"}

)

Upaya Penalaran

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"}
)

Upaya	Terbaik Untuk
none	Tugas sepele atau mekanis.
low	Tugas sederhana yang mengutamakan cepat dan murah.
medium	Bawaan untuk keseimbangan penalaran dan efisiensi.
high	Tugas kompleks, multi-langkah, atau berat logika.
xhigh	Tugas tersulit yang mendorong batas kemampuan

Ringkasan Penalaran

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={
        "effort": "medium",

        "summary": "auto"

    }
)

Membatasi Output Token

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"},

    max_output_tokens=500

)

max_output_tokens mencakup reasoning tokens

Ringkasan

Tugas Lebih Sederhana → mulai dengan model kecil, tanpa penalaran, dan sedikit token
Tugas Kompleks → mulai dengan model ukuran sedang dan penalaran, lalu fine-tune

Ayo berlatih!

Bekerja dengan OpenAI Responses API