Menguasai Parameter Respons

Bekerja dengan OpenAI Responses API

James Chapman

AI Curriculum Manager, DataCamp

Pemilihan Model

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

¹ https://platform.openai.com/docs/models

Pemilihan Model

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

Aturan praktis: gunakan model termurah yang memenuhi kebutuhan lain

Model	Kecepatan	Biaya	Terbaik untuk
gpt-5.4-mini	Cepat	Rendah	Tugas sederhana, tanya jawab
gpt-5.5	Sedang	Lebih tinggi	Penalaran kompleks

¹ https://platform.openai.com/docs/models

LLM dan Token

Token: unit teks yang membantu AI memahami dan menafsirkan teks

Kalimat "How can the OpenAI API deliver business value?" dengan setiap token disorot warna berbeda.

¹ https://platform.openai.com/tokenizer

LLM dan Token

LLM non-penalaran: Menghasilkan token dengan probabilitas tertinggi setelah prompt

LLM dan Token

Upaya Penalaran

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",

    reasoning={"effort": "none"}

)

Upaya Penalaran

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"}
)

Upaya	Terbaik untuk
none	Tugas sepele atau mekanis.
low	Tugas sederhana yang memprioritaskan kecepatan dan biaya.
medium	Default: seimbang antara penalaran dan efisiensi.
high	Tugas kompleks, multi-langkah, atau berat logika.
xhigh	Tugas tersulit yang mendorong batas kemampuan.

Ringkasan Penalaran

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={
        "effort": "medium",

        "summary": "auto"

    }
)

Membatasi Token Keluaran

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"},

    max_output_tokens=500

)

max_output_tokens termasuk token penalaran

Ringkasan

Tugas sederhana → mulai dengan model kecil, tanpa penalaran, dan token sedikit
Tugas kompleks → mulai dengan model ukuran sedang dan penalaran, lalu sesuaikan

Ayo berlatih!

Bekerja dengan OpenAI Responses API