Menguasai Parameter Respons

Bekerja dengan OpenAI Responses API

James Chapman

AI Curriculum Manager, DataCamp

Pemilihan Model

response = client.responses.create(
    model="gpt-5-mini",
    input="What is recursion?",
)

¹ https://platform.openai.com/docs/models

Pemilihan Model

response = client.responses.create(
    model="gpt-5-mini",
    input="What is recursion?",
)

Aturan praktis: gunakan model termurah yang memenuhi kebutuhan lain

Model	Kecepatan	Biaya	Terbaik Untuk
gpt-5-nano	Cepat	Sangat rendah	Aplikasi latensi rendah
gpt-5-mini	Cepat	Rendah	Tugas sederhana, tanya jawab
gpt-5	Sedang	Lebih tinggi	Penalaran kompleks

¹ https://platform.openai.com/docs/models

LLM dan Token

Token: unit teks yang membantu AI memahami dan menafsirkan teks

Kalimat, "How can the OpenAI API deliver business value?" dengan tiap token ditandai warna berbeda.

¹ https://platform.openai.com/tokenizer

LLM dan Token

LLM non-penalaran: Menghasilkan token dengan probabilitas tertinggi setelah prompt

Keluaran non-penalaran

LLM dan Token

Keluaran penalaran

Upaya Penalaran

response = client.responses.create(
    model="gpt-5-mini",
    input="Explain LLMs to a 6yr old.",

    reasoning={"effort": "minimal"}

)

Upaya Penalaran

response = client.responses.create(
    model="gpt-5-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "minimal"}
)

Upaya	Cocok Untuk
minimal	Tugas sepele atau mekanis.
low	Tugas sederhana yang memprioritaskan kecepatan dan biaya.
medium	Bawaan untuk keseimbangan penalaran dan efisiensi.
high	Tugas kompleks, multi-langkah, atau berat logika.

Ringkasan Penalaran

response = client.responses.create(
    model="gpt-5-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={
        "effort": "medium",

        "summary": "auto"

    }
)

Membatasi Token Output

response = client.responses.create(
    model="gpt-5-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "minimal"},

    max_output_tokens=500

)

max_output_tokens termasuk token penalaran

Ringkasan

Tugas lebih sederhana → mulai dengan model kecil, penalaran minimal, dan sedikit token
Tugas kompleks → mulai dengan ukuran model dan penalaran medium, lalu fine-tune

Tautan parameter

Ayo berlatih!

Bekerja dengan OpenAI Responses API