掌握回應參數

使用 OpenAI Responses API

James Chapman

AI Curriculum Manager, DataCamp

模型選擇

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)
1 https://platform.openai.com/docs/models
使用 OpenAI Responses API

模型選擇

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)
  • 經驗法則:在滿足需求下,優先用最便宜的模型
模型 速度 成本 最適用於
gpt-5.4-mini 簡單任務、問答
gpt-5.5 中等 較高 複雜推理
1 https://platform.openai.com/docs/models
使用 OpenAI Responses API

LLM 與 Tokens

  • Tokens:協助 AI 理解與解析文字的文字單位

$$

句子「How can the OpenAI API deliver business value?」中,每個 token 以不同顏色標示。

1 https://platform.openai.com/tokenizer
使用 OpenAI Responses API

LLM 與 Tokens

 

  • 非推理型 LLM:產生在提示後最可能出現的 tokens

non_reasoning_output.gif

使用 OpenAI Responses API

LLM 與 Tokens

reasoning_output.gif

使用 OpenAI Responses API

推理強度(Reasoning Effort)

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",

reasoning={"effort": "none"}
)
使用 OpenAI Responses API

推理強度(Reasoning Effort)

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"}
)
強度 最適用於
none 瑣碎或機械性任務。
low 以速度與成本為先的簡單任務。
medium 預設;推理與效率兼顧。
high 複雜、多步驟或高邏輯任務。
xhigh 最困難、逼近能力上限的任務。
使用 OpenAI Responses API

推理摘要(Reasoning Summaries)

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={
        "effort": "medium",

"summary": "auto"
} )
使用 OpenAI Responses API

限制輸出 Tokens

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"},

max_output_tokens=500
)
  • max_output_tokens 會計入「推理 tokens」
使用 OpenAI Responses API

重點總結

  • 簡單任務 → 先用小模型、無推理、少量 tokens
  • 複雜任務 → 先用中型模型與推理,再微調

parameter_link.jpg

使用 OpenAI Responses API

一起來練習吧!

使用 OpenAI Responses API

Preparing Video For Download...