Bemästra responsparametrar

Arbeta med OpenAI Responses API

James Chapman

AI Curriculum Manager, DataCamp

Modellval

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

¹ https://platform.openai.com/docs/models

Modellval

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

Tumregel: välj den billigaste modellen som uppfyller kraven

Modell	Hastighet	Kostnad	Passar för
gpt-5.4-mini	Snabb	Låg	Enkla uppgifter, frågor och svar
gpt-5.5	Måttlig	Högre	Komplex resonering

¹ https://platform.openai.com/docs/models

LLM:er och tokens

Token: textenhet som hjälper AI:n att förstå och tolka text

Meningen "How can the OpenAI API deliver business value?" där varje token är markerad i olika färg.

¹ https://platform.openai.com/tokenizer

LLM:er och tokens

LLM:er utan resonering: genererar de tokens med högst sannolikhet att följa prompten

LLM:er och tokens

Resoneringsnivå

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",

    reasoning={"effort": "none"}

)

Resoneringsnivå

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"}
)

Nivå	Passar för
none	Triviala eller mekaniska uppgifter.
low	Enkla uppgifter där hastighet och kostnad prioriteras.
medium	Standard för balanserad resonering och effektivitet.
high	Komplexa, flerstegiga eller logiktunga uppgifter.
xhigh	De svåraste uppgifterna som testar gränserna för vad som är möjligt.

Resumeringar av resonering

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={
        "effort": "medium",

        "summary": "auto"

    }
)

Begränsa antalet utdatatokens

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"},

    max_output_tokens=500

)

max_output_tokens inkluderar resoneringens tokens

Sammanfattning

Enkla uppgifter → börja med små modeller, ingen resonering och få tokens
Komplexa uppgifter → börja med medelstora modeller och resonering, finjustera sedan

Nu kör vi en övning!

Arbeta med OpenAI Responses API