Stăpânirea parametrilor de răspuns

Lucrul cu Responses API de la OpenAI

James Chapman

AI Curriculum Manager, DataCamp

Selectarea modelului

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

¹ https://platform.openai.com/docs/models

Selectarea modelului

response = client.responses.create(
    model="gpt-5.4-mini",
    input="What is recursion?",
)

Regulă generală: utilizați cel mai ieftin model care îndeplinește cerințele

Model	Viteză	Cost	Recomandat pentru
gpt-5.4-mini	Rapidă	Scăzut	Sarcini simple, Q&A
gpt-5.5	Moderată	Mai ridicat	Raționament complex

¹ https://platform.openai.com/docs/models

LLM-uri și tokeni

Tokeni: unități de text care ajută modelul AI să înțeleagă și să interpreteze textul

Propoziția „How can the OpenAI API deliver business value?" cu fiecare token evidențiat în altă culoare.

¹ https://platform.openai.com/tokenizer

LLM-uri și tokeni

LLM-uri non-raționament: Generează tokenii cu cea mai mare probabilitate de a urma promptul

LLM-uri și tokeni

Efort de raționament

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",

    reasoning={"effort": "none"}

)

Efort de raționament

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"}
)

Efort	Recomandat pentru
none	Sarcini triviale sau mecanice.
low	Sarcini simple, prioritizând viteza și costul.
medium	Implicit, pentru echilibru între raționament și eficiență.
high	Sarcini complexe, cu mai mulți pași sau logică avansată.
xhigh	Cele mai dificile sarcini, la limita posibilului.

Rezumate de raționament

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={
        "effort": "medium",

        "summary": "auto"

    }
)

Limitarea tokenilor de ieșire

response = client.responses.create(
    model="gpt-5.4-mini",
    input="Explain LLMs to a 6yr old.",
    reasoning={"effort": "none"},

    max_output_tokens=500

)

max_output_tokens include și tokenii de raționament

Rezumat

Sarcini simple → începeți cu modele mici, fără raționament și puțini tokeni
Sarcini complexe → începeți cu modele medii și raționament, apoi ajustați fin

Să exersăm!

Lucrul cu Responses API de la OpenAI