Потоковая передача с семантическими событиями

Работа с Responses API OpenAI

James Chapman

AI Curriculum Manager, DataCamp

Зачем нужна потоковая передача?

Без потоковой передачи

Зачем нужна потоковая передача?

С потоковой передачей

Семантические события

Структурированные обновления, описывающие происходящее

Семантические события

Структурированные обновления, описывающие происходящее

Тип события	Описание
`response.created`	Модель начала генерацию
`response.output_text.delta`	Частичное обновление текста
`response.output_text.done`	Текстовый блок завершён
`response.function_call.arguments.delta`	Потоковая передача аргументов инструмента
`response.completed`	Весь ответ получен

Пример: базовая потоковая передача текста

prompt = "Explain the seasons of the year concisely to a child."


with client.responses.create(model="gpt-5.4-mini", input=prompt, stream=True) as stream:

    current_text = ""


    for event in stream:
        if event.type == "response.output_text.delta":

            current_text += event.delta
            print(current_text)

Пример: базовая потоковая передача текста

Потоковая передача текста

Пример: обработка нескольких событий

prompt = "Explain how a neural network learns concisely for a child."

with client.responses.create(model="gpt-5.4-mini", input=prompt, stream=True) as stream:

    for event in stream:
        if event.type == "response.created":

            print("Response started...\n")


        elif event.type == "response.output_text.done":

            print("\n\n--- Text block finished ---\n")


        elif event.type == "response.completed":

            print(f"\nFull response:\n{current_text}")

Пример: обработка нескольких событий

Несколько событий

Пример: потоковая передача событий инструмента

convert_currency() -> str:

date_time: str
from_timezone: str
to_timezone: str

tools = [
    {
        "type": "function",
        "name": "convert_currency",
        ...
     }
]

Пример: потоковая передача событий инструмента

prompt = "How much is 120 euros in British pounds using the current exchange rate?"


with client.responses.create(model="gpt-5.4-mini", input=prompt, tools=tools, stream=True) as stream:

    current_args = ""

    for event in stream:
        if event.type == "response.function_call_arguments.delta":

            current_args += event.delta
            print("Streaming args:", current_args)

        elif event.type == "response.function_call_arguments.done":

            print("\nFinal arguments:", event.arguments)

        elif event.type == "response.completed":

            print("\n--- Completed ---")

Пример: потоковая передача событий инструмента

Потоковая передача событий инструмента

Итоги

Семантические события в ChatGPT

¹ Семантические события в ChatGPT

Давайте потренируемся!

Работа с Responses API OpenAI