Streaming com eventos semânticos

Trabalhando com a OpenAI Responses API

James Chapman

AI Curriculum Manager, DataCamp

Por que fazer streaming?

streaming_desligado.gif

Trabalhando com a OpenAI Responses API

Por que fazer streaming?

streaming_ligado.gif

Trabalhando com a OpenAI Responses API

Eventos semânticos

  • Atualizações estruturadas que descrevem o que está acontecendo
Trabalhando com a OpenAI Responses API

Eventos semânticos

  • Atualizações estruturadas que descrevem o que está acontecendo
Tipo de evento Descrição
response.created O modelo começou a gerar
response.output_text.delta Atualização parcial de texto
response.output_text.done Bloco de texto concluído
response.function_call.arguments.delta Argumentos de ferramenta em stream
response.completed Resposta inteira finalizada
Trabalhando com a OpenAI Responses API

Exemplo: streaming básico de texto

prompt = "Explain the seasons of the year concisely to a child."

with client.responses.create(model="gpt-5.4-mini", input=prompt, stream=True) as stream:
current_text = ""
for event in stream: if event.type == "response.output_text.delta":
current_text += event.delta print(current_text)
Trabalhando com a OpenAI Responses API

Exemplo: streaming básico de texto

transmissão de texto.gif

Trabalhando com a OpenAI Responses API

Exemplo: lidando com vários eventos

prompt = "Explain how a neural network learns concisely for a child."

with client.responses.create(model="gpt-5.4-mini", input=prompt, stream=True) as stream:

for event in stream: if event.type == "response.created":
print("Response started...\n")
elif event.type == "response.output_text.done":
print("\n\n--- Text block finished ---\n")
elif event.type == "response.completed":
print(f"\nFull response:\n{current_text}")
Trabalhando com a OpenAI Responses API

Exemplo: lidando com vários eventos

vários_eventos.gif

Trabalhando com a OpenAI Responses API

Exemplo: streaming de eventos de ferramentas

convert_currency() -> str:

  • date_time: str
  • from_timezone: str
  • to_timezone: str
tools = [
    {
        "type": "function",
        "name": "convert_currency",
        ...
     }
]

frankfurter.png

Trabalhando com a OpenAI Responses API

Exemplo: streaming de eventos de ferramentas

prompt = "How much is 120 euros in British pounds using the current exchange rate?"

with client.responses.create(model="gpt-5.4-mini", input=prompt, tools=tools, stream=True) as stream:
current_args = ""
for event in stream: if event.type == "response.function_call_arguments.delta":
current_args += event.delta print("Streaming args:", current_args)
elif event.type == "response.function_call_arguments.done":
print("\nFinal arguments:", event.arguments)
elif event.type == "response.completed":
print("\n--- Completed ---")
Trabalhando com a OpenAI Responses API

Exemplo: streaming de eventos de ferramentas

eventos_de_ferramenta_em_streaming.gif

Trabalhando com a OpenAI Responses API

Resumo

eventos_semânticos_chatgpt.gif

1 Eventos semânticos no ChatGPT
Trabalhando com a OpenAI Responses API

Vamos praticar!

Trabalhando com a OpenAI Responses API

Preparing Video For Download...