Resumindo e editando texto

Trabalhar com a API da OpenAI

James Chapman

Curriculum Manager, DataCamp

Recapitulando...

Perguntas e respostas

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "user", "content": "How many days are in October?"}]
)

print(response.choices[0].message.content)

Outubro tem 31 dias.

Edição de texto

Exemplo: atualizar nome, pronomes e cargo

prompt = """
Atualize o nome para Maarten, os pronomes para he/him e o cargo para Senior Content Developer
no texto a seguir:

Joanne é Content Developer na DataCamp. Sua linguagem de programação favorita é R,
que ela usa para suas análises estatísticas.
"""

Edição de texto

response = client.chat.completions.create(
    model="gpt-4o-mini",

    messages=[{"role": "user", "content": prompt}]

)

print(response.choices[0].message.content)

Maarten é Senior Content Developer na DataCamp. Sua linguagem de programação favorita
é R, que ele usa para suas análises estatísticas.

Resumo de texto

Exemplo: resumo de conversas do suporte ao cliente

Equipe de suporte ao cliente

text = """
Customer: Oi, estou tentando entrar no 
meu conta, mas aparece que 
minha senha está incorreta. Tenho certeza de que 
estou digitando a certa.  

Support: Sinto muito por isso! 
Você já tentou redefinir a senha?  
...
"""

Resumo de texto

prompt = f"""Resuma o chat de suporte ao cliente 
             em três pontos-chave concisos: {text}"""


response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "user", "content": prompt}]
)
print(response.choices[0].message.content)

1. Cliente não conseguiu fazer login por problema de senha e link de redefinição ausente.  
2. Suporte reenviou o e-mail de redefinição após confirmar o envio.  
3. Cliente resolveu usando login com Google.

Controlando o tamanho da resposta

max_completion_tokens = 5

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "user", 
  "content": "Write a haiku about AI."}],
  max_completion_tokens=5
)

AI tão poderosa
Computadores

max_completion_tokens = 30

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "user", 
  "content": "Write a haiku about AI."}],
  max_completion_tokens=30
)

Uma mente em máquina
A lógica guia escolhas
A humanidade pensa

Entendendo tokens

Tokens: unidades de texto que ajudam a IA a entender e interpretar o texto

A frase "How can the OpenAI API deliver business value?" com cada token destacado em uma cor diferente.

¹ https://platform.openai.com/tokenizer

Calculando o custo

Custo de uso depende do modelo e do número de tokens 💰
- Modelos são precificados por custo/tokens
- Tokens de entrada e saída podem ter custos diferentes
Aumentar max_completion_tokens aumenta o custo 📈

Screenshot 2025-03-05 at 11.46.54.png

Calculando o custo

prompt = f"""Resuma o chat de suporte ao cliente 
             em três pontos-chave concisos: {text}"""

max_completion_tokens = 500

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "user", "content": prompt}], 
  max_completion_tokens=max_completion_tokens
  )

Calculando o custo

# Define price per token
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000

# Extract token usage
input_tokens = response.usage.prompt_tokens

output_tokens = max_completion_tokens

# Calculate cost
cost = (input_tokens * input_token_price + output_tokens * output_token_price)
print(f"Estimated cost: ${cost}")

Estimated cost: $0.00124

¹ https://openai.com/pricing

Vamos praticar!

Trabalhar com a API da OpenAI