Prompting con pocos ejemplos

Ingeniería de prompts con la API de OpenAI

Fouad Trad

Machine Learning Engineer

Prompting con pocos ejemplos

Modelo con ejemplos (pares de pregunta y respuesta)

Representación visual de un prompt few-shot que muestra su estructura con preguntas y respuestas de ejemplo y, por último, la pregunta que queremos que responda el modelo.

Prompting con pocos ejemplos

Modelo con ejemplos (pares de pregunta y respuesta)

Diagrama visual que muestra cómo enviamos un prompt few-shot al LLM.

Prompting con pocos ejemplos

Modelo con ejemplos (pares de pregunta y respuesta)

Un diagrama que muestra cómo enviamos un prompt de pocos ejemplos al LLM y recibimos una respuesta.

Prompting con pocos ejemplos

Modelo con ejemplos (pares de pregunta y respuesta)

Un diagrama que muestra cómo enviamos un prompt de pocos ejemplos al LLM y recibimos una respuesta.

Número de ejemplos:
- Cero -> prompt sin ejemplos
- Uno -> prompt de un solo ejemplo
- Más de uno → prompting con pocos ejemplos

Prompting sin ejemplos

Proporcionar un prompt sin ejemplos
El modelo genera respuestas a partir de sus conocimientos
Ideal para tareas rápidas y sencillas

prompt = "What is prompt engineering?"
print(get_response(prompt))

Prompt engineering refers to designing and refining prompts or instructions given 
to a language model like ChatGPT to elicit desired responses or behaviors. It 
involves formulating specific guidelines or hints to guide the model's output 
towards a desired outcome.

Prompting de un solo ejemplo

Proporciónale al modelo un único ejemplo
Útil para mantener un formato o estilo coherente

prompt =  """ 
Q: Sum the numbers 3, 5, and 6. A: 3+5+6=14
Q: Sum the numbers 2, 4, and 7. A: 
"""
print(get_response(prompt))

2+4+7=13

Prompting de un solo ejemplo

prompt = """
Q: Sum the numbers 3, 5, and 6. A: The sum of 3, 5, and 6 is 14
Q: Sum the numbers 2, 4, and 7. A: 
"""
print(get_response(prompt))

The sum of 2, 4, and 7 is 13

Prompting con pocos ejemplos

Proporciona más de un ejemplo
Potente para tareas contextuales

prompt = """
Text: Today the weather is fantastic -> Classification: positive
Text: The furniture is small -> Classification: neutral
Text: I don't like your attitude -> Classification: negative

"""

Prompting con pocos ejemplos

Proporciona más de un ejemplo
Potente para tareas contextuales

prompt = """
Text: Today the weather is fantastic -> Classification: positive
Text: The furniture is small -> Classification: neutral
Text: I don't like your attitude -> Classification: negative
Text: That shot selection was awful -> Classification: 
"""
print(get_response(prompt))

negative

Prompting few-shot con un modelo de chat

response = client.chat.completions.create(
  model = "gpt-4o-mini",

  messages = [{"role": "user",
             "content": "Today the weather is fantastic"},

             {"role": "assistant",
             "content": "positive"},

              {"role": "user",
             "content": "I don't like your attitude"},
              {"role": "assistant",
             "content": "negative"},

              {"role": "user",
             "content": "That shot selection was awful"}
             ],
  temperature = 0
)

print(response.choices[0].message.content)

negative

Consideraciones

Elige el número de tomas según la complejidad de la tarea
- Menos tomas -> tareas básicas
- Planos diversos -> tareas complejas

Una imagen que muestra a una persona cuestionándose.

¡Practiquemos!

Ingeniería de prompts con la API de OpenAI