Explicando modelos de IA generativa con chat

IA explicable en Python

Fouad Trad

Machine Learning Engineer

Modelos de IA generativa basados en chat

Se usa para generar texto
Predice según contexto y conocimiento

Imagen que muestra a una persona enviando un prompt a un modelo generativo y recibiendo una respuesta.

Prompt de cadena de razonamiento

Anima al modelo a explicar su razonamiento

Imagen que muestra cómo un prompt de cadena de razonamiento pide al modelo resolver un problema paso a paso y la salida incluye el razonamiento de cada paso.

Creando un prompt de cadena de razonamiento

prompt = """A shop starts with 20 apples. It sells 5 apples and then receives 8 more. 
How many apples does the shop have now? Show your reasoning step-by-step."""

response = get_response(prompt)

print(response)

To find out how many apples the shop has now, let's follow the transactions step-by-step:

1- The shop begins with 20 apples.

2- The shop sells 5 apples. 
   We subtract this number from the starting quantity: 20 - 5 = 15

3- The shop receives 8 apples. 
   We add this number to the remaining apples: 15 + 8 = 23

So, after these transactions, the shop has 23 apples.

Autoconsistencia

Evalúa la confianza del modelo en sus respuestas

Imagen que muestra que un prompt de autoconsistencia consiste en enviar el mismo prompt varias veces al modelo, cada una con su respuesta.

Autoconsistencia en clasificación de texto

Útil para tareas de clasificación de texto

Imagen que muestra un ejemplo de autoconsistencia donde el modelo debe clasificar una reseña como positiva o negativa y ofrece varias respuestas.

Autoconsistencia en clasificación de texto

Útil para tareas de clasificación de texto

Imagen que muestra un ejemplo de autoconsistencia donde el modelo debe clasificar una reseña de usuario como positiva o negativa y ofrece varias respuestas. La confianza se calcula como la proporción de cada categoría respecto al total de respuestas.

Creando prompts de autoconsistencia

prompt = """Classify the following review as positive or negative. 
You should reply with either "positive" or "negative", nothing else.
Review: 'The customer service was great, but the product itself did not meet my expectations.'"""


responses = []

for i in range(5):
    sentiment = get_response(review)

    responses.append(sentiment.lower())


confidence = {
    'positive': responses.count('positive') / len(responses),
    'negative': responses.count('negative') / len(responses)
}

Creando prompts de autoconsistencia

print(confidence)

{
    'positive': 0.6,
    'negative': 0.4
}

¡Vamos a practicar!

IA explicable en Python