Crear conversaciones

Trabajar con Llama 3

Imtihan Ahmed

Machine Learning Engineer

Mantener el contexto

Flujo para mantener el contexto - paso 1

Trabajar con Llama 3

Mantener el contexto

Flujo para mantener el contexto - paso 2

Trabajar con Llama 3

Mantener el contexto

Flujo para mantener el contexto - paso 3

Trabajar con Llama 3

Mantener el contexto

Flujo para mantener el contexto - paso 4

Trabajar con Llama 3

Mantener el contexto

Flujo para mantener el contexto - paso 5

  • Lleva el historial del chat con una clase Conversation
Trabajar con Llama 3

Clase Conversation

  • Puede guardar el historial de mensajes previos
class Conversation:

    def __init__(self, llm: Llama, system_prompt='', history=[]):
        self.llm = llm
        self.system_prompt = system_prompt

        self.history = [{"role": "system", "content": self.system_prompt}] + history
Trabajar con Llama 3

Clase Conversation

  • Puede guardar el historial de mensajes previos
class Conversation:
    def __init__(self, llm: Llama, system_prompt='', history=[]):
        self.llm = llm
        self.system_prompt = system_prompt
        self.history = [{"role": "system", "content": self.system_prompt}] + history


    def create_completion(self, user_prompt=''):

        self.history.append({"role": "user", "content": user_prompt}) # Añadir entrada

        output = self.llm.create_chat_completion(messages=self.history)

        conversation_result = output['choices'][0]['message']
        self.history.append(conversation_result) # Añadir salida
        return conversation_result['content'] # Devolver salida
Trabajar con Llama 3

Ejecutar una conversación multi-turno

conversation = Conversation(llm, system_prompt="You are a virtual travel assistant 
                                                helping with planning trips.")


response1 = conversation.create_completion("What are some destinations in France for a 
                                            short weekend break?")

print(f"Response 1: {response1}")


response2 = conversation.create_completion("How about Spain?")


print(f"Response 2: {response2}")
Trabajar con Llama 3

Ejecutar una conversación multi-turno

print(f"Response 1: {response1}")

print(f"Response 2: {response2}")

Salida

Trabajar con Llama 3

Ejecutar una conversación multi-turno

print(f"Response 1: {response1}")

print(f"Response 2: {response2}")

Salida con partes resaltadas

Trabajar con Llama 3

¡Vamos a practicar!

Trabajar con Llama 3

Preparing Video For Download...