Membangun percakapan

Bekerja dengan Llama 3

Imtihan Ahmed

Machine Learning Engineer

Mempertahankan konteks

Alur mempertahankan konteks - langkah 1

Bekerja dengan Llama 3

Mempertahankan konteks

Alur mempertahankan konteks - langkah 2

Bekerja dengan Llama 3

Mempertahankan konteks

Alur mempertahankan konteks - langkah 3

Bekerja dengan Llama 3

Mempertahankan konteks

Alur mempertahankan konteks - langkah 4

Bekerja dengan Llama 3

Mempertahankan konteks

Alur mempertahankan konteks - langkah 5

  • Lacak riwayat chat dengan kelas Conversation
Bekerja dengan Llama 3

Kelas Conversation

  • Dapat menyimpan riwayat pesan sebelumnya
class Conversation:

def __init__(self, llm: Llama, system_prompt='', history=[]): self.llm = llm self.system_prompt = system_prompt
self.history = [{"role": "system", "content": self.system_prompt}] + history
Bekerja dengan Llama 3

Kelas Conversation

  • Dapat menyimpan riwayat pesan sebelumnya
class Conversation:
    def __init__(self, llm: Llama, system_prompt='', history=[]):
        self.llm = llm
        self.system_prompt = system_prompt
        self.history = [{"role": "system", "content": self.system_prompt}] + history

def create_completion(self, user_prompt=''):
self.history.append({"role": "user", "content": user_prompt}) # Tambahkan input
output = self.llm.create_chat_completion(messages=self.history)
conversation_result = output['choices'][0]['message'] self.history.append(conversation_result) # Tambahkan output return conversation_result['content'] # Kembalikan output
Bekerja dengan Llama 3

Menjalankan percakapan multi-giliran

conversation = Conversation(llm, system_prompt="You are a virtual travel assistant 
                                                helping with planning trips.")


response1 = conversation.create_completion("What are some destinations in France for a short weekend break?")
print(f"Response 1: {response1}")
response2 = conversation.create_completion("How about Spain?")
print(f"Response 2: {response2}")
Bekerja dengan Llama 3

Menjalankan percakapan multi-giliran

print(f"Response 1: {response1}")

print(f"Response 2: {response2}")

Keluaran

Bekerja dengan Llama 3

Menjalankan percakapan multi-giliran

print(f"Response 1: {response1}")

print(f"Response 2: {response2}")

Keluaran dengan sorotan

Bekerja dengan Llama 3

Ayo berlatih!

Bekerja dengan Llama 3

Preparing Video For Download...