会話の構築

Llama 3 を使いこなす

Imtihan Ahmed

Machine Learning Engineer

コンテキストの維持

コンテキスト維持ワークフロー - ステップ1

Llama 3 を使いこなす

コンテキストの維持

コンテキスト維持ワークフロー - ステップ2

Llama 3 を使いこなす

コンテキストの維持

コンテキスト維持ワークフロー - ステップ3

Llama 3 を使いこなす

コンテキストの維持

コンテキスト維持ワークフロー - ステップ4

Llama 3 を使いこなす

コンテキストの維持

コンテキスト維持ワークフロー - ステップ5

  • Conversation クラスでチャット履歴を追跡
Llama 3 を使いこなす

Conversation クラス

  • 以前のメッセージ履歴を保存可能
class Conversation:

    def __init__(self, llm: Llama, system_prompt='', history=[]):
        self.llm = llm
        self.system_prompt = system_prompt

        self.history = [{"role": "system", "content": self.system_prompt}] + history
Llama 3 を使いこなす

Conversation クラス

  • 以前のメッセージ履歴を保存可能
class Conversation:
    def __init__(self, llm: Llama, system_prompt='', history=[]):
        self.llm = llm
        self.system_prompt = system_prompt
        self.history = [{"role": "system", "content": self.system_prompt}] + history


    def create_completion(self, user_prompt=''):

        self.history.append({"role": "user", "content": user_prompt}) # 入力を追加

        output = self.llm.create_chat_completion(messages=self.history)

        conversation_result = output['choices'][0]['message']
        self.history.append(conversation_result) # 出力を追加
        return conversation_result['content'] # 出力を返す
Llama 3 を使いこなす

マルチターン会話の実行

conversation = Conversation(llm, system_prompt="You are a virtual travel assistant 
                                                helping with planning trips.")


response1 = conversation.create_completion("What are some destinations in France for a 
                                            short weekend break?")

print(f"Response 1: {response1}")


response2 = conversation.create_completion("How about Spain?")


print(f"Response 2: {response2}")
Llama 3 を使いこなす

マルチターン会話の実行

print(f"Response 1: {response1}")

print(f"Response 2: {response2}")

出力

Llama 3 を使いこなす

マルチターン会話の実行

print(f"Response 1: {response1}")

print(f"Response 2: {response2}")

出力（ハイライト付き）

Llama 3 を使いこなす

練習しましょう！

Llama 3 を使いこなす

Preparing Video For Download...