おめでとうございます！

Llama 3 を使いこなす

Imtihan Ahmed

Machine Learning Engineer

復習しましょう

ステップ1 - Llama をローカルで実行

from llama_cpp import Llama

llm = Llama(model_path = "path/to/model.gguf")
Llama 3 を使いこなす

復習しましょう

ステップ2 - パラメータ調整

$$

  • temperature、top_k、top_p パラメータ
Llama 3 を使いこなす

復習しましょう

ステップ3 - 役割の指定

message_list = [{"role": "system", "content": system_message},
               {"role": "user", "content": user_message}]
Llama 3 を使いこなす

復習しましょう

ステップ4 - 出力を誘導

  • 精緻なプロンプト
  • stop ワード
  • ゼロショット／フューショット
Llama 3 を使いこなす

復習しましょう

ステップ5 - JSON 応答を活用 $$

response_format = {"type": "json_object"}
Llama 3 を使いこなす

復習しましょう

ステップ6 - マルチターン会話を構築

  • Conversation クラス
  • .create_completion() メソッド
Llama 3 を使いこなす

次のステップは？

Llama Fundamentals スキルトラック

Llama Fundamentals

Llama でメール分類プロジェクト

Classifying Emails using Llama

Llama 3 を使いこなす

ありがとうございました！

Llama 3 を使いこなす

Preparing Video For Download...