外部コンテキストの組み込み

OpenAI API によるプロンプトエンジニアリング

Fouad Trad

Machine Learning Engineer

外部コンテキストの必要性

  • 事前学習済み言語モデルは、学習に使用した情報を認識します
  • より多くのコンテキストを提供する必要があります
  • 精度と有効性の向上

Icon representing a chatbot on a mobile phone.

OpenAI API によるプロンプトエンジニアリング

LLMの情報不足

  • 知識のカットオフ
system_prompt = "Act as a financial expert that knows about the latest trends."

user_prompt = "What are the top financial trends in 2023?"

print(get_response(system_prompt, user_prompt))
I apologize for any inconvenience, but as of my last knowledge update in 
September 2021, I don't have information about financial trends in 2023.
OpenAI API によるプロンプトエンジニアリング

LLMの情報不足

  • 求められた非公開情報
system_prompt = "Act as a study buddy that helps me with my studies to succeed 
in exams."

user_prompt = "What is the name of my favorite instructor?" print(get_response(system_prompt, user_prompt))
I don't have personal information about you, including the name of your 
favorite instructor.
OpenAI API によるプロンプトエンジニアリング

追加情報を与えるには?

  • 過去の会話例
  • システムプロンプト

Icon showing two message dialog boxes to reflect a conversational aspect.

OpenAI API によるプロンプトエンジニアリング

会話例

  • 特定の質問に答えるようモデルを誘導する
response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "system",
             "content": "You are a customer service chatbot that responds to user queries in a gentle way"},

{"role": "user", "content": "What services do you offer?"},
{"role": "assistant", "content": "We provide services for web application development, mobile app development, and custom software solutions."},
{"role": "user", "content": "How many services do you have?"}])
print(response.choices[0].message.content)
We have 3 services including web application development, mobile app development, and custom software solutions.
  • 欠点:多くのサンプルが必要になる場合がある
OpenAI API によるプロンプトエンジニアリング

システムプロンプト

  • チャットボットの回答に必要なコンテキストを含む
services = "ABC Tech Solutions, a leading IT company, offers a range of services: 
application development, mobile app development, and custom software solutions."

system_prompt = f"""You are a customer service chatbot that responds to user queries in a gentle way. Some information about our services are delimited by triple backticks. ```{services}```"""
user_prompt = "How many services do you offer?" print(get_response(system_prompt, user_prompt))
We have 3 services including web application development, mobile app development, 
and custom software solutions.
OpenAI API によるプロンプトエンジニアリング

最後に

  • これまでの手法は、小規模なコンテキストではうまく機能します
  • より大規模なコンテキストには、より高度な手法が必要です

Icon representing an alert.

OpenAI API によるプロンプトエンジニアリング

練習しましょう!

OpenAI API によるプロンプトエンジニアリング

Preparing Video For Download...