LangChain 生態系統

使用 LangChain 開發 LLM 應用

Jonathan Bennion

AI Engineer & LangChain Contributor

你的授課講師…

 

Jonathan Bennion 頭像。

 

 

  • Jonathan Bennion，AI 工程師
  • 曾任職於 Facebook、Google、Amazon、Disney、EA 的 ML 與 AI 團隊
  • 在 LangChain 建立了 Logical Fallacy chain
  • DeepEval 貢獻者
使用 LangChain 開發 LLM 應用

用 LangChain 建構 LLM 應用

用於 LLM/AI 應用的建構工地。

使用 LangChain 開發 LLM 應用

由 LangChain、LangSmith、LangGraph 組成的 LangChain 生態系統。

使用 LangChain 開發 LLM 應用

LangChain 整合

LangChain 的合作夥伴組織，包括 Anthropic、OpenAI、Hugging Face、neo4j、Databricks、XAI、Mistral、Cohere、Snowflake 與 AWS。

1 https://python.langchain.com/docs/integrations/providers/
使用 LangChain 開發 LLM 應用

以 LangChain 方式打造 LLM 應用…

客服聊天機器人，包含兩種模式：一種提供產品資訊與推薦，另一種為下單問題提供建議與常見問答。

使用 LangChain 開發 LLM 應用

以 LangChain 方式打造 LLM 應用…

以汽車引擎比喻的 LLM。

使用 LangChain 開發 LLM 應用

以 LangChain 方式打造 LLM 應用…

分岔決策。

使用 LangChain 開發 LLM 應用

以 LangChain 方式打造 LLM 應用…

資料庫。

使用 LangChain 開發 LLM 應用

以 LangChain 方式打造 LLM 應用…

放大鏡，代表資訊的搜尋與擷取。

使用 LangChain 開發 LLM 應用

對 OpenAI 模型進行提示

from langchain_openai import ChatOpenAI


llm = ChatOpenAI(
    model="gpt-4o-mini",
    api_key='...'
)


llm.invoke("What is LangChain?")

LangChain is a framework designed for developing applications...
  • 其他參數：max_completion_tokens、temperature 等。
1 https://platform.openai.com/docs/quickstart
使用 LangChain 開發 LLM 應用

🤗 對 Hugging Face 模型進行提示

from langchain_huggingface import HuggingFacePipeline


llm = HuggingFacePipeline.from_model_id(
    model_id="meta-llama/Llama-3.2-3B-Instruct",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 100}
)


llm.invoke("What is Hugging Face?")

Hugging Face is a popular open-source artificial intelligence (AI) library...
使用 LangChain 開發 LLM 應用

一起來練習吧！

使用 LangChain 開發 LLM 應用

Preparing Video For Download...