Екосистема LangChain

Розроблення застосунків LLM за допомогою LangChain

Jonathan Bennion

AI Engineer & LangChain Contributor

Познайомтесь з інструктором…

Світлина Джонатана Бенніона.

Jonathan Bennion, інженер ШІ
ML і ШІ у Facebook, Google, Amazon, Disney, EA
Створив Logical Fallacy chain у LangChain
Контриб'ютор до DeepEval

Створюйте застосунки LLM з LangChain

Будівельний майданчик для застосунків LLM/AI.

Екосистема LangChain, що складається з LangChain, LangSmith та LangGraph.

Інтеграції LangChain

Партнери LangChain: Anthropic, OpenAI, Hugging Face, neo4j, Databricks, XAI, Mistral, Cohere, Snowflake та AWS.

¹ https://python.langchain.com/docs/integrations/providers/

Створення застосунків LLM у стилі LangChain…

Чат-бот підтримки з двома режимами: для надання інформації про продукт і рекомендацій та для порад і поширених запитань клієнтам із проблемами з оформленням замовлень.

Створення застосунків LLM у стилі LangChain…

LLM, зображена як двигун автомобіля.

Створення застосунків LLM у стилі LangChain…

Розгалужене рішення.

Створення застосунків LLM у стилі LangChain…

База даних.

Створення застосунків LLM у стилі LangChain…

Лупа, що символізує пошук і отримання інформації.

Промптинг моделей OpenAI

from langchain_openai import ChatOpenAI


llm = ChatOpenAI(
    model="gpt-4o-mini",
    api_key='...'
)


llm.invoke("What is LangChain?")

LangChain is a framework designed for developing applications...

Додаткові параметри: max_completion_tokens, temperature тощо.

¹ https://platform.openai.com/docs/quickstart

🤗 Промптинг моделей Hugging Face

from langchain_huggingface import HuggingFacePipeline


llm = HuggingFacePipeline.from_model_id(
    model_id="meta-llama/Llama-3.2-3B-Instruct",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 100}
)


llm.invoke("What is Hugging Face?")

Hugging Face is a popular open-source artificial intelligence (AI) library...

Давайте потренуємось!

Розроблення застосунків LLM за допомогою LangChain