Ekosystém LangChain

Vývoj LLM aplikací s LangChain

Jonathan Bennion

AI Engineer & LangChain Contributor

Představení lektora...

Portrét Jonathana Benniona.

Jonathan Bennion, AI Engineer
ML & AI ve Facebook, Google, Amazon, Disney, EA
Autor Logical Fallacy chain v LangChain
Přispívatel do DeepEval

Vývoj LLM aplikací s LangChain

Staveniště jako metafora vývoje LLM/AI aplikací.

Ekosystém LangChain složený z LangChain, LangSmith a LangGraph.

Integrace LangChain

Partnerské organizace LangChain: Anthropic, OpenAI, Hugging Face, neo4j, Databricks, XAI, Mistral, Cohere, Snowflake a AWS.

¹ https://python.langchain.com/docs/integrations/providers/

Vytváření LLM aplikací s LangChain...

Chatbot zákaznické podpory ve dvou režimech: jeden poskytuje informace o produktech a doporučení, druhý nabízí rady a odpovědi na časté dotazy při problémech s objednávkou.

Vytváření LLM aplikací s LangChain...

LLM znázorněný jako motor automobilu.

Vytváření LLM aplikací s LangChain...

Rozdvojená cesta jako symbol rozhodování.

Vytváření LLM aplikací s LangChain...

Databáze.

Vytváření LLM aplikací s LangChain...

Lupa jako symbol vyhledávání a získávání informací.

Dotazování modelů OpenAI

from langchain_openai import ChatOpenAI


llm = ChatOpenAI(
    model="gpt-4o-mini",
    api_key='...'
)


llm.invoke("What is LangChain?")

LangChain is a framework designed for developing applications...

Další parametry: max_completion_tokens, temperature atd.

¹ https://platform.openai.com/docs/quickstart

🤗 Dotazování modelů Hugging Face

from langchain_huggingface import HuggingFacePipeline


llm = HuggingFacePipeline.from_model_id(
    model_id="meta-llama/Llama-3.2-3B-Instruct",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 100}
)


llm.invoke("What is Hugging Face?")

Hugging Face is a popular open-source artificial intelligence (AI) library...

Pojďme si procvičit!

Vývoj LLM aplikací s LangChain