Ekosystem LangChain

Tworzenie aplikacji LLM z LangChain

Jonathan Bennion

AI Engineer & LangChain Contributor

Poznaj swojego instruktora...

Zdjęcie Jonathana Benniona.

Jonathan Bennion, Inżynier AI
ML i AI w Facebook, Google, Amazon, Disney, EA
Twórca Logical Fallacy chain w LangChain
Współtwórca DeepEval

Tworzenie aplikacji LLM z LangChain

Plac budowy aplikacji LLM/AI.

Ekosystem LangChain składający się z LangChain, LangSmith i LangGraph.

Integracje LangChain

Partnerzy LangChain, m.in. Anthropic, OpenAI, Hugging Face, neo4j, Databricks, XAI, Mistral, Cohere, Snowflake i AWS.

¹ https://python.langchain.com/docs/integrations/providers/

Tworzenie aplikacji LLM z LangChain...

Chatbot obsługi klienta z dwoma trybami: dostarczaniem informacji o produktach i rekomendacjami oraz odpowiedziami na pytania i pomoc przy składaniu zamówień.

Tworzenie aplikacji LLM z LangChain...

LLM przedstawiony jako silnik samochodowy.

Tworzenie aplikacji LLM z LangChain...

Rozwidlenie drogi symbolizujące wybór.

Tworzenie aplikacji LLM z LangChain...

Baza danych.

Tworzenie aplikacji LLM z LangChain...

Lupa symbolizująca wyszukiwanie i pobieranie informacji.

Wysyłanie zapytań do modeli OpenAI

from langchain_openai import ChatOpenAI


llm = ChatOpenAI(
    model="gpt-4o-mini",
    api_key='...'
)


llm.invoke("What is LangChain?")

LangChain is a framework designed for developing applications...

Dodatkowe parametry: max_completion_tokens, temperature itd.

¹ https://platform.openai.com/docs/quickstart

🤗 Wysyłanie zapytań do modeli Hugging Face

from langchain_huggingface import HuggingFacePipeline


llm = HuggingFacePipeline.from_model_id(
    model_id="meta-llama/Llama-3.2-3B-Instruct",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 100}
)


llm.invoke("What is Hugging Face?")

Hugging Face is a popular open-source artificial intelligence (AI) library...

Czas na ćwiczenia!

Tworzenie aplikacji LLM z LangChain