Przypomnienie RAG

Agenty AI z Hugging Face smolagents

Adel Nehme

VP of AI Curriculum, DataCamp

Przykład: Inteligentny asystent kulinarny

Wymaga dostępu do wiedzy kulinarnej
Informacje są rozproszone w przepisach, poradnikach i materiałach planistycznych
Należy wyszukać i wyodrębnić tylko najbardziej trafne dane

Czym jest Retrieval Augmented Generation (RAG)?

RAG = połączenie wyszukiwania informacji z generowaniem przez LLM

Przepływ pracy RAG

Wczytywanie i dzielenie dokumentów

from langchain_community.document_loaders import PyPDFDirectoryLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter

# Load documentation from directory
loader = PyPDFDirectoryLoader("cooking_docs", mode="single")
documents = loader.load()

# Split into chunks
splitter = RecursiveCharacterTextSplitter(
    chunk_size=1000,
    chunk_overlap=200
)
chunks = splitter.split_documents(documents)

Tworzenie magazynu wektorów

from langchain_huggingface import HuggingFaceEndpointEmbeddings
from langchain_community.vectorstores import FAISS

# Create embeddings and vector store
embedder = HuggingFaceEndpointEmbeddings(
    model="BAAI/bge-base-en-v1.5",
    task="feature-extraction",
)
vector_store = FAISS.from_documents(chunks, embedder)

Odpytywanie magazynu wektorów

query = "How do I cook salmon with herbs?"

# Similarity search
relevant_docs = vector_store.similarity_search(query, k=3)

# Create a context string
context = "\n\n".join(doc.page_content for doc in relevant_docs)

Zapytanie: Jak ugotować łososia z ziołami?

Top 2 pobrane fragmenty (dopasowania semantyczne):

[1] Podstawy przygotowania łososia (s. 2) Osusz łososia, aby uzyskać rumianą skórkę. Dopraw solą, pieprzem i świeżym koperkiem lub pietruszką. Pozostaw filety na 10 minut, by sól wniknęła w mięso. Dla równomiernego wysmażenia doprowadź do temperatury pokojowej...

[2] Pieczenie łososia w piekarniku (s. 5) Rozgrzej piekarnik do 200°C. Ułóż filety na blasze wyłożonej papierem, przykryj plasterkami cytryny i masłem ziołowym (koperek/pietruszka). Piecz 10–12 minut, aż mięso będzie nieprzezroczyste i kruche; odstaw na 2 minuty przed podaniem...

Ograniczenia tradycyjnego potoku RAG

Jak zaplanować tygodniowy jadłospis za mniej niż 50 USD, spełniający wszystkie wymagania żywieniowe?

Odpowiedź jest rozproszona w wielu dokumentach (budżet, odżywianie, techniki, przepisy).

Czas na ćwiczenia!

Agenty AI z Hugging Face smolagents