Від векторів до графів

Retrieval Augmented Generation (RAG) з LangChain

Meri Nova

Machine Learning Engineer

Обмеження Vector RAG

Типовий робочий процес RAG на векторному сховищі.

Бульбашка з написом «теми та зв'язки».

Retrieval Augmented Generation (RAG) з LangChain

Обмеження Vector RAG

Типовий робочий процес RAG на векторному сховищі.

Бульбашка з написом «масштабованість».

Retrieval Augmented Generation (RAG) з LangChain

Обмеження Vector RAG

Типовий робочий процес RAG на векторному сховищі.

Бульбашка з написом «інтеграція різнорідних даних».

Retrieval Augmented Generation (RAG) з LangChain

Графові бази даних

Граф зі зв'язками між людьми, місцями та інтересами.

Retrieval Augmented Generation (RAG) з LangChain

Графові бази даних — вузли

Граф зі зв'язками між людьми, місцями та інтересами.

Retrieval Augmented Generation (RAG) з LangChain

Графові бази даних — ребра

Граф зі зв'язками між людьми, місцями та інтересами.

Retrieval Augmented Generation (RAG) з LangChain

Графові бази даних Neo4j

 

Логотип Neo4j.

Логотип LangChain.

Retrieval Augmented Generation (RAG) з LangChain

Від графіки до графів…

Граф зі зв'язками між людьми, місцями та інтересами.

Retrieval Augmented Generation (RAG) з LangChain

Від графіки до графів…

barcelona_graph.jpg

Retrieval Augmented Generation (RAG) з LangChain

Від графіки до графів…

barcelona_graph.jpg

Retrieval Augmented Generation (RAG) з LangChain

Завантаження та поділ сторінок Вікіпедії на фрагменти

from langchain_community.document_loaders import WikipediaLoader
from langchain_text_splitters import TokenTextSplitter

raw_documents = WikipediaLoader(query="large language model").load()

text_splitter = TokenTextSplitter(chunk_size=100, chunk_overlap=20) 
documents = text_splitter.split_documents(raw_documents[:3])  

print(documents[0])

page_content='A large language model (LLM) is a computational model capable of...' 
metadata={'title': 'Large language model',
          'summary': "A large language model (LLM) is...",
          'source': 'https://en.wikipedia.org/wiki/Large_language_model'}
Retrieval Augmented Generation (RAG) з LangChain

Від тексту до графів!

from langchain_openai import ChatOpenAI

from langchain_experimental.graph_transformers import LLMGraphTransformer


llm = ChatOpenAI(api_key="...", temperature=0, model_name="gpt-4o-mini")

llm_transformer = LLMGraphTransformer(llm=llm)


graph_documents = llm_transformer.convert_to_graph_documents(documents)
print(graph_documents)
Retrieval Augmented Generation (RAG) з LangChain

Від тексту до графів!

[GraphDocument(
    nodes=[
        Node(id='Llm', type='Computational model'),
        Node(id='Language Generation', type='Concept'),
        Node(id='Natural Language Processing Tasks', type='Concept'),
        Node(id='Llama Family', type='Computational model'),
        Node(id='Ibm', type='Organization'),
        ..., Node(id='Bert', type='Computational model')],
    relationships=[
        Relationship(source=Node(id='Llm', type='Computational model'),
                     target=Node(id='Language Generation', type='Concept'),
                     type='CAPABLE_OF'),
        ...])]
Retrieval Augmented Generation (RAG) з LangChain

Давайте потренуємось!

Retrieval Augmented Generation (RAG) з LangChain

Preparing Video For Download...