Створення ланцюжка Graph RAG

Retrieval Augmented Generation (RAG) з LangChain

Meri Nova

Machine Learning Engineer

Побудова архітектури Graph RAG

Графова база даних.

Побудова архітектури Graph RAG

Документи перетворюються на графові документи та зберігаються в графовій базі.

Побудова архітектури Graph RAG

Cypher‑запит використовується для отримання графових документів із бази. Також показано користувацьке запитання та відповідь природною мовою.

Побудова архітектури Graph RAG

Перекладач «природна мова → Cypher» перетворює вхід природною мовою на Cypher‑запит і повертає отримані графові документи у природній мові.

Від запитів користувача до Cypher‑запитів

Простий граф із трьома вузлами та трьома зв'язками. Два вузли — це люди, ще один — місце, яке відвідав James.

Від запитів користувача до Cypher‑запитів

Запит користувача: «Where has James visited?»

Від запитів користувача до Cypher‑запитів

Cypher‑запит генерується на основі схеми графа та запиту користувача.

GraphCypherQAChain

Архітектура Graph RAG для перекладу запитів користувача в Cypher‑запити й повернення відповіді природною мовою.

GraphCypherQAChain

Архітектура Graph RAG із підсвіченим ланцюжком generate cypher та ланцюжком summarize results.

Оновлення схеми

graph.refresh_schema()
print(graph.get_schema)

Node properties:
Document {title: STRING, id: STRING, text: STRING, summary: STRING, source: STRING}
Concept {id: STRING}
Organization {id: STRING}
Relationship properties:

The relationships:
(:Document)-[:MENTIONS]->(:Organization)
(:Concept)-[:DEVELOPED_BY]->(:Person)

Запити до графа

from langchain_community.chains.graph_qa.cypher import GraphCypherQAChain


chain = GraphCypherQAChain.from_llm(
    llm=ChatOpenAI(api_key="...", temperature=0), graph=graph, verbose=True
)


result = chain.invoke({"query": "What is the most accurate model?"})

¹ https://api.python.langchain.com/en/latest/chains/langchain_community.chains.graph_qa.cypher. GraphCypherQAChain.html

Запити до графа

print(f"Final answer: {result['result']}")

> Entering new GraphCypherQAChain chain...
Generated Cypher:
MATCH (m:Model)
RETURN m
ORDER BY m.accuracy DESC
LIMIT 1;
Full Context:
[{'m': {'id': 'Artificial Neural Networks'}}]

> Finished chain.


Final answer: Artificial Neural Networks

Налаштування

chain = GraphCypherQAChain.from_llm(
    llm=ChatOpenAI(api_key="...", temperature=0), graph=graph, verbose=True
)

qa_prompt: Шаблон підказки для генерування відповіді
cypher_prompt: Шаблон підказки для генерування Cypher
cypher_llm: LLM для генерування Cypher
qa_llm: LLM для генерування відповіді

Давайте потренуємось!

Retrieval Augmented Generation (RAG) з LangChain