Сочетание лексических графов с векторным поиском

Graph RAG с LangChain и Neo4j

Adam Cowley

Manager, Developer Education at Neo4j

Использование связей в семантическом поиске

Каково это — работать в Neo4j?

Диаграмма графа с узлом Review и текстовым свойством «Neo4j is a great place to work»

Graph RAG с LangChain и Neo4j

Использование связей в семантическом поиске

Каково это — работать в Neo4j?

Отзыв опубликован пользователем Person с именем @emileifrem

Graph RAG с LangChain и Neo4j

Использование связей в семантическом поиске

Каково это — работать в Neo4j?

У Emil Eifrem есть связь WORKS_AT с узлом Company с именем Neo4j

Graph RAG с LangChain и Neo4j

Из текстовых свойств — в эмбеддинги

 

  • Создание эмбеддингов узлов из свойства text

Сцена со связями HAS_CHUNK к узлам Chunk со строковым свойством

Graph RAG с LangChain и Neo4j

Из текстовых свойств — в эмбеддинги

 

  • Создание эмбеддингов узлов из свойства text
  • Векторный поиск по эмбеддингам
  • Использование связей для контекста

Текстовые свойства узлов используются для создания эмбеддинга

Graph RAG с LangChain и Neo4j

Neo4j как векторное хранилище

from langchain_neo4j import Neo4jVector

 

  • Neo4jVector.from_documents(): создание узлов и индекса из объектов Document
  • Neo4jVector.from_existing_graph(): создание индекса на существующих метках и свойствах
Graph RAG с LangChain и Neo4j

Разбиение существующих свойств узлов на чанки

Диаграмма графа знаний с выделенной связью HAS_SCENE от узла Act к узлу Scene

res = graph.query("""

MATCH (s:Scene)

WHERE NOT {(s)-[:HAS_LINE]->()}

RETURN s.id AS id, s.text AS text

""")


for scene in res:
    # Create chunks from scene['text']
Graph RAG с LangChain и Neo4j

Разбиение существующих свойств узлов на чанки

  • Разбиение text по "\n\n"
  • Ремарки занимают одну строку
  • Реплики начинаются с имени персонажа
    • Следующие строки содержат текст реплики
 Enter Sampson and Gregory armed with swords..


SAMPSON.

Gregory, on my word...


GREGORY.
No, for then we should...


SAMPSON.
I mean, if we be in choler, we'll draw...
Graph RAG с LangChain и Neo4j

Разбиение существующих свойств узлов на чанки

# Split text into lines
lines = [
    line.strip() for line in text.split("\n\n")

    if "\n" in line

]


for line in lines:
    parts = line.split("\n")


    character = parts[0]

    text = "\n".join(parts[1:])
Graph RAG с LangChain и Neo4j

Разбиение существующих свойств узлов на чанки

# ...Continuing loop over scenes

line_node = Node(type="Line", id=f"{scene.id}-line-{i}", properties={})
character_node = Node(type="Character", id=character, properties={})


# (:Scene)-[:HAS_LINE]->(:Line)
graph_document.relationships.append(
    Relationship(source=scene, target=line_node, type="HAS_LINE"))


# (:Line)-[:SPOKEN_BY]->(:Character)
graph_document.relationships.append(Relationship(
    source=line_node, target=characters[character], type="SPOKEN_BY"))
Graph RAG с LangChain и Neo4j

Создание векторного индекса в существующем графе

from langchain.embeddings import init_embeddings

store = Neo4jVector.from_existing_graph(

    init_embeddings("openai:text-embedding-3-small"),

    url=NEO4J_URI,
    username=NEO4J_USERNAME,
    password=NEO4J_PASSWORD,

    node_label="Line",

    text_node_properties=["text"],

    embedding_node_property="embedding",

    index_name="lines",

)
Graph RAG с LangChain и Neo4j

Векторный поиск с LCEL

# Create retriever
retriever = store.as_retriever()


# Invoke manually
retriever.invoke("What does Romeo think of Juliet?") # [ Document, Document, ... ]
Graph RAG с LangChain и Neo4j

Давайте потренируемся!

Graph RAG с LangChain и Neo4j

Preparing Video For Download...