Combinando grafos lexicais com busca vetorial

Graph RAG com LangChain e Neo4j

Adam Cowley

Manager, Developer Education at Neo4j

Usando relacionamentos na busca semântica

Como é trabalhar na Neo4j?

Um diagrama de grafo com um nó Review e a propriedade de texto "Neo4j is a great place to work"

Graph RAG com LangChain e Neo4j

Usando relacionamentos na busca semântica

Como é trabalhar na Neo4j?

A avaliação foi postada por uma Person com o nome de usuário @emileifrem

Graph RAG com LangChain e Neo4j

Usando relacionamentos na busca semântica

Como é trabalhar na Neo4j?

Emil Eifrem tem um relacionamento WORKS_AT com um nó Company chamado Neo4j

Graph RAG com LangChain e Neo4j

De propriedades de texto a embeddings

 

  • Crie embeddings de nós a partir da propriedade text

uma cena com relacionamentos HAS_CHUNK para nós Chunk com uma propriedade string

Graph RAG com LangChain e Neo4j

De propriedades de texto a embeddings

 

  • Crie embeddings de nós a partir da propriedade text
  • Busca vetorial nos embeddings
  • Use relacionamentos como contexto

As propriedades de texto nos nós são usadas para criar um embedding

Graph RAG com LangChain e Neo4j

Neo4j como vetor store

from langchain_neo4j import Neo4jVector

 

  • Neo4jVector.from_documents(): Cria nós e índice a partir de Documents
  • Neo4jVector.from_existing_graph(): Cria índice em combinações existentes de label e propriedade
Graph RAG com LangChain e Neo4j

Fragmentando propriedades de nós existentes

Um grafo destacando o relacionamento HAS_SCENE do nó Act para o nó Scene

res = graph.query("""

MATCH (s:Scene)

WHERE NOT {(s)-[:HAS_LINE]->()}

RETURN s.id AS id, s.text AS text

""")


for scene in res:
    # Create chunks from scene['text']
Graph RAG com LangChain e Neo4j

Fragmentando propriedades de nós existentes

  • Divida text por "\n\n"
  • Rubricas têm uma linha
  • Falas começam com o nome do personagem
    • As linhas seguintes contêm as falas
 Enter Sampson and Gregory armed with swords..


SAMPSON.

Gregory, on my word...


GREGORY.
No, for then we should...


SAMPSON.
I mean, if we be in choler, we'll draw...
Graph RAG com LangChain e Neo4j

Fragmentando propriedades de nós existentes

# Split text into lines
lines = [
    line.strip() for line in text.split("\n\n")

    if "\n" in line

]


for line in lines:
    parts = line.split("\n")


    character = parts[0]

    text = "\n".join(parts[1:])
Graph RAG com LangChain e Neo4j

Fragmentando propriedades de nós existentes

# ...Continuing loop over scenes

line_node = Node(type="Line", id=f"{scene.id}-line-{i}", properties={})
character_node = Node(type="Character", id=character, properties={})


# (:Scene)-[:HAS_LINE]->(:Line)
graph_document.relationships.append(
    Relationship(source=scene, target=line_node, type="HAS_LINE"))


# (:Line)-[:SPOKEN_BY]->(:Character)
graph_document.relationships.append(Relationship(
    source=line_node, target=characters[character], type="SPOKEN_BY"))
Graph RAG com LangChain e Neo4j

Criando um índice vetorial em um grafo existente

from langchain.embeddings import init_embeddings

store = Neo4jVector.from_existing_graph(

    init_embeddings("openai:text-embedding-3-small"),

    url=NEO4J_URI,
    username=NEO4J_USERNAME,
    password=NEO4J_PASSWORD,

    node_label="Line",

    text_node_properties=["text"],

    embedding_node_property="embedding",

    index_name="lines",

)
Graph RAG com LangChain e Neo4j

Recuperação vetorial com LCEL

# Create retriever
retriever = store.as_retriever()


# Invoke manually
retriever.invoke("What does Romeo think of Juliet?") # [ Document, Document, ... ]
Graph RAG com LangChain e Neo4j

Vamos praticar!

Graph RAG com LangChain e Neo4j

Preparing Video For Download...