Dai vettori ai grafi

Retrieval Augmented Generation (RAG) con LangChain

Meri Nova

Machine Learning Engineer

Limiti del Vector RAG

Il tipico workflow RAG con vector store.

Una bolla con "temi e relazioni".

Retrieval Augmented Generation (RAG) con LangChain

Limiti del Vector RAG

Il tipico workflow RAG con vector store.

Una bolla con "scalabilità".

Retrieval Augmented Generation (RAG) con LangChain

Limiti del Vector RAG

Il tipico workflow RAG con vector store.

Una bolla con "integrazione di dati eterogenei".

Retrieval Augmented Generation (RAG) con LangChain

Database a grafo

Un grafo che mostra connessioni tra persone, luoghi e interessi.

Retrieval Augmented Generation (RAG) con LangChain

Database a grafo - nodi

Un grafo che mostra connessioni tra persone, luoghi e interessi.

Retrieval Augmented Generation (RAG) con LangChain

Database a grafo - archi

Un grafo che mostra connessioni tra persone, luoghi e interessi.

Retrieval Augmented Generation (RAG) con LangChain

Database a grafo Neo4j

 

Il logo di Neo4j.

Il logo di LangChain.

Retrieval Augmented Generation (RAG) con LangChain

Dalla grafica ai grafi...

Un grafo che mostra connessioni tra persone, luoghi e interessi.

Retrieval Augmented Generation (RAG) con LangChain

Dalla grafica ai grafi...

barcelona_graph.jpg

Retrieval Augmented Generation (RAG) con LangChain

Dalla grafica ai grafi...

barcelona_graph.jpg

Retrieval Augmented Generation (RAG) con LangChain

Caricare e suddividere pagine Wikipedia

from langchain_community.document_loaders import WikipediaLoader
from langchain_text_splitters import TokenTextSplitter

raw_documents = WikipediaLoader(query="large language model").load()

text_splitter = TokenTextSplitter(chunk_size=100, chunk_overlap=20) 
documents = text_splitter.split_documents(raw_documents[:3])  

print(documents[0])

page_content='A large language model (LLM) is a computational model capable of...' 
metadata={'title': 'Large language model',
          'summary': "A large language model (LLM) is...",
          'source': 'https://en.wikipedia.org/wiki/Large_language_model'}
Retrieval Augmented Generation (RAG) con LangChain

Dal testo ai grafi!

from langchain_openai import ChatOpenAI

from langchain_experimental.graph_transformers import LLMGraphTransformer


llm = ChatOpenAI(api_key="...", temperature=0, model_name="gpt-4o-mini")

llm_transformer = LLMGraphTransformer(llm=llm)


graph_documents = llm_transformer.convert_to_graph_documents(documents)
print(graph_documents)
Retrieval Augmented Generation (RAG) con LangChain

Dal testo ai grafi!

[GraphDocument(
    nodes=[
        Node(id='Llm', type='Computational model'),
        Node(id='Language Generation', type='Concept'),
        Node(id='Natural Language Processing Tasks', type='Concept'),
        Node(id='Llama Family', type='Computational model'),
        Node(id='Ibm', type='Organization'),
        ..., Node(id='Bert', type='Computational model')],
    relationships=[
        Relationship(source=Node(id='Llm', type='Computational model'),
                     target=Node(id='Language Generation', type='Concept'),
                     type='CAPABLE_OF'),
        ...])]
Retrieval Augmented Generation (RAG) con LangChain

Esercitiamoci!

Retrieval Augmented Generation (RAG) con LangChain

Preparing Video For Download...