Generar respuestas del chatbot

Diseño de sistemas agénticos con LangChain

Dilini K. Sumanapala, PhD

Founder & AI Engineer, Genverv, Ltd.

Transmisión de eventos del grafo

   

  • Transmite eventos en tiempo real

  • Cada evento es un paso del flujo

  • Rastrea respuestas y llamadas a herramientas

  • Sigue el progreso del chatbot

User: Where is the Congo?

Agent: Déjame comprobar 
    algunos detalles...

Agent: AIMessage([Tool Call to 
       Google Maps] Searching for 
       information on "the Congo")

Agent: La República Democrática 
    del Congo es un país de 
       África Central.
Diseño de sistemas agénticos con LangChain

Transmitir respuestas del LLM

# Define una función para ejecutar el chatbot según la entrada del usuario
def stream_graph_updates(user_input: str):


    # Comienza a transmitir eventos del grafo con la entrada del usuario
    for event in graph.stream({"messages": [("user", user_input)]}):


        # Recupera e imprime las respuestas de los nodos del chatbot
        for value in event.values():
            print("Agent:", value["messages"])


# Define la consulta y ejecuta el chatbot
user_query = "Who is Mary Shelley?"
stream_graph_updates(user_query)
Diseño de sistemas agénticos con LangChain

Transmitir respuestas del LLM

   Agent: [AIMessage(content='Mary Shelley (1797-1851) fue una 
   novelista inglesa...

   ...conocida por su obra pionera en el género gótico, 
   en particular por su novela "Frankenstein; or, The Modern Prometheus", 
   publicada en 1818. Esta novela suele considerarse una de las primeras 
   de ciencia ficción y explora temas de creación, 
   responsabilidad y la naturaleza humana a través de la historia de Victor 
   Frankenstein, un científico que crea un ser sintiente en un 
   experimento no ortodoxo...',

   response_metadata={'finish_reason': 'stop', 'model_name': 
   'gpt-4o-mini-...')]
Diseño de sistemas agénticos con LangChain

LLMs y alucinaciones

Agent: [AIMessage(content='Judith 
Love Cohen fue una ingeniera aeroespacial 
estadounidense, y trabajó en varias 
misiones espaciales, incluido el programa 
Apolo... Cohen también fue madre 
del actor y escritor Adam Cohen, 
quien ha hablado de su influencia en 
su vida y carrera. 
additional_kwargs={}, 
response_metadata={'finish_reason': 
'stop', 'model_name': 
'gpt-4o-mini-...)

   

Alucinación de ejemplo

 

  • El hijo famoso de Judith Love Cohen es Jack Black, no «Adam Cohen».
Diseño de sistemas agénticos con LangChain

Genera un diagrama de LangGraph

# Importa módulos para el diagrama del chatbot
from IPython.display import 
Image, display


# Intenta generar y mostrar 
# el diagrama del grafo
try:
    display(Image(graph.get_graph()
    .draw_mermaid_png()))


# Devuelve una excepción si es necesario  
except Exception:
    print("Se requieren dependencias 
    adicionales.")

Diagrama básico de LangGraph del chatbot.

Diseño de sistemas agénticos con LangChain

¡Vamos a practicar!

Diseño de sistemas agénticos con LangChain

Preparing Video For Download...