Chatbot-antwoorden genereren

Agentic Systems ontwerpen met LangChain

Dilini K. Sumanapala, PhD

Founder & AI Engineer, Genverv, Ltd.

Gebeurtenissen in een graph streamen

   

  • Stream gebeurtenissen in realtime

  • Elke gebeurtenis is een workflowstap

  • Volg antwoorden en tool-calls

  • Volg chatbotvoortgang

User: Where is the Congo?

Agent: Ik check even wat details voor je...
Agent: AIMessage([Tool Call naar Google Maps] Zoeken naar informatie over "the Congo")
Agent: De Democratische Republiek Congo is een land in Centraal-Afrika.
Agentic Systems ontwerpen met LangChain

LLM-antwoorden streamen

# Definieer een functie om de chatbot uit te voeren op basis van invoer van de gebruiker
def stream_graph_updates(user_input: str):


# Start het streamen van gebeurtenissen uit de graph met de gebruikersinvoer for event in graph.stream({"messages": [("user", user_input)]}):
# Haal de node-antwoorden op en print ze for value in event.values(): print("Agent:", value["messages"])
# Definieer de gebruikersvraag en voer de chatbot uit user_query = "Who is Mary Shelley?" stream_graph_updates(user_query)
Agentic Systems ontwerpen met LangChain

LLM-antwoorden streamen

   Agent: [AIMessage(content='Mary Shelley (1797-1851) was een Engelse 
   romanschrijver...

...het meest bekend om haar baanbrekende werk in het gotische genre, vooral haar roman "Frankenstein; or, The Modern Prometheus," gepubliceerd in 1818. Deze roman wordt vaak gezien als een van de vroegste sciencefictionwerken en verkent thema's als schepping, verantwoordelijkheid en de aard van de mensheid via het verhaal van Victor Frankenstein, een wetenschapper die een denkend wezen creëert in een onorthodox experiment...',
response_metadata={'finish_reason': 'stop', 'model_name': 'gpt-4o-mini-...')]
Agentic Systems ontwerpen met LangChain

LLM's en hallucinaties

Agent: [AIMessage(content='Judith 
Love Cohen was een Amerikaanse 
ruimtevaartingenieur en werkte aan 
verschillende ruimtemissies, waaronder het Apollo-
programma... Cohen was ook de moeder 
van acteur en schrijver Adam Cohen, 
die heeft gesproken over haar invloed op 
zijn leven en carrière. 
additional_kwargs={}, 
response_metadata={'finish_reason': 
'stop', 'model_name': 
'gpt-4o-mini-...)

   

Voorbeeld van hallucinatie

 

  • De beroemde zoon van Judith Love Cohen is Jack Black, niet "Adam Cohen".
Agentic Systems ontwerpen met LangChain

Genereer een LangGraph-diagram

# Modules importeren voor chatbotdiagram
from IPython.display import 
Image, display


# Probeer het grafiekdiagram te genereren # en weer te geven try: display(Image(graph.get_graph() .draw_mermaid_png()))
# Geef zo nodig een exceptie terug except Exception: print("Extra afhankelijkheden nodig.")

Basisdiagram van een LangGraph-chatbot.

Agentic Systems ontwerpen met LangChain

Laten we oefenen!

Agentic Systems ontwerpen met LangChain

Preparing Video For Download...