Chatbot-Antworten generieren

Agentische Systeme mit LangChain entwerfen

Dilini K. Sumanapala, PhD

Founder & AI Engineer, Genverv, Ltd.

Graph-Events streamen

   

  • Events in Echtzeit streamen

  • Jedes Event ist ein Workflow-Schritt

  • Antworten und Tool-Aufrufe verfolgen

  • Chatbot-Fortschritt verfolgen

User: Where is the Congo?

Agent: Ich prüfe kurz ein paar Details 
       für dich...

Agent: AIMessage([Tool Call an 
       Google Maps] Suche nach 
       Informationen zu "the Congo")

Agent: Die Demokratische Republik 
       Kongo ist ein Land in 
       Zentralafrika.
Agentische Systeme mit LangChain entwerfen

LLM-Antworten streamen

# Funktion definieren, die den Chatbot basierend auf Nutzereingaben ausführt
def stream_graph_updates(user_input: str):


    # Events aus dem Graphen mit der Eingabe streamen
    for event in graph.stream({"messages": [("user", user_input)]}):


        # Antworten der Chatbot-Knoten abrufen und drucken
        for value in event.values():
            print("Agent:", value["messages"])


# Nutzerfrage definieren und den Chatbot starten
user_query = "Who is Mary Shelley?"
stream_graph_updates(user_query)
Agentische Systeme mit LangChain entwerfen

LLM-Antworten streamen

   Agent: [AIMessage(content='Mary Shelley (1797-1851) war eine englische 
   Romanautorin...

   ...bekannt für ihre bahnbrechende Arbeit im gotischen Genre, 
   insbesondere für ihren Roman "Frankenstein; or, The Modern Prometheus," 
   von 1818. Dieser Roman gilt oft als eines der frühesten 
   Beispiele der Science-Fiction und untersucht Themen wie Schöpfung, 
   Verantwortung und das Wesen der Menschheit anhand der Geschichte von Victor 
   Frankenstein, einem Wissenschaftler, der in einem unorthodoxen Experiment ein 
   fühlendes Wesen erschafft...',

   response_metadata={'finish_reason': 'stop', 'model_name': 
   'gpt-4o-mini-...')]
Agentische Systeme mit LangChain entwerfen

LLMs und Halluzinationen

Agent: [AIMessage(content='Judith 
Love Cohen war eine US-Luft- und 
Raumfahrtingenieurin und arbeitete an 
verschiedenen Weltraummissionen, 
darunter dem Apollo-Programm... Cohen 
war auch die Mutter des Schauspielers 
und Autors Adam Cohen, der über ihren 
Einfluss auf sein Leben und seine 
Karriere gesprochen hat. 
additional_kwargs={}, 
response_metadata={'finish_reason': 
'stop', 'model_name': 
'gpt-4o-mini-...)

   

Beispiel für Halluzination

 

  • Judith Love Cohens berühmter Sohn ist Jack Black, nicht „Adam Cohen“.
Agentische Systeme mit LangChain entwerfen

Ein LangGraph-Diagramm erzeugen

# Module für das Chatbot-Diagramm importieren
from IPython.display import 
Image, display


# Versuche, das Diagramm zu generieren 
# und anzuzeigen
try:
    display(Image(graph.get_graph()
    .draw_mermaid_png()))


# Falls nötig, eine Exception ausgeben  
except Exception:
    print("Zusätzliche Abhängigkeiten 
    erforderlich.")

Einfaches LangGraph-Chatbot-Diagramm.

Agentische Systeme mit LangChain entwerfen

Lass uns üben!

Agentische Systeme mit LangChain entwerfen

Preparing Video For Download...