Definiowanie węzłów i krawędzi do elastycznego wywoływania funkcji

Projektowanie systemów agentowych z LangChain

Dilini K. Sumanapala, PhD

Founder & AI Engineer, Genverv, Ltd.

Tworzenie przepływu z wieloma narzędziami

   

  • Wiele dostępnych narzędzi

    • Palindrom
    • Zdarzenia historyczne
    • Wikipedia

Pełny przepływ pracy chatbota

Projektowanie systemów agentowych z LangChain

Definiowanie funkcji przepływu

   

  • Tworzenie funkcji zatrzymującej

Węzły chatbota i narzędzi w przepływie pracy.

Projektowanie systemów agentowych z LangChain

Definiowanie funkcji przepływu

   

  • Tworzenie funkcji zatrzymującej

    • Sprawdzenie wywołań narzędzi

Wyróżnione reguły funkcji zatrzymującej.

Projektowanie systemów agentowych z LangChain

Definiowanie funkcji przepływu

   

  • Tworzenie funkcji zatrzymującej

    • Sprawdzenie wywołań narzędzi
    • Zakończenie rozmowy, jeśli brak

Reguły END wyróżnione w przepływie pracy

Projektowanie systemów agentowych z LangChain

Definiowanie funkcji przepływu

   

  • Tworzenie funkcji zatrzymującej

    • Sprawdzenie wywołań narzędzi
    • Zakończenie rozmowy, jeśli brak    

  • Tworzenie dynamicznego wywołania narzędzia

    • Zwrócenie odpowiedzi narzędzia, jeśli wywołanie obecne

Wyróżnione reguły Call_model.

Projektowanie systemów agentowych z LangChain

Definiowanie funkcji przepływu

   

  • Tworzenie funkcji zatrzymującej

    • Sprawdzenie wywołań narzędzi
    • Zakończenie rozmowy, jeśli brak    

  • Tworzenie dynamicznego wywołania narzędzia

    • Zwrócenie odpowiedzi narzędzia, jeśli wywołanie obecne
    • Wywołanie LLM wyłącznie z węzłem chatbota, jeśli brak wywołań narzędzi

Wyróżnione reguły Call_model.

Projektowanie systemów agentowych z LangChain

Definiowanie funkcji przepływu

   

  • Tworzenie funkcji zatrzymującej

    • Sprawdzenie wywołań narzędzi
    • Zakończenie rozmowy, jeśli brak    

  • Tworzenie dynamicznego wywołania narzędzia

    • Zwrócenie odpowiedzi narzędzia, jeśli wywołanie obecne
    • Wywołanie LLM wyłącznie z węzłem chatbota, jeśli brak wywołań narzędzi

  • Kompilowanie pełnego grafu

Wyróżnione reguły Call_model.

Projektowanie systemów agentowych z LangChain

Tworzenie funkcji warunku stopu

from langgraph.graph import MessagesState, START, END


# Use MessagesState to define the state of the stopping function
def should_continue(state: MessagesState):


    # Get the last message from the state
    last_message = state["messages"][-1]


    # Check if the last message includes tool calls
    if last_message.tool_calls:
        return "tools"


    # End the conversation if no tool calls are present
    return END
Projektowanie systemów agentowych z LangChain

Tworzenie dynamicznego wywołania narzędzia

# Extract the last message from the history
def call_model(state: MessagesState):

    last_message = state["messages"][-1]


    # If the last message has tool calls, return the tool's response
    if isinstance(last_message, AIMessage) and last_message.tool_calls:


        # Return the messages from the tool call
        return {"messages": [AIMessage(content=last_message.tool_calls[0]["response"])]}


    # Otherwise, proceed with a regular LLM response
    return {"messages": [model_with_tools.invoke(state["messages"])]}
Projektowanie systemów agentowych z LangChain

Tworzenie grafu

workflow = StateGraph(MessagesState)
Projektowanie systemów agentowych z LangChain

Tworzenie grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)

Węzły chatbota i narzędzi.

Projektowanie systemów agentowych z LangChain

Tworzenie grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")

Dodanie węzła START do chatbota.

Projektowanie systemów agentowych z LangChain

Tworzenie grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")


# Define conditions, then loop back to chatbot
workflow.add_conditional_edges("chatbot", 
         should_continue, ["tools", END])

Graf z dodanymi warunkami.

Projektowanie systemów agentowych z LangChain

Tworzenie grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")


# Define conditions, then loop back to chatbot
workflow.add_conditional_edges("chatbot", 
         should_continue, ["tools", END])

workflow.add_edge("tools", "chatbot")

Pełny przepływ grafu.

Projektowanie systemów agentowych z LangChain

Dodawanie pamięci

# Set up memory and compile the workflow
memory = MemorySaver()

app = workflow.compile(
               checkpointer=memory)


display(Image(app.get_graph()
        .draw_mermaid_png()))

Pełny przepływ grafu.

Projektowanie systemów agentowych z LangChain

Czas na ćwiczenia!

Projektowanie systemów agentowych z LangChain

Preparing Video For Download...