Definování uzlů a hran pro flexibilní volání funkcí

Návrh agentních systémů s LangChain

Dilini K. Sumanapala, PhD

Founder & AI Engineer, Genverv, Ltd.

Vytvoření pracovního postupu s více nástroji

   

  • Více dostupných nástrojů

    • Palindrom
    • Historické události
    • Wikipedia

Úplný pracovní postup chatbota

Návrh agentních systémů s LangChain

Definování funkcí pracovního postupu

   

  • Vytvoření funkce zastavení

Uzly chatbota a nástrojů v pracovním postupu chatbota.

Návrh agentních systémů s LangChain

Definování funkcí pracovního postupu

   

  • Vytvoření funkce zastavení

    • Kontrola volání nástrojů

Zvýrazněná pravidla funkce zastavení.

Návrh agentních systémů s LangChain

Definování funkcí pracovního postupu

   

  • Vytvoření funkce zastavení

    • Kontrola volání nástrojů
    • Ukončení konverzace, pokud žádné nejsou

Zvýrazněná pravidla END v pracovním postupu

Návrh agentních systémů s LangChain

Definování funkcí pracovního postupu

   

  • Vytvoření funkce zastavení

    • Kontrola volání nástrojů
    • Ukončení konverzace, pokud žádné nejsou    

  • Vytvoření dynamického volače nástrojů

    • Vrácení odpovědi nástroje, pokud je volání přítomno

Zvýrazněná pravidla Call_model.

Návrh agentních systémů s LangChain

Definování funkcí pracovního postupu

   

  • Vytvoření funkce zastavení

    • Kontrola volání nástrojů
    • Ukončení konverzace, pokud žádné nejsou    

  • Vytvoření dynamického volače nástrojů

    • Vrácení odpovědi nástroje, pokud je volání přítomno
    • Volání LLM pouze s uzlem chatbota, pokud žádná volání nejsou

Zvýrazněná pravidla Call_model.

Návrh agentních systémů s LangChain

Definování funkcí pracovního postupu

   

  • Vytvoření funkce zastavení

    • Kontrola volání nástrojů
    • Ukončení konverzace, pokud žádné nejsou    

  • Vytvoření dynamického volače nástrojů

    • Vrácení odpovědi nástroje, pokud je volání přítomno
    • Volání LLM pouze s uzlem chatbota, pokud žádná volání nejsou

  • Kompilace celého grafu

Zvýrazněná pravidla Call_model.

Návrh agentních systémů s LangChain

Vytvoření funkce podmínky zastavení

from langgraph.graph import MessagesState, START, END


# Use MessagesState to define the state of the stopping function
def should_continue(state: MessagesState):


    # Get the last message from the state
    last_message = state["messages"][-1]


    # Check if the last message includes tool calls
    if last_message.tool_calls:
        return "tools"


    # End the conversation if no tool calls are present
    return END
Návrh agentních systémů s LangChain

Vytvoření dynamického volače nástrojů

# Extract the last message from the history
def call_model(state: MessagesState):

    last_message = state["messages"][-1]


    # If the last message has tool calls, return the tool's response
    if isinstance(last_message, AIMessage) and last_message.tool_calls:


        # Return the messages from the tool call
        return {"messages": [AIMessage(content=last_message.tool_calls[0]["response"])]}


    # Otherwise, proceed with a regular LLM response
    return {"messages": [model_with_tools.invoke(state["messages"])]}
Návrh agentních systémů s LangChain

Vytvoření grafu

workflow = StateGraph(MessagesState)
Návrh agentních systémů s LangChain

Vytvoření grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)

Uzly chatbota a nástrojů.

Návrh agentních systémů s LangChain

Vytvoření grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")

Přidání uzlu START k chatbotu.

Návrh agentních systémů s LangChain

Vytvoření grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")


# Define conditions, then loop back to chatbot
workflow.add_conditional_edges("chatbot", 
         should_continue, ["tools", END])

Graf s přidanými podmínkami.

Návrh agentních systémů s LangChain

Vytvoření grafu

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")


# Define conditions, then loop back to chatbot
workflow.add_conditional_edges("chatbot", 
         should_continue, ["tools", END])

workflow.add_edge("tools", "chatbot")

Úplný pracovní postup grafu.

Návrh agentních systémů s LangChain

Přidání paměti

# Set up memory and compile the workflow
memory = MemorySaver()

app = workflow.compile(
               checkpointer=memory)


display(Image(app.get_graph()
        .draw_mermaid_png()))

Úplný pracovní postup grafu.

Návrh agentních systémů s LangChain

Pojďme si procvičit!

Návrh agentních systémů s LangChain

Preparing Video For Download...