Визначення вузлів і ребер для гнучких викликів функцій

Проєктування агентних систем з LangChain

Dilini K. Sumanapala, PhD

Founder & AI Engineer, Genverv, Ltd.

Побудова робочого процесу з кількома інструментами

   

  • Кілька доступних інструментів

    • Паліндром
    • Історичні події
    • Wikipedia

Повний робочий процес чат-бота

Проєктування агентних систем з LangChain

Визначте функції робочого процесу

   

  • Створіть функцію зупинки

Вузли чат-бота та інструментів у робочому процесі.

Проєктування агентних систем з LangChain

Визначте функції робочого процесу

   

  • Створіть функцію зупинки

    • Перевіряйте виклики інструментів

Виділено правила функції зупинки.

Проєктування агентних систем з LangChain

Визначте функції робочого процесу

   

  • Створіть функцію зупинки

    • Перевіряйте виклики інструментів
    • Завершуйте розмову, якщо їх немає

У робочому процесі виділено правила END

Проєктування агентних систем з LangChain

Визначте функції робочого процесу

   

  • Створіть функцію зупинки

    • Перевіряйте виклики інструментів
    • Завершуйте розмову, якщо їх немає    

  • Створіть динамічний виклик інструменту

    • Поверніть відповідь інструменту, якщо є виклик

Виділено правила Call_model.

Проєктування агентних систем з LangChain

Визначте функції робочого процесу

   

  • Створіть функцію зупинки

    • Перевіряйте виклики інструментів
    • Завершуйте розмову, якщо їх немає    

  • Створіть динамічний виклик інструменту

    • Поверніть відповідь інструменту, якщо є виклик
    • Викликайте LLM лише з вузлом чат-бота, якщо викликів інструментів немає

Виділено правила Call_model.

Проєктування агентних систем з LangChain

Визначте функції робочого процесу

   

  • Створіть функцію зупинки

    • Перевіряйте виклики інструментів
    • Завершуйте розмову, якщо їх немає    

  • Створіть динамічний виклик інструменту

    • Поверніть відповідь інструменту, якщо є виклик
    • Викликайте LLM лише з вузлом чат-бота, якщо викликів інструментів немає

  • Скомпілюйте повний граф

Виділено правила Call_model.

Проєктування агентних систем з LangChain

Створіть функцію умови зупинки

from langgraph.graph import MessagesState, START, END


# Use MessagesState to define the state of the stopping function
def should_continue(state: MessagesState):


    # Get the last message from the state
    last_message = state["messages"][-1]


    # Check if the last message includes tool calls
    if last_message.tool_calls:
        return "tools"


    # End the conversation if no tool calls are present
    return END
Проєктування агентних систем з LangChain

Створіть динамічний виклик інструменту

# Extract the last message from the history
def call_model(state: MessagesState):

    last_message = state["messages"][-1]


    # If the last message has tool calls, return the tool's response
    if isinstance(last_message, AIMessage) and last_message.tool_calls:


        # Return the messages from the tool call
        return {"messages": [AIMessage(content=last_message.tool_calls[0]["response"])]}


    # Otherwise, proceed with a regular LLM response
    return {"messages": [model_with_tools.invoke(state["messages"])]}
Проєктування агентних систем з LangChain

Створіть граф

workflow = StateGraph(MessagesState)
Проєктування агентних систем з LangChain

Створіть граф

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)

Вузли чат-бота та інструментів.

Проєктування агентних систем з LangChain

Створіть граф

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")

Додайте вузол START до чат-бота.

Проєктування агентних систем з LangChain

Створіть граф

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")


# Define conditions, then loop back to chatbot
workflow.add_conditional_edges("chatbot", 
         should_continue, ["tools", END])

Граф із доданими умовами.

Проєктування агентних систем з LangChain

Створіть граф

workflow = StateGraph(MessagesState)


# Add nodes for chatbot and tools
workflow.add_node("chatbot", call_model)
workflow.add_node("tools", tool_node)


# Connect the START node to the chatbot
workflow.add_edge(START, "chatbot")


# Define conditions, then loop back to chatbot
workflow.add_conditional_edges("chatbot", 
         should_continue, ["tools", END])

workflow.add_edge("tools", "chatbot")

Повний граф робочого процесу.

Проєктування агентних систем з LangChain

Додавання пам'яті

# Set up memory and compile the workflow
memory = MemorySaver()

app = workflow.compile(
               checkpointer=memory)


display(Image(app.get_graph()
        .draw_mermaid_png()))

Повний граф робочого процесу.

Проєктування агентних систем з LangChain

Давайте потренуємось!

Проєктування агентних систем з LangChain

Preparing Video For Download...