Валидация итогового ответа агента

ИИ-агенты с Hugging Face smolagents

Adel Nehme

VP of AI Curriculum, DataCamp

Зачем нужна валидация

Ответ агента оказался бесполезным
Качество обслуживания пострадало

Чтобы этого избежать, smolagents позволяет валидировать итоговые ответы!

Валидация ответов агента

def check_answer_length(final_answer, agent_memory):
    # Check if the answer is substantial enough
    if len(final_answer) < 200:
        raise Exception("Car recommendation is too brief")
    return True

Если final_answer не проходит проверку, выбрасывается исключение. Иначе возвращается True.

Валидация вывода агента

car_advisor = CodeAgent(
    tools=[WebSearchTool()],
    model=InferenceClientModel(),
    final_answer_checks=[check_answer_length],
    verbosity_level=0
)

Перед ответом выполняется валидация check_answer_length.
Автоматический повтор на основе сообщения исключения из функции.

Мета-оценка: ИИ проверяет ИИ

validation_prompt = """
Reasoning process: {}

Agent's final answer: {}

Does the final answer logically follow
from the reasoning and solve the user's 
question? 

Respond only TRUE or FALSE. 
No other text.
"""

Валидация рассуждений с помощью мета-оценщика

def check_reasoning_accuracy(final_answer, agent_memory):
    evaluator_model = InferenceClientModel()
    reasoning_steps = agent_memory.get_succinct_steps()
    final_prompt = validation_prompt.format(reasoning_steps, final_answer)

    message = ChatMessage(role='user', content=final_prompt)
    evaluation = evaluator_model([message])

    if evaluation.content == "FALSE":
        raise Exception("The agent's reasoning process contains logical errors")
    else:
        return True

Объединение нескольких проверок

car_advisor = CodeAgent(
    tools=[WebSearchTool()],
    model=InferenceClientModel(),
    final_answer_checks=[check_answer_length, check_reasoning_accuracy],
    verbosity_level=0
)

Ошибки с большей вероятностью будут выявлены и исправлены до того, как пользователь их увидит!

Проектирование интеллектуальных систем

Давайте потренируемся!

ИИ-агенты с Hugging Face smolagents