Керування пам'яттю агента

AI-агенти з Hugging Face smolagents

Adel Nehme

VP of AI Curriculum, DataCamp

Стандартно без стану

Кожен виклик .run() — це новий старт.

Приклад:

career_advisor.run("What career skills should I highlight?")

You should highlight Python, SQL, data visualization, 
machine learning fundamentals, and communication skills tailored to business outcomes.

career_advisor.run("Can you format those skills as bullet points?")

Sorry, I'm not sure which skills you're referring to. Could you clarify?

Збереження пам'яті між взаємодіями

career_advisor.run("What career skills should I highlight?")

You should highlight Python, SQL, data visualization, 
machine learning fundamentals, and communication skills tailored to business outcomes.

Передайте reset=False:

career_advisor.run("Can you format those skills as bullet points?", reset=False)

Sure! Here are the skills as bullet points:
- Python
- SQL
- Data visualization
...

Пам'ять також допомагає налагоджувати

User: What's the expected salary?

Agent: It's $80,000

User: Wait, that seems wrong...

Agent: Sorry, I'm not sure what you mean

Перевірте, що сталося під час запуску агента:

Перегляд усього згенерованого коду
Відстеження міркувань, дій і використання інструментів
Налагодження хибних відповідей або поламаною логіки

Який код виконав агент?

Метод .return_full_code() дає змогу побачити весь виконаний код.

executed_code = career_advisor.memory.return_full_code()
print(executed_code)

# ...other steps omitted for brevity

salary = 80000  # <- hardcoded?

# script continues...

Про що «думав» агент?

conversation_steps = career_advisor.memory.get_succinct_steps()
print(conversation_steps[5])

{
  "step_number": 5,
  "tool_calls": [
    {"function": {"name": "python_interpreter"}},
    {"function": {"name": "web_search"}}
  ],
  "code_action": "import requests\nskills = requests.get('api.jobsearch.com').json()",
  "observations": "resume_agent found 15 relevant skills for transition",
  "token_usage": {"total_tokens": 334},
  ...
}

Зберігайте сесії агента для аналізу

import json

def save_agent_memory(agent):
    with open("agent_memory.json", "w") as f:
        json.dump(agent.memory.get_succinct_steps(), f, indent=2, default=str)

# Save memory to a file
save_agent_memory(career_advisor)

Журнали стануть у пригоді для:

Післяаналізу
Регресійного тестування
Поступового поліпшення поведінки агента

Як виправляти збої агента: що налаштувати

Проблеми з пам'яттю: використовуйте reset=False або скидайте навмисно
Проблеми з міркуванням: спробуйте потужнішу модель
Непослідовна поведінка: вдоскональте системний промпт
Плутанина з інструментами: уточніть рядки документації інструментів

Давайте потренуємось!

AI-агенти з Hugging Face smolagents