Исследование IBM: сколько памяти действительно нужен агенту?
IBM Research представил ALTk‑Evolve — метод оценки и оптимизации памяти агентов, показывающий, что современные LLM‑агенты могут работать с вдвое меньшим объёмом памяти без потери качества.
В блоге Hugging Face IBM Research анонсировал новый подход ALTk‑Evolve, предназначенный для измерения и снижения потребления памяти у AI‑агентов. Метод основан на скрытых марковских моделях (HMM), которые позволяют формализовать, какие части контекста действительно нужны для текущей задачи. В эксперименте команда протестировала несколько популярных агентных бенчмарков – WebShop, MiniWoB и BabyAI. Результаты показали, что объём оперативной памяти можно уменьшить с ~2 ГБ до 800 МБ, сохранив более 95 % уровня выполнения задач. При этом время отклика снизилось в среднем на 30 %. Исследователи открыли исходный код и наборы данных на Hugging Face, а также предоставили подробные инструкции по интеграции ALTk‑Evolve в существующие пайплайны. Подробнее читайте в оригинальном блоге: https://huggingface.co/blog/ibm-research/altk-evolve-hmm.
Для разработчиков агентов это шанс существенно сократить затраты на инфраструктуру и запустить модели на более дешёвом железе. Однако оптимизация памяти требует тщательного профилирования конкретных сценариев, иначе возможна деградация качества.
