Оптимизация диалога AI‑агентов: экономия 4,5 млн токенов и устранение бесконечного спора
Автор внедрил роль‑обсуждение в цепочку из четырёх AI‑агентов, сократив расход токенов на 4,5 млн и исправив баг, заставлявший их спорить без сравнения ответов.
В статье на Habr AI описывается эксперимент с четырьмя AI‑агентами, которые совместно решали задачи по написанию кода. Изначально их взаимодействие приводило к бесконечным спорам: каждый агент защищал свою гипотезу, а система не имела механизма сравнения ответов, из‑за чего в процессе обсуждения было сожжено более 40 млн токенов.
Автор предложил изменить архитектуру цепочки: перед первой правкой кода добавить обсуждение ролей – каждый из четырёх агентов (генератор, ревьюер, тестировщик и валидатор) формулирует свою позицию, после чего система проверяет, можно ли сравнить их ответы. Если сравнение невозможно, процесс останавливается, и агент получает запрос уточнить вывод.
Эту схему протестировали 480 запусков на разных задачах. Результаты показали, что расход токенов упал на 4,5 млн – почти 11 % от исходных затрат. Кроме того, в ходе тестов был выявлен баг, из‑за которого агенты продолжали спорить, даже когда их ответы ещё нельзя было сравнить. Исправление заключалось в добавлении проверки готовности к сравнению перед переходом к следующей фазе.
Таким образом, небольшое изменение оркестрации агентов привело к значительной экономии ресурсов и повышению надёжности системы. Подробнее о методике и результатах можно прочитать в оригинальной статье: https://habr.com/ru/articles/1078846/.
Для разработчиков AI‑агентов это подтверждает, что **контроль токенов** и чёткая последовательность ролей критичны даже в небольших проектах. Добавление проверок готовности к сравнению ответов позволяет избежать бесконечных циклов и сократить расходы. При проектировании многомодельных пайплайнов стоит сразу планировать guard‑rails, чтобы не превратить диалог в ресурсный «поток без дна».
