Harness — Часть 3: Принципы маршрутизации LLM‑агентов
В третьем выпуске серии «Затащи меня в Harness» раскрыты архитектурные решения, позволяющие системе на естественном языке безопасно выбирать действия и запускать длительные операции.
В статье «Затащи меня в Harness. Часть 3: Принципы маршрутизации» (Habr AI, 1 авг 2026) автор завершает обзор серии, посвящённой построению универсального LLM‑агента. Основная цель — собрать целостную картину: от ввода естественного языка до надёжного выполнения долгих задач.
Ключевые идеи
- Обобщённая система маршрутизации – слой, который принимает запрос пользователя, определяет намерение с помощью LLM‑модели (например, GPT‑4‑turbo) и сопоставляет его с набором «действий» (команды, функции, пайплайны).
- Декодер‑интент – небольшая цепочка промптов, обученная на примерах, которая преобразует свободный текст в структурированный «intent» (тип действия, параметры).
- Таблица маршрутов – конфигурация, где каждому интенту сопоставлен обработчик (функция, микросервис, Airflow‑DAG). Таблица поддерживает версии и fallback‑механизмы.
- Безопасный исполнитель – отдельный процесс, изолированный контейнером, с ограничениями по времени, ресурсам и возможностью отката. В статье описаны паттерны idempotent‑операций и «watchdog‑таймауты».
- Мониторинг и трассировка – интеграция с OpenTelemetry, метрики длительности, статусов и ошибок, а также автоматическое оповещение в Slack.
Практический пример – запрос «Сгенерировать отчёт по продажам за последний квартал и отправить его в Teams». Интент‑детектор классифицирует запрос как report_generation, роутер выбирает пайплайн, который собирает данные из Snowflake, формирует PDF через LaTeX и отправляет файл через webhook. Если любой из шагов упадёт, система откатывает изменения и уведомляет пользователя.
Ссылки
- Полный текст статьи: https://habr.com/ru/articles/1058808/
- Предыдущие части серии: «Часть 1 – Архитектура», «Часть 2 – Обработка естественного языка».
Эта статья полезна как для разработчиков, планирующих построить собственных LLM‑агентов, так и для студентов, изучающих практики MLOps и безопасного оркестрации.
Для AI‑разработчиков это руководство показывает, как превратить свободный ввод в надёжный, масштабируемый процесс. Особенно ценно внимание к безопасному исполнению и мониторингу — без этого любые «длинные» задачи могут стать точкой отказа. Студенты получат готовый шаблон архитектуры, который легко адаптировать под свои проекты.
