Vercel AI Gateway добавил правила маршрутизации
Новые firewall‑подобные правила позволяют контролировать, какие модели используют команды, и переключать их без изменения кода.
Vercel объявил о запуске правил маршрутизации в сервисе AI Gateway. Это первый шаг к тому, чтобы управление доступом к моделям стало частью инфраструктуры, а не кода приложений.
Правила работают по принципу firewall: администратор задаёт правила на уровне шлюза, а все запросы к моделям автоматически подчиняются им. При этом не требуется менять клиентский код, если модель выходит из эксплуатации или становится недоступной – достаточно обновить правило, и весь трафик будет перенаправлен в реальном времени.
Vercel выделил два типа правил:
- Rewrite – перенаправляет запрос, предназначенный одной модели, к другой модели. Это удобно, когда нужно заменить устаревшую модель более новой без остановки сервиса.
- Serve – гарантирует, что запрос будет обслужен даже при падении основной модели, переключая его на резервную.
Внедрение правил маршрутизации упрощает процесс CI/CD для AI‑приложений: вместо выпуска новой версии с изменёнными эндпоинтами достаточно один раз обновить конфигурацию шлюза. Кроме того, команда получает возможность быстро реагировать на инциденты, связанные с недоступностью моделей, и поддерживать непрерывность бизнес‑процессов.
Для настройки используется привычный интерфейс Vercel Dashboard и API, совместимый с текущими механизмами AI Gateway. Документация уже доступна на сайте Vercel.
Для разработчиков это значит, что управление версиями моделей теперь можно вынести из кода в инфраструктуру, ускоряя релизы и повышая надёжность. Студенты курсов по MLOps получат практический пример того, как реализовать «model‑routing» без деплоя. Однако стоит внимательно следить за правилами, чтобы не создать конфликтов доступа между командами.
