Vercel объявил меры защиты от кражи инференса в AI‑эндпоинтах
Vercel предупреждает о риске «inference theft» — дешёвых HTTP‑запросах, приводящих к огромным расходам на AI‑модели, и предлагает новые инструменты защиты публичных AI‑API.
В блоге Vercel опубликована статья о растущей угрозе inference theft – злоумышленники используют дешёвые HTTP‑запросы, чтобы дешифровать дорогостоящие запросы к передовым моделям ИИ. По словам компании, обычный HTTP‑запрос стоит около $2 за миллион, тогда как один запрос к модели‑агенту может обойтись в $2. Это делает атаку на AI‑эндпоинт потенциально прибыльным бизнесом: несколько тысяч запросов способны привести к счетам в десятки тысяч долларов.
Vercel делится собственным опытом: в их инфраструктуре уже фиксировались случаи массового «сканирования» API, когда злоумышленники пытались подобрать промпты, генерируя огромные расходы. Чтобы снизить риск, Vercel вводит несколько уровней защиты:
- Автоматическое ограничение частоты запросов (rate limiting) на уровне платформы, с возможностью гибкой настройки per‑endpoint.
- Токен‑базированная аутентификация и поддержка OAuth 2.0, позволяющая ограничить доступ только проверенным клиентам.
- Мониторинг расходов в реальном времени с алертами, когда стоимость превышает заданный порог.
- Встроенные инструменты для ограничения длины промптов и количества токенов в ответе, что уменьшает потенциальный ущерб от одного запроса.
Vercel также предлагает пример конфигурации для Next.js API‑роутов, где можно быстро включить защиту без изменения кода бизнес‑логики. Подробнее о рекомендациях и код‑примеров можно прочитать в оригинальном посте: https://vercel.com/blog/protecting-against-inference-theft.
Эти меры направлены не только на защиту клиентов Vercel, но и служат сигналом всему сообществу разработчиков AI‑сервисов: публичные эндпоинты требуют строгой политики доступа и постоянного контроля расходов.
Для разработчиков AI‑приложений это предупреждение – ваш публичный API может стать лёгкой добычей. Внедряйте аутентификацию, лимиты запросов и мониторинг расходов сразу же, иначе рискуете получить счёт в десятки тысяч долларов. Vercel показывает, что такие инструменты уже доступны на уровне платформы, что упрощает их интеграцию.
