Nemotron 3 Ultra теперь в Vercel AI Gateway
Nvidia представила открытый Mixture‑of‑Experts модель Nemotron 3 Ultra с контекстом в 1 млн токенов, теперь доступную через Vercel AI Gateway. До 350 токенов/сек и 30 % экономии на агентных задачах.
Vercel объявила о добавлении в свой AI Gateway новой модели Nemotron 3 Ultra от Nvidia. Это открытая Mixture‑of‑Experts (MoE) модель, оптимизированная для длительных и сложных агентных рабочих процессов. Главной особенностью модели является контекстное окно в 1 млн токенов, что позволяет хранить и обрабатывать огромные объёмы информации за один запрос.
Nemotron 3 Ultra ориентирована на многошаговые агентные сценарии: планирование, использование инструментов, делегирование задач суб‑агентам и восстановление после ошибок. По заявлению Nvidia, модель достигает пропускной способности до 350 токенов в секунду и обеспечивает до 30 % снижения стоимости по сравнению с предыдущими решениями при выполнении агентных задач.
Для разработчиков, желающих воспользоваться моделью, достаточно указать её идентификатор nvidia/nemotron-3-ultra-550b-a55b в настройках Vercel AI Gateway. Интеграция проходит полностью в облаке Vercel, что упрощает масштабирование и управление ресурсами без необходимости самостоятельного развертывания инфраструктуры.
Эта новинка открывает новые возможности для построения интеллектуальных ассистентов, автоматизированных систем поддержки клиентов и сложных цепочек обработки данных, где требуется длительный контекст и гибкая маршрутизация задач между суб‑моделями.
Ссылка на оригинальный анонс: https://vercel.com/changelog/nemotron-3-ultra-now-available-on-ai-gateway
Для AI‑разработчиков Nemotron 3 Ultra — это шанс построить более «разумные» агенты без собственного кластера MoE. Длинный контекст упрощает работу с документами и диалогами, а экономия в 30 % делает сервисы более конкурентоспособными. Однако стоит учитывать, что модель всё ещё требует тщательной настройки промптов и контроля стоимости при масштабных запросах.
