Inkling от Thinking Machines теперь в AI Gateway

Что произошло?

Vercel объявила о добавлении Inkling — широкой генеративной модели от компании Thinking Machines — в свой сервис AI Gateway. Inkling позиционируется как generalist модель, обученная одновременно на задачах агентного поведения, рассуждения, программирования, выполнения инструкций, фактуальности, компьютерного зрения и аудио‑генерации.

Ключевые характеристики

• Мульти‑модальность: работает с текстом, кодом, изображениями и аудио без необходимости переключать модели.
• Контролируемый уровень мышления: пользователь может задавать «thinking effort», регулируя глубину рассуждения и, соответственно, задержку и стоимость инференса.
• Единый интерфейс: модель вызывается через AI SDK, указывая thinkingmachines/inkling в параметре model.
• AI Gateway обеспечивает единый API для всех моделей, автоматический учёт расходов, настройку повторных попыток, отказоустойчивость и оптимизацию производительности.

Как начать использовать?

from vercel_ai import AIGateway
client = AIGateway()
response = client.run(
    model="thinkingmachines/inkling",
    prompt="Explain quantum computing in simple terms",
    thinking_effort=0.7
)
print(response)

Подробности и примеры доступны в сообщении блога Vercel.

Почему это важно?

Inkling объединяет несколько направлений ИИ‑исследований в одной модели, упрощая разработку приложений, где требуется одновременно обрабатывать код, текст, изображения и звук. Возможность управлять глубиной рассуждения помогает балансировать между качеством вывода и затратами, что особенно ценно для стартапов и учебных проектов.