Qwen3.8‑Flash‑Next: ранний взгляд на архитектуру будущего Qwen4 с 125 млрд параметров

Что анонсировано

26 августа 2026 года команда Qwen (Alibaba) опубликовала открытый весовой файл модели Qwen3.8‑Flash‑Next. В статье компании подчеркивают, что это экспериментальная версия новой архитектуры, которая станет основой Qwen4. Полноценной Qwen4 пока не существует, но Qwen3.8‑Flash‑Next уже доступна для скачивания и тестирования.

Технические характеристики

• Параметров: 125 млрд – один из крупнейших MoE‑моделей в открытом доступе.
• Тип: мульти‑модальная модель (текст + изображение) с Mixture‑of‑Experts (MoE) слоем, позволяющим динамически распределять вычисления между экспертами.
• Архитектурные новшества: улучшенный токен‑синхронный механизм, более эффективное масштабирование экспертов и новая система позиционных эмбеддингов, которые, по словам разработчиков, обеспечат лучшую генерацию как текста, так и визуального контента.
• Открытый вес: модель опубликована под лицензией Apache 2.0, что упрощает её интеграцию в исследовательские проекты и коммерческие прототипы.

Почему это важно

Qwen3.8‑Flash‑Next открывает доступ к экспериментальной архитектуре, которую команда планирует развить в Qwen4 – потенциально более масштабную и универсальную модель. Открытый доступ позволяет сообществу оценить эффективность новых подходов к MoE‑моделям и предложить улучшения до официального релиза.

Как получить модель

Веса и код доступны в официальном репозитории на GitHub (ссылка в статье). Требования к оборудованию – минимум 8 GPU A100 80 GB для полного обучения, но inference можно запускать на 4 GPU A100 с 40 GB.

Перспективы

Если заявленные улучшения подтвердятся, Qwen4 может стать конкурентом GPT‑5 и Gemini 1.5 в мульти‑модальных задачах, открывая новые возможности для генерации контента, визуального анализа и интерактивных приложений.