Qwen 3.8‑27B почти догоняет 304B‑модель через API на RTX 5090
Тесты показали, что локальная версия Qwen 3.8‑27B на RTX 5090 набирает 0.789/1.0, почти столько же, что 304‑миллиардная модель через API (0.785). DeepSeek V4 Flash отстает – 0.731.
Что проверяли
Автор статьи на Habr AI провёл сравнительный бенчмарк новой модели Qwen 3.8‑27B. Тесты запускались в двух режимах:
- Локально на потребительском графическом процессоре RTX 5090 (самый мощный «домашний» GPU, доступный в магазинах).
- Через облачный API той же модели, предоставляемый провайдером.
Для сравнения был использован также DeepSeek V4 Flash 0731 (через API) и «гигантская» 304‑млрд‑параметровая модель, к которой часто обращаются в облаке.
Ключевые цифры
| Модель | Способ доступа | Балл (из 1.0) | |--------|----------------|--------------| | Qwen 3.8‑27B | Локально (RTX 5090) | 0.789 | | Qwen 3.8‑27B | API | 0.785 | | DeepSeek V4 Flash | API | 0.731 | | 304 B модель | API | 0.785 (сравнительно) |
Что это значит
- Локальная производительность почти не уступает облачной версии крупной модели, несмотря на то, что Qwen 3.8‑27B имеет лишь 27 млрд параметров.
- Стоимость: RTX 5090 стоит несколько тысяч долларов, но позволяет запускать модели, которые ранее требовали дорогостоящих облачных решений.
- DeepSeek всё ещё остаётся конкурентом, однако в данном тесте отстаёт от Qwen.
Ссылка на оригинал
Для разработчиков и студентов это открывает реальную возможность запускать продвинутые LLM на домашнем оборудовании без потери качества. Инвестировать в мощный GPU теперь выгоднее, чем платить за облачные запросы к гигантским моделям. Однако стоит помнить о энергопотреблении и тепловых ограничениях RTX 5090.