AMD Instinct MI350P: 144 ГБ PCIe‑GPU для серверов с воздушным охлаждением
Новый серверный ускоритель AMD Instinct MI350P предлагает 144 ГБ памяти, PCIe 5.0 и двухслотовый форм-фактор, упрощая развертывание больших моделей в обычных дата‑центрах.
AMD расширила линейку серверных ускорителей Instinct, представив MI350P – первую с 2022 года PCIe‑карту в серии Instinct. В отличие от прежних моделей MI350X и MI355X, построенных на архитектуре CDNA 4 и требующих специализированных систем с водяным охлаждением, MI350P рассчитан на двухслотовый форм‑фактор и воздушное охлаждение, что позволяет установить его в любой серверный шасси с поддержкой PCIe 5.0.
Ключевые характеристики:
- Память: 144 ГБ HBM3e, распределённые по 8 стеклам, обеспечивая пропускную способность до 3,2 ТБ/с.
- Интерфейс: PCIe 5.0 ×16, совместимый со стандартными материнскими платами.
- Энергопотребление: до 300 Вт, поддерживается обычным блоком питания серверов среднего класса.
- Производительность: до 30 TFLOPS FP16, 60 TFLOPS INT8, оптимизировано под обучение и инференс больших языковых моделей.
AMD позиционирует MI350P как «универсальное решение» для компаний, которым нужен мощный ускоритель без затрат на кастомные системы охлаждения. По заявлению компании, карта уже доступна у крупнейших дистрибьюторов, а цены стартуют от $12 000 за единицу, что ниже аналогов с аналогичной памятью.
Для разработчиков это открывает возможность развертывать модели с параметрами до 100 млн параметров в обычных дата‑центрах, а также ускорять инференс в продуктивных средах без необходимости в специализированных фермах. Подробнее о релизе – в статье на Habr ML [https://habr.com/ru/companies/selectel/articles/1034160/].
MI350P делает крупные модели доступнее для средних компаний и исследовательских групп, устраняя барьер в виде дорогостоящих систем охлаждения. Однако 300 Вт потребления всё ещё требуют продуманного энергоменеджмента, а цена в $12 000 остаётся высокой для стартапов.
