OpenAI и Broadcom представили чип Jalapeño для ускорения LLM‑инференса

Что объявили OpenAI и Broadcom?

В совместном анонсе, опубликованном на блоге OpenAI 24 июня 2026 г., компании представили Jalapeño — первый в мире чип, спроектированный специально для инференса больших языковых моделей (LLM). По заявлению разработчиков, архитектура чипа оптимизирована под трансформер‑операции, что позволяет достичь:

• 2‑3× ускорения выполнения запросов по сравнению с современными GPU‑решениями;
• 30‑50 % снижения энергопотребления при той же пропускной способности;
• Поддержку моделей до 1 трлн параметров без потери латентности.

Технические детали

Jalapeño построен на 5‑нм техпроцессе Broadcom, использует специализированные матричные умножители (MMA) и динамический кеш‑механизм, позволяющий хранить активные токены непосредственно в on‑chip памяти. Чип интегрируется в существующие серверные платформы через PCIe 5.0 и поддерживает программный стек OpenAI Inference SDK, совместимый с популярными фреймворками (PyTorch, TensorFlow, JAX).

Почему это важно?

• Масштабируемость: разработчики смогут обслуживать больше запросов на том же оборудовании, снижая стоимость облачных сервисов.
• Экология: значительное сокращение энергопотребления уменьшает углеродный след AI‑вычислений.
• Доступность: более низкая цена за инференс делает LLM‑технологии привлекательнее для стартапов и академических проектов.

Что дальше?

OpenAI планирует выпустить пилотные серверы с Jalapeño к концу 2026 г., а Broadcom уже объявила о подготовке массового производства. Ожидаются первые публичные бенчмарки в Q4 2026.