Совместный чип Jalapeño от OpenAI и Broadcom будет развернут в конце 2026 года

Репортаж от Wedoany，Чип для логического вывода Jalapeño, разработанный OpenAI совместно с Broadcom, планируется начать развертывать небольшими партиями в конце 2026 года. По оценке Хо, на начальном этапе развертывание будет осуществляться «в очень небольших объемах», а более масштабное развертывание ожидается в 2027 году. В качестве эталона для сравнения производительности используется система Blackwell от Nvidia, однако к моменту полномасштабного внедрения Jalapeño продукты конкурентов могут значительно продвинуться вперед.

Jalapeño был впервые представлен в октябре прошлого года и разработан в тесном сотрудничестве OpenAI и Broadcom, при этом собственные модели OpenAI также участвовали в процессе разработки. Компания планирует превратить Jalapeño в многопоколенческую платформу, позволяющую разрабатывать AI-продукты, модели, чипы и память в комплексе.

Такой комплексный подход позволяет OpenAI оптимизировать конкретные этапы, создающие узкие места в процессе логического вывода. Основное внимание при проектировании Jalapeño уделяется минимизации задержек на этапах предварительного заполнения (prefill) и коммуникации, которые, как отмечает OpenAI, часто являются узкими местами логического вывода.

«Мы спроектировали Jalapeño так, чтобы минимизировать перемещение данных и задержки связи», — говорится в сообщении компании в блоге с результатами. «Это означает, что состояние модели (включая KV-кэш, используемый при генерации ответов) может быть явно размещено и оставаться локализованным, при этом система активирует правильную комбинацию вычислений, памяти и сети для каждого этапа логического вывода».