OpenAI 报告在工程测试中 Jalapeno 的延迟最多降低 3.6 倍

OpenAI 报告在公司自行进行的测试中,相较于 Nvidia GB200 和 GB300 系统取得了优势,计划在2026年底前投入生产部署。

By · Published

Primary source: OpenAI

为何重要

在生产环境中部署 Jalapeno 将使 OpenAI 能够直接控制其部分推理开销,并在外部芯片供应商之外获得另一种算力来源。如果在 ChatGPT 和 Codex 的实际流量下性能与 OpenAI 的工程测试一致,这款芯片可能会降低服务成本和等待时间,但这些收益仍需通过独立验证和生产规模的证明来确认。

OpenAI reports up to 3.6x lower Jalapeno latency in engineering tests — OpenAI reports gains over Nvidia GB200 and GB300 systems in company-run tests, with production deployment planned by the end of 2026.

OpenAI 在联合创始人兼首席执行官 Sam Altman 的领导下报告称,Jalapeno 的端到端延迟比其用于比较的 Nvidia 系统低 1.7 倍到 3.6 倍。该公司还报告在三个大型开源模型上峰值吞吐量下交互性高 2.1 倍到 4.1 倍,AI 每瓦工作量高 1.5 倍到 1.9 倍。现场的 engineering report on Jalapeno's first results 显示的日期为 2026 年 8 月 25 日,而提供的源元数据将同一页面标注为 8 月 3 日。公开的修订记录并未确定 8 月 25 日是更新日期还是原始发表日期。OpenAI 在 X 上的公告时间戳为 8 月 25 日。这些是在工程硬件上的 OpenAI 测量结果,计划在 2026 年底进行生产部署。

OpenAI 在 X 上的帖子

负责 OpenAI 硬件计划的 Richard Ho 现在必须将这些实验室结果推向生产流量。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.