OpenAI 报告在工程测试中 Jalapeno 的延迟最多降低 3.6 倍
OpenAI 报告在公司自行进行的测试中,相较于 Nvidia GB200 和 GB300 系统取得了优势,计划在2026年底前投入生产部署。
By Ryan Merket · Published
Primary source: OpenAI
为何重要
在生产环境中部署 Jalapeno 将使 OpenAI 能够直接控制其部分推理开销,并在外部芯片供应商之外获得另一种算力来源。如果在 ChatGPT 和 Codex 的实际流量下性能与 OpenAI 的工程测试一致,这款芯片可能会降低服务成本和等待时间,但这些收益仍需通过独立验证和生产规模的证明来确认。

OpenAI 在联合创始人兼首席执行官 Sam Altman 的领导下报告称,Jalapeno 的端到端延迟比其用于比较的 Nvidia 系统低 1.7 倍到 3.6 倍。该公司还报告在三个大型开源模型上峰值吞吐量下交互性高 2.1 倍到 4.1 倍,AI 每瓦工作量高 1.5 倍到 1.9 倍。现场的 engineering report on Jalapeno's first results 显示的日期为 2026 年 8 月 25 日,而提供的源元数据将同一页面标注为 8 月 3 日。公开的修订记录并未确定 8 月 25 日是更新日期还是原始发表日期。OpenAI 在 X 上的公告时间戳为 8 月 25 日。这些是在工程硬件上的 OpenAI 测量结果,计划在 2026 年底进行生产部署。
负责 OpenAI 硬件计划的 Richard Ho 现在必须将这些实验室结果推向生产流量。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.