OpenAI、エンジニアリングテストでJalapenoのレイテンシを最大3.6倍低減と報告
OpenAIは、同社が実施したテストでNvidiaのGB200およびGB300システムを上回る成果を報告しており、本番導入を2026年末までに予定している。
By Ryan Merket · Published
Primary source: OpenAI
なぜ重要なのか
本番環境でのJalapenoの導入は、OpenAIに推論コストの一部を直接管理する手段と、外部チップサプライヤー以外の別のキャパシティ供給源をもたらす。ChatGPTやCodexのトラフィック下での性能がOpenAIのエンジニアリング試験と一致するのであれば、そのチップはサービングコストと待ち時間を削減する可能性があるが、これらの利得は独立した検証と本番規模での実証が依然として必要だ。
OpenAIは、共同創設者でCEOのSam Altman率いるチームが、比較に用いたNvidiaシステムと比べてJalapenoのエンドツーエンド遅延が1.7倍から3.6倍短いと報告しました。同社はまた、3つの大規模オープンモデル全体でインタラクティビティが2.1倍から4.1倍高く、ピークスループット時のワット当たりのAI処理量が1.5倍から1.9倍多いとも報告しています。ライブのengineering report on Jalapeno's first resultsは2026年8月25日付を表示している一方、提供されたソースメタデータは同ページを8月3日付としています。公開された改訂履歴はなく、8月25日が更新日なのか元の公開日なのかは判然としません。OpenAIのXでの発表は2026年8月25日にタイムスタンプされています。これらはOpenAIによるエンジニアリングハードウェア上での測定であり、本番展開は2026年末を予定しています。
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.