OpenAI、GPT-5.6 Solを最大で標準の14倍の速度でプレビュー

Why it matters

OpenAI is making inference speed a distinct API product for voice, coding and operational systems where latency limits usage. Its reach now depends on how quickly Cerebras capacity enters production.

OpenAI (@OpenAI) は8月13日に Ultrafast の限定プレビューを公開しました。これは OpenAI が、GPT-5.6 Sol をその Standard 処理層より最大14倍高速で動作させられるとする新しい API サービス階層です。

https://x.com/OpenAI/status/2087947721936359705

The Ultrafast announcement は OpenAI の旗艦モデルを Cerebras の推論ハードウェア上で稼働させ、1秒あたり最大750の出力トークンを生成するとしています。OpenAI は選ばれた顧客から開始し、計算容量が増えるにつれて利用範囲を広げる計画です。

この展開は、推論速度を別個の製品階層にするもので、最速の応答をより小さなモデルに限定するのではありません。OpenAI は Ultrafast を、ユーザーや自動化システムが回答を待つような用途――インシデント対応、ボイスエージェント、金融調査、カスタマーサポート、コマース、対話型の科学的作業――に位置付けています。

OpenAI の「750トークン」という数値は出力生成の速度を示すもので、これだけでは最初のトークンを生成するまでの時間やツールや外部システムを含むワークフローを完了するのに必要な時間を確定するものではありません。14倍という比較も OpenAI 自身の Standard 処理層との比較に基づくものです。実際の運用でのパフォーマンスはプロンプト、推論設定、出力長、周辺のアプリケーションに依存します。

Cerebras が OpenAI の推論スタックに参入

Ultrafast は、より大規模なインフラ合意から生まれた最初の名前付き API サービスです。1月14日、OpenAI は Cerebras と提携した と発表し、2028年まで段階的にプラットフォームに低遅延の計算能力750メガワットを追加するとしました。

Cerebras は、コンピュート、メモリ、帯域幅を単一チップ上に置くウェーハスケールプロセッサを中心にシステムを構築しています。OpenAI は1月に、このアーキテクチャを応答速度が重要なワークロードに割り当てると述べ、AI業界全体で使われている従来のアクセラレータクラスタに並ぶ別の推論オプションを得ることになると説明していました。

8月のプレビューは、その容量を顧客の前に出し始めます。また、共同設立者で CEO の Andrew Feldman が率いる Cerebras にとっても、より小さなモデルや特殊モデルではなく、OpenAI の旗艦モデルでのウェーハスケール推論を実運用で示すショーケースになります。

OpenAI は当初、計画されている Cerebras 展開を GPT-5.6 Sol の6月26日のプレビュー で明らかにしており、そこで1秒あたり750トークンのサービスを7月に開始するとしていました。GPT-5.6 は7月9日に一般提供に達し、Cerebras 支援の階層は8月13日に限定プレビューに入りました。

OpenAI のプレビューにもかかわらず Cerebras の株価は下落

OpenAI が新しい Ultrafast 階層の裏で同社のハードウェアを用いたにもかかわらず、Cerebras の株式は8月13日に値下がりして取引されました。この下落が両社の広範なパートナーシップに対する投資家の見方をどう反映しているかは定まっていません。特に OpenAI はインフラ合意と1秒あたり750トークンのサービス計画を以前に開示していました。

今回の発表は、企業間の新たな契約というよりはサービスの限定的な顧客向けプレビューを示すものです。その商業的意義は、より広い利用可能性、顧客の採用、そして Cerebras が OpenAI の推論スタックに追加の容量を投入できるかどうかに依存します。

OpenAI はビジネスワークフローから開始

OpenAI は初期の Ultrafast テスターとして Jane Street、Podium、Basis、Rogo を挙げました。これらの顧客は、コーディングアシスタント、ボイスシステム、金融調査といった、遅延が製品の利用方法を直接制限する分野をカバーしています。

Podium のプロダクトリード Courtland Lykins は、Ultrafast が同社のボイススタックで「スピードが複雑な作業における通話体験を完全に変えた」と述べました。金融調査向けソフトウェアを構築する Rogo は、この階層により複雑な分析がよりリアルタイムに近い感覚になったと OpenAI に伝えました。

OpenAI はインシデント対応や研究のために社内でも Ultrafast をテストしています。エンジニアは障害時のログ、トレース、議論を調べるために使用しており、研究者は従来は夜間に実行していた実験サイクルを、稼働日の間に繰り返し行えるよう圧縮しようとしていると OpenAI は述べています。

これらのユースケースが、OpenAI がまず API 経由でこの階層をリリースする理由を説明します。開発者は低遅延を前提にアプリケーションを再設計できる一方で、より速いチャット応答は主に既存のインターフェースの「感触」を変えるだけです。ボイスエージェントは間を置くことなく会話を続けやすくなり、コーディングツールは開発者が集中している間により大きな編集を返せます。インシデント対応システムは、障害が次の段階に移る前に変化する証拠を処理できます。

基盤となるモデルは引き続き GPT-5.6 Sol で、105万トークンのコンテキストウィンドウと最大128,000の出力トークンをサポートします。OpenAI は現時点で標準の Sol API 価格を、入力トークン100万あたり$5、出力トークン100万あたり$30としています。

Ultrafast の限定リリースでは容量が当面の制約になります。OpenAI は、初期の顧客が追加の速度によってどこで測定可能な価値が生まれるか、将来の製品がそれをどのように利用すべきかを判断するのに役立つと述べました。より広い配布は Cerebras の容量が OpenAI の推論スタックに入るかどうかに依存するため、この展開は特殊化ハードウェアが最先端モデルを商業規模で支えられるかどうかの初期の試験になるでしょう。

Disclosure: The author owns Cerebras stock.