CloudflareがWorkers AIとAI Gatewayを単一のコントロールプレーンに統合

Why it matters

Cloudflare is positioning AI models as replaceable infrastructure behind one API, bill and policy layer. The shipped billing changes increase its control today; automated model selection remains a promise.

Cloudflareは8月7日にWorkers AIとAI Gatewayを統合し、開発者がCloudflareホストまたは外部プロバイダでホストされたモデルに対して共通のインターフェース、課金残高、および一連のトラフィック制御を利用できるようにしました。Cloudflare Developers アカウント (@CloudflareDev)はこの変更を、CloudflareのMichelle ChenとプリンシパルプロダクトマネージャーMing Luによる技術記事とともに発表しました。

このリリースは、Cloudflareが推論スタックの異なる部分向けに構築した2つの製品を統合するものです。Workers AIはCloudflare管理のGPU上でモデルを実行します。AI Gatewayはモデルプロバイダの前段に位置し、ロギング、キャッシュ、レート制限、リトライ、セキュリティ制御、コスト追跡を処理します。開発者は現在、env.AI.run() バインディングまたはCloudflare認証を使用する共有の /ai/ RESTエンドポイントを通じて両方にアクセスできます。

Matthew Prince (@eastdakota)、Cloudflareの共同創設者兼CEOにとって、この製品統合はCloudflareを形作ったインフラ戦略の延長線上にあります。PrinceはMichelle ZatlynとLee Hollowayとともに2009年にCloudflareを創設する前にProject Honey Potを共同作成しました。Cloudflareはその後、内部で使用していたサーバーレスアーキテクチャをWorkersとして公開し、自社ネットワーク向けに開発したインフラを外部開発者向けの製品に転換しました。

One API, one wallet

最も具体的な追加は課金です。開発者は現在、Workers AIの推論だけでなくOpenAI、Anthropic、Google AI Studioを含むサポートされるサードパーティサービス向けにもプリペイド AI Gateway クレジットを使用できます。リクエストはCloudflare管理のプロバイダ資格情報にフォールバックすることができ、各プロバイダごとに別個のAPIキーやアカウント残高を保持する必要がなくなります。

その利便性には料金がかかります。Cloudflareは顧客が統合課金クレジットを購入する際に5%の手数料を適用します。プロバイダの推論価格はCloudflareのドキュメントによれば追加のトークンマークアップなしでそのまま転嫁されます。つまり、$100分のクレジットを購入する顧客には$105が請求されます。

Cloudflareはレート制限を用いて開発者を共有ウォレットへ誘導しています。3つのWorkers AI frontierモデル—Kimi K2.6、Kimi K2.7 Code、GLM-5.2—は、AI Gatewayクレジットで支払われる場合、アカウントとモデルごとに1分あたり50リクエストの制限を受けます。これは標準のWorkers AI課金下の20から引き上げられたものです。高い制限はWorkers AIカタログ全体ではなく、その3つのモデルに適用されます。

統合経路はまた、AI Gatewayの可観測性をWorkers AI呼び出しに利用可能にします。開発者はゲートウェイIDとして default を指定でき、Cloudflareは最初の認証済みリクエスト時にゲートウェイを作成します。生成されるダッシュボードはレイテンシ、エラー、トークン使用量、コストを追跡します。

Cloudflareはデフォルトでゲートウェイログに完全なプロンプトとレスポンスを保存します。機微な入力を扱う開発者は、モデル、プロバイダ、トークン数、ステータス、コスト、時間などのメタデータを保持しつつペイロードの保存を無効化できます。

Routing is the larger bet

Cloudflareの次の一手はモデル優先ルーティングです。特定のホスティングプロバイダを選択する代わりに、開発者がモデルを指定し、AI Gatewayにどこで実行するかを選ばせるというものです。Cloudflareは例としてKimi K2.7 Codeを挙げました：リクエストはWorkers AI、Moonshot AIの自社サービス、または同じウェイトを提供する別の精査済みホストのいずれかで実行され得ます。もしあるプロバイダがキャパシティ切れや障害を起こした場合、Cloudflareはアプリケーション側でフォールバックコードを必要とせずにリクエストを移動する計画です。

Cloudflareは今後数か月でモデル優先ルーティングをパイロットしたいと述べています。この機能は8月7日のリリースには含まれていません。

スマートルーティングはさらに遅れています。Cloudflareはプロンプトを検査してタスクとその複雑さを識別し、キュレーションされたプールからモデルを選択する分類器をテストしています。Cloudflareは社内テストが進行中であり、今後数週間でのリリース作業について説明しましたが、ローンチ日を示すことはしませんでした。

この区別は重要です。なぜなら、統合モデルゲートウェイは既に争われているインフラ層だからです。Vercel AI Gatewayは一つのAPI、プリペイドクレジット、可観測性、プロバイダのフォールバックを提供し、そのデフォルトルーティングは最近の稼働率やレイテンシに基づいてプロバイダを選択できます。Amazon Bedrockは同一ファミリー内のサポートされるモデル間でのインテリジェントなプロンプトルーティングを提供します。

Cloudflareの優位性は、トラフィックを制御するゲートウェイとその一部に対応できるGPUネットワークの両方を所有している点にあります。統合課金は、推論が他所で実行される場合でもCloudflareに開発者との商取引関係を与えます。モデル優先ルーティングは、Cloudflareが各リクエストをどのプロバイダに送るかを決定できるようにすることでその立場をさらに強化し得ます。課金レイヤーは現在利用可能ですが、コントロールプレーンを戦略的に置き換えにくくするルーティングシステムはまだ構築中です。