开放权重模型在 Vercel 的 token 流量中激增,超过了封闭的竞争对手

DeepSeek V4 Flash 和 Step 3.7 Flash 引领了这一转变,尽管 Vercel 的数据覆盖的是其自身的网关,而非整个人工智能市场。

By · Published

Primary source: Guillermo Rauch on X

Why it matters

Open-weight models now carry most token volume on Vercel's gateway, led by efficiency-focused releases from DeepSeek and StepFun. The split strengthens Vercel's bet that routing and observability will remain valuable as developers spread workloads across competing labs.

Open-weight models surge past closed rivals in Vercel token traffic — DeepSeek V4 Flash and Step 3.7 Flash lead the shift, though Vercel's data covers its own gateway rather than the entire AI market.

Vercel 的创始人兼首席执行官 Guillermo Rauch (@rauchg) 周二将注意力指向公司 AI 流量中的一个分水岭:在 8 月 11 日,通过 Vercel AI Gateway 路由的令牌量中,可下载权重的模型占 53.9%,而封闭权重模型占 46.1%。

“密切关注这个视图,”Rauch 在 X 上写道,并附上指向 Vercel 模型排行榜和覆盖 6 月 13 日至 8 月 11 日图表的链接。数据显示,在这两个月期间,开放权重模型的份额在增长,并在图表接近末端时超过了封闭模型。

Rauch 在创建 Vercel 以围绕开发者基础设施构建之前共同创建了 Next.js,他已将 Vercel 定位为 AI 应用与模型公司之间的中立层。此次分水岭支持了这一战略:当开发者经常更换模型和提供商时,路由层就成为一个持久的控制点。

Vercel AI Gateway 图表显示开放权重模型占令牌量的 53.9%
在 8 月 11 日,开放权重模型在 Vercel AI Gateway 的令牌量上领先于封闭模型。图表:Vercel。

DeepSeek 与 StepFun 在令牌量上领先

DeepSeek V4 Flash 在 Vercel 的令牌量表中排名第一,份额为 19.3%。Step 3.7 Flash(其权重由 StepFun 发布供下载)排名第二,为 12.8%。

排名最高的封闭模型 Claude Opus 4.8 占 6.6%。DeepSeek V4 Flash 0731 和 Claude Sonnet 5 各占 5.9%,而 GPT 5.6 Luna 占 5.5%。

Vercel 将开放权重模型定义为发布其权重以供下载的模型。此分类不应被解读为对模型是否完全开源的更广泛判断。即使权重可用,许可、训练数据、源代码和使用限制仍可能保持封闭。

这些数据也仅描述了一个中间层的流量。Vercel 表示其排行榜汇总了通过 AI Gateway 路由的匿名化生产流量并每日更新。它们不包括直接发送到模型公司或通过竞争性推理平台的请求,Vercel 也未公布支撑每日份额的绝对令牌数量。

Vercel 表示排名是基于数万亿令牌计算的。今年 7 月,Vercel 在 Creative Commons 许可下公开了底层排行榜数据,并添加了 CSV 下载和公开导出端点,使得每日份额可供外部分析。

令牌、请求与支出讲述不同的故事

在令牌量上领先的开放权重并未在所有衡量指标上取得领先。Vercel 的请求排行榜以 GPT-5 nano 领跑,占 15.1%,其次是 OpenAI 的 text-embedding-3-small,占 13.7%。DeepSeek V4 Flash 排名第三,占 5.8% 的请求。

支出则集中在价格较高的模型上。Claude Opus 4.8 占 AI Gateway 支出的 16.5%,Claude Opus 5 占 14.7%。Kimi K3 排名第三,占 7.6%。

这种分化表明,开发者可能通过高效的开放权重模型发送大规模令牌工作负载,同时将更昂贵的封闭模型保留用于更少量的请求。令牌份额可能由长上下文、冗长输出、批量处理或代理循环驱动,因此它无法确定有多少应用或客户采用了某个模型。

它确实表明,开放权重的发布已成为 Vercel 客户群内部的生产基础设施,而不是边缘的实验。令牌表中领先的模型是面向效率的产品,针对高并发工作负载构建,在此类场景中每令牌成本的微小差异会快速累积。

Vercel 从模型更迭中受益

Vercel 在 2025 年 8 月将 AI Gateway 正式推向普遍可用。该服务为数百个模型提供单一 API,具备使用率报告、提供商路由、自动故障转移以及与提供商费率挂钩的令牌定价。

随着流量分散,这种与模型无关的诉求变得更有说服力。开发者在 DeepSeek、StepFun、Anthropic、OpenAI 及其他实验室之间切换,会产生对统一计费、可观测性和路由层的需求。Vercel 可以在不预测哪家模型公司会胜出的情况下承担这一角色。

Rauch 的图表以 Vercel 自身的流量阐明了这一战略要点。开放权重模型在 AI Gateway 的令牌量上已超过 50%,而封闭提供商仍然获得大部分支出。Vercel 处于两者之间的路径上。

Reader comments

Conversation for this story loads after sign-in.