Altman 声称 AI 成本下降速度比 Moore's law 快 20 倍

Why it matters

OpenAI is using its flagship model to optimize the infrastructure that serves it, then directing the savings toward cheaper agent workloads while preserving Sol's premium pricing.

Sam Altman (@sama) 在 7 月 31 日在放大 OpenAI 最新效率声明时表示，人工智能成本下降速度快于摩尔定律。“我看到了你的摩尔定律，我加注 20 倍，”Altman 在 OpenAI 表示 GPT-5.6 Sol 帮助将自身服务成本削减 20% 后写道。

Altman 的这句话捕捉到了 OpenAI 7月30日的公告 背后的赌注：越来越强大的模型可以降低构建和运行下一代 AI 系统的成本。披露的结果是 20% 的降低，而不是 20 倍的改善。OpenAI 还将超过 15% 的单词（token）生成效率提升归因于与 Sol 进行的实验。

OpenAI 表示 GPT-5.6 Sol 在以人为主导的工程流程中自主重写并优化了生产级 GPU 内核。OpenAI 还让 Sol 负责设计并运行数百个实验，监控训练运行，并在出现硬件故障或训练不稳定时介入。

这些是 OpenAI 的内部生产数据。OpenAI 尚未公布用于计算的服务成本基线或独立评估，这限制了与其他模型提供者效率声明的直接比较。这些数据仍然提供了一个具体示例，展示前沿模型在用于运行该模型的基础设施上执行工程工作。

OpenAI 将部分节省转移给客户

OpenAI 在披露基础设施信息的同时，对 GPT-5.6 家族中较小成员实施了大幅降价。Luna 的 API 价格下调 80%，至每百万输入 token $0.20、每百万输出 token $1.20。Terra 下调 20%，至每百万输入 token $2、每百万输出 token $12。

开发者 Nic Dunz (@nicdunz) 表示，四个月后 Luna Max 在一个基准测试上以大约十三分之一的 token 价格达到了 GPT-5.4 Full 的表现。这个狭窄的比较并不能确立在各类工作负载上的等价性，但它说明了更低价格多快就能改变一个有能力模型的经济学。另一位开发者, @signulll 回复说，降价终于让设置该 API 变得值得。

Sol 的标准 API 价格没有变化。相反，OpenAI 推出了一个 Fast mode，承诺在不更改底层模型的情况下，以两倍价格提供最多 2.5 倍于标准请求的处理速度。Fast mode 取代了 OpenAI 的 Priority Processing 选项，而已经标记为 priority processing 的现有请求将继续有效。

这些选择性的降价展示了 OpenAI 打算如何包装其效率提升。Sol 仍然是高端推理层，而大幅便宜的 Luna 成为处理常规 agent 工作、测试、分类和明确实现任务的批量模型。OpenAI 可以在保留 Sol 的溢价定价的同时，使用成本更低的模型来争夺那些开发者更关心吞吐量和单位经济性而非最大推理性能的工作负载。

OpenAI 还表示，较低的 Terra 和 Luna 价格将降低这些模型在 Codex 和 ChatGPT Work 中消耗配额的速度。订阅价格和总配额预算保持不变。对于那些将 GPT-5.6 体验为更强大模型家族但不一定获得更多总体订阅容量的开发者来说，这一区别很重要。

这些降价发生在 OpenAI 在三周前 将 GPT-5.6 普遍开放 之后。7 月 9 日发布时，OpenAI 将 Luna 定价为每百万输入 token $1、每百万输出 token $6，Terra 为 $2.50 和 $15，Sol 为 $5 和 $30。OpenAI 当时表示，内部 agentic token 的使用在此前六个月内大约增长了 22 倍，而用于内部编码推断的研究计算份额则增长了 100 倍。

这种内部增长直接创造了提高推理效率的财务激励。每一次服务成本的降低都会为 OpenAI 提供更多空间，以便在代理运行更长时间并进行更多工具调用时增加使用量、降低价格或保护利润率。OpenAI 选择将大部分这一空间花在 Luna 上，将最小的 GPT-5.6 模型重新定位为高容量部署模型。

这一时机也给销售小型和中端模型的竞争对手带来压力。Axios 报道称，更便宜的中国开源权重模型已迫使 OpenAI 和 Anthropic 为其专有产品的经济性进行辩护。OpenAI 的答案是一个分层系统，其中 Sol 处理规划和不确定性，而 Luna 执行更便宜的、重复性的步骤。

Altman 引用摩尔定律的说法指向了更大的战略主张。OpenAI 希望以软件驱动的优化与芯片和数据中心的改进一同复合增长。如果模型在人工监督下能反复降低自身的推理成本，OpenAI 就能在主要硬件世代之间改善其经济状况。眼下的结果更为有限：一项内部报告称服务成本降低了 20%，单词效率提升超过 15%，且降价集中在 OpenAI 希望开发者最常使用的模型上。