Kimi.ai 发布了 K3 的权重与报告,这是一款具有 1M 标记上下文的 2.8T MoE 模型

此次发布包括检查点和一篇技术论文,声称每单位计算单元的智能提高2.5倍,并具备原生视觉理解能力。

By · Published

Primary source: X

Why it matters

Open‑source release of a trillion‑scale multimodal model lets developers experiment without waiting for proprietary APIs.

Kimi.ai releases weights and report for K3, a 2.8T MoE model with 1M-token context

Kimi.ai 公开其最大模型权重

2026 年 7 月 27 日,Kimi.ai 在 X 上宣布发布其迄今为止最强大的产品 K3 的模型权重和技术报告。该帖称 K3 是一个 2.8 万亿参数的混合专家(mixture‑of‑experts,MoE)模型,支持 原生视觉理解100 万令牌的上下文窗口。帖子还强调了一种新架构,公司称该架构相比以往设计每单位算力能带来 2.5× 的智能提升。公告链接到托管于独立 URL 的技术报告 (https://t.co/Yz5uWeMbIm),并包含了一张模型示意图。

K3 模型示意图

规格在语境中的含义

MoE 架构已成为万亿参数模型的事实上的扩展策略。例如,Google 的 GLaM 展示了稀疏激活的专家可以在保持训练成本可控的同时,在各类语言基准上实现强劲表现。K3 的 2.8T 规模使其成为公开披露的最大 MoE 模型之一,超过了大多数通常低于 1T 的开源发布的参数量。

100 万令牌的上下文窗口 比当前主流商业 API(如 OpenAI 的 GPT‑4o 或 Anthropic 的 Claude)所采用的 8k–32k 令牌窗口大一个数量级。更长的上下文使得无需分块处理即可处理大规模文档、代码库或视频帧,这一能力长期以来一直是众多下游开发者的瓶颈。

原生视觉理解意味着模型可以将图像与文本一同直接输入,此前这类功能通常限于将视觉作为独立编码器处理的多模态系统。通过对视觉进行原生整合,K3 承诺实现更紧密的跨模态推理,这一说法将在社区运行发布的基准测试后得到检验。

为什么现在发布权重很重要

在此规模上开源模型的发布很少见。大多数组织将大参数权重保留在商业 API 之后,理由包括对滥用的担忧、计算成本和竞争优势。通过使 K3 可用,Kimi.ai 加入了少数选择为研究生态系统提供高容量模型的阵营——其中包括 Meta 的 LLaMA‑2 系列和 EleutherAI 的 GPT‑NeoX。

随权重一并发布的 技术报告 详细说明了“每单位计算资源 2.5× 智能提升”的说法。尽管公司在帖子中未提供正式引用,但用语暗示相对于基线密集 transformer 扩展规律的效率改进。如果得到验证,这可能会降低训练和微调大规模模型的硬件门槛,这对缺乏 petaflop 级集群的实验室而言具有重要意义。

潜在的战略动机

从发布时间点和发布性质可以推断出若干动机。首先,提供旗舰模型有助于 Kimi.ai 吸引人才并在日益拥挤的开源 AI 领域建立信誉。其次,公开权重会生成可用于展示 K3 性能的基准数据,今后可以在产品公告或许可交易中加以利用。最后,此次发布可能是对企业客户日益增长的多模态和长上下文能力需求的战术性回应,这些客户目前被迫将多个独立服务拼接在一起。

开发者接下来可以做什么

发布的检查点预计会托管在公共存储桶中(X 帖子未指明确切位置)。研究人员可以克隆代码库,复现技术报告中描述的实验,并探索面向特定领域任务的微调路径,例如法律文档分析、科学文献综述或视频字幕生成。

然而,2.8T MoE 模型的巨大规模意味着推理仍然需要大量 GPU 内存——基于类似 MoE 部署的估算显示,每次推理请求可能需要多块高带宽 GPU。实践者需要在模型能力与这些运行成本之间做权衡,这一权衡也决定了以往开源巨型模型的采用情况。

更广泛的 AI 竞赛

Kimi.ai 的举动凸显了一个更广泛的转变:随着基础模型能力趋于饱和,差异化越来越来源于效率突破和多模态整合。如果“每单位计算资源 2.5× 智能提升”的说法被证实,可能为未来的开源项目设定新基准,并影响风险投资如何评估“计算高效型”AI 创业公司。

目前,AI 社区将有一个新的大型模型可供解构、基准测试和构建。其长期影响将取决于这些技术性主张转化为现实世界性能的速度,以及开源生态是否能开发出驾驭万亿参数 MoE 系统所需的工具链。


来源: Kimi.ai X 帖子(2026 年 7 月 27 日) (Kimi.ai)。

Reader comments

Conversation for this story loads after sign-in.