BOSS Zhipin 发布 3B Agent 模型，采用复用的 Transformer 堆栈
Apache-2.0 模型使用了两遍的 Looped Transformer，并在 28 万亿个标记上进行了训练，用于编码、办公和工具工作流。
By Ryan Merket · Published
Primary source: X
为何重要
BOSS Zhipin 正在利用招聘收入和内部工作流程经验来在通用代理模型领域竞争。如果 Nanbeige 的结果在其自身测试以外也成立，初创公司就能以更小得多的内存占用运行用于编码和办公的有用代理。
Nanbeige LLM Lab, 位于中国招聘平台 BOSS Zhipin 内部的 AI 研究组，于 7 月 24 日发布了一个紧凑型 agent 模型，该模型将相同的 transformer 层重复使用两次，以在不增加参数的情况下提高其有效深度。
该发布使由 Peng Zhao 创立的 BOSS Zhipin 在应用型互联网平台中处于一个不同寻常的位置。BOSS Zhipin 为招聘工作流构建了 Nanbeige，然后将该研究项目扩展为用于运行编码 agent、办公工具和个人助理的一般模型。Zhao 之前领导过竞争对手招聘平台 Zhaopin，并拥有北京大学的法学学位。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.