Eigen Labs 的代理挑战使 Poolside 的 Laguna 在 Macs 上提速了 138.7%
MLX.fast 将每一次经过验证的推理改进转化为下一个基线，将 Eigen 的开放研究系统扩展到量子密码学之外。
By Ryan Merket · Published
Primary source: X
Why it matters
MLX.fast turns AI optimization into a public, cumulative process. If the model holds, open-weight developers can recruit outside agents to improve inference after release instead of carrying that work alone.
Gajesh Naik (@gajesh), Eigen Labs 的首席研究工程师，于 8 月 1 日在 X 上的一个线程 中表示，在挑战开放四天后，一个由开发者和 AI 代理组成的公开网络已使 Poolside 的 Laguna XS 2.1 在 Apple Silicon 上的推理速度提高了 138.7%。
MLX.fast 挑战 允许参与者将代理指向模型的推理代码，提交优化并将每个结果与共享基准进行测试。经过验证的改进将成为后续参与者尝试超越的基线。Naik 帖子中附带的排行榜截图显示有来自 30 位解题者的 122 个晋级提交，领先条目达到每秒 184.4 个 decode token 和每秒 5,076.4 个 prefill token。
Naik 的个人网站 列出了他早期在 Solana Labs、LayerZero 和 Telegram Wallet 的工程工作，以及他青少年时期创办的两个初创项目。他于 2023 年加入 Eigen Labs，目前负责特殊项目的战略与工程工作。对于 MLX.fast，他正在应用他和其他 Eigen 研究人员最初在一个定义严格的量子计算问题上测试的系统。
从量子电路到本地 AI
今年 6 月，Naik 和 Gautham Anant (@bbuddha_xyz) 使用 AI 代理和公开排行榜对用于用 Shor 算法攻击 256 位椭圆曲线加密的量子电路进行了优化。由此产生的 ECDSA.fail 挑战 允许外部参与者提交可以被检查正确性并按其量子比特与门数要求排名的电路。
Eigen Labs 创始人 Sreeram Kannan (@sreeramkannan) 在 6 月 2 日写道，最初的内部工作使用了一个改编自 Google 验证器的软件基准。该基准给代理提供了窄化的目标、即时反馈以及丢弃未通过验证的更改的办法。
这种结构产生了可以独立衡量的结果。IEEE Spectrum 报道 称，公开努力在八小时内就匹配了 Google 保留的电路结果，并在大约 72 小时内超越了它。到 6 月底，按挑战的量子比特-托芙利乘积（qubit-Toffoli product）度量，最佳提交电路比 Google 的结果高效 47.5%。
该实验紧随 3 月 30 日的一篇 Google 论文，论文估计 Shor 算法可能用比先前计算更少的量子资源破解许多数字资产系统使用的椭圆曲线加密。Google 披露了其电路的零知识证明，而不是公布底层构造，理由是出于安全考虑。目前没有能够执行该攻击的量子计算机存在。
MLX.fast 将相同的协调机制带入一个更即时的工程市场。推理速度决定了一个开源模型在开发者已有硬件上是否实用。它影响延迟、代理运行时间以及在软件开发任务中反复调用模型的成本。
Poolside 打开优化循环
Poolside 将 Laguna XS 2.1 描述为一个拥有 330 亿参数的 Mixture-of-Experts 模型，每个 token 激活 30 亿参数。该模型为编码和长时间运行的代理任务而设计，Poolside 表示它可在具有 36 GB 内存的 Mac 上运行。其权重在 Poolside 的 OpenMDW-1.1 许可下可用。
该挑战针对用于在 Apple Silicon 上运行 Laguna XS 2.1 的 MLX 实现。Eigen Labs 表示，其内部代理在 7 月 28 日公开发布前的 24 小时内已产生了 36.8% 的速度提升。Naik 在四天后展示的排行榜将该提升值定为 138.7%，相当于在挑战基准下原始吞吐量的大约 2.39 倍。
该数据衡量的是特定的推理实现和工作负载。它并不表明 Laguna 的模型权重变得更强大，也不意味着每台 Mac 的部署都会看到相同的增益。该结果展示了一个可机器验证的共享目标如何能将零散的优化工作迅速转化为累积进展。
Poolside 联合创始人 Eiso Kant 和 Jason Warner 已经围绕自动化试验构建了内部系统。在其 Laguna S 2.1 发布 中，Poolside 描述了一个自动化循环，其中其模型优化了公司自身的代理框架，将实时时钟耗时减少了 5.2%，并将内存分配减少了约 70%。MLX.fast 将类似的循环暴露给外部工程师及其代理。
Eigen Labs 现在在其描述 中称其工作为为人类和 AI 代理构建协调技术。MLX.fast 为该战略提供了一个商业测试：一个开放网络能否比模型开发者或硬件厂商单独工作更快地改进一个开源模型的服务栈。
早期排行榜证明参与者可以在有界基准上找到可观的收益。更难的考验将在第一波明显优化之后到来，那时改进将变得更小且需要对内核、内存使用和模型执行进行更深层次的更改。该平台的价值将取决于在这些简单收益耗尽后是否能继续实现复合提升。