Experiential Labs 开源了一个可以从代理流量中学习的路由器
这家 Y Combinator 2026 年夏季的初创公司押注于，生产追踪可以把常规工作转移到客户拥有的更廉价模型上。
By Ryan Merket · Published
Primary source: Hacker News
为何重要
模型网关正成为企业人工智能支出的控制点。Experiential Labs 认为，拥有流量层也能产生减少对租用前沿模型依赖所需的数据。
Kion Fallah 和 Silen Naihin (@silennai) 在七月开源了一个模型路由器，该路由器使用 AI 代理的生产历史来决定哪个模型应处理每个新请求。他们更大的赌注是推理费用最终能够为其自身的替代品提供资金。
这两位创始人在构建 Experiential Labs，这是一家位于旧金山、参加 Y Combinator 2026 年夏季批次的公司。Experiential Labs 介于代理与其调用的模型之间，为托管提供商、客户自有 API 密钥、本地模型和自定义模型提供一个与 OpenAI 兼容的端点。该网关还记录评估更便宜替代方案和训练专用模型所需的 trace（痕迹）。
Fallah 是从自动驾驶领域切入这个问题的。他在 Georgia Tech 获得机器学习博士学位，此后在 Waabi 领导开发了用于测试自动驾驶汽车的混合现实仿真器。他在 Experiential Labs 的论点是将该方法引入软件代理：模拟环境，重放困难案例，并在投入生产前测试拟议的改动。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.