Poetiq 表示，其系统在12小时内优化了一个 LLM 路由器。
该测试使用了模拟的公司工作负载；Poetiq 表示，其定制路由器在其基准测试中在成本和准确性方面均优于 OpenRouter 和 TypeSafe 的 JEV。
By Ryan Merket · Published
Primary source: X
为何重要
Poetiq 正在推广自动化编排，作为在无需重新训练模型的情况下降低模型成本并提高准确性的一种方式。其结果由公司报告并基于模拟工作负载，因此商业上的检验在于这些收益是否能在客户的真实查询混合中成立。
Poetiq 表示其 Metasystem 在 12 小时内优化出一个定制的大型语言模型路由器，产生了一系列配置，Poetiq 称这些配置在其自身测试中击败了 OpenRouter 的 Auto Router 和 TypeSafe 的 JEV。公司称一名工程师从收集数据到最终结果在整个项目上花费了 2.5 周；这 12 小时覆盖的是系统的优化工作，而非整个项目。
https://x.com/poetiq_ai/status/2110802533577060627
来自 X 上的原始帖子 的视频。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.