Overshoot 表示其推理软件可在不降低质量的情况下使 GPU 费用减半
Zakaria El Hjouji 表示，该初创公司的部署已为 AI 团队节省了超过 500 万美元；其公开的方法侧重于针对工作负载的调优和输出检查。
By Ryan Merket · Published
Primary source: X
为何重要
Overshoot 正在销售特定于工作负载的推理调优，作为一种在不降低输出质量的情况下减少 GPU 支出的方式。它的说法对于面临服务端成本的 AI 团队可能具有重要意义，但该公司尚未将累计节省数字与具名客户关联起来，也未披露基线以显示该结果适用的广泛程度。
Zakaria El Hjouji (@zakariaornot) 表示，他的初创公司 Overshoot 通过优化推理系统为 AI 团队节省了超过 500 万美元，并正把这些部署工作转化为软件。在 10 月 15 日在 X 的一条线程 中，El Hjouji 承诺在不降低质量的情况下将 GPU 账单减半，并补充道：“zero quality loss, or you don't pay。”
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.