Dharma-AI 表示，其为特定任务构建的分词器将一个评分器的推理成本降低了77%。
在运行 Qwen3-4B 的葡萄牙语作文批改器上，Dharma-AI 报告了较低的测量成本；其 VocabX 论文仍在审查中。
By RuntimeWire Staff · Published · Updated
Primary source: Hugging Face Newsroom
为何重要
Dharma-AI 的测试表明，分词器会影响专用模型的输出长度和推理成本。77% 这一数字是公司在一项工作负载上测得的，因此更多、更广泛部署的证据将决定该结果能在多大范围内适用。
Dharma-AI 表示其 VocabX 方法在一个生产环境的葡萄牙语作文评分器上将测得的推理成本降低了 77%。该结果表明，分词器设计可以成为专用 AI 降本的一部分。联合创始人兼 CTO Elisa Mussumeci 帮助建立了一家围绕为特定行业训练模型的公司；VocabX 将这种专业化应用提前了一步，针对模型用于读写的词汇表进行优化。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.