Inception 推出 Mercury 2.5，按其计数为每秒 1,107 个标记

三位大学教授押注并行生成可以减少编码、搜索和语音代理背后的时间和费用。

By · Published

Primary source: Inception Labs on X

为何重要

Mercury 2.5 测试扩散是否能成为高并发代理的实用服务架构，在这种场景下延迟和成本会在每次模型调用中不断累积。

Inception ships Mercury 2.5 at 1,107 tokens per second, by its count

Stefano Ermon (@StefanoErmon), Aditya Grover (@adityagrover_) and Volodymyr Kuleshov (@volokuleshov) 于 9 月 8 日推出了 Mercury 2.5，将他们的扩散语言模型研究推向面向生产的 API，Inception 表示该模型在广泛可用的 Nvidia GPU 上每秒可生成 1,107 个标记。

Inception Labs on X…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.