Nous Research 为 Hermes Agent 的语音聊天引入流式语音以提速
这个开源代理在生成答案的同时就开始说话，从而减少了让 AI 语音界面显得迟缓的沉默时间。
By Ryan Merket · Published
Primary source: X
为何重要
语音延迟既是产品问题，也是模型问题。流式传输让 Nous 在构建围绕一个开源、与供应商无关的智能代理的付费托管服务的同时，让 Hermes 感觉更快。
Ryan "Teknium" Teknium (@Teknium), a Nous Research co-founder and its head of post-training, 在 X 上写道 周三，Hermes Agent 语音聊天现在从大多数基于 API 的文本转语音后端流式传输语音，使该开源助手更接近实时对话。
该实现并不会让底层语言模型更快地产生答案。它通过在 Hermes 完成书写其响应之前就开始播放音频来减少用户听到的延迟。这一区别在语音产品中很重要，因为在提问与第一句口语之间的沉默会让一个能力很强的模型显得没有响应。
Teknium 在 2022 年帮助在 Discord 上组建了一个 AI 研究社区 Nous Research，随后该社区在 2023 年成为一家公司。根据他个人网站，他此前曾在 Stability AI 担任 LLM 数据工程师，并在 Digi AI 从事以角色为中心的语言模型工作。在 Nous，他领导过后训练、评估和部署工作，同时参与构建 Hermes 模型家族。
Hermes 如何流式传输回答…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.