Inworld 推出以交互成本为核心的面向消费者的 AI 推理服务
该服务提供托管的开放模型、专用部署和缓存感知路由；Inworld 表示其已每月处理数十万亿个词元。
By Ryan Merket · Published
Primary source: X / Inworld AI
为何重要
Inworld 正在将为互动式 AI 角色开发的优化工作，转化为面向消费级应用的推理产品。其押注在于：重复的对话上下文和每个用户回合需要多次调用模型，会产生足够的成本和延迟压力，从而支持专门的推理服务提供商。
Inworld AI 于 2026 年 10 月 14 日向开发者开放了其 Inworld Inference 服务，出售为消费者应用调整过的基础设施，在这些应用中每次迟缓的回复和重复的提示都会增加成本。首席执行官兼联合创始人 Kylan Gibbs (@KylanGibbs)，此前在 Google DeepMind 负责大语言模型平台的产品工作，正将公司从最初专注于 AI 角色和游戏，扩展到面向消费者 AI 产品的服务层。
Gibbs 与联合创始人围绕交互式角色构建了 Inworld，在这些场景中 AI 的回复必须足够快以维持对话。该新服务将这一运行考虑扩展到更广的应用集合：陪伴、教育、社交产品和其他消费软件。其核心论点是优化单元应是完整交互，而非孤立的模型调用。Inworld 表示，单个用户轮次可能触发对安全检查、记忆、工具和最终响应的独立请求。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.