Baseten 将 Carbon 代理沙箱与 NVIDIA OpenShell 一起推向预览

第四代 Blaxel runtime 增加了 microVM 隔离、专用 IPv6 地址、快照和分叉;访问正在以私有预览的方式逐步推出。

By · Published

Primary source: X

为何重要

Baseten 正在将其推理平台扩展到代理执行代码并使用工具的基础设施层面。Carbon 的私人预览展示了其对 Blaxel 的收购如何可能成为产品,同时采用、生产环境中的性能和商业条款还有待验证。

A generic server rack with neatly routed network cables represents the computing infrastructure associated with Baseten.

Baseten 在 9 月 28 日将 Carbon —— 一个建立在其收购的 Blaxel 沙箱基础设施之上的新代理执行平台 —— 置于私有预览阶段。此次发布新增对 NVIDIA 的 OpenShell 运行时的支持,后者对代理的行为实施策略约束。Baseten 的首席执行官兼联合创始人 Tuhin Srivastava (@tuhinone) 正在推广一款产品,将公司的模型服务业务扩展到 AI 代理运行代码和使用工具的环境中。Baseten 在一篇 9 月 29 日发布于 X 的帖子 中链接了该公告。

Carbon 是 Blaxel 的第四代基础设施。Baseten 表示每个沙箱都运行在微型虚拟机(microVM)中并获得一个专用的 IPv6 地址。预览版支持内核能力和运行时强制执行,以及手动快照和分叉。根据该公司的公告,沙箱可以从快照启动并在毫秒级内移向生产环境。Carbon 处于私有预览中,按地区和工作区逐步推出。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.