Modal 推出具有群组调度和 RDMA 的无服务器 GPU 集群
Modal 正在将 Erik Bernhardsson 的池化计算平台扩展到分布式训练与推理，提供按秒计费和单个 Python 装饰器。
By RuntimeWire Staff · Published
Primary source: Modal Newsroom
为何重要
Modal 正在将其无服务器模型扩展到传统上需要协调访问昂贵且紧密互联硬件的作业。其赌注是，其调度器、池化容量和隔离层能够让分布式人工智能工作负载感觉像普通的云函数，同时并不会消除保持集群可靠性的运维要求。
Modal 在 10 月 1 日将其多节点 GPU 集群推向全面可用，为开发者提供了一种通过 Python 装饰器 请求协调 GPU 容量的方式，而无需自己搭建集群。联合创始人兼 CEO Erik Bernhardsson (@bernhardsson) 正在延续他在 Modal 开始的基础设施押注：开发者应该能够在云中运行计算密集型代码，而无需先构建和维护周边的机器设施。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.