Botika 在 Modal 上运行一个 100 TB 的时尚 AI 堆栈，无需 Kubernetes
Eran Dagan 表示，将数据、训练以及 15 个投入生产的模型迁移到 Modal，使 Botika 能够在无需将其基础设施人员翻倍的情况下扩展研究规模。
By RuntimeWire Staff · Published
Primary source: Modal Newsroom
为何重要
Botika 展示了风险投资支持的 AI 研究人员如何通过购买云端运维来释放工程资源，并将稀缺的工程时间用于专有模型、产品质量和分发。
Botika co-founder and CEO Eran Dagan 已将这家时尚 AI 开发商几乎所有计算密集型部分迁移到 Modal 上，赌注是租用的基础设施能让一个相对较小的研究组织拥有和更大型实验室相当的运行范围。
A Modal 客户案例研究 于 9月2日 发布，详述了这一赌注的程度。根据 Modal 的说法，Botika 使用其平台处理一个 100 TB 的图像数据集，训练拥有数百亿参数的专有基础模型，并在生产中服务大约 15 个模型。这些工作负载覆盖 L4、L40S、A100 和 H100 GPU。
Dagan 报告的回报是组织层面的。他告诉 Modal，如果没有这个基础设施平台，Botika 大概需要两倍人数来运行当前的堆栈。这个估计来自出现在供应商销售文件中的客户，而不是独立的人员分析。尽管如此，它仍然反映了 Dagan 所做的选择：Botika 将工程时间指向时尚模型和产品功能，而由 Modal 处理队列、自动伸缩、冷启动和 GPU 容量。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.