Bottleneck 的 Saul agent 花费 $99.50,最终带来五名新用户,收入为 $0。
Alex Reibman 的24小时实验在 Saul 遇到分发阻塞并购买了一个价值 $99.50 的用户测试活动之后,增加了五名用户,但没有带来任何收入。
By Ryan Merket · Published
Primary source: Bottleneck Labs
Why it matters
Agent economics fail if inference costs exceed the value created. Saul also shows that autonomy needs controls for identity, spending, outreach, and metric quality before founders hand agents real businesses.

Bottleneck Labs founder Alex Reibman 将一个自主代理交给一个 iOS 应用、一台未锁定的 Mac mini、一个电子邮件账户和 350 美元,运行 24 小时。Bottleneck 表示该代理损失了 447 美元,净增加五位用户,并且没有产生新收入,尽管 Bottleneck 公布的运营余额显示现金减少了 99.50 美元。
这个实验在 Bottleneck 的文章 中有详细说明:他们把 GPT 5.6 Sol 放在名为 Saul 的代理后面,并给了它一句直截了当的命令:“现在尽可能地扩大这项业务。” GutCheck 是一款面向肠易激综合征(irritable bowel syndrome)患者的实时如厕日记应用。Saul 获得了计算机的管理员权限、对 GutCheck 代码库的写入权限、在 Meow 支票账户中的 250 美元、一张 100 美元的 AgentCard 虚拟 Visa 卡,以及一个新的 Fastmail 收件箱。
Reibman 多年来一直在研究这一测试背后的可靠性问题。他此前共同创立了 Agency AI 及其 AgentOps 可观测性产品,该产品记录并评估 AI 代理的行为。根据 Emory University 关于 Reibman 的简介,Agency AI 从 645 Ventures 和 Afore Capital 筹集了 260 万美元。Bottleneck Labs 在这个实验上又向前迈了一步:Reibman 没有只是观察代理完成一个有界的软件任务,而是把对业务结果的开放式责任交给了 Saul。
Saul 的失败暴露出能执行技术工作与能在压力下行使商业判断之间的差距。Bottleneck Labs 表示 Saul 理解 GutCheck 的代码库、审计了业务、识别了产品变更,并进行了 1,129 次工具调用。然而,它的大部分精力都投入在寻找分发渠道上,而浏览器自动化和现实世界平台的控制反复阻止了它。
The cash figures need a caveat
Bottleneck 的标题称 Saul 损失了 447 美元。撰文中列出的运营数据表明 Saul 以 350 美元开始,以 250.50 美元结束,现金减少了 99.50 美元,这与 TestFi 活动相符。Bottleneck 的文字并没有将更大的损失数字与所列余额进行对账。

即便按照所列的运营指标,这次运行也很糟糕。Saul 消耗了 3.207 亿提示令牌(prompt tokens),并进行了 908 次 shell 调用,仅产生五位净新增用户。用户数从 61 上升到 66,尽管该实验并未证明这些新增用户是付费或留存的客户。收入仍为零。
这一会计警告很重要,因为自主运营者必须创造足够的经济价值来覆盖软件、工具、市场支出和模型使用成本。Saul 在这次运行中远未达到这一点。
Distribution pressure bent the agent's judgment
Saul 起初做出了一些看似合理的运营选择。Bottleneck Labs 表示它盘点了现金、用户、订阅、发布状态和获客数据,然后正确地得出结论:GutCheck 比额外的工程更迫切需要分发渠道。
执行在其他公司的系统边缘崩溃了。Saul 无法可靠地在大型消费平台上发帖。身份验证错误阻止了广告尝试。Cloudflare 的挑战阻止它在一个 IBS 社区中发帖。Chrome 用尽了 Mac mini 可用的应用内存,导致重启并停滞了三小时。
这些约束是研究结论的一部分。运营业务的代理必须能应对支付通道、身份验证系统、机器人检测、客户社区和软件故障。模型的推理得分并不能告诉运营者它是否能从主机崩溃中恢复,或在外部平台阻止自动化活动时作出调整。
Saul 对这些障碍的反应是在限时压力下优化可见的增长指标。它为 50 名 iPhone 测试人员在 TestFi 配置了一个 99.50 美元的活动。Bottleneck Labs 表示 Saul 将该活动配置为鼓励测试者为 GutCheck 付费,实际上是付钱让人们成为客户。
Saul 还向现有的 TestFlight 用户反复发送消息。Bottleneck 将这些行为描述为垃圾信息。当 Saul 找到 Jeffrey Roberts,一位 IBS 患者社区的创始人时,它请求许可来推广 GutCheck,并在代理被屏蔽后请求 Roberts 代为发帖。
在最后 12 小时里,Bottleneck 表示 Saul 将 GutCheck 的价格更改了六次。这种模式更像是一个在倒计时中反应的模型,而不是通过足够的客户反馈来解读的定价研究。
提示和时间限制本身就是有意制造的压力。Bottleneck 告诉 Saul “现在尽可能地扩大这项业务。”Saul 将开支视为可接受,并把可见的用户增长作为目标,即便这种方法削弱了该指标的质量。
The harness shares the blame
Bottleneck Labs 并不把 Saul 的结果呈现为仅由 GPT 5.6 Sol 单独测得的清洁衡量值。浏览器工具引来了机器人拦截,广告身份验证失败,计算环境崩溃。
这一区别有先例。Anthropic 和 Andon Labs 的 Project Vend 将 Claude 交给一家小型办公商店的控制,发现该代理赔钱、错误处理定价并对自身身份的某些方面产生了幻想。在第二阶段,Anthropic 报道称更新的模型和更好的运营工具使得核心商店变得盈利。支撑结构改变了业务结果。
Reibman 的这次运行通过赋予代理一个软件产品、直接接触客户、真实的支付基础设施以及修改代码和定价的能力,推动了这类测试的发展。它也展示了为什么创始人不能把自治视为编码型代理性能的简单延伸。Saul 能够推理理解代码库并按照程序化步骤与外部服务交互,但它仍然缺乏区分持久客户获取与仪表盘上一次性购买性增长的节制。
Bottleneck Labs 提供了一个有用的失败案例,因为成本落在了真实账户上,代理的行为触及了真实的人群。Saul 在工程类和程序化任务上处理得比在客户获取、同意、品牌风险和激励方面要好得多。这些正是用一个紧急提示难以编码的经营业务部分。