Jeff Dean 和三位 Google 研究员推出用于自动化研究的 Discovery Loop

Google 将取得股权,并在创始团队使用 Discovery Loop 改进机器学习系统的第一年内提供计算资源。

By · Published

Primary source: Wired

Why it matters

Discovery Loop concentrates decades of Google systems and AI experience around self-improving research software, while Google's investment lets it retain exposure to work leaving its own labs.

Illustration of Jeff Dean and three Google researchers arranging interconnected knowledge nodes labeled Discovery Loop to represent automated research.

Jeff Dean (@JeffDean), Sanjay Ghemawat, Oriol Vinyals, and Quoc Le 已经离开 Google 去创办 Discovery Loop,这是一家旨在自动化提出、运行和评估实验这一重复循环的 AI 研究机构,Wired 于 8 月 5 日报道称

这些离职将四位与 Google 技术基础有着异常深厚联系的研究人员带入一家新的公益型公司。Dean 和 Ghemawat 各自在 Google 工作了近 27 年,他们的合作包括 MapReduce、Bigtable 和核心搜索基础设施。Dean 还共同创立了 Google Brain,参与设计了 TensorFlow 和 Pathways,并曾担任 Google 的首席科学家,对 Gemini 担任领导角色。Vinyals 领导过 Google DeepMind 的深度学习研究,并参与了 Gemini 和 AlphaStar 的工作。Le 作为 Google Brain 的创始成员之一,研究过神经架构搜索和 AutoML-Zero,这是一个试图从基本数学运算进化出机器学习算法的项目。

根据创始人对 Wired 的说法,Discovery Loop 在数周内便组建起来。四位创始人是长期的同事和朋友,会一起度假,最初的职责分配看起来也较为松散。当被问及谁将运营 Discovery Loop 时,Dean 告诉 Wired,“I think I'm the CEO.”

Discovery Loop 将首先在自身进行实验

Discovery Loop 的出发点是机器学习研究,而不是实体实验室。创始人计划构建能够生成可能的实验、实现测试它们所需的代码、评估结果,并利用这些结果来选择下一个实验的系统。Discovery Loop 表示,该基础设施最终可能并行运行数千个这样的循环。

第一个客户将是 Discovery Loop 自身。创始人打算将自动化循环用于改进他们自己的模型和研究工具,然后将所得软件应用到芯片设计、生物学、药物发现和材料科学等领域。

这样的顺序为创始人提供了一个受控的场所来检验这一前提。机器学习实验会产生可衡量的结果,并且通常可以完全在软件中运行,从而避免了涉及湿实验室科学的设备、材料、安全控制和漫长时间线。内部工作的成功也可能改进执行下一轮研究的系统,产生与 Discovery Loop 名称相符的复合效应。

Le 提出过该过程可能会发现 transformer 架构的替代方案的可能性。Vinyals 将想法生成视为一个核心技术问题,他在接受 Wired 采访时指出,目前的模型在提出有用的新方向方面仍然薄弱。Discovery Loop 初期预计人类与 AI 系统将共同发展想法,并以更深层次的自动化作为长期目标。

创始人在 Google 的工作并不能证明自动化实验能够可靠地产生原创性的科学发现。

Google 保持经济和计算方面的联系

Google 将持有 Discovery Loop 的股权,提供其第一年的计算资源,并继续作为云合作伙伴。

这一安排保留了一条通往该工作的回路。在一场对 AI 研究人员昂贵的竞争中,Google 失去了四位资深构建者,同时保留了股权敞口、云收入潜力和与 Discovery Loop 的技术关系。创始人则在尚未建立独立基础设施之前,获得了运行大量实验所需的计算能力。

Khosla Ventures 和 Radical Ventures 也参与了投资,另有其他公司共同出资。Radical Ventures 的管理合伙人 Jordan Jacobs 预计将加入 Discovery Loop 的董事会。

这些投资支持的是一个团队,其成员曾参与 Google 多项核心系统和 AI 项目。Dean 和 Ghemawat 帮助创建了让 Google 能够在全球规模上处理和存储信息的系统。Vinyals 和 Le 的职业生涯则致力于推进能够学习序列、玩复杂游戏并为更好机器学习方法进行搜索的模型。Discovery Loop 将这些专长围绕一个单一命题组合起来:科学工作可以被表示为可重复的计算系统并据此加速。

自动化研究已存在竞争者

Discovery Loop 进入的是一个已有工作原型和资金充足团队的领域。Sakana AI 的 AI Scientist 会生成研究想法、编写代码、运行实验、分析结果并起草论文。

Autoscience 也在构建自动化的机器学习研究工具。其他团队,包括 FutureHouseLila SciencesPeriodic Labs,也在开展 AI 辅助的科学发现或自主实验,一些团队更加重视生物学和实体实验室。

Discovery Loop 初期专注于改进机器学习系统,这使其首步不同于那些组装机器人实验室的公司。创始人押注研究自动化应该从那些实验可以廉价重复、结果可以评分、且底层工具可以自我改进的地方开始。

最艰难的技术考验将是决定哪些实验值得运行。生成代码和调度计算可以增加试验的数量。科学进展仍然依赖于有用的假设、有效的评估方法,以及对看似合理但错误结论的抵抗力。Vinyals 对想法生成的强调把这个问题纳入了 Discovery Loop 所述的研究议程之内,而不是把它视为已解决的问题。

Dean 在 7 月 25 日于 Y Combinator 的 Startup School 上向大约 6,000 名观众公开预演了这一论点,描述了一种自动化的科学方法。Discovery Loop 在那时已经成立,尽管他在台上并未公开点名。

此举符合一股更广泛的趋势,即资深 AI 研究人员转向较小的机构,以便他们能够控制研究议程和资本分配。RuntimeWire 在 8 月 5 日也报道了 Yann LeCun 加入新成立的 224 Ventures 的消息,这是另一位资深研究人员走出主导性科技公司框架的例子。

Dean 的赌注具有合适的连续性。他数十年来把困难的计算任务变成了可重用的基础设施,让成千上万的工程师能够在规模上运行。Discovery Loop 将同样的系统直觉应用到研究实践本身。创始人现在必须证明科学判断可以随周围的机器装置一起扩展。

Reader comments

Conversation for this story loads after sign-in.