AMD 收购 Taalas，将面向模型的专用硅芯片加入其 AI 推理栈

Why it matters

AMD is buying the design flow and engineering team needed to make model-specific inference chips, giving it an owned specialized engine to pair with Instinct GPUs as inference splits into distinct prompt and token-generation workloads.

AMD 周四同意收购 Taalas，这家多伦多的 AI 推理芯片制造商由前 Tenstorrent CEO Ljubisa Bajic 共同创立，此次收购将使 AMD 控制一种专门架构，该架构旨在以比通用加速器更高的速度和更低的功耗运行单个 AI 模型。

AMD 未披露购买价格或预计交割日期。根据 AMD 在 8 月 6 日的公告，该交易仍需监管批准和其他惯常的交割条件。

Lisa Su (@LisaSu) 在一条 X 帖子中将 Taalas (@taalas_inc) 描述为一个在 AI 推理前沿工作的团队。AMD 表示 Taalas 将加入由 Vamsi Boppana 领导的人工智能组织，AMD 打算将 Taalas 的技术整合到其加速器路线图和围绕 Instinct GPUs 构建的系统中。

Bajic 于 2023 年与 Drago Ignjatovic 和 Lejla Bajic 一起创办了 Taalas，此前他曾创办 AI 芯片开发商 Tenstorrent。根据 Taalas 在 2024 年的融资公告，三位创始人在 AMD、Nvidia 和 Tenstorrent 的 CPU、GPU 及 AI 处理器领域都有工作经历。此次收购将 Bajic 和一支已熟悉 AMD 硬件组织的工程师团队带回 AMD。

“我们创立 Taalas 是为了从根本上重新思考 AI 推理，通过围绕模型来构建硬件，”Bajic 在 AMD 的公告中表示。他说 AMD 将为多伦多团队提供更强的工程资源和更广泛的全球覆盖。

将模型硬连线到硅片中

Taalas 在专用化方面比传统的 AI 加速器更进一步。其设计将模型的权重和数据流直接置入硅片中，剥离了大部分可编程性，以减少内存与计算硬件之间的数据移动。

这种权衡非常严峻。为某一模型优化的 Taalas 芯片无法仅通过软件加载不同的模型。新模型需要新的芯片掩模，这使得 Taalas 依赖一种能将模型快速转换为硅片的设计流程，以跟上 AI 模型发布的速度。

Taalas 表示其自动化流程可以在大约两个月内将先前未见过的模型转化为定制硅片。该周转时间的声明是 AMD 正在购买价值的核心：若无此能力，针对特定模型的芯片可能在投入生产前就已过时。

Taalas 在二月公开演示了该方法，推出了为 Meta 的 Llama 3.1 8B 模型硬连线的芯片 HC1。Taalas 报告称，HC1 每位用户每秒可生成 17,000 个 token，同时功耗为竞争系统的十分之一。这些结果是由 Taalas 生成或编译的，而非通过一系列广泛的独立生产测试确立。

Taalas 也承认，与 GPU 基准相比，HC1 中激进混合的 3-bit 和 6-bit 参数导致了质量下降。该芯片的性能还带来另一个基本限制：HC1 只能运行 Llama 3.1 8B，而不能运行其他模型。

这些限制解释了为什么 AMD 计划将该技术与 Instinct GPUs 一同使用，而不是将其作为 GPU 的全面替代。GPU 可以处理不断变化的模型、大型提示处理工作负载和通用计算。Taalas 硅片可以被指派到推理中稳定且重复的部分，在这些部分，专用化带来的收益最大。

AMD 围绕专用推理构建

此项交易紧随 AMD 在 7 月 23 日与 Cerebras 达成的 推理合作，该合作将 AMD Helios 系统与 Cerebras 的晶圆级处理器配对。在该设计下，AMD 硬件处理提示和长上下文窗口，而 Cerebras 加速令牌生成（即解码）。

Taalas 为 AMD 提供了一种它拥有的架构，以实现类似的工作分工。EE Times 报道称，Taalas 硅片可以作为 Instinct GPUs 旁的解码加速器，使 AMD 能够提供并控制这两种计算引擎。Taalas 芯片也可以在功耗受限的边缘系统中为较小模型运行完整的推理工作负载。

此次收购发生在 Taalas 刚刚筹集到 1.69 亿美元、使其总融资达到 2.19 亿美元不到六个月之后。根据 Reuters 的报道，投资者包括 Quiet Capital、Fidelity 和 半导体投资者 Pierre Lamond。

Taalas 在二月表示，24 名员工在耗费了其募集资金中的 3,000 万美元后开发了 HC1。因此，AMD 收购的是一个精干的工程团队、其模型到硅片的工具流以及正在运行的硬件，而不是在 Taalas 证明该方法能够支撑广泛商业产品线之前就大规模扩张。

对 Bajic 来说，此次出售将任务从为重复的芯片设计融资，转变为将特定模型的硬件纳入 AMD 的 Instinct、Helios 和 ROCm 产品组合中。AMD 因此获得了一条绕过限制令牌生成的内存瓶颈的技术途径。剩下的考验是：Taalas 能否在超越单个、高度量化的模型并进入客户可大规模部署的系统时，保持其速度优势。