Aleph Alpha 发布了一个德语 AI 模型,其 FP8 权重为 78 GB
Kolibri 拥有 781 亿个参数,每个 token 激活 34.6 亿个参数,并以 Apache 2.0 许可发布。其模型卡要求至少两块 A100 80GB GPU。
By Ryan Merket · Published
Primary source: Tejas Kumar
为何重要
Kolibri 将 Aleph Alpha 的主权主张做成了一个可下载的模型。它的大约 78 GB 的 FP8 权重占用和至少两块 A100 的最低要求显示了在本地运行它所需的硬件投入。

Aleph Alpha,这家由 Jonas Andrulis 联合创立的德国 AI 公司,根据其 发布公告,于 10 月 3 日发布了 Kolibri,公告发布时间为 UTC 上午 9:36。Hugging Face 模型卡 将 10 月 3 日列为发布日并提供权重下载。在同一天的 技术分析 中,AI 工程师 Tejas Kumar 也记录了发布日期并链接到权重。Kolibri 是一个德英混合的专家混合模型,具有 781 亿参数,每令牌激活约 34.6 亿。其模型卡估计大约 78 GB 的 FP8 权重内存,并指定至少需要两块 A100 80GB GPU。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.